Des enseignants de Multiverse signalent un stress accru après l’évaluation de leurs cours par une IA

Des enseignants de Multiverse, une entreprise britannique de formation technologique, disent qu’un nouveau système de surveillance par IA leur donne le sentiment d’être observés en permanence et leur cause un stress important. Selon The Guardian, le système analyse les transcriptions des cours en ligne, attribue aux formateurs un niveau de risque et un indice de confiance, puis alerte des responsables humains lorsqu’il détecte de possibles problèmes de performance.

Ce que le système mesure

L’agent examine plusieurs heures d’enseignement, alors que les responsables humains réalisaient auparavant des observations mensuelles. Il peut signaler une réponse trop lente à un problème de connexion, l’usage fréquent de mots de remplissage, des réponses vagues ou hésitantes, le silence des apprenants, des échanges individuels prolongés ou une confusion apparente lors de l’explication d’un exercice. Ses consignes lui demandent d’évaluer des tendances récurrentes dans l’ensemble d’une transcription plutôt que des mots isolés. Des enseignants affirment toutefois que des responsables les ont interpellés pour de prétendues digressions qui correspondaient en réalité à des réponses apportées aux apprenants.

Une surveillance qui modifie le travail

Plusieurs formateurs ont déclaré à The Guardian que le système les pousse à éviter une mauvaise évaluation plutôt qu’à écouter les étudiants et à adapter leur enseignement. Ils décrivent de l’anxiété, des nuits perturbées et, dans certains cas, le recours à une thérapie. Selon un témoignage anonyme, le personnel ne pouvait pas consulter l’analyse du système lors de son déploiement, tandis que les responsables avaient accès à des tableaux de bord présentant l’évaluation de l’IA. Multiverse a indiqué que les employés pourraient accéder aux données recueillies.

Les responsables humains restent décisionnaires

Multiverse affirme que l’outil doit orienter l’attention des responsables et non remplacer leur jugement. L’entreprise précise que seuls des responsables humains rédigent les évaluations de performance et que l’action la plus importante que l’agent puisse entreprendre consiste à recommander qu’un responsable humain examine personnellement une séance. Elle assure également que le déploiement a été annoncé à l’avance et présente le système comme un moyen d’améliorer l’expérience des apprenants et des clients. L’entreprise n’a pas répondu directement aux témoignages faisant état de stress et d’anxiété chez les enseignants.

Un conflit qui dépasse Multiverse

Multiverse dispense des formations aux compétences informatiques et à l’IA à des salariés du NHS, des collectivités locales, des universités et d’entreprises privées, une grande partie de cette activité étant financée par la taxe d’apprentissage du gouvernement. Son recours à une surveillance automatisée alimente les inquiétudes plus larges concernant l’évaluation des comportements professionnels par l’IA, notamment lorsque le jugement humain est réduit à des signaux lisibles par une machine. Le Communication Workers Union estime que ces systèmes peuvent affaiblir la confiance des travailleurs et intensifier le travail au lieu de l’alléger, tout en demandant des règles plus strictes pour encadrer l’IA au travail.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: Teachers at Euan Blair firm report ‘horrendous stress’ after AI used to rate their work