Une entreprise qui forme des travailleurs aux compétences en intelligence artificielle utilise désormais l’intelligence artificielle pour surveiller les personnes qui dispensent cette formation. Cette tension est au cœur d’un récent témoignage de lanceur d’alerte provenant de Multiverse, une entreprise de formation technologique britannique évaluée à 1,6 milliard de livres sterling, où des instructeurs affirment qu’un système de surveillance par IA récemment introduit leur fait perdre le sommeil, les pousse à suivre une thérapie et leur fait remettre en question chaque mot prononcé en classe.
Un système qui ne détourne jamais le regard
Avant l’arrivée du nouveau système, les instructeurs de Multiverse étaient observés par un responsable humain environ une fois par mois. Désormais, des IA models analysent les transcriptions de leurs sessions en ligne pendant plusieurs heures chaque jour. Le changement n’est pas seulement quantitatif. Il est qualitatif.
L’IA attribue à chaque instructeur un “statut de risque” et un “pourcentage de score de confiance”, puis génère des commentaires écrits que les responsables doivent examiner. Elle signale des comportements spécifiques: l’utilisation de mots de remplissage comme “genre” ou “en quelque sorte”, l’incapacité à résoudre une perturbation de connexion en l’espace d’environ une minute, le fait de donner des réponses vagues aux questions des étudiants, ou le fait de se laisser entraîner dans un échange individuel prolongé qui met de côté le reste du groupe. Si un instructeur se corrige lui-même en donnant des consignes, cette autocorrection est elle-même considérée comme la preuve d’une mauvaise préparation, même si l’explication a fini par être clarifiée.
Le système a pour instruction de rechercher des schémas dans l’ensemble des transcriptions, et non des moments isolés. Sa propre documentation fait la distinction entre l’hésitation occasionnelle, qu’il tolère, et ce qu’il appelle un “schéma répété omniprésent”, qu’il pénalise. La logique semble mesurée sur le papier. Dans la pratique, les instructeurs affirment qu’elle a produit quelque chose qui s’apparente davantage à la paralysie. L’un d’eux a décrit ne plus être capable de se concentrer sur l’apprenant en face de lui, mais de surveiller à la place sa propre élocution en temps réel, en se demandant si l’IA va signaler ce qu’il vient de dire.
Le fossé entre le discours de l’entreprise et l’expérience des travailleurs
La réponse de Multiverse à la polémique mérite d’être examinée attentivement, car elle illustre un schéma courant dans le déploiement de l’IA sur le lieu de travail. L’entreprise déclare que l’IA ne remplace pas le jugement humain mais “oriente le temps humain là où il est le plus nécessaire”. Seuls les responsables humains rédigent des évaluations de performance formelles. L’action la plus grave que le système puisse entreprendre, selon un porte-parole, est de recommander qu’un humain examine personnellement une session.
Ce positionnement présente l’IA comme un outil de triage, un filtre qui fait surface aux problèmes afin que l’attention humaine puisse être appliquée efficacement. C’est une description raisonnable de ce que fait la technologie de manière mécanique. Ce qu’elle n’adresse pas, c’est ce que ressent de l’intérieur un examen automatisé continu.
Plusieurs instructeurs, s’exprimant sous couvert d’anonymat, ont décrit l’expérience comme “impitoyable” et “troublante”. L’un d’eux a déclaré que le stress avait perturbé son sommeil. Un autre a indiqué que le système concentre entièrement l’attention sur ce qui a été fait de travers, créant un environnement mental d’anticipation perpétuelle de l’échec. Un troisième a décrit avoir été signalé par des responsables pour de prétendues “digressions” qui étaient, en fait, des réponses à des questions d’étudiants: l’IA avait mal interprété un enseignement adaptatif comme un écart par rapport au script.
Il y a également un problème de transparence. Lors du déploiement, les instructeurs n’ont pas eu accès aux évaluations de l’IA concernant leurs propres sessions. Les responsables pouvaient voir le tableau de bord, pas les enseignants. L’entreprise affirme que l’accès sera accordé en temps voulu. Mais l’asymétrie pendant la période d’introduction signifiait que les travailleurs étaient évalués par un système dont ils ne pouvaient ni voir ni contester les résultats.
Multiverse utilise un mélange de IA models incluant des produits d’Anthropic et OpenAI. L’entreprise a été cofondée par Euan Blair, qui détient une participation minoritaire importante et dont la valeur nette personnelle est estimée à 350 millions de livres sterling. L’entreprise a déclaré un chiffre d’affaires de 118 millions de livres sterling et des pertes de 28 millions de livres sterling lors de son dernier exercice financier. En février, Ofsted, l’inspection de l’éducation britannique, a estimé que Multiverse n’avait pas atteint les normes attendues dans plusieurs domaines, tout en louant spécifiquement ses instructeurs en tant qu’enseignants “compétents et efficaces”.
Ce que ce cas révèle sur l’IA au travail
Multiverse n’est pas un cas isolé. Burger King a utilisé l’IA pour suivre les interactions avec les clients dans ses restaurants. Meta a suspendu un programme de surveillance des frappes au clavier des employés à la suite de préoccupations relatives à la protection de la vie privée et de réactions internes. Le schéma est cohérent: des outils de surveillance par IA sont introduits dans tous les secteurs, souvent plus rapidement que les cadres permettant de gérer leurs conséquences humaines.
Le cas de Multiverse est particulièrement marquant en raison de l’activité de l’entreprise. Elle forme des travailleurs aux compétences numériques et en IA, financée en grande partie par la taxe d’apprentissage du gouvernement britannique, au service du NHS, des conseils locaux, des universités et des employeurs du secteur privé. Les instructeurs qui soulèvent des inquiétudes enseignent eux-mêmes à la main-d’œuvre du futur comment travailler aux côtés de l’IA. L’ironie n’est pas subtile.
Ce que le cas met en lumière est une distinction qui se perd souvent dans les discussions sur l’IA au lieu de travail. Il y a une différence entre une IA qui augmente le jugement humain et une IA qui se substitue à la texture de l’observation humaine. Une évaluation mensuelle par un responsable qui connaît le contexte de la classe, le groupe d’apprenants particulier, la question inattendue qui a fait dérailler un plan, véhicule des informations qu’un score de transcription ne peut pas capturer. Lorsque le score devient le signal principal, quelque chose est perdu, non seulement dans le bien-être des travailleurs, mais aussi dans la qualité de l’évaluation elle-même.
Le responsable national de la technologie du syndicat Communication Workers Union a appelé à une nouvelle réglementation pour garantir que l’IA est déployée de manière socialement responsable. Cet appel reflète un fossé plus large: la technologie évolue plus vite que les structures de gouvernance conçues pour la gérer.
En bref
La surveillance des travailleurs par l’IA n’est pas nouvelle, mais le cas de Multiverse rend les enjeux exceptionnellement visibles. Un système conçu pour améliorer la qualité de l’enseignement est, de l’avis des enseignants eux-mêmes, en train de dégrader les conditions dans lesquelles un bon enseignement peut avoir lieu. L’outil signale les mots de remplissage et les autocorrections. Il ne peut pas signaler le coût de rendre chaque instructeur craintif à l’idée de penser à haute voix. Ce fossé entre ce qu’une IA peut mesurer et ce qui importe réellement est la vraie leçon ici.
D’après un reportage de The Guardian - Technology.