Ein Unternehmen, das Arbeitskräfte in Fähigkeiten im Bereich der künstlichen Intelligenz schult, setzt nun selbst künstliche Intelligenz ein, um die Personen zu überwachen, die diese Schulungen durchführen. Diese Spannung steht im Mittelpunkt eines kürzlich veröffentlichten Whistleblower-Berichts von Multiverse, einem britischen Tech-Schulungsunternehmen mit einem Wert von 1,6 Milliarden Pfund, wo Lehrkräfte angeben, dass ein neu eingeführtes KI-Überwachungssystem sie um den Schlaf bringt, sie in Therapie führt und jedes Wort, das sie im Unterricht sagen, hinterfragen lässt.
Ein System, das niemals wegschaut
Bevor das neue System eintraf, wurden Multiverse-Lehrkräfte etwa einmal im Monat von einer menschlichen Führungskraft beobachtet. Jetzt analysieren KI-Modelle jeden Tag mehrere Stunden lang die Transkripte ihrer Online-Sitzungen. Die Verlagerung ist nicht nur quantitativ. Sie ist qualitativ.
Die KI weist jeder Lehrkraft einen “Risikostatus” und einen “prozentualen Konfidenzwert” zu und generiert dann schriftliche Kommentare, die Führungskräfte überprüfen können. Sie markiert spezifische Verhaltensweisen: die Verwendung von Füllwörtern wie “quasi” oder “sozusagen”, das Versäumnis, eine Unterbrechung der Verbindung innerhalb von etwa einer Minute zu beheben, vage Antworten auf Schülerfragen oder das Verwickeltwerden in einen langten Eins-zu-eins-Austausch, der den Rest der Gruppe ins Abseits stellt. Wenn sich eine Lehrkraft während des Erteilens von Anweisungen selbst korrigiert, wird diese Selbstkorrektur selbst als Beweis für mangelnde Vorbereitung gewertet, selbst wenn die Erklärung schließlich geklärt wurde.
Das System ist darauf instruiert, nach Mustern über ganze Transkripte hinweg zu suchen, nicht nach isolierten Momenten. Seine eigene Dokumentation unterscheidet zwischen gelegentlichem Relativieren, das es toleriert, und dem, was es als “durchdringendes wiederholtes Muster” bezeichnet, das es bestraft. Die Logik klingt auf dem Papier abgewogen. In der Praxis sagen Lehrkräfte, dass sie etwas hervorgebracht hat, das eher einer Lähmung gleicht. Eine Person beschrieb, dass sie sich nicht mehr auf den Lernenden vor sich konzentrieren kann, sondern stattdessen ihre eigene Sprache in Echtzeit überwacht und sich fragt, ob die KI das markieren wird, was sie gerade gesagt hat.
Die Lücke zwischen der Darstellung des Unternehmens und der Erfahrung der Beschäftigten
Die Reaktion von Multiverse auf die Kontroverse lohnt sich, genau untersucht zu werden, weil sie ein Muster veranschaulicht, das für den KI-Einsatz am Arbeitsplatz typisch ist. Das Unternehmen erklärt, dass die KI das menschliche Urteil nicht ersetzt, sondern “menschliche Zeit dorthin lenkt, wo sie am dringendsten benötigt wird.” Nur menschliche Führungskräfte verfassen formelle Leistungsbeurteilungen. Die schwerwiegendste Maßnahme, die das System ergreifen kann, ist laut einem Sprecher die Empfehlung, dass ein Mensch eine Sitzung persönlich überprüft.
Diese Darstellung positioniert die KI als Triage-Werkzeug, als Filter, der Probleme an die Oberfläche spült, damit menschliche Aufmerksamkeit effizient eingesetzt werden kann. Es ist eine vernünftige Beschreibung dessen, was die Technologie mechanisch tut. Was sie nicht anspricht, ist, wie sich die kontinuierliche automatisierte Überprüfung von innen anfühlt.
Mehrere Lehrkräfte, die anonym sprachen, beschrieben die Erfahrung als “erbarmungslos” und “verunsichernd”. Eine Person sagte, der Stress habe den Schlaf gestört. Eine andere sagte, das System lenke die Aufmerksamkeit vollständig auf das, was falsch gemacht wurde, wodurch eine mentale Umgebung der ständigen Erwartung von Versagen entsteht. Eine dritte Person beschrieb, dass sie von Führungskräften wegen vermeintlicher “Schweifungen” markiert wurde, die in Wirklichkeit Antworten auf Schülerfragen waren: Die KI hatte adaptiven Unterricht als Abweichung vom Skript missverstanden.
Es gibt auch ein Transparenzproblem. Während der Einführung erhielten Lehrkräfte keinen Zugriff auf die KI-Bewertungen ihrer eigenen Sitzungen. Führungskräfte konnten das Dashboard sehen, Lehrkräfte nicht. Das Unternehmen sagt, dass der Zugriff mit der Zeit gewährt wird. Aber die Asymmetrie während der Einführungsphase bedeutete, dass Arbeitskräfte von einem System bewertet wurden, dessen Ergebnisse sie weder sehen noch anfechten konnten.
Multiverse verwendet eine Mischung aus KI-Modellen, darunter Produkte von Anthropic und OpenAI. Das Unternehmen wurde von Euan Blair mitgegründet, der eine große Minderheitsbeteiligung hält und dessen geschätztes persönliches Nettovermögen bei 350 Millionen Pfund liegt. Das Unternehmen meldete in seinem jüngsten Geschäftsjahr einen Umsatz von 118 Millionen Pfund und Verluste von 28 Millionen Pfund. Im Februar stellte Ofsted, die britische Schulaufsichtsbehörde, fest, dass Multiverse in mehreren Bereichen die erwarteten Standards nicht erfüllte, während sie gleichzeitig die Lehrkräfte ausdrücklich als “qualifizierte, effektive Lehrkräfte” lobte.
Was dieser Fall über KI bei der Arbeit offenbart
Multiverse ist nicht allein. Burger King hat KI eingesetzt, um Kundeninteraktionen in Restaurants zu verfolgen. Meta hat ein Programm zur Überwachung von Mitarbeiter-Tastenanschlägen nach Datenschutzbedenken und internem Widerstand pausiert. Das Muster ist einheitlich: KI-Überwachungswerkzeuge werden branchenübergreifend eingeführt, oft schneller als die Rahmenwerke zur Bewältigung ihrer menschlichen Konsequenzen.
Der Fall Multiverse ist besonders prägnant wegen dem, was das Unternehmen tut. Es schult Arbeitskräfte in KI und digitalen Fähigkeiten, großteils finanziert durch die Ausbildungsabgabe der britischen Regierung, und bedient den NHS, Kommunalverwaltungen, Universitäten und Arbeitgeber aus dem privaten Sektor. Die Lehrkräfte, die Bedenken äußern, bringen selbst der Belegschaft der Zukunft bei, wie man Seite an Seite mit KI arbeitet. Die Ironie ist nicht dezent.
Was der Fall zutage fördert, ist eine Unterscheidung, die in Diskussionen über KI am Arbeitsplatz oft verloren geht. Es gibt einen Unterschied zwischen KI, die das menschliche Urteil ergänzt, und KI, die die Beschaffenheit menschlicher Beobachtung ersetzt. Eine monatliche Überprüfung durch eine Führungskräftes, die den Klassenzimmerkontext, die jeweilige Lerngruppe und die unerwartete Frage, die einen Plan entgleisen ließ, kennt, transportiert Informationen, die eine Transkriptbewertung nicht erfassen kann. Wenn die Bewertung zum primären Signal wird, geht etwas verloren, nicht nur beim Wohlbefinden der Arbeitskräfte, sondern auch in der Qualität der Bewertung selbst.
Der nationale Technikbeauftragte der Gewerkschaft Communication Workers Union forderte eine neue Regulierung, um sicherzustellen, dass KI auf sozial verantwortliche Weise eingesetzt wird. Dieser Aufruf spiegelt eine breitere Lücke wider: Die Technologie bewegt sich schneller als die Governance-Strukturen, die zu ihrer Verwaltung entworfen wurden.
Kurz gesagt
Die KI-Überwachung von Arbeitskräften ist nicht neu, aber der Fall Multiverse macht die Einsätze ungewöhnlich sichtbar. Ein System, das entwickelt wurde, um die Unterrichtsqualität zu verbessern, verschlechtert nach den Berichten der Lehrkräfte selbst die Bedingungen, unter denen guter Unterricht stattfinden kann. Das Werkzeug markiert Füllwörter und Selbstkorrekturen. Es kann nicht die Kosten dafür markieren, dass jede Lehrkraft Angst davor hat, laut mitzudenken. Diese Lücke zwischen dem, was eine KI messen kann, und dem, was tatsächlich zählt, ist die wahre Lektion hier.
Basierend auf Berichten von The Guardian - Technology.