The Brief
KI im Alltag 4 Min. Lesezeit

Arbeitsgerichtsverfahren steigen um 39%: Die versteckten Kosten von KI für öffentliche Systeme

NAVION

Teilen

Das Versprechen war unkompliziert: KI sollte Regierungen helfen, mit weniger Aufwand mehr zu erreichen, bürokratische Rückstände abzubauen und öffentliche Gelder zu sparen. Was stattdessen zum Vorschein kommt, ist ein komplizierteres Bild. KI wird nicht nur von Institutionen eingesetzt, um Dienste zu optimieren, sondern auch von der Öffentlichkeit genutzt, um mit diesen Institutionen in einem Ausmaß und einer Geschwindigkeit zu interagieren, für die die Systeme niemals ausgelegt waren.

Die Flut, die niemand geplant hat

Die Analogie, die dies am besten erklärt, ist E-Mail. Als die elektronische Post eingeführt wurde, galt sie als ein Werkzeug, das unnötige Meetings überflüssig machen und administrative Reibungsverluste verringern würde. Was sie tatsächlich tat, war, die Kosten für das Senden von Nachrichten auf nahe Null zu senken, was bedeutete, dass die Leute viel mehr davon verschickten, und die auf der einen Seite eingesparte Zeit wurde auf der anderen Seite für die Bewältigung der Flut aufgewendet.

KI folgt demselben Muster, nur schneller und in größerem Maßstab. Der ehemalige Beamte Sam Freedman hat beobachtet, dass Regierungen auf der ganzen Welt seit der weitreichenden Einführung von Tools wie ChatGPT ungewöhnliche Anstiege bei Beschwerden, Anfragen und Antworten an Regulierungs- und Behördenstellen verzeichnen. Die Reibung, die einst Kommunikation mit geringem Aufwand herausfilterte, wurde beseitigt. Was bleibt, ist Masse.

Dies ist kein Randphänomen. Die Fälle vor Arbeitsgerichten in England, Schottland und Wales stiegen Berichten zufolge in einem einzigen Jahr um 39%, wobei die KI-gestützte Erstellung von Klagen als ein mitverursachender Faktor genannt wurde. Gerichte bearbeiten nun Eingaben von Einzelpersonen, die sich keine juristische Vertretung leisten können, aber KI nutzen, um Argumente zu konstruieren, wobei sie manchmal juristische Präzedenzfälle zitieren, die nicht existieren. Jede dieser Eingaben erfordert nach wie vor einen Menschen, der sie liest, bewertet und entwirrt, da ein fehlerhaftes Argument im Kern dennoch eine berechtigte Beschwerde enthalten kann.

Wo sich der Rückstand tatsächlich aufbaut

Der Druck beschränkt sich nicht nur auf Gerichte. Spezielle Berater von Whitehall haben beschrieben, wie Regierungsabteilungen von KI-generierten Anfragen zur Informationsfreiheit überlastet werden. Abgeordnete berichten, dass ihre Büros KI-generierte Bürgerbriefe in Mengen erhalten, die eine menschliche Überprüfung erfordern, da das Ignorieren auch nur eines einzigen Briefes das Risiko birgt, etwas wirklich Wichtiges zu verpassen.

Öffentliche Konsultationen, die dazu dienen sollen, zu messen, was die Bürger tatsächlich über vorgeschlagene Gesetzesänderungen denken, stehen vor einer Version desselben Problems. Wenn die einströmenden Antworten maschinell statt von Menschen verfasst sind, verliert die Konsultation ihre Funktion als demokratisches Signal. Die Grenze zwischen der Erleichterung der bürgerschaftlichen Teilhabe und einer so reibungslosen Gestaltung, dass sie bedeutungslos wird, erweist sich als dünner als erwartet.

Der Arbeitsmarkt bietet ein weiteres Beispiel. Arbeitgeber, die KI-Tools zur Durchsuchung von Bewerbungen in großem Maßstab einsetzten, stellten fest, dass Bewerber darauf reagierten, indem sie ihre eigene Seite des Prozesses automatisierten und eine große Anzahl von Bewerbungen statt gezielter einreichten. Das Ergebnis ist, dass keine der beiden Parteien effizient eine echte Übereinstimmung identifizieren kann. Eine von einer Seite genutzte Abkürzung führte zu einer Gegenabkürzung auf der anderen Seite, und der Nettoeffekt ist mehr Lärm für alle.

Was dies über die Funktionsweise von Effizienz verrät

Hier ist, was die meiste Berichterstattung über KI in der Regierung tendenziell übersieht: Effizienzgewinne sind keine permanenten Eigenschaften einer Technologie. Sie stehen in Relation zum Kontext, und der Kontext ändert sich, wenn sich die Einführung ausbreitet.

Der Artikel zieht einen nützlichen Vergleich zum Stadtverkehr. Autos haben die Reisezeit im Vergleich zu Pferden drastisch verkürzt. Doch als der Autobesitz weit verbreitet war, schrumpften Städte zu Stoßzeiten auf Schrittgeschwindigkeit zusammen. Bis 2018 bewegte sich der Verkehr im Zentrum von London tagsüber mit knapp 7 Meilen pro Stunde, was in etwa der Geschwindigkeit eines trabenden Ponys entspricht. Die Technologie, die die Fortbewegung beschleunigen sollte, reproduzierte unter den Bedingungen einer Massenverbreitung am Ende dieselben Einschränkungen, die sie lösen sollte.

Agentic AI, die nächste Welle von Tools, die darauf ausgelegt sind, autonom im Namen eines Benutzers zu handeln, birgt dasselbe Risiko. Frühzeitige Anwender sparen möglicherweise tatsächlich Zeit und reduzieren Reibungsverluste. Wenn die Einführung jedoch das Ausmaß erreicht, das große Technologieunternehmen prognostizieren, werden diese Abkürzungen zur neuen Ausgangsbasis. Jeder nutzt sie, was bedeutet, dass niemand einen relativen Vorteil erlangt, und die Systeme am empfangenden Ende stehen vor einem Mengenproblem, für dessen Bewältigung sie nicht gebaut wurden.

Dies ist wichtig dafür, wie Institutionen, Unternehmen und Einzelpersonen über KI-Investitionen denken. Zeit, die in einem Teil eines Systems gespart wird, neigt dazu, anderswo als Kosten wieder aufzutauchen. Eine Regierungsbehörde, die KI nutzt, um Anfragen schneller zu bearbeiten, stellt möglicherweise fest, dass die Zahl der Anfragen noch schneller gewachsen ist. Die Effizienz ist real, aber partiell, und die vollständige Bilanz erfordert die Betrachtung des gesamten Systems, nicht nur des optimierten Knotens.

Historisch gesehen haben Gesellschaften Mechanismen entwickelt, um Reibung dort wieder einzuführen, wo sie zu aggressiv entfernt wurde: Spam-Filter für E-Mails, City-Maut für Innenstädte. Die Frage für KI lautet, wie die äquivalenten Interventionen aussehen werden und wie lange es dauern wird, sie zu entwickeln.

Kurz gesagt

KI ist nicht einfach ein Werkzeug, das Institutionen einsetzen. Sie ist ein Werkzeug, das jeder gleichzeitig einsetzt, einschließlich der Menschen, denen diese Institutionen dienen sollen. Wenn beide Seiten einer Interaktion gleichzeitig automatisieren, heben sich die Effizienzgewinne auf und das Mengenproblem verschärft sich. Der Anstieg der Arbeitsgerichtsverfahren um 39% ist keine Anomalie. Er ist ein frühes Signal dafür, was passiert, wenn Reibung aus Systemen verschwindet, die darauf angewiesen waren, um zu funktionieren.

Basierend auf Berichten von The Guardian.

Geschrieben von

NAVION