Ein kanadischer Abgeordneter hielt vor Kurzem eine Rede im Parlament, die etwas enthielt, das in keiner Rede vorkommen sollte: eine Anweisung eines KI-Sprachmodells, die sich selbst anleitete, wie sie ihre eigene Ausgabe umschreiben sollte. Der Moment war unangenehm, öffentlich und verbreitete sich schnell. Er sagt aber auch etwas Grundlegendes darüber aus, wie Fachkräfte KI-Tools nutzen – und was passiert, wenn diese Nutzung vor aller Augen schiefgeht.
Eine Prompt-Anweisung als politische Rede vorgetragen
Bill Oliver, Mitglied der Legislative Assembly von New Brunswick und Vertreter der Progressive Conservative Party, sprach über Advocacy Offices und die Lücke zwischen den Erwartungen der Bürger und den tatsächlichen Befugnissen dieser Stellen. Der Inhalt der Rede war unauffällig. Was folgte, war es nicht.
Nachdem er einen Satz über die Gefahren von Advocacy Offices vorgetragen hatte, las Oliver laut vor, was offenbar eine Meta-Anweisung eines Large Language Model war: eine Formulierung, die darauf hinwies, dass das Folgende „eine natürlichere, flüssigere Version“ eines Abschnitts sei, umgeschrieben, um wie eine parlamentarische Rede zu klingen und nicht wie eine Liste von Stichpunkten. Dies ist die Art von Text, die ein LLM erzeugt, wenn es einen überarbeiteten Entwurf zusammen mit einer Erklärung liefert, was es warum geändert hat. Dieser Text ist nicht zum Vorlesen gedacht. Er ist ein Gerüst, kein Inhalt.
Die Rede blieb zum Zeitpunkt ihres Vortrags weitgehend unbemerkt. Erst als Videos auf Plattformen wie Reddit und Threads zu zirkulieren begannen, erlangte der Moment größere Aufmerksamkeit. Kanadische Medien wie CBC und The Toronto Star griffen die Geschichte auf, und der Vorfall gelangte in die breite öffentliche Diskussion.
Ein Muster über Berufsgruppen hinweg
Oliver ist nicht der erste Politiker, der eine von jemand anderem geschriebene Rede hält, und mit ziemlicher Sicherheit nicht der erste, der beim Entwurfsprozess ein KI-Tool nutzt. Was diesen Fall besonders macht, ist die spezifische Natur des Fehlers: kein halluzinierter Fakt, keine ungeschickte Formulierung, sondern eine uneditierte LLM-Ausgabeanweisung, die laut vorgelesen wurde, als wäre sie Teil der Rede selbst. Die Schlussfolgerung ist, dass der Text verwendet wurde, ohne vor dem Vortrag vollständig gelesen oder verstanden worden zu sein.
Diese Art von Bloßstellung gibt es nicht nur in der Politik. Anwälte, Autoren, Journalisten und Wissenschaftler gerieten alle bereits unter Beobachtung, wenn ihre Nutzung von Sprachmodellen sichtbar wurde – typischerweise, weil halluzinierte Fehler in Arbeiten auftauchten, die als von Menschen verfasst präsentiert wurden. Der gemeinsame Nenner ist nicht die Nutzung von KI an sich, sondern das Fehlen einer angemessenen Überprüfung, bevor die Arbeit an die Öffentlichkeit gelangte.
Eine im Quellmaterial zitierte Studie der Duke University ergab, dass Beschäftigte dazu neigen, ihre KI-Nutzung zu verheimlichen – teils weil Kollegen KI-gestützte Arbeit als „faul“ oder als Zeichen dafür wahrnehmen, dass die betreffende Person „ersetzbar“ ist. Dieses Ergebnis hilft zu erklären, warum die Offenlegung meist versehentlich statt durch transparente Angabe erfolgt. Die Menschen kündigen die Nutzung dieser Tools nicht an. Sie hoffen, dass es niemand bemerkt.
Was die Peinlichkeit wirklich offenbart
Der Reflex, diese Geschichte als einfaches Mahnmal für Unachtsamkeit abzutun, ist verständlich, übersieht jedoch den strukturellen Kern der Sache. Das Problem ist nicht, dass Oliver ein KI-Tool genutzt hat, um eine Rede mitzuverfassen. Politiker, Führungskräfte und Experten aller Art haben sich schon immer auf Mitarbeiter, Redenschreiber und Berater verlassen, um ihre öffentliche Kommunikation vorzubereiten. Die Inanspruchnahme von Hilfe ist nicht das Problem.
Das Problem ist das Fehlen einer Kontrollinstanz zwischen der Ausgabe des Tools und den offiziellen Protokollen. Ein LLM weiß nicht, wann es im Parlament laut vorgelesen wird. Es unterscheidet nicht zwischen dem Text, der in eine Rede gehört, und dem Meta-Kommentar, den es über diesen Text generiert. Diese Unterscheidung liegt in menschlicher Verantwortung, und dieser Verantwortung wurde in diesem Fall nicht nachgekommen.
Das ist es, was in den meisten Berichten über KI-Pannen oft zu kurz kommt: Die Technologie versagt in diesen Momenten nicht. Der Arbeitsablauf versagt. Das Modell hat ein Ergebnis geliefert, das sowohl einen überarbeiteten Entwurf als auch eine Erklärung der Überarbeitung enthielt – genau das, wofür solche Modelle entwickelt wurden. Der Fehler lag darin, diese Ausgabe als fertig zu behandeln, ohne sie aufmerksam genug zu lesen, um zu erkennen, was Gerüst und was Inhalt war.
The Toronto Star ordnete den Vorfall als Zeichen einer wachsenden Kluft ein: zwischen denen, die ihre Aufgaben an KI delegieren, und denen, die eine solche Delegation für verwerflich halten. Diese Sichtweise trifft einen wunden Punkt. Je stärker KI-Tools in berufliche Arbeitsabläufe integriert werden, desto wesentlicher – nicht unwesentlicher – wird die Frage, an welcher Stelle das menschliche Urteilsvermögen wieder ansetzt. Die Tools können Umfang, Geschwindigkeit und Entwurf übernehmen. Sie können keine Verantwortung übernehmen. Dieser Teil bleibt bei der Person, die die Rede hält.
Kurz gesagt
Ein kanadischer Abgeordneter las während einer Parlamentsrede die Prompt-Anweisung eines LLM laut vor – offenbar ohne zu bemerken, dass sie dort stand. Der Vorfall verbreitete sich in den sozialen Medien und rief Berichte in den Hauptmedien hervor. Er ist ein Beispiel für ein breiteres Muster: Anwälte, Journalisten, Wissenschaftler und andere gerieten in ähnlicher Weise in die Kritik, als KI-generierte Inhalte ohne ausreichende Überprüfung veröffentlicht wurden. Eine Studie der Duke University ergab, dass Beschäftigte dazu neigen, ihre KI-Nutzung zu verheimlichen, weil Kollegen dies als Zeichen von Faulheit oder Ersetzbarkeit sehen. Die eigentliche Lehre ist nicht, dass KI-Tools für Peinlichkeiten sorgen. Sie lautet vielmehr, dass jeder Arbeitsablauf, der diese Tools nutzt, einen menschlichen Überprüfungsschritt erfordert, bevor das Ergebnis an die Öffentlichkeit gelangt – und dieser Schritt darf nicht übersprungen werden.
Basierend auf Berichten von Ars Technica.