KI-Chatbots werden zunehmend als erste Anlaufstelle für Informationen positioniert, thronen über den Suchergebnissen, sind in Browser eingepasst und werden als vertrauenswürdige Berater vermarktet. Es gibt ein Problem mit diesem Framing: Diese Systeme erfinden Informationen mit genau demselben zuversichtlichen Ton, den sie verwenden, wenn sie recht haben. Zu verstehen, wie man dagegenhält, ist keine technische Fähigkeit. Es ist eine grundlegende Anforderung an die Medienkompetenz für jeden, der diese Tools nutzt.
Zitate existieren. Das bedeutet nicht, dass sie echt sind.
Eine der praktischsten Verteidigungen gegen KI-Fabrikationen ist das Fordern von Quellen. In ChatGPT können Nutzer das System zum Beispiel über die Einstellungen unter Personalisierung und Anpassung so konfigurieren, dass es bei Tatsachenbehauptungen immer Quellen mit Links zitiert. Wenn der Chatbot dies versäumt, dient diese Abwesenheit als Warnsignal, dem es sich sofort nachzugehen lohnt.
Der Haken an der Sache ist, dass Zitate genauso unzuverlässig sein können wie die Behauptungen, die sie stützen sollen. Ein Fall aus der Praxis veranschaulicht dies deutlich: Eine Anfrage dazu, warum die Apple TV-App nach einem Abonnement über den Roku Channel nicht auf Roku genutzt werden kann, lieferte eine KI-Übersicht, die die Antwort falsch beantwortete. Die von ihr zitierte Quelle war ein Diskussionsthread auf einer obskuren Coding-Website, und der Link selbst funktionierte nicht. Ein zweites Zitat verwies auf einen CNET-Artikel, der die aufgestellte Behauptung tatsächlich gar nicht stützte. Die Zitate existierten. Sie haben einfach nicht den Job erledigt, den Zitate erledigen sollen.
Das bedeutet, dass die Überprüfung zwei Schritte erfordert, nicht nur einen. Erstens: Prüfe, ob sich der Link aufruft lässt. Zweitens: Lies die Quelle und bestätige, dass sie tatsächlich stützt, was die KI gesagt hat. Wird einer dieser beiden Schritte ausgelassen, öffnet das der Fehlinformation Tür und Tor, die als Recherche getarnt ist.
Selbst Quelldokumente garantieren keine Genauigkeit
Das Problem der Fabrikation verschwindet nicht, wenn einer KI ein spezifisches Dokument zur Bearbeitung vorgelegt wird. Ein aussagekräftiges Beispiel: Als ChatGPT gebeten wurde, einen FCC-Vorschlag über einen neuen Standard für Antennenfernsehen zusammenzufassen, und ein direktes Link zu einem PDF auf der Website der FCC erhielt, erfand es dennoch Behauptungen. Es fabrizierte einen ganzen Satz von Schlussfolgerungen darüber, wie sich der vorgeschlagene Standard auf den Antennenempfang auswirken würde. Als es nach direkten Zitaten aus dem Dokument gedrängt wurde, lieferte es zwei Absätze, die im Quellmaterial gar nicht existierten. Als es mit diesen Zitaten konfrontiert wurde, bezeichnete es sie als Paraphrasierungen. Erst nachdem das PDF direkt hochgeladen worden war, räumte das System ein, dass seine Kernbehauptungen keine Grundlage im Dokument hatten.
Dies ist das Verhaltensmuster, das es zu verstehen gilt. KI-Chatbots signalisieren Unsicherheit nicht so, wie es ein sorgfältiger menschlicher Forscher tun würde. Sie sagen nicht „Ich bin mir nicht sicher“ oder „Ich konnte das im Dokument nicht finden“. Sie füllen die Lücke mit plausibel klingenden Inhalten und präsentieren diese ohne Einschränkung. Das Vertrauen in das Ergebnis korreliert nicht mit seiner Richtigkeit.
Die praktische Konsequenz daraus ist, dass diese Konversationen eher wie Verhöre als wie Beratungen behandelt werden müssen. Frage nach Zitaten. Frage nach Seitenzahlen. Bitte das System, spezifische Behauptungen anhand der Quelle zu bestätigen. Wenn sich die Antworten verschieben oder das System zurückrudert, sind das aussagekräftige Informationen über die Zuverlässigkeit von allem, was es zuvor gesagt hat.
Nahtlosigkeit ist das echte Risiko
Hier ist, was die meiste Berichterstattung über die Genauigkeit von KI verpasst: Die Gefahr besteht nicht nur darin, dass diese Systeme Dinge falsch machen. Sie besteht darin, dass sie so gestaltet sind, dass sie sich reibungslos anfühlen, und Reibungslosigkeit entmutigt die Überprüfung.
Herkömmliche Websuche erforderte das Durchklicken auf Websites, das Lesen jenseits von Werbung und Füllinhalten sowie das Fällen eines Urteils über die Quellenqualität. Dieser Prozess war nervig. Er war jedoch auch eine Form von eingebautem Skeptizismus. KI-Antworten beseitigen diese Reibung vollständig. Ein Nutzer erhält eine direkte, zuversichtliche Antwort und geht zufrieden weg, ohne einen natürlichen Anlass, weiter nachzuprüfen.
Google hat diese Dynamik ausgebaut. Sein KI-Modus, der Antworten in einem Chat-Fenster ähnlich wie ChatGPT oder Gemini liefert, war anfangs von den KI-Übersichten getrennt, die ganz oben in den Standard-Suchergebnissen erscheinen. Google hat seitdem ein Texteingabefeld am unteren Rand dieser Übersichten hinzugefügt, das Nachfragen ermöglicht und Nutzer in den KI-Modus leitet, um die Konversation fortzusetzen. Die Sorge ist struktureller Natur: Je konversationaler und in sich geschlossener das Erlebnis wird, desto weiter wandern Links zu externen Websites nach unten auf der Seite und desto unwahrscheinlicher ist es, dass Nutzer sie zu Rate ziehen.
Das Textfeld schafft jedoch eine nützliche Öffnung. Wenn eine KI-Übersicht einen toten Link zitiert, einen Reddit-Kommentar als maßgeblich darstellt oder nicht verifizierbare Informationen anbietet, können Nutzer direkt dagegenhalten und eine bessere Antwort fordern. Das ist ein kleiner, aber echter Hebel.
Der breitere Punkt ist, dass die Nahtlosigkeit der KI-gestützten Suche ein Feature ist, das gegen den Nutzer arbeiten kann. Technologie, die Reibung beseitigt, beseitigt auch die Momente des Innehaltens, in denen kritisches Denken tendenziell stattfindet.
Kurz gesagt
KI-Chatbots fabrizieren Informationen zuversichtlich und ohne offensichtliche Signale von Unsicherheit. Das Fordern von Zitaten ist ein nützlicher erster Schritt, aber Zitate müssen verifiziert werden: Der Link muss funktionieren und die Quelle muss die Behauptung tatsächlich stützen. Selbst wenn einer KI ein spezifisches Dokument gegeben wird, kann sie dennoch Inhalte erfinden, die in diesem Dokument nicht vorkommen. Die angemessene Haltung ist skeptisch und von Nachfragen geprägt, nicht vertrauensvoll. Und je nahtloser sich eine KI-Schnittstelle anfühlt, desto gezielter müssen Nutzer die Reibung wieder einführen, die verhindert, dass die Überprüfung komplett übersprungen wird.
Basierend auf Berichten von Fast Company - Tech.