Wissenschaftliches Wissen basiert auf einer einfachen Annahme: dass man veröffentlichten Daten vertrauen kann. Das Peer-Review-Verfahren existiert, um diese Annahme zu schützen. Doch eine wachsende Anzahl von Arbeiten legt nahe, dass das System schon lange Lecks hat, und KI-Tools machen diese Lecks nun auf eine Weise sichtbar, wie es menschliche Gutachter niemals könnten.
Eine 75 Jahre alte Datenbank und das Modell, das ihre Fehler fand
Die Geschichte beginnt mit einem Chemiker, nicht mit einem Informatiker. Sebastian Pios, theoretischer Chemiker am Zhejiang-Labor im chinesischen Hangzhou, nutzte ein KI-System, um molekulare Siedepunkte vorherzusagen – eine Routineaufgabe in der Chemie –, als das Modell Werte zu produzieren begann, die Einträgen in einer Referenzdatenbank widersprachen, die seit 75 Jahren in Gebrauch ist. Seine erste Intuition war, dem Modell zu misstrauen. Diese Intuition erwies sich als falsch.
Als Pios in die Originalquellen zurückkehrte, stellte er fest, dass die Datenbank die Fehlerquelle war, nicht die KI. Das Modell hatte effektiv einen Fehler aufgedeckt, der jahrzehntelang in einer vertrauenswürdigen Referenz geschlummert hatte. In derselben Untersuchung fand er zwei weitere Fälle: Einer war ein Tippfehler in einem älteren Paper, ein anderer ein falscher Wert aus jahrhundertealten Siedepunktsmessungen. Beide Fehler hatten sich still und leise in den wissenschaftlichen Datensatz eingeschlichen, wo sie – nach Pios’ eigener Einschätzung – Forschern, die sich auf diese Daten verlassen, erheblichen Schaden hätten zufügen können.
Das ist es, was die meiste Berichterstattung über KI in der Wissenschaft übersieht. Die Konzentration liegt meist darauf, dass KI neues Wissen generiert, Proteine entwirft, Strukturen vorhersagt oder die Wirkstoffforschung beschleunigt. Die weniger glamouröse, aber ebenso wichtige Rolle ist die Überprüfung des bereits existierenden Wissens.
Skalierung ist der echte Vorteil
Pios’ Arbeit veranschaulicht den qualitativen Wert von KI-Faktenchecks. Eine separate Studie liefert das quantitative Argument. Forscher wie James Zou, Informatiker an der Stanford University, und Federico Bianchi, Machine-Learning-Wissenschaftler bei Together AI in San Francisco, nutzten einen KI-Checker, um Paper zu durchleuchten, die auf der NeurIPS, einer der renommiertesten jährlichen KI-Forschungskonferenzen, veröffentlicht worden waren. Das Tool konzentrierte sich auf objektive Fehler: Schnitzer in Formeln, Berechnungen und Abbildungen. Subjektive Fragen zu Interpretation oder Neuartigkeit wurden bewusst weggelassen.
Die Ergebnisse waren auffällig. Die Fehler pro Paper stiegen von 3,8 im Jahr 2021 auf 5,9 im Jahr 2025 – ein Anstieg von 55 %. Das ist keine geringfügige Abweichung. Es ist ein messbarer Trend in die falsche Richtung, der nur deshalb sichtbar wird, weil ein automatisiertes Tool die Literatur in einem Maße durchforsten konnte, mit dem kein menschliches Team mithalten kann.
Zous Einordnung, warum das wichtig ist, bringt es auf den Punkt: Dies sind Paper, die das Fundament für die nächste Generation der Forschung bilden. Fehler im Fundament bleiben nicht eingedämmt. Sie pflanzen sich fort. Nachfolgestudien, die auf fehlerhaften Prämissen aufbauen, erben diese Mängel, und das Problem verstärkt sich mit der Zeit unbemerkt.
Eine separate Analyse, die von Forschern von SAI Labs durchgeführt und im Juli online gestellt wurde, wandte KI-Agenten auf 168 Paper an, die für eine mündliche Präsentation auf der International Conference on Machine Learning 2026 ausgewählt worden waren. Die Agenten extrahierten zentrale Behauptungen, luden begleitende Ressourcen herunter, führten Experimente wo möglich erneut durch und verglichen die Ergebnisse mit dem, was die Autoren berichtet hatten. Von den 92 Papern mit mindestens fünf zur Bewertung verfügbaren Behauptungen konnten die Agenten bei gerade einmal 34 Papern mehr als zwei dieser fünf Behauptungen reproduzieren. Bei lediglich acht Papern wurden mehr als 80 % der Behauptungen erfolgreich reproduziert.
Das ist eine ernüchternde Zahl, auch wenn sie mit einer wichtigen Einschränkung versehen ist: Die KI-Agenten selbst sind nicht unfehlbar. Odd Erik Gundersen, Informatiker an der Technisch-Naturwissenschaftlichen Universität Norwegens in Trondheim, merkt an, dass diese Tools Fehler auf eine Weise machen, die erkennbar menschlich ist. Die Schlussfolgerung ist nicht, dass KI-Faktenchecker die menschliche Aufsicht ersetzen sollten. Sondern dass sie diese brauchen, um überhaupt nützlich zu sein.
Was das für die Funktionsweise der Wissenschaft bedeutet
Das tieferliegende Problem hierbei ist struktureller Natur. Das Peer-Review-Verfahren wurde für eine Welt konzipiert, in der das Volumen der veröffentlichten Forschung für menschliche Leser handhabbar war. Diese Welt existiert nicht mehr. Die Zahl der jährlich veröffentlichten Paper ist so stark gewachsen, dass keine Gutachter-Gemeinschaft mehr Schritt halten kann und Fehler, die früher entdeckt worden wären, heute massenhaft durchrutschen.
KI-Tools lösen dieses Problem nicht, indem sie klüger sind als menschliche Gutachter. Sie lösen es, indem sie schneller und unermüdlicher sind. Sie können Datenbanken und Literatur in Geschwindigkeiten durchsuchen, die ein systematisches Audit zum ersten Mal praktikabel machen. Das menschliche Urteilsvermögen darüber, was zählt, was neu ist und was ein Fehler für ein Fachgebiet tatsächlich bedeutet, bleibt unersetzlich. Bianchis Designentscheidung, subjektive Einschätzungen von der NeurIPS-Studie auszuschließen, spiegelt genau diese Logik wider: KI bewältigt das Volumen, der Mensch kümmert sich um die Bedeutung.
Dies ist ein bedeutsamer Wandel in der Validierung wissenschaftlichen Wissens. Kein Ersatz für das Peer-Review, sondern eine Erweiterung desselben – eine, die in einem Maßstab operiert, für den das bestehende System nie gebaut wurde.
Kurz gefasst
KI-Tools spüren in wissenschaftlichen Datenbanken und veröffentlichten Papern Fehler auf, die jahrzehntelang – in manchen Fällen ein Jahrhundert lang – unbemerkt geblieben sind. Eine Studie zu NeurIPS-Papern ergab einen Anstieg objektiver Fehler um 55 % zwischen 2021 und 2025. Der Vorteil liegt nicht allein in der Genauigkeit: Es ist die Skalierbarkeit. Diese Tools können den wissenschaftlichen Bestand in Geschwindigkeiten auditieren, mit denen kein menschliches Team mithalten kann. Sie sind zwar nicht zuverlässig genug, um ohne menschliche Aufsicht zu arbeiten, aber gepaart mit dieser stellen sie eine neue Ebene der Qualitätskontrolle dar, die die Forschungsgemeinschaft gerade erst ernsthaft zu nutzen beginnt.
Basierend auf Berichten von Nature: Machine Learning.