Generative KI ist mittlerweile fest in den täglichen Arbeitsablauf der wissenschaftlichen Forschung integriert. Forschende nutzen sie, um Literatur zu durchsuchen und zusammenzufassen, Ideen zu generieren, Antworten auf Peer-Reviewer zu verfassen und den Stil geschriebener Texte zu verfeinern. Das ist längst keine Randerscheinung mehr. Es wirft eine Frage auf, die die wissenschaftliche Gemeinschaft noch nicht klar beantwortet hat, nämlich was Autorschaft eigentlich bedeutet, wenn der intellektuelle Output eines Forschenden teilweise von einem KI-System stammt.
Robert Braun, leitender Forscher am Institut für Höhere Studien in Wien, argumentiert in Nature, dass diese Frage tiefer geht, als es zunächst den Anschein hat. Es geht dabei nicht einfach nur um Anerkennung. Es geht um Rechenschaftspflicht, Vertrauen und die gesamte Infrastruktur, durch die Wissenschaft validiert wird.
Autorschaft war schon immer eine soziale Konstruktion, kein Naturrecht
Einer der aufschlussreichsten Punkte in Brauns Analyse ist historischer Natur. Autorschaft in der Wissenschaft war nie eine feste oder offensichtliche Kategorie. Sie wurde durch Konventionen, Institutionen und Praktiken aufgebaut, die sich im Laufe der Zeit entwickelt haben. Die Autorität von Isaac Newton als Gelehrter stützte sich zum Beispiel nicht nur auf seine Entdeckungen, sondern auch auf seine Fähigkeit, sich in Institutionen wie der Royal Society und den Publikationsnormen seiner Ära zu bewegen. Die Regeln für wissenschaftliche Anerkennung wurden schon immer durch die verfügbaren Werkzeuge und sozialen Strukturen geprägt.
Das ist wichtig, weil es die aktuelle Debatte in einen neuen Rahmen stellt. Die Ankunft der generativen KI ist nicht das erste Mal, dass Technologie die Vergabe von Autorschaft durcheinanderwirbelt. Aber sie ist vielleicht die strukturell disruptivste, da KI in keine bestehende Kategorie von Mitwirkenden passt.
Ein Doktorand oder wissenschaftlicher Mitarbeiter, der beim Schreiben eines Papiers hilft, kann erklären, was er getan hat, auf Kritik reagieren, aus Korrekturen lernen und für Fehler zur Rechenschaft gezogen werden. Ein generatives KI-System kann all das nicht. Es kann seine Ergebnisse nicht rechtfertigen, keine Verantwortung für Ungenauigkeiten übernehmen und bei Fehlverhalten nicht sanktioniert werden. Das ist kein kleiner technischer Unterschied. Es ist der Kern dessen, warum das einfache Hinzufügen von KI zu bestehenden Autorschaftsrahmen nicht funktioniert.
Die Werkzeuge existieren. Die Kategorien nicht.
Die Forschungsgemeinschaft hat Taxonomien entwickelt, um Autorschaft transparenter zu machen. CRediT, die Contributor Roles Taxonomy, wird inzwischen von mehreren Verlagen verwendet und unterteilt die wissenschaftliche Arbeit in spezifische Rollen, wodurch sie über das plumpe Signal der Autorenreihenfolge hinausgeht. Das ist eine echte Verbesserung gegenüber älteren Praktiken.
Aber CRediT wurde für menschliche Mitwirkende entwickelt. Es gibt dort keine Kategorie für KI-gestützte Literatursynthese oder KI-generierte strukturelle Iteration. Brauns eigener Artikel ist ein treffendes Beispiel dafür, denn er legt offen, dass ChatGPT von OpenAI für die Ideengenerierung, strukturelle Iteration, Proserstellung, Zusammenfassung, Verdichtung und stilistische Überarbeitung verwendet wurde, und dass Claude von Anthropic zur Überprüfung des Artikels genutzt wurde. Das sind wesentliche Beiträge zum finalen Text. Keiner der bestehenden Autorschaftsrahmen hat dafür einen klaren Platz.
Das Problem geht über die Schreibphase hinaus. KI beginnt, die Auswahl von Reviewern, die redaktionelle Interpretation von Berichten und die Sprache redaktioneller Entscheidungen zu beeinflussen. Das sind die Mechanismen, durch die ein Manuskript zu anerkannter Wissenschaft wird. Wenn KI diese Mechanismen ohne formelle Rechenschaftspflicht prägt, wird die Transparenz, die Autorschaft bieten soll, zur Hülse.
Es gibt zudem eine Ebene unsichtbarer Arbeit, die selten Teil des Gesprächs ist. Die in der Forschung verwendeten generativen KI-Systeme basieren auf Datenkennzeichnung, Modellevaluierung, Ingenieursarbeit, Plattformpflege und dem riesigen Korpus an Texten, mit denen die Modelle trainiert wurden. Nichts davon taucht in Danksagungen auf. Die Menschen, die diese Arbeit geleistet haben, erhalten keine Namensnennung.
Ein Riss in der Hierarchie, den es zu untersuchen lohnt
Hier ist, was die meiste Berichterstattung zu diesem Thema übersieht. Die Ankunft der generiven KI im akademischen Schreiben schafft nicht nur ein neues Zuordnungsproblem. Sie legt ein altes frei.
Akademische Arbeit war schon immer hierarchisch organisiert. Jüngere Forschende suchen nach Literatur und sammeln Daten. Erfahrene Forschende formulieren das konzeptionelle Argument und genehmigen den finalen Text. Der Dankesbereich, der wie eine Höflichkeit wirken mag, ist in Wirklichkeit eine abgestufte Ökonomie, in der manche Beiträge zur Autorschaft werden, andere zu hilfreichen Kommentaren herabgestuft werden und einige völlig verschwinden.
Brauns Argument ist, dass generative KI die Möglichkeit eröffnet, diese Ökonomie zu hinterfragen, statt sie einfach nur zu verlängern. Wenn eine KI-gestützte Literatursynthese bedeutsam genug ist, um eine Offenlegung zu erfordern, warum hat dieselbe Arbeit in der Vergangenheit historisch gesehen keine Autorschaft eingebracht, wenn sie von einer menschlichen Hilfskraft durchgeführt wurde? Die Frage ist nicht rhetorisch. Sie verweist auf eine strukturelle Inkonsistenz, die älter ist als die KI und die durch die KI nun schwerer zu ignorieren ist.
Die Entscheidungen, die jetzt darüber getroffen werden, wie KI im akademischen Verlagswesen verbucht wird, werden die Zukunft der Wissenschaft prägen. Wenn diese Entscheidungen primär durch Bequemlichkeit oder Kosten getrieben werden, wird das Ergebnis Rahmenbedingungen hervorbringen, die mehr verschleiern als enthüllen.
Kurz gesagt
Generative KI ist bereits Teil des wissenschaftlichen Schreibprozesses und übernimmt Aufgaben von der Literaturübersicht bis zur stilistischen Überarbeitung. Das Problem ist, dass bestehende Autorschaftsrahmen für Menschen gemacht wurden, die zur Rechenschaft gezogen werden können, was eine KI nicht kann. Die Lösung besteht nicht einfach darin, ein neues Kontrollkästchen zu bestehenden Taxonomien hinzuzufügen. Sie erfordert ein grundlegenderes Überdenken der Zuweisung von wissenschaftlicher Anerkennung und Verantwortung, was auch die menschliche Arbeit einschließt, die von denselben Hierarchien, die nun gestört werden, lange unsichtbar gemacht wurde.
Basierend auf Berichten von Nature: Machine Learning.