Debatten über die Regulierung von KI drehen sich meist um eine einfache Frage: Welches Unternehmen soll zur Rechenschaft gezogen werden, wenn etwas schiefgeht? Eine kürzlich in den Proceedings of the National Academy of Sciences veröffentlichte Analyse legt nahe, dass diese Fragestellung völlig falsch angesetzt ist. Die eigentliche Frage lautet, wie eine Regel, die auf ein bestimmtes Unternehmen abzielt, das Verhalten aller anderen Unternehmen in der Kette verändert. Wie sich herausgibt, hat die Antwort Konsequenzen, auf die die meisten politischen Diskussionen noch nicht vorbereitet sind.
Die Lieferkette, die von der KI-Regulierung ignoriert wird
Die meisten KI-Produkte werden nicht von einem einzigen Unternehmen entwickelt. Sie werden in Schichten zusammengesetzt. Ein Allzweckmodell (General-Purpose Model), das von einem großen KI-Entwickler wie OpenAI oder Anthropic erstellt wird, dient als Grundlage. Ein zweites Unternehmen passt dieses Modell dann für einen bestimmten Anwendungsbereich an, etwa zum Zusammenfassen klinischer Notizen von Ärztinnen und Ärzten oder zum Betreiben eines Kundenservice-Chatbots. Jede Schicht trägt ihre eigene Sicherheitsverantwortung: Der Modellhersteller kümmert sich um Training, Evaluierung und Dokumentation; das nachgeschaltete Unternehmen (Downstream-Unternehmen) übernimmt die klinische Validierung, das Fine-Tuning und die Fehlerüberwachung.
Genau diese geschichtete Struktur wird in den meisten Regulierungsvorhaben nicht berücksichtigt. Der EU AI Act, dessen Durchsetzung die Europäische Kommission vorbereitet, sieht unterschiedliche Sicherheits- und Transparenzanforderungen für Anbieter von Allzweckmodellen und für Unternehmen vor, die darauf aufbauend Anwendungen entwickeln. Diese Unterscheidung ist ein Schritt nach vorn. Doch die entscheidende Frage ist nicht nur, wer reguliert wird. Es geht vielmehr darum, wie eine Anforderung, die auf eine Schicht abzielt, die Anreize aller anderen neu gestaltet.
Wie schwache Regeln Produkte unsicherer machen können
Benjamin Laufer, Senior Applied Researcher bei Microsoft und künftiger Assistant Professor an der University of Washington Information School, hat diesen Mechanismus gemeinsam mit den Co-Autoren Jon Kleinberg und Hoda Heidari untersucht. Ihr spieltheoretisches Modell analysierte, was passiert, wenn eine Regulierungsbehörde eine Mindestsicherheitsanforderung für ein nachgeschaltetes Anwendungsunternehmen festlegt, während der vorgelagerte Modellhersteller (Upstream-Hersteller) nicht eingeschränkt wird.
Das Ergebnis ist kontraintuitiv. Eine schwache Sicherheitsuntergrenze – definiert als eine Anforderung auf oder unter dem Niveau, das die Firmen ohnehin erreicht hätten – kann die Gesamtsicherheit des Produkts tatsächlich verringern. Das nachgeschaltete Unternehmen hält sich an die Vorgabe und erhöht seine Sicherheitsinvestitionen. Doch der Modellhersteller, der weiß, dass weiter unten in der Kette eine Sicherheitsprüfung stattfindet, senkt seine eigenen Investitionen stärker, als das nachgeschaltete Unternehmen hinzufügt. Das Nettoergebnis ist trotz der Regulierung ein weniger sicheres Produkt.
Die Analogie, die Laufer verwendet, ist aufschlussreich. Stell dir ein Lebensmittelsicherheitsregime vor, das Restaurants verpflichtet, jede Zutat, die sie servieren, zu inspizieren, während großen Lieferanten keinerlei Verpflichtungen auferlegt werden. Restaurants tragen echte Verantwortung, und die Regel ist oberflächlich betrachtet nicht unvernünftig. Aber Lieferanten, die vorausahnen, dass Restaurants jedes Problem erkennen, haben weniger Anreize, ihre eigenen Qualitätskontrollen aufrechtzuerhalten. Dieselbe Logik gilt für KI-Entwicklungsketten.
Das konstruktivere Ergebnis ist die Kehrseite davon. Wenn angemessen kalibrierte Anforderungen sowohl für den vorgelagerten Modellhersteller als auch für das nachgeschaltete Anwendungsunternehmen gelten, kann Regulierung als Koordinationsmechanismus fungieren. Jede Firma investiert in Sicherheit mit der Zusicherung, dass die andere dasselbe tun muss. In einigen von den Forschenden modellierten Szenarien führte diese doppelte Rechenschaftspflicht zu mehr Sicherheit und besserer Leistung für die Verbraucher, während beide Firmen finanziell besser dastanden.
Warum das über die Regulierungsdebatte hinaus wichtig ist
Genau das übersehen die meisten Berichte über die KI-Regulierung. In der Diskussion wird Sicherheit meist als feste Größe behandelt, die demjenigen zugewiesen wird, der dem Endnutzer am nächsten ist. Laufers Framework zeigt, dass Sicherheit keineswegs eine feste Größe ist. Sie ist eine strategische Variable, und die Regeln, die für einen Akteur gelten, verändern das Verhalten aller anderen Akteure.
Die Auswirkungen gehen über ein einzelnes Gesetz oder eine einzelne Jurisdiktion hinaus. Im Juni verlangte die US-Regierung von Anthropic, den Zugriff auf seine beiden neuesten Modelle für ausländische Staatsangehörige einzuschränken, und verwies dabei auf Bedenken hinsichtlich der nationalen Sicherheit. Da Anthropic die Nationalität nicht in Echtzeit überprüfen konnte, zog das Unternehmen den Zugriff vorübergehend für alle Nutzer zurück. Kurz darauf veröffentlichte das chinesische Unternehmen Moonshot AI sein Modell Kimi K3 und stellte seine vollständigen Modellgewichte zur Verfügung. Diese Episoden verdeutlichen den politischen Druck, der die KI-Regulierung prägt, unterstreichen aber auch den Einsatz. Wenn Regierungen auf Modellebene eingreifen, sehen sich die nachgeschalteten Unternehmen, die auf diesen Modellen aufbauen, mit Störungen konfrontiert, die sie nicht verursacht haben und nicht vollständig kontrollieren können.
Da KI-Modelle leistungsfähiger und breiter eingesetzt werden, dürfte die Zahl solcher Eingriffe zunehmen. Jedes einzelne Mal wird sich zeigen, ob Regulierungsrahmen darauf ausgelegt sind, die Verantwortung über die gesamte Entwicklungskette hinweg zu verteilen, oder ob sie zulassen, dass Sicherheit stillschweigend nach unten durchgereicht wird, bis jemand anderes die Rechnung begreift.
Die Frage, die Regulierungsbehörden stellen müssen, ist nicht einfach, wer am besten in der Lage ist, Schaden abzuwenden. Es geht darum, wer auf jeder Schicht beitragen muss, um das Endprodukt wirklich sicherer zu machen. Eine Regel, die nur die erste Frage beantwortet, beantwortet am Ende womöglich keine von beiden.
Kurz gefasst
Die ausschließliche Regulierung der nachgeschalteten Schicht der KI-Entwicklung kann nach hinten losgehen. Wenn Modellhersteller wissen, dass Anwendungsunternehmen Sicherheitsstandards erfüllen müssen, reduzieren sie ihre eigenen Sicherheitsinvestitionen möglicherweise stärker, als die nachgeschalteten Unternehmen hinzufügen, wodurch das Endprodukt insgesamt unsicherer wird. Eine von Benjamin Laufer, Jon Kleinberg und Hoda Heidari in den Proceedings of the National Academy of Sciences veröffentlichte Studie zeigt, dass gut kalibrierte Regeln, die sowohl für vorgelagerte als auch für nachgeschaltete Akteure gelten, stattdessen eine gemeinsame Rechenschaftspflicht und stärkere Sicherheitsergebnisse schaffen können. Die Lektion für politische Entscheidungsträger ist struktureller Natur: KI-Sicherheit lässt sich nicht an die Schicht auslagern, die dem Nutzer am nächsten ist.
Basierend auf Berichten von Fast Company - Tech.