Eine UN-Konferenz in Genf, die vom 16. bis 20. November stattfinden soll und an der 128 Länder teilnehmen, gilt als kritischer Wendepunkt in den weltweiten Bemühungen zur Regulierung autonomer Waffen. Die Kernfrage lautet, ob sich die Nationen darauf einigen, formelle und rechtlich verbindliche Verhandlungen über KI-gesteuerte Waffensysteme zu beginnen, oder ob dieser Prozess einmal mehr von einer kleinen Gruppe mächtiger Staaten verzögert wird.
Die Lücke in der Governance wird immer größer
Die Definition spielt hier eine Rolle. Eine autonome Waffe ist, wie von der Vorbereitungsgruppe für die Genfer Konferenz vereinbart, jedes System, „das in der Lage ist, ein Ziel zu identifizieren, auszuwählen und zu bekämpfen, ohne dass ein Mensch einbezogen werden muss“. Das ist keine hypothetische Kategorie. Diese Systeme sind bereits im Einsatz.
Im Juli berichtete die Ukraine, dass Russland eine KI-gesteuerte Drohne eingesetzt hat, die einen Propantank an einer Tankstelle in Saporischschja traf. Der ukrainische Präsident Wolodymyr Selenskyj hat öffentlich vor dem Tempo der Entwicklung von KI-Waffen gewarnt und gefordert, dass der Krieg enden muss, bevor KI-Systeme das Schlachtfeld dominieren. Die Technologie wartet nicht darauf, dass die Diplomatie aufholt.
In der UN wird darüber seit 2014 im Rahmen des Übereinkommens über bestimmte konventionelle Waffen beraten. Das Besondere an der Konferenz im November ist, dass sich die Staaten bereits im Konsens auf Elemente eines Entwurfs für einen Vertragstext geeinigt haben. Die Grundlage ist mit anderen Worten vorhanden. Die von Irland angeführte Koalition aus 50 Staaten, zu der Frankreich, Deutschland, Italien, Brasilien und Mexiko gehören, hat einen konkreten Mechanismus vorgeschlagen: eine zeitlich begrenzte Expertengruppe, die mit der Aushandlung von Regeln in drei Sitzungen in Genf im Jahr 2027 beauftragt ist, die insgesamt 25 Tage dauern, wobei ein Protokollentwurf bis Ende dieses Jahres vorliegen soll. Das IKRK hat berichtet, dass mehr als 70 Staaten den Beginn von Verhandlungen über ein rechtliches Instrument unterstützen. Bei einer Abstimmung in einem separaten UN-Ausschuss für Abrüstung signalisierten 163 Staaten ihre Bereitschaft, Verhandlungen aufzunehmen.
Diese Zahlen sind nicht klein. Die Opposition ist jedoch strategisch günstig positioniert.
Wer blockiert und wie
Russland, die Vereinigten Staaten und Israel gehören zu den Staaten, die sich gegen jede Verpflichtung zu einem rechtlich verbindlichen Zeitplan aussprechen. Die Position der USA besteht im Großen und Ganzen darin, dass das bestehende internationale humanitäre Völkerrecht einen ausreichenden Rahmen bietet und dass es den einzelnen Nationen überlassen bleiben sollte, ihre eigenen Kontrollen durchzuführen. Das Pentagon hat eine eigene Arbeitsgruppe für autonome Waffen eingerichtet, aber das ist ein interner Prozess und kein internationaler.
Anna Hehir, Leiterin der Abteilung für militärische KI-Governance beim Future of Life Institute, hat die voraussichtliche Blockadestrategie deutlich beschrieben: Staaten werden Formulierungen verwenden, die Fortschritte zu signalisieren scheinen, während sie in Wirklichkeit für weitere Jahre unverbindlicher Diskussionen eintreten. Ihr treffender Begriff dafür lautet: „Rauchvorhänge, um autonome Waffensysteme unreguliert und Staaten für ihren Einsatz nicht zur Rechenschaft zu ziehen.“
Großbritannien hat die von Irland angeführte Erklärung nicht unterstützt und zuvor argumentiert, dass das bestehende humanitäre Völkerrecht ausreicht. Frankreich hingegen hat die Vorschläge der UN-Expertengruppe als ausreichende Grundlage für ein Verhandlungsmandat begrüßt, das vollautomatische Waffen verbieten und Systeme mit autonomen Funktionen regulieren würde.
Die Kluft zwischen diesen beiden Positionen ist nicht technischer Natur. Sie ist politisch.
Eine vom Future of Life Institute in Auftrag gegebenen Umfrage ergab eine überwältigende öffentliche Unterstützung für einen globalen Vertrag über KI-Waffen in Frankreich, Deutschland und Großbritannien, verbunden mit einer Skepsis, dass ein solcher Vertrag tatsächlich eingehalten würde. Diese Kombination aus breiter öffentlicher Unterstützung und geringem institutionellem Vertrauen ist ein bekanntes Merkmal von Rüstungskontrollwaffen-Debatten.
Was dieser Moment über KI-Governance offenbart
Hier ist, was die meiste Berichterstattung über diese Geschichte übersieht. Bei der Genfer Konferenz geht es nicht in erster Linie um autonome Waffen. Sie ist ein Prüfstein dafür, ob eine internationale Governance von KI überhaupt möglich ist.
Das in Genf sichtbare Muster ist dasselbe, das sich bei der KI-Regulierung im Allgemeinen zeigt: Die Technologie entwickelt sich schneller, als Institutionen reagieren können, mächtige Akteure widersetzen sich verbindlichen Beschränkungen, und die Kluft zwischen dem technisch Machbaren und dem rechtlich Verbotenen vergrößert sich. Der Unterschied bei autonomen Waffen besteht darin, dass die Einsätze in Menschenleben gemessen werden und die Fehler unumkehrbar sind.
Der Fall Minab verdeutlicht dies konkret. Am 28. Februar starben bei einem US-Bombenangriff auf eine Schule im iranischen Minab mindestens 175 Menschen. Der Zielerfassungsprozess umfasste Daten des Maven KI-Systems von Palantir. Maven hatte nicht darauf hingewiesen, dass das Gelände seit zehn Jahren eine Schule war. Das für die Überprüfung der KI-generierten Zieldaten eingeteilte Personal tat dies ebenfalls nicht. Geschwindigkeit wurde gewonnen. Genauigkeit nicht.
Human Rights Watch und Stop Killer Robots haben argumentiert, dass KI-gestützte Waffensysteme ein unvorhersehbares Verhalten gezeigt haben, was das Risiko fataler Fehler und von Schlachtfeldern erhöht, die der menschlichen Kontrolle entgleiten. Das IKRK und der scheidende UN-Generalsekretär António Guterres warnten gemeinsam, dass sich die Welt „einer moralischen roten Linie nähert, an der autonome Waffen ohne menschliches Zutun töten könnten“. Papst Leo XIV. erklärte in einer gezielten Intervention, die darauf abzielte, die Konferenz zu beeinflussen, dass Entscheidungen über Menschenleben und den Einsatz von Gewalt stets der menschlichen Kontrolle unterliegen müssen, und rief die in Genf versammelten Staaten auf, konkrete Schritte zum Verbot tödlicher autonomer Waffen zu unternehmen.
Die Frage, die Genf beantworten wird, ist nicht, ob autonome Waffen gefährlich sind. Das ist bereits anerkannt. Die Frage ist, ob das internationale System vom Anerkennen zur Verpflichtung übergehen kann.
Kurz gesagt
Eine UN-Konferenz in Genf ist das Nächste, was die Welt bisher dem Start formeller Verhandlungen über rechtlich verbindliche Regeln für autonome Waffen gebracht hat. Mehr als 163 Staaten haben ihre Verhandlungsbereitschaft signalisiert. Eine Koalition aus 50 Nationen hat einen konkreten Vorschlag vorgelegt. Das IKRK, der scheidende UN-Generalsekretär und eine breite Koalition zivilgesellschaftlicher Organisationen fordern sofortiges Handeln. Russland und die USA drängen darauf, den Prozess unverbindlich und offen zu halten. Was in Genf passiert, wird nicht nur die Zukunft von KI-Waffen bestimmen. Es wird zeigen, wie stark die internationale Gemeinschaft tatsächlich bereit ist, die Technologie einzuschränken, die sie bereits eingesetzt hat.
Basierend auf Berichten von The Guardian.