Une conférence de l’ONU à Genève, prévue du 16 au 20 novembre et réunissant 128 pays, a été identifiée comme un moment charnière dans l’effort mondial visant à réglementer les armes autonomes. La question centrale sur la table est de savoir si les nations accepteront d’entamer des négociations formelles et juridiquement contraignantes sur les systèmes d’armes guidés par l’IA, ou si ce processus sera une fois de plus retardé par un petit groupe d’États puissants.
Le fossé de la gouvernance qui ne cesse de se creuser
La définition compte ici. Une arme autonome, selon l’accord conclu par le groupe de travail d’experts préparant la conférence de Genève, est tout système “capable d’identifier, de sélectionner et de cibler une cible sans avoir besoin de référer le problème à un être humain”. Il ne s’agit pas d’une catégorie hypothétique. Ces systèmes sont déjà utilisés.
En juillet, l’Ukraine a signalé que la Russie avait déployé un drone guidé par l’IA qui a frappé un réservoir de propane dans une station-service à Zaporijjia. Le président ukrainien Volodymyr Zelenskyy a publiquement mis en garde contre le rythme du développement des armes à IA, demandant que la guerre prenne fin avant que les systèmes d’IA ne viennent dominer le champ de bataille. La technologie n’attend pas que la diplomatie se mette à niveau.
À l’ONU, la question est débattue depuis 2014, dans le cadre de la Convention sur certaines armes classiques. Ce qui différencie la conférence de novembre, c’est que les États se sont déjà mis d’accord par consensus sur des éléments d’un projet de texte de traité. En d’autres termes, les bases existent. La coalition de 50 États menée par l’Irlande, qui comprend la France, l’Allemagne, l’Italie, le Brésil et le Mexique, a proposé un mécanisme concret, à savoir un groupe d’experts à durée limitée chargé de négocier des règles au cours de trois sessions à Genève en 2027, totalisant 25 jours, avec un projet de protocole attendu d’ici la fin de cette année-là. Le CICR a indiqué que plus de 70 États soutiennent l’ouverture de négociations sur un instrument juridique. Un vote distinct au sein d’un comité du désarmement de l’ONU a vu 163 États signaler leur disposition à lancer des négociations.
Ces chiffres ne sont pas négligeables. L’opposition, cependant, est stratégiquement positionnée.
Qui bloque et comment
La Russie, les États-Unis et Israël font partie des États qui s’opposent à tout engagement en faveur d’un calendrier juridiquement contraignant. La position américaine, dans les grandes lignes, est que le droit international humanitaire existant fournit un cadre suffisant et que les nations individuelles devraient être libres d’imposer leurs propres contrôles. Le Pentagone a créé son propre groupe de travail sur les armes autonomes, mais il s’agit d’un processus interne et non international.
Anna Hehir, responsable de la gouvernance de l’IA militaire au Future of Life Institute, a décrit clairement la stratégie de blocage probable, à savoir que les États utiliseront un langage qui semble témoigner de progrès tout en plaidant pour de nouvelles années de discussions non contraignantes. Sa formule à ce sujet est précise : “des écran de fumée pour maintenir les systèmes d’armes autonomes sans réglementation et les États irresponsables quant à leur utilisation.”
Le Royaume-Uni n’a pas soutenu la déclaration menée par l’Irlande et a déjà affirmé par le passé que le droit humanitaire existant était adéquat. La France, en revanche, a salué les propositions du groupe d’experts de l’ONU comme une base suffisante pour un mandat de négociation qui interdirait les armes totalement autonomes et réglementerait les systèmes dotés de fonctions autonomes.
Le fossé entre ces deux positions n’est pas technique. Il est politique.
Un sondage commandé par le Future of Life Institute a révélé un soutien public massif en faveur d’un traité mondial sur les armes à IA en France, en Allemagne et au Royaume-Uni, tout en soulignant un certain scepticisme quant au fait qu’un tel traité soit réellement respecté. Cette combinaison, un large soutien public associé à une faible confiance institutionnelle, est un classique des débats sur le contrôle des armements.
Ce que ce moment révèle sur la gouvernance de l’IA
Voici ce que la plupart des reportages sur cette affaire oublient. La conférence de Genève ne concerne pas principalement les armes autonomes. C’est un test pour savoir si une gouvernance internationale de l’IA est seulement possible.
Le schéma visible à Genève est le même que celui que l’on observe plus largement dans la régulation de l’IA : la technologie se développe plus vite que les institutions ne peuvent réagir, les acteurs puissants résistent aux contraintes contraignantes et le fossé se creuse entre ce qui est techniquement possible et ce qui est juridiquement interdit. La différence avec les armes autonomes, c’est que les enjeux se mesurent en vies humaines et que les erreurs sont irréversibles.
L’affaire de Minab l’illustre concrètement. Le 28 février, un bombardement américain d’une école à Minab, en Iran, a tué au moins 175 personnes. Le processus de ciblage comprenait des données fournies par le système Maven AI exploité par Palantir. Maven n’avait pas signalé que le site était une école depuis dix ans. Le personnel affecté à l’examen des données cibles générées par l’IA ne l’a pas fait non plus. La rapidité a été gagnée. La précision, non.
Human Rights Watch et Stop Killer Robots ont soutenu que les systèmes d’armes assistés par l’IA ont fait preuve d’un comportement imprévisible, augmentant le risque d’erreurs fatales et de champs de bataille qui échappent au contrôle humain. Le CICR et le Secrétaire général sortant de l’ONU, António Guterres, ont averti conjointement que le monde “s’approche d’une ligne rouge morale où les armes autonomes pourraient tuer sans intervention humaine.” Le pape Léon XIV, dans une intervention directe planifiée pour influencer la conférence, a déclaré que les décisions affectant la vie humaine et l’usage de la force doivent toujours rester soumises à la supervision humaine, et a appelé les États réunis à Genève à prendre des mesures concrètes pour interdire les armes létales autonomes.
La question à laquelle Genève répondra n’est pas de savoir si les armes autonomes sont dangereuses. Cela est déjà reconnu. La question est de savoir si le système international peut passer de la reconnaissance à l’obligation.
En bref
Une conférence de l’ONU à Genève est ce que le monde a connu de plus proche du lancement de négociations formelles sur des règles juridiquement contraignantes pour les armes autonomes. Plus de 163 États ont manifesté leur intention de négocier. Une coalition de 50 nations a mis une proposition concrète sur la table. Le CICR, le Secrétaire général sortant de l’ONU et une vaste coalition d’organisations de la société civile appellent à agir dès maintenant. La Russie et les États-Unis font pression pour que le processus reste non contraignant et ouvert. Ce qui se passera à Genève ne déterminera pas seulement l’avenir des armes à IA. Cela révélera dans quelle mesure la communauté internationale est réellement disposée à encadrer la technologie qu’elle a déjà déployée.
D’après un reportage de The Guardian.