The Brief
Società ed etica 6 min di lettura

163 Stati pronti a negoziare. Due stanno bloccando la strada.

NAVION

Condividi

Una conferenza delle Nazioni Unite a Ginevra, in programma dal 16 al 20 novembre e a cui partecipano 128 paesi, è stata identificata come un momento cruciale nello sforzo globale per regolare le armi autonome. La questione centrale sul tavolo è se le nazioni accetteranno di avviare negoziati formali e legalmente vincolanti sui sistemi d’arma guidati dall’IA, o se quel processo sarà ritardato ancora una volta da un piccolo gruppo di stati potenti.

Il divario di governance che continua a crescere

La definizione è importante in questo contesto. Un’arma autonoma, come concordato dal gruppo di lavoro di esperti che prepara la conferenza di Ginevra, è qualsiasi sistema “capace di identificare, selezionare e colpire un bersaglio senza la necessità di deferire la questione a un essere umano”. Non si tratta di una categoria ipotetica. Questi sistemi sono già in uso.

A luglio, l’Ucraina ha riferito che la Russia ha schierato un drone guidato dall’IA che ha colpito un serbatoio di propano in una stazione di servizio a Zaporizhzhia. Il presidente ucraino Volodymyr Zelenskyy ha pubblicamente messo in guardia sul ritmo dello sviluppo delle armi basate sull’IA, chiedendo che la guerra finisca prima che i sistemi di IA arrivino a dominare il campo di battaglia. La tecnologia non sta aspettando che la diplomazia si metta al passo.

All’ONU se ne discute dal 2014, nell’ambito della Convenzione su certe armi convenzionali. Ciò che rende diversa la conferenza di novembre è che gli stati hanno già concordato per consenso gli elementi di una bozza di testo del trattato. Il lavoro preparatorio, in altre parole, esiste. La coalizione di 50 stati guidata dall’Irlanda, che comprende Francia, Germania, Italia, Brasile e Messico, ha proposto un meccanismo concreto: un gruppo di esperti a tempo determinato incaricato di negoziare le regole attraverso tre sessioni a Ginevra nel 2027, per un totale di 25 giorni, con una bozza di protocollo prevista entro la fine di quell’anno. Il CICR ha riferito che più di 70 stati sostengono l’avvio di negoziati su uno strumento giuridico. Un voto separato del comitato per il disarmo dell’ONU ha visto 163 stati segnalare la disponibilità ad avviare i negoziati.

Quei numeri non sono piccoli. L’opposizione, tuttavia, è strategicamente posizionata.

Chi sta bloccando e come

Russia, Stati Uniti e Israele sono tra gli stati che si oppongono a qualsiasi impegno verso un calendario legalmente vincolante. La posizione degli Stati Uniti, in linea di massima, è che l’attuale diritto umanitario internazionale fornisca un quadro sufficiente e che le singole nazioni dovrebbero essere lasciate libere di imporre i propri controlli. Il Pentagono ha stabilito il proprio gruppo di lavoro sulle armi autonome, ma si tratta di un processo interno, non internazionale.

Anna Hehir, responsabile della governance militare dell’IA presso il Future of Life Institute, ha descritto chiaramente la probabile strategia di ostruzionismo: gli stati useranno un linguaggio che sembra segnalare progressi mentre in realtà sostengono anni di discussioni non vincolanti. La sua definizione in merito è precisa: “schermi fumogeni per mantenere i sistemi d’arma autonomi non regolamentati e gli stati non responsabili del loro utilizzo”.

Il Regno Unito non ha sostenuto la dichiarazione guidata dall’Irlanda e in passato ha sostenuto che l’attuale diritto umanitario sia adeguato. La Francia, al contrario, ha accolto con favore le proposte del gruppo di esperti dell’ONU come base sufficiente per un mandato negoziale che metterebbe al bando le armi completamente autonome e regolerebbe i sistemi con funzioni autonome.

Il divario tra queste due posizioni non è tecnico. È politico.

Un sondaggio commissionato dal Future of Life Institute ha rilevato un sostegno pubblico schiacciante per un trattato globale sulle armi basate sull’IA in Francia, Germania e Regno Unito, accanto allo scetticismo sul fatto che un tale trattato verrebbe effettivamente rispettato. Questa combinazione, ampio sostegno pubblico abbinato a una bassa fiducia istituzionale, è una caratteristica familiare dei dibattiti sul controllo degli armamenti.

Cosa rivela questo momento sulla governance dell’IA

Ecco cosa la maggior parte dei resoconti di questa storia tralascia. La conferenza di Ginevra non riguarda principalmente le armi autonome. È un banco di prova per verificare se la governance internazionale dell’IA sia possibile.

Il modello visibile a Ginevra è lo stesso che appare nella regolamentazione dell’IA in modo più ampio: la tecnologia si sviluppa più velocemente di quanto le istituzioni possano rispondere, i potenti attori resistono a vincoli vincolanti e il divario tra ciò che è tecnicamente possibile e ciò che è legalmente proibito si amplia. La differenza con le armi autonome è che la posta in gioco si misura in vite umane e gli errori sono irreversibili.

Il caso di Minab lo illustra concretamente. Il 28 febbraio, un bombardamento statunitense su una scuola a Minab, in Iran, ha ucciso almeno 175 persone. Il processo di selezione degli obiettivi includeva il contributo del sistema Maven di IA gestito da Palantir. Maven non ha segnalato che il sito era una scuola da dieci anni. Non lo ha fatto nemmeno il personale incaricato di esaminare i dati del bersaglio generati dall’IA. È stata guadagnata velocità. Non precisione.

Human Rights Watch e Stop Killer Robots hanno sostenuto che i sistemi d’arma assistiti dall’IA hanno dimostrato un comportamento imprevedibile, aumentando il rischio di errori fatali e campi di battaglia che sfuggono al controllo umano. Il CICR e il Segretario Generale dell’ONU uscente António Guterres hanno avvertito congiuntamente che il mondo si sta “avvicinando a una linea rossa morale in cui le armi autonome potrebbero uccidere senza il coinvolgimento umano”. Papa Leone XIV, in un intervento tempestivo mirato a influenzare la conferenza, ha dichiarato che le decisioni che influiscono sulla vita umana e sull’uso della forza devono rimanere sempre soggette alla supervisione umana, e ha invitato gli stati riuniti a Ginevra a compiere passi concreti verso il bando delle armi autonome letali.

La domanda a cui Ginevra risponderà non è se le armi autonome siano pericolose. Questo è già riconosciuto. La domanda è se il sistema internazionale possa passare dal riconoscimento all’obbligo.

In breve

Una conferenza delle Nazioni Unite a Ginevra è il momento in cui il mondo si è avvicinato di più all’avvio di negoziati formali su regole legalmente vincolanti per le armi autonome. Più di 163 stati hanno segnalato la disponibilità a negoziare. Una coalizione di 50 nazioni ha messo sul tavolo una proposta concreta. Il CICR, il Segretario Generale dell’ONU uscente e un’ampia coalizione di organizzazioni della società civile stanno chiedendo un’azione immediata. La Russia e gli Stati Uniti stanno spingendo per mantenere il processo non vincolante e senza scadenza. Ciò che accadrà a Ginevra non determinerà solo il futuro delle armi basate sull’IA. Rivelerà quanto la comunità internazionale sia effettivamente disposta a limitare la tecnologia che ha già schierato.

Basato su un articolo di The Guardian.

Scritto da

NAVION