Uma conferência da ONU em Genebra, agendada para 16 a 20 de novembro e com a participação de 128 países, foi identificada como um momento crítico no esforço global para regular as armas autónomas. A questão central em cima da mesa é se as nações vão concordar em iniciar negociações formais e juridicamente vinculativas sobre sistemas de armas guiados por IA, ou se esse processo vai ser adiado mais uma vez por um pequeno grupo de Estados poderosos.
O fosso de governação que continua a crescer
A definição importa aqui. Uma arma autónoma, conforme acordado pelo grupo de trabalho de peritos que prepara a conferência de Genebra, é qualquer sistema “capaz de identificar, selecionar e atacar um alvo sem a necessidade de consultar um ser humano.” Essa não é uma categoria hipotética. Estes sistemas já estão a ser utilizados.
Em julho, a Ucrânia relatou que a Rússia tinha enviado um drone guiado por IA que atingiu um tanque de propano num posto de combustível em Zaporízia. O presidente ucraniano Volodymyr Zelenskyy alertou publicamente sobre o ritmo do desenvolvimento de armas de IA, apelando para que a guerra termine antes que os sistemas de IA comecem a dominar o campo de batalha. A tecnologia não está a esperar que a diplomacia a acompanhe.
Na ONU, o tema é discutido desde 2014, no âmbito da Convenção sobre Certas Armas Convencionais. O que torna a conferência de novembro diferente é que os Estados já acordaram por consenso os elementos de um projeto de texto de tratado. Por outras palavras, o trabalho preparatório existe. A coligação de 50 Estados liderada pela Irlanda, que inclui a França, a Alemanha, a Itália, o Brasil e o México, propôs um mecanismo concreto: um grupo de peritos com limite de tempo encarregue de negociar regras ao longo de três sessões em Genebra em 2027, num total de 25 dias, com um projeto de protocolo previsto para o final desse ano. O CICV relatou que mais de 70 Estados apoiam o início de negociações sobre um instrumento jurídico. Uma votação separada num comité de desarmamento da ONU mostrou que 163 Estados manifestaram disponibilidade para iniciar negociações.
Esses números não são pequenos. A oposição, no entanto, está estrategicamente posicionada.
Quem está a bloquear e como
A Rússia, os Estados Unidos e Israel estão entre os Estados que pressionam contra qualquer compromisso com um calendário juridicamente vinculativo. A posição dos EUA, em termos gerais, é que o direito internacional humanitário existente fornece um enquadramento suficiente e que as nações individuais devem ficar encarregues de impor os seus próprios controlos. O Pentágono estabeleceu o seu próprio grupo de trabalho sobre armas autónomas, mas trata-se de um processo interno, e não internacional.
Anna Hehir, diretora de governação militar de IA no Future of Life Institute, descreveu claramente a provável estratégia de obstrução: os Estados vão utilizar uma linguagem que parece indicar progresso, enquanto defendem na realidade mais anos de discussões não vinculativas. A expressão que utiliza para isso é precisa: “cortes de fumo para manter os sistemas de armas autónomas sem regulamentação e os Estados sem responsabilização pela sua utilização.”
O Reino Unido não apoiou a declaração liderada pela Irlanda e já argumentou anteriormente que o direito humanitário existente é adequado. A França, pelo contrário, acolheu com agrado as propostas do grupo de peritos da ONU como uma base suficiente para um mandato de negociação que baniria completamente as armas autónomas e regularia os sistemas com funções autónomas.
O fosso entre essas duas posições não é técnico. É político.
Uma sondagem encomendada pelo Future of Life Institute revelou um apoio público esmagador a um tratado global sobre armas de IA em França, na Alemanha e no Reino Unido, a par do ceticismo de que tal tratado venha efetivamente a ser respeitado. Essa combinação, amplo apoio público aliado a uma baixa confiança institucional, é uma caraterística familiar dos debates sobre controlo de armas.
O que este momento revela sobre a governação da IA
Eis o que a maioria das notícias sobre esta história ignora. A conferência de Genebra não trata principalmente de armas autónomas. É um teste para saber se a governação internacional da IA é de todo possível.
O padrão visível em Genebra é o mesmo que surge em toda a regulamentação da IA de forma mais ampla: a tecnologia desenvolve-se mais depressa do que as instituições conseguem responder, os atores poderosos resistem a restrições vinculativas e o fosso entre o que é tecnicamente possível e o que é legalmente proibido aumenta. A diferença com as armas autónomas é que o preço a pagar mede-se em vidas humanas e os erros são irreversíveis.
O caso de Minab ilustra isto de forma concreta. A 28 de fevereiro, um bombardeamento norte-americano de uma escola em Minab, no Irão, matou pelo menos 175 pessoas. O processo de seleção de alvos incluiu contributos do sistema de IA Maven operado pela Palantir. O Maven não assinalou que o local tinha sido uma escola durante dez anos. Os funcionários encarregues de rever os dados de alvos gerados por IA também não o fizeram. Ganhou-se velocidade. A precisão não foi alcançada.
A Human Rights Watch e a Stop Killer Robots argumentaram que os sistemas de armas assistidos por IA têm demonstrado um comportamento imprevisível, aumentando o risco de erros fatais e campos de batalha que escapam ao controlo humano. O CICV e o secretário-geral da ONU cessante António Guterres alertaram conjuntamente que o mundo está “perto de uma linha vermelha moral onde as armas autónomas poderiam matar sem envolvimento humano.” O Papa Leão XIV, numa intervenção direta cronometrada para influenciar a conferência, afirmou que as decisões que afetam a vida humana e o uso da força devem permanecer sempre sujeitas a supervisão humana e apelou aos Estados reunidos em Genebra para tomarem medidas concretas no sentido de proibir as armas autónomas letais.
A questão a que Genebra vai responder não é se as armas autónomas são perigosas. Isso já é reconhecido. A questão é saber se o sistema internacional consegue passar do reconhecimento à obrigação.
Em suma
Uma conferência da ONU em Genebra é o momento em que o mundo esteve mais perto de iniciar negociações formais sobre regras juridicamente vinculativas para as armas autónomas. Mais de 163 Estados manifestaram disponibilidade para negociar. Uma coligação de 50 nações colocou uma proposta concreta em cima da mesa. O CICV, o secretário-geral da ONU cessante e uma ampla coligação de organizações da sociedade civil apelam à ação imediata. A Rússia e os EUA estão a pressionar para manter o processo não vinculativo e em aberto. O que acontecer em Genebra não vai apenas determinar o futuro das armas de IA. Vai revelar o grau de disponibilidade da comunidade internacional para restringir a tecnologia que já implementou.
Com base em reportagem de The Guardian.