The Brief
Sociedad y ética 6 min de lectura

163 Estados listos para negociar. Dos están bloqueando el camino.

NAVION

Compartir

Una conferencia de la ONU en Ginebra, programada del 16 al 20 de noviembre y con la asistencia de 128 países, ha sido identificada como un punto de inflexión crítico en el esfuerzo global para regular las armas autónomas. La pregunta central sobre la mesa es si las naciones acordarán iniciar negociaciones formales y jurídicamente vinculantes sobre los sistemas de armas guiados por IA, o si ese proceso será retrasado una vez más por un pequeño grupo de Estados poderosos.

La brecha de gobernanza que sigue creciendo

La definición importa aquí. Un arma autónoma, según lo acordado por el grupo de trabajo de expertos que prepara la conferencia de Ginebra, es cualquier sistema “capaz de identificar, seleccionar y atacar un objetivo sin necesidad de remitir el asunto a un ser humano”. Esa no es una categoría hipotética. Estos sistemas ya están en uso.

En julio, Ucrania informó que Rusia había desplegado un dron guiado por IA que impactó un tanque de propano en una estación de servicio en Zaporiyia. El presidente ucraniano, Volodymyr Zelenskyy, ha advertido públicamente sobre el ritmo del desarrollo de armas de IA, pidiendo que la guerra termine antes de que los sistemas de IA lleguen a dominar el campo de batalla. La tecnología no está esperando a que la diplomacia se ponga al día.

En la ONU el tema se debate desde 2014, en el marco de la Convención sobre Ciertas Armas Convencionales. Lo que hace diferente a la conferencia de noviembre es que los Estados ya han acordado por consenso elementos de un borrador de texto de tratado. El trabajo preliminar, en otras palabras, existe. La coalición de 50 Estados liderada por Irlanda, que incluye a Francia, Alemania, Italia, Brasil y México, ha propuesto un mecanismo concreto: un grupo de expertos de duración limitada encargado de negociar reglas a lo largo de tres sesiones en Ginebra en 2027, que suman un total de 25 días, con un borrador de protocolo previsto para finales de ese año. El CICR ha informado que más de 70 Estados apoyan el inicio de negociaciones sobre un instrumento legal. Una votación separada en un comité de desarme de la ONU mostró a 163 Estados señalando su disposición a iniciar negociaciones.

Esos números no son pequeños. La oposición, sin embargo, está posicionada estratégicamente.

Quién está bloqueando y cómo

Rusia, Estados Unidos e Israel se encuentran entre los Estados que presionan en contra de cualquier compromiso hacia un calendario jurídicamente vinculante. La postura de Estados Unidos, en términos generales, es que el derecho internacional humanitario existente proporciona un marco suficiente, y que se debe dejar que las naciones individuales impongan sus propios controles. El Pentágono ha establecido su propio grupo de trabajo sobre armas autónomas, pero ese es un proceso interno, no internacional.

Anna Hehir, jefa de gobernanza de IA militar en el Future of Life Institute, ha descrito claramente la probable estrategia de bloqueo: los Estados utilizarán un lenguaje que parece señalar progreso mientras que en realidad abogan por más años de discusiones no vinculantes. Su frase para describirlo es precisa: “cortinas de humo para mantener los sistemas de armas autónomos sin regulación y a los Estados sin rendición de cuentas por su uso”.

El Reino Unido no ha respaldado la declaración liderada por Irlanda y anteriormente ha argumentado que el derecho humanitario existente es adecuado. Francia, por el contrario, ha acogido con satisfacción las propuestas del grupo de expertos de la ONU como una base suficiente para un mandato de negociación que prohibiría totalmente las armas autónomas y regularía los sistemas con funciones autónomas.

La brecha entre esas dos posturas no es técnica. Es política.

Una encuesta encargada por el Future of Life Institute encontró un abrumador apoyo público a un tratado global sobre armas de IA en Francia, Alemania y el Reino Unido, junto con el escepticismo de que dicho tratado fuera respetado en la práctica. Esa combinación, un amplio apoyo público junto con una baja confianza institucional, es un rasgo familiar en los debates sobre control de armas.

Lo que este momento revela sobre la gobernanza de IA

Esto es lo que la mayor parte de la cobertura de esta historia pasa por alto. La conferencia de Ginebra no trata principalmente sobre armas autónomas. Es una prueba para determinar si la gobernanza internacional de la IA es posible en absoluto.

El patrón visible en Ginebra es el mismo que aparece en la regulación de la IA de manera más amplia: la tecnología se desarrolla más rápido de lo que las instituciones pueden responder, los actores poderosos resisten las restricciones vinculantes y la brecha entre lo técnicamente posible y lo legalmente prohibido se amplía. La diferencia con las armas autónomas es que lo que está en juego se mide en vidas humanas y los errores son irreversibles.

El caso de Minab ilustra esto de manera concreta. El 28 de febrero, un bombardeo estadounidense a una escuela en Minab, Irán, mató al menos a 175 personas. El proceso de selección de objetivos incluyó aportes del sistema Maven AI operado por Palantir. Maven no advirtió que el sitio había sido una escuela durante diez años. Tampoco lo hicieron el personal asignado para revisar los datos de objetivos generados por la IA. Se ganó velocidad. La precisión no.

Human Rights Watch and Stop Killer Robots han argumentado que los sistemas de armas asistidos por IA han demostrado un comportamiento impredecible, lo que aumenta el riesgo de errores fatales y campos de batalla que escapan al control humano. El CICR y el saliente secretario general de la ONU, António Guterres, advirtieron conjuntamente que el mundo se está “acercando a una línea roja moral donde las armas autónomas podrían matar sin intervención humana”. El papa León XIV, en una intervención directa programada para influir en la conferencia, afirmó que las decisiones que afectan la vida humana y el uso de la fuerza siempre deben permanecer sujetas a la supervisión humana, y pidió a los Estados reunidos en Ginebra que den pasos concretos hacia la prohibición de las armas autónomas letales.

La pregunta que Ginebra responderá no es si las armas autónomas son peligrosas. Eso ya está reconocido. La pregunta es si el sistema internacional puede pasar del reconocimiento a la obligación.

En resumen

Una conferencia de la ONU en Ginebra es lo más cerca que ha estado el mundo de iniciar negociaciones formales sobre reglas jurídicamente vinculantes para las armas autónomas. Más de 163 Estados han señalado su disposición a negociar. Una coalición de 50 naciones ha puesto una propuesta concreta sobre la mesa. El CICR, el saliente secretario general de la ONU y una amplia coalición de organizaciones de la sociedad civil están pidiendo acción ahora. Rusia y Estados Unidos presionan para mantener el proceso no vinculante y abierto. Lo que suceda en Ginebra no solo determinará el futuro de las armas de IA. Revelará cuánta disposición tiene realmente la comunidad internacional para limitar la tecnología que ya ha desplegado.

Basado en información de The Guardian.

Escrito por

NAVION