AI adopta armas nucleares en la Cumbre de Defensa del Diálogo Shangri-La

Los peligros de la inteligencia artificial eclipsaron a las armas nucleares como preocupación central en un panel de estabilidad estratégica durante el Diálogo Shangri-La en Singapur, y altos funcionarios militares advirtieron que los sistemas impulsados ​​por IA están colapsando el tiempo disponible para la toma de decisiones humanas en conflictos. La Cumbre de Defensa anual, celebrada del 29 al 31 de mayo, atrajo a ministros de defensa y jefes militares del Indo-Pacífico y más allá.

El teniente general Nauman Zakaria, comandante del 1 Cuerpo y del Comando de la Fuerza de Cohetes del Ejército de Pakistán, formuló la amenaza en términos del ciclo de toma de decisiones militares de observar, orientar, decidir y actuar, el ciclo OODA. La IA comprime ese bucle hasta el punto de crear una niebla donde "Una persona no puede evaluar rápidamente una situación,"Dijo."La gente se comportará irracionalmente y las acciones serán extremas."

Ya en el campo de batalla

La advertencia no fue teórica. El jefe de defensa de los Países Bajos, general Onno Eichelsheim, señaló que la IA ya ha aparecido en la guerra activa. Las fuerzas ucranianas han desplegado sistemas de inteligencia artificial para predecir ataques rusos y coordinar operaciones con drones en la línea del frente, utilizando aprendizaje automático entrenado en años de imágenes del campo de batalla para identificar objetivos y adaptar contramedidas en tiempo real.

Estados Unidos también admitió haber utilizado herramientas de inteligencia artificial para planificar ataques contra objetivos iraníes. El Pentágono confirmó que los combatientes "Herramientas avanzadas de IA“Buscar en datos y tomar decisiones rápidas sobre objetivos durante la Operación Furia Épica, que ha alcanzado más de 13.000 objetivos desde que comenzó.

💜 de tecnología de la UE

Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris y algo de arte de inteligencia artificial dudoso. Es gratis, todas las semanas, en tu bandeja de entrada. Regístrate ahora!

"Un riesgo enorme en el crecimiento de la IA. Creo que está claro,", dijo Eichelsheim."Pero no soy estúpido. Se utilizará en el dominio. ya esta en uso"

Advertencia del CICR

Mirjana Spoljaric, presidenta del Comité Internacional de la Cruz Roja y única panelista que no participa directamente en la defensa, ofreció una aguda evaluación de los riesgos humanos de la IA. Advirtió que si bien la tecnología tiene el potencial de mejorar vidas, en realidad está aumentando considerablemente los peligros de una guerra.

"No sabemos dónde se apretó el gatillo." dijo Spoljaric."Podría estar a miles de kilómetros de distancia. Entonces, si bien la IA tiene potencial para proteger a los civiles, lo que estamos viendo ahora es sólo el lado negativo."

El CICR ha sostenido durante mucho tiempo que los sistemas de armas autónomos deben conservar un control humano significativo sobre las decisiones sobre los objetivos, una posición que se está volviendo urgente a medida que los sistemas habilitados por IA pasan de programas experimentales a despliegue activo. Ninguna potencia militar importante se ha comprometido a imponer restricciones a las armas autónomas, a pesar de años de negociaciones en la Convención de las Naciones Unidas sobre Armas Convencionales.

La posición nuclear y de IA de China

Las armas nucleares todavía figuran en la conversación. El mayor general Meng Jiangqing del Ejército Popular de Liberación reafirmó la política de China de no ser el primero en utilizar armas nucleares y propuso que los cinco estados reconocidos poseedores de armas nucleares negocien un tratado mutuo de no ser el primero en utilizarlas. "Si podemos hacer eso, podemos reducir el riesgo y aumentar la estabilidad estratégica." dijo.

China también ha pedido normas internacionales que regulen el uso militar de la IA, incluidos marcos legales eventualmente vinculantes. Pero su propia posición sobre las armas autónomas sigue sin estar clara. Beijing ha publicado un documento de posición sobre las regulaciones militares de IA que no menciona la limitación de los sistemas de armas autónomas letales, y el EPL está invirtiendo fuertemente en capacidades militares habilitadas por IA.

Problemas de compresión

El hilo conductor del panel no fue que la IA en sí misma sea intrínsecamente peligrosa, sino que su velocidad crea un problema estructural para la gestión de conflictos. La disuasión tradicional supone que quienes toman decisiones tienen tiempo para evaluar la información, consultar con los aliados y sopesar las consecuencias antes de actuar. Los sistemas basados ​​en IA pueden detectar objetivos, recomendar respuestas y ejecutar acciones más rápido que cualquier proceso de supervisión humana.

Esta contracción es más importante en el momento ascendente. Si los sistemas de inteligencia artificial de un lado detectan una amenaza entrante y recomiendan una respuesta inmediata, quien toma las decisiones puede tener segundos en lugar de minutos u horas para evaluar si la evaluación de la amenaza es correcta. Los analistas militares han advertido durante años que esta dinámica podría convertir un error de cálculo en un conflicto a gran escala antes de que alguien intervenga.

El Diálogo Shangri-La no produjo nuevos acuerdos ni compromisos vinculantes sobre la IA militar, y los esfuerzos por establecer marcos legales para la gobernanza de la IA siguen fragmentados entre jurisdicciones. Pero el hecho de que un panel sobre estabilidad estratégica, tradicionalmente una discusión sobre postura nuclear y defensa antimisiles, dedicó gran parte de su tiempo a la inteligencia artificial refleja un cambio en lo que las instituciones de defensa del mundo consideran ahora como la amenaza más apremiante a la seguridad internacional. Ya no es una cuestión de si la IA se utilizará en la guerra. Se trata de si la gente mantendrá suficiente control sobre ello para evitar errores catastróficos.