La IA casi provoca un conflicto entre EE.UU. y China por un informe de inteligencia falso

Un analista del Comando de Operaciones Especiales de Estados Unidos utilizó inteligencia artificial para elaborar un reporte que identificó de manera errónea la carga de un buque chino. El informe activó un operativo militar que estuvo a punto de derivar en el abordaje de la embarcación.

El episodio ocurrió durante la guerra entre Estados Unidos e Irán y encendió las alarmas dentro de las Fuerzas Armadas estadounidenses. Según fuentes citadas por CNN, el reporte sostenía que el barco chino transportaba componentes vinculados con un programa de armas nucleares. A partir de esa información, el Ejército comenzó a preparar una operación para interceptarlo.

Dos de las fuentes señalaron que efectivos armados se preparaban para abordar el buque, mientras que aviones militares ya se encontraban en el aire. La operación se frenó cuando otros funcionarios revisaron con mayor profundidad el informe y detectaron que el análisis había sido realizado con ayuda de una herramienta de inteligencia artificial.

La IA había identificado de manera incorrecta el material que transportaba la embarcación. El contenido exacto que el sistema confundió no pudo ser determinado por CNN, pero una de las fuentes calificó al informe como “completamente falso” y advirtió que el episodio “casi inicia una guerra”. Una operación estadounidense contra un buque chino podía haber generado una escalada entre las dos potencias.

Guerra a la prensa: Donald Trump prohibió el ingreso a la Casa Blanca de la CNN, Politico y MSNOW

Cómo se generó el informe falso

De acuerdo con la investigación, el analista consultó un chatbot sobre información vinculada con el manifiesto de carga del buque. Los datos originales procedían del Comando de Operaciones Especiales del Pacífico, con sede en Hawái.

El sistema combinó información de fuentes abiertas con inteligencia obtenida mediante señales que se encontraba dentro de los sistemas del Gobierno estadounidense. A partir de esa mezcla de datos, llegó a una conclusión errónea sobre el material que transportaba el barco.

Trump habló de la guerra con Irán: "¿Quiero entrar y aniquilarlos, o no? Conmigo cualquier cosa puede pasar"

El analista utilizó nuevamente inteligencia artificial para convertir esas conclusiones en un informe con el formato habitual de los reportes de inteligencia militar. El documento fue posteriormente distribuido entre funcionarios que confiaron en esa información.

No quedó claro si el chatbot utilizado era una herramienta comercial o un sistema desarrollado específicamente para el Gobierno estadounidense. Un exfuncionario de alto rango familiarizado con los sistemas de IA empleados por analistas de Defensa sostuvo que las herramientas internas son, en muchos casos, versiones similares a las disponibles comercialmente.

Elecciones legislativas en Rusia: Ucrania las tildó de “farsa” y pidió no reconocer los resultados en los territorios ocupados

El Pentágono acelera el uso de IA

El caso ocurre mientras el Gobierno de Estados Unidos acelera la incorporación de inteligencia artificial a las Fuerzas Armadas. La tecnología comenzó a utilizarse para procesar grandes volúmenes de información, analizar inteligencia, asistir en la selección de objetivos y definir movimientos de unidades y recursos militares.

En enero, el secretario de Defensa, Pete Hegseth, presentó una estrategia para acelerar el uso de IA dentro del Departamento de Defensa. El objetivo declarado es ampliar el acceso a estas herramientas entre el personal militar y civil y reducir las barreras para su implementación.

Sin embargo, funcionarios citados por CNN señalaron que la adopción se realiza de manera descentralizada. Distintas áreas utilizan herramientas diferentes, con estándares de seguridad y procedimientos de verificación que no necesariamente son iguales.

Ese escenario plantea uno de los principales problemas detectados por el episodio del buque chino: no existe un único sistema para comprobar la información generada por las herramientas de inteligencia artificial antes de que pueda incorporarse a procesos de toma de decisiones militares.

El Reino Unido rechazó las sanciones de Argentina contra empresas que operan en las Islas Malvinas

El riesgo de confiar en información generada por IA

El incidente también expuso una preocupación que excede el caso puntual. La posibilidad de que una herramienta de IA produzca información falsa, conocida como “alucinación”, adquiere otra dimensión cuando sus resultados son utilizados en medio de una operación militar.

Según las fuentes consultadas por CNN, estos errores no serían un fenómeno aislado dentro de la comunidad de inteligencia estadounidense. El avance de estas herramientas también generó preocupación entre funcionarios que apoyan su utilización, pero advierten que la presión por producir información con mayor rapidez puede aumentar el margen para cometer errores.

Una de las fuentes resumió el problema con una frase: “La IA permite llegar más rápido a una mala idea”.

El riesgo es particularmente sensible en la selección de objetivos militares. Funcionarios estadounidenses reconocieron que el uso de IA en ese ámbito está creciendo, aunque todavía existen interrogantes sobre qué controles son suficientes para evitar bajas civiles, fuego amigo o decisiones basadas en información incorrecta.