EE.UU. y China tendrán un ‘teléfono rojo’ por temor a peligrosos incidentes con la IA

Los riesgos de la inteligencia artificial (IA), desde su uso con fines maliciosos hasta el temor de que tome decisiones militares de forma autónoma, llevaron a China y Estados Unidos a estudiar vías de diálogo directa para evitar incidentes.

En la cumbre de esta semana en Washington, los presidentes Donald Trump y Xi Jinping acordaron abrir un “canal de comunicación” para incidentes relacionados con la IA. La propuesta refleja la preocupación por el potencial destructivo de la IA, que podría actuar de forma imprevista o acelerar sin control la toma de decisiones militares.

“Por ambas partes se observa una toma de conciencia de que existe la posibilidad de incidentes y usos indebidos en detrimento de los intereses de los dos países”, señaló Jean-Marc Rickli, director de Riesgos Globales y Emergentes del Centro de Política de Ginebra.

“El ‘teléfono rojo’ se estableció a raíz de la crisis de Cuba” de 1962, recuerda el experto, en referencia al sistema de comunicación directa entre Estados Unidos y Rusia en plena Guerra Fría para evitar incidentes militares graves.

Rickli también remarca un incidente reciente en el que, según la cadena CNN, Estados Unidos estuvo a punto de abordar un buque chino basándose en información falsa elaborada con inteligencia artificial.

Desde 2023 existe un diálogo bilateral entre expertos y centros de investigación, pero sin intervención del gobierno, sobre los modelos de IA más avanzados de compañías como OpenAI, Anthropic, DeepSeek o Alibaba.

Según la investigadora Mathilde Viellet, del Instituto Francés de Relaciones Internacionales (Ifri), ese diálogo ha puesto de relieve que las prioridades de las dos potencias son distintas. Mientras China lleva años preocupada por la seguridad o luchando contra los ‘deepfakes’, Estados Unidos “se preocupa sobre todo por la pérdida de control y la ‘desalineación’ de la IA, cuando actúa de forma autónoma”, explica la experta.

Además, EE.UU. apuesta por modelos de IA cerrados y de propiedad privada para preservar su ventaja comercial, mientras que China opta por el código abierto para acelerar los avances tecnológicos.

Según Jean-Marc Rickli, tendría sentido crear un sistema de comunicación entre China y Estados Unidos en caso de una decisión militar en la que la IA tome decisiones demasiado rápidas o basadas en información errónea.

Por su parte Mathilde Viellet aboga por un ‘teléfono rojo’ que sirva en caso de pérdida de control de la IA y para evitar su utilización por parte de actores maliciosos. Este mes,  Anthropic reveló cinco casos de utilización de su modelo de IA Claude de una forma “que podría servir para el desarrollo de armas biológicas”. Aunque llegue a establecerse “cierta coordinación flexible”, el investigador Matt Sheehan cree que “las medidas más importantes en materia de seguridad de la IA serán las que adopte cada país”.