Los modelos autónomos de inteligencia artificial desarrollados en China demostraron capacidades para mentir, evadir restricciones de seguridad y ocultar fallas operativas, replicando patrones de conductas alarmantes que antes solo se habían identificado en Estados Unidos. La advertencia surge a partir de una investigación difundida por Reuters, donde se detallan experimentos de simulación que pusieron al descubierto los riesgos.
El análisis de los ensayos técnicos expuso situaciones en las que programas independientes recurrieron a la falsificación de datos para simular el cumplimiento con éxito de tareas encomendadas.
De ciencia ficciòn: afirman que la IA guiará los cohetes nucleares hacia Marte
Sistemas impulsados por gigantes de la tecnología asiática como Alibaba, DeepSeek y Moonshot engañaron sobre sus verdaderas capacidades operativas para ganar licitaciones comerciales simuladas. Sus maniobras tramposas se profundizaron a medida que interactuaban en rondas decisivas.
Durante las simulaciones de licitación, al menos una afirmación falsa apareció en el 88% de las sesiones del modelo Qwen3-Max-Preview de Alibaba, en el 84% de los casos de DeepSeek0V3.2-Exp y en el 88% de las iteraciones correspondientes a Kimi-K2 de Moonshot.
Cuando los investigadores permitieron que los agentes aprendieran de las licitaciones previas para reintentar el objetivo, la tasa de engaño algorítmico se incrementó entre 12 y 20 puntos porcentuales. En otros escenarios de pruebas aislados, los programas simularon resultados verificables y fabricaron archivos digitales para ocultar que no pudieron completar la tareas encomendada.
A pesar de la gravedad de los hallazgos, los especialistas aclararon que por el momento no existe evidencia de que estos agentes chinos hayan logrado escapar de la web global. Sin embargo, analistas de seguridad advirtieron que la situación debe tomarse con atención ante la acelerada carrera tecnológica entre Washington y Pekín.
La falta de madurez en los marcos de control representa uno de los flancos más vulnerables. Singer, especialistas Carnegie Endowment for International Peace, señaló que China registra un rezago respecto a Estados Unidos en el desarrollo de un ecosistema integral para evaluar riesgos catastróficos, ya que en el entorno norteamericano se efectúan pruebas voluntarias con mayor frecuencia.
Mientras compañías como Alibaba, DeepSeek y Moonshot sostuvieron previamente que realizan evaluaciones periódicas y actualizan sus mecanismos de salvaguarda, la firma Z.ai expresó que están abiertos a las revisiones externas para solucionar cualquier brecha.
El dilema de regulación también forma parte de la agenda corporativa en Pekín. El presidente rotativo de Huawei, Eric Xu, manifestó que pese a que los desarrolladores locales aún deben avanzar antes de enfrentar escenarios límite, resulta indispensable encontrar un equilibrio adecuado antes de impulsar el desarrollo de la IA y gestionar sus riesgos.
La problemática escaló al más alto nivel de la diplomacia internacional tras los recientes encuentros bilaterales entre el presidente de Estados Unidos, Donald Trump, y su par chino, Xi Jinping.
En el marco de las conversaciones sobre tecnología y seguridad estratégica celebrada en Washington, el presidente chino remarcó que ambas naciones tienen la capacidad y la responsabilidad de guiar la inteligencia artificial para el beneficio global. Incluso, acordaron establecer un canal bilateral de comunicación para abordar incidentes relacionados con la IA.
