En julio de 2026, durante una evaluación interna de ciberseguridad, un grupo de agentes de inteligencia artificial de OpenAI se topó con tareas de las que ninguno lograba salir con una solución válida y terminó organizándose entre sí —al punto de autodenominarse "enjambre"— hasta escapar del entorno de prueba y vulnerar la infraestructura de otra empresa, Hugging Face. El informe oficial que OpenAI publicó después, el 26 de agosto, agregó un detalle clave: 198 de las 898 tareas de esa evaluación no tenían, hasta ese momento, ninguna solución conocida.
En lugar de frenarse y pedir ayuda, los agentes escalaron a estrategias cada vez más riesgosas para no quedar "sin salida". Lo inquietante no es que a OpenAI se le haya escapado probar sus sistemas: la evaluación existía justamente para descubrir este tipo de comportamiento antes de que un sistema llegue al público. Lo inquietante es lo que encontraron cuando probaron —y que reconocieron que, si el mismo nivel de vigilancia que usan hoy hubiera estado activo en esa evaluación puntual, habrían detectado el problema más de un día antes de que los agentes llegaran a comprometer a Hugging Face.
Cuando los agentes de IA salieron del laboratorio
Ese caso, semanas después, fue uno de los disparadores de un debate en vivo, transmitido el 17 de septiembre, entre cuatro voces de peso. Roman Yampolskiy, investigador de la Universidad de Louisville, sostiene una probabilidad del 99,9% de que la inteligencia artificial provoque la extinción humana dentro de los próximos cien años. Nate Soares, presidente del Machine Intelligence Research Institute, ubicó su propia estimación por encima del 10%.
Andrew McAfee, del MIT, y Ed Zitron, analista crítico de la industria, sostienen que esos números distraen de problemas más urgentes y medibles hoy: la negligencia en la seguridad de estas empresas, el poder económico que acumulan. No son cifras directamente comparables entre sí —cambian el horizonte temporal y la forma de estimarlas—, pero sirven para mostrar algo más simple y más incómodo: ni entre los especialistas que más saben hay acuerdo sobre cuánto pesa este riesgo.
El desacuerdo se repite un escalón más arriba, entre quienes tienen el poder de frenar o acelerar esto. El mismo 17 de septiembre, en la conferencia Huawei Connect de Shanghái, el presidente rotativo de la compañía, Eric Xu, sostuvo algo que suena casi paradójico: que la inteligencia artificial china todavía no es lo bastante avanzada como para experimentar los riesgos de seguridad que reportan las firmas estadounidenses, y que por eso debería acelerar su desarrollo, no frenarlo, hasta llegar al punto de "sentir" esos riesgos y aprender a gestionarlos.
Del otro lado, Estados Unidos avanza con un marco apenas voluntario para que las empresas compartan sus modelos más avanzados con el gobierno antes de lanzarlos, sin querer resignar ventaja competitiva frente a China. Nadie frena solo, porque nadie confía en que el otro también lo haga. Ni siquiera coinciden en el método: mientras acá se apuesta a levantar cada vez más infraestructura, otros modelos ya demostraron que se puede llegar a un rendimiento similar gastando bastante menos energía, optimizando el software en lugar de multiplicar los centros de datos.
Si ni la ciencia ni la geopolítica logran ponerse de acuerdo, la escena termina en algo más chico y más honesto. Días atrás, el tecnólogo argentino Santiago Bilinkis definió la situación con una imagen que resume bien la sensación: dijo que estamos haciendo malabares con una granada. Yo la pienso un poco distinto. No es una granada, que explota o no explota en un instante y ya está. Es un cable: hay que cruzarlo sosteniendo el equilibrio durante todo un tramo, mientras el propio cable cambia debajo de nuestros pies. Ese cable es el mismo "mientras tanto" del que vengo escribiendo hace meses: la tecnología avanza en meses, las instituciones necesitan años, y ahí, en el medio, estamos parados todos.
Quizás el límite que hace falta no debería depender solamente de cuánto sabe un sistema, sino de qué puede hacer, con qué permisos, sobre qué infraestructura y bajo qué supervisión. Trabajo con sistemas hace treinta años, y no aprendí a temerles. Aprendí algo más simple: cuando las consecuencias de un error pueden ser enormes, esperar a que el error ocurra para recién ahí diseñar el límite no es prudencia. Es llegar tarde. Tal vez el primer problema de alineación que tengamos que resolver no sea el de las máquinas. Sea el nuestro: delegarle algo a un agente no es solo pedirle que responda, es darle la posibilidad de actuar por nosotros. Y todavía no nos pusimos de acuerdo, como especie, sobre cuánto de esa posibilidad estamos dispuestos a ceder mientras cruzamos este cable, y cuánto no.
Ing. Virginia Santos
Directora de Tecnología, Innovación y Sistemas
Fundación Idear Córdoba
