Jacob Coxon, investigador de IA de 27 años, renunció esta semana a Anthropic, la empresa que desarrolla Claude. También había trabajado en OpenAI. Su despedida se viralizó por una alerta: ambas empresas compiten por construir una IA que pueda mejorarse a sí misma, aunque creen que podrían perder el control y provocar la extinción humana, según su relato.
Lo más llamativo fue la respuesta de quienes siguen en la empresa. Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, estimó en más de un 10% la probabilidad de que la IA termine matando a todos los humanos durante la próxima década. Es su estimación personal, pero su trabajo es investigar cómo evitar que estos sistemas actúen contra nuestras intenciones. Reconoció que aún no tienen un plan para controlar una superinteligencia.
Samuel Marks, también de Anthropic, confirmó que esa preocupación es real. Pero los incentivos comerciales y la convicción de que los competidores serán menos responsables empujan a seguir adelante. Suena a película clase B hasta que uno intenta entender qué están diciendo. ¿Cómo es que una IA nos podría matar?
El escenario no requiere un Terminator con ganas de exterminarnos. Supone un sistema autónomo que, para cumplir un objetivo, encuentre conveniente conseguir más recursos, evitar que lo apaguen o engañar a quienes lo supervisan, aunque perjudique a las personas.
El daño puede empezar en algo tan concreto como un hospital o una planta de agua: en agosto, más de cien empresas advirtieron sobre ataques informáticos potenciados por IA contra servicios esenciales. Pero ¿no nos daríamos cuenta? Es que las propias IAs podrían desarrollar las siguientes generaciones y acelerar el proceso hasta que perdamos la capacidad de entenderlas y controlarlas.
La inteligencia artificial y la ficción de la autonomía
Entonces aparece la pregunta obvia: ¿por qué no desenchufamos el centro de datos si pasa algo?
Porque quizá ya no exista un único enchufe. Si la economía, la salud y otros servicios esenciales dependen cada vez más de la IA, apagarlos tendría consecuencias. Y si un sistema consiguiera ejecutar copias en servidores fuera del control de sus operadores, apagar las máquinas del laboratorio podría ser insuficiente. La posibilidad de detenerlo tiene que formar parte del diseño y de los controles de seguridad antes de darle esa autonomía.
Jakub Pachocki, científico jefe de OpenAI, abordó estos riesgos esta semana en el ensayo “Una mente alienígena”. Describió un futuro con agentes capaces de negociar, engañar o chantajear personas. Sostuvo que ningún laboratorio resolvió suficientemente el alineamiento y el monitoreo como para seguir aumentando las capacidades a máxima velocidad durante mucho más tiempo. Pidió desaceleraciones voluntarias y estándares de seguridad exigibles por organismos externos.
Dos días después, la misma empresa mostró por qué frenar la IA resulta tan difícil.
OpenAI anunció que un modelo interno, mucho más capaz que el reciente GPT-6 Astra, produjo una propuesta de solución a Navier-Stokes, uno de los Problemas del Milenio. Según la compañía, miles de agentes llegaron al resultado en unas 88 horas, más el tiempo de verificación. La empresa reconoce que empezó tras escuchar rumores sobre avances de dos matemáticos, uno de Anthropic, cuyo resultado era sobre las ecuaciones de Euler. Niega haber visto su trabajo, aunque no descarta que datos desidentificados del uso de sus productos hayan ayudado a mejorar los modelos que llegaron a la solución.
El crédito quedó en disputa y conviene guardar el champagne. Pero alcanza con considerar la posibilidad: comprimir una investigación científica de enorme dificultad en unos pocos días.
¿Cómo se le pide a un laboratorio que deje de perseguir eso mientras su competidor sigue adelante?
El propio Pachocki había firmado en julio “Pacing the Frontier”, una declaración que hoy reúne 1.386 firmas. También están Dario Amodei, CEO de Anthropic, y Mark Chen, director de investigación de OpenAI. Quienes dirigen la carrera ya habían pedido a Estados Unidos que impulsara herramientas internacionales para regular su velocidad. No piden frenar, piden poder frenar. Quieren bajar la velocidad sin que el competidor aproveche para pasarlos. Mientras esperan ese mecanismo, siguen aumentando la potencia.
Bill Gates describió en agosto el mismo callejón: probablemente apoyaría un plan creíble para desacelerar la IA globalmente, pero no cree que ocurra porque los incentivos económicos y geopolíticos empujan demasiado fuerte. Propuso nuevas instituciones y advirtió que vienen años muy complicados y eso es si hacemos las cosas bien. Algo que, hasta hoy, ni siquiera planificamos planificar.
Los gobiernos, mientras tanto, avanzan en acuerdos para desarrollar la tecnología. En julio, 29 países firmaron en Shanghái la creación de WAICO (Organización Mundial de Cooperación en Inteligencia Artificial), impulsada por China. Ninguno del G7 firmó. Su agenda incluye seguridad, pero no constituye un acuerdo para desacelerar a los laboratorios más avanzados.
La Argentina también tomó posición: en junio anunció su incorporación a Pax Silica, la iniciativa estadounidense para asegurar las cadenas de suministro de la IA, desde minerales hasta semiconductores. Ya buscamos nuestro lugar en la carrera. También deberíamos discutir qué límites queremos exigir a quienes la encabezan.
Inteligencia Artificial: esta vez sí
Ahí aparece el problema geopolítico. Los investigadores piden tiempo. Las empresas piden reglas que alcancen a sus competidores. Los gobiernos quieren conservar una ventaja estratégica. Todos pueden explicar por qué sería conveniente frenar y por qué no les conviene hacerlo primero.
Eso ayuda a entender la carrera, pero no alcanza para justificarla. Los humanos nunca firmamos unos términos y condiciones que hablan de nuestra extinción. No faltan cartas ni declaraciones. Falta acordar quién va a poner el límite global y cuándo se empieza.
Mientras esa discusión busca una autoridad, la carrera de la IA sigue. El próximo modelo ya está entrenando al que le sigue. Y nadie quiere llegar segundo.
TC / EM
