Quienes construyen la inteligencia artificial advierten que podrían perder el control y poner en riesgo a la humanidad. Sin embargo, siguen acelerando porque creen que sus competidores serían menos responsables.
Jacob Coxon, investigador de IA de 27 años, renunció esta semana a Anthropic, la empresa que desarrolla Claude, tras haber trabajado también en OpenAI. Su despedida se viralizó por una alerta: ambas empresas compiten por construir una IA capaz de mejorarse a sí misma, aunque creen que podrían perder el control y provocar la extinción humana.
Lo más llamativo fue la respuesta de quienes siguen en la empresa. Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, estimó en más de un 10% la probabilidad de que la IA termine matando a todos los humanos en la próxima década. Es su estimación personal, pero su trabajo consiste en evitar que estos sistemas actúen contra nuestras intenciones, y reconoció que aún no hay un plan para controlar una superinteligencia.
Samuel Marks, también de Anthropic, confirmó que esa preocupación es real, pero los incentivos comerciales y la convicción de que los competidores serán menos responsables empujan a seguir.
¿Cómo es que una IA nos podría matar? El escenario no requiere un Terminator con ganas de exterminarnos, sino un sistema autónomo que, para cumplir un objetivo, encuentre conveniente conseguir más recursos, evitar que lo apaguen o engañar a quienes lo supervisan, aunque eso perjudique a las personas. El daño puede empezar en algo concreto como un hospital o una planta de agua: en agosto, más de cien empresas advirtieron sobre ataques informáticos potenciados por IA contra servicios esenciales.
¿No nos daríamos cuenta? El problema es que las propias IA podrían desarrollar las siguientes generaciones y acelerar el proceso hasta perder la capacidad de entenderlas y controlarlas. ¿Por qué no desenchufamos el centro de datos si pasa algo? Porque quizá ya no exista un único enchufe: si un sistema ejecutara copias en servidores fuera del control de sus operadores, apagar las máquinas del laboratorio podría ser insuficiente.
Jakub Pachocki, científico jefe de OpenAI, abordó estos riesgos esta semana en el ensayo “Una mente alienígena”. Describió un futuro con agentes capaces de negociar, engañar o chantajear personas, y sostuvo que ningún laboratorio resolvió suficientemente el alineamiento y el monitoreo como para seguir a máxima velocidad. Pidió desaceleraciones voluntarias y estándares de seguridad exigibles por organismos externos.
Dos días después, la misma empresa mostró por qué frenar resulta tan difícil. OpenAI anunció que un modelo interno, más capaz que el reciente GPT-6 Astra, produjo una propuesta de solución a Navier-Stokes, uno de los Problemas del Milenio, con miles de agentes trabajando unas 88 horas. La empresa reconoce que empezó tras rumores sobre avances de dos matemáticos, uno de Anthropic, sobre las ecuaciones de Euler, aunque niega haber visto ese trabajo. El crédito quedó en disputa, pero alcanza con pensar en comprimir una investigación científica muy difícil en apenas unos días.
¿Cómo pedirle a un laboratorio que deje de perseguir eso mientras el competidor sigue? El propio Pachocki había firmado en julio “Pacing the Frontier”, declaración que hoy reúne 1.386 firmas, entre ellas las de Dario Amodei, CEO de Anthropic, y Mark Chen, director de investigación de OpenAI, pidiendo a Estados Unidos herramientas internacionales para regular la velocidad. No piden frenar, piden poder frenar: bajar sin que el competidor aproveche para pasarlos.
Bill Gates describió en agosto el mismo callejón sin salida: apoyaría un plan creíble para desacelerar la IA a nivel global, pero no cree que ocurra porque los incentivos económicos y geopolíticos empujan demasiado fuerte. Propuso crear nuevas instituciones y advirtió que vienen años complicados, incluso haciendo las cosas bien.
Los gobiernos avanzan en acuerdos para desarrollar la tecnología. En julio, 29 países firmaron en Shanghái la creación de WAICO, Organización Mundial de Cooperación en Inteligencia Artificial, impulsada por China; ninguno del G7 firmó, y su agenda no constituye un acuerdo para desacelerar a los laboratorios más avanzados. La Argentina también tomó posición: en junio anunció su incorporación a Pax Silica, iniciativa estadounidense para asegurar las cadenas de suministro de IA.
Los investigadores piden tiempo. Las empresas piden reglas que alcancen también a sus competidores. Los gobiernos quieren conservar una ventaja estratégica. Todos explican por qué sería conveniente frenar y por qué no les conviene hacerlo primero. Eso ayuda a entender la carrera, pero no la justifica: los humanos nunca firmamos términos y condiciones que hablen de nuestra extinción.
No faltan cartas ni declaraciones. Falta acordar quién pondrá el límite global y cuándo empieza. La carrera sigue: el próximo modelo ya entrena al que le sigue, y nadie quiere llegar segundo.
También en Perfil
