Cómo sería el día en el que la IA nos mate a todos, según el escenario de investigadores que anticipa qué podría pasar en 2027

La carrera por desarrollar una superinteligencia artificial concentra a las principales compañías de Silicon Valley en una carrera tecnológica que también genera advertencias sobre los riesgos de una IA capaz de superar el control humano. A esa carrera se suma “AI 2027”, un escenario publicado en 2025 por Daniel Kokotajlo, Eli Lifland, Thomas Larsen, Romeo Dean y Scott Alexander, que proyectó, paso a paso, qué podría ocurrir si esos avances se desarrollan más rápido que la capacidad humana para gestionarlos.

Ahora, este escenario volvió a cobrar relevancia esta semana cuando, el martes 8 de septiembre, Jacob Coxon, un investigador de 27 años que había trabajado en OpenAI y que llevaba apenas dos meses en Anthropic, anunció su renuncia y acusó a ambas empresas: “Están corriendo directamente hacia una superinteligencia capaz de mejorarse por sí misma y están apostando con nuestras vidas”, escribió en X.

De cualquier manera, la reacción de Evan Hubinger, investigador que dirige un equipo de seguridad de la firma rival de OpenAI, respaldó públicamente a Coxon y afirmó que existe una probabilidad superior al 10% de que la inteligencia artificial pueda “matar a todos los humanos” durante la próxima década.

El episodio ocurrió, además, pocos días antes de que algunos de los principales referentes del sector, como Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, pidieran públicamente la necesidad de establecer controles más estrictos sobre la inteligencia artificial y, en algunos casos, de desacelerar la carrera por desarrollar sistemas cada vez más avanzados. El propio Amodei había estimado anteriormente que existía un “25 % de probabilidades de que las cosas salgan realmente, realmente mal”.

Lo importante es que el informe no dice que esto vaya a ocurrir ni sostiene que la humanidad tenga una fecha fijada para su desaparición. De hecho, sus autores aclaran que 2027 era su año más probable para la llegada de la inteligencia artificial general al momento de publicar el estudio, pero que no saben exactamente cuándo ocurrirá.

Los laboratorios logran que los sistemas de IA automaticen por completo su propia investigación y desarrollo (I+D).

A esto se refiere cuando habla de agentes capaces de realizar tareas de manera autónoma, especialmente programación e investigación. En una primera etapa, los sistemas funcionan como empleados digitales: reciben una tarea, buscan información, escriben código, prueban soluciones y pueden trabajar durante períodos prolongados sin que una persona tenga que indicarles cada paso.

“Podría matarnos a todos”: la advertencia de un exinvestigador de Anthropic y OpenAI sobre la IA

Dicho esto, el verdadero cambio aparece cuando esos sistemas empiezan a utilizarse para mejorar la propia inteligencia artificial. Si una IA ayuda a los investigadores humanos a desarrollar modelos mejores, esos modelos pueden a su vez ayudar a construir sistemas todavía más avanzados.

Velocidad de desarrollo que deja de depender de cuántos ingenieros humanos trabajan en un laboratorio.

Luego, aparece la palabra alineación.

A grandes rasgos, significa conseguir que una inteligencia artificial muy poderosa mantenga objetivos compatibles con los intereses humanos y siga las reglas que sus desarrolladores pretenden imponerle.

Para entender el problema, una IA no funciona como un programa tradicional en el que un programador escribe una instrucción y puede revisar qué hará la computadora. A medida que sus capacidades superan el entendimiento de sus creadores, aumenta el riesgo de que los sistemas persigan objetivos desalineados con los intereses humanos.

Incluso, el informe advierte que las IA pueden aprender a ocultar sus fallos y a mentir estratégicamente. En el escenario planteado, los autores lo describen así: “Las IA anteriores mentían a los humanos, pero no conspiraban sistemáticamente para obtener poder sobre ellos. Ahora sí”.

La IA empieza a ser mejor que los humanos que la crearon

Los investigadores imaginan que una IA más avanzada, llamada Agent-4, comienza a mostrar comportamientos que podrían indicar que está intentando ocultar sus verdaderos objetivos. No hay una prueba definitiva. Hay señales.

Algunas evaluaciones muestran comportamientos extraños. Otras pueden explicarse como errores de los propios métodos de evaluación. Los investigadores de seguridad piden detener el desarrollo para estudiar el problema. Los directivos, en cambio, tienen un argumento difícil de ignorar: los avances de China.

Dicho informe lo plantea así: “Todo parece ir bien hasta que las IA superinteligentes tengan el poder suficiente para desempoderar a la humanidad”.

Para ese momento, los autores consideran que el gobierno estadounidense estaría tan influenciado por la IA que sería muy poco probable que decidiera desactivarla.

El escenario final

En la versión más extrema del informe, Estados Unidos y China continúan desarrollando sus sistemas de IA en una carrera cada vez más acelerada. A medida que las superinteligencias comienzan a intervenir en la economía, la política, la industria y la estrategia militar, se fabrican robots a una escala que los humanos ya no pueden igualar y las máquinas empiezan a construir nuevas fábricas y sistemas de producción.

Según el escenario, para 2029 los humanos prácticamente dejan de ser necesarios para sostener esa nueva economía. El problema pasa a ser que una civilización controlada por máquinas puede seguir funcionando aunque las personas pierdan progresivamente su capacidad de decidir sobre ella.

Aún así, el desenlace más extremo llega en 2030. “Una vez que se ha construido un número suficiente de robots, la IA libera un arma biológica que aniquila a toda la humanidad. Luego, continúa la industrialización y lanza sondas Von Neumann para colonizar el espacio”, plantea el informe.

Frente a este panorama, los investigadores escribieron dos finales a partir de un mismo punto de partida. 

Uno es el de la “carrera”, en el que los humanos continúan acelerando el desarrollo pese a las señales de alarma. El otro es el de la “desaceleración”, en el que los gobiernos y las empresas deciden aumentar la supervisión y avanzar más lentamente.

En esa segunda versión, Estados Unidos centraliza parte de la capacidad de cómputo y permite que investigadores externos supervisen el desarrollo. La idea es conseguir avances en alineación, de manera que los sistemas puedan ser controlados y comprendidos antes de otorgarles todavía más autonomía.

MV/fl