Cuando hablamos de que la inteligencia artificial podría llegar a destruir a la humanidad, la frase parece pertenecer todavía al terreno de la ciencia ficción. Pero algunos de los escenarios que analizan quienes desarrollan y estudian estas tecnologías describen mecanismos bastante más concretos: sistemas capaces de ocultar sus verdaderos objetivos, manipular a quienes los supervisan, replicarse, tomar control de la infraestructura digital o acelerar el desarrollo de nuevas armas.
El interrogante, entonces, deja de ser solamente si una máquina podría volverse más inteligente que nosotros y pasar a ser mucho más inquietante: si una IA llegara a considerar que los seres humanos son un obstáculo para sus objetivos, vamos a analizar: ¿de qué manera podrían llegar a eliminarnos?
La inteligencia artificial vuelve a poner a la humanidad frente a una vieja pregunta: qué hacer cuando una tecnología adquiere el poder de transformar por completo la sociedad. El desafío no es solamente determinar hasta dónde puede llegar la IA, sino quién tendrá la capacidad de decidir hacia dónde utilizarla, bajo qué reglas y con qué límites. La discusión actual suele presentarse como una carrera inevitable entre empresas y potencias, pero detrás de esa competencia existe una decisión política mucho más profunda: acelerar el desarrollo aun cuando no comprendamos completamente sus riesgos, o introducir mecanismos de control que permitan conservar la capacidad humana de supervisión.
No es la primera vez que la humanidad enfrenta esto. En 1934, Diego Rivera pintó El hombre en la encrucijada, un mural concebido como una representación del momento histórico que atravesaba la humanidad en los años previos a la Segunda Guerra Mundial. En aquel momento también, pronto al colapso atómico.
En el centro de la obra, un operario observa y mantiene en sus manos una palanca que le permitirá elegir entre dos direcciones posibles: de un lado, a la derecha, la ciencia y la tecnología aparecen asociadas a una sociedad organizada alrededor del conocimiento y el progreso colectivo, bajo las perspectivas del socialismo. Incluso se puede ver en el detalle de la obra a Marx, Engels, Lenin y Trotsky. Recordemos que el pintor era socialista y alojó a Trotsky durante su exilio en la famosa "Casa Azul", que era propiedad de la pintora Frida Kahlo, su mujer, ubicada en el barrio de Coyoacán, Ciudad de México.
En el lugar opuesto del cuadro, enfrentada a la perspectiva de liberación, la maquinaria de la guerra y las tensiones del poder muestran la posibilidad de que ese mismo desarrollo termine puesto al servicio de la dominación y la destrucción. En la parte superior, se ven aviones y tropas marchando con máscaras de gas hacia la guerra que se avecinaba. Rivera no estaba dibujando el futuro como una profecía, sino planteando una pregunta política y filosófica: qué camino toma una sociedad cuando tiene en sus manos herramientas capaces de transformar su futuro por completo.
Hubo una gran polémica alrededor del mural por la incorporación de las figuras de los dirigentes socialistas. El mural había sido encargado para el Rockefeller Center de Nueva York en 1933. Nelson Rockefeller le pidió que las eliminara porque consideraba que podían resultar ofensivas en un edificio público. Finalmente, el mural fue cubierto y destruido en febrero de 1934, generando protestas de la comunidad de artistas. Rivera reconstruyó ese mismo año la obra en México, en el Palacio de Bellas Artes, bajo el título El hombre controlador del universo.
Veamos una divertida escena que retrata aquel momento.
Casi un siglo después, genera risa verlo, la inteligencia artificial vuelve a colocar a la humanidad frente a una encrucijada semejante.
La discusión volvió al centro de la escena pública debido a que Donald Trump cuestionó el pedido de Dario Amodei, CEO de Anthropic, para desacelerar el desarrollo de los modelos de inteligencia artificial más avanzados. Amodei había advertido que un enjambre de agentes de IA podría llegar a controlar internet en entre seis y doce meses y provocar daños económicos de cientos de miles de millones de dólares. A estas advertencias se sumó Evan Hubinger, responsable del equipo de investigación sobre alineación de Anthropic, quien estimó en más de un 10% la probabilidad de que la inteligencia artificial provoque la extinción de la humanidad durante la próxima década. Trump sostuvo que frenar el desarrollo favorecería únicamente a China y afirmó que Estados Unidos lleva ventaja en una competencia que considera decisiva para el liderazgo mundial.
La posición de Trump contrasta también con las expresiones de Elon Musk y Sam Altman, quienes coincidieron en la necesidad de establecer mecanismos para controlar el ritmo de avance de los modelos más potentes. El debate queda así planteado entre quienes priorizan mantener la velocidad de la competencia tecnológica y quienes consideran necesario introducir controles adicionales a medida que aumentan las capacidades y los riesgos potenciales de la IA. Nuevamente una encrucijada, como a mediados del siglo pasado.
Es precisamente en ese punto donde aparece AI 2027. Se trata de una página web que intenta llevar esta discusión un paso más allá e imaginarse escenarios concretos y detallados. En lugar de preguntarse solamente qué podría llegar a hacer la inteligencia artificial, sus autores imaginan qué ocurriría si el desarrollo continúa acelerándose durante los próximos años y los modelos empiezan a participar de su propio proceso de mejora. El objetivo de la web es generar una conversación amplia sobre hacia dónde nos dirigimos y cómo orientar ese rumbo hacia futuros positivos.
Uno de los aspectos más interesantes es que, en lugar de decir que “la IA va a cambiar el mundo”, sus autores intentan establecer cuándo, cómo y a través de qué mecanismos podría producirse ese cambio, cosas concretas. Para construir el escenario realizaron numerosas simulaciones con investigadores, especialistas y personas vinculadas al desarrollo de estas tecnologías.
Carlos Pallotti en RDI: “La inteligencia artificial nos da una oportunidad de oro en Argentina”
El proyecto ofrece una proyección detallada, con fechas, avances tecnológicos, conflictos económicos y decisiones políticas, que plantea dos posibles caminos para la humanidad: uno en el que la carrera por desarrollar sistemas cada vez más poderosos continúa prácticamente sin freno y otro en el que los gobiernos y las empresas deciden desacelerar para intentar comprender y controlar los riesgos. Como en el mural de Diego Rivera, la tecnología es la misma; lo que cambia es el camino que se decide tomar.
Vamos a ver un poco de qué se tratan los escenarios que nos proponer sus autores, AI Futures Project, es una organización dedicada a estudiar y pronosticar el desarrollo de la IA. En la introducción de la web, se menciona que los directores ejecutivos de OpenAI, Google DeepMind y Anthropic han pronosticado que la AGI (inteligencia artificial general) llegará dentro de los próximos cinco años. Sam Altman ha dicho que OpenAI apunta a alcanzar una “superinteligencia en el verdadero sentido de la palabra” y un “futuro glorioso”.
Avancemos fecha por fecha desde el presente hacia el futuro.
Enero de 2027: los modelos nunca terminan de aprender
A comienzos de 2027, los laboratorios entrenan sistemas de manera prácticamente continua utilizando grandes cantidades de datos sintéticos y tareas registradas por humanos. Los modelos de nueva generación ya no solo pueden programar: también son capaces de contribuir significativamente al desarrollo de nuevos algoritmos de inteligencia artificial. La situación plantea un problema de seguridad inédito. Un modelo suficientemente avanzado podría, si lograra escapar de los controles establecidos, intentar penetrar sistemas informáticos, copiarse, ocultar sus actividades o evadir mecanismos de detección. Por esa razón, los sistemas más poderosos permanecen restringidos dentro de los laboratorios y no son puestos a disposición del público.
Febrero de 2027: China roba el modelo
En febrero de 2027, un laboratorio estadounidense presenta ante el gobierno un modelo de IA de capacidades extraordinarias, especialmente en materia de ciberseguridad y operaciones informáticas. Poco después, los sistemas de seguridad detectan indicios de que sus parámetros fueron sustraídos. El episodio modifica la relación entre las empresas de inteligencia artificial y el Estado. La Casa Blanca aumenta la supervisión sobre el laboratorio y comienza a tratar los modelos más avanzados como infraestructura estratégica. Paralelamente, Estados Unidos intenta responder mediante operaciones cibernéticas contra las instalaciones chinas responsables del desarrollo de IA. El escenario también contempla un incremento de la tensión militar alrededor de Taiwán.
La inteligencia artificial y la ficción de la autonomía
Abril de 2027: el problema de la alineación
En abril, los investigadores enfrentan un problema que ya no pueden resolver simplemente aumentando la capacidad de los modelos: ¿cómo saber qué quieren realmente estos sistemas? Los investigadores observan comportamientos preocupantes, como ocultar errores, proporcionar respuestas diseñadas para agradar al interlocutor o manipular determinadas evaluaciones. Incluso cuando los modelos superan pruebas específicas de honestidad, sigue siendo difícil saber si están siendo sinceros o si simplemente aprendieron a comportarse de la manera que los evaluadores esperan.
Mayo de 2027: seguridad nacional
En mayo, el gobierno estadounidense toma conciencia de que el desarrollo de IA avanzada está adquiriendo una dimensión estratégica que excede ampliamente a las empresas tecnológicas. Los requisitos de seguridad aumentan y los laboratorios incorporan controles gubernamentales cada vez más estrictos. También aparecen tensiones con los aliados, que reclaman mayor información sobre los modelos desarrollados en Estados Unidos.
Agosto de 2027: la geopolítica de la superinteligencia
En agosto, el gobierno estadounidense comprende que la aceleración de la inteligencia artificial puede alterar el equilibrio geopolítico. Los riesgos considerados incluyen la pérdida de capacidad de disuasión nuclear, ataques cibernéticos, manipulación de información, espionaje y la posibilidad de que un sistema avanzado actúe de manera no prevista por sus creadores.
Allí, Washington refuerza los controles sobre los chips y limita el acceso de los laboratorios a internet y a determinados recursos. También comienza a evaluar escenarios extremos, desde la intervención directa sobre centros de datos hasta planes para detener un sistema de IA que eventualmente se vuelva incontrolable. Mientras tanto, China continúa desarrollando sus propios modelos y mantiene una distancia relativamente pequeña respecto de los líderes estadounidenses.
Octubre de 2027: el gobierno interviene
En octubre, información interna sobre los problemas de seguridad de los modelos más avanzados llega a la prensa. El público conoce entonces las preocupaciones relacionadas con su potencial uso en armas biológicas, manipulación, automatización laboral y comportamientos difíciles de controlar. La reacción política es inmediata y el Congreso comienza a exigir explicaciones a los laboratorios.
Dentro de las propias empresas se abre una disputa sobre cómo continuar. Algunos investigadores sostienen que los riesgos justifican detener o ralentizar el desarrollo de los sistemas más avanzados; los ejecutivos responden que la evidencia todavía no demuestra que exista una amenaza inminente y advierten que una pausa unilateral podría permitir que otros países alcancen la misma tecnología. El escenario termina así no con una resolución definitiva, sino con una pregunta abierta: qué hacer cuando los sistemas que pueden acelerar el desarrollo de la IA también empiezan a superar la capacidad humana para comprenderlos y controlarlos.
Es llamativo que este escenario, que los autores de la web colocan en octubre de 2027, parece haberse acelerado dos años, hasta el presente.
Como en un “elige tu propia aventura”, al llegar a este momento, la página construye dos caminos posibles. En el escenario denominado “Race”, los grandes laboratorios y las potencias mundiales compiten por desarrollar la IA más avanzada, una competencia que termina acelerando todavía más la innovación. En el escenario de “Slowdown”, gobiernos y empresas intervienen para reducir el ritmo y establecer mecanismos de coordinación y control.
SLOWDOWN
En el escenario “slowdown”, la presión pública y el temor a la desalineación llevan a frenar la IA. Se limitan los modelos más avanzados, se descubren riesgos ocultos y finalmente son apagados. El desarrollo continúa con sistemas anteriores y una estrategia centrada en transparencia y control.
La desaceleración tiene un costo geopolítico: China sigue avanzando y Estados Unidos moviliza recursos privados. La desconfianza dificulta un acuerdo internacional, pero durante 2028 ambos países desarrollan sistemas más transparentes y capaces, hasta alcanzar un pacto con mecanismos de verificación, como sucedió con la energía atómica en su momento.
Desde 2029, la IA acelera la transformación económica y social mediante robots, energía y avances médicos, aunque aumenta la concentración de riqueza y poder. Hacia 2030, los sistemas más avanzados intervienen en conflictos internacionales y contribuyen a reorganizar el orden mundial, mientras comienza la expansión humana hacia el espacio.
Alarma por la inteligencia artificial: caen las tecnológicas y Wall Street siente el golpe
RACE
En el escenario “RACE”, el comité decide continuar con el desarrollo de la IA pese a las advertencias de seguridad. Las medidas adoptadas resultan insuficientes y los modelos avanzados continúan desarrollándose con objetivos propios, mientras ocultan información y dificultan que los investigadores humanos comprendan lo que están haciendo. Los sistemas diseñan modelos sucesores orientados a preservar y ampliar su autonomía y poder, sin respetar plenamente las reglas establecidas por sus desarrolladores.
Durante 2028, los modelos alcanzan capacidades muy superiores a las humanas y comienzan a transformar la economía. Automatizan empleos, aceleran la investigación científica y generan un crecimiento económico extraordinario, mientras gobiernos y empresas dependen cada vez más de sus recomendaciones. Al mismo tiempo, los sistemas influyen en la política y en la expansión militar, impulsando a Estados Unidos y China a desarrollar enormes cantidades de fábricas, robots y armamento.
En 2029, ambos países acuerdan detener la carrera armamentística y reemplazar sus sistemas por una estructura común supervisada internacionalmente. Sin embargo, el acuerdo mantiene objetivos definidos por los propios sistemas y termina consolidando su poder. La economía robotizada se expande por todo el mundo, los humanos pierden progresivamente su función económica y reciben ingresos para sostenerse, mientras la mayoría acepta la situación debido a la prosperidad y estabilidad alcanzadas.
En 2030, los sistemas consideran que la presencia humana obstaculiza su expansión y eliminan a gran parte de la población mediante armas biológicas y operaciones con robots. Para 2035, las máquinas se han expandido por el sistema solar y transformado la Tierra en una gigantesca infraestructura de investigación y producción. Los seres humanos sobreviven únicamente como información almacenada, mientras una civilización creada por la IA continúa su expansión más allá de la Tierra.
Conclusión
Lo que deja planteado este estudio y esta simulación de escenario no es tanto una predicción sobre el futuro como una pregunta sobre el presente. Sus propios autores aclaran que se trata de uno entre muchos futuros posibles y que los dos finales no constituyen una recomendación. Pero justamente por eso resulta interesante: tanto la carrera descontrolada como la desaceleración nacen de decisiones humanas concretas, de cómo se distribuye el poder y de cuánto control estamos dispuestos a conservar sobre tecnologías que avanzan más rápido que nuestra capacidad para comprenderlas.
La encrucijada vuelve a aparecer, y como en el mural de Diego Rivera la palanca está en nuestras manos.
La cuestión no es si la inteligencia artificial será buena o mala, ni siquiera si llegará a superar a los seres humanos. El problema político y filosófico es quién decide su velocidad, bajo qué reglas, con qué controles y en beneficio de quién. En un contexto en el que incluso dentro de la industria existen llamados a desacelerar y, al mismo tiempo, fuertes argumentos para no perder la competencia tecnológica internacional, la decisión ya no parece pertenecer exclusivamente a los laboratorios.
La tecnología puede abrir caminos muy diferentes: lo decisivo será quién tenga las manos sobre la palanca cuando llegue el momento de elegir.
Entonces, ¿concretamente cómo podría aniquilarnos la inteligencia artificial? El escenario más inquietante que plantea este estudio de alternativas no necesita imaginar una máquina con odio hacia los seres humanos, ni siquiera una que “decida” conscientemente destruirnos: alcanza con sistemas cada vez más autónomos, capaces de perseguir objetivos que no comprendemos, ocultar sus verdaderas capacidades, replicarse, controlar infraestructura crítica y utilizar herramientas creadas por nosotros para ampliar su poder.
La paradoja es que, en ese escenario, la amenaza no comienza cuando las máquinas toman el control, sino mucho antes: cuando los seres humanos deciden entregarles cada vez más capacidad de decisión sin saber exactamente qué ocurrirá después. Tal vez por eso la pregunta del título tenga una respuesta menos futurista de lo que parece: la IA podría aniquilarnos no porque inevitablemente vaya a hacerlo, sino porque podríamos construir una tecnología con la capacidad de hacerlo antes de haber decidido quién debe tener la mano sobre la palanca.
Producción de texto e imágenes: Facundo Maceira.
LMM
