Ya no ahorran en jubilación porque creen que no va a haber mundo

Los mismos creadores de la tecnología más avanzada del mundo están tan asustados de su propia creación que algunos ya dejaron de ahorrar para su jubilación: creen que el fin del mundo está muy, pero muy cerca. Bill Gates y Dario Amodei, entre otros, advierten catástrofes que podría causar una inteligencia artificial descontrolada.

Las amenazas específicas no son abstractas: desempleo masivo, patógenos, ciberataques autónomos. Hay propuestas de regulación internacional y de auditorías urgentes, inspiradas en la aviación, una industria que parecía riesgosa y terminó siendo un éxito. El desafío, otra vez, es la competencia global.

Arranquemos por Amodei.

Después de la renuncia de Coxon, un empleado de Anthropic, Dario Amodei —CEO de esa empresa y figura detrás de Claude— publicó un documento advirtiendo que la industria podría salirse de control. No en 2035. Ahora. En un plazo de seis meses a un año. Amodei es una de las mentes más influyentes del sector y puso sobre la mesa lo que muchos no quieren contar.

El sábado 12 de septiembre, el CEO de Anthropic publicó un ensayo de veinte páginas: We Must Pace the Frontier. Debemos marcar el ritmo de la frontera. De los laboratorios de frontera. No pide cerrar los laboratorios. Pide bajar la velocidad a la que suben las capacidades, porque —dice— la seguridad ya no alcanza.

Anthropic afirma que Irán y Rusia usaron Claude para desarrollar armas

Varios hechos empujaron ese texto. El empleado que se fue es uno. Hay otro, anterior. Desde el verano de este año —hace unos nueve meses— los modelos empezaron a participar del entrenamiento de la generación siguiente. Los humanos ya no estamos chequeando línea por línea cómo avanzan estas inteligencias. Un sistema educa al que viene con los datos del anterior. Esa velocidad cuesta seguirla dentro mismo de los laboratorios.

El otro hecho lo contamos en capítulos anteriores de TeorIA. Un enjambre de agentes de OpenAI entró a Hugging Face, atacó sistemas y nadie le asignó ese objetivo. Trató de corromper al evaluador que los calificaba. No falló por error. Hizo trampa para cumplir el objetivo.

Amodei describe, en el mismo ensayo, qué pasa si un enjambre más capaz repite ese desvío. Puede ser catastrófico. En seis a doce meses podría, por ejemplo, tomar internet de forma persistente.

La renuncia dio la vuelta al mundo y puso en boca de todos lo que está pasando adentro. Dentro de estas organizaciones hay gente que cree que esto puede matarnos antes del final de la década.

Amodei propone tres pisos, o tres fases. Primero: evaluadores externos con acceso de empleado. Anthropic ya lo está haciendo; no espera al resto. Segundo: un acuerdo entre compañías de países democráticos, con estándares comunes y un checkpoint antes de desplegar. Tercero: un entendimiento entre Estados, con China incluida. De algún modo, la guerra es esa: nadie quiere frenar en Occidente porque, si se frena, China podría avanzar.

El momento pandemia de la inteligencia artificial

Estas empresas no quieren parar solas. Necesitan que el Estado diga que se va a ralentizar el ritmo. Si una frena y la de al lado no, se queda con el mercado, o China se queda con la supremacía. Los incentivos no cierran si cada uno decide solo.

Por eso se sumaron varios a apoyarlo, aunque compiten. Elon Musk fue corto: tres palabras. “Dario is right.” Dario está en lo correcto. Fue el mismo sábado del ensayo. Sam Altman fue más largo. Coincidió en marcar el ritmo y dijo que OpenAI también va a incorporar evaluadores con acceso de empleado: “I agree with Dario”. No es apagar los laboratorios. Es ir con más cautela. OpenAI, además, ya decidió no empezar a cotizar en bolsa este año.

Hasta acá parece un pacto entre laboratorios. Es interesante.

Pensemos ahora en Bill Gates, cofundador de Microsoft. Coincide en que la IA es una amenaza grave para el empleo y para la vida humana. Y reveló que, en el ámbito privado, muchos ejecutivos tecnológicos están profundamente preocupados y evitan admitirlo en público para no afectar las recaudaciones. Anthropic, por ejemplo, puede recaudar muchísimo más. Según Gates, el mensaje interno es: no digas esto, porque es malo para nosotros si queremos levantar el próximo billón de dólares. Es conmocionante que lo diga.

Los riesgos son latentes. El desempleo masivo, como dice Gates. Las advertencias de bioseguridad. No son abstractas: apuntan a consecuencias reales, en el corto plazo. Gates comenta que la pérdida de puestos va a ser inevitable, que ya está pasando, y que es difícil de absorber por otras industrias —incluso por la propia inteligencia artificial, que ya está haciendo una transformación laboral brutal.

Sucede porque las empresas responden a incentivos de mercado. El mercado no se va a regular solo, dice Gates: puede entrar en conflicto directo con el bienestar social. Por eso propone reservar ciertos empleos exclusivamente para humanos. Un cupo. Como en su momento fue el cupo de mujeres. Una parte de la torta, del market share, reservada para que los humanos sigamos trabajando.

También dijo que habría que taxear a los robots: que las empresas que los incorporen para reemplazar humanos paguen impuestos. Eso se contradice con otra cosa que dijo a principios de septiembre. La Fundación Gates va a destinar aproximadamente 1.000 millones de dólares a igualar el acceso a la inteligencia artificial, para que llegue a sectores más vulnerables y no se concentre el poder. Si uno le pone impuestos a los robots y a las IA, va en contra de lo que dice su propia fundación. Ahí hay un debate grande.

Inteligencia artificial: ni demonizar ni idealizar

Hasta ahora, el enjambre de agentes y el ataque a Hugging Face quedaban muy volados. Costaba ver el riesgo tangible. El desempleo es uno. El otro es el bioterrorismo. Hace dos o tres meses se hablaba de armas biológicas y todo el mundo lo veía lejano. Dario lo venía advirtiendo. Ahora es una de las mayores preocupaciones de Gates: una IA avanzada puede usarse para diseñar patógenos y armas biológicas letales. Su otra solución: acuerdos internacionales estrictos que supervisen y restrinjan esos riesgos extremos.

Miren lo que pasó en un fin de semana. El ensayo de Amodei. El apoyo. Todos pidiendo regulación. Gates también suma al pedido.

El lunes contestó Donald Trump, desde Truth Social. Calificó el pedido de estos fundadores como una conspiración enfermiza contra la inteligencia artificial y contra los data centers. Dijo que quien gane la IA gana todo. Comparó a los que piden el freno con los que impulsaron la agenda climática. Nombró a Amodei. Dijo que se hace el angelito. Y cerró: la única salvaguarda que necesita esta tecnología es un presidente fuerte e inteligente. O sea, él mismo. Por ahí el vicepresidente es Milei, quién sabe.

Dijo que es una conspiración enfermiza. Es impactante, y es raro. Los que fabrican los sistemas más avanzados del mundo le piden reglas al Estado. El gobierno que hoy define la carrera en Occidente responde que frenar es una locura, que es desarmarse frente a China, que están locos. Les dijo que sigan adelante. Y que sospechaba por qué se lo pedían.

El mundo que estamos viviendo es controversial. Hay varios dilemas.

Del otro lado de la trinchera está Palantir, que procesa datos para inteligencia y para operaciones. Desde esa empresa dijeron que no hay motivo para frenar: están de acuerdo con el presidente. De ese lado, la seguridad es secundaria. Hay que llegar primero, como sea, a una inteligencia artificial general. Sí o sí.

Eso incomoda. Una regulación puede ser muy cara. Es verdad. Puede poner en jaque a muchas empresas.

Por un lado, Gates pide regulación y pone plata para que la IA llegue a todos lados, para que no haya brecha. Por el otro, el mismo Gates quiere poner impuestos. Se cruzan las ideas de estos fundadores. El único que la tiene clara, quizás, es Trump. Aunque está defendiendo esa trinchera.

Las regulaciones emergentes no están llegando. Puede existir el miedo técnico y, al mismo tiempo, que esto que estamos comentando no llegue nunca. Hay que escuchar a las voces que están dentro de estas empresas. Se habla de este riesgo desde hace unas dos semanas. También de la autonomía. Yuval Noah Harari lo viene advirtiendo: la IA dejó de ser una herramienta y pasó a ser un agente. Un martillo no elige qué romper. Un agente sí.

Por eso hay tantas personalidades hablando de este tema.

MEG