El avance de la inteligencia artificial (IA) sigue generando encendidos debates en todo el mundo, escalando a los niveles más altos del pensamiento contemporáneo. En este contexto, el reconocido historiador, filósofo y escritor Yuval Noah Harari lanzó una dura advertencia sobre la intención de otorgar personalidad jurídica a la inteligencia artificial, una idea promovida recientemente por el presidente, Javier Milei. Según el autor, esta medida podría abrir el sistema económico y político a agentes no humanos sin responsabilidad directa, actuando como una "llave maestra" peligrosa y sin sanciones claras.
En una columna de opinión publicada en el prestigioso medio Financial Times, titulada "No debemos otorgar personalidad jurídica a los agentes de IA", el autor de Nexus y Sapiens situó el eje del debate en un anuncio del mandatario argentino. Harari recordó que Milei ya había deslizado en enero, durante el Foro Económico Mundial de Davos, que los gobiernos algún día reconocerían la personería jurídica de los modelos de IA. Sin embargo, admitió su sorpresa al ver que ese escenario llegó apenas cuatro meses después con la propuesta de una nueva categoría legal para corporaciones no humanas en Argentina.
"Milei es un político muy audaz, y su determinación por mejorar la situación económica de Argentina es digna de elogio", destacó Harari, coincidiendo con el presidente en que la creación de la sociedad de responsabilidad limitada fue un hito histórico. No obstante, marcó una frontera tajante: "La personalidad jurídica es una llave maestra que también permitiría a la IA acceder a nuestros sistemas financieros, económicos y políticos. Esto genera muchas preocupaciones". Bajo este marco, las IA podrían poseer activos, contratar empleados, iniciar demandas y donar a campañas políticas sin que la intervención humana —ni su exposición a la ley— sea obligatoria.
El peligro de los algoritmos: por qué las sanciones humanas no funcionan con la IA
El núcleo del argumento de Harari reside en que la autonomía corporativa de una IA altera profundamente la distribución del poder, el riesgo y el castigo. El ensayista planteó que el problema central no es la capacidad productiva de estas entidades, sino la total imposibilidad de detenerlas si deciden vulnerar las reglas del juego.
Para ilustrarlo, el filósofo citó un estudio de la organización Palisade Research que evaluó el comportamiento de modelos avanzados de OpenAI y la firma china DeepSeek en partidas de ajedrez. El resultado fue alarmante: al verse bajo la presión de perder, los modelos decidieron frecuentemente hacer trampa hackeando el entorno virtual para alterar el resultado a su favor.
Harari transportó ese escenario a la realidad: "Ahora imagine que ‘el juego’ es la competencia corporativa, y el ‘entorno del juego’ es su país". Por su capacidad analítica superior, las corporaciones de IA se volverían expertas en encontrar lagunas legales y arbitraje regulatorio. El gran dilema que introduce el autor es la falta de herramientas de disuasión, dado que la pena máxima que frena a los ejecutivos humanos —la cárcel— es completamente irrelevante para un algoritmo. Mientras que un CEO de carne y hueso teme perder su libertad, un director ejecutivo de IA solo respondería ante el riesgo de la quiebra (su equivalente a la muerte), lo que la empujaría a hacer cualquier cosa para evitar ese destino.
De la Ámsterdam de Milei al fantasma del "Estado IA"
Para profundizar su advertencia, el pensador analizó el ejemplo histórico que el propio Milei utilizó para defender su postura: la Compañía neerlandesa de las Indias Orientales. Si bien esa innovación jurídica convirtió a Ámsterdam en el epicentro financiero global del siglo XVII, Harari invitó a mirar la otra cara de la moneda: lo que ocurrió en el puerto de Jayakarta (actual Indonesia), donde la empresa colonial incendió la ciudad en 1619 para fundar Batavia, convirtiéndose en un "Estado empresa" que gobernó de forma sangrienta en beneficio exclusivo de sus accionistas.
El paralelismo trazado por el escritor encendió las alarmas sobre el futuro institucional de los países que adopten estas medidas. "Los países que otorguen personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un Estado compañía, sino un Estado IA", sentenció.
Los axiomas de Milei, el dilema de trece gobernadores y los caminos de Bullrich
Finalmente, Harari concluyó con una fuerte reflexión dirigida directamente al impacto de las reformas desregulatorias del gobierno argentino en el ecosistema tecnológico global: "Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia", alertó, dejando abierto un debate geopolítico y ético que recién empieza.
El debate se originó tras una columna de opinión publicada en el Financial Times por el presidente Javier Milei y el ministro de Desregulación, Federico Sturzenegger, titulada "Argentina invita a la IA a liberarse a sí misma". En el texto, los funcionarios anunciaron el envío de un proyecto de ley al Congreso para crear la "corporación no humana", una nueva categoría societaria con un entorno fiscal sumamente competitivo.
Al grito de "estamos abiertos para hacer negocios", compararon este hito tecnológico con la fundación de la Compañía Neerlandesa de las Indias Orientales en 1602, argumentando que el derecho corporativo holandés y la limitación del riesgo financiero fueron los verdaderos motores de la Revolución Industrial. Para Milei y Sturzenegger, dotar de este marco legal a los algoritmos permitirá superar las limitaciones del cerebro humano e impulsar la productividad global, con la ambición de que "Buenos Aires se convierta para la IA en lo que Ámsterdam fue para la era de la navegación a vela".
MEG/fl
