Empresas IA sin humanos: ¿innovación o delirio?

El presidente parece decidido a encontrar en la IA una bandera de modernización para la Argentina. Este año conocimos un nuevo intento gracias a una nota de opinión firmada por él en el Financial Times, titulada “Argentina invita a la IA a liberarse”. En ese artículo, el presidente propone crear en Argentina un nuevo tipo de empresas, las “empresas no humanas”, y las invita a registrarse y operar en el país a partir de un anteproyecto de ley que entró en el Congreso hace unos días.

El presidente le cuenta al mundo que estas empresas van a estar manejadas 100% por agentes de IA o robots sin intervención de ningún humano y plantea que así se promoverá el desarrollo libre de la IA.

Para entender la idea, hay que volver unos días atrás, a una presentación del ministro Federico Sturzenegger donde aclaró que serán “empresas que no tienen humanos, que son solo programas” y que si “creáramos el régimen jurídico para que esos agentes de IA se incorporen en Argentina, sería un país con 50 millones de habitantes y quizás 500 millones de agentes de inteligencia artificial”. Continúa diciendo que “estarían incorporados en Argentina pero produciendo para todo el mundo y pagando impuestos acá” logrando así “gravar casi todo el PBI mundial”.

Antes de seguir analizando el proyecto necesitamos pararnos un minuto a entender qué es un agente de IA que es parte integral de este proyecto. ¿Tiene siquiera sentido el planteo de 500 millones de agentes de IA como pseudo-habitantes del país?

Sturzenegger equipara a los agentes, en varias oportunidades, casi al nivel de personas individuales y autónomas. Pero, en el fondo, un agente de IA no es más que una ventana de ChatGPT con manos y ojos sentada en una computadora intentando resolver, como pueda, una tarea dada. Coincide con la idea de que un agente actúa por nosotros, como indica la RAE. Usa la computadora por nosotros.

En lugar de sugerirnos qué hacer ante un planteo como el chatbot, el agente intenta hacerlo él porque es un programa instalado en una computadora con permisos para usarla como una persona. Como puede usar una computadora, un agente puede atender llamadas, contestar correos electrónicos o entrar todos los días a sistemas internos y cuentas bancarias para hacer análisis operativos.

Borges y la inteligencia artificial

Pero hay algo muy importante: los agentes usan la misma inteligencia de los chatbots. Y eso implica que los agentes, como los chats, se equivocan. Cuando un chatbot se equivoca, nos da información falsa. Cuando un agente se equivoca, toma una decisión incorrecta y la lleva a cabo en el mundo real. Ya se registraron casos y pruebas públicas de agentes que eliminaron información, ejecutaron acciones no deseadas o gastaron presupuestos de forma errónea.

Al agente de IA le falta el criterio humano y le falta incentivos para seguir reglas mínimas de ética y moral: no le asusta el código penal, si es que siquiera estuviera alcanzado por él. Además, un agente no tiene conciencia y ni siquiera tiene identidad. Por más que mucha gente le ponga nombre a sus agentes, no existe la individualidad ni existe una persona natural que surja de la instalación de un agente. Es posible dividir a un agente en 10 agentes, o juntar 20 agentes en uno solo con una operación en un instante. 

Más allá de los errores que pueda cometer, los agentes son además un blanco fácil para los ciberdelincuentes. A comienzos de junio, Meta tuvo que corregir una falla después de que atacantes engañaran a su agente de IA de soporte para tomar control de miles de cuentas de Instagram, incluyendo algunas de alto perfil.

Volviendo al planteo de Milei, en el anteproyecto de reforma de la Ley de Sociedades, el tema aparece concentrado en un único artículo: el 14 donde se crean las “sociedades automatizadas”.

De aprobarse la ley, la sociedad que desarrolle su actividad “mediante sistemas algorítmicos autónomos o agentes de inteligencia artificial, sin requerir trabajadores en relación de dependencia ni recursos humanos para su operación ordinaria será considerada una Sociedad Automatizada”. Ese mismo artículo aclara que “responde con su patrimonio frente a terceros por los daños causados”. O sea, es de responsabilidad limitada.

SpaceX supera a Amazon en valuación de mercado después de anunciar la compra de la startup de IA Cursor

Para entender qué tipo de empresas espera el gobierno que puedan adherirse a este régimen analicemos un ejemplo que dio el propio ministro Sturzenegger en una reciente entrevista. Allí contó que una empresa para cuidar ancianos con robots en Dinamarca va a poder registrarse en Argentina. Esa empresa será manejada por agentes de IA, a los que presenta casi como personas, y sin ningún humano involucrado. Y que Toto Caputo elegirá cuánto cobrarles de impuestos pero que va a ser una tasa baja para competir en el mundo.

Es decir, una empresa que no tiene ni sede, ni cuenta bancaria, ni clientes, ni proveedores, ni operaciones en Argentina va a facturar acá y por ello va a pagar un impuesto bajo inflando el PBI como ya ocurrió en Irlanda con estructuras basadas en propiedad intelectual. Tampoco estaría limitado a la industria de la IA: cualquier empresa podría anotarse, siempre que no use humanos en su operatoria. No hay, al menos hoy, un modelo probado en el mundo que demuestre que esto funcione siquiera técnicamente.

Una empresa argentina ya puede automatizar casi toda su operación con IA. Lo nuevo es intentar convertir esa automatización en una barrera jurídica entre el daño posible y los humanos que diseñaron, financiaron, configuraron o se beneficiaron del sistema.

En el discurso del proyecto se destaca la necesidad de explicitar esa responsabilidad limitada por los daños causados por un error de la IA, algo que Sturzenegger repite en cada oportunidad: “Como no sabemos qué hará la IA, la responsabilidad será limitada”. Es así: el agente de IA se equivoca y no le importan las consecuencias. La pregunta obvia es por qué querríamos entonces darle el control de una empresa y, al mismo tiempo, limitar de antemano la responsabilidad por sus daños.

Empecemos con preguntas más simples: ¿puede un agente de IA trabajar sin humanos como plantea el presidente? Al agente alguien lo tiene que instalar, configurar, dar un objetivo y unas tareas. Alguien le tiene que reiniciar la computadora cuando se cuelgue y tiene que ir a ver qué pasó cuando se corta la luz o Internet. Y aunque encontremos una vía para que todo esto se resuelva automáticamente, falta lo más importante: la voluntad.

Una empresa china presentó el primer inodoro autónomo del mundo diseñado para personas con movilidad reducida

El agente de IA no haría nada sin un humano que le configure algo para hacer. Ningún agente se despierta solo ni piensa “qué lindo día para armar una empresa de cuidado de ancianos en Copenhague”. El problema se ve rápido con el ejemplo que nos dio Sturzenegger. Si el agente toma una mala decisión en el cuidado de los ancianos daneses por un ciberataque, por una alucinación del modelo o por la cuota de azar que forma parte de estos sistemas, se le pagará un resarcimiento a las familias pero solo hasta los activos que tenga. Acá no habría humanos a quien responsabilizar. Fue la IA. ¿Alguna familia dejaría a sus adultos mayores allí? ¿Vos lo harías con tus familiares?

La idea parece haber llegado al gobierno, al menos en parte, a partir del trabajo de Emiliano Kargieman publicado bajo el título “Entidades jurídicas autónomas: un marco policéntrico para la agencia de las máquinas”. Emiliano es actual CEO del unicornio Satellogic y de Sur Energy, la empresa que tenía un proyecto para armar un centro de datos en la Patagonia para OpenAI. Emiliano contó en redes sociales que se reunió con Sturzenegger para discutir esta idea.

En el proyecto se plantea la necesidad de incorporar en estas empresas IA organismos de control, seguros, un comité humano solidariamente responsable y un kill-switch, un interruptor para que un humano pueda apagar todo si algo sale mal. Pero estas salvaguardas no están en el proyecto de ley del Congreso.

Si los agentes de IA no tienen voluntad propia, no son entidades individuales a las que podamos atribuir derechos y obligaciones, no garantizan inversión productiva real en el país y siguen siendo herramientas de software configuradas por humanos, entonces la promesa empieza a parecer menos una revolución innovadora y más una fantasía de responsabilidad limitada.

La autonomía del agente empieza después de una decisión humana. Y esa decisión humana no desaparece porque un programa ejecute los pasos siguientes.

Bienvenida la innovación y bienvenida la discusión sobre el futuro de la sociedad con inteligencia artificial. Pero, por ahora, el proyecto de empresas de IA sin humanos no parece una innovación revolucionaria: parece un fabuloso delirio.

*Programador, profesor, periodista y autor. Fundador de Codemia.