Recientemente, el Presidente Javier Milei propuso, en una nota publicada en Financial Times, “liberar” a la inteligencia artificial. Quienes nos dedicamos a las humanidades estamos acostumbrados a examinar con detalle las palabras. ¿Qué quiere decir “liberar” a la IA? ¿Es que acaso la IA está, de alguna u otra manera, “atrapada”?
Es importante recordar que en nuestro país no existe ninguna legislación específica relativa a la IA. Por supuesto, hay una gran cantidad de leyes que rigen nuestras vidas, que nos indican los límites de lo permitido y lo prohibido y que valen por igual para todas las personas que habitan o transitan por nuestro país.
En los casos relevantes, indican los límites de lo permitido a las personas jurídicas, además de a las personas físicas. En este sentido la IA, y todas las actividades asociadas a ella, sean económicas, sociales, culturales, políticas o de la índole que fueran, están constreñidas por las leyes que nos gobiernan.
Pero es importante remarcar que no hay leyes específicas para las IA, a pesar de que ha habido numerosos proyectos de ley presentados en este sentido, que nunca llegaron a ser discutidas en el recito. Por lo tanto, en el contexto actual, liberar a ciertas actividades significa en realidad otorgarle privilegios, es decir que no estén sujetas a las mismas leyes a las que estamos sujetos todas las demás personas físicas o jurídicas.
La columna de Yuval Harari en el Financial Times, titulada No debemos otorgar personalidad jurídica a los agentes de IA, parte de reconocer que hacerlo permitiría a los agentes de IA emprender numerosas iniciativas nuevas y generar una enorme riqueza adicional. Pero advierte que esa personalidad jurídica es una "llave maestra" que también les permitiría acceder a los sistemas financieros, económicos y políticos con un grado de autonomía sin precedentes.
En nuestro país no existe ninguna legislación específica relativa a la IA"
Justamente es este potencial económico el que podría motivar esta “liberación” de la IA y en general todas las afirmaciones recientes de miembros del gobierno nacional orientados a poner la IA entre los temas prioritarios para la investigación en Ciencia y Tecnología.
En efecto, podemos pensar que ciertas actividades merecenprivilegios, por ejemplolos otorgados por el RIGI: cualquier exención impositiva es un privilegio (a diferencia de una evasión impositiva que es un delito). ¿Por qué la sociedad, a través de sus representantes en el Congreso, otorgarían a alguien o a alguna actividad un privilegio? Sin duda, las razones deberían estar relacionadas con el impacto positivo que la promoción de tal actividad tiene en la sociedad.
Así que cuando se trata de legislar sobre regulaciones y privilegios, debemos considerar las consecuencias que tienen estas medidas. Y para prever el futuro, necesitamos examinar el pasado, para no caer en los mismos errores que ya cometimos.
En ese contexto, las consideraciones de Harari - un historiador - resultan especialmente relevantes: la historia parece mostrarnos que las corporaciones que han funcionado por fuera de los Estados nacionales causaron grandes perjuicios a la población.
Pero ¿qué involucra exactamente la idea de crear corporaciones no humanas íntegramente operadas por “agentes de IA”? Para responder esta pregunta tenemos que dar un paso previo y aclarar primero qué es una IA. No se trata de un ser incorpóreo, abstracto.
Por el contrario, se trata de artefactos tecnológicos, hechos, entre otras cosas, de minerales y tierras raras, artefactos cuyo mantenimiento depende de la electricidad y del agua para que funcione a la temperatura apropiada.
Seguramente promover la extracción de estas materias primas y la instalación de granjas de computadoras no es exactamente lo que uno entendería por “promover el desarrollo de la IA”, sólo es promover la extracción de recursos naturales.
Pero la IA no es sólo un objeto material, es un artefacto en el que corre un algoritmo que depende para su existencia de los seres humanos, que primero desarrollaron la idea abstracta de computación y que a lo largo de los últimos 70 años ofrecieron diferentes modelos matemáticos de procesamiento de cantidades cada vez más grandes de datos.
Los datos los proveemos nosotros, los seres humanos, a través de nuestras producciones culturales acumuladas a lo largo de la historia de la humanidad (toda la “sabiduría” de internet).
Y seguimos aportando hoy más datos constantemente, a través de nuestras interacciones cotidianas con las tecnologías digitales, ya que una vez que aceptamos sus términos y condiciones -que no leemos, habilitamos a la empresa a disponer libremente de esos datos. Ya están usando nuestros datos.
Pero los datos solos no alcanzan para generar algoritmos. Se necesitan decisiones de diseño que generan los responsables de las empresas tecnológicas, se necesitan también ingenieros de software que realizan efectivamente esos diseños entrenando algoritmos y una enorme cantidad de seres humanos que por una magra paga colaboran con su conocimiento humano a optimizar los algoritmos.
Es decir, en lo que hace al trabajo humano, estas empresas tecnológicas sólo ofrecen grandes salarios a unos pocos desarrolladores de Silicon Valley y explotan a una gran masa de personas que trabajan a la distancia, informalmente, en plataformas, sin derechos laborales. Sin duda estas empresas tampoco generarán trabajo de calidad para los habitantes de nuestro país.
En segundo lugar, ¿qué es un “agente” (sea artificial o biológico)? Un agente es un ser que actúa. Aristóteles nos enseñó que las acciones son el producto de un cierto propósito que tiene un agente y de una representación del mundo, es decir una idea acerca de los medios que le permitirán alcanzar sus propósitos.
Los agentes biológicos tenemos propósitos ligados al sostenimiento de nuestra vida. Pero los seres humanos tenemos, además, muchos otros propósitos que trascienden, o incluso contradicen, nuestras posibilidades de supervivencia: podemos morir por nuestros hijos o por nuestra patria o por nuestros dioses.
¿Qué propósitos tiene un agente artificial? En realidad, no tienen propósitos intrínsecos, sino que sus propósitos, su función, es aquella que sus diseñadores le asignan. Uno de los peligros más temidos del desarrollo de los agentes artificiales autónomos es, efectivamente, que logren darse a sí mismo propósitos ligados a su propia supervivencia, que podrían entrar en colisión con la nuestra, es decir que pongan en peligro la vida de seres humanos que buscan desconectarla, por mencionar un ejemplo simple.
La IA no es peligrosa, las corporaciones sí
Sin duda, queremos que estos agentes de IA queden bajo nuestro control, es decir bajo el control humano.
Es por esta razón que Harari centró parte de su argumento en la pregunta acerca de en quién recaería la responsabilidad de las acciones de una corporación de IA. En la situación actual, toda persona jurídica tiene como responsable último de sus acciones a un ser humano (o varios).
La máxima sanción que disuade a los ejecutivos humanos —la cárcel— resulta irrelevante para las IA. Aún más: gracias a su capacidad de cálculo superior, las corporaciones de IA estarán en condiciones de convertirse en expertas en las lagunas legales y en el arbitraje regulatorio. No será fácil disuadirlas de participar en actividades claramente ilegales.
Detengámonos a pensar por un momento: estos agentes artificiales que conformarían las hipotéticas corporaciones mencionadas, ¿qué propósitos tendrían? ¿Quién (qué ser humano) determina cuáles son sus propósitos, cuál es su diseño, que operaciones puede realizar y cuáles no puede llevar adelante?
Por más que sean agentes de IA su comportamiento, como dije, es fruto de decisiones de diseño humano. Asimismo, la finalidad, presumiblemente, sería incrementar un capital inicialmente invertido por algún (o algunos) seres humanos. El beneficio producido por estas corporaciones, entonces, también recae en personas humanas. El acto de creación de la corporación, de su inscripción legal, también es un acto humano.
Su control no puede quedar por fuera de las manos humanas. ¿Por qué habrían de tener una legislación especial, si se trata de una corporación como cualquier otra, que busca ganar dinero como cualquier otra, creada por seres humanos, como cualquier otra?
Recordemos que la IA que hoy podría dar lugar a este tipo de corporaciones está en manos de unas pocas empresas que concentran mayor riqueza que la de varios países del globo, ya tiene nuestros datos, ya explotan personas y recursos humanos en el sur global ¿merecen más privilegios?
Pedir regulación para la IA, como para cualquier otra actividad, no es quitarle la libertad a nadie, sino proveer un marco que permita el desarrollo humano, en el que se establezca quién merece qué privilegios, quién controla qué y quién resulta responsable de las acciones realizadas. Y no es cierto que sin regulaciónla IA será libre.
Hay seres humanos -corporaciones de seres humanos con beneficios económicos para seres humanos- que la controlan hoy. La regulación existente o futura no hace más o menos libre a la IA, establece reglas de juego para los seres humanos y otorga (o no) privilegios a algunos.
Harari argumenta que la autonomía corporativa de una IA no es un detalle técnico, sino una alteración profunda del modo en que se distribuyen poder, riesgo y sanción. La pregunta central no es cuánto podrían producir esas entidades, sino en beneficio de quién, cómo se las detendría si decidieran vulnerar reglas y quién se haría responsable.
* Directora del Programa de Actualización de Posgrado “IA desde una perspectiva humanística”- Facultad de Filosofía y Letras- Universidad de Buenos Aires.
