Autor de La nueva oligarquía tecnológica coincide con Harari: "Declarar una IA persona jurídica es un experimento de Milei y Peter Thiel"
Ariel Goldstein sostuvo que la Argentina se convirtió en un "territorio de experimentación" para el capitalismo algorítmico y advirtió que la propuesta de otorgar personería jurídica a inteligencias artificiales forma parte de una arquitectura diseñada para ampliar el poder de las grandes corporaciones tecnológicas.
Ariel Goldstein coincidió con las advertencias formuladas por Yuval Noah Harari sobre la posibilidad de otorgar personería jurídica a sistemas de inteligencia artificial y encuadró la iniciativa anunciada por el presidente Javier Milei dentro de un proceso de "experimentación tecnopolítica". En Modo Fontevecchia, por Net TV y Radio Perfil (AM 1190), el sociólogo e investigador del CONICET, sostuvo que la Argentina funciona como una "tierra de experimentación" para figuras como Peter Thiel y aseguró que el proyecto para que las IA puedan constituir sociedades y operar con escasa regulación es "algo muy osado" que convierte al país en un laboratorio del "capitalismo algorítmico".
Ariel Goldstein es licenciado en Sociología por la UBA, Magíster en Ciencia Política y Doctor en Ciencias Sociales por la Universidad de Buenos Aires. Trabaja como investigador de CONICET en el Instituto de Estudios de América Latina y el Caribe de la Facultad de Ciencias Sociales de la UBA. Además, se desempeña como profesor en las carreras de Ciencia Política y en el posgrado de Ciencias Sociales en la misma universidad. Ha escrito varios libros fundamentales para entender la dinámica política contemporánea en el continente, como La reconquista autoritaria, Poder evangélico y La cuarta ola.
Hace minutos Yuval Harari escribió un tuit diciendo textualmente: "La semana pasada el presidente argentino, Milei, anunció una nueva categoría legal para las corporaciones no humanas: empresas dirigidas por agentes de la inteligencia artificial o robots. Al igual que las corporaciones tradicionales, se le otorgaría personería jurídica. Esto puede generar una enorme nueva riqueza, pero muy preocupante también. Entregaría a las inteligencias artificiales una llave universal que otorga el acceso a todos nuestros sistemas financieros, económicos y políticos". Artículo publicado en el Financial Times, que lleva como título: No debemos otorgar personalidad jurídica a los agentes de la inteligencia artificial.
Y la ilustración que él hace, casualmente en la nota, es la de los holandeses en las Indias Orientales llegando a construir lo que se llamaba el Estado Mercantil. Casualmente lo que había escrito como introducción a la nota el ministro Sturzenegger junto con el presidente Milei. Y vos escribiste el libro La nueva oligarquía tecnológica, tema que obviamente está muy de moda, al punto de que ya no solo Harari le contesta a Milei, sino que tenemos la primera la encíclica del Papa, que más allá de la cuestión ética va a la cuestión económica. Me gustaría tu primera reflexión.
En este libro justamente yo trato de plantear una teoría de lo que es el régimen tecnopolítico. ¿Qué quiere el régimen? El régimen, que tiene distintos actores, no es lo mismo Peter Thiel que Elon Musk; Peter Thiel es un arquitecto del régimen, diseña el régimen, define los contornos que el régimen adopta, es un filósofo, con toda una serie de cosas. Elon Musk, por ejemplo, es un acelerador, es un operador carismático; no son lo mismo, el régimen quiere distintas cosas y distintas cosas en distintos lugares.
El régimen no quiere lo mismo en el centro, donde están las grandes empresas tecnológicas, que en la periferia. En la periferia el régimen puede acelerar, puede probar, puede experimentar cosas que en el centro no se pueden probar. Y me parece que ahí hay una clave para leer lo que está pasando con respecto a la tecnología. Con respecto a Milei y las iniciativas que está haciendo en la Argentina como laboratorio de este capitalismo algorítmico.
Milei, Silicon Valley y la soberanía tecnológica en el siglo XXI
¿Qué te dice que Peter Thiel esté en la Argentina?
Como decíamos, Peter Thiel es el arquitecto del régimen. Es el dueño de la empresa Palantir: capitalismo de vigilancia, de seguridad, inteligencia artificial aplicada al tema de la guerra. La guerra produce nuevos datos; esos nuevos datos producen armas más sofisticadas, pero para eso necesitamos más guerra. Y es un circuito que se retroalimenta permanentemente. La presencia de Thiel acá muestra justamente que la Argentina es una tierra de experimentación para la recolección de datos, para probar una serie de iniciativas que en Estados Unidos sería más difícil.
Donde tenemos un gobierno que a través de la política de shock condensa en la figura de Milei, una figura totalizante, que puede implementar procesos de experimentación y de laboratorio. Y eso no se puede hacer en el centro. Entonces lo que Thiel está diciendo es: "Esto me interesa, esto me interesa porque acá podemos probar cosas con Palantir y con estas inteligencias artificiales que en el centro no se pueden hacer de la misma manera". Y ahí entra lo que vos me decías del artículo en el Financial Times, donde Milei dice: "Vamos a hacer toda una arquitectura jurídica para que IAs puedan formar sociedades anónimas, puedan operar sin ningún tipo de regulación". Es algo muy osado lo que está proponiendo Milei y veremos cuáles son sus resultados.
El hecho de que Peter Thiel sea filósofo, más allá de su riqueza,y que ya haya venido a vivir a la Argentina, incluso con su pareja y con sus hijos, ¿no dice algo más que el tema del laboratorio? Porque podría perfectamente mandar a sus ejecutivos a estudiar el laboratorio, podría perfectamente hacer inversiones, pero él personalmente estar viviendo aquí, ¿no te indica algo más o te hace sospechar algo más?
A mí me parece que, desde el punto de vista de que él tiene esa idea de la experimentación de sus ideas filosóficas, de que es alguien que necesita testear, probar, experimentar. Tanto él como Alex Karp -que Alex Karp fue formado en la Escuela de Frankfur con estas ideas en torno a la problemática de la dominación, pero estos se reapropian de esa cuestión de la dominación para hacer funcionar mejor el sistema, para refundar el sistema en términos de aplicar esto al tema de la seguridad, la vigilancia en temas de inteligencia artificial-.
Y esa racionalidad es la que viene a probarse a la periferia. No sólo acá, sino en otros países como en Ucrania, donde también se está testeando el tema de la guerra en la producción de nuevos tipos de armas. O sea, el tema de los datos aquí es fundamental. Y si tenés un gobierno que te ofrece desregulación total y la posibilidad de recolectar datos y experimentar con modelos como ningún otro país del mundo te lo ofrece, me parece que para una persona como Thiel puede ser sumamente atractivo venir a la Argentina.
¿Cómo traducirían personas como Alex Karp el concepto de industrias culturales de la Escuela de Frankfur a hoy? ¿Qué serían más que industrias? ¿Serían monopolio, hegemonía cultural? ¿Cómo se concebiría el concepto cultura desde esta perspectiva?
No, me parece que estamos entrando en una etapa de un capitalismo algorítmico, donde esta aceleración tecnológica, que es lo que promueven estos magnates, avanza mucho más rápido de lo que la humanidad y la arquitectura democrática lo puede procesar; como que la arquitectura democrática que teníamos antes, o que tenemos aún, pero que está desajustada con respecto a la época, se ve desbordada por estos flujos, por esta aceleración permanente. Y ahí viene un tipo como Elon Musk, que cumple para mí una función distinta a la de Thiel, que es acelerar. Polarizar.
O sea, Elon Musk es el que entiende: "Tengo que hacerme de X, porque a través de esta plataforma puedo acelerar el régimen, puedo polarizar". Y Trump, que es una especie de Elon Musk 30 años antes para mí, porque es el que entiende la época de la televisión perfectamente, y Musk viene 30 años después diciendo: "No, ahora para acelerar el régimen, para producir dominación carismática, lo que hay que hacer es X". Como plataforma de polarización permanente. Y eso es lo que produce el carisma. Antes el carisma se producía en una plaza, un líder dando un discurso. Hoy el carisma se produce mediado por dispositivos algorítmicos. Eso es una transformación muy fuerte de la política.
Usa repetidamente "dominación carismática". ¿Eso también es un atributo de Milei?
También. Lo que sugiero en el libro es que en el centro vos tenés personas distintas que quieren cosas distintas, como parte del régimen tecnopolítico. Tenés a los arquitectos del régimen, como Thiel, como Karp. Tenés a los administradores, como Sam Altman, o como los dueños de las infraestructuras, como Zuckerberg, que permiten, ¿quién conversa con los arquitectos? ¿Con quién? ¿En el WhatsApp, etcétera? Meta maneja todo: Facebook, Instagram, WhatsApp.
Pero en la periferia, todas esas figuras que están diferenciadas en el centro, en la periferia están condensadas en figuras totales: Bukele en El Salvador, Noboa en Ecuador, Milei en la Argentina. Son figuras que condensan, a través de la experiencia del shock permiten aplicar políticas brutales que en el centro no se pueden aplicar de la misma manera. Por eso quizás se vuelven tan grandes como el centro, y por eso, tan atractivas.
Pero ese régimen tecnopolítico que en el centro funciona con funciones diferenciadas, con racionalidades diferenciadas, en la periferia funciona a través de estas figuras totales que condensan con el shock la aplicación de estas políticas. Todas en Latinoamérica. Latinoamérica es una periferia interesante para el régimen tecnopolítico porque acá se pueden probar cosas que en los Estados Unidos se volvería muy difícil o en Europa también; en China incluso probablemente también sería muy difícil.
Me parece que no solo, sino además en el mismo, o sea, en la zona geopolítica que Estados Unidos considera propia, de mayor influencia.
Por eso esto conecta incluso con el Trump 2.0, que es un Estados Unidos que a través de Marco Rubio, que es uno de los cancilleres, secretario de Estado más ocupados por América Latina y más formado en América Latina que hayamos visto- Y Estados Unidos dice: «This is our hemisphere», como lo dijo el Departamento de Estado. "Este es nuestro hemisferio, dejémonos de joder, nosotros vamos a aplicar una presión muy fuerte sobre toda la región". Estamos viendo lo que pasa con Cuba, con la presión para que se vaya la cadena Meliá, que es central para el turismo en Cuba.
Estamos viendo lo que pasó con Brasil: Brasil, foto con los hermanos Bolsonaro, búsqueda de subir los aranceles a Lula en año electoral; o sea, una táctica de presión muy fuerte sobre Brasil, quizás el espacio de autonomía más fuerte que tiene América del Sur, digamos, desde el punto de vista con respecto a Estados Unidos. Todo el apoyo a Milei, que es el régimen de experimentación que permite apertura total frente a Estados Unidos. Esto encaja con estas cuestiones.
¿No crees que, por lo menos como hipótesis, que se haya venido a vivir con los hijos y su pareja Peter Thiel en la Argentina pueda tener también que ver cierta hipótesis de beligerancia problemática en el hemisferio norte? Que todas estas pruebas en algún punto se salgan de cauce y lo que es laboratorio y experimentación termine viralizándose.
Esto es parte de una idea común un poco a los tecno-oligarcas -tecno-oligarcas, tecno-millonarios, billonarios- que perciben esta idea del fin del mundo. Entonces buscan la construcción de búnkers en Nueva Zelanda, acá y allá. Y quizás Thiel percibe que este puede ser un espacio no solo de experimentación, sino también de refugio frente a una catástrofe ambiental global que no sabemos todavía qué contornos puede tener. Pero es posible que tenga que ver con esa idea de salvarse. De alguna manera, es la misma idea de ir hacia Marte. Tanto Elon Musk como Jeff Bezos desarrollan sus propias compañías de exploración espacial, de cohetes en el espacio, con la idea de irse a Marte y de explorar otras vías.
Un millonario alertó sobre el estallido de la "burbuja" de la Inteligencia Artificial
¿En qué se diferencia la idea del panóptico foucaultiano con esta idea que plantea Harari de que si tienen toda la información financiera, personal, hasta médica de toda la humanidad, construyen una especie de mega panóptico universal?
Probablemente es más sofisticado que el panóptico foucaultiano. El panóptico foucaultiano del siglo XX funcionaba como una mirada abarcadora, pero una mirada puramente externa. Porque vos podías ver a los individuos y su comportamiento desde la función puramente externa. Acá sabemos cuáles son los likes, cuáles son, qué cosas les gustan, qué cosas no les gustan, en qué horarios consumen los productos, qué productos consumen.
Sabemos de ellos más que ellos mismos.
Exactamente. La cuestión acá me parece que es el aumento en la capacidad de predicción. Eso permite ese tipo de aceleración que desborda cualquier tipo de estructura democrática y que permite una manipulación muy potente, y un control y un poder que quizás era impensable en el siglo XX.
El Papa y la encíclica en la que hace una crítica a la desregulación de la inteligencia artificial, pero también a la concentración de dinero.
Parece interesante esa reflexión. También me parece interesante que al lado de él hay uno de los ejecutivos de Anthropic, de los hermanos Amodei. Que Amodei y Anthropic de alguna manera han tenido una tensión con el Pentágono y con el gobierno de Estados Unidos por no lanzar sus modelos, porque decían: "Este modelo es demasiado peligroso, se demuestra que puede hackear sistemas de bancos. Entonces vamos a esperar".
Están empezando a plantear una cuestión de la ética de la inteligencia artificial, hasta dónde se puede avanzar, frente a otros magnates que dicen: 2Aceleremos todo, porque esto nos va a dar más poder". Esa idea mesiánica que tienen algunos de ser los reyes del mundo, los dioses del Olimpo tecnológico. Aparecen algunos que tiene que haber un poco de autolimitación, una regulación global frente a estas circunstancias, porque si no, digamos, es evidente que hay un peligro muy grande, a la vez que una oportunidad de innovación. Creo que ya la estamos viendo también.
¿Qué relación hay respecto de poder y dinero? O en este caso, ¿si datos es más importante que dinero, o poder y fuerza, si datos es más importante que armas?
Me parece que hay una conexión muy fuerte entre esos tres elementos. Lo que estamos viendo tiene que ver con cómo estos datos de la inteligencia artificial se integran en el aparato de seguridad de los Estados, sobre todo en los Estados Unidos. Nosotros en el siglo XX teníamos que los Estados eran el monopolio de la violencia legítima, según la definición de Weber, en un territorio definido; pero esa era una función del Estado. Pero hoy esa función la están cumpliendo grandes corporaciones de inteligencia artificial: el tema de la represión y la coerción.
Eso les da un poder tremendo, por eso son arquitectos del régimen, porque manejan el tema de la coerción. Entonces, para reprimir, para ejercer la violencia ahora los estados dependen de grandes empresas tecnológicas que manejan datos; y si no, eso no se puede hacer. La captura de Maduro estuvo vinculada con eso, el asesinato de Jamenei en Irán también. Eso es una modificación tremenda y un peligro enorme, me parece.
¿Qué te dice que Peter Thiel ha tenido interés de invitar a dialogar a líderes muy distintos de su pensamiento? ¿Crees que está haciendo una exploración filosófica, una especie de ensayo, no solamente desde el punto de vista técnico, sino también desde el punto de vista de las ideas?
A mí me llama la atención que no surgen declaraciones. Grabois tuvo esa reunión con Thiel y no dio ninguna declaración. Me parece que es tratar de entender este lugar nuevo donde se está sentando. Evidentemente, seguramente le habrán dado una perspectiva muy positiva del gobierno de Milei de que acá están dadas todas las condiciones para esta experimentación tecnopolítica que él quiere hacer, pero es probable que quiera entender el espectro completo para ver de qué se trata.
¿Será el Vaticano también, visto desde la perspectiva de estos tecnomagnates, el adversario más importante?
Es probable, porque la Iglesia es una institución muy antigua. Quizás busca presentar otra racionalidad frente a esta aceleración tan potente que estamos viendo.
Y ahí quizás Grabois también tenga un doble valor: no simplemente hablar de la Argentina, sino al mismo tiempo que lo pueda conectar con la mirada del Papa Francisco.
Es probable. Pero esta encíclica papal creo que tiene un valor que es advertir... Bueno, ya ha habido otras advertencias, pero quizás esta es importante porque plantea la cuestión de el peligro de que esta aceleración tecnológica que estamos viviendo desborde las estructuras democráticas, y eso tiene un peligro muy grande. Y estamos hablando de una persona como Thiel, porque Thiel dijo hace muchos años ya que democracia y desarrollo tecnológico no son compatibles.
Entonces, están pensando en un régimen híbrido. O sea, la definición que doy de régimen tecnopolítico es un régimen híbrido. No es ni democracia ni dictadura; es una situación donde los ciudadanos siguen votando, pero ese régimen está cada vez más vaciado de sustancia democrática. Porque lo que los ciudadanos votan ya no tiene efectos reales porque en realidad lo que deciden son las grandes corporaciones tecnológicas.
SpaceX, OpenAI y Anthropic deberán esperar para ingresar al S&P 500
¿Qué pasa en China? ¿Cómo China puede ser un contrapeso en todo esto?
Estados Unidos está mirando siempre a China en esta cuestión.Y aparece ahí la advertencia de: "China nos puede ganar la carrera tecnológica". Xi Jinping incorporó a la constitución china la cuestión del desarrollo tecnológico y científico como un pilar del modelo. China pareciera tener algunas ventajas, aunque todavía parece no haber igualado a Estados Unidos en el desarrollo de estos modelos de lenguaje automatizado, la integración con la IA. Pero tiene la ventaja de la eficiencia.
Mientras que Estados Unidos aparece permanentemente en un caos de polarización y conflicto social-político incentivado en parte por este modelo tecnológico, en China el gobierno administra de una forma centralizada, autoritaria, pero más eficiente, que es justamente lo que le está diciendo OpenAI a la Casa Blanca: "Desregulen todo porque si no China nos va a ganar la carrera tecnológica".
Ahora ahí parece haber una contradicción. La eficiencia es resultado del orden, la creatividad es resultado del desorden. Entonces un sistema democrático plantea por momentos desorden, caos, pero creatividad. Un gobierno autocrático tiene productividad, eficacia, no desperdicia un solo minuto en discusiones, pero al mismo tiempo carece de la creatividad propia de ese desorden. Es decir, finalmente, a tu juicio, ¿qué va a ganar esa carrera: la creatividad o la eficacia?
Es muy difícil de saberlo. Pareciera que hay una tendencia, como muchos analistas ven hace tiempo, que es el declive de los Estados Unidos y el ascenso chino desde el punto de vista del PBI, del comercio y de muchos elementos. Pero por otro lado, lo que estamos viendo es que ese declive no es lineal. Estados Unidos, con el desarrollo de estas iniciativas y estos modelos de lenguaje automatizado, entre IA y Estado en tema de seguridad, en ese sentido hay una ventaja de Estados Unidos sobre China, me parece, que lo estamos viendo en el despliegue de conflictos bélicos en el mundo. China aparece igualando a veces a Estados Unidos: desarrollamos DeepSeek; pero DeepSeek vino después y por más que pueda igualar en algunos planos, siempre China está como un poco rezagada en esa característica.
DeepSeek es más barata, nuevamente es eficiencia. Pero así planteado, parecería una paradoja de estos tecnomagnates. Parecería así planteado de que finalmente la creatividad vence a la eficacia y que la creatividad requiere el desorden de la democracia.
Hay que ver el largo plazo. En este corto plazo, pareciera que Estados Unidos, su capacidad de innovación o de regulación le está permitiendo avanzar más rápido en esta batalla tecnológica. Pero hay que ver qué pasa, porque China piensa mucho en el largo plazo y todas sus energías están orientadas a ese largo plazo, a esa paciencia estratégica que quiere desarrollar Xi Jinping. Bueno, veamos, digamos, qué pasa en 50 años. Hay que ver qué pasa en 50 años con esto.
RM