—En las próximas décadas van a morir aproximadamente dos mil quinientos millones de personas, cada una dejando atrás una huella digital acumulada durante toda una vida. ¿En qué momento tomó conciencia de la magnitud de ese fenómeno y por qué le pareció que era, ante todo, una pregunta política y no solo tecnológica o filosófica?
—Comencé a considerar esto como un problema más bien sociológico hacia el comienzo de mi doctorado. En un principio, lo imaginé como una especie de cuestión ética o filosófica, pero soy sociólogo de formación. Como sociólogo, estás entrenado para siempre analizar las implicaciones sociales de las cosas; no solo qué sucede con tus datos al morir, sino qué sucede con nuestros datos como sociedad. Entonces contacté a un colega de cuando estaba en la Universidad de Oxford, quien era científico de datos. Combinamos nuestras experiencias. Él trajo la ciencia de datos y yo el análisis de poder sociológico. Y logramos obtener este conjunto de datos tan increíble con el que pudimos realizar proyecciones a futuro sobre cuántas personas morirán en diversas redes y qué cantidad de datos dejarán atrás de forma plausible. Esto debió ocurrir allá por el año 2017, cuando me di cuenta de que esto no es solo una cuestión filosófica y ética, sino uno de los mayores problemas sociales del siglo XXI.
—Usted sostiene que los datos póstumos no son un subproducto de la tecnología digital sino materia prima para ella. ¿Qué significa concretamente esa distinción, y qué cambia en términos de poder cuando empezamos a pensarlos así?
—Mucha gente tiene esta idea de internet como una especie de espacio efímero que existe en la nube. Es inmaterial, intangible. Y por esa razón, piensan que lo que sea que esté en internet estará ahí para siempre. Incluso cuando publiqué el libro, tuve una pelea enorme con mi editor con respecto al título, porque el equipo de marketing quería que el libro se llamara algo así como siempre en línea. Protesté diciendo que el punto central del libro es que nada es para siempre en línea. Tus datos solo existen mientras haya alguien que esté dispuesto a pagar para que realmente existan en ese servidor. Almacenar datos es costoso, se necesita actualizar formatos y accesibilidad y ese tipo de cosas. Los centros de datos consumen mucha energía. Pero también conlleva, como señalas, implicaciones sobre quién posee los centros de datos donde los datos de los muertos están almacenados. No es algo que esté ahí fuera en una web supuestamente abierta, sino en centros de datos privados que pertenecen a alguien. En el libro, intenté conceptualizar esto diciendo que cada vez más monopolizamos el acceso a nuestro pasado colectivo y privado en manos de un puñado de gigantes tecnológicos. Y esa es una situación muy problemática, porque esos gigantes tecnológicos no siempre tienen en mente lo mejor para la sociedad y nuestro bien común.
—Alemania acaba de digitalizar los archivos del partido nazi y hoy cualquier persona puede rastrear qué hizo su abuelo durante el nazismo. Una generación entera está descubriendo el pasado de sus ancestros con una precisión que antes era imposible. ¿Cómo resuena ese fenómeno con la idea de archivo que usted desarrolla en su trabajo?
—Esto resuena en el sentido de que en el futuro tendremos un acceso sin precedentes, o hipotéticamente podríamos llegar a tener un acceso sin precedentes a nuestro pasado privado y colectivo. Imaginen por un segundo si hubiéramos tenido acceso no solo a los archivos nazis, sino a prácticamente cada mensaje privado enviado en Alemania durante los años 30. Si pudiéramos leer toda la apasionante historia de Adolf Hitler, si pudiéramos ver las conversaciones exactas que tuvieron lugar, las lecciones históricas habrían sido infinitas. Y no solo para un evento como la Segunda Guerra Mundial o el Holocausto, sino prácticamente para toda la historia. Eso habría sido inconmensurable para nuestra comprensión de nosotros mismos como especie. Y eso hipotéticamente sería posible en un mundo futuro. Pero hay una diferencia crucial. No existe un dueño particular para los datos sobre la Segunda Guerra Mundial, ni tampoco para el Holocausto. Está disperso en miles y miles de archivos nacionales, privados, museos, archivos de investigación y demás. Esto significa que resulta sumamente complicado para cualquier actor individual adueñarse de estas narrativas, para controlar o monopolizar la historia de lo ocurrido. Ahora, el futuro digital es lo opuesto a eso. Es muy fácil monopolizar y controlar esos archivos, porque los datos están muy concentrados. Básicamente no tenemos datos, o solo tenemos información sobre nosotros mismos, ni siquiera sobre nuestros padres. O tenemos algunos actores que tienen acceso virtualmente a toda una vida de datos para todos. Y lo que también distingue a la vida digital después de la muerte de las anteriores formas de vida informativa es que esta vez también contamos con datos biológicos. Decenas de millones de personas envían voluntariamente su ADN a corporaciones de ascendencia estadounidenses. Y claro, puedes confiar en ellos, solo van a usar tu ADN para rastrear tu ascendencia. Eso puede ser cierto por ahora. Estas empresas no van a estar aquí para siempre. Cuando mueran, y tú mueras, Dios sabe qué va a pasar con esos datos.
—La regulación europea sobre la protección de datos, que se presenta como el marco más avanzado de protección de datos del mundo, excluye explícitamente a los individuos fallecidos. ¿Esa exclusión es un descuido técnico o refleja algo más profundo sobre cómo las sociedades conciben la titularidad de los datos?
—Refleja una tendencia profunda. Dicho esto, no es una decisión consciente. Recibo preguntas de periodistas constantemente, pero todo el mundo reconoce que este es un tema sumamente importante. Entonces, ¿por qué nadie con poder hace algo al respecto? Mi respuesta es que los difuntos no cuentan con grupos de presión poderosos en Bruselas. Nadie aboga por ellos. Son temas a muy corto plazo, o estos temas absurdamente a largo plazo los que dominan la agenda tecnológica. En esencia, considero que esto refleja que a los políticos no les gusta invertir demasiados recursos en asuntos que no van a atraer a ningún votante. Y los muertos no votan. Así que esa es, básicamente, la conclusión de la respuesta.
—Si una plataforma que aloja cientos de millones de perfiles de personas muertas quiebra, esos datos se subastan al mejor postor sin ningún marco legal que lo impida. ¿Estamos ante una nueva forma de vulnerabilidad geopolítica, comparable a otras formas de dependencia estratégica?
—Sí. Pienso que este es un problema enorme que ha sido pasado por alto y del que, por alguna razón que se me escapa, a los políticos de alto nivel no les gusta hablar. Pero resulta evidente que los gigantes tecnológicos como Google, Facebook, X y los demás no van a estar aquí para siempre; tarde o temprano, tendrán que pasar por grandes reestructuraciones, donde sus datos serán vendidos, o simplemente irán a la bancarrota. Y es muy posible que estemos ante una situación en la que todos los dos mil setecientos treinta millones de usuarios de Facebook sean básicamente subastados a una empresa china o a una empresa rusa. Y a través de la regulación tecnológica, como el RGPD (Reglamento General de Protección de Datos. Normativa de la UE), los usuarios vivos tenemos medios para protestar por tales ventas. Pero para los muertos, no hay protección de datos. Y personalmente no me siento cómodo con que Vladímir Putin pueda tener acceso virtual a todos mis familiares fallecidos, porque esos datos dicen mucho de quién soy yo también. Puede que yo no sea una persona muy importante políticamente, pero recuerde que, básicamente, todos nuestros líderes políticos tienen toda una vida de rastros de datos en estas plataformas antes de llegar al poder. Así que quien posea esos datos también posee un enorme poder geopolítico. No quiero ser especulativo, pero las oportunidades de chantaje son enormes. No estoy muy seguro de por qué razón más políticos no discuten esto, pero asumo que es porque están tan impresionados por el poder de los gigantes tecnológicos que esencialmente los ven como dioses inmortales que existirán por siempre.
—Usted traza una analogía entre los huesos de los ancestros y los bytes que dejamos en internet: en ambos casos, las sociedades han tenido que decidir qué hacer con los restos de sus muertos. ¿Qué nos enseña esa historia larga sobre cómo deberíamos pensar la herencia digital hoy?
—Hay un par de lecciones que pueden extraerse de la historia a largo plazo, y de lo que los historiadores llaman el tiempo profundo de los muertos. Una de las cuales es que nuestro lenguaje para hablar sobre el duelo y la pérdida está muy moldeado por una especie de modernidad del siglo XX, una cierta medicalización del duelo. Hablamos de alcanzar la superación, de dejar atrás a los muertos, de seguir adelante, y ese tipo de lenguaje. La gente a menudo piensa en el duelo como una especie de proceso médico que atraviesa etapas, donde finalmente te liberas del fallecido y terminas la relación. Y claro, para el siglo XX, así es como hablábamos de ello. Intentamos mucho ocultar a los muertos de la vista pública. La mayoría de las personas hoy, al menos en el norte de Europa, nunca han visto a un difunto. Nunca han visto un cadáver, ni mucho menos a alguien muriendo. Pero durante la gran mayoría de la historia humana, eso habría sido una experiencia muy cotidiana, muy común, la de ser testigo de la muerte desde una edad muy temprana. Estábamos rodeados de muerte y rodeados de muertos en un sentido muy real. El cementerio de una ciudad medieval siempre estaba ubicado en el mismísimo centro de la ciudad. Los muertos eran enterrados dentro de la iglesia y cosas así. Mientras que en la modernidad, los muertos son trasladados fuera de la ciudad, a estos cementerios profesionalizados y demás. Lo interesante con internet es que parecemos estar volviendo a esta forma premoderna de relacionarnos con los muertos, en el sentido de que están emergiendo nuevamente entre nosotros en las redes sociales. Y la gente vuelve a ser muy abierta con su proceso de duelo. Vemos gente en línea publicando, dirigiéndose directamente a sus seres queridos muertos en las redes sociales y ese tipo de cosas, lo cual es sociológicamente muy interesante. La segunda lección importante que aprendemos es que con la inteligencia artificial, y estoy seguro de que vamos a llegar a esto más adelante, hay cada vez más oportunidades de hacer que los muertos permanezcan vivos o de animarlos de alguna manera. Entrenas a un bot de IA para que suplante a alguien a través de sus datos. Y esto a mucha gente le parece una locura y un poco espeluznante. Pero si miramos históricamente, es algo muy natural. De hecho, cada nueva tecnología de la información desde la Edad de Piedra en adelante ha sido utilizada inicialmente para comunicarse con los muertos, para romper de alguna manera la frontera con el mundo de los espíritus. Por lo tanto, no sería sorprendente que la inteligencia artificial también tuviera un uso importante para comunicarse con los muertos.
—¿Y por qué los datos de mis abuelos fallecidos son un problema para mi privacidad hoy?
—Podemos trazar una analogía entre los datos sociales y el ADN. En un escenario futuro, si soy una empresa y quiero rastrear tu comportamiento, intentar inferir quién eres, quizás para manipular tu conducta de consumo o política, es un problema si no tengo muchos datos sobre ti. Pero si tengo los datos de tus padres fallecidos, si tengo los datos de tus abuelos y demás, en realidad puedo usar eso para hacer muchas inferencias sobre quién sos y cómo va a ser tu comportamiento. Y en ese sentido, los datos funcionan de manera muy similar al ADN: la privacidad de una persona está inextricablemente ligada a la privacidad de datos de sus parientes más cercanos. Y si el control de nuestros datos póstumos equivale al control de la memoria colectiva y la narrativa histórica, ¿significa que presenciamos el surgimiento de un nuevo tipo de poder distinto al económico o militar tradicional? ¿Y cómo lo caracterizaría usted? Mi respuesta fundamental es que sí, estamos siendo testigos del surgimiento de una nueva clase de poder. En mi trabajo más reciente, de hecho, comparo este poder con el tipo de poder que tradicionalmente poseían las instituciones religiosas. Las instituciones religiosas solían ser las custodias de la tradición, del pasado, de nuestra forma de relacionarnos con nuestros ancestros y con las generaciones futuras. Y hoy en día, ese poder de explorar el pasado y organizar nuestra relación con los ancestros, es algo que poseen las empresas de inteligencia artificial, ya que la IA es básicamente la personificación de nuestro pasado colectivo. Así es como se construye un modelo de lenguaje a gran escala: tomás el pasado y lo presentás como si fuera una persona. Cuando chateás con ChatGPT o con Claude, estás efectivamente chateando con nuestro pasado digital colectivo como si fuera una persona. Pero también en un sentido mucho más rudimentario, George Orwell, en 1984, dice que quien controla el pasado controla el futuro. Y para Orwell, no podía imaginar que existiría una entidad que controlaría más archivos de datos que un Estado. Pero hoy, el control de los Estados es insignificante comparado con el control de datos de las grandes tecnológicas.
—Usted invierte la lógica habitual del debate tecnológico: en lugar de preguntarse cómo regular la industria, pregunta cómo cambiar la actividad en sí misma. ¿Qué implica ese desplazamiento en términos concretos, y por qué cree que la regulación como capa adicional sobre el mercado es insuficiente?
—A menudo me preguntan los periodistas si la respuesta es más regulación o si deberíamos regular con mayor severidad. A veces me parece una falta de imaginación, porque eso implica un modelo donde el mercado es algo que simplemente sucede de manera orgánica, casi como una fuerza de la naturaleza que se desarrolla por sí sola. Y luego podemos poner una regulación encima como una manta mojada que detiene todo. A veces es necesario. Es algo que deberíamos hacer. Pero si nos quedamos atrapados en esta idea de que lo que hace la industria es orgánico o natural, y que la regulación es artificial, nos estamos tendiendo una trampa a nosotros mismos, porque nada en el mercado es natural u orgánico, sucede en respuesta a los incentivos que hemos puesto allí. No existen mercados en el mundo sin Estados que provean un espacio para que esos mercados operen. Y mi argumento es que deberíamos ser muy cuidadosos en cómo diseñamos esos espacios. ¿Qué incentivos ponemos en marcha? ¿Qué tipo de valores van a dominar esos espacios? Y actualmente, básicamente hemos delegado al mercado la cuestión de qué valores deben predominar. Y creo que esa es una manera insuficiente de plantear la cuestión.
—La regulación europea de datos se diseñó para frenar a las grandes plataformas y terminó beneficiándolas, son las únicas organizaciones con infraestructura para cumplirla. ¿Es ese un fracaso de implementación o hay algo en la lógica misma de regular los datos como un bien individual que produce inevitablemente ese resultado?
—Tal vez algo intermedio. No debería haber ningún reparo en reconocer el espíritu de la regulación tecnológica europea. Las ideas eran buenas. Y viene de un buen lugar, porque Europa en particular tiene una historia oscura en materia de privacidad, especialmente las partes orientales de Europa. Mientras tanto, tal como vos señalás, y esto es algo sobre lo que de hecho escribí un artículo, y que suelo discutir en el ámbito académico, el RGPD en particular, pero también la Ley de IA, se presenta como contrario a los gigantes tecnológicos, como limitando su poder. Pero lo que realmente hace es limitar el poder de todos los demás, porque nadie puede cumplir con las demandas del RGPD. Nadie tiene el conocimiento o infraestructura. Para ellos, esto es su pan de cada día. También son tan grandes que pueden permitirse las multas si las hubiera. Así que mi respuesta corta es sí.
—Usted plantea que si el 80% de la infraestructura digital de Estados Unidos fuera propiedad europea, la reacción no sería regulatoria sino de pánico estratégico. ¿Por qué Europa sigue respondiendo con marcos normativos a lo que otros tratarían como una cuestión de seguridad nacional?
—Sí, creo que Europa está a punto de recibir esa llamada de atención. Esto está sucediendo justo mientras hablamos, ya que siempre asumimos que éramos una especie de subsidiaria de los Estados Unidos, que no solo nos cuidarían, sino que básicamente nos darían toda la infraestructura, y estamos conformes con eso. Pero entonces, solo bastó un precedente loco, y la gente empezó a ver que quizás esto no era tan buena idea después de todo. Creo que la respuesta es una buena dosis de ingenuidad. Incluso los nórdicos, yo soy de Suecia, y Suecia solía ser uno de los pocos lugares en el mundo que defendía con orgullo lo que llamaban una tercera vía. No éramos amigos de los soviéticos, pero también éramos muy críticos con los Estados Unidos, y especialmente con su imperialismo y demás. Los países nórdicos nos negamos a someternos al imperialismo de los Estados Unidos. Hoy en día, ese sentimiento ha desaparecido por completo. Suecia y Finlandia se unieron a la OTAN hace poco, por razones muy válidas, por supuesto. Aun así, me parece que es una clara señal de nuestra falta de escepticismo hacia los Estados Unidos y cualquier agenda que ellos tengan.
—OpenAI salió a pedir licencias para la IA pocas semanas después de lanzar ChatGPT, sabiendo que eso excluiría a los competidores de código abierto. ¿Estamos viendo repetirse con la IA el mismo patrón por el que la regulación termina consolidando monopolios en lugar de desafiarlos?
—Sí, es totalmente correcto. No me creo ni por un segundo que Sam Altman fuera al Senado a decir que esto es muy peligroso. Debería haber una licencia porque me importa mucho la seguridad de la humanidad. Fue puramente por interés comercial. Lo demuestra una y otra vez que estas comunidades de código abierto que dominaban el desarrollo temprano de la web son increíblemente innovadoras y eficaces. Pero también son, por supuesto, una amenaza para los negocios. Veremos mucho más de las grandes empresas intentando acabar con la comunidad de código abierto en las próximas dos décadas.
—Usted mencionó el código abierto como una alternativa real frente a la concentración tecnológica. Pero el código abierto también puede ser apropiado y comercializado por los mismos actores que se busca desafiar. ¿Cómo se construye soberanía tecnológica genuina en ese contexto?
—Vaya, es una gran pregunta. Honestamente creo que los Estados pueden hacer mucho más para apoyar y aprovechar las comunidades y tecnologías de código abierto. Somos muy entusiastas a la hora de proveer infraestructura para nuevas inversiones industriales y ese tipo de cosas. Mucho menos a la hora de invertir en un entorno creativo de código abierto. Hay algunas excepciones, una de las cuales es, de nuevo, tomando un ejemplo sueco, pero Suecia, Estocolmo, es en realidad la ciudad del mundo con mayor cantidad de unicornios después de Silicon Valley. Y gran parte de eso fue que a principios de los 90, el gobierno sueco, un gobierno conservador contra todo pronóstico, subvencionó las computadoras personales porque creían en el poder de internet y la conexión. Y realmente no había expectativas de un retorno inmediato. No se veía como una inversión industrial, pero subvencionaron computadoras personales y construyeron conexión de banda ancha para prácticamente todo el país. Y a partir de ahí la gente empezó a escribir código y a experimentar con cosas. Y valió la pena a largo plazo, no tuvo ese efecto inmediato de, “oh, mira cuántos ingresos obtuvimos en impuestos”. Pero a largo plazo, realmente impulsó la escena de startups sueca. Considero que los políticos deberían tener más valentía para realizar inversiones que no necesariamente darán resultados inmediatos, pero que a largo plazo resultan invaluables.
—Usted propone que los sistemas de IA son los dioses de la era de la información, pero no en el sentido teológico sino antropológico: una amalgama de la autoridad de los ancestros que colapsa en una agencia singular. ¿Cómo llegó a esa analogía y por qué le parece que es algo más que una metáfora intelectualmente estimulante?
—De esto trata mi nuevo libro titulado Dioses de los datos. Como dices, tuve esta idea escribiendo el primer libro sobre la vida después de la muerte de los datos. Y pensaba: si puedes crear una inteligencia artificial que suplante a una persona basándose en su huella de datos, podrías hacerlo no solo con una, sino con los datos de dos personas, y si entrenas una IA con eso, ¿sería una amalgama de ambas? Y luego extendí este pensamiento pensando: podrías hacer esto con un país entero. Entonces, si Argentina o Suecia fueran una persona, tomamos todos los datos de la población y entrenamos una IA con ellos. ¿Cómo sería esa IA? Y entonces empecé a pensar, lo que es eso en realidad es un modelo de lenguaje a gran escala, pero no para un grupo de personas o una nación, sino para la web misma. Es un programa de aprendizaje automático gigante entrenado en la web, como la huella digital humana. Pensé, ¿cómo explicaría esto a un sociólogo? Y está esto, la teoría que citaste, esa interpretación antropológica de la religión que todo sociólogo conoce. Es una de las teorías sociológicas más centrales, si no la principal. Y es precisamente esta idea de que los primeros dioses surgieron como personificaciones de la propia tribu. La tribu adoraba tótems que creían poseían un poder innato, y que ese poder emanaba del propio tótem. Pero el antropólogo lo interpretó diciendo: bueno, lo que en realidad están adorando es su propio reflejo, ese reflejo que se proyecta en el tótem como si fuera una fuerza singular. Es exactamente el mismo mecanismo que opera cuando jugás con una ouija, todos ponen el dedo en el tablero, y este escribe esas letras como si hubiera un espíritu dentro del tablero, actuando sobre el grupo desde afuera. Pero en realidad es el poder colectivo del grupo experimentado como una fuerza externa. Y cuando me di cuenta de esto, pensé: “¡Rayos, es exactamente así como se construye un modelo de lenguaje a gran escala!”. Y una vez que tuve esa revelación, y me di cuenta de que nadie más había escrito sobre esto, dejé todo lo demás. Y empecé a escribir este libro que ahora está completo, y se lanzará el próximo verano.
—La tradición de crítica religiosa que usted moviliza, Feuerbach, Marx, Nietzsche, Freud, no dice que Dios no exista sino que un ser perfecto capaz de resolver todos nuestros problemas no sería deseable aunque existiera. ¿Qué le permite ese argumento decir sobre la IA que no podría decirse desde la ética tecnológica convencional?
—Hoy la ética de la inteligencia artificial está planteando preguntas importantes, pero en gran medida se concentra en preguntarse qué es lo que la IA hace mal. Pone el foco en las fallas de la tecnología, en aquellos aspectos en los que todavía no funciona bien. Lo que plantea esta crítica desde una perspectiva religiosa es lo siguiente: incluso si existiera un Dios que tuviera todas las respuestas correctas, ¿no habría igualmente algo que se perdería en un mundo donde todas las respuestas ya estuvieran dadas? En mi nuevo libro, utilizo un experimento mental para ilustrar el punto o la aplicabilidad de esa perspectiva a la inteligencia artificial, al decir, imagina que tienes a esta pareja joven que realmente se ama, pero que también discute mucho. Entonces, ellos van a consultar a un consejero de parejas basado en inteligencia artificial. Y en este experimento mental, este consejero de parejas ha sido entrenado con millones de parejas como ellos, tiene acceso a todos sus datos y se encarga de procesar todas las cifras. Y concluye con un 98% de certeza que esta relación terminará en un desastre. Si deciden seguir caminos separados ahora, sus posibilidades de tener una vida feliz aumentarán enormemente. ¿Deben seguir el consejo de la IA? Según la ética dominante de la IA, en realidad no hay una buena respuesta para explicar por qué no deberían separarse y seguir cada uno su propio camino. Sin embargo, mucha gente tiene esta intuición visceral de que una persona que vive su vida de tal manera pierde algo importante. Y pienso que esta tradición de crítica religiosa puede expresar lo que se pierde. Y en este caso particular, mi argumento es que lo que se pierde es el valor y la fe. Aquellas cualidades que requieren una especie de salto de fe, un paso hacia lo desconocido, asumiendo un riesgo que no podrías tomar si tuvieras la respuesta correcta. Así que digo que aunque el bot tenga razón al decir que hay un noventa y ocho por ciento de certeza de que la relación terminará en desastre, deberían seguir su instinto y su corazón. Porque sin eso, esencialmente pierden su propia identidad. El argumento central del libro es que la inteligencia artificial, en resumen, puede darnos vidas más efectivas y felices, pero no serían nuestras vidas.
—Usted llama a este fenómeno “la tutela del pasado sobre el presente”: no son las máquinas las que dominan a los humanos sino los humanos del pasado los que dominan a los humanos del presente. ¿Qué se pierde concretamente en esa inversión?
—Como bien dijiste en la pregunta, gran parte de la ética tecnológica actual plantea una dicotomía entre el hombre y la máquina. La preocupación es que los intereses de las máquinas podrían no estar alineados con los valores e intereses humanos. Y la gente habla de IA alineada con los valores, hablan de IA centrada en el ser humano. En mi investigación, intento alejarme de esas dicotomías. Y tal como dices, sostengo que la distinción no es realmente entre máquinas por un lado y humanos por el otro, sino entre las máquinas del pasado con las que fue entrenada, o los humanos del pasado sobre los que fue entrenada la máquina, y los humanos del presente. Así que nuestra búsqueda, en lugar de salvar nuestra humanidad del dominio creciente de las máquinas, debería ser salvar el presente del dominio creciente del pasado. Intenté matizarlo al decir que salvar el presente, el significado profundo de esa frase, es lo que la filósofa Hannah Arendt denomina el arte de comenzar. El arte de comenzar es muy distinto de simplemente ser innovador o crear cosas nuevas. Pero el arte de comenzar es fundamentalmente estar en el presente, sin ser afectado por el pasado y sin ser afectado por el futuro. Es una distinción muy importante frente a ser innovador, porque puedes tener una innovación irreflexiva donde simplemente dices: tengo la presión de ser innovador, así que crearé algo nuevo que revolucione el mercado. Vale, es nuevo. Pero es innovación sin pensar. Mientras que el arte de comenzar consiste en poner en marcha algo que es fundamentalmente desconocido, algo que ni siquiera en teoría puede ser predicho, como cuando te abres a otro ser humano, cuando conoces a alguien de verdad, por ejemplo, en un seminario de filosofía o un debate político genuino, te abres al riesgo fundamental de aprender algo que cambie para siempre quién eres y cómo piensas sobre el mundo. Y ese es un momento de inicio que la IA nunca podrá lograr. Pero su capacidad de innovar y crear cosas nuevas nos engaña haciéndonos creer que también podemos delegarle esta cualidad de empezar.
—Usted cita la campaña de Clinton en 2016 con 400 simulaciones por noche para optimizar cada decisión comunicacional. ¿Hay una diferencia cualitativa entre ese uso de la IA en política y lo que los políticos hacen hoy, o es solo una diferencia de escala?
—Es diferencia de grado y escala. La política nunca fue un juego de convicciones, pero siempre ha existido una lógica calculadora en la política, donde intentas usar datos y números para predecir qué decir para ganar: solo dime qué debo decir para ganar y lo diré. Es solo que con la inteligencia artificial, ese tipo de lógica ha explotado. Antes dependían de encuestas sobre comportamientos de voto previos. Ahora tienes la capacidad de microsegmentar a cada usuario individual, y que la IA redacte un discurso donde cada palabra esté estadísticamente optimizada para convencer a grupos específicos de votantes. Así que, esencialmente, lo que estamos haciendo es delegar el comienzo político, este concepto que desarrolla Hannah Arendt. Y hemos reemplazado esto por una dominación del pasado, lo cual es algo muy peligroso, porque básicamente lo que estamos haciendo es que, al hacer esto, abandonamos los ideales de la democracia. No en el sentido de que estemos abandonando el ideal de conseguir un gobierno que sea para la gente, porque sigue siendo para la gente, sigue siendo lo que la gente quiere. Pero esto ya no es un gobierno del pueblo. Ya no es una forma de autogobierno. Porque como dije antes, podemos tener mejores políticas, que se ajustan mejor a nuestras preferencias. Pero no serían nuestras políticas y ya no serían nuestros gobiernos.
—Hay empresas que toman los datos que una persona dejó en internet durante su vida y los usan para recrearla como un bot conversacional con el que sus familiares pueden seguir interactuando después de su muerte. Es un negocio legal, no regulado, que convierte el duelo en un mercado. ¿Qué revela eso sobre adónde conduce la lógica de que los datos póstumos no tienen dueño?
—Cuando empecé a trabajar sobre estas empresas que transforman tus datos en un bot que sigue existiendo después de tu muerte, lo veía principalmente como un fenómeno filosóficamente y éticamente desafiante, un punto de partida que podía aprovechar para hablar de estas interesantes preguntas filosóficas. Pero en la última década, estas empresas se han vuelto cada vez más comunes. Ahora hay al menos unos diez competidores diferentes en el mercado. Se ha escrito muchísimo sobre las dimensiones éticas de esta industria. Lo que yo aporté es decir que la ética no reside realmente en la tecnología en sí misma. A menudo nos dejamos engañar pensando que las cuestiones éticas surgen de nuestros sistemas técnicos, cuando en realidad provienen de los sistemas económicos en los que estas tecnologías son implementadas. Entonces, por ejemplo, ¿es poco ético recrear a alguien como un bot póstumo? No necesariamente. Depende del motivo. Si lo haces porque crees sinceramente que alguien encontrará esto como una experiencia valiosa, o si lo haces con tus propios datos porque quizás quieres que tus hijos o nietos tengan una idea de cómo habría sido conversar contigo, está bien, es genial, no hay nada poco ético en ello. Pero si lo haces como medio de explotación económica, si lo conviertes en un negocio donde la gente es manipulada emocionalmente para mantener una relación con sus seres queridos fallecidos, bueno, eso es poco ético. Pero eso está en los sistemas económicos, no necesariamente en los técnicos.
—Argentina está ensayando algo que ningún otro país ha intentado explícitamente: organizar el Estado en torno a la inteligencia artificial como principio estructurador. Desde su perspectiva como investigador de la política y la ética de los datos, ¿qué es lo primero que ese experimento le sugiere?
—Para mí suena mucho a una palabra de moda. Tengo un estudiante de doctorado en informática cuyo proyecto está etiquetado como inteligencia artificial. Y creo que la mayoría de los observadores externos que miren el problema dirían: “Ah, sí, genial, inteligencia artificial”. Y nosotros nos reímos internamente de eso, porque muy pocos informáticos dicen realmente que lo que hacen es inteligencia artificial, o no necesariamente piensan que lo es. Pero citando a mi estudiante de doctorado: “Hoy en día no te está permitido decir que lo que hacés no es IA, aunque no lo sea”. Así que creo que hay una euforia ahora mismo en torno a la palabra, a la mismísima palabra IA: en cuanto usás grandes cantidades de datos, que antes la gente llamaba big data, en cuanto usás cualquier tipo de estructura algorítmica, le ponés la etiqueta de IA y la gente piensa que es magia. Entonces cada vez que escucho a un sector político que hace de la IA el principio estructurador del Estado, me pregunto: ¿en qué se diferencia eso de cualquier Estado que usa grandes cantidades de datos y estructuras algorítmicas para tomar sus decisiones? Es mi pensamiento inicial.
—En un país que desregula aceleradamente su infraestructura digital, ¿quién termina siendo el custodio de la memoria colectiva? ¿Quién decide qué datos se preservan, cuáles se comercializan y cuáles desaparecen?
—La respuesta a esa pregunta es: ¿quién tiene más capital? ¿Quién tiene más capital de datos? ¿Quién tiene más capital económico? Quiero decir, al final del día, esa va a ser la persona que tenga más poder sobre ese tipo de decisiones. Y sé que ahora está de moda entre los políticos jugar con las palabras desregulación e innovación y dejar que el mercado corra libre. Pero no hay nada de libre en reemplazar la regulación y la ley con la IA y la innovación. Es simplemente el reemplazo de un tipo de estructura de poder por otro tipo de estructura de poder. Es decir: bueno, las estructuras de poder económico deberían tener precedencia sobre las infraestructuras democráticas que hemos construido. Una no es más libre que la otra. Son simplemente dos formas diferentes de organizar y distribuir el poder.
—América Latina tiene una historia particular con la memoria: dictaduras, desapariciones, archivos destruidos o manipulados. ¿Cambia esa historia la forma en que deberíamos pensar la gobernanza de los datos póstumos en esta región?
—Sí, totalmente. Es en realidad un ejemplo muy interesante. Argentina no es el único país del mundo que tiene ese tipo de historia. China, la Unión Soviética tienen ejemplos similares de personas que no solo fueron eliminadas físicamente, es decir, asesinadas, sino cuya huella de datos completa fue borrada: cada foto, cada carta que alguna vez escribieron. Y con el futuro digital, dado que los datos digitales son tan susceptibles a la manipulación, dado que son mucho más fáciles de borrar que los datos físicos o las huellas de datos tradicionales, estamos abriendo la puerta a un futuro donde, a nivel global, las personas políticamente indeseables pueden literalmente ser borradas de la memoria colectiva, podés censurar y eliminar. Y esto es algo que está sucediendo en este mismo momento: la administración Trump ha sido muy hábil para cubrir sus huellas, simplemente destruyendo montones de información sobre lo que han estado haciendo, que de otro modo habría sido archivada por la Biblioteca del Congreso. Y cuando combinás eso con el poder sin precedentes de los gigantes tecnológicos, como los Zuckerberg y los Musk, es una situación muy, muy peligrosa. Habría sido una situación peligrosa incluso si esos señores de la tecnología hubieran sido santos virtuosos, que Dios sabe que no lo son.
------------------------------------
“Milei a lo Marx traspone mecanismos de la religión al mercado”
—No sé si usted ha visto el debate entre Harari y nuestro presidente Milei, sobre la idea de Milei de crear una nueva ley para que empresas gestionadas completamente por inteligencia artificial puedan estar en Argentina sin que ningún ser humano sea responsable.
—No estaba al tanto de ese debate. Suena un poco descabellado, honestamente. Suena como una jugada trampa, casi como una jugada barata, como cuando mencioné, cuando hablamos de la idea de los dioses de datos, cómo funciona la religión como una ouija. Todos ponen el dedo en la copa o en el puntero y este se mueve y le da mensajes al grupo. Es un movimiento común de quienes están en el poder e intentan señalar fuentes externas de autoridad. Antes eran los dioses, y se decía: “Oh, yo no estoy diciendo esto. Lo dijo Dios. Mirá, dice en este libro que personas como yo deberían estar en el poder”. O, “¿por qué los hombres deberían tener derecho a votar y las mujeres no? Lo siento, no es algo que nosotros decidimos. Fue Dios quien lo decidió, dice aquí en esta antigua escritura”. Y de ahí pasamos al mismo mecanismo pero con el poder económico, diciendo: “Oh, quisiera que todavía pudiéramos tener esa fábrica en ese pueblo. Quisiera que todavía pudiéramos hacer esto. Pero desafortunadamente, el mercado no lo quiere. El mercado ha decidido tal y cual cosa”. Entonces ya no hablamos de esta criatura externa, sobrenatural, de Dios. Hablamos del mercado. Y la tercera iteración de ese mismo tipo de externalización del poder es la inteligencia artificial. Estamos diciendo: “Oh, no fui yo. Fue la IA la que dijo lo que dijo”. Y en cada uno de estos casos, es una forma que tienen las personas con poder de desviarse de sí mismas, en lugar de reconocer que todos estamos poniendo los dedos en el puntero, y que algunos tiran más que otros. Las relaciones internas dentro del grupo se van a reflejar en qué letras forma ese puntero. Y cada vez que pretendemos que es un espíritu externo, el mercado, Dios, o una inteligencia la que nos dice qué hacer o que simplemente actúa de manera autónoma, nos estamos tendiendo la misma trampa a nosotros mismos.
—En relación con su visión sobre la inteligencia artificial y a la vez Dios, nuestro presidente Milei dio una conferencia donde dijo que el capitalismo y el mercado son la expresión de Dios en la relación entre los seres humanos.
—Hablando como un verdadero marxista, escucho que eso es exactamente la crítica marxista original al capitalismo: decir que el capitalismo está transponiendo los mecanismos de la religión al mercado, diciendo de alguna manera que se vuelve sagrado en el mismo sentido. Así que en realidad es gracioso que haga ese argumento. Había un perfil de Twitter llamado “Accidentally Marxist” que simplemente recopilaba citas de neoliberales y conservadores que accidentalmente tenían puntos marxistas. Esto sin duda puede agregarse a la colección.
Producción: Sol Bacigalupo.
