—En su libro “La humanidad aumentada”, marca la invención del smartphone como el fin de la revolución digital y el inicio de la transformación digital del mundo. ¿A qué se refiere con “aumentada”?
—Hoy creo que no utilizaría el término “aumentada”. Hablaría, más bien, de una humanidad orientada, que es exactamente lo que sucedió desde el inicio de la década de 2010, con la llegada del iPhone y de las aplicaciones integradas, diseñadas para señalarnos continuamente las acciones correctas que debemos realizar. Por ejemplo, con Waze, tomar tal camino, reunirse con tal persona, ir a tal restaurante, tomar tal suplemento dietario. Eso fue el comienzo de lo que llamé la orientación algorítmica, o el acompañamiento algorítmico de la vida. Y esto es un movimiento que no ha dejado de crecer, favorecido por los avances de la inteligencia artificial. Así, nuestros gestos, nuestras conductas están cada vez más guiados por sistemas, con el fin de liberarnos de una serie de esfuerzos y señalarnos continuamente la vía de la verdad, por decirlo de algún modo: “Haz esto, haz aquello”. Esta medida se inició con lo que he llamado el advenimiento de un tecnoliberalismo, que ya no quería mantener una separación entre los individuos y los productos vendidos, sino interpretar continuamente los comportamientos, con miras a sugerir permanentemente bienes y servicios que se supone que son adecuados para cada uno de nosotros. Esa es una de las dimensiones más sobresalientes que permite la inteligencia artificial, la interpretación cada vez más en tiempo real de los comportamientos y, a su vez, la posibilidad de dirigirlos.
—Esta conversión digital del mundo dice usted que “redefine las relaciones históricas con el espacio-tiempo que estructuran la base de nuestra experiencia”. ¿De qué manera altera la transformación digital nuestra percepción de la realidad?
—Estas tecnologías nos ofrecen algo así como una percepción omnisciente de lo real. Porque desde principios de la década de 2010, estamos asistiendo a un cambio de estatuto de las tecnologías digitales. Ese es el gran tema que hay que entender. Me parece que en relación con muchos fenómenos tecnológicos, tendemos a sumirnos en la confusión. Seguimos las cosas, adoptamos los dispositivos, sin entender realmente lo que está en juego. Quizás el papel de una filosofía contemporánea, de una filosofía que quiera analizar los fenómenos de cerca, consistiría en tratar de describir lo que está en juego. Y lo que se está jugando desde hace una década y constituye un fenómeno significativo es que hay un cambio en las tecnologías digitales. La idea es que ya no solo permiten la recopilación, el almacenamiento, la indexación y la fácil manipulación de los datos, a los más diversos fines de información. Lo que está en marcha hoy y desde hace una década –en realidad, son unos quince años–, desde la llegada del iPhone y con el desarrollo de una nueva era de la inteligencia artificial a principios de la década de 2010, es el surgimiento de una nueva rama de las tecnologías digitales. Estamos frente a sistemas que evalúan situaciones en tiempo real. Doy un ejemplo muy simple: la aplicación Waze, que casi todos usamos, adquirida por Google a una startup israelí en 2005. ¿Qué hace esta aplicación? Es como muchos otros sistemas, otras aplicaciones, otros dispositivos tecnológicos, que evalúan el estado del tránsito en tiempo real, a velocidades infinitamente superiores a nuestras capacidades cognitivas, y que revelan hechos que nuestra conciencia ignora por completo. Nadie sabe que hay tal cantidad de vehículos, tal volumen de tránsito. Waze evalúa eso, pero también sugiere tomar tal itinerario en lugar de otro. Esto cambia la relación con la experiencia, cambia la relación con lo real, con los otros, con el espacio, en la medida en que cada vez más los distintos sistemas nos revelan hechos, diagnósticos y evaluaciones en tiempo real del estado de cosas, además de indicar las acciones que deben realizar los individuos: “Compra tal zapato, ve a tal lugar, conoce a tal persona”. En síntesis, es este acompañamiento de la vida lo que permite una nueva era del comercio, que casi podría radiografiar nuestras almas, nuestras mentes, para interpretar continuamente lo que se supone que nos conviene y decirnos, casi como por arte de magia: “Esto es lo que necesitas”. Por lo tanto, la primera consecuencia del desarrollo de la inteligencia artificial en los últimos quince años es lo que he llamado la mercantilización integral de la vida. O sea, sistemas que nos sugieren continuamente tales acciones y no otras, generalmente con el objeto de efectuar transacciones comerciales. La segunda gran consecuencia es lo que he llamado una hiperracionalización de la sociedad, es decir, que los sistemas encuadran la acción humana. Le doy un ejemplo, en los almacenes logísticos de Amazon hay sensores, sistemas de inteligencia artificial que interpretan la ubicación de los operarios en tiempo real. Mediante señales de audio o tabletas, les van dando órdenes, al tiempo que los reducen a robots de carne y hueso. Los mandan a buscar tal artículo de tal armario para volver a colocarlo a determinado ritmo en tal palé. También esto se ve propulsado por la inteligencia artificial, dotada de ese poder de recomendación. Digamos que cada vez más esto encuadra los gestos y, por ende, impone normas. Normas de producción, de conducta, y una organización cada vez más enmarcada del curso de los asuntos humanos comunes.
—¿Cuáles son los hechos cruciales que marcan la condición antrobológica, este juego de palabras entre antropo, robot y logos, que tendrían como fin último modificar la intelección entre el ser humano, la meta que tenemos de razonar y conocer el mundo?
—Desarrollé la noción de antrobología hace algunos años, con La humanidad aumentada. Esto designaba el hecho de que había cada vez más robots, sistemas, fantasmas, voces. Era el momento en que los sistemas nos señalaban qué acciones hacer en nombre del estudio de una verdad de los hechos, de un diagnóstico objetivo de las cosas. Los sistemas se ponían a hablarnos. En los últimos años, la tecnología, el techno logos, ya no es un mero discurso sobre la técnica, sino que son sistemas dotados de la capacidad del habla, la facultad de hablar. Esto es lo que vemos con el ChatGPT, que es un gran problema. La capacidad que le hemos otorgado al sistema tecnológico para hablarnos. Esto surgió en 2016 con los parlantes inteligentes, que también nos hablan. Se dirigen a nosotros. No como tú, yo o cualquiera, para decir cualquier cosa, sino que siempre tienen una idea en mente: interpretar nuestro comportamiento para poder decirnos continuamente qué hacer. “Estás en la bañadera, escucha tal música”. Dado el conocimiento de nuestro comportamiento, nos pueden decir: “Te recomiendo tal producto alimenticio, tal vacación en la montaña”. Las tecnologías comienzan a hablarnos con voces agradables, con tono humano, lo cual crea una relación de intimidad, de proximidad, de familiaridad con la técnica, que ya estaba en marcha con los smartphones. La dimensión táctil, la caricia táctil. La relación que tenemos con nuestras tecnologías es cada vez más íntima, y estas forman parte, cada vez más, de nuestro ambiente, haciendo difícil mantener nuestra distancia con los sistemas. Hay algo así como un confort que nos sostiene, hay que reconocerlo. Nos cuesta mantener una relación crítica con los sistemas, con una economía y una industria cada vez más poderosas, hegemónicas hoy, que se proponen mercantilizar todos los campos de la vida y hacer valer únicamente sus modos de racionalidad, fundados en la interpretación de los comportamientos, en la mayor eficiencia posible y en el hecho de no dejarnos respirar un segundo, por decirlo de algún modo. Esto nos acompaña continuamente.
“Sabemos muy bien que todas las hegemonías avasalladoras representan siempre un peligro”
—¿Qué sucede con ese sujeto moderno que habría surgido de la tradición humanista, singular y libre, plenamente consciente y responsable de sus actos, que queda absorto y absorbido por esta transformación digital, incapaz de ver las redes que lo atan y subsumido en estas proyecciones del algoritmo?
—Es un hecho que los sistemas nos encuadran cada vez más. ¿Qué significa esto? ¿Qué significa que lo hacen con fines comerciales y organizativos? Significa que se nos imponen normas. Las ambiciones externas, los intereses externos ejercen una presión cada vez mayor sobre nuestras existencias. Hay algo así como la autonomía histórica del sujeto, que tú mencionas y que data de la Ilustración, la cual tiende a ser relegada en favor de un cerebro algorítmico que nos marca el camino de la verdad. Esto genera que la extrema tecnologización de nuestra existencia ponga a distancia nuestra capacidad de pronunciarnos en primera persona. Con esto me refiero al ChatGPT, por ejemplo. Las tecnologías digitales, con la inteligencia artificial desde hace unos diez años, eran y son tecnologías cognitivas destinadas a organizar mejor los asuntos humanos desde un punto de vista individual y colectivo. Ya lo hemos dicho: hacer tal o cual acción, organizar el funcionamiento de las empresas, propiciar las mejores condiciones de management, disponer las condiciones para la contratación mediante sistemas que entrevistan a los candidatos a un cargo. Me parece que no estamos dimensionando en su justa medida que estas tecnologías cognitivas, que diagnostican situaciones y a cambio recomiendan, tienen un poder político, un poder prescriptivo. Hablo de las tecnologías digitales actuales, o sea, de la inteligencia artificial. Desde hace ya varios meses, vivimos un momento muy perturbador que, en mi opinión, es un huracán civilizatorio. Que no nos vendan esto como un nuevo y eterno progreso. No. Creo que se trata de un enorme peligro civilizatorio y cultural que nos atañe. Estamos viviendo la era de las tecnologías generativas, es decir, que fabrican lenguaje, representación. Y después de habernos despojado de nuestra facultad para decidir por nosotros mismos el simple curso de nuestras vidas cotidianas, desde un punto de vista individual y colectivo, esa presión no ha dejado de intensificarse. Entonces, después de haber vivido ese momento que se acelera sin cesar, ahora estamos viviendo el momento en que los sistemas se hacen cargo de nuestras facultades más fundamentales, el habla, la escritura, el poder expresarse en primera persona, el poder mantener una relación activa con el lenguaje. Asimismo, las tecnologías de la inteligencia artificial generativa logran producir un régimen simbólico: imágenes, videos. Esto no solo nos despojará cada vez más de la facultad creadora que nos constituye y de la capacidad del lenguaje. Todo lo que atañe a nuestras facultades humanas más básicas está siendo delegado. Estoy muy sorprendido, muy molesto, muy enojado también, porque estos fenómenos ya existen. Han producido un shock hace unos meses, pero son casi una nueva etapa en el desarrollo de las tecnologías digitales. Me parece que hay un cruce de umbral que no debemos aceptar. Esto no debe ser objeto de una moratoria ni de un simple marco normativo que no alterará en nada el hecho de que se nos estén arrebatando nuestras facultades. Por mi parte, creo que son sistemas que vulneran nuestra condición, nuestra dignidad, nuestra creatividad humana. En nombre de esto, me uno a lo que decía Albert Camus en El hombre rebelde: “Más allá de este límite, no irás, no pasarás”. Creo que se ha traspasado un umbral y que eso no nos está movilizando lo suficiente. En mi opinión, esto debería ser objeto de una prohibición por parte de los Estados. Sé que es muy complicado, pero me parece fundamental. De lo contrario, vamos a tener niños y adultos que ya no escribirán, que solo darán instrucciones, como una especie de capricho. “Escríbeme un texto, un mail”. Como si nos convirtiéramos en vegetales de la sociedad. Además, aparece así un momento muy peligroso, muy amenazador, que es el de la indistinción de la fuente, es decir, quién habla. Frente a un texto: ¿el autor son los sistemas? ¿Quién está hablando? Hay algo así como una base común que se está perdiendo. Porque para hacer una sociedad debemos saber de dónde vienen los discursos, quién habla, qué medidas debemos obedecer, a quién respondemos. Luego tenemos la problemática de la imagen: el hecho de que cualquier imagen pueda hacerse valer e imponerse en el debate público, sin que se sepa si corresponde a hechos exactos. Ergo, hay muchos peligros por delante. ¿Qué provoca esto? Algún que otro debate, discusión, programa de radio o televisión. Pero hay algo fundamentalmente humano que está siendo vulnerado. Para terminar, voy a decir algo que me parece muy importante. Estamos tan confundidos y la cosa va tan rápido. Hay una desincronización entre los desarrollos tecnológicos y la forma en que la sociedad puede percibirlos. Y esto plantea un problema político. Es difícil seguir esos fenómenos en el momento en que aparecen, comprenderlos y poder pronunciarse al respecto, lo cual es lo propio de lo político. Decir si queremos o no tal cosa. Pero también hay otro problema. Se fabrica una doxa, condiciones, discursos. No viene de un único lugar, en absoluto. Es una tendencia que está en marcha. Discursos que provienen principalmente de la industria digital o de los ingenieros, que nos dicen que no nos preocupemos por más que pueda haber ciertos riesgos. Sam Altman, el responsable de OpenIA, dijo que esto va a ser genial para la humanidad. No sabemos desde qué posición lo dice. Hay unas cuantas frases así que se repiten en todos los periódicos. Creo que escuchamos demasiado a los ingenieros. Hoy, cuando queremos saber qué hacer con estos sistemas, pedimos opinión a los ingenieros. Creo que más bien habría que escuchar a los médicos, a los profesores, a la sociedad. No preguntar solo a los que fabrican y venden, que son juez y parte, qué piensan ellos de los sistemas que producen, y tomar luego sus palabras como si fueran verdaderas. Me refiero, por ejemplo, a una persona como Yann LeCun en Francia, ingeniero jefe de Meta Facebook en París. En una entrevista con Le Monde el pasado fin de semana, dijo que la inteligencia artificial permitirá un renacimiento de la humanidad, una nueva era de la Ilustración. ¡Pero un ingeniero diciendo eso! ¿Cómo podemos tomarlo en serio y no ver que esta gente que trabaja en Facebook responde a sus propios intereses y a una visión del mundo? Una visión hipertecnologizada. Sería hora de oponer un contradiscurso a esos tecnodiscursos. Creo que no lo hacemos lo suficiente. A mi modesta medida, con las armas de la filosofía, con el escalpelo, con instrumentos quirúrgicos, intento analizar, diagnosticar las cosas, como decía Foucault. Lo hago al margen de los discursos que conllevan intereses y visiones del mundo, generalmente cientificistas, pronunciados por los partidarios de la industria digital o los ingenieros. Corresponde a la sociedad pronunciarse, participar, saber hasta qué punto queremos o no usar ciertos sistemas, en particular aquellos que nos arrebatan nuestra capacidad de habla. Me alegró, por ejemplo, enterarme de que en París, en la facultad de Ciencias Políticas, hace dos meses, los equipos pedagógicos dijeron que no utilizarían esas tecnologías. “Estos sistemas no van a decidir cómo se estructura la educación. Somos nosotros los que decidiremos por sí o por no”. Y optaron por no usarlos. Pienso que esa es la posición crítica, rechazar que las innovaciones sean las que deciden unilateralmente el rumbo de las cosas. Buscar que la sociedad pueda decidir, pueda crear un juego con las cosas, pueda mantener una relación crítica y afirmar una pluralidad de voces. Creo que escuchamos demasiado a Elon Musk y a todos esos ingenieros. A esas personas que están encerradas en sus laboratorios y muchas veces padecen Asperger y solo piensan en amasar miles de millones de dólares. Los escuchamos demasiado. Hoy es hora de escuchar a todas las fuerzas vitales, a todas las fuerzas vivas de la sociedad.
“En una sociedad en la que prima la desconfianza universal, todos los peligros son posibles”
—Lo escucho y recuerdo el último reportaje con vida que le hicimos a Sigmunt Bauman, y decía que habíamos perdido la capacidad de la memoria por los teléfonos, que nos recuerdan continuamente los números, las direcciones. Usted decía que con GPT los chicos van a perder la capacidad de escribir, de dibujar, porque van a delegar esa tarea en otros, y me viene a la memoria la idea de Hegel con el amo y el esclavo, si finalmente el delegar en esa tecnología como un esclavo, el amo invierte el orden y se convierte en esclavo.
—El punto que usted enuncia es muy importante. Las tecnologías digitales proceden por instrucciones, dan instrucciones a máquinas, y los algoritmos las ejecutan y responden a ellas. Lo que nosotros le decimos al ChatGPT, las instrucciones que damos, reciben el nombre de prompt. Damos instrucciones, y las máquinas las realizan. Pero en los últimos diez años ha habido un movimiento contrario. Ahora no solo nosotros damos instrucciones a las máquinas, sino que las máquinas, cada vez más, nos dan instrucciones a nosotros. Pero lo hacen atendiendo a una visión del mundo, con miras a intereses y objetivos que nos son externos. Me refiero, por ejemplo, a lo que decíamos sobre los almacenes logísticos de Amazon y otros, como Nespresso. La logística contemporánea hoy se ha vuelto muy importante. El almacenamiento de productos y su distribución es una economía, una industria que no ha dejado de desarrollarse desde la pandemia. Hoy las compras se realizan en línea desde nuestros hogares.Hay todo un mundo gerencial del que nunca se habla. Cuando hay innovaciones, acudimos a Musk, a Yann LeCun, a YoshuaBengio en Montreal, ¿Qué está pasando con estas innovaciones? A mí me gustaría que fuéramos a los almacenes de Amazon. ¿Qué está pasando en los almacenes de Amazon con estas innovaciones? Y lo que está pasando es que las máquinas están dando instrucciones a los humanos. ¿Y qué significa que las máquinas den instrucciones a los humanos? Significa que se reduce a los seres a robots de carne y hueso, hasta que llegue el momento en que la creciente automatización de todos los campos de la sociedad, mediante robots sumamente sofisticados, dotados de capacidades de manipulación de objetos y no solo de procesadores de cómputo, se encarguen ellos mismos de efectuar esas tareas. El último paso que hoy ya está en funcionamiento es la robotización de los gestos humanos. Si aludo a esto, es porque pienso que nos compete a nosotros desarrollar una política del testimonio. Vayamos a ver qué está pasando. Vayamos in situ. No digo que todo sea negro, en absoluto. Digo que cada vez más existe un encuadre que vulnera nuestra autonomía, nuestra dignidad y nuestra integridad. Y luego hay otro hecho. Quizás haya visto el anuncio que hizo IBM ayer, por ejemplo. Es un punto crucial. IBM anunció que estaba considerando un plan de contratación de ocho mil personas, pero que el surgimiento del ChatGPT había puesto en duda ese proyecto. ¿Frente a qué nos pone la inteligencia artificial? Frente a algo distinto de lo que ocurre con las labores penosas, como en las fábricas automotrices. Sabemos muy bien que desde hace unos cuarenta años, ha habido una automatización de las tareas de la industria automotriz. Y mejor así, porque esos oficios repetitivos resultaron en trastornos musculoesqueléticos, en dificultades motrices por repetir las mismas acciones de la noche a la mañana durante años. Por lo tanto, la automatización en las últimas décadas ha hecho posible reemplazar oficios altamente extenuantes. Eso es una gran noticia, si se generaron empleos en otros lugares. ¿Pero con qué nos enfrentamos hoy? Hay que entenderlo. Porque uno puede pensar que entre lo que se gana y se pierde vamos a terminar acomodándonos. ¿Pero qué pasa? Lo que se está reemplazando son trabajos que requieren altas habilidades cognitivas. Esto significa, al fin y al cabo, que los abogados sean reemplazados por sistemas, que los médicos sean reemplazados por sistemas de diagnóstico, que los profesores sean reemplazados por coachs y plataformas educativas. Esto denota dos cosas. Se basa en la idea de una dimensión profundamente carente, una imperfección del ser humano, contra la cual necesitamos luchar. Esa noción responde a una ideología vigente en Silicon Valley, que postula que el mundo no está del todo terminado, que tiene muchas fallas, y que las principales fallas somos tú y yo, los humanos. Pero resulta que hoy hay un milagro, las llamadas tecnologías exponenciales, que a velocidad exponencial redimirán todas las faltas de la humanidad. Subyace, pero de manera cada vez más explícita, un odio por el género humano. Los trabajos con altas habilidades cognitivas exigen sociabilidad, expresión de las propias facultades, expresión de los talentos, pluralidad de las posibilidades de organización. Un médico no es exactamente igual que otro médico. Un abogado no defenderá un caso como lo haría otro abogado. En resumen, a esto se le llama expresión de todas las subjetividades. Y esto está ocurriendo en profesiones con altas habilidades cognitivas, que dan testimonio del poder de la creatividad de las personas, del ingenio propio. Ahora bien, cuando nos dicen, así sin más, sin que haya ningún debate público y como si se tratara del orden natural de las cosas, que tales profesiones serán sustituidas por sistemas, ¿cómo podemos aceptarlo y cómo podemos aceptar también los discursos que nos dicen que esto permitirá que tales profesiones vayan un poco más lejos? Hay frases que equivalen a un eslogan y que hay que saber desarmar para no quedarse boquiabierto y tomarlas por cierto. ¿En qué medida sistemas que analizan expedientes, por ejemplo, para el fuero penal en el marco de la Justicia, o sistemas llamados a sustituir a los profesores permitirán que esos trabajos vayan más lejos? A esto llaman complementariedad hombre-máquina. Es una noción que tomo como un eslogan: “No te preocupes, los sistemas no nos van a reemplazar, simplemente habrá nuevas formas de complementariedad”. ¡No es cierto! Los ejemplos son muy numerosos, como IBM ayer diciendo: “Gracias al ChatGPT no contrataremos a ocho mil personas”. ¿Cómo podemos aceptar esto? ¿Acaso no es una derrota de la humanidad? Quiero volver a este punto: debemos desconfiar de los discursos formateados que nos venden soluciones y que nos hacen creer que las cosas se podrán manejar casi con normalidad. Es interesante ver que hoy en día los ingenieros están empezando a tomar conciencia de los excesos, de las derivas, y notan una fragmentación en la homogeneidad de los discursos. La máquina comienza a agarrotarse. Vivimos un momento interesante. Hay ingenieros que dicen que se han extralimitado. Hay gente que pide frenar un momento. Vemos claramente que hay algo que está de más. Debemos confrontarnos con eso como sociedad.
—¿Cuánto de la polarización que hoy vemos con un extremismo de los discursos a lo largo de todo el mundo, tiene que ver con un efecto concreto que ya produjo, antes que la sustitución de la máquina por el ser humano, la propia destrucción del ser humano por el ser humano?
—Supongo que te refieres a La era del individuo tirano, donde analicé el fenómeno de esta doble ecuación bastante devastadora, muy peligrosa, que vio, por un lado, durante unos cincuenta años, desde el advenimiento del neoliberalismo, a seres cada vez más despojados de su facultad de decidir, de ser dueños de su destino y que vio, por otro, un creciente declive del poder público, la privatización de la acción pública, el retroceso de los servicios públicos. La idea de que, en la sociedad, el pacto social se había diluido. Podemos calificarlo también de ruptura del pacto de confianza entre las masas, el pueblo, y las instituciones, los líderes políticos. Es un movimiento que no ha dejado de profundizarse y al cual en un momento se le añadió (algo que explica muchas cosas, a mi juicio) lo que he llamado una cronología de las desconfianzas. Hay hechos muy significativos que provocaron que cada vez más las multitudes dejaran de adherir a los discursos emitidos por las instituciones, los líderes políticos, los medios de comunicación. A fuerza de desencanto. Pienso en 2003 y las mentiras descaradas de la administración Bush. Pienso en el referéndum sobre la Constitución Europea, por ejemplo, en el cual Francia votó no y el poder ejecutivo fue en contra de la voz del pueblo. Pienso en la crisis financiera de 2008, cuando nos dimos cuenta de que los límites legales eran insuficientes. La política no se había involucrado como correspondía para limitar unas prácticas que resultaron delictivas. Pienso en los métodos de gestión que incapacitan cada vez más a las personas. En los últimos treinta años, ha habido una masiva impresión de pérdida de la capacidad de los seres para ser actuantes, para ser actores de sus vidas, unida a un sentimiento que explica muchas cosas. Un sentimiento de inutilidad de uno mismo. No servimos para gran cosa. El management es el que organiza. Nosotros carecemos de los medios para poder responder a nuestros deseos. La dificultad de la existencia conlleva que estemos obligados a hacer trabajos utilitarios. En definitiva, a todo este movimiento in crescendo se le sumó otra cosa. Es lo que analicé en mi libro La era del individuo tirano. Se sumó la tecnologización de las existencias individuales. La industria brindó tecnologías personales a los individuos y les permitió, a partir de la década de 2000, no solo poder comunicarse fácilmente más allá de las fronteras –eso está muy bien–, sino también poder tener acceso a una cantidad de corpus de todo tipo. Eso también es muy bueno. Pero esto asimismo da acceso a una serie de corpus totalmente sesgados, odiosos, basados en el resentimiento y la mentira, que evidentemente influyeron en las psiquis. Y con eso, llegaron las redes sociales, cuyas consecuencias en los individuos y en la sociedad aún no han terminado de evaluarse. Entonces, en el momento en que la gente tenía cada vez más la sensación de verse despojada de sí misma, le pusieron entre las manos ciertas tecnologías de las que se apoderó para afirmar, para exhibir su propia existencia, su vida cotidiana, para hacer valer continuamente sus opiniones, lo cual daba la impresión de una suerte de primacía de su persona, primacía de su palabra. Este choque entre la incapacitación y la impresión de un repentino aumento de poder organizó algo así como una crispación de la sociedad y un vapuleo en los intercambios entre las personas. Me parece que hay una psiquiatrización, en el sentido de que ya nadie se escucha. Todos se expresan a partir de sus propios resentimientos, de sus propios sufrimientos. Hablando del ChatGPT, cuando llegue el momento en que ya no sepamos quién habla y cuál es el valor de una imagen, cuál es la fiabilidad, la realidad, la correspondencia con la realidad de una imagen, me temo que eso que se llama sociedad –es decir, bases comunes, pluralidad, escucha, intercambio, construcción dentro de la contradicción, en definitiva, lo que conforma lo político– ya no exista. Esto ya es así hoy, pero temo que se incremente. Y todo ello en beneficio de una atomización de las existencias, una atomización de las subjetividades. Esto es lo que llamé en mi libro “un totalitarismo de la multitud”. Cada individuo quiere ser escuchado en nombre de su sufrimiento, sin tener en cuenta el interés general. No solo eso, sino asumiendo que ese malestar fue generado por un orden general, que ese individuo fue abusado por un orden general. Hay como un estado de la sociedad que me parece extremadamente peligroso, que está en acción. En Francia, eso ya está en marcha por muchas razones que analizo en mi libro. Hay un devenir, y este se ve favorecido por las tecnologías digitales. Ese sistema de la indistinción que se viene hay que poder ver qué puede organizar, qué puede implicar en las relaciones interpersonales. Porque no es poca cosa no saber. Estar en una especie de vértigo continuo. No comprender cuál es el valor de una palabra ni de una imagen. Así no podemos determinarnos en común. Me temo que lo que se llama sociedad se emparente con una continua implosión de rabia, de resentimiento, de cacofonía y constante sordera. Va a ser muy difícil luchar contra eso.
“Es interesante ver hoy que hay ingenieros de inteligencia artificial que están arrepentidos”
—¿Coincide con Yuval Harari en la idea de que la civilización está en peligro y todas las críticas que ha hecho el historiador israelí sobre el futuro de la humanidad?
—Creo que Harari es un historiador de la prehistoria. De la noche a la mañana, se ha vuelto especialista en tecnología e inteligencia artificial. Estoy incómodo con esto, muy molesto con este señor, contra el que no tengo absolutamente nada, pero al que escuchamos como si fuera la nueva voz de verdad del tiempo presente. Creo que de nuevo hay confusión. Es difícil escuchar en una época de sensacionalismo, de frases definitivas, de consignas que se machacan. Es difícil discernir el discurso serio, el discurso riguroso que pone en perspectiva las cosas, que sigue la evolución, que señala las cosas en nombre de los valores fundamentales. Disculpa, voy a ser categórico, pero para mí, Harari no es competente para referirse a estas cosas. Tal vez para evocar ciertos períodos de la historia sería mucho más competente que yo, pero para hablar de esto con oraciones definitivas, tipo “la humanidad está en peligro”, no. Lo que está en peligro es la capacidad de pronunciarnos en primera persona, poder construir en común, poder intercambiar de manera presencial. Porque lo que vivimos durante el confinamiento es el anuncio de lo que está por venir, es decir, la creciente pixelización de nuestras vidas. Aquello que Mark Zuckerberg anunció el 21 de octubre, él solo, sobre el poder de la industria digital. Lo anunció sin ayuda de nadie y con todo el poder de su compañía. Dijo nada menos que la humanidad estaba entrando en el mundo del metaverso. Creo que esta pixelización cada vez mayor de nuestras vidas, el hecho de que cada vez más acciones de la vida humana estén destinadas a realizarse en línea, lo que hemos vivido durante los confinamientos, que hizo posible la viabilidad del rumbo de las sociedades durante esos largos meses, pero que es probable que sea un movimiento que siga aumentando, provocará y sacará a la luz lo que nombro en mi próximo libro, que aparecerá en Francia en octubre, un “capitalismo de la fijeza de los cuerpos”. Es decir, cada vez más, el mundo viene hacia nosotros, las plataformas de video, la música, las imágenes, la aparición de los otros, los profesores, todos esos fantasmas que vemos, que nos hablan, que nos orientan. Al mismo tiempo, hay algo así como el contacto carnal, la acción en común que se están perdiendo ante lo que llamé un aislamiento colectivo, que vivimos durante el confinamiento. Cada uno frente a su pantalla. Allí se pone en marcha una suerte de paralización de la vitalidad social. Entonces, hablar de “peligros de la humanidad” y todas esas grandes sentencias definitivas me generan suspicacia. Creo que hay que analizar los peligros sector por sector. La figura del profesor en la sociedad es algo importante. Hannah Arendt escribió extensamente sobre educación. Creo que no estamos escuchando lo suficiente a los filósofos. Escuchamos demasiado a los ingenieros, a los industriales del mundo digital o a los autores un tanto sensacionalistas. Hay que ir a ver campo por campo y analizar qué está pasando. Hoy necesitamos una filosofía de la medicina. ¿Qué está surgiendo en la práctica médica con estos sistemas? ¿Qué estamos perdiendo? Siempre nos hablan de las ventajas. ¿Pero qué perdemos del contacto carnal? ¿Qué perdemos de la compasión? ¿Qué perdemos de la palabra, de la conversación, de la mirada? Sí, hay una suerte de desvitalización de la sociedad. Antes hablábamos de los almacenes de Amazon, por ejemplo. Hay allí una desvitalización de la acción humana, o una reducción de los humanos a robots. Pero también deberíamos acercarnos a cada sector y recoger los testimonios. Nosotros, en sociedad, deberíamos hacernos una pregunta camusiana: ¿aceptamos esto? ¿Con qué condiciones?¿No se puede rectificar? Nosotros, que participamos en toda esta economía, somos cómplices. ¿Queremos aceptarlo? Creo que hay que fragmentar los modos de percepción y ver qué está sucediendo. Y también que nos cuenten, desde la realidad del terreno, las experiencias vividas.
“Tenemos la sensación de que la industria digital no nos vende nada, solo nos revela cosas”
—En el libro “La silicolonización del mundo”, usted afirma que no se trata de una región, sino de un espíritu de Silicon Valley que engendra una colonización de un nuevo tipo, más compleja y unilateral que en sus formas previas, y una de sus características principales es que no se vive como una violencia a padecer, sino como “una aspiración ardientemente anhelada por quienes pretenden someterse a ella”. ¿De dónde surge esa silicolonización y quién estaría detrás?
—Es un movimiento que fue muy masivo desde principios de la década de 2010, que asistió al éxito insolente de la industria digital y de la economía de los datos y las plataformas: las redes sociales, Uber, Airbnb, en fin, todo lo que ha dado en llamarse la economía de datos y plataformas. En todas las regiones del mundo, después de perderse el tren del software, después de perderse el tren de la construcción de computadoras, se pensó que allí residía el futuro del capitalismo. “Este tren no lo vamos a perder”. Silicon Valley parecía representar ese nuevo capitalismo luminoso que nos llegaba desde el Pacífico, desde la deslumbrante luz californiana. Había que replicarlo y recuperarlo por cuenta propia. Fue muy perturbador ver a mediados de los años 2010 cómo todas las regiones del mundo querían convertirse en el nuevo Silicon Valley. Buenos Aires, nuevo Silicon Valley de Sudamérica. Lo mismo con San Pablo, Santiago, París, Londres. En suma, todos querían aspirar a copiar el modelo y estar a la cabeza de esa industria, de esa economía de datos y plataformas. A eso le di el nombre de silicolonización del mundo, lo cual acarreó una primera consecuencia: la mercantilización integral de la vida. Como decíamos antes, sistemas que continuamente nos interpretan, nos orientan. Cada vez más, adosamos nuestras existencias al uso de plataformas. La economía de datos y plataformas supone la interpretación del comportamiento para ofrecer servicios o productos de forma continua. Esa fue la primera consecuencia. La segunda es lo que acabamos de decir. Cada vez más acciones humanas se realizan a distancia a través de pantallas. Podemos decir que la sociedad toda se ha convertido en un open space, es decir que todos estamos en una especie de postura paralela. Cada vez nos miramos menos, estamos frente a las pantallas. Obviamente que en las pantallas encontramos cosas. Todo el mundo encuentra muchas cosas, yo también: información, periódicos. Pero lo que está en tela de juicio es la medida. La cuarentena nos dio una medida integral. ¿Recuerdas qué pasó cuando salimos del confinamiento? La gente quería tocarse, quería reencontrarse. En un momento, hubo una suerte de festival de lo sensible, fue muy bonito. Queríamos salir de fiesta, juntarnos, tomar tragos, recobrábamos cierta sociabilidad. Pero después se impuso el regreso a la realidad y de nuevo estamos frente a pantallas adosadas a sistemas. Lo que nos toca es celebrar el cuerpo y celebrar las relaciones sensibles y constructivas entre los individuos. Porque estos sistemas aíslan, en la medida en que organizan nuestras existencias y les atribuimos la gestión de nuestro día a día. Pongo un ejemplo muy simple, la selfie. No es nada malo tomarse una selfie, o usar el palo. Pero es un gesto muy simple de la vida cotidiana el pedirle a alguien que nos saque una foto. Eso desaparece. O por ejemplo, usar Waze. Tampoco es grave, pero también es lindo preguntarle el camino a alguien en la calle cuando estás perdido. No está mal si necesitas viajar de una ciudad a otra pedir un favor, en lugar de pasar por una plataforma. También se puede compartir un auto, alquilarlo entre varios. Hay como una interferencia en las relaciones entre humanos, en la esfera interpersonal, que resulta en un empobrecimiento. Y un empobrecimiento de las relaciones redunda en una posible ocupación de nuestras existencias por parte de la industria y en una dificultad mayor para organizarnos de manera conjunta. Eso es lo que está sucediendo. Organizar conjuntamente, en presencia del otro, en la pluralidad, en la expresión de las subjetividades, en lo inesperado, en el descubrimiento de cosas que no se hubieran podido imaginar. Haré una apuesta, pero estoy seguro de que tengo razón. Si hacemos un brainstorming pantalla mediante, seis o siete personas, no creo que surjan grandes ideas. Para eso, necesitamos un café o una copa de vino. Necesitamos estar juntos y, de repente, un momento de silencio, una mirada y alguien dirá: “Esa es la idea”. ¿Qué es eso? Lo sensible, lo carnal, la vida. No puedo evitar pensar que esta hipertecnologización de nuestras existencias genere formas... Recién hablábamos del aislamiento colectivo. Son formas de vida con soledad, tristeza, sentimiento de abandono, sentimiento de dificultad para poder congeniar activamente con los demás. En los últimos 20 años, hemos llegado a cierta embriaguez en el uso de estas tecnologías digitales. No se trata solo de denunciar a la industria digital en sus excesos. Es momento de mirarnos, y con el ChatGPT esto nos atañe a todos, y saber hasta qué punto queremos dejar de lado nuestras facultades. Respecto de nuestro lenguaje, estaríamos abandonando una de nuestras facultades más fundamentales. Hoy vi en Twitter que alguien decía: “Es genial, le di unas instrucciones a GPT y me preparó la clase, el punteo, mi lista de pendientes”. Los compadezco. Compadezco a esa persona. Pero no solo la compadezco. Me gustaría que nos movilizáramos para negarnos, para no caer en la trampa de este abandono de nuestras capacidades más nuestras. En esto se anuncia un fracaso de lo que somos. Me parece que con el ChatGPT hemos pasado un umbral, esto es lo que estamos viviendo desde hace unos meses. Creo que le corresponde a cada sector de la sociedad movilizarse y ver hasta qué punto cede, como decía antes respecto del equipo de Ciencias Políticas de París que se negó a usarlo. Hoy corresponde a cada sector de la sociedad movilizarse y determinarse a conciencia. Decir si quiere eso o no. Pero hay tal seducción de la tecnología, tal exhortación a la pereza, una puerta abierta a todo el confort, que dificulta mucho el rechazo. Yo veo en el ChatGPT y en los sistemas que crean imágenes en nuestro lugar una forma de indignidad, de desvinculación de nosotros mismos. Estoy horrorizado y escandalizado.
—Usted describe al tecnoliberalismo como una “industria de la vida” que pasó un umbral, que ya lo que se vende y se fabrica es vida. ¿Podría profundizar esa idea?
—Por supuesto. Algunos hemos hablado mucho de inteligencia artificial. Esos desarrollos son inseparables de otros dispositivos tecnológicos, como los sensores. El teléfono inteligente es un sensor. Capta el sudor, los latidos del corazón y, cada vez más, escanea nuestros hogares, nuestros automóviles, nuestras oficinas. Citábamos recién los almacenes de Amazon, plagados de sensores. ¿Qué supone esto? En la década de 2000, y con las revelaciones de Snowden, nos dimos cuenta de que nuestras palabras claves, en particular a través de Google, interpretaban nuestra conducta.Únicamente esas palabras con las que hacíamos búsquedas. La NSA trató de interpretar nuestros comportamientos en función de nuestras solicitudes, de nuestra navegación por internet. Hoy, diez años después, la cosa es distinta.Lo que se interpreta son los gestos de la vida, al ponernos en una balanza inteligente, al usar espejos inteligentes, cocinas inteligentes, oficinas inteligentes, centros logísticos inteligentes. Lo que se interpreta cada vez más es el curso de nuestra vida diaria. ¿Y quién es interpretado? ¿Y quién tiene esa potencia? Lo hemos dicho, los sistemas de inteligencia artificial con un poder de evaluación, de interpretación, pero también de recomendación, de habla. Hay un sistema. Un sistema tecnológico y económico que interpreta nuestros comportamientos, que nos dice las acciones que conviene realizar. Nos lo dice mediante mensajes o mediante la voz de los parlantes inteligentes. Por ejemplo, hablando de sensores, hace unos años que se están vendiendo, todavía sin demasiado éxito, unas fajas inteligentes para usar durante la noche. El propósito es analizar la supuesta calidad de nuestro sueño y, al día siguiente o después de cierto tiempo, recomendar algún suplemento alimentario. Son sistemas que funcionan por medio de palabras claves, empresas que compran palabras claves y que ofrecen, según la supuesta interpretación de la calidad del sueño, tal producto, tal tipo de vacaciones, tal cura. A eso llamo la industria de la vida. La idea es interpretar continuamente nuestros comportamientos y sugerir todo el tiempo servicios y productos que se adecuen a cada uno de nosotros. Podríamos pasarnos todo un día así, de la noche a la mañana. A eso denomino yo espectros digitales. Fantasmas digitales que continuamente nos hablan, nos dicen la voz de lo real y nos sugieren que compremos tal producto, que hagamos tal gesto. Eso es la industria de la vida: poder abarcar el campo paramédico, la medicina, la enseñanza, la alimentación, el bienestar, el deporte. Por ejemplo, hay aplicaciones deportivas que, a través de sensores, interpretan los flujos fisiológicos. Pero no solo eso. Te dicen que vayas a tal o cual gimnasio más cercano, que compres tal producto o tal material deportivo. Toda esa economía, toda esa industria de la vida es lo que habilita que los sistemas sean capaces de decirnos continuamente qué nos conviene hacer en nuestra vida diaria.
“Una ruptura del pacto de confianza entre las masas, entre el pueblo y las instituciones, los líderes políticos”
—La Iglesia católica siempre fue contraria a que se cobrase intereses, por eso los bancos desarrollaron su sistema financiero fuera del área de influencia de la Iglesia. Cuando uno se pregunta cuál es el producto que vende el banco, podríamos simplificarlo en que vende tiempo, la sustancia que menos se puede guardar. ¿Podríamos decir que la tecnología vende vida y tiempo en un sentido figurado, y que hay punto de contacto con lo que fue en su momento la financiarización del mundo en lo que sería ahora esta dictadura de Silicon Valley?
—Ciertamente. En cualquier caso, organiza con fines lúdicos, de confort, de eficiencia.Nunca es algo negro. Nunca es turbio, en apariencia. Es todo lo contrario lo que vende la industria digital. Ni siquiera es lo que nos vende. Uno tiene la impresión de que la industria digital no nos vende nada, solo nos revela cosas. El comercio históricamente fue simbolizado por el capitalismo moderno mediante la vidriera, o sea que veías objetos detrás de una ventana que despertaba el deseo, pero luego esa vidriera hacía imposible tener el objeto. Esa es la sociedad mercantil, dispositivos que excitaban el deseo y despertaban frustración y las ganas de ir hacia algo. Ahora el mundo viene hacia nosotros. Eso es lo que denominé la fijeza del capitalismo, la fijeza de los cuerpos, y que supone que ya no compramos. Finalmente, la industria digital no nos vende nada, solo nos revela lo que debe ser bueno para nosotros. Esa es su magia y su diabolismo a la vez. Pero no en el sentido de que es un diablo malo, un diablo extremadamente inteligente. Es un capitalismo de la revelación. Sí, es eso mismo. Descubro que debo ir hacia allí, y yendo hacia allí ¿qué descubro? Que hay un McDonald‘s, que hay otras tiendas. Ya no se vende, sino que vamos hacia lo que nos conviene.
“Necesitamos volver a comprometernos, celebrar y defender las facultades fundamentales que nos constituyen”
—La mayoría de los productos de consumo de la tecnología tiene que ver con la idea del ahorro del tiempo, el algoritmo que recomienda qué película ver ahorra tiempo, pero finalmente es lo opuesto. Termina tomando al consumidor la mayor cantidad de tiempo posible. La hegemonía, para ser más exitosa, requiere que el otro no lo perciba. ¿Este es el caso?
—Desde luego, es ese acompañamiento. Seguimos creyendo que somos vigilados. Las tecnologías de vigilancia, las empresas de vigilancia. Creo que nos equivocamos. Eso estaba vigente en los años 2000, a raíz de los atentados de septiembre de 2001, y llegó a su apogeo con las revelaciones de Snowden en 2013. Por eso pienso que Shoshana Zuboff, con su libro La era del capitalismo de la vigilancia, se equivoca. Hoy no estamos lidiando con una industria que nos vigila. A la industria le da igual vigilarnos. No le interesa. Los que están monitoreando quizá son las agencias de inteligencia estatal. Algunas, no todas. Con miras a brindar seguridad en los aeropuertos y en otros sitios, prevenir atentados. Pero es algo mucho más marginal que en la década de 2000. No hay capitalismo de la vigilancia, porque a las industrias les da lo mismo vigilarnos. Lo único que quieren es interpretar nuestros comportamientos, a fin de garantizarnos el mayor confort. Lo que tenemos frente a nosotros es un capitalismo de la administración de nuestro bienestar, que no es en absoluto lo mismo. ¿A qué me refiero? Si hablamos de capitalismo de la vigilancia, por ejemplo, eso supondría que hay unos malvados que nos están espiando, a los que debemos denunciar, contra quienes debemos luchar. Entonces nosotros no seríamos otra cosa que víctimas. No, no es eso. No es en absoluto lo que está pasando. Nosotros somos cómplices de un capitalismo que continuamente nos aporta comodidad y bienestar. Netflix, el cine en casa; productos a domicilio; vehículos que nos recogen en la puerta de nuestra casa o de un restaurante, Uber; repartidores que nos traen comida de cualquier restaurante de la ciudad. Eso es un capitalismo de la administración del bienestar.Estamos hablando de bienestar. Hemos mencionado a los operarios de almacenes logísticos, a los repartidores, que son una suerte de nueva esclavitud contemporánea. Eso es también lo que debemos ver: hasta qué punto nuestro confort y nuestro bienestar también generan daños en muchos campos de la sociedad.
“El mundo, a fuerza de venir hacia nosotros, nos convertirá en estatuas de sal”
—Me gustaría entender qué papel juega para usted la seducción y que cada generación tenga una actitud más hedónica que la anterior. El fin de la era del deber y de la filosofía kantiana por otra del placer, de la seducción y del hedonismo, en la que el ser humano termina siendo esclavo del goce que le produce la máquina.
—Sí, tal vez, pero creo que estamos viviendo una encrucijada en este momento, especialmente desde la llegada del ChatGPT. Quizá esta sea la prueba, como decíamos antes, de que estamos viviendo un momento de extrema desmesura. Es probable, ya estamos viendo señales. Vemos que desde hace cinco o seis años, desde el período al que denominé la silicolonización del mundo, la realidad es otra. Hoy no estamos exactamente en ese momento. La era de la celebración digital ha quedado un poco atrás. Hoy, más bien, sería el despertar de las conciencias en cuanto a los excesos que se han cometido, sin que eso afecte demasiado nuestras prácticas. Pero es probable que 2022, 2023, con este huracán que genera el ChatGPT, que no justifica una moratoria de seis meses, sino que exigiría frenar y que la sociedad se apodere del tema, ya no como objeto y laboratorio de aplicación de las innovaciones, sino como colectivo plural que hace valer sus aspiraciones, la pluralidad de intereses, la pluralidad de subjetividades, la pluralidad de deseos de cada uno y de los grupos para organizar las cosas como quieran, es probable que en los tiempos que vivimos, en los meses venideros –no soy adivino, pero hay señales débiles, que dan testimonio– veamos aparecer ese hartazgo que hemos mencionado. La gente dirá: “Ya basta, no utilizaremos estos sistemas”. Esta industria en veinte años cambió el mundo y mercantilizó todo lo que pudo, creó efectos de separación entre los seres, creó efectos de adicción, creó también efectos de sobreafirmación personal a través de las redes sociales, creó una hiperestandarización de los comportamientos. Es probable que haya algo así como deseos, aspiraciones, la puesta en marcha de otras modalidades de existencia, fundadas en valores muy distintos de la mercantilización de la vida y la hiperracionalización de la sociedad. Eso ya existe en los márgenes, pero va a haber una lucha. Una lucha de los cuerpos, una celebración del cuerpo. Una lucha entre quienes quieren paralizar y organizar un capitalismo de la fijeza de los cuerpos, que sería el metaverso. El capitalismo de la fijeza de los cuerpos. Eso es el metaverso. El mundo viene a nosotros, no se muevan más. Después de presenciar el movimiento continuo, la sociedad líquida de Bauman, por ejemplo, donde la modernidad resultó ser una derivación de los desplazamientos, de los flujos de información, de los flujos financieros, del transporte a escala planetaria, es probable que hoy surja un género completamente nuevo, que quiso inaugurar Mark Zuckerberg, pero que ya estaba en marcha. El mundo, a fuerza de venir hacia nosotros, nos convertirá en estatuas de sal. Y así, es probable que entre las generaciones más jóvenes, pero no solamente, broten las ganas de salir al mar abierto, como decía Víctor Hugo, el deseo de estar al aire libre. Allí habrá luchas entre quedarse en casa, enclaustrado, e ir hacia lo real, hacia los demás. Creo que hay una lucha política y civilizatoria. Esa nueva pelea civilizatoria da cuenta de la velocidad con la que se desarrollan las cosas. La nueva lucha civilizatoria, cultural, es la siguiente: ¿vamos a seguir hablando en primera persona e intercambiando desde nuestras inteligencias, o vamos a delegar eso en sistemas que, en nombre de la eficiencia y de nuestra pereza, se encargarán de esos intercambios y de la producción de imágenes y símbolos? Allí, es probable que haya contiendas. En cualquier caso, debemos alentarlas, me parece. Debemos fomentar el hecho de defender nuestros valores más fundamentales. Quizás hayamos olvidado lo que funda nuestra humanidad, la voluntad de ser activos, la voluntad de hacer valer nuestras capacidades, la voluntad de atestiguar nuestro poder de creatividad y la voluntad de sentir la dimensión multidimensional de la existencia, a través de nuestros sentidos. Porque la pantalla es 2D. El cuerpo, en la realidad, no es 2D, ni siquiera es 3D, es una infinidad de dimensiones. Las relaciones con los demás en un marco no sistemáticamente conectado y pixelado apelan a lo que mencionamos anteriormente, el poder de la creatividad. Es probable que sea eso lo que debemos propiciar hoy. Eso, y no una moratoria, ni ponernos a averiguar si esto nos va a abrumar o no. Creo que necesitamos volver a comprometer, celebrar y defender las facultades fundamentales que nos constituyen.
—Hace quince años, la ecología no era un tema masivo, la discusión por el cambio climático era restringida a grupos de intelectuales. Hoy se ha convertido en algo masivo con líderes juveniles y adolescentes de fama internacional. ¿Se imagina que la sociedad está cerca de la posibilidad de que se tome conciencia y se cree un movimiento mundial tan fuerte como el ecológico en la lucha contra la tecnologización excesiva?
—Es muy interesante su pregunta, porque ya Günther Anders, el esposo de Hannah Arendt, en ese libro tan hermoso y tan importante que deberíamos releer –lo he releído recientemente–, que se llama La obsolescencia del hombre, hablaba de una asincronización. El hecho de que los avances tecnológicos estaban sucediendo y la sociedad estaba un poco rezagada, no tenía conciencia, no captaba del todo lo que estaba en juego, o se dejaba llevar por intereses privados, por determinadas visiones del mundo. Personalmente, prefiero hablar de desincronización. Las velocidades no son las mismas. Los desarrollos tecnológicos de la industria digital están marcados por dos fenómenos: el poderío financiero (pueden hacer lo que quieran, son miles de millones de dólares, es una industria hegemónica) y la velocidad. Se pueden construir nuevos dispositivos; solo basta con tener una idea. Así es la industria digital, no espera, avanza. Todo es posible gracias al poderío financiero, con un efecto de continua renovación. A eso llaman disrupción. Y genera vértigo. No puede sino organizar la desincronización. El ser humano en grupo, en sociedad, no está constituido así. No nos inscribimos en esa temporalidad. Nos inscribimos en una temporalidad en la cual hay hábitos, cosas que hemos aprendido, cosas que hacemos día a día. Y hay otro mundo, un mundo paralelo, donde todo sucede al ritmo de un chasquido de dedos, mucho más rápido que mis palabras. Allí hay dinero. Como el caso de Zuckerberg, que solito con su ser nos dijo que estábamos entrando en el metaverso. ¿En serio? ¡Sí! Se invierten miles de millones de dólares, hay ingenieros y un discurso. Como dice Zuckerberg: “Va a ser una humanidad espectacular, fantástica”. ¿Nosotros qué hacemos con eso? Nos agarra desprevenidos. Hay una desincronización.¿Quién vio venir al ChatGPT? Nadie; ni siquiera los ingenieros. Incluso Zuckerberg no pudo anticiparlo en su justa medida. Porque hay cosas que se están desarrollando y que, de golpe, tienen el poder de esparcirse por todo el planeta. No estamos preparados para esto. Hay una desincronización. Con el calentamiento global, con los efectos de la contaminación que estamos experimentando desde hace cincuenta años por lo menos, e incluso más, realmente ha habido un retraso. Hay un efecto de demora. Es algo que ocurre desde hace un tiempo. Ha habido señales, hemos visto ciertas cosas. Empezó a hacer más calor, olas de calor, los niveles de agua, los informes del IPCC. Las conciencias evolucionan, lleva su tiempo y, súbitamente, esto se convierte en el objetivo principal. Me permito decir que tengo un tema con esto. De golpe, la preocupación ecológica se ha convertido en lo primero. Tenemos razón, hay una urgencia, es algo que nos atañe a todos. Pero me temo que esto tape otras dimensiones. Por ejemplo, el ChatGPT. Hace un tiempo, un informe sobre los sistemas de inteligencia artificial generativa señaló que estos provocan un consumo de electricidad y energía fenomenal. Podemos ver claramente que los excesos están vinculados. El ChatGPT es un exceso. ¿En qué participa? Participa en un exceso, en un abuso de aquello que nos constituye. Pero también es un abuso gigante en cuanto al consumo de energía. La gente dice que el ChatGPT es genial porque le podemos dar instrucciones. Pero eso acarrea un consumo de energía fenomenal. ¿Quién habla de eso? Muy pocos. Vemos que nos hemos percatado de las derivas, nos hemos percatado del exceso, nos hemos percatado de que las cosas se estaban imponiendo por sí mismas. Es muy difícil. Creo que debemos actuar y no despertarnos diez años después. Como Geoffrey Hinton, ese ingeniero que dice que se fue de Google porque ya no tenía libertad de expresión. Está al tanto de eso, ¿no? Dan ganas de decirle: “¿Pero no tenías conciencia de esto hace quince años? ¿Tu conciencia se despertó de golpe?”. José Ortega y Gasset decía que para ser ingeniero no bastaba únicamente con ser ingeniero. Hay que tener conciencia de las cosas, responsabilidad. Conciencia sobre los posibles efectos de lo que producimos. Lo mismo con Oppenheimer y el proyecto Manhattan de la bomba atómica. Todo eso se desarrolló tan rápido que esas personas tuvieron remordimientos por lo que generaron. Es interesante que hoy haya ingenieros de la inteligencia artificial arrepentidos. Me gustaría decirles: “¿Estaban tan cegados? ¿No leyeron mi libro La inteligencia artificial o el desafío del siglo, que se publicó en 2018?”. Estoy bromeando. ¿Pero no eran conscientes de que había algo como una enajenación de nosotros mismos porque los sistemas iban a organizar continuamente las cosas y se iban a instaurar cosmovisiones hiperutilitarias? ¿No tenían conciencia de eso y de pronto algunos deciden hacer un parate? Advierten que hay un riesgo, que es sumamente peligroso.En mi opinión, esto da cuenta de una falta de responsabilidad y, a su vez, de conciencia. Hay algo que siempre va más rápido que nosotros. Pero ahora nos damos cuenta de que también va más rápido que los ingenieros y que la sociedad. Entonces, ¿qué hacemos? ¿Qué hacemos con estas dos velocidades que no son iguales? ¿Aceptamos continuamente la demora y nos despertamos tarde? Lo cual es probable que suceda, se lo prometo. Hagamos una apuesta, y nos vemos en tres años. Ya verá qué pasará con el ChatGPT en dos o tres años. Es una catástrofe. Ya nadie escribirá un correo electrónico, una carta, nadie se llamará por teléfono. No sabremos nada más. Tú, que estás en PERFIL, ¿qué pasará con las imágenes? Va a haber una desconfianza generalizada. En una sociedad en la que prima la desconfianza universal, todos los peligros son posibles. No puedes confiar en tu prójimo. Lo que creo, aun siendo consciente de que es muy difícil, es que en un mundo perfecto deberíamos ralentizar. Pero no se puede contar con eso. Ralentizar es imposible. Quiero decir, no es la industria digital la que va a ralentizar las cosas. Nosotros debemos ser más clarividentes sobre nuestro presente. Debemos estar más presentes en nuestro presente. Foucault decía: “El filósofo debe diagnosticar el presente”. Creo que hoy eso no basta. Hay que diagnosticar el presente inminente. Es decir, captar las señales débiles y alertar, señalar las cosas cuando están en formación, para que podamos actuar cuando haga falta. La dificultad la tenemos nosotros. Lo vemos con el calentamiento climático. A menudo, nos despertamos demasiado tarde, una vez que el daño ya está hecho. ¿Y qué significaría una sociedad presente para sí misma? Allí hay una cuestión filosófica que es política, una cuestión civilizatoria que nos concierne, pero sé muy bien que lo que estoy diciendo son meras palabras.
“No escuchamos lo suficiente las voces rigurosas que ponen las cosas en perspectiva histórica, teórica y filosófica”
—Los líderes mundiales de la política, presidentes, jefes de Estado, serían quienes primero tendrían que tener conciencia de las amenazas; el expresidente Macri, en un discurso, utilizó ChatGPT para mostrar las cuatro o cinco instrucciones que le había dado, y lo hacía con cierto grado de admiración por la tecnología. ¿Qué nivel de conciencia tienen los líderes mundiales del nivel de gravedad de la amenaza que enfrentan?
—De nuevo, está planteando una pregunta seria. Hemos hablado de la silicolonización del mundo, que conquistó a los líderes políticos durante la década de 2010, al menos en Europa (quizás el fenómeno fue menor en América del Sur). Las autoridades públicas decidieron apoyar la llamada innovación digital, porque se había impuesto esa doxa. Es más, fue muy llamativo ver que un ministro francés, creo que fue en 2012-2013, inauguró con bombos y platillos un almacén de Amazon en el centro del país, al norte de Lyon. Hoy ya nadie haría eso. Había una doxa. Lo digo porque se percibía como algo genial. Amazon iba a traer puestos de trabajo, iba a revitalizar la actividad económica en la región. Pero luego vimos el daño que provocó al comercio local, a la evasión fiscal, a los métodos de management. Cosa que no sopesamos en su justa medida, como ya he dicho. Esto significa que el político estaba sujeto a esa doxa. Era una doxa potente. No estaba fabricada por un lobo malo. Era algo plural. Podemos llamarlo positivismo tecnológico, que se impuso en la década de 2010 con fuerza. El mejor destino del mundo dependía de la innovación digital. Esa fue la doxa, el mejor destino del mundo, individual y colectivamente, en la medicina, en la justicia, en la escuela, en la administración, en el comercio, dependía de la innovación digital. Hoy en día, no es tan así. Vimos cómo Thierry Breton manifestó ante la Comisión Europea que ahora iban a supervisar, a regular. Pero no es suficiente. Se cree demasiado en la regulación como solución. No. El meollo consiste en saber si queremos usar estos sistemas o no. Hablaba usted de los líderes políticos que son conscientes del alcance de las consecuencias civilizatorias, quizá muy relativas o extremadamente sesgadas u orientadas por esta doxa. Yo lo creo. Entonces, quiero hacerle esta pregunta: ¿A quién escuchamos hoy? ¿A los ingenieros? No podemos, pues son juez y parte, solo piensan en sus propios intereses. Tienen una cosmovisión cientificista, no podemos escucharlos. ¿A los fabricantes? Hay que dejar de escucharlos, porque solo piensan en aumentar su volumen de negocios. Los responsables políticos están sujetos a esa doxa. Sin embargo, eso es más o menos lo que leemos mayoritariamente en la prensa o en los discursos públicos. Hay que escuchar a dos corporaciones, ya he mencionado algo al respecto. Aquí llevaré agua para mi molino. Creo que no prestamos suficiente atención a los filósofos críticos. Eso nos faltó. No escuchamos lo suficiente a los filósofos que no plantean ningún interés. Yo no planteo ningún interés. Cuando digo algo, lo hago en nombre de valores. Valores que defendía, por ejemplo, un Albert Camus. Nuestros valores fundamentales. Yo, por decir tal o cual cosa, no pierdo un euro. Lo hago en nombre de los valores fundamentales y en nombre de una visión que pretende ser clínica, para dársela a los demás. Sé que todas las visiones son subjetivas y obviamente este el caso, pero creo que no escuchamos lo suficiente las voces rigurosas que ponen las cosas en perspectiva histórica, teórica y filosófica. Y tampoco escuchamos a los que desgastan los sistemas (y lo digo con todo el peso de las palabras, sin matices) ni a quienes sufren los sistemas. Pienso, por ejemplo, en los tantos oficios que perderán su empleo en nombre de un tecnologismo ciego. No lo estamos viendo. Los cientos, los millones de trabajadores de los almacenes logísticos. Deberíamos informar sobre sus experiencias, sus testimonios. Hoy tampoco escuchamos a los profesores. No escuchamos al mundo hospitalario, donde hace unos años queríamos poner sistemas de inteligencia artificial en todas partes, cuando lo que faltaba era personal, no sistemas de evaluación dotados de inteligencia artificial. Lo que pasó en Francia, por ejemplo, es que gastamos millones de euros en sistemas de inteligencia artificial de diagnóstico que no sirven para nada, o que son poco útiles. Lo que se necesitaba eran camas y personal. Nos dimos cuenta de eso durante el covid. Otro ejemplo sucedió a mediados de la década de 2010, cuando en todas las escuelas secundarias de Francia se quiso entregar tabletas a los pobres estudiantes. Tenía que haber tabletas digitales por todas partes, porque había una doxa. Eso era el futuro, las plataformas, despreciando y desestimando al mundo del libro, de la edición, rechazando la importancia de la lectura, del libro impreso y la concentración que eso requiere. ¿Qué pasó varios años después? Eso no se estudió, sino que fue una doxa que se impuso, en particular a través de los políticos. En Francia, Microsoft entró por la puerta grande, por la alfombra roja, en las escuelas secundarias. Me preguntarás cuál es la competencia de Microsoft en materia educativa. Cero. Nula. Pero los recibimos con los brazos abiertos, y hoy nos damos cuenta de que esas tabletas están en los sótanos. Es dinero público malgastado. ¿Y los profesores? Aquí voy a mencionar un punto que me parece muy importante. Si los profesores se hubieran manifestado en la calle para decir: “No queremos tabletas, no queremos esos sistemas de Microsoft que van a organizar todo y gestionar la enseñanza, los calendarios, los programas. No queremos esa automatización de los asuntos humanos en ciertos sectores”. Si se hubieran manifestado, ¿qué habríamos dicho? “Son unos retrógrados, quieren volver a la luz de la vela”. Pero podían hacer otro gesto, que nos faltó en los últimos diez años. Si hubieran dicho: “No queremos esto, nos interponemos”. Una suerte de desobediencia civil en nombre de los valores. “¿Quieren que estudiemos a través de tabletas? No, preferimos los libros, los cuadernos y las computadoras de vez en cuando, porque con las computadoras también podemos encontrar cosas lindas. Pero no queremos que sea todo 100% digital”. Si ellos hubieran hecho esto, ¿qué podíamos hacer? No podíamos hacer nada contra miles, decenas de miles de profesores. Eso es lo que nos falta. No solo la palabra, no solo la crítica en los cafés o los restaurantes. Falta alguien que diga: “No quiero esto”. La frase de Camus: “Más allá de este límite, no pasarás.” Esa es la gran pregunta, que va a ocuparnos en los próximos meses con el ChatGPT, con el lenguaje, con las imágenes.¿Queremos eso, o no? No es una cuestión de regulación, ya que la regulación es algo marginal. Se trata de aceptar o no lo que yo llamo abyecciones civilizatorias. ¿Queremos eso o todavía estamos dotados de inteligencia, de conciencia, de responsabilidad para rechazar esas producciones técnico-económicas, únicamente ideadas en nombre de los negocios y del lucro?Lo que noto es que la sociedad no tiene esa fuerza, ese ímpetu. No tiene la energía para rechazarlo. Eso es lo que nos falta, y me gustaría que pudiéramos movilizarnos al respecto.
“Lo que vivimos durante el confinamiento es el anuncio de lo que está por venir, la creciente pixelación de nuestras vidas”
—Lo escuchaba y me preguntaba si finalmente la inteligencia artificial no termina consumiendo a sus propios creadores y al Silicon Valley, si la silicolonización finalmente convierte a Silicon Valley también en un colonizado. Lenin decía: “Qué ignorantes estos capitalistas que ganan plata vendiendo la soga con la que los vamos a ahorcar”. Mi pregunta es si, por ejemplo, la quiebra del Silicon Valley Bank y Vice News en Estados Unidos, o la enorme cantidad de despidos en las empresas tecnológicas, no adelanta de alguna manera que se fue de control de los propios ingenieros y de aquellas personas que pensaban lucrar con eso.
—Sí, es muy cierto lo que dices. A su vez, estamos viviendo casi un contragolpe digital, una vuelta a la realidad, en el que la continua innovación digital ha encontrado límites. Pero hubo milagros pese a todo. Dos grandes milagros. Cuando la gente empezó a ser crítica, cuando notamos todos los derrapajes, acaeció la pandemia, que es pura casualidad. Nadie organizó la pandemia, cuidado. Nunca diría algo semejante. Ese milagro hizo que de repente aumentara la digitalización de nuestras vidas. Pudimos realizar una cantidad cada vez mayor de acciones de la vida humana a distancia: llegamos a organizar aperitivos por Whatsapp, cumbres de jefes de Estado, consultas médicas, sesiones de psicoanálisis. En fin, es como si la vida humana pudiera transcurrir a través de pantallas, y eso dio nuevos aires a la industria digital, contra toda expectativa. Y luego, está el nuevo El Dorado del metaverso. Hay que entenderlo como un devenir metaverso, después del encierro. Implica hacer cada vez más cosas desde posiciones fijas. El mundo viene hacia nosotros. Hay un movimiento potente que va a atrofiar nuestros músculos. Y luego está el otro milagro, el de delegar ahora la facultad del lenguaje a sistemas que van a generar horizontes de lucro gigantescos, horizontes de lucro que también tienen que ver con la decisión que tomó IBM. Me refiero a no utilizar más al humano, crear ganancias por el ahorro de costos. Hay nuevos horizontes para la industria digital, pese a las dificultades que atraviesa, con tasas de interés que aumentan y rondas de inversores que decrecen. La cosa se complica. Así y todo, es como un tren que arremete a toda velocidad. No se lo puede frenar de golpe y, al mismo tiempo, podemos alimentar continuamente una velocidad creciente. Me temo que nos dirigimos hacia allí. El poder está ahí. El poder financiero es fenomenal, al igual que la capacidad de intuir el espíritu de los tiempos, los deseos de la gente, las cosas que se vienen. La industria digital también tiene esa intuición de lo que se avecina. Es probable que su hegemonía siga imponiéndose, incrementándose. Bien sabemos que todas las hegemonías avasalladoras representan siempre un peligro. Digamos que no podemos aceptar como sociedad y a escala planetaria que una única fuente hegemónica sea la que determina el curso general de las cosas. No es tolerable. Lo que nos compete a nosotros es afirmar la pluralidad. Existe Silicon Valley, existe esa industria. Ok, vamos a intentar contemporizar. Pero hay que desarrollar una infinidad de focos. No un orden hegemónico. Ese orden hegemónico es lo que hemos vivido durante veinte años. Peligra nuestra capacidad para pensar las cosas de otra manera. Pensar en los márgenes, pensar en otras modalidades, pensar formas de hacer las cosas de otra manera. Ese orden se nos impone y trae aparejadas verdades y visiones del mundo. Lo que nos toca –pero esto también es muy difícil, no son más que palabras– es oponernos a esa hegemonía, que por definición es fuerte, poderosa. Además, cuando va acompañada por los políticos, por cierta doxa, por discursos no críticos, es muy difícil. Entonces yo me pregunto: ¿qué es lo que nos constituye? ¿Qué hace a la grandeza del humano? Cada ser está hecho de una grandeza, de una nobleza, solo y en sociedad. Eso es lo que está en peligro, en beneficio de un utilitarismo generalizado. Se les ofrece a los seres la facilidad para responder a sus pulsiones: las redes sociales. Hay algo así como una reducción de cada uno de nosotros a nuestros instintos más viles, que son la pereza y, pronto, la delegación de nuestra capacidad para expresarnos en primera persona. En eso encontramos formas de reconocimiento mediante sistemas. En definitiva, todo lo que constituye nuestra grandeza, nuestra capacidad para oponernos, para contradecir, para hacer valer nuestras facultades críticas, lo que nos constituye como seres humanos, si todo eso está destinado a perder aliento, a ser postergado, vamos a convertirnos en algo así como un vegetal de la humanidad. El Chat GPT es un devenir vegetal de la humanidad.
Un ejercicio con ChatGPT
Mediante este código QR el lector podrá encontrar en la página web de Perfil.com una versión alternativa de la entrevista de Jorge Fontevecchia al filósofo francés Éric Sadin producida y respondida con inteligencia artificial.
Le planteamos al ChatGPT: ¿Qué le preguntarías a Éric Sadin si pudieras entrevistarlo? Nos respondió:
—Si tuviera la oportunidad de entrevistar a Éric Sadin, un filósofo y escritor francés conocido por su trabajo sobre la tecnología y la cultura digital, me gustaría hacerle preguntas relacionadas con sus ideas y perspectivas sobre estos temas. Aquí hay algunas preguntas que podría hacerle.
La IA elaboró así un cuestionario de 8 preguntas.
Luego le preguntamos qué cree que respondería el propio Sadin a cada una de las preguntas formuladas. Chat GPT dijo:
—La respuesta exacta de Éric Sadin dependería de su perspectiva personal y de cómo ha evolucionado su pensamiento a lo largo del tiempo. Sin embargo, basándonos en sus escritos y declaraciones anteriores, es posible inferir una posible respuesta.
En este enlace QR, el resultado de este ejercicio con inteligencia artificial.
Producción: Melody Acosta Rizza y Sol Bacigalupo.
