Con sus semáforos inteligentes, sus detectores de contaminación bien ajustados y su excitante aspecto futurista, la smart city solo mostró su verdadero rostro cuando fue demasiado tarde.
Un día de agosto de 2019, los habitantes de Hong Kong descubrieron para qué servían realmente las cámaras térmicas y los detectores bluetooth, los sensores de estacionamiento y los puntos de acceso a wi-fi. Entonces, empezaron a envolver sus documentos de identidad en papel de aluminio, a quitarles las baterías a sus teléfonos y a engañar a las cámaras apuntando con sus punteros láser.
La movilización de Hong Kong contra la toma gradual de la antigua colonia británica por parte del Partido Comunista chino ha producido varias imágenes icónicas. Una de ellas muestra a un manifestante mientras ataca con una sierra eléctrica una de las nuevas “farolas inteligentes” que instaló la administración municipal. La imagen comienza con una ráfaga de chispas, y luego otros manifestantes ponen un lazo alrededor del poste de la farola y, finalmente, lo derriban entre los gritos de triunfo de la multitud. Un triste destino para un artefacto que debía hacer a los ciudadanos “más felices, más sanos, más inteligentes y más prósperos”, tal y como se puede leer en el Smart City Blueprint que la administración de Hong Kong publicó en 2017. Sin embargo, es posible que este vuelco de Hong Kong tenga algo esencial que decirnos sobre la verdadera naturaleza de la época en que vivimos.
Durante la crisis sanitaria por el COVID-19, la guerra de relatos entre Estados Unidos y China adquirió proporciones sin precedentes, con noticias falsas y teorías conspirativas
La crisis del COVID-19 no se parece tanto a una revolución como a una revelación: evidenció y aceleró tendencias que ya se manifestaban a escala mundial, pero que aún no se percibían. Aunque ya llevaba cierto tiempo en marcha, la aparición de China como una verdadera potencia antagonista, portadora de una alternativa global a la democracia liberal de estilo occidental, se hizo evidente.
Durante la crisis sanitaria, la guerra de relatos entre Estados Unidos y China adquirió proporciones sin precedentes. No se trataba solo de “contar bien la versión de China”, como deseaba el presidente Xi Jinping, a través de la red mundial de medios de comunicación oficiales financiados por el Partido, sino también de retomar las técnicas de guerra de la información familiares al régimen de Vladímir Putin, consistentes en la difusión de noticias falsas y teorías conspirativas en las redes sociales.
Del lado estadounidense, tras los exabruptos de Donald Trump sobre el “virus chino”, Joe Biden retomó a su vez la lógica de la confrontación total, que estructuró, por ejemplo, su gran discurso ante el Congreso el 28 de abril de 2021. Prefigurando un enfrentamiento histórico entre la democracia y la autocracia, el presidente de Estados Unidos convocó a una “cumbre de la democracia” para unir las fuerzas de los países que se oponen al desafío del autoritarismo. En síntesis, Estados Unidos contra China. “Las otras [fuerzas, como Rusia y Europa] son las verduras”, citando al general Charles de Gaulle.
El secreto de lo digital
Sin embargo, Hong Kong y los dispositivos benévolos de la smart city global, que se convierten en herramientas de represión, dan cuenta de una historia más compleja. No es un caso aislado ni mucho menos: la duplicidad que caracteriza estas infraestructuras urbanas está en todas las tecnologías digitales. Hasta ahora, estábamos acostumbrados a que la función real de las herramientas coincidiera con su función aparente: un martillo sirve para clavar un clavo; un reloj, para dar la hora; una aspiradora, para aspirar el polvo. Sin embargo, las herramientas digitales, que se han convertido en una parte esencial de nuestras vidas, están cambiando este panorama.
La verdadera función de Google no es buscar información en internet. La verdadera función de Facebook no es permitir que los amigos se mantengan en contacto. La verdadera función de Tinder no es ayudar a los solteros a pasar un buen rato. La verdadera función de estas miles de herramientas, de las que dependemos cada vez más, es recolectar datos, es registrar nuestros comportamientos y preferencias en línea para monetizarlos.
Cuanto más tiempo pasa, más se adueña esta duplicidad de nuevos territorios y doblega a su lógica instrumentos hasta entonces inocentes. En el mundo de la internet de las cosas, la verdadera función de una aspiradora ya no será limpiar, sino captar datos sobre nuestro hogar, al igual que el valor real de una cama o un automóvil, que estará más relacionado con su conocimiento de nuestros hábitos que con su uso tradicional.
Este es el verdadero problema histórico al que nos enfrentamos cuando agitamos el espectro de una nueva confrontación ideológica mundial, en el centro de una "nueva Guerra Fría"
Esta dinámica es ya lo suficientemente conocida como para que no sea necesario insistir en ella. Lo realmente interesante es que estos hechos, aunque estén bien documentados y sean objeto de una amplia literatura de denuncia, no despiertan la preocupación de los usuarios. Y, lo que es peor, cuando hay revuelo, esa angustia se dirige contra herramientas que cumplen supuestamente la función contraria: por ejemplo, las protestas recientes contra los pases sanitarios en Europa se están organizando en las redes sociales con las que Mark Zuckerberg pretende crear un metaverso.
Todas las encuestas indican que la gran mayoría es relativamente indiferente al hecho de ser vigilada y al uso de sus datos personales. Y esto no se debe tanto a una ignorancia del fenómeno ni de sus resortes, sino a otra razón mucho más decisiva: la comodidad. El entorno confortable que garantizan las nuevas herramientas digitales es el bien supremo a cambio del cual la privacidad parece un sacrificio insignificante. La fluidez, el placer garantizado de una vida sin fricciones sobre la que nos deslizamos como patinadores sobre hielo, la guía de algoritmos que liman las asperezas y muestran el camino son la gran promesa de la vida digital. He aquí la razón por la que su alcance es tan poderoso y resiste toda crítica: como bien ha explicado el filósofo Mark Hunyadi, “en el sentido más amplio, el motor de la expansión digital es fundamentalmente libidinal: se mueve hacia el deseo, apunta al deleite, proporciona placer”. Hasta ahora, este fenómeno ha demostrado ser lo suficientemente poderoso como para borrar cualquier reticencia sobre la profunda ambigüedad de las herramientas digitales, sobre su duplicidad intrínseca y fundamental. Lo hace tanto en París como en Tokio, así como en Toronto, Sidney y Hong Kong.
Aunque en los últimos años se han revelado con creciente claridad los contornos del modelo autoritario chino –la vigilancia masiva extendida sobre toda la población, el sistema de crédito social, el internamiento de personas en riesgo en campos de detención–, el motor de su éxito no es la represión. Este es el principio del capitalismo libidinal, que dos expertos en redes sociales han definido metafóricamente como “la lógica del gran centro comercial” (great shopping mall): transformar los espacios públicos, tanto físicos como virtuales, en lugares que ofrecen una sensación de seguridad, oportunidades para reunirse y divertirse, una ilusión de elección estrictamente confinada dentro de límites trazados por la autoridad.
En el centro de la “nueva Guerra Fría”
Este es el verdadero problema histórico al que nos enfrentamos cuando agitamos el espectro de una nueva confrontación ideológica mundial.
Durante la Guerra Fría, se enfrentaron dos concepciones radicalmente antitéticas de la naturaleza humana. El “hombre nuevo” comunista debía tener valores, creencias, una cultura e incluso un lenguaje muy diferentes de los de antes de la Revolución. Debía convertirse en un ardiente constructor del comunismo devoto al régimen y en un internacionalista convencido de lo justos que eran los ideales marxistas-leninistas. Según la famosa tesis de Nicolái Bujarin de 1922, la verdadera tarea de la Revolución era “transformar la psique humana”. Hoy, en cambio, la China comunista basa su atractivo en una visión del ser humano y de la sociedad notablemente similar a la que se ha establecido en Occidente gracias al desarrollo de las nuevas tecnologías. Esta es la visión que surgió de lo que Peter Sloterdijk llama “humillación del comportamiento del hombre”, que “se deriva de la observación de que nuestra existencia se compone, en 99,9%, de repeticiones, la mayoría de ellas de carácter estrictamente mecánico”.
El verdadero problema se plantea, pues, en estos términos. Demos por sentado que la pandemia reveló claramente al verdadero antagonista de la democracia liberal y que este antagonista se encarna ahora en la República Popular China. Entonces, ¿cuál es el núcleo del actual conflicto ideológico entre Occidente y China?
Si, como afirma el sinólogo Jean-François Billeter, China se distingue sobre todo por una determinada concepción del poder y de su ejercicio “cuya misión es controlar completamente las relaciones sociales y la vida de sus súbditos con el fin de crear una sociedad ‘armoniosa’”, la particularidad de la fase actual radica en la impresionante convergencia de esta tradición política con el funcionamiento de la máquina algorítmica que está en vías de imponerse a escala mundial gracias a internet y al progreso de la inteligencia artificial (IA). En ambos casos, se pone en marcha un potente sistema de incentivos –y desincentivos–, con el objetivo de ajustar el comportamiento de los individuos a un conjunto social cuya evolución no solo sea mensurable, sino sobre todo predecible e influenciable.
Cuando el profesor de informática del Instituto Tecnológico de Massachussetts (mit, por sus siglas en inglés) Alex Pentland explica que, gracias al big data, ya no tenemos que pensar en términos de las nociones de “individuo”, “libre albedrío” e incluso “política” del siglo XVIII, sino que la humanidad debe construir un sistema nervioso y eléctrico global capaz de verse como un mecanismo formado por patrones (patterns) repetitivos, como las trayectorias de las bandadas de pájaros o los bancos de peces, fácilmente gobernables mediante ciertos instrumentos de “presión social”, materializa el sueño prohibido de los antiguos legistas chinos “que recomendaban a los poderosos una aplicación rigurosa de premios y castigos para que la obediencia se convirtiera en la segunda naturaleza de sus súbditos y para que la sociedad acabara funcionando con tanta regularidad y naturalidad como el propio universo”.
Las ocho dimensiones de convergencia entre el Partido y las plataformas
Si los ingenieros actuales de redes sociales construyen sus arquitecturas sobre la base de los experimentos de Burrhus Skinner con ratones de laboratorio y, desde 2010, el director ejecutivo Eric Schmidt declara que los usuarios esperan que Google les diga “lo que deben hacer a continuación”, los puntos de contacto entre la visión del mundo de Silicon Valley y la del Partido Comunista chino son demasiado evidentes como para ignorarlos. No se trata de una mera coincidencia, sino de una convergencia estructural que se basa en, al menos, ocho elementos fundamentales:
1. Los científicos siempre han soñado con reducir el gobierno de la sociedad a una ecuación matemática que elimine los márgenes de irracionalidad e incertidumbre inherentes al comportamiento humano. Hace dos siglos, Auguste Comte definió la física social como “la ciencia cuyo objeto propio es el estudio de los fenómenos sociales, considerados de la misma forma que los fenómenos astronómicos, físicos, químicos y fisiológicos, es decir, sometidos a leyes naturales invariables, cuyo descubrimiento es el objetivo especial de sus investigaciones”. Desde entonces, muchos han propuesto sus visiones de la “ciencia de la política”, sin lograr nunca el objetivo de hacer más previsible la evolución de la sociedad.
En 1990, Deleuze ya había descrito la transición de la sociedad disciplinaria basada en el confinamiento a la sociedad de control, con "moldes" y "módulos"
Sin embargo, en los últimos años, se ha producido un fenómeno muy importante. Por primera vez, el comportamiento humano, que hasta ahora era un fin en sí mismo, empezó a producir un flujo masivo de datos. Esta profusión de datos sin precedentes permite ahora imaginar un gobierno científico de la sociedad, que es lo que propone el Partido Comunista chino al menos desde principios de 2000, cuando sus expertos colocaron la nueva “teoría científica del desarrollo” en el centro de su plataforma programática.
2. Ni Silicon Valley ni el Partido están interesados en el individuo, dotado de subjetividad y autonomía. Les interesan las grandes tendencias. Mientras que el comportamiento del individuo no puede predecirse con certeza, el comportamiento del agregado es predecible porque, a través de la observación del sistema, es posible deducir el comportamiento promedio. Las interacciones importan más que la naturaleza de las unidades y el sistema en su conjunto tiene características, y obedece a reglas, que hacen predecible su evolución.
3. Una vez detectado y cuantificado, el comportamiento de los conjuntos sociales puede optimizarse para maximizar determinados resultados. Al analizar las correlaciones, es decir, cómo afecta al sistema en su conjunto incluso un pequeño cambio en un parámetro, se puede desencadenar un proceso de experimentación continua. Sea cual fuere el objetivo, algunos estímulos son más eficaces que otros. Los clics proporcionan una retroalimentación en tiempo real, sobre cuya base los estímulos pueden modificarse continuamente en contenido y forma, conservar las características que funcionan y descartar las menos efectivas.
En 1990, Gilles Deleuze ya había descrito la transición de la sociedad disciplinaria basada en el confinamiento a la sociedad del control: “Los encierros son moldes, módulos distintos, pero los controles son una modulación, como un molde autodeformante y que cambia continuamente, de un momento a otro, o como un tamiz cuya malla cambiaría de un punto a otro”. Hoy, ya llegamos a eso.
4. El verdadero enemigo de un sistema construido sobre estas bases es la anomalía, el comportamiento discordante, que se debe identificar y neutralizar con rapidez. Es lo que ocurre en la República Popular China, donde los disidentes son rápidamente neutralizados, pero también en los espacios públicos estadounidenses y europeos (los aeropuertos son el lugar paradigmático), donde programas creados por Palantir analizan los movimientos de los pasajeros en tiempo real y alertan inmediatamente a las fuerzas de seguridad sobre cualquier comportamiento anormal, que se considera un posible indicio de un intento de acto terrorista. Asimismo, la empresa estadounidense ofrece detectar anomalías (es decir, comportamientos sospechosos) en una amplia gama de contextos diferentes, desde el fraude en los seguros hasta la detección de un posible agitador dentro de una organización.
El mundo digital impone un modo de vida del que nadie puede escapar. Cada vez más tenemos que construir nuestro comportamiento en base a las indicaciones del smartphone
5. Tanto en China como en Europa, la principal y más grave anomalía es la desconexión. En ambos contextos, la idea de que uno puede llevar una vida “normal” y ejercer plenamente sus derechos, necesidades y aspiraciones sin estar permanentemente conectado se vuelve inconcebible. Signo inequívoco de una mentalidad asocial y subversiva, si no sociopática, la desconexión es lo que permitió a las fuerzas estadounidenses identificar el escondite de Osama bin Laden en Abbottabad, donde era muy sospechoso que un complejo de edificios de ese tamaño no tuviera conexión a internet.
6. Afortunadamente, tanto en China como en Occidente, la desconexión es rara porque la adhesión del individuo está garantizada no por la coacción, sino por el principio de Hunyadi, por la comodidad y el placer de los servicios que la matriz proporciona a sus usuarios. ¿Quién renunciaría hoy a la posibilidad de satisfacer cualquier curiosidad en el espacio de unos segundos, de orientarse en una ciudad desconocida con un dedo, de pedir un taxi, de hacer una foto para congelar el momento, de transmitirla a un grupo de amigos envidiosos, de utilizar Shazam para identificar la canción que está sonando en la radio de un Uber, de añadirla a la lista de reproducción de Spotify para volver a escucharla en cuanto uno se baje del automóvil?
7. Sin embargo, detrás de la fachada lúdica y bonachona, tanto en China como en Silicon Valley se desarrolla un poder implacable y secreto. Si el panóptico es una máquina para disociar el binomio ver/ser visto –en el anillo periférico, uno es visto por completo sin poder ver a nadie; en la torre central, uno lo ve todo sin ser visto–, está claro que las grandes empresas digitales, al igual que el Partido Comunista chino, operan en función de este principio. En Occidente, no hay secreto guardado con mayor recelo que los algoritmos que rigen el funcionamiento de empresas que pretenden imponer una transparencia total a todas las demás. En China, la inexorable marcha de la “controlocracia” deja intacto el opaco corazón del poder inscrito en la Ciudad Prohibida.
Esto no es nada nuevo: los estudios sobre el impacto de la llegada del telégrafo y más tarde del teléfono ya han demostrado que ambos condujeron a una mayor centralización de la toma de decisiones en los imperios coloniales de finales del siglo xix. En efecto, si en el pasado los responsables locales gozaban de amplios márgenes de autonomía (tenían que actuar antes de recibir instrucciones del centro), las tecnologías actuales simplemente los borraron.
8. Silicon Valley y el Partido Comunista chino trabajan de forma convergente hacia un futuro posthumano. La mayoría de los ingenieros que trabajan en las empresas tecnológicas de Silicon Valley tienen una desafortunada tendencia a pensar que su prioridad no es servir a los humanos de hoy, sino construir las inteligencias artificiales que heredarán la Tierra de mañana. La vigilancia constante y las pruebas de modificación del comportamiento de multitudes de seres humanos recolectan supuestamente datos que alimentarán la “inteligencia” de las futuras inteligencias artificiales. Por su parte, el régimen chino, al igual que las grandes empresas tecnológicas, se ha embarcado públicamente en una “carrera hacia la IA” y suele situarla por encima de todo. Existe una preocupante convergencia entre esa carrera y los experimentos realizados en el campo de la biotecnología, especialmente agresivos en los laboratorios chinos.
Estos ocho puntos de convergencia indican que el orden que el régimen chino creó no es un fenómeno aislado. El mundo que proyecta es similar al de su rival declarado. Una fuerte tendencia está en marcha y es la misma a ambos lados del océano Pacífico: el camino a una época en la que la autonomía del sujeto y la libertad habrán desaparecido.
Salir del reino de la servidumbre digital
Aunque parece haber muchos elementos de convergencia, hay una diferencia central. Mientras que en China el algoritmo totalitario ha consolidado su poder, en Estados Unidos existe, al menos en teoría, un poder político que responde a lógicas democráticas. Este último incluso muestra, de vez en cuando, la vaga intención de limitar el excesivo poder de los nuevos señores feudales digitales.
Esta diferencia no es insignificante. Esperemos que tenga un efecto decisivo en la evolución posterior. Sin embargo, la paradoja de Estados Unidos consiste en que, en las democracias liberales, “el poder político no es lo único a lo que los individuos deben responder” ni tampoco es lo principal. En nuestras sociedades, el despliegue del consumismo generalizado produce desde hace tiempo poderosos efectos normativos, con frecuencia mucho más restrictivos que los que derivan del cumplimiento de la ley propiamente dicha.
En la actualidad, este sistema de expectativas y modelos comportamentales se complementa con el creciente impacto de la tecnología digital. El uso de los smartphones es ahora la principal experiencia colectiva que comparte toda la humanidad. En todas partes y a cualquier escala, la tecnología digital se ha convertido en la interfaz de nuestra relación con el mundo. Y este hecho, aparentemente inocuo, pero en realidad todavía muy inexplorado en sus implicaciones prácticas, desempeña un papel crucial en todas las transformaciones sociopolíticas vigentes.
El mundo digital impone un modo de vida del que nadie puede escapar. Con mayor frecuencia cada vez, cada uno de nosotros tiene que construir su comportamiento conforme a las indicaciones de su smartphone y nadie tiene la menor idea del funcionamiento de la caja negra de la que depende nuestra capacidad de actuar. Si la gran promesa de la tecnología digital, expresada por Steve Jobs en el lanzamiento del primer iPhone (“es como tener nuestra vida en el bolsillo”), articula una visión de autonomía, los usos concretos de las herramientas digitales también producen el efecto contrario por el control de los usuarios que inducen.
¿Qué significa ser humano en la era de la hiperconexión? Por el momento, parece significar sobre todo estar a merced de los nuevos potentados económicos que vigilan todos nuestros movimientos y utilizan subterfugios para captar cada vez más nuestro tiempo y atención. Ante esta situación, como hemos visto, la movilización de argumentos morales con la esperanza de sensibilizar a la población es, en gran medida, inútil. La teoría crítica se vuelve, no por primera vez, impotente ante la evolución del tecnoconsumismo.
Publicado originalmente en El Grand Continent, revista europea de debate estratégico, político e intelectual, en la serie “Poderes de la IA”, legrandcontinent.eu/es. Traducción del italiano de Monserrat Iñigo. Tomado de la versión publicada por Nueva Sociedad
