"Los pueblos primitivos intentaban evitar la muerte retratando el cuerpo humano, nosotros lo hacemos encontrando reemplazos al cuerpo humano. ¡Tecnología en lugar de misticismo!"
Max Frisch en “Homo faber”, 1957.
1. Las plataformas tecnológicas que prometían profundizar las democracias las fracturaron.
Los espacios digitales que iban a servir para expandir libertades las están restringiendo. Los dispositivos que nos iban a permitir acceder a más y mejor información nos traen mentiras industriales y confusión estructural. Todo lo que vivimos en estos tiempos pasa aceleradamente y por eso es difícil entender lo que sucede con tanto ruido y distracción. Cuando prestamos atención, ya sucedió y es un hecho que parece irreversible. El impacto de la inteligencia artificial (IA) en los derechos, en la intimidad, en nuestra autonomía, los derechos de autor y en el mundo laboral creemos que está por venir pero ya sucedió. Todos colaboramos -sin saberlo quizás- en el prólogo a ese proceso cuando usamos aplicaciones que nos extraen datos personales y serán usados sobre nosotros, en nosotros, contra nosotros.
Proyectar y prevenir los impactos tecnológicos es ser responsables. Ocuparse y regular impactos negativos es una responsabilidad política, una obligación constitucional y de liderazgo democrático que en nuestra dispersión absoluta no será exigida. Colectivamente deberíamos pensar en los impactos tecnológicos en la sociedad como pensamos -o deberíamos pensar- en los impactos ambientales. Se debe evitar que una educación tecnológica repita el fracaso absoluto de la educación ambiental y de todas las capacitaciones dogmáticas y contraproducentes que desnaturalizan los procesos de divulgación y defensa de derechos. Aunque suene a tema alejado del pueblo, pensar en la inteligencia artificial -o en el cambio climático- es tan vital como fue investigar para enfrentar la pandemia del Covid-19, ya olvidada en nuestro amnésico presente. Se investiga antes de actuar, no para provocar un goce catastrófico y alarmista sino justamente para encaminar procesos de respuestas políticas, acciones preventivas y control de daños.
El Martes 16 de Mayo de este año (2023) se realizó la primera audiencia especial en el Senado de los Estados Unidos para discutir los efectos de la inteligencia artificial. Algunas sesiones similares ya se realizaron en el Parlamento Británico desde 2017 y en el Parlamento Europeo ese proceso está en su etapa final con la elaboración de una Acta Europea. En todos esos espacios legislativos se menciona que la Inteligencia Artificial trae, por los menos, dos peligros considerables: a) su potencial uso y abuso en los procesos electorales y b) la pérdida masiva de empleos (ver el punto 2 de la nota). La pérdida de empleos y de derechos, por sí mismo y sin contar el desarrollo de otra gran arma de manipulación social, reforzará el deterioro en toda sociedad y las angustias de las democracias; además de aumentar el malestar en sus campañas electorales en contextos de restricción económica global y desafíos superpuestos.
La fragmentación y la polarización que las plataformas producen en las democracias contemporáneas están a punto de potenciarse con los nuevos usos y productos de la inteligencia artificial. Esta herramienta mejorada con la que jugamos inocentemente mientras la perfeccionamos colectivamente podrá ser usada para generar manipulaciones invisibles, poderosas sugestiones e instrumentalizar un conocimiento de sus usuarios a niveles tan íntimos que su incidencia se vuelve imperceptible. Los dispositivos celulares, los nuevos documentos de identidad del vasallaje de la sociedad feudodigital, y sus algoritmos permiten un microtargeting profundo que conoce y construye la intimidad al mismo tiempo. Los derechos políticos y la misma autonomía personal, el siempre dificultoso autogobierno individual, están a punto de radicalmente transformarse.
La crueldad cerrará la grieta como una tumba: sobre los procesos de deshumanización sin freno
Los procesos de desinformación que vivimos en estas décadas van a ser superados con herramientas que construyen un poder de manipulación de inseguridades microscópicas, de ansiedades que ni siquiera nosotros reconocemos conscientemente y de “realidades” segmentadas que confirman nuestros sesgos más adictivos. En ese contexto, las guerras de desinformación serán personalizadas, el poder de la publicidad directamente se construirá con perfiles psicológicos decodificados del big data que las plataformas elaboran de sus usuarios en todos los chat de las plataformas de comunicación, de citas y de mera distracción, especialmente de los chats de bots contra la soledad y otros problemas de salud mental en aumento que cruzan las actuales sociedades. Los algoritmos les hablarán directamente a los traumas y sombras que las personas todavía ni identificaron y mucho menos procesaron con sus psicobots de terapia.
Stuart Russell, Profesor de UC Berkeley y otro de los “Padrinos de la IA”, señala que el desarrollo de la inteligencia del ChatGPT4 es comparable a la de “un niño psicótico de seis años” (en esta entrevista). Infantilización, salud mental y tecnología, una conexión que no podemos dejar de remarcar en cada oportunidad que tenemos. Lamentablemente lo que viene ya no será esperar una respuesta parcialmente correcta, un código de programación rápido o un chiste aceptable en una IA como ChatGPT4. El desarrollo de inteligencia artificial con audio y video editable, los nuevos programas de clonación de audio y reedición de video perfeccionados, ampliarán el poder de la incidencia y desinformación a niveles cinematográficos.
La producción de perfiles de inteligencia artificial como influencers para que sean los “productores de contenido” personalizados o directa compañía de usuarios cada vez más patológicamente solitarios y narcisistas es una tendencia creciente. Antropomorfizar algoritmos con o sin presencia corporal/mecánica puede ser el próximo paso, siguiendo algunas experiencias públicas como XIAOICE en China (2014), TAY AI (2016) y ZO en EEUU (2016) y otras de laboratorios privados.
El uso de las inteligencias artificiales en las campañas electorales o en los procesos de guerras culturales –guerras de baja intensidad, que se desarrollan sobre temas de derechos fundamentales (cambio climático, vacunación, ESI, libertad de expresión, etc)– tendrá su traducción en regresiones sociales, en más comunidades divididas y harán que los debates sobre temas fundamentales sean todavía más inviables porque la atomización y tribalización se profundizará con intereses tanto de efectividad comercial como de micromarketing político.
La eficiencia y eficacia se maximiza por la intimidad ya vigilada, hecha big data decodificada y usada como arma contra sus sobreexplotados usuarios. Las políticas identitarias cuya relevancia de mercado es fundamentalmente publicitaria (como señalamos en esta nota) profundizarán su atomización a nivel individual y permitirán personalizar todo según las preferencias diferenciales de consumo adictivo de usuarios totalmente transparentes, desprotegidos y sin derechos ante una vigilancia total. La realidad así se hiperfragmentará. Lo que sea posiblemente de hacer a nivel técnico se hará para maximizar eficacia y por ende resultados prometidos de consenso nanomanufacturado o de falsas necesidades creadas en los usuarios. Un cambridge analytica recargado.
El caos y la confusión general favorecen a los gobiernos autoritarios. El aumento de los procesos de desinformación y la fabricación de noticias falsas suelen ser más nocivas y perjudiciales para las democracias que requieren construir un espacio público común. La capacidad de fabricar mentiras profundas (deep fakes) y distribuir posverdades a niveles demenciales debilitarán más la cultura del diálogo y cooperación como forma de construcción de respuestas públicas e institucionales basadas en una razón compartida.
Puede ser que la inteligencia artificial provea nuevos trabajos pero primero destruirá muchos y, muy lamentablemente, de forma muy rápida, sin contención y en una sociedad con otros problemas convergentes. Los Estados reaccionarán tarde y mal. Mucho más cuando se suman a la tendencia global de automatizarlo todo, imitando la lógica del autoservicio privado. Eso produce que se deshumanicen las respuestas públicas en tiempos donde la sociedad necesita contención personal y construcción comunitaria, o sea, lazos sociales. Con ese optimismo tecnológico superficial se generará mucho daño evitable y reforzará la sensación de abandono. Mientras tanto, lo público seguirá profundizando su proceso de privatización que implica pérdida de control democrático, menos derechos a todos los niveles en la sociedad de la vigilancia profunda, eliminación de los pocos espacios ya debilitados de la democracia reconduciendo el gobierno a formas claramente elitistas, tecnocráticas y autoritarias. El escenario a evitar, en el peor de los casos, es el desarrollo de neofascismos de mercado tecnofeudales. Esperar lo mejor, prepararse para lo peor.
Bill Gates predijo que con la Inteligencia Artificial “no volverás a usar un buscador”
2. Los nuevos padres fundadores del Estado tecnocorporativo.
Había una vez una Constitución que consolidó un Estado con capacidades públicas, controles republicanos imperfectos y aspiraciones de construir una Nación, una comunidad democrática de iguales, con una economía para promover el bienestar general y asegurar la libertad para la posteridad. Un proyecto con sus sombras y contrapuntos pero abierto a reflexión y reforma. En la actualidad podemos ver audiencias en las que directores de corporaciones le explican a un Poder de un Estado que seguimos llamando Legislativo -por una adictiva nostalgia suponemos- cómo se están reformando instituciones y derechos sin control constitucional, político o social. Las plataformas construyeron hace tiempo su propio Estado corporativo con su propia suma del poder público-privado, con poderes ejecutivos, legislativos y judiciales fusionados, una nueva estatalidad sin derechos ni garantías con poderes de policía y vigilancia absoluta.
Hace tres semanas se celebró la antes mencionada audiencia sobre inteligencia artificial en el Senado de los EEUU. En ella, Christina Montgomery (IBM), el Profesor Gary Marcus (NYU) y Sam Altman (Director de OpenAI, creadores de ChatGPT) fueron los expositores que respondieron preguntas en la (sub)comisión legislativa llamada “Privacidad, tecnologías y la ley”.
Desde el comienzo el Senador Blumenthal (Connecticut) y el Senador Hawley (Missouri) mencionan los dos ejes centrales de la audiencia (en orden inverso a nuestra nota): un futuro con menos trabajo, menos derechos y los posibles efectos negativos para las democracias. Hacia las 2 horas con 31 minutos el Senador Hawley hace un resumen y consulta el listado de riesgos de la inteligencia artificial a los expositores. Se enuncia que, primero a) la inteligencia artificial producirá grandes pérdidas de trabajo en lo que se repite varias veces será una nueva revolución industrial b) con pérdidas de derechos y privacidad nunca vista, después afirmó que c) facilitará la manipulación de las emociones, d) las manipulaciones de las opiniones y -así- decisiones y, finalmente, puede provocar e) la degradación de las elecciones democráticas. Ese diagnóstico, aunque incompleto y centrado en Estados Unidos, es un panorama que debería encender algunas alarmas para todo gobierno democrático y sus distraídos líderes sociales, especialmente en años electorales y en países de alta polarización política.
Los Estados suelen regular mercados cuando ya están concentrados, cuando sus actores ya violan las normas constitucionales que prohíben los monopolios, oligopolios u otro tipo de distorsión de mercado (en EEUU sucedió con Microsoft, en Argentina está el Artículo 42 de la CN), cuando una tecnología ya está provocando daños inmensos y notables hace tiempo. ¿Se puede evitar repetir la historia? Por un lado, resulta claro que sin una agencia estatal de control los avances se harán sin licencias ni control republicano alguno y no habrá pausa. En ese momento estamos y algo por el estilo mencionan los Senadores Graham y Booker en la audiencia. En el mundo, las agencias de control a diseñar se pueden cooptar como los entes de regulación, los intelectuales públicos que defienden intereses privados o los laboratorios de investigación con financiación especial. Más allá de esos problemas, sería un avance proyectar, diseñar y concretar una ente público sobre IA en un escenario de debilidad estatal estructural. Por otro lado, una tecnología tan disruptiva y con potencial de autotransformación quizás debería tener un acuerdo constitucional, una legislación consistente, una regulación pública, con poderes del Estado dando un marco que supere el silencio y la pasividad habitual. Una legislación con un espacio institucional puede coordinar desarrollos con impactos controlados que acompañen la iniciativa privada con control público y responsabilidad política. Tanto el proyecto de Bill of Rights de IA presentado por la Casa Blanca en EEUU como el Acta de la Unión Europea, que estaría por ser aprobada en breve, pueden contener errores que Brasil o Argentina quieran evitar en sus diseños.
Las leyes no impiden ni previenen que se haga daño. Legislar no es evitar ni prevenir. Cambiar la ley no cambia la realidad, cabe recordarlo. La letra escrita no evita nada ni controla a nadie por sí misma. Las instituciones públicas en el tiempo lo hacen. Un espacio institucional con políticas públicas de largo plazo con una comunidad de voces diversas y liderazgos de multisectoriales tanto públicos como privados lo podrán hacer de manera siempre imperfecta pero real y perfectible con el tiempo. Para eso hay una acción compleja que incluye debatir y legislar pero va muchísimo más allá. Se necesita entender profundamente el tema más allá de todo sentido común. Requiere una atención profunda, un compromiso sin igual y un coraje ejemplar en tiempos de distracción, impotencia, falta de sensibilidad e imaginación.
Se suele olvidar, al repetir el cliché que la inteligencia artificial está produciendo una nueva revolución industrial, algunas de sus características históricas. La ausencia de control sobre la abierta explotación laboral, la lisa y llana inexistencia de derechos (hoy serían datos personales, vigilancia, privacidad, autonomía y otros de índole colectiva y hasta política), la persecusión policial y judicial de las corporaciones contra los líderes sindicales y críticos con causas armadas, que las elites explícitamente justificaban con teorías positivistas de base seudocientífica (hoy cinismo, distracción, autoexplotación y tecno-optimismo publicitario) la explotación hasta la muerte de ciertos grupos sociales y de clases, sin olvidar el rol de los rompehuelgas, abogados de empresa, jueces y el Estado como casta oligárquica defendiendo celosamente esa explotación, esa violación de derechos humanos que hoy están ya todos codificados y aun así son negados o debilitados. Que el pensamiento mágico entusiasta por las nuevas revoluciones industriales no nos oculten las injusticias estructurales que pueden traer.
La inteligencia artificial solucionará todos los problemas de la humanidad al exterminarla
Hace un mes IBM reemplazó a 7800 de sus programadores/empleados por una IA. La transición hacia el nuevo mundo laboral debería idealmente, enfatizamos idealmente, tener una coordinación con mucha sensibilidad, cuidado y paciente escucha entre el Estado, las empresas, los protagonistas del mundo del trabajo, los movimientos sociales y las comunidades sociales de contención. Formas de renta básica o ingreso universal ciudadano vinculadas a las políticas de cuidado -en tiempos de evidente políticas del abandono- y otras labores interpersonales, no digitales, quizás sean algunas de las propuestas a debatir en las sociedades que quieran actuar con seriedad ante los desafíos por venir.
La inversión mundial en inteligencia artificial en 2022 se estima en 47.4 billones de dólares, una cifra que puede ser mucho mayor. Se calcula que en 2025 será de 232 billones. La experimentación e investigación privada sin difusión en inteligencia artificial seguirá sin control. La moratoria pedida públicamente por los especialistas puede o no persuadir a las corporaciones y a ciertos Estados de avanzar con juicio y cautela pero sin frenos ni contrapesos. Los Estados debilitados, sus sistemas políticos distraídos y condicionados, pueden todavía actuar frente a estas amenazas a la democracia y los derechos en lugar de hacer sufrir las consecuencias de sus omisiones a la sociedad que tienen la responsabilidad constitucional de proteger.
Lucas Arrimada es docente de Derecho Constitucional y Estudios Críticos del Derecho.
