Los humanos jugaron a ser Dios, pero en vez de acercarse al paraíso, hoy temen quemarse en las “hogueras”. La tecnología, que supo mejorar la calidad de nuestras vidas y sobre la cual se construyó la confianza de un futuro promisorio, que atenuaría las asimetrías y corregiría parte de los males, empieza a verse cuestionada.
Ya existe el término en inglés para describir este miedo y desencanto: Techlash. Esa nueva palabra remite a la inquietud creciente y reciente acerca del impacto negativo que los avances tecnológicos lograrían sobre la civilización y en nuestras biografías. “Las bombas nucleares pueden destruirnos. La inteligencia artificial y los robots podrían esclavizarnos o, peor, reemplazarnos. Las redes sociales nos deprimen: nunca hemos estado tan conectados y al mismo tiempo tan solos”. La enumeración del semanario inglés The Economist no olvida bondades como la refrigeración o las vacunas. Pero si la humanidad vive bajo un “fuego tecnológico”, se debe a que los grandes capitales, en su voracidad, no solo rompieron las barreras antimonopólicas: también sus límites éticos.
En una economía global que se nutre de la información como insumo fundamental, nada desaparece en los servidores, cables, routers. Ni lo publicado ni lo borrado. Tampoco la diatriba o el comentario “envenenado” tecleado pero frenado a tiempo. Facebook digiere y acumula todo, incluso los perfiles (oscuros) de quienes jamás integraron su plataforma.
Es claro que los gigantes digitales que encabezan Google, Facebook y Amazon han crecido sin control y hoy empiezan a ser señalados por sus consecuencias: noticias falsas en abundancia, depresión, adicción a las redes, polarización de las comunidades son algunos de los males del listado.
El reciente escándalo de Facebook, que develó el uso de datos con fines de manipulación política, puso en claro los términos de intercambio; en la web la “gratuidad” se paga con privacidad. Las actividades se rastrean, se predicen. Nuestras conciencias se manipulan y los algoritmos cercenan libertades. Las propuestas “empáticas” ofrecen “amigos”, series para ver o videos o artículos que reafirmarán un pensamiento único. La era digital nos va volviendo planos en complejidades y contradicciones. El conocimiento detallado posibilita la propaganda a medida, la demagogia, la manipulación de las emociones. En síntesis, la degradación de la democracia y del sistema político.
Los algoritmos son “las armas de destrucción matemática”. Para Cathy O’Neil, experta en el tema, la premisa fundamental de la big data es que el futuro no diferirá del pasado, es “predecible”, no hay utopías. La irracionalidad subyacente en la “racionalidad numérica”. “Si en un ordenador metés basura, saldrá basura”. El procesamiento de datos sobre conceptos incrustados en modelos matemáticos. De allí el asombro sobre que la inteligencia artificial sea patriarcal y machista, o abundante en prejuicios racistas y clasistas. La data cargada es el reflejo de la sociedad en que vivimos, no de aquella en la que nos gustaría reflejarnos.
La big data acumula información y decide: sobre la libertad de algún preso por potenciales reincidencias, sobre el encarecimiento de los seguros o los créditos, acerca de confiabilidad como ciudadanos, la admisión a las universidades o la posibilidad de obtener algún empleo. Pero la gente ignora cómo se procesan sus datos y cómo o por qué condicionan sus vidas.
Un tema viejo reaparece en una modalidad nueva: ¿quién controla a quienes nos controlan? Y el temor es que la inteligencia artificial y la robótica profundicen el trabajo más allá del control humano que ya realizan. “Mientras que el impacto a corto plazo de la inteligencia artificial depende de quién lo controla –decía la mente brillante de Stephen Hawking– el impacto a largo plazo depende de si se puede controlar en absoluto”. El día que la inteligencia artificial se desarrolle por completo podría significar el fin de la raza humana.
*Politóloga. **Sociólogo. */**Expertos en medios, contenidos y comunicación.
