¿Puede la IA reemplazar al ciudadano?

No se puede gobernar una sociedad a la que no se entiende. Escuchar, conocer lo que piensa la ciudadanía, es fundamental para poder captar su atención y ganar su apoyo. Pero va incluso más allá de las elecciones. Es quizá todavía más importante para las políticas públicas. No se pueden hacer bien a ciegas, sin saber qué es lo que quiere y necesita la población a la que se destinan las medidas.

En los últimos meses se ha puesto de moda predecir el fin de las encuestas, el advenimiento de las políticas públicas dictadas por algoritmos y máquinas, e incluso que las elecciones tal y como las conocemos dejarán de ser necesarias. Todas estas opiniones se basan en la misma idea: la inteligencia artificial, por su capacidad de conectar y analizar datos, hará obsoletos todos los modelos tradicionales. Ya nada será igual.

Los que defienden que la IA acabará con las encuestas aseguran que esta es capaz de crear simulaciones exactas de personas, lo que hace innecesario tener que consultar a muestras de población cuidadosamente calculadas. Quienes la ven como la mejor diseñadora de políticas públicas, e incluso como el gran dedo elector, sugieren que los ciudadanos dejan una huella digital tan grande que sus preferencias se pueden medir sin que sea necesario preguntarles. Una super IA puede saber qué necesitan e incluso podrá llegar a decir a qué candidato o candidata prefieren como gobernante sin que ellos mismos lo sepan.

Muchas de estas ideas ponen la mirada en el futuro, pero otras ya son parte del presente. Varias empresas están reemplazando las encuestas de satisfacción del cliente por modelos de IA que analizan el comportamiento de los usuarios. Algunas consultoras ya han reemplazado los sondeos con estudios hechos con simulaciones de votantes o análisis de datos históricos.

Todo esto tiene tres grandes peligros. El primero es que caigamos en el error de dar verosimilitud a escenarios ficticios. Los modelos de IA responden y elaboran sus respuestas gracias a la información con la que se han formado, la mayor parte de ella proveniente de Internet, con todos los sesgos que esto trae consigo. Una simulación que haga de un grupo de votantes puede, en realidad, ser una caricatura de todos los prejuicios que existen de ese mismo colectivo. Por consiguiente, la información que aporte puede no representar a estos individuos en toda su complejidad, sino más bien limitarse a lo que se piensa de cómo estos se posicionan.

El segundo gran problema son las llamadas profecías autocumplidas. La filósofa Carissa Véliz lo analiza en profundidad en su último libro. Por ejemplo, cuando se elabora una política pública creando ciertas categorías porque los datos teóricamente dicen que así se organiza la sociedad, más bien se pueden estar produciendo los incentivos necesarios para hacer real esa situación, aunque al principio no fuera así. Si la IA advirtiera que un grupo es especialmente peligroso, porque supuestamente comete más delitos, se pueden dirigir más recursos a su vigilancia, lo que puede derivar en que, finalmente, más personas de ese colectivo se vean inmiscuidas en problemas con la justicia. O si se cree que los alumnos de un determinado territorio tienen menos preparación, podrían recibir menos oportunidades. Es el gran riesgo de los sistemas algorítmicos de puntuación social.

El tercer peligro es que aumente de manera desproporcionada el poder que tienen los creadores y administradores de las herramientas de IA, los únicos capaces de condicionar realmente las respuestas que dan. Si los diagnósticos de las necesidades de políticas públicas o de quiénes son los mejores candidatos dependen más de lo que digan las simulaciones y menos del posicionamiento real de los ciudadanos, crece exponencialmente su capacidad de influencia.

Estos tres problemas se conjugan para generar un gran riesgo: que la política se deshumanice; que ya no nos importe escuchar al ciudadano porque pensemos que no es necesario, que hay otras alternativas que son menos complicadas y más baratas. Y eso derivaría en que dejaríamos de conocer a nuestras sociedades, dejaríamos de entenderlas.

Por supuesto, no todo es negativo. Si se aplica la IA de forma preliminar y con la conciencia de que sus respuestas no son verdades escritas en piedra, puede ser muy útil y ayudar a fortalecer las investigaciones demoscópicas. Hace pocos días, en la newsletter estrategIA se publicaba un artículo en el que se probaba una herramienta para crear perfiles simulados para anticipar reacciones y preparar mejor cualquier focus group. 

También se abre la posibilidad de aumentar el acceso a herramientas que permiten mejorar la comunicación y los mensajes. Los estudios demoscópicos siempre han sido costosos y no están al alcance de cualquier campaña o empresa que quiera investigar su mercado. Por esto, también resultan útiles los experimentos de crear avatares digitales que son capaces de representar a públicos específicos para preguntarles sobre ideas o servicios en una especie de focus group artificial. Evidentemente, no se deben tomar decisiones sólo en base a estas herramientas, pero, si se usan para obtener pistas y seguir reforzando propuestas que después se contrastan, pueden ser muy útiles para complementar la escucha ciudadana con el fin de mejorarla. Lo importante es que el objetivo no sea reemplazar a las personas, sino que, más bien, nos ayuden a entenderlas mejor.

La palabra política viene del griego antiguo y se deriva de “polis”, que significa ciudad-Estado. Por consiguiente, evolucionó hasta referirse a todo lo que concierne al ciudadano, desde quién gobierna hasta cómo se gestionan los asuntos públicos. 

Si la IA reemplaza a las personas, la política deja de existir. Se transforma en una simple administración del territorio que responde a otros criterios. No dejemos que eso pase.

*Asesor de comunicación. www.gutierrez-rubi.es.