Siempre creímos que el poder del Estado se medía en leyes, decretos, presupuestos y control del territorio. Después entendimos que los datos también eran poder. Ahora estamos entrando en una tercera etapa, mucho más peligrosa: el Estado (o quien controle la tecnología) ya no solo quiere saber qué hacemos, sino predecir qué vamos a hacer. Eso es, en esencia, un gemelo digital de la sociedad.
No es solo una base de datos más grande. Es un modelo que simula comportamientos, anticipa riesgos, detecta patrones y, eventualmente, influye en decisiones que nos afectan a todos. La promesa suena imbatible: políticas públicas más eficientes, detección temprana de crisis, mejor asignación de recursos, un Estado más chico y menos reactivo. En un país como Argentina, donde tantas cosas llegan tarde, la idea de anticipar problemas seduce.
Pero la tecnología nunca llega neutral. Viene con sesgos, con cajas negras, con intereses privados y con una arquitectura de poder detrás. Los modelos de IA son opacos por naturaleza. Muchos ya vienen entrenados con datos que tienen sesgos incorporados. Y cuando le entregamos esa capacidad predictiva a empresas extranjeras, no estamos solo contratando software: estamos tercerizando parte de la mirada del Estado y delegando soberanía.
Empresas como Palantir ya muestran hacia dónde va esto. No solo guardan datos, construyen sistemas que interpretan la realidad y generan recomendaciones operativas. Puede servir para gobernar mejor pero también para controlar mejor a cada ciudadano. La línea entre eficiencia y vigilancia es muy fina, y depende de quién diseña el modelo, quién define las categorías y quién responde cuando algo falla.
El riesgo es concreto: imaginemos que un algoritmo te clasifica mal. Te niega un beneficio, te pone en una lista de riesgo, te investiga o directamente bloquea un derecho. ¿Quién es responsable? ¿Los funcionarios? ¿La empresa que vendió el sistema? ¿El programador? ¿El “sistema”? La opacidad algorítmica puede convertirse en la nueva impunidad estatal.
Y esto puede llegar a escalar fuerte. Ya vivimos en burbujas personalizadas gracias a las redes y la IA. Cada uno ve una realidad distinta, adaptada a lo que el algoritmo cree que nos va a enganchar. Ya no es la propaganda masiva de antes (un mismo discurso para todos). Es persuasión íntima, invisible y a medida.
Proyecto Gemelo Digital del Gobierno: los puntos ciegos y el nulo control generan preocupación
Una democracia puede sobrevivir al debate y al desacuerdo. Lo que no sabemos es si puede sobrevivir a la desaparición total de una realidad compartida. Cuando cada ciudadano vive en su propia versión de los hechos, construida específicamente para él, se rompe la esfera pública: ya no hay un mundo común sobre el que discutir, solo realidades privadas y manipuladas.
En elecciones futuras, esto puede ser decisivo. Cada uno recibiendo su propia narrativa, diseñada para moverlo en una dirección. Todo mientras creemos que nos estamos informando por nuestra cuenta.
La solución no es rechazar la tecnología. Es exigir soberanía. Estados Unidos tiene Silicon Valley, su semillero de tecnología. China entendió muy bien que quien controla los modelos y los datos controla el futuro. En Latinoamérica seguimos entregando nuestros datos y dejando que otros construyan los gemelos digitales con nuestra realidad. Necesitamos LLMs corriendo en hardware propio, modelos entrenados con nuestra cultura, auditorías obligatorias, reglas claras de responsabilidad y, sobre todo, no seguir tercerizando nuestra capacidad de entender y decidir.
