Dudas sobre los contratos con el Estado y advertencias sobre control social: qué dicen los expertos sobre el Gemelo Digital Social

El proyecto Gemelo Digital Social (GDS) ya fue judicializado. El diputado nacional Agustín Rossi presentó una acción de hábeas data colectivo ante la Justicia Federal con el objetivo de que el Ministerio de Capital Humano no pueda utilizar información sensible de la ciudadanía hasta que no se brinden explicaciones sobre los detalles y alcances de la iniciativa. La acción se suma a un pedido de informes del bloque Provincias Unidas. A menos de una semana del anuncio, las dudas alrededor de la iniciativa son cada vez mayores y desde la cartera que conduce Sandra Pettovello no se dan respuestas. 

El hábeas data de Rossi tramita en el Juzgado Federal N.°2 de Rosario, a cargo de la jueza Natalia Martínez. El planteo del diputado es simple: en la medida que las autoridades no den a conocer qué bases de datos utilizará el GDS, qué tipo de algoritmos y cuáles serán los mecanismos de supervisión de la tecnología no se deberían poder usar, de forma preventiva, las bases de datos oficiales. 

Especialista en IA: "Peter Thiel tiene una visión apocalíptica"

Rossi también requirió información sobre los protocolos de seguridad informática, el presupuesto asignado y los contratos o convenios que se hayan firmado para el desarrollo del GDS. En la misma línea fue el pedido de acceso a la información de Provincias Unidas. Según explicó el diputado Pablo Juliano en X, el objetivo es saber “qué y quiénes están detrás” y “qué actos administrativos sustentan este proyecto”. 

En su publicación, Juliano resumió parte de las preocupaciones más importantes alrededor de esta iniciativa: las dudas sobre cómo se accederá a los datos de la Anses, el Renaper o el PAMI, que cuenta con información sensible de la ciudadanía como, por ejemplo, sus historias clínicas. También se preguntó si este algoritmo puede utilizarse “para eventuales políticas que impliquen la discriminación de uno o varios grupos sociales”. 

Cronología de un anuncio opaco 

Los diputados recogieron el guante de las alarmas que se encendieron apenas Javier Milei publicó el video con estética futurista del anuncio, el viernes 22. El video institucional afirma que "por primera vez Argentina lidera el futuro social", presentando la iniciativa como un cambio de paradigma hacia un "Estado que anticipa" en lugar de uno que solo reacciona ante las crisis. 

Peter Thiel es sólo el botón de muestra

La pieza sostiene que el sistema permitirá “comprender, predecir y optimizar decisiones” mediante el uso de inteligencia artificial aplicada a los datos de la población.

La primera reacción al video fue intentar comprender qué es un gemelo digital. Se trata de una réplica virtual o "avatar" de un sistema real que se alimenta de grandes volúmenes de datos dinámicos para simular qué pasaría ante distintos escenarios.  Aunque es una tecnología originada en la industria espacial y la gestión de procesos industriales para optimizar operaciones y predecir fallas, el Gobierno busca trasladar esta lógica al terreno de las políticas sociales. 

El primer fantasma que apareció fue la posibilidad de que Peter Thiel estuviera detrás del proyecto. La presencia del magnate en Argentina y sus reuniones en Casa Rosada hicieron suponer que Palantir podría ser la compañía encargada de desarrollar la iniciativa. Sin embargo, el jueves 27 el Ministerio de Capital Humano aclaró, a través de sus canales oficiales, que la iniciativa se llevará adelante bajo la conducción estratégica de la propia cartera y con sus equipos técnicos especializados, "sin recurrir a contrataciones integrales de empresas". 

La explicación no terminó de convencer a quienes desconfían, incluido a Rossi. En diálogo con Diagonales Stream, el diputado aseguró que la palabra “integrales” puede esconder una trampa. “Puede significar que no van a contratar todo, pero probablemente lo hagan por partes”. 

Inteligencia artificial: alertan por los riesgos globales y reclaman una regulación urgente

Rossi cuestionó la falta de transparencia y el hecho de que, según comunicaciones informales que trascendieron desde Capital Humano, el objetivo es utilizar tanto fuentes de datos públicas como privadas, sin aclarar cuáles serían estas últimas. 

En el anuncio original, las autoridades aseguraron que GDS constará de cuatro etapas: un diagnóstico interno con mapeo de datos en el Ministerio, una mesa de trabajo con sectores públicos y privados, la definición de la arquitectura tecnológica y una mesa final dedicada a la privacidad y ética algorítmica. El modelo final tendría cuatro dimensiones: descriptiva, explicativa, predictiva y prescriptiva. 

Rossi insistió en que no queda claro si el proyecto ya comenzó o cuándo será la fecha efectiva de su implementación. PERFIL intentó comunicarse con Capital Humano para preguntar sobre el tema, pero no obtuvo respuesta.

Ni Black Mirror, ni Gran Hermano: las preocupaciones concretas de los expertos

En diálogo con PERFIL, Tomás Pomar, integrante del Observatorio de Derecho Informático Argentino (ODIA) sostuvo que la metáfora que asocia los gemelos digitales con un episodio distópico de Black Mirror, “puede hacernos perder de vista cuál es el problema”. Para el especialista, la discusión central no debe ser la ciencia ficción, sino la transparencia en los contratos del Estado y la gestión administrativa de la tecnología. 

Aseguran que la encíclica del Papa León XIV sobre los peligros de la inteligencia artificial fue escrita con Claude

El experto enfatizó que es fundamental conocer qué empresas participan en el manejo de la infraestructura, ya que una vez que el Estado transfiere o aloja datos en nubes extranjeras, se pierde la trazabilidad y la soberanía sobre esa información.

Pomar advirtió que Argentina intenta implementar esta "solución mágica" sobre bases de datos que históricamente han tenido graves problemas de seguridad. Según explicó, el peligro radica en aplicar modelos de predicción sobre información desordenada y vulnerable a filtraciones constantes.  

Por otro lado, el ingeniero en Electrónica y especialista en inteligencia artificial Ariel Garbarz publicó un conversatorio en su canal de YouTube sobre el proyecto GDS y subrayó la inconveniencia de utilizar la metáfora del Gran Hermano, otra de las formas en la que se describió el proyecto en los últimos días.

Odiada o amada, la Inteligencia Artificial es patrimonio de todos

Según el ingeniero, el Gran Hermano es una figura que hace referencia a una tecnología que todo lo ve. En cambio, un gemelo digital tiene la capacidad de predecir y anticipar, lo cual cambia de forma drástica el enfoque del asunto. Garbarz advirtió que esta tecnología permite segmentar emocionalmente a la población para entregar mensajes personalizados que exploten sus miedos o angustias, condicionando su conducta política antes de que actúen. 

Sobre el riesgo para el sistema democrático, el ingeniero lanzó una advertencia directa: "No necesitan falsificar la urna si consiguen falsificar el mundo emocional con el que cada persona llega al cuarto oscuro a votar".