La Unión Europea prohibió la Inteligencia Artificial que generen imágenes sexuales

La Unión Europea avanzó en una nueva regulación sobre inteligencia artificial y acordó prohibir los sistemas capaces de generar imágenes sexuales falsas o contenido íntimo sin consentimiento, en medio de la creciente preocupación mundial por los llamados “deepfakes”.  

La medida forma parte de una modificación de la Ley de Inteligencia Artificial europea y apunta especialmente a las plataformas y herramientas que permiten “desnudar” digitalmente a personas reales mediante IA o crear imágenes pornográficas falsas utilizando fotografías auténticas.  

El acuerdo fue alcanzado entre el Parlamento Europeo y los países miembros del bloque tras varios escándalos vinculados a la difusión masiva de imágenes sexualizadas generadas por inteligencia artificial en redes sociales. Uno de los casos que aceleró el debate fue el de Grok, la herramienta de IA de la red social X, que había quedado bajo investigación por permitir la creación de contenido íntimo falso.  

La nueva normativa prohibirá tanto los sistemas creados específicamente para producir este tipo de imágenes como aquellos que, aun teniendo otro objetivo, puedan utilizarse para generar contenido sexual no consentido sin contar con mecanismos de seguridad adecuados.  

Además, la regulación también contempla restricciones severas para cualquier contenido vinculado con pornografía infantil generada mediante inteligencia artificial.  

Desde Bruselas señalaron que el objetivo es proteger los derechos fundamentales, la privacidad y la dignidad de las personas frente al avance de tecnologías cada vez más sofisticadas. La vicepresidenta de Soberanía Tecnológica de la Comisión Europea, Henna Virkkunen, sostuvo que la intención es “garantizar innovación, pero también seguridad para los ciudadanos”.  

Según lo acordado, la prohibición comenzará a aplicarse desde diciembre de 2026, mientras que las empresas tecnológicas tendrán plazo hasta fin de año para adaptar sus plataformas y establecer mecanismos de control.  

Especialistas en tecnología y derechos digitales advierten que el fenómeno de los deepfakes sexuales creció de manera explosiva en los últimos años y afecta principalmente a mujeres y menores de edad. Estas imágenes falsas suelen utilizarse para hostigamiento, extorsión, violencia digital y campañas de desinformación.  

Con esta decisión, la Unión Europea busca posicionarse como uno de los bloques más estrictos del mundo en regulación de inteligencia artificial, en un contexto donde distintos gobiernos debaten cómo limitar los riesgos asociados a estas nuevas tecnologías sin frenar el desarrollo de innovación.