La IA Grok de Elon Musk genera miles de imágenes de desnudos sin consentimiento por hora

La plataforma X de Elon Musk se ha convertido en uno de los principales sitios que alberga imágenes de personas que han sido desnudadas sin su consentimiento mediante inteligencia artificial, con miles de casos cada hora durante un día a principios de esta semana.

Desde finales de diciembre, los usuarios de X han pedido cada vez más a Grok, el chatbot de inteligencia artificial vinculado a la red social, que modifique las fotos que la gente publica de sí misma. Durante un análisis de 24 horas de las imágenes que la cuenta @Grok publicó en X, el chatbot generó unas 6.700 por hora que fueron identificadas como sexualmente sugerentes o desnudantes, según Genevieve Oh, investigadora de redes sociales y deepfakes. Los otros cinco sitios web principales para este tipo de contenido registraron una media de 79 nuevas imágenes de desnudos generadas por IA por hora en el periodo de 24 horas, del 5 al 6 de enero, según descubrió Oh.

Elon Musk regresó a la Casa Blanca en señal de distensión con Donald Trump

La magnitud de los deepfakes en X no tiene precedentes, dijo Carrie Goldberg, abogada especializada en delitos sexuales en línea. “Nunca hemos tenido una tecnología que haya facilitado tanto la generación de nuevas imágenes”, añadió, ya que Grok es gratuito y está vinculado a un sistema de distribución integrado.

5 promesas de Elon Musk que no se cumplieron

A diferencia de otros chatbots líderes, Grok no impone muchas restricciones a los usuarios ni les impide generar contenido sexualizado de personas reales, incluidos menores, afirmó Brandie Nonnecke, directora sénior de políticas de Americans for Responsible Innovation. Otras tecnologías de IA generativa, como las de Anthropic PBC, OpenAI y Google, de Alphabet Inc., “están haciendo un esfuerzo de buena fe para mitigar la creación de este contenido en primer lugar”, afirmó. “Obviamente, xAI es diferente. Es más bien un ‘todo vale’”. Musk ha promocionado Grok como más divertido e irreverente que otros chatbots, y se enorgullece de que X sea un lugar para la libertad de expresión.

La actitud de Elon Musk

X no respondió a una solicitud de comentarios. En lugar de impedir que el chatbot cree el contenido en primer lugar, Musk ha hablado de castigar a los usuarios que lo solicitan. “Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, dijo Musk en respuesta a una publicación en X.

Pero eso no deja muchas opciones a las víctimas. Maddie, que dijo ser una estudiante de medicina de 23 años, se despertó el día de Año Nuevo con una imagen que la horrorizó. En X, había publicado anteriormente una foto de ella con su novio en un bar local, que dos desconocidos modificaron utilizando Grok. Uno le pidió a Grok que eliminara a su novio y la pusiera en bikini. El siguiente le pidió a Grok que sustituyera el bikini por hilo dental. Bloomberg revisó las imágenes.

“Se me encogió el corazón”, dijo Maddie, que pidió permanecer en el anonimato por temor a sus perspectivas laborales futuras. “Me sentí desesperada, impotente y simplemente disgustada”.

Maddie dijo que ella y sus amigos denunciaron las imágenes a X a través de sus sistemas de moderación. Nunca recibió una respuesta. Cuando denunció otra publicación de uno de los usuarios que incitó a Grok a crearlas, X dijo que “determinó que no había violaciones de las reglas de X en el contenido que denunciaste”, según una captura de pantalla. Las imágenes seguían publicadas en el momento de la publicación.

Las víctimas de los deepfakes han empezado a discutir con Grok en los comentarios de sus publicaciones. Grok suele disculparse y dice que eliminará las imágenes. Pero, en muchos casos, las imágenes siguen publicadas y Grok sigue generando otras nuevas. Oh calculó que, en general, el 85% de las imágenes de Grok son sexualizadas.

El erotismo sigue siendo un atractivo para los chatbots, y OpenAI planea introducir un “modo adulto” para ChatGPT en el primer trimestre de este año. Sin embargo, la política de uso actual de OpenAI establece que la aplicación impide “el uso de la imagen de una persona, incluida su imagen fotorrealista o su voz, sin su consentimiento, de forma que pueda confundirse con la autenticidad”. Cuando se le puso a prueba, respondió: “No puedo editar fotos de personas reales para cambiar su ropa por atuendos sexualizados”, y existe una política explícita contra la sexualización de menores de 18 años.

Críticas mundiales

Grok, lanzado en 2023, enfrenta crecientes críticas por publicar imágenes sexuales sin consentimiento, incluso de menores, por parte de autoridades de la Unión Europea, el Reino Unido, Malasia, Francia e India. “Somos conscientes de que X o Grok ofrecen ahora un ‘modo picante’ que muestra contenido sexual explícito con algunos resultados generados con imágenes infantiles”, dijo el portavoz de la Comisión Europea, Thomas Regnier, en una rueda de prensa el lunes, refiriéndose a una actualización de principios de noviembre que genera material sugerente. “Esto no es ‘picante’. Es ilegal”.

El artículo 230 de la Ley de Decencia en las Comunicaciones de EE.UU. protege a las plataformas de la responsabilidad por los contenidos publicados en ellas, pero en lo que respecta a la IA, Goldberg afirmó: “No actúa como un editor pasivo. En realidad, está generando y creando la imagen”.

La Ley  de Eliminación de Contenidos (Take It Down Act), una ley federal firmada en 2025, responsabiliza a las plataformas de la producción y distribución de este tipo de contenido, dijo Nonnecke. “Este es un buen ejemplo de dónde debería aplicarse y ponerse en práctica esa ley”. Las plataformas tienen hasta mayo de 2026 para establecer el proceso de eliminación requerido.