En 11 días, los usuarios del chatbot Grok crearon 3 millones de imágenes sexualizadas en X, incluyendo 23.000 sobre menores
Según el informe, la herramienta de IA produjo 190 imágenes por minuto. Fueron afectadas por este procedimiento figuras como la actriz Selena Gomez, las cantantes Taylor Swift y Nicki Minaj, la viceprimera ministra sueca, Ebba Busch y la exvicepresidenta de Estados Unidos, Kamala Harris. Los cibernautas pedían: "Déjala vestida solo con un bikini" o "quítale la ropa".
Se reveló que el chatbot Grok de la compañía xAI, propiedad del magnate Elon Musk, produjo, en pocos días, millones de imágenes sexualizadas de mujeres y menores de edad. “Se estima que la herramienta de IA Grok generó cerca de tres millones de imágenes sexualizadas, incluidas 23.000 que parecen representar a menores, tras el lanzamiento en X de una nueva función de edición de imágenes”, remarcó el Centro para Combatir el Odio Digital (CCDH), un observatorio que se encarga de investigar los efectos que causa la desinformación en Internet.
Al formar parte de la red social X, Grok es de fácil acceso y uso intuitivo, por lo que un inmenso número de usuarios la usaron para modificar imágenes reales, usando instrucciones tan simples y directas como “déjala vestida solo con un bikini” o “quítale toda la ropa”.
Por esta razón, una gran cantidad de imágenes realistas, pero falsas (conocidas popularmente como deepfakes) llenaron las redes sociales, haciendo que varios países decidieran directamente prohibir el uso de Grok.
Elon Musk
Qué dice el reporte sobre el uso inadecuado de Grok
Según el informe del Centro para Combatir el Odio Digital que se dio a conocer este jueves, la herramienta de IA creó estas fotos en solo 11 días, lo que significa que produjo 190 imágenes por minuto. Los expertos también señalaron que fueron afectadas por este procedimiento figuras como la actriz Selena Gomez, las cantantes Nicki Minaj y Taylor Swift, la exvicepresidenta de Estados Unidos Kamala Harris y la viceprimera ministra sueca Ebba Busch. Imran Ahmed, director ejecutivo del CCDH remarcó: “Los datos son claros: Grok de Elon Musk es una fábrica para la producción de material de abuso sexual”.
La agencia AFP le envió un correo electrónico a xAI para conocer su opinión sobre las críticas que generó su programa, y la empresa le contestó con un mensaje corto y contundente: “Mentiras de los medios tradicionales”.
Taylor Swift
Por otra parte, X anunció, la semana pasada, que bloquearía la capacidad de producir esta clase de imágenes hiperrealistas en las jurisdicciones donde esas acciones sean consideradas ilegales. Malasia, Filipinas e Indonesia prohibieron el uso Grok, mientras Francia y el Reino Unido presionan a la empresa sobre esta cuestión.
En California, el fiscal general comenzó una investigación sobre xAI por el material sexualmente explícito, y varios países comenzaron sus propias pesquisas al respecto.
HM/DCQ