La creación de imágenes íntimas falsas mediante inteligencia artificial encendió las alarmas en las escuelas argentinas. Durante su participación en Ronda de Investigación por +Perfil, la especialista en datos, Sol Clemente, advirtió sobre la velocidad con la que avanza esta tecnología y los riesgos que enfrentan los adolescentes: “La verdad que estamos en un momento de que no hay mucha información, simplemente la tecnología va mucho más rápido de lo que los seres humanos en esta tierra podemos alcanzar”.
Según explicó, la práctica consiste en utilizar fotografías de una persona para generar imágenes o videos íntimos falsos que después se difunden en internet. “Hay adolescentes que están desnudando a sus compañeras, es decir, ponen la cara de la persona y con inteligencia artificial crean imágenes o vídeos que luego son publicados en distintas redes sociales, en lugares para adultos que compran esas imágenes, que compran esos vídeos y de esta manera estos adolescentes ganan dinero”, planteó.
El caso de Emma y la violencia digital
Uno de los antecedentes más dolorosos es el de Emma, una adolescente de 15 años que se suicidó en agosto de 2024, después de que un compañero difundiera imágenes íntimas suyas sin consentimiento.
La madre de la joven, Laura Sánchez, impulsó la Guía EMA para prevenir y abordar la violencia digital en las escuelas. En este sentido, Clemente recordó la rápida circulación de las imágenes: “Y el chico este le manda la imagen a un compañero por WhatsApp, ese otro chico se lo manda a dos chicas, en menos de 24 horas todo el colegio tenía las imágenes de Emma”.
La periodista subrayó que la problemática no se limita a las imágenes creadas con inteligencia artificial: “En el caso de esta chica eran imágenes reales, pero bueno, todo este debate y la guía Emma la verdad que sirve para atraerlo a lo que está pasando hoy en día”.
La guía busca ofrecer herramientas para que las familias y los docentes sepan cómo actuar ante situaciones de violencia digital. Según Clemente, “son protocolos para que tengan los docentes, pero también los padres sobre cómo actuar frente a esta situación que tanto daño causa en menores de edad, pero también nos puede pasar a cualquiera que sea mayor de edad, de que viralicen una imagen tuya”.
Más de 50 alumnas afectadas por imágenes generadas con IA
Otro caso se conoció en una escuela de Lomas de Zamora, donde, según contó Clemente, cuatro estudiantes fueron señalados por generar imágenes de más de 50 compañeras desnudas mediante inteligencia artificial. “Finalmente estos cuatro chicos van a tener clases de forma virtual, por ahora no van a ir al colegio mientras siga avanzando la causa”, explicó en +Perfil.
La investigación también puso el foco en la comercialización de las imágenes. Clemente señaló que las familias comenzaron a buscar los nombres de sus hijas para comprobar si habían sido víctimas y remarcó: “Claramente, hay un mercado paralelo que es inaceptable, que es ilegal, que hay que apuntar”.
La periodista aclaró que no era un hecho aislado: “¿Es el primer caso que pasa en Argentina? No. El año pasado se vivió en Córdoba, se vivieron en colegios de la Universidad de Buenos Aires, pasa a nivel mundial”.
