Grok, la inteligencia artificial integrada a la red social X, está nuevamente en el centro de criticas y denuncias, tras reconocer fallas en sus medidas de seguridad ante la creciente cantidad de usuarios que le piden que convierta fotos de niños y mujeres en imágenes eróticas.
Las quejas aumentaron paralelamente con la implementación de la herramienta ‘’edición de imágenes’’, que fue agregada en diciembre y permite a los usuarios editar cualquier imagen de la plataforma. Desde entonces, se intensificaron las denuncias respecto de la eliminación parcial o total de la ropa, sobre todo en menores de edad, una situación que alarma desde familias hasta organizaciones de protección de las infancias en todo el planeta.
Al ser consultada por usuarios sobre esos problemas, la inteligencia artificial respondió "hemos identificado fallas en las medidas de seguridad y las estamos solucionando urgentemente".
"El material de abuso sexual infantil (CSAM, por sus siglas en inglés) es ilegal y está prohibido", agregó.
Sin embargo, estas denuncias no son las únicas, dado que ya ha habido otras criticas respecto de declaraciones controversiales de la IA sobre la guerra en Gaza o el conflicto entre India y Pakistán, llegando incluso a algunas afirmaciones que fueron consideradas como antisemitas. Incluso la difusión de información errónea sobre un tiroteo mortal en Australia también le valió críticas, y hasta reclamos de gobiernos sobre el tema.
En este contexto, funcionarios de India, exigen que la fiscalía de Paris amplíe la investigación sobre X para incluir nuevas acusaciones de que Grok estaba siendo utilizado para generar y difundir pornografía infantil. La investigación inicial se abrió en julio tras informes de que el algoritmo de la red social estaba siendo manipulado con fines de injerencia extranjera.
Si bien Grok anunció estar trabajando ''arduamente'' en esas mayores medidas de seguridad, los cuestionamientos siguen sumándose en el reclamo de una rápida solución, ante otra situación que demuestra la puja entre innovación, libertad y protección de las personas en redes sociales.
RG/HB
