Microsoft Corp. compartirá una herramienta que ha estado utilizando en su servicio de juegos Xbox para escanear chats de texto en línea y detectar adultos que buscan atraer y explotar a niños con fines sexuales.
Codenamed Project Artemis, la técnica, revisa mensajes históricos y busca patrones y características indicativas antes de asignar una calificación de probabilidad. Eso puede ser utilizado por compañías para decidir qué conversaciones en sus plataformas deberían ser examinadas más de cerca por un moderador humano, escribió Courtney Gregoire, directora de seguridad digital de Microsoft, en una publicación de blog.
Las tecnológicas están lidiando con la forma de detener una creciente ola de pornografía infantil y explotación en línea, ya que imágenes y textos infames abruman a moderadores y las aplicaciones de chat privado hacen que la detección sea más difícil. Las empresas de la industria reportaron 45 millones de imágenes en línea de abuso sexual infantil en 2018, un récord, informó el New York Times en septiembre. Los depredadores adultos usan funciones de chat incorporadas en videojuegos populares y aplicaciones de mensajería privadas para acercarse a los niños y solicitar fotos desnudas, a veces haciéndose pasar por niños.
La técnica de detección de Microsoft promete ayudar a controlar ese comportamiento con las comunicaciones textuales, pero deja sin abarcar el chat de voz en juegos multijugador como Fortnite, que es otra vía para depredadores sexuales infantiles.
El proyecto comenzó en un hackatón de noviembre de 2018 copatrocinado con dos grupos de bienestar infantil que analizaron no solo las nuevas ideas tecnológicas sino también cuestiones legales y de política. Desde entonces, Microsoft ha estado desarrollando las herramientas en colaboración con las compañías detrás del videojuego en línea Roblox y la aplicación de mensajería Kik, The Meet Group, que posee aplicaciones de reuniones sociales como MeetMe y Skout, y Thorn, una organización sin fines de lucro cofundada por los actores Ashton Kutcher y Demi Moore para luchar contra el abuso sexual infantil.
El equipo fue dirigido por el profesor de informática de Dartmouth College, Hany Farid, quien anteriormente trabajó con Microsoft para crear PhotoDNA, una herramienta que ha sido utilizada por 150 empresas y organizaciones para encontrar e informar imágenes de explotación sexual infantil. Farid ha escrito en oposición a la proliferación del cifrado de extremo a extremo en los servicios de mensajería social y privada, argumentando que hace que la detección y prevención del abuso infantil sea más difícil.
A partir del 10 de enero, Thorn se encargará de la licencia de Project Artemis, que se basa en las patentes de Microsoft y está disponible de forma gratuita para los servicios en línea calificados, que pueden inscribirse enviando un correo electrónico a [email protected]. Microsoft dijo que ya está utilizando la técnica para los chats de Xbox y está considerando hacer lo mismo para Skype.
