5th de March de 2021
BLOOMBERG
12-05-2020 14:24

Grupos violentos burlan controles de Facebook con palabras clave

Cuando el presidente Donald Trump instó a los estadounidenses el mes pasado a “LIBERAR VIRGINIA”, en Twitter, un grupo privado de Facebook llamado “Entusiastas de Boogaloo: CORONAPOCALYPSE” dio la bienvenida al tuit.

Misyrlena Egkolfopoulou y Alyza Sebenius
12-05-2020 14:24

Cuando el presidente Donald Trump instó a los estadounidenses el mes pasado a “LIBERAR VIRGINIA”, en Twitter, un grupo privado de Facebook llamado “Entusiastas de Boogaloo: CORONAPOCALYPSE” dio la bienvenida al tuit.

“¿Trump acaba de llamar al boogaloo?”, escribió un miembro, según Southern Poverty Law Center. “¡Bueno, ya escucharon al hombre! Vamos bois”, respondió otro.

La membresía en grupos de Facebook centrados en levantamientos violentos contra el gobierno en Estados Unidos se ha duplicado en las últimas semanas, a medida que la pandemia de coronavirus se ha extendido y los gobiernos imponen restricciones destinadas a frenar el contagio.

Para transmitir su mensaje, estos grupos están explotando las lagunas en las políticas antiviolencia de Facebook, utilizando sátiras, palabras clave y otras tácticas que ocultan sus motivos, según expertos que siguen a grupos marginales en las redes sociales. Una de las frases más comunes es “boogaloo”, que puede referirse a un tipo de música, pero más recientemente ha llegado a describir una guerra civil inminente.

Los grupos boogaloo, y otros grupos extremistas que despliegan tácticas similares, plantean otra prueba para el gigante de las redes sociales con sede en Menlo Park, California, mientras trata de lograr un equilibrio viable entre permitir el discurso libre y frenar la desinformación o el fomento a la violencia y la violación de la ley.

El esfuerzo de Facebook para luchar contra todo, desde la desinformación de la COVID-19 hasta el tráfico de animales, se ha vuelto más difícil por el impulso de la compañía hacia una comunicación más privada y encriptada, lo que puede hacer que sea casi imposible detectar alguna actividad ilícita: una compensación que su director ejecutivo, Mark Zuckerberg, dice estar dispuesto a aceptar. Y aunque Facebook ha retrasado otra moderación de contenido para centrarse en material relacionado con la pandemia, los grupos de Facebook han seguido promoviendo curas falsas y protestas para reabrir estados que podrían violar los mandatos de distanciamiento social.

El desafío de Facebook ha sido destacado por las protestas contra el confinamiento, un movimiento marginal que el “boogaloo” y otros grupos de extrema derecha han aprovechado como herramienta de reclutamiento, dicen los expertos. Entre febrero y abril, el número de grupos de Facebook de boogaloo aumentó de aproximadamente 75 a 125, según un informe de abril de Tech Transparency Project. La membresía se duplicó a 70.000 en el periodo de un mes que terminó a fines de abril, según el informe.

“Las propias prácticas y el diseño de las plataformas crean estas lagunas que permiten que existan teorías de conspiración de desinformación y radicalizaciones. Lo que estamos viendo con boogaloo es un ejemplo de eso”, asegura Karen Kornbluh, investigadora principal y directora de la Iniciativa de Innovación Digital y Democracia en el Fondo Alemán Marshall. “Son capaces de violar con bastante claridad los términos del servicio a través de estrategias tan simples y obvias, lo que demuestra que hay mucho espacio para el endurecimiento”.

Facebook e Instagram están actualizando su política de violencia e incitación para prohibir el uso de términos boogaloo cuando estén acompañados de declaraciones e imágenes que representen violencia armada, según una portavoz. Declinó proporcionar un marco de tiempo.

Facebook es consciente de que los grupos intentan esconderse de sus esfuerzos de detección, que incluyen marcas de usuarios, inteligencia artificial y revisores humanos, dijo la portavoz. Por ejemplo, el término “boogaloo” no siempre se refiere a la guerra civil, sino que también se refiere a un género musical, lo que significa que Facebook tiene que revisar los usos de boogaloo en contexto, según la portavoz.

Otros grupos de Facebook intentan esconderse publicando imágenes que ocultan imágenes problemáticas o usando palabras que de otra manera alertarían las herramientas de búsqueda de Facebook escribiéndolas en otros idiomas, como el uso de caracteres romanos para palabras árabes, según otro representante de Facebook.

Un equipo de 350 personas, incluidos expertos en aplicación de la ley, seguridad nacional y radicalizaciones, estudia las tendencias en el discurso relacionadas con la violencia que conducen a daños en el mundo real, incluida la forma en que los grupos usan lenguaje velado para ocultar su actividad, dijeron los representantes. Facebook también ha encargado una investigación independiente para monitorear los cambios en Internet, a fin de tomar medidas enérgicas contra el contenido violento enmascarado por el humor o el sarcasmo, dijeron los representantes.

En respuesta a preguntas de Bloomberg News, los administradores de un destacado grupo de Boogaloo, Thicc Boog Line, dijeron que los miembros usan memes, imágenes y sátiras para iniciar conversaciones sobre la extralimitación del gobierno y promover la “libertad radical” para todos, independientemente de su raza, su religión o su preferencia sexual. El grupo trata de cumplir con los términos de servicio de Facebook y cambia los nombres y los términos para “darle vida”, no para evitar ser detectados, dijeron los administradores.

“La sátira es arte, y aunque puede que no sea una forma de arte que sea apreciada por todos, es arte”, dijeron. “Si Facebook quiere que nos vayamos, eliminarán nuestros grupos. No nos darán ninguna explicación, y no esperaremos una”.

Negaron que la misión de su grupo sea alentar la violencia, pero señalaron que otros grupos de boogaloo son “más extremos en su retórica”. Algunos grupos boogaloo fueron cerrados por Facebook, dijeron, después de ser infiltrados por supremacistas blancos que “envían al grupo spam con imágenes pornográficas o memes racistas para activar los algoritmos”.

Facebook no busca adecuadamente contenido problemático en grupos, especialmente grupos privados, sino que confía en su algoritmo para detectar actividades sospechosas, según Tech Transparency Project. Eso significa que los administradores de grupos tienen esencialmente la función de servir como moderadores de contenido. “Incluso cuando nosotros, como administradores del grupo, lo consideramos inapropiado, no es nuestro rol censurarlo”, dijeron los administradores de Thicc Boog Line.

De los grupos de boogaloo, el 90% son privados, y algunos cambian de nombre con frecuencia, por lo que son difíciles de encontrar, según Tech Transparency Project.

Los grupos privados de boogaloo contienen fotos de arsenales de armas y piden violencia contra las fuerzas del orden público y los grupos minoritarios, según el informe. Si bien los miembros son específicos acerca de sus instrucciones para la violencia, pueden evitar activar el algoritmo entrenado para detectar la violencia mediante el uso estratégico de palabras clave o variaciones de nombres y palabras, incluidos “boog”, “big igloo” y “boojihadeen”, dicen los expertos.