lunes 30 de enero de 2023
COLUMNISTAS Entrevista

Nicolás Morás: “Youtube se está pegando un tiro en el pie”

El lado oscuro de una red social que, con la ayuda de inteligencia artificial, castiga a creadores de contenidos de diversas ideologías.

15-01-2023 00:43

Con seiscientos mil suscriptores y documentales políticos que superaron los dos millones de vistas, Los Liberales, canal del joven investigador Nicolás Morás, fue desmonetizado tras la publicación de un video sobre el artículo del Washington Post que cuestiona la falta de afrodescendientes en la Selección nacional, por un aparente “error de la red neuronal”. 

“Han ganado cientos de miles de dólares con mi trabajo y ahora nos quitaron la fuente de sustento a mí y a mi equipo con una arbitrariedad alarmante”, cuenta el mentor de un canal cuyos informes son fruto de su esfuerzo junto al de seis colaboradores a tiempo completo, tres en el área de investigación y guion y tres para edición audiovisual. A partir de este incidente, Morás indagó en mecanismos poco conocidos y entretelones de una red social que, según él, castiga a creadores de contenidos de diversas ideologías, al tiempo que va cerrando puertas “a los pequeños y medianos emprendimientos periodísticos, a los críticos culturales, a los comunicadores independientes, a historiadores y filósofos”. 

—¿Cómo empezó todo? ¿En qué circunstancia sufrís la sanción de Youtube?

—A las 21.36 del 12 de diciembre, iniciamos la carga de un video donde se realizó una crítica fundamentada a un artículo del Washington Post que tuvo enorme circulación, en el que una profesora universitaria cuestiona la ausencia de jugadores afrodescendientes en la Selección de fútbol argentina. A diferencia de muchos otros canales, no me lo tomo en sorna. Reconozco los puntos válidos del texto y replico otros con datos históricos. Incluyo una condena explícita a dichos racistas de Alberdi y Sarmiento, pero señalando al mismo tiempo que se dirigían a aborígenes y mestizos y no a negros. Esto, en jerga de Youtube, se llama reprobación en contexto EDSA (Educativo, Documental, Científico o Artístico). Sin embargo, en ese mismo instante que comienza a procesarse el video, nos llega la notificación automática de que el canal entero ha sido desmonetizado. Inmediatamente, recordé el caso de Agad Mator, un importante canal de ajedrez que fue erróneamente sancionado por la inteligencia artificial cuando hablaba de “negras”, “blancas”, “ataque” y “amenaza” con un invitado, refiriéndose por supuesto a una estrategia de juego. La red neuronal lo leyó como discurso de odio. Si bien Youtube revirtió la decisión tarde y mal por el escándalo público, se negó a realizar declaraciones al respecto.

—Parece que la inteligencia artificial no es tan inteligente. ¿No hay un control humano sobre el contenido?

—Tras años de controversia por la falta de transparencia en su procedimiento, diez días antes de desmonetizarme, la compañía publicó un artículo en su blog con un relato genérico sobre cómo trazan la línea entre la libertad de expresión y los peligros de daño en el mundo real, “en un esfuerzo conjunto entre las personas y la tecnología de aprendizaje automático”.

A un canal de ajedrez lo sancionaron porque hablaba de negras, blancas, ataque, y  la IA lo leyó como discurso de odio

La frase no es casual. En 2020, Youtube admitió que, al enviar a sus trabajadores a casa por la pandemia, tuvo que dejar la moderación de contenido enteramente a la inteligencia artificial, con resultados susceptiblemente peores: una tasa del 50% de eliminaciones erróneas (con sus consiguientes “strikes” o penalizaciones al creador) frente al 25% previo. Esto significa que miles de canales fueron injustamente castigados con penas que van desde prohibir sus emisiones durante semanas enteras hasta la cancelación completa de sus cuentas, prohibiéndoles abrir otras nuevas. Cuando te ocurre algo así, nadie se hace cargo de resarcirte económicamente.

—¿Algo cambió luego de esto?

—No. Pese a aquello, en la actualidad, las máquinas siguen tomando decisiones, tanto en lo referido a las Normas Comunitarias, que determinan lo que puede o no publicarse, como a los Lineamientos de Contenido Apto para Anunciantes, que determinan si un creador puede o no cobrar por su video, pese a que Youtube se reserva el derecho a mostrar avisos en contenido desmonetizado y cobrarlos enteramente.

Nicolás Morás 20230115
Polémico. Morás llega a muchísimos seguidores a través de su canal Los Liberales.

—¿Cobran por contenido desmonetizado para los creadores?, ¿Cuál es el argumento?

—No hay argumento. Esta plataforma maltrata a los creadores de contenido, que son la esencia de su negocio. Han ganado cientos de miles de dólares con mi trabajo y ahora nos quitaron la fuente de sustento a mí y a mi equipo con una arbitrariedad alarmante.

Tanto, que intervino la ONG especializada en Libertad de Prensa Artículo 19. Envié a Google una carta de apelación meticulosa demostrando mi conocimiento y cumplimiento de todas las normativas y enfatizando a su vez que no tengo ningún strike y que más del 90% de nuestros más de quinientos videos habían sido calificados como aptos para anuncios, tanto por la revisión automática como por moderadores humanos, lo cual echa por tierra la frase genérica que les envían a todos los canales en esta situación: “Hemos detectado que una parte considerable de tu canal no cumple las políticas del Programa para Partners de Youtube”. 

¿Resultado? Rechazaron la apelación probablemente sin leerla y nos instan a postular de nuevo el programa “editando o eliminando” contenido infractor. Lo más inaudito es que se niegan a reconocer cuál es exactamente el contenido que les molesta, alegando que si lo dijeran “facilitaría que algunos creadores hagan trampas”. 

Es Youtube quien hace trampas permanentemente. Una de ellas es negarse a pagarme los 7.600 dólares que produje en los 12 días de diciembre en los que era miembro del programa, lo cual sería imposible de justificar en cualquier tribunal local, pero la empresa se sirve de unos términos leoninos, sometidos a actualizaciones unilaterales permanentes, y así gestiona a sus millones de “asociados” a lo largo del planeta. 

—¿Vos definirías como precarias las condiciones de trabajo del youtuber?

—No en el sentido que lo han hecho otros colegas, que por ejemplo, en España buscan la creación de un sindicato de influencers y hacen hincapié en la ausencia de derehos laborales o los ingresos variables en función de fórmulas que van más allá de la cantidad de visitas (época del año, tema que se trata, puja entre auspiciantes, etcétera). 

Los propios revisores humanos de contenido de Youtube están entablando demandas colectivas por daño psicológico

Sí cabe destacar que los propios revisores humanos de contenido de Youtube están entablando demandas colectivas por daño psicológico. Tienen pocos minutos para tomar cada una de los cientos de decisiones que les requieren por día. Tienen que ver videos inocuos erróneamente marcados como dañinos junto a otros que sí lo son, incluyendo suicidios, decapitaciones, pornografía infantil, etcétera. Son usualmente trabajadores tercerizados, por ejemplo, de Indonesia y admiten que el estrés y la falta de apoyo profesional los lleva a ser especialmente severos en sus juicios y a perder la ecuanimidad. Como creador, yo valoro la cuota de autonomía que nos da el servicio, pero denuncio la brutal vulnerabilidad a la que nos condenan estas sanciones injustificadas y abusivas, lo que termina generando pánico y autocensura. Sobran argumentos de que Youtube silencia voces conservadoras o libertarias que no tienen nada que ver con el extremismo violento, ni el racismo, ni las teorías conspirativas, favoreciendo un microclima inclinado hacia los intereses del Partido Demócrata de Estados Unidos. Pero tampoco faltan denuncias válidas desde el otro lado del espectro. Varios creadores de izquierda han sido penalizados erróneamente por realizar refutaciones o sátiras de la secta Q-Anon, que a ojos de cualquiera de nosotros cumplen plenamente con las reglas de la plataforma, pero que no han sido debidamente interpretadas por el algoritmo.

—Estamos ante una problemática transversal...

—Sí, claro. Más allá de su ideología, les cierran las puertas a los pequeños y medianos emprendimientos periodísticos, a los críticos culturales, a los comunicadores independientes, a historiadores y filósofos. Solo grandes corporaciones como CNN o Fox pueden hablar de guerra, pandemia o elecciones sin temor a que las castiguen gratuitamente, ya que gozan de línea directa con la compañía, mientras que el resto de los mortales somos remitidos a una maraña de respuestas ambiguas y prefabricadas que emanan desde un chat impersonal sin ninguna intención de atender nuestras inquietudes. El mensaje parece claro: dedicate a hablar de maquillaje, fútbol o videojuegos. Lo que no parece comprender Susan Wojcicki –la CEO– es que competidores como Twitch y Tik Tok están arrebatándole terreno a pasos agigantados porque esta atmósfera venenosa afecta a todos por igual, no solo a los que hablamos de política. Youtube se está pegando un tiro en el pie.

*Periodista, guionista y docente.