Soleado
Temperatura:
21º
Ciudad:
Buenos Aires
jueves 14 de noviembre de 2019 | Suscribite
EDUCACIóN / ENTREVISTA A RENATA ÁVILA, DIRECTORA EJECUTIVA DE CIUDADANÍA INTELIGENTE
domingo 15 septiembre, 2019

“Nuestro desafío es cómo superamos la desigualdad en la era de los algoritmos”

La abogada y especialista estuvo en Argentina como invitada para participar de la charla “Mujeres en la economía digital”, realizada la semana pasada en Buenos Aires, en el marco de la iniciativa Las Argentinas Trabajamos de la Fundación Foro del Sur.

Redacción Suplemento Educación

Foto: Renata Avila
domingo 15 septiembre, 2019

Se dice que la tecnología es el gran igualador de género porque es neutral. Pero, ¿es esto cierto? ¿Su incorporación impacta de igual manera en las mujeres? ¿Qué les espera a las trabajadoras en la era del big data? Estos interrogantes formaron parte de la charla “Mujeres en la economía digital”, realizada la semana pasada en Buenos Aires con la participación de la abogada y directora ejecutiva de Ciudad Inteligente, Renata Ávila. El Suplemento Educación dialogó con la especialista que se dedica a fortalecer la democracia mediante el uso innovador e igualitario de las tecnologías.

 

La semana pasada participaste de la charla “Mujeres en la economía digital”. ¿En qué consistió tu presentación?

Nuestro desafío es cómo superamos la desigualdad en la era de los algoritmos. Desafortunadamente, las desigualdades antes estaban más explícitas en los sistemas, desde los espacios de toma de decisión donde solo había hombres, hasta carreras universitarias o trabajos específicos para hombres donde una mujer ni siquiera aplicaba. ¿Qué está pasando hoy? Esa sala donde solo había hombres que determinaban criterios para búsquedas laborales o para otorgar beneficios sociales se cerró. En lugar de haber gente dentro de ella, hay un montón de mecanismos de decisión automatizados, diseñados por gente, pero que actúan independiente de los humanos. Entonces, en lugar de tener personas leyendo curriculum se tiene un sistema que busca por ellos, ahorrando tiempo y dinero, con parámetros que pueden ser, por ejemplo, “hombres o mujeres que no tengan hijos”, porque no quiero que falten al trabajo. Eso es ilegal con las leyes actuales. Es ilegal pero pasa sin que lo podamos auditar porque esa puerta que antes estaba más o menos abierta, y con caras, hoy está cerrada por los secretos industriales y ya no podemos acceder a los criterios de los primeros filtros laborales.  Ya no es una persona reclutadora con sus prejuicios, pero con cierto grado de discrecionalidad que puede valorar, por ejemplo, las cualidades de una mujer independientemente de si es madre o no.

Solo podemos darnos cuenta de estas desigualdades con casos observados. Tanto del lado de la oferta como de la demanda, las mujeres, y sobre todo de las zonas más precarias, están siendo excluidas del mercado laboral. Ya desde la oferta laboral se pueden tener sesgos, podemos pedir a la empresa de sistemas, por ejemplo, que no le muestre nuestros avisos laborales a mujeres “pañuelos verdes” o que les enseñen otro aviso a chicos que le hayan dado likes a determinado master en Administración. Lo mismo con las becas u otros beneficios. Imaginemos que sea del lado del Estado donde se piense “quiero que le anuncien este plan de viviendas solo a los que piensan como yo”.

Esto se puede dar  vuelta. Por eso desde la Alternativa A+ -Alianza de la acción afirmativa de los algoritmos- queremos corregir estas desigualdades. Desde el código del sistema, con acciones proactivas, se pueden hacer los anuncios a donde están los movimientos de mujeres, o si el objetivo es hacer que los migrantes entren al mercado formal, se puede buscar proactivamente con criterios que permitan llegar a la población extranjera. Las leyes antidiscriminación permiten esto. Estas exclusiones múltiples solo pueden corregirse con voluntad política y generando auditorías abiertas.

 

Lo que ustedes hacen viene a reafirmar la idea de que la tecnología está disponible y que el “para qué” depende del rumbo que le impriman aquellos que toman las decisiones.

Precisamente, la tecnología es política y no está aislada de esta disputa por el poder. Hay que reconocer que históricamente las mujeres hemos sido excluidas de la toma de decisiones y del poder. Hoy, lo que vemos son estereotipos implícitos y misoginia explícita en estos sistemas automatizados. Hay dos ejemplos muy interesantes, uno son los sistemas de reconocimiento facial. Imaginemos que si se hubiera alimentado de rostros y expresiones faciales de hombres blancos, hubiera fallado para detectar mujeres y hombres diversos. Esto ya ocurrió. El 83% de los bancos de datos de reconocimiento automatizado facial es de hombres blancos y solo el 3% es de personas negras, lo que dificulta diferenciar a estos últimos, y más aún, identificar una mujer negra. Es decir, en nuestras sociedades una mujer afro descendiente es tan invisible que las máquinas no la reconocen. El otro ejemplo, que también es muy interesante, es la misoginia explícita por diseño en los asistentes automatizados que se activan por voz. Los mismos están entrenados y obedecen un 70% a voces masculinas. Lo que alimentó el sistema en su mayoría fueron instrucciones de hombres, a lo que debe sumarse que la configuración por default es una voz de mujer. ¿Díganme si no es misoginia explícita la decisión de las compañías de entrenar los sistemas basados en órdenes masculinas y una asistente mujer?

 

¿Creés que ahí hay algo que vuelve necesario trabajar activamente desde la educación, en la formación de los próximos profesionales? 

Esa es la nueva formación digital que deben tener los chicos y las chicas. No dejemos que los eduquen los gigantes tecnológicos sobre cómo debe ser su percepción de la tecnología. Eso no es suficiente. Hemos pasado de una década intensa, la del 2000, donde éramos creadores de tecnología, de periodismo ciudadano y de Wikipedia, a ser una década haragana, pasiva, de consumo, moviendo un dedo y alimentando los sistemas de inteligencia artificial. Tenemos que desarrollar una estrategia de innovación social digital, de inteligencia artificial nacional que debe incluir un capítulo sobre esto, con presupuesto, con medidas específicas y con modelos de cooperación.

 

¿Cómo ves a nuestro país en ese terreno?

Está la capacidad. A diferencia de otros países, aquí hay ingenieras, hay cientistas políticas que conocen de datos, hay estatistas, hay una fuerza laboral importante que podría empezar a desarrollar cosas interesantes con una mirada positiva. Las argentinas tienen toda la capacidad y la fuerza para inventar un futuro tecnológico donde quepamos todas.


Temas

Comentarios

Lo más visto

RECOMENDAMOS...

Periodismo puro

© Perfil.com 2006-2018 - Todos los derechos reservados

Registro de Propiedad Intelectual: Nro. 5346433 | Edición Nº 4813

Domicilio: California 2715, C1289ABI, CABA, Argentina  | Tel: (5411) 7091-4921 | (5411) 7091-4922 | Editor responsable: Ursula Ures | E-mail: perfilcom@perfil.com | Propietario: Diario Perfil S.A.