Tomo mi smartphone y hago una simple búsqueda web que incluye una única palabra: “Ingeniera”. Automáticamente, la pantalla del dispositivo arroja resultados llenos de interrogantes o sugerencias: “Quizá quisiste decir Ingeniero”; “¿Qué es lo correcto: ingeniero o ingeniera?”, o “¿Cómo llamar a una ingeniera?”. Interesante, mas no sorprendente.
Así como cualquier otro sistema de información retroalimentado, la inteligencia artificial que utilizan los motores de búsqueda web -al cual al menos el 90,4% de los habitantes del territorio argentino tiene acceso a través de Internet- se enriquece mediante el procesamiento del lenguaje natural.
Es decir, analiza un valor de entrada o input (palabras clave que utilizamos para nuestra búsqueda), para ofrecer un determinado valor de salida u output (resultados para nuestra búsqueda), a la vez que incorpora dentro de su historial de búsquedas realizadas tanto el valor de entrada como el de salida.
En otras palabras, aprende. Lo hace directamente desde lo que nosotros, las personas, le enseñamos o ingresamos como palabras clave, siguiendo el ejemplo inicial.
El mencionado concepto de “procesamiento del lenguaje natural” podría, entonces, hacernos perder por completo la ilusión de que existe tal cosa como un sistema inteligente per se, dentro del enorme espectro de las ciencias de la computación. Nada más lejos que eso.
Volvamos al ejemplo inicial. Lo que sucede, en realidad, es que la palabra ingresada en el motor de búsqueda es nuestro valor de entrada. Este valor es procesado y posteriormente analizado para arrojar un resultado o valor de salida.
Sin embargo, este esquema, que puede resultarnos un tanto sencillo, no es ni más ni menos que una reducción extrema de lo que, dentro del campo de estudio de la inteligencia artificial, es conocido como unidad neuronal.
Si tuviésemos un conjunto de unidades neuronales conectadas entre sí, podríamos decir que estamos ante una red neuronal, capaz de incorporar en simultáneo uno o varios valores de entrada, procesarlos, analizarlos y ofrecer uno o varios valores de salida, a la vez que aprende. Decimos que es capaz de incorporar porque nos encontramos ante un sistema capaz de aprender.
¿Ingeniera? o ¿Ingeniero?
Ahora bien: ¿Qué sucede si, cada vez que nuestra unidad neuronal se encuentra frente a la ardua tarea de incorporar a su red, le enseñamos que la palabra “ingeniera” es una forma poco común de nombrar a una mujer que ha obtenido un título de grado en ingeniería?
Muy probablemente, esa neurona considere que estamos ante una desviación o equivocación y, dado que el sistema se considera a sí mismo inteligente, nos ofrece, como resultados a nuestras búsquedas, lo que ya ha aprendido como correcto: la palabra procesada en masculino.
De hecho, resulta curioso que, a la vez que escribo este artículo, el mismo procesador de texto que estoy utilizando considera que me equivoqué escribiendo la palabra “ingeniera”, y la resalta, sugiriendo el reemplazo correspondiente.
Así es como nos encontramos con los sesgos de género que hemos transmitido a nuestras propias invenciones. Los mismos sesgos que ayer, hoy y cada día los sistemas computacionales incorporan como aciertos, tanto a sus propios resultados como al aprendizaje de las personas que realizan cada búsqueda.
Mediante cada una de nuestras decisiones de búsqueda, de nuestro uso del lenguaje dentro de las herramientas digitales, en cada relación que elegimos crear con la tecnología, estamos sesgando a los sistemas inteligentes.
Estos sesgos, a priori, pueden ser considerados poco influyentes. Sin embargo, es posible que tengan una enorme incidencia a la hora de tomar decisiones fundamentales en el desarrollo profesional de una persona como, por ejemplo, sesgar la elección de una carrera de grado por sobre otra y, con ello, reducir la cantidad de personas matriculadas en una u otra disciplina académica.
Si bien dentro del mercado laboral actual es habitual considerar que la diversidad en grupos interdisciplinarios genera mayor calidad en los procesos para la toma de decisiones y fomenta la innovación, existen amplias brechas de género que, sin duda, los sesgos en la inteligencia artificial se ocupan de potenciar. En la Argentina, seis de cada diez estudiantes en las universidades son mujeres. Pero, de ellas, sólo el 25% estudia ingeniería y ciencias aplicadas.
La inteligencia artificial de Google, ¿demasiado humana?
Muchas personas se encuentran en la disyuntiva de tomar una decisión de carrera. En esa circunstancia, la calidad de la información que encuentren disponible es clave para el desarrollo de más y mejores mujeres en tecnología. En consecuencia, debemos detectar los sesgos en los sistemas de información, pero también los propios. Y trabajar para que, cada día, la igualdad de oportunidades esté un escalón más cerca de todas las personas.
Macarena Gorgal es profesora de la Facultad de Ingeniería y Tecnología Informática de la Universidad de Belgrano.
