La expansión de la inteligencia artificial (IA) en empresas, organismos públicos e instituciones plantea nuevos desafíos jurídicos. En este contexto, el abogado e investigador Hernán Olmedo, especializado en Derecho Internacional de los Derechos Humanos, Inteligencia Artificial y Responsabilidad Estatal, analizó los riesgos que implica el uso de estas herramientas y la necesidad de establecer un marco normativo.
“Primero tenemos que partir sobre que la inteligencia artificial, uno podría pensar que vamos a partir al objetivo, ya que estamos hablando del procesamiento, uno lo imaginaría así, con un tema de computación, pero las inteligencias artificiales son alimentadas con datos, bases de datos, y esas bases de datos tienen sesgos”, explicó Olmedo.
Cuáles son las complicaciones que presenta la inteligencia artificial
Uno de los ejemplos que mencionó es el uso de algoritmos para seleccionar personal. Si una herramienta fue entrenada con información histórica en la que predominan las contrataciones de hombres, puede reproducir esa desigualdad y excluir perfiles de mujeres. “La inteligencia artificial está alimentada con esta base de datos y pueda tener un sesgo discriminatorio, excluir perfiles de mujeres”, advirtió.
Olmedo aclaró que no considera que la tecnología sea negativa en sí misma, sino que el problema está en la ausencia de reglas que establezcan responsabilidades ante sus consecuencias: “La inteligencia artificial acá no es mala. Lo malo es que no está reglamentado justamente legalmente esto”.
Según explicó, la falta de un marco normativo específico puede generar decisiones judiciales contradictorias y dejar a las personas afectadas sin criterios claros para defender sus derechos. “Hoy en día tenemos reglas en Argentina ante la vulneración de derechos, pero ¿qué pasa? Justamente como te digo, al no tener un marco legal donde se puede decir, esto es blanco, esto es negro, esto tiene que ser así porque la ley dice esto, vamos a tener discrepancias”, planteó.
Las complicaciones del algoritmo
Como respuesta a este problema, el abogado presentó el concepto de principio de comprensibilidad algorítmica pública: “Ante la opacidad del algoritmo, donde todos ven una caja negra, se toma una decisión, pasa por esa caja negra y sale. Y vos decís, bueno, perfecto, pero ¿qué pasó en el medio? ¿Cómo puedo defenderme de una decisión que yo no estoy comprendiendo?”.
Su propuesta apunta a que las decisiones públicas que involucren inteligencia artificial sean transparentes y permitan identificar quién es responsable de sus consecuencias. “Las decisiones públicas tengan que estar blanqueadas, tengan, cuando interviene una inteligencia artificial, tiene que poderse atribuir una responsabilidad, tiene que haber una diligencia en el comportamiento anterior al funcionario público que lo tomó”, detalló.