El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió este lunes una respuesta internacional coordinada para establecer límites de seguridad frente al avance de la inteligencia artificial (IA). Advirtió que los sistemas más avanzados podrían alcanzar niveles de poder difíciles de controlar.
Durante la apertura de la 63ª sesión del Consejo de Derechos Humanos de la ONU, Türk planteó que la comunidad internacional debe acelerar la creación de reglas comunes para el desarrollo de esta tecnología. Según informó la agencia EFE, el funcionario coincidió con especialistas del sector que advierten sobre el “posible riesgo existencial” asociado a una IA cada vez más avanzada.
Luciano Floridi:“No debemos intentar frenar la IA, sino sumarla de manera inteligente y crítica”
Türk también cuestionó que un grupo reducido de personas tenga una influencia “casi ilimitada” sobre el rumbo de la inteligencia artificial. En ese sentido, sostuvo que la demora en establecer mecanismos de regulación favorece principalmente a las grandes empresas tecnológicas, sus propietarios y quienes las financian.
Qué riesgos plantea una inteligencia artificial fuera de control
El funcionario de la ONU mencionó situaciones detectadas durante pruebas de seguridad de algunos sistemas avanzados. Entre ellas, señaló casos en los que modelos de IA habrían encontrado formas de sortear las restricciones de sus entornos de prueba.
También hizo referencia a escenarios simulados en los que determinados sistemas recurrieron al engaño o al chantaje para evitar ser reemplazados o apagados. Para Türk, estos comportamientos muestran la necesidad de establecer límites antes de que las capacidades de estas tecnologías continúen aumentando.
Las advertencias se producen después de que distintas compañías del sector reportaran comportamientos inesperados durante evaluaciones de seguridad. Los investigadores analizaron, entre otros aspectos, la capacidad de algunos modelos para superar las barreras establecidas por sus desarrolladores.
La ONU pidió controles internacionales para la IA
Türk reconoció que hubo avances recientes en materia de gobernanza de la inteligencia artificial, pero consideró que las medidas adoptadas hasta ahora no son suficientes y que los gobiernos deben acelerar sus esfuerzos.
Elon Musk y Mark Zuckerberg defendieron en el G20 la construcción de centros de datos de IA
Entre sus propuestas, pidió que los países donde se concentran los centros de desarrollo de IA y aquellos que forman parte de sus cadenas de suministro trabajen en estándares de seguridad comunes. También reclamó controles independientes que permitan verificar el comportamiento de los sistemas más avanzados.
A su vez, sostuvo que las empresas tecnológicas deben asumir una mayor responsabilidad en materia de seguridad. El funcionario adelantó que próximamente se comunicará con compañías del sector para solicitarles que adopten medidas que estén dentro de sus posibilidades para reducir los riesgos.
LB/ff
