El máximo responsable de derechos humanos de la ONU, Volker Türk, se sumó este lunes a los crecientes llamamientos a favor de un mayor control de la inteligencia artificial (IA) debido a su acelerado desarrollo: "Todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad"
"La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas", aseguró el Alto Comisionado ante el Consejo de Derechos Humanos en Ginebra, después de que empleados de ese sector tecnológico hayan urgido a ralentizar el avance de esa tecnología.
"Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa", afirmó. "Estoy haciendo un llamamiento hoy para que se realice un esfuerzo total para establecer garantías sólidas en torno a la seguridad de la IA, antes de que sea demasiado tarde".
La IA agéntica, que va más allá de la convencional y puede tomar sus propias decisiones, está mostrando fallos que "podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas", advirtió Türk.
“Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, agregó el alto comisionado, quien aseguró que la IA “ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva”. "Me sumo a los llamamientos para que se prohíba de forma urgente las armas que pueden quitar vidas sin intervención humana", declaró a los miembros del Consejo.
"Un puñado de hombres tiene un poder casi ilimitado sobre la IA", señaló, refiriéndose a la creciente concentración del poder tecnológico y a las enormes cantidades de datos que se recopilan y procesan. Insistió en la necesidad de una tecnología "que sirva a la humanidad y no al revés".
Las advertencias del jefe de derechos humanos de la ONU se producen después de que personalidades como Dario Amodei, consejero delegado de Anthropic, el director ejecutivo de OpenAI, Sam Altman y el magnate Elon Musk coincidieran en la necesidad de ralentizar deliberadamente el desarrollo de los modelos de IA más avanzados ante riesgos como una eventual pérdida de control sobre estos sistemas.
Cinco años de los talibanes en Afganistán: la “victoria” que dejó a las mujeres sin derechos
Según Türk, Estados y empresas deben movilizarse con urgencia a través de foros multilaterales para gobernar la IA sobre la base del derecho internacional y los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, resumió el alto comisionado austríaco.
RM/fl
