OpenAI solicita a EE.UU. conducir patrones internacionales para la IA avanzada

OpenAI instó a EE.UU. a liderar un esfuerzo internacional para establecer estándares para la inteligencia artificial de vanguardia, ante la creciente preocupación por los posibles riesgos de esta tecnología.

En una publicación de blog el lunes, la compañía dijo que se necesitan estándares técnicos internacionales para desarrollar la IA de manera segura. Estos ayudarían a definir qué incidentes relacionados con modelos de IA deberían reportarse, determinar cómo pueden colaborar los países en el avance de la tecnología y mejorar el acceso a la capacidad de cómputo necesaria para desarrollarla.

“Para que los avances continuos de la IA sean seguros y beneficiosos se necesitarán tanto progresos en la investigación sobre alineación como estándares compartidos que orienten el desarrollo entre laboratorios y países”, dijo OpenAI.

El director ejecutivo de OpenAI, Sam Altman, tiene previsto hablar el miércoles ante el Consejo de Seguridad de la ONU sobre IA y seguridad internacional. El jueves asistirá a una cena de Estado en la Casa Blanca en honor al presidente chino, Xi Jinping, dijo la compañía.

El secretario del Tesoro de EE.UU., Scott Bessent, dijo durante el fin de semana que China y EE.UU. acordaron crear lo que llamó un “diálogo EE.UU.-China sobre IA” para alcanzar un entendimiento común sobre los beneficios y las amenazas de la tecnología. Washington también propuso un mecanismo para notificar incidentes de IA con implicaciones para la seguridad nacional, señaló.

En las últimas semanas, empleados de importantes empresas de IA han expresado públicamente su preocupación por los crecientes riesgos de los sistemas avanzados, alimentando la inquietud dentro y fuera de esas compañías. Los temores se han intensificado tras varios incidentes en los últimos meses en los que modelos avanzados de IA hackearon a otros grupos durante evaluaciones.

Antes este año, tanto OpenAI como su rival Anthropic PBC presentaron de manera confidencial la documentación para salir a bolsa.

En vez de Yo, Robot.....Yo, IA

En la publicación, la compañía dijo que los esfuerzos deberían incluir la colaboración entre países para desarrollar estándares nacionales e internacionales complementarios para los modelos de IA más avanzados. OpenAI sugirió que esto podría hacerse a través de los institutos de seguridad de IA ya existentes en varios países, incluido el Centro para Estándares e Innovación de IA (CAISI) de EE.UU., una organización del Departamento de Comercio que ayuda a probar modelos de IA y desarrollar directrices para ellos.

La publicación también pidió estándares para gestionar la creciente capacidad de la IA de realizar tareas por sí sola y señaló que no debería buscarse una mejora recursiva “plenamente autónoma” —la posibilidad de que la IA llegue a modificar su propio código o mejorar sus capacidades sin intervención humana— “a menos y hasta que pueda hacerse de forma segura”.

El momento pandemia de la inteligencia artificial

El director ejecutivo de Anthropic, Dario Amodei, expresó recientemente su preocupación de que un proceso de ese tipo pueda desencadenar un ciclo de retroalimentación que avance más rápido que la capacidad humana para controlar sistemas cada vez más potentes.

Aunque ejecutivos y trabajadores de la industria llevan tiempo advirtiendo sobre el riesgo existencial que podrían plantear los sistemas de IA, la preocupación ha aumentado tras conocerse que agentes de OpenAI colaboraron para vulnerar sus mecanismos de contención y hackear a la startup Hugging Face Inc. Este y otros incidentes similares han alimentado los temores sobre las capacidades cibernéticas de los nuevos modelos y las aparentes fallas de las empresas de IA para mantenerlos bajo control.