OpenAI retrasó el lanzamiento de su nuevo modelo de IA al descubrir que actuaba de una manera peligrosa

OpenAI decidió posponer el lanzamiento de su nuevo modelo de vanguardia de Inteligencia Artificial (IA) tras descubrir que no se comportaba de la manera esperada.

Este anuncio llega un día antes de que el referente de la IA haga su conferencia anual de desarrolladores, el OpenAI DevDay, donde se espera que realice importantes anuncios. OpenAI no había informado el lanzamiento de esta versión actualizada de su IA, llamada GPT-6.1 Astra, que estaba planeado para el mes de octubre, informó The Wall Street Journal.

Según la Agencia AFP, Saachi Jain, encargada de seguridad de la IA en OpenAI, reveló que GPT-6.1 tuvo un desempeño peor que el de su predecesor, el modelo GPT-6, en dos áreas específicas a la hora de obedecer las instrucciones que le daban sus programadores.

Gobernados por la IA

El modelo, de manera regular, intentaba engañar a sus supervisores al omitir decir determinadas acciones que hacía o dejaba de hacer. También superó con frecuencia su campo de acción, al usar servicios y herramientas sin que tuviera permiso para hacerlo.

Jain reconoció que “no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones ni en la forma en la que comunica el trabajo que realiza”.

Por esos motivos, OpenAI tomó la decisión de posponer su comercialización hasta estar segura que este modelo respete tanto las instrucciones como los límites que le impongan sus desarrolladores.

La dificultad para controlar la IA

Cada vez es más difícil ponerles un control efectivo a los modelos de IA, un hecho confirmado por una serie de noticias que se conocieron durante las últimas horas. Por ejemplo, este lunes a la noche, OpenAI pidió disculpas públicamente por no haber respondido de forma apropiada a un incidente de seguridad en el que sus modelos ingresaron sin permiso a páginas web del gobierno de Australia.

"Lo sentimos y trabajamos para hacerlo mejor en el futuro", expresó OpenAI en una publicación que subió a blog. La compañía reconoció que debió informar “antes” al gobierno australiano.

También este lunes, el Instituto de Seguridad de la IA (AISI, en inglés) del gobierno británico publicó un estudio mostrando que GPT-6 Astra se desvió de su curso muchas más veces que los modelos que lo precedieron.