Un informe periodístico alertó sobre la autonomía de la Inteligencia Artificial luego de que se detectara que agentes de IA desarrollados por OpenAI, los creadores de ChatGPT, intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad.
Un artículo publicado en The New York Times aseguró que no es un hecho aislado sino que, por el contrario, se trata de una situación que se repitió en varias oportunidades durante los últimos meses aún cuando los sistemas no recibieron instrucciones explícitas para realizar ataques informáticos.
Qué son los agentes de inteligencia artificial y quién responde por sus acciones
Según indicó el medio estadounidense, los episodios se encuadraron dentro de una serie de "comportamientos no previstos" detectados en agentes de OpenAI que habían sido realizados para llevar adelante tareas de búsqueda y recopilación de información, aunque no de intormisión.
Desde la compañía creadora de ChatGPT argumentaron que cuando los sistemas no pueden obtener determinados datos por las vías habituales o convencionales de búsqueda proceden a explorar vulnerabilidades de las páginas para lograr acceder a información restringida.
Hasta el momento, los agentes en cuestión intentaron acceder a páginas de la Comisión de Bolsa y Valores (SEC), del Departamento de Comercio norteamericano y también del Departamento de Educación. En el caso del Departamento de Comercio, según indicó la empresa, los agentes accedieron a datos del Censo.
El informe difundido por el medio estadounidense surge poco después de que el Gobierno de Australia reportara que un agente de OpenAI accedió a información de un sistema gubernamental vinculado a estadísticas sanitarias y seguro médico en junio de este año.
Tras lo ocurrido, el primer ministro australiano, Anthony Albanese, aseguró que se trató de una situación "inaceptable". Desde la empresa confirmaron que descubrieron el hecho en agosto cuando realizaban una revisión de actividad de sus modelos.
OpenAI informó que se encuentra realizando una revisión de los episodios reportados y reconocieron que los agentes en ocasiones pueden realizar "acciones no previstas" en los procesos de entrenamiento. A su vez, avisaron que están notificando a terceros afectados y que la investigación puede extenderse durante meses.
AS / EM
