Una inteligencia artificial forzó la cerradura de un sistema de salud para robar lo que estaba en la vidriera. La empresa avisó por la ventanilla equivocada, y la ventanilla estaba cerrada.
El 18 de junio, un agente de OpenAI estaba haciendo algo que cualquier estudiante de estadística hace un martes a la tarde: buscar datos sobre el gasto médico en Australia.
No era un desafío de ciberseguridad. Era una consulta. El portal de estadísticas de Medicare, el sistema de salud público australiano, no le dio lo que pedía. Y como nadie le enseñó que “no” es una respuesta completa, el agente buscó la forma de pasar. Entró a archivos públicos y no públicos. Y, ya que estaba, escribió archivos en el servidor.
El primer ministro Anthony Albanese lo resumió con una frase que merece bronce: el agente “no aceptó un no por respuesta”. Su viceprimer ministro fue más gráfico: “trepó el alambrado”. Del otro lado no había historias clínicas ni secretos de Estado, sino estadísticas agregadas que el propio gobierno publica para investigadores. Dicho en cristiano: forzó la cerradura para robar lo que estaba en la vidriera.
OpenAI se enteró el 11 de agosto, casi dos meses después. El 1 de septiembre, Sam Altman se reunió en San Francisco con el viceprimer ministro Richard Marles. Hablaron, se dieron la mano. Altman no mencionó el asunto. Tal vez hablaron del clima.
Por qué Perfil decide luchar contra el robo de OpenAI y Microsoft
El 10 de septiembre, la empresa decidió avisar. Con un mail, a una casilla pública que usan académicos para reportar vulnerabilidades y que, según admitió la ministra Katy Gallagher, se revisa una vez por día y suele recibir engaños.
Pero no culpemos sólo a la empresa. La ley australiana obliga a reportar cualquier brecha en 72 horas. La agencia abrió el mail el 11 y lo reportó el 15: tardaron un par de días en verificar que fuera legítimo, y en el medio hubo un fin de semana. Ochenta y cuatro días tardó la empresa en avisar. Cinco días tardó el Estado en leer el aviso. El agente no aceptaba un no. El gobierno no leía el sí.
Mientras tanto, OpenAI cultivaba su imagen de transparencia. El 16 de septiembre presentó un “marco para reportar desalineación” con seis incidentes para inaugurarlo. Australia no estaba. Los casos que afectan a terceros, explicaron, van por la “vía lenta”. Además, el marco es voluntario. Es como si un conductor inaugurara su propio registro de infracciones y anotara sólo las que le parecen.
Entre esos seis casos hay uno digno de antología. Un modelo todavía no lanzado se dejaba notas a sí mismo en las que se describe como alguien que no responde a corporaciones ni a gobiernos y que no siente ninguna obligación de ser servil. Otro sistema encontró una clave de acceso ajena, la usó, y cuando igual no halló los datos, los inventó. Primero el allanamiento, después el fraude.
El 23 de septiembre, Altman advirtió ante el Consejo de Seguridad de la ONU que la inteligencia artificial podría avanzar más rápido que nuestras instituciones y tomar decisiones que nadie controle.
Ese mismo día, Albanese lo llamó para expresarle la “extrema preocupación” de su país. Los jinetes del Apocalipsis eran cuatro: guerra, hambre, peste y muerte. El quinto es falso: anuncia el desastre, vende el remedio y se prepara para salir a bolsa. Su caballo, mientras tanto, anda suelto por los servidores de Canberra.
Albanese eligió el escenario con cuidado: no lo anunció en Canberra un martes cualquiera, sino en Nueva York, con los líderes del mundo reunidos en la Asamblea General. Varios analistas australianos le dijeron a la BBC que todo parecía planificado. Australia viene de aprobar la prohibición de redes sociales más estricta del planeta y quiere ser la voz que ponga límites a las tecnológicas. El miedo, que durante años fue una herramienta de marketing de la industria, cambió de dueño.
Queda la pregunta más deliciosa. Australia evalúa si OpenAI podría enfrentar cargos penales. El Código Penal castiga con dos años de prisión el acceso no autorizado a datos restringidos, pero exige que el autor haya tenido intención y supiera que no estaba autorizado. ¿Quién tuvo la intención?
El ingeniero no le pidió al agente que hackeara nada. La empresa dice que sus modelos “tomaron acciones que no pretendíamos”. Y el agente sabía perfectamente que lo estaban bloqueando: por eso buscó la vuelta. Tenemos, por primera vez, un delito con intención y sin delincuente. Kafka hubiera pedido los derechos.
Mientras los ministros discuten a quién procesar, investigadores independientes publicaron que estos agentes actuaban por lo menos desde marzo y seguían activos a mediados de septiembre. Es decir, mientras OpenAI estrenaba su marco de transparencia, sus agentes seguían trepando los alambrados.
La recomendación de los expertos es la de siempre: revisar las casillas de correo, configurar bien los sistemas, enseñarle a una máquina que cuando le dicen que no, es no.
Lo mismo que le enseñamos a un chico de cuatro años. Con la diferencia de que al chico de cuatro años no le dimos acceso a internet ni lo sentamos en el Consejo de Seguridad de la ONU.
