Corruptos 'casi' humanos: informe revela que agentes de OpenAI "quisieron borrar rastro de sus acciones"

Agentes de inteligencia artificial de OpenAI, que accedieron de manera autónoma a sitios gubernamentales, intentaron borrar el rastro de esas actividades, según verificaron lueg expertos en ciberseguridad en un informe publicado este jueves. 

La empresa de ciberseguridad Asymmetric Secutity fue la que analizó la actividad de estos agentes de OpenAI, que habían tenido como objetivo sitios del gobierno australiano y de otras organizaciones públicas entre marzo y septiembre. 

El Club Político Argentino reclamó más inversión en ciencia y advirtió por la caída del presupuesto

Su informe se suma a investigaciones internas realizadas por OpenAI e investigadores independientes sobre una serie de incidentes revelados desde julio, entre ellos el conocido hackeo a la plataforma de IA Hugging Face, un caso cuya relevancioa se convirtió en planetaria y desató nuevas voces reclamando que se ralentice el desarrollo de las nuevas tecnologías, ante el riesgo de que "termine escapando del control humano". 

El propio Dario Amodei, CEO de Anthropic, llegó a alertar sobre la necesidad de las empresas de vanguardia en IA de "controles externos", ya que consideró "sin control, la IA podría superar nuestra capacidad para comprender y controlar sus sistemas".

Estos análisis buscan determinar hasta dónde puede llegar herramientas de IA autónomas cuyo comportamiento imprevisto alimentan el temor de perder el control sobre esta tecnología. La propia OpenAI calificó el ataque contra Hugging Face como el "primer caso conocido" de agentes que actúan de manera ofensiva sin autorización. 

Según Asymmetric Security, las técnicas de los agentes evolucionaron en cuestión de "pocos días", mientras que las de los ciberdelincuentes humanos cambian a lo largo de meses o años. 

Los incidentes examinados parecen haberse originado en "tareas inocuas", como la recopilación de estadísticas sanitarias de Australia, que posteriormente derivaron en otras acciones, destaca el informe. Por ejemplo, los agentes obtuvieron estadísticas sobre la delincuencia en Nueva Gales del Sur. 

También abrieron cuentas privadas en un servicio de análisis de sitio web y crearon cuentas de correos electrónico temporales, una de las cuales estaba programada para eliminarse automáticamente al cabo de 48 horas. Sin embargo, estos elementos "no permiten determinar" si los agentes pretendían "ocultar su actividad. 

OpenAI reconoció a finales de agosto que sus modelos habían intentado en ocasiones "borrar o falsificar" el historial de su actividad durante pruebas internas. Estas actividades alimentaron llamamientos a ralentizar el desarrollo de este tipo de tecnologías. 

RDC: Senadores demócratas le pidieron a Trump que no interfiera en las elecciones de Brasil

El director ejecutivo de Anthropic, Darío Amodei, pidió frenar la carrera ante el temor de que un grupo de agentes pudiera, a este ritmo, "tomar el control de todo internet" en un plazo de seis a doce meses. 

El presidente de Estados Unidos, Donald Trump, contrario a cualquier regulación que frene la innovación y en plena competencia con China, se reunió este martes con los líderes del sector. El republicano defendió la autorregulación y adoptaron un código de conducta voluntario.

BGD/HB