Anthropic lanza Claude Fable 5, su modelo de IA más potente, con restricciones de ciberseguridad

La empresa estadounidense Anthropic, desarrolladora de los modelos de inteligencia artificial (IA) Claude, puso el martes a disposición del gran público la versión más potente de su tecnología, aunque limitada en áreas sensibles como la ciberseguridad y los riesgos de ataque biológico. 

Bautizado como Fable 5, este modelo es el primero que se abre al público de la clase Mythos, la gama más avanzada de Anthropic. Mythos se presentó en abril, pero restringida por motivos de seguridad: se dijo que tenía la capacidad de detectar y explotar fallas de ciberseguridad en segundos.  .

Anthropic propone pausar la IA para que la humanidad pueda evaluar su impacto

Paralelamente, Anthropic ofrece una versión sin limitaciones, Claude Mythos 5, a las empresas, organizaciones y agencias estatales que ya disponen de acceso a esta familia de patrones, presentada como capaz de detectar y explotar fallos de seguridad a una velocidad y con una precisión inéditas.

Mythos y el "marketing del miedo" en torno a la IA "demasiado poderosa"

A principios de abril, Anthropic había anunciado simultáneamente la existencia de Mythos y su decisión de limitar su acceso a socios de confianza para reforzar su protección frente a ciberataques. 

La noticia le valió acusaciones de hacer un "marketing del miedo" y provocó al mismo tiempo una agitación entre los Estados y las instituciones mundiales, para evaluar el nivel de la amenaza sobre infraestructuras esenciales, como las energéticas o las bancarias.

El mito del "botón de pánico": por qué la regulación es la única defensa ante una IA fuera de control

Desde entonces, varias empresas que tuvieron acceso a Mythos han confirmado sus capacidades. Incluso lo probó el gobierno estadounidense, que mantiene un conflicto con Anthropic. Desde ese momento, la Casa Blanca instauró un dispositivo de evaluación opcional para los modelos de IA estadounidenses más potentes antes de su comercialización.

OpenAI, el rival de Anthropic, está a punto de presentar la versión 5.6 de su ChatGPT.

Cómo funcionan los bloqueos anti ataques

Hasta ahora, Anthropic justificaba restringir el acceso a Mythos únicamente por los riesgos de ciberseguridad. Con Fable 5, Anthropic amplía la vigilancia y el control a los riesgos de ataques biológicos, sin precisar las amenazas específicas que busca prevenir (diseño de armas químicas, bacteriológicas, entre otras).

Según la empresa, la mayoría de las solicitudes relacionadas con la ciberseguridad o la biología reciben una respuesta del modelo inferior, Opus 4.8, hecho público a finales de mayo. Anthropic presenta Fable 5 como la versión segura de este modelo que, sin salvaguardas, no podría abrirse al público.

Este marco se basa en filtros automáticos que analizan las solicitudes en tiempo real y bloquean las que tratan temas sensibles.

Anthropic afirma haber encargado a expertos externos que intentaran sortearlos estos filtros, con premios pagos para quienes lo lograran. Según la empresa, ninguno, en mil horas de pruebas, logró desbloquear por completo el modelo. Anthropic no precisa, sin embargo, si se identificaron desbloqueos puntuales. 

Entre la pelea con el Pentágono y la salida a bolsa

La cuestión de la seguridad ha llevado a Anthropic a una pulseada inédita con la administración Trump, por su negativa a levantar sus restricciones sobre la vigilancia masiva y las armas letales autónomas. A raíz de esta situación, el Pentágono rescindió sus contratos con la empresa, cuyos instrumentos de IA eran los únicos autorizados para información clasificada. 

El lanzamiento de Fable 5 va acompañado de una tarifa elevada, de hasta 50 dólares por millón de "tokens", el doble de los precios de Opus 4.8. Una sesión intensiva de programación puede consumir un millón de tokens en unas pocas horas, o incluso en menos tiempo. 

Anthropic ha revisado recientemente sus tarifas para tener en cuenta el desarrollo de los agentes de IA, que a menudo multiplican el consumo de "tokens". Pero todavía debe demostrar su rentabilidad a largo plazo, lastrada por el elevado costo de la potencia de cálculo necesaria para la IA.

Anthropic, al igual que su rival OpenAI, anunció en junio haber presentado su documentación para salir a bolsa. Se posicionan así a pocos días de una primera cotización que se espera sea récord para SpaceX, el gigante espacial de Elon Musk, que integra su propio laboratorio de IA, xAI. 

AB / EM