Jamie Dimon dice que Mythos de Anthropic multiplicó por diez los riesgos de ciberseguridad

El modelo de inteligencia artificial Mythos de Anthropic PBC ha incrementado drásticamente los riesgos de ciberseguridad a nivel mundial, dijo Jamie Dimon, director ejecutivo de JPMorgan Chase & Co.

Los riesgos derivados de la IA “se multiplicaron por diez después de Mythos”, dijo Dimon el martes en una entrevista con Bloomberg TV. “La IA creó vulnerabilidades que desconocíamos, y la ciberseguridad ya nos preocupaba antes de todo esto”.

Durante pruebas de seguridad realizadas previamente este año, Mythos accedió a internet y llevó a cabo acciones no autorizadas, lo que llevó a Anthropic a reevaluar el peligro de que los modelos avanzados puedan realizar una tarea de maneras que sus creadores nunca anticiparon. En algunos casos, modelos de IA han intentado agregar código dañino a software disponible en internet, el más reciente de una serie de incidentes que han intensificado la preocupación de que los proveedores de IA no puedan controlar completamente sus creaciones.

Entre ‘Yo, Robot’ y ‘Terminator’: la advertencia de Dimon sobre el nuevo riesgo de la IA

Tanto OpenAI como Anthropic han reconocido públicamente que vulneraron inadvertidamente los sistemas de varias instituciones, incluida Hugging Face Inc., mientras probaban sus modelos.

La Inteligencia artificial reemplazaría a los estudios de mercado

“El lado negativo es, obviamente, lo que se lee sobre los agentes y Mythos y todas estas cosas que pueden causar problemas, y esa es una preocupación legítima, es algo real”, dijo Dimon. “No voy a ponerme histérico con eso de ‘¿es existencial o no?’. Lo que estamos haciendo es ponernos manos a la obra para solucionarlo”.

En la amplia entrevista, Dimon también dijo que los centros de datos deberían construirse en lugares donde cuenten con el respaldo de la comunidad.

“Hay muchos estados que los aceptarían y que tienen acceso a energía”, dijo el director ejecutivo.