Negociación entre Anthropic y el Pentágono se traba por armas y vigilancia de AI

Anthropic PBC negocia la extensión de un contrato con el Pentágono, pero las conversaciones se han estancado por las protecciones adicionales que la empresa de inteligencia artificial quiere imponer a su herramienta Claude, según una persona con conocimiento del asunto.

Anthropic busca establecer salvaguardas para impedir que Claude sea utilizado para la vigilancia masiva de estadounidenses o para desarrollar armas que puedan desplegarse sin intervención humana, dijo la fuente, que pidió no ser identificada porque las negociaciones son privadas. El Pentágono quiere poder utilizar Claude siempre que su implementación no infrinja la ley. Axios informó anteriormente sobre el desacuerdo.

Advierten sobre posible colapso en acciones de software por la amenaza de la IA

Los casos de uso de la IA para el desarrollo de armas y la recopilación de datos personales representan un riesgo creciente para los modelos más avanzados. Anthropic, que se presenta como una empresa de IA más responsable y que busca evitar daños catastróficos derivados de la tecnología, desarrolló Claude Gov específicamente para el aparato de seguridad nacional de Estados Unidos y aspira a atender a clientes gubernamentales dentro de sus propios límites éticos.

Claude Gov cuenta con capacidades mejoradas para manejar e interpretar materiales clasificados e inteligencia, así como para comprender datos de ciberseguridad.

“Anthropic está comprometida con el uso de la IA de frontera en apoyo de la seguridad nacional de Estados Unidos”, dijo un portavoz, quien añadió que la empresa mantiene “conversaciones productivas, de buena fe” con el Departamento de Defensa “sobre cómo continuar ese trabajo y abordar correctamente estos asuntos complejos”.

“La relación del Departamento de Guerra con Anthropic está siendo revisada”, dijo el portavoz del Pentágono, Sean Parnell, en una declaración enviada por correo electrónico. “Nuestra nación requiere que nuestros socios estén dispuestos a ayudar a nuestros combatientes a ganar en cualquier enfrentamiento. En última instancia, se trata de nuestras tropas y de la seguridad del pueblo estadounidense”.

Muchos funcionarios de defensa consideran a Anthropic un riesgo para la cadena de suministro y el Departamento de Defensa podría exigir a los proveedores que certifiquen que no utilizan los modelos de la empresa, según un alto funcionario de defensa.

La disputa entre Anthropic y el Pentágono sobre los límites en el uso de la IA podría beneficiar a otras compañías.

El funcionario dijo que los desarrolladores de otros modelos, incluidos ChatGPT de OpenAI, Gemini de Alphabet Inc. y Grok de xAI, han estado trabajando con el Pentágono para garantizar que sus plataformas puedan utilizarse de manera legal.

Anthropic obtuvo el año pasado un acuerdo de dos años con el Pentágono que incluía un prototipo de los modelos Claude Gov y Claude for Enterprise. Las negociaciones de Anthropic podrían marcar el tono de las conversaciones con OpenAI, Google y xAI, que aún no se utilizan para trabajos clasificados, informó Axios, citando a personas familiarizadas con las discusiones a las que no identificó.

Anthropic destruyó millones de libros para alimentar a su inteligencia artificial

Un portavoz de OpenAI declinó hacer comentarios y remitió a una publicación en blog en la que la empresa detalla su herramienta personalizada GenAI.mil para el Pentágono y otros países democráticos. Un representante de Google no respondió a una solicitud de comentarios. Una portavoz de X no tuvo comentarios inmediatos.

GZ