“Los empleados estamos aterrados”: un exinvestigador de Anthropic alertó sobre el avance de la IA
Jacob Coxon aseguró que los trabajadores de las principales compañías de inteligencia artificial sienten un “miedo genuino” ante la velocidad de los avances. Sus pronósticos sobre una posible amenaza para la humanidad reavivaron los pedidos de regulación, pero también las críticas contra Anthropic por sus intereses comerciales.
El vertiginoso desarrollo de la inteligencia artificial (IA) volvió a quedar en el centro del debate luego de que Jacob Coxon, exinvestigador de Anthropic y antiguo trabajador de OpenAI, advirtiera que muchos empleados del sector están “aterrados” por las posibles consecuencias de la tecnología que ellos mismos ayudan a construir.
RDC: las advertencias sobre la inteligencia artificial fuera de control sacuden a Wall Street
“Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”, afirmó Coxon durante una entrevista con la BBC. Sus declaraciones se produjeron después de que publicara en redes sociales un texto sobre los peligros de la IA que rápidamente se volvió viral.
Según su relato, dentro de las empresas tecnológicas existe una preocupación cotidiana por la posibilidad de que los modelos más avanzados escapen al control de sus creadores o sean utilizados para provocar daños a gran escala. Algunos trabajadores, sostuvo, comenzaron incluso a reorganizar sus vidas ante el temor de una etapa de profunda inestabilidad.
El temor de quienes desarrollan inteligencia artificial
Coxon señaló que sus antiguos compañeros analizaban qué hacer con sus vidas y reflexionaban sobre las consecuencias de su trabajo. Algunos, aseguró, llegaron a considerar la compra de terrenos alejados de los grandes centros urbanos como una forma de prepararse para escenarios críticos.
“Todos tienen esto presente a diario mientras trabajan en la tecnología”, explicó el exinvestigador. De acuerdo con su testimonio, existe entre algunos especialistas la percepción de que los peligros más graves podrían comenzar a manifestarse durante los próximos dos años.
La NASA e IBM lanzaron un modelo fundacional de inteligencia artificial para la ciencia lunar
Uno de los escenarios mencionados es la aparición de un enjambre de agentes o bots de IA que actúe de manera coordinada como una enorme supercomputadora y consiga tomar el control de sectores estratégicos de Internet. Coxon estimó que una capacidad semejante podría desarrollarse en un plazo de entre seis meses y un año.
Sus advertencias no se limitan al eventual comportamiento autónomo de los sistemas. También incluyen el impacto económico, político y social de una carrera empresarial e internacional en la que cada compañía intenta presentar modelos más potentes antes que sus competidores.
Anthropic propone desacelerar el desarrollo de la IA
Las declaraciones del exempleado coincidieron con un pedido del director ejecutivo de Anthropic, Dario Amodei, para moderar temporalmente la velocidad con la que se desarrollan y lanzan los modelos más avanzados.
Amodei sostuvo que el progreso tecnológico no debe detenerse por completo, pero consideró que sus riesgos son “graves” y que las empresas y los gobiernos necesitan tiempo para establecer mecanismos de control. Su propuesta contempla una regulación aplicable a todo el sector y una supervisión independiente de los modelos.
Los líderes de compañías rivales, como Sam Altman, de OpenAI, y Elon Musk, de xAI, manifestaron su acuerdo con la necesidad de ralentizar determinados avances y crear estándares regulatorios comunes.
Coxon respaldó esa posición, aunque advirtió que cualquier acuerdo limitado a Estados Unidos o Europa podría resultar insuficiente. Para evitar una carrera global, planteó que las medidas deberían coordinarse también con China, una de las principales potencias en el desarrollo de inteligencia artificial.
“Las personas que trabajan en estas empresas hablan muy en serio cuando piden regulación, ya que se sienten atrapadas en una carrera. Y temen las consecuencias de esa misma carrera”, afirmó.
La respuesta de Anthropic a las advertencias
Ante la salida de Coxon y la repercusión de sus declaraciones, un portavoz de Anthropic señaló que la empresa siempre reconoció que la inteligencia artificial puede generar tanto “enormes beneficios” como riesgos sin precedentes.
La compañía aseguró que sus modelos incorporan algunas de las medidas de seguridad más robustas de la industria. También destacó sus investigaciones destinadas a comprender el funcionamiento interno de estos sistemas, las pruebas efectuadas antes de cada lanzamiento y la publicación de resultados para facilitar el escrutinio externo.
Anthropic recordó además que fue una de las primeras empresas en presentar un marco destinado a reducir los peligros asociados con el desarrollo de modelos cada vez más capaces. La firma considera que las compañías del sector deberían adoptar un mecanismo “legal y verificable” para coordinar el ritmo de lanzamiento de las herramientas más potentes.
A pesar de sus pronósticos alarmantes, Coxon reconoció que la tecnología también podría producir beneficios extraordinarios. Entre sus aplicaciones positivas mencionó la posibilidad de curar enfermedades, acelerar descubrimientos científicos y mejorar las condiciones de vida de millones de personas.
Especialistas estiman un riesgo de extinción superior al 10%
Las expresiones de Coxon fueron acompañadas por otras voces vinculadas a la seguridad tecnológica. Evan Hubinger, científico de Anthropic, afirmó que considera sinceramente posible que la IA provoque la desaparición de la humanidad.
Hubinger calculó que existe una probabilidad superior al 10% de que un escenario de ese tipo ocurra durante la próxima década. El informático y premio Nobel Geoffrey Hinton, frecuentemente presentado como uno de los “padrinos de la IA”, consideró que asignarle esa probabilidad al riesgo de extinción humana “no era descabellado”.
Marc Warner, director ejecutivo de Faculty, una empresa especializada en seguridad de la IA, aclaró que resulta extremadamente difícil atribuir porcentajes precisos a este tipo de amenazas. Sin embargo, remarcó que las advertencias son sinceras y que los responsables de varias compañías llevan años expresando temores similares.
El debate también alcanzó al ex primer ministro británico Rishi Sunak, actual asesor remunerado de Anthropic. Aunque mantiene una visión generalmente optimista sobre la tecnología, reconoció estar preocupado por los riesgos que podría representar para la humanidad.
Las críticas contra los pronósticos apocalípticos
No todos los referentes del sector aceptan estos escenarios. Algunos cuestionan la experiencia de Coxon para formular predicciones de semejante magnitud, mientras que otros sospechan que las advertencias podrían formar parte de una estrategia empresarial.
El director ejecutivo de Hugging Face, Clement Delangue, comparó la consulta a Coxon sobre el riesgo de extinción con preguntarle a un técnico de aire acondicionado acerca del cambio climático. Aunque aclaró que el problema merece atención, pidió mantener las afirmaciones “en perspectiva”. Más tarde, sin embargo, se ofreció a colaborar con las soluciones propuestas por Amodei.
Por su parte, George Arison, director ejecutivo de Grindr, sugirió que el discurso alarmista también puede ayudar a justificar las elevadas valoraciones de las empresas de IA. Según su interpretación, presentar a la tecnología como una fuerza capaz de dominar industrias y reemplazar empleos permite sostener expectativas comerciales extraordinarias.
El responsable de Nvidia, Jensen Huang, también habría rechazado las declaraciones de Coxon durante una conferencia organizada por Goldman Sachs. Según personas presentes citadas por la BBC, el ejecutivo desestimó sus afirmaciones por considerarlas falsas.
¿Seguridad tecnológica o estrategia para limitar la competencia?
Otra crítica apunta directamente a los intereses comerciales de Anthropic. Algunos detractores sostienen que las compañías más grandes podrían utilizar la regulación para elevar lasrreras de entrada, dificultar el crecimiento de nuevos competidores y consolidar un eventual duopolio entre Anthropic y OpenAI.
La discusión adquiere especial relevancia por el valor financiero de ambas compañías. Anthropic se estaría preparando para una oferta pública inicial (OPI) que podría alcanzar dimensiones récord, mientras que la valoración más reciente de OpenAI llegó a los US$852.000 millones.
Altman anunció que OpenAI no saldrá a bolsa este año y mencionó entre sus argumentos las preocupaciones relacionadas con la seguridad de la IA. El cruce entre advertencias técnicas, intereses empresariales y estrategias de inversión profundizó las sospechas de quienes creen que el discurso sobre el riesgo existencial también puede cumplir una función económica.
Al mismo tiempo, la competencia geopolítica dificulta cualquier intento de desaceleración. El presidente estadounidense Donald Trump afirmó que Estados Unidos mantiene una ventaja sobre China y expresó su intención de conservarla: “Quien gana en IA, gana en todo”.
LV/ff