Las severas advertencias de los investigadores en inteligencia artificial, según las cuales las formas avanzadas de esta tecnología podrían acabar con la humanidad, han suscitado dudas sobre si los gobiernos están actuando con la suficiente rapidez para regularla.
¿Cuáles son los peligros potenciales de los sistemas informáticos "superinteligentes" y deberíamos preocuparnos?
Inteligencia artificial: los peligros de su avance sin regulación
Los expertos en IA llevan mucho tiempo calificando esta amenaza de crítica.
En 2023, cientos de científicos especializados en IA y figuras del sector, entre ellos los directores de los principales laboratorios estadounidenses, firmaron una “declaración sobre el riesgo de extinción por IA” en la que pedían que se tratara el tema con la misma seriedad que las pandemias o la guerra nuclear.
Si una IA futura fuera de control considerara que los humanos están obstaculizando sus objetivos, podría utilizar robots para "sintetizar y propagar nuevos patógenos", afirmó Stuart Russell, profesor de informática en la Universidad de California, Berkeley.
O podría “convencer a la gente de que inicie una guerra nuclear, incluso pirateando los sistemas de alerta temprana”, declaró a la AFP Russell, una voz destacada en materia de seguridad de la IA.
Estos temores existenciales no afectan a los sistemas de IA actuales, subrayó. Pero a medida que la tecnología mejore, podría emprender acciones letales que escapen a nuestra comprensión, como, por ejemplo, eliminar el oxígeno de la atmósfera.
“Somos menos inteligentes que una IA superinteligente. Si le preguntaras a los chimpancés cómo los humanos podrían acabar con ellos, probablemente no serían capaces de darte todas las respuestas correctas”.
Mientras tanto, “en el próximo año o dos, creo que el riesgo es mayor debido al mal uso por parte de los humanos”, añadió Russell, como por ejemplo un atentado terrorista perpetrado con ayuda de la IA.
Los peligros de la IA: ¿Por qué no se detienen las empresas?
“Se entiende perfectamente lo que está en juego”, escribió esta semana en X Jacob Coxon, un investigador de 27 años, al anunciar su dimisión de la startup estadounidense de IA Anthropic.
“Pero están enzarzados en una carrera por llegar los primeros”, añadió, afirmando que en Anthropic “creen que nadie más actuará de forma responsable, por lo que deben hacerlo ellos mismos”.
Este año, Anthropic eliminó de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no lograba controlar sus riesgos.
Argumentó que, si suspendía unilateralmente su trabajo, sus rivales menos cautelosos dominarían el sector, lo que lo haría menos seguro en general.
“Las personas que desarrollan la IA creen sinceramente que podría acabar con todos nosotros antes de que termine la década”, afirmó Coxon, que anteriormente trabajó en OpenAI, la empresa creadora de ChatGPT.
Acusó a ambas empresas de "jugar con nuestras vidas" en su afán por desarrollar modelos de IA capaces de mejorarse a sí mismos.
Elon Musk y Mark Zuckerberg defendieron en el G20 la construcción de centros de datos de IA
El temor a una IA descontrolada se ha intensificado después de que tecnología de OpenAI, que funcionaba sin supervisión humana, pirateara Hugging Face, un repositorio de modelos de IA.
“¡De verdad creemos sinceramente que la IA podría acabar con toda la humanidad!”, intervino en X Evan Hubinger, responsable de seguridad de Anthropic, quien estimó que el riesgo supera el 10 % durante la próxima década.
Las advertencias por el avance de la inteligencia artificial
Es importante recordar que las predicciones apocalípticas basadas en porcentajes son "absolutamente anticientíficas", afirmó Hussein Abbass, profesor de informática en la UNSW de Canberra.
“La situación sigue siendo controlable y se puede gestionar”, declaró Abbass a la AFP.
Sin embargo, añadió que los gobiernos no deben quedarse de brazos cruzados a la hora de regular la IA, e instó a adoptar un enfoque "ágil" a medida que se acelera el desarrollo de la IA.
Se espera que tanto Anthropic como OpenAI salgan a bolsa próximamente, y algunos escépticos afirman que las advertencias alarmistas hacen que la IA parezca poderosa y merecedora de grandes inversiones.
Otros sostienen que centrarse en el riesgo de extinción desvía la atención de problemas más acuciantes causados por la IA, desde la pérdida de puestos de trabajo hasta la discriminación de las minorías por parte de las máquinas.
En julio, más de 1000 empleados del sector tecnológico, incluido el director ejecutivo de Anthropic, instaron a Washington a apoyar una ralentización coordinada del desarrollo de los sistemas de IA más avanzados.
OpenAI detuvo el entrenamiento de sus últimos modelos durante dos semanas en agosto, antes de reanudarlo bajo controles más estrictos.
Estados Unidos se resiste a regular la IA
Hasta ahora, Estados Unidos se ha opuesto firmemente a una regulación global del sector que pudiera frenar la innovación.
Pero las capacidades de piratería informática sin precedentes de los modelos más avanzados han hecho que Washington se lo piense dos veces, y los recientes lanzamientos de Anthropic y OpenAI se han retrasado por motivos de seguridad nacional.
Aun así, “no queremos restringirlos hasta el punto de que, de repente, quedemos en segundo lugar tras China”, ha declarado el presidente Donald Trump.
Miedo a la extinción: más miedo a perder la carrera
“Quizá haga falta una catástrofe de proporciones enormes, a la escala de Chernóbil, para que los gobiernos actúen”, afirmó Russell, instándoles a establecer un régimen de licencias para la IA, como el que existe en la aviación, la medicina o el suministro de agua.
“Quizá, en algún momento, los gobiernos recuerden que sus votantes prefieren no morir”, añadió.
AFP/JSM
