¿Qué pasará en el mundo si apagamos la Inteligencia Artificial? Esto dicen los expertos

¿Podemos apagar la IA? El debate sobre los posibles peligros que plantea la inteligencia artificial resurgió con fuerza en las últimas semanas, con investigadores advirtiendo una vez más que la tecnología podría acabar con la humanidad, y líderes de empresas de IA sugiriendo que el desarrollo debía ralentizarse. 

Uno de los cofundadores de la empresa de IA Anthropic dijo esta semana a la BBC que cree que los interruptores de apagado podrían ser obligatorios para la IA. Pero si un sistema de IA se vuelve rebelde, ¿es siquiera posible desactivarlo?

¿Hay un 'botón de apagado' de la Inteligencia Artificial?

"Desde la perspectiva de la ciberseguridad de la IA, el término 'interruptor de apagado' se refiere a la capacidad de interrumpir la ejecución de la acción de un agente de IA", dijo Nicolas Papernot, profesor de la Universidad de Toronto y especialista en seguridad informática e inteligencia artificial, a la agencia AFP. 

La persona u organización que desplegó el agente de IA —un término industrial para un bot que tiene el potencial de operar de forma autónoma— puede detenerlo negándole el acceso a la potencia de cálculo que necesita para funcionar, dijo Papernot.

Mark Zuckerberg rechazó los llamados a ralentizar el desarrollo de la Inteligencia Artificial

La situación se complica si se permite que el programa actúe más allá de su entorno inicial. 

Papernot imaginó un escenario en el que la IA pudiera usarse para propagar un gusano informático, un tipo de malware autorreplicante. "En ese caso, tendríamos que interrumpir simultáneamente la acción de todas las copias que el gusano ha hecho de sí mismo — dispositivo por dispositivo por dispositivo", dijo.

¿De verdad podemos desactivar una IA?

Thierry Poibeau, experto en IA del Centro Nacional de Investigación Científica de Francia (CNRS), afirmó que la imagen de un solo botón que nos permitiría "desactivar la IA" es engañosa. "No puedes simplemente cortar la IA así", dijo. 

"Hay una enorme cantidad de empresas en todo el mundo, y todo tipo de software y servicios diferentes. No hay una sola persona que controle la IA en su conjunto."

Pero es posible apagar un sistema específico cuando controlas las máquinas y servicios de los que depende.

“Los empleados estamos aterrados”: un exinvestigador de Anthropic alertó sobre el avance de la IA

Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur (UNSW) en Canberra, escribió en LinkedIn que los sistemas de IA podrían dividirse en tres niveles de complejidad.

En la primera, un sistema de IA centralizado completamente bajo el control de su operador, un mecanismo de apagado de emergencia sería "teórica y prácticamente posible". Pero en sus otros dos escenarios "descentralizados", donde a los programas de IA se les han concedido permisos para actuar sobre otro software, archivos, máquinas o incluso sistemas, sería mucho más difícil detenerlo todo.

¿Cuáles son los riesgos de un interruptor de apagado?

Cuanto más se integra la IA en las actividades cotidianas, mayor es el riesgo de que su apagón también paralize los usos legítimos.

Papernot dijo: "A medida que la IA está cada vez más integrada en todas nuestras instituciones y empresas, y a medida que automatizamos más y más aspectos de la vida diaria usando IA, será más difícil usar la potencia de cálculo como interruptor de apagón — porque eso significará que todas esas otras funciones legítimas también se detendrán por completo."

Detener un sistema de IA podría degradar servicios de los que ya dependen empresas, administraciones públicas o instituciones sanitarias. 

“Todos los derechos humanos están en riesgo”: la ONU alertó por los riesgos de la inteligencia artificial

Los costes y desventajas de tal medida serían "enormes", añadió Papernot. Y algunas figuras públicas destacadas han advertido contra el alarmismo sobre la IA.

El presidente estadounidense, Donald Trump, descartó los temores existenciales sobre la IA como un engaño, mientras que el CEO de Meta, Mark Zuckerberg, ha argumentado en contra de las llamadas a ralentizar el desarrollo de la IA, afirmando que los incentivos del mercado y la responsabilidad legal son las mejores salvaguardas. 

Para Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, el debate sobre el "interruptor de apagación" puede alimentar la idea engañosa de que el mayor riesgo de la IA es que desarrolle una voluntad propia. En cambio, dijo, el riesgo más concreto radica en nuestra creciente dependencia de tales sistemas.