CIENCIA
Los peligros de la IA

La Inteligencia Artificial implicaría los mismos riesgos de extinción que una guerra nuclear

En el marco de la primera Cumbre de Seguridad por el desarrollo de la IA, los científicos debaten por los peligros que conlleva esta tecnología.

Inteligencia Artificial: cuáles son las regulaciones que se impulsan en el mundo
Inteligencia Artificial: cuáles son las regulaciones que se impulsan en el mundo | TELAM

Los mejores científicos del mundo concurrirán a un evento en Reino Unido para debatir sobre los peligros a los que se enfrenta el ser humano con la Inteligencia Artificial y plantear una posible regulación de su uso para frenar estos rápidos avances. 

En la semana previa a la cumbre, Rishi Sunak, primer ministro británico, se refirió a estos desafíos: “Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.

IA: la rebelión del robot humanoide más avanzado que se declara autoconsciente

Esto no le gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
Hoy más que nunca Suscribite

La grave advertencia coincide con la publicación del informe oficial de la Oficina Gubernamental para la Ciencia británica, donde también se enfatizó en que para el 2025, se espera que la IA aumente la frecuencia y sostificación de ataques terroristas cibernéticos, con estafas, fraudes y otros delitos. 

Estos señalamientos se realizan en el marco de la primera Cumbre de Seguridad de la Inteligencia Artificial del mundo que se realizará durante comienzos de noviembre en la ciudad de Buckinghamshire.

Si bien Sunak destacó el papel fundamental que tiene la IA para brindar “la oportunidad de resolver problemas que alguna vez pensábamos fuera de nosotros”, también advirtió que “trae nuevos peligros y nuevos miedos”.

 

Los peligros de la Inteligencia Artificial según los científicos

► Producción de armas biológicas

Para los investigadores involucrados en el descubrimiento de fármacos basados en IA, una de las principales problemáticas a las que se enfrenta la humanidad es que los terroristas podrían manipular fácilmente la tecnología para buscar agentes nerviosos tóxicos.

En la conferencia, el Primer Ministro británico enfatizó en la posible utilización de esta tecnología para armas químicas y biológicas construidas con IA como una amenaza particular. 

El informe del gobierno sostiene que los modelos de IA ya funcionan de forma autónoma para ordenar equipos de laboratorio y para realizar experimentos. "Las herramientas de IA ya pueden generar nuevas proteínas con funciones simples y apoyar la ingeniería de agentes biológicos con combinaciones de propiedades deseadas", afirma. 

La Inteligencia Artificial creó 40.000 nuevas armas biológicas en apenas seis horas

► Ciberataques y softwares con IA

El nuevo informe publicado por el gobierno del Reino Unido señala que es probable que gracias a los avances de la IA, los ciberdelincuentes puedan lograr hacer ataques más rápidos, más efectivos y de mayor escala. 

“Los delincuentes podrían explotar la IA para ataques cibernéticos, fraude o incluso abuso sexual infantil, existe incluso el riesgo de que la humanidad pierda completamente el control de la IA a través del tipo de IA a la que a veces se hace referencia como superinteligencia”, comentó Sunak.

Inteligencia Artificial: cuáles son los principales riesgos de esta tecnología

El documento también enfatiza en los problemas en torno a la “pérdida de control” de decisiones importantes a expensas del software impulsado por IA, lo que facilitaría un posible hackeo por parte de ciberterroristas. 

En esta misma línea, Max Tegmark, físico y experto en Inteligencia Artificial del Instituto Tecnológico de Massachusetts, sostiene que la forma más real de peligro en el corto plazo es el desarrollo de tecnología de drones para aplicaciones militares que podrían controlarse remotamente con IA y “realizar acciones que causen un daño real”. 

Cómo impactará la inteligencia artificial.

 

► Robots asesinos

Según los especialistas, el software de IA aparentemente benigno podría llegar a tomar decisiones que podrían ser fatales para los humanos si la tecnología no se programa con suficiente cuidado ni se la mantiene vigilada. 

En relación a esto, algunos hablan de la posibilidad de que en algún momento los robots se vuelvan contra el ser humano una vez que tengan completamente desarrollada su capacidad de autonutrirse de información. 

Sin embargo, Natalie Cramp, directora ejecutiva de la empresa de datos Profusion, admitió que aunque esta eventualidad es posible, afortunadamente son pocas las posibilidades de que lo sea durante nuestra vida. 

Los peligros de la Inteligencia Artificial según Stephen Hawking: "Podría ser el fin de la raza humana"

"Estamos muy lejos de que la robótica llegue al nivel en el que máquinas tipo Terminator tengan la capacidad de derrocar a la humanidad", señaló a MailOnline. Y agregó:  "Todo es posible en el futuro. Como sabemos, la IA está lejos de ser infalible." 

Por su parte, Mark Lee, profesor de la Universidad de Birmingham, sostiene que los robots asesinos como Terminator son "definitivamente posibles en el futuro" debido a una "rápida revolución en la IA".

rv / ds