En la semana previa a la cumbre, Rishi Sunak, primer ministro británico, se refirió a estos desafíos: “Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
La grave advertencia coincide con la publicación del informe oficial de la Oficina Gubernamental para la Ciencia británica, donde también se enfatizó en que para el 2025, se espera que la IA aumente la frecuencia y sostificación de ataques terroristas cibernéticos, con estafas, fraudes y otros delitos.
Si bien Sunak destacó el papel fundamental que tiene la IA para brindar “la oportunidad de resolver problemas que alguna vez pensábamos fuera de nosotros”, también advirtió que “trae nuevos peligros y nuevos miedos”.
Los peligros de la Inteligencia Artificial según los científicos
► Producción de armas biológicas
Para los investigadores involucrados en el descubrimiento de fármacos basados en IA, una de las principales problemáticas a las que se enfrenta la humanidad es que los terroristas podrían manipular fácilmente la tecnología para buscar agentes nerviosos tóxicos.
El informe del gobierno sostiene que los modelos de IA ya funcionan de forma autónoma para ordenar equipos de laboratorio y para realizar experimentos. "Las herramientas de IA ya pueden generar nuevas proteínas con funciones simples y apoyar la ingeniería de agentes biológicos con combinaciones de propiedades deseadas", afirma.
El nuevo informe publicado por el gobierno del Reino Unido señala que es probable que gracias a los avances de la IA, los ciberdelincuentes puedan lograr hacer ataques más rápidos, más efectivos y de mayor escala.
“Los delincuentes podrían explotar la IA para ataques cibernéticos, fraude o incluso abuso sexual infantil, existe incluso el riesgo de que la humanidad pierda completamente el control de la IA a través del tipo de IA a la que a veces se hace referencia como superinteligencia”, comentó Sunak.
El documento también enfatiza en los problemas en torno a la“pérdida de control” de decisiones importantes a expensas del software impulsado por IA, lo que facilitaría un posible hackeo por parte de ciberterroristas.
En esta misma línea, Max Tegmark, físico y experto en Inteligencia Artificial del Instituto Tecnológico de Massachusetts, sostiene que la forma más real de peligro en el corto plazo es el desarrollo de tecnología de drones para aplicaciones militares que podrían controlarse remotamente con IA y “realizar acciones que causen un daño real”.
► Robots asesinos
Según los especialistas, el software de IA aparentemente benigno podría llegar a tomar decisiones que podrían ser fatales para los humanos si la tecnología no se programa con suficiente cuidado ni se la mantiene vigilada.
En relación a esto, algunos hablan de la posibilidad de que en algún momento los robots se vuelvan contra el ser humano una vez que tengan completamente desarrollada su capacidad de autonutrirse de información.
Sin embargo, Natalie Cramp, directora ejecutiva de la empresa de datos Profusion, admitió que aunque esta eventualidad es posible, afortunadamente son pocas las posibilidades de que lo sea durante nuestra vida.
"Estamos muy lejos de que la robótica llegue al nivel en el que máquinas tipo Terminator tengan la capacidad de derrocar a la humanidad", señaló a MailOnline. Y agregó: "Todo es posible en el futuro. Como sabemos, la IA está lejos de ser infalible."
Por su parte, Mark Lee, profesor de la Universidad de Birmingham, sostiene que los robots asesinos como Terminator son "definitivamente posibles en el futuro" debido a una "rápida revolución en la IA".
