sábado 21 de mayo de 2022
TECNOLOGíA MODELO DE PREDICCIÓN
20-03-2022 18:30

La Inteligencia Artificial creó 40.000 nuevas armas biológicas en apenas seis horas

La preocupante investigación fue publicada en la revista "Nature Machine Intelligence" y en ella los científicos revelaron lo fácil que fue modificar la IA para que se convirtiera en un "mal actor".

20-03-2022 18:30

Un modelo de Inteligencia Artificial (IA) para el desarrollo de fármacos tardó menos de seis horas en inventar 40.000 moléculas potencialmente letales, después de que un grupo de investigadores buscara demostrar cuán fácilmente esta tecnología puede volverse contra los seres humanos.

La preocupante investigación fue publicada en la revista Nature Machine Intelligence y en ella los científicos revelaron lo fácil que fue modificar la IA para que se convirtiera en un "mal actor".

"No quiero ser alarmista al decir que va a haber una guerra química impulsada por la IA. No creo que ese sea el caso ahora. No creo que vaya a ser el caso en el corto plazo. Pero es algo que empieza a convertirse en una posibilidad", alertó uno de los investigadores.

En una conferencia de control de armas biológicas se informó que la IA inventó posibles armas químicas similares a uno de los agentes nerviosos más peligrosos de todos los tiempos, el VX, un agente nervioso insípido e inodoro.

El temible armamento “invencible” de Putin

Una dosis mayor puede causar convulsiones e incluso puede impedir que una persona respire por completo e incluso la gota más pequeña de este agente puede hacer que un ser humano sude y tenga convulsiones.

 "Observamos muchas de las estructuras de estas moléculas recién generadas. Y muchos de ellos se parecían a VX y otros agentes de guerra, e incluso encontramos algunos que se generaron a partir del modelo que eran agentes de guerra química reales", aseguró Urbina. 

"Estos se generaron a partir del modelo que nunca había visto estos agentes de guerra química. Entonces sabíamos que estábamos en el espacio correcto aquí y que estaba generando moléculas que tenían sentido porque algunas de ellas ya se habían hecho antes", explicó.

Lo más importante que saltó al principio fue que se predijo que muchos de los compuestos generados serían en realidad más tóxicos que VX. Y la razón por la que es sorprendente es porque VX es básicamente uno de los compuestos más potentes que se conocen. Lo que significa que necesitas una cantidad muy, muy, muy pequeña para ser letal", dijo Fabio Urbina, autor principal del artículo, a The Verge.

Rusia usó sus potentes misiles hipersónicos "Kinshal" contra Ucrania

Temor de que esta tecnología llegue a manos equivocadas

Urbina explicó que las 40.000 armas químicas creadas por la Inteligencia Artificial "son predicciones que no hemos verificado, y ciertamente no queremos verificar eso nosotros mismos". "Pero los modelos predictivos son generalmente bastante buenos. Entonces, incluso si hay muchos falsos positivos, tememos que haya algunas moléculas más potentes allí".

Los científicos encargados recibieron la orden que retuvieran los detalles específicos sobre cómo lograron convertir la IA de "buen comportamiento" a una versión "malvada", informó The New York Post, para evitar que pueda ser utilizado en actos de terrorismo o acciones de guerra.

"Para mí, la preocupación era lo fácil que era hacerlo. Muchas de las cosas que usamos están disponibles de forma gratuita", afirmó el investigador. 

El científico dijo que el equipo tardó mucho tiempo en decidir si debía publicarse este descubrimiento: "Miramos a nuestro alrededor, y nadie estaba hablando realmente de eso. Pero al mismo tiempo, no queríamos darles la idea a los malos actores".

"Al final del día, decidimos que queríamos adelantarnos a esto. Porque si es posible que lo hagamos, es probable que algún agente adversario en algún lugar ya esté pensando en ello o en el futuro vaya a pensar en ello. Para entonces, nuestra tecnología puede haber progresado incluso más allá de lo que podemos hacer ahora", afirmó. 

"No quiero sonar muy sensacionalista sobre esto, pero es bastante fácil para alguien replicar lo que hicimos", alertó Urbina, quien explicó que muchos de los compuestos químicos que utilizó la IA para crear estas armas están disponibles al público.