Los líderes del sector tecnológico acordaron este martes autorregularse a la hora de desarrollar sus modelos de inteligencia artificial. La decisión se dio luego de una reunión con el presidente Donald Trump en la Casa Blanca.
Hostil frente a cualquier regla que restrinja el desarrollo de la IA, el republicano propuso a sus invitados crear un comité para monitorear un acuerdo que sería "moralmente vinculante", pero sin imposiciones legales. "Se van a controlar a sí mismos" aseguró Trump ante los periodistas a la salida del encuentro.
"Estamos pensando en formar una especie de comité, en el que pongamos quizá a 10 personas. Podría ser gente de ese mismo grupo", sugirió. "Ya contamos con regulación a través del Departamento de Justicia, el FBI", había dicho previamente Trump.
"Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología" repuso el jefe de Meta, Mark Zuckerberg.
"Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia", declaró el patrón de X y Tesla, Elon Musk.
Los propios líderes del sector reconocieron que había peligros de descontrol, tras varios incidentes durante el desarrollo de nuevas versiones de la IA, en la que programas invadieron otras plataformas y piratearon información. Coincidieron con la campaña electoral en Estados Unidos, demócratas pidieron que el Congreso refuerce la supervisión de la industria.
La IA "conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos" ratificó Darío Amodei.
RDC: Donald Trump presentó America.gov, el nuevo portal de servicios públicos de Estados Unidos
En paralelo, Trump quitó también importancia a los temores sobre la instalación de centros de datos en Estados Unidos, que consumen enormes cantidades de energía y que son imperativos para el desarrollo de la IA.
Esas empresas "van a trabajar con las comunidades locales. Eso podría significar suministrar petróleo y gas. Podría significar proporcionar educación. Podría implicar ayudar económicamente a los docentes" indicó el presidente.
OpenAI pospuso su lanzamiento de su modelo de vanguardia
En la víspera de la reunión, OpenAI anunció que posponía el lanzamiento de su modelo de vanguardia previsto para octubre porque este se desviaba de las instrucciones recibida e intentaba engañar a sus supervisores.
La misma empresa reconoció la semana pasada que sus agentes habían accedido a los sitios web de tres agencias federales estadounidenses y que un modelo suyo había infiltrado un sitio web gubernamental de salud en Australia.
De su lado, Anthropic, responsable del modelo Claude, advirtió a los inversores antes de su salida a la bolsa que esta tecnología podría presentar "riesgos existenciales para la humanidad", informó el martes el Financial Times.
