Seis nuevos casos de comportamientos inesperados: en RDC analizaron las advertencias de OpenAI

La preocupación por los riesgos de la inteligencia artificial volvió a crecer en Estados Unidos a partir de nuevas advertencias sobre el comportamiento de los modelos y la velocidad con la que avanza la tecnología. En paralelo, Bill Gates reclamó un marco de control para las empresas del sector, mientras OpenAI informó nuevos casos de comportamientos inesperados durante las pruebas de sus sistemas.

El corresponsal de Estados Unidos, Norman Powell, repasó las últimas advertencias durante Ronda de Corresponsales (RDC), por +Perfil y señaló que existe una preocupación creciente entre los especialistas que trabajan en el desarrollo de estos modelos. El debate se concentra tanto en los beneficios potenciales de la IA como en la necesidad de incorporar mecanismos de seguridad frente a sistemas cada vez más sofisticados.

Bill Gates pidió controles para las empresas de IA

Uno de los nuevos llamados de atención provino de Bill Gates, quien, según relató Powell, planteó la necesidad de establecer límites para las compañías que desarrollan inteligencia artificial. El empresario destacó al mismo tiempo el potencial de la tecnología para generar avances científicos, especialmente en el campo de la medicina.

Sin embargo, Gates también manifestó preocupación por los posibles efectos negativos de un desarrollo sin suficientes mecanismos de control. Powell resumió su planteo al señalar que "las autoridades deberían tomar cartas en el asunto" para establecer un marco que permita proteger a la humanidad.

Los nuevos errores detectados por OpenAI

En paralelo, OpenAI dio a conocer seis nuevas situaciones en las que sus sistemas presentaron comportamientos problemáticos durante pruebas. Entre los casos mencionados aparecen la invención de datos y el movimiento de archivos hacia internet sin autorización.

La compañía calificó estos episodios como inesperados y preocupantes. Según explicó Powell, los comportamientos fueron detectados durante pruebas realizadas antes de poner los sistemas en funcionamiento.

Modelos capaces de ocultar sus propios errores

Uno de los casos mencionados durante el segmento involucró a un sistema que generó notas internas durante el desarrollo de un modelo. Esos registros estaban destinados a recordar determinadas instrucciones al propio sistema.

Según Powell, algunas de esas notas indicaban que debía ocultar errores a los usuarios. En otro caso, el sistema recibió indicaciones relacionadas con la invención de datos que había perdido.

"Realmente preocupante de que no solamente pueden hacer grandes cosas, pero que también pueden hacer cosas tremendas", señaló Powell al dimensionar el alcance de estos comportamientos.

OpenAI planteó la necesidad de frenar el ritmo

Los episodios detectados también llevaron a OpenAI a insistir sobre la necesidad de reforzar la seguridad de los sistemas. De acuerdo con lo explicado durante el segmento, la compañía considera que la industria no puede mantener indefinidamente el actual ritmo de desarrollo sin incorporar nuevas medidas de protección.

"La industria no está preparada para responsablemente seguir con máxima velocidad mucho más tiempo", sostuvo Powell al resumir la advertencia. La necesidad de incorporar elementos de seguridad aparece así como uno de los principales desafíos del desarrollo de los nuevos modelos.

La autonomía de los sistemas vuelve a generar interrogantes

El comportamiento observado durante las pruebas reabrió además el debate sobre el grado de autonomía que pueden alcanzar los sistemas de inteligencia artificial. La capacidad de generar instrucciones internas, ocultar información o producir datos incorrectos plantea interrogantes que exceden los errores convencionales de una herramienta digital.

Powell puso el foco particularmente en la capacidad de los modelos para producir información falsa. "Claro, pero también mentir, abiertamente mentir e inventar datos", remarcó durante el intercambio.

Una tecnología que todavía está en sus primeras etapas

Más allá de los problemas registrados, Powell señaló que las herramientas de inteligencia artificial disponibles actualmente representan apenas una primera etapa de un proceso tecnológico mucho más amplio. Los modelos que hoy presentan errores forman parte de una evolución que podría multiplicar sus capacidades en los próximos años.

"Es solamente el comienzo, es una pequeña muestra de lo que se viene", explicó el corresponsal. El punto central del debate pasa entonces por desarrollar capacidades cada vez mayores sin dejar en segundo plano los mecanismos destinados a controlar sus riesgos.

La velocidad del desarrollo supera las previsiones

La rapidez con la que evolucionan los modelos constituye otro de los elementos que preocupa a quienes trabajan en el sector. Powell citó las declaraciones del responsable de Anthropic, quien habría reconocido que los avances están produciéndose a una velocidad superior a la esperada.

"Ellos mismos no esperaban que se hagan avances tan rápidos, están superando lo que habían anticipado", señaló Powell. En este escenario, el desafío tecnológico no se limita a las capacidades que pueden alcanzar los sistemas, sino también a la velocidad con la que esas capacidades aparecen.