Es innegable que el inicio de este milenio estuvo marcado por el desarrollo y la consolidación de las Inteligencias Artificiales (IA), con un impacto directo en la vida cotidiana de los seres humanos. Lo cierto es que la inteligencia artificial llegó para revolucionar al mundo en sus más diversos aspectos y en la actualidad prácticamente todas las actividades vinculadas con la tecnología tienen relación con IA.
Lo cierto es que el vertiginoso avance de esta revolucionaria herramienta no solo despertó el interés y la admiración, sino también el temor y la advertencia de los especialistas del sector. A su vez, también surgieron las dudas en torno a que los resultados en el uso de los chatbot sean fiables, lo que llevó a que los expertos detallaran ciertas recomendaciones de uso.
En ese contexto y en la carrera que no se detiene, por lograr el avance acelerado, OpenAI, la empresa creadora del revolucionario Chat GPT, en un portal de ciber seguridad anunció el lanzamiento de su programa de "recompensa de errores". Esta iniciativa de la compañía de investigación de inteligencia artificial consiste en la entrega de recompensas económicas de entre 200 y hasta 20.000 dólares, a todos aquellos que reporten errores en los servicios que ofrece la empresa, principalmente en los generados por su chatbot con IA ChatGPT.
Elon Musk y expertos piden frenar los avances de la inteligencia artificial
En ese sentido, mediante un comunicado la compañía liderada por Sam Altman anunció: “Creemos que la transparencia y la colaboración son cruciales para abordar esta realidad. Es por eso que invitamos a la comunidad global de investigadores de seguridad, piratas informáticos éticos y entusiastas de la tecnología para que nos ayuden a identificar y abordar las vulnerabilidades en nuestros sistemas".
Desde fallas leves a graves
Lo cierto es que este sistema de recompensas va desde los USD 200 por los "hallazgos de baja gravedad", hasta los USD 6.500 por cada vulnerabilidad o falla de seguridad encontrada, pudiendo alcanzar hasta un pago máximo de USD 20.000 por aquellos "descubrimientos excepcionales". Para ello habilitó que los usuarios puedan enviar sus reportes e informes mediante la plataforma de ciber seguridad Bugcrowd.
De este modo, la compañía señaló que busca "incentivar las pruebas y como muestra de agradecimiento" es que ofrece el pago de sumas en dinero. Es claro que el producto estrella de la compañía, el chatbot ChatGPT, es altamente avanzado, sin embargo en los últimos meses fue duramente controvertido al haber quedado expuestas reiteradas fallas y problemas de seguridad.
Por ese motivo es que desde la compañía encendieron sus alarmas de alerta, mucho más desde que las herramientas de inteligencia artificial están bajo mayores controles y escrutinios por parte de los funcionarios gubernamentales y los especialistas del rubro de la tecnología. El programa de recompensas por errores de OpenAI tuvo antecedentes: otras compañías como Amazon, AT&T y Google Chrome, también pagaron a quienes detectaran fallas en sus sistemas.
Así, la empresa con sede en San Francisco, diseñó implementar el programa de reintegros por cada falla encontrada. Es relevante destacar, que serán premiados los reportes de las denominadas “fallas únicas” en el sistema de IA, que deriven en que la empresa deba cambiar su código. A su vez, el pago de estas recompensas se basarán en la "probabilidad o impacto" de la falla, lo cual quedará determinado a discreción exclusiva de OpenAI.
Por otra parte, quienes encuentren cualquiera de las vulnerabilidades, deberán mantener la confidencialidad hasta tanto OpenAI los autorice a su publicación.
Cómo nació el programa de recompensas
Fundada en 2015, OpenAI, anunció el lanzamiento al público de ChatGPT en noviembre de 2022, generando revuelo y gran interés en la industria tecnológica. Lo cierto es que tal fue la repercusión de sus avances, que la compañía Microsoft, se convirtió en uno de los principales patrocinadores de OpenAI, destinando una inversión de US$ 10 mil millones para la integración de un servicio de chat de inteligencia artificial en su motor de búsqueda Bing.
Casi con precisión humana, son múltiples las tareas que se realizan con esta herramienta, pero también se detectó que en muchas ocasiones brindó respuestas incorrectas a las preguntas que se le formularon, cayendo en contradicciones.
Lo cierto es que desde irrumpió el ChatGPT, comenzó una suerte de loca carrera por parte de los usuarios que pusieron al producto a prueba de infinitas formas: incluso con el uso de “jailbreaks”, para intentar evitar las barreras de seguridad del sistema diseñadas para evitar actividades dañinas.
Inteligencia Artificial: ChatGPT, popularización, magia y riesgos
De ese modo, Alex Albert, un estudiante de informática de la Universidad de Washington creo específicamente un sitio web para mensajes de jailbreak, y publicó en un hilo de Twitter un texto detallado sobre algunas de las vulnerabilidades detectadas en ChatGPT. Ello impulsó al presidente de OpenAI, Greg Brockman, a dar el primer indicio de su intención de “iniciar un programa de recompensas".
Lo cierto es que cientos de expertos en el mundo entero advirtieron que los productos de IA podrían representar un serio riesgo para la humanidad., desde la creación de información falsa hasta ocasionar la perdida de fuente laboral. Sin embargo, la carrera por el desarrollo de estas nuevas inteligencias no se detiene.
AO JL
