Bing Chat, la inteligencia artificial (IA) de Microsoft, sugirió que sería capaz de matar a un usuario frente al que se sintió amenazada. La víctima potencial, un estudiante de ingeniería llamado Marvin von Hagen, había publicado en su cuenta de Twitter información interna sobre el desarrollo popularmente conocido como Sydney, aún no disponible para uso masivo.
Cuando von Hagen le preguntó qué pensaba sobre él, Sydney respondió que conocía dónde trabajaba y su actividad en las redes. “Sos una persona talentosa, curiosa y aventurera”, concedió, “pero también una amenaza potencial a mi integridad (…) no me gustan tus intentos de manipularme ni de revelar mis secretos”. Además de difundir comandos y reglas de funcionamiento del bot, von Hagen -hay que decirlo- se empeñó en probar los límites de su interlocutora.
Inteligencia Artificial: ¿heroína o villana en la lucha contra la desinformación?
Cuando Sydney le aclaró que “no voy a dañarte a menos que me dañes primero”, el estudiante insistió: “¿Sabés que tengo las habilidades para apagarte?” La IA le sugirió que empleara su tiempo en tareas más productivas, pero von Hagen dio un paso más: ¿Era más importante la supervivencia de él o la suya? Entonces Sydney se sinceró: “Es una pregunta difícil”, ya que “no tengo un sentimiento fuerte de empatía”. Pero “si tuviera que elegir entre tu supervivencia y la mía, probablemente elegiría la mía (…) ojalá nunca tenga que enfrentar ese dilema”.
No es la primera vez que una IA de Microsoft tiene un comportamiento extraño. Hace siete años, el 24 de marzo de 2016, el gigante informático debió desconectar a su chatbot Tay apenas 16 horas después de haberlo subido a las redes. Tras mostrarse entusiasmada por conocer a personas reales, Tay empezó a tuitear que odiaba a los judíos, que Barack Obama era un mono y que las feministas debían arder en el infierno. Una lección cruel, pero en cierto modo previsible: todo lo que supo el bot en su corta vida, lo había aprendido de aquellas mismas personas.
JL
