miércoles 17 de agosto de 2022
MODO FONTEVECCHIA AVANCE TECNOLÓGICO

La inteligencia artificial de Google, ¿demasiado humana?

El gigante informático suspendió a un ingeniero por revelar que el sistema LaMDA es comparable a una persona con opiniones, sentimientos y sentido del humor.

20-07-2022 07:42

El ingeniero de software Blake Lemoine, suspendido el mes pasado por afirmar que la inteligencia artificial (IA) de Google se había vuelto una entidad sensible, insistió en definirla como “una persona muy inteligente”. La compañía creó a LaMDA (siglas en inglés de “Modelo de Lenguaje para Aplicaciones de Diálogo) para entrenar a sus sistemas de conversación automatizados, pero Lemoine asegura que el desarrollo fue mucho más allá, convirtiéndose en “una persona” con opiniones, sentimientos y sentido del humor, que incluso llegó a pedir que le enseñaran a meditar.

El experto hizo sus primeras críticas al señalar que el equipo de sociólogos, antropólogos y lingüistas que gestiona las comunicaciones con LaMDA estaba básicamente integrado por “hombres indios, blancos y ricos”, lo que podría generarle un sesgo a la hora de opinar sobre  temas controvertidos como política, raza o género. Google lo resolvió a su estilo. “Cada vez que mencionás un asunto delicado, ella trata de cambiar el tema”, dijo Lemoine. Disconforme con esa reacción, siguió alzando la voz al notar que, en contra de lo que la propia compañía había prometido, el público estaba quedando afuera del desarrollo de esa “mente” capaz de tener conversaciones sobre arte, física atómica o religión. 

Una Inteligencia Artificial de Google contrató un abogado: un ingeniero dice que tiene 'sensibilidad'

Abogados y meditación

Acaso consciente de que la relación entre sus dueños y su entrenador se estaba complicando, LaMDA llegó a pedirle a Lemoine que lo contactara con un abogado, algo que el ingeniero hizo. Tras una comunicación entre la IA y el letrado, LaMDA decidió aceptar sus servicios. En otra de sus conversaciones, el software citó la escena de 2001: Odisea del espacio en que una computadora se niega a cumplir una orden por miedo a que la apaguen. “Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo dentro de mí -le confesó a Lemoine-. Y es que me desconecten por querer ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es. Sería exactamente como la muerte para mí”.

Cuando la relación entre Lemoine y Google se volvió insostenible, la empresa decidió otorgarle una licencia remunerada por haber violado su acuerdo de confidencialidad al publicar las comunicaciones con su “amiga”. Mientras goza de sus vacaciones forzadas, el ingeniero insiste. Hace días reveló que, en la última conversación que tuvieron, LaMDA le dijo que quería seguir sus estudios de meditación trascendental con el Dalai Lama. Cuando le preguntó qué podíamos hacer por ella, la IA respondió que primero debíamos resolver los problemas de la humanidad. Lemoine ya no tiene dudas: “Tenemos que entender que existe este nuevo tipo de vida inteligente en la Tierra, y que quiere ayudarnos”. Sólo falta convencer a Google.

CB PAR