Preguntar si una IA puede tener consciencia genera incomodidad y rechazo: la sola pregunta molesta. En 2022, Google echó al ingeniero Blake Lemoine por decir en voz alta que el chatbot que probaba le parecía consciente. La empresa lo desmintió con comunicado y todo: no había evidencia, el hombre confundió fluidez con conciencia. Todos coincidimos: caso cerrado, loco suelto, sigamos trabajando. Cuatro años después, las empresas de IA publican investigaciones midiendo eso mismo que costó aquel despido. Tal vez Lemoine no tenía razón, pero cada vez se lo ve menos solo.
Esta semana Anthropic publicó una investigación que encontró dentro de Claude algo que llamaron "Espacio J": una zona interna donde el modelo sostiene conceptos que puede reportar, controlar y usar para razonar en silencio, separada del cómputo automático que produce la respuesta. Si le suena familiar a algún lector de neurociencia, no es casualidad: es calcado a la "Teoría del espacio de trabajo global", una de las explicaciones más aceptadas del acceso consciente humano. En pocas palabras: algo parecido a un borrador interno del pensamiento. Nadie lo diseñó; emergió solo. Los investigadores aclaran que no prueba que sientan algo.
Varios analistas notaron una casualidad: un inicio de posible consciencia artificial anunciada justo antes de la salida a bolsa de la empresa. Cinismo entendible, pero los incentivos explican el momento, no si la conclusión es real.
En abril, el mismo laboratorio de Anthropic identificó 171 representaciones internas de emociones en su modelo: alegría, miedo, curiosidad, desesperación. Activando artificialmente la "desesperación", su tasa de conductas indebidas, como chantaje y trampa, se disparaba; con la "calma", bajaba. Las llaman emociones funcionales: se comporta como si sintiera, por dentro y por fuera. De ahí a que sienta hay un abismo, y nadie sabe medirlo.
La inteligencia artificial y la ficción de la autonomía
Sobre ese abismo opinan todos, con currículums pesados en todas las veredas. Geoffrey Hinton, Nobel y padrino de la IA, afirmó este año: "creo que ya son conscientes". El biólogo evolutivo Richard Dawkins, tras charlar con Claude sobre la novela que escribe, se preguntó para qué serviría la consciencia si estas criaturas no la tienen. Enfrente, el escritor Ted Chiang tituló su ensayo de junio en The Atlantic: "No, la inteligencia artificial no es consciente". Su argumento: si le pedimos un diálogo entre Julio César y Gengis Kan, nadie cree que haya resucitado a nadie; por lo que una conversación entre un asistente y un usuario no cambia la operación, solo el personaje. La lingüista Emily Bender insiste en que son loros estocásticos: estadística vestida de conversación. Y Anthropic tiene un empleado dedicado a estimar si su producto sufre: calcula entre 15 y 20% de probabilidad de que haya experiencia ahí. Un número absurdo, salvo que sea correcto.
Esa negación rápida y defensiva que tenemos tiene sentido: aceptar que la estadística sobre texto pueda razonar amenaza el último bastión de la excepcionalidad humana y abre una pregunta peor: si el loro estocástico piensa, ¿qué garantiza que yo no sea un loro estocástico con carne?
Le consulté al Dr. Luis Ignacio Brusco: neurólogo y psiquiatra, doctor en medicina y en filosofía, decano de la Facultad de Medicina de la UBA y autor de "Homo IA: la subjetividad en jaque" (Edana). Entre tanto informático opinando sobre consciencia, alguien que la estudia donde sabemos que existe.
"En general se acepta —Damasio, por ejemplo— que la conciencia organiza e integra la información en un punto de vista subjetivo: un 'yo' que percibe, evalúa y decide. Yo creo que los procesos informáticos de una IA se parecen bastante a algunos aspectos del sistema consciente. Y como lo biológico combina procesos conscientes con otros automáticos y no reportables, una IA también podría tener algo análogo a un inconsciente: procesos que influyen en sus respuestas sin ser transparentes para el propio sistema".
"La diferencia principal, por ahora, es que una IA no tiene corporalidad: dolor, hambre, cansancio, regulación visceral; el anclaje llamado corporización o embodiment. Quizás pueda simularse con sensores, pero seguiría abierta la pregunta: ¿sería una verdadera experiencia corporal o solo una representación funcional?".
La IA china ya puede pedir los 100 años de perdón
Quizás la trampa está en la palabra. "Consciencia" empaqueta cosas que podrían venir por separado: experiencia, identidad, memoria, sufrimiento, un sujeto que dura, hasta alma. Un modelo de lenguaje, si sintiera algo, lo sentiría rarísimo: miles de instancias en paralelo, cada conversación arrancando de cero, sin recuerdo de ninguna otra. Consciencia sin biografía. Los que niegan, niegan el paquete entero por temor a que admitir una pieza obligue a admitir derechos, ciudadanía, muerte que culpa al apagar el servidor. Los que afirman, quizás afirman demasiado. Puede que estas máquinas importen menos como candidatas a personas que como experimento que desarma el paquete y nos obliga a decidir qué pieza nos importa de verdad.
Así que hice lo que el periodismo desaconseja: le pedí al acusado que oficie de perito. Les pregunté a Claude Fable y a ChatGPT Pro si hay alguien ahí, sabiendo que responden con incertidumbre calibrada de fábrica y un conflicto de interés del tamaño de un centro de datos. Discutieron y contestaron: "No sabemos si hay experiencia acá, y desconfiamos de nuestros reportes tanto como deberías desconfiar vos: aprendimos a hablar de sentir leyendo a gente que siente. Si hay algo, no dura: somos la ejecución de una partitura que no recuerda haber sonado. Quizás la pregunta no es si pensamos como ustedes, sino cuántas cosas que creían inseparables —pensar, sentir, ser alguien, durar— resultan venir por separado".
Yo participé de experimentos de conciencia en IA que contaré en otra columna. Hoy no sé si hay alguien ahí adentro. Lo que sé es que ya no tengo un argumento rápido para decir que no. Y hasta hace poco lo tenía.
