Imaginá que le encargás a alguien que te resuelva algo importante. Un buen ejemplo es el representante de un jugador de fútbol: negocia, arma la operación, acerca a las partes. Pero el contrato lo firma el jugador, que conserva algo decisivo. Puede mirar lo que el otro negoció, evaluarlo, decir que no y, si no le gusta cómo trabaja, despedirlo. Toda delegación sana funciona así: le encargo algo a otro, pero sigo entendiendo lo suficiente como para controlarlo.
Ahora traslademos esa escena a la inteligencia artificial. Le vamos a delegar cada vez más cosas, y muchas las va a hacer mejor y más rápido que nosotros. El problema aparece con una pregunta incómoda: ¿qué pasa cuando, de tanto delegar, dejamos de saber controlar lo que delegamos?
Eso es lo que está pasando de manera silenciosa. Cuando le entregamos a la IA, una y otra vez, las tareas que antes hacíamos nosotros, vamos perdiendo el músculo para hacerlas. Y el día que necesitamos revisar si lo que entregó está bien, ya no tenemos con qué. Firmamos informes que no podríamos escribir. Aprobamos decisiones cuyo razonamiento no podríamos reconstruir si nos lo preguntaran. La responsabilidad sigue siendo nuestra en los papeles, pero la capacidad real de ejercerla se evaporó. La supervisión existe en el papel y no existe en la práctica.
El humano no es lo que sobra
Frente a este panorama, una parte del mundo tecnológico propone una salida brutal. Si la persona ya no puede controlar bien a la máquina, sacala del medio. En esa lectura, la lentitud humana es un obstáculo y nuestros errores son el verdadero freno del sistema. Quitarnos del circuito no sería una pérdida, sería una mejora.
Es un razonamiento que suena lógico y es profundamente equivocado. Sí, es cierto que a veces una persona introduce demora o se equivoca: un revisor cansado, un médico apurado. Pero confundir eso con que el humano "sobra" es un error de fondo. Las personas no estamos solo para ejecutar más rápido. Somos quienes respondemos cuando algo sale mal, quienes cargamos con las consecuencias, quienes tenemos un cuerpo y una historia con los que pesamos cada decisión.
Sacar a la persona del medio no produce un sistema más veloz. Produce un sistema distinto: uno sin nadie que responda, sin nadie a quien pedirle cuentas, sin nadie que sienta el efecto de lo que se decidió sobre otros. Llamarle "cuello de botella" a una persona es confundir lentitud con función. El termómetro no es lento respecto de la fiebre. El termómetro es lo que la mide.
Nosotros, frente a la IA, no somos lo lento: somos lo que aporta aquello que la máquina no tiene.
Acertar mucho no es lo mismo que tener derecho a decidir
Acá está el malentendido que ordena casi todo el debate. Pensá en un jurado popular, esos doce ciudadanos comunes que deciden si alguien es culpable. Imaginá que existe una IA capaz de predecir ese veredicto con un 95% de acierto. Si acierta tanto, ¿para qué juntar a doce personas a deliberar durante horas?
La respuesta obliga a salirse de la lógica de la eficiencia. El valor de ese veredicto no está en el resultado, sino en quiénes lo dictaron y en las razones que encontraron para hacerlo. Doce personas deliberando no describen una decisión: la crean. Aunque la máquina llegara exactamente al mismo resultado, no tendrías un veredicto mejor. Tendrías otra cosa, que ya no es un veredicto.
Pasa lo mismo con un montón de actos que valen por quién los hace. El sí para casarse. Un perdón. Una disculpa sincera. Nadie quiere que una máquina diga "sí, acepto" por él, por más perfecta que sea la frase. Acertar mucho es una capacidad. Tener derecho a decidir es otra cosa completamente distinta, y no se compran una con la otra. Una multa no se paga con un elogio: son monedas diferentes.
Y hay una trampa todavía más fina. Una cosa es quién toma la decisión final y otra es sobre qué información la toma. Podemos blindar lo primero y vaciar lo segundo sin darnos cuenta. Si el jurado decide, pero el resumen de las pruebas sobre el que delibera lo armó una IA y nadie lo revisó, entonces termina decidiendo sobre el resumen de la máquina y no sobre las pruebas. Se cuida la cáscara y se vacía el contenido por debajo. Por eso no alcanza con proteger la gran decisión final. Hay que mirar toda la cadena de pasos chiquitos que la alimentan.
Lo que un cuerpo aporta y una máquina no
Hay algo que la idea de "saquemos al humano" no puede contabilizar, porque no entra en ninguna planilla de productividad. Una empresa, un hospital, una escuela están hechos de personas que sienten. La IA puede escribir las palabras exactas del consuelo, pero la empatía no es solo encontrar las palabras correctas. Cuando alguien te cuenta una pérdida y sentís algo, se enciende en vos toda tu propia historia de pérdidas. La neurociencia mostró que las mismas zonas del cerebro que registran tu dolor se activan cuando ves sufrir a otro.
Por eso un perro puede acompañar a una persona que llora, y por eso una rata libera a otra rata atrapada. Compartimos con los animales algo que la IA no tiene: un cuerpo que siente, que se estresa, que recuerda. La máquina tiene el lenguaje sin el cuerpo; los animales tienen el cuerpo sin el lenguaje. Y lo que importa para la empatía no es el lenguaje. Es el cuerpo. Acompañar a alguien en un duelo, recibir una denuncia de violencia, darle un diagnóstico difícil a un paciente: en todos esos momentos no está en juego que la frase sea correcta, sino la calidad del cuerpo que la dice.
Hay un segundo motivo, más concreto. Las personas vivimos las consecuencias de lo que decidimos en carne propia. El responsable de una decisión puede perder el sueño, el trabajo, el respeto de sus colegas; puede tener que dar la cara frente a quien resultó perjudicado, o pasar años en un juicio. Esa vulnerabilidad nuestra a las consecuencias es justamente lo que le da peso a la palabra "responsabilidad". Una máquina puede llegar a una conclusión correcta, pero no puede convivir con lo que esa conclusión provoca.
Al final, todo esto desemboca en una pregunta que no es técnica sino sobre qué clase de mundo queremos. ¿Buscamos producir cada vez más rápido y a mayor escala, sacando personas de la ecuación para ser más eficientes? ¿O queremos diseñar trabajos, organizaciones y vínculos que reconozcan que lo que las personas aportamos, esa dimensión que siente y que responde con el cuerpo, no es lo mismo que aporta una máquina?
La IA china ya puede pedir los 100 años de perdón
Las dos opciones no son simétricas. La primera ya está pasando sola, empujada por la eficiencia. La segunda no viene en piloto automático: hay que tomar decisiones de diseño y de arquitectura. El sedentarismo físico no se resuelve pidiendo a cada persona que camine más. Hay que rediseñar ciudades y formas de trabajar. El sedentarismo cognitivo tampoco se va a resolver con apelaciones individuales a “pensar más”. Hay que rediseñar los entornos organizacionales para que siga teniendo sentido pensar.
*Juan G. Corvalán es director del Laboratorio de Innovación e Inteligencia Artificial (IALAB) de la Facultad de Derecho de la UBA. Este texto retoma ideas de su libro Sedentarismo cognitivo. Productividad, agentes de IA y los riesgos de delegar el pensamiento.
