¿Le darías las llaves de tu casa a alguien muy servicial que promete ordenarte todo mientras no estás? Probablemente no sin pensarlo. Sin embargo, hoy la inteligencia artificial nos pide algo parecido, y para dárselo alcanza con tocar un botón que dice “Permitir”.
Durante años usamos la IA para hacer preguntas y recibir respuestas. Ahora estamos pasando a otra cosa, y conviene distinguir tres escalones. El primero es consultar: le pido que me redacte un correo y yo decido si lo envío. La IA propone; yo resuelvo.
El segundo es dar acceso: conecto mi casilla y mi agenda para que pueda leer mis mensajes y organizar mis reuniones. Ya no le cuento lo que necesita saber; le abro la puerta para que lo busque. El tercero es delegar: le permito enviar mensajes, mover reuniones o compartir documentos sin consultarme cada vez. Ahí ya no le estamos dando solamente información. Le estamos entregando las llaves y la capacidad de actuar en nuestro nombre.
No todos los permisos abren las mismas puertas: algunos permiten mirar; otros, modificar o actuar. Por eso importa saber cuál estamos dando cada vez que aceptamos.
Escribo estas columnas con ayuda de dos inteligencias artificiales. Una me propone, la otra me discute, y yo decido. Ninguna tiene acceso a mi correo ni puede enviar nada en mi nombre. Uso la IA todos los días, pero sé en qué escalón estoy.
No voy a negar los beneficios, porque existen. Un agente bien usado ahorra tiempo, resuelve tareas repetitivas, ayuda a personas con discapacidad a manejar su correo o su agenda, y le da a un profesional independiente o a una pyme algo parecido a una secretaria que no podrían pagar. Pero que una herramienta nos ahorre tiempo no justifica darle más llaves de las que necesita. Para ordenar la agenda no hace falta acceder indiscriminadamente a todos los correos, y para leerlos no hace falta poder enviarlos.
¿Y qué hay detrás de esa puerta? En el correo están las facturas, los resúmenes del banco, los enlaces para recuperar contraseñas y conversaciones que nunca le contaríamos a un desconocido. En la agenda está dónde vamos a estar y con quién. En los contactos, nuestra red completa.
El problema no es solo lo que el asistente pueda hacer mal por su cuenta. Es que puede ser engañado en la puerta. Alcanza con un correo o un documento con instrucciones escondidas: el agente lo lee como parte de su trabajo y puede obedecerlas. En diciembre pasado, OpenAI mostró un ejemplo surgido de una de sus pruebas internas de seguridad. A un agente se le pidió que preparara una respuesta automática de “fuera de la oficina”. En la casilla había un correo malicioso con instrucciones ocultas, y el agente, en lugar de cumplir la tarea, le envió al director ejecutivo de la empresa una carta de renuncia en nombre del usuario de la prueba. La empresa reforzó sus defensas y sostiene que pueden reducir mucho el riesgo, pero también admite que este tipo de ataque, “como las estafas y la ingeniería social en internet”, probablemente nunca se resuelva del todo.
Por eso, antes de entregar las llaves, propongo hacerse cinco preguntas. ¿Qué puede ver: solo mi agenda o también todo mi correo? ¿Qué puede hacer sin preguntarme: leer, o también enviar y borrar? ¿Dónde quedan mis datos y quién más accede a ellos? ¿Puedo ver lo que hizo? ¿Puedo quitarle el acceso cuando quiera? Si no sabemos responderlas, todavía no es momento de tocar “Permitir”.
Hasta acá hablé de las llaves de nuestra propia casa. Pero la pregunta cambia de naturaleza cuando las llaves son de otros. Un paciente no eligió que un agente lea su historia clínica. Quien tiene un expediente en un juzgado no decidió qué herramientas usa el tribunal. En esos casos, el que toca “Permitir” es una institución, y las consecuencias las carga otra persona. El deber de proteger esos datos no desaparece porque una tecnología prometa eficiencia. Ahí ya no hablamos de comodidad, sino de confidencialidad, de derechos y de responsabilidad pública, y ninguna institución debería delegar en agentes sin antes probar en entornos acotados y con controles claros.
Desde la ingeniería, la respuesta no pasa por pedirle al agente que se porte bien. Las instrucciones nunca alcanzan, porque siempre queda algo que a nadie se le ocurrió prohibir. Hay que controlar el entorno donde trabaja: darle solo los permisos que necesita, separar los datos sensibles, exigir la confirmación de una persona antes de cualquier acción importante, llevar un registro de sus acciones que se pueda auditar y poder cortarle el acceso en cualquier momento. Es lo mismo que haríamos con alguien que entra a nuestra casa: no le damos todas las llaves, sino la de la habitación que tiene que ordenar.
Las llaves se pueden prestar. Pero antes hay que saber qué puertas abren, qué puede hacer quien las recibe y cómo recuperarlas. Y cuando las llaves no son nuestras, sino de nuestros pacientes o de los ciudadanos, la exigencia tiene que ser mayor. Porque una cosa es pedir ayuda. Otra muy distinta es entregar el contro
Ing. Virginia Santos, miembro del Consejo Departamental de Sistemas de la UTN Facultad Regional Córdoba y directora de Tecnología, Innovación y Sistemas de Fundación Idear Córdoba.
