El 28 de julio, algo más de mil personas que construyen la inteligencia artificial más avanzada del mundo firmaron una carta dirigida al gobierno de Estados Unidos. Pedían algo muy preciso y, a mi juicio, inquietante: que sea el Estado quien impulse, junto a otros países, las herramientas técnicas y de gobierno necesarias para poder regular el ritmo de la tecnología que ellos mismos están creando.
Entre los firmantes hay pesos pesados: Dario Amodei, CEO de Anthropic, la empresa de Claude; los jefes científicos de OpenAI, la de ChatGPT, y de Meta; y la responsable de seguridad de IA de Google DeepMind, la de Gemini. Hoy ya son 1.386.
Reconocen que esta tecnología puede avanzar más rápido de lo que somos capaces de entender o controlar, y que ninguna empresa puede frenar sola sin quedar atrás de sus competidores. Quienes empujan el acelerador piden que alguien construya el freno antes de necesitarlo. El problema es a quién se lo pidieron.
La respuesta llegó en septiembre, y no fue una política pública. El 14, el presidente Donald Trump escribió en su red social que detrás de los pedidos de control hay una "conspiración enfermiza", que el único límite que necesita la IA es "un presidente fuerte e inteligente" y que la idea de una IA que ponga en riesgo a la humanidad es un engaño. El 22, en el marco de la Asamblea General de las Naciones Unidas, fue más lejos: propuso dejar de llamarla "inteligencia artificial", porque "artificial suena falso", y rebautizarla "super".
Podría quedarme en esa paradoja. Pero me preocupa más una pregunta que casi nadie está haciendo: aun si ese freno existiera, ¿Quién sabría cuándo apretarlo?
El nuevo mapa tech de Córdoba: menos código, más productos y una apuesta regional
Durante años repetimos que la solución era mantener "al humano en el circuito". Es una buena regla, pero ya no alcanza. Un humano que supervisa un sistema que no entiende no es un control: es un sello. Lo que necesitamos no es solo un humano en el circuito, sino un humano capaz de entender el circuito.
Y esto no es un debate lejano, de Silicon Valley. Está pasando en Tribunales, en Córdoba. El Poder Judicial de la provincia ya utiliza un sistema llamado DACIA —Despacho Automático con Inteligencia Artificial— para analizar la admisión de demandas de alto volumen: ejecuciones fiscales, cobros particulares, sucesiones, conciliaciones laborales.
Desde agosto, además, cualquier ciudadano puede usar Jurisemia, un buscador de jurisprudencia con IA que entiende preguntas en lenguaje común. Y con reglas: el acuerdo que la reguló, en mayo, exige al menos dos revisiones humanas antes de publicar cada fallo. Córdoba no se quedó mirando pasar la tecnología.
Pero la supervisión humana vale lo que vale la formación de quien supervisa. La pregunta no es si la herramienta funciona. Es si estamos formando a quienes la controlan a la misma velocidad con la que la herramienta cambia.
Como docente, conozco bien esa asimetría. Formar criterio en un estudiante —enseñarle no solo a usar una herramienta, sino a dudar de lo que le devuelve— lleva años. Un modelo nuevo de inteligencia artificial aparece cada pocos meses, y cada uno puede hacer cosas que el anterior no podía. Esa es la verdadera carrera, y no es entre Estados Unidos y China ni entre empresas: es entre lo que las máquinas aprenden a hacer y lo que aprendemos quienes tenemos que gobernarlas.
La buena noticia es que hay quienes ya están corriendo esa carrera. Desde febrero de 2025, la Ley de Inteligencia Artificial de la Unión Europea obliga a las organizaciones que usan estos sistemas a garantizar que su personal tenga formación suficiente en IA. En enero de este año, el Consejo General del Poder Judicial de España aprobó una instrucción que reserva a los jueces la última palabra sobre hechos, pruebas y derecho, y prevé programas de capacitación para que puedan usar la IA sin delegar en ella. En la Argentina, el Consejo de la Magistratura de la Nación tiene en análisis un proyecto del juez Carlos Rosenkrantz para reformar la formación de futuros magistrados, que incluye un curso específico sobre inteligencia artificial y nuevas tecnologías.
Ese mismo Consejo renueva el 20 de octubre la representación de los abogados. Una de las listas, Abogacía Federal, incluye entre sus ejes una escuela judicial federal y la aplicación de inteligencia artificial al Poder Judicial. Su primer candidato suplente, Juan Manuel Aráoz Ortega, fundador de Fundación Idear —espacio que comparto—, lo plantea en sus encuentros de campaña con abogados: capacitar a los jueces. "Es una herramienta que ya se está utilizando; no es algo de futuro, es algo bien de presente", me explicó.
Y advierte un riesgo concreto: si los estudios jurídicos la usan casi sin control y los jueces no la conocen, esos usos "pueden inducir a errores a la magistratura en la toma de decisiones". No lo plantea contra la herramienta: bien conocida, dice, puede darle "más transparencia" a los procesos y "reducir la mora en la justicia". Eso muestra algo que empieza a ocurrir: la discusión ya no pasa solamente por incorporar inteligencia artificial, sino por preparar a quienes deberán conservar la decisión.
Durante décadas nos preguntamos cuánto llegarían a pensar las máquinas. Tal vez la pregunta que importa ahora sea menos cinematográfica: cuánto necesitamos entender nosotros para seguir siendo quienes deciden. Quienes construyen la inteligencia artificial ya pidieron que construyamos el freno antes de necesitarlo. Lo que todavía falta es asegurarnos de que, si alguna vez llega el momento de usarlo, haya alguien preparado para saber cuándo.
Ing. Virginia Santos
Directora de Tecnología, Innovación y Sistemas de Fundación Idear Córdoba
