Puede una inteligencia artificial reemplazar el criterio de un juez o de un perito? La pregunta ya no es hipotética. En Cartagena, un juez incorporó respuestas completas de ChatGPT a una sentencia sobre cobertura de terapias para un niño autista, y escribió que la IA le permitía "optimizar el tiempo" y "ampliar los argumentos" de su decisión.
En Nueva York, un abogado presentó ante un tribunal federal un escrito con seis precedentes judiciales que ChatGPT había inventado por completo: casos que nunca existieron, con nombres y citas verosímiles. El juez habló de una "circunstancia sin precedentes" y lo citó a una audiencia por posibles sanciones.
Incomoda porque desnuda algo que preferimos no discutir: la Justicia siempre delegó parte del trabajo intelectual, en secretarios, en peritos, en jurisprudencia escrita por otros. La IA generativa no inventa esa delegación, la industrializa: no delega tareas, delega criterio, con una velocidad y una apariencia de autoridad que los mecanismos anteriores no tenían.
Un modelo de lenguaje no "ve" el derecho, predice la palabra más probable según patrones de texto"
En Minority Report (2002, Spielberg, sobre el cuento de Philip K. Dick), Tom Cruise interpreta a John Anderton, jefe de la división Precrimen: la Justicia condena antes del delito porque tres "precogs" ya vieron el futuro. Nadie los audita, se les cree porque el sistema los necesita infalibles, hasta que Anderton descubre que una visión puede estar equivocada y que el próximo condenado es él mismo.
Con la IA judicial pasa algo parecido, aunque menos cinematográfico: un modelo de lenguaje no "ve" el derecho, predice la palabra más probable según patrones de texto.
Cuando no encuentra el patrón, no dice "no sé": inventa uno plausible. Eso se llama alucinación, y no es un defecto raro. Un estudio de Stanford de este año midió herramientas legales especializadas, no ChatGPT genérico sino productos diseñados para investigación jurídica, y encontró errores en el 17% de las consultas, cerca de una de cada seis.
Con ChatGPT sin adaptar al uso legal, la tasa de error medida llegó al 82%. La conclusión de los investigadores fue directa: "las alucinaciones legales no están resueltas".
El cuello de botella no es la tecnología, es la ausencia de control humano efectivo antes de que el texto llegue al expediente. Un perito o un juez que usa IA como asistente no comete un error automáticamente; lo comete si no verifica cada cita y cada dato antes de firmarlo. El problema es que verificar lleva tiempo, y el tiempo es justo lo que estas herramientas prometen ahorrar. La tentación de creer que "la máquina ya sabe" crece con la sobrecarga de tribunales y estudios jurídicos.
Argentina ya tiene su propio antecedente. La Sala I del Tribunal de Casación Penal de Buenos Aires confirmó este año una condena, y dedicó buena parte del fallo a la validez de la prueba digital en la era de los contenidos generados por IA.
Reconoció que la evidencia digital "puede copiarse infinitamente, modificarse sin dejar rastros" y hoy también ser fabricada por sistemas generativos, pero aclaró que la condena no dependía de un audio cuestionado sino de un conjunto probatorio evaluado en su totalidad: exactamente la prudencia que la Justicia necesita frente a estas tecnologías, ni descartarlas ni idolatrarlas, contrastarlas.
Lo que se podría cambiar no es exótico: protocolos obligatorios de verificación humana con firma de responsabilidad, capacitación para peritos y magistrados sobre las limitaciones reales de estos sistemas, y auditorías periódicas de las herramientas que contratan los tribunales. Nada de esto exige prohibir la IA en la Justicia; exige dejar de tratarla como un oráculo y tratarla como lo que es, un asistente que se equivoca con la misma seguridad con la que acierta.
La limitación honesta es que ningún protocolo elimina el error humano de no revisar. La tecnología puede ayudar a detectar sus propias alucinaciones, pero la firma al pie de la sentencia o del dictamen pericial sigue siendo, y debería seguir siendo, de una persona. En Minority Report el sistema cae cuando Anderton, ya del otro lado, pregunta qué pasa cuando los precogs no coinciden; a la Justicia argentina todavía le falta esa pregunta.
Mi conclusión es que las tareas se pueden delegar, las responsabilidades no.
