En octubre de 2025, la Cámara Penal de Esquel, en Chubut, anuló de oficio una condena. El juez había dejado pegada en su sentencia una frase que no era suya: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”. Era la respuesta de un asistente de inteligencia artificial.
La Cámara advirtió que no se podía distinguir qué había razonado el juez y qué la máquina, y que, al cargar en ella los nombres de partes, testigos y peritos, pudo haber expuesto datos sensibles. En marzo de 2026, el Superior Tribunal de Chubut revocó esa nulidad: entendió que no pudo probarse que ese copiar y pegar hubiera sustituido el razonamiento del juez exige anonimizar los datos, no alcanza por sí solo para anular un fallo si no se acredita un perjuicio real a la defensa.
Que dos tribunales lleguen a conclusiones opuestas sobre el mismo caso muestra que la pregunta sigue abierta: ¿dónde termina la asistencia informática y dónde empieza la delegación indebida de la función de juzgar? No es un caso aislado.
En agosto de 2025, en Rosario, se dictó la primera sentencia del país sobre un abogado que citó jurisprudencia inexistente generada por una IA. En General Roca se detectaron 26 fallos inventados, citados por ambas partes de un mismo juicio: litigaban sobre fantasmas jurídicos.
El debate por la regulación de la IA: Quién aprende más rápido
En Azul, la Cámara anuló este año la resolución de un juzgado de familia fundada en citas falsas. El acto de juzgar es indelegable: nuestra Carta Magna confía la administración de justicia a personas que responden por sus decisiones. Por eso una sentencia debe ser fundada: el juez tiene que explicar el camino lógico que lo llevó a condenar o a absolver, para que la defensa pueda revisarlo y apelar. Si ese razonamiento lo produce un sistema automático, la sentencia se convierte en un acto de fe.
Los modelos de lenguaje calculan cuál es la palabra más probable que sigue a la anterior. No razonan como un juez y no verifican si lo que dicen es verdad. Por eso pueden redactar un texto impecable, con tono jurídico, e inventar un fallo de punta a punta. A eso se suma la opacidad. Ni siquiera quienes diseñan estos sistemas pueden reconstruir paso a paso por qué dieron una respuesta.
El problema no es que una herramienta intervenga en el trabajo judicial; es que su intervención no pueda ser controlada, explicada y asumida por quien tiene la responsabilidad de decidir. Hay otra dimensión del problema que trasciende los despachos judiciales y toca a cualquier ciudadano: la privacidad y las garantías procesales.
En julio de 2025, el director de OpenIA Sam Altman admitió que las conversaciones con ChatGPT no tienen secreto profesional, como sí lo tienen las que se mantienen con un abogado o un médico. En Estados Unidos, en el juicio por el incendio de Palisades, la fiscalía usó como prueba los chats del acusado con ChatGPT. Y en el litigio del New York Times contra OpenAI, una jueza ordenó conservar las conversaciones de los usuarios, incluso las borradas.
En la Argentina, la Constitución Nacional garantiza que nadie puede ser obligado a declarar contra sí mismo: la garantía de no autoincriminación.
El debate exige distinguir cómo se obtienen esas conversaciones, bajo qué reglas se admiten como prueba y cómo se preserva aquella garantía cuando lo escrito quedó en los servidores de una empresa.
Malabares en un cable: La IA avanza, las reglas llegan tarde
Sería un error hablar de un vacío absoluto. En Córdoba, el Tribunal Superior de Justicia reguló Jurisemia, su buscador de jurisprudencia con IA, con doble revisión humana. La Suprema Corte bonaerense puso en consulta reglas que prohíben delegar decisiones en una IA. Y en septiembre, la Corte Suprema de la Nación aprobó, mediante la Resolución 2305/2026, un acuerdo para incorporar una herramienta de anonimización de sentencias, sobre todo las que involucran a niñas, niños y adolescentes, con revisión humana de los resultados.
Lo que falta es un piso común. En Europa, la ley de IA clasifica como de alto riesgo los sistemas que asisten a los jueces y prohíbe, por ejemplo, predecir si alguien cometerá un delito solo a partir de su perfil. En la Argentina, cada tribunal avanza por su cuenta.
Cuatro criterios
Como profesionales del derecho y de la ingeniería, proponemos cuatro criterios para el uso de la IA en la justicia:
- No delegar la decisión ni la fundamentación. El juez no puede ceder a un algoritmo la valoración de la prueba ni la construcción de su razonamiento.
- Transparencia sobre los usos permitidos. Cada tribunal debe explicitar qué tareas se apoyan en IA y cuáles están vedadas, y dejar constancia en cada causa de su uso.
- Evidencia técnica pertinente. No siempre es posible ni necesario acceder al código fuente completo, pero sí exigir documentación técnica, tasas de error validadas y la posibilidad de un peritaje independiente.
- Garantías por encima de los términos de servicio. El secreto profesional, la privacidad y la garantía contra la autoincriminación no pueden depender de las condiciones que fija una empresa que guarda historiales de chat en servidores externos, aun cuando el proceso exija probar un perjuicio concreto para anular un fallo.
La tecnología puede agilizar la gestión judicial. El desafío no es cerrar la puerta a la innovación, sino garantizar que detrás de cada sentencia exista siempre un juez capaz de explicar y asumir las razones de su decisión, y no un algoritmo que reproduce probabilidades sin que nadie responda por ellas. En la justicia, el control debe ser siempre humano.
Magdalena Azcurra Cattaneo
Abogada, especialista en Cibercrimen y Sistema Acusatorio Adversarial. Ing. Virginia Santos es miembro del Consejo Departamental de Sistemas de la UTN Facultad Regional Córdoba y directora de Tecnología, Innovación y Sistemas de Fundación Idear Córdoba.