Un detector de IA vuelve a poner bajo sospecha a otro escritor premiado

Una novela premiada, un escritor que niega las acusaciones y un programa informático que asegura saber cómo se escribió un libro. El episodio empieza a resultar familiar. Esta vez le tocó al peruano David Silva Rojas, cuya novela Donde el agua trabaja obtuvo en julio el Premio Internacional de Novela Breve Almadía Ventosa-Arrufat, dotado con 20.000 euros. El jurado, integrado por Cristina Rivera Garza, Selva Almada y Mónica Ojeda, la eligió entre 2.204 manuscritos. Tres escritoras que saben leer literatura y que ahora deben convivir con el dictamen de Pangram, un detector de inteligencia artificial que atribuye a una máquina el 99% de las aproximadamente 26.000 palabras del libro.

La noticia, publicada hoy por el diario español El País, provocó la suspensión de la presentación de la novela en Madrid y de otras actividades previstas en España. La editorial Almadía anunció una investigación. Silva Rojas negó haber utilizado inteligencia artificial. Las bases del concurso prohibían expresamente su empleo, incluso parcial, de modo que la cuestión tiene consecuencias económicas y contractuales. El problema consiste en determinar qué clase de prueba constituye el porcentaje que aparece en la pantalla de Pangram. 

El programa también examinó una entrevista con el autor y atribuyó a la inteligencia artificial el 97% de sus respuestas. Otro texto, donde Silva Rojas explicaba el origen de la novela, recibió un 80%. A juzgar por semejante acumulación de resultados, podría sospecharse que el escritor delegó hasta sus explicaciones personales en una máquina. También podría ocurrir que Pangram estuviera reconociendo ciertas características de su escritura y las confundiera sistemáticamente con las de los modelos generativos.

Hace apenas un mes ocurrió algo semejante con Thélyson Orélien, escritor haitiano-canadiense cuya novela C’était ça ou mourir se convirtió en uno de los éxitos de la temporada literaria francesa. Una cuenta anónima de X difundió análisis de Pangram que atribuían a la inteligencia artificial prácticamente la totalidad de varios pasajes. La acusación adquirió proporciones considerables: la Academia Goncourt retiró el libro de su selección y Orélien interrumpió su gira promocional.

Pero el caso francés incorporó esta semana un elemento que obliga a distinguirlo del peruano. La editorial Boréal examinó las versiones de trabajo del manuscrito y encontró rastros de etiquetas de inteligencia artificial en los metadatos de algunos documentos. El 21 de octubre anunció la ruptura de su relación con Orélien. El escritor reconoció que utilizó herramientas de IA para investigar cuestiones históricas, aunque sostuvo que ninguna frase de la novela fue generada por ellas. La editorial admitió que desconoce el alcance de esa intervención. Orélien también reconoció plagios en trabajos anteriores, una cuestión distinta de la autoría de esta novela. 

El hallazgo de metadatos introduce una prueba material que faltaba en la denuncia original. Permite discutir documentos y procedimientos concretos. Pangram, en cambio, ofrece un resultado estadístico cuya apariencia de exactitud puede resultar engañosa. Un 99% impresiona bastante más que una sospecha expresada con palabras. Sin embargo, ese número no equivale a demostrar que el 99% de las frases proceden de una máquina.

La empresa sostiene que su tasa de falsos positivos es apenas del 0,0041%, según sus propias pruebas. Es una cifra extraordinaria, aunque la precisión general de un sistema no garantiza el acierto de cada veredicto. Un detector puede equivocarse con determinados géneros, lenguas o estilos. Su propia documentación reconoce limitaciones y diferencias de rendimiento. 

El prestigio de un premio tampoco certifica que su ganador escribió cada palabra. Pero convendría exigir pruebas verificables antes de convertir una clasificación automática en una condena pública. Mientras se investiga el caso Silva Rojas, una pregunta incómoda empieza a imponerse: ¿hasta qué punto es razonable confiarle a Pangram la autoridad de decidir quién escribió un libro?

Cuando la IA descubre a sus antepasados

F.F.

La aparición de los detectores de IA produjo una curiosa anomalía cronológica: textos escritos mucho antes de que existieran ChatGPT y sus competidores comenzaron a recibir diagnósticos de autoría artificial. Novelas decimonónicas, investigaciones universitarias y trabajos académicos anteriores a 2022 sirven ahora como material de control para poner a prueba esos programas.

En septiembre, durante la polémica por Orélien, circularon en Francia capturas de Pangram que atribuían a la IA textos supuestamente escritos antes de ChatGPT. La propia empresa cuestionó esas pruebas y pidió verificar la procedencia de los originales. No se pudo establecer públicamente que todos los ejemplos fueran auténticos. 

Un estudio de Epoch AI examinó 495 fragmentos humanos, incluidos textos anteriores a ChatGPT. Originality.ai produjo 19 falsos positivos, todos correspondientes a escritos previos a esa tecnología. Pangram, en cambio, no produjo ninguno en esa muestra. 

Otra prueba realizada en octubre utilizó fragmentos de Germinal, de Émile Zola, publicada en 1885, y El Horla, de Guy de Maupassant, de 1887. Un detector atribuyó erróneamente a Zola una elevada probabilidad de autoría artificial, mientras Pangram identificó correctamente el fragmento. 

Estos casos confirman la existencia de falsos positivos, aunque sería incorrecto adjudicar a Pangram resultados del 100% en novelas o tesis antiguas sin pruebas documentadas. La paradoja persiste: una tecnología capaz de reconocer patrones de escritura puede terminar encontrándolos también en autores que murieron un siglo antes de su invención.