La novela ‘Donde el agua trabaja’, del autor peruano David Silva Rojas, ganadora en julio del primer Premio Internacional de Novela Breve Almadía Ventosa-Arrufat con un premio de 20.000 euros, está en el centro de un escándalo que cuestiona los límites entre la creación humana y la artificial. Según una investigación de El País, el detector de IA Pangram clasificó el 99% del texto de la obra como generado por inteligencia artificial, violando flagrantemente las bases del concurso que exigían la autoría humana exclusiva.
Pangram: el juez algorítmico bajo la lupa
Pangram es un clasificador de texto basado en redes neuronales diseñado para distinguir entre texto humano y generado por modelos de lenguaje. Desarrollado por Pangram Labs, la empresa afirma que su sistema tiene una tasa de falsos positivos del 0,0041% y de falsos negativos del 0,34%. Un estudio independiente de la Universidad de Chicago lo posicionó como menos propenso a clasificar texto humano como IA en comparación con otros detectores comerciales.
El método de detección empleado por El País no se limitó a este caso. Según explicó Kiko Llaneras, ingeniero de datos y coautor del artículo, analizaron 175 éxitos editoriales con Pangram. Los resultados fueron contundentes: 4 de cada 10 superventas autopublicados en Amazon contienen al menos un 25% de texto escrito con IA. Para calibrar el detector, utilizaron tres controles: 56 libros de 2019-2020 (previos a ChatGPT), que dieron 0% de IA; textos sintéticos generados por IA, correctamente identificados; y obras de autores consagrados como Javier Cercas, Isabel Allende y Antonio Muñoz Molina, que también arrojaron 0%.
La sombra de la duda sobre la infalibilidad
Parafraseando a Hitchcock, dudar de un detector de IA sigue siendo una buena idea. Existen pruebas serias que evidencian sus límites: cuando un ensayo humano pasa por una IA de consumo y es modificado sustancialmente, Pangram lo etiquetó como humano en el 41% de los casos. La industria misma reconoce el problema: OpenAI retiró su detector tras admitir su baja tasa de acierto, y aunque desarrolló otro teóricamente superior, no lo ha lanzado al mercado.
El País reconoce que Pangram no es infalible. Ángel L. Fernández Recuero demostró en Jot Down cómo añadir un simple espacio en un texto puede cambiar el veredicto del detector. El arquitecto y divulgador Pedro Torrijos lo puso a prueba el mes pasado con la novela francófona de moda, dejándolo en evidencia con un texto sencillo escrito a mano. Aunque la muestra era menor (aproximadamente una página), su experimento variando pocas palabras reveló vulnerabilidades significativas.
El problema de fondo: el porcentaje no es prueba de autoría
Un 99% de probabilidad no constituye una prueba definitiva de autoría. Estos sistemas estiman la probabilidad de que un texto se haya generado con IA, pero no delinean el papel exacto de la persona y la máquina. La obra pudo haber sido redactada, corregida, o incluso inspirada en tramas o personajes sugeridos por la IA. El caso extremo, aunque humano-humano, lo ilustran las memorias de Andre Agassi, escritas por el periodista J. R. Moehringer tras 250 horas de entrevistas pero firmadas por el extenista.
La pregunta crucial no se reduce a si hay IA, sino a cuánta y cómo se usó. Lo que sí es cierto es que las bases del concurso literario no dejaban lugar a dudas: la participación implicaba declarar que la obra no se había escrito, ni parcial ni totalmente, con herramientas de IA. Ante cualquier indicio, la obra quedaría descalificada. Hay algo distópico en que sea una IA la que determine si una obra está hecha con IA, y que su veredicto funcione como una espada de Damocles: un falso positivo puede destruir una reputación, mientras que un falso negativo no cuesta nada.
Enlaces útiles
Fuente: Xataka IA (Español)
