A esto le siguió una avalancha de acusaciones similares. Por ejemplo, el New York Times fue criticado por publicar en su columna Modern Love una entrega que Pangram calificó con un 100% de probabilidad de haber sido generada por IA. Después aparecieron más casos: un ganador del Premio Commonwealth de Relato Corto obtuvo también un 100%; la novela Daggermouth, un 60%; y el thrillerCall Me, I’ll Hide the Body, vendido por 2.4 millones de dólares, un 97%.
A finales de julio, Substack anunció que integraría Pangram en su plataforma para que los lectores pudieran detectar rápidamente un posible uso de IA. No todos los escritores ven esto como algo positivo. "Hay mucho rechazo y enfado hacia el software de detección de IA. Existe la sensación de que son más malvados que las propias empresas de IA", menciona Jane Friedman, autora y experta en edición.
Fuera del ámbito editorial y de la educación superior, Pangram no es un nombre muy conocido, pero sospecho que está a punto de serlo; la demanda de distinguir la producción de los grandes modelos de lenguaje (LLM) de la escritura humana crece día a día. La pregunta que hay que plantearse ahora es: ¿hasta qué punto se puede confiar en la empresa?
Tras terminar la carrera, Spero se incorporó a Google, donde trabajó en FLoC, una tecnología diseñada para sustituir las cookies de terceros agrupando a los usuarios de Chrome según sus intereses. Más tarde, Spero trabajó para la empresa de vehículos autónomos Nuro, mientras que Emi pasó por Tesla y la empresa de biotecnología especializada en IA Absci. Tras el lanzamiento de ChatGPT en 2022, el dúo vio una oportunidad para hacer frente a un futuro repleto de contenido generado por IA.
la detección de plagio, entre ellas Originality.ai, GPTZero y Turnitin; Pangram obtuvo buenos resultados en algunas de las primeras pruebas independientes y se situó como uno de los principales competidores.A medida que avanza nuestra entrevista, las respuestas de Spero parecen titubeantes, con pausas y reinicios, y no solo porque esté comiendo. Le pregunto por su filosofía de contratación. Transcurren quince largos segundos de silencio. Finalmente, vuelve a mirarme y dice: "La gente que trabaja en Pangram está aquí porque le importa la misión".
Para detectar la IA, Pangram utiliza un método denominado "reflejo sintético", mediante el cual toma textos escritos por humanos y hace que los LLM generen una réplica muy parecida.Esto enseña a su modelo cómo escribe la IA. Pangram también utiliza la 'hard negative mining' (minería de negativos duros), que consiste en buscar en los conjuntos de datos falsos positivos que pueda reflejar sintéticamente y utilizar para ampliar su conjunto de entrenamiento.
"Todos nuestros conjuntos de datos cuentan con las licencias adecuadas, algo que es poco habitual en el mundo actual de la IA", esboza Spero, aunque eso se debe a que el producto de Pangram consume muchos menos datos que ChatGPT o Claude. "No quiero criticar a las empresas de IA, pero creo que han perdido mucha confianza, especialmente en el mundo de los creativos". Pangram presta servicio a varios sectores, entre ellos la educación, el ámbito jurídico y la selección de personal, pero la escritura creativa constituye el segmento más importante del texto de entrenamiento.
La historia de The Shy Girl expuso Pangram al mundo
Spero ya había señalando casos sospechosos de escritura generada por IA en sus redes, así que no fue una sorpresa que, en enero, lo etiquetaran en una publicación de Reddit y, posteriormente, le enviaran un PDF del manuscrito de Ballard. "Lo introduje en Pangram, lo publiqué y, más tarde, New York Times me pidió declaraciones. Creo que la gente exagera la importancia de Pangram en la historia de Shy Girl". Como en un juego de teléfono descompuesto por escándalos de IA, fue un ejecutivo de cuentas de Pangram quien habló de la historia con un analista de la industria editorial, quien a su vez la llevó al Times.
Otro giro inesperado: los críticos de Pangram, incluido el proyecto de investigación The Drey Dossier, señalaron que la copia del manuscrito de Spero provenía de un sitio web de piratería. Cuando le pregunto a Spero sobre esto, contesta: "Sí. No lo revisé con mucho cuidado. No leí el PDF completo. Simplemente lo introduje directamente en Pangram".
Desde entonces, la empresa no ha estado al margen de la polémica. Después de que Pangram atribuyera una alta probabilidad de uso de IA al ganador del Premio de Cuento Corto de la Commonwealth, la compañía analizó a todos los ganadores desde 2012 y señaló otros tres posibles casos. Aun así, Spero minimiza el papel de Pangram, especialmente en los contratos editoriales que terminaron cancelándose. "Que yo sepa, en ninguno de los contratos editoriales la puntuación de Pangram ha sido realmente el tema central. Forma parte del asunto, pero si hablas con cualquiera de los implicados, verás que es solo una pieza pequeña de un panorama mucho más amplio".
anti-IA. Simplemente creemos que deberías saber lo que estás consumiendo", me dice un representante. Algunos autores se muestran desconfiados. Existe la sensación, me comenta uno de ellos, de que toda una carrera puede quedar destruida con solo pulsar un botón.la detección de IA. Su documento de trabajo ha sido ampliamente citado, y esos datos constituyeron la fuente original de las acusaciones contra Daggermouth.Me puse en contacto con las cinco grandes editoriales para preguntarles si utilizan herramientas de detección de IA. Simon & Schuster y HarperCollins se negaron a hacer comentarios; Hachette y Macmillan no respondieron. Un portavoz de Penguin Random House confirmó que sus editores pueden utilizar herramientas homologadas de detección de IA "como un medio adicional para identificar posibles contenidos generados por IA", pero que "no son determinantes y solo constituyen un componente más de un proceso editorial más amplio". Algunos agentes también utilizan la detección, y por cada acuerdo editorial que se hace público, otros se descartan discretamente entre bastidores.
Quería conocer la perspectiva de Chakrabarty. Se enteró de la existencia de Pangram por primera vez a través de una de las publicaciones de Spero a finales de 2024. Tras registrarse, Spero le envió créditos para la API. Desde entonces, los dos se han convertido en grandes amigos, me cuenta Chakrabarty, y Pangram ha seguido proporcionándole créditos para apoyar su investigación. Chakrabarty publica los resultados de Pangram en las redes sociales y defiende regularmente a la empresa. Afirma que se ha reunido con editoriales para hablar sobre la detección a raíz de los escándalos relacionados con la IA. "Pangram no debería ser el criterio definitivo".
Chakrabarty también mantiene una relación con Todd Shuster, codirector ejecutivo de Aevitas, una de las principales agencias literarias de Nueva York. Chakrabarty animó a Shuster a reunirse con Pangram. "Resultó ser una herramienta muy útil desde el primer momento. Mantuvimos conversaciones difíciles con los autores, porque Pangram revelaba que sus obras estaban escritas, entre un 50% y un 95% por IA", cuenta Shuster.
WIRED.comAdaptado por Alondra Flores.