La organización “analiza todos los elementos que nos permiten determinar con mayor certeza si una persona ha escrito la obra, es decir, si esta se ha creado mediante un proceso natural de redacción y revisión”, explica Dennys.
Books by People cobrará a las editoriales una cuota fija de afiliación, más una suma adicional por cada libro que presenten para su certificación. Hasta ahora se han inscrito cinco editoriales. La startup espera que el nuevo sello aparezca en su primer libro a finales de año.
Este año, el sector editorial se ha visto envuelto en una oleada de escándalos relacionados con el presunto uso de la IA por parte de los autores. Un agente literario canceló un contrato editorial por un valor de 2 millones de dólares, una editorial retiró una novela de las estanterías, y los lectores alegaron que un relato corto galardonado había sido generado con IA.
Los escritores y editores no están necesariamente preocupados por ser sustituidos por la IA, según explican a WIRED fuentes del sector. Creen que, en última instancia, pocas personas querrán leer libros generados por máquinas.
Crisis de confianza
“Básicamente, estás al final de una cinta transportadora, viendo cómo las cosas se caen por el borde. Una vez que sabes eso, te impide involucrarte emocionalmente de verdad con lo que sea que caiga en tus manos desde esa cinta”, compara el autor de ciencia ficción Ted Chiang, cuya novela corta de 1998 Story of Your Life (La historia de tu vida) fue adaptada a la película La llegada, ganadora de un Óscar. “El conocimiento de cómo se ha creado algo no puede separarse de tu experiencia”.
Sin embargo, los repetidos escándalos podrían socavar la confianza del público en la regla tácita del mundo editorial: que cada libro que llega a las estanterías ha sido escrito por una persona real que no ha incurrido en plagio.
“El mundo editorial siempre se ha basado en la confianza entre la editorial, el escritor y el público lector. Los casos en los que se ha traicionado esa confianza han sido escasos”, afirma Sam Jordison, codirector de la editorial independiente Galley Beggar Press, que tiene la intención de adoptar el sello Books by People. “Casi produce repulsión la idea de leer un texto generado por IA que pretende ser humano. Da la sensación de que es una estafa”.
ensayo reciente. “Al software de detección de IA le bastan dos minutos para arruinar el trabajo de toda una vida”. (Pangram no respondió a una solicitud de comentarios.)¿Una futura caza de brujas?
Otros han advertido contra la normalización de un escrutinio extremo de los autores. Señalan que los sistemas de etiquetado están planteando una solución al revés; la responsabilidad debería recaer en las plataformas y las editoriales a la hora de declarar cuándo un contenido está generado por IA, no cuándo está escrito por una persona. “A los autores se les interroga constantemente sobre el origen de sus ideas y su obra. Creo que es algo a lo que debemos oponernos”, opina West. “Lo normal debería ser que se dé por hecho que un libro ha sido escrito por un ser humano”.
Aprobado por la Oficina de Propiedad Intelectual junto con la marca, el proceso de verificación de Books by People difiere del enfoque de Pangram, que da prioridad a la tecnología. Books by People concede mayor importancia al análisis de documentos y registros de comunicación en busca de indicios de humanidad. “Yo no lo llamaría detección mediante IA”, indica Dennys. “Nos dimos cuenta bastante pronto de que, a medida que los modelos de IA mejoran, entrar en esa carrera nunca va a ser sostenible”.
En los casos en los que Books by People no tiene claro si una prueba indica el uso de IA, sostiene que se decanta a favor del autor. “Cuando se trata de un proceso público que ha sido sometido a un control riguroso, lo único que podemos hacer es asegurarnos de que un libro haya pasado por ese proceso”, explica Dennys. “El pilar fundamental de nuestra organización es evitar que [los escritores] sean acusados injustamente”.
Algunos autores manifiestan que lo importante es que las editoriales destaquen su compromiso con la literatura escrita por seres humanos como una norma innegociable para el sector, de cualquier forma que puedan. Incluso si los métodos para velar por el cumplimiento de la norma son imperfectos.
“Es tan importante que las editoriales tengan una política de ‘no hacer trampa’ como lo es para las universidades, aunque no exista un método perfecto para hacerla cumplir”, argumenta Chiang. “Es una declaración de valores”.
Artículo originalmente publicado enWIRED.com. Adaptado por Mauricio Serfatty Godoy.