Clarkesworld, qui est publié mensuellement en ligne depuis 2006 et fait paraître chaque année une anthologie en version imprimée, a notamment reçu un prestigieux prix Hugo en 2022. Il s'agit de l’un des rares éditeurs à accepter et rémunérer des textes venants de nouveaux auteurs, encore inconnus, rappelle le Guardian.
La semaine dernière, dans un post de blog, Neil Clarke, indiquait avoir «observé une augmentation du nombre de soumissions de spams» à son magazine depuis le début de la pandémie, en grande majorité des cas de plagiat. Mais, depuis la fin de l’année 2022, lui parviennent de plus en plus de textes générés par des robots conversationnels, tel le d'ores et déjà célèbre ChatGPT. L'éditeur a précisé sur Twitter que le nombre de ces soumissions avait explosé au cours des dernières semaines, le forçant à bannir quelque 500 personnes ayant proposé des textes frauduleux en février. A tel point de se retrouver dans l’impossibilité de faire face et de devoir mettre le système en pause depuis lundi.
Just to be clear, this is NOT the number of submissions we receive by month. This is the number of people we've had to ban by month. Prior to late 2022, that was mostly plagiarism. Now it's machine-generated submissions. https://t.co/YJdjBOTFmy
— clarkesworld (@clarkesworld) 21 février 2023
Selon lui, il s’agirait principalement de personnes «extérieures à la communauté de la science-fiction/fantasy» tentées par l’idée de «gagner facilement de l’argent avec ChatGPT». Neil Clarke dit avoir contacté plusieurs de ses pairs qui semblent être confrontés à des problèmes similaires.
ChatGPT, coauteur ou ghostwriter?
A la mi-février, Amazon vendait ainsi plus de 200 livres électroniques mentionnant ChatGPT comme auteur ou coauteur, selon une enquête de l’agence Reuters, qui cite notamment en exemple un recueil de poésie ou encore un livre illustré pour enfants. «Et ce nombre augmente chaque jour.»
Lorsque l’auteur numérique est clairement cité, il n’y a pas de véritable problème, mais «de nombreux écrivains ne révèlent pas qu’ils ont eu recours [à ChatGPT]. Il est presque impossible d’obtenir un décompte exhaustif du nombre de livres électroniques qui pourraient avoir été écrits par l’IA», poursuit Reuters. «Il doit y avoir une transparence de la part des auteurs et des plateformes sur la façon dont ces livres sont créés, sinon vous allez vous retrouver avec beaucoup de livres de mauvaise qualité», réagit Mary Rasenberger, du groupe Authors Guild qui redoute que l’écriture – même en tant que ghostwriter – ne passe «du statut d’artisanat à celui de marchandise».
Or, les solutions pour limiter ce phénomène, comme la détection automatique de ces textes, sont loin d’être parfaites. En effet, à mesure que les chatbots se perfectionnent, il devient de plus en plus difficile de déterminer avec certitude si un texte est généré par ordinateur ou écrit par un humain, relève le magazine Vice qui précise que même OpenAI – l’entreprise derrière ChatGPT – a convenu que son propre détecteur de textes rédigés par le chatbot «n’est pas totalement fiable».
Pour ce qui est de Clarkesworld, Neil Clarke envisage plusieurs possibilités, telle que l’introduction de soumissions payantes. Mais s’il devait en arriver là, ce serait à regret; il dit en effet craindre, qu’à terme, tous ces changements imposés par des fraudeurs «n’entraînent un nombre croissant d’obstacles pour les nouveaux auteurs». Or «la fiction en format court a besoin de ces personnes».