Des articles scientifiques entièrement générés par IA peuvent-ils passer les filtres des revues ? Le journaliste et docteur en mathématiques appliquées Benjamin Skuse a tenté l’expérience auprès de l’éditeur IEEE. D’après le récit publié par IEEE Spectrum, les contrôles de l’éditeur tiennent pour l’instant, mais la course entre contenus artificiels et outils de détection reste serrée.
- Un journaliste a produit un faux article scientifique avec une IA, mais l’éditeur IEEE a pour l’instant résisté.
- Les modèles avancés produisent des textes crédibles, ce qui rend la détection de plus en plus difficile.
- Wikipédia affronte le même problème avec moins de moyens, grâce à des bénévoles qui suppriment les contenus générés par IA.
- Si la fiabilité des connaissances s’effrite, la confiance envers les institutions qui les tiennent à jour s’affaiblit.
Le reportage de Benjamin Skuse, intitulé « I Used AI to Fake a Scientific Paper », décrit la facilité avec laquelle un texte à peu près plausible et à peu près scientifique peut être produit. Selon Eliza Strickland, rédactrice en chef des fonctionnalités et de l’IA chez IEEE Spectrum, il a été surpris par la simplicité de la démarche. « Il a simplement appuyé sur «run experiment» et «write paper». Et ensuite, il n’a pas fait la moindre chose. Il l’a juste lancé dans la gueule du système de publication », raconte-t-elle.
Selon Benjamin Skuse, la combinaison de la relecture humaine et des programmes de vérification de l’intégrité de la recherche d’IEEE permet, pour le moment, de suivre le rythme de ces tentatives, qui relèvent d’un jeu du chat et de la souris face aux outils gratuits. Les grands modèles de langage plus avancés ne commettent toutefois plus les erreurs grossières de leurs versions gratuites. Les éditeurs se trouvent ainsi engagés dans une course entre des contenus de plus en plus crédibles et les systèmes chargés de les repérer. Pour rappel, un grand modèle de langage, ou LLM, est un programme entraîné sur de vastes volumes de textes pour produire du langage.
Wikipédia en première ligne
Les éditeurs scientifiques ne sont pas les seuls à résister. Wikipédia fait face au même problème. Dans le cadre de sa rubrique « Five Questions », Eliza Strickland a interrogé Ellia Lebleu, membre fondateur de WikiProject AI Cleanup, une initiative de bénévoles qui vise à détecter et supprimer les contenus générés par IA sur la plateforme. Son équipe affronte la même difficulté que les éditeurs commerciaux, mais avec moins de personnes et moins d’outils.
Pour Eliza Strickland, Wikipédia est reconnue comme un réservoir d’informations produites par des humains, et la plateforme entend bien le rester. « Qui sait combien de temps ils pourront le faire ? », s’interroge-t-elle.
La question dépasse le cadre de ces deux acteurs. Si l’on ne peut plus considérer collectivement que la littérature scientifique est fiable, ou que les faits de base sur le monde sont exacts, la compréhension de ce qui est réel devient incertaine. Cette incertitude fragilise la confiance envers les institutions chargées de tenir à jour le corpus des connaissances humaines.
Eliza Strickland évoque aussi une perspective plus inquiétante. « N’est-ce pas fou que nous ayons, à un moment, des IA qui écrivent pour d’autres IA ? Nous serons simplement exclus de la boucle. »
