L’intelligence artificielle ne menace pas seulement de produire de mauvais textes. Dans la recherche, elle peut désormais fabriquer de fausses références, de fausses images et parfois de faux résultats qui finissent par être cités comme de la vraie science. Le CNRS estime que ce phénomène aggrave une crise déjà profonde de la publication scientifique.
Il faut d’abord éviter un raccourci : utiliser ChatGPT ou une autre IA pour améliorer un texte scientifique n’est pas nécessairement frauduleux. Pour le CNRS, le problème commence lorsque cet usage est dissimulé, ou lorsque la machine invente des données et des sources que personne ne vérifie. L’auteur humain reste responsable de ce qu’il publie. Et l’usage de l’IA devient massif. Une étude récente portant sur plus d’un million d’articles biomédicaux en anglais estime que 77 % des publications de 2025 présentent des signes d’assistance par un grand modèle de langage, et près de 90 % pour le seul mois de décembre. Attention : cette étude est encore une prépublication, et détecter une aide rédactionnelle ne signifie absolument pas détecter une fraude.
Le vrai danger vient de l’effet d’échelle. En mai, une analyse de 2,5 millions d’articles biomédicaux a identifié près de 3 000 publications contenant des références impossibles à retrouver. Et une erreur scientifique ne disparaît pas lorsqu’un article est retiré : d’autres chercheurs peuvent déjà l’avoir cité et utilisé comme fondation de leurs propres travaux. Le CNRS rappelle qu’environ 10 000 articles ont été rétractés sur 4,5 millions publiés dans le monde en 2023. Près de 640 000 publications citeraient au moins un article rétracté. L’IA n’a pas créé ce problème : elle peut simplement accélérer une machine déjà poussée par le fameux « publier ou périr » et par certains modèles économiques où les auteurs paient pour être publiés.
En France, le CNRS répond notamment avec BibCheck, un outil capable de repérer dans une bibliographie des articles rétractés ou des références potentiellement inventées. Il défend aussi une évaluation moins obsédée par le nombre de publications. Car le risque ultime n’est pas que l’IA écrive des articles. C’est qu’elle permette de produire de la science plus vite qu’on ne peut la vérifier. Et dans un système de connaissance fondé sur la confiance dans les travaux précédents, quelques fausses briques suffisent à fragiliser tout ce qu’on construit dessus.
","author_name":"Choses à Savoir"}