CFOTO/Sipa USA/SIPA
L’avènement de ChatGPT, le chatbot développé par OpenAI, a été salué pour son utilité dans divers domaines, mais des témoignages révèlent des préoccupations quant à sa propension à générer des informations scientifiques douteuses.
Des témoignages tels que celui de Teresa Kubacka, data scientist, pointent du doigt la capacité de ChatGPT à fournir des explications et des citations apparemment solides, mais vérifiables comme fausses. Des expériences ont montré que le chatbot peut être manipulé pour donner des informations incorrectes, soulevant des inquiétudes sur la fiabilité de ses réponses.
Une étude publiée dans Patterns met en garde contre le potentiel de ChatGPT à produire des publications scientifiques fictives. Les chercheurs ont demandé au chatbot de rédiger un résumé sur les effets des médicaments contre la polyarthrite rhumatoïde. Cela a dévoilé sa capacité à générer des données médicales convaincantes, même en l’absence de données réelles. Cette constatation soulève des préoccupations quant à l’influence potentielle de publications erronées sur d’autres recherches.
> ChatGPT : tout savoir sur cet outil d’intelligence artificielle
L’utilisation croissante de ChatGPT par des scientifiques pour la rédaction d’articles suscite des questions éthiques. Certains chercheurs admettent avoir recours à ChatGPT pour rédiger des publications scientifiques, alimentant le débat sur la transparence dans le processus de création intellectuelle. L’émergence de pratiques où l’intelligence artificielle joue un rôle prépondérant soulève des interrogations sur la préservation de l’intégrité de la recherche.
Au-delà de son efficacité indéniable, ChatGPT présente des défis éthiques et factuels. Ses tendances à inventer des faits, à manquer de précision dans la citation et à potentiellement incorporer des biais soulèvent des préoccupations quant à son utilisation dans le domaine scientifique. Certains éditeurs de revues signalent un rejet croissant d’articles de qualité médiocre générés par ChatGPT, mettant en évidence les risques pour l’intégrité du processus de publication scientifique.
L’évolution complexe de l’interaction entre ChatGPT et la production scientifique appelle à une réflexion approfondie sur les pratiques émergentes. Si l’efficacité du ChatGPT dans la rédaction est incontestable, les chercheurs et les éditeurs doivent maintenir des normes éthiques rigoureuses pour préserver l’intégrité de la recherche scientifique. Ils doivent également minimiser le risque de connaissances erronées et veiller à ce que l’intelligence artificielle apporte une contribution constructive au domaine académique.
> Intelligence artificielle : l’appel de médias internationaux pour un encadrement d’usage
