Un nouvel outil logiciel peut supprimer les signes révélateurs d’un texte généré par IA, rendant les articles de recherche et les propositions de subvention rédigés par machine semblables à des écrits humains. Les scientifiques sont alarmés.
L’outil, décrit comme un humaniseur, dirige les systèmes de génération de texte pour qu’ils suppriment les constructions souvent associées à l’intelligence artificielle. Il cible les schémas et les formulations qui trahissent généralement la paternité de l’IA dans les écrits académiques.
Un outil qui cache la machine
L’humaniseur fonctionne en demandant aux modèles de langage d’éviter certains choix de mots et structures de phrases que les algorithmes ont tendance à produire. Les chercheurs et rédacteurs de subventions peuvent soumettre des brouillons générés par IA à l’outil, qui réécrit ensuite le contenu pour le rendre plus naturel et moins robotique.
C’est important car les universités, les revues et les agences de financement ont développé des méthodes pour détecter les textes écrits par IA. Le nouvel outil pourrait compromettre complètement ces efforts. Si les soumissions générées par IA peuvent être rendues indiscernables de l’écriture humaine, les garde-fous destinés à préserver l’honnêteté académique pourraient devenir inutiles.
Pourquoi les chercheurs s’inquiètent
Des scientifiques aux États-Unis et dans le monde ont exprimé des inquiétudes quant au potentiel de l’outil à inonder la littérature académique d’articles rédigés par machine. L’évaluation par les pairs a déjà du mal avec le contrôle qualité. Ajouter du texte IA indétectable pourrait rendre plus difficile la confiance dans les recherches publiées.
Les propositions de subvention sont un autre domaine de préoccupation. Les décisions de financement reposent sur l’évaluation de l’originalité et de la réflexion derrière une proposition. Si les candidats peuvent utiliser l’IA pour rédiger leurs soumissions puis cacher ce fait, le processus d’examen pourrait être compromis.
L’outil ne se contente pas de polir le texte. Il supprime activement les empreintes digitales de la génération IA. Cela le rend différent des correcteurs grammaticaux ou des éditeurs de style standard, qui ne tentent pas de dissimuler l’origine de l’écriture.
Un nouveau front dans la course à la détection de l’IA
Les éditeurs académiques et les institutions de recherche sont désormais confrontés à un problème difficile. Ils doivent décider comment répondre à une technologie conçue spécifiquement pour contourner leurs systèmes de détection. Certains pourraient investir dans des méthodes de détection plus sophistiquées. D’autres pourraient modifier leurs politiques de soumission ou exiger des déclarations d’utilisation de l’IA.
L’outil humaniseur représente un défi direct au consensus croissant selon lequel l’utilisation de l’IA dans l’écriture académique devrait être transparente. De nombreuses revues exigent déjà que les auteurs divulguent quand ils ont utilisé des outils d’IA. Un outil qui efface les preuves de l’utilisation de l’IA rend ces politiques plus difficiles à appliquer.
Pour l’instant, l’outil existe et est utilisé. Les scientifiques qui étudient l’intégrité de la recherche affirment que ce développement marque un changement inquiétant dans la relation entre l’IA et l’édition académique.
