Een nieuw softwaretool kan de kenmerkende sporen van AI-gegenereerde tekst verwijderen, waardoor machinegeschreven onderzoekspapers en subsidievoorstellen eruitzien alsof ze door mensen zijn gemaakt. Wetenschappers zijn gealarmeerd.
Het hulpmiddel, omschreven als een humanizer, geeft tekstgeneratiesystemen de opdracht om constructies te verwijderen die vaak met kunstmatige intelligentie worden geassocieerd. Het richt zich op de patronen en formuleringen die in academisch schrijven vaak verraden dat een tekst door AI is geschreven.
Een hulpmiddel dat de machine verbergt
De humanizer werkt door taalmodellen te instrueren om specifieke woordkeuzes en zinsstructuren te vermijden die algoritmes vaak produceren. Onderzoekers en subsidieaanvragers kunnen AI-gegenereerde concepten door het hulpmiddel halen, waarna de inhoud wordt herschreven om natuurlijker en minder robotachtig te klinken.
Dit is belangrijk omdat universiteiten, tijdschriften en financieringsinstanties methoden hebben ontwikkeld om AI-geschreven tekst te detecteren. Het nieuwe hulpmiddel zou die inspanningen volledig kunnen ondermijnen. Als AI-gegenereerde inzendingen niet meer te onderscheiden zijn van menselijk schrijven, kunnen de waarborgen die academische eerlijkheid moeten beschermen nutteloos worden.
Waarom onderzoekers zich zorgen maken
Wetenschappers in de Verenigde Staten en over de hele wereld hebben hun bezorgdheid geuit over het potentieel van het hulpmiddel om de academische literatuur te overspoelen met machinegeschreven papers. Peer review heeft al moeite met kwaliteitscontrole. Het toevoegen van ondetecteerbare AI-tekst zou het moeilijker kunnen maken om gepubliceerd onderzoek te vertrouwen.
Subsidievoorstellen zijn een ander punt van zorg. Financieringsbeslissingen zijn gebaseerd op het beoordelen van de originaliteit en het denkwerk achter een voorstel. Als aanvragers AI kunnen gebruiken om hun inzendingen te schrijven en dat vervolgens kunnen verbergen, kan het beoordelingsproces worden ondermijnd.
Het hulpmiddel poetst niet alleen tekst op. Het verwijdert actief de vingerafdrukken van AI-generatie. Dat maakt het anders dan standaard grammaticacontroles of stijleditors, die niet proberen de oorsprong van het schrijven te verbergen.
Een nieuw front in de AI-detectiewapenwedloop
Academische uitgevers en onderzoeksinstellingen staan nu voor een moeilijk probleem. Ze moeten beslissen hoe ze moeten reageren op een technologie die specifiek is ontworpen om hun detectiesystemen te omzeilen. Sommigen zullen wellicht investeren in geavanceerdere detectiemethoden. Anderen kunnen hun inzendingsbeleid wijzigen of een verklaring van AI-gebruik verplicht stellen.
De humanizer-tool vormt een directe uitdaging voor de groeiende consensus dat AI-gebruik in academisch schrijven transparant moet zijn. Veel tijdschriften eisen al dat auteurs vermelden wanneer ze AI-tools hebben gebruikt. Een hulpmiddel dat bewijs van AI-gebruik wist, maakt dergelijk beleid moeilijker te handhaven.
Voor nu bestaat het hulpmiddel en wordt het gebruikt. Wetenschappers die onderzoeksintegriteit bestuderen, zeggen dat de ontwikkeling een verontrustende verschuiving markeert in de relatie tussen AI en academisch publiceren.
