Uma nova ferramenta de software consegue remover os sinais característicos de texto gerado por inteligência artificial, fazendo com que artigos de pesquisa e propostas de financiamento escritos por máquina pareçam feitos por humanos. Cientistas estão alarmados.
A ferramenta, descrita como um humanizador, orienta sistemas de geração de texto a eliminar construções comumente associadas à inteligência artificial. Ela ataca os padrões e frases que frequentemente denunciam a autoria de IA em textos acadêmicos.
Uma ferramenta que esconde a máquina
O humanizador funciona instruindo modelos de linguagem a evitar escolhas específicas de palavras e estruturas de frases que algoritmos tendem a produzir. Pesquisadores e redatores de propostas podem alimentar a ferramenta com rascunhos gerados por IA, que então reescreve o conteúdo para soar mais natural e menos robótico.
Isso é importante porque universidades, periódicos e agências de financiamento vêm desenvolvendo métodos para detectar texto escrito por IA. A nova ferramenta pode minar esses esforços por completo. Se submissões geradas por IA puderem se tornar indistinguíveis de textos humanos, as salvaguardas destinadas a preservar a honestidade acadêmica podem se tornar inúteis.
Por que pesquisadores estão preocupados
Cientistas nos Estados Unidos e ao redor do mundo levantaram preocupações sobre o potencial da ferramenta de inundar a literatura acadêmica com artigos escritos por máquina. A revisão por pares já enfrenta dificuldades com o controle de qualidade. Adicionar texto de IA indetectável pode tornar mais difícil confiar na pesquisa publicada.
Propostas de financiamento são outra área de preocupação. Decisões de financiamento dependem da avaliação da originalidade e do pensamento por trás de uma proposta. Se candidatos puderem usar IA para escrever suas submissões e depois esconder esse fato, o processo de revisão pode ser comprometido.
A ferramenta não apenas polimento o texto. Ela remove ativamente as impressões digitais da geração por IA. Isso a diferencia de corretores gramaticais ou editores de estilo comuns, que não tentam ocultar a origem da escrita.
Uma nova frente na corrida armamentista de detecção de IA
Editoras acadêmicas e instituições de pesquisa agora enfrentam um problema difícil. Elas precisam decidir como responder a uma tecnologia projetada especificamente para burlar seus sistemas de detecção. Algumas podem investir em métodos de detecção mais sofisticados. Outras podem mudar suas políticas de submissão ou exigir declarações de uso de IA.
A ferramenta humanizadora representa um desafio direto ao consenso crescente de que o uso de IA na escrita acadêmica deve ser transparente. Muitos periódicos já exigem que autores divulguem quando usaram ferramentas de IA. Uma ferramenta que apaga evidências de uso de IA torna essas políticas mais difíceis de aplicar.
Por enquanto, a ferramenta existe e está sendo usada. Cientistas que estudam a integridade da pesquisa dizem que o desenvolvimento marca uma mudança preocupante na relação entre IA e publicação acadêmica.
