Una nueva herramienta de software puede eliminar las marcas reveladoras de texto generado por inteligencia artificial, haciendo que los artículos de investigación y las solicitudes de subvención escritos por máquinas parezcan hechos por humanos. Los científicos están alarmados.
La herramienta, descrita como un humanizador, indica a los sistemas de generación de texto que eliminen construcciones comúnmente asociadas con la inteligencia artificial. Apunta a los patrones y frases que a menudo delatan la autoría de IA en la escritura académica.
Una herramienta que oculta la máquina
El humanizador funciona instruyendo a los modelos de lenguaje para que eviten opciones de palabras y estructuras de oraciones específicas que los algoritmos tienden a producir. Los investigadores y redactores de subvenciones pueden introducir borradores generados por IA en la herramienta, que luego reescribe el contenido para que suene más natural y menos robótico.
Esto importa porque las universidades, revistas y agencias de financiación han estado desarrollando métodos para detectar texto escrito por IA. La nueva herramienta podría socavar esos esfuerzos por completo. Si las presentaciones generadas por IA pueden volverse indistinguibles de la escritura humana, las salvaguardas destinadas a preservar la honestidad académica podrían volverse inútiles.
Por qué los investigadores están preocupados
Científicos en Estados Unidos y en todo el mundo han expresado su preocupación por el potencial de la herramienta para inundar la literatura académica con artículos escritos por máquinas. La revisión por pares ya lucha con el control de calidad. Agregar texto de IA indetectable podría dificultar la confianza en la investigación publicada.
Las solicitudes de subvención son otra área de preocupación. Las decisiones de financiación dependen de evaluar la originalidad y el pensamiento detrás de una propuesta. Si los solicitantes pueden usar IA para escribir sus presentaciones y luego ocultar ese hecho, el proceso de revisión podría verse comprometido.
La herramienta no solo pule el texto. Elimina activamente las huellas dactilares de la generación de IA. Eso la hace diferente de los correctores gramaticales o editores de estilo estándar, que no intentan ocultar el origen de la escritura.
Un nuevo frente en la carrera armamentista de detección de IA
Los editores académicos y las instituciones de investigación ahora enfrentan un problema difícil. Deben decidir cómo responder a una tecnología diseñada específicamente para evadir sus sistemas de detección. Algunos pueden invertir en métodos de detección más sofisticados. Otros pueden cambiar sus políticas de presentación o exigir declaraciones de uso de IA.
La herramienta humanizadora representa un desafío directo al creciente consenso de que el uso de IA en la escritura académica debe ser transparente. Muchas revistas ya exigen que los autores revelen cuándo han utilizado herramientas de IA. Una herramienta que borra la evidencia del uso de IA dificulta la aplicación de tales políticas.
Por ahora, la herramienta existe y se está utilizando. Los científicos que estudian la integridad de la investigación dicen que el desarrollo marca un cambio preocupante en la relación entre la IA y la publicación académica.
