Será que artigos científicos inteiramente gerados por IA conseguem passar pelos filtros das revistas? O jornalista e doutor em matemática aplicada Benjamin Skuse tentou a experiência junto da editora IEEE. Segundo o relato publicado pela IEEE Spectrum, os controlos da editora mantêm-se por agora, mas a corrida entre conteúdos artificiais e ferramentas de deteção continua apertada.
- Benjamin Skuse a réussi à soumettre un article scientifique entièrement généré par IA.
- Les éditeurs résistent encore grâce à la relecture humaine et aux outils de vérification, mais la course reste serrée.
- Wikipédia fait face au même problème, avec moins de moyens.
- Si la littérature scientifique perd sa fiabilité, la confiance dans le savoir et ses institutions se fragilise.
A reportagem de Benjamin Skuse, intitulada «I Used AI to Fake a Scientific Paper», descreve a facilidade com que um texto aproximadamente plausível e aproximadamente científico pode ser produzido. Segundo Eliza Strickland, editora de funcionalidades e IA na IEEE Spectrum, ele ficou surpreendido com a simplicidade do processo. «Ele simplesmente carregou em ‘run experiment’ e ‘write paper’. E depois, não fez a mínima coisa. Apenas lançou-o na boca do sistema de publicação», conta ela.
Segundo Benjamin Skuse, a combinação da revisão humana e dos programas de verificação da integridade da investigação da IEEE permite, por enquanto, acompanhar o ritmo destas tentativas, que configuram um jogo do gato e do rato face às ferramentas gratuitas. Os grandes modelos de linguagem mais avançados já não cometem, contudo, os erros grosseiros das suas versões gratuitas. As editoras encontram-se assim envolvidas numa corrida entre conteúdos cada vez mais credíveis e os sistemas encarregados de os detetar. Para recordar, um grande modelo de linguagem, ou LLM, é um programa treinado em vastos volumes de textos para produzir linguagem.
A Wikipédia na linha da frente
As editoras científicas não são as únicas a resistir. A Wikipédia enfrenta o mesmo problema. No âmbito da sua rubrica «Five Questions», Eliza Strickland entrevistou Ellia Lebleu, membro fundador do WikiProject AI Cleanup, uma iniciativa de voluntários que visa detetar e eliminar conteúdos gerados por IA na plataforma. A sua equipa enfrenta a mesma dificuldade que as editoras comerciais, mas com menos pessoas e menos ferramentas.
Para Eliza Strickland, a Wikipédia é reconhecida como um reservatório de informações produzidas por humanos, e a plataforma pretende continuar a sê-lo. «Quem sabe quanto tempo conseguirão fazê-lo?», questiona-se.
A questão ultrapassa o âmbito destes dois intervenientes. Se já não pudermos considerar coletivamente que a literatura científica é fiável, ou que os factos básicos sobre o mundo são exatos, a compreensão do que é real torna-se incerta. Esta incerteza fragiliza a confiança nas instituições encarregadas de manter atualizado o corpus dos conhecimentos humanos.
Eliza Strickland evoca também uma perspetiva mais inquietante. «Não é loucura termos, a dado momento, IAs a escrever para outras IAs? Seremos simplesmente excluídos do ciclo.»
