ArXivum repositório aberto amplamente utilizado para pesquisas pré-impressas, está fazendo mais para reprimir o uso descuidado de grandes modelos de linguagem em artigos científicos.
Embora os artigos sejam publicados no website antes de serem revisados por pares, o arXiv (pronuncia-se “arquivo”) tornou-se uma das principais formas de circulação da pesquisa em áreas como ciência da computação e matemática, e o próprio website tornou-se uma fonte de dados sobre tendências na pesquisa científica.
O ArXiv já tomou medidas para combater um número crescente de artigos de baixa qualidade gerados por IA, por exemplo, exigindo que os postadores pela primeira vez obter o endosso de um autor estabelecido. E depois de ter sido acolhida pela Cornell durante mais de 20 anos, a organização está a tornar-se uma organização sem fins lucrativos independente, o que deverá permitir-lhe arrecadar mais dinheiro para resolver problemas como problemas de IA.
Em seu último movimento, Thomas Dietterich – presidente da seção de ciência da computação do arXiv – postado Quinta-feira que “se uma submissão contém evidências incontestáveis de que os autores não verificaram os resultados da geração do LLM, isso significa que não podemos confiar em nada do artigo”.
Essa evidência incontestável poderia incluir coisas como “referências alucinadas” e comentários de ou para o LLM, disse Dietterich. Se tal evidência for encontrada, os autores de um artigo enfrentarão “uma proibição de 1 ano do arXiv seguida pela exigência de que as submissões subsequentes do arXiv devem primeiro ser aceitas por um native respeitável e revisado por pares”.
Observe que esta não é uma proibição whole do uso de LLMs, mas sim uma insistência para que, como disse Dietterich, os autores assumam “whole responsabilidade” pelo conteúdo, “independentemente de como o conteúdo é gerado”. Portanto, se os pesquisadores copiarem e colarem “linguagem inadequada, conteúdo plagiado, conteúdo tendencioso, erros, equívocos, referências incorretas ou conteúdo enganoso” diretamente de um LLM, eles ainda serão responsáveis por isso.
Dietterich disse à 404 mídia que esta será uma regra de “um golpe”, mas os moderadores devem sinalizar o problema e os presidentes de seção devem confirmar as evidências antes de impor a penalidade. Os autores também poderão recorrer da decisão.
Uma pesquisa recente revisada por pares descobriu que citações fabricadas estão aumentando na pesquisa biomédica, provavelmente devido aos LLMs – embora, para ser justo, os cientistas não são os únicos a serem pegos usando citações feitas pela IA.
Quando você compra por meio de hyperlinks em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
