Sofisticação da malandragem: pesquisadores estão inserindo mensagens secretas nos artigos

Pesquisadores têm inserido mensagens secretas em seus artigos na tentativa de enganar ferramentas de inteligência artificial (IA) para obter relatórios positivos de revisão por pares. A Nature identificou de forma independente 18 estudos de pré-publicação em ciência da computação contendo essas mensagens ocultas — em que o texto é especificamente elaborado para manipular modelos de linguagem de grande escala (LLMs). Muitos editores proíbem o uso de IA na revisão por pares, mas há evidências de que alguns pesquisadores utilizam LLMs para avaliar manuscritos ou ajudar na redação de relatórios de revisão. Isso cria uma vulnerabilidade que outros agora parecem estar tentando explorar, afirma o metacientista forense James Heathers.

Fonte: aqui