Modelos de IA e a Utilização de Artigos Científicos Retratados

Modelos de inteligência artificial, incluindo chatbots populares como o ChatGPT, podem recorrer a artigos científicos retratados ao formular respostas, o que levanta preocupações sobre a confiabilidade dessas ferramentas, especialmente em áreas críticas como saúde e ciência.

Os pesquisadores descobriram que, ao responder perguntas sobre estudos já invalidados, os modelos citam os artigos como fontes mesmo assim, e não alertam o usuário de que o material foi oficialmente retirado do registro científico. Isso pode induzir ao erro profissionais, estudantes e o público em geral que buscam informações de confiança.

A utilização de artigos retratados pode comprometer a qualidade da informação disponível e até influenciar decisões de saúde, investimentos ou políticas públicas. Além disso, a falta de padronização entre editoras científicas e a ausência de atualização de dados são obstáculos significativos para resolver o problema.

• Termos como “retratado” ou “errata” são usados de formas diferentes, o que dificulta a detecção automática pelas ferramentas de IA.
• Muitos artigos circulam em servidores de pré-publicação e repositórios independentes, espalhando versões antigas e sem marcações de retratação.
• Os modelos de IA são treinados em grandes bases de dados que nem sempre estão atualizadas, acabam absorvendo esses materiais sem filtros adequados.

Para aumentar a confiabilidade, os especialistas defendem que as empresas responsáveis por modelos de IA implementem mecanismos de verificação em tempo real, usando bases de dados como o Retraction Watch e catálogos acadêmicos atualizados. Além disso, fornecer mais contexto nas respostas, incluindo alertas claros sobre retratações, revisões por pares e críticas publicadas em sites especializados, ajudaria usuários a distinguir entre ciência válida e conteúdo já desqualificado.

Em resumo, a utilização de artigos científicos retratados por modelos de IA é um problema que precisa ser abordado para garantir a confiabilidade e a qualidade da informação disponível. Com a implementação de mecanismos de verificação e a fornecimento de mais contexto, é possível reduzir o número de artigos retratados citados e aumentar a confiabilidade das respostas fornecidas por essas ferramentas.

Este conteúdo pode conter links de compra.

Fonte: link