Pacientes Raramente Extraem Informação Médica Útil da IA, Mostram Estudos
Estudos recentes publicados nas revistas “Nature Medicine” e “The Lancet Digital Health” destacam os desafios na utilização de ferramentas de inteligência artificial (IA) para obter informações médicas úteis. Os resultados mostram que, embora os modelos de linguagem avançados sejam capazes de fornecer respostas precisas em condições controladas, seu desempenho cai significativamente quando utilizados por pessoas comuns.
Um dos estudos, liderado pela Universidade de Oxford, testou a capacidade de voluntários em obter diagnósticos genéricos e procedimentos médicos corretos utilizando chatbots de IA. Os resultados mostraram que, apesar de os cientistas conseguirem extrair informações corretas da IA em 94,9% dos casos, o desempenho caía para 34,5% quando as pessoas comuns utilizavam as ferramentas de IA.
Outro estudo, liderado pela escola médica do hospital Mount Sinai, de Nova York, testou a capacidade dos modelos de linguagem em identificar falácias médicas. Os resultados mostraram que os modelos de IA falhavam em identificar informações incorretas em um grande número de casos, especialmente quando as afirmações eram apresentadas em linguagem clínica autoritária.
Os estudos destacam a importância de considerar os limites das ferramentas de IA em fornecer informações médicas precisas e confiáveis. Além disso, os resultados sugerem que é cedo demais para depositar confiança nos chatbots de IA como fonte de informação médica.
- Os modelos de linguagem avançados podem fornecer respostas precisas em condições controladas, mas seu desempenho cai significativamente quando utilizados por pessoas comuns.
- As ferramentas de IA podem falhar em identificar informações incorretas, especialmente quando as afirmações são apresentadas em linguagem clínica autoritária.
- É importante considerar os limites das ferramentas de IA em fornecer informações médicas precisas e confiáveis.
Em resumo, os estudos mostram que as ferramentas de IA ainda não estão prontas para serem utilizadas como fonte de informação médica confiável. É fundamental continuar a desenvolver e aperfeiçoar essas tecnologias para garantir que elas sejam capazes de fornecer informações precisas e úteis para os pacientes.
Este conteúdo pode conter links de compra.
Fonte: link