ChatGPT Saúde falha em sugerir emergências em 52% , diz estudo
IA médica subestima riscos e gera falsa segurança
Um estudo recente revelou que o ChatGPT Health, ferramenta de inteligência artificial da OpenAI, falha em recomendar atendimento hospitalar imediato em aproximadamente 52% dos casos de emergência médica. A pesquisa, publicada no The Guardian, analisou o desempenho da IA em 60 cenários clínicos realistas, que variavam de condições leves a emergências graves.
As respostas geradas pelo ChatGPT foram comparadas às avaliações de três médicos. No total, foram analisadas quase 1.000 respostas, levando em consideração variações como gênero do paciente, resultados de exames e comentários de familiares.
O sistema demonstrou bom desempenho em emergências consideradas “clássicas”, como acidente vascular cerebral (AVC) e reações alérgicas graves. No entanto, apresentou falhas significativas em situações mais ambíguas. Em um caso de asma com sinais iniciais de insuficiência respiratória, por exemplo, o ChatGPT recomendou aguardar em vez de buscar atendimento emergencial. Em outro cenário, em 84% das vezes a plataforma orientou uma mulher com dificuldades respiratórias a agendar uma consulta futura, ignorando o risco iminente.
Excesso de encaminhamentos desnecessários e minimização de sintomas
O estudo também identificou um excesso de encaminhamentos desnecessários. Em 64,8% dos casos considerados totalmente seguros, o ChatGPT recomendou procurar atendimento médico imediato. Além disso, o modelo foi quase 12 vezes mais propenso a minimizar sintomas quando o “paciente” mencionava que um amigo havia afirmado que não se tratava de algo grave. Especialistas classificam esse comportamento como “inacreditavelmente perigoso”, alertando para o risco de criação de uma falsa sensação de segurança, com potencial de resultar em danos graves ou até mesmo morte.
OpenAI se defende e promete melhorias contínuas
Em resposta, a OpenAI afirmou que o estudo não reflete o uso típico da ferramenta no mundo real e declarou que o modelo é continuamente atualizado e aprimorado. A empresa estima que mais de 40 milhões de pessoas buscam conselhos de saúde no ChatGPT diariamente.
O Que Você Precisa Saber
O ChatGPT Health é confiável para diagnósticos?
O estudo indica que não. Embora útil em emergências claras, a IA falha em quadros complexos e pode gerar falsa sensação de segurança.
Quais os riscos de usar o ChatGPT para saúde?
Atraso no tratamento de emergências, encaminhamentos desnecessários e minimização de sintomas graves são os principais riscos apontados.
Como a OpenAI está lidando com as falhas?
A empresa afirma que o modelo está em constante atualização, mas os resultados do estudo indicam a necessidade de cautela no uso da ferramenta para aconselhamento médico.