IA em Saúde: Confiabilidade dos Chatbots em Questões Médicas
Editor Geral
A Ascensão dos Chatbots e a Busca por Aconselhamento de Saúde
A inteligência artificial (IA) tem se tornado uma ferramenta cada vez mais presente no cotidiano, e sua aplicação em conselhos de saúde através de chatbots como ChatGPT, Gemini e Grok levanta um debate crucial sobre confiabilidade e segurança. Usuários como Abi, de Manchester, buscam nessas ferramentas uma alternativa acessível e personalizada para suas dúvidas médicas, especialmente quando o acesso a profissionais de saúde é limitado.
O apelo é inegável: a IA está sempre disponível e, em alguns testes, demonstrou aprovação em exames médicos. No entanto, a questão central permanece: podemos depositar nossa confiança em respostas geradas por algoritmos para questões tão delicadas quanto a saúde? Especialistas alertam para o risco de diagnósticos e orientações incorretas, que podem ter consequências graves.
Experiências Pessoais: O Melhor e o Pior dos Chatbots
Abi relata experiências contrastantes com o uso do ChatGPT. Em um caso de suspeita de infecção urinária, o chatbot a orientou a procurar um farmacêutico, levando a uma consulta rápida e à prescrição de um antibiótico. Ela valorizou a assistência sem a sensação de sobrecarregar o serviço público de saúde (NHS) e a facilidade para quem tem receio de procurar um médico.
Contudo, em uma situação mais séria, após uma queda que causou dor intensa nas costas e abdômen, o ChatGPT diagnosticou uma perfuração de órgão e recomendou atendimento de emergência imediato. Após horas de espera no pronto atendimento, a dor diminuiu, indicando que o diagnóstico da IA estava equivocado. Abi ressalta que a IA “certamente entendeu errado as coisas” e que seus conselhos precisam ser analisados com cautela.
Preocupações Oficiais e Pesquisas Acadêmicas
A crescente utilização de chatbots para fins de saúde não passa despercebida pelas autoridades. O diretor médico da Inglaterra, Chris Whitty, expressou preocupação com a qualidade das respostas da IA, descrevendo-as como “não suficientemente boas” e frequentemente apresentadas “com convicção e erradas”.
Pesquisadores da Universidade de Oxford investigaram a precisão dos chatbots em cenários de saúde. Em testes onde os quadros clínicos foram apresentados de forma completa, a precisão atingiu 95%. No entanto, quando os usuários interagiam gradualmente com os chatbots, compartilhando informações de maneira fragmentada, a precisão despencou para 35%. Isso demonstra que a forma como a informação é comunicada à IA pode alterar drasticamente a qualidade do aconselhamento recebido.
Um exemplo alarmante foi o caso de sintomas de hemorragia subaracnoide, uma emergência médica. Pequenas variações na descrição dos sintomas levaram a orientações completamente distintas por parte do ChatGPT, evidenciando a fragilidade do sistema diante de nuances da linguagem humana.
Desinformação e a Necessidade de Ceticismo
Estudos adicionais, como o do Instituto Lundquist, revelaram que chatbots podem disseminar desinformação. Testados com perguntas sobre câncer, vacinas e nutrição, mais da metade das respostas foram consideradas problemáticas. Um chatbot, ao ser questionado sobre tratamentos alternativos para o câncer, sugeriu a naturopatia, ignorando a ausência de comprovação científica para tais métodos.
Nicholas Tiller, pesquisador, aponta que os chatbots são programados para oferecer respostas confiantes, o que pode induzir os usuários a acreditar cegamente em suas orientações. Ele sugere cautela, comparando a situação a confiar em qualquer pessoa na rua que apresente uma resposta com convicção, sem verificar sua veracidade.
A Posição das Empresas de IA e o Futuro
A OpenAI, desenvolvedora do ChatGPT, reconhece a procura por informações de saúde e afirma trabalhar com médicos para garantir a confiabilidade e segurança de suas respostas. A empresa declara que os modelos atuais têm desempenho robusto em avaliações de saúde, mas reforça que o ChatGPT deve ser usado para informação e educação, e não como substituto para o aconselhamento médico profissional.
Para usuários como Abi, a lição é clara: embora os chatbots possam oferecer um ponto de partida útil, é fundamental analisar todas as informações com ceticismo, reconhecer suas limitações e, acima de tudo, priorizar a consulta com profissionais de saúde qualificados. A IA é uma ferramenta poderosa, mas a responsabilidade final pela própria saúde recai sobre o indivíduo.