Introdução
Pesquisas recentes indicam que os chatbots de IA oferecem orientações diferentes quando consultados sobre questões de saúde, e nem sempre as respostas são suficientemente boas.
O Uso de Chatbots em Saúde
Abi, uma mulher de Manchester, na Inglaterra, vem usando o ChatGPT para ajudar a cuidar da sua saúde. Ela sofre de ansiedade em relação a questões de saúde e descobriu que o chatbot fornece orientações mais personalizadas do que as buscas na internet.
No entanto, Abi também observou o lado ruim do uso de chatbots para aconselhamento de saúde. Em uma ocasião, o ChatGPT disse a ela que havia perfurado um órgão e precisava ir ao pronto atendimento imediatamente, mas depois de ficar sentada no pronto atendimento por três horas, a dor começou a diminuir e Abi percebeu que não era nada de grave.
A Precisão dos Chatbots
Pesquisadores do Laboratório de Raciocínio com Máquinas da Universidade de Oxford reuniram uma equipe de médicos para criar cenários realistas e detalhados sobre questões de saúde. Eles descobriram que, nos casos em que os chatbots receberam o quadro completo, sua precisão foi de 95%. No entanto, quando 1,3 mil pessoas receberam um cenário para iniciar uma conversa com um chatbot em busca de diagnóstico e aconselhamento, a precisão caiu para 35%.
Desinformação e Riscos
Outra análise do Instituto Lundquist de Inovação Biomédica na Califórnia demonstrou que os chatbots de IA podem fornecer desinformação. Eles usaram uma técnica deliberadamente desafiadora para verificar o grau de robustez das IAs e descobriram que mais da metade das respostas foram consideradas problemáticas de alguma forma.
Um pesquisador afirma que os chatbots são projetados para fornecer respostas muito confiantes e impositivas, que transmitem um senso de credibilidade. No entanto, é importante lembrar que os chatbots não devem ser usados para substituir a assistência médica profissional.
A companhia OpenAI, responsável pelo ChatGPT, afirmou que trabalha com médicos para testar e melhorar seus modelos e que o ChatGPT deve ser usado para informação e educação, não para substituir a assistência médica profissional.
Fonte: Saúde Brasil