Chatbots apresentam limitações em diagnósticos médicos

O dado chama ainda mais atenção entre pacientes com doenças crônicas: 81,4% afirmam utilizar essas tecnologias com frequência. Já entre pessoas sem condições de saúde pré-existentes, o índice cai para 61,6%. As principais dúvidas envolvem sintomas comuns, como febre e mal-estar (59,6%), além de alimentação (54%).

Mas, apesar da popularidade crescente, estudos recentes indicam que confiar cegamente nessas ferramentas pode trazer consequências graves.

Leia mais:

Chatbots de IA estão redefinindo nossa comunicação cotidiana

Estudos científicos revelam falhas alarmantes da IA na medicina

Pesquisas internacionais vêm reforçando um alerta importante: a inteligência artificial ainda está longe de ser confiável quando o assunto é saúde.

Um dos estudos mais impactantes foi conduzido por Nicholas Tiller, ligado à Universidade da Califórnia em Los Angeles. O objetivo era avaliar como diferentes ferramentas de IA lidam com desinformação médica.

Metade das respostas apresentou problemas

O estudo analisou 250 perguntas envolvendo temas sensíveis como:

• Vacinas
• Câncer
• COVID-19
• Células-tronco
• Nutrição e desempenho esportivo

As perguntas foram submetidas a cinco sistemas populares, incluindo ferramentas de empresas como Google, Meta e OpenAI.

O resultado foi preocupante:

• 50% das respostas estavam erradas ou eram problemáticas
• 20% continham orientações potencialmente perigosas

Segundo Tiller, há risco real de danos à saúde caso usuários sigam essas recomendações sem validação profissional.

O problema do “tom confiante”

Outro ponto crítico destacado pelos pesquisadores é o comportamento das respostas. Mesmo quando erradas, as IAs tendem a responder com segurança e autoridade, sem demonstrar incerteza.

Esse “tom professoral” aumenta a chance de o usuário confiar na informação — um fator que pode amplificar os riscos.

Diagnósticos falham em até 80% dos casos

Outro estudo relevante avaliou a capacidade das IAs de realizar diagnósticos clínicos. A análise utilizou casos reais do Manual MSD, uma das bases mais tradicionais da medicina, publicada desde 1899.

Resultados preocupantes

Os testes revelaram que:

• As ferramentas erraram 80% dos diagnósticos
• Houve respostas precipitadas e conclusões inadequadas
• As IAs tiveram dificuldade em lidar com informações limitadas

De acordo com o pesquisador Marc Succi, os modelos até apresentam melhor desempenho quando recebem dados detalhados — mas falham significativamente em cenários mais realistas, onde as informações são incompletas.

IA ainda luta contra desinformação médica

Um dos objetivos do estudo de Tiller foi testar se as IAs conseguem combater fake news em saúde. O resultado mostrou que nem sempre.

Um exemplo citado envolve respostas sobre COVID-19 e vacinação. Algumas ferramentas apresentaram informações enviesadas ou sugeriram a existência de debates científicos inexistentes, mesmo quando há consenso consolidado na comunidade médica.

Esse tipo de erro reforça um problema crítico: a IA pode, sem intenção, amplificar desinformação.

Por que as empresas ainda não resolveram o problema?

As grandes empresas de tecnologia reconhecem as limitações e vêm tentando melhorar seus sistemas.

A Meta anunciou a contratação de mais de 1.000 médicos para aprimorar o treinamento de seus modelos. Já a OpenAI informou contar com mais de 250 profissionais de saúde envolvidos no desenvolvimento.

Apesar disso, especialistas avaliam que os esforços ainda são modestos diante da escala global de uso dessas ferramentas.

O papel da IA na saúde: apoio, não substituição

Diante desse cenário, o consenso entre especialistas é claro: a inteligência artificial pode ser útil, mas apenas como ferramenta complementar.

Quando a IA pode ajudar

• Explicar termos médicos de forma simples
• Ajudar na organização de informações
• Oferecer orientações gerais de prevenção

Quando NÃO deve ser usada sozinha

• Diagnósticos
• Definição de tratamentos
• Interpretação de sintomas graves
• Substituição de consulta médica

No Brasil, órgãos como o Ministério da Saúde reforçam que qualquer decisão relacionada à saúde deve ser tomada com acompanhamento profissional.

Crescimento do uso exige mais educação digital

O avanço da IA na saúde é inevitável — mas o uso consciente ainda é um desafio. A facilidade de acesso, combinada com respostas rápidas e convincentes, pode levar usuários a decisões equivocadas.

Por isso, especialistas defendem maior investimento em:

• Educação digital e em saúde
• Regulação do uso de IA
• Transparência nos limites das ferramentas

(Fonte: Startups)