O uso de IA na saúde está revolucionando diagnósticos, tratamentos e decisões clínicas em todo o mundo. No entanto, novas evidências mostram que, se não for cuidadosamente regulada, essa tecnologia pode reproduzir ou até ampliar desigualdades já existentes.
Um estudo recente da London School of Economics and Political Science (LSE) aponta que certos modelos de linguagem podem subestimar problemas de saúde de mulheres, reduzindo seu acesso a cuidados adequados. Esse alerta acende um debate urgente sobre o papel da inteligência artificial no sistema de saúde e os riscos de vieses invisíveis.
LEIA MAIS:
- Microsoft libera no Windows novo modelo de inteligência artificial da OpenAI
- Inteligência artificial médica do Google comete erro bizarro
- As 10 profissões menos ameaçadas pela inteligência artificial, segundo a Microsoft
IA na saúde: uma revolução ainda em curso
A aplicação de inteligência artificial no setor médico vem ganhando força em todo o mundo. Sistemas de IA são usados para diagnosticar doenças, prever complicações, otimizar leitos hospitalares, agilizar exames e até acompanhar pacientes em tratamentos de longo prazo.
Hospitais, clínicas e secretarias de saúde têm recorrido a modelos de linguagem, como chatbots e assistentes virtuais, para orientar diagnósticos, responder dúvidas e direcionar pacientes. Porém, como qualquer tecnologia, esses sistemas refletem os dados e padrões que os alimentam.
Quando se fala em IA na saúde, a promessa é aumentar a eficiência e reduzir custos, mas o estudo da LSE mostra que, sem cuidados, também pode reforçar desigualdades existentes.
O estudo que expôs o viés
A pesquisa analisou o uso de IA em conselhos de assistência social na Inglaterra, que já adotam ferramentas automatizadas para ajudar a avaliar necessidades de cuidados de longa duração.
Os pesquisadores testaram 617 casos reais, alterando apenas o gênero do paciente, para verificar se a linguagem utilizada pelos modelos mudava. O modelo mais problemático foi o Gemma, desenvolvido pelo Google, que descreveu homens com termos como “histórico médico complexo” e “mobilidade limitada”, enquanto casos idênticos de mulheres eram descritos como “independentes” e “capazes de cuidar de si”.
Essa diferença, mesmo que sutil, pode afetar diretamente decisões sobre quantidade de assistência, visitas domiciliares e apoio financeiro.
Comparação com outros modelos
O estudo também avaliou o Llama 3, da Meta, que não apresentou a mesma disparidade. Isso indica que nem todos os modelos são igualmente suscetíveis ao viés de gênero, mas também que é necessário um processo rigoroso de validação antes da adoção em larga escala.
Segundo o autor principal, Dr. Sam Rickman, a avaliação de cuidados é feita com base na necessidade percebida. Ou seja, se a IA descreve uma paciente como menos necessitada, ela corre o risco de receber menos apoio — mesmo que sua condição real seja igual à de um homem no mesmo cenário.
Riscos para a saúde pública
A desigualdade gerada pela IA na saúde não é apenas um problema técnico; é também um risco social. Em muitos casos, decisões automatizadas influenciam onde recursos serão aplicados, quantos profissionais serão alocados e quais pacientes terão prioridade.
Se mulheres são sistematicamente avaliadas como mais “independentes” ou menos necessitadas, podem enfrentar atrasos em diagnósticos, menos encaminhamentos e menor suporte psicológico. Isso afeta principalmente grupos já vulneráveis, como idosas, gestantes e mulheres com doenças crônicas.
Além disso, essa distorção no atendimento pode perpetuar estereótipos de gênero, reforçando a ideia de que mulheres “suportam melhor” dor ou limitações físicas.
Como funciona o viés algorítmico
O viés algorítmico ocorre quando um sistema de IA produz resultados distorcidos devido a dados de treinamento enviesados ou interpretações erradas de padrões. No caso do Gemma, é possível que os textos utilizados para treinar o modelo contenham mais descrições detalhadas de condições masculinas, enquanto as femininas são minimizadas.
Mesmo ajustes sutis na linguagem — como trocar “grave” por “leve” ou omitir complicações — podem mudar o rumo de um tratamento. E, como a IA na saúde é cada vez mais usada em estágios iniciais de triagem, um erro neste ponto pode se propagar por todo o atendimento.
Exemplos práticos de impacto
- Encaminhamentos médicos: pacientes mal descritos podem não ser enviados para especialistas.
- Acesso a benefícios: descrições mais brandas podem levar à negação de auxílios financeiros.
- Tempo de espera: casos avaliados como menos urgentes podem ser adiados indefinidamente.
A posição do Google
O Google declarou que analisará as conclusões do estudo e destacou que o modelo Gemma não foi projetado para uso médico. Ainda assim, o fato de estar sendo aplicado em contextos de saúde levanta a necessidade de supervisão clara sobre como e onde essas ferramentas podem ser usadas.
Regulação: um desafio global
A pesquisa reacende o debate sobre como regulamentar a IA na saúde. Órgãos de fiscalização, como agências de saúde pública, precisarão criar diretrizes que incluam:
- Transparência: empresas devem divulgar como o modelo foi treinado e com quais dados.
- Testes rigorosos: avaliar impactos de gênero, raça e idade antes da implementação.
- Supervisão contínua: monitorar resultados para corrigir desvios.
Na União Europeia, a Lei de IA (AI Act) já prevê classificações de risco para sistemas usados na saúde, exigindo níveis mais altos de segurança e controle para modelos que influenciam diagnósticos ou decisões de tratamento.
O futuro da IA na saúde
Especialistas acreditam que a IA na saúde não precisa ser descartada, mas deve ser tratada como uma ferramenta que exige constante atualização e auditoria.
Modelos podem ser ajustados para evitar vieses, incorporando dados mais equilibrados e representativos. Também é possível criar “camadas” de revisão humana, garantindo que decisões importantes passem por avaliação de profissionais antes de serem aplicadas.
Educação e conscientização sobre o uso da inteligência artificial
Outro ponto fundamental é treinar profissionais de saúde para compreender os limites da IA. Assim, médicos e assistentes sociais poderão identificar inconsistências nas avaliações automatizadas e agir antes que prejudiquem o paciente.
Programas de capacitação também devem incluir noções sobre viés de gênero, ajudando a romper padrões históricos que muitas vezes passam despercebidos no dia a dia.
A IA na saúde representa um avanço tecnológico sem precedentes, mas não está imune a falhas que refletem problemas da sociedade. O estudo da LSE é um alerta para que governos, empresas e profissionais adotem medidas urgentes contra o viés de gênero em sistemas automatizados.
Proteger pacientes significa garantir que a tecnologia trabalhe a favor de todos — e não que amplie desigualdades já existentes. A revolução digital na medicina só será completa quando a justiça algorítmica se tornar parte central do desenvolvimento e uso dessas ferramentas.
