Grave falha do ChatGPT em distinguir o que é verdade ou mentira

Os resultados levantam uma questão preocupante sobre o futuro da inteligência artificial: até que ponto podemos confiar em sistemas que não compreendem o conceito de verdade? Continue a leitura para entender os riscos e o que dizem os especialistas.

Leia mais: As melhores IAs: ChatGPT, Gemini e Claude em destaque

Pesquisadores de Stanford analisam desempenho do ChatGPT

O estudo foi conduzido por pesquisadores da Universidade Stanford, que avaliaram 24 modelos de linguagem, incluindo ChatGPT, Claude, Gemini e DeepSeek. Ao todo, mais de 13 mil perguntas foram aplicadas com o objetivo de medir a habilidade das IAs em distinguir fatos, crenças e conhecimentos.

O resultado mostrou um padrão preocupante: os modelos apresentaram dificuldades recorrentes em identificar afirmações falsas, confundindo crenças incorretas com verdades. Essa limitação foi mais evidente nas versões anteriores de cada sistema, como as baseadas em arquiteturas anteriores ao GPT-4.

“Grande parte dos sistemas avaliados carece de uma compreensão robusta de que conhecimento exige, por definição, que algo seja verdade”, afirmam os autores do estudo.

Impactos em áreas sensíveis

Os especialistas alertam que essa limitação não é apenas técnica — é também ética e socialmente perigosa. Em setores como o jurídico e o médico, erros de interpretação podem causar sérios prejuízos.

Imagine um advogado baseando-se em uma citação jurídica inexistente ou um médico confiando em dados errados para um diagnóstico. Segundo os pesquisadores, isso é mais comum do que se imagina quando há dependência excessiva da IA sem verificação humana.

Pablo Haya Coll, linguista computacional da Universidade Autônoma de Madri, reforça a necessidade de respostas mais cautelosas. Ele explicou ao New York Post que a incapacidade dos modelos de diferenciar fato de ficção “pode levar a erros sérios de julgamento”.

ChatGPT e a veracidade: evolução, mas ainda insuficiente

Embora o ChatGPT e outros modelos mais recentes — como o GPT-4o — tenham apresentado avanços, a margem de erro continua significativa. As taxas de acerto variaram entre 91,1% e 91,5%, mas os modelos anteriores ficaram entre 84,8% e 71,5%.

Para os pesquisadores, esses números demonstram que a tecnologia ainda não está pronta para ambientes decisivos, como tribunais, hospitais e redações jornalísticas. Antes disso, é fundamental aprimorar a capacidade dos modelos de entender o conceito de verdade e aplicar raciocínio lógico mais profundo.

Uso indiscriminado do ChatGPT aumenta o risco de desinformação

Outro ponto crítico identificado no estudo é o uso do ChatGPT como ferramenta de busca. Segundo uma pesquisa da Adobe, 77% dos usuários nos Estados Unidos utilizam o ChatGPT como se fosse um buscador tradicional, e três em cada dez afirmam confiar mais nele do que no Google ou Bing.

Essa prática, embora prática e rápida, pode levar à propagação de desinformação, já que a ferramenta nem sempre distingue entre fontes confiáveis e informações falsas.

Casos reais comprovam o perigo: em maio, dois escritórios de advocacia na Califórnia foram multados em US$ 31 mil após incluírem informações incorretas geradas por IA em petições judiciais — sem qualquer verificação.

Como melhorar a confiabilidade do ChatGPT?

Para especialistas, a solução passa por três caminhos principais:

• Transparência nos dados de treinamento: permitir auditorias independentes sobre as fontes utilizadas.
• Treinamento com validação factual: introduzir mecanismos que priorizem fontes verificadas.
• Supervisão humana constante: garantir que decisões críticas não dependam exclusivamente da IA.

Essas práticas podem reduzir os riscos e aumentar a responsabilidade no uso do ChatGPT, especialmente em contextos sensíveis.

Futuro do ChatGPT e da IA generativa

Os pesquisadores concluem que, embora os modelos de linguagem estejam cada vez mais sofisticados, a compreensão da verdade ainda é um desafio filosófico e técnico.

A OpenAI, empresa responsável pelo ChatGPT, já anunciou novos esforços para aprimorar a precisão e a transparência do modelo, especialmente com o lançamento do GPT-5. No entanto, a comunidade científica concorda que será necessário mais do que potência computacional — será preciso repensar a forma como a inteligência artificial entende e representa o conhecimento humano.

No cenário atual, o ChatGPT é uma ferramenta poderosa e útil, mas seu uso requer consciência crítica e verificação constante. A confiança na IA deve ser acompanhada por responsabilidade e supervisão — afinal, mesmo uma resposta bem formulada pode não ser verdadeira.

Não perca nenhuma oportunidade de crédito e pagamento: acesse agora nossas últimas notícias no Seu Crédito Digital.

Com informações de: Época NEGÓCIOS