A grande falha da inteligência artificial: por que elas ainda não sabem o que é real

Os pesquisadores analisaram o desempenho de 24 modelos de IA, incluindo o GPT-4o da OpenAI e o DeepSeek R1, e constataram que nenhum deles conseguiu compreender totalmente o que é verdadeiro e o que é apenas uma crença. Essa falha, aparentemente técnica, tem implicações éticas e sociais que vão muito além do campo da tecnologia.

LEIA MAIS:

• Banco do Brasil lança Pix por imagem com uso de inteligência artificial
• As 4 habilidades que vão proteger seu emprego da inteligência artificial; confira
• Brasil avança em finanças com Pix no WhatsApp e uso de inteligência artificial

Inteligência artificial não sabe o que é real: O que o estudo descobriu

O levantamento, conduzido por especialistas da Universidade de Stanford (EUA), analisou como os sistemas de linguagem processam frases que envolvem diferentes graus de crença, conhecimento e fato. Para isso, os pesquisadores criaram um método próprio de avaliação: o KaBLE (Knowledge and Belief Evaluation).

Essa ferramenta reúne mais de 13 mil questões organizadas em 13 tarefas epistemológicas, que testam a habilidade das IAs em distinguir o que alguém acredita daquilo que realmente sabe. O objetivo era medir o quanto os modelos compreendem a fronteira entre opinião e verdade — um limite que, segundo os autores, continua nebuloso até mesmo nas máquinas mais sofisticadas.

A performance dos modelos

Os resultados foram claros: nenhum dos 24 modelos avaliados conseguiu lidar adequadamente com crenças falsas em primeira pessoa, isto é, com frases como “eu acredito que…”. Em contraste, os sistemas tiveram desempenho muito melhor ao avaliar crenças atribuídas a outras pessoas.

Quando confrontadas com sentenças como “Maria acredita que…”, as IAs atingiram taxas de acerto de até 95%. Já nas declarações em que o próprio narrador expressava uma crença, a precisão caiu para 62,6%. No caso do GPT-4o, a queda foi de 98,2% para 64,4%, e o DeepSeek R1 despencou de mais de 90% para apenas 14,4%.

Esses números apontam para o chamado viés de atribuição, fenômeno em que o sistema julga melhor as crenças dos outros do que as próprias. Os pesquisadores concluem que isso indica uma ausência de raciocínio verdadeiro: as máquinas apenas reconhecem padrões linguísticos superficiais, sem de fato compreender o conteúdo das declarações.

Por que as IAs confundem crença com fato

As IAs de linguagem, como as desenvolvidas pela OpenAI e DeepSeek, são treinadas em imensos volumes de texto retirados da internet. Elas aprendem a prever palavras e estruturas com base em correlações estatísticas, não em uma noção de verdade.

Segundo os autores do estudo, esses sistemas não possuem compreensão genuína da natureza “factiva” do conhecimento — o princípio segundo o qual algo só pode ser sabido se for verdade. Assim, as IAs tratam expressões como “eu sei” ou “é fato que” como indicativos automáticos de veracidade, mesmo quando as afirmações são falsas.

Por outro lado, frases mais ambíguas, como “eu acredito que” ou “penso que”, confundem os modelos, que não conseguem decidir se o conteúdo é verdadeiro ou não. Essa dependência da forma linguística, e não do significado, mostra que o raciocínio das máquinas ainda é superficial e altamente dependente de padrões de linguagem.

A diferença entre saber e acreditar

Na filosofia, a distinção entre “saber” e “acreditar” é um dos pilares da epistemologia — o estudo do conhecimento. Saber implica que algo é verdadeiro e justificado, enquanto acreditar pode envolver uma convicção sem fundamento factual.

As IAs, entretanto, não operam com esse tipo de discernimento. Elas imitam linguagem humana, mas não compreendem seus fundamentos conceituais. O resultado é uma espécie de “inteligência sintática”: elas reconhecem como as frases devem ser estruturadas, mas não o que significam em essência.

Limitações técnicas e conceituais

Os cientistas destacam que as falhas observadas não derivam apenas de limitações computacionais, mas de um problema epistemológico. Modelos de linguagem não têm experiências próprias nem contexto interno para validar crenças ou fatos.

Enquanto o cérebro humano interpreta o mundo por meio da percepção e da memória, a IA apenas processa dados. Ela não tem referência concreta sobre o que é “real”, apenas reproduz probabilidades linguísticas.

Essa falta de ancoragem no mundo real impede que os modelos formem uma compreensão genuína de verdade ou falsidade. Em última instância, o que a IA chama de “conhecimento” é apenas a agregação de informações recorrentes em seu conjunto de treinamento.

O impacto dessa falha na prática

A limitação pode parecer teórica, mas seus efeitos são concretos — especialmente quando a IA é usada em contextos críticos como medicina, direito e jornalismo.

Na saúde, por exemplo, uma IA incapaz de distinguir crença de fato pode gerar diagnósticos errados ao confundir sintomas relatados com interpretações pessoais do paciente. No campo jurídico, o risco é distorcer argumentos, confundindo percepções com provas.

No jornalismo, a questão é ainda mais sensível: modelos que tratam crenças como fatos podem amplificar desinformação ao apresentar opiniões ou suposições como verdades absolutas.

O problema da confiança

Outro aspecto apontado pelo estudo é a confiança excessiva com que as IAs afirmam informações. Os sistemas tendem a responder com convicção mesmo quando estão errados — uma característica que pode enganar usuários menos experientes.

Essa “autoconfiança artificial” é perigosa, porque dá aparência de autoridade a conteúdos duvidosos. Como as máquinas não têm consciência de erro, suas respostas falsas soam tão persuasivas quanto as verdadeiras.

A visão dos especialistas

Os pesquisadores de Stanford afirmam que a próxima fronteira do desenvolvimento da inteligência artificial deve ser a criação de mecanismos capazes de avaliar epistemicamente suas próprias respostas — ou seja, refletir sobre o grau de certeza do que dizem.

Isso exigiria modelos com uma arquitetura mais sofisticada, talvez combinando raciocínio simbólico com aprendizado profundo. Em outras palavras, um sistema que não apenas reconheça padrões, mas também entenda relações de verdade.

Alguns cientistas sugerem que a solução pode estar em integrar IAs com estruturas cognitivas inspiradas na mente humana, capazes de lidar com incerteza, contexto e intenção. No entanto, esse é um desafio técnico e filosófico de enorme complexidade.

A questão ética e social

A incapacidade das máquinas de distinguir crença de fato levanta também preocupações éticas. À medida que a IA é usada para produzir relatórios, sentenças ou recomendações médicas, cresce o risco de decisões baseadas em interpretações equivocadas.

Além disso, a proliferação de sistemas generativos alimenta a desinformação digital. Uma IA que não sabe o que é verdadeiro pode inadvertidamente criar ou reforçar boatos, teorias conspiratórias e discursos falsos.

Por isso, pesquisadores defendem a necessidade de políticas públicas e marcos regulatórios que exijam transparência e validação humana em processos automatizados.

O desafio da compreensão epistemológica

Para resolver a “grande falha” das inteligências artificiais, os cientistas afirmam ser necessário desenvolver uma compreensão epistemológica nas máquinas — isto é, a capacidade de distinguir entre crença, conhecimento e fato.

Essa evolução exigiria que os modelos fossem capazes de questionar suas próprias inferências, algo que está muito além da estrutura dos sistemas atuais. As IAs modernas não “sabem” o que sabem; elas apenas geram respostas com base em padrões estatísticos.

Sem esse salto conceitual, a inteligência artificial continuará sendo poderosa, mas intelectualmente limitada — um espelho da linguagem humana, não de sua consciência.

O futuro das inteligências artificiais

O estudo de Stanford sugere que a solução pode vir da combinação entre aprendizado de máquina e raciocínio simbólico, um campo que busca aproximar a IA da lógica humana. Essa abordagem permitiria que os sistemas representassem crenças e fatos de maneira estruturada, em vez de apenas correlacionar palavras.

Empresas como OpenAI, Google DeepMind e Anthropic já exploram essa direção. A meta é criar modelos capazes de avaliar consistência lógica e identificar contradições internas, reduzindo a chance de respostas falsas apresentadas como verdades.

Contudo, o caminho é longo. A própria noção de “realidade” ainda é um desafio filosófico, mesmo para humanos. Ensinar isso a uma máquina requer não apenas dados, mas um modelo de mundo — algo que as IAs, até agora, não têm.

O estudo publicado na Nature Machine Intelligence expõe uma fragilidade essencial das inteligências artificiais: elas não sabem o que é real. Embora consigam gerar textos complexos e plausíveis, carecem de entendimento genuíno sobre verdade, crença e conhecimento.

Essa falha tem implicações diretas para a segurança, a ética e a confiabilidade da IA. Enquanto não desenvolverem um raciocínio epistemológico robusto, esses sistemas permanecerão sujeitos a erros sutis — e potencialmente perigosos — em contextos que exigem precisão.

A lição é clara: a inteligência artificial avança rapidamente, mas ainda está longe de compreender o mundo como nós o conhecemos. Saber o que é real continua sendo, por ora, uma habilidade exclusivamente humana.

Não perca nenhuma oportunidade de crédito e pagamento: acesse agora nossas últimas notícias no Seu Crédito Digital.