Relatório sobre IA passa por revisão após identificação de erros

A consultoria holandesa KPMG retirou de circulação um relatório sobre inteligência artificial após a descoberta de que o próprio documento continha informações falsas aparentemente geradas por sistemas de IA. O caso ganhou repercussão internacional por envolver exemplos de adoção tecnológica atribuídos a grandes instituições, mas que nunca aconteceram na prática.

O episódio reacende o debate sobre os riscos das chamadas “alucinações” da inteligência artificial e reforça a necessidade de supervisão humana rigorosa na produção de conteúdos corporativos.

Leia mais:

Humano + inteligência artificial: combinação dispara criatividade, aponta pesquisa

O que aconteceu com o relatório da KPMG?

O estudo, intitulado “Redefinindo a excelência na era da IA agêntica”, analisava como empresas e organizações estariam utilizando sistemas avançados de inteligência artificial para otimizar operações e melhorar resultados.

O problema surgiu quando diversas instituições mencionadas no documento identificaram informações incorretas sobre suas iniciativas tecnológicas.

Entre os casos apontados estavam:

• O banco suíço UBS;
• O Serviço Nacional de Saúde do Reino Unido (NHS);
• As Ferrovias Federais Suíças (SBB).

Segundo informações divulgadas pelo Financial Times, o relatório atribuía a essas organizações aplicações sofisticadas de IA que não existiam ou que foram significativamente exageradas.

Após a repercussão, a KPMG retirou o material de circulação enquanto conduz uma investigação interna para entender como as informações chegaram à versão final do documento.

O caso do UBS chamou atenção

Um dos exemplos mais citados envolvia o UBS, um dos maiores bancos do mundo.

O relatório afirmava que a instituição utilizava agentes de inteligência artificial para atividades como:

Consultoria de investimentos

O documento sugeria que sistemas autônomos auxiliavam clientes na tomada de decisões financeiras.

Gestão de riscos

A publicação indicava que a IA participava ativamente da identificação e mitigação de riscos corporativos.

Monitoramento regulatório

Outra alegação apontava o uso de agentes inteligentes para acompanhar exigências regulatórias e garantir conformidade.

Entretanto, o UBS declarou que a descrição era “factualmente incorreta”, negando que essas aplicações existissem da forma apresentada.

Como as informações falsas foram identificadas?

As inconsistências foram detectadas pela GPTZero, empresa especializada na identificação e análise de conteúdos produzidos por inteligência artificial.

Os pesquisadores concluíram que vários trechos apresentavam características típicas de alucinações de IA.

O que são alucinações de inteligência artificial?

O termo é utilizado quando um modelo de IA produz respostas aparentemente plausíveis, mas que não correspondem aos fatos.

Em vez de admitir que não possui determinada informação, o sistema pode criar dados, referências, estatísticas ou exemplos que parecem legítimos.

Esse comportamento é conhecido e afeta praticamente todos os modelos generativos atualmente disponíveis no mercado.

Por que as alucinações acontecem?

Os modelos de linguagem não “sabem” se uma informação é verdadeira ou falsa.

Eles funcionam prevendo a sequência de palavras mais provável com base nos dados utilizados durante o treinamento.

Como consequência, podem produzir respostas muito convincentes mesmo quando estão erradas.

Entre os fatores que contribuem para esse problema estão:

• Falta de informações confiáveis sobre determinado tema;
• Solicitações complexas ou muito específicas;
• Ausência de verificação humana;
• Uso inadequado da IA em pesquisas e análises.

Por esse motivo, especialistas recomendam que conteúdos corporativos, acadêmicos e jornalísticos passem por revisão rigorosa antes da publicação.

A resposta oficial da KPMG

Após a descoberta dos problemas, a consultoria informou que removeu o estudo de seus canais oficiais enquanto apura as circunstâncias da publicação.

Em comunicado divulgado à imprensa, a empresa reforçou que possui diretrizes internas para o uso responsável da inteligência artificial.

Segundo um porta-voz da organização, todos os funcionários devem seguir procedimentos que incluem:

• Supervisão humana obrigatória;
• Validação independente das informações;
• Verificação de fontes confiáveis;
• Revisão dos conteúdos produzidos com apoio de IA.

A manifestação demonstra que o problema não está necessariamente na tecnologia em si, mas nos processos de controle e governança adotados pelas organizações.

O caso não é isolado

A KPMG não é a primeira grande consultoria a enfrentar dificuldades relacionadas ao uso de inteligência artificial em documentos profissionais.

No final do ano anterior, a Deloitte passou por situações semelhantes em pelo menos duas ocasiões.

Relatório para o governo australiano

Em outubro, a empresa identificou erros em um documento entregue ao governo da Austrália.

O material continha referências, fontes e citações que simplesmente não existiam.

Diante da falha, a consultoria abriu mão de parte do pagamento recebido pelo trabalho.

Problemas em relatório para o Canadá

Pouco tempo depois, em novembro, a Deloitte voltou a enfrentar questionamentos.

Um relatório entregue ao setor público canadense incluía estudos acadêmicos e referências inexistentes, levantando novas preocupações sobre os mecanismos de validação utilizados.

O que as empresas podem aprender com esses episódios?

A adoção da inteligência artificial continua crescendo em todo o mundo. No Brasil, empresas de diversos setores já utilizam ferramentas generativas para atendimento ao cliente, produção de conteúdo, análise de dados e automação de processos.

No entanto, os casos envolvendo KPMG e Deloitte mostram que a tecnologia não pode substituir completamente a revisão humana.

Algumas práticas consideradas essenciais incluem:

Criar políticas claras de uso da IA

As organizações precisam definir quando e como a tecnologia pode ser utilizada.

Exigir validação de fontes

Toda informação gerada por IA deve ser conferida em fontes independentes e confiáveis.

Treinar equipes

Profissionais precisam compreender as limitações da tecnologia e os riscos associados às alucinações.

Manter responsabilidade humana

A decisão final sobre a publicação de qualquer documento deve permanecer sob responsabilidade de especialistas qualificados.

Imagem: Reprodução/Seu Crédito Digital