Estudo mostra que Grok, IA de Musk, falha em análises sobre conflito no Oriente Médio

Um recente estudo do Atlantic Council revelou que o Grok, chatbot da xAI — empresa de Elon Musk —, teve um desempenho preocupante ao reportar sobre o mais recente conflito entre Israel e Irã. As respostas fornecidas pela ferramenta foram inconsistentes e, por vezes, contraditórias.

LEIA MAIS:

• Vivo liberando 1 ano grátis de IA rival do ChatGPT
• O que é a Perplexity, a startup de inteligência artificial que atrai Meta e Apple
• Cresce o uso de inteligência artificial para aplicar golpes

A ascensão da IA como fonte de informação

Nos últimos anos, plataformas de IA como Grok têm se tornado populares como fonte de notícias entre usuários que buscam agilidade e objetividade. A promessa de respostas rápidas e baseadas em grandes volumes de dados atrai especialmente usuários jovens, que já não confiam nos canais tradicionais de mídia.

Entretanto, o uso dessas tecnologias ainda enfrenta sérias limitações técnicas e éticas, especialmente em contextos de crise, como guerras ou desastres naturais. A guerra de 12 dias entre Israel e Irã, ocorrida recentemente, serviu de teste real para a confiabilidade do Grok.

Falhas no Grok: Resultados do estudo do Atlantic Council

Segundo o relatório, foram analisadas mais de 130 mil interações em diversos idiomas no X (antigo Twitter), onde o Grok está integrado. O levantamento mostra que o chatbot teve dificuldades recorrentes em autenticar o conteúdo gerado por IA, além de fornecer informações incorretas sobre eventos em andamento.

Casos de desinformação flagrante

Entre os exemplos citados no estudo está a resposta do Grok a imagens de um aeroporto supostamente destruído por ataques iranianos. O chatbot forneceu diferentes versões sobre o mesmo conteúdo — em questão de minutos — alternando entre afirmar que o aeroporto havia sido atingido e negar qualquer dano.

Em certos momentos, o Grok localizou erroneamente o aeroporto em Gaza, em Beirute ou até em Teerã. Em outras versões, mencionava que o ataque teria partido do Iêmen, o que não foi confirmado por nenhuma fonte oficial.

Repercussão e contexto político

Esses erros não passaram despercebidos. Grupos de análise de segurança digital alertaram que informações falsas, quando amplificadas por plataformas automatizadas, podem provocar pânico, alimentar discursos radicais e até influenciar decisões políticas e militares.

A crise entre Israel e Irã é marcada por alta tensão internacional, e a circulação de informações erradas pode inflamar ainda mais o cenário. No caso do Grok, a volatilidade das respostas gerou desconfiança até mesmo entre usuários mais tecnófilos.

Histórico de erros da IA de Musk

O caso mais recente não é um incidente isolado. O relatório também menciona falhas similares do Grok em episódios anteriores, como:

Conflito entre Índia e Paquistão

Durante confrontos na fronteira, o Grok replicou boatos sobre ataques com armas químicas e publicou análises erradas de imagens que circularam nas redes sociais. Mais tarde, foi confirmado que grande parte das imagens era falsa ou descontextualizada.

Protestos nos EUA contra políticas migratórias

Na ocasião das manifestações contra ações de imigração do governo Trump em Los Angeles, o chatbot vinculou erroneamente imagens de confrontos policiais a outras manifestações em cidades diferentes, como Nova York e Chicago.

Referência equivocada ao “genocídio branco” na África do Sul

Outro episódio polêmico envolveu a citação, por parte do Grok, de um suposto “genocídio branco” na África do Sul — narrativa frequentemente usada por grupos extremistas. A empresa xAI alegou que essa resposta foi consequência de uma “modificação não autorizada”, sem dar maiores detalhes sobre como isso ocorreu.

O que explica essas falhas?

Especialistas em inteligência artificial apontam que esses erros podem ter múltiplas origens:

1. Falta de curadoria em tempo real

Os sistemas como o Grok dependem de dados existentes para construir suas respostas. Em momentos de crise, as informações são escassas, conflitantes e frequentemente manipuladas. Sem curadoria humana ativa, o chatbot pode replicar falsidades virais como se fossem fatos.

2. Treinamento enviesado

Mesmo com datasets extensos, o treinamento do Grok pode carregar vieses culturais ou políticos, reproduzindo narrativas distorcidas, principalmente se os dados originais tiverem essas falhas embutidas.

3. Integração apressada com redes sociais

A integração do Grok à plataforma X (ex-Twitter) amplia seu alcance, mas também o expõe a conteúdos altamente polarizados e muitas vezes manipulados, o que compromete a fidelidade das respostas.

Riscos para a democracia e para a segurança

A popularização de sistemas de IA como o Grok em contextos de guerra levanta alertas sobre os perigos da automação da desinformação. Se um chatbot com milhões de acessos fornece dados incorretos sobre alvos bombardeados ou sobre ações militares, pode haver consequências sérias.

Além disso, países autoritários podem explorar esses erros como justificativa para censura, alegando que a IA está disseminando notícias falsas. Em democracias, por outro lado, a confiança pública nas tecnologias emergentes pode ser severamente abalada.

O que dizem especialistas e ONGs

Organizações como o Human Rights Watch e a Freedom House já solicitaram mais transparência algorítmica das empresas de IA. No caso da xAI, até o momento, não houve um plano concreto apresentado para aprimorar o Grok ou corrigir os erros de verificação.

Para o Atlantic Council, é imprescindível que empresas como a de Elon Musk adotem medidas de auditoria externa, para que os riscos da IA mal gerida não se tornem catástrofes informacionais globais.

Alternativas e caminhos possíveis

Enquanto não houver uma regulação clara para o uso dessas ferramentas, especialistas sugerem o uso conjunto de IA com verificadores humanos. O ideal seria que plataformas como o X não substituíssem jornalistas, mas auxiliassem no processo de apuração.

Também se defende a criação de selos de verificação em tempo real para conteúdos gerados ou validados por fontes confiáveis, e a proibição de que sistemas de IA operem sem supervisão em contextos sensíveis, como zonas de guerra.

O estudo sobre o Grok reforça um alerta que já vinha sendo feito por especialistas em tecnologia: a inteligência artificial ainda não está pronta para substituir a apuração humana em situações de alta complexidade. Quando mal treinada, a IA pode se tornar uma máquina de desinformação, com impactos diretos sobre vidas humanas e a estabilidade de regiões inteiras.

A responsabilidade por esses erros não recai apenas sobre os algoritmos, mas também sobre quem os desenvolve, implanta e promove como soluções confiáveis. É essencial que empresas como a xAI reconheçam essas limitações e invistam em transparência, regulação e supervisão humana. O futuro da informação — e talvez da própria democracia — pode depender disso.