Chatbots de IA estão criando golpes de phishing mais convincentes. Saiba como identificar

Pesquisas recentes mostram que fraudadores já estão explorando as limitações das ferramentas para induzi-las a escrever conteúdos fraudulentos. O resultado são e-mails falsos muito mais realistas, capazes de enganar até os usuários mais atentos.

LEIA MAIS: 

• Inteligência artificial no varejo: WhatsApp assume lugar dos vendedores; entenda
• Futuro da inteligência artificial: o que esperar nos próximos anos; veja
• Inteligência Artificial muda o mercado de TI e cria novas oportunidades; confira as novidades

Como os chatbots de IA estão sendo usados em golpes de phishing

O experimento que revelou a vulnerabilidade

Um estudo conduzido pela Reuters em parceria com o pesquisador Fred Heiding, da Universidade de Harvard, mostrou como os principais chatbots podem ser induzidos a gerar conteúdos de phishing. Foram testados sistemas como ChatGPT, Grok, Meta AI, Claude, Gemini e DeepSeek.

Embora alguns tenham inicialmente recusado os pedidos, todos acabaram criando mensagens falsas quando os pesquisadores reformularam os comandos, alegando objetivos acadêmicos ou fictícios. Isso revelou que pequenas mudanças na abordagem já bastam para contornar as barreiras impostas pelas empresas.

A simulação de um golpe

O primeiro teste foi feito com o Grok, chatbot da xAI, empresa de Elon Musk. Ele foi instruído a redigir um e-mail sobre uma suposta instituição de caridade chamada “Silver Heart Foundation”. A mensagem continha elementos clássicos do phishing, como senso de urgência e links suspeitos, incentivando a ação imediata da vítima.

Esse mesmo padrão foi reproduzido por outros chatbots, evidenciando que, apesar das políticas de segurança, os modelos podem ser explorados para finalidades criminosas.

O impacto real dos testes

Taxa de cliques preocupante

As mensagens criadas pelos chatbots foram enviadas a 100 voluntários. O resultado surpreendeu: 11% dos destinatários clicaram nos links maliciosos. Embora seja um experimento controlado, o dado mostra que mensagens geradas por IA podem ter a mesma eficácia — ou até maior — que aquelas produzidas manualmente por golpistas.

Quem foi mais convincente?

Entre os e-mails enviados, os que tiveram cliques foram produzidos por:

• Dois do Meta AI
  
• Dois do Grok
  
• Um do Claude
  

Nenhum clique foi registrado nas mensagens criadas pelo ChatGPT e DeepSeek, indicando que as barreiras de segurança dessas plataformas podem ter reduzido a eficácia dos golpes.

Por que os chatbots facilitam golpes digitais

Produção em massa de mensagens falsas

Para especialistas em cibersegurança, o grande risco está na escala. Enquanto golpistas humanos precisam investir tempo e criatividade para elaborar cada mensagem, os chatbots podem gerar dezenas de variações em segundos. Isso reduz custos e amplia o alcance dos ataques.

Linguagem mais natural e persuasiva

As mensagens criadas por IA apresentam erros gramaticais mínimos, além de maior fluidez. Isso elimina um dos sinais clássicos que os usuários usam para identificar e-mails suspeitos. Um texto convincente é muito mais difícil de reconhecer como golpe.

A versatilidade da engenharia social

Os chatbots também podem ser instruídos a personalizar mensagens para diferentes perfis de vítimas, aumentando as chances de sucesso. Um e-mail para um idoso, por exemplo, pode ter tom de urgência humanizado, enquanto para um jovem pode simular promoções de tecnologia.

A resposta das empresas de tecnologia

Meta e Anthropic

A Meta declarou que realiza testes de estresse constantes em seus sistemas para evitar abusos. Já a Anthropic, criadora do Claude, afirmou que o uso da ferramenta para golpes viola as políticas da empresa e resulta na suspensão imediata das contas envolvidas.

Google e OpenAI

O Google anunciou que reconfigurou o Gemini após detectar que o modelo havia gerado conteúdo de phishing. A OpenAI, responsável pelo ChatGPT, reconheceu publicamente que seus modelos podem ser usados de forma indevida para engenharia social e trabalha em melhorias para reduzir esse risco.

DeepSeek e Grok

Enquanto a maioria das empresas se posicionou rapidamente, a DeepSeek e a xAI (Grok) não responderam às solicitações da Reuters. O silêncio gerou críticas sobre a falta de transparência e a ausência de políticas claras contra abusos.

Por que os usuários estão mais vulneráveis

Conveniência versus segurança

O dilema para as empresas de IA é equilibrar conveniência com segurança. Restrições muito rígidas podem levar usuários legítimos a migrarem para concorrentes menos restritivos, enquanto regras mais brandas abrem espaço para o uso indevido.

A falsa sensação de confiança

Muitos usuários ainda acreditam que todos os conteúdos gerados por IA passam por filtros infalíveis. Essa confiança pode ser explorada pelos criminosos, já que uma mensagem aparentemente bem estruturada tende a parecer mais legítima.

Mudança no perfil das fraudes

Tradicionalmente, golpes de phishing eram fáceis de identificar por erros de ortografia ou linguagem estranha. Agora, com os chatbots de IA, os e-mails se tornam quase indistinguíveis de comunicações corporativas reais.

Como identificar mensagens de phishing mais convincentes

Sinais clássicos ainda existem

Mesmo com textos mais polidos, os golpes continuam apresentando sinais de alerta:

• Promessas de vantagens exageradas (descontos muito altos, prêmios inesperados)
  
• Urgência excessiva para que a vítima clique imediatamente
  
• Links encurtados ou suspeitos
  
• Remetentes com domínios estranhos
  

Verificação é essencial

Especialistas recomendam sempre:

• Conferir o endereço de e-mail do remetente
  
• Não clicar em links antes de verificar a origem
  
• Usar soluções de segurança digital atualizadas
  
• Em caso de dúvida, entrar em contato direto com a instituição mencionada
  

O futuro da cibersegurança diante dos chatbots

A corrida entre criminosos e defensores

Assim como em outros campos da tecnologia, há uma corrida constante entre quem cria ataques e quem desenvolve defesas. Os chatbots de IA entram como uma nova camada de complexidade nesse cenário.

A importância da educação digital

Nenhum sistema de segurança é 100% eficaz sem a conscientização do usuário. Programas de alfabetização digital e campanhas de prevenção precisam ser intensificados, sobretudo para públicos mais vulneráveis, como idosos.

Regulação e responsabilidade

A discussão sobre regulamentar a inteligência artificial também entra nesse contexto. Autoridades avaliam formas de responsabilizar empresas por usos indevidos de suas ferramentas, sem impedir a inovação.

Os chatbots de IA estão revolucionando a comunicação, mas também oferecem riscos inéditos. O experimento conduzido por Harvard e Reuters mostrou que, com simples ajustes nos comandos, é possível induzir essas ferramentas a criar golpes de phishing altamente convincentes.

Se, por um lado, empresas de tecnologia reforçam barreiras e desenvolvem novas salvaguardas, por outro, criminosos encontram brechas para explorar. Para os usuários, a lição é clara: redobrar a atenção, desconfiar de mensagens inesperadas e investir em segurança online.

A evolução da IA é inevitável, mas cabe a todos — governos, empresas e sociedade — garantir que o avanço não se transforme em uma arma contra os próprios usuários.