Facebook remove vídeos manipulados sobre Pix após notificação da AGU

Leia mais:

Homem denuncia golpe em compra de carro pelo Facebook Marketplace

Vídeos usavam IA para forjar falas de autoridades do Banco Central

Os vídeos traziam montagem sofisticada com uso de inteligência artificial, simulando entrevistas e depoimentos de dirigentes do Banco Central. O objetivo era dar credibilidade à promessa de um suposto ressarcimento financeiro, que, segundo os golpistas, seria oferecido a todos os usuários do Pix devido a um vazamento de dados.

O conteúdo enganoso não apenas fazia uso indevido da imagem de figuras públicas, mas também utilizava perfis falsos e imitava portais de notícias reconhecidos, como o G1. Um desses perfis chegou a acumular mais de 3 mil curtidas na rede social antes de ser retirado do ar.

AGU atua para conter a disseminação de fraudes digitais

Diante da gravidade da situação, a Advocacia-Geral da União (AGU), por meio da Procuradoria Nacional da União de Defesa da Democracia (PNDD), foi acionada pelo Banco Central. A PNDD emitiu uma notificação extrajudicial à Meta, empresa responsável pelo Facebook e Instagram, solicitando a remoção imediata dos vídeos manipulados.

Segundo a AGU, os conteúdos violavam os próprios termos de uso das plataformas e tinham potencial de comprometer a confiança no sistema de pagamentos instantâneos brasileiro. A notificação destacou ainda que redes sociais podem ser responsabilizadas legalmente por manterem no ar materiais enganosos, conforme decisão recente do Supremo Tribunal Federal (STF) sobre o Marco Civil da Internet.

Golpes visam dados pessoais por meio de sites fraudulentos

A estrutura do golpe se estendia além das redes sociais. Após convencer os usuários da veracidade das promessas, os vídeos direcionavam os internautas a sites falsos, nos quais eram solicitadas informações pessoais e bancárias, como CPF, número da conta e senhas.

O intuito, de acordo com a AGU, era coletar ilegalmente dados dos usuários para aplicação de fraudes financeiras. A atuação dos criminosos mostra um padrão já identificado em outros golpes digitais: o uso de canais oficiais ou da aparência deles para capturar a confiança do público e induzir ao erro.

STF reforça responsabilidade das plataformas

A notificação enviada ao Facebook pela PNDD também citou jurisprudência recente do STF, que ampliou a responsabilidade das plataformas digitais em relação a conteúdos de terceiros que violam leis ou fomentam fraudes. A decisão do Supremo estabelece que, diante da notificação de uma publicação ilícita, a rede social tem o dever de agir com celeridade para a remoção.

Com base nesse entendimento, a AGU afirmou que a manutenção dos vídeos fraudulentos poderia configurar omissão por parte da Meta, uma vez que os conteúdos não apenas enganavam os usuários, mas também prejudicavam a política pública do governo federal ligada ao sistema Pix.

Perfis falsos imitam portais de notícia e ampliam o impacto das fraudes

Um dos pontos mais alarmantes destacados pela AGU foi o uso de perfis falsos que imitavam grandes veículos de imprensa. Um desses perfis simulava a identidade visual do portal G1, da Globo, o que aumentava ainda mais o risco de que usuários acreditassem na veracidade das mensagens.

A atuação criminosa, ao usar IA para criar falas falsas de dirigentes e associar isso a perfis de mídia, mostra uma nova escalada na sofisticação dos golpes digitais. O objetivo central, segundo a PNDD, é manipular a percepção pública e criar um senso de urgência que leve os usuários a fornecer seus dados rapidamente.

Meta acata pedido da AGU e remove conteúdo de Facebook e Instagram

Em resposta à notificação da AGU, a Meta confirmou a remoção dos vídeos manipulados tanto no Facebook quanto no Instagram. A empresa afirmou que os conteúdos violavam suas diretrizes e reforçou que tem investido em ferramentas automatizadas e processos de revisão para identificar e barrar a disseminação de fake news.

Apesar da retirada dos vídeos, a AGU alertou para a necessidade de que os usuários estejam sempre atentos a promessas financeiras compartilhadas nas redes. A recomendação é que qualquer informação sobre benefícios oficiais seja confirmada nos canais do governo federal ou diretamente com instituições como o Banco Central.

Especialistas pedem regulação mais rígida da IA em redes sociais

O caso reacende o debate sobre a regulação do uso de inteligência artificial em conteúdos digitais, especialmente em ambientes de grande circulação como Facebook, Instagram, TikTok e X (antigo Twitter). Para especialistas, o avanço da tecnologia de geração de vídeos realistas exige ações preventivas das plataformas, como filtros automáticos e maior transparência nos algoritmos de recomendação.

Também há um apelo para que o Congresso avance nas discussões sobre o Projeto de Lei das Fake News e a regulação da IA, a fim de responsabilizar os autores desses conteúdos e proteger o público contra novos golpes.