Polêmica: Meta processa app por uso indevido de IA em criação de nudes

O motivo? O uso de inteligência artificial (IA) generativa para criar nudes artificiais, prática que está crescendo de forma alarmante e levantando sérias preocupações sobre ética, segurança e proteção de dados nas plataformas digitais.

O caso ganhou repercussão internacional após centenas de anúncios do aplicativo serem detectados em diversas plataformas da Meta. A empresa afirma que a Joy Timeline repetidamente burlou os mecanismos de revisão e segurança de anúncios, desrespeitando as políticas da big tech e expondo usuários a conteúdos enganosos e potencialmente prejudiciais.

Leia mais:

Policiais ganham poder para invadir e bloquear celulares: o que você precisa saber

O que é o Crush AI?

Aplicativo promove “nudificação” com uso de IA generativa

O Crush AI é um aplicativo que utiliza inteligência artificial para gerar imagens de nudez falsas a partir de fotografias fornecidas pelos usuários. Esse tipo de tecnologia, chamado informalmente de “nudify”, consegue remover virtualmente roupas de pessoas em imagens, criando conteúdo explícito sem o consentimento real dos retratados — ou, em alguns casos, com base em imagens fictícias.

A prática, embora tecnicamente inovadora, levanta sérias questões legais e éticas, principalmente quando usada para manipular ou explorar fotos de terceiros.

Como a Meta reagiu

Ações legais e promessa de reforço na segurança

A Meta anunciou que está movendo uma ação judicial contra a Joy Timeline com o objetivo de proibir a exibição dos anúncios do Crush AI em suas plataformas. Segundo a companhia:

“Esta ação judicial ressalta a seriedade com que encaramos esse abuso e nosso compromisso em fazer tudo o que pudermos para proteger nossa comunidade.”

Além do processo, a empresa afirma que continuará a tomar medidas, incluindo exclusão de contas, bloqueio de URLs e até ações legais, contra qualquer organização que tente burlar suas políticas de moderação.

Dificuldade de conter a disseminação

Anúncios continuam circulando, mesmo após remoção

Apesar das ações da Meta, a realidade mostra um cenário mais complexo. Uma investigação da CBS News revelou que mesmo após os anúncios serem supostamente removidos, diversos deles ainda circulavam nas plataformas sociais. Isso indica que as empresas por trás desses apps conseguem, de alguma forma, enganar os sistemas de detecção automatizada.

Segundo a própria Meta, é cada vez mais desafiador impedir a publicação desses conteúdos, já que os desenvolvedores usam métodos sofisticados para driblar os filtros de segurança e revisão.

Público-alvo dos anúncios

Jovens homens são o principal foco

A investigação jornalística também revelou que a maioria dos anúncios do Crush AI estava direcionada a homens entre 18 e 65 anos, especialmente nos Estados Unidos, Reino Unido e União Europeia. A segmentação desse tipo de conteúdo para grupos específicos levanta preocupações sobre manipulação de comportamento, exploração emocional e riscos psicológicos.

Além disso, tais anúncios violam políticas internacionais de segurança digital e, em alguns países, podem ser considerados ilegais.

O que diz a legislação sobre nudes feitos por IA?

Brasil avança com PL que criminaliza o uso de IA para nudez

Enquanto nos EUA e Europa ainda se debate a regulamentação desse tipo de prática, o Brasil deu um passo adiante. A Câmara dos Deputados aprovou recentemente um projeto de lei que criminaliza a criação e disseminação de nudes gerados por IA sem o consentimento da pessoa retratada.

O projeto prevê pena de reclusão e multa, além de considerar agravantes quando a imagem manipulada for de crianças ou adolescentes, o que já configura crime grave conforme o ECA (Estatuto da Criança e do Adolescente).

Impactos sociais e psicológicos

Manipulação digital pode gerar danos irreparáveis

O uso indevido de IA para criação de nudes não afeta apenas a integridade digital, mas também a saúde mental dos envolvidos. Casos de humilhação pública, chantagem (sextorsão), cyberbullying e suicídios associados a deepfakes ou imagens falsas têm sido relatados em diferentes partes do mundo.

Além disso, esse tipo de tecnologia pode ser usado como arma em contextos de violência de gênero, vingança pornográfica e assédio, ampliando o alcance de crimes virtuais.

Papel das big techs e os desafios da moderação

Moderar IA é mais difícil do que parece

A crescente sofisticação dos algoritmos de IA generativa tem desafiado as principais empresas de tecnologia. O caso do Crush AI mostra como a moderação automatizada pode ser facilmente enganada com pequenas alterações nos códigos dos anúncios ou nas URLs utilizadas.

A Meta afirma que está investindo em novas ferramentas e equipes de revisão humana, mas especialistas alertam que a corrida entre desenvolvedores de IA e sistemas de moderação pode se tornar insustentável sem um marco regulatório internacional robusto.

O que você pode fazer para se proteger?

Dicas para identificar e evitar armadilhas de IA maliciosa

• Evite clicar em anúncios sensacionalistas com promessas irreais.
• Não envie fotos pessoais a aplicativos desconhecidos, mesmo que pareçam inofensivos.
• Use autenticação em duas etapas para proteger suas contas em redes sociais.
• Denuncie anúncios suspeitos nas plataformas.
• Monitore sua imagem na internet com ferramentas de busca reversa.

Conclusão

O processo da Meta contra a Joy Timeline é um marco importante no debate sobre os limites éticos da inteligência artificial, principalmente em relação à criação de conteúdo íntimo e falso. A tendência é que mais casos como esse surjam à medida que as tecnologias evoluem — e por isso é fundamental que usuários, empresas e governos estejam atentos e atuem com responsabilidade.

Imagem: Tada Images / Shutterstock.com