IA fora de controle? Especialistas alertam para riscos democráticos globais

Relatórios recentes apontam que, em pelo menos 50 países, a IA já foi utilizada para criar vídeos falsos, disseminar fake news e influenciar votações. O fenômeno está gerando uma onda de preocupação entre especialistas e governos, que buscam respostas para conter os efeitos dessa tecnologia.

LEIA MAIS:

• Inteligência artificial da Perplexity estreia no WhatsApp com acesso gratuito
• Cresce o uso de inteligência artificial para aplicar golpes
• Estratégia do Brasil para inteligência artificial falha ao ignorar conceito básico

Inteligência artificial: A manipulação digital e seus novos contornos

Com a popularização das ferramentas de IA generativa, criar vídeos realistas e falsos ficou tão fácil quanto publicar um post nas redes sociais. Hoje, é possível simular discursos, alterar vozes e imagens com alta fidelidade e enganar milhões de pessoas em poucos segundos.

Esses conteúdos falsificados costumam circular sem controle, desafiando a capacidade de moderação das plataformas. Casos recentes mostram o quanto isso pode ser prejudicial, especialmente durante períodos eleitorais, quando cada voto pode definir o rumo de um país.

Exemplo do Canadá

Antes das eleições no Canadá, uma imagem gerada por IA mostrava o candidato Mark Carney ao lado de Jeffrey Epstein, figura polêmica envolvida em crimes sexuais. A foto foi disseminada no X (antigo Twitter), causando grande repercussão.

Manipulação em países europeus

Na Polônia, vídeos e postagens falsas criadas por IA sugeriram ameaças terroristas e apoio de Donald Trump a um candidato de extrema-direita. Na Romênia, uma gravação com voz clonada de Trump dizia que o governo local estava “destruindo a democracia”, o que forçou uma nova eleição.

Deepfakes nas eleições de 2024: um panorama preocupante

Segundo o Painel Internacional sobre o Ambiente da Informação, sediado na Suíça, foram documentados 215 casos de uso da IA em eleições ao redor do mundo só em 2024. Em 69% dos casos, o uso foi classificado como prejudicial à integridade democrática.

Impacto direto no voto

As deepfakes — vídeos ou áudios falsificados com uso de IA — servem como ferramenta para difamar candidatos, manipular discursos ou confundir eleitores. O simples compartilhamento de um vídeo com uma fala falsa pode virar uma avalanche de desinformação, alterando a percepção do público.

Benefícios pontuais

Apesar dos riscos, nem todo uso da IA nas eleições é negativo. Em 25% dos casos analisados, a tecnologia foi utilizada por campanhas políticas para traduzir conteúdos, adaptar propostas para dialetos regionais ou segmentar mensagens com base em dados demográficos. Mas esses usos positivos ainda são minoria.

IA e interferência internacional nas eleições

O uso da inteligência artificial para interferir em eleições estrangeiras tem sido uma das principais preocupações globais. Antes, campanhas de desinformação exigiam tempo e recursos humanos. Com a IA, tudo isso se tornou escalável.

Origem das campanhas

Rússia, China e Irã estão entre os países que mais utilizaram IA para interferir em pleitos de outras nações, segundo reportagem do New York Times. As ações incluem desde a criação de perfis falsos até a disseminação de vídeos que incitam medo, ódio ou desconfiança institucional.

Caso da Romênia

A eleição presidencial romena de 2023 é um exemplo emblemático. Um candidato pouco conhecido, Calin Georgescu, disparou nas pesquisas graças a uma campanha coordenada por redes sociais e vídeos falsos produzidos com IA. O tribunal eleitoral determinou a anulação do pleito, e Georgescu foi impedido de concorrer após virar alvo de investigação criminal.

O papel das big techs: ação ou omissão?

Empresas como Meta, X, TikTok e YouTube possuem políticas contra conteúdos manipulados, mas enfrentam dificuldades técnicas para barrar o uso da IA maliciosa. Estudo após estudo mostra que contas falsas criadas por IA conseguem burlar sistemas de moderação com facilidade.

Falta de rastreabilidade

Segundo o especialista em inovação Arthur Igreja, a maior fragilidade está na dificuldade de rastrear a origem dos conteúdos. A velocidade com que uma fake news circula supera a capacidade das empresas de agir antes que o estrago seja feito.

“A verdade é que ninguém conseguiu escalar isso direito e encontrar uma solução. Fora do mundo do direito autoral, a internet é uma terra sem lei.”

Casos recentes

A OpenAI revelou que interrompeu cinco operações de influência em 2024. Uma delas, ligada à Rússia, que usou o ChatGPT para criar conteúdo de apoio a um partido de extrema-direita na Alemanha. O TikTok, por sua vez, removeu mais de 7.300 postagens em apenas duas semanas, durante as eleições em três países da União Europeia.

Ameaças à soberania e ao sistema democrático

A manipulação digital alimentada por IA não apenas influencia votos, mas também viola a soberania nacional. Segundo Deyse Cioccari, cientista política e diretora de pesquisa do Instituto Tria, estamos diante de uma guerra de desinformação com consequências geopolíticas.

Diplomacia cibernética como resposta

Ela defende o fortalecimento de uma diplomacia cibernética, com sanções e punições multilaterais a países que tentam sabotar eleições alheias por meio de IA. Mais do que respostas legais, o ideal seria expor internacionalmente os responsáveis para conter sua atuação.

“A IA é transnacional por natureza — os riscos também. É urgente criar uma Convenção Internacional de Integridade Informacional.”

Como combater o uso nocivo da IA nas eleições?

Não existe uma solução única, mas especialistas apontam para algumas ações que podem mitigar os riscos. Entre elas:

Fortalecer marcos regulatórios

A ausência de legislação internacional sobre IA e eleições cria um vácuo perigoso. Países devem trabalhar para aprovar leis claras sobre o uso da tecnologia em campanhas eleitorais.

Investimento em detecção

Plataformas e governos precisam investir em tecnologia de rastreamento e inteligência artificial reversa, capaz de detectar conteúdos falsificados com mais eficiência.

Educação midiática

Capacitar a população para identificar deepfakes, verificar fontes e desconfiar de conteúdos virais pode reduzir o impacto da desinformação. Campanhas públicas de conscientização são fundamentais.

Cooperação internacional

A criação de coalizões globais contra o uso indevido de IA em eleições pode aumentar a capacidade de resposta a operações transnacionais de desinformação.

A inteligência artificial representa uma das maiores inovações do século XXI, mas também carrega ameaças significativas à democracia. Em um mundo polarizado e digital, a IA está sendo usada para manipular eleições, fabricar realidades e minar a confiança das populações em seus sistemas políticos.

Governos, empresas e cidadãos precisam agir com urgência. A criação de marcos legais, a responsabilização de big techs e a vigilância constante são os únicos caminhos possíveis para preservar a integridade democrática. Caso contrário, o processo eleitoral pode se tornar refém de algoritmos programados para enganar — e não para informar.