O avanço da inteligência artificial generativa está tornando vídeos, fotografias e gravações de voz falsificados cada vez mais convincentes. Conhecidos como deepfakes, esses conteúdos podem reproduzir a aparência e a voz de pessoas reais, criando desafios para a verificação de informações e para a utilização de provas em processos judiciais.
O alerta foi apresentado por especialistas ligados à OpenAI e à Meta durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, realizada em Boston em 15 de outubro de 2026. O grupo discute há cerca de três anos como os tribunais devem lidar com materiais cuja autenticidade possa ter sido comprometida pelo uso de inteligência artificial.
A preocupação é que ferramentas cada vez mais acessíveis permitam produzir falsificações com pouco tempo e investimento. Ao mesmo tempo, os métodos tradicionais de identificação, baseados na observação de imagens, movimentos e características da voz, podem deixar de ser suficientes para determinar se uma gravação é verdadeira.
O problema não se limita à tecnologia utilizada para fabricar o conteúdo. Também envolve a capacidade de demonstrar sua origem, identificar possíveis alterações e estabelecer se o material representa fielmente um acontecimento.
Leia mais:
Deepfakes crescem e exigem atenção a sinais de manipulação
Por que os deepfakes preocupam o sistema judicial?
Provas digitais podem ser mais difíceis de verificar
Em processos judiciais, vídeos, áudios, fotografias e mensagens digitais podem ajudar a esclarecer conflitos trabalhistas, disputas familiares, fraudes financeiras e crimes. Para que sejam utilizados adequadamente, porém, é necessário avaliar sua autenticidade, integridade e relação com os fatos investigados.
Um vídeo aparentemente legítimo, por exemplo, pode mostrar uma pessoa pronunciando palavras que nunca disse. Da mesma forma, uma gravação de voz pode simular uma ordem, uma ameaça ou uma autorização financeira.
Essas situações criam dificuldades para juízes, advogados, peritos e demais profissionais envolvidos na análise das evidências. Se uma das partes questionar a autenticidade do material, pode ser necessário recorrer a exames técnicos e a outras informações que ajudem a esclarecer sua procedência.
Segundo dados de uma pesquisa divulgada em março pelo Centro Federal do Judiciário dos Estados Unidos, apenas 15 dos 931 juízes participantes disseram ter enfrentado um caso em que uma das partes contestou uma prova sob suspeita de ser um deepfake.
O número indica que, naquele levantamento, os casos relatados ainda eram pouco frequentes. Isso não significa, entretanto, que o risco seja irrelevante ou que os tribunais estejam preparados para identificar qualquer falsificação produzida com as ferramentas mais recentes.
Detectores de conteúdo falso também têm limitações
A identificação de deepfakes costuma envolver programas que analisam características visuais, padrões de áudio e possíveis sinais de manipulação. Entretanto, esses sistemas não oferecem garantia absoluta de acerto.
Uma ferramenta pode classificar incorretamente um conteúdo autêntico ou deixar de reconhecer uma falsificação sofisticada. Além disso, alterações feitas após a criação do material, como compressão, edição e conversão de arquivos, podem dificultar a análise.
Especialistas ligados às empresas de tecnologia reconhecem que os modelos mais avançados já conseguem produzir conteúdos difíceis de distinguir de registros verdadeiros apenas pela observação humana.
Por isso, a tendência é que a avaliação dependa cada vez mais da combinação de diferentes técnicas, do exame da origem dos arquivos e da comparação com outras evidências disponíveis.
Marcas-d’água e leis tentam aumentar a transparência
Uma das estratégias para enfrentar o problema é incorporar marcas-d’água ou outros sinais que indiquem que determinado conteúdo foi produzido por inteligência artificial. Esses mecanismos podem ajudar plataformas, pesquisadores e usuários a reconhecer a origem de imagens, vídeos e áudios.
Na Califórnia e na União Europeia, medidas regulatórias relacionadas à identificação de conteúdos gerados por IA buscam ampliar a transparência. Contudo, a eficácia depende do tipo de tecnologia utilizada, das regras aplicáveis e da possibilidade de preservar os sinais de identificação durante a circulação dos arquivos.
As marcas-d’água não resolvem todos os problemas. Alguns mecanismos podem ser removidos ou danificados, enquanto conteúdos produzidos por sistemas diferentes podem utilizar padrões incompatíveis. A ausência de uma marca também não comprova que o material seja autêntico.
O desafio, portanto, é desenvolver procedimentos que funcionem em diferentes plataformas e que não dependam de um único indicador tecnológico.
Quais são os riscos dos deepfakes no Brasil?
No Brasil, os deepfakes podem afetar desde a segurança financeira dos cidadãos até a investigação de crimes e a disputa por direitos na Justiça. Golpistas podem utilizar vozes clonadas para se passar por familiares, simular a identidade de executivos ou fabricar gravações atribuídas a pessoas que não participaram de determinada conversa.
Em situações judiciais, um arquivo suspeito pode exigir análise pericial para verificar possíveis alterações e avaliar sua confiabilidade. O Código de Processo Civil e o Código de Processo Penal estabelecem regras para a produção e a avaliação de provas, conforme a natureza do processo. A autenticidade e a integridade do material são aspectos relevantes nessa análise.
Isso não significa que toda gravação digital precise ser descartada por causa da possibilidade de manipulação. A questão é avaliar cada evidência de acordo com suas características, sua procedência e os demais elementos do caso.
Como verificar um vídeo ou áudio suspeito
Para reduzir o risco de compartilhar ou utilizar um conteúdo falso, algumas medidas práticas podem ajudar:
- Verifique a origem: procure identificar quem publicou o arquivo e se existe uma gravação original.
- Compare com outras fontes: confira se veículos de imprensa ou instituições confiáveis registraram o mesmo acontecimento.
- Observe o contexto: áudios e vídeos antigos podem ser apresentados como se fossem recentes, mesmo sem terem sido alterados digitalmente.
- Preserve o arquivo original: em situações que possam envolver uma investigação, evite editar o material e mantenha informações sobre sua origem.
- Busque avaliação especializada: quando o conteúdo tiver relevância jurídica, uma análise técnica pode ser necessária.
Esses cuidados não garantem a identificação de todas as falsificações, mas ajudam a evitar conclusões baseadas apenas na aparência de um arquivo.
Imagem: Reprodução/Seu Crédito Digital