Seu CPF está treinando robôs? Entenda como dados pessoais estão virando combustível para IAs

Uma nova investigação revelou que bilhões de imagens e textos extraídos automaticamente da internet estão sendo usados para ensinar máquinas a enxergar, identificar rostos e gerar imagens. E entre eles, estão arquivos com dados pessoais que jamais deveriam ter sido incluídos em bases públicas de treinamento de IA.

LEIA MAIS:

• A inteligência artificial vai liderar você? Nova tendência assusta o mercado
• Inteligência artificial chega aos cintos de segurança: veja como funciona
• Banco Itaú investe em inteligência artificial para substituir gerentes

A origem do problema: bancos de dados gigantescos e automatizados

Com o crescimento das inteligências artificiais generativas, que aprendem a produzir conteúdos visuais e textuais a partir de exemplos reais, a demanda por grandes volumes de dados explodiu. Para atender a essa necessidade, pesquisadores e empresas passaram a coletar automaticamente tudo que encontravam online — um processo conhecido como data scraping.

O que é o CommonPool?

O DataComp CommonPool surgiu nesse contexto, em 2023, como o maior repositório público de imagens associadas a descrições textuais. São mais de 12,8 bilhões de pares coletados da internet, organizados para que modelos de IA possam aprender a associar texto a imagem — o que torna possível, por exemplo, pedir que uma IA gere a imagem de “uma criança comendo sorvete” e ela saiba exatamente como fazê-lo.

Mas há um problema crucial:

No meio de imagens genéricas e textos banais, existem também:

• Cópias digitalizadas de passaportes e carteiras de identidade;
  
• Cartões de crédito visíveis, às vezes com número completo;
  
• Currículos reais, com nome completo, telefone, CPF e histórico profissional;
  
• Fotos de rosto associadas a perfis rastreáveis no LinkedIn e outras redes.
  

Como esses dados foram parar ali?

Tudo começou com o Common Crawl, um projeto aberto que atua como um robô digital varrendo bilhões de páginas na internet para coletar e arquivar conteúdos públicos. É uma espécie de Google, mas voltado para pesquisadores de dados. O problema é que, ao coletar “tudo que está disponível”, ele acaba incluindo também arquivos que deveriam ser privados — mas estavam, por erro ou descuido, em páginas sem proteção.

Esses dados foram então utilizados por projetos como o LAION-5B e, mais tarde, o próprio CommonPool, que ampliou ainda mais o escopo. Embora muitos arquivos pareçam inofensivos, o risco aumenta quando a base é massiva e envolve documentos rastreáveis a pessoas reais.

O que isso significa na prática?

Modelos treinados com essas informações aprendem a gerar imagens de rostos, documentos e objetos com base no que viram. E se eles aprenderam com um scan real do seu RG, podem ser capazes de reproduzir algo visualmente semelhante — o que levanta sérias preocupações de segurança.

Por que a licença do CommonPool preocupa especialistas?

Ao contrário de bases restritas ao meio acadêmico, o CommonPool tem uma licença permissiva, que permite seu uso comercial. Isso quer dizer que empresas de tecnologia, startups e desenvolvedores independentes podem baixar a base e utilizá-la para treinar IAs que serão vendidas ou implementadas em produtos finais.

Números que chamam atenção:

• Mais de 2 milhões de downloads da base já foram registrados;
  
• Centenas de modelos de IA treinados com parte ou toda a base;
  
• Nenhum mecanismo eficaz para verificação e remoção de dados sensíveis.
  

Para a autora do estudo, Rachel Hong, da Universidade de Washington, isso representa uma verdadeira “explosão de dados sem supervisão”, com potenciais impactos duradouros para a privacidade de milhões de pessoas.

A falácia da “informação pública”

Um dos principais argumentos usados para justificar a inclusão desses arquivos é que eles estavam disponíveis publicamente na web. No entanto, especialistas em ética digital alertam que “disponível” não é o mesmo que “consentido”.

Diferença entre acesso e uso

• Um blog pessoal com uma foto de identidade publicada pode estar acessível, mas isso não autoriza sua utilização em treinamentos comerciais.
  
• Currículos postados em plataformas abertas foram feitos para empregadores — não para alimentar sistemas automatizados.
  

O conceito de dados sensíveis em ambientes públicos precisa urgentemente de revisão, segundo os pesquisadores. Muitos usuários nem sabem que seus documentos estão visíveis em caches de busca ou diretórios esquecidos na internet.

A falta de regulamentação agrava a situação

Enquanto a União Europeia conta com o GDPR, que trata de dados pessoais com bastante rigidez, os Estados Unidos ainda não possuem uma lei federal que regulamente o uso de dados online com esse nível de detalhe. E mesmo no GDPR, há exceções que favorecem projetos acadêmicos ou uso de dados “publicamente disponíveis”.

Principais lacunas legais:

• Não há consenso sobre o que caracteriza “informação pública”;
  
• Projetos acadêmicos ficam isentos de muitas responsabilidades;
  
• Não existem mecanismos internacionais de remoção rápida;
  
• A autodeterminação informacional do usuário ainda é frágil.
  

A consequência? Um verdadeiro limbo jurídico, no qual o usuário comum é invisibilizado, enquanto suas informações alimentam sistemas cada vez mais poderosos.

Quais os riscos reais para você?

O uso de dados pessoais em IAs não é apenas uma questão ética. Ele pode representar riscos concretos e imediatos:

1. Falsificação de identidade

IA treinada com documentos reais pode criar versões falsas muito convincentes, facilitando fraudes.

2. Deepfakes hiper-realistas

Fotos de rostos reais ajudam sistemas a criar vídeos e imagens falsificadas com alto grau de semelhança.

3. Perfis falsos em redes sociais

Combinar dados pessoais com imagens pode gerar identidades fictícias, usadas para golpes.

4. Segmentação e vigilância

Com rostos e perfis reais, é possível alimentar sistemas de reconhecimento facial que monitoram pessoas sem autorização.

Como você pode proteger seus dados pessoais?

Apesar da escala do problema, algumas atitudes podem ajudar a reduzir sua exposição:

• Faça buscas regulares do seu nome + documentos em buscadores;
  
• Não publique imagens de documentos em redes sociais;
  
• Use plataformas confiáveis para armazenar arquivos pessoais;
  
• Solicite a retirada de páginas de diretórios públicos, sempre que possível.
  

Caminhos possíveis para o futuro

A luta pela privacidade digital não é nova, mas com o avanço das IAs, ela entra em uma nova fase. As tecnologias estão mais sofisticadas — e os mecanismos de regulação, desatualizados.

Propostas em debate:

• Criar ferramentas de rastreabilidade de dados em IA;
  
• Regulamentar o uso de dados públicos em projetos comerciais;
  
• Exigir transparência total sobre os dados usados nos modelos;
  
• Penalizar o uso indevido de documentos sensíveis em datasets.
  

A discussão é urgente, pois os modelos treinados com essas bases já estão em uso no cotidiano — em aplicativos, redes sociais, softwares de segurança e até em sistemas públicos.

De anônimos a insumos digitais

No mundo da inteligência artificial, o que era “público” se tornou matéria-prima. E muitas vezes, isso acontece à revelia dos próprios donos dos dados. É fundamental que governos, empresas e a sociedade civil se mobilizem para criar um novo pacto digital, baseado em consentimento, transparência e controle.

Se hoje seu CPF ou sua foto do LinkedIn estão ajudando a treinar um robô, amanhã isso pode ser usado de formas que escapam completamente do seu domínio. E, infelizmente, sem regras claras, o futuro da privacidade pode estar sendo escrito… por robôs.