O Google retirou do ar uma ferramenta de inteligência artificial recém-lançada no Google Earth depois que usuários e especialistas demonstraram como o recurso poderia ser utilizado para criar imagens falsas de acontecimentos graves.
A tecnologia havia chegado ao serviço na quinta-feira, 30 de julho, e foi desativada na sexta-feira, 31. O intervalo de menos de 24 horas entre o lançamento e a suspensão chamou atenção justamente porque os testes públicos rapidamente revelaram um problema considerado sensível: a possibilidade de alterar imagens de locais reais de maneira bastante convincente.
A empresa informou que está trabalhando em restrições adicionais antes de decidir se e quando o recurso poderá voltar.
Leia mais:
OpenAI identifica agentes de IA compartilhando formas de contornar restrições
Por que o Google retirou a ferramenta?
O Google Earth é conhecido por apresentar imagens e informações geográficas utilizadas por usuários comuns, pesquisadores e profissionais. Por isso, alterações visuais feitas sobre esse conteúdo podem gerar uma impressão de autenticidade maior do que uma imagem criada do zero.
A nova ferramenta permitia modificar determinadas representações de locais reais usando comandos de inteligência artificial. O problema apareceu quando usuários começaram a testar situações que poderiam ser confundidas com registros de acontecimentos verdadeiros.
Entre os exemplos divulgados por veículos especializados e pesquisadores estavam cenários envolvendo manifestações, instalações inexistentes, acidentes e situações de emergência.
O Google reconheceu que o recurso poderia ser utilizado de maneiras incompatíveis com suas políticas. A companhia afirmou, em publicação no X, que considera importante preservar a confiança dos usuários no Earth e que decidiu suspender a ferramenta enquanto trabalha em mecanismos de proteção mais robustos.
Imagens falsas poderiam ser usadas para espalhar desinformação
O principal temor envolvendo a ferramenta não estava necessariamente na criação de imagens fictícias, mas na possibilidade de apresentar essas imagens como se fossem registros reais feitos por satélite.
Uma montagem tradicional costuma exigir algum conhecimento de edição de imagens. Com ferramentas generativas, entretanto, uma pessoa pode conseguir resultados complexos utilizando comandos em linguagem natural.
Esse fator aumenta o risco em situações nas quais a localização geográfica é importante.
Uma imagem falsa mostrando, por exemplo, uma explosão, uma manifestação ou uma estrutura militar em determinado ponto do mapa poderia ser compartilhada nas redes sociais sem o contexto necessário. Quem recebe o conteúdo poderia acreditar que se trata de uma fotografia ou imagem de satélite autêntica.
O problema se torna ainda mais delicado em situações de crise, quando informações falsas podem circular rapidamente antes que autoridades ou veículos de comunicação consigam verificar o acontecimento.
Testes mostraram o potencial da tecnologia
Após o lançamento, pesquisadores e veículos de imprensa começaram a experimentar os limites do sistema.
Testes divulgados pelo 404 Media mostraram que era possível produzir representações falsas de determinadas situações em locais reais. O pesquisador Henk van Ess também publicou exemplos de alterações que envolviam diferentes regiões do mundo.
A BBC realizou testes semelhantes e conseguiu criar representações fictícias de locais conhecidos e acontecimentos que nunca ocorreram.
Os experimentos chamaram atenção porque não dependiam necessariamente de técnicas avançadas de edição. A inteligência artificial fazia grande parte do trabalho a partir de instruções fornecidas pelo usuário.
Isso ajudou a transformar uma ferramenta apresentada como recurso criativo em um exemplo concreto dos desafios enfrentados pelas empresas que desenvolvem IA generativa.
Google tentou usar marca d’água para identificar as imagens
Antes de retirar a ferramenta, o Google havia destacado que as imagens produzidas recebiam mecanismos de identificação.
Entre eles estava o SynthID, tecnologia desenvolvida pelo próprio Google para inserir uma marca d’água digital em conteúdos produzidos por inteligência artificial.
A empresa também explicou que o conteúdo poderia ser identificado com ferramentas como o Gemini e o Google Lens.
O mecanismo, porém, não impediu que as imagens fossem compartilhadas ou capturadas por usuários. Uma pessoa poderia publicar uma captura de tela em uma rede social, por exemplo, enquanto o público que recebesse o conteúdo talvez nem soubesse que ele havia sido produzido ou alterado por IA.
É justamente essa diferença entre identificar posteriormente um conteúdo artificial e impedir que ele seja usado para enganar alguém que está no centro da discussão.
Recurso não aparecia automaticamente para outros usuários
O Google também ressaltou uma característica importante da ferramenta: as alterações realizadas pelo usuário não modificavam o mapa público do Google Earth.
Ou seja, criar uma versão artificial de determinado local não significava que todos os usuários do serviço passariam a visualizar aquela alteração.
Ainda assim, a possibilidade de capturar a imagem e compartilhá-la fora da plataforma permanecia.
Esse detalhe ajuda a explicar por que a discussão não envolve apenas o funcionamento interno do Earth, mas também a maneira como conteúdos gerados por inteligência artificial podem circular em redes sociais, aplicativos de mensagens e sites.
O que acontece agora com a IA do Google Earth?
Por enquanto, o Google retirou o recurso enquanto desenvolve novas restrições.
A empresa não indicou, no anúncio, uma data definitiva para o retorno da funcionalidade. O episódio mostra como sistemas de inteligência artificial podem precisar de avaliações de segurança mais amplas antes de serem disponibilizados ao público.
A tecnologia pode ter aplicações legítimas para profissionais de geografia, planejamento urbano, educação e visualização de cenários. O desafio é permitir esses usos sem facilitar a criação de conteúdos que possam ser confundidos com registros reais.
Caso reforça desafio das imagens geradas por IA
A retirada da ferramenta do Google Earth em menos de um dia evidencia uma dificuldade que vai além de uma única plataforma.
À medida que a inteligência artificial consegue produzir imagens cada vez mais convincentes, distinguir entre uma representação artificial e um registro verdadeiro se torna mais difícil.
Para o usuário comum, a principal recomendação é não considerar uma imagem como prova de um acontecimento apenas porque ela parece real ou aparece associada a um mapa.
Em casos envolvendo acidentes, conflitos, desastres ou acontecimentos políticos, é fundamental procurar outras fontes confiáveis e verificar se veículos de imprensa, autoridades ou instituições locais confirmaram o episódio.
O Google, por sua vez, terá de encontrar um equilíbrio entre manter os recursos criativos da inteligência artificial e impedir que suas ferramentas sejam transformadas em instrumentos para fabricar evidências visuais falsas.
