Seu sistema vulnerável? Malware com IA já está sendo detectado — entenda o risco

A pesquisa destaca que, embora as tentativas ainda sejam experimentais e pouco sofisticadas, elas apontam para uma tendência perigosa: a automação e personalização de ataques digitais via IA, que poderá ganhar força nos próximos anos.

Leia mais:

Google e inteligência artificial: efeitos práticos no Brasil

Como os malwares estão utilizando IA?

Reescrita de código para escapar da detecção

Entre os exemplos analisados pelo Google, destaca-se o PromptFlux, uma ameaça que utiliza a API do Gemini — plataforma de inteligência artificial da própria empresa — para reescrever trechos de seu código-fonte em tempo real. A estratégia tem como objetivo driblar softwares antivírus, já que cada execução do malware pode apresentar um código diferente, dificultando a identificação por sistemas baseados em assinaturas.

Geração de comandos maliciosos em tempo real

Outro caso é o PromptSteal, que recorre a um LLM hospedado no Hugging Face para gerar comandos automatizados que são executados diretamente no sistema da vítima. Esses comandos têm como alvo o roubo de dados, como credenciais, documentos e informações de navegação.

Apesar do nome e do conceito provocativo, o PromptSteal ainda está longe de representar uma ameaça sofisticada. O código gerado é básico e carece de técnicas avançadas de persistência ou ofuscação.

IA testada como ferramenta para ransomware

O terceiro caso descrito no relatório é o PromptLock, que foi desenvolvido em ambiente acadêmico para testar se um modelo de linguagem seria capaz de planejar e executar um ataque de ransomware. A pesquisa concluiu que, mesmo com limitações, os LLMs conseguem sugerir estratégias viáveis, mesmo que a execução técnica ainda dependa de etapas humanas.

Ilustração e visualização da ameaça

A crescente fusão entre inteligência artificial e cibercrime foi representada por uma ilustração digital impactante: tons de laranja e marrom escuro formam a imagem de um rosto parcialmente construído por códigos e blocos geométricos. O olho direito em destaque transmite vigilância, enquanto o fundo exibe linhas de programação em alto-relevo, sugerindo que a ameaça está sempre em construção.

A arte, assinada por Vitor Pádua, transmite a ideia de que os malwares do futuro podem estar literalmente “enxergando” as falhas dos sistemas e adaptando-se dinamicamente a eles, graças ao poder da IA.

O que dizem os especialistas?

Ameaça real, impacto limitado

Embora o relatório do Google levante alertas, muitos especialistas em segurança da informação afirmam que o impacto real, por enquanto, é limitado.

Marcus Hutchins, conhecido por ajudar a conter o ransomware WannaCry, avaliou os exemplos apresentados como “fracos ou inúteis”. Segundo ele, os prompts usados não orientam claramente o que o código deve fazer, nem fornecem caminhos reais para evadir um antivírus.

“Eles partem da suposição de que o Gemini vai saber instintivamente como escapar das defesas — e ele não sabe”, escreveu Hutchins em uma publicação no LinkedIn.

Falhas nas amostras e execução ineficaz

Kevin Beaumont, outro profissional de destaque no setor, também analisou as amostras encontradas e foi categórico:

“Muitas nem funcionam. Falham imediatamente. Não há perigo real, se você tiver controles básicos de segurança.”

Até mesmo profissionais ouvidos pelo site Ars Technica minimizaram o risco. Um deles, sob anonimato, afirmou que “a IA está apenas ajudando autores de malware a fazer o que já faziam antes, com pouca ou nenhuma inovação estrutural”.

Google reforça medidas no Gemini

Apesar da postura cautelosa dos especialistas, o Google admitiu que houve falhas na proteção da API do Gemini. Em um dos testes, um agente conseguiu convencer a IA a gerar código malicioso, alegando que participava de uma competição de hacking ético.

Após o episódio, a empresa ajustou os parâmetros de segurança da plataforma para impedir que modelos de linguagem forneçam ajuda a invasores disfarçados de pesquisadores.

O que são LLMs e por que estão no centro do debate?

Modelos de linguagem de larga escala

LLM (Large Language Model) é um tipo de inteligência artificial treinado com bilhões de palavras e códigos, capaz de gerar texto, escrever scripts, responder perguntas e até programar. São modelos como o GPT-4, Gemini, Claude e Mistral, que podem ser usados tanto para fins produtivos quanto para fins maliciosos.

Com acesso à internet e APIs abertas, atacantes podem explorar esses modelos para automatizar partes do processo de desenvolvimento de malwares, adaptando-os com rapidez a novas circunstâncias.

Ferramenta ou arma?

O problema não está apenas no uso direto da IA por criminosos, mas na possibilidade de esses modelos servirem como facilitadores de ataques cibernéticos, mesmo sem saberem disso.

“Os LLMs podem ser explorados para gerar scripts, sugestões de ofuscação e até planos rudimentares de intrusão, mesmo que não tenham a intenção de fazer isso”, destaca o relatório do Google.

Como se proteger de malwares com IA?

Dicas básicas de segurança digital

Apesar do caráter experimental dessas novas ameaças, as boas práticas continuam sendo o melhor escudo:

• Use antivírus com proteção em tempo real e baseados em comportamento;
• Evite clicar em links desconhecidos ou abrir anexos de fontes não confiáveis;
• Atualize sempre seu sistema operacional e softwares;
• Ative autenticação em dois fatores em todas as contas possíveis;
• Monitore acessos e atividades suspeitas em dispositivos pessoais e corporativos.

IA também pode ajudar na defesa

Vale lembrar que a mesma tecnologia usada para criar malwares também está sendo usada para fortalecer os sistemas de segurança. Soluções baseadas em IA ajudam empresas a identificar padrões anômalos, prever comportamentos de ataque e responder a ameaças em tempo real.

Empresas como Microsoft, Google e IBM já usam modelos de linguagem e machine learning para defesa cibernética, criando uma espécie de guerra silenciosa entre algoritmos de ataque e de proteção.

O futuro da segurança digital com IA

O avanço da IA na criação de ameaças representa um divisor de águas. Se por um lado abre caminho para ataques mais personalizados e adaptativos, por outro, estimula a evolução das defesas automatizadas.

Estamos entrando em uma nova era da cibersegurança, onde o combate ao crime digital dependerá cada vez mais de algoritmos competindo entre si — um verdadeiro duelo de inteligência artificial.

No momento, os riscos são mais teóricos do que práticos. Mas com o ritmo acelerado de desenvolvimento dos LLMs e a abertura de APIs públicas, o potencial destrutivo é real e exige monitoramento contínuo.

Imagem: Freepik

Não perca nenhuma oportunidade de crédito e pagamento: acesse agora nossas últimas notícias no Seu Crédito Digital.