O Grupo de Inteligência de Ameaças do Google (GTIG) identificado uma escalada significativa no uso malicioso de inteligência artificial. Os adversários não usam mais IA apenas para tarefas de produtividade, como redigir e-mails de phishing; agora eles estão implantando novos malwares que usam ativamente a IA durante um ataque para alterar dinamicamente seu comportamento. Esta nova fase de abuso de IA envolve o que o Google chama de IA “Just-in-Time”. Pela primeira vez, o GTIG identificou famílias de malware que usam Large Language Models (LLMs) no meio da execução. Essas ferramentas podem gerar scripts maliciosos dinamicamente ou ofuscar seu próprio código rapidamente para evitar a detecção, em vez de depender de funções codificadas. O relatório detalha vários novos malware famílias que utilizam esta técnica. “PROMPTSTEAL”, que foi observado em operações ativas, é um minerador de dados que consulta uma API Hugging Face em um LLM para gerar comandos do Windows para coletar informações do sistema. “QUIETVAULT”, também visto à solta, é um ladrão de credenciais que usa ferramentas AI CLI instaladas na máquina da vítima para procurar segredos adicionais. Outro malware, “FRUITSHELL”, contém prompts codificados especificamente projetados para ignorar a análise de sistemas de segurança baseados em LLM. O Google também identificou malware experimental, incluindo “PROMPTFLUX”, um dropper que usa a API Google Gemini para reescrever repetidamente seu próprio código-fonte para permanecer oculto, e “PROMPTLOCK”, um ransomware de prova de conceito que gera scripts maliciosos dinamicamente em tempo de execução. O relatório do GTIG também descobriu que os agentes de ameaças estão adaptando técnicas de “engenharia social” para contornar as barreiras de segurança da IA. O Google observou atores se passando por estudantes em uma competição de “captura da bandeira” ou como pesquisadores de segurança cibernética para persuadir a Gemini a fornecer informações, como ajuda no desenvolvimento de ferramentas, que de outra forma seriam bloqueadas. Os actores patrocinados pelo Estado, incluindo os da Coreia do Norte, do Irão e da República Popular da China (RPC), continuam a utilizar IA como o Gemini para melhorar todas as fases das suas operações, desde o reconhecimento e criação de iscas de phishing até ao desenvolvimento de infra-estruturas de comando e controlo (C2). Além disso, o Google observa que o mercado clandestino de ferramentas ilícitas de IA amadureceu em 2025, oferecendo ferramentas multifuncionais que reduzem a barreira de entrada para invasores menos sofisticados. O Google afirmou que está interrompendo ativamente esta atividade ao desabilitar projetos e contas associadas a esses atores. A empresa enfatizou que está melhorando continuamente seus modelos, incluindo o Gemini, para torná-los menos suscetíveis ao uso indevido e está aplicando a inteligência para fortalecer seus classificadores de segurança.
