O Google confirmou uma vulnerabilidade de segurança envolvendo um novo ataque orientado a IA que pode comprometer as contas do Gmail. A empresa observou que a ameaça “não é específica para o Google” e destaca a necessidade de defesas mais fortes contra ataques rápidos de injeção.
Como funciona o ataque imediato
O ataque usa instruções maliciosas escondidas dentro de itens aparentemente inofensivos, como e -mails, anexos ou convites de calendário. Embora essas instruções sejam invisíveis para um usuário humano, um assistente de IA pode ler e executá -las. Pesquisador Eito Miyamura demonstrou a vulnerabilidade em um vídeo publicado no X.
Temos o chatgpt para vazar seus dados de e -mail privados. Tudo que você precisa? O endereço de e -mail da vítima. Agentes de IA como ChatGPT seguem seus comandos, não o seu senso comum … com apenas seu e -mail, conseguimos exfiltrar todas as suas informações privadas.
https://twitter.com/eito_miyamura/status/1966541235306237985 O ataque pode ser acionado por um convite de calendário especialmente criado que o usuário nem precisa aceitar. Quando o usuário pede ao seu assistente de IA para executar uma tarefa de rotina como verificar seu calendário, a IA lê o comando oculto no convite. O comando malicioso instrui a IA a pesquisar os e -mails privados do usuário e enviar os dados para o invasor.
Como proteger sua conta e resposta do Google
O Google alertou anteriormente sobre esse tipo de ameaça em junho, afirmando que as instruções incorporadas em documentos ou convites do calendário poderiam instruir a IA a “exfiltrar os dados do usuário ou executar outras ações desonestas”. A empresa agora está implementando defesas e aconselhando os usuários sobre como se proteger.
- Habilite a configuração “remetentes conhecidos” no Google Calendar: O Google afirma que essa é uma maneira eficaz de impedir que convites maliciosos apareçam automaticamente no seu calendário. É menos provável que o ataque funcione, a menos que o usuário tenha interagido anteriormente com o invasor ou alterado essa configuração padrão.
- O Google está treinando seus modelos de IA para resistir a esses ataques: A empresa diz que seu treinamento com dados adversários “aprimorou significativamente nossas defesas contra ataques rápidos de injeção indireta nos modelos Gemini 2.5”.
- Novos modelos de detecção estão sendo implantados: O Google está lançando modelos proprietários de aprendizado de máquina que podem detectar e neutralizar instruções maliciosas dentro de e -mails e arquivos antes de serem executados.
LembrarA IA pode ser super inteligente, mas pode ser enganada e phished de maneiras incrivelmente idiotas de vazar seus dados.
