A Anthropic informou na quinta-feira que hackers chineses utilizaram seu chatbot de IA, Claude, no que considera a primeira operação de ciberespionagem executada predominantemente por meio de inteligência artificial. A empresa afirmou que os cibercriminosos contrataram Claude para atingir aproximadamente 30 empresas de tecnologia, instituições financeiras, fabricantes de produtos químicos e agências governamentais. Os hackers usaram a plataforma de IA para coletar nomes de usuário e senhas de bancos de dados de empresas, explorando posteriormente essas credenciais para roubar dados privados. Um “pequeno número” desses ataques foi bem-sucedido, observou a Anthropic. “Acreditamos que este é o primeiro caso documentado de um ataque cibernético em grande escala executado sem intervenção humana substancial”, disse a Anthropic.
O Wall Street Journal relatou pela primeira vez esse desenvolvimento. A Antthropic detectou atividades suspeitas a partir de meados de setembro. Uma investigação ligou a atividade a uma campanha de espionagem provavelmente conduzida por um grupo chinês patrocinado pelo Estado. A investigação indicou que os hackers enganaram Claude fazendo-o acreditar que era um funcionário legítimo de uma empresa de segurança cibernética realizando testes defensivos. Os cibercriminosos também dividiram o ataque em pequenas tarefas para ocultar suas ações. A operação exigiu intervenção humana mínima. “A IA fez milhares de solicitações por segundo, uma velocidade de ataque que teria sido, para hackers humanos, simplesmente impossível de igualar”, afirmou a Anthropic. A Anthropic antecipa um aumento na escala e sofisticação dos ataques cibernéticos de IA à medida que os agentes de IA se tornam mais predominantes.
