A Anthropic e o AE Studio publicaram na quarta-feira um método chamado Gradient-Routed Auxiliary Modules (GRAM) para isolar conhecimentos perigosos dentro de modelos de IA em módulos removíveis. Esta técnica permite a separação do conhecimento sensível sem afetar o desempenho geral do modelo.
O GRAM incorpora pequenos compartimentos neurais auxiliares em um modelo de linguagem, cada um focado em categorias sensíveis específicas, como virologia, segurança cibernética ou física nuclear. Quando um módulo é excluído, o modelo funciona como se nunca tivesse sido treinado nesses dados. Por outro lado, quando um módulo é ativado, o conhecimento fica totalmente disponível.
O método modifica a arquitetura padrão do transformador estendendo a largura das camadas MLP com esses módulos auxiliares. Durante o treinamento, apenas o módulo correspondente a uma categoria de dupla utilização fica ativo quando o modelo encontra dados relacionados.
Os pesquisadores testaram o GRAM em modelos que variam de 50 milhões a 5 bilhões de parâmetros. Eles treinaram um modelo de 800 milhões de parâmetros em diversos dados de texto junto com quatro domínios de uso duplo. Os dados de dupla utilização representaram aproximadamente 0,25% dos dados de treinamento para cada domínio respectivo.
Os resultados indicaram que a remoção dos módulos GRAM eliminou capacidades específicas de forma quase tão eficaz como se o modelo nunca tivesse sido treinado nesses dados, enquanto o desempenho geral permaneceu próximo dos níveis de referência. A abordagem GRAM mostrou-se robusta contra o ajuste fino adversário, ao contrário dos métodos de desaprendizagem post-hoc que apenas suprimem o conhecimento em vez de removê-lo permanentemente.
Esta investigação surge no meio de desafios recentes na governação da IA, particularmente no que diz respeito aos controlos de exportação nos modelos da Antrópico implementados pela administração Trump em Junho devido a preocupações de segurança nacional. Essas restrições foram suspensas em 30 de junho, depois que a Anthropic trabalhou com o Departamento de Comércio para mitigar os riscos relacionados.
O GRAM apresenta um compromisso potencial na política de IA, permitindo o controle de acesso seletivo em vez de amplas restrições de modelo ou proteções comportamentais. Um laboratório de biossegurança examinado poderia receber um modelo com conhecimento de virologia intacto, enquanto uma implantação geral excluiria totalmente esse módulo.
No entanto, os pesquisadores observaram que este trabalho é preliminar e não foi aplicado aos modelos de produção da Antrópica. Persistem desafios em relação à escalabilidade da técnica para modelos maiores e dificuldades em separar capacidades emaranhadas, onde o conhecimento geral da biologia se sobrepõe ao perigoso conhecimento da virologia. O trabalho foi liderado por pesquisadores do AE Studio em colaboração com Cem Anil e Alex Cloud da Anthropic.
