Richard Ho, chefe de hardware da Openai, afirmou que a futura infraestrutura de IA deve incluir recursos de segurança no nível de hardware, como interruptores de matar para gerenciar modelos de IA potencialmente imprevisíveis. Falando no IA Infra Summit em Santa Clara, ele argumentou que as atuais medidas de segurança baseadas em software são insuficientes porque se baseiam na suposição de que o hardware subjacente é seguro e pode ser facilmente controlado.
Por que a segurança do software não é suficiente para a IA futura?
A HO explicou que a maioria dos protocolos atuais de segurança de IA opera no nível do software e presume que o hardware pode ser desligado simplesmente cortando a energia. Ele alertou que essa suposição pode não se manter verdadeira à medida que os modelos de IA se tornam mais avançados e exibem o que ele descreveu como um comportamento “desonesto”.
“Hoje, muito trabalho de segurança está no software. Ele pressupõe que seu hardware esteja seguro … assume que você pode puxar o hardware. Não estou dizendo que não podemos puxar esse hardware, mas estou dizendo que essas coisas são desonestas, os modelos são realmente desonestos e, assim, como um cara de hardware, quero garantir isso.”
Esse potencial para os sistemas de IA para contornar os controles tradicionais de software torna as salvaguardas incorporadas diretamente ao silício uma necessidade.
Nova infraestrutura necessária para agentes de IA persistentes
Ho descreveu um futuro em que os agentes da IA funcionam como entidades de vida longa, operando persistentemente em segundo plano para lidar com tarefas sem entrada constante do usuário. Este modelo requer uma mudança significativa no design da infraestrutura. Os sistemas futuros precisarão ser ricos em memória com recursos de baixa latência para gerenciar sessões contínuas, onde vários agentes colaboram em tarefas complexas. Ho enfatizou que a rede será um componente crítico, pois os agentes precisarão se comunicar e usar ferramentas em tempo real simultaneamente para atividades como pesquisas na Web e tomada de decisão coordenada.
Recursos e desafios de segurança de hardware propostos
Para abordar os riscos, o OpenAI propõe a incorporação de medidas de segurança específicas diretamente em clusters de hardware de IA. Estes incluem:
- A matança em tempo real muda para interromper imediatamente as operações.
- Sistemas de telemetria para monitorar e alertar sobre o comportamento anormal da IA.
- Caminhos de execução seguros em chips para isolar processos críticos.
No entanto, escalar essa infraestrutura apresenta vários desafios. O HO identificou limitações de memória de alta largura de banda, a necessidade de interconexões ópticas confiáveis para transferência de dados mais rápidas e severas demandas de energia-projetadas para atingir até 1 megawatt por rack-como as principais restrições.
Desenvolvendo novos padrões para hardware e networking
Ho pediu a criação de novos benchmarks especificamente para arquiteturas de “consciência dos agentes”. Esses padrões devem medir o desempenho na latência, eficiência e consumo de energia para orientar o desenvolvimento de hardware. Ele também enfatizou que a observabilidade deve ser um recurso de hardware constante e embutido, não apenas uma ferramenta temporária para depuração.
“Precisamos ter uma boa observabilidade como recurso de hardware, não apenas como uma ferramenta de depuração, mas embutida e monitorando constantemente nosso hardware”.
Ele concluiu destacando os problemas de confiabilidade atuais com tecnologias emergentes de rede, como interconexões ópticas, pedindo ao setor que realize testes extensos para garantir que esses sistemas sejam confiáveis o suficiente para aplicações de IA de missão crítica.
