Uma iniciativa de pesquisa liderada pela Microsoft, conhecida como Projeto de paráfrasedemonstrou que a inteligência artificial pode ser usada para redesenhar toxinas biológicas de maneiras que escapam aos atuais softwares de triagem de biossegurança. O projeto, detalhado em artigo publicado na revista Ciênciaidentificou um “dia zero biológico” – uma vulnerabilidade até então desconhecida – e desenvolveu uma defesa para ela aplicando princípios de segurança cibernética. A preocupação inicial, levantada por Eric Horvitz, da Microsoft, era que as ferramentas de IA de código aberto poderiam, teoricamente, ser usadas para reprojetar toxinas que seriam invisíveis para os sistemas de biossegurança existentes.
Como funcionam a biologia sintética e suas salvaguardas
O campo da biologia sintética permite que os cientistas encomendem fitas de DNA impressas de maneira personalizada de empresas de síntese. Antes de uma empresa enviar o material genético, ela executa a sequência de DNA solicitada por meio de um software de triagem de biossegurança. Este software compara a sequência com bancos de dados regulamentados de ameaças conhecidas, como toxinas ou patógenos, para evitar o uso indevido. O International Gene Synthesis Consortium (IGSC) ajuda na curadoria desses bancos de dados. No entanto, à medida que as ferramentas de IA se tornam mais poderosas, aumenta o risco de que alguém possa projetar uma nova proteína que pareça inofensiva para o software, mas que se comporte como uma toxina, uma vez criada.
Testando o sistema com um dia zero biológico
Para investigar esse risco, Horvitz se uniu ao cientista aplicado sênior da Microsoft, Bruce Wittmann. Eles usaram um modelo de IA chamado EvoDiff para gerar milhares de variantes sintéticas da potente toxina ricina. O objetivo não era tornar a toxina mais perigosa, mas testar os limites dos atuais sistemas de triagem. O processo foi semelhante a parafrasear uma frase: o significado (a função da proteína e os locais ativos) permanece o mesmo, mas as palavras (a sequência de aminoácidos) mudam. Quando estas sequências reformuladas foram testadas contra os sistemas de triagem de duas empresas líderes em síntese de DNA, Twist Bioscience e Integrated DNA Technologies, elas passaram sem serem detectadas.
“Não acho que tenhamos ficado necessariamente surpresos com o fato de tudo ter acontecido. Qualquer coisa que possa ser usada para o bem pode ser usada para o mal. Mas fornecer uma solução ajuda a evitar uma reação instintiva que impede o uso dessas ferramentas para o bem.”
Wittmann disse ao blog Microsoft Research.
Desenvolvendo uma defesa usando uma estrutura de segurança cibernética
Após comprovar a vulnerabilidade, a equipe trabalhou para criar uma solução. Jake Beal, cientista da RTX BBN Technologies, foi encarregado de desenvolver proteções digitais que pudessem capturar essas toxinas reformuladas. O projeto adotou uma estrutura do manual de segurança cibernética, tratando a vulnerabilidade biológica como um software de dia zero e organizando uma resposta semelhante a uma Equipe de Resposta a Emergências Informáticas (CERT). A solução foi desenvolver algoritmos de detecção atualizados. A mudança fundamental foi ir além da simples verificação da aparência de uma sequência de DNA e avançar em direção a uma compreensão semântica mais profunda do que a proteína que ela codifica realmente faz. Ao treinar os sistemas de triagem para reconhecer as características funcionais de uma ameaça, eles foram capazes de detectar as variantes geradas pela IA.
O caminho a seguir e a divulgação responsável
O projeto demonstrou com sucesso a existência da vulnerabilidade e um caminho viável para corrigi-la. O resultado foi um alívio para as empresas de síntese de DNA envolvidas.
“O público em geral quer poder confiar que as empresas que utilizam estas tecnologias incríveis para criar novos produtos e serviços são seguras e eficazes e têm os seus melhores interesses em mente.
disse James Diggans, vice-presidente de política e biossegurança da Twist Bioscience. O Projeto Paraphrase estabeleceu um protocolo para ferramentas de biossegurança em equipe e gerenciou uma resposta global a uma ameaça de biossegurança habilitada por IA. Também serve como modelo sobre como publicar pesquisas sensíveis de uma forma que equilibre abertura e cautela. Os pesquisadores têm certeza de que este é apenas o começo. À medida que a tecnologia avança, as medidas de proteção devem evoluir com ela. O projeto destaca a necessidade de uma abordagem contínua e adaptativa à biossegurança.
“Trata-se do que a sequência faz, não apenas de sua aparência. Mesmo que duas sequências pareçam diferentes, elas ainda podem fazer a mesma coisa – como causar doenças ou realizar o mesmo trabalho em uma célula.”
disse Horvitz.
