A Goodfire, uma empresa de pesquisa de interpretabilidade de AI com sede em São Francisco, garantiu US $ 50 milhões em financiamento da Série A, liderado pela Menlo Ventures. O investimento, que também inclui a participação da LightSpeed Venture Partners, Antrópica e B Capital, apoiará a expansão das iniciativas de pesquisa da Goodfire e o desenvolvimento de sua principal plataforma de interpretabilidade, Ember.
O financiamento ocorre menos de um ano após a fundação da Goodfire, com sua equipe compreendendo os principais pesquisadores de interpretabilidade da IA e operadores de startups experientes de organizações como OpenAI e Google DeepMind. Os pesquisadores da Goodfire ajudaram a estabelecer o campo da interpretabilidade mecanicista, criando documentos -chave e avanços pioneiros, como autoencoders esparsos para a descoberta de recursos.
A plataforma Ember Goodfire decodifica os neurônios dentro dos modelos de IA, fornecendo acesso direto ao seu funcionamento interno. Isso permite que os usuários descubram o conhecimento oculto, moldem comportamentos do modelo e melhorem o desempenho. A tecnologia da empresa pretende abordar a lacuna de conhecimento em torno das redes neurais, facilitando a projeção e menos propensa a falhas imprevisíveis.
O investimento reflete a crescente importância da interpretabilidade mecanicista no desenvolvimento da IA. “À medida que os recursos da IA avançam, nossa capacidade de entender esses sistemas deve acompanhar o ritmo”, disse Dario Amodei, CEO e co-fundador da Anthrópica. A Goodfire planeja acelerar sua pesquisa por meio de iniciativas direcionadas com os desenvolvedores de modelos de fronteira e lançar visualizações adicionais de pesquisas em diversos campos.
A Goodfire já colaborou com o Arc Institute, com Patrick Hsu, co-fundador do Arc Institute, afirmando que as ferramentas de interpretabilidade do Goodfire permitiram a extração de novos conceitos biológicos de seu modelo de DNA Foundation, EVO 2. Os esforços da empresa visam revelar novos insights científicos e respirar a compreensão de modelos de II.
