O Thinking Machines Lab, apoiado por US $ 2 bilhões em financiamento de sementes e compensados com ex -pesquisadores do Openai, compartilhou seus primeiros insights detalhados de pesquisa. O laboratório lançou um post no blog na quarta -feira examinando como criar modelos de IA que produzem respostas mais consistentes e reproduzíveis, abordando um desafio fundamental no desenvolvimento de inteligência artificial.
O modelo de consistência da IA tem como alvo o não determinismo em grandes modelos de linguagem
A postagem do blog, intitulada “Derrotando o não -determinismo na inferência de LLM“Investiga por que os modelos de IA geralmente geram respostas variadas para questões idênticas. Embora essa variabilidade tenha sido aceita como uma característica inerente de grandes modelos de linguagem, as máquinas de pensar em laboratório visualizam esse não -determinismo como um problema solucionável, em vez de uma limitação inevitável.
A orquestração do kernel da GPU causa a aleatoriedade da resposta
O pesquisador Horace, ele escreveu o post, argumentando que a aleatoriedade nos modelos de IA decorre de como os kernels da GPU são orquestrados durante o processamento de inferência. O processamento de inferência refere -se às etapas computacionais que ocorrem depois que os usuários enviam consultas, como pressionar Enter in ChatGPT. Os kernels da GPU são programas especializados em execução nos chips de computador da NVIDIA. Ele acredita que o gerenciamento cuidadoso dessa camada de orquestração pode permitir que os modelos de IA geram saídas mais previsíveis e consistentes.
Respostas consistentes melhoram o treinamento de aprendizado de reforço
Além de aumentar a confiabilidade para aplicações corporativas e científicas, ele sugere que as respostas reproduzíveis podem otimizar o treinamento de aprendizado de reforço (RL). Aprendizagem de reforço Recompensa os modelos de IA para respostas corretas, mas respostas inconsistentes introduzem ruído nos dados de treinamento. Respostas mais consistentes podem melhorar o processo de RL, que se alinha aos relatórios anteriores da informação que o Pensing Machines Lab plana usar o RL para adaptar os modelos de IA para necessidades de negócios específicas.
Primeiro lançamento de produto planejado para os próximos meses
O ex -diretor de tecnologia do OpenAI, Mira Murati, anunciou em julho que o Laboratório de Máquinas de Pensagem lançará seu primeiro produto em breve. Ela indicou que o produto será “útil para pesquisadores e startups que desenvolvam modelos personalizados”, embora detalhes específicos e se ele incorporam as técnicas de reprodutibilidade permanecem não reveladas.
O compromisso de pesquisa aberto reflete a abordagem do OpenAi inicial
Laboratório de Máquinas de Pensamento Anunciou os planos de publicar regularmente as postagens, o código e a pesquisa de blogs para “beneficiar o público, mas também melhorar nossa própria cultura de pesquisa”. O post recente lança uma nova série chamada “Connectionism”, refletindo esse compromisso de transparência. Essa abordagem reflete a promessa de pesquisa aberta do OpenAI, embora o OpenAI se tornasse menos transparente à medida que crescia. O blog de pesquisa fornece uma visão rara sobre as operações da Think Machines Lab e indica que a empresa está enfrentando desafios significativos de pesquisa de IA enquanto trabalha em direção a produtos que justificam sua avaliação de US $ 12 bilhões.
