Openai lançou GPT-OSS 12B e 20B, modelos de IA de código aberto que permitem a operação local em computadores pessoais. Este desenvolvimento oferece privacidade e controle aprimorados.
O GPT-OS 12B do OpenAI e o GPT-OSS 20B são modelos de raciocínio. Eles facilitam os recursos avançados de IA nos sistemas locais, aprimorando a privacidade, a velocidade e o controle do usuário. O GPT-OSS 20B é otimizado para hardware de consumo sofisticado, enquanto o GPT-OSS 12B é para sistemas de nível profissional com GPUs mais poderosas. Ferramentas como o OLAMA, para instalação amigável, e o LM Studio, para usuários avançados, simplifica o processo de configuração. A instalação local fornece maior desempenho, controle e confiabilidade em soluções baseadas na Web, ajustando aplicativos exigentes. Os modelos oferecem transparência de raciocínio e flexibilidade de código aberto. Atualmente, eles não têm upload de arquivos e recursos avançados de pesquisa da Web; Melhorias futuras estão em desenvolvimento.
Os modelos GPT-OSS 12B e 20B estão alinhados com o objetivo do OpenAI de acesso generalizado de IA, fornecendo ferramentas para tarefas de raciocínio. Esses modelos suportam análise complexa de problemas e exibem etapas de raciocínio, oferecendo transparência em seus processos.
- GPT-ROSS 20B: Projetado para uso local em Hardware de grau de consumo sofisticadoesse modelo equilibra a acessibilidade com o desempenho. Ele se adapta aos usuários que buscam recursos avançados de IA sem sistemas profissionais.
- GPT-Oss 12b: Este modelo de modelo mais intensivo de recursos Estações de trabalho de nível profissional com GPUs poderosos. Serve pesquisadores e usuários avançados que exigem recursos computacionais mais altos.
Ambos os modelos são de código aberto, permitindo que desenvolvedores e pesquisadores os personalizem ou examinem sua arquitetura. Essa flexibilidade os torna valiosos para diversas aplicações, desde pesquisas acadêmicas até solução prática de problemas.
A execução desses modelos requer hardware robusto para o desempenho ideal. As especificações de hardware são as seguintes:
- Para GPT-Oss 20b: Um sistema precisa pelo menos 16 GB de memória da GPU e um processador moderno. Essa configuração é adequada para a maioria dos desktops ou laptops de consumo sofisticados.
- Para GPT-OSS 12B: Uma configuração avançada requer 24 GB ou mais da memória da GPUnormalmente encontrado em estações de trabalho de nível profissional ou ambientes de computação especializados.
Os sistemas que atendem a esses requisitos alcançarão tempos de resposta mais rápidos e funcionalidade aprimorada em comparação com as interações baseadas na Web. Os usuários com hardware menos poderoso podem enfrentar desafios, tornando as atualizações de hardware uma consideração para maximizar o desempenho.
