A Neuchips, provedora de circuitos integrados específicos de aplicativos de IA (ASICS), anunciou uma parceria com a Vecow e Golden Smart Home (GSH) Technology Corp. Shareguru para desenvolver uma solução generativa de IA offline para o processamento de dados proprietários. A colaboração visa permitir que as empresas extraem insights em tempo real de bancos de dados internos usando consultas de linguagem natural.
A parceria se concentra em enfrentar os desafios do complexo processamento de dados SQL e a necessidade de privacidade de dados. A solução combina a estação de trabalho de inferência AI ECX-3100 RAG da VECOW, a solução de qa 2.0 do GSH Shareguru 2.0 e a série Viper Series da Neuchips.
Os principais aspectos da solução colaborativa incluem:
- Processamento de dados offline: O cartão da série Viper da Neuchips permite o processamento local da solução ShareGuru, aprimorando a privacidade e a segurança dos dados.
- Consultas de linguagem natural: O sistema permite que os usuários gerem consultas SQL usando a linguagem humana, simplificando o acesso a dados e reduzindo a dependência da experiência do SQL.
- Eficiência de poder: Neuchips destaca a capacidade da série Viper de suportar 12 bilhões de modelos de parâmetros no consumo de energia de 45W.
- LLM habilitado para rag: A solução aproveita a geração de recuperação de recuperação (RAG) para fornecer acesso a dados atualizados sem a necessidade de reciclagem de modelos.
- Especificações de hardware: O cartão acelerador da série Viper Neuchips Viper possui 32 GB de capacidade de memória e suporte nativo do modelo de linguagem estruturado BF16.
A AGORA lança o mecanismo de IA conversacional para democratizar as interações de voz em tempo real
Neuchips enfatiza que seu cartão da série Viper descarrega uma parcela significativa do processamento generativo da IA da CPU. A VECOW destaca o papel da solução em atender à crescente demanda por aplicativos generativos de IA no local e modelos de linguagem grande multimodal (LLMS). A plataforma ShareGuru da GSH fornece a solução SLM que interage com o hardware Neuchips.
As empresas mostrarão sua solução colaborativa no World 2025 incorporado em Nuremberg, Alemanha, no estande da Vecow. A Neuchips também anunciou planos futuros para se concentrar nos ASICs multimodalidades de baixa potência até 2026.
Crédito da imagem em destaque: Google DeepMind/Unsplash
