A IA não convencional revelou um modelo experimental de geração de imagens que substitui a computação convencional com muitos cálculos por uma rede simulada de osciladores físicos. A startup diz que a abordagem subjacente poderia eventualmente usar até 1.000 vezes menos energia do que os sistemas atuais de IA.
O modelo, denominado Un-0, é a primeira prova de conceito da empresa. A IA não convencional foi fundada por pesquisadores como o professor associado do MIT Michael Carbin, a professora assistente de Stanford Sara Achour, o ex-engenheiro do Google MeeLan Lee e o ex-chefe de IA do Databricks Naveen Rao. A equipe publicou detalhes técnicos em 25 de junho e lançou o modelo através do GitHub.
A maioria dos computadores realiza cálculos alternando rapidamente bilhões de transistores entre os estados ligado e desligado. Os geradores de imagens baseados em modelos de difusão começam com ruído visual e calculam repetidamente o que deve ser removido para produzir a imagem solicitada, normalmente executando entre 20 e 50 etapas de refinamento.
Em vez disso, Un-0 representa informações por meio de osciladores, sistemas físicos que produzem ondas repetidas. Osciladores conectados influenciam-se naturalmente uns aos outros até que seus ritmos comecem a se alinhar, um processo descrito pelo modelo Kuramoto.
Para gerar uma imagem, o sistema atribui diferentes padrões de fase do oscilador a categorias como sapatos ou trens. Um grupo menor configurado com o padrão desejado atua como um prompt e puxa gradualmente a rede mais ampla de osciladores posicionados aleatoriamente em direção ao mesmo arranjo.
O sistema então registra as fases finais dos osciladores como uma grade numérica. Um decodificador separado converte essa grade em valores de pixel para produzir a imagem.
A IA não convencional argumenta que o hardware do oscilador físico poderia consumir muito menos eletricidade porque a corrente fluiria continuamente através de circuitos fechados, em vez de ser forçada através de trilhões de operações de comutação de transistores. O modelo Un-0 existente ainda não proporciona essas economias porque simula os osciladores em hardware convencional. Em última análise, a empresa planeja desenvolver chips dedicados baseados em osciladores.
Os pesquisadores testaram o Un-0 usando os conjuntos de dados de imagens CIFAR-10 e ImageNet 64×64. No CIFAR-10, sua pontuação de distância inicial de Fréchet melhorou de 11,01 com 1.024 osciladores para 8,76 com 4.096 osciladores. Pontuações mais baixas indicam que as imagens geradas se assemelham mais aos dados de referência.
No ImageNet 64×64, a pontuação melhorou de 8,41 com 6.656 osciladores para 6,74 com 16.384 osciladores. Os pesquisadores disseram que os resultados foram comparáveis aos dos primeiros geradores de imagens, como o BigGAN do Google e o iDDPM da OpenAI, embora tenham alertado que os números deveriam ser tratados como pontos de referência, em vez de medidas diretamente equivalentes.
A equipe reconheceu que os geradores de imagens atuais ainda produzem melhor qualidade geral enquanto usam seus parâmetros de forma mais eficiente. A IA não convencional divulgou os pesos do modelo, o código de treinamento e os scripts de ablação para que outros pesquisadores possam testar a abordagem e executar suas próprias simulações.
