Modelo também processa texto e imagens e exige cerca de 18 GB de memória na versão otimizada. A capacidade está presente em parte dos notebooks e computadores de mesa modernos com placa de vídeo dedicada.
Retomada dos modelos abertos
Muse Glimmer é uma versão destilada do Muse Spark 1.2, modelo maior e fechado lançado em 5 de agosto. Na destilação, um modelo menor é treinado para reproduzir o comportamento de outro maior com a menor perda possível de capacidade.
Este é o primeiro modelo aberto da Meta Superintelligence Labs, divisão de pesquisa avançada em IA criada no ano passado. Os modelos Muse Spark, Spark 1.1 e Spark 1.2 são fechados e cobrados por meio de uma interface de programação paga.
A empresa cobrava, em julho, US$ 1,25 por milhão de tokens de entrada e US$ 4,25 por milhão de tokens de saída em sua interface. Integrações com llama.cpp, MLX e ExecuTorch devem chegar nos próximos dias. Toda interação com um chatbot consome tokens. Quanto maior e mais complexa a conversa, mais tokens são processados, o que geralmente aumenta o custo e o tempo de processamento
