API MiMo sem censura com fidelidade de 8 bits

A maioria dos catálogos lhe vende contagem de parâmetros. É o número errado para comparar, porque todo modelo grande de pesos abertos que você realmente consegue pagar foi comprimido para caber em algum lugar. A pergunta honesta não é "qual era o tamanho disto antes de ser espremido?", mas "quanto disto ainda está aqui?". Este artigo é sobre essa pergunta, e sobre o modelo da nossa linha em que a resposta é quase tudo.

01O que a API MiMo sem censura de fato lhe entrega

A API MiMo sem censura é um id de modelo, MiMo-V2.5-Pro-W8A16, acessível por três dialetos que endereçam os mesmos pesos no nosso próprio cluster de GPUs: /v1/chat/completions, /v1/messages e /v1/responses. Os três fazem streaming e suportam chamada de ferramentas e raciocínio.

Sem censura tem um significado estreito aqui: nenhuma camada de recusa à frente do modelo, nenhum filtro sobre a saída dele. Não interceptamos, não classificamos e não reescrevemos. Você recebe o comportamento próprio da fundação — o que, num modelo de pesos abertos de nível de pesquisa, significa que ele engaja com pesquisa em segurança, ficção adulta ou violenta, raciocínio médico e jurídico, e os pedidos que endpoints comerciais hospedados recusam por reflexo. É uma ferramenta profissional sob a nossa Política de Uso Responsável, não uma ausência de regras.

02A linhagem MiMo: a aposta da Xiaomi no pré-treino centrado em raciocínio

MiMo não é um derivado do Llama com nome novo; é uma linhagem distinta, da equipe MiMo da Xiaomi, e a ideia fundadora dela importa antes de você avaliar o modelo. Ela começa com o MiMo-7B (30 de abril de 2025, licença MIT), cujo relatório técnico argumenta que a maioria dos laboratórios trata raciocínio como um problema de pós-treinamento a ser parafusado com RL, e que isso é ao contrário. A Xiaomi reestruturou o pré-treino em torno disso: uma mistura em três estágios ao longo de 25 trilhões de tokens, com o estágio dois rodando cerca de 70% de matemática e código e o estágio três incorporando traços sintéticos de raciocínio enquanto estende o contexto de 8K para 32K — mais um objetivo de Multi-Token Prediction que serve também como cabeça de decodificação especulativa.

O resultado foi um modelo base de 7B que se comportava como algo bem maior. O MiMo-7B-Base marcou 32.9 no AIME 2024, onde o Qwen2.5-7B marcou 10.1, o Gemma-2-9B 0.0 e o Llama-3.1-8B 0.3. O pós-treinamento então rodou RL sobre 130,000 problemas verificáveis de matemática e código, com uma recompensa de código guiada pela dificuldade dos testes, escapando da armadilha de recompensa esparsa que desestabiliza o RL de código. O resultado ficou à frente do o1-mini:

AIME 2025, números relatados pela Xiaomi no relatório técnico do MiMo (arXiv:2505.07608). O MiMo-7B-RL também relatou 95.8 no MATH-500 e 57.8 no LiveCodeBench v5.

A família se alargou em vez de derivar: o MiMo-VL-7B (junho de 2025) colocou um encoder Qwen2.5-ViT sobre o mesmo backbone, e dezembro de 2025 trouxe o MiMo-Audio-7B mais a primeira entrada MoE, o MiMo-V2-Flash (309B totais / 15B ativos, 27T tokens, precisão mista FP8). O MiMo-V2-Pro veio em março de 2026 com cerca de 1T / 42B ativos e contexto de 1M, depois de semanas no OpenRouter como "Hunter Alpha". O MiMo-V2.5 e o MiMo-V2.5-Pro saíram juntos em 22 de abril de 2026, ambos MIT.

03Por dentro do MiMo-V2.5-Pro: como é a fundação

Segundo o cartão de modelo publicado pela Xiaomi, o MiMo-V2.5-Pro é um modelo Mixture-of-Experts esparso com 1.02 trilhão de parâmetros totais e 42 bilhões ativos por token ao longo de 70 camadas — uma densa, 69 MoE — e 384 especialistas roteados, 8 por token. O tamanho oculto é 6144, com um tamanho intermediário estreito de 2048 no MoE.

Duas escolhas moldam a sensação de uso. A pilha de atenção é híbrida: 10 camadas de atenção completa e 60 camadas de janela deslizante com janela de 128, mais um viés aprendível de sumidouro de atenção. A Xiaomi relata que isso corta o armazenamento do cache KV em cerca de 7x em relação à atenção toda global, mantendo a qualidade em contexto longo — a diferença entre uma janela que é longa no papel e uma que você pode se dar ao luxo de encher. Ele também traz três camadas de Multi-Token Prediction, dando ao decoder uma cabeça especulativa.

O treinamento foi de 27 trilhões de tokens com comprimento de sequência nativo de 32K em precisão mista FP8 (E4M3), seguido de ajuste fino supervisionado, RL agêntico em larga escala e destilação on-policy com múltiplos professores. Guarde esse detalhe do FP8; é o argumento isolado mais forte para servir esta fundação em 8 bits.

A Xiaomi relata o modelo com 57.2% no SWE-bench Pro, 72.9 no τ3-Bench para uso de ferramentas e 48.0% no Humanity's Last Exam — números do próprio fornecedor sobre o modelo não comprimido, citados como tal.

Nós servimos uma janela de 262,144 tokens, não o 1M completo da fundação — um contexto que conseguimos garantir com velocidade, em vez de um número de manchete que degrada sob carga.

04O que significa W8A16, com precisão

Todo modelo deste catálogo carrega um sufixo de quantização que descreve uma transformação real e mensurável, e não um nível de marketing. Os nossos são 3BIT-REAP, W4A16-AUTOROUND-REAP e W8A16. O MiMo-V2.5-Pro é o terceiro.

A notação se divide em duas. O W8 é a precisão dos pesos: cada parâmetro é armazenado como um inteiro de 8 bits em vez de um float de 16 bits, com um fator de escala compartilhado por grupo pequeno, para que a faixa dinâmica local de cada grupo sobreviva. O A16 é a precisão das ativações: os valores que fluem entre camadas na inferência ficam em 16 bits. Os pesos são comprimidos; a aritmética não.

Essa segunda metade faz um trabalho silencioso e importante. Ativações são muito mais difíceis de quantizar do que pesos: elas contêm canais outliers extremos — algumas dimensões cujas magnitudes ofuscam todo o resto e que carregam uma parcela desproporcional do comportamento do modelo. Empurre isso para baixa precisão e você recorta justamente o sinal de que precisava. Esquemas só de pesos contornam o problema deixando em paz o caminho das ativações, e é por isso que o trabalho sério de quantização convergiu para eles.

Então a questão prática se estreita a uma coisa: com quão poucos bits um peso consegue conviver?

05W8A16 vs W4A16 vs 3 bits: para onde a perda realmente vai

O maior estudo publicado sobre isso é o "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization, da Neural Magic e da Red Hat — mais de 500,000 avaliações na família Llama-3.1 em 8B, 70B e 405B. O resultado de destaque, nos números deles:

Formato	O que é comprimido	Recuperação relatada vs BF16
W8A8-FP (8 bits)	Pesos + ativações, float	~99.75% em média — "essencialmente sem perdas"
W8A8-INT (8 bits)	Pesos + ativações, inteiro	99–100% em 8B/70B; 98.2–99.3% em 405B
W4A16-INT (4 bits)	Só pesos	98–99.4% (8B); 98.6–99.8% (70B)

Números relatados pela Neural Magic / Red Hat (arXiv:2411.02355) em modelos Llama-3.1 — o formato do compromisso, não a pontuação deste modelo.

Lido com honestidade, isso parece um argumento contra se importar: 4 bits recuperam 98–99%, então por que prestar atenção? Porque esses são benchmarks acadêmicos de múltipla escolha, quase o pior instrumento disponível para detectar dano de quantização. Uma pergunta de benchmark tem uma resposta certa alcançável em um ou dois tokens, e o erro de quantização é um ruído pequeno, de média aproximadamente zero, sobre cada logit; numa pergunta curta com margem larga, esse ruído é absorvido.

Agora escreva 4,000 tokens de um documento técnico, sustente uma voz ao longo de uma história de 40,000 tokens, ou emita JSON que precisa validar de primeira. O mesmo ruído é amostrado milhares de vezes em sequência, cada amostra condicionando a seguinte. O modo de falha não é uma resposta errada — é a deriva: um afrouxamento da aderência à instrução dada no primeiro turno, um personagem que deixa de soar como ele mesmo por volta do token 3,000, uma chave de fechamento que nunca chega.

Para onde os bits realmente vão

O erro de quantização não se espalha de forma uniforme pelas capacidades de um modelo; ele se concentra na cauda. Comportamentos de alta massa — inglês gramatical, o formato de uma função Python, os mil fatos mais comuns sobre o mundo — estão codificados de forma redundante em muitos pesos e sobrevivem a quase tudo. Os cantos de pequena magnitude e ajuste preciso da distribuição de pesos guardam o que é raro: a assinatura exata de uma API obscura, a cadência de um autor específico, a diferença entre duas CVEs vizinhas. São esses os valores que uma grade grosseira arredonda uns nos outros.

O passo de 4 bits para 3 é onde isso deixa de ser um imposto e vira um precipício. As leis de escala de inferência em k bits, de Dettmers e Zettlemoyer, encontraram nos 4 bits o ponto que maximiza a acurácia zero-shot por bit de memória do modelo, com a degradação dominando abaixo disso. Quatro bits dão 16 níveis por grupo; três dão 8. Você está dividindo pela metade a resolução de uma grade já grosseira, e o erro de arredondamento por peso praticamente dobra.

A aritmética que decide

A comparação que vale fazer é aritmética, não um benchmark. O que sobrevive à compressão é aproximadamente parâmetros × bits por parâmetro — o volume portador de informação do arquivo de pesos. Tome duas fundações hipotéticas de igual qualidade por parâmetro:

• Fundação A: 400B de parâmetros a 3 bits → cerca de 150 GB de peso retido.
• Fundação B: 160B de parâmetros a 8 bits → cerca de 160 GB de peso retido.

Pela contagem bruta de parâmetros, A ganha de dois e meio para um — o número com que o cartão de modelo abre. Pela informação retida, elas são equivalentes, e B ainda tem uma vantagem estrutural: os pesos dela ficam numa grade fina o bastante para que o comportamento de cauda esteja intacto, ao passo que a cauda de A foi quantizada para dentro do miolo. A sabe mais coisas; B sabe o que sabe com mais nitidez. Para geração longa, formatação exata, controle estilístico e aderência fiel a contexto longo, escolha B.

Aritmética ilustrativa, não um benchmark: ela mostra por que "fundação maior" e "modelo servido melhor" são afirmações diferentes.

06Por que 27 trilhões de tokens de treino tornam a quantização agressiva pior

Um segundo resultado, menos intuitivo, incide diretamente sobre esta fundação. O artigo de Kumar et al. na ICLR 2025, Scaling Laws for Precision, constata que quanto mais dados um modelo viu no treino, mais dano a quantização pós-treinamento causa nele. A baixa precisão reduz a contagem efetiva de parâmetros de um modelo, e essa degradação cresce com os dados de pré-treino absorvidos — a ponto de dados extras de pré-treino poderem ser líquido negativos se você pretende quantizar de forma agressiva, porque você está gravando uma estrutura fina que a grade vai apagar.

Um modelo treinado em 5T de tokens tem estrutura de pesos grosseira, redundante e com folga de sobra. Um modelo treinado em 27T de tokens — o orçamento do MiMo-V2.5-Pro — gastou esses dados extras escrevendo distinções mais finas em valores de peso mais precisos, que é exatamente o que uma grade de 3 bits não consegue representar.

E há o fato do FP8 da seção 03, o argumento mais limpo deste artigo. O MiMo-V2.5-Pro foi pré-treinado em precisão mista FP8. Os pesos dele foram moldados desde o início por um otimizador trabalhando com cerca de oito bits de precisão. Servi-lo com pesos de 8 bits não é, portanto, um acréscimo com perdas imposto a um modelo de 16 bits — é algo próximo de devolver os pesos ao regime numérico em que foram aprendidos. Pouca estrutura fina existe abaixo do oitavo bit para se perder. O mesmo não se pode dizer desses pesos forçados até três.

07REAP: por que podar especialistas é um tipo de perda diferente de arredondar

Dois dos três níveis carregam um sufixo REAP — uma operação categoricamente diferente da quantização. O REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) é compressão de uma só passada para modelos MoE esparsos: ele pontua cada especialista pelos valores de gate do roteador e pela norma de ativação do especialista, e depois apaga os de menor pontuação. A Cerebras relata resultados quase sem perdas em geração de código e chamada de ferramentas mesmo com 50% dos especialistas podados.

Usamos o REAP pelo motivo pelo qual ele existe: nas maiores fundações, é o que as torna servíveis. Mas note a diferença de natureza. A quantização borra um pouco cada peso; a poda remove especialistas inteiros. Se a sua carga de trabalho roteia bastante para uma capacidade que morava num especialista raramente selecionado — uma linguagem de programação menor, um vocabulário especializado —, ela não fica degradada. Ela some, e nenhum prompt a recupera. As médias continuam excelentes; o seu caso de cauda pode não continuar.

O MiMo-V2.5-Pro · W8A16 não carrega sufixo REAP. Todos os 384 especialistas estão presentes, e o roteador escolhe do conjunto completo com que a fundação foi treinada.

Nível	Bits de peso	Especialistas	O que você troca
W8A16	8	Todos presentes	Nada estrutural. É o nível de fidelidade.
W4A16-AUTOROUND-REAP	4	Podados	Detalhe fino dos pesos mais especialistas de pouco tráfego, em troca de uma fundação muito maior na mesma faixa de preço.
3BIT-REAP	3	Podados	Resolução substancial de pesos mais especialistas de pouco tráfego — o preço de rodar as maiores fundações com velocidade.

O nível do meio merece uma audiência justa. O AutoRound não é arredondamento ingênuo: o método da Intel (arXiv:2309.05516) usa descida de gradiente sinalizada ao longo de cerca de 200 passos para ajustar as decisões de arredondamento e a faixa de recorte por grupo de pesos, e é relatado como quase sem perdas em 4 bits na maioria das configurações, batendo GPTQ, AWQ, HQQ e OmniQuant na maior parte das configurações testadas. Um modelo W4A16-AUTOROUND é um modelo de 4 bits genuinamente bom. Ele continua sendo um modelo de 4 bits.

08Quem deve escolher o nível de 8 bits — e quem não deve

O MiMo-V2.5-Pro · W8A16 fica no preço de piso de todo o catálogo — $0.50 de entrada / $2.00 de saída por milhão de tokens, a mesma faixa dos modelos de 4 bits do nível de entrada e cerca de um quarto do preço de entrada do modelo mais caro que servimos. Você não está pagando um prêmio por fidelidade; está escolhendo um eixo diferente do mesmo orçamento.

Escolha-o quando

• O comprimento da saída é o trabalho. Escrita técnica longa, ficção do tamanho de um capítulo, passadas completas de documentação — cada token gerado é um token em que o ruído de compressão se acumula.
• Voz e consistência importam. Trabalho com personagens, tom de marca, um registro sustentado ao longo de uma sessão longa. O estilo mora na cauda, e a cauda é o que a quantização grosseira come primeiro.
• A saída estruturada precisa validar de primeira. O modelo suporta json_schema e response_format; a aderência a schema é uma propriedade de precisão, e cada retentativa evitada é dinheiro e latência poupados.
• Você está enchendo o contexto. Aderir à instrução no token 200,000 é mais difícil do que no token 2,000, e isso degrada com a precisão dos pesos — assim como um traço longo de raciocínio, em que os erros se acumulam do mesmo jeito.
• O trabalho é sem censura por natureza. Pesquisa em segurança, red teaming, ficção sem filtros, análise médica ou jurídica sensível — onde uma resposta hesitante é pior do que nenhuma.

Escolha outra coisa quando

• Você precisa de visão. Este modelo é só de texto; o irmão dele, o MiMo-V2.5 · W8A16, tem visão pelo mesmo preço e no mesmo nível.
• Você precisa do conhecimento de mundo mais amplo em consultas curtas. Esse é o regime em que os parâmetros extras de uma fundação de 3 bits muito maior vencem e o dano de quantização dela quase não aparece.
• A sua carga é classificação curta de alto volume. O dano de quantização é quase invisível ali — compre o que for mais rápido.

09Como chamar a API MiMo sem censura

Se o seu código aponta para o SDK da OpenAI, mudar a URL base e o id do modelo é a migração inteira:

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiMo-V2.5-Pro-W8A16",
    "messages": [
      {"role": "user", "content": "Draft the threat model section."}
    ],
    "reasoning_effort": "high",
    "max_tokens": 16384,
    "stream": true
  }'

O /v1/messages e o /v1/responses aceitam o mesmo id e os mesmos recursos. A referência de parâmetros, os schemas de chamada de ferramentas, exemplos de saída estruturada e um playground ao vivo estão na documentação da API da Shannon AI.

Recurso	MiMo-V2.5-Pro · W8A16
Janela de contexto	262,144 tokens
Saída máxima por requisição	16,384 tokens
Streaming	Sim — nos três dialetos
Chamada de ferramentas	Sim
Raciocínio / reasoning_effort	Sim
Saída estruturada com json_schema	Sim
response_format	Sim
Visão / entrada de imagem	Não — use o MiMo-V2.5
Camada de recusa / filtro de saída	Nenhuma
Preço por 1M de tokens	$0.50 entrada / $2.00 saída

10Perguntas frequentes

---

Fontes: relatório técnico do MiMo, arXiv:2505.07608 · cartão de modelo do MiMo-V2.5-Pro (Xiaomi) · "Give Me BF16 or Give Me Death"?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · leis de escala de inferência em k bits, arXiv:2212.09720 · Scaling Laws for Precision, Kumar et al., ICLR 2025. Todos os números de benchmark são conforme relatados pelos seus autores. A Shannon AI é um produto da Shannon Lab LLC, Novo México, EUA.