API MiMo sans censure en fidélité 8 bits
La fondation MiMo de Xiaomi, pensée d'abord pour le raisonnement, servie sans couche de refus en W8A16 — notre palier de quantification le plus fidèle — au prix plancher du catalogue.
En bref
MiMo-V2.5-Pro · W8A16 est le MiMo-V2.5-Pro à poids ouverts de Xiaomi servi sur le cluster GPU de Shannon en poids 8 bits / activations 16 bits — le palier le moins compressé de notre catalogue de douze modèles. Un contexte de 262,144 tokens, 16,384 tokens de sortie par requête, l'appel d'outils, le raisonnement, la sortie structurée JSON-schema, le streaming sur trois dialectes d'API, et aucune couche de refus ni filtrage de sortie, à 0,50 $ en entrée / 2,00 $ en sortie par million de tokens — le plancher du catalogue. Uniquement textuel ; pour les images, utilisez MiMo-V2.5 · W8A16.
La plupart des catalogues vous vendent un nombre de paramètres. C'est le mauvais chiffre pour comparer, car tout grand modèle à poids ouverts que vous pouvez réellement vous offrir a été compressé pour tenir quelque part. La vraie question n'est pas « quelle était sa taille avant d'être compressé ? » mais « quelle part en reste-t-il ? ». Cet article traite de cette question, et du modèle de notre catalogue pour lequel la réponse est presque tout.
01Ce que l'API MiMo sans censure vous donne réellement
L'API MiMo sans censure est un seul identifiant de modèle, MiMo-V2.5-Pro-W8A16, accessible via trois dialectes qui s'adressent aux mêmes poids sur notre propre cluster GPU : /v1/chat/completions, /v1/messages et /v1/responses. Les trois diffusent en streaming et prennent en charge l'appel d'outils et le raisonnement.
Sans censure a ici un sens précis : aucune couche de refus devant le modèle, aucun filtre sur sa sortie. Nous n'interceptons, ne classons ni ne réécrivons rien. Vous obtenez le comportement propre de la fondation — ce qui, pour un modèle à poids ouverts de qualité recherche, signifie qu'il s'engage sur la recherche en sécurité, la fiction adulte ou violente, le raisonnement médical et juridique, et les demandes que les points de terminaison commerciaux hébergés déclinent par réflexe. C'est un outil professionnel encadré par notre politique d'utilisation responsable, pas une absence de règles.
02La lignée MiMo : le pari de Xiaomi sur un pré-entraînement centré raisonnement
MiMo n'est pas un dérivé de Llama rebaptisé ; c'est une lignée distincte de l'équipe MiMo de Xiaomi, et son idée fondatrice compte avant même d'évaluer le modèle. Elle commence avec MiMo-7B (30 avril 2025, sous licence MIT), dont le rapport technique soutient que la plupart des laboratoires traitent le raisonnement comme un problème de post-entraînement à greffer par apprentissage par renforcement, et que c'est prendre le problème à l'envers. Xiaomi a plutôt restructuré le pré-entraînement autour de lui : un mélange en trois étapes sur 25 mille milliards de tokens, la deuxième étape comptant environ 70 % de mathématiques et de code, la troisième intégrant des traces de raisonnement synthétiques tout en étendant le contexte de 8K à 32K — plus un objectif de prédiction multi-tokens qui sert aussi de tête de décodage spéculatif.
Le résultat fut un modèle de base 7B qui se comportait comme un modèle bien plus grand. MiMo-7B-Base a obtenu 32.9 sur AIME 2024 là où Qwen2.5-7B obtenait 10.1, Gemma-2-9B 0.0 et Llama-3.1-8B 0.3. Le post-entraînement a ensuite mené de l'apprentissage par renforcement sur 130,000 problèmes vérifiables de mathématiques et de code, avec une récompense de code pilotée par la difficulté des tests, échappant au piège de la récompense creuse qui déstabilise l'apprentissage par renforcement sur le code. Le résultat s'est placé devant o1-mini :
AIME 2025, chiffres rapportés par Xiaomi dans le rapport technique MiMo (arXiv:2505.07608). MiMo-7B-RL rapporte aussi 95.8 sur MATH-500 et 57.8 sur LiveCodeBench v5.
La famille s'est élargie plutôt qu'elle n'a dérivé : MiMo-VL-7B (juin 2025) a posé un encodeur Qwen2.5-ViT sur la même dorsale, et décembre 2025 a apporté MiMo-Audio-7B ainsi que la première entrée MoE, MiMo-V2-Flash (309B au total / 15B actifs, 27T tokens, précision mixte FP8). MiMo-V2-Pro a suivi en mars 2026, à environ 1T / 42B actifs avec un contexte de 1M, après plusieurs semaines sur OpenRouter sous le nom « Hunter Alpha ». MiMo-V2.5 et MiMo-V2.5-Pro sont sortis ensemble le 22 avril 2026, tous deux sous licence MIT.
03Dans MiMo-V2.5-Pro : à quoi ressemble la fondation
D'après la fiche de modèle publiée par Xiaomi, MiMo-V2.5-Pro est un modèle Mixture-of-Experts creux totalisant 1,02 mille milliards de paramètres, dont 42 milliards actifs par token, répartis sur 70 couches — une dense, 69 MoE — et 384 experts routés, 8 par token. La taille cachée est de 6144, avec une taille intermédiaire MoE étroite de 2048.
Deux choix déterminent la sensation à l'usage. La pile d'attention est hybride : 10 couches à attention complète et 60 couches à fenêtre glissante d'une largeur de 128, plus un biais d'attention-sink apprenable. Xiaomi rapporte que cela réduit le stockage du cache KV de près de 7x par rapport à une attention entièrement globale tout en préservant la qualité sur contexte long — la différence entre une fenêtre nominalement longue et une fenêtre que vous pouvez vous permettre de remplir. Il embarque aussi trois couches de prédiction multi-tokens, dotant le décodeur d'une tête spéculative.
L'entraînement a porté sur 27 mille milliards de tokens à une longueur de séquence native de 32K en précision mixte FP8 (E4M3), suivi d'un affinage supervisé, d'un apprentissage par renforcement agentique à grande échelle et d'une distillation on-policy multi-enseignants. Retenez ce détail FP8 ; c'est le meilleur argument, à lui seul, pour servir cette fondation sur 8 bits.
Xiaomi rapporte le modèle à 57.2% sur SWE-bench Pro, 72.9 sur τ3-Bench pour l'usage d'outils et 48.0% sur Humanity's Last Exam — les chiffres de l'éditeur sur le modèle non compressé, cités comme tels.
Nous servons une fenêtre de 262,144 tokens, pas le 1M complet de la fondation — un contexte que nous pouvons garantir à pleine vitesse, plutôt qu'un chiffre d'affiche qui se dégrade sous charge.
04Ce que W8A16 signifie, précisément
Chaque modèle de ce catalogue porte un suffixe de quantification qui décrit une transformation réelle et mesurable, et non un palier marketing. Les nôtres sont 3BIT-REAP, W4A16-AUTOROUND-REAP et W8A16. MiMo-V2.5-Pro relève du troisième.
La notation se lit en deux parties. W8 est la précision des poids : chaque paramètre est stocké comme un entier 8 bits au lieu d'un flottant 16 bits, avec un facteur d'échelle partagé par petit groupe afin que la plage dynamique locale de chaque groupe survive. A16 est la précision des activations : les valeurs qui circulent entre les couches à l'inférence restent sur 16 bits. Les poids sont compressés ; l'arithmétique ne l'est pas.
Cette seconde moitié fait un travail discret mais important. Les activations sont bien plus difficiles à quantifier que les poids : elles contiennent des canaux aberrants extrêmes — quelques dimensions dont les magnitudes écrasent tout le reste et qui portent une part disproportionnée du comportement du modèle. Poussez-les en basse précision et vous écrêtez exactement le signal dont vous aviez besoin. Les schémas appliqués aux seuls poids contournent le problème en laissant le chemin des activations tranquille, et c'est pourquoi les travaux sérieux de quantification ont convergé vers eux.
La question pratique se réduit donc à une seule : combien de bits un poids peut-il tolérer au minimum ?
05W8A16 contre W4A16 contre 3 bits : où part réellement la perte
La plus vaste étude publiée sur le sujet est celle de Neural Magic et Red Hat, « Give Me BF16 or Give Me Death »? Accuracy-Performance Trade-Offs in LLM Quantization — plus de 500,000 évaluations sur la famille Llama-3.1 en 8B, 70B et 405B. Leur résultat principal, dans leurs chiffres :
| Format | Ce qui est compressé | Récupération rapportée vs BF16 |
|---|---|---|
| W8A8-FP (8 bits) | Poids + activations, flottant | ~99,75 % en moyenne — « essentiellement sans perte » |
| W8A8-INT (8 bits) | Poids + activations, entier | 99–100 % en 8B/70B ; 98,2–99,3 % en 405B |
| W4A16-INT (4 bits) | Poids uniquement | 98–99,4 % (8B) ; 98,6–99,8 % (70B) |
Chiffres rapportés par Neural Magic / Red Hat (arXiv:2411.02355) sur des modèles Llama-3.1 — la forme de l'arbitrage, pas le score de ce modèle.
Lu honnêtement, cela ressemble à un argument contre le fait de s'en soucier : le 4 bits récupère 98–99 %, alors pourquoi y prêter attention ? Parce que ce sont des benchmarks académiques à choix multiples, à peu près le pire instrument disponible pour détecter les dégâts de la quantification. Une question de benchmark a une seule bonne réponse atteignable en un ou deux tokens, et l'erreur de quantification est un bruit faible, de moyenne à peu près nulle, sur chaque logit ; sur une question courte à large marge, ce bruit est absorbé.
Écrivez maintenant 4,000 tokens d'un document technique, tenez une voix sur une histoire de 40,000 tokens, ou produisez du JSON qui doit valider du premier coup. Le même bruit est échantillonné des milliers de fois d'affilée, chaque échantillon conditionnant le suivant. Le mode de défaillance n'est pas une mauvaise réponse — c'est la dérive : une prise qui se relâche sur la consigne du premier tour, un personnage qui cesse de se ressembler vers le token 3,000, une accolade fermante qui n'arrive jamais.
Où partent réellement les bits
L'erreur de quantification n'est pas répartie uniformément sur les capacités d'un modèle ; elle se concentre dans la queue. Les comportements de forte masse — l'anglais grammatical, la forme d'une fonction Python, les mille faits les plus courants sur le monde — sont encodés de façon redondante dans de nombreux poids et survivent à presque tout. Les recoins finement réglés et de faible magnitude de la distribution des poids abritent les choses rares : la signature exacte d'une API obscure, la cadence d'un auteur précis, la différence entre deux CVE voisines. Ce sont ces valeurs qu'une grille grossière arrondit les unes sur les autres.
Le passage de 4 bits à 3 est l'endroit où cela cesse d'être un impôt pour devenir une falaise. Les lois d'échelle de l'inférence en k bits de Dettmers et Zettlemoyer ont établi que 4 bits est le point qui maximise la précision zéro-shot par bit de mémoire du modèle, la dégradation dominant en dessous. Quatre bits donnent 16 niveaux par groupe ; trois en donnent 8. Vous divisez par deux la résolution d'une grille déjà grossière, et l'erreur d'arrondi par poids double à peu près.
L'arithmétique qui tranche
La comparaison qui vaut la peine est arithmétique, pas un benchmark. Ce qui survit à la compression, c'est approximativement paramètres × bits par paramètre — le volume porteur d'information du fichier de poids. Prenons deux fondations hypothétiques de qualité égale par paramètre :
- Fondation A : 400B de paramètres sur 3 bits → environ 150 Go de poids conservés.
- Fondation B : 160B de paramètres sur 8 bits → environ 160 Go de poids conservés.
Au nombre brut de paramètres, A l'emporte par deux et demi contre un — le chiffre que la fiche de modèle met en avant. À information conservée, elles sont équivalentes, et B possède en outre un avantage structurel : ses poids reposent sur une grille assez fine pour que son comportement de queue reste intact, alors que la queue de A a été quantifiée dans la masse. A connaît davantage de choses ; B connaît plus nettement ce qu'il connaît. Pour la génération longue, le formatage exact, le contrôle stylistique et le respect fidèle d'un contexte long, prenez B.
Arithmétique illustrative, pas un benchmark : elle montre pourquoi « fondation plus grande » et « modèle mieux servi » sont deux affirmations différentes.
06Pourquoi 27 mille milliards de tokens d'entraînement aggravent la quantification agressive
Un second résultat, moins intuitif, concerne directement cette fondation. L'article de Kumar et al. à ICLR 2025, Scaling Laws for Precision, établit que plus un modèle a été entraîné sur de données, plus la quantification post-entraînement lui fait de dégâts. La basse précision réduit le nombre effectif de paramètres d'un modèle, et cette dégradation croît avec le volume de données de pré-entraînement absorbées — assez loin pour que des données de pré-entraînement supplémentaires puissent être globalement nuisibles si vous comptez quantifier agressivement, car vous inscrivez une structure fine que la grille effacera.
Un modèle entraîné sur 5T tokens a une structure de poids grossière et redondante, avec de la marge à revendre. Un modèle entraîné sur 27T tokens — le budget de MiMo-V2.5-Pro — a employé ces données supplémentaires à inscrire des distinctions plus fines dans des valeurs de poids plus précises, ce qu'une grille 3 bits est justement incapable de représenter.
Vient ensuite le fait FP8 de la section 03, l'argument le plus net de cet article. MiMo-V2.5-Pro a été pré-entraîné en précision mixte FP8. Ses poids ont été façonnés dès le départ par un optimiseur travaillant à environ huit bits de précision. Le servir en poids 8 bits n'est donc pas une réflexion après coup imposée à un modèle 16 bits — c'est presque ramener les poids au régime numérique dans lequel ils ont été appris. Il existe peu de structure fine sous le huitième bit à perdre. On ne peut pas en dire autant de ces mêmes poids ramenés de force à trois.
07REAP : pourquoi l'élagage d'experts est une perte d'une autre nature que l'arrondi
Deux des trois paliers portent un suffixe REAP — une opération catégoriquement différente de la quantification. REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) est une compression en une passe pour les modèles MoE creux : elle note chaque expert d'après les valeurs de la porte du routeur et la norme d'activation de l'expert, puis supprime les moins bien notés. Cerebras rapporte des résultats quasi sans perte en génération de code et en appel d'outils, même avec 50 % des experts élagués.
Nous utilisons REAP pour la raison qui a présidé à son existence : sur les plus grandes fondations, c'est ce qui les rend servables. Mais notez la différence de nature. La quantification floute un peu chaque poids ; l'élagage supprime des experts entiers. Si votre charge de travail route massivement vers une capacité logée dans un expert rarement sélectionné — un langage de programmation mineur, un vocabulaire spécialisé — elle n'est pas dégradée. Elle a disparu, et aucun prompt ne la récupère. Les moyennes restent excellentes ; votre cas de queue, peut-être pas.
MiMo-V2.5-Pro · W8A16 ne porte aucun suffixe REAP. Les 384 experts sont tous présents, et le routeur choisit dans l'ensemble complet avec lequel la fondation a été entraînée.
| Palier | Bits de poids | Experts | Ce que vous échangez |
|---|---|---|---|
| W8A16 | 8 | Tous présents | Rien de structurel. Le palier de fidélité. |
| W4A16-AUTOROUND-REAP | 4 | Élagués | Le détail fin des poids et les experts peu sollicités, en échange d'une fondation bien plus grande dans la même tranche de prix. |
| 3BIT-REAP | 3 | Élagués | Une part substantielle de la résolution des poids et les experts peu sollicités — le prix à payer pour faire tourner les toutes plus grandes fondations à pleine vitesse. |
Le palier intermédiaire mérite un procès équitable. AutoRound n'est pas un arrondi naïf : la méthode d'Intel (arXiv:2309.05516) utilise une descente de gradient signée sur environ 200 étapes pour régler les décisions d'arrondi et la plage d'écrêtage par groupe de poids, et elle est rapportée quasi sans perte en 4 bits dans la plupart des réglages, devançant GPTQ, AWQ, HQQ et OmniQuant sur la plupart des configurations testées. Un modèle W4A16-AUTOROUND est un vrai bon modèle 4 bits. Il reste un modèle 4 bits.
08Qui devrait choisir le palier 8 bits — et qui ne le devrait pas
MiMo-V2.5-Pro · W8A16 se situe au prix plancher de tout le catalogue — 0,50 $ en entrée / 2,00 $ en sortie par million de tokens, la même tranche que les modèles 4 bits d'entrée de gamme et environ un quart du prix d'entrée du modèle le plus cher que nous servons. Vous ne payez pas un supplément pour la fidélité ; vous choisissez un autre axe du même budget.
Prenez-le quand
- La longueur de sortie est le cœur du travail. Rédaction technique au long cours, fiction de la longueur d'un chapitre, passes complètes de documentation — chaque token généré est un token où le bruit de compression se cumule.
- La voix et la constance comptent. Travail de personnage, ton de marque, un registre tenu sur une longue session. Le style vit dans la queue, et c'est la queue que la quantification grossière mange en premier.
- La sortie structurée doit valider du premier coup. Le modèle prend en charge
json_schemaetresponse_format; le respect d'un schéma est une propriété de précision, et chaque réessai évité, c'est de l'argent et de la latence économisés. - Vous remplissez le contexte. Respecter la consigne au token 200,000 est plus dur qu'au token 2,000, et cela se dégrade avec la précision des poids — tout comme une longue trace de raisonnement, où les erreurs se cumulent de la même façon.
- Le travail est sans censure par nature. Recherche en sécurité, red teaming, fiction non filtrée, analyse médicale ou juridique sensible — là où une réponse en demi-teinte est pire que pas de réponse.
Prenez autre chose quand
- Vous avez besoin de la vision. Ce modèle est uniquement textuel ; son voisin MiMo-V2.5 · W8A16 est doté de vision, au même prix et au même palier.
- Vous avez besoin de la connaissance du monde la plus large sur des requêtes courtes. C'est le régime où les paramètres supplémentaires d'une fondation 3 bits bien plus grande l'emportent, et où ses dégâts de quantification se voient à peine.
- Votre charge de travail est de la classification courte à fort volume. Les dégâts de la quantification y sont quasi invisibles — prenez ce qui va le plus vite.
09Appeler l'API MiMo sans censure
Si votre code vise le SDK OpenAI, changer l'URL de base et l'identifiant de modèle constitue toute la migration :
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MiMo-V2.5-Pro-W8A16",
"messages": [
{"role": "user", "content": "Draft the threat model section."}
],
"reasoning_effort": "high",
"max_tokens": 16384,
"stream": true
}'/v1/messages et /v1/responses acceptent le même identifiant et les mêmes capacités. La référence des paramètres, les schémas d'appel d'outils, des exemples de sortie structurée et un bac à sable interactif se trouvent dans la documentation de l'API Shannon AI.
| Capacité | MiMo-V2.5-Pro · W8A16 |
|---|---|
| Fenêtre de contexte | 262,144 tokens |
| Sortie max par requête | 16,384 tokens |
| Streaming | Oui — les trois dialectes |
| Appel d'outils | Oui |
Raisonnement / reasoning_effort | Oui |
Sortie structurée json_schema | Oui |
response_format | Oui |
| Vision / entrée d'images | Non — utilisez MiMo-V2.5 |
| Couche de refus / filtre de sortie | Aucune |
| Prix par 1M de tokens | 0,50 $ en entrée / 2,00 $ en sortie |
Chaque chiffre externe présenté ici est publié par quelqu'un d'autre que nous et attribué dans le texte. Les résultats de récupération après quantification proviennent d'études sur la famille Llama : ils décrivent la forme de l'arbitrage, pas les scores de ce modèle.
10Questions fréquentes
Qu'est-ce que l'API MiMo sans censure ?
C'est le point de terminaison de Shannon AI pour MiMo-V2.5-Pro, le modèle Mixture-of-Experts à poids ouverts de Xiaomi, servi sur notre propre cluster GPU sans couche de refus ni filtrage de sortie. Il est accessible via /v1/chat/completions, /v1/messages et /v1/responses, avec un contexte de 262,144 tokens et 16,384 tokens de sortie par requête.
Que signifie W8A16, et pourquoi est-ce important ?
W8A16 signifie que les poids sont stockés sur 8 bits chacun tandis que les activations sont calculées sur 16 bits. C'est le palier de quantification le plus fidèle de notre catalogue. Les études publiées constatent que les formats 8 bits appliqués aux seuls poids récupèrent l'essentiel de la précision du modèle d'origine, tandis que le 4 bits échange un peu de fidélité contre de la mémoire et que le 3 bits en échange beaucoup.
Un modèle plus petit en 8 bits peut-il battre un modèle plus grand en 3 bits ?
Souvent, oui. Ce qui survit à la compression, c'est grosso modo le nombre de paramètres multiplié par le nombre de bits par paramètre, et l'erreur de quantification se concentre dans les comportements rares, ceux de la queue de distribution. Un modèle maintenu sur 8 bits conserve sa cohérence sur les textes longs, son formatage exact et son savoir de queue ; un modèle plus grand écrasé sur 3 bits garde ses scores généraux de benchmark mais perd ces propriétés.
MiMo-V2.5-Pro prend-il en charge la vision ou l'entrée d'images ?
Non. Sur Shannon AI, MiMo-V2.5-Pro est uniquement textuel. Il prend bien en charge l'appel d'outils, le raisonnement avec reasoning_effort, la sortie structurée JSON-schema et response_format. Si vous avez besoin de l'entrée d'images, utilisez le modèle voisin MiMo-V2.5 W8A16, doté de vision au même prix.
Combien coûte l'API MiMo sans censure ?
0,50 $ par million de tokens d'entrée et 2,00 $ par million de tokens de sortie. C'est le prix plancher du catalogue Shannon AI, ce qui fait de MiMo-V2.5-Pro la façon la moins chère d'acheter de la fidélité 8 bits sur cette passerelle.
Essayez l'API MiMo sans censure
Fidélité 8 bits, 262K de contexte, aucune couche de refus — au prix plancher du catalogue.
Lire la documentation de l'API Parcourir tous les modèlesExploité selon la politique d'utilisation responsable de Shannon AI
Sources : rapport technique MiMo, arXiv:2505.07608 · fiche de modèle MiMo-V2.5-Pro (Xiaomi) · « Give Me BF16 or Give Me Death »?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · lois d'échelle de l'inférence en k bits, arXiv:2212.09720 · Scaling Laws for Precision, Kumar et al., ICLR 2025. Tous les chiffres de benchmark sont ceux rapportés par leurs auteurs. Shannon AI est un produit de Shannon Lab LLC, Nouveau-Mexique, États-Unis.