Sensuroimaton MiMo-API 8-bittisellä tarkkuudella

Useimmat valikoimat myyvät sinulle parametrimäärän. Se on väärä luku ostoperusteeksi, koska jokainen suuri avoinpainoinen malli johon sinulla oikeasti on varaa on pakattu mahtumaan johonkin. Rehellinen kysymys ei ole ”kuinka suuri tämä oli ennen puristusta?” vaan ”kuinka paljon siitä on yhä jäljellä?” Tämä artikkeli käsittelee tuota kysymystä, ja sitä valikoimamme mallia jossa vastaus on melkein kaikki.

01Mitä sensuroimaton MiMo-API oikeasti antaa

Sensuroimaton MiMo-API on yksi mallitunnus, MiMo-V2.5-Pro-W8A16, tavoitettavissa kolmen murteen kautta jotka osoittavat samoihin painoihin omalla GPU-klusterillamme: /v1/chat/completions, /v1/messages ja /v1/responses. Kaikki kolme suoratoistavat ja tukevat työkalukutsuja ja päättelyä.

Sensuroimaton tarkoittaa tässä kapeaa asiaa: ei kieltäytymiskerrosta mallin edessä, ei suodatinta sen tulosteessa. Emme sieppaa, luokittele emmekä kirjoita uusiksi. Saat perustan oman käyttäytymisen — mikä tutkimustason avoinpainoisella mallilla tarkoittaa että se tarttuu tietoturvatutkimukseen, aikuis- tai väkivaltafiktioon, lääketieteelliseen ja juridiseen päättelyyn sekä niihin pyyntöihin joista isännöidyt kaupalliset päätepisteet kieltäytyvät refleksinomaisesti. Se on ammattityökalu vastuullisen käytön käytäntömme alaisuudessa, ei sääntöjen puuttumista.

02MiMo-sukulinja: Xiaomin veto päättelyyn perustuvasta esikoulutuksesta

MiMo ei ole uudella nimellä varustettu Llama-johdannainen; se on erillinen sukulinja Xiaomin MiMo-tiimiltä, ja sen perustava idea merkitsee ennen kuin arvioit mallia. Se alkaa mallista MiMo-7B (30. huhtikuuta 2025, MIT-lisenssi), jonka tekninen raportti väittää että useimmat laboratoriot kohtelevat päättelyä jälkikoulutuksen ongelmana joka pultataan päälle vahvistusoppimisella, ja että tämä on takaperoista. Xiaomi järjesti sen sijaan esikoulutuksen uudelleen sen ympärille: kolmivaiheinen seos 25 biljoonan tokenin yli, jonka toinen vaihe on karkeasti 70 % matematiikkaa ja koodia ja kolmas vaihe taittaa mukaan synteettisiä päättelyjälkiä samalla kun konteksti kasvaa 8K:sta 32K:hon — plus Multi-Token Prediction -tavoite joka toimii samalla spekulatiivisen dekoodauksen päänä.

Tuloksena oli 7 miljardin parametrin perusmalli joka käyttäytyi kuin jokin paljon suurempi. MiMo-7B-Base sai 32.9 AIME 2024:ssä siinä missä Qwen2.5-7B sai 10.1, Gemma-2-9B 0.0 ja Llama-3.1-8B 0.3. Jälkikoulutus ajoi sitten vahvistusoppimista 130 000 todennettavissa olevan matematiikka- ja koodiongelman yli testien vaikeuteen perustuvalla koodipalkkiolla, paeten sitä harvan palkkion ansaa joka horjuttaa koodin vahvistusoppimista. Tulos asettui o1-minin edelle:

AIME 2025, Xiaomin raportoimat luvut MiMon teknisestä raportista (arXiv:2505.07608). MiMo-7B-RL raportoi myös 95.8 MATH-500:ssa ja 57.8 LiveCodeBench v5:ssä.

Perhe levisi eikä ajautunut: MiMo-VL-7B (kesäkuu 2025) asetti Qwen2.5-ViT-enkooderin samaan runkoon, ja joulukuu 2025 toi MiMo-Audio-7B:n sekä ensimmäisen MoE-jäsenen, MiMo-V2-Flashin (309B yhteensä / 15B aktiivista, 27T tokenia, FP8-sekatarkkuus). MiMo-V2-Pro seurasi maaliskuussa 2026 karkeasti 1T / 42B aktiivisella ja 1M kontekstilla, vietettyään viikkoja OpenRouterissa nimellä ”Hunter Alpha”. MiMo-V2.5 ja MiMo-V2.5-Pro julkaistiin yhdessä 22. huhtikuuta 2026, molemmat MIT-lisenssillä.

03MiMo-V2.5-Pron sisällä: miltä perusta näyttää

Xiaomin julkaiseman mallikortin mukaan MiMo-V2.5-Pro on harva Mixture-of-Experts-malli jossa on 1,02 biljoonaa parametria yhteensä ja 42 miljardia aktiivista tokenia kohti 70 kerroksen yli — yksi tiheä, 69 MoE-kerrosta — ja 384 reititettyä asiantuntijaa, 8 tokenia kohti. Piilodimensio on 6144, ja MoE:n välidimensio on kapea 2048.

Kaksi valintaa muovaa sitä miltä malli tuntuu käytössä. Huomiopino on hybridi: 10 täyden huomion kerrosta ja 60 liukuvan ikkunan kerrosta 128 tokenin ikkunalla, plus opittava huomionielun harha. Xiaomi raportoi tämän leikkaavan KV-välimuistin tilankäyttöä lähes 7-kertaisesti täysin globaaliin huomioon verrattuna pitkän kontekstin laadun säilyessä — se on ero nimellisesti pitkän ikkunan ja sellaisen välillä johon sinulla on varaa. Mukana on myös kolme Multi-Token Prediction -kerrosta, jotka antavat dekooderille spekulatiivisen pään.

Koulutus käsitti 27 biljoonaa tokenia natiivilla 32K sekvenssipituudella FP8 (E4M3) -sekatarkkuudella, sitten ohjattu hienosäätö, laajamittainen agenttinen vahvistusoppiminen ja monen opettajan on-policy-tislaus. Pidä tuo FP8-yksityiskohta mielessä; se on vahvin yksittäinen perustelu tämän perustan tarjoamiselle 8 bitissä.

Xiaomi raportoi mallille 57.2 % SWE-bench Prossa, 72.9 τ3-Benchissä työkalukäytössä ja 48.0 % Humanity's Last Examissa — valmistajan omat luvut pakkaamattomasta mallista, lainattuina sellaisina.

Tarjoamme 262 144 tokenin ikkunan, emme perustan täyttä miljoonaa — konteksti jonka voimme taata nopeudella, emmekä otsikkolukua joka heikkenee kuormituksessa.

04Mitä W8A16 täsmälleen tarkoittaa

Jokainen tämän valikoiman malli kantaa kvantisointipäätettä joka kuvaa todellista, mitattavaa muunnosta eikä markkinointitasoa. Meidän päätteemme ovat 3BIT-REAP, W4A16-AUTOROUND-REAP ja W8A16. MiMo-V2.5-Pro on kolmas.

Merkintä jakautuu kahtia. W8 on painojen tarkkuus: jokainen parametri tallennetaan 8-bittisenä kokonaislukuna 16-bittisen liukuluvun sijaan, jaetulla skaalauskertoimella pientä ryhmää kohti jotta kunkin ryhmän paikallinen dynaaminen alue säilyy. A16 on aktivaatioiden tarkkuus: kerrosten välillä päättelyhetkellä virtaavat arvot pysyvät 16 bitissä. Painot pakataan; laskenta ei.

Tuo jälkimmäinen puolisko tekee hiljaista, tärkeää työtä. Aktivaatioita on paljon vaikeampi kvantisoida kuin painoja: ne sisältävät äärimmäisiä poikkeamakanavia — muutamia dimensioita joiden suuruusluokat kääpiöittävät kaiken muun ja jotka kantavat suhteettoman osan mallin käyttäytymisestä. Työnnä ne matalaan tarkkuuteen ja leikkaat pois juuri sen signaalin jota tarvitsit. Pelkkiä painoja kvantisoivat menetelmät kiertävät ongelman jättämällä aktivaatiopolun rauhaan, ja siksi vakava kvantisointityö on siihen suppeutunut.

Käytännön kysymys kaventuu siis yhteen asiaan: kuinka vähän bittejä paino kestää?

05W8A16 vs. W4A16 vs. 3-bittinen: minne häviö oikeasti menee

Laajin aiheesta julkaistu tutkimus on Neural Magicin ja Red Hatin ”Give Me BF16 or Give Me Death”? Accuracy-Performance Trade-Offs in LLM Quantization — yli 500 000 arviointia Llama-3.1-perheen yli kokoluokissa 8B, 70B ja 405B. Heidän päätuloksensa, heidän luvuillaan:

Muoto	Mitä pakataan	Raportoitu palautuma vs. BF16
W8A8-FP (8-bittinen)	Painot + aktivaatiot, liukuluku	~99,75 % keskimäärin — ”käytännössä häviötön”
W8A8-INT (8-bittinen)	Painot + aktivaatiot, kokonaisluku	99–100 % kokoluokissa 8B/70B; 98,2–99,3 % 405B:ssä
W4A16-INT (4-bittinen)	Vain painot	98–99,4 % (8B); 98,6–99,8 % (70B)

Neural Magicin / Red Hatin raportoimat luvut (arXiv:2411.02355) Llama-3.1-malleista — vaihtokaupan muoto, ei tämän mallin pistemäärä.

Rehellisesti luettuna tuo näyttää perustelulta sille ettei kannattaisi välittää: 4-bittinen palauttaa 98–99 %, joten miksi kiinnittää huomiota? Koska nuo ovat akateemisia monivalintavertailuja, lähes huonoin saatavilla oleva mittari kvantisointivaurion havaitsemiseen. Vertailukysymyksellä on yksi oikea vastaus joka on saavutettavissa yhdellä tai kahdella tokenilla, ja kvantisointivirhe on pientä, karkeasti nollakeskiarvoista kohinaa jokaisessa logitissa; lyhyessä kysymyksessä jossa marginaali on leveä, tuo kohina imeytyy.

Kirjoita nyt 4 000 tokenia teknistä dokumenttia, pidä ääni yllä 40 000 tokenin tarinan yli, tai tuota JSONia jonka on validoiduttava ensimmäisellä yrityksellä. Sama kohina näytteistetään tuhansia kertoja peräkkäin, ja jokainen näyte ehdollistaa seuraavan. Vikatila ei ole väärä vastaus — se on ajautuminen: ote ensimmäisen vuoron ohjeesta löystyy, hahmo lakkaa kuulostamasta itseltään noin tokenin 3 000 kohdalla, sulkeva aaltosulje ei koskaan saavu.

Minne bitit oikeasti menevät

Kvantisointivirhe ei jakaudu tasaisesti mallin kykyjen yli; se keskittyy häntään. Suuren massan käyttäytymiset — kieliopillinen englanti, Python-funktion muoto, maailman tuhat yleisintä faktaa — on koodattu redundantisti moniin painoihin ja ne selviävät melkein mistä tahansa. Painojakauman tarkasti viritetyt, pienen suuruusluokan nurkat pitävät sisällään harvinaisen tavaran: hämärän API:n tarkan signatuurin, tietyn kirjoittajan poljennon, kahden vierekkäisen CVE:n eron. Juuri nuo arvot karkea hila pyöristää toisikseen.

Askel 4 bitistä 3:een on se kohta jossa tämä lakkaa olemasta vero ja muuttuu jyrkänteeksi. Dettmersin ja Zettlemoyerin k-bittisen päättelyn skaalauslait totesivat 4 bitin olevan piste joka maksimoi nollaotoksisen tarkkuuden mallin muistibittiä kohti, ja että heikkeneminen hallitsee sen alapuolella. Neljä bittiä antaa 16 tasoa ryhmää kohti; kolme antaa 8. Puolitat jo valmiiksi karkean hilan resoluution, ja pyöristysvirhe painoa kohti karkeasti kaksinkertaistuu.

Laskutoimitus joka ratkaisee asian

Vertailu jonka kannattaa tehdä on laskutoimitus, ei vertailutesti. Pakkauksesta selviää suunnilleen parametrit × bittiä parametria kohti — painotiedoston informaatiota kantava tilavuus. Otetaan kaksi hypoteettista perustaa joiden laatu parametria kohti on yhtä hyvä:

• Perusta A: 400 miljardia parametria 3 bitissä → karkeasti 150 GB säilynyttä painoa.
• Perusta B: 160 miljardia parametria 8 bitissä → karkeasti 160 GB säilynyttä painoa.

Raa'alla parametrimäärällä A voittaa kaksi ja puoli yhtä vastaan — se luku jolla mallikortti avaa. Säilyneellä informaatiolla ne ovat samanarvoisia, ja B:llä on lisäksi rakenteellinen etu: sen painot ovat hilalla joka on riittävän hieno pitämään sen häntäkäyttäytymisen ehjänä, kun taas A:n häntä on kvantisoitu massaan. A tietää enemmän asioita; B tietää tietämänsä terävämmin. Pitkään generointiin, tarkkaan muotoiluun, tyylin hallintaan ja uskolliseen pitkän kontekstin noudattamiseen ota B.

Havainnollistava laskutoimitus, ei vertailutesti: se näyttää miksi ”suurempi perusta” ja ”paremmin tarjottu malli” ovat eri väitteitä.

06Miksi 27 biljoonaa koulutustokenia pahentaa aggressiivista kvantisointia

Toinen, vähemmän intuitiivinen tulos koskee suoraan tätä perustaa. Kumarin ym. ICLR 2025 -artikkeli Scaling Laws for Precision toteaa että mitä enemmän dataa mallille on koulutettu, sitä enemmän koulutuksen jälkeinen kvantisointi sitä vahingoittaa. Matala tarkkuus vähentää mallin tehollista parametrimäärää, ja tuo heikkeneminen kasvaa imetyn esikoulutusdatan myötä — niin pitkälle että ylimääräinen esikoulutusdata voi olla nettohaitallista jos aiot kvantisoida aggressiivisesti, koska lasket hienoa rakennetta jonka hila pyyhkii pois.

Malli joka on koulutettu 5 biljoonalla tokenilla on painorakenteeltaan karkea ja redundantti, ja siinä on pelivaraa. Malli joka on koulutettu 27 biljoonalla tokenilla — MiMo-V2.5-Pron budjetti — käytti tuon ylimääräisen datan kirjoittaakseen hienompia erotteluja tarkempiin painoarvoihin, mikä on juuri sitä mitä 3-bittinen hila ei kykene esittämään.

Sitten on osion 03 FP8-fakta, tämän artikkelin puhtain perustelu. MiMo-V2.5-Pro esikoulutettiin FP8-sekatarkkuudella. Sen painot muovautuivat alusta asti optimoijalla joka työskenteli karkeasti kahdeksan bitin tarkkuudella. Sen tarjoaminen 8-bittisillä painoilla ei siis ole 16-bittiselle mallille jälkikäteen pakotettu häviöllinen ratkaisu — se on lähellä painojen palauttamista siihen numeeriseen tilaan jossa ne opittiin. Kahdeksannen bitin alapuolella on vain vähän hienoa rakennetta menetettäväksi. Samaa ei voi sanoa niistä painoista jotka on pakotettu alas kolmeen.

07REAP: miksi asiantuntijoiden karsinta on eri lajin häviötä kuin pyöristäminen

Kaksi kolmesta tasosta kantaa REAP-päätettä — kategorisesti eri operaatio kuin kvantisointi. REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) on kertaluontoinen pakkausmenetelmä harvoille MoE-malleille: se pisteyttää jokaisen asiantuntijan reitittimen porttiarvoilla ja asiantuntijan aktivaationormilla, ja poistaa sitten heikoimmat. Cerebras raportoi lähes häviöttömiä tuloksia koodin generoinnissa ja työkalukutsuissa jopa 50 % asiantuntijoista karsittuna.

Käytämme REAPia siitä syystä miksi se on olemassa: suurimmilla perustoilla se on se mikä tekee niistä tarjottavia. Mutta huomaa laadullinen ero. Kvantisointi sumentaa jokaista painoa hieman; karsinta poistaa asiantuntijoita kokonaan. Jos kuormasi reitittyy voimakkaasti kyvykkyyteen joka asui harvoin valitussa asiantuntijassa — vähemmän käytetty ohjelmointikieli, erikoistunut sanasto — se ei ole heikentynyt. Se on poissa, eikä mikään kehotus palauta sitä. Keskiarvot pysyvät erinomaisina; sinun reunatapauksesi ei ehkä.

MiMo-V2.5-Pro · W8A16 ei kanna REAP-päätettä. Kaikki 384 asiantuntijaa ovat läsnä, ja reititin valitsee koko siitä joukosta jolla perusta koulutettiin.

Taso	Painobittejä	Asiantuntijat	Mistä luovut
W8A16	8	Kaikki tallella	Ei mistään rakenteellisesta. Tarkkuustaso.
W4A16-AUTOROUND-REAP	4	Karsittu	Painojen hienosta yksityiskohdasta plus vähäliikenteisistä asiantuntijoista, vastineeksi paljon suuremmasta perustasta samassa hintaluokassa.
3BIT-REAP	3	Karsittu	Merkittävästä painoresoluutiosta plus vähäliikenteisistä asiantuntijoista — hinta kaikkein suurimpien perustojen ajamisesta nopeasti.

Keskitaso ansaitsee reilun käsittelyn. AutoRound ei ole naiivia pyöristystä: Intelin menetelmä (arXiv:2309.05516) käyttää merkkiperustaista gradienttilaskeutumista noin 200 askeleen ajan virittääkseen pyöristyspäätökset ja leikkausalueen painoryhmää kohti, ja sen raportoidaan olevan lähes häviötön 4 bitissä useimmissa asetelmissa, päihittäen GPTQ:n, AWQ:n, HQQ:n ja OmniQuantin useimmissa testatuissa kokoonpanoissa. W4A16-AUTOROUND-malli on aidosti hyvä 4-bittinen malli. Se on yhä 4-bittinen malli.

08Kenen kannattaa valita 8-bittinen taso — ja kenen ei

MiMo-V2.5-Pro · W8A16 istuu koko valikoiman hintalattialla — $0.50 sisään / $2.00 ulos miljoonalta tokenilta, samassa luokassa kuin sisääntulotason 4-bittiset mallit ja karkeasti neljäsosa kalleimman tarjoamamme mallin syötehinnasta. Et maksa lisähintaa tarkkuudesta; valitset saman budjetin eri akselin.

Valitse se kun

• Tulosteen pituus on itse työ. Pitkämuotoinen tekninen kirjoittaminen, luvun mittainen fiktio, kokonaiset dokumentaatioajot — jokainen generoitu token on sellainen jossa pakkauskohina kasautuu.
• Ääni ja johdonmukaisuus merkitsevät. Hahmotyö, brändin sävy, pitkän session yli pidetty rekisteri. Tyyli asuu hännässä, ja häntä on se minkä karkea kvantisointi syö ensin.
• Rakenteisen tulosteen on validoiduttava ensimmäisellä yrityksellä. Malli tukee json_schema- ja response_format-määrittelyjä; skeeman noudattaminen on tarkkuusominaisuus, ja jokainen vältetty uudelleenyritys on säästettyä rahaa ja viivettä.
• Täytät kontekstin. Ohjeen noudattaminen tokenin 200 000 kohdalla on vaikeampaa kuin tokenin 2 000 kohdalla, ja se heikkenee painojen tarkkuuden mukana — kuten heikkenee myös pitkä päättelyjälki, jossa virheet kasautuvat samalla tavalla.
• Työ on luonteeltaan sensuroimatonta. Tietoturvatutkimus, red teaming, suodattamaton fiktio, arkaluonteinen lääketieteellinen tai juridinen analyysi — missä varovainen vastaus on huonompi kuin ei vastausta lainkaan.

Valitse jotain muuta kun

• Tarvitset näköä. Tämä malli on pelkkää tekstiä; sen sisarus MiMo-V2.5 · W8A16 on näkökykyinen samaan hintaan ja samalla tasolla.
• Tarvitset laajimman maailmantiedon lyhyisiin kyselyihin. Se on se alue jolla paljon suuremman 3-bittisen perustan ylimääräiset parametrit voittavat ja jolla sen kvantisointivaurio tuskin näkyy.
• Kuormasi on suuren volyymin lyhyttä luokittelua. Kvantisointivaurio on siinä lähes näkymätöntä — osta mikä on nopeinta.

09Sensuroimattoman MiMo-API:n kutsuminen

Jos koodisi käyttää OpenAI SDK:ta, perus-URL:n ja mallitunnuksen vaihtaminen on koko migraatio:

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiMo-V2.5-Pro-W8A16",
    "messages": [
      {"role": "user", "content": "Draft the threat model section."}
    ],
    "reasoning_effort": "high",
    "max_tokens": 16384,
    "stream": true
  }'

/v1/messages ja /v1/responses hyväksyvät saman tunnuksen ja samat kyvyt. Parametriviite, työkalukutsujen skeemat, rakenteisen tulosteen esimerkit ja live-leikkikenttä ovat Shannon AI:n API-dokumentaatiossa.

Ominaisuus	MiMo-V2.5-Pro · W8A16
Konteksti-ikkuna	262 144 tokenia
Tuloste enintään pyyntöä kohti	16 384 tokenia
Suoratoisto	Kyllä — kaikki kolme murretta
Työkalukutsut	Kyllä
Päättely / reasoning_effort	Kyllä
json_schema rakenteinen tuloste	Kyllä
response_format	Kyllä
Näkö / kuvasyöte	Ei — käytä MiMo-V2.5:tä
Kieltäytymiskerros / tulosteen suodatin	Ei mitään
Hinta miljoonalta tokenilta	$0.50 sisään / $2.00 ulos

10Usein kysytyt kysymykset

---

Lähteet: MiMon tekninen raportti, arXiv:2505.07608 · MiMo-V2.5-Pro:n mallikortti (Xiaomi) · ”Give Me BF16 or Give Me Death”?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · k-bit inference scaling laws, arXiv:2212.09720 · Scaling Laws for Precision, Kumar ym., ICLR 2025. Kaikki vertailuluvut ovat tekijöidensä raportoimia. Shannon AI on Shannon Lab LLC:n tuote, New Mexico, USA.