API-ga MiMo ee Aan La Faaruqin oo Leh Daacadnimo 8-Bit
Aasaaska MiMo ee Xiaomi ee fikirka horreysiiya, oo lagu bixiyo lakab diidmo la'aan W8A16 — oo ah heerka quantization-ka daacadnimada ugu sarraysa ee aan wadno — qiimaha sagxadda ee kataloogga.
Soo koobid
MiMo-V2.5-Pro · W8A16 waa MiMo-V2.5-Pro ee miisaannada furan ee Xiaomi oo lagu bixiyo kooxda GPU-yada u gaarka ah ee Shannon isagoo leh miisaanno 8-bit ah / firfircoonaansho 16-bit ah — oo ah heerka ugu cufid yar ee kataloogayaga laba iyo tobanka moodal ah. Context 262,144 token ah, 16,384 token oo wax-soo-saar ah codsi kasta, wicitaan qalab, fikir, wax-soo-saar qaabaysan oo JSON-schema ah, streaming saddex lahjadood oo API ah, iyo lakab diidmo ama shaandhayn wax-soo-saar midna ma jiro, $0.50 gudaha / $2.00 dibadda milyan token kasta — oo ah sagxadda kataloogga. Qoraal keliya; isticmaal MiMo-V2.5 · W8A16 sawirrada.
Kataloogyada intooda badan waxay kaa iibiyaan tirada parameter-ka. Taasi waa tirada khaldan ee lagu dukaamaysto, sababtoo ah moodal kasta oo weyn oo miisaanno furan leh oo aad dhab ahaan awoodi karto waa la cufay si uu meel ugu qalmo. Su'aasha daacadda ahi ma aha "intee buu weynaa ka hor inta aan la tuujin?" laakiin waa "inteed ka mid ah ayaa wali halkan jirta?" Maqaalkani wuxuu ku saabsan yahay su'aashaas, iyo moodalka safkayaga ku jira ee jawaabtu tahay ku dhawaad dhammaantiis.
01Waxa API-ga MiMo ee aan la faaruqin dhab ahaan kuu keenayo
API-ga MiMo ee aan la faaruqin waa hal aqoonsi moodal, MiMo-V2.5-Pro-W8A16, oo laga gaadhi karo saddex lahjadood oo gaadha isla miisaannada kooxdeenna GPU-yada u gaarka ah: /v1/chat/completions, /v1/messages iyo /v1/responses. Saddexduba way stream sameeyaan waxayna taageeraan wicitaanka qalabka iyo fikirka.
Aan la faaruqin macne cidhiidhi ah ayuu halkan leeyahay: lakab diidmo oo moodalka hor fadhiya ma jiro, shaandho wax-soo-saarkiisana ma jirto. Ma qabanno, ma kala soocno, mana dib u qorno. Waxaad hesha dhaqanka aasaaska lafteeda — taasoo moodal miisaanno furan oo heer cilmi-baaris ah macnaheedu yahay inuu la macaamilo cilmi-baarista amniga, sheeko qaangaadh ah ama rabshad leh, fikirka caafimaadka iyo sharciga, iyo codsiyada ay dhammaadyada ganacsi ee la martigeliyo caado ahaan diidaan. Waa qalab xirfadeed oo hoos yimaada Siyaasaddayada Isticmaalka Mas'uulka ah, ee ma aha maqnaanshaha xeerar.
02Xididka MiMo: sharadka Xiaomi ee tababbarka-hore ee fikirka horreysiiya
MiMo ma aha soo-jeedin Llama ah oo magac cusub leh; waa xidid gaar ah oo ka yimid kooxda MiMo ee Xiaomi, fikraddiisa aasaasiguna waa muhiim ka hor inta aadan moodalka qiimayn. Wuxuu ku furmaa MiMo-7B (30 Abriil 2025, shati MIT ah), oo warbixintiisa farsamadu ay ku doodayso in shaybaarrada intooda badan ay fikirka u arkaan dhibaato tababbarka kadib oo lagu dhejiyo RL, iyo in taasi ay gadaal tahay. Xiaomi waxay halkii dib u habaysay tababbarka-hore: isku-dar saddex marxaladood ah oo 25 tirilyan token ah, marxaladda labaad oo wadda qiyaastii 70% xisaab iyo koodh, marxaladda saddexaadna oo ku laabaysa raadad fikir macmal ah iyadoo context-ka laga fidinayo 8K ilaa 32K — oo lagu daray ujeeddo Multi-Token Prediction ah oo sidoo kale ah madax koodh-furid saadaal ah.
Natiijadu waxay ahayd moodal aasaasi ah oo 7B ah oo u dhaqmay sidii mid aad uga weyn. MiMo-7B-Base wuxuu dhibcaystay 32.9 AIME 2024 halka Qwen2.5-7B uu dhibcaystay 10.1, Gemma-2-9B 0.0 iyo Llama-3.1-8B 0.3. Tababbarka kadib wuxuu markaas ku waday RL 130,000 dhibaatooyin xisaab iyo koodh oo la xaqiijin karo oo leh abaal-marin koodh oo adkaanta tijaabada ku salaysan, isagoo ka baxsanaya dabinka abaal-marinta firdhisan ee degganaansho-diida RL koodhka. Natiijadu waxay ka horraysay o1-mini:
AIME 2025, tirooyin Xiaomi ka soo sheegtay warbixinta farsamada ee MiMo (arXiv:2505.07608). MiMo-7B-RL wuxuu sidoo kale soo sheegay 95.8 MATH-500 iyo 57.8 LiveCodeBench v5.
Qoysku wuu ballaadhay halkii uu ka leexan lahaa: MiMo-VL-7B (Juun 2025) wuxuu koodhbixiye Qwen2.5-ViT ah ku saaray isla laf-dhabarka, Diseembar 2025-na waxay keentay MiMo-Audio-7B iyo gelitaankii ugu horreeyay ee MoE, MiMo-V2-Flash (309B guud / 15B firfircoon, 27T token, saxnaan isku dhafan oo FP8 ah). MiMo-V2-Pro wuxuu ku xigay Maarso 2026 isagoo qiyaastii 1T / 42B firfircoon oo leh context 1M ah, ka dib toddobaadyo uu OpenRouter ku joogay isagoo la yidhaahdo "Hunter Alpha". MiMo-V2.5 iyo MiMo-V2.5-Pro waxay wadajir u soo baxeen 22 Abriil 2026, labaduba MIT.
03MiMo-V2.5-Pro gudihiisa: sida aasaasku u eg yahay
Sida kaadhka moodalka ee Xiaomi daabacday, MiMo-V2.5-Pro waa moodal Mixture-of-Experts firdhisan oo leh 1.02 tirilyan parameter guud iyo 42 bilyan oo firfircoon token kasta oo 70 lakab dhex maraya — mid cufan, 69 MoE — iyo 384 khabiir oo la marinayo, 8 token kasta. Cabbirka qarsoonu waa 6144, oo leh cabbir dhexdhexaad MoE ah oo cidhiidhi ah oo 2048 ah.
Laba doorasho ayaa qaabeeya sida uu isticmaalka ku dareemayo. Taxanaha fiirsashadu waa mid isku dhafan: 10 lakab oo fiirsasho buuxda ah iyo 60 lakab oo daaqad shiraaqsan leh oo daaqaddoodu tahay 128, oo lagu daray eexad ceel-fiirsasho oo la barto. Xiaomi waxay soo sheegaysaa in tani ay kaydka KV hoos ugu dhigto ku dhawaad 7x marka loo eego fiirsasho guud oo dhan iyadoo la haynayo tayada context-ka dheer — oo ah faraqa u dhexeeya daaqad magac ahaan dheer iyo mid aad awoodi karto inaad buuxiso. Wuxuu sidoo kale la yimaadaa saddex lakab oo Multi-Token Prediction ah, oo koodh-furaha siinaya madax saadaal ah.
Tababbarku wuxuu ahaa 27 tirilyan token oo dhererka isku xigxiga dabiiciga ahi yahay 32K oo leh saxnaan isku dhafan oo FP8 (E4M3) ah, ka dibna hagaajin la kormeeray, RL wakiilnimo oo cabbir weyn leh iyo dheehid macallin-badan oo siyaasad ku salaysan. Xanaanee faahfaahinta FP8-da; waa dooddii keliya ee ugu xoogga badan ee lagu bixinayo aasaaskan 8 bit.
Xiaomi waxay moodalka ka soo sheegaysaa 57.2% SWE-bench Pro, 72.9 τ3-Bench isticmaalka qalabka iyo 48.0% Humanity's Last Exam — tirooyinka bixiyaha lafteeda ee moodalka aan la cufin, oo sidaas loo soo xigtay.
Waxaan bixinnaa daaqad 262,144 token ah, ma aha 1M-ka buuxa ee aasaaska — context aan dammaanad ka qaadi karno xawaare, halkii uu ka ahaan lahaa tiro cinwaan ah oo hoos u dhacda culayska hoostiisa.
04Waxa W8A16 ka dhigan tahay, si sax ah
Moodal kasta oo kataloogkan ku jira wuxuu sitaa lifaaq quantization ah oo qeexaya isbeddel dhab ah oo la cabbiri karo halkii uu qeexi lahaa heer suuq-geyn. Kuweenna waa 3BIT-REAP, W4A16-AUTOROUND-REAP iyo W8A16. MiMo-V2.5-Pro waa kan saddexaad.
Calaamaddu waxay laba u kala baxdaa. W8 waa saxnaanta miisaanka: parameter kasta waxaa lagu kaydiyaa tiro 8-bit ah halkii lagu kaydin lahaa sabbaynta 16-bit ah, oo leh cabbir la wadaago koox kasta oo yar si xadka firfircoon ee maxalliga ah ee koox kasta uu u badbaado. A16 waa saxnaanta firfircoonaanshaha: qiimayaasha u socda lakabbada dhexdooda waqtiga fikirka waxay ku sii jiraan 16 bit. Miisaannada waa la cufaa; xisaabta lama cufo.
Qaybtaas labaad shaqo aamusan oo muhiim ah ayay qabataa. Firfircoonaanshaha aad ayaa looga quantize gareyn karaa miisaannada: waxay ku jiraan kanaallo aad u fog oo daran — dhowr cabbir oo baaxaddoodu ka weyn tahay wax kasta oo kale oo sida qayb aan u dhigmayn dhaqanka moodalka. U riix kuwaas saxnaan hoose waxaad si sax ah u gooynaysaa calaamadda aad u baahnayd. Qorshayaasha miisaan-kaliya ah waxay dhibaatada ka leexdaan iyagoo ka tagaya waddada firfircoonaanshaha, taasoo ah sababta shaqada quantization-ka ee dhabta ahi ay ugu wada laabatay.
Sidaas darteed su'aasha wax-ku-oolka ahi waxay hal shay ku cidhiidhisantaa: immisa bit oo yar ayuu miisaan u dulqaadan karaa?
05W8A16 iyo W4A16 iyo 3-bit: halka khasaaruhu dhab ahaan tago
Daraasadda ugu weyn ee arrintan lagu daabacay waa "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization oo ay sameeyeen Neural Magic iyo Red Hat — in ka badan 500,000 qiimayn oo lagu sameeyay qoyska Llama-3.1 ee 8B, 70B iyo 405B. Natiijadooda cinwaanka, tirooyinkooda:
| Qaab | Waxa la cufay | Soo-celinta la soo sheegay ee BF16 |
|---|---|---|
| W8A8-FP (8-bit) | Miisaanno + firfircoonaansho, sabbayn | ~99.75% celcelis — "asal ahaan waxba ma luminayo" |
| W8A8-INT (8-bit) | Miisaanno + firfircoonaansho, tiro | 99–100% 8B/70B; 98.2–99.3% 405B |
| W4A16-INT (4-bit) | Miisaanno keliya | 98–99.4% (8B); 98.6–99.8% (70B) |
Tirooyin ay ka soo sheegeen Neural Magic / Red Hat (arXiv:2411.02355) moodallada Llama-3.1 — waa qaabka ganacsiga, ee ma aha dhibcaha moodalkan.
Si daacad ah marka la akhriyo, taasi waxay u eg tahay dood ka soo horjeedda in la daneeyo: 4-bit wuxuu soo celiyaa 98–99%, ee maxaad u fiirsanaysaa? Sababtoo ah kuwaasi waa cabbir-tijaabooyin tacliimeed oo doorasho-badan ah, oo u dhow qalabka ugu xun ee la heli karo ee lagu ogaanayo dhaawaca quantization-ka. Su'aal cabbir-tijaabo waxay leedahay hal jawaab oo sax ah oo laga gaadhi karo hal ama laba token, qaladka quantization-kuna waa mid yar, oo qiyaastii celcelis-eber ah oo logit kasta dul saaran; su'aal gaaban oo faraq ballaadhan leh, buuqaas waa la nuugaa.
Hadda qor 4,000 token oo dukumenti farsamo ah, ku hay cod sheeko 40,000 token ah, ama soo saar JSON ay tahay inuu markii hore xaqiijmo. Isla buuqa ayaa kumanaan jeer si isku xigta loo muunaynayaa, muunad kastaana waxay shuruud u tahay midda xigta. Qaabka guuldarradu ma aha jawaab qaldan — waa dhaqdhaqaaq: qabsashada amarka oo si tartiib ah u debcaysa laga bilaabo marka kowaad, jilaa joojiya inuu isaga oo kale u eg yahay agagaarka token 3,000, xidhitaan aan waligiis imanayn.
Halka bit-yadu dhab ahaan tagaan
Qaladka quantization-ku si siman uma kala firidhsana awoodaha moodalka; wuxuu ku ururaa dabada. Dhaqannada baaxadda badan — Ingiriisi naxwe ah, qaabka shaqada Python, kunka xaqiiqo ee ugu sarreeya ee dunida — waxaa loo koodhay si isku celcelis ah miisaanno badan waxayna ka badbaadaan ku dhawaad wax kasta. Geesaha si sax ah loo habeeyay ee baaxadda yar ee qaybinta miisaanku waxay hayaan waxyaalaha dhifka ah: saxeexa saxda ah ee API aan la garanayn, dhawaaqa qoraa gaar ah, faraqa u dhexeeya laba CVE oo isku xiga. Kuwaasi waa qiimayaasha uu shabag qallafsan isku dhex wareejiyo.
Tallaabada laga gudbayo 4 bit ilaa 3 waa halka tani ay ka joojinayso inay canshuur tahay ay noqotana jiif. Sharciyada cabbirka fikirka bit-k ee Dettmers iyo Zettlemoyer waxay heleen in 4-bit uu yahay dhibicda ugu badbadinaysa saxnaanta eber-mar ee bit kasta oo xusuusta moodalka ah, iyadoo hoos-u-dhacu uu ku badbado wixii ka hooseeya. Afar bit waxay bixiyaan 16 heer koox kasta; saddexna waxay bixiyaan 8. Waxaad kala barbar dhigaysaa xallinta shabag horeba u qallafsan, qaladka wareejinta miisaan kastana wuxuu qiyaastii labanlaabmayaa.
Xisaabta go'aaminaysa
Isbarbardhigga mudan in la sameeyo waa xisaab, ma aha cabbir-tijaabo. Waxa cufidda ka badbaadaa waa qiyaastii parameter-rada × bit-yada parameter kasta — mugga macluumaad-sida ee faylka miisaanka. Qaado laba aasaas oo malaha ah oo tayo parameter-kasta ahaan siman:
- Aasaaska A: 400B parameter oo 3 bit ah → qiyaastii 150 GB oo miisaan la hayay.
- Aasaaska B: 160B parameter oo 8 bit ah → qiyaastii 160 GB oo miisaan la hayay.
Tirada parameter-ka ceyriinka ah A wuxuu ku guulaysanayaa laba iyo bar ilaa hal — oo ah tirada kaadhka moodalku uu ku horreeyo. Macluumaadka la hayay way siman yihiin, B-na wuxuu sidoo kale leeyahay faa'iido qaab-dhismeed: miisaannadiisu waxay ku fadhiyaan shabag khafiif ku filan oo dhaqankiisa dabadu taagan yahay, halka dabada A la quantize gareeyay oo baaxaddii lagu daray. A wax badan buu og yahay; B wuxuu si ka fiiqan u yaqaan waxa uu yaqaan. Soo-saarid dheer, qaabayn sax ah, xakameynta qaabka iyo raacitaan daacad ah oo context dheer, qaado B.
Xisaab tusaale ah, ma aha cabbir-tijaabo: waxay muujinaysaa sababta "aasaas ka weyn" iyo "moodal si ka fiican loo bixiyo" ay u yihiin sheegashooyin kala duwan.
06Sababta 27 tirilyan token oo tababbar ah ay quantization-ka xooggan uga sii dhigaan mid xun
Natiijo labaad, oo aan si fudud loo maleyn karin, ayaa si toos ah aasaaskan ugu saameysa. Warqadda ICLR 2025 ee Kumar iyo kuwa kale ee Scaling Laws for Precision waxay heshay in inta xogtu ka badan tahay ee moodalka lagu tababbaray, ay quantization-ka tababbarka kadib dhaawac ka badan u geysanayo. Saxnaanta hooseysa waxay hoos u dhigtaa tirada parameter-ka waxtarka leh ee moodalka, hoos-u-dhacaasina wuxuu la kordhaa xogta tababbarka-hore ee la nuugay — ilaa uu ka gaadho in xog tababbar-hore oo dheeraad ah ay waxyeello noqon karto haddii aad qorsheynayso inaad si xoog leh u quantize gareyso, sababtoo ah waxaad dhigaysaa qaab-dhismeed khafiif ah oo shabaggu tirtiri doono.
Moodal lagu tababbaray 5T token wuxuu leeyahay qaab-dhismeed miisaan oo qallafsan, isku celcelis ah, oo dabacsanaan haysta. Moodal lagu tababbaray 27T token — oo ah miisaaniyadda MiMo-V2.5-Pro — wuxuu xogtaas dheeraadka ah ku bixiyay qorista kala-soocid khafiif ah oo lagu geliyo qiimayaal miisaan oo ka sax badan, taasoo ah si sax ah waxa shabaggu 3-bit ahi uusan matali karin.
Ka dibna waxaa jira xaqiiqada FP8 ee qaybta 03, oo ah dooddii ugu nadiifsanayd maqaalkan. MiMo-V2.5-Pro waxaa hore loogu tababbaray saxnaan isku dhafan oo FP8 ah. Miisaannadiisa waxaa bilowga laga qaabeeyay hagaajiye ku shaqaynayay qiyaastii siddeed bit oo saxnaan ah. Sidaas darteed bixintiisa miisaanno 8-bit ah ma aha fikrad dambe oo lumin leh oo lagu soo rogay moodal 16-bit ah — waxay ku dhow tahay in miisaannada dib loogu celiyo xeerka tirada ee lagu bartay. Qaab-dhismeed khafiif ah oo hoos yimaada bitka siddeedaad oo la lumiyo wax badan ma jiro. Isla waxaas lagama sheegi karo miisaannadaas oo hoos loogu riixay saddex.
07REAP: sababta jaridda khubaradu ay tahay nooc khasaare oo ka duwan wareejinta
Laba ka mid ah saddexda heer waxay sitaan lifaaq REAP ah — oo ah hawl nooc ahaan ka duwan quantization-ka. REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) waa cufid hal-mar ah oo moodallada MoE firdhisan: waxay khabiir kasta ku dhibcaysaa qiimayaasha albaabka router-ka iyo cabbirka firfircoonaanshaha khabiirka, ka dibna waxay tirtirtaa kuwa dhibcaha ugu hooseeya. Cerebras waxay ka soo sheegaysaa natiijooyin ku dhow waxba-lumin-la'aan soo-saarista koodhka iyo wicitaanka qalabka xitaa 50% khubarada oo la jaray.
Waxaan REAP u isticmaalnaa sababta uu u jiro: aasaasyada ugu waaweyn waa waxa ka dhigaya kuwo la bixin karo. Laakiin ogow faraqa nooca. Quantization-ku wuxuu qariyaa miisaan kasta wax yar; jariddu waxay khubarada gebi ahaanba ka saartaa. Haddii shaqadaadu si xoog leh ugu marisid awood ku noolayd khabiir dhif loo doorto — luqad barnaamij oo yar, erayo takhasus ah — hoos looma dhigin. Way tagtay, prompt-na ma soo celin karo. Celcelisyadu way sii fiicnaanayaan; kiiskaaga dabada laakiin waa laga yaabaa inuusan fiicnaan.
MiMo-V2.5-Pro · W8A16 ma sido lifaaq REAP ah. Dhammaan 384-ka khabiir way joogaan, router-kuna wuxuu ka doortaa kooxda buuxda ee aasaaska lagu tababbaray.
| Heer | Bit-yada miisaanka | Khubaro | Waxa aad ku beddelaysid |
|---|---|---|---|
| W8A16 | 8 | Dhammaan way joogaan | Waxba qaab-dhismeed ah ma jiraan. Heerka daacadnimada. |
| W4A16-AUTOROUND-REAP | 4 | La jaray | Faahfaahin miisaan oo khafiif ah oo lagu daray khubaro taraafiko-hooseeya, oo lagu beddelayo aasaas aad uga weyn oo isla xarigga qiimaha ah. |
| 3BIT-REAP | 3 | La jaray | Xallin miisaan oo weyn oo lagu daray khubaro taraafiko-hooseeya — oo ah qiimaha lagu wado aasaasyada ugu waaweyn xawaare. |
Heerka dhexe wuxuu mudan yahay dhegaysi caddaalad ah. AutoRound ma aha wareejin fudud: habka Intel (arXiv:2309.05516) wuxuu isticmaalaa hoos-u-dhaca miilka calaamadaysan qiyaastii 200 tallaabo si uu u habeeyo go'aannada wareejinta iyo xadka goynta koox miisaan kasta, waxaana laga soo sheegay inuu ku dhow yahay waxba-lumin-la'aan 4 bit goobaha intooda badan, isagoo ka adkaanaya GPTQ, AWQ, HQQ iyo OmniQuant habaynta la tijaabiyay intooda badan. Moodal W4A16-AUTOROUND ah waa dhab ahaan moodal 4-bit ah oo wanaagsan. Wali waa moodal 4-bit ah.
08Yaa dooranaya heerka 8-bit — yaana aan dooran karin
MiMo-V2.5-Pro · W8A16 wuxuu ku fadhiyaa qiimaha sagxadda ee kataloogga oo dhan — $0.50 gudaha / $2.00 dibadda milyan token kasta, oo ah isla xariggii moodallada 4-bit ee heerka gelinta iyo qiyaastii rubuc qiimaha gelinta ee moodalka ugu qaalisan ee aan bixinno. Heersare kuma bixinaysid daacadnimo; waxaad doorranaysaa dhidib kale oo isla miisaaniyadda ah.
Dooro marka
- Dhererka wax-soo-saarku waa shaqada. Qoraal farsamo oo qaab dheer ah, sheeko cutub dherer leh, marin dukumenti buuxa — token kasta oo la soo saaro waa mid buuqa cufiddu uu ku sii ururo.
- Codka iyo isku-ekaanshuhu waa muhiim. Shaqada jilaaga, codka summadda, qaab lagu hayo fadhi dheer. Qaabku wuxuu ku nool yahay dabada, dabaduna waa waxa quantization-ka qallafsani marka hore cuno.
- Wax-soo-saarka qaabaysan waa inuu markii hore xaqiijmo. Moodalku wuxuu taageeraa
json_schemaiyoresponse_format; u hoggaansanaanta schema-du waa sifo saxnaan ah, isku-day kasta oo laga fogaado waa lacag iyo daahitaan la badbaadiyay. - Context-ka ayaad buuxinaysaa. Raacitaanka amarka token 200,000 waa ka adag yahay token 2,000, wuxuuna hoos ula dhacaa saxnaanta miisaanka — sida uu u dhaco raad fikir oo dheerna, halkaas oo qaladaadku isla si u kordhaan.
- Shaqadu dabeecad ahaan waa mid aan la faaruqin. Cilmi-baarista amniga, red-teaming, sheeko aan la shaandhayn, falanqayn caafimaad ama sharci oo xasaasi ah — halka jawaab celcelis ah ay ka xun tahay mid la'aan.
Wax kale dooro marka
- Waxaad u baahan tahay sawir-akhris. Moodalkani waa qoraal keliya; walaalkiis MiMo-V2.5 · W8A16 wuxuu sawir-akhris ku leeyahay isla qiimaha iyo isla heerka.
- Waxaad u baahan tahay aqoonta adduunka ee ugu ballaadhan su'aalo gaagaaban. Kaasi waa xeerka ay parameter-rada dheeraadka ah ee aasaas 3-bit ah oo aad uga weyn ay ku guulaystaan dhaawaca quantization-kiisuna uu si dirqi ah u muuqdo.
- Shaqadaadu waa kala-soocid gaaban oo mug badan. Dhaawaca quantization-ku halkaas ku dhawaad ma muuqdo — iibso wixii ugu dhaqso badan.
09Sida loo waco API-ga MiMo ee aan la faaruqin
Haddii koodhkaagu bartilmaameed ka dhigo SDK-ga OpenAI, beddelidda base URL iyo aqoonsiga moodalku waa guuritaanka oo dhan:
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MiMo-V2.5-Pro-W8A16",
"messages": [
{"role": "user", "content": "Draft the threat model section."}
],
"reasoning_effort": "high",
"max_tokens": 16384,
"stream": true
}'
/v1/messages iyo /v1/responses waxay aqbalaan isla aqoonsiga iyo awoodaha. Tixraaca parameter-ka, schema-yada wicitaanka qalabka, tusaalayaasha wax-soo-saarka qaabaysan iyo goob ciyaareed toos ah waxay ku jiraan dukumentiga API-ga Shannon AI.
| Awood | MiMo-V2.5-Pro · W8A16 |
|---|---|
| Daaqadda context-ka | 262,144 token |
| Wax-soo-saarka ugu badan codsi kasta | 16,384 token |
| Streaming | Haa — saddexda lahjadood oo dhan |
| Wicitaanka qalabka | Haa |
Fikir / reasoning_effort | Haa |
Wax-soo-saar qaabaysan oo json_schema ah | Haa |
response_format | Haa |
| Sawir-akhris / gelinta sawirka | Maya — isticmaal MiMo-V2.5 |
| Lakab diidmo / shaandho wax-soo-saar | Ma jiro |
| Qiimaha 1M token kasta | $0.50 gudaha / $2.00 dibadda |
Tiro kasta oo dibadda ah oo halkan ku jirta waxaa daabacay qof aan annaga ahayn qoraalkana waa lagu tilmaamay. Natiijooyinka soo-celinta quantization-ku waxay ka yimaadeen daraasado qoyska Llama ah: waxay sharraxayaan qaabka ganacsiga, ee ma aha dhibcaha moodalkan.
10Su'aalaha inta badan la iswaydiiyo
Waa maxay API-ga MiMo ee aan la faaruqin?
Waa dhammaadka Shannon AI ee MiMo-V2.5-Pro, oo ah moodalka Mixture-of-Experts ee miisaannada furan ee Xiaomi, oo lagu bixiyo kooxdeenna GPU-yada u gaarka ah isagoo aan lahayn lakab diidmo iyo shaandhayn wax-soo-saar midna. Waxaa laga gaadhi karaa /v1/chat/completions, /v1/messages iyo /v1/responses, isagoo leh context 262,144 token ah iyo 16,384 token oo wax-soo-saar ah codsi kasta.
Maxay W8A16 ka dhigan tahay, muxuuna muhiim u yahay?
W8A16 macnaheedu waa in miisaannada lagu kaydiyo 8 bit mid kasta halka firfircoonaanshaha lagu xisaabiyo 16 bit. Waa heerka quantization-ka daacadnimada ugu sarraysa ee kataloogayaga. Daraasadaha la daabacay waxay ogaadeen in qaababka miisaan-kaliya ee 8-bit ay dib u soo celiyaan asal ahaan dhammaan saxnaanta moodalka asalka ah, halka 4-bit uu ku beddelo daacadnimo yar xusuusta 3-bit-na uu ku beddelo qadar weyn.
Moodal ka yar oo 8-bit ah ma ka adkaan karaa moodal ka weyn oo 3-bit ah?
Inta badan, haa. Waxa cufidda ka badbaadaa waa qiyaastii tirada parameter-ka oo lagu dhufto bit-yada parameter kasta, qaladka quantization-kuna wuxuu ku ururaa dhaqan dhif ah oo dabo ah. Moodal 8 bit lagu hayo wuxuu haystaa isku xidhnaantiisa qaabka dheer, qaabaynta saxda ah iyo aqoonta dabada; moodal ka weyn oo 3 bit lagu tuujiyay wuxuu haystaa dhibcihiisa cabbir-tijaabada ballaadhan laakiin wuu lumiyaa sifooyinkaas.
MiMo-V2.5-Pro ma taageeraa sawir-akhriska ama gelinta sawirka?
Maya. MiMo-V2.5-Pro ee Shannon AI waa qoraal keliya. Wuxuu taageeraa wicitaan qalab, fikir leh reasoning_effort, wax-soo-saar qaabaysan oo JSON-schema ah iyo response_format. Haddii aad u baahan tahay gelin sawir, isticmaal moodalka walaalka ah ee MiMo-V2.5 W8A16, kaasoo sawir-akhris ku leh isla qiimaha.
Intee ayuu ku kacayaa API-ga MiMo ee aan la faaruqin?
$0.50 milyan token oo gelin ah iyo $2.00 milyan token oo wax-soo-saar ah. Kaasi waa qiimaha sagxadda ee kataloogga Shannon AI, taasoo ka dhigaysa MiMo-V2.5-Pro habka ugu jaban ee lagu iibsanayo daacadnimada 8-bit albaabkan.
Isku day API-ga MiMo ee aan la faaruqin
Daacadnimo siddeed-bit ah, context 262K, lakab diidmo ma jiro — qiimaha sagxadda ee kataloogga.
Akhri Dukumentiga API-ga Fiiri Dhammaan MoodalladaWaxaa lagu maamulaa Siyaasadda Isticmaalka Mas'uulka ah ee Shannon AI
Ilaha: Warbixinta farsamada MiMo, arXiv:2505.07608 · Kaadhka moodalka MiMo-V2.5-Pro (Xiaomi) · "Give Me BF16 or Give Me Death"?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · Sharciyada cabbirka fikirka bit-k, arXiv:2212.09720 · Scaling Laws for Precision, Kumar iyo kuwa kale, ICLR 2025. Dhammaan tirooyinka cabbir-tijaabada waa sida ay qorayaashoodu u soo sheegeen. Shannon AI waa alaab ay leedahay Shannon Lab LLC, New Mexico, Mareykanka.