API MiMo Gun Chaisgireachd aig Dìlseachd 8-Bit
Bunait MiMo aig Xiaomi, air a togail air reusanachadh an toiseach, air fhrithealadh gun sreath diùltaidh aig W8A16 — an ìre cuantachaidh as àirde dìlseachd a bhios sinn a' ruith — aig prìs làr a' chatalog.
Geàrr-chunntas
'S e MiMo-V2.5-Pro · W8A16 MiMo-V2.5-Pro aig Xiaomi le cuideaman fosgailte, air fhrithealadh air a' chruinneachadh GPU aig Shannon fhèin aig cuideaman 8-bit / gnìomhachaidhean 16-bit — an ìre as lugha teannachadh sa chatalog dhà-dheug-mhodail againn. Co-theacsa 262,144-token, 16,384 token toraidh gach iarrtas, gairm-inneal, reusanachadh, toradh structarach sgeama-JSON, sruthadh air trì dualchainntean API, agus gun sreath diùltaidh no sìoladh toraidh, aig $0.50 a-steach / $2.00 a-mach gach millean token — làr a' chatalog. Teacsa a-mhàin; cleachd MiMo-V2.5 · W8A16 airson dealbhan.
Bidh a' mhòr-chuid de chatalogan a' reic àireamh phàramadairean riut. 'S e an àireamh cheàrr a tha sin airson bhùthaireachd, oir chaidh gach modail mòr le cuideaman fosgailte as urrainn dhut a phàigheadh dha-rìribh a theannachadh gus freagairt an àiteigin. Chan e a' cheist onarach "dè cho mòr 's a bha seo mus deach a bhrùthadh?" ach "dè uimhir dheth a tha fhathast an seo?" Tha an artaigil seo mun cheist sin, agus mun mhodail san loidhne againn far a bheil am freagairt cha mhòr a h-uile càil dheth.
01Dè gheibh thu dha-rìribh leis an API MiMo gun chaisgireachd
'S e aon aithne-mhodail a th' anns an API MiMo gun chaisgireachd, MiMo-V2.5-Pro-W8A16, ruigsinneach tro thrì dualchainntean a ruigeas na h-aon chuideaman air a' chruinneachadh GPU againn fhìn: /v1/chat/completions, /v1/messages agus /v1/responses. Bidh na trì uile a' sruthadh agus a' toirt taic do ghairm-inneal is reusanachadh.
Tha ciall chumhang aig gun chaisgireachd an seo: gun sreath diùltaidh air beulaibh a' mhodail, gun sìoladh air an toradh aige. Cha bhith sinn a' glacadh, a' seòrsachadh no ag ath-sgrìobhadh. Gheibh thu giùlan a' bhunait fhèin — a tha, airson modail le cuideaman fosgailte aig ìre rannsachaidh, a' ciallachadh gun gabh e ri rannsachadh tèarainteachd, ficsean inbheach no fòirneartach, reusanachadh meidigeach is laghail, agus na h-iarrtasan a dhiùltas oir-phuingean malairteach air fhrithealadh gu fèin-ghluasadach. 'S e inneal proifeiseanta a th' ann fon Phoileasaidh Cleachdaidh Cunntachail againn, chan e dìth riaghailtean.
02Sinnsireachd MiMo: geall Xiaomi air ro-thrèanadh reusanachaidh an toiseach
Chan e stòr Llama le ainm ùr a th' ann am MiMo; 's e sinnsireachd air leth aig sgioba MiMo Xiaomi a th' ann, agus tha a bheachd bunaiteach cudromach mus dèan thu measadh air a' mhodail. Fosglaidh e le MiMo-7B (30 Giblean 2025, fo cheadachas MIT), aig a bheil an aithisg theignigeach ag argamaid gu bheil a' mhòr-chuid de dh'obair-lannan a' làimhseachadh reusanachadh mar dhuilgheadas iar-thrèanaidh ri cheangal air le RL, agus gu bheil sin an ceann-a-mach. Ath-structaraich Xiaomi ro-thrèanadh na àite: measgachadh trì-cheum thairis air 25 trillean token, an dàrna ceum a' ruith timcheall air 70% matamataig is còd, an treas ceum a' pasgadh a-steach lorgan reusanachaidh synteataig fhad 's a leudaicheas co-theacsa o 8K gu 32K — a bharrachd air amas Multi-Token Prediction a bhios cuideachd na cheann speculative-decoding.
B' e bun-mhodail 7B a bha a' giùlan mar rudeigin fada nas motha an toradh. Sgòr MiMo-7B-Base 32.9 air AIME 2024 far an do sgòr Qwen2.5-7B 10.1, Gemma-2-9B 0.0 agus Llama-3.1-8B 0.3. Ruith an t-iar-thrèanadh an uairsin RL thairis air 130,000 duilgheadas matamataig is còd a ghabhas dearbhadh le duais còd stèidhichte air duilgheadas na deuchainn, a' seachnadh ribe an duais-ghann a mhilleas RL còd. Chaidh an toradh air thoiseach air o1-mini:
AIME 2025, àireamhan air an aithris le Xiaomi bhon aithisg theignigeach MiMo (arXiv:2505.07608). Dh'aithris MiMo-7B-RL cuideachd 95.8 air MATH-500 agus 57.8 air LiveCodeBench v5.
Leudaich an teaghlach seach a bhith air seachran: chuir MiMo-VL-7B (An t-Ògmhios 2025) encoder Qwen2.5-ViT air an aon chnàimh-droma, agus san Dùbhlachd 2025 thàinig MiMo-Audio-7B a bharrachd air a' chiad chur-a-steach MoE, MiMo-V2-Flash (309B uile-gu-lèir / 15B gnìomhach, 27T token, mionaideachd measgaichte FP8). Lean MiMo-V2-Pro sa Mhàrt 2026 aig timcheall air 1T / 42B gnìomhach le co-theacsa 1M, an dèidh seachdainean air OpenRouter mar "Hunter Alpha". Chaidh MiMo-V2.5 agus MiMo-V2.5-Pro a chur a-mach còmhla air 22 Giblean 2026, an dà chuid fo MIT.
03Am broinn MiMo-V2.5-Pro: dè a tha coltas a' bhunait
A rèir cairt-mhodail fhoillsichte Xiaomi, 's e modail Mixture-of-Experts fànaisdeach a th' ann am MiMo-V2.5-Pro le 1.02 trillean paramadair uile-gu-lèir agus 42 billean gnìomhach gach token thairis air 70 sreath — aon dùmhail, 69 MoE — agus 384 eòlaiche stiùirichte, 8 gach token. 'S e 6144 am meud falaichte, le meud eadar-mheadhanach MoE caol de 2048.
Bidh dà cho-dhùnadh a' cumadh mar a dh'fhaireas e ann an cleachdadh. Tha a' chruach aire measgaichte: 10 sreath làn-aire agus 60 sreath uinneag-shleamhnachaidh le uinneag de 128, a bharrachd air claonadh attention-sink so-ionnsaichte. Bidh Xiaomi ag aithris gu bheil seo a' gearradh stòradh tasgadan-KV faisg air 7x an aghaidh làn-aire cho-fharsaing fhad 's a chumas e càileachd co-theacsa fhada — an diofar eadar uinneag a tha fada a-mhàin ann an ainm agus fear as urrainn dhut a lìonadh. Bidh e cuideachd a' cur a-mach trì sreathan Multi-Token Prediction, a' toirt ceann speculative don dì-chòdaiche.
B' e 27 trillean token aig fad sreatha dùthchasach 32K a bha san trèanadh, ann am mionaideachd measgaichte FP8 (E4M3), an uairsin fìneadh fo-stiùirichte, RL àidseantach aig sgèile mhòr agus driogadh air-poileasaidh ioma-tidsear. Cum grèim air a' mhion-fhiosrachadh FP8 sin; sin an argamaid singilte as làidire airson am bunait seo a fhrithealadh aig 8 bit.
Bidh Xiaomi ag aithris am modail aig 57.2% air SWE-bench Pro, 72.9 air τ3-Bench airson cleachdadh-inneil agus 48.0% air Humanity's Last Exam — àireamhan an solaraiche fhèin air a' mhodail neo-theannaichte, air an luaidh mar sin.
Bidh sinn a' frithealadh uinneag 262,144-token, chan e làn 1M a' bhunait — co-theacsa as urrainn dhuinn a bharantachadh aig astar, seach àireamh cheann-naidheachd a chrìonas fo luchd.
04Dè tha W8A16 a' ciallachadh, gu mionaideach
Bidh gach modail sa chatalog seo a' giùlan iar-leasachan cuantachaidh a mhìnicheas fìor chruth-atharrachadh so-thomhaiste seach ìre margaidheachd. 'S iad na feadhainn againn 3BIT-REAP, W4A16-AUTOROUND-REAP agus W8A16. 'S e an treas fear a th' ann am MiMo-V2.5-Pro.
Bidh an comharrachadh a' sgaradh na dhà. 'S e mionaideachd cuideaman a th' ann an W8: thèid gach paramadair a stòradh mar àireamh shlàn 8-bit an àite fleòdrachan 16-bit, le factar sgèilidh co-roinnte gach buidheann bheag gus an tèid raon fiùghantach ionadail gach buidhinn a ghleidheadh. 'S e mionaideachd gnìomhachaidh a th' ann an A16: fanaidh na luachan a shruthas eadar sreathan aig àm co-dhùnaidh aig 16 bit. Thèid cuideaman a theannachadh; chan eil an àireamhachd.
Bidh an dàrna leth a' dèanamh obair chudromach shàmhach. Tha gnìomhachaidhean fada nas duilghe a chuantachadh na cuideaman: bidh sianalan fìor iomallach annta — beagan thomhasan aig a bheil meudan a tha a' dubhadh às a h-uile càil eile agus a bhios a' giùlan cuibhreann neo-chothromach de ghiùlan a' mhodail. Brùth iad sin gu mionaideachd ìseal agus gearraidh tu dìreach an comharra a bha thu ag iarraidh. Bidh sgeamaichean cuideaman-a-mhàin a' seachnadh an duilgheadais le bhith a' fàgail slighe a' ghnìomhachaidh na h-aonar, agus sin as coireach gu bheil obair chuantachaidh dhùrachdach air co-aontachadh orra.
Mar sin caolaichidh a' cheist phractaigeach gu aon rud: cia mheud bit as lugha as urrainn do chuideam fhulang?
05W8A16 an aghaidh W4A16 an aghaidh 3-bit: càite an tèid an call dha-rìribh
'S e an sgrùdadh foillsichte as motha air seo "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization aig Neural Magic agus Red Hat — thairis air 500,000 measadh thar an teaghlaich Llama-3.1 aig 8B, 70B agus 405B. An toradh prìomh, nan àireamhan fhèin:
| Cruth | Dè a tha air a theannachadh | Ath-ghabhail air aithris an aghaidh BF16 |
|---|---|---|
| W8A8-FP (8-bit) | Cuideaman + gnìomhachaidhean, fleòdrachan | ~99.75% cuibheasach — "cha mhòr gun chall" |
| W8A8-INT (8-bit) | Cuideaman + gnìomhachaidhean, àireamh shlàn | 99–100% aig 8B/70B; 98.2–99.3% aig 405B |
| W4A16-INT (4-bit) | Cuideaman a-mhàin | 98–99.4% (8B); 98.6–99.8% (70B) |
Àireamhan air an aithris le Neural Magic / Red Hat (arXiv:2411.02355) air modailean Llama-3.1 — cumadh na h-iomlaid, chan e sgòr a' mhodail seo.
Air a leughadh gu h-onarach, tha coltas argamaid an aghaidh a bhith a' gabhail cùraim: bidh 4-bit ag ath-ghabhail 98–99%, agus mar sin carson a bu chòir aire a thoirt? A chionn 's gur e deuchainnean-coimeis acadaimigeach ioma-roghainn a tha sin, faisg air an inneal as miosa a tha ann airson milleadh cuantachaidh a lorg. Tha aon fhreagairt cheart aig ceist deuchainn-choimeis a ruigear le aon no dà thoken, agus tha mearachd cuantachaidh beag, fuaim timcheall air meadhan neoni air gach logit; air ceist ghoirid le mòr-mhargan, thèid am fuaim sin a shùghadh a-steach.
A-nis sgrìobh 4,000 token de sgrìobhainn theignigeach, cum guth thairis air sgeulachd 40,000-token, no gin JSON a dh'fheumas dearbhadh a' chiad turas. Thèid an aon fhuaim a shampladh mìltean de thursan ann an sreath, gach sampall a' cumhachadh an ath fhear. Chan e freagairt cheàrr a' mhodh fàilligidh — 's e seachran a th' ann: grèim a' fuasgladh air an stiùireadh bhon chiad char, caractar a sguireas a bhith coltach ris fhèin timcheall air token 3,000, camag dhùnaidh nach tig a-riamh.
Càite an tèid na bitean dha-rìribh
Chan eil mearachd cuantachaidh air a sgaoileadh gu co-ionann thar comasan modail; cruinnichidh e san earball. Bidh giùlanan mòr-tomad — Beurla ghràmarach, cumadh gnìomh Python, am mìle fìrinn as àirde mun t-saoghal — air an còdachadh gu anabarrach thar mòran chuideaman agus mairidh iad cha mhòr rud sam bith. Bidh cinn beag-mheud, air an gleusadh gu mionaideach, de sgaoileadh nan cuideaman a' cumail an stuth ainneamh: soidhne pongail API dhoilleir, cadence ùghdar sònraichte, an diofar eadar dà CVE ri taobh a chèile. 'S e sin na luachan a chruinnicheas griod garbh a-steach dha chèile.
'S ann aig a' cheum o 4 bit gu 3 a sguireas seo bhith na chìs agus a dh'fhàsas na chreig. Lorg laghannan sgèileachaidh co-dhùnaidh k-bit aig Dettmers agus Zettlemoyer gur e 4-bit a' phuing a bharrachadas cruinneas zero-shot gach bit de chuimhne modail, le crìonadh a' faighinn làmh an uachdair fodha. Bheir ceithir bit 16 ìre gach buidheann; bheir trì 8. Tha thu a' gearradh dùmhlachd griod a tha mar-thà garbh na leth, agus dùblaichidh mearachd cruinneachaidh gach cuideim timcheall air a dhà.
An àireamhachd a cho-dhùineas e
'S e àireamhachd, chan e deuchainn-choimeis, an coimeas as fhiach a dhèanamh. 'S e a mhaireas beò an teannachadh timcheall air paramadairean × bitean gach paramadair — meud giùlan-fiosrachaidh an fhaidhle chuideaman. Gabh dà bhunait tuairmseach de dh'aon chàileachd gach paramadair:
- Bunait A: 400B paramadair aig 3 bit → timcheall air 150 GB de chuideam air a ghleidheadh.
- Bunait B: 160B paramadair aig 8 bit → timcheall air 160 GB de chuideam air a ghleidheadh.
A rèir àireamh amh phàramadairean buannaichidh A dà gu leth gu aon — an àireamh air a bheil a' chairt-mhodail a' tòiseachadh. A rèir fiosrachadh air a ghleidheadh tha iad co-ionann, agus tha buannachd structarail aig B a bharrachd air a shon: bidh na cuideaman aige nan suidhe air griod mìn gu leòr gu bheil a ghiùlan earbaill slàn, far an deach earball A a chuantachadh a-steach don mhòr-chuid. Tha barrachd rudan aig A; tha fios nas gèire aig B air na tha fios aige. Airson gineadh fada, cumadh dìreach, smachd stoidhle agus leantainneachd dhìleas air co-theacsa fhada, gabh B.
Àireamhachd eisimpleireach, chan e deuchainn-choimeis: sealladh e carson a tha "bunait as motha" agus "modail air fhrithealadh nas fheàrr" nan tagraidhean eadar-dhealaichte.
06Carson a nì 27 trillean token trèanaidh cuantachadh dàna nas miosa
Bidh dàrna toradh, nas lugha follaiseach, a' buntainn gu dìreach ris a' bhunait seo. Bidh pàipear ICLR 2025 aig Kumar et al., Scaling Laws for Precision, a' faighinn a-mach mar as motha an dàta air an deach modail a thrèanadh, is ann as motha am milleadh a nì cuantachadh iar-thrèanaidh air. Bidh mionaideachd ìseal a' lùghdachadh àireamh phàramadairean èifeachdach modail, agus fàsaidh an crìonadh sin leis an dàta ro-thrèanaidh a chaidh a shùghadh a-steach — fada gu leòr gum faod dàta ro-thrèanaidh a bharrachd a bhith cronail san fharsaingeachd ma tha thu an dùil cuantachadh gu dàna, oir tha thu a' cur sìos structar mìn a dhubhas an griod às.
Tha structar cuideaman garbh, anabarrach aig modail air a thrèanadh air 5T token, le astar ri sheachnadh. Chaith modail air a thrèanadh air 27T token — buidseat MiMo-V2.5-Pro — an dàta a bharrachd sin a' sgrìobhadh eadar-dhealachaidhean nas mìne a-steach do luachan cuideaman nas mionaidiche, agus sin dìreach na nach urrainn do ghriod 3-bit a riochdachadh.
An uairsin tha fìrinn FP8 o earrann 03, an argamaid as gile san artaigil seo. Chaidh MiMo-V2.5-Pro a ro-thrèanadh ann am mionaideachd measgaichte FP8. Chaidh na cuideaman aige a chumadh bhon toiseach le optimizer ag obair aig timcheall air ochd bit de mhionaideachd. Mar sin chan e ath-smuain le call a th' ann am frithealadh aige aig cuideaman 8-bit, air a sparradh air modail 16-bit — tha e faisg air na cuideaman a thilleadh chun rèim àireamhach anns an deach an ionnsachadh. Chan eil ach beagan structar mìn ann fon ochdamh bit ri chall. Cha ghabh an aon rud a ràdh mu na cuideaman sin air an sparradh sìos gu trì.
07REAP: carson as e seòrsa eile de chall a th' ann am bearradh eòlaichean na cruinneachadh
Bidh dhà den trì ìrean a' giùlan iar-leasachan REAP — gnìomh a tha gu roinneil eadar-dhealaichte o chuantachadh. 'S e teannachadh aon-char airson modailean MoE fànaisdeach a th' ann an REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026): bidh e a' toirt sgòr do gach eòlaiche a rèir luachan geata an rianadair agus norm gnìomhachaidh an eòlaiche, an uairsin a' sguabadh às an fheadhainn as ìsle sgòr. Bidh Cerebras ag aithris toraidhean cha mhòr gun chall air gineadh còd agus gairm-inneal fiù aig 50% de dh'eòlaichean air am bearradh.
Cleachdaidh sinn REAP airson an adhbhair air a bheil e ann: air na bunaitean as motha 's e a nì comasach an fhrithealadh idir. Ach thoir an aire don diofar seòrsa. Bidh cuantachadh a' toirt sgleò beag air gach cuideam; bidh bearradh a' toirt air falbh eòlaichean gu tur. Ma tha an t-uallach-obrach agad a' stiùireadh gu trom gu comas a bha na chòmhnaidh ann an eòlaiche air an do thagh iad ainneamh — cànan prògramaidh mion-chuid, briathrachas sònraichte — chan eil e air a chrìonadh. Tha e air falbh, agus cha toir brosnachadh sam bith air ais e. Fanaidh na cuibheasan sàr-mhath; is dòcha nach fhan do chùis-earbaill.
Chan eil iar-leasachan REAP aig MiMo-V2.5-Pro · W8A16. Tha na 384 eòlaiche uile an làthair, agus taghaidh an rianadair bhon t-seata slàn air an deach am bunait a thrèanadh.
| Ìre | Bitean cuideaman | Eòlaichean | Dè a mhalairteas tu |
|---|---|---|---|
| W8A16 | 8 | Uile an làthair | Càil structarail. An ìre dìlseachd. |
| W4A16-AUTOROUND-REAP | 4 | Air am bearradh | Mion-fhiosrachadh cuideaman a bharrachd air eòlaichean tar-chuideachd ìosal, an aghaidh bunait fada nas motha san aon bhann-prìse. |
| 3BIT-REAP | 3 | Air am bearradh | Dùmhlachd chuideaman mòr a bharrachd air eòlaichean tar-chuideachd ìosal — prìs ruith nam bunaitean as motha uile aig astar. |
Tha còir aig an ìre mheadhanach air èisteachd chothromach. Chan e cruinneachadh sìmplidh a th' ann an AutoRound: bidh dòigh Intel (arXiv:2309.05516) a' cleachdadh signed gradient descent thairis air timcheall air 200 ceum gus na co-dhùnaidhean cruinneachaidh agus an raon gearraidh gach buidheann cuideaman a ghleusadh, agus tha e air aithris mar cha mhòr gun chall aig 4 bit anns a' mhòr-chuid de shuidheachaidhean, a' buannachadh GPTQ, AWQ, HQQ agus OmniQuant thar a' mhòr-chuid de rèiteachaidhean deuchainnichte. 'S e modail 4-bit fìor mhath a th' ann am modail W4A16-AUTOROUND. Tha e fhathast na mhodail 4-bit.
08Cò bu chòir an ìre 8-bit a thaghadh — agus cò nach bu chòir
Tha MiMo-V2.5-Pro · W8A16 na shuidhe aig prìs làr a' chatalog gu lèir — $0.50 a-steach / $2.00 a-mach gach millean token, an aon bhann ris na modailean 4-bit ìre-inntrigidh agus timcheall air cairteal prìs a-steach a' mhodail as daoire a bhios sinn a' frithealadh. Chan eil thu a' pàigheadh barrachd airson dìlseachd; tha thu a' taghadh aiseal eile den aon bhuidseat.
Tagh e nuair a tha
- 'S e fad an toraidh an obair. Sgrìobhadh teignigeach fad-fhoirmeach, ficsean fad-chaibideil, cair sgrìobhainn slàn — 's e gach token ginte fear far a bheil fuaim teannachaidh a' co-mheudachadh.
- Tha guth agus cunbhalachd cudromach. Obair charactair, tòn branda, ìre-chainnt air a chumail thairis air seisean fada. Bidh stoidhle beò san earball, agus 's e an t-earball a dh'itheas cuantachadh garbh an toiseach.
- Feumaidh toradh structarach dearbhadh a' chiad turas. Tha taic aig a' mhodail airson
json_schemaagusresponse_format; 's e feart mionaideachd a th' ann an leantainn sgeama, agus 's e airgead is dàil air an sàbhaladh a th' ann an gach ath-fheuchainn a sheachnas tu. - Tha thu a' lìonadh a' cho-theacsa. Tha leantainn stiùiridh aig token 200,000 nas duilghe na aig token 2,000, agus crìonaidh e le mionaideachd cuideaman — mar a nì lorg reusanachaidh fhada, far a bheil mearachdan a' co-mheudachadh air an aon dòigh.
- Tha an obair gun chaisgireachd a rèir nàdair. Rannsachadh tèarainteachd, sgioba-dhearg, ficsean gun sìoladh, mion-sgrùdadh meidigeach no laghail mothachail — far a bheil freagairt mhaolaichte nas miosa na gin.
Tagh rudeigin eile nuair a tha
- Feumaidh tu lèirsinn. Tha am modail seo teacsa a-mhàin; tha comas lèirsinn aig a bhràthair MiMo-V2.5 · W8A16 aig an aon phrìs agus ìre.
- Feumaidh tu am fharsainge eòlas-saoghail air ceistean goirid. Sin an rèim far am buannaich paramadairean a bharrachd bunait 3-bit fada nas motha agus far nach mòr a nochdas am milleadh cuantachaidh aige.
- 'S e seòrsachadh goirid àrd-tomhais an t-uallach-obrach agad. Tha milleadh cuantachaidh cha mhòr do-fhaicsinneach an sin — ceannaich ge b' e dè as luaithe.
09A' gairm an API MiMo gun chaisgireachd
Ma tha an còd agad ag amas air SDK OpenAI, chan eil san ath-imrich air fad ach atharrachadh am bun-URL agus aithne a' mhodail:
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MiMo-V2.5-Pro-W8A16",
"messages": [
{"role": "user", "content": "Dreachaich earrann a' mhodail bagairt."}
],
"reasoning_effort": "high",
"max_tokens": 16384,
"stream": true
}'
Gabhaidh /v1/messages agus /v1/responses ris an aon aithne agus comasan. Tha iomradh air paramadairean, sgeamaichean gairm-inneil, eisimpleirean toraidh structaraich agus raon-cluiche beò ann an sgrìobhainnean API Shannon AI.
| Comas | MiMo-V2.5-Pro · W8A16 |
|---|---|
| Co-theacsa | 262,144 token |
| Toradh as motha gach iarrtas | 16,384 token |
| Sruthadh | Tha — na trì dualchainntean uile |
| Gairm-inneal | Tha |
Reusanachadh / reasoning_effort | Tha |
Toradh structarach json_schema | Tha |
response_format | Tha |
| Lèirsinn / ionchur dhealbhan | Chan eil — cleachd MiMo-V2.5 |
| Sreath diùltaidh / sìoladh toraidh | Chan eil gin |
| Prìs gach 1M token | $0.50 a-steach / $2.00 a-mach |
Tha gach àireamh bhon taobh a-muigh an seo air fhoillseachadh le cuideigin seach sinne agus air a chreidsinneachadh san teacsa. Bidh toraidhean ath-ghabhail cuantachaidh a' tighinn o sgrùdaidhean an teaghlaich Llama: bidh iad a' mìneachadh cumadh na h-iomlaid, chan e sgòran a' mhodail seo.
10Ceistean cumanta
Dè th' ann an API MiMo gun chaisgireachd?
'S e oir-phuing Shannon AI airson MiMo-V2.5-Pro a th' ann, modail Mixture-of-Experts le cuideaman fosgailte aig Xiaomi, air fhrithealadh air a' chruinneachadh GPU againn fhìn gun sreath diùltaidh agus gun sìoladh toraidh. Tha e ruigsinneach tro /v1/chat/completions, /v1/messages agus /v1/responses, le co-theacsa de 262,144 token agus 16,384 token toraidh gach iarrtas.
Dè tha W8A16 a' ciallachadh, agus carson a tha e cudromach?
Tha W8A16 a' ciallachadh gu bheil na cuideaman air an stòradh aig 8 bit an urra fhad 's a thèid gnìomhachaidhean àireamhachadh aig 16 bit. Seo an ìre cuantachaidh as àirde dìlseachd sa chatalog againn. Bidh sgrùdaidhean foillsichte a' faighinn a-mach gun ath-ghabh cruthan cuideaman-a-mhàin 8-bit cha mhòr a h-uile cruinneas a' bhun-mhodail thùsail, far a bheil 4-bit a' malairt beagan dìlseachd airson cuimhne agus 3-bit a' malairt tòrr.
An urrainn do mhodail nas lugha aig 8-bit buannachadh air modail nas motha aig 3-bit?
Gu tric, 's urrainn. 'S e a mhaireas beò an teannachadh àireamh phàramadairean air iomadachadh le bitean gach paramadair, gu ìre; agus cruinnichidh mearachd cuantachaidh ann an giùlan earbaill ainneamh. Cumaidh modail air a chumail aig 8 bit a chiall-leantaileachd fad-fhoirmeach, cumadh dìreach agus eòlas earbaill; cumaidh modail nas motha air a phronnadh gu 3 bit a sgòran fharsaing deuchainn-choimeis ach caillidh e na feartan sin.
A bheil taic aig MiMo-V2.5-Pro do lèirsinn no ionchur dhealbhan?
Chan eil. Tha MiMo-V2.5-Pro air Shannon AI teacsa a-mhàin. Tha taic aige do ghairm-inneal, reusanachadh le reasoning_effort, toradh structarach sgeama-JSON agus response_format. Ma dh'fheumas tu ionchur dhealbhan, cleachd am bràthair-mhodail MiMo-V2.5 W8A16, aig a bheil comas lèirsinn aig an aon phrìs.
Dè a chosgas an API MiMo gun chaisgireachd?
$0.50 gach millean token a-steach agus $2.00 gach millean token a-mach. Sin am prìs làr ann an catalog Shannon AI, agus sin a nì MiMo-V2.5-Pro an dòigh as saoire air dìlseachd 8-bit a cheannach air a' gheata seo.
Feuch an API MiMo gun chaisgireachd
Dìlseachd ochd-bit, co-theacsa 262K, gun sreath diùltaidh — aig prìs làr a' chatalog.
Leugh Sgrìobhainnean an API Rùraich a h-uile ModailAir a ruith fo Phoileasaidh Cleachdaidh Cunntachail Shannon AI
Tùsan: Aithisg theignigeach MiMo, arXiv:2505.07608 · Cairt mhodail MiMo-V2.5-Pro (Xiaomi) · "Give Me BF16 or Give Me Death"?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · Laghannan sgèileachaidh co-dhùnaidh k-bit, arXiv:2212.09720 · Scaling Laws for Precision, Kumar et al., ICLR 2025. Tha gach àireamh deuchainn-choimeis mar a chaidh aithris leis na h-ùghdaran aca. 'S e bathar aig Shannon Lab LLC, New Mexico, na SA, a th' ann an Shannon AI.