Uncensored na MiMo API sa 8-Bit na Katapatan
Ang reasoning-first na pundasyong MiMo ng Xiaomi, inihahain nang walang refusal layer sa W8A16 — ang pinakamataas ang katapatang antas ng kuwantisasyong pinapatakbo namin — sa pinakamababang presyo ng katalogo.
TL;DR
Ang MiMo-V2.5-Pro · W8A16 ang open-weights na MiMo-V2.5-Pro ng Xiaomi na inihahain sa sariling GPU cluster ng Shannon sa 8-bit na weights / 16-bit na activations — ang pinakakaunting nasisiksik na antas sa aming labindalawang-modelong katalogo. Isang 262,144-token na context, 16,384 na output token kada request, tool calling, pangangatwiran, structured output na JSON-schema, streaming sa tatlong dayalekto ng API, at walang refusal layer o pagsala sa output, sa $0.50 in / $2.00 out kada milyong token — ang sahig ng katalogo. Teksto lamang; gamitin ang MiMo-V2.5 · W8A16 para sa mga larawan.
Karamihan sa mga katalogo ay ibinebenta sa iyo ang bilang ng parameter. Maling numero iyon para pamilihan, dahil bawat malaking open-weights na modelong tunay mong kayang bayaran ay sinisiksik na para kumasya sa kung saan. Ang tapat na tanong ay hindi "gaano ito kalaki bago siniksik?" kundi "gaano karami rito ang natira?" Tungkol sa tanong na iyon ang artikulong ito, at tungkol sa modelo sa aming katalogo na ang sagot ay halos lahat.
01Ang talagang nakukuha mo sa uncensored na MiMo API
Ang uncensored na MiMo API ay iisang model id, MiMo-V2.5-Pro-W8A16, na maaabot sa tatlong dayalektong tumatawag sa iisang weights sa sarili naming GPU cluster: /v1/chat/completions, /v1/messages at /v1/responses. Nagse-stream ang tatlo at sinusuportahan nila ang tool calling at pangangatwiran.
May makitid na kahulugan dito ang uncensored: walang refusal layer sa harap ng modelo, walang filter sa output nito. Hindi kami humaharang, umuuri o muling sumusulat. Nakukuha mo ang sariling asal ng pundasyon — na para sa isang open-weights na modelong pang-pananaliksik ay nangangahulugang kinakausap nito ang pananaliksik sa seguridad, kathang-isip na pang-adulto o marahas, medikal at legal na pangangatwiran, at ang mga hiling na padalus-dalos na tinatanggihan ng mga naka-host na komersiyal na endpoint. Kasangkapan itong propesyonal sa ilalim ng aming Patakaran sa Responsableng Paggamit, hindi kawalan ng tuntunin.
02Ang lahi ng MiMo: ang pusta ng Xiaomi sa reasoning-first na pretraining
Hindi hango sa Llama na binigyan ng bagong pangalan ang MiMo; natatanging lahi ito mula sa koponang MiMo ng Xiaomi, at mahalaga ang pundasyong ideya nito bago mo suriin ang modelo. Nagbubukas ito sa MiMo-7B (Abril 30, 2025, lisensyang MIT), na ang teknikal na ulat ay nangangatwirang itinuturing ng karamihan sa mga lab ang pangangatwiran bilang problema sa post-training na idudugtong gamit ang RL, at baligtad iyon. Muling inayos ng Xiaomi ang pretraining sa paligid nito: isang tatlong-yugtong halo sa 25 trilyong token, ang ikalawang yugto ay mga 70% matematika at code, ang ikatlo ay nagsasama ng sintetikong bakas ng pangangatwiran habang pinapahaba ang context mula 8K tungong 32K — kasama ang layuning Multi-Token Prediction na nagsisilbi ring ulo para sa speculative decoding.
Ang naging bunga ay isang 7B na base na modelong umaasal na parang mas malaki nang husto. Nakakuha ang MiMo-7B-Base ng 32.9 sa AIME 2024 samantalang 10.1 ang Qwen2.5-7B, 0.0 ang Gemma-2-9B at 0.3 ang Llama-3.1-8B. Pagkatapos ay nagpatakbo ang post-training ng RL sa 130,000 na napapatunayang problema sa matematika at code na may gantimpalang code na hinihimok ng hirap ng pagsubok, na nakakaiwas sa bitag ng kakaunting gantimpalang nagpapaluya sa RL ng code. Ang resulta ay lumagpas sa o1-mini:
AIME 2025, mga bilang na iniulat ng Xiaomi mula sa teknikal na ulat ng MiMo (arXiv:2505.07608). Iniulat din ng MiMo-7B-RL ang 95.8 sa MATH-500 at 57.8 sa LiveCodeBench v5.
Lumawak ang pamilya sa halip na lumihis: nilagyan ng MiMo-VL-7B (Hunyo 2025) ng encoder na Qwen2.5-ViT ang parehong gulugod, at dinala ng Disyembre 2025 ang MiMo-Audio-7B kasama ang unang MoE, ang MiMo-V2-Flash (309B na kabuuan / 15B na aktibo, 27T na token, FP8 na halong presisyon). Sumunod ang MiMo-V2-Pro noong Marso 2026 sa mga 1T / 42B na aktibo na may 1M na context, matapos ang ilang linggo sa OpenRouter bilang "Hunter Alpha". Sabay na ipinadala ang MiMo-V2.5 at MiMo-V2.5-Pro noong Abril 22, 2026, parehong MIT.
03Sa loob ng MiMo-V2.5-Pro: ang anyo ng pundasyon
Ayon sa inilathalang model card ng Xiaomi, ang MiMo-V2.5-Pro ay isang sparse na Mixture-of-Experts na modelong may 1.02 trilyong kabuuang parameter at 42 bilyong aktibo kada token sa 70 na layer — isang dense, 69 na MoE — at 384 na niruruta na expert, 8 kada token. Ang hidden size ay 6144, na may makitid na MoE intermediate size na 2048.
Dalawang pagpili ang humuhubog sa pakiramdam nito sa paggamit. Hybrid ang salansan ng attention: 10 na layer ng buong attention at 60 na sliding-window na layer na may bintanang 128, kasama ang natututong bias na attention sink. Iniuulat ng Xiaomi na binabawasan nito ang imbakan ng KV cache nang malapit sa 7x laban sa lahat-global na attention habang napapanatili ang kalidad sa mahabang context — ang pagkakaiba ng bintanang mahaba sa pangalan at ng bintanang kaya mong punuin. Nagdadala rin ito ng tatlong layer ng Multi-Token Prediction, na nagbibigay sa decoder ng ulong speculative.
Ang pagsasanay ay 27 trilyong token sa likas na haba ng sequence na 32K sa FP8 (E4M3) na halong presisyon, saka superbisadong fine-tuning, malakihang agentic na RL at multi-teacher na on-policy na distilasyon. Kapitan ang detalyeng FP8 na iyon; ito ang pinakamatibay na iisang argumento para ihain ang pundasyong ito sa 8 na bit.
Iniuulat ng Xiaomi ang modelo sa 57.2% sa SWE-bench Pro, 72.9 sa τ3-Bench para sa paggamit ng tool at 48.0% sa Humanity's Last Exam — sariling bilang ng nagbebenta sa hindi siniksik na modelo, sinipi nang ganoon.
Naghahain kami ng 262,144-token na bintana, hindi ang buong 1M ng pundasyon — isang context na kaya naming ipangako nang may bilis, hindi isang numerong pang-ulo na bumabagsak sa ilalim ng bigat.
04Ang eksaktong ibig sabihin ng W8A16
Bawat modelo sa katalogong ito ay may dalang suffix ng kuwantisasyong naglalarawan ng tunay at nasusukat na pagbabago sa halip na antas na pang-marketing. Ang sa amin ay 3BIT-REAP, W4A16-AUTOROUND-REAP at W8A16. Ang MiMo-V2.5-Pro ang pangatlo.
Nahahati sa dalawa ang notasyon. Ang W8 ay presisyon ng weight: iniimbak ang bawat parameter bilang 8-bit na integer sa halip na 16-bit na float, na may ibinabahaging pamparami kada maliit na pangkat upang mabuhay ang lokal na dinamikong saklaw ng bawat pangkat. Ang A16 ay presisyon ng activation: nananatili sa 16 na bit ang mga halagang dumadaloy sa pagitan ng mga layer habang nag-i-inference. Nasisiksik ang weights; hindi ang aritmetika.
Tahimik ngunit mahalaga ang ginagawa ng ikalawang kalahati. Mas mahirap kuwantisahin ang activations kaysa sa weights: naglalaman sila ng sukdulang mga outlier na channel — ilang dimensiyong ang laki ay lumalamon sa lahat ng iba at may dalang di-proporsiyonal na bahagi ng asal ng modelo. Itulak mo sila sa mababang presisyon at puputulin mo mismo ang senyas na kailangan mo. Iniiwasan ng mga iskemang weight-only ang problema sa pamamagitan ng pag-iwan sa landas ng activation, at iyon ang dahilan kung bakit doon nagtatagpo ang seryosong gawain sa kuwantisasyon.
Kaya lumiliit sa isang bagay ang praktikal na tanong: gaano kakaunting bit ang kayang tiisin ng isang weight?
05W8A16 laban sa W4A16 laban sa 3-bit: saan talaga napupunta ang lugi
Ang pinakamalaking inilathalang pag-aaral dito ay ang "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization ng Neural Magic at Red Hat — mahigit 500,000 na ebalwasyon sa pamilyang Llama-3.1 sa 8B, 70B at 405B. Ang kanilang pangunahing resulta, sa kanilang mga bilang:
| Pormat | Ano ang sinisiksik | Iniulat na pagbawi laban sa BF16 |
|---|---|---|
| W8A8-FP (8-bit) | Weights + activations, float | ~99.75% na katamtaman — "halos walang lugi" |
| W8A8-INT (8-bit) | Weights + activations, integer | 99–100% sa 8B/70B; 98.2–99.3% sa 405B |
| W4A16-INT (4-bit) | Weights lamang | 98–99.4% (8B); 98.6–99.8% (70B) |
Mga bilang na iniulat ng Neural Magic / Red Hat (arXiv:2411.02355) sa mga modelong Llama-3.1 — ang hugis ng palitan, hindi ang iskor ng modelong ito.
Kung babasahin nang tapat, mukha itong argumento laban sa pagpansin: nababawi ng 4-bit ang 98–99%, kaya bakit pa mag-abala? Dahil mga akademikong benchmark na maramihang pagpipilian ang mga iyon, halos ang pinakamasamang kasangkapang mahihingi para tuklasin ang sira ng kuwantisasyon. Isang tamang sagot lang ang tanong sa isang benchmark at naaabot iyon sa isa o dalawang token, at ang mali ng kuwantisasyon ay maliit at halos zero-mean na ingay sa bawat logit; sa maikling tanong na malapad ang agwat, nasisipsip ang ingay na iyon.
Ngayon sumulat ka ng 4,000 na token ng teknikal na dokumento, panatilihin ang isang tinig sa 40,000-token na kuwento, o maglabas ng JSON na dapat maging balido sa unang subok. Ang parehong ingay ay ini-sample nang libu-libong beses nang sunod-sunod, na ang bawat sample ay nagtatakda ng kondisyon ng susunod. Hindi maling sagot ang paraan ng pagkabigo — pagkalihis ito: lumuluwag na hawak sa tagubilin mula sa unang turn, isang tauhang tumitigil sa tunog niya sa paligid ng token 3,000, isang pansarang kulot na hindi dumarating.
Kung saan talaga napupunta ang mga bit
Hindi pantay na kumakalat ang mali ng kuwantisasyon sa mga kakayahan ng modelo; nakakonsentra ito sa buntot. Ang mga asal na malaki ang masa — gramatikong Ingles, ang hugis ng isang Python na function, ang unang libong bagay tungkol sa mundo — ay naka-encode nang paulit-ulit sa maraming weight at nakakaligtas sa halos anuman. Ang mahusay na na-tune at maliit ang magnitude na mga sulok ng distribusyon ng weight ang may hawak ng bihirang bagay: ang eksaktong lagda ng isang malabong API, ang indayog ng isang tiyak na may-akda, ang pagkakaiba ng dalawang magkatabing CVE. Iyon ang mga halagang pinagsasama ng magaspang na grid sa pag-round.
Ang hakbang mula 4 na bit tungong 3 ang puntong tumitigil itong maging buwis at nagiging bangin. Natuklasan ng mga batas sa pag-scale ng k-bit na inference nina Dettmers at Zettlemoyer na ang 4-bit ang puntong pinakamataas ang zero-shot na katumpakan kada bit ng memorya ng modelo, at nangingibabaw ang pagbaba sa ilalim niyon. Nagbibigay ang apat na bit ng 16 na antas kada pangkat; nagbibigay ang tatlo ng 8. Hinahati mo sa dalawa ang resolusyon ng isang magaspang nang grid, at halos dumodoble ang mali sa pag-round kada weight.
Ang aritmetikang nagpapasya
Aritmetika ang paghahambing na sulit gawin, hindi benchmark. Ang nakakaligtas sa pagsisiksik ay tinatayang parameter × bit kada parameter — ang dami ng impormasyong dala ng file ng weight. Kunin ang dalawang haka-hakang pundasyong magkapantay ang kalidad kada parameter:
- Pundasyon A: 400B na parameter sa 3 na bit → mga 150 GB na natitirang weight.
- Pundasyon B: 160B na parameter sa 8 na bit → mga 160 GB na natitirang weight.
Sa hilaw na bilang ng parameter, panalo ang A nang dalawa't kalahati laban sa isa — ang numerong pinangunguna ng model card. Sa natitirang impormasyon magkapantay sila, at may dagdag pang istrukturang bentahe ang B: nakaupo ang weights nito sa grid na sapat ang kinis para buo ang asal nito sa buntot, samantalang ang buntot ng A ay kinuwantisa na tungo sa bulto. Mas maraming alam ang A; mas matalas ang alam ng B sa nalalaman nito. Para sa mahabang paglikha, eksaktong pormat, kontrol sa estilo at tapat na pagsunod sa mahabang context, kunin ang B.
Aritmetikang panlarawan, hindi benchmark: ipinapakita nito kung bakit magkaibang pahayag ang "mas malaking pundasyon" at "mas mahusay na inihaing modelo".
06Bakit pinapalala ng 27 trilyong token ng pagsasanay ang agresibong kuwantisasyon
Isang pangalawa at hindi masyadong madaling isipin na resulta ang tuwirang may kinalaman sa pundasyong ito. Natuklasan ng papel nina Kumar sa ICLR 2025 na Scaling Laws for Precision na habang mas maraming datos ang pinagsanayan ng isang modelo, mas malaki ang sira ng post-training na kuwantisasyon dito. Binabawasan ng mababang presisyon ang epektibong bilang ng parameter ng isang modelo, at lumalaki ang pagbaba kasabay ng nasipsip na datos sa pretraining — malayo nang sapat na maaaring maging nakakasama ang dagdag na datos sa pretraining kung agresibo mong kukuwantisahin, dahil naglalatag ka ng pinong istrukturang buburahin ng grid.
May magaspang at paulit-ulit na istruktura ng weight at may sobra pang luwag ang modelong sinanay sa 5T na token. Ang modelong sinanay sa 27T na token — ang badyet ng MiMo-V2.5-Pro — ay ginugol ang dagdag na datos sa pagsulat ng mas pinong pagkakaiba sa mas eksaktong halaga ng weight, na siya mismong hindi kayang ipakita ng isang 3-bit na grid.
Saka may katotohanang FP8 mula sa seksiyon 03, ang pinakamalinis na argumento sa artikulong ito. Ang MiMo-V2.5-Pro ay pinretrain sa FP8 na halong presisyon. Hinubog ang weights nito mula pa sa umpisa ng isang optimizer na nagtatrabaho sa halos walong bit ng presisyon. Kaya ang paghahain nito sa 8-bit na weights ay hindi isang malugi at huling-isip na ipinataw sa isang 16-bit na modelo — malapit ito sa pagbabalik ng weights sa numerikong rehimeng pinag-aralan nila. Kaunti lang ang pinong istrukturang mawawala sa ilalim ng ikawalong bit. Hindi masasabi iyon sa mga weight na ipinilit pababa sa tatlo.
07REAP: bakit ibang uri ng lugi ang pagputol sa expert kaysa sa pag-round
Dalawa sa tatlong antas ang may dalang suffix na REAP — isang operasyong kategorikong iba sa kuwantisasyon. Ang REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) ay isang-hakbang na pagsisiksik para sa sparse na MoE na modelo: binibigyang-puntos nito ang bawat expert ayon sa mga halaga ng gate ng router at sa norm ng aktibasyon ng expert, saka binubura ang pinakamababa. Iniuulat ng Cerebras ang resultang halos walang lugi sa paglikha ng code at sa tool calling kahit sa 50% ng mga expert na pinutol.
Ginagamit namin ang REAP sa mismong dahilan ng pag-iral nito: sa pinakamalalaking pundasyon, ito ang nagpapaposible sa paghahain sa kanila. Ngunit pansinin ang pagkakaiba sa uri. Nilalabo nang kaunti ng kuwantisasyon ang bawat weight; tinatanggal ng pagputol ang mga expert nang tuluyan. Kung malakas na nagruruta ang trabaho mo sa kakayahang nasa isang bihirang piliing expert — isang menor na wikang pamprograma, isang espesyalisadong bokabularyo — hindi ito humina. Wala na ito, at walang prompting ang makababawi nito. Nananatiling mahusay ang mga katamtaman; ang kaso mo sa buntot ay maaaring hindi.
Walang dalang suffix na REAP ang MiMo-V2.5-Pro · W8A16. Naroon ang lahat ng 384 na expert, at pumipili ang router mula sa buong set na pinagsanayan ng pundasyon.
| Antas | Bit ng weight | Mga expert | Ang ipinapalit mo |
|---|---|---|---|
| W8A16 | 8 | Buong naroon | Walang istruktural. Ito ang antas ng katapatan. |
| W4A16-AUTOROUND-REAP | 4 | Pinutol | Pinong detalye ng weight kasama ang mga expert na kaunti ang trapiko, kapalit ng mas malaking pundasyon sa parehong hanay ng presyo. |
| 3BIT-REAP | 3 | Pinutol | Malaking resolusyon ng weight kasama ang mga expert na kaunti ang trapiko — ang halaga ng pagpapatakbo ng pinakamalalaking pundasyon nang mabilis. |
Karapat-dapat sa patas na pagdinig ang gitnang antas. Hindi payak na pag-round ang AutoRound: gumagamit ang paraan ng Intel (arXiv:2309.05516) ng signed gradient descent sa mga 200 hakbang upang i-tune ang mga desisyon sa pag-round at ang saklaw ng clipping kada pangkat ng weight, at iniuulat itong halos walang lugi sa 4 na bit sa karamihan ng setting, na tinatalo ang GPTQ, AWQ, HQQ at OmniQuant sa halos lahat ng sinubukang kompigurasyon. Tunay na mahusay na 4-bit na modelo ang isang W4A16-AUTOROUND na modelo. 4-bit na modelo pa rin ito.
08Sino ang dapat pumili ng 8-bit na antas — at sino ang hindi
Nasa pinakamababang presyo ng buong katalogo ang MiMo-V2.5-Pro · W8A16 — $0.50 in / $2.00 out kada milyong token, parehong hanay ng mga 4-bit na modelong entry-tier at mga ikaapat ng presyo ng input ng pinakamahal na modelong inihahain namin. Hindi ka nagbabayad ng premium para sa katapatan; pumipili ka ng ibang aksis ng parehong badyet.
Piliin ito kapag
- Haba ng output ang trabaho. Mahabang teknikal na pagsulat, kathang-isip na kasinghaba ng kabanata, buong pasada ng dokumentasyon — bawat nalilikhang token ay isang pagkakataong naiipon ang ingay ng pagsisiksik.
- Mahalaga ang tinig at pagkakatugma. Paggawa ng tauhan, tono ng tatak, isang rehistrong hinahawakan sa buong mahabang sesyon. Nasa buntot nakatira ang estilo, at ang buntot ang unang kinakain ng magaspang na kuwantisasyon.
- Dapat maging balido sa unang subok ang structured output. Sinusuportahan ng modelo ang
json_schemaatresponse_format; katangian ng presisyon ang pagsunod sa schema, at bawat naiwasang muling pagsubok ay naipong pera at latency. - Pinupuno mo ang context. Mas mahirap ang pagsunod sa tagubilin sa token 200,000 kaysa sa token 2,000, at bumababa ito kasabay ng presisyon ng weight — gayundin ang mahabang bakas ng pangangatwiran, kung saan naiipon ang mali sa parehong paraan.
- Likas na uncensored ang trabaho. Pananaliksik sa seguridad, red-teaming, kathang-isip na walang filter, sensitibong medikal o legal na pagsusuri — kung saan mas masama ang sagot na nagpapabalintuna kaysa sa walang sagot.
Pumili ng iba kapag
- Kailangan mo ng vision. Teksto lamang ang modelong ito; vision-capable ang kapatid nitong MiMo-V2.5 · W8A16 sa parehong presyo at antas.
- Kailangan mo ng pinakamalawak na kaalaman sa mundo sa maikling tanong. Iyon ang rehimeng nananalo ang dagdag na parameter ng mas malaking 3-bit na pundasyon at halos hindi nakikita ang sira ng kuwantisasyon nito.
- Maikli at maramihang klasipikasyon ang trabaho mo. Halos hindi nakikita roon ang sira ng kuwantisasyon — bilhin ang alinmang pinakamabilis.
09Pagtawag sa uncensored na MiMo API
Kung ang code mo ay nakatutok sa SDK ng OpenAI, ang pagpapalit ng base URL at ng model id ang buong paglipat:
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MiMo-V2.5-Pro-W8A16",
"messages": [
{"role": "user", "content": "Draft the threat model section."}
],
"reasoning_effort": "high",
"max_tokens": 16384,
"stream": true
}'Tinatanggap ng /v1/messages at /v1/responses ang parehong id at kakayahan. Nasa dokumentasyon ng Shannon AI API ang sanggunian ng parameter, ang mga schema sa tool calling, ang mga halimbawa ng structured output at isang buhay na playground.
| Kakayahan | MiMo-V2.5-Pro · W8A16 |
|---|---|
| Context window | 262,144 na token |
| Pinakamataas na output kada request | 16,384 na token |
| Streaming | Oo — lahat ng tatlong dayalekto |
| Tool calling | Oo |
Pangangatwiran / reasoning_effort | Oo |
Structured output na json_schema | Oo |
response_format | Oo |
| Vision / input na larawan | Hindi — gamitin ang MiMo-V2.5 |
| Refusal layer / filter sa output | Wala |
| Presyo kada 1M na token | $0.50 in / $2.00 out |
Bawat panlabas na bilang dito ay inilathala ng iba at may pagkilala sa teksto. Nagmumula sa mga pag-aaral sa pamilyang Llama ang mga resulta sa pagbawi mula sa kuwantisasyon: inilalarawan nila ang hugis ng palitan, hindi ang iskor ng modelong ito.
10Mga madalas itanong
Ano ang uncensored na MiMo API?
Ang endpoint ng Shannon AI para sa MiMo-V2.5-Pro, ang open-weights na modelong Mixture-of-Experts ng Xiaomi, inihahain sa sarili naming GPU cluster nang walang refusal layer at walang pagsala sa output. Maaabot ito sa pamamagitan ng /v1/chat/completions, /v1/messages at /v1/responses, na may 262,144-token na context at 16,384 na output token kada request.
Ano ang ibig sabihin ng W8A16, at bakit ito mahalaga?
Ang ibig sabihin ng W8A16 ay iniimbak ang weights sa tig-8 na bit habang kinakalkula ang activations sa 16 na bit. Ito ang pinakamataas ang katapatang antas ng kuwantisasyon sa aming katalogo. Natuklasan ng mga inilathalang pag-aaral na nababawi ng mga pormat na 8-bit at weight-only ang halos buong katumpakan ng orihinal na modelo, samantalang ipinapalit ng 4-bit ang kaunting katapatan para sa memorya at ipinapalit ng 3-bit ang malaking bahagi nito.
Kaya bang talunin ng mas maliit na modelo sa 8-bit ang mas malaking modelo sa 3-bit?
Madalas, oo. Ang nakakaligtas sa pagsisiksik ay tinatayang bilang ng parameter na pinarami sa bit kada parameter, at nakakonsentra ang mali ng kuwantisasyon sa bihira at nasa buntot na asal. Napapanatili ng modelong hinawakan sa 8 na bit ang mahabang pagkakaugnay-ugnay nito, ang eksaktong pormat at ang kaalaman sa buntot; napapanatili ng mas malaking modelong dinurog sa 3 na bit ang malawak nitong iskor sa benchmark ngunit nawawala ang mga katangiang iyon.
Sinusuportahan ba ng MiMo-V2.5-Pro ang vision o input na larawan?
Hindi. Teksto lamang ang MiMo-V2.5-Pro sa Shannon AI. Sinusuportahan naman nito ang tool calling, ang pangangatwiran gamit ang reasoning_effort, ang structured output na JSON-schema at ang response_format. Kung kailangan mo ng input na larawan, gamitin ang kapatid na modelong MiMo-V2.5 W8A16, na vision-capable sa parehong presyo.
Magkano ang uncensored na MiMo API?
$0.50 kada milyong input na token at $2.00 kada milyong output na token. Iyon ang pinakamababang presyo sa katalogo ng Shannon AI, na siyang gumagawa sa MiMo-V2.5-Pro bilang pinakamurang paraan para bumili ng 8-bit na katapatan sa gateway na ito.
Subukan ang uncensored na MiMo API
Walong-bit na katapatan, 262K na context, walang refusal layer — sa pinakamababang presyo ng katalogo.
Basahin ang API Docs Tingnan ang Lahat ng ModelPinapatakbo sa ilalim ng Patakaran sa Responsableng Paggamit ng Shannon AI
Mga sanggunian: teknikal na ulat ng MiMo, arXiv:2505.07608 · model card ng MiMo-V2.5-Pro (Xiaomi) · "Give Me BF16 or Give Me Death"?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · mga batas sa pag-scale ng k-bit na inference, arXiv:2212.09720 · Scaling Laws for Precision, Kumar et al., ICLR 2025. Lahat ng bilang sa benchmark ay ayon sa iniulat ng kani-kanilang may-akda. Ang Shannon AI ay produkto ng Shannon Lab LLC, New Mexico, USA.