Մենք չենք պահում և չենք մուտք գործում որևէ օգտատիրոջ տվյալների, և չենք կասեցնում հաշիվներ, եթե իրավաչափ մարմինը հարկադիր գործողություն չի պահանջում։
Մոդելային քարտ · MiMo-V2.5-Pro · W8A16

Առանց ցենզուրայի MiMo API 8-Բիթանոց Հավատարմությամբ

Xiaomi-ի դատողությունը-առաջին տեղ դասող MiMo հիմքային մոդելը, մատուցվող առանց մերժման շերտի՝ W8A16 ձևաչափով — մեր գործարկած ամենաբարձր-հավատարմության քվանտացման մակարդակը — կատալոգի ամենացածր գնով:

Թարմացվել է 2026 թ. սեպտեմբերի 5-ինՄոդելային քարտՀիմքային մոդել՝ MiMo-V2.5-Pro262K համատեքստ

Համառոտ

MiMo-V2.5-Pro · W8A16-ը Xiaomi-ի բաց-կշիռներով MiMo-V2.5-Pro-ն է, մատուցվող Shannon-ի սեփական GPU կլաստերի վրա 8-բիթանոց կշիռներով / 16-բիթանոց ակտիվացումներով — մեր տասներկու-մոդելանոց կատալոգում ամենաքիչ սեղմված մակարդակը: 262,144-տոկեն համատեքստ, 16,384 ելքային տոկեն մեկ հարցման համար, գործիքի կանչ, դատողություն, JSON-schema կառուցվածքային արտածում, հոսքային հաղորդում երեք API բարբառներում, և առանց մերժման շերտի կամ ելքի զտման, $0.50 մուտք / $2.00 ելք մեկ միլիոն տոկենի համար — կատալոգի ամենացածր գինը: Միայն-տեքստային է. պատկերների համար օգտագործեք MiMo-V2.5 · W8A16:

Կատալոգների մեծ մասը վաճառում է ձեզ պարամետրերի քանակ: Դա սխալ թիվն է գնումների ընտրության համար, քանի որ ցանկացած մեծ բաց-կշիռների մոդել, որը իրականում կարող եք ձեռք բերել, սեղմվել է ինչ-որ տեղ տեղավորվելու համար: Անկեղծ հարցը «որքա՞ն մեծ էր սա մինչև սեղմվելը» չէ, այլ «որքա՞ն է դեռ մնացել դրանից»: Այս հոդվածն այդ հարցի մասին է, և մեր տողի այն մոդելի մասին, որի պատասխանը գրեթե ամբողջությունն է:

01Ինչ իրականում է ձեզ տալիս առանց ցենզուրայի MiMo API-ն

Առանց ցենզուրայի MiMo API-ն մեկ մոդելի id է, MiMo-V2.5-Pro-W8A16, հասանելի երեք բարբառներով, որոնք դիմում են նույն կշիռներին մեր սեփական GPU կլաստերի վրա. /v1/chat/completions, /v1/messages և /v1/responses: Երեքն էլ հոսքային են և աջակցում են գործիքի կանչ ու դատողություն:

Առանց ցենզուրայի-ն այստեղ ունի նեղ իմաստ. մերժման շերտ չկա մոդելի առջև, զտիչ չկա նրա ելքի վրա: Մենք չենք ընդհատում, դասակարգում կամ վերաշարադրում: Ստանում եք հիմքային մոդելի սեփական վարքագիծը — ինչը հետազոտական մակարդակի բաց-կշիռների մոդելի համար նշանակում է, որ այն ներգրավվում է անվտանգության հետազոտության, հասուն կամ բռնի գեղարվեստական, բժշկական և իրավական դատողության հետ, և հենց այն հարցումների հետ, որոնք հյուրընկալվող առևտրային վերջնակետերն ինքնաբերաբար մերժում են: Դա մասնագիտական գործիք է մեր Պատասխանատու օգտագործման քաղաքականության ներքո, ոչ թե կանոնների բացակայություն:

262K
Համատեքստի պատուհան
16,384
Առավելագույն ելքային տոկեն
$0.50
Մեկ միլիոն մուտքի համար
$2.00
Մեկ միլիոն ելքի համար

02MiMo տոհմը. Xiaomi-ի խաղադրույքը դատողությունը-առաջին նախավարժեցման վրա

MiMo-ն Llama-ի ածանցյալ չէ նոր անունով. այն Xiaomi-ի MiMo թիմի առանձին տոհմ է, և նրա հիմնադիր գաղափարը կարևոր է, նախքան մոդելը գնահատելը: Այն սկսվում է MiMo-7B-ով (2025 թ. ապրիլի 30, MIT-լիցենզիայով), որի տեխնիկական հաշվետվությունն ասում է, որ լաբորատորիաների մեծ մասը դատողությունը վերաբերվում է որպես հետվարժեցման խնդիր, որը պետք է կպցնել RL-ով, և որ դա հակառակն է: Xiaomi-ն դրա փոխարեն վերակառուցեց նախավարժեցումը հենց դրա շուրջ. եռափուլ խառնուրդ 25 տրիլիոն տոկենի վրա, երկրորդ փուլն աշխատում է մոտավորապես 70% մաթեմատիկայի և կոդի վրա, երրորդ փուլը ներմուծում է սինթետիկ դատողության հետքեր՝ միաժամանակ ընդլայնելով համատեքստը 8K-ից մինչև 32K — գումարած Multi-Token Prediction նպատակ, որը կրկնակի դեր է կատարում նաև որպես սպեկուլյատիվ վերծանման գլուխ:

Արդյունքն էր 7B հենքային մոդել, որը վարվում էր շատ ավելի մեծի պես: MiMo-7B-Base-ը գնահատվեց 32.9 AIME 2024-ում, մինչդեռ Qwen2.5-7B-ն ստացավ 10.1, Gemma-2-9B-ը՝ 0.0, և Llama-3.1-8B-ը՝ 0.3: Հետվարժեցումն ապա RL կատարեց 130,000 ստուգելի մաթեմատիկայի և կոդի խնդիրների վրա՝ թեստ-դժվարությամբ ղեկավարվող կոդի պարգևով, խուսափելով նոսր-պարգևի թակարդից, որը կայունությունից զրկում է կոդի RL-ը: Արդյունքն անցավ o1-mini-ից.

MiMo-7B-RL55.4
o1-mini50.7
R1-Distill-Qwen-7B38.8
QwQ-32B-Preview32.4

AIME 2025, Xiaomi-ի հայտարարած թվեր MiMo տեխնիկական հաշվետվությունից (arXiv:2505.07608): MiMo-7B-RL-ը նաև հայտարարել է 95.8 MATH-500-ում և 57.8 LiveCodeBench v5-ում:

Ընտանիքն ընդլայնվեց, ոչ թե շեղվեց. MiMo-VL-7B-ը (2025 թ. հունիս) նույն ողնաշարի վրա դրեց Qwen2.5-ViT կոդավորիչ, և 2025 թ. դեկտեմբերը բերեց MiMo-Audio-7B գումարած առաջին MoE մուտքագրումը՝ MiMo-V2-Flash (309B ընդհանուր / 15B ակտիվ, 27T տոկեն, FP8 խառը ճշգրտություն): MiMo-V2-Pro-ն հաջորդեց 2026 թ. մարտին՝ մոտավորապես 1T / 42B ակտիվ, 1M համատեքստով, մի քանի շաբաթ OpenRouter-ում «Hunter Alpha» անունով լինելուց հետո: MiMo-V2.5-ը և MiMo-V2.5-Pro-ն թողարկվեցին միասին 2026 թ. ապրիլի 22-ին, երկուսն էլ MIT:

03MiMo-V2.5-Pro-ի ներսում. ինչ տեսք ունի հիմքային մոդելը

Ըստ Xiaomi-ի հրապարակած մոդելային քարտի, MiMo-V2.5-Pro-ն հազվաբեր Mixture-of-Experts մոդել է՝ 1.02 տրիլիոն ընդհանուր պարամետրով և 42 միլիարդ ակտիվ մեկ տոկենի համար, 70 շերտով — մեկը խիտ, 69-ը MoE — և 384 երթուղավորվող էքսպերտ, 8-ը ակտիվ մեկ տոկենի համար: Թաքնված չափայնությունը 6144 է, MoE միջանկյալ նեղ չափայնությամբ՝ 2048:

1.02T
Ընդհանուր պարամետր
42B
Ակտիվ / տոկեն
384
Էքսպերտ (8 ակտիվ)
70
Շերտ

Երկու որոշում ձևավորում է, թե ինչպես է այն զգացվում օգտագործման ժամանակ: Ուշադրության ստեկը հիբրիդային է. 10 լրիվ-ուշադրության շերտ և 60 սահող-պատուհանով շերտ՝ 128 պատուհանով, գումարած սովորելի ուշադրության-կլանման (attention-sink) շեղում: Xiaomi-ն հայտնում է, որ սա KV-քեշի պահեստավորումը կրճատում է մոտավորապես 7 անգամ ամբողջ-գլոբալ ուշադրության համեմատ՝ պահպանելով երկար-համատեքստի որակը — տարբերությունը անվանապես երկար պատուհանի և այնպիսի պատուհանի միջև, որը կարող եք թույլ տալ լցնել: Այն նաև ունի երեք Multi-Token Prediction շերտ, ինչը դեկոդերին տալիս է սպեկուլյատիվ գլուխ:

Վարժեցումն իրականացվել է 27 տրիլիոն տոկենի վրա, բնիկ 32K հաջորդականության երկարությամբ, FP8 (E4M3) խառը ճշգրտությամբ, ապա հսկվող ճշգրտում, մեծամասշտաբ գործակալային RL և բազմա-ուսուցչային on-policy դիստիլացիա: Հիշեք այս FP8 մանրամասնը. այն ամենաուժեղ միայնակ փաստարկն է այս հիմքային մոդելը 8 բիթում մատուցելու օգտին:

Xiaomi-ն մոդելը հայտնում է 57.2% SWE-bench Pro-ում, 72.9 τ3-Bench-ում գործիքի օգտագործման համար և 48.0% Humanity's Last Exam-ում — մատակարարի սեփական թվերն են՝ չսեղմված մոդելի վրա, հայտարարված որպես այդպիսին:

Մենք մատուցում ենք 262,144-տոկեն պատուհան, ոչ թե հիմքային մոդելի ամբողջական 1M-ը — համատեքստ, որը կարող ենք երաշխավորել արագությամբ, ոչ թե վերնագրային թիվ, որը վատթարանում է բեռի տակ:

04Ինչ է նշանակում W8A16՝ ճշգրիտ

Այս կատալոգի ամեն մոդել կրում է քվանտացման վերջածանց, որը նկարագրում է իրական, չափելի փոխակերպում, ոչ թե մարքեթինգային մակարդակ: Մերն են 3BIT-REAP, W4A16-AUTOROUND-REAP և W8A16: MiMo-V2.5-Pro-ն երրորդն է:

Նշագրումը բաժանվում է երկուսի: W8-ը կշիռների ճշգրտությունն է. յուրաքանչյուր պարամետր պահվում է որպես 8-բիթանոց ամբողջ թիվ 16-բիթանոց լողակետային թվի փոխարեն, ընդհանուր մասշտաբման գործակցով յուրաքանչյուր փոքր խմբի համար, որպեսզի յուրաքանչյուր խմբի տեղական դինամիկ միջակայքը գոյատևի: A16-ը ակտիվացման ճշգրտությունն է. արժեքները, որոնք հոսում են շերտերի միջև եզրակացության ժամանակ, մնում են 16 բիթում: Կշիռները սեղմվում են. թվաբանությունը՝ ոչ:

Այդ երկրորդ կեսը կատարում է լուռ, կարևոր աշխատանք: Ակտիվացումները շատ ավելի դժվար է քվանտացնել, քան կշիռները. դրանք պարունակում են ծայրահեղ արտառոց ալիքներ — մի քանի չափում, որոնց մեծությունը ստվերում է ամեն ինչ մյուսը և կրում է մոդելի վարքագծի անհամաչափ մասնաբաժինը: Հրեք դրանք ցածր ճշգրտության, և հենց այն ազդանշանն եք կտրում, որն անհրաժեշտ էր: Միայն-կշիռ սխեմաները շրջանցում են խնդիրը՝ ակտիվացման ուղին անձեռնմխելի թողնելով, ինչի պատճառով լուրջ քվանտացման աշխատանքը հենվել է դրանց վրա:

Այսպիսով գործնական հարցը նեղանում է մեկ բանի. քանի՞ բիթ կարող է հանդուրժել կշիռը:

05W8A16 ընդդեմ W4A16 ընդդեմ 3-բիթի. որտե՞ղ է իրականում գնում կորուստը

Այս ուղղությամբ ամենամեծ հրապարակված ուսումնասիրությունը Neural Magic-ի և Red Hat-ի «Give Me BF16 or Give Me Death»? Accuracy-Performance Trade-Offs in LLM Quantization-ն է — ավելի քան 500,000 գնահատում Llama-3.1 ընտանիքի վրա՝ 8B, 70B և 405B չափերով: Նրանց հիմնական արդյունքը, իրենց թվերով.

ՁևաչափԻնչն է սեղմվածՀայտարարված վերականգնում BF16-ի նկատմամբ
W8A8-FP (8-բիթ)Կշիռներ + ակտիվացումներ, float~99.75% միջին — «գործնականում անկորուստ»
W8A8-INT (8-բիթ)Կշիռներ + ակտիվացումներ, ամբողջ թիվ99–100% 8B/70B-ում. 98.2–99.3% 405B-ում
W4A16-INT (4-բիթ)Միայն կշիռներ98–99.4% (8B). 98.6–99.8% (70B)

Neural Magic / Red Hat-ի հայտարարած թվեր (arXiv:2411.02355) Llama-3.1 մոդելների վրա — փոխանակման ձևը, ոչ թե այս մոդելի արդյունքը:

Անկեղծորեն կարդալիս, դա նման է փաստարկի դեմ հոգ տանելուն. 4-բիթը վերականգնում է 98–99%, ուրեմն ինչու՞ ուշադրություն դարձնել: Որովհետև դրանք ակադեմիական բազմընտրանքային բենչմարկներ են, մոտավորապես քվանտացման վնասը հայտնաբերելու ամենավատ հասանելի գործիքը: Բենչմարկի հարցն ունի մեկ ճիշտ պատասխան, հասանելի մեկ կամ երկու տոկենով, և քվանտացման սխալը փոքր է, մոտավորապես զրո-միջինով աղմուկ յուրաքանչյուր logit-ի վրա. կարճ հարցի վրա՝ լայն մարժինով, այդ աղմուկը կլանվում է:

Հիմա գրեք 4,000 տոկեն տեխնիկական փաստաթղթի, պահեք ձայն 40,000-տոկեն պատմության ընթացքում, կամ արտածեք JSON, որը պետք է վավերացվի առաջին փորձից: Նույն աղմուկը հազարավոր անգամ նմուշառվում է հաջորդաբար, յուրաքանչյուր նմուշ պայմանավորելով հաջորդը: Ձախողման ձևը սխալ պատասխան չէ — դա շեղում է. հրահանգից թուլացող կծկվածքը սկզբից, կերպար, որը 3,000-րդ տոկենի շուրջ դադարում է իր ձայնով հնչել, փակող փակագիծ, որը երբեք չի ժամանում:

Որտե՞ղ են իրականում գնում բիթերը

Քվանտացման սխալը հավասարաչափ չի բաշխվում մոդելի կարողությունների վրա. այն կենտրոնանում է պոչում: Բարձր-զանգվածով վարքագծերը — քերականորեն ճիշտ անգլերենը, Python ֆունկցիայի ձևը, աշխարհի մասին ամենակարևոր հազար փաստերը — կոդավորված են ավելորդաբար բազում կշիռների միջով և գոյատևում են գրեթե ամեն ինչից: Կշիռների բաշխման ճշգրիտ-կարգավորված, փոքր-մեծության անկյունները պահում են հազվադեպ նյութը. անհայտ API-ի ճշգրիտ ստորագրությունը, կոնկրետ հեղինակի ոճը, երկու հարևան CVE-ի տարբերությունը: Դրանք են այն արժեքները, որոնք կոպիտ ցանցը կլորացնում է իրար մեջ:

Քայլը 4 բիթից 3-ի հենց այն է, երբ սա դադարում է հարկ լինել և դառնում է անդունդ: Dettmers-ի և Zettlemoyer-ի k-bit եզրակացության մասշտաբավորման օրենքները հայտնաբերեցին, որ 4-բիթը այն կետն է, որը մեծացնում է zero-shot ճշգրտությունը մեկ բիթ մոդելի հիշողության հաշվով, վատթարացումը գերիշխելով դրանից ցածր: Չորս բիթը տալիս է 16 մակարդակ մեկ խմբի համար. երեքը՝ 8: Դուք կիսում եք արդեն կոպիտ ցանցի լուծաչափը, և կլորացման սխալը մեկ կշռի վրա մոտավորապես կրկնապատկվում է:

256
Մակարդակ մեկ խմբում · 8-բիթ
16
Մակարդակ մեկ խմբում · 4-բիթ
8
Մակարդակ մեկ խմբում · 3-բիթ

Թվաբանությունը, որը որոշում է դա

Համեմատությունը, որն արժե անել, թվաբանական է, ոչ թե բենչմարկային: Ինչը գոյատևում է սեղմումից, մոտավորապես պարամետրեր × բիթեր մեկ պարամետրի համար է — կշիռների ֆայլի տեղեկատվություն-կրող ծավալը: Վերցրեք երկու հիպոթետիկ հիմքային մոդել՝ հավասար որակով մեկ պարամետրի հաշվով.

  • Հիմքային մոդել Ա. 400B պարամետր 3 բիթում → մոտավորապես 150 ԳԲ պահպանված կշիռ:
  • Հիմքային մոդել Բ. 160B պարամետր 8 բիթում → մոտավորապես 160 ԳԲ պահպանված կշիռ:

Հում պարամետրերի քանակով Ա-ն հաղթում է երկուսուկեսով մեկի հանդեպ — թիվը, որով մոդելային քարտը սկսվում է: Պահպանված տեղեկատվությամբ նրանք համարժեք են, և Բ-ն ունի կառուցվածքային առավելություն նաև. նրա կշիռները նստած են բավականաչափ նուրբ ցանցի վրա, որ նրա պոչային վարքագիծը անձեռնմխելի է, մինչդեռ Ա-ի պոչը քվանտացվել է ընդհանուր զանգվածի մեջ: Ա-ն ավելի շատ բան գիտի. Բ-ն ավելի սուր գիտի, թե ինչ գիտի: Երկար գեներացիայի, ճշգրիտ ձևաչափման, ոճային վերահսկողության և հավատարիմ երկար-համատեքստի հետևման համար ընտրեք Բ-ն:

Պատկերազարդող թվաբանություն, ոչ թե բենչմարկ. այն ցույց է տալիս, թե ինչու են «ավելի մեծ հիմքային մոդել» և «ավելի լավ մատուցվող մոդել» տարբեր հայտարարություններ:

06Ինչու են 27 տրիլիոն վարժեցման տոկենները ագրեսիվ քվանտացումն ավելի վատացնում

Երկրորդ, ավելի քիչ ինտուիտիվ արդյունքն ուղղակիորեն վերաբերում է այս հիմքային մոդելին: Kumar-ի և գործընկերների ICLR 2025 հոդվածը՝ Scaling Laws for Precision, հայտնաբերում է, որ որքան ավելի շատ տվյալների վրա է վարժեցվել մոդելը, այնքան ավելի շատ վնաս է հասցնում դրան հետվարժեցման քվանտացումը: Ցածր ճշգրտությունը նվազեցնում է մոդելի արդյունավետ պարամետրերի քանակը, և այդ վատթարացումն աճում է կլանված նախավարժեցման տվյալների հետ — բավականաչափ, որ լրացուցիչ նախավարժեցման տվյալները կարող են զուտ վնասակար լինել, եթե մտադիր եք ագրեսիվ քվանտացնել, քանի որ դուք դնում եք նուրբ կառուցվածք, որը ցանցը կջնջի:

5T տոկենի վրա վարժեցված մոդելն ունի կոպիտ, ավելորդ կշիռների կառուցվածք և պահուստ: 27T տոկենի վրա վարժեցված մոդելը — MiMo-V2.5-Pro-ի բյուջեն — ծախսեց այդ լրացուցիչ տվյալները՝ ավելի նուրբ տարբերություններ գրելով ավելի ճշգրիտ կշիռների արժեքների մեջ, ինչը հենց այն է, ինչ 3-բիթանոց ցանցը չի կարող ներկայացնել:

Ապա կա FP8 փաստը 03 բաժնից, այս հոդվածի ամենամաքուր փաստարկը: MiMo-V2.5-Pro-ն նախավարժեցվել է FP8 խառը ճշգրտությամբ: Նրա կշիռները սկզբից ձևավորվել են օպտիմիզատորով, որն աշխատում էր մոտավորապես ութ բիթ ճշգրտությամբ: Հետևաբար այն 8-բիթանոց կշիռներով մատուցելը կորստաբեր հետագա մտածում չէ, պարտադրված 16-բիթանոց մոդելին — դա մոտ է կշիռները հենց այն թվային ռեժիմին վերադարձնելուն, որում դրանք սովորվել են: Ութերորդ բիթից ցածր քիչ նուրբ կառուցվածք կա կորցնելու: Նույնը չի կարելի ասել այն կշիռների մասին, որոնք ստիպողաբար իջեցվում են երեքի:

07REAP. ինչու է էքսպերտների կրճատումը կլորացումից տարբեր տեսակի կորուստ

Երեք մակարդակներից երկուսը կրում են REAP վերջածանց — կատեգորիապես տարբեր գործողություն, քան քվանտացումը: REAP-ը (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) մեկանգամյա սեղմում է հազվաբեր MoE մոդելների համար. այն գնահատում է յուրաքանչյուր էքսպերտ երթուղիչի gate արժեքներով և էքսպերտի ակտիվացման նորմով, ապա ջնջում է ամենացածր գնահատականները: Cerebras-ը հայտնում է գրեթե-անկորուստ արդյունքների մասին կոդի գեներացիայում և գործիքի կանչում, նույնիսկ 50% էքսպերտների կրճատվածության դեպքում:

Մենք REAP օգտագործում ենք հենց այն պատճառով, որի համար այն գոյություն ունի. ամենամեծ հիմքային մոդելների վրա հենց դա է դրանք մատուցելի դարձնում: Բայց նկատեք տեսակի տարբերությունը: Քվանտացումը մի փոքր մշուշում է ամեն կշիռ. կրճատումն ամբողջությամբ հեռացնում է էքսպերտներ: Եթե ձեր բեռը մեծապես երթուղավորվում է դեպի կարողություն, որն ապրում էր հազվադեպ ընտրվող էքսպերտում — մի փոքր ծրագրավորման լեզու, մասնագիտացված բառապաշար — այն վատացած չէ: Այն գնացել է, և ոչ մի հուշում այն չի վերականգնում: Միջինները մնում են գերազանց. ձեր պոչային դեպքը՝ գուցե ոչ:

MiMo-V2.5-Pro · W8A16-ը REAP վերջածանց չի կրում: Բոլոր 384 էքսպերտները առկա են, և երթուղիչն ընտրում է ամբողջական հավաքածուից, որով հիմքային մոդելը վարժեցվել է:

ՄակարդակԿշիռի բիթԷքսպերտներԻնչ եք փոխանակում
W8A168Բոլորն առկաՈչինչ կառուցվածքային: Հավատարմության մակարդակը:
W4A16-AUTOROUND-REAP4ԿրճատվածԿշիռի նուրբ մանրամասն գումարած ցածր-երթևեկության էքսպերտներ, նույն գնային միջակայքում շատ ավելի մեծ հիմքային մոդելի փոխարեն:
3BIT-REAP3ԿրճատվածԷական կշիռի լուծաչափ գումարած ցածր-երթևեկության էքսպերտներ — ամենամեծ հիմքային մոդելները արագությամբ գործարկելու գինը:

Միջին մակարդակն արժանի է արդար լսման: AutoRound-ը միամիտ կլորացում չէ. Intel-ի մեթոդը (arXiv:2309.05516) օգտագործում է նշանավոր գրադիենտի իջեցում մոտավորապես 200 քայլով՝ կլորացման որոշումներն ու կտրման միջակայքը կարգավորելու մեկ կշիռի խմբի համար, և հայտարարվում է որպես գրեթե-անկորուստ 4 բիթում մեծ մասի կարգավորումների ներքո, գերազանցելով GPTQ-ին, AWQ-ին, HQQ-ին և OmniQuant-ին թեստավորված կոնֆիգուրացիաների մեծ մասում: W4A16-AUTOROUND մոդելը իսկապես լավ 4-բիթանոց մոդել է: Այն դեռ 4-բիթանոց մոդել է:

08Ո՞վ պետք է ընտրի 8-բիթանոց մակարդակը — և ո՞վ՝ ոչ

MiMo-V2.5-Pro · W8A16-ը գտնվում է ամբողջ կատալոգի ամենացածր գնում — $0.50 մուտք / $2.00 ելք մեկ միլիոն տոկենի համար, նույն միջակայքում, ինչ մուտքային-մակարդակի 4-բիթանոց մոդելները, և մոտավորապես մեկ քառորդը մեր մատուցած ամենաթանկ մոդելի մուտքային գնի: Դուք հավելավճար չեք վճարում հավատարմության համար. դուք ընտրում եք նույն բյուջեի այլ առանցք:

Ընտրեք սա, երբ

  • Ելքի երկարությունն է աշխատանքը: Երկար-ձևի տեխնիկական գրություն, գլուխ-երկարության գեղարվեստական, ամբողջական փաստաթղթավորման անցում — ամեն գեներացված տոկեն է, որտեղ սեղմման աղմուկը կուտակվում է:
  • Ձայնն ու հետևողականությունը կարևոր են: Կերպարային աշխատանք, բրենդի տոն, ռեգիստր, պահված երկար նստաշրջանում: Ոճն ապրում է պոչում, և պոչն է, որ կոպիտ քվանտացումն ուտում է առաջինը:
  • Կառուցվածքային ելքը պետք է վավերացվի առաջին փորձից: Մոդելն աջակցում է json_schema և response_format. սխեմային հավատարմությունը ճշգրտության հատկություն է, և ամեն խուսափված կրկնում խնայված գումար ու հապաղում է:
  • Դուք լցնում եք համատեքստը: Հրահանգին հետևելը 200,000-րդ տոկենում ավելի դժվար է, քան 2,000-րդում, և այն վատթարանում է կշիռի ճշգրտության հետ — ինչպես նաև երկար դատողության հետքը, որտեղ սխալները նույն կերպ կուտակվում են:
  • Աշխատանքն ըստ բնույթի առանց ցենզուրայի է: Անվտանգության հետազոտություն, red-teaming, չզտված գեղարվեստական, զգայուն բժշկական կամ իրավական վերլուծություն — որտեղ վերապահումով պատասխանն ավելի վատ է, քան ոչ մեկը:

Ընտրեք ուրիշ բան, երբ

  • Ձեզ տեսողություն է պետք: Այս մոդելը միայն-տեքստային է. նրա քույր MiMo-V2.5 · W8A16-ը տեսողական հնարավորությամբ է նույն գնով և մակարդակով:
  • Ձեզ պետք է ամենալայն աշխարհի գիտելիքը կարճ հարցումների վրա: Դա ռեժիմն է, որտեղ շատ ավելի մեծ 3-բիթանոց հիմքային մոդելի լրացուցիչ պարամետրերը հաղթում են, և նրա քվանտացման վնասը հազիվ է երևում:
  • Ձեր բեռը մեծածավալ կարճ դասակարգում է: Քվանտացման վնասն այնտեղ գրեթե անտեսանելի է. գնեք այն, ինչն ամենաարագն է:

09Առանց ցենզուրայի MiMo API-ի կանչում

Եթե ձեր կոդն ուղղված է OpenAI SDK-ին, base URL-ի և մոդելի id-ի փոփոխությունն ամբողջ միգրացիան է.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiMo-V2.5-Pro-W8A16",
    "messages": [
      {"role": "user", "content": "Draft the threat model section."}
    ],
    "reasoning_effort": "high",
    "max_tokens": 16384,
    "stream": true
  }'

/v1/messages և /v1/responses-ը ընդունում են նույն id-ն ու հնարավորությունները: Պարամետրերի հղումը, գործիքի-կանչի սխեմաները, կառուցվածքային-ելքի օրինակները և կենդանի փորձադաշտը են Shannon AI API փաստաթղթերում:

ՀնարավորությունMiMo-V2.5-Pro · W8A16
Համատեքստի պատուհան262,144 տոկեն
Առավելագույն ելք մեկ հարցման համար16,384 տոկեն
Հոսքային հաղորդումԱյո — բոլոր երեք բարբառները
Գործիքի կանչԱյո
Դատողություն / reasoning_effortԱյո
json_schema կառուցվածքային ելքԱյո
response_formatԱյո
Տեսողություն / պատկերի մուտքՈչ — օգտագործեք MiMo-V2.5
Մերժման շերտ / ելքի զտիչՉկա
Գին մեկ միլիոն տոկենի համար$0.50 մուտք / $2.00 ելք
Ստուգեք աղբյուրները

Այստեղի յուրաքանչյուր արտաքին թիվ հրապարակված է ինչ-որ մեկի կողմից, բացի մեզանից, և վկայակոչված է տեքստում: Քվանտացման վերականգնման արդյունքները գալիս են Llama-ընտանիքի ուսումնասիրություններից. դրանք նկարագրում են փոխանակման ձևը, ոչ թե այս մոդելի արդյունքները:

10Հաճախ տրվող հարցեր

Ի՞նչ է առանց ցենզուրայի MiMo API-ն:

Shannon AI-ի վերջնակետը MiMo-V2.5-Pro-ի համար՝ Xiaomi-ի բաց-կշիռներով Mixture-of-Experts մոդել, մատուցվող մեր սեփական GPU կլաստերի վրա՝ առանց մերժման շերտի և առանց ելքի զտման: Այն հասանելի է /v1/chat/completions, /v1/messages և /v1/responses միջոցով, 262,144-տոկեն համատեքստով և 16,384 ելքային տոկենով մեկ հարցման համար:

Ի՞նչ է նշանակում W8A16, և ինչու՞ է դա կարևոր:

W8A16-ը նշանակում է, որ կշիռները պահվում են 8 բիթով յուրաքանչյուրը, մինչդեռ ակտիվացումները հաշվարկվում են 16 բիթում: Դա մեր կատալոգի ամենաբարձր-հավատարմության քվանտացման մակարդակն է: Հրապարակված ուսումնասիրությունները ցույց են տալիս, որ միայն-կշիռ 8-բիթանոց ձևաչափերը վերականգնում են բնօրինակ մոդելի ճշգրտության գրեթե ամբողջությունը, մինչդեռ 4-բիթը հավատարմության փոքր մասնաբաժին է փոխանակում հիշողության դիմաց, իսկ 3-բիթը՝ էական մասնաբաժին:

Կարո՞ղ է 8-բիթանոց ավելի փոքր մոդելը գերազանցել 3-բիթանոց ավելի մեծ մոդելին:

Հաճախ՝ այո: Ինչը գոյատևում է սեղմումից, մոտավորապես պարամետրերի քանակն է՝ բազմապատկած մեկ պարամետրի բիթերով, և քվանտացման սխալը կենտրոնանում է հազվադեպ, պոչային վարքագծի մեջ: 8 բիթում պահվող մոդելը պահպանում է իր երկար-ձևի համահունչությունը, ճշգրիտ ձևաչափումը և պոչային գիտելիքը. 3 բիթի սեղմված ավելի մեծ մոդելը պահպանում է իր լայն բենչմարկային արդյունքները, բայց կորցնում է այդ հատկությունները:

MiMo-V2.5-Pro-ն աջակցու՞մ է տեսողություն կամ պատկերի մուտքագրում:

Ոչ: MiMo-V2.5-Pro-ն Shannon AI-ում միայն-տեքստային է: Այն աջակցում է գործիքի կանչ, դատողություն reasoning_effort-ով, JSON-schema կառուցվածքային արտածում և response_format: Եթե ձեզ պատկերի մուտք է պետք, օգտագործեք քույր մոդել MiMo-V2.5 W8A16-ը, որը տեսողական հնարավորությամբ է նույն գնով:

Ինչքա՞ն արժե առանց ցենզուրայի MiMo API-ն:

$0.50 մեկ միլիոն մուտքային տոկենի համար և $2.00 մեկ միլիոն ելքային տոկենի համար: Դա Shannon AI կատալոգի ամենացածր գինն է, ինչը MiMo-V2.5-Pro-ն դարձնում է 8-բիթանոց հավատարմություն գնելու ամենաէժան ձևը այս դարպասում:

Փորձեք առանց ցենզուրայի MiMo API-ն

Ութ-բիթանոց հավատարմություն, 262K համատեքստ, առանց մերժման շերտի — կատալոգի ամենացածր գնով:

Կարդալ API փաստաթղթերը Դիտել բոլոր մոդելները

Գործում է Shannon AI Պատասխանատու օգտագործման քաղաքականության ներքո


Աղբյուրներ. MiMo տեխնիկական հաշվետվություն, arXiv:2505.07608 · MiMo-V2.5-Pro մոդելային քարտ (Xiaomi) · «Give Me BF16 or Give Me Death»?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · k-bit եզրակացության մասշտաբավորման օրենքներ, arXiv:2212.09720 · Scaling Laws for Precision, Kumar et al., ICLR 2025: Բոլոր բենչմարկային թվերը հայտարարված են իրենց հեղինակների կողմից: Shannon AI-ն Shannon Lab LLC-ի արտադրանք է, Նյու Մեքսիկո, ԱՄՆ:

Բոլոր հետազոտական հղումները