ብዘይ ሳንሱር MiMo API ብ8-ቢት ተኣማንነት

መብዛሕትኦም ካታሎጋት ቁጽሪ ፓራሜተር እዮም ዝሸጡልካ። እዚ ግና ብዘይ ግቡእ ቁጽሪ እዩ፡ ምኽንያቱ ነፍስ ወከፍ ዓቢ ክፉት ክብደታት ሞዴል ክትከፍሎ እትኽእል፡ ንኸተእትዎ ተጨሚቑ እዩ። እቲ ሓቀኛ ሕቶ "እዚ ቅድሚ ምጭባጡ ክንደይ ዓቢ ነይሩ፧" ዘይኮነስ "ክንደይ ካብኡ ገና ኣብዚ ኣሎ፧" እዩ። እዛ ጽሕፍቲ ብዛዕባ እዚ ሕቶ እያ፡ ከምኡ’ውን ብዛዕባ እቲ ኣብ ዝርዝርና ዘሎ ሞዴል፡ እቲ መልሲ ዳርጋ ኩሉ ዝኾነሉ።

01ብዘይ ሳንሱር MiMo API ብሓቂ እንታይ ይህበካ

እቲ ብዘይ ሳንሱር MiMo API ሓደ መለለዪ ሞዴል እዩ፡ MiMo-V2.5-Pro-W8A16፡ ብሰለስተ ቋንቋታት ኣቢሉ ዝርከብ፡ ንተመሳሳሊ ክብደታት ኣብ ናይ ገዛእ ርእስና ክላስተር GPU ዘመልክቱ፦ /v1/chat/completions፡ /v1/messages ከምኡ’ውን /v1/responses። ሰለስቲኦም ይፈስሱ (ስትሪሚንግ) ከምኡ’ውን tool calling ን ኣተሓሳስባን ይድግፉ።

ብዘይ ሳንሱር ኣብዚ ጸቢብ ትርጉም ኣለዎ፦ ኣብ ቅድሚ ሞዴል ሽፋን ምንጻግ የልቦን፡ ኣብ ውጽኢቱ እውን መጽረዪ የልቦን። ንሕና ኣይንዓግትን፡ ኣይንመድብን፡ ወይ ብሓድሽ ኣይንጽሕፍን። እቲ ናይ ገዛእ ፎውንደሽን ባህርያት እዩ ትረኽብ ዘለኻ — እዚ ድማ ንሓደ ናይ ምርምር-ደረጃ ክፉት ክብደታት ሞዴል፡ ምስ መጽናዕቲ ጸጥታ፡ ናይ ዓበይቲ ወይ ዓመጻዊ ልብ ወለድ፡ ሕክምናዊን ሕጋዊን ኣተሓሳስባ፡ ከምኡ’ውን በቲ ዝተኣንገዱ ንግዳዊ መወዳእታታት ብልማዳዊ ግብረ-መልሲ ዝነጽግዎም ሕቶታት ይሳተፍ ማለት እዩ። ትሕቲ ናትና ፖሊሲ ሓላፍነታዊ ኣጠቓቕማ ዝርከብ ሞያዊ መሳርሒ እዩ፡ ዘይምህላው ሕግታት ግና ኣይኮነን።

02ስድራ MiMo፦ ውርርድ Xiaomi ኣብ ኣተሓሳስባ-ቀዳምነት ቅድመ-ስልጠና

MiMo ሓድሽ ስም ዝተዋህቦ ልደት Llama ኣይኮነን፤ ፍሉይ ስድራ ካብ ጋንታ MiMo ናይ Xiaomi እዩ፡ እታ መበቆላዊት ሓሳቡ ድማ ቅድሚ እቲ ሞዴል ምግምጋምካ ትፈልጥ። ብMiMo-7B (30 ሚያዝያ 2025፡ ብፍቓድ MIT) እዩ ዝጅምር፡ እቲ ናይ ቴክኒክ ጸብጻቡ ድማ መብዛሕትኦም ላቦራቶሪታት ኣተሓሳስባ ከም ድሕሪ-ስልጠና ጸገም ብRL ተወሲኹ ዝፍታሕ ገይሮም ይርእይዎ ይብል፡ እዚ ድማ ግልቢጥ እዩ ይብል። Xiaomi ኣብ ክንድኡ ቅድመ-ስልጠና ዳግማይ ኣዋደዶ፦ ሰለስተ-ደረጃ ቅልቅል ኣብ ልዕሊ 25 ትሪልዮን ቶክን፡ ደረጃ ክልተ ብግምት 70% ሓሳብ-ትምህርትን ኮድን ዘካየደ፡ ደረጃ ሰለስተ ድማ ሰብ-ሰርሖም ኣሰር ኣተሓሳስባ ብምእታው ኮንተክስት ካብ 8K ናብ 32K ዘስፍሕ — ብተወሳኺ Multi-Token Prediction ዕላማ፡ ከም ርእሲ ግምታዊ ዲኮዲንግ እውን ዘገልግል።

እቲ ውጽኢት ልክዕ ከም ካብኡ ብዙሕ ዝዓበየ ዝጠቅም 7B መሰረታዊ ሞዴል ነበረ። MiMo-7B-Base ኣብ AIME 2024 32.9 ነጥቢ ኣመዝገበ፡ Qwen2.5-7B ግና 10.1፡ Gemma-2-9B 0.0፡ Llama-3.1-8B ድማ 0.3 ኣመዝገቡ። ድሕሪ-ስልጠና ድማ RL ኣብ ልዕሊ 130,000 ዝረጋገጹ ናይ ሓሳብ-ትምህርትን ኮድን ጸገማት ብፈተነ-ጽንኩርነት ዝምራሕ ኣስገባ ኮድ ኣካየደ፡ ነቲ ናይ ሓጺር-ኣስገባ ንፈት ኮድ RL ዘይምርግጋእ ዘምጽእ ጻዕዲ ድማ ሓለፎ። እቲ ውጽኢት ካብ o1-mini ቀዲሙ ቀመጠ፦

AIME 2025፡ ካብ ናይ Xiaomi ናይ ቴክኒክ ጸብጻብ MiMo (arXiv:2505.07608) ዝወጹ ኣሃዝ ጸብጺቡ Xiaomi። MiMo-7B-RL እውን 95.8 ኣብ MATH-500ን 57.8 ኣብ LiveCodeBench v5ን ኣመዝጊቡ ጸብጺቡ።

እታ ስድራ ኣብ ክንዲ ዝወልወለት ሰፍሔት፦ MiMo-VL-7B (ሰነ 2025) ኣብ ተመሳሳሊ ባይታ ኢንኮደር Qwen2.5-ViT ወሰኸ፡ ታሕሳስ 2025 ድማ MiMo-Audio-7Bን ቀዳመይቲ ኣቶታ MoE MiMo-V2-Flashን (309B ጠቕላላ / 15B ንጡፍ፡ 27T ቶክን፡ FP8 ቅልቅል ልክዕነት) ኣምጽአት። MiMo-V2-Pro ድማ ኣብ ወርሒ መጋቢት 2026 ብግምት 1T / 42B ንጡፍ ምስ 1M ኮንተክስት ስዒቡ፡ ድሕሪ ሰሙናት ኣብ OpenRouter ከም "Hunter Alpha" ምዃኑ። MiMo-V2.5ን MiMo-V2.5-Proን ብሓባር ኣብ 22 ሚያዝያ 2026 ወጹ፡ ክልቲኦም ብMIT።

03ኣብ ውሽጢ MiMo-V2.5-Pro፦ እቲ ፎውንደሽን ከመይ ይመስል

ብመሰረት እቲ Xiaomi ዘውጽኦ ካርድ ሞዴል፡ MiMo-V2.5-Pro ሓደ ሓጺር Mixture-of-Experts ሞዴል ኮይኑ፡ 1.02 ትሪልዮን ጠቕላላ ፓራሜተርን 42 ቢልዮን ንጡፍ ንነፍስ ወከፍ ቶክንን ኣብ ልዕሊ 70 ንብርታት ኣለዎ — ሓደ ጥቡቕ፡ 69 MoE — ከምኡ’ውን 384 ዝተመርሑ ክኢላታት፡ 8 ንነፍስ ወከፍ ቶክን። ስፍሓት ተኣቲ 6144 ኮይኑ፡ ጸቢብ ማእከላይ ስፍሓት MoE ድማ 2048 እዩ።

ክልተ ምርጫታት ከመይ ከምዝስምዓካ ኣብ ኣጠቓቕማ ይቐርጹ። እቲ ቁልል ኣቓልቦ ሕዉስ እዩ፦ 10 ንብርታት ምሉእ-ኣቓልቦን 60 ንብርታት ናይ ተንሸራታች-መስኮትን ብ128 ስፍሓት፡ ብተወሳኺ ዝመሃር ኣንፈት ናይ ኣቓልቦ-መጽንቆቒ። Xiaomi ከምዝሕብሮ እዚ ኣብ ንጽጽር ምስ ምሉእ-ዓለማዊ ኣቓልቦ ናይ ኣቀማምጣ KV-cache ናብ ቁርበት 7 ዕጽፊ ይንክይ፡ ኣብ ግዜኡ ድማ ናይ ነዊሕ-ኮንተክስት ጽሬት ይሕሎ — እቲ ፍልልይ ኣብ መንጎ ብስም ጥራይ ነዊሕ መስኮትን ክትመልኦ እትኽእል መስኮትን። ብተወሳኺ ሰለስተ ንብርታት Multi-Token Prediction ኣለዎ፡ ንዲኮደር ግምታዊ ርእሲ ይህቦ።

እቲ ስልጠና 27 ትሪልዮን ቶክን ብዓቕሚ ትውልዲ ተኸታታሊ ንውሓት 32K ብFP8 (E4M3) ቅልቅል ልክዕነት ኮይኑ፡ ድሕሪኡ ድማ ተቖጻጻሪ ምጽራይ፡ ዓቢ-መጠን ኤጀንቲክ RL ከምኡ’ውን ብዙሕ-መምህር on-policy distillation ተኸቲሉ። ነታ ናይ FP8 ዝርዝር ሓዛ፤ እታ ንምቕራብ እዚ ፎውንደሽን ብ8 ቢት ትድግፍ ዝያዳ ኩለን ጭቡጥ መጐተ እያ።

Xiaomi ነቲ ሞዴል ብ57.2% ኣብ SWE-bench Pro፡ 72.9 ኣብ τ3-Bench ንኣጠቓቕማ tool ከምኡ’ውን 48.0% ኣብ Humanity's Last Exam ከምዘመዝገበ ይሕብር — ናይ ኣቕራቢ ገዛእ ርእሱ ኣሃዝ ኣብቲ ዘይተጨመቐ ሞዴል፡ ከምኡ ኮይኑ ተጠቒሱ።

ንሕና 262,144-ቶክን መስኮት ኢና ነገልግል፡ ነቲ ምሉእ 1M ናይቲ ፎውንደሽን ኣይኮነን — ብቅልጣፈ ከነውሕሶ እንኽእል ኮንተክስት፡ ኣብ ትሕቲ ጾር ዝድኮም ናይ ኣርእስቲ ቁጽሪ ዘይኮነስ።

04W8A16 ብልክዕ እንታይ ማለት እዩ

ነፍስ ወከፍ ሞዴል ኣብዚ ካታሎግ ናይ ዝተጨመቐ ህንጻ መልቀሚ ስም ዝሓዘ እዩ፡ ንሓቀኛን ክልካዕን ለውጢ ዝገልጽ እምበር ናይ ዕዳጋ ደረጃ ኣይኮነን። ናትና 3BIT-REAP፡ W4A16-AUTOROUND-REAPን W8A16ን እዮም። MiMo-V2.5-Pro እቲ ሳልሳይ እዩ።

እቲ ኣጻሓሓፍ ናብ ክልተ ይምቀል። W8 ልክዕነት ክብደት እዩ፦ ነፍስ ወከፍ ፓራሜተር ኣብ ክንዲ 16-ቢት ፍሎት፡ ከም 8-ቢት ኢንተጀር ተዓቚቡ፡ ንነፍስ ወከፍ ንእሽቶ ጕጅለ ድማ ሓባራዊ ረቛሒ ስፍሓት ኣለዎ፡ ስለዚ ናይ ነፍስ ወከፍ ጕጅለ ከባቢያዊ ተንቀሳቓሲ ስፍሓት ይድሕን። A16 ልክዕነት ኣክቲቬሽን እዩ፦ ኣብ መንጎ ንብርታት ኣብ ኢንፈረንስ ዝውሕዙ ዋጋታት ኣብ 16 ቢት ይተርፉ። ክብደታት ይጭመቑ፤ እቲ ስሌት ግና ኣይጭመቕን።

እቲ ካልኣይ ፍርቂ ስቕ ኢሉ ኣገዳሲ ስራሕ ይሰርሕ። ኣክቲቬሽናት ካብ ክብደታት ንምጭማቕ ኣዝዮም ከበድቲ እዮም፦ ኣዝዮም ወጻእቲ ጎደናታት ይሕዙ — ውሑዳት ኣቕጣጫታት ዓቐኖም ንኹሉ ካልእ ዝሓልፍ፡ ካብቲ ባህርያት ናይቲ ሞዴል ዘይተመጣጠነ ግደ ድማ ዝጽውር። ንዓኦም ናብ ትሑት ልክዕነት ደፊእካ፡ ልክዕ ነቲ ዘድልየካ ምልክት ትቖርጾ። እቲ ናይ ክብደት-ጥራይ ኣገባብ ነቲ ናይ ኣክቲቬሽን መንገዲ ብዘይምትንካፍ ነቲ ጸገም ይሓልፎ፡ ስለዚ እዩ ከቢድ ናይ ጭመቓ ስራሕ ናብኡ ዝራኸብ።

ስለዚ እቲ ግብራዊ ሕቶ ናብ ሓደ ነገር ይጽበብ፦ ክንደይ ውሑድ ቢት እዩ ሓደ ክብደት ክጻወሮ ዝኽእል፧

05W8A16 ኣንጻር W4A16 ኣንጻር 3-ቢት፦ እቲ ክሳራ ብሓቂ ናበይ ይኸይድ

እቲ ዝዓበየ ኣብዚ ዝወጸ መጽናዕቲ ናይ Neural Magicን Red Hatን "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization ኮይኑ — ልዕሊ 500,000 ግምገማታት ኣብ ስድራ Llama-3.1 ብ8B፡ 70Bን 405Bን። እቲ ቀንዲ ውጽኢቶም፡ ብናቶም ኣሃዝ፦

ቅርጺ	እንታይ ተጨሚቑ	ጸብጻብ ተመላሲ ኣንጻር BF16
W8A8-FP (8-ቢት)	ክብደታትን ኣክቲቬሽንን፡ ፍሎት	~99.75% ማእከላይ — "ብመሰረቱ ብዘይ ክሳራ"
W8A8-INT (8-ቢት)	ክብደታትን ኣክቲቬሽንን፡ ኢንተጀር	99–100% ኣብ 8B/70B፣ 98.2–99.3% ኣብ 405B
W4A16-INT (4-ቢት)	ክብደታት ጥራይ	98–99.4% (8B)፣ 98.6–99.8% (70B)

ኣሃዝ ብNeural Magic / Red Hat (arXiv:2411.02355) ኣብ ሞዴላት Llama-3.1 ተጸብጺቡ — ቅርጺ እቲ ልውውጥ እዩ፡ ናይዚ ሞዴል ውጽኢት ኣይኮነን።

ብቕንዕና እንተረኣኻዮ፡ እዚ ናይ ዘየገድስ መጐተ ይመስል፦ 4-ቢት 98–99% ይምለስ፡ ስለምንታይ ደኣ ኣቓልቦ ንህብ፧ ምኽንያቱ እዞም ኣካዳሚያዊ ብዙሓት-ምርጫ ቤንችማርክ እዮም፡ ካብቶም ንጉድኣት ጭመቓ ንምልላይ ዘለዉ መሳርሒታት ኣዝዮም ዝገደዱ። ናይ ቤንችማርክ ሕቶ ብሓደ ወይ ክልተ ቶክን ክብጻሕ ዝኽእል ሓደ ቅኑዕ መልሲ ኣለዎ፡ ናይ ጭመቓ ጌጋ ድማ ንእሽቶ፡ ኣብ ነፍስ ወከፍ ሎጂት ብግምት ዜሮ-ማእከል ረብሻ እዩ፤ ኣብ ሓጺር ሕቶ ምስ ሰፊሕ ኅድግ፡ እቲ ረብሻ ይምጠጥ።

ሕጂ 4,000 ቶክን ናይ ቴክኒካዊ ሰነድ ጻሓፍ፡ ወይ ኣብ ልዕሊ 40,000-ቶክን ዛንታ ድምጺ ሓዝ፡ ወይ ካብ ቀዳማይ ፈተነ ዝምስክር JSON ኣውጽእ። እቲ ተመሳሳሊ ረብሻ ብኣሽሓት ግዜ ብቐደም ስዓብ ይንመ፡ ነፍስ ወከፍ ናሙና ድማ ነቲ ዝቕጽል ይቕርጽ። እቲ ዓይነት ውድቀት ጌጋ መልሲ ኣይኮነን — ምዝንባል እዩ፦ ካብ ቀዳማይ ርክብ ዝጅምር ምልቕቓቕ ናይ ትእዛዝ ሓደራ፡ ኣብ ከባቢ ቶክን 3,000 ልክዕ ንባዕሉ ምስማዕ ዘቋርጽ ገጸ-ባህርይ፡ ፈጺሙ ዘይመጽእ ናይ መዕጸዊ ጽፍርታት።

እቶም ቢታት ብሓቂ ናበይ ይኸዱ

ናይ ጭመቓ ጌጋ ኣብ ልዕሊ ክእለታት ሞዴል ብማዕረ ኣይዝርጋሕን፤ ኣብቲ ጭራ ይእከብ። ላዕለዋይ-ብዝሒ ባህርያት — ናይ ሰዋስው እንግሊዘኛ፡ ቅርጺ ናይ ፋንክሽን Python፡ እቲ ኣብ ልዕሊ ዓለም ዘሎ ላዕለዋይ ሽሕ ሓቅታት — ብተደጋጋሚ ኣብ ልዕሊ ብዙሓት ክብደታት ተመስጢሮም ካብ ዳርጋ ኩሉ ነገር ይድሕኑ። እቶም ብልክዕ ዝተስተኻኸሉ፡ ንኡስ-መጠን ኩርናዓት ናይቲ ምዝርጋሕ ክብደት ነቲ ሳሕቲ ዝርከብ ነገር ይሕዙ፦ ልክዕ ፊርማ ናይ ሓደ ዘይፍለጥ API፡ ናይ ሓደ ፍሉይ ደራሲ ወግዒ፡ ፍልልይ ኣብ መንጎ ክልተ ዘቕንዖም CVE። እዚኣቶም እቶም ሓደ ሓያል ፍርግርግ ናብ ሓደ ዝገብሮም ዋጋታት እዮም።

ካብ 4 ቢት ናብ 3 ምስግጋር እቲ ግብሪ ካብ ምዃኑ ናብ መንደል ይልወጥ። ናይ Dettmers ን Zettlemoyer ን k-bit inference scaling laws፡ 4-ቢት ንነፍስ ወከፍ ቢት ናይ ተዘክሮ ሞዴል ናይ zero-shot ልክዕነት ዝልዕል ነጥቢ ምዃኑ ረኺቦም፡ ትሕቲኡ ድማ ምድኻም ይዕብልል። ኣርባዕተ ቢት 16 ደረጃታት ንነፍስ ወከፍ ጕጅለ ይህብ፤ ሰለስተ ድማ 8። ትፍትሕ ናይ ሓደ ድሮ ሓያል ፍርግርግ ጭቡጥነት ብፍርቂ፡ ናይ ነፍስ ወከፍ ክብደት ዙርያ ዝበለ ጌጋ ድማ ብግምት ይድብል።

እቲ ስሌት ዝውስኖ

እቲ ክግበር ዝግብኦ ንጽጽር ስሌት እዩ፡ ቤንችማርክ ኣይኮነን። ካብ ጭመቓ ዝድሕን ብግምት ፓራሜተር × ቢት ንነፍስ ወከፍ ፓራሜተር እዩ — እቲ ሓበሬታ ዝጾር ዓቐን ናይቲ ፋይል ክብደት። ክልተ ግምታዊ ፎውንደሽናት ማዕረ ጽሬት ንነፍስ ወከፍ ፓራሜተር ሓስብ፦

• ፎውንደሽን A፦ 400B ፓራሜተር ብ3 ቢት → ብግምት 150 GB ዝተሓዘ ክብደት።
• ፎውንደሽን B፦ 160B ፓራሜተር ብ8 ቢት → ብግምት 160 GB ዝተሓዘ ክብደት።

ብጥረ ቁጽሪ ፓራሜተር፡ A ብክልተን ፈረቓን ናብ ሓደ ይስዕር — እቲ ካርድ ሞዴል ዝጅምረሉ ቁጽሪ። ብዝተሓዘ ሓበሬታ ግና ማዕረ እዮም፡ B ድማ ብተወሳኺ ቅርጻዊ ብልጫ ኣለዎ፦ ክብደታቱ ኣብ ልዕሊ ብቑዕ ፍርግርግ ዝቕመጡ ኮይኖም፡ ናይ ጭራ ባህርያቱ ኣይተተንከፉን፡ ናይ A ጭራ ግና ናብቲ ሓፈሻ ተጨሚቑ ጠፊኡ። A ብዙሕ ነገራት ይፈልጥ፤ B ግና ንዝፈልጦ ብዝበለጸ ብንጹር ይፈልጥ። ንነዊሕ ምፍራይ፡ ልክዕ ቅርጺ፡ ቁጽጽር ስልትን ተኣማንነት ናይ ነዊሕ-ኮንተክስት ተኣዛዝነትን፡ ንB ምረጽ።

መብርሂ ስሌት እዩ፡ ቤንችማርክ ኣይኮነን፦ "ዝዓበየ ፎውንደሽን" ን "ዝሓሸ ዝቐረበ ሞዴል"ን ፍልይቲ ዕግበታት ምዃኖም የርኢ።

0627 ትሪልዮን ናይ ስልጠና ቶክናት ንመዓጋቲ ጭመቓ ስለምንታይ ዝኸፍእ ዝገብሮ

ካልኣይ፡ ብቐሊሉ ዘይርአ ውጽኢት ብቐጥታ ኣብዚ ፎውንደሽን ይምልከት። ጽሑፍ Kumar et al. ICLR 2025 Scaling Laws for Precision ከምዝረኸቦ፡ እቲ ሞዴል ብዝበዝሐ መጠን ተሰልጢንሉ፡ ብዝያዳ ድሕሪ-ስልጠና ጭመቓ ጉድኣት የውርደሉ። ትሑት ልክዕነት ናይ ሞዴል ውጽኢታዊ ቁጽሪ ፓራሜተር የንኪ፡ እቲ ምድኻም ድማ ምስቲ ዝተመጠጠ ናይ ቅድመ-ስልጠና ሓበሬታ ይዓቢ — ክሳብ ተወሳኺ ናይ ቅድመ-ስልጠና ሓበሬታ ብዓቢ ጎድናዊ ጎዳኢ ክኸውን ዝኽእል፡ ብመዓጋቲ ክትጭምቕ ትሓስብ እንተኾንካ፡ ምኽንያቱ እቲ ፍርግርግ ክድምስሶ ዝኽእል ጽቡቕ ቅርጺ ኢኻ ተንብር ዘለኻ።

ኣብ 5T ቶክን ዝሰልጠነ ሞዴል ሓያል፡ ተደጋጋሚ ቅርጺ ክብደትን ተወሳኺ ነጻነትን ኣለዎ። ኣብ 27T ቶክን ዝሰልጠነ ሞዴል — በጀት MiMo-V2.5-Pro — ነቲ ተወሳኺ ሓበሬታ ተጠቒሙ ዝቐልጠፉ ፍልልያት ናብ ዝያዳ ልክዕ ዋጋታት ክብደት ጽሒፉ፡ እዚ ድማ ልክዕ ሓደ 3-ቢት ፍርግርግ ክውክሎ ዘይክእል እዩ።

ብተወሳኺ ካብ ክፍሊ 03 ዘሎ ሓቂ FP8 ኣሎ፡ እታ ዝጸረየት መጐተ ኣብዛ ጽሕፍቲ። MiMo-V2.5-Pro ብFP8 ቅልቅል ልክዕነት ቅድሚ-ተሰልጢኑ እዩ። ክብደታቱ ካብ መጀመርታ ብኦፕቲማይዘር ብግምት ሸሞንተ ቢት ልክዕነት ዝሰርሕ ተቐሪጾም። ብ8-ቢት ክብደታት ምቕራቡ ስለዚ ዘየድልዮ ናይ ክሳራ ዳሕራይ ሓሳብ ኣብ 16-ቢት ሞዴል ዝተጻዕነ ኣይኮነን — ናብቲ ክብደታት ዝተማህርሉ ናይ ኣሃዝ ስርዓት ናብ ምምላስ ተቐራሪቡ እዩ። ትሕቲ ሻምናይ ቢት ብዙሕ ደቂቕ ቅርጺ ዝጠፍእ የልቦን። ብተመሳሳሊ ንዞም ናብ ሰለስተ ዝድፍኡ ክብደታት ክበሃል ኣይክእልን።

07REAP፦ ምጭራት ክኢላታት ካብ ዙርያ ስለምንታይ ፍልይ ዝበለ ዓይነት ክሳራ ይኸውን

ካብተን ሰለስተ ደረጃታት ክልተ REAP ዝብል መልቀሚ ስም ይሓዛ — ካብ ጭመቓ ብዓይነት ፍልይ ዝበለ ስርሓት። REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) ንሓጺር ሞዴላት MoE ናይ ሓደ-ግዜ ጭመቓ እዩ፦ ንነፍስ ወከፍ ክኢላ ብዋጋታት ኣፍደገ ናይቲ ራውተርን ብመለክዒ ኣክቲቬሽን ናይቲ ክኢላን የመዝግቦ፡ ድሕሪኡ ነቶም ትሑት ነጥቢ ዝረኸቡ ይድምስስ። Cerebras ኣብ ምፍራይ ኮድን tool callingን ዳርጋ ብዘይ ክሳራ ውጽኢት ይጸብጽብ፡ ክሳብ 50% ካብ ክኢላታት ምጭራት እኳ።

ንሕና REAP ንነታ ዘላትሉ ምኽንያት ንጥቀመላ፦ ኣብ ዝዓበዩ ፎውንደሽናት፡ እታ ኣገልጋሊ ትገብሮም እያ። ግናኸ ነቲ ናይ ዓይነት ፍልልይ ኣስተብህል። ጭመቓ ንነፍስ ወከፍ ክብደት ብቕሩብ የደናግር፤ ምጭራት ግና ንክኢላታት ብምሉኡ የልግስ። ስርሓትካ ናብ ሓደ ኣብ ሳሕቲ ዝምረጽ ክኢላ ዝነብር ክእለት ብብዝሒ ዝመርሕ እንተኾይኑ — ንኡስ ናይ ፕሮግራሚንግ ቋንቋ፡ ፍሉይ ቃላት — ኣይተመናጨን። ጠፊኡ እዩ፡ ዝኾነ ፕሮምፕት እውን ኣይምልሶን። እቶም ማእከላይ ውጽኢት ግሩም ይተርፉ፤ እታ ናትካ ናይ ጭራ ኵነታት ግና ኣይትኸውንን ትኸውን።

MiMo-V2.5-Pro · W8A16 ናይ REAP መልቀሚ ስም የብሉን። ኩሎም 384 ክኢላታት ኣለዉ፡ እቲ ራውተር ድማ ካብቲ ምሉእ ጅምላ እቲ ፎውንደሽን ዝተሰልጠነሉ ይመርጽ።

ደረጃ	ቢት ክብደት	ክኢላታት	እንታይ ትልውጥ
W8A16	8	ኩሎም ኣለዉ	ዋላ ሓደ ቅርጻዊ ነገር የለን። እቲ ደረጃ ተኣማንነት።
W4A16-AUTOROUND-REAP	4	ተመንጪቱ	ደቂቕ ናይ ክብደት ዝርዝርን ትሑት-ትራፊክ ክኢላታትን፡ ኣብ ክንዲ ብዙሕ ዝዓበየ ፎውንደሽን ኣብ ተመሳሳሊ ደረጃ ዋጋ።
3BIT-REAP	3	ተመንጪቱ	ዓቢ ናይ ክብደት ጭቡጥነትን ትሑት-ትራፊክ ክኢላታትን — ዋጋ ናይ ምስራሕ ናይቶም ዝዓበዩ ፎውንደሽናት ብቕልጣፈ።

እቲ ማእከላይ ደረጃ ቅኑዕ ግምት ይግብኦ። AutoRound ገርሂ ዙርያ ኣይኮነን፦ ናይ Intel ኣገባብ (arXiv:2309.05516) ብግምት 200 ስጉምትታት ናይ ምልክት-ዘለዎ ግራድየንት ዉራድ ተጠቒሙ ነቲ ናይ ዙርያ ውሳነታትን ናይ ነፍስ ወከፍ ጕጅለ ክብደት ናይ ምቁራጽ ደረትን የስተኻክል፡ ኣብ መብዛሕትኡ ኵነታት ድማ ኣብ 4 ቢት ዳርጋ ብዘይ ክሳራ ተጸብጺቡ፡ ኣብ ልዕሊ መብዛሕትኡ ዝተፈተነ ውቅር ንGPTQ፡ AWQ፡ HQQን OmniQuantን ይሕልፎም። ሓደ ሞዴል W4A16-AUTOROUND ብሓቂ ጽቡቕ ሞዴል 4-ቢት እዩ። ኮይኑ ግና ገና ሞዴል 4-ቢት እዩ።

08መን እዩ ነቲ ደረጃ 8-ቢት ክመርጽ ዘለዎ — መንከ ኣይግባእን

MiMo-V2.5-Pro · W8A16 ኣብ ዝተሓተ ዋጋ ናይ ምሉእ ካታሎግ ይቕመጥ — $0.50 መእታው / $2.00 መውጽኢ ንነፍስ ወከፍ ሚልዮን ቶክን፡ ተመሳሳሊ ደረጃ ምስ ናይ መእተዊ-ደረጃ ሞዴላት 4-ቢት፡ ብግምት ድማ ርብዒ ናይ መእታው ዋጋ እቲ ዝኸበረ ሞዴል ንሰርሖ። ንተኣማንነት ተወሳኺ ዋጋ ኣይትኸፍልን ዘለኻ፤ ንተመሳሳሊ በጀት ፍልይ ዝበለ ኣንፈት ትመርጽ ኣለኻ።

ምረጻ እንተ

• ንውሓት ውጽኢት እዩ ስራሕካ። ነዊሕ ቴክኒካዊ ጽሑፍ፡ ብምዕራፍ ዝንውሕ ልብ ወለድ፡ ምሉእ ሰነድ ምድላው — ነፍስ ወከፍ ዝፍጠር ቶክን ናይ ጭመቓ ረብሻ ዝድምር ኣብኡ እዩ።
• ድምጽን ተኸታታልነትን ይግድስ። ስራሕ ገጸ-ባህርይ፡ ናይ ብራንድ ቃና፡ ኣብ ልዕሊ ነዊሕ ክፍለ ግዜ ዝጸንሕ ደረጃ። ስልቲ ኣብ ጭራ እዩ ዝነብር፡ ጭራ ድማ እቲ ሓያል ጭመቓ ቀዳማይ ዝበልዖ እዩ።
• ዝተወደበ ውጽኢት ካብ ቀዳማይ ፈተነ ክምስክር ኣለዎ። እቲ ሞዴል json_schemaን response_formatን ይድግፍ፤ ተኣዛዝነት ስኪማ ናይ ልክዕነት ባህርይ እዩ፡ ነፍስ ወከፍ ዝተርፈ ተደጋጋሚ ፈተነ ድማ ገንዘብን ደንጓይነትን ይቖጥብ።
• ንኮንተክስት ትመልእ ኣለኻ። ኣብ ቶክን 200,000 ተኣዛዝነት ትእዛዝ ካብ ኣብ ቶክን 2,000 ዝኸበደ እዩ፡ ምስ ልክዕነት ክብደት ድማ ይደክም — ልክዕ ከምቲ ነዊሕ ኣሰር ኣተሓሳስባ፡ ጌጋታት ብተመሳሳሊ ኣገባብ ዝድምረሉ።
• እቲ ስራሕ ብባህሪኡ ብዘይ ሳንሱር እዩ። መጽናዕቲ ጸጥታ፡ ናይ ቀያሕ-ጋንታ ፈተነ፡ ዘይተጻረየ ልብ ወለድ፡ ተነቃፊ ሕክምናዊ ወይ ሕጋዊ ትንተና — ኣብቲ ዝተሓባእ መልሲ ካብ ዘይምህላው ዝገደደሉ ቦታ።

ካልእ ምረጽ እንተ

• ራእይ የድልየካ ኣሎ። እዚ ሞዴል ጽሑፍ-ጥራይ እዩ፤ ሓፍቱ MiMo-V2.5 · W8A16 ኣብ ተመሳሳሊ ዋጋን ደረጃን ራእይ ትኽእል እያ።
• ኣብ ሓጸርቲ ሕቶታት ዝሰፍሐ ፍልጠት ዓለም የድልየካ ኣሎ። እዚ እቲ ናይ ብዙሕ ዝዓበየ 3-ቢት ፎውንደሽን ተወሳኺ ፓራሜተር ዝስዕረሉ ኣገባብ እዩ፡ ናይ ጭመቓ ጉድኣቱ ድማ ብጋህዲ ኣይረኣይን።
• ስራሕካ ላዕለዋይ-ብዝሒ ሓጺር ምድባብ እዩ። ኣብኡ ናይ ጭመቓ ጉድኣት ዳርጋ ኣይረኣይን — ነቲ ዝቐልጠፈ ግዛእ።

09ንብዘይ ሳንሱር MiMo API ምድዋል

ኮድካ ንOpenAI SDK ዝዓለመ እንተኾይኑ፡ ምቕያር እታ መሰረታዊት URL ን መለለዪ ሞዴልን ብምሉኡ እታ ስግግር እያ፦

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiMo-V2.5-Pro-W8A16",
    "messages": [
      {"role": "user", "content": "Draft the threat model section."}
    ],
    "reasoning_effort": "high",
    "max_tokens": 16384,
    "stream": true
  }'

/v1/messagesን /v1/responsesን ተመሳሳሊ መለለዪን ክእለታትን ይቕበሉ። ማጠቓለሊ ፓራሜተር፡ ስኪማታት tool calling፡ ኣብነታት ዝተወደበ ውጽኢትን ህያው playgroundን ኣብ ሰነድ API Shannon AI ኣለዉ።

ክእለት	MiMo-V2.5-Pro · W8A16
ኮንተክስት መስኮት	262,144 ቶክን
ዝለዓለ ውጽኢት ንነፍስ ወከፍ ሕቶ	16,384 ቶክን
ስትሪሚንግ	እወ — ኣብ ሰለስቲኦም ቋንቋታት
Tool calling	እወ
ኣተሓሳስባ / reasoning_effort	እወ
json_schema ዝተወደበ ውጽኢት	እወ
response_format	እወ
ራእይ / ኣታዊ ስእሊ	የለን — MiMo-V2.5 ተጠቐም
ሽፋን ምንጻግ / መጽረዪ ውጽኢት	የልቦን
ዋጋ ንነፍስ ወከፍ 1M ቶክን	$0.50 መእታው / $2.00 መውጽኢ

10ብተደጋጋሚ ዝሕተቱ ሕቶታት

---

ምንጭታት፦ ናይ ቴክኒክ ጸብጻብ MiMo፡ arXiv:2505.07608 · ካርድ ሞዴል MiMo-V2.5-Pro (Xiaomi) · "Give Me BF16 or Give Me Death"?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · ሕግታት ምዕባይ ኢንፈረንስ k-bit, arXiv:2212.09720 · Scaling Laws for Precision, Kumar et al., ICLR 2025. ኩሎም ኣሃዝ ቤንችማርክ ከምቲ ደረስቶም ዝጸብጸብዎ እዮም። Shannon AI ፍርያት Shannon Lab LLC፡ New Mexico፡ USA እዩ።