ہم کسی بھی صارف کا ڈیٹا اپنے پاس نہیں رکھتے اور نہ ہی اس تک رسائی رکھتے ہیں، اور ہم اکاؤنٹس معطل نہیں کرتے جب تک کوئی قانونی اتھارٹی نفاذی کارروائی کا تقاضا نہ کرے۔

ماڈل کارڈ · MiMo-V2.5-Pro · W8A16

8 بٹ وفاداری پر بغیر سنسر شپ MiMo API

Xiaomi کی استدلال کو مقدم رکھنے والی MiMo بنیاد، بغیر کسی انکار کی پرت کے W8A16 پر پیش کی گئی — سب سے زیادہ وفاداری والا کوانٹائزیشن درجہ جو ہم چلاتے ہیں — فہرست کی فرش قیمت پر۔

اپ ڈیٹ 5 ستمبر 2026ماڈل کارڈبنیاد: MiMo-V2.5-Pro262K سیاق

خلاصہ

MiMo-V2.5-Pro · W8A16 Xiaomi کا کھلے وزنوں والا MiMo-V2.5-Pro ہے، جو Shannon کے اپنے GPU کلسٹر پر 8 بٹ وزن / 16 بٹ ایکٹیویشنز پر چلتا ہے — ہماری بارہ ماڈلوں کی فہرست میں سب سے کم ترکیب شدہ درجہ۔ 262,144 ٹوکن سیاق، فی درخواست 16,384 اخراجی ٹوکن، ٹول کالنگ، استدلال، JSON اسکیما ساختی اخراج، تین API لہجوں پر اسٹریمنگ، اور کوئی انکار کی پرت یا اخراجی چھلنی نہیں، قیمت فی ملین ٹوکن $0.50 داخل / $2.00 خارج — فہرست کا فرش۔ صرف متن؛ تصاویر کے لیے MiMo-V2.5 · W8A16 استعمال کریں۔

زیادہ تر فہرستیں آپ کو پیرامیٹر کی تعداد بیچتی ہیں۔ خریداری کے لیے یہ غلط عدد ہے، کیونکہ ہر وہ بڑا کھلے وزنوں والا ماڈل جو آپ واقعی برداشت کر سکتے ہیں، کہیں سمانے کے لیے ترکیب کیا جا چکا ہے۔ ایماندار سوال یہ نہیں کہ ”نچوڑے جانے سے پہلے یہ کتنا بڑا تھا؟“ بلکہ یہ کہ ”اس میں سے اب کتنا باقی ہے؟“ یہ مضمون اسی سوال کے بارے میں ہے، اور ہماری قطار کے اُس ماڈل کے بارے میں جہاں جواب ہے تقریباً پورا کا پورا۔

01بغیر سنسر شپ MiMo API آپ کو دراصل کیا دیتا ہے

بغیر سنسر شپ MiMo API ایک ہی ماڈل شناخت ہے، MiMo-V2.5-Pro-W8A16، جو تین لہجوں کے ذریعے قابلِ رسائی ہے اور تینوں ہمارے اپنے GPU کلسٹر پر انہی وزنوں سے مخاطب ہوتے ہیں: /v1/chat/completions، /v1/messages اور /v1/responses۔ تینوں اسٹریم کرتے ہیں اور ٹول کالنگ اور استدلال کی حمایت کرتے ہیں۔

بغیر سنسر شپ کا یہاں ایک تنگ مفہوم ہے: ماڈل کے آگے کوئی انکار کی پرت نہیں، اس کے اخراج پر کوئی چھلنی نہیں۔ ہم نہ روکتے ہیں، نہ درجہ بندی کرتے ہیں، نہ دوبارہ لکھتے ہیں۔ آپ کو بنیاد کا اپنا رویہ ملتا ہے — جس کا تحقیقی درجے کے کھلے وزنوں والے ماڈل کے لیے مطلب ہے کہ یہ سیکیورٹی تحقیق، بالغ یا پُرتشدد افسانے، طبی اور قانونی استدلال، اور اُن درخواستوں سے نمٹتا ہے جنہیں میزبان تجارتی اینڈ پوائنٹس اضطراری طور پر ٹھکرا دیتے ہیں۔ یہ ہماری ذمہ دارانہ استعمال کی پالیسی کے تحت ایک پیشہ ورانہ آلہ ہے، قواعد کی غیر موجودگی نہیں۔

262K

سیاق کھڑکی

16,384

زیادہ سے زیادہ اخراجی ٹوکن

$0.50

فی 1M داخل

$2.00

فی 1M خارج

02MiMo نسل: استدلال کو مقدم رکھنے والی پیشگی تربیت پر Xiaomi کا داؤ

MiMo کوئی نئے نام کے ساتھ Llama کی شاخ نہیں؛ یہ Xiaomi کی MiMo ٹیم کی الگ نسل ہے، اور ماڈل کو جانچنے سے پہلے اس کا بنیادی خیال اہمیت رکھتا ہے۔ اس کا آغاز MiMo-7B سے ہوتا ہے (30 اپریل 2025، MIT لائسنس)، جس کی تکنیکی رپورٹ دلیل دیتی ہے کہ زیادہ تر لیبارٹریاں استدلال کو تربیت کے بعد کا مسئلہ سمجھتی ہیں جسے RL کے ساتھ جوڑ دیا جائے، اور یہ الٹی سوچ ہے۔ Xiaomi نے اس کے بجائے پیشگی تربیت کو اسی کے گرد ازسرِنو ترتیب دیا: 25 کھرب ٹوکن پر تین مرحلوں کا آمیزہ، دوسرا مرحلہ تقریباً 70% ریاضی اور کوڈ پر، تیسرا مرحلہ مصنوعی استدلالی نشانات کو شامل کرتے ہوئے سیاق کو 8K سے 32K تک بڑھاتا ہوا — اور ساتھ ایک Multi-Token Prediction ہدف جو قیاسی ڈی کوڈنگ کے سر کا کام بھی دیتا ہے۔

نتیجہ ایک 7B بنیادی ماڈل تھا جو کہیں بڑے ماڈل کی طرح برتاؤ کرتا تھا۔ MiMo-7B-Base نے AIME 2024 پر 32.9 بنائے، جہاں Qwen2.5-7B نے 10.1، Gemma-2-9B نے 0.0 اور Llama-3.1-8B نے 0.3 بنائے۔ تربیت کے بعد پھر 130,000 قابلِ تصدیق ریاضی اور کوڈ کے مسائل پر RL چلایا گیا، جس میں کوڈ کا انعام امتحان کی دشواری سے چلتا تھا، اور یوں وہ کم انعام کا پھندا ٹل گیا جو کوڈ RL کو غیر مستحکم کرتا ہے۔ نتیجہ o1-mini سے آگے نکلا:

MiMo-7B-RL55.4

o1-mini50.7

R1-Distill-Qwen-7B38.8

QwQ-32B-Preview32.4

AIME 2025، MiMo تکنیکی رپورٹ (arXiv:2505.07608) سے Xiaomi کے بتائے ہوئے اعداد۔ MiMo-7B-RL کے بارے میں MATH-500 پر 95.8 اور LiveCodeBench v5 پر 57.8 بھی بتایا گیا۔

خاندان بہکا نہیں بلکہ پھیلا: MiMo-VL-7B (جون 2025) نے اُسی ریڑھ کی ہڈی پر Qwen2.5-ViT اینکوڈر رکھا، اور دسمبر 2025 میں MiMo-Audio-7B کے ساتھ پہلا MoE اندراج MiMo-V2-Flash آیا (کل 309B / فعال 15B، 27T ٹوکن، FP8 مخلوط درستگی)۔ MiMo-V2-Pro مارچ 2026 میں تقریباً 1T / 42B فعال اور 1M سیاق کے ساتھ آیا، اس سے پہلے وہ ہفتوں تک OpenRouter پر ”Hunter Alpha“ کے نام سے موجود رہا۔ MiMo-V2.5 اور MiMo-V2.5-Pro 22 اپریل 2026 کو ایک ساتھ جاری ہوئے، دونوں MIT کے تحت۔

03MiMo-V2.5-Pro کے اندر: بنیاد کیسی دکھتی ہے

Xiaomi کے شائع کردہ ماڈل کارڈ کے مطابق MiMo-V2.5-Pro ایک خلوی Mixture-of-Experts ماڈل ہے جس میں کل 1.02 کھرب پیرامیٹر اور فی ٹوکن 42 ارب فعال ہیں، 70 تہوں میں پھیلے ہوئے — ایک گھنی، 69 MoE — اور 384 راستہ یافتہ ماہرین، فی ٹوکن 8۔ پوشیدہ جسامت 6144 ہے، اور MoE کی درمیانی جسامت تنگ، یعنی 2048 ہے۔

1.02T

کل پیرامیٹر

42B

فعال / ٹوکن

384

ماہرین (8 فعال)

تہیں

دو انتخاب طے کرتے ہیں کہ استعمال میں یہ کیسا محسوس ہوتا ہے۔ توجہ کا ڈھیر مخلوط ہے: 10 مکمل توجہ کی تہیں اور 128 کی کھڑکی کے ساتھ 60 سرکتی کھڑکی کی تہیں، نیز ایک قابلِ تعلیم توجہ سنک تعصب۔ Xiaomi بتاتا ہے کہ اس سے KV کیش کا ذخیرہ ہر جگہ عالمی توجہ کے مقابلے میں تقریباً 7x کم ہو جاتا ہے جبکہ طویل سیاق کا معیار برقرار رہتا ہے — یعنی اُس کھڑکی کا فرق جو نام کی لمبی ہو اور اُس کھڑکی کا جسے آپ بھر بھی سکیں۔ اس کے ساتھ تین Multi-Token Prediction تہیں بھی آتی ہیں، جو ڈی کوڈر کو ایک قیاسی سر دیتی ہیں۔

تربیت 27 کھرب ٹوکن پر ہوئی، اصل 32K ترتیب کی لمبائی پر، FP8 (E4M3) مخلوط درستگی میں، پھر زیرِنگرانی فائن ٹیوننگ، بڑے پیمانے پر ایجنٹی RL اور کئی اساتذہ والی on-policy کشید۔ اس FP8 تفصیل کو یاد رکھیے؛ اس بنیاد کو 8 بٹ پر پیش کرنے کی سب سے مضبوط واحد دلیل یہی ہے۔

Xiaomi اس ماڈل کے بارے میں SWE-bench Pro پر 57.2%، ٹول کے استعمال کے لیے τ3-Bench پر 72.9 اور Humanity's Last Exam پر 48.0% بتاتا ہے — غیر ترکیب شدہ ماڈل پر خود بنانے والے کے اعداد، جنہیں اسی حیثیت سے نقل کیا گیا ہے۔

ہم 262,144 ٹوکن کی کھڑکی پیش کرتے ہیں، بنیاد کا پورا 1M نہیں — وہ سیاق جس کی ہم رفتار کے ساتھ ضمانت دے سکیں، نہ کہ وہ سرخی والا عدد جو بوجھ کے نیچے بگڑ جائے۔

04W8A16 کا بالکل ٹھیک مطلب کیا ہے

اس فہرست کے ہر ماڈل کے ساتھ ایک کوانٹائزیشن لاحقہ ہے جو کسی مارکیٹنگ درجے کے بجائے ایک حقیقی، قابلِ پیمائش تبدیلی بیان کرتا ہے۔ ہمارے لاحقے 3BIT-REAP، W4A16-AUTOROUND-REAP اور W8A16 ہیں۔ MiMo-V2.5-Pro تیسرا ہے۔

یہ اشاریہ دو حصوں میں بٹتا ہے۔ W8 وزن کی درستگی ہے: ہر پیرامیٹر 16 بٹ فلوٹ کے بجائے 8 بٹ عدد صحیح کے طور پر محفوظ ہوتا ہے، اور ہر چھوٹے گروہ کے لیے ایک مشترکہ اسکیلنگ عنصر ہوتا ہے تاکہ ہر گروہ کا مقامی متحرک دائرہ باقی رہے۔ A16 ایکٹیویشن کی درستگی ہے: استنباط کے وقت تہوں کے درمیان بہنے والی قدریں 16 بٹ پر ہی رہتی ہیں۔ وزن ترکیب ہوتے ہیں؛ حساب کتاب نہیں۔

یہ دوسرا حصہ خاموشی سے اہم کام کرتا ہے۔ ایکٹیویشنز کو کوانٹائز کرنا وزنوں کے مقابلے میں کہیں مشکل ہے: ان میں انتہائی حد سے باہر کے چینل ہوتے ہیں — چند ایسی جہتیں جن کی مقداریں باقی سب کو بونا کر دیتی ہیں اور جو ماڈل کے رویے کا غیر متناسب حصہ اٹھاتی ہیں۔ انہیں کم درستگی پر دھکیلیے تو آپ عین وہی اشارہ کاٹ دیتے ہیں جس کی ضرورت تھی۔ صرف وزن والے طریقے ایکٹیویشن کے راستے کو چھیڑے بغیر اس مسئلے سے بچ نکلتے ہیں، اور یہی وجہ ہے کہ سنجیدہ کوانٹائزیشن کا کام انہی پر مرتکز ہوا ہے۔

چنانچہ عملی سوال سکڑ کر ایک رہ جاتا ہے: ایک وزن کتنے کم بٹ برداشت کر سکتا ہے؟

05W8A16 بمقابلہ W4A16 بمقابلہ 3 بٹ: نقصان دراصل جاتا کہاں ہے

اس پر سب سے بڑا شائع شدہ مطالعہ Neural Magic اور Red Hat کا "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization ہے — Llama-3.1 خاندان کے 8B، 70B اور 405B پر پانچ لاکھ سے زائد جانچیں۔ ان کے اپنے اعداد میں ان کا بنیادی نتیجہ:

وضع	کیا ترکیب ہوتا ہے	BF16 کے مقابلے میں بحالی
W8A8-FP (8 بٹ)	وزن + ایکٹیویشنز، فلوٹ	اوسطاً ~99.75% — ”بنیادی طور پر بے نقصان“
W8A8-INT (8 بٹ)	وزن + ایکٹیویشنز، عدد صحیح	8B/70B پر 99–100%؛ 405B پر 98.2–99.3%
W4A16-INT (4 بٹ)	صرف وزن	98–99.4% (8B)؛ 98.6–99.8% (70B)

Neural Magic / Red Hat (arXiv:2411.02355) کے Llama-3.1 ماڈلوں پر بتائے گئے اعداد — یہ سودے کی شکل ہے، اس ماڈل کے نمبر نہیں۔

ایمانداری سے پڑھیں تو یہ پروا نہ کرنے کی دلیل لگتی ہے: 4 بٹ 98–99% بحال کر لیتا ہے، تو دھیان کیوں دیں؟ اس لیے کہ یہ تعلیمی کثیر انتخابی معیارات ہیں، جو کوانٹائزیشن کے نقصان کو پکڑنے کے لیے دستیاب بدترین آلات کے قریب ہیں۔ ایک معیاری سوال کا ایک ہی درست جواب ہوتا ہے جو ایک دو ٹوکن میں پہنچ میں ہے، اور کوانٹائزیشن کی خطا ہر لاجٹ پر چھوٹا، تقریباً صفر اوسط والا شور ہے؛ چوڑے فرق والے مختصر سوال پر یہ شور جذب ہو جاتا ہے۔

اب کسی تکنیکی دستاویز کے 4,000 ٹوکن لکھیے، 40,000 ٹوکن کی کہانی میں ایک لہجہ برقرار رکھیے، یا ایسا JSON نکالیے جو پہلی ہی بار درست ثابت ہو۔ وہی شور لگاتار ہزاروں بار نمونہ لیا جاتا ہے، اور ہر نمونہ اگلے کی شرط بنتا ہے۔ ناکامی کی شکل غلط جواب نہیں — بہاؤ ہے: پہلے موڑ کی ہدایت پر گرفت ڈھیلی پڑنا، ایک کردار جو ٹوکن 3,000 کے آس پاس اپنے جیسا لگنا چھوڑ دے، ایک بند ہونے والا بریکٹ جو کبھی نہ آئے۔

بٹ دراصل جاتے کہاں ہیں

کوانٹائزیشن کی خطا ماڈل کی صلاحیتوں پر یکساں نہیں پھیلتی؛ یہ دُم پر مرتکز ہوتی ہے۔ زیادہ کمیت والے رویے — قواعد کے مطابق انگریزی، Python فنکشن کی شکل، دنیا کے بارے میں اوّلین ہزار حقائق — بہت سے وزنوں میں زائد طور پر درج ہوتے ہیں اور تقریباً ہر چیز سہہ جاتے ہیں۔ وزن کی تقسیم کے وہ باریک بندھے، کم مقدار والے کونے نایاب چیزیں سنبھالتے ہیں: کسی گمنام API کا عین دستخط، کسی مخصوص مصنف کا آہنگ، دو ملحقہ CVE کے درمیان فرق۔ یہی وہ قدریں ہیں جنہیں کھردرا خانہ آپس میں گول کر دیتا ہے۔

4 بٹ سے 3 تک کا قدم وہ جگہ ہے جہاں یہ ٹیکس نہیں رہتا بلکہ کھائی بن جاتا ہے۔ Dettmers اور Zettlemoyer کے k-bit استنباطی اسکیلنگ قوانین نے پایا کہ 4 بٹ وہ نقطہ ہے جو ماڈل کی یادداشت کے فی بٹ zero-shot درستگی کو زیادہ سے زیادہ کرتا ہے، اور اس سے نیچے بگاڑ غالب آ جاتا ہے۔ چار بٹ فی گروہ 16 درجے دیتے ہیں؛ تین 8 دیتے ہیں۔ آپ پہلے ہی کھردرے خانے کی قرارداد آدھی کر رہے ہیں، اور فی وزن گول کرنے کی خطا تقریباً دگنی ہو جاتی ہے۔

256

فی گروہ درجے · 8 بٹ

فی گروہ درجے · 4 بٹ

فی گروہ درجے · 3 بٹ

وہ حساب جو فیصلہ کرتا ہے

کرنے لائق موازنہ حساب ہے، کوئی معیار نہیں۔ ترکیب سے جو بچتا ہے وہ تقریباً پیرامیٹر × فی پیرامیٹر بٹ ہے — یعنی وزن فائل کا معلومات اٹھانے والا حجم۔ فی پیرامیٹر برابر معیار کی دو فرضی بنیادیں لیجیے:

بنیاد A: 3 بٹ پر 400B پیرامیٹر ← تقریباً 150 GB محفوظ وزن۔
بنیاد B: 8 بٹ پر 160B پیرامیٹر ← تقریباً 160 GB محفوظ وزن۔

خام پیرامیٹر گنتی سے A ڈھائی کے مقابلے ایک سے جیتتا ہے — یہی وہ عدد ہے جس سے ماڈل کارڈ شروع ہوتا ہے۔ محفوظ معلومات کے حساب سے دونوں برابر ہیں، اور B کو اس کے علاوہ ایک ساختی برتری بھی حاصل ہے: اس کے وزن ایسے خانے پر بیٹھے ہیں جو اتنا باریک ہے کہ اس کا دُم والا رویہ سالم رہتا ہے، جبکہ A کی دُم کو کوانٹائز کر کے مرکزی حصے میں ملا دیا گیا ہے۔ A زیادہ چیزیں جانتا ہے؛ B جو جانتا ہے اسے زیادہ تیزی سے جانتا ہے۔ طویل تخلیق، عین ترتیب، اسلوبی قابو اور طویل سیاق کی وفادار پیروی کے لیے B لیجیے۔

یہ وضاحتی حساب ہے، کوئی معیار نہیں: یہ دکھاتا ہے کہ ”بڑی بنیاد“ اور ”بہتر پیش کیا گیا ماڈل“ دو الگ دعوے ہیں۔

0627 کھرب تربیتی ٹوکن سخت کوانٹائزیشن کو بدتر کیوں بناتے ہیں

ایک دوسرا، کم بدیہی نتیجہ براہِ راست اسی بنیاد پر لاگو ہوتا ہے۔ Kumar وغیرہ کا ICLR 2025 کا مقالہ Scaling Laws for Precision بتاتا ہے کہ ماڈل جتنے زیادہ ڈیٹا پر تربیت یافتہ ہو، تربیت کے بعد کی کوانٹائزیشن اسے اتنا ہی زیادہ نقصان پہنچاتی ہے۔ کم درستگی ماڈل کی مؤثر پیرامیٹر تعداد گھٹا دیتی ہے، اور یہ بگاڑ جذب کیے گئے پیشگی تربیتی ڈیٹا کے ساتھ بڑھتا ہے — اتنا کہ اگر آپ سخت کوانٹائزیشن کا ارادہ رکھتے ہوں تو اضافی پیشگی تربیتی ڈیٹا مجموعی طور پر نقصان دہ ہو سکتا ہے، کیونکہ آپ وہ باریک ساخت بچھا رہے ہیں جسے خانہ مٹا دے گا۔

5T ٹوکن پر تربیت یافتہ ماڈل کی وزنی ساخت کھردری اور زائد ہوتی ہے اور اس میں گنجائش بچی رہتی ہے۔ 27T ٹوکن پر تربیت یافتہ ماڈل — MiMo-V2.5-Pro کا بجٹ — نے وہ اضافی ڈیٹا زیادہ درست وزنی قدروں میں باریک تر امتیازات لکھنے پر خرچ کیا، اور یہی وہ چیز ہے جسے 3 بٹ خانہ ظاہر نہیں کر سکتا۔

پھر باب 03 والی FP8 حقیقت ہے، جو اس مضمون کی سب سے صاف دلیل ہے۔ MiMo-V2.5-Pro کی پیشگی تربیت FP8 مخلوط درستگی میں ہوئی۔ اس کے وزن شروع ہی سے ایک ایسے آپٹیمائزر نے ڈھالے جو تقریباً آٹھ بٹ درستگی پر کام کر رہا تھا۔ چنانچہ اسے 8 بٹ وزنوں پر پیش کرنا کسی 16 بٹ ماڈل پر ٹھونسا گیا نقصان دہ خیالِ بعد نہیں — یہ وزنوں کو تقریباً اُسی عددی نظام میں واپس کرنا ہے جس میں وہ سیکھے گئے تھے۔ آٹھویں بٹ سے نیچے کھونے کو باریک ساخت ہے ہی کم۔ اُن وزنوں کے بارے میں یہ نہیں کہا جا سکتا جنہیں زبردستی تین تک لایا جائے۔

07REAP: ماہر کٹائی گول کرنے سے مختلف قسم کا نقصان کیوں ہے

تینوں میں سے دو درجوں کے ساتھ REAP لاحقہ ہے — یہ کوانٹائزیشن سے قطعی طور پر مختلف عمل ہے۔ REAP (Router-weighted Expert Activation Pruning، Cerebras Research، arXiv:2510.13999، ICLR 2026) خلوی MoE ماڈلوں کے لیے یک بارگی ترکیب ہے: یہ ہر ماہر کو راستہ ساز کی گیٹ قدروں اور ماہر کے ایکٹیویشن نارم سے نمبر دیتا ہے، پھر سب سے کم نمبر والوں کو حذف کر دیتا ہے۔ Cerebras بتاتا ہے کہ 50% ماہرین کاٹنے پر بھی کوڈ تخلیق اور ٹول کالنگ میں نتائج تقریباً بے نقصان رہتے ہیں۔

ہم REAP اُسی وجہ سے استعمال کرتے ہیں جس کے لیے یہ وجود رکھتا ہے: سب سے بڑی بنیادوں پر یہی انہیں قابلِ پیشکش بناتا ہے۔ مگر نوعیت کا فرق دیکھیے۔ کوانٹائزیشن ہر وزن کو تھوڑا سا دھندلا کرتی ہے؛ کٹائی ماہرین کو یکسر ہٹا دیتی ہے۔ اگر آپ کا کام بھاری انداز میں کسی ایسی صلاحیت کی طرف رخ کرتا ہے جو کسی کم منتخب ہونے والے ماہر میں بستی تھی — کوئی کم استعمال ہونے والی پروگرامنگ زبان، کوئی خصوصی لغت — تو وہ خراب نہیں ہوئی۔ وہ جا چکی ہے، اور کوئی پرامپٹ اسے واپس نہیں لاتا۔ اوسط شاندار رہتے ہیں؛ آپ کا دُم والا معاملہ شاید نہ رہے۔

MiMo-V2.5-Pro · W8A16 کے ساتھ کوئی REAP لاحقہ نہیں ہے۔ تمام 384 ماہرین موجود ہیں، اور راستہ ساز اُسی مکمل مجموعے میں سے چنتا ہے جس کے ساتھ بنیاد تربیت یافتہ ہوئی تھی۔

درجہ	وزنی بٹ	ماہرین	آپ کیا دیتے ہیں
W8A16	8	سب موجود	ساختی طور پر کچھ نہیں۔ وفاداری کا درجہ۔
W4A16-AUTOROUND-REAP	4	کٹے ہوئے	باریک وزنی تفصیل اور کم ٹریفک والے ماہرین، بدلے میں اسی قیمت کے دائرے میں کہیں بڑی بنیاد۔
3BIT-REAP	3	کٹے ہوئے	خاصی وزنی قرارداد اور کم ٹریفک والے ماہرین — سب سے بڑی بنیادوں کو رفتار کے ساتھ چلانے کی قیمت۔

درمیانی درجہ منصفانہ سماعت کا مستحق ہے۔ AutoRound سادہ گول کرنا نہیں ہے: Intel کا طریقہ (arXiv:2309.05516) تقریباً 200 قدموں پر signed gradient descent استعمال کرتے ہوئے فی وزنی گروہ گول کرنے کے فیصلوں اور کٹاؤ کے دائرے کو ٹیون کرتا ہے، اور زیادہ تر حالات میں 4 بٹ پر تقریباً بے نقصان بتایا گیا ہے، جو جانچی گئی زیادہ تر ترتیبوں میں GPTQ، AWQ، HQQ اور OmniQuant کو مات دیتا ہے۔ W4A16-AUTOROUND ماڈل واقعی ایک اچھا 4 بٹ ماڈل ہے۔ پھر بھی وہ 4 بٹ ماڈل ہی ہے۔

088 بٹ درجہ کسے چننا چاہیے — اور کسے نہیں

MiMo-V2.5-Pro · W8A16 پوری فہرست کی فرش قیمت پر بیٹھا ہے — فی ملین ٹوکن $0.50 داخل / $2.00 خارج، وہی دائرہ جو داخلی درجے کے 4 بٹ ماڈلوں کا ہے اور ہمارے سب سے مہنگے ماڈل کی داخلی قیمت کا تقریباً ایک چوتھائی۔ آپ وفاداری کے لیے اضافی قیمت نہیں دے رہے؛ آپ اسی بجٹ کا ایک مختلف محور چن رہے ہیں۔

اسے تب چنیں جب

اخراج کی لمبائی ہی کام ہو۔ طویل تکنیکی تحریر، باب جتنا افسانہ، دستاویزکاری کے مکمل دور — ہر پیدا شدہ ٹوکن وہ جگہ ہے جہاں ترکیب کا شور جمع ہوتا ہے۔
لہجہ اور یکسانیت اہم ہوں۔ کرداری کام، برانڈ کا لب و لہجہ، ایک طویل نشست میں برقرار رکھا گیا اسلوب۔ اسلوب دُم میں بستا ہے، اور دُم ہی وہ چیز ہے جسے کھردری کوانٹائزیشن سب سے پہلے کھاتی ہے۔
ساختی اخراج کو پہلی بار میں درست ہونا ہو۔ ماڈل json_schema اور response_format کی حمایت کرتا ہے؛ اسکیما کی پابندی درستگی کی خاصیت ہے، اور ہر بچائی گئی دوبارہ کوشش پیسہ اور تاخیر دونوں بچاتی ہے۔
آپ سیاق بھر رہے ہوں۔ ٹوکن 200,000 پر ہدایت کی پابندی ٹوکن 2,000 کی نسبت مشکل ہے، اور یہ وزنی درستگی کے ساتھ بگڑتی ہے — جیسا کہ طویل استدلالی نشان بھی، جہاں غلطیاں اسی طرح جمع ہوتی ہیں۔
کام فطرتاً بغیر سنسر شپ کا ہو۔ سیکیورٹی تحقیق، ریڈ ٹیمنگ، بغیر چھلنی افسانہ، حساس طبی یا قانونی تجزیہ — جہاں گول مول جواب نہ ہونے سے بھی برا ہے۔

کچھ اور تب چنیں جب

آپ کو وژن چاہیے۔ یہ ماڈل صرف متنی ہے؛ اس کا ہم نسل MiMo-V2.5 · W8A16 اسی قیمت اور اسی درجے پر وژن رکھتا ہے۔
آپ کو مختصر سوالات پر وسیع ترین دنیاوی علم چاہیے۔ یہی وہ میدان ہے جہاں کہیں بڑی 3 بٹ بنیاد کے اضافی پیرامیٹر جیت جاتے ہیں اور اس کا کوانٹائزیشن نقصان بمشکل نظر آتا ہے۔
آپ کا کام بڑی مقدار میں مختصر درجہ بندی ہو۔ وہاں کوانٹائزیشن کا نقصان تقریباً غیر مرئی ہے — جو سب سے تیز ہو وہ خریدیے۔

تصاویر بھی چاہئیں؟ MiMo-V2.5 · W8A16 اسی نسل کا وژن رکھنے والا فرد ہے، اسی 8 بٹ درجے اور اسی $0.50 / $2.00 قیمت پر — ایک 310B خلوی MoE جس میں اصل بصری اور صوتی اینکوڈر ہیں۔ وہی وفاداری کی دلیل، ایک مزید وسیلہ۔ پوری قطار Shannon AI Research میں ہے۔

09بغیر سنسر شپ MiMo API کو پکارنا

اگر آپ کا کوڈ OpenAI SDK کو نشانہ بناتا ہے تو بنیادی URL اور ماڈل شناخت بدلنا ہی پوری منتقلی ہے:

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiMo-V2.5-Pro-W8A16",
    "messages": [
      {"role": "user", "content": "Draft the threat model section."}
    ],
    "reasoning_effort": "high",
    "max_tokens": 16384,
    "stream": true
  }'

/v1/messages اور /v1/responses وہی شناخت اور وہی صلاحیتیں قبول کرتے ہیں۔ پیرامیٹر کا حوالہ، ٹول کالنگ کے اسکیما، ساختی اخراج کی مثالیں اور ایک زندہ کھیل کا میدان Shannon AI API دستاویزکاری میں موجود ہیں۔

صلاحیت	MiMo-V2.5-Pro · W8A16
سیاق کھڑکی	262,144 ٹوکن
فی درخواست زیادہ سے زیادہ اخراج	16,384 ٹوکن
اسٹریمنگ	ہاں — تینوں لہجوں پر
ٹول کالنگ	ہاں
استدلال / `reasoning_effort`	ہاں
`json_schema` ساختی اخراج	ہاں
`response_format`	ہاں
وژن / تصویری داخلہ	نہیں — MiMo-V2.5 استعمال کریں
انکار کی پرت / اخراجی چھلنی	کوئی نہیں
فی 1M ٹوکن قیمت	$0.50 داخل / $2.00 خارج

مآخذ خود دیکھیں

یہاں ہر بیرونی عدد ہمارے علاوہ کسی اور کا شائع کردہ ہے اور متن میں اس کی نسبت بتا دی گئی ہے۔ کوانٹائزیشن بحالی کے نتائج Llama خاندان کے مطالعات سے ہیں: وہ سودے کی شکل بیان کرتے ہیں، اس ماڈل کے نمبر نہیں۔

MiMo تکنیکی رپورٹ (Xiaomi) MiMo-V2.5-Pro ماڈل کارڈ کوانٹائزیشن کے سودے (Red Hat) AutoRound / SignRound (Intel) REAP ماہر کٹائی (Cerebras) k-bit استنباطی اسکیلنگ قوانین

10اکثر پوچھے جانے والے سوالات

بغیر سنسر شپ MiMo API کیا ہے؟

MiMo-V2.5-Pro کے لیے Shannon AI کا اینڈ پوائنٹ، یعنی Xiaomi کا کھلے وزنوں والا Mixture-of-Experts ماڈل، جو ہمارے اپنے GPU کلسٹر پر بغیر کسی انکار کی پرت اور بغیر اخراجی چھلنی کے چلتا ہے۔ یہ /v1/chat/completions، /v1/messages اور /v1/responses کے ذریعے قابلِ رسائی ہے، 262,144 ٹوکن سیاق اور فی درخواست 16,384 اخراجی ٹوکن کے ساتھ۔

W8A16 کا مطلب کیا ہے، اور یہ کیوں اہم ہے؟

W8A16 کا مطلب ہے کہ وزن ہر ایک 8 بٹ پر محفوظ ہوتے ہیں جبکہ ایکٹیویشنز کا حساب 16 بٹ پر ہوتا ہے۔ یہ ہماری فہرست میں سب سے زیادہ وفاداری والا کوانٹائزیشن درجہ ہے۔ شائع شدہ مطالعات بتاتے ہیں کہ صرف وزن والی 8 بٹ وضعیں اصل ماڈل کی تقریباً پوری درستگی بحال کر لیتی ہیں، جبکہ 4 بٹ یادداشت کے بدلے تھوڑی سی وفاداری دیتا ہے اور 3 بٹ خاصی زیادہ۔

کیا 8 بٹ پر چھوٹا ماڈل 3 بٹ پر بڑے ماڈل کو مات دے سکتا ہے؟

اکثر، ہاں۔ ترکیب سے جو بچتا ہے وہ تقریباً پیرامیٹر کی تعداد ضرب فی پیرامیٹر بٹ ہے، اور کوانٹائزیشن کی خطا نایاب، دُم والے رویے پر مرتکز ہوتی ہے۔ 8 بٹ پر رکھا گیا ماڈل اپنی طویل تحریر کی ربط داری، عین ترتیب اور دُم کا علم برقرار رکھتا ہے؛ 3 بٹ تک کچلا گیا بڑا ماڈل اپنے وسیع معیاری نمبر تو رکھتا ہے مگر یہ خصوصیات کھو دیتا ہے۔

کیا MiMo-V2.5-Pro وژن یا تصویری داخلے کی حمایت کرتا ہے؟

نہیں۔ Shannon AI پر MiMo-V2.5-Pro صرف متنی ہے۔ البتہ یہ ٹول کالنگ، reasoning_effort کے ساتھ استدلال، JSON اسکیما ساختی اخراج اور response_format کی حمایت کرتا ہے۔ اگر آپ کو تصویری داخلہ چاہیے تو ہم نسل ماڈل MiMo-V2.5 W8A16 استعمال کریں، جو اسی قیمت پر وژن رکھتا ہے۔

بغیر سنسر شپ MiMo API کی قیمت کتنی ہے؟

فی ملین داخلی ٹوکن $0.50 اور فی ملین اخراجی ٹوکن $2.00۔ یہ Shannon AI کی فہرست میں فرش قیمت ہے، جو MiMo-V2.5-Pro کو اس گیٹ وے پر 8 بٹ وفاداری خریدنے کا سب سے سستا راستہ بنا دیتی ہے۔

بغیر سنسر شپ MiMo API آزمائیں

آٹھ بٹ وفاداری، 262K سیاق، کوئی انکار کی پرت نہیں — فہرست کی فرش قیمت پر۔

API دستاویزات پڑھیں تمام ماڈل دیکھیں

Shannon AI کی ذمہ دارانہ استعمال کی پالیسی کے تحت چلایا جاتا ہے

مآخذ: MiMo تکنیکی رپورٹ، arXiv:2505.07608 · MiMo-V2.5-Pro ماڈل کارڈ (Xiaomi) · "Give Me BF16 or Give Me Death"?، arXiv:2411.02355 · REAP the Experts، arXiv:2510.13999 · AutoRound، arXiv:2309.05516 · k-bit استنباطی اسکیلنگ قوانین، arXiv:2212.09720 · Scaling Laws for Precision، Kumar وغیرہ، ICLR 2025۔ تمام معیاری اعداد وہی ہیں جو ان کے مصنفین نے بتائے۔ Shannon AI، Shannon Lab LLC، نیو میکسیکو، امریکہ کی مصنوعات ہے۔

تمام تحقیقی لنکس