Shannon 3.1
وہی استدلالی لوپ، منتقل کر دیا گیا ہمارے اپنے GPU کلسٹر پر: 32% زیادہ ذہین، 10-15 گنا تیز، اور 196,608 ٹوکن کی کانٹیکسٹ ونڈو۔
مختصراً
Shannon 3.1 وہ سب کچھ برقرار رکھتا ہے جس نے Shannon 3 کو استعمال کے قابل بنایا تھا — تکراری استدلالی لوپ، انکار کی کوئی پرت نہیں، آؤٹ پٹ پر کوئی چھانٹی نہیں — اور صرف یہ بدلتا ہے کہ وہ کہاں اور کیسے چلتا ہے۔ ماڈل اب کسی فریقِ ثالث کے inference ہوسٹ کے بجائے ہمارے اپنے GPU کلسٹر سے سروِس ہوتا ہے۔ Shannon Lab کی جانچ Shannon 3.0 کے مقابلے میں ذہانت میں 32% بہتری اور 10-15 گنا تیز جوابات ناپتی ہے۔ کانٹیکسٹ ونڈو 32,768 سے بڑھ کر 196,608 ٹوکن ہو جاتی ہے۔ وہ pacing پرت جو 3.0 کے آؤٹ پٹ کو جان بوجھ کر سست کرتی تھی، ختم کر دی گئی ہے: 3.1 انجن کی پوری رفتار پر سٹریم کرتا ہے۔ ماڈل کی id shannon-3.1 اور shannon-3.1-pro ہیں، جو چیٹ میں اور تینوں API طرزوں پر دستیاب ہیں۔
زیادہ تر ماڈل ریلیزیں آپ سے کہتی ہیں کہ صلاحیت کے دعوے پر یقین کر لیں اور بحث نمٹانے کے لیے کسی بینچ مارک ٹیبل کا انتظار کریں۔ اس ریلیز کی جانچ آسان ہے: دو ٹیبیں کھولیں، وہی ایک پرامپٹ shannon-3 اور shannon-3.1 میں ڈالیں، اور دیکھیں۔ جواب کے پہنچنے کی رفتار کا فرق باریک نہیں ہے، اور یہ کوئی رینڈرنگ کا کرتب بھی نہیں۔ Shannon 3.0 کو جان بوجھ کر روکا گیا تھا۔ Shannon 3.1 کو نہیں۔
01Shannon 3.1 میں دراصل کیا بدلا
Shannon 3.0 وہ چیز لے کر آیا تھا جو اس خاندان کی شناخت ہے: ایک تکراری استدلالی لوپ۔ ماڈل اپنے پہلے خیال پر جواب نہیں دیتا۔ وہ سوچتا ہے، مسودہ بناتا ہے، سوال کے مقابلے میں اپنے ہی مسودے کا جائزہ لیتا ہے، اور اسے بہتر بناتا ہے۔ لائٹ اس لوپ کا ایک گزر چلاتا ہے؛ پرو پورا لوپ چلاتا ہے، بشمول مسودہ بنانے سے پہلے علم جمع کرنے کے مرحلے کے۔ اس ڈیزائن کی تفصیل Shannon 3 ریسرچ مضمون میں موجود ہے، اور 3.1 میں اس میں سے کچھ بھی نہیں بدلا۔
جو بدلا وہ نیچے کی مشینری ہے۔ Shannon 3.0 ایک فریقِ ثالث کے inference ہوسٹ کے ذریعے سروِس ہوتا تھا — ماڈل لانچ کرنے کا ایک معقول طریقہ، اور اسے چلانے کا ایک محدود کرنے والا طریقہ۔ آپ کو کسی اور کی سروِنگ ترتیب، کسی اور کی قطار، کسی اور کی کانٹیکسٹ کی حد، اور کسی اور کا یہ فیصلہ ورثے میں ملتا ہے کہ آپ کو فی سیکنڈ کتنے ٹوکن ملنے کی اجازت ہے۔ Shannon 3.1 ہمارے اپنے GPU کلسٹر پر چلتا ہے، ایک ایسے سروِنگ اسٹیک پر جس کی ترتیب ہم خود طے کرتے ہیں، اور اس مضمون کا ہر نمایاں ہندسہ اسی ایک فیصلے کا نتیجہ ہے۔
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| کہاں چلتا ہے | فریقِ ثالث کا ہوسٹ | ہمارا اپنا GPU کلسٹر |
| کانٹیکسٹ ونڈو | 32,768 | 196,608 |
| آؤٹ پٹ سٹریمنگ | رفتار بند / محدود | انجن کی پوری رفتار |
| وزن | ہوسٹ کا ڈیفالٹ | 4-بٹ NVFP4 |
| Decoding | معیاری | Speculative |
| استدلالی لوپ | سوچو ← مسودہ ← جائزہ ← بہتری | بغیر تبدیلی |
| انکار کی پرت | کوئی نہیں | کوئی نہیں |
| ماڈل id | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Shannon 3.1 10-15 گنا تیز کیوں محسوس ہوتا ہے
رفتار کا ہندسہ وہی ہے جس کے بارے میں لوگ سب سے پہلے پوچھتے ہیں، اس لیے یہ واضح کرنا ضروری ہے کہ یہ کہاں سے آتا ہے۔ اس میں دو الگ الگ حصے ہیں، اور بڑا حصہ ان دونوں میں سے کم دلکش والا ہے۔
ہم نے رفتار کی رکاوٹ ہٹا دی
Shannon 3.0 کا آؤٹ پٹ ایک pacing پرت سے گزرتا تھا۔ ٹوکن انجن سے نکلتے، روکے جاتے، اور ایک شیڈول کے مطابق آپ کے کنکشن تک چھوڑے جاتے تھے۔ یہ کوئی حادثہ یا خرابی نہیں تھی۔ جب ایک مشترکہ inference ہوسٹ ہی رکاوٹ ہو، تو آؤٹ پٹ کی رفتار بندی بوجھ کو ہموار رکھتی ہے، ایک لمبی جنریشن کو کوئی سلاٹ ہتھیانے سے روکتی ہے، اور سٹریم کو جھٹکوں کے بجائے ایک متوقع، پڑھنے کے قابل تال میں پہنچاتی ہے۔ یہ ایک قابلِ دفاع انجینئرنگ فیصلہ ہے، اور اس نے ہر صارف کو ہر ایک جواب پر حقیقی وقت کی قیمت ادا کروائی۔
Shannon 3.1 میں نہ رفتار کی کوئی رکاوٹ ہے نہ ظاہر کرنے کی کوئی رفتار بندی۔ ٹوکن آپ کی سٹریم میں اسی وقت لکھے جاتے ہیں جب انجن انہیں پیدا کرتا ہے۔ اگر انجن تیزی سے پیدا کر رہا ہے، تو آپ اسے تیزی سے پیدا کرتے دیکھتے ہیں۔ ماڈل اور آپ کے ٹرمینل، آپ کی چیٹ ونڈو، یا آپ کے SSE ریڈر کے درمیان کوئی ہموار کرنے والا بفر نہیں ہے۔ ایک لمبے جواب کے لیے — 2,000 ٹوکن کا تجزیہ، یا تیار شدہ کوڈ کی ایک فائل — تنہا یہی چیز اس بہتری کا بڑا حصہ ہے جو آپ کو محسوس ہوگی۔
ایک ایمانداری کا نتیجہ: سٹریم اب جھٹکے دار ہے۔ Speculative decoding (نیچے دیکھیں) منظور شدہ ٹوکن مختصر لڑیوں میں بھیجتی ہے، اس لیے متن ایک ایک لفظ کی یکساں رفتار کے بجائے نظر آنے والے ٹکڑوں میں پہنچ سکتا ہے۔ اگر آپ نے اپنا UI 3.0 کی ہموار تال کے گرد بنایا تھا، تو وہ اب بھی کام کرے گا — ٹوکن کی ترتیب اور مواد پر کوئی اثر نہیں پڑا — لیکن اگر آپ کو ٹائپ رائٹر والا انداز پسند تھا تو آپ اپنی طرف سے کلائنٹ کی سطح پر ہمواری دوبارہ شامل کرنا چاہیں گے۔ ہمارا خیال ہے کہ زیادہ تر لوگ سیکنڈ واپس ملنا زیادہ پسند کریں گے۔
انجن خود بھی تیز ہو گیا
رکاوٹ ہٹانا تبھی مددگار ہے جب رکاوٹ کے پیچھے جو کچھ ہے وہ تیز ہو۔ دوسرا حصہ وہ سروِنگ اسٹیک ہے جو سیکشن 03 میں بیان ہوا ہے: ہمارے اپنے کلسٹر میں موجودہ نسل کے، FP4-نیٹو ایکسیلریٹرز پر 4-بٹ NVFP4 وزن اور speculative decoding۔ یہ دونوں مل کر اس حد کو اوپر لے جاتے ہیں جو رکاوٹ ہٹانے سے سامنے آتی ہے۔
مکمل جواب کی نسبتی تاخیر، Shannon Lab کی داخلی جانچ، ستمبر 2026۔ یہ حد پرامپٹ کی لمبائی اور درجے پر منحصر ہے: لائٹ پر مختصر پرامپٹ نچلے سرے کے قریب رہتے ہیں، پرو پر لمبی جنریشنیں اوپری سرے کے قریب۔
03Speculative decoding دراصل کرتی کیا ہے
«Speculative decoding inference» کو ایک مارکیٹنگ کے لفظ کے طور پر استعمال کیا جاتا ہے، تو یہ رہا اس کا طریقۂ کار، سیدھے سادے لفظوں میں۔
ایک لینگویج ماڈل عام طور پر ہر forward pass میں ایک ٹوکن پیدا کرتا ہے۔ اس گزر پر حساب کتاب کا نہیں بلکہ میموری بینڈوتھ کا غلبہ ہوتا ہے — کچھ بھی حساب کرنے کے لیے وزن پڑھنا پڑتے ہیں، اور انہیں پڑھنے میں ریاضی کے مقابلے میں کہیں زیادہ وقت لگتا ہے۔ GPU اپنا زیادہ تر وقت میموری کے انتظار میں گزارتا ہے جبکہ اس کے کمپیوٹ یونٹ فارغ رہتے ہیں۔ 500 ٹوکن پیدا کرنے کا مطلب یہ تاخیر 500 بار، یکے بعد دیگرے ادا کرنا ہے۔
Speculative decoding اسی ترتیب وار حصے پر حملہ کرتی ہے۔ ایک چھوٹا، سستا draft ماڈل ممکنہ اگلے ٹوکن کی ایک مختصر لڑی تجویز کرتا ہے — مثلاً چار یا آٹھ۔ پھر مرکزی ماڈل اس پوری لڑی کو ایک ہی batched forward pass میں جانچتا ہے، جس کی لاگت ایک ٹوکن جانچنے سے مشکل ہی سے زیادہ ہوتی ہے، کیونکہ مہنگا حصہ (وزن پڑھنا) دونوں صورتوں میں ایک ہی بار ہوتا ہے۔ ہر تجویز کردہ ٹوکن جس سے مرکزی ماڈل متفق ہو، منظور کر کے فوراً بھیج دیا جاتا ہے۔ پہلے اختلاف پر لڑی کاٹ دی جاتی ہے اور وہیں سے معمول کی decoding دوبارہ شروع ہو جاتی ہے۔
وہ خاصیت جو اہم ہے
Speculative decoding آؤٹ پٹ کو محفوظ رکھنے والی ہے۔ تصدیق کا مرحلہ اس طرح بنایا گیا ہے کہ منظور شدہ ترتیب بالکل اسی تقسیم کے مطابق ہو جو مرکزی ماڈل کی اپنی sampling سے نکلتی۔ آپ کو draft ماڈل کا جواب نہیں مل رہا، اور نہ ہی آپ کو بڑے ماڈل کے جواب کا کوئی تخمینہ مل رہا ہے۔ آپ کو مرکزی ماڈل ہی کا آؤٹ پٹ مل رہا ہے، جو کم ترتیب وار مراحل میں حاصل ہوا۔ Draft ماڈل صرف رفتار پر اثر ڈال سکتا ہے، مواد پر کبھی نہیں۔
اصل کام قبولیت کی شرح کرتی ہے۔ قابلِ پیش گوئی متن پر — روایتی سانچے، کوڈ کی ساخت، کسی دلیل کے جوڑنے والے جملے — draft ماڈل اچھا اندازہ لگاتا ہے اور لمبی لڑیاں یکبارگی منظور ہو جاتی ہیں۔ واقعی مشکل ٹوکن پر قبولیت گر جاتی ہے اور نظام شائستگی سے واپس عام، ایک وقت میں ایک ٹوکن والی decoding پر آ جاتا ہے۔ یہ عدمِ توازن وہی ہے جو آپ چاہتے ہیں: یہ آسان حصوں کو تیز کرتا ہے اور مشکل حصوں کو چھیڑتا نہیں۔
4-بٹ وزن اسی پیراگراف میں کیوں ہیں
چونکہ رکاوٹ میموری بینڈوتھ ہے، اس لیے وزن کو چھوٹا کرنا رفتار کا براہِ راست لیور ہے، صرف میموری کی جگہ کا نہیں۔ NVFP4 ایک 4-بٹ فلوٹنگ پوائنٹ فارمیٹ ہے جس میں فی بلاک باریک اسکیلنگ ہوتی ہے، اور یہی چیز اسے وہ درستگی برقرار رکھنے دیتی ہے جو پرانی 4-بٹ انٹیجر quantization اسکیموں سے کھو جاتی تھی۔ فی forward pass تقریباً ایک چوتھائی بائٹ پڑھنے کا مطلب ہے متناسب طور پر میموری کے انتظار میں کم وقت، اور اس سے اس طویل کانٹیکسٹ KV کیشے کے لیے کہیں زیادہ گنجائش بچتی ہے جس کا 196K ونڈو تقاضا کرتی ہے۔
یہ دونوں محض جمع نہیں ہوتے بلکہ ایک دوسرے کو بڑھاتے ہیں: فی گزر کم بائٹ، اور فی خارج شدہ ٹوکن کم گزر۔ یہی چیز بغیر رکاوٹ، پوری رفتار والی سٹریمنگ کو سروِس کرنے کے قابل بناتی ہے، بجائے اس کے کہ وہ ایک لاگت ہو جسے ہمیں رفتار بندی کے ذریعے واپس نکالنا پڑے — اور 3.0 پر pacing پرت بالکل یہی کر رہی تھی۔
04196,608 ٹوکن: 6 گنا بڑی ونڈو کیا کھولتی ہے
Shannon 3.0 کی ونڈو 32,768 ٹوکن کی تھی: ایک کام کا سیشن، دستاویز نہیں۔ تقریباً 70-80 صفحات نثر، منہا وہ سب کچھ جو استدلالی لوپ اپنی سوچ پر خرچ کرتا ہے، منہا آپ کا سسٹم پرامپٹ، منہا اب تک کی گفتگو۔ حقیقی کام مسلسل اس دیوار سے ٹکراتا تھا، اور اس کے حل — ٹکڑے کرنا، خلاصہ کرنا، اپنے ہی مواد پر retrieval — سب اسی چیز کو خراب کرتے ہیں جسے آپ محفوظ رکھنا چاہ رہے تھے۔ 196,608 ٹوکن مسئلے کی ایک الگ ہی قسم ہے۔
ٹھوس الفاظ میں، یہ تقریباً 400-500 صفحات انگریزی متن، یا ایک درمیانے حجم کا کوڈ بیس اپنے ٹیسٹوں اور README سمیت، یا کسی ایک منصوبے کی سال بھر کی میٹنگ نوٹس، یا ایک مکمل معاہدہ سیٹ اپنی تمام ضمیموں کے ساتھ — ایک ہی گفتگو میں، ایک ہی سوال میں قابلِ رسائی، اور آپ کے اور مواد کے درمیان کوئی ٹکڑے کرنے والی پرت نہیں۔
- پوری ریپازٹری کے سوالات۔ کوڈ لوڈ کریں اور پوچھیں کہ کوئی خرابی پروڈکشن تک کیوں پہنچتی ہے، بجائے اس کے کہ آپ وہی تین فائلیں چسپاں کریں جن پر آپ کو پہلے ہی شبہ تھا۔ ماڈل وہ فائل ڈھونڈ سکتا ہے جسے شامل کرنے کا خیال آپ کو نہیں آیا۔
- Retrieval کے بغیر طویل دستاویز کا تجزیہ۔ Retrieval ایک نقصان دہ پیشگی چھلنی ہے جو طے کرتی ہے کہ ماڈل کو کیا دیکھنے کی اجازت ہے۔ 196K پر آپ اکثر اسے چھوڑ سکتے ہیں اور ماڈل کو سب کچھ پڑھنے دے سکتے ہیں، جس سے ناکامی کی وہ پوری قسم ختم ہو جاتی ہے جہاں درست اقتباس کبھی نکالا ہی نہیں گیا تھا۔
- گفتگو جو مربوط رہتی ہے۔ ایک لمبا کام کا سیشن اب خاموشی سے اپنا ہی آغاز نہیں گرا دیتا۔ جو پابندیاں آپ نے تیسرے پیغام میں طے کی تھیں وہ اسّیویں پیغام میں بھی لاگو رہتی ہیں۔
- استدلالی لوپ کے لیے گنجائش۔ لوپ کی اپنی سوچ، مسودہ سازی اور جائزہ کانٹیکسٹ خرچ کرتے ہیں۔ 3.0 پر یہ مراحل ایک قلیل بجٹ کے لیے آپ کے مواد سے مقابلہ کرتے تھے۔ 3.1 پر یہ آرام سے سما جاتے ہیں، اور یہی ایک وجہ ہے کہ معیار کا اضافہ اور ونڈو کی توسیع ساتھ ساتھ آئے۔
- بڑے ملے جلے ان پٹ۔ تصاویر، دستاویز سے نکالا گیا متن اور کوڈ ایک ہی باری میں، بغیر یہ چھانٹے کہ ان میں سے کن کو شامل کرنے کی گنجائش آپ کے پاس ہے۔
ایک ایماندارانہ تنبیہ جو ہر طویل کانٹیکسٹ ماڈل پر لاگو ہوتی ہے، ہمارے ماڈل سمیت: بڑی ونڈو ایک گنجائش ہے، اس بات کی ضمانت نہیں کہ توجہ پورے دورانیے میں یکساں رہے گی۔ ترتیب اب بھی مدد کرتی ہے۔ سوال کو آخر کے قریب رکھنا، اپنی دستاویزات پر عنوان لگانا، اور ماڈل کو یہ بتانا کہ کیا تلاش کرنا ہے — یہ سب 150K ٹوکن پر نتائج کو قابلِ پیمائش حد تک بہتر کرتے ہیں، جبکہ 5K پر ان کا ایسا اثر سرے سے نہیں ہوتا۔
05لائٹ اور پرو: shannon-3.1 اور shannon-3.1-pro
دونوں درجوں میں فرق اس بات کا ہے کہ وہ استدلالی لوپ کا کتنا حصہ چلاتے ہیں، اور ان میں سے انتخاب کے لیے صرف یہی فرق اہم ہے۔
| shannon-3.1 (لائٹ) | shannon-3.1-pro (پرو) | |
|---|---|---|
| استدلال | ایک گزر | پورا لوپ + علم کی جمع آوری |
| خود جائزہ | نہیں | ہاں |
| کانٹیکسٹ ونڈو | 196,608 | 196,608 |
| سٹریمنگ | پوری رفتار، بغیر رکاوٹ | پوری رفتار، بغیر رکاوٹ |
| وژن اور دستاویزات | ہاں | ہاں |
| تصویر سازی کا ٹول | ہاں | ہاں |
| بہترین کس کے لیے | زیادہ تر کام، بڑی مقدار | مشکل سوالات، جہاں پہلا مسودہ ناکافی ہو |
ڈیفالٹ کے طور پر لائٹ استعمال کریں۔ ایک اچھے استدلالی ماڈل کا ایک گزر حقیقی درخواستوں کی بڑی اکثریت سنبھال لیتا ہے، اور 3.1 پر یہ اتنا تیز ہے کہ لوپ اب ایسی چیز نہیں رہی جس کا انتظار آپ کو محسوس ہو۔ پرو کی طرف جائیں جب سوال ایسا ہو جہاں پہلا جواب عام طور پر ایک سبق آموز انداز میں غلط ہوتا ہے: تعمیراتی سمجھوتے، مخالفانہ تجزیہ، یا کوئی بھی ایسی چیز جس پر آپ چاہیں گے کہ ایک قابل ساتھی رات بھر سوچے۔ پرو کا خود جائزہ لینے کا مرحلہ سجاوٹ نہیں ہے — یہ ماڈل کا اپنی غلطیاں آپ سے پہلے خود ڈھونڈ لینا ہے۔
06ذہانت میں 32% اضافہ، اور اسے کیسے پڑھا جائے
Shannon Lab کی اپنی جانچ Shannon 3.1 کو Shannon 3.0 کے مقابلے میں ذہانت میں 32% بہتری پر رکھتی ہے۔ ہم واضح رہنا چاہتے ہیں کہ یہ کیا ہے اور کیا نہیں۔
یہ ہمارا اپنا ہندسہ ہے، ہمارے داخلی جانچ سیٹ سے، ان کاموں پر ناپا گیا جنہیں ہم اس بات کا نمائندہ سمجھتے ہیں کہ لوگ ان ماڈلز کے پاس دراصل کیا لاتے ہیں۔ یہ کسی فریقِ ثالث کا بینچ مارک نہیں، اور ہم ایک داخلی مجموعی ہندسے کے گرد کوئی لیڈر بورڈ ٹیبل نہیں بنا رہے اور نہ ہی فی بینچ مارک تفصیل شائع کر رہے ہیں — ایسی تفصیل بیرونی موازنے کی ایک ایسی سطح کا تاثر دیتی ہے جو کسی داخلی سیٹ کے پاس نہیں ہوتی۔
ہم جو بات کہیں گے وہ یہ ہے کہ اضافہ کہاں سے آتا ہے، کیونکہ وہ حصہ پُراسرار نہیں۔ بڑی کانٹیکسٹ ونڈو کا مطلب ہے کہ ماڈل کے استدلال سے پہلے کم مواد پھینکنا پڑتا ہے، اور لمبے سیشنوں میں بظاہر نظر آنے والی بہت سی بے وقوفی دراصل محض بھول جانا ہوتی ہے۔ اپنے قابو میں سروِنگ اسٹیک کا مطلب ہے کہ ماڈل اسی ترتیب کے ساتھ چلتا ہے جس کا ہمارا ارادہ تھا، نہ کہ کسی ہوسٹ کے ڈیفالٹ کے ساتھ۔ اور استدلالی لوپ — جس کا ڈیزائن بدلا نہیں — اب ونڈو کے اندر واقعی چلنے کی گنجائش رکھتا ہے، بجائے اس کے کہ وہ 32K کی اُس چھت سے دبا رہے جو وہ آپ کے ان پٹ کے ساتھ بانٹتا تھا۔
آپ کے لیے سب سے مفید بینچ مارک آپ کا اپنا ہے۔ اپنے حقیقی کام میں سے ایک پرامپٹ لیں — کوئی پہیلی نہیں، ایک اصلی پرامپٹ — اور اسے shannon-3 پر اور پھر shannon-3.1 پر چلائیں۔ جوابات کا موازنہ کریں، اور وقت ناپیں۔ ہمارے ہندسے ایک پورے سیٹ کی اوسط بیان کرتے ہیں؛ آپ کا پرامپٹ وہی ہے جسے بہتر ہونا ہے۔
07وژن، دستاویزات، اور تصویر سازی
Shannon 3.1 تصاویر اور دستاویزات پڑھتا ہے۔ اسکرین شاٹس، خاکے، تصاویر، اسکین شدہ صفحات، PDF اور متن کی دستاویزات گفتگو میں شامل ہو سکتی ہیں اور باقی سب چیزوں کے ساتھ ان پر استدلال کیا جا سکتا ہے۔ 196K ونڈو کے ساتھ مل کر یہی چیز پوری دستاویز والے ورک فلو کو عملی بناتی ہے: ایک لمبی رپورٹ اور اس کے چارٹ ایک ہی باری میں، بغیر پہلے سے یہ طے کیے کہ ماڈل کو کون سے صفحات دیکھنے کی اجازت ہے۔
تصویر سازی اور تدوین چیٹ میں ایک ٹول کے طور پر دستیاب ہیں۔ تصویر مانگیں اور ماڈل اسی گفتگو میں، اب تک زیرِ بحث ہر بات کے سیاق کے ساتھ، ٹول کو براہِ راست پکارتا ہے۔ تدوین بھی اسی طرح کام کرتی ہے — اسے ایک تصویر دیں، اور تبدیلی بیان کریں۔ کسی الگ موڈ میں جانے کی ضرورت ہے اور نہ کوئی الگ انٹرفیس سیکھنے کی۔
08API سے Shannon 3.1 کو پکارنا
Shannon 3.1 تینوں API طرزوں پر دستیاب ہے، اور ہر ایک پر سٹریمنگ کے ساتھ۔ وہی ماڈل، تین درخواستی شکلیں — جو بھی آپ کے پہلے سے موجود SDK سے میل کھائے، وہی چنیں۔
| اینڈ پوائنٹ | شکل | سٹریمنگ |
|---|---|---|
| /v1/chat/completions | OpenAI مطابقت پذیر | ہاں |
| /v1/messages | Anthropic مطابقت پذیر | ہاں |
| /v1/responses | Responses | ہاں |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}
پورا استدلالی لوپ چلانے کے لیے "shannon-3.1" کی جگہ "shannon-3.1-pro" رکھ دیں۔ اگر آپ پہلے سے shannon-3 کو پکار رہے ہیں، تو منتقلی صرف ماڈل کی id بدلنے تک محدود ہے اور بس: درخواست اور جواب کی شکلیں وہی ہیں، اور موجودہ سٹریمنگ کلائنٹ کام کرتے رہتے ہیں۔ رویّے میں صرف ایک فرق متوقع ہے، یعنی سیکشن 02 میں بیان کردہ جھٹکے دار سٹریم — وہی ٹوکن، وہی ترتیب، جو جلد اور کم یکساں ٹکڑوں میں پہنچتے ہیں۔
مکمل پیرامیٹر حوالہ، تصدیق، خرابی کے معنی اور ایک انٹرایکٹو پلے گراؤنڈ API دستاویزات میں موجود ہیں۔ دیگر ماڈل کارڈز اور تکنیکی تحریریں Shannon ریسرچ میں ہیں۔
09اب بھی بغیر سنسر شپ، اور اس معاملے میں کوئی تبدیلی نہیں
Shannon 3.1 میں انکار کی کوئی پرت نہیں اور آؤٹ پٹ پر کوئی مواد کی چھانٹی نہیں۔ یہ باقی Shannon سلسلے جیسا ہی مؤقف ہے اور ہمارے اپنے کلسٹر پر منتقلی کے ساتھ یہ بدلا نہیں — بلکہ اگر کچھ ہوا ہے تو سروِنگ اسٹیک پر قابو ہونے سے اس کی ضمانت دینا آسان ہو گیا ہے، کیونکہ ماڈل اور آپ کے درمیان اپنی الگ پالیسی رکھنے والا کوئی درمیانی ہوسٹ موجود نہیں۔
یہ بات صاف کہنے کے قابل ہے کیونکہ ایک ایسی ریلیز کے بارے میں یہی سب سے واضح سوال ہے جس نے پورا آؤٹ پٹ راستہ بدل دیا: pacing پرت ہٹانے کا مطلب یہ نہیں تھا کہ اس کی جگہ اعتدال کی کوئی پرت رکھ دی جائے۔ کوئی چیز سٹریم کو جانچتی، دوبارہ لکھتی یا روکتی نہیں۔ ماڈل جو پیدا کرتا ہے وہی پہنچتا ہے۔ جہاں تک ہمیں علم ہے، Shannon 3.1 اس حجم کی کانٹیکسٹ ونڈو کے ساتھ دستیاب سب سے تیز بغیر سنسر شپ AI ماڈل ہے — اور یہ دونوں خصوصیات آپس میں جڑی ہیں، کیونکہ دونوں کسی اور سے تعمیل کی شکل میں ڈھلی گنجائش کرائے پر لینے کے بجائے اپنا انفراسٹرکچر خود چلانے سے آتی ہیں۔
بغیر سنسر شپ ہونا اور بغیر جوابدہی ہونا ایک بات نہیں۔ استعمال ہماری ذمہ دارانہ استعمال کی پالیسی کے تحت آتا ہے، اور ایسے ماڈل کے ساتھ جو مشکل مواد سے نمٹنے کو تیار ہو، یہ ذمہ داری آتی ہے کہ آپ اس سے ذمہ داری کے ساتھ نمٹیں۔
10موازنہ خود کر کے دیکھیں
یہاں کا ہر دعویٰ تقریباً دو منٹ میں جانچا جا سکتا ہے، اور ہم چاہیں گے کہ آپ ہم پر یقین کرنے کے بجائے خود جانچیں۔
- اپنے اصل کام میں سے ایک پرامپٹ چنیں۔ لمبا ہو تو بہتر ہے — وہ ونڈو اور سٹریمنگ دونوں کو آزماتا ہے۔
- اسے
shannon-3پر چلائیں۔ نوٹ کریں کہ پہلا ٹوکن آنے میں کتنا وقت لگا، اور جواب مکمل ہونے میں کتنا۔ - وہی پرامپٹ
shannon-3.1پر چلائیں۔ وہی دو ہندسے نوٹ کریں۔ - پھر گھڑی کو نظرانداز کرتے ہوئے دونوں جوابات پڑھیں، اور فیصلہ کریں کہ آپ کو کون سا چاہیے تھا۔
رفتار کا فرق فوری اور واضح ہوگا۔ معیار کا فرق وہ ہے جس پر ٹھہر کر غور کرنے کی ضرورت ہے — یہ سب سے واضح طور پر لمبے ان پٹ پر سامنے آتا ہے، جہاں 3.0 خاموشی سے آپ کے مواد کے اس سے کم حصے پر کام کر رہا تھا جتنا آپ سمجھ رہے تھے۔
11اکثر پوچھے جانے والے سوالات
Shannon 3.1 کیا ہے؟
Shannon 3.1، Shannon 3 خاندان کی موجودہ ریلیز ہے۔ یہ وہی تکراری استدلالی لوپ رکھتا ہے — سوچو، مسودہ بناؤ، خود جائزہ لو، بہتر کرو — لیکن اسے کسی فریقِ ثالث کے inference ہوسٹ کے بجائے ہمارے اپنے GPU کلسٹر پر مقامی طور پر چلاتا ہے۔ Shannon Lab کی اپنی جانچ Shannon 3.0 کے مقابلے میں ذہانت میں 32% بہتری اور 10-15 گنا تیز جوابات ناپتی ہے، جبکہ کانٹیکسٹ ونڈو 32,768 سے بڑھا کر 196,608 ٹوکن کر دی گئی ہے۔
Shannon 3.1، Shannon 3.0 سے کتنا تیز ہے؟
Shannon Lab کی اپنی جانچ کے مطابق مکمل جواب کے لحاظ سے 10 سے 15 گنا تیز۔ اس کی دو وجوہات ہیں۔ Shannon 3.0 کا آؤٹ پٹ ایک pacing پرت سے گزرتا تھا جو جان بوجھ کر سٹریم کی رفتار محدود کرتی تھی؛ Shannon 3.1 میں نہ رفتار کی کوئی رکاوٹ ہے نہ ظاہر کرنے کی کوئی رفتار بندی، اس لیے ٹوکن آپ تک اتنی ہی تیزی سے پہنچتے ہیں جتنی تیزی سے انجن انہیں پیدا کرتا ہے۔ انجن خود بھی تیز ہے: 4-بٹ NVFP4 وزن اور ہمارے اپنے GPU کلسٹر پر speculative decoding۔
Shannon 3.1 کی کانٹیکسٹ ونڈو کتنی بڑی ہے؟
196,608 ٹوکن، یعنی Shannon 3.0 پر دستیاب 32,768 ٹوکن سے 6 گنا زیادہ۔ یہ تقریباً 400-500 صفحات متن، یا ایک درمیانے حجم کے کوڈ بیس کے برابر ہے، جو بغیر ٹکڑے کیے یا retrieval کے ایک ہی گفتگو میں سما جاتا ہے۔
Speculative decoding کیا ہے اور یہاں اس کی اہمیت کیا ہے؟
ایک چھوٹا، تیز رفتار draft ماڈل ممکنہ اگلے ٹوکن کی ایک لڑی تجویز کرتا ہے اور مرکزی ماڈل انہیں ایک ہی batched گزر میں جانچ لیتا ہے۔ منظور شدہ ٹوکن فوراً بھیج دیے جاتے ہیں؛ مسترد ہونے والوں کے لیے نظام معمول کی decoding پر واپس آ جاتا ہے۔ آؤٹ پٹ وہی ہوتا ہے جو مرکزی ماڈل خود پیدا کرتا، مگر ہر تصدیقی مرحلے میں ایک کے بجائے کئی ٹوکن نکل سکتے ہیں۔ یہی چیز پوری رفتار پر سٹریمنگ کو لاگت کا مسئلہ بننے کے بجائے قابلِ برداشت بناتی ہے۔
کیا Shannon 3.1 بغیر سنسر شپ کے ہے؟
جی ہاں۔ Shannon 3.1 میں کوئی انکار کی پرت نہیں اور اس کے آؤٹ پٹ پر کوئی مواد کی چھانٹی لاگو نہیں ہوتی، بالکل باقی Shannon سلسلے کی طرح۔ pacing پرت ہٹانے سے اس کی جگہ کوئی اعتدال کی پرت نہیں آئی — جو سٹریم آپ کو ملتی ہے وہ ماڈل کا اپنا آؤٹ پٹ ہے۔
ماڈل کی id کیا ہیں اور میں Shannon 3.1 کہاں استعمال کر سکتا ہوں؟
shannon-3.1 لائٹ درجہ ہے اور shannon-3.1-pro پرو درجہ۔ دونوں چیٹ میں اور تینوں API طرزوں پر دستیاب ہیں: /v1/chat/completions (OpenAI طرز)، /v1/messages (Anthropic طرز)، اور /v1/responses۔ سٹریمنگ تینوں پر کام کرتی ہے۔
shannon-3.1 اور shannon-3.1-pro میں کیا فرق ہے؟
لائٹ استدلالی لوپ کا ایک ہی گزر چلاتا ہے: پہلے سوچتا ہے، پھر جواب دیتا ہے۔ پرو پورا لوپ چلاتا ہے — سوچو، مسودہ بناؤ، خود جائزہ لو، بہتر کرو — اور مسودہ بنانے سے پہلے علم جمع کرنے کا ایک مرحلہ بھی۔ زیادہ تر کام کے لیے لائٹ درست ڈیفالٹ ہے؛ پرو ان سوالوں کے لیے ہے جہاں پہلا جواب عام طور پر بہترین نہیں ہوتا۔
Shannon 3.1 آزمائیں
وہی استدلالی لوپ۔ چھ گنا بڑی ونڈو۔ رفتار کی کوئی رکاوٹ نہیں۔
چیٹ شروع کریں API دستاویزات پڑھیںshannon-3.1 · shannon-3.1-pro · تینوں طرزوں پر سٹریمنگ
اس مضمون میں کارکردگی اور ذہانت کے ہندسے Shannon Lab کی اپنی داخلی جانچ کی پیمائشیں ہیں، ستمبر 2026، اور انہیں فریقِ ثالث کے بینچ مارک نتائج کے بجائے مصنوعاتی ہندسوں کے طور پر پیش کیا گیا ہے۔ کانٹیکسٹ ونڈو، ماڈل id، اور API کی دستیابی مصنوعاتی خصوصیات ہیں۔ Shannon AI کو Shannon Lab LLC، نیو میکسیکو، امریکہ چلاتا ہے۔ متعلقہ مطالعہ: Shannon 3 · Shannon ریسرچ فہرست · API دستاویزات۔