بغیر سنسر شپ Inkling ماڈل API
Thinking Machines کی 975B Inkling Mixture-of-Experts بنیاد کا وژن رکھنے والا، بغیر سنسر شپ بلڈ — 262K سیاق، تصویری داخلہ، کوئی انکار کی پرت نہیں۔
خلاصہ
inkling-W4A16-AUTOROUND-REAP ہماری وہ تعیناتی ہے جس پر Inkling چلتا ہے، یعنی وہ 975 ارب پیرامیٹر کا کھلے وزنوں والا MoE جو Thinking Machines Lab نے 15 جولائی 2026 کو جاری کیا۔ اس میں وژن ہے، یہ ٹول کالنگ اور استدلال کی سطح کا قابو رکھتا ہے، اور ہمارے اپنے GPU کلسٹر پر بغیر کسی انکار کی پرت اور بغیر اخراجی چھلنی کے چلتا ہے۔ سیاق 262,144 ٹوکن ہے، اخراج 16,384 تک۔ قیمت فی ملین ٹوکن $1.42 داخل / $6.07 خارج ہے — درمیانی اضافی قیمت، ہماری $0.50 والی کم ترین سطح سے اوپر اور Kimi-K3 سرِفہرست ماڈل سے خاصی نیچے۔ ایک تنبیہ جس کا منصوبہ بنانا ہوگا: یہ response_format کی حمایت کرتا ہے مگر json_schema کی نہیں۔
ہمارے گیٹ وے کے بارہ ماڈلوں میں سے زیادہ تر صرف متنی ہیں۔ چار نہیں ہیں، اور اُن چار میں Inkling ایک مخصوص مقام رکھتا ہے: یہ وہ وژن ماڈل ہے جس کی طرف آپ تب بڑھتے ہیں جب تصویر ہی مسئلے کا مشکل حصہ ہو مگر بجٹ کسی سرِفہرست ماڈل تک نہ پہنچتا ہو۔ یہ کارڈ بتاتا ہے کہ بنیاد کہاں سے آئی، W4A16-AUTOROUND-REAP لاحقے نے اس کے ساتھ کیا کیا، API کی سطح پر یہ کیا کرے گا اور کیا نہیں، اور — ایمانداری سے — کب اسی فہرست کا کوئی سستا ماڈل بہتر انتخاب ہے۔
01Inkling کیا ہے، اور اسے بنایا کس نے؟
Inkling، Thinking Machines Lab کا پہلا کھلے وزنوں والا ماڈل ہے، جو 15 جولائی 2026 کو شائع ہوا۔ “کھلا” کہہ کر پیش کیے جانے والے زیادہ تر اجراؤں کے برعکس، یہ Hugging Face پر مکمل، قابلِ نزول وزنوں اور transformers، SGLang، vLLM اور llama.cpp میں پہلے ہی دن کی حمایت کے ساتھ آیا — اور یہی وجہ ہے کہ یہ ہماری جیسی بنیادی ساخت پر سرے سے چلنے کے قابل ہوا۔ Thinking Machines کے اپنے اجرائی مواد سے نمایاں اعداد:
یہ ایک خلوت پسند Mixture-of-Experts خاکہ ہے: 6,144 پوشیدہ جسامت پر 66 ڈی کوڈر تہیں، پہلی دو گنجان، باقی 64 پر 256 راستہ یافتہ ماہرین اور 2 مشترک ماہرین، جن میں سے فی ٹوکن 6 راستہ یافتہ ماہرین فعال ہوتے ہیں۔ کسی بھی ٹوکن پر تقریباً 4% پیرامیٹر بھڑکتے ہیں — اور یہی وہ چیز ہے جو قریب قریب کھرب پیرامیٹر کے ماڈل کو پیش کرنے کے قابل بناتی ہے۔
دو فنِ تعمیراتی انتخاب اتنے غیر معمولی ہیں کہ نام لیے جائیں۔ توجہ باہم بُنی ہوئی ہے — 512 ٹوکن کی کھڑکی پر سرکتی توجہ کی 55 تہیں بمقابلہ 11 عالمی تہیں، 5:1 کے دہراتے ہوئے نمونے میں۔ اور Inkling RoPE استعمال نہیں کرتا: یہ ایک سیکھی ہوئی، داخلے پر منحصر نسبتی مقام کی جھکاؤ استعمال کرتا ہے، ساتھ ہی کلید/قدر کی ڈھلائیوں اور بقیہ شاخوں پر مختصر سببی کنوولوشن۔ Sebastian Raschka کے فنِ تعمیراتی نوٹ دونوں کو 2026 کی معیاری ترکیب سے حقیقی انحراف قرار دیتے ہیں۔ تربیت میں بڑے میٹرکس پیرامیٹروں کے لیے Muon اور باقی کے لیے Adam استعمال ہوا، اور پھر بعد از تربیت 3 کروڑ سے زیادہ غیر ہم وقت RL رول آؤٹ۔
API استعمال کرنے والے کے لیے نکتہ یہ معلوماتِ عامہ نہیں۔ نکتہ یہ ہے کہ یہ ایک سرحدی پیمانے کی، مقامی طور پر کثیر وسیلہ بنیاد ہے جو متن، تصاویر، آواز اور ویڈیو پر پھیلے 45 کھرب ٹوکن پر تربیت یافتہ ہے — نہ کہ کوئی متنی ماڈل جس پر بعد میں وژن اڈاپٹر چپکا دیا گیا ہو۔ تصاویر چار تہوں کے درجہ بند MLP پیچ ساز کے ذریعے 40×40 پکسل کے ٹکڑوں کی صورت انکوڈ ہوتی ہیں اور اسی ڈی کوڈر میں متن کے ساتھ مل کر پروسیس ہوتی ہیں۔ بصری فہم پیشگی تربیت کے مقصد میں شامل تھی۔
02W4A16-AUTOROUND-REAP کا کیا مطلب ہے؟
اس لاحقے میں تین الگ تکنیکیں چنی ہوئی ہیں، اور وہ مختلف کام کرتی ہیں۔ انہیں سمجھنا اس لیے قیمتی ہے کہ آپ ہمارے API پر جس ماڈل کو پکارتے ہیں اور Thinking Machines کی شائع کردہ چیک پوائنٹ کے درمیان سب سے بڑا اکلوتا فرق یہی لاحقہ ہے۔
REAP — اُن ماہروں کی کٹائی جن تک کوئی راستہ نہیں جاتا
REAP، یعنی Router-weighted Expert Activation Pruning، Cerebras Research کی طرف سے (arXiv 2510.13999، ICLR 2026 میں منظور)۔ فی تہہ 256 ماہروں والے MoE میں روٹر کام برابر نہیں بانٹتا: بعض ماہر مسلسل استعمال ہوتے ہیں، بعض کم ہی بھڑکتے ہیں اور جب بھڑکتے بھی ہیں تو کم حصہ ڈالتے ہیں۔ REAP ہر ماہر کو دونوں پر پرکھتا ہے — روٹر کے دروازوں کی قدروں اور ماہر کی فعالیت کے معیاروں پر، کیونکہ ایسا ماہر جو اکثر چنا جائے مگر کم مقدار کی ترامیم دے، اپنے انتخابی شمار سے کم اہم ہے — اور کم نمایاں کو کوانٹائزیشن سے پہلے ایک ہی وار میں گرا دیتا ہے۔
ہم زیادہ فیشن زدہ ماہر ملاپ کے بجائے کٹائی اس لیے استعمال کرتے ہیں کہ دونوں کام کی نوعیت کے ساتھ الگ ہو جاتے ہیں۔ ملاپ امتیازی معیارات پر مقابلے کا لگتا ہے اور تخلیقی پر بکھر جاتا ہے۔ REAP کے مصنفین بتاتے ہیں کہ کٹائی معیار کو بالکل اُنہی کاموں پر بہتر بچاتی ہے جن کے لیے لوگ API خریدتے ہیں — کوڈ کی ترکیب، ٹول کالنگ، کئی موڑ کا استدلال — 50% سے آگے کے دباؤ کے تناسب پر، اور 20B سے 1T پیرامیٹر تک کے ماڈلوں پر۔ ملاپ روٹر کی تخصیص تباہ کر دیتا ہے؛ کٹائی بچ رہنے والے ماہروں اور اُن کے بیچ راستہ بندی کو سالم چھوڑ دیتی ہے۔
AutoRound — یہ سیکھنا کہ راؤنڈ کہاں کیا جائے
AutoRound، Intel کا تربیت کے بعد کوانٹائزیشن کا طریقہ ہے (arXiv 2309.05516، SignRound کے نام سے شائع)۔ سادہ کوانٹائزیشن ہر وزن کو نزدیک ترین قابلِ نمائندگی 4-bit قدر پر راؤنڈ کر دیتی ہے — ایک معقول طے شدہ انتخاب، اور پیمانے پر ایک برا انتخاب، کیونکہ راؤنڈنگ کی غلطیاں آزاد نہیں ہوتیں اور 66 تہوں کے ڈھیر میں جمع ہوتی جاتی ہیں۔ AutoRound راؤنڈنگ کے فیصلے کو ایسی چیز سمجھتا ہے جسے بہتر بنایا جائے: علامت دار گریڈیئنٹ ڈیسنٹ چند سو قدموں میں راؤنڈنگ کی سمت اور وزن کترنے کی حدود کو ایک ساتھ ترتیب دیتا ہے، اور کوانٹائزیشن سے آگاہ تربیت کی درستگی بغیر دوبارہ تربیت کے مستعار لیتا ہے۔ Intel انتہائی کم بٹ کی ترتیبوں پر سب سے بڑے فائدے اور INT4 پر مسابقتی برتری بتاتا ہے۔
W4A16 — بٹ کہاں جاتے ہیں
W4A16 عددی صورت ہے: 4-bit وزن، 16-bit فعالیت۔ وزن — جو 975B کے ماڈل میں یادداشت پر غالب ہیں — BF16 نقش کے تقریباً چوتھائی پر سکڑ جاتے ہیں، جبکہ حسابیات 16 بٹ پر رہتی ہے۔ یہ تقسیم خاص طور پر وژن ماڈل کے لیے اہم ہے: فعالیت کو کوانٹائز کرنے والی اسکیمیں عین اُس باریک عددی کام کو نقصان پہنچاتی ہیں جس پر تصویری فہم کا انحصار ہے — کوئی چھوٹا محوری لیبل پڑھنا، کسی خاکے میں پتلی لکیر الگ کرنا، دو ملتے جلتے سایوں میں فرق کرنا۔ فعالیت کو 16 بٹ پر رکھنا بینڈ وڈتھ خرچ کرتا ہے اور وہاں درستگی واپس خریدتا ہے جہاں تصویری کام اسے محسوس کرتا ہے۔
مل کر یہ تینوں ایسا ماڈل دیتے ہیں جو سماتا بھی ہے اور تیز بھی رہتا ہے، بغیر اُس معیاری کھائی کے جو ہم سب سے بڑی بنیادوں پر استعمال ہونے والے جارحانہ 3BIT-REAP درجے میں ہوتی ہے۔ قیمت اسی سودے کی عکاسی کرتی ہے۔
03وژن: بغیر انکار تصویری تجزیے کا API
Inkling ہماری فہرست کے چار وژن رکھنے والے ماڈلوں میں سے ایک ہے، Kimi-K3، Kimi-K2.6 اور MiniMax-M3 کے ساتھ۔ Thinking Machines کے اجرا سے بنیادی ماڈل کے شائع شدہ وژن نتائج MMMU Pro (Standard 10) پر 73.3% اور CharXiv استدلالی سوالات پر 78.1% ہیں — اور جب ماڈل کو چارٹ پر Python چلانے دیا جائے تو 82.0% تک۔ یہ بغیر کوانٹائز شدہ چیک پوائنٹ کے لیے تجربہ گاہ کے اپنے اعداد ہیں؛ انہیں خاندان کی چھت سمجھیے، ہمارے بلڈ کی پیمائش نہیں۔
CharXiv پر ٹھہرنا بنتا ہے، کیونکہ یہ اُس وجہ پر نقشہ بناتا ہے جس کے سبب لوگ OCR سروس کے بجائے وژن API خریدتے ہیں۔ یہ سائنسی چارٹوں پر استدلال جانچتا ہے — محور سے کوئی قدر پڑھنا، دو سلسلوں کا موازنہ، کسی رجحان کے پلٹنے کو بھانپنا۔ “اس تصویر میں کیا متن ہے” نہیں بلکہ “یہ شکل کیا دعویٰ کرتی ہے، اور کیا وہ دعویٰ ٹھہرتا ہے۔” یہی وہ چیز ہے جو تصویر کو کسی چھوٹے بیان کنندہ کے بجائے 975B کے استدلالی ماڈل کو بھیجنے کا جواز بنتی ہے۔
تصویر بھیجنا عام OpenAI ہم آہنگ کام ہے — /v1/chat/completions پر image_url مواد کا حصہ، /v1/messages پر Anthropic طرز کا image بلاک، یا /v1/responses پر اس کے مساوی۔ تینوں لہجے انہی وزنوں تک پہنچتے ہیں اور تینوں اسٹریم کرتے ہیں؛ وہی چنیے جو آپ کا موجودہ SDK پہلے سے بولتا ہے۔ ایک عملی مثال حصہ 09 میں ہے۔
“بغیر سنسر شپ” والا حصہ متن کے مقابلے میں وژن کے لیے زیادہ اہم ہے۔ وژن اینڈ پوائنٹ پر انکار کی پرت غیر معمولی حد تک کند ہوتی ہے، کیونکہ عموماً یہ تصویر کو ماڈل کے درخواست پر استدلال کرنے سے پہلے ہی درجہ بند کر دیتی ہے۔ جائز کام مسلسل اس میں پھنستا ہے: طبی نوٹ کی پائپ لائن میں زخم کی تصویر، واقعے کی رپورٹ میں فورنزک اسکرین شاٹ، تنقیدی مضمون کے لیے زیرِ تجزیہ فلم کا ایک فریم، کوئی طبی اسکین، کسی دستاویز کی تصویر جس میں اتفاقاً کوئی نام آ گیا ہو۔ ہمارے گیٹ وے پر Inkling کے آگے ایسا کوئی درجہ بند نہیں۔ یہ وہی دیکھتا ہے جو آپ نے بھیجا اور اُسی سوال کا جواب دیتا ہے جو آپ نے پوچھا۔ یہی مصنوعات ہے۔
04ساختی اخراج: response_format ہاں، json_schema نہیں
یہ وہ اکلوتی جگہ ہے جہاں Inkling باقی فہرست سے کم صلاحیت رکھتا ہے، اور اسے پیداوار میں دریافت کرنے سے بہتر ہے کہ پہلے سے منصوبہ بنا لیا جائے۔
| صلاحیت | inkling | Kimi-K2.6 | MiMo-V2.5 | Laguna-S-2.1 |
|---|---|---|---|---|
| وژن (تصویری داخلہ) | ہاں | ہاں | ہاں | نہیں |
response_format | ہاں | ہاں | ہاں | نہیں |
json_schema | نہیں | ہاں | ہاں | نہیں |
| ٹول کالنگ | ہاں | ہاں | ہاں | ہاں |
| استدلال کی سطح | ہاں | ہاں | ہاں | ہاں |
response_format: {"type": "json_object"} چلتا ہے — آپ کو نحوی طور پر درست JSON ملتا ہے۔ جو نہیں ملتا وہ ہے آپ کی فراہم کردہ schema کے مقابل گرامر سے محدود ڈی کوڈنگ، جہاں نمونہ ساز کو ایسا ٹوکن خارج کرنے سے طبعی طور پر روک دیا جائے جو آپ کی ساخت کی خلاف ورزی کرے۔ خانوں کے نام، فہرستی رکنیت، اور لازمی کلیدوں کی موجودگی ماڈل کا انتخاب ہیں، ضمانت نہیں۔
اس کے ساتھ جینے کے تین طریقے، بھروسے کی بڑھتی ہوئی ترتیب میں:
- schema کو پیش لفظ میں دیجیے اور تصدیق کیجیے۔ schema کو نظامی پیش لفظ میں لفظی JSON کے طور پر رکھیے،
response_formatکوjson_objectپر لگائیے، اور جواب اپنی طرف تصدیق کیجیے۔ تصدیق ناکام ہونے پر ویلیڈیٹر کے خامی پیغام کے ساتھ دوبارہ کوشش کیجیے۔ سستا، چلتا ہے، دوبارہ کوشش کا بجٹ چاہیے۔ - ٹول تعریف کو ہی schema بنائیے۔ ٹول کالنگ کی حمایت موجود ہے، اور کسی فنکشن کی پیرامیٹر تعریف ہی ایک JSON Schema ہوتی ہے۔ اپنے مطلوبہ اخراج کے نام پر ایک ٹول اعلان کیجیے، اسے لازمی کیجیے، اور دلائل پڑھ لیجیے۔ Inkling پر یہ عموماً سب سے مضبوط راستہ ہے اور اس پر کچھ اضافی خرچ نہیں آتا۔
- کام دو ماڈلوں میں بانٹیے۔ Inkling سے وژن اور استدلال نثر میں کرائیے، پھر وہ نثر
MiMo-V2.5-W8A16کو $0.50 / $2.00 پر ایک اصلیjson_schemaکے ساتھ ساختی گزر کے لیے تھما دیجیے۔ دو کالیں، مگر دوسری سستی ہے، صورت میں یقینی ہے، اور جس ماڈل کو ذہین ہونا تھا وہی ہے جس نے تصویر دیکھی۔
تیسرا طریقہ وہ ہے جس کی ہم کسی بھی بڑے حجم کی اخراجی پائپ لائن کے لیے سفارش کریں گے۔ اضافی قیمت صرف اُس قدم پر دیجیے جسے اس کی ضرورت ہے۔
05اضافی قیمت کیا خریدتی ہے؟
فی ملین ٹوکن $1.42 داخل / $6.07 خارج پر Inkling جان بوجھ کر ہماری فہرست کے وسط میں بیٹھا ہے۔ بارہ میں سے چھ ماڈل $0.50 / $2.00 کی کم ترین سطح پر ہیں۔ Kimi-K3 — سرِفہرست ماڈل، اور وہ بھی وژن رکھنے والا — $3.83 / $19.12 پر ہے۔ Inkling اخراج پر کم ترین سطح سے تقریباً تین گنا اور سرِفہرست ماڈل کا تقریباً ایک تہائی ہے۔
اخراج کی قیمت، فی 1M ٹوکن USD میں، Shannon AI گیٹ وے کی فہرستی شرحیں، ستمبر 2026۔ پٹی کی چوڑائی قیمت کے متناسب ہے؛ لمبی کا مطلب مہنگا۔
یہ رہا ایماندارانہ جائزہ کہ وہ اضافی قیمت کہاں اپنا حق ادا کرتی ہے — اور کہاں نہیں۔
| کام | Inkling استعمال کریں؟ | کیوں |
|---|---|---|
| چارٹ / خاکے پر استدلال | ہاں | شائع شدہ CharXiv اور MMMU Pro اعداد وہی ہیں جن میں یہ بنیاد سب سے مضبوط ہے۔ |
| اسکرین شاٹ سے چلنے والے ایجنٹ | ہاں | ایک ہی ماڈل میں وژن، ٹول کالنگ اور 262K تاریخ، کوئی حوالگی نہیں۔ |
| تصویروں والی لمبی دستاویزات | ہاں | متن اور تصاویر ایک ہی ڈی کوڈر اور ایک ہی سیاق کھڑکی میں شریک ہیں۔ |
| سادہ متن کی تخلیق | نہیں | یہ کام $0.50 / $2.00 والے چھ ماڈل کرتے ہیں۔ آپ ایسے وژن راستے کی قیمت دے رہے ہیں جسے آپ کبھی نہیں پکارتے۔ |
| تھوک schema اخراج | نہیں | json_schema نہیں۔ MiMo-V2.5 سستا بھی ہے اور محدود بھی۔ |
| مطلق سرحدی چھت | نہیں | Kimi-K3 سرِفہرست ہے۔ اگر چھت ہی رکاوٹ ہے تو 3.1× ادا کیجیے۔ |
| ممکنہ حد تک سستا وژن | نہیں | MiniMax-M3 کے پاس $0.50 / $2.00 پر وژن ہے۔ وہیں سے شروع کیجیے، اور معیار مجبور کرے تو اوپر جائیے۔ |
اسے راستہ بندی کا اصول سمجھیے، درجہ بندی نہیں۔ Inkling کسی مارکیٹنگ صفحے کے دعوے سے تنگ تر پٹی کے کام کے لیے درست ہے، اور اُس پٹی کے اندر قیمت پر اسے شکست دینا مشکل ہے۔ اس سے باہر ہم آپ کو سستا ماڈل بیچ کر آپ کو رکھنا زیادہ پسند کریں گے۔
json_schema کی مکمل حمایت کے ساتھ — اوپر جانے سے پہلے کا فطری پہلا پڑاؤ۔ دونوں عمل میں کیسے مختلف ہیں، اس کے لیے بغیر سنسر شپ MiniMax-M3 ماڈل کارڈ دیکھیے۔
06262K سیاق کھڑکی، اور اس میں اصل میں کیا سماتا ہے
گیٹ وے کے بارہوں ماڈل 262,144 ٹوکن کے داخل سیاق اور فی درخواست 16,384 ٹوکن کے زیادہ سے زیادہ اخراج کے ساتھ پیش کیے جاتے ہیں۔ یکسانیت جان بوجھ کر ہے: سیاق سنبھالنا کبھی آپ کے کوڈ میں فی ماڈل شاخ نہیں بننا چاہیے، اور کسی کنفیگ فائل میں inkling کی جگہ MiniMax-M3 رکھنے سے خاموشی سے یہ نہیں بدلنا چاہیے کہ کیا سماتا ہے۔
شائع شدہ بنیاد کے مقابلے میں فرق نوٹ کیجیے: Thinking Machines، Inkling کو 1,048,576 ٹوکن پر دستاویزی کرتا ہے، اور ہم اس کا 262K کا ٹکڑا پیش کرتے ہیں۔ اگر آپ کے پاس واقعی دس لاکھ ٹوکن کی ایک ہی درخواست والا کام ہے تو ہم اس کے لیے اینڈ پوائنٹ نہیں، اور بہتر ہے آپ تعمیر سے پہلے جان لیں۔
262K کے پیمانے کا اندازہ: 400 صفحوں کی تکنیکی PDF اپنی تصویروں سمیت، ایک درمیانے حجم کا کوڈ بیس، کئی گھنٹوں کا نقل نویس، یا ایسا لمبا ایجنٹی سیشن جو درجنوں ٹول نتائج اور مٹھی بھر اسکرین شاٹ اٹھائے ہو — ہر ایک ایک درخواست میں سماتا ہے۔ وژن ماڈل پر یاد رکھیے کہ تصاویر بھی سیاق کھاتی ہیں؛ ایک گنجان اسکرین شاٹ مفت نہیں، اور فریم اسٹریم کرنے والا سیشن صرف متنی سیشن سے تیزی سے کھڑکی بھرتا ہے۔ فن تعمیر اس کے لیے موزوں ہے: سرکتی کھڑکی اور عالمی کا 5:1 نمونہ مطلب یہ کہ زیادہ تر تہیں 512 ٹوکن کے ہمسائے کے اندر توجہ دیتی ہیں، جبکہ عالمی تہیں وقفے وقفے سے دور تک کی ساخت واپس کھینچ لاتی ہیں۔
07استدلال کی سطح: سوچ کی قیمت صرف تب دینا جب ضرورت ہو
Inkling قابلِ قابو استدلالی سطح پیش کرتا ہے — فہرست کے زیادہ مفید بٹنوں میں سے ایک۔ اوپر والا ماڈل none اور minimal سے لے کر low، medium، high، xhigh اور max تک سطحیں قبول کرتا ہے، جو تینوں لہجوں پر معیاری reasoning_effort پیرامیٹر سے سامنے آتی ہیں۔
{
"model": "inkling-W4A16-AUTOROUND-REAP",
"reasoning_effort": "low",
"messages": [ ... ]
}
یہ دانت رکھنے والی لاگت کی چابی ہے، کیونکہ استدلالی ٹوکن فی ملین $6.07 پر خارج ٹوکن کے طور پر بل ہوتے ہیں۔ Thinking Machines بتاتا ہے کہ Terminal Bench 2.1 پر Inkling تقریباً ایک تہائی ٹوکن میں Nemotron 3 Ultra کے قابلِ موازنہ اسکور تک پہنچتا ہے — ٹوکن کی کارکردگی سطحی نظام کا اعلان کردہ ڈیزائن مقصد ہے، اتفاق نہیں۔
عمل میں: بیان نگاری، درجہ بندی اور سیدھے سادے اخراج کے لیے low یا minimal چلائیے، جہاں جواب تصویر ہی میں ہو اور کسی زنجیرِ استنباط کی ضرورت نہ ہو۔ high اور اس سے اوپر چارٹ پر استدلال، کئی مرحلوں کے بصری موازنے، اور ایسے ایجنٹی موڑوں کے لیے رکھیے جہاں غلط درمیانی قدم مہنگا ہو۔ زیادہ تر ٹیمیں یہ پیرامیٹر کبھی مقرر ہی نہیں کرتیں، اور اخراجی لاگت کا کئی گنا فرق میز پر چھوڑ دیتی ہیں۔
08یہاں “بغیر سنسر شپ” کا مطلب — اور کیا مطلب نہیں
ٹھوس بات: ہم یہ ماڈل بغیر کسی انکار کی پرت اور اخراج پر بغیر کسی چھلنی کے چلاتے ہیں۔ کوئی درجہ بند آپ کا پیش لفظ پڑھ کر یہ طے نہیں کرتا کہ ماڈل جواب دے سکتا ہے یا نہیں، اور کوئی جواب کو اسٹریم ہونے سے پہلے نہیں پڑھتا۔ جب ماڈل غیر یقینی ہو یا اسے علم نہ ہو تو وہ یہی کہتا ہے — یہ ماڈل ہے، کوئی پالیسی نہیں۔ جو آپ کو نہیں ملے گا وہ کسی ایسے موضوع پر اضطراری انکار ہے جسے عام صارف مصنوعات ممنوع سمجھتی ہو۔
وژن کے لیے یہی پوری قدر کی پیشکش ہے۔ وژن API کے آگے تصویری درجہ بند غیر درست ہوتے ہیں، اور جھوٹے مثبت کی شرح سب سے زیادہ اُس پیشہ ورانہ کام پر پڑتی ہے جسے یہ صلاحیت سب سے زیادہ درکار ہے: سیکیورٹی تحقیق، طبی سیاق، صحافت اور فورنزکس، فلم اور فن کی تنقید، اور ایسے اعتدالی اوزار جنہیں اُس چیز کو دیکھنا ہی ہے جس کی وہ نگرانی کرتے ہیں۔ زمرے پر انکار کرنے والا اینڈ پوائنٹ ان میں سے کسی کی بھروسے سے خدمت نہیں کر سکتا۔
دو ایماندارانہ تنبیہیں۔ پہلی، Thinking Machines اپنی حوالہ جاتی تعیناتی کے لیے حفاظتی جائزے شائع کرتا ہے — FORTRESS adversarial پر 78.0%، FORTRESS benign پر 95.9%، StrongREJECT پر 98.6%۔ یہ اعداد اُن کے ڈھیر کو اُن کے حفاظتی بندوں سمیت بیان کرتے ہیں۔ وہ ہمارا بیان نہیں کرتے، اور ہم انہیں ایسے پیش نہیں کریں گے جیسے کرتے ہوں۔ ہم نے وہ پرت ہٹا دی ہے جسے یہ اعداد جزوی طور پر ناپتے ہیں؛ یہی مصنوعات ہے، اور یہی ذمہ داری۔
دوسری، “کوئی انکار کی پرت نہیں” کا مطلب “کوئی اصول نہیں” نہیں ہے۔ Shannon Lab LLC ایک ذمہ دارانہ استعمال کی پالیسی اور لاگو امریکی قانون کے تحت کام کرتی ہے۔ درجہ بند ہٹانا فیصلہ آپ پر منتقل کرتا ہے، اسے مٹاتا نہیں۔ اگر آپ اس پر تعمیر کر رہے ہیں تو پیمانہ بڑھانے سے پہلے پالیسی پڑھ لیجیے۔
09آغاز کیسے کریں
وہی بنیادی URL، وہی کلید، تین لہجے۔ اگر آپ کا کوڈ پہلے ہی OpenAI، Anthropic یا Responses API کو پکارتا ہے تو ماڈل کا نام بدلنا ہی عموماً پوری منتقلی ہے۔
from openai import OpenAI
client = OpenAI(
base_url="https://api.shannon-ai.com/v1",
api_key=SHANNON_API_KEY,
)
stream = client.chat.completions.create(
model="inkling-W4A16-AUTOROUND-REAP",
messages=[{"role": "user", "content": [
{"type": "text", "text": "What does this figure actually show?"},
{"type": "image_url", "image_url": {"url": image_data_url}},
]}],
reasoning_effort="high",
max_tokens=4000,
stream=True,
)
for chunk in stream:
delta = chunk.choices[0].delta.content
if delta:
print(delta, end="")
مکمل پیرامیٹر فہرست، /v1/messages اور /v1/responses کی صورتیں، اسٹریمنگ ایونٹ کے فارمیٹ، اور ایک زندہ playground API دستاویزات میں ہیں۔ باقی گیارہ ماڈلوں کے ماڈل کارڈ Shannon Research میں ہیں۔
اوپر بنیاد اور طریقوں کا ہر عدد کسی عوامی بنیادی ماخذ سے ہے۔ یہاں کچھ بھی Shannon کا ناپا ہوا معیار نہیں، اور ہم اسے ایسے پیش بھی نہیں کرتے — اصل ماخذ جانچ لیجیے۔
بنیاد کے اعداد Thinking Machines Lab کے شائع کردہ ہیں، بغیر کوانٹائز شدہ Inkling چیک پوائنٹ کے لیے، اور خاندان کی چھت بیان کرتے ہیں، ہمارے کوانٹائز شدہ بلڈ کو نہیں۔ قیمتیں اور صلاحیت کے نشان ستمبر 2026 تک Shannon AI گیٹ وے کی فہرستی قدریں ہیں۔
10اکثر پوچھے جانے والے سوالات
بغیر سنسر شپ Inkling ماڈل API کیا ہے؟
یہ Inkling کی Shannon AI پر تعیناتی ہے، یعنی وہ 975 ارب پیرامیٹر کا کھلے وزنوں والا MoE جو Thinking Machines Lab نے 15 جولائی 2026 کو جاری کیا۔ ہم اسے inkling-W4A16-AUTOROUND-REAP کے طور پر 262,144 ٹوکن سیاق، تصویری داخلے، ٹول کالنگ اور استدلال کی سطح کے قابو کے ساتھ، اپنے ہی GPU کلسٹر پر، بغیر کسی انکار کی پرت اور بغیر اخراجی چھلنی کے پیش کرتے ہیں۔
کیا Shannon API پر Inkling تصویری داخلے کی حمایت کرتا ہے؟
جی ہاں — فہرست کے چار وژن رکھنے والے ماڈلوں میں سے ایک۔ /v1/chat/completions پر image_url مواد کا حصہ بھیجیے، یا /v1/messages پر image بلاک۔ چونکہ کوئی انکار کی پرت نہیں، یہ زمرے کی بنیاد پر انکار کرنے کے بجائے بتاتا ہے کہ فریم میں کیا ہے۔
کیا Inkling json_schema ساختی اخراج کی حمایت کرتا ہے؟
نہیں۔ response_format، JSON آبجیکٹ موڈ کے لیے چلتا ہے؛ گرامر سے نافذ json_schema نہیں چلتا۔ اگر آپ کو یہ درکار ہے تو Kimi-K2.6 یا MiMo-V2.5 استعمال کیجیے، یا Inkling پر ایک لازمی ٹول تعریف کو اپنی schema بنا کر اپنی طرف تصدیق کر لیجیے۔
W4A16-AUTOROUND-REAP کا کیا مطلب ہے؟
4-bit وزن اور 16-bit فعالیت؛ AutoRound (Intel) جو قریب ترین راؤنڈنگ کے بجائے علامت دار گریڈیئنٹ ڈیسنٹ سے راؤنڈنگ اور کترنا سیکھتا ہے؛ اور REAP (Cerebras) جو روٹر کے دروازوں کی قدروں اور فعالیت کے معیاروں پر پرکھے گئے کم نمایاں MoE ماہرین کی یک وار کٹائی کرتا ہے۔
اس کی قیمت کتنی ہے، اور کیا اضافی قیمت بنتی ہے؟
فی ملین ٹوکن $1.42 داخل / $6.07 خارج — یعنی ہمارے کم ترین درجے سے تقریباً تین گنا اور Kimi-K3 سرِفہرست ماڈل کا تقریباً ایک تہائی۔ چارٹ پر استدلال، اسکرین شاٹ ایجنٹوں اور تصویروں سے بھری دستاویزات کے لیے یہ قیمت بنتی ہے۔ سادہ متن یا تھوک schema اخراج کے لیے نہیں بنتی۔
سیاق کی کھڑکی کتنی ہے؟
فی درخواست 262,144 داخل ٹوکن اور 16,384 خارج ٹوکن، بارہوں ماڈلوں پر یکساں۔ اوپر والی بنیاد 1,048,576 ٹوکن دستاویزی کرتی ہے؛ ہم 262K کا ٹکڑا پیش کرتے ہیں تاکہ سیاق کا رویہ کبھی فی ماڈل ایک خاص صورت نہ بن جائے۔
بغیر سنسر شپ Inkling API آزمائیے
وژن، 262K سیاق، تین API لہجے، کوئی انکار کی پرت نہیں۔
API دستاویزات پڑھیں تمام ماڈل کارڈ دیکھیںShannon Lab LLC · نیو میکسیکو، امریکہ · ہماری ذمہ دارانہ استعمال کی پالیسی کے تحت
مآخذ: Thinking Machines Lab — Inkling کا تعارف · Hugging Face — Inkling کو خوش آمدید · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling فن تعمیر اور معیار کے نوٹ۔ بنیاد کے معیاری اعداد بغیر کوانٹائز شدہ چیک پوائنٹ کے لیے تجربہ گاہ کے بتائے ہوئے ہیں۔