আনসেন্সরড Inkling মডেল API

আমাদের গেটওয়ের বারোটি মডেলের অধিকাংশই কেবল টেক্সটের। চারটি নয়, আর সেই চারটির মধ্যে Inkling-এর অবস্থান সুনির্দিষ্ট: যখন সমস্যার কঠিন অংশটিই ছবি, অথচ বাজেট ফ্ল্যাগশিপ পর্যন্ত পৌঁছায় না, তখন আপনি যে ভিশন মডেলটির দিকে হাত বাড়ান। এই কার্ডটি বলে ভিত্তিটি কোথা থেকে এসেছে, W4A16-AUTOROUND-REAP প্রত্যয়টি তার সঙ্গে কী করেছে, API-র পৃষ্ঠে এটি কী করবে আর কী করবে না, আর — সৎভাবে — কখন একই তালিকার একটি সস্তা মডেলই ভালো সিদ্ধান্ত।

01Inkling কী, আর কে বানিয়েছে?

Inkling হলো Thinking Machines Lab-এর প্রথম ওপেন-ওয়েটস মডেল, প্রকাশিত ১৫ জুলাই ২০২৬। “ওপেন” হিসেবে উপস্থাপিত অধিকাংশ রিলিজের বিপরীতে, এটি Hugging Face-এ সম্পূর্ণ ডাউনলোডযোগ্য ওয়েট সহ এসেছে, আর transformers, SGLang, vLLM ও llama.cpp-তে প্রথম দিন থেকেই সমর্থন সহ — আর এ কারণেই এটি আমাদের মতো অবকাঠামোয় আদৌ চালানো সম্ভব হয়েছে। Thinking Machines-এর নিজস্ব রিলিজ উপকরণ থেকে প্রধান সংখ্যাগুলি:

এটি একটি স্পার্স Mixture-of-Experts বিন্যাস: 6,144 হিডেন সাইজে 66টি ডিকোডার স্তর, প্রথম দুটি ডেন্স, বাকি 64টিতে 256টি রাউটেড এক্সপার্ট আর 2টি শেয়ার্ড এক্সপার্ট, প্রতি টোকেনে 6টি রাউটেড এক্সপার্ট সক্রিয়। যেকোনো একটি টোকেনে প্যারামিটারের মোটামুটি 4% সক্রিয় হয় — আর এ কারণেই প্রায়-ট্রিলিয়ন প্যারামিটারের একটি মডেল আদৌ পরিবেশনযোগ্য হয়।

দুটি স্থাপত্যগত সিদ্ধান্ত এতটাই অস্বাভাবিক যে নাম নিয়ে বলা দরকার। অ্যাটেনশন পর্যায়ক্রমিক — 512-টোকেন উইন্ডোতে 55টি স্লাইডিং-উইন্ডো স্তরের বিপরীতে 11টি গ্লোবাল স্তর, 5:1 পুনরাবৃত্ত ছাঁদে। আর Inkling RoPE ব্যবহার করে না: এটি ব্যবহার করে একটি শেখা, ইনপুট-নির্ভর আপেক্ষিক-অবস্থান বায়াস, সঙ্গে কী/ভ্যালু প্রক্ষেপণ ও রেসিডুয়াল শাখায় ছোট কজাল কনভলিউশন। Sebastian Raschka-র স্থাপত্য নোট দুটিকেই ২০২৬-এর প্রমিত রেসিপি থেকে সত্যিকারের বিচ্যুতি হিসেবে চিহ্নিত করে। প্রশিক্ষণে বড় ম্যাট্রিক্স প্যারামিটারের জন্য Muon আর বাকিদের জন্য Adam ব্যবহার হয়েছে, এরপর পোস্ট-ট্রেনিংয়ে 3 কোটির বেশি অ্যাসিনক্রোনাস RL রোলআউট।

একজন API ব্যবহারকারীর কাছে আসল কথাটি এই তথ্যকণাগুলি নয়। আসল কথা হলো, এটি একটি ফ্রন্টিয়ার-স্কেলের, স্বভাবতই মাল্টিমোডাল ভিত্তি, যা টেক্সট, ছবি, অডিও ও ভিডিও জুড়ে 45 ট্রিলিয়ন টোকেনে প্রশিক্ষিত — পরে ভিশন অ্যাডাপ্টার জুড়ে দেওয়া কোনো টেক্সট মডেল নয়। ছবি এনকোড হয় 40×40 পিক্সেল প্যাচ হিসেবে, একটি চার-স্তরের হায়ারার্কিক্যাল MLP প্যাচিফায়ারের মধ্য দিয়ে, আর একই ডিকোডারে টেক্সটের সঙ্গে যৌথভাবে প্রক্রিয়াকৃত হয়। দৃশ্য-বোধ প্রিট্রেনিংয়ের উদ্দেশ্যেই ছিল।

02W4A16-AUTOROUND-REAP মানে কী?

ওই প্রত্যয়ে তিনটি আলাদা কৌশল স্তরে স্তরে বসানো, আর তারা ভিন্ন ভিন্ন কাজ করে। বোঝার মতো, কারণ আমাদের API-তে আপনি যে মডেলটি কল করেন আর Thinking Machines যে চেকপয়েন্ট প্রকাশ করেছে, তাদের মধ্যে সবচেয়ে বড় তফাতই এই প্রত্যয়।

REAP — যে এক্সপার্টদের কেউ রাউট করে না, তাদের ছেঁটে ফেলা

REAP হলো Router-weighted Expert Activation Pruning, Cerebras Research থেকে (arXiv 2510.13999, ICLR 2026-এ গৃহীত)। প্রতি স্তরে 256 এক্সপার্টের একটি MoE-তে রাউটার কাজ সমানভাবে বণ্টন করে না: কিছু এক্সপার্টে অবিরাম আঘাত পড়ে, অন্যরা কদাচিৎ সক্রিয় হয় আর হলেও সামান্যই অবদান রাখে। REAP প্রতিটি এক্সপার্টকে দুটিতেই নম্বর দেয় — রাউটারের গেট মান আর এক্সপার্টের অ্যাক্টিভেশন নর্ম — কারণ প্রায়ই নির্বাচিত হলেও ছোট মাত্রার আপডেট দেওয়া একটি এক্সপার্ট তার নির্বাচন সংখ্যা যা ইঙ্গিত করে তার চেয়ে কম গুরুত্বপূর্ণ — এরপর কম-সালিয়েন্সিরগুলিকে এক ধাপেই বাদ দেয়, কোয়ান্টাইজেশনের আগে।

আমরা যে আরও চলতি এক্সপার্ট মার্জিং-এর বদলে ছাঁটাই ব্যবহার করি, তার কারণ কাজের ধরন অনুযায়ী দুটি আলাদা হয়ে যায়। মার্জিং ডিসক্রিমিনেটিভ বেঞ্চমার্কে প্রতিযোগিতামূলক দেখায় আর জেনারেটিভগুলিতে ভেঙে পড়ে। REAP-এর লেখকরা জানান, মানুষ যেসব কাজের জন্য একটি API কেনে ঠিক সেসবেই — কোড সংশ্লেষ, টুল কলিং, বহু-টার্ন রিজনিং — ছাঁটাই গুণমান ভালোভাবে ধরে রাখে, 50%-এর বেশি সংকোচন অনুপাতেও, 20B থেকে 1T প্যারামিটারের মডেল জুড়ে। মার্জিং রাউটারের বিশেষায়ন ধ্বংস করে; ছাঁটাই টিকে থাকা এক্সপার্ট আর তাদের মধ্যেকার রাউটিং অক্ষত রাখে।

AutoRound — কোথায় রাউন্ড করতে হবে তা শেখা

AutoRound হলো Intel-এর পোস্ট-ট্রেনিং কোয়ান্টাইজেশন পদ্ধতি (arXiv 2309.05516, SignRound নামে প্রকাশিত)। সরল কোয়ান্টাইজেশন প্রতিটি ওয়েটকে নিকটতম উপস্থাপনযোগ্য 4-বিট মানে রাউন্ড করে — একটি যুক্তিসঙ্গত ডিফল্ট, আর মাপে গিয়ে একটি খারাপ ডিফল্ট, কারণ রাউন্ডিং ত্রুটি স্বাধীন নয় আর 66-স্তরের স্ট্যাক জুড়ে জমতে থাকে। AutoRound রাউন্ডিং সিদ্ধান্তটিকে অপ্টিমাইজ করার মতো একটি বিষয় হিসেবে দেখে: signed gradient descent কয়েকশো ধাপে রাউন্ডিংয়ের দিক আর ওয়েট ক্লিপিং পরিসর একসঙ্গে টিউন করে, পুনঃপ্রশিক্ষণ ছাড়াই কোয়ান্টাইজেশন-অ্যাওয়ার ট্রেনিংয়ের নির্ভুলতা ধার করে। Intel জানায় সবচেয়ে বড় লাভ চরম নিম্ন-বিট সেটিংয়ে, আর INT4-এ একটি প্রতিযোগিতামূলক অগ্রগামিতা।

W4A16 — বিটগুলি কোথায় যায়

W4A16 হলো সাংখ্যিক বিন্যাস: 4-বিট ওয়েট, 16-বিট অ্যাক্টিভেশন। ওয়েট — যা 975B মডেলে মেমরির সিংহভাগ দখল করে — একটি BF16 আকারের মোটামুটি এক-চতুর্থাংশে নেমে আসে, আর পাটিগণিত থাকে 16 বিটে। এই ভাগটি বিশেষভাবে একটি ভিশন মডেলের জন্য গুরুত্বপূর্ণ: অ্যাক্টিভেশন-কোয়ান্টাইজ করা কৌশলগুলি ঠিক সেই সূক্ষ্ম সাংখ্যিক কাজটিরই ক্ষতি করে যার উপর ছবি-বোধ নির্ভর করে — একটি ছোট অক্ষ-লেবেল পড়া, একটি ডায়াগ্রামে সরু রেখা আলাদা করা, দুটি কাছাকাছি ছায়া পৃথক করা। অ্যাক্টিভেশন 16 বিটে রাখা ব্যান্ডউইথের খরচ বাড়ায় আর নির্ভুলতা ফিরিয়ে আনে ঠিক সেখানেই, যেখানে একটি ভিশন কাজ তা টের পায়।

স্তরে স্তরে বসিয়ে এই তিনটি এমন একটি মডেল দেয় যা এঁটে যায় ও দ্রুত থাকে, অথচ আমরা সবচেয়ে বড় ভিত্তিগুলিতে যে আক্রমণাত্মক 3BIT-REAP স্তর ব্যবহার করি তার গুণমান-খাদ ছাড়াই। দামটি সেই বিনিময়েরই প্রতিফলন।

03ভিশন: প্রত্যাখ্যানহীন একটি ছবি-বিশ্লেষণ API

আমাদের তালিকার চারটি ভিশন-সক্ষম মডেলের একটি Inkling, সঙ্গে আছে Kimi-K3, Kimi-K2.6 আর MiniMax-M3। Thinking Machines-এর রিলিজ থেকে বেস মডেলের প্রকাশিত ভিশন ফলাফল হলো MMMU Pro (Standard 10)-এ 73.3% আর CharXiv রিজনিং প্রশ্নে 78.1% — মডেলকে চার্টের বিপরীতে Python চালাতে দিলে যা বেড়ে 82.0% হয়। এগুলি কোয়ান্টাইজ না করা চেকপয়েন্টের জন্য গবেষণাগারের নিজস্ব সংখ্যা; এদের পরিবারের সিলিং হিসেবে দেখুন, আমাদের বিল্ডের মাপ হিসেবে নয়।

CharXiv-এর উপর একটু থামা দরকার, কারণ মানুষ কেন OCR সেবা নয় বরং একটি ভিশন API কেনে — এটি ঠিক তার সঙ্গেই মেলে। এটি বৈজ্ঞানিক চার্টের উপর রিজনিং পরীক্ষা করে — একটি অক্ষ থেকে মান পড়া, দুটি সিরিজ তুলনা করা, একটি প্রবণতা উল্টে যেতে দেখা। “এই ছবিতে কী লেখা আছে” নয়, বরং “এই চিত্রটি কী দাবি করছে, আর দাবিটি টেকে কি না।” এটিই যুক্তি দেয় কেন একটি ছোট ক্যাপশনারের বদলে একটি 975B রিজনিং মডেলে ছবি পাঠাবেন।

ছবি পাঠানো সাধারণ OpenAI-সামঞ্জস্যপূর্ণ কাজ — /v1/chat/completions-এ একটি image_url কনটেন্ট পার্ট, /v1/messages-এ Anthropic-ধাঁচের একটি image ব্লক, কিংবা /v1/responses-এ তার সমতুল্য। তিনটি উপভাষাই একই ওয়েটে পৌঁছায় আর তিনটিই স্ট্রিম করে; আপনার চালু SDK যেটি ইতিমধ্যেই বলে, সেটিই বেছে নিন। একটি বাস্তব উদাহরণ ০৯ অনুচ্ছেদে আছে।

আনসেন্সরড অংশটি টেক্সটের চেয়ে ভিশনের জন্যই বেশি গুরুত্বপূর্ণ। একটি ভিশন এন্ডপয়েন্টে প্রত্যাখ্যানের স্তর অস্বাভাবিকভাবে ভোঁতা, কারণ মডেল অনুরোধটি নিয়ে ভাবার আগেই সেটি সাধারণত ছবিটিকে শ্রেণিবদ্ধ করে ফেলে। বৈধ কাজ অবিরাম আটকা পড়ে: ক্লিনিক্যাল নোটের পাইপলাইনে একটি ক্ষতের ছবি, ঘটনার প্রতিবেদনে একটি ফরেনসিক স্ক্রিনশট, সমালোচনার জন্য বিশ্লেষিত একটি চলচ্চিত্রের ফ্রেম, একটি চিকিৎসা স্ক্যান, কিংবা এমন একটি নথির ছবি যাতে ঘটনাক্রমে একটি নাম আছে। আমাদের গেটওয়েতে Inkling-এর সামনে তেমন কোনো ক্লাসিফায়ার নেই। আপনি যা পাঠিয়েছেন এটি তাই দেখে আর আপনার প্রশ্নের উত্তর দেয়। পণ্যটি এটিই।

04কাঠামোবদ্ধ আউটপুট: response_format হ্যাঁ, json_schema না

তালিকার অধিকাংশের তুলনায় এই একটি জায়গাতেই Inkling কম সক্ষম, আর উৎপাদনে গিয়ে আবিষ্কার করার চেয়ে আগেই পরিকল্পনায় রাখা ভালো।

সক্ষমতা	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
ভিশন (ছবি ইনপুট)	হ্যাঁ	হ্যাঁ	হ্যাঁ	না
response_format	হ্যাঁ	হ্যাঁ	হ্যাঁ	না
json_schema	না	হ্যাঁ	হ্যাঁ	না
টুল কলিং	হ্যাঁ	হ্যাঁ	হ্যাঁ	হ্যাঁ
রিজনিং প্রয়াস	হ্যাঁ	হ্যাঁ	হ্যাঁ	হ্যাঁ

response_format: {"type": "json_object"} কাজ করে — আপনি বাক্যগঠনগতভাবে বৈধ JSON পান। যা পান না তা হলো আপনার দেওয়া একটি স্কিমার বিপরীতে ব্যাকরণ-নিয়ন্ত্রিত ডিকোডিং, যেখানে স্যাম্পলারকে আপনার কাঠামো লঙ্ঘন করে এমন টোকেন বের করতেই দেওয়া হয় না। ফিল্ডের নাম, enum-এর সদস্যপদ আর আবশ্যক কী-র উপস্থিতি — এগুলি মডেলের পছন্দ, কোনো নিশ্চয়তা নয়।

এর সঙ্গে বাঁচার তিনটি উপায়, নির্ভরযোগ্যতার ঊর্ধ্বক্রমে:

1. স্কিমা প্রম্পট করুন আর যাচাই করুন। স্কিমাটি সিস্টেম প্রম্পটে আক্ষরিক JSON হিসেবে বসান, response_format রাখুন json_object-এ, আর উত্তরটি নিজের দিকে যাচাই করুন। যাচাই ব্যর্থ হলে ভ্যালিডেটরের ত্রুটিবার্তা জুড়ে দিয়ে আবার চেষ্টা করুন। সস্তা, কাজ করে, একটি পুনঃচেষ্টার বাজেট লাগে।
2. স্কিমা হিসেবে একটি টুল সংজ্ঞা ব্যবহার করুন। টুল কলিং সমর্থিত আছে, আর একটি ফাংশনের প্যারামিটার সংজ্ঞাই একটি JSON Schema। আপনি যে নিষ্কাশনটি চান তার নামে একটিমাত্র টুল ঘোষণা করুন, সেটি বাধ্যতামূলক করুন, আর আর্গুমেন্টগুলি পড়ুন। Inkling-এ সাধারণত এটিই সবচেয়ে শক্ত বিকল্প আর এতে বাড়তি কোনো খরচ নেই।
3. কাজটি দুটি মডেলে ভাগ করুন। Inkling দিয়ে ভিশন ও রিজনিং গদ্যে করান, এরপর সেই গদ্যটি $0.50 / $2.00-এ MiMo-V2.5-W8A16-কে দিন একটি সত্যিকারের json_schema সহ কাঠামো তৈরির পাসের জন্য। দুটি কল, কিন্তু দ্বিতীয়টি সস্তা, আকারে নির্ধারিত, আর যে মডেলটির বুদ্ধিমান হওয়া দরকার সেটিই ছবিটি দেখেছে।

যেকোনো উচ্চ-আয়তনের নিষ্কাশন পাইপলাইনের জন্য আমরা ৩ নম্বর ছাঁদটিই সুপারিশ করব। প্রিমিয়ামের দাম কেবল সেই ধাপটির জন্যই দিন যার সেটি দরকার।

05দামের প্রিমিয়াম কী কিনে দেয়?

প্রতি মিলিয়ন টোকেনে $1.42 ইন / $6.07 আউট-এ Inkling ইচ্ছাকৃতভাবেই আমাদের তালিকার মাঝখানে বসে আছে। বারোটির ছয়টি মডেল $0.50 / $2.00 মেঝেতে। Kimi-K3 — ফ্ল্যাগশিপ, এটিও ভিশন-সক্ষম — $3.83 / $19.12। Inkling আউটপুটে মেঝের মোটামুটি তিন গুণ আর ফ্ল্যাগশিপের মোটামুটি এক-তৃতীয়াংশ।

আউটপুট দাম, প্রতি 1M টোকেনে USD, Shannon AI Gateway তালিকাভুক্ত হার, সেপ্টেম্বর ২০২৬। বারের প্রস্থ দামের সমানুপাতিক; যত লম্বা, তত ব্যয়বহুল।

ওই প্রিমিয়াম কোথায় নিজের দাম তুলে আনে — আর কোথায় নয় — তার সৎ পাঠ এই।

কাজ	Inkling ব্যবহার করবেন?	কেন
চার্ট / ডায়াগ্রাম রিজনিং	হ্যাঁ	প্রকাশিত CharXiv ও MMMU Pro সংখ্যাগুলিই এই ভিত্তির সবচেয়ে শক্ত দিক।
স্ক্রিনশট-চালিত এজেন্ট	হ্যাঁ	একটিমাত্র মডেলে ভিশন, সঙ্গে টুল কলিং, সঙ্গে 262K ইতিহাস — কোনো হস্তান্তর নেই।
চিত্রসহ দীর্ঘ নথি	হ্যাঁ	টেক্সট আর ছবি একটিই ডিকোডার ও একটিই কনটেক্সট উইন্ডো ভাগ করে নেয়।
সাধারণ টেক্সট জেনারেশন	না	$0.50 / $2.00-এর ছয়টি মডেল এটি করে। আপনি এমন একটি ভিশন পথের দাম দিচ্ছেন যা কখনও ডাকেনই না।
বিপুল স্কিমা নিষ্কাশন	না	json_schema নেই। MiMo-V2.5 সস্তা আর নিয়ন্ত্রিত।
একেবারে ফ্রন্টিয়ার সিলিং	না	Kimi-K3-ই ফ্ল্যাগশিপ। সিলিংই যদি বাধা হয়, 3.1× দিন।
সম্ভাব্য সবচেয়ে সস্তা ভিশন	না	MiniMax-M3-তে $0.50 / $2.00-এ ভিশন আছে। সেখান থেকে শুরু করুন, গুণমান বাধ্য করলে উপরে উঠুন।

এটিকে একটি রাউটিং নিয়ম হিসেবে পড়ুন, ক্রমতালিকা হিসেবে নয়। কোনো বিপণন পাতা যা দাবি করত তার চেয়ে সংকীর্ণ পরিসরের কাজেই Inkling সঠিক, আর সেই পরিসরের ভেতরে দামে একে হারানো কঠিন। তার বাইরে আমরা বরং আপনাকে সস্তা মডেলটিই বেচব আর আপনাকে ধরে রাখব।

06262K কনটেক্সট উইন্ডো, আর আসলে কী আঁটে

গেটওয়ের বারোটি মডেলই পরিবেশিত হয় 262,144-টোকেন ইনপুট কনটেক্সট আর প্রতি রিকোয়েস্টে সর্বোচ্চ 16,384-টোকেন আউটপুট সহ। এই অভিন্নতা ইচ্ছাকৃত: কনটেক্সট সামলানো যেন আপনার কোডে কখনও প্রতি-মডেল শাখা হয়ে না দাঁড়ায়, আর কনফিগ ফাইলে inkling-এর জায়গায় MiniMax-M3 বসালে কী আঁটবে তা যেন নীরবে বদলে না যায়।

প্রকাশিত ভিত্তির সঙ্গে ব্যবধানটি লক্ষ করুন: Thinking Machines Inkling-কে 1,048,576 টোকেনে নথিভুক্ত করেছে, আর আমরা তার একটি 262K অংশ পরিবেশন করি। আপনার যদি সত্যিই মিলিয়ন-টোকেনের একক-রিকোয়েস্ট কাজ থাকে, আমরা তার জন্য উপযুক্ত এন্ডপয়েন্ট নই — আর বানানোর আগেই জানা ভালো।

262K-এর মাপ বোঝাতে: চিত্রসহ একটি 400-পৃষ্ঠার কারিগরি PDF, একটি মাঝারি আকারের কোডবেস, কয়েক ঘণ্টার প্রতিলিপি, কিংবা কয়েক ডজন টুল ফলাফল ও গোটাকয়েক স্ক্রিনশট বহনকারী একটি দীর্ঘ এজেন্টিক সেশন — প্রতিটিই একটি রিকোয়েস্টে আঁটে। একটি ভিশন মডেলে মনে রাখবেন, ছবিও কনটেক্সট খায়; একটি ঘন স্ক্রিনশট বিনামূল্যের নয়, আর ফ্রেম স্ট্রিম করা সেশন কেবল-টেক্সটের চেয়ে দ্রুত উইন্ডো ভরে ফেলে। স্থাপত্যটি এতে ভালোই খাপ খায়: 5:1 স্লাইডিং-উইন্ডো-থেকে-গ্লোবাল ছাঁদের মানে হলো অধিকাংশ স্তর একটি 512-টোকেন প্রতিবেশের ভেতরেই মনোযোগ দেয়, আর গ্লোবাল স্তরগুলি সময়ে সময়ে দীর্ঘ-পাল্লার কাঠামো ফিরিয়ে আনে।

07রিজনিং প্রয়াস: চিন্তার দাম কেবল দরকার হলেই দেওয়া

Inkling নিয়ন্ত্রণযোগ্য রিজনিং প্রয়াস উন্মুক্ত করে — তালিকার আরও কাজের নবগুলির একটি। উজানের মডেলটি none ও minimal থেকে low, medium, high, xhigh হয়ে max পর্যন্ত স্তর গ্রহণ করে, যা প্রমিত reasoning_effort প্যারামিটারের মাধ্যমে তিনটি উপভাষাতেই পাওয়া যায়।

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

এটি দাঁতসহ একটি খরচের লিভার, কারণ রিজনিং টোকেন আউটপুট টোকেন হিসেবেই প্রতি মিলিয়নে $6.07-এ বিল হয়। Thinking Machines জানায়, Terminal Bench 2.1-এ Inkling মোটামুটি এক-তৃতীয়াংশ টোকেনেই Nemotron 3 Ultra-র তুলনীয় স্কোরে পৌঁছায় — টোকেন দক্ষতা এই প্রয়াস ব্যবস্থার একটি ঘোষিত নকশা-লক্ষ্য, দুর্ঘটনা নয়।

বাস্তবে: ক্যাপশনিং, শ্রেণিবিন্যাস আর সরল নিষ্কাশনের জন্য low বা minimal চালান, যেখানে উত্তরটি ছবিতেই আছে আর কোনো অনুমানের শৃঙ্খল লাগে না। high ও তার উপরেরগুলি রাখুন চার্ট রিজনিং, বহু-ধাপের দৃশ্য তুলনা আর এমন এজেন্টিক টার্নের জন্য যেখানে একটি ভুল মধ্যবর্তী ধাপ ব্যয়বহুল। অধিকাংশ দল প্যারামিটারটি কখনও সেট করেই না, আর টেবিলে কয়েক গুণ আউটপুট-খরচের তফাত ফেলে রেখে যায়।

08এখানে “আনসেন্সরড” মানে কী — আর কী নয়

স্পষ্ট করে: আমরা এই মডেলটি চালাই কোনো প্রত্যাখ্যানের স্তর ও আউটপুটে কোনো ফিল্টারিং ছাড়াই। কোনো ক্লাসিফায়ার আপনার প্রম্পট পড়ে ঠিক করে না মডেল উত্তর দিতে পারবে কি না, আর স্ট্রিম হওয়ার আগে কেউ উত্তরটি পড়ে না। মডেল অনিশ্চিত হলে বা জ্ঞান না থাকলে সেটি বলে দেয় — সেটি মডেল, কোনো নীতি নয়। যা আপনি পাবেন না তা হলো এমন কোনো বিষয়ে প্রতিবর্তী অস্বীকৃতি, যাকে একটি সাধারণ-ভোক্তা পণ্য নিষিদ্ধ গণ্য করে।

ভিশনের জন্য এটিই পুরো মূল্য-প্রস্তাব। ভিশন API-র সামনে বসা ছবি-ক্লাসিফায়াররা অসূক্ষ্ম, আর মিথ্যা-ইতিবাচকের হার সবচেয়ে জোরে আঘাত করে ঠিক সেই পেশাদার কাজেই, যার সক্ষমতাটি সবচেয়ে বেশি দরকার: নিরাপত্তা গবেষণা, ক্লিনিক্যাল প্রেক্ষাপট, সাংবাদিকতা ও ফরেনসিক, চলচ্চিত্র ও শিল্প সমালোচনা, আর এমন মডারেশন টুলিং যাকে সে যা মডারেট করছে তা দেখতেই হয়। যে এন্ডপয়েন্ট শ্রেণির ভিত্তিতে প্রত্যাখ্যান করে, সে এদের কাউকেই নির্ভরযোগ্যভাবে সেবা দিতে পারে না।

দুটি সৎ সতর্কতা। প্রথমত, Thinking Machines তাদের রেফারেন্স ডিপ্লয়মেন্টের জন্য নিরাপত্তা মূল্যায়ন প্রকাশ করে — FORTRESS adversarial-এ 78.0%, FORTRESS benign-এ 95.9%, StrongREJECT-এ 98.6%। ওই সংখ্যাগুলি তাদের গার্ডরেল বসানো তাদের স্ট্যাককে বর্ণনা করে। আমাদেরটিকে করে না, আর আমরা এমনভাবে সেগুলি উদ্ধৃত করব না যেন করত। ওই সংখ্যাগুলি আংশিকভাবে যে স্তরটি মাপে, আমরা সেটিই সরিয়েছি; পণ্যটি তাই, দায়িত্বটিও।

দ্বিতীয়ত, “কোনো প্রত্যাখ্যানের স্তর নেই” মানে “কোনো নিয়ম নেই” নয়। Shannon Lab LLC একটি দায়িত্বশীল ব্যবহার নীতি ও প্রযোজ্য মার্কিন আইনের অধীনে পরিচালিত হয়। একটি ক্লাসিফায়ার সরানো বিচারের ভারটি আপনার কাছে সরিয়ে দেয়, বিচারটিকে মুছে দেয় না। এর উপর কিছু বানাচ্ছেন? মাপে বাড়ানোর আগে নীতিটি পড়ে নিন।

09শুরু করা

একই বেস URL, একই কী, তিনটি উপভাষা। আপনার কোড যদি ইতিমধ্যেই OpenAI, Anthropic বা Responses API কল করে, তবে মডেল স্ট্রিং বদলানোই সাধারণত পুরো মাইগ্রেশন।

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

পূর্ণ প্যারামিটার তালিকা, /v1/messages ও /v1/responses-এর আকার, স্ট্রিমিং ইভেন্ট ফরম্যাট আর একটি লাইভ প্লেগ্রাউন্ড আছে API ডকুমেন্টেশন-এ। বাকি এগারোটি মডেলের মডেল কার্ড আছে Shannon Research-এ।

ভিত্তির সংখ্যাগুলি কোয়ান্টাইজ না করা Inkling চেকপয়েন্টের জন্য Thinking Machines Lab-এর প্রকাশিত মান আর পরিবারের সিলিং বর্ণনা করে, আমাদের কোয়ান্টাইজড বিল্ডকে নয়। দাম ও সক্ষমতার চিহ্নগুলি সেপ্টেম্বর ২০২৬ অনুযায়ী Shannon AI Gateway-র তালিকাভুক্ত মান।

10প্রায়শই জিজ্ঞাসিত প্রশ্ন

---

উৎস: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling স্থাপত্য ও বেঞ্চমার্ক নোট। ভিত্তির বেঞ্চমার্কগুলি কোয়ান্টাইজ না করা চেকপয়েন্টের জন্য গবেষণাগার-কথিত।