আনসেন্সরড DeepSeek Flash API

একটি LLM API যাচাই করা বেশিরভাগ দল ভুল চলকটিই অপ্টিমাইজ করে। তারা মাথায় আসা সবচেয়ে কঠিন কুড়িটি প্রম্পটে বেঞ্চমার্ক করে, বিজয়ী বাছে, আর ছয় সপ্তাহ পরে আবিষ্কার করে যে তাদের ট্রাফিকের পঁচানব্বই শতাংশই ছোট, কাঠামোবদ্ধ, পুনরাবৃত্ত কাজ — যা এক-চতুর্থাংশ দামের একটি মডেলও হুবহু একইভাবে সামলে দিত। DeepSeek-V4-Flash আছে সেই পঁচানব্বই শতাংশের জন্য। এই পাতাটি এটাই জানার জন্য যে আপনি কখন তার ভিতরে আছেন — আর কখন নেই।

01আপনি আসলে কী পান

বৈশিষ্ট্য	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
মডেল আইডি	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
কনটেক্সট / সর্বোচ্চ আউটপুট	262,144 টোকেন / 16,384 টোকেন
প্রতি 1M দাম (ইনপুট / আউটপুট)	$0.50 / $2.00
স্ট্রিমিং · টুল কলিং · রিজনিং	হ্যাঁ — তিনটি উপভাষাতেই
কাঠামোবদ্ধ আউটপুট	json_schema ও response_format
ছবি ইনপুট (ভিশন)	না — কেবল টেক্সট
প্রত্যাখ্যানের স্তর / আউটপুট ফিল্টার	নেই
যেখানে পরিবেশিত	Shannon-এর নিজস্ব GPU ক্লাস্টার

তিনটি API উপভাষা একই ওয়েটে পৌঁছায়: /v1/chat/completions (OpenAI-আকৃতির), /v1/messages (Anthropic-আকৃতির), আর /v1/responses। তিনটিতেই স্ট্রিমিং কাজ করে। প্যারামিটারের পূর্ণ রেফারেন্স রয়েছে API ডকুমেন্টেশনে।

02এটি কোথা থেকে এসেছে: DeepSeek বংশ

DeepSeek-AI পাঁচটি মডেল প্রজন্ম ব্যয় করেছে একটিই আবেশে: এমন একটি মডেল থেকে ফ্রন্টিয়ার আচরণ বের করা যা পরিবেশন করতে সস্তা, নিছক প্রশিক্ষণে সস্তা নয়। এই ধারার প্রায় প্রতিটি স্থাপত্যগত সিদ্ধান্তের শিকড় সেখানেই, আর গুরুত্বপূর্ণগুলি প্রকাশিত। তিনটি বুঝিয়ে দেয় এই এন্ডপয়েন্টে ঠোকা দিলে আপনি আসলে কী কল করছেন।

DeepSeekMoE — সূক্ষ্ম-দানার এক্সপার্ট আর একটি ভাগ করা এক্সপার্ট

একটি Mixture-of-Experts স্তর একটি বড় ফিড-ফরোয়ার্ড নেটওয়ার্কের বদলে অনেকগুলি ছোট নেটওয়ার্ক আর একটি রাউটার বসায়, যা প্রতি টোকেনে হাতেগোনা কয়েকটি বেছে নেয়। DeepSeek-এর রূপভেদ প্রচলিত আট-এক্সপার্টের বিন্যাসের চেয়ে এক্সপার্টগুলিকে আরও সূক্ষ্মভাবে কাটে, ফলে একই সক্রিয় FLOPs দিয়ে অনেক বেশি সমাবেশগতভাবে নির্দিষ্ট একটি মিশ্রণ কেনা যায়, আর এটি একটি ভাগ করা এক্সপার্ট আলাদা করে রাখে যার ভিতর দিয়ে প্রতিটি টোকেন যায়, যাতে প্রতিটি বিশেষজ্ঞের ভিতরে সাধারণ জ্ঞান বারবার নতুন করে শিখতে না হয়। DeepSeek-V3 সেটি দিয়েছিল 256টি রাউটেড এক্সপার্ট আর 1টি ভাগ করা এক্সপার্ট, প্রতি টোকেনে 8টি রাউটেড সক্রিয় হিসেবে — মোট 671B প্যারামিটার, 37B সক্রিয় — সেই সঙ্গে সহায়ক-ক্ষতিহীন লোড ব্যালান্সিং: গুণমান নষ্ট করা কোনো শাস্তিমূলক পদের বদলে, প্রতিটি এক্সপার্টের একটি বায়াস প্রতিটি ধাপে রাউটিং স্কোর উপরে বা নিচে ঠেলে দেয়, সেই এক্সপার্ট কম না বেশি বোঝা বইছে তার উপর ভিত্তি করে।

MLA — যে অ্যাটেনশন মেমরিতে আঁটে

পরিবেশন-খরচের সমস্যার অন্য অর্ধেকটি হলো KV ক্যাশ, যা কনটেক্সটের সঙ্গে রৈখিকভাবে বাড়ে আর দীর্ঘ সিকোয়েন্স দৈর্ঘ্যে মেমরিতে প্রাধান্য বিস্তার করে। DeepSeek-V2-তে আনা Multi-head Latent Attention কি ও ভ্যালু-কে একসঙ্গে একটি নিম্ন-র‍্যাঙ্ক লেটেন্ট ভেক্টরে সংকুচিত করে আর সেটিই ক্যাশ করে, চলতে চলতে ব্যবহারযোগ্য K/V পুনর্গঠন করে। DeepSeek-এর প্রকাশিত V2 সংখ্যাগুলি, তাদের আগের ঘন DeepSeek 67B-র বিপরীতে, জানায় KV ক্যাশে 93.3% হ্রাস আর 5.76× বেশি সর্বোচ্চ জেনারেশন থ্রুপুট। তাই এই পরিবারে 262K-টোকেন উইন্ডো কোনো প্রিমিয়াম বাড়তি নয়, ন্যূনতম শর্ত।

স্পার্স অ্যাটেনশন — আর সস্তা টোকেনের নজির

V3.2-Exp যোগ করেছিল DeepSeek Sparse Attention: একটি হালকা ইনডেক্সার কোয়েরির বিপরীতে কনটেক্সট টোকেনগুলিকে নম্বর দেয়, আর একটি সিলেক্টর কেবল সর্বোচ্চ-স্কোরারদের রাখে। আকর্ষণীয় অংশটি কলকব্জা নয়, রসিদ। DeepSeek V3.1-Terminus-এর সঙ্গে পাশাপাশি তুলনা প্রকাশ করেছিল, যেখানে MMLU-Pro অভিন্ন 85.0, AIME 2025 উপরে (88.4 → 89.3), SWE-bench Verified সামান্য নিচে (68.4 → 67.8) — মূলত সমতল গুণমান — আর সেই একই দিনে তারা তাদের API-র দাম 50%-এর বেশি কমিয়েছিল। স্থাপত্য, সৎভাবে জানানো, সরাসরি দামে পরিণত। Flash সেই যুক্তিটিকেই আরও এক ধাপ এগিয়ে নেওয়া।

V4 প্রজন্ম

V4, এপ্রিল ২০২৬-এ MIT লাইসেন্সের অধীনে প্রাক্‌দর্শনে আনা, অ্যাটেনশন স্তূপটি আবার বদলায় Compressed Sparse Attention ও Heavily Compressed Attention-এর একটি হাইব্রিড দিয়ে, 32T-র বেশি টোকেনে Muon অপ্টিমাইজার দিয়ে প্রশিক্ষণ নেয়, আর V3-এর মাল্টি-টোকেন-প্রেডিকশন উদ্দেশ্যটি ধরে রাখে — যা একই সঙ্গে স্পেকুলেটিভ ডিকোডিংয়ের কাজ করে, আর V3-তে DeepSeek যেটির দ্বিতীয়-টোকেন গ্রহণের হার 85–90% মেপেছিল, মোটামুটি 1.8× ডিকোডিং গতিবৃদ্ধির জন্য। V4-এর সারসংক্ষেপ জানায় V4-Pro চলে V3.2-এর একক-টোকেন ইনফারেন্স FLOPs-এর 27% আর তার KV ক্যাশের 10%-এ। পরিবারটি তিনটি রিজনিং-প্রয়াসের স্তর উন্মুক্ত করে, আর আমাদের reasoning_effort প্যারামিটার সেগুলিতেই মানচিত্রিত হয়।

উৎস: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 কারিগরি প্রতিবেদন (arXiv 2412.19437) · DeepSeek-V3.2-Exp মডেল কার্ড · DeepSeek-V4 (arXiv 2606.19348)। সব সংখ্যাই DeepSeek-এর জানানো।

03“Flash” আসলে কী বোঝায়

বেশিরভাগ তুলনা এখানেই ভুল করে, তাই স্পষ্ট করে বলা দরকার: DeepSeek-এর Flash কোনো কোয়ান্টাইজ করা, ছাঁটা বা ডিস্টিল করা Pro নয়। এটি আলাদাভাবে প্রশিক্ষিত, ছোট একটি Mixture-of-Experts মডেল, নিজস্ব প্রি-ট্রেনিং রান সহ। V4 প্রাক্‌দর্শন পেপারটি দুটি আকারই দেয়:

সংখ্যাগুলি DeepSeek-V4 প্রাক্‌দর্শন পেপার থেকে। আমরা যে অফিসিয়াল চেকপয়েন্টগুলি পরিবেশন করি — V4-Flash-0731 ও V4-Pro-0813 — তাদের মডেল কার্ডে সামান্য বড় মোট 304B ও 1.7T দেওয়া আছে; সেই বিল্ডগুলির জন্য DeepSeek সক্রিয় প্যারামিটার আবার জানায় না।

এখানে দুটি সংখ্যাই আসল কাজটি করে। মোট প্যারামিটার ঠিক করে মেমরির পদচিহ্ন, যা নির্ধারণ করে মডেলের একটি কপি কত হার্ডওয়্যার দখল করে। সক্রিয় প্যারামিটার ঠিক করে প্রতি টোকেনে গাণিতিক কাজ, যা নির্ধারণ করে থ্রুপুট। প্রথমটিতে Flash মোটামুটি 5.6× ছোট আর দ্বিতীয়টিতে 3.8× ছোট — আর সেই ব্যবধানে খেয়াল করার মতো একটি সূক্ষ্মতা আছে: Flash 284 বিলিয়নের মধ্যে 13 বিলিয়ন সক্রিয় করে, প্রায় 4.6%, আর Pro 1,600 বিলিয়নের মধ্যে 49 বিলিয়ন, প্রায় 3.1%। Flash-ই কম স্পার্স মডেল। এটি নিছক কম এক্সপার্ট চালু করা Pro নয়; এটি ঘনতর, ভিন্নভাবে ভারসাম্য করা একটি নকশা, যা তৈরি করা প্রতিটি টোকেনে নিজের বড় একটি অংশ খরচ করে। এটি একটি বাস্তব প্রকৌশল পছন্দ, কোনো অবনমন নয়।

DeepSeek-এর নিজের সংখ্যাগুলি কী বলে

দুটি অফিসিয়াল মডেল কার্ডই একই এজেন্টিক ও সফটওয়্যার-প্রকৌশল বেঞ্চমার্কে স্কোর প্রকাশ করে, যা এটিকে অস্বাভাবিকভাবে পরিষ্কার একটি তুলনা করে তোলে — একই গবেষণাগার, একই মূল্যায়ন হারনেস, দুটি আকার:

বেঞ্চমার্ক (DeepSeek-এর জানানো)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

প্রতিটি সারিতেই Pro জেতে। সৎ শিরোনামটি এটাই, আর প্রোডাকশনে গিয়ে আবিষ্কার করার চেয়ে আপনি এখানেই পড়ুন সেটাই আমরা চাই। কিন্তু ব্যবধানগুলি পড়ুন, কারণ আপনি আসলে সেগুলিই কিনছেন। Terminal Bench 2.1-এ ব্যবধান 5.2 পয়েন্ট — এমন একটি মডেলে যার প্যারামিটার পঁচিশ ভাগের এক ভাগ; টুল ব্যবহারে 3.8 পয়েন্ট। কাজ যত গভীর হয় ব্যবধান তত চওড়া হয় — DeepSWE-তে 8.3 পয়েন্ট, NL2Repo-তে 7.3, আর দুটিই টানা বহু-ধাপ কোড রিজনিংকে পুরস্কৃত করে। এক টেবিলেই বিনিময়ের চেহারাটা এই: সীমাবদ্ধ কাজে Flash দূরত্বের বেশিরভাগটাই ঘুচিয়ে দেয়, আর মুক্তপ্রান্ত কাজে জমি ছাড়ে।

DeepSeek-এর নিজের Flash কার্ড কথাটি আরও তীক্ষ্ণভাবে বলে: সক্রিয় প্যারামিটার অনেক কম হওয়া সত্ত্বেও তালিকাভুক্ত বেঞ্চমার্কগুলিতে Flash-0731 V4-Pro প্রাক্‌দর্শনকে ছাড়িয়ে যায়। এই ক্ষেত্রে একটি নতুন ছোট মডেলের পুরনো বড় মডেলকে হারানো স্বাভাবিক ব্যাপার, আর এই কারণেই “বড় স্তর” কখনোই আপনার স্বতঃসিদ্ধ উত্তর হওয়া উচিত নয়।

04প্রত্যয়টি পড়া: W4A16-AUTOROUND-REAP

আমাদের মডেল আইডি নিজেদের সংকোচন পদ্ধতি জোরে বলে দেয়, কারণ আউটপুট গুণমানে এটাই সবচেয়ে বেশি প্রভাব ফেলে আর প্রায় কেউই এটি প্রকাশ করে না। এটি তিনটি দাবিতে ভাঙে।

W4A16 — 4-বিট ওয়েট, 16-বিট অ্যাক্টিভেশন

ওয়েটগুলি প্রতিটি 4 বিটে রাখা হয়; অ্যাক্টিভেশন 16-বিট নির্ভুলতায় বয়ে যায়। এটি কেবল-ওয়েট কোয়ান্টাইজেশন, আর এটি টোকেন তৈরির আসল বাধাটিকেই লক্ষ্য করে, যা গাণিতিক কাজ নয় বরং মেমরি ব্যান্ডউইথ। অ্যাক্টিভেশনও কোয়ান্টাইজ করলে সামান্য বাড়তি গতি মিলত আর অনেক বড় একটি নির্ভুলতার খাদের ঝুঁকি থাকত; সেগুলিকে 16 বিটে রাখা রক্ষণশীল, উচ্চ-বিশ্বস্ততার পছন্দ। নোটেশনটি পরিবেশন-পরিমণ্ডলের সংক্ষেপ — কোয়ান্টাইজেশন সাহিত্যে একই জিনিস একটি গ্রুপ সাইজ সহ W4 হিসেবে লেখা হয়।

AUTOROUND — শেখা রাউন্ডিং, নিকটতম রাউন্ডিং নয়

সরল কোয়ান্টাইজেশন প্রতিটি ওয়েটকে নিকটতম উপস্থাপনযোগ্য মানে রাউন্ড করে। সেটি প্রমাণসাপেক্ষে সর্বোত্তম নয়: একটি ওয়েটকে “ভুল” দিকে রাউন্ড করলে তার প্রতিবেশীদের ঢোকানো ত্রুটি কেটে যেতে পারে, আর কোটি কোটি ওয়েটে সেই মিথস্ক্রিয়াগুলিই প্রাধান্য পায়। Intel-এর AutoRound রাউন্ডিংয়ের সিদ্ধান্তটিকেই শেখার মতো একটি জিনিস হিসেবে দেখে — প্রতি-ওয়েটে একটি প্রশিক্ষণযোগ্য বিচ্যুতি, ±0.5-এ সীমিত, ঠিক যতটুকু হলে যেকোনো একটি রাউন্ডিং সিদ্ধান্ত উল্টে যায় আর তার বেশি নয়, সঙ্গে শেখা যায় এমন ক্লিপিং পরিসর, যা একটি ছোট ক্যালিব্রেশন সেটের উপর ব্লক-ভিত্তিক আউটপুট-পুনর্গঠনের উদ্দেশ্যের বিপরীতে সাইনড গ্রেডিয়েন্ট ডিসেন্ট দিয়ে অপ্টিমাইজ করা হয়। দুইশো ধাপ, তারপরই শেষ।

Intel-এর প্রকাশিত তুলনায় 4-বিট কেবল-ওয়েট সেটিংয়ে AutoRound পরীক্ষিত 32টির মধ্যে 30টি পরিস্থিতিতে GPTQ-কে, 32-এর মধ্যে 27-এ AWQ-কে আর 32-এর মধ্যে 29-এ OmniQuant-কে হারায়, আর 2 বিটে সরল রাউন্ড-টু-নিয়ারেস্টের তুলনায় 6.9 থেকে 33.2 নির্ভুলতা-পয়েন্ট লাভ দেখায়। ইনফারেন্সের সময় এর কোনো খরচ নেই: এটি নিছক সংখ্যার একটি ভালো পছন্দ, একবারই, অফলাইনে করা।

REAP — যেসব এক্সপার্টের কাছে কেউ রাউট করে না, তাদের বাদ দেওয়া

Cerebras Systems ও University of Calgary-র REAP (Router-weighted Expert Activation Pruning) হলো MoE মডেলের জন্য ওয়ান-শট সংকোচন। এটি প্রতিটি এক্সপার্টকে নম্বর দেয় রাউটার কত জোরালোভাবে ও কত ঘন ঘন তার দিকে গেট করে, তা সেই এক্সপার্টের আউটপুটের মাত্রা দিয়ে গুণ করে; এরপর সবচেয়ে কম গুরুত্বপূর্ণ এক্সপার্টগুলি সরাসরি মুছে দেয় — পরে কোনো পুনঃপ্রশিক্ষণ নেই।

পেপারের কেন্দ্রীয় আবিষ্কারটিই কাজের: উঁচু সংকোচন অনুপাতে এক্সপার্ট ছাঁটাই তাদের মার্জ করাকে হারায়। কার্যত ভিন্ন এক্সপার্টদের মার্জ করলে যা ঘটে, লেখকেরা তাকে বলেন ফাংশনাল সাবস্পেস কোল্যাপ্স — রাউটার সেই সূক্ষ্ম-দানার, ইনপুট-নির্ভর নিয়ন্ত্রণ হারায় যার জন্যই MoE বানানো সার্থক ছিল, আর স্থির গড়ের মাঝে দিশা খুঁজতে বাধ্য হয়। 20B থেকে 1T প্যারামিটারের মডেল জুড়ে তাদের সংখ্যা: কোডিং কাজে 25% এক্সপার্ট সংকোচনে REAP গড়ে 2.8% নির্ভুলতা হারায়, যেখানে মার্জিং বেসলাইনগুলি হারায় 5%-এর বেশি; 50%-এ REAP হারায় 8.0%, যেখানে মার্জিং হারায় 20%-এর বেশি। Qwen3-Coder-480B-তে 50% ছাঁটাইয়ে পতন 1.4%, যেখানে সরল কম্পাঙ্ক-ভিত্তিক ছাঁটাইয়ে 39.3%। Cerebras অন্যান্যদের সঙ্গে DeepSeek ধারার জন্যও REAP চেকপয়েন্ট প্রকাশ করেছে।

এখানে 4-বিট আর Pro-তে 3-বিট কেন

দুটি স্তরকেই একই শ্রেণির হার্ডওয়্যারে আঁটতে হবে আর দ্রুত থাকতে হবে। Pro বহন করে 1.7 ট্রিলিয়ন প্যারামিটার, তাই আদৌ আঁটতে তার আরও আক্রমণাত্মক 3-বিট চিকিৎসা দরকার। Flash বহন করে মোটামুটি 300 বিলিয়ন, তাই তার দরকার নেই — আর সে যে বিটটি বাঁচায়, তা আঁটার পিছনে নয়, বিশ্বস্ততার পিছনেই খরচ হয়।

ওই বাড়তি বিটটি তার পাটিগণিত যা ইঙ্গিত করে তার চেয়ে বেশি গুরুত্বপূর্ণ, কারণ কোয়ান্টাইজেশনের ক্ষতি রৈখিক নয়। AWQ পেপারের WikiText-2 পরিমাপে Llama-2-7B FP16-এ 5.47 পারপ্লেক্সিটি থেকে যায় 4-বিটে 5.60-এ — 2.4% জরিমানা — কিন্তু 3-বিটে 6.24, অর্থাৎ 14% জরিমানা। অর্থাৎ 25% বেশি সংকোচনের জন্য মোটামুটি ছয় গুণ অবনতি, আর 70B-তেও একই ধারা টেকে। GPTQ পেপার আরও স্পষ্টবাদী: 3 বিটে সরল রাউন্ড-টু-নিয়ারেস্ট 175B-শ্রেণির মডেলে ভেঙে পড়ে, হাজার হাজার পারপ্লেক্সিটিতে, অথচ 4 বিটে দিব্যি ব্যবহারযোগ্য থাকে। চার বিটের নিচে একটি ভালো কোয়ান্টাইজেশন অ্যালগরিদম আর শৌখিনতা থাকে না — মডেলটিকে জোড়া লাগিয়ে রাখা একমাত্র জিনিস হয়ে যায়।

তাই এই দুটি প্রত্যয়ের সৎ পাঠ হলো: Pro তার নিজের অসংকুচিত রূপ থেকে যতটা দূরে, Flash তার নিজের রূপ থেকে তার চেয়ে কাছে বসে। Pro এখনও শক্তিশালী মডেল — উপরের বেঞ্চমার্ক টেবিল সেই কথা মিটিয়ে দেয়। সে কেবল এখানে পৌঁছাতে বেশি কিছু ছেড়ে দিয়েছে, আর সেই সুবিধার দাম আপনি দেন।

উৎস: AutoRound — “Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs” (arXiv 2309.05516), Intel, Findings of EMNLP 2024। REAP — “REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression” (arXiv 2510.13999), Cerebras Systems। পারপ্লেক্সিটির সংখ্যা AWQ (arXiv 2306.00978) ও GPTQ (arXiv 2210.17323) থেকে।

05এন্ডপয়েন্টে Flash বনাম Pro

03 নম্বর অংশ ভিত্তিগুলি ঢেকেছে। আমাদের গেটওয়েতে পণ্য হিসেবে দুটি স্তর দেখতে এমন:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
কোয়ান্টাইজেশন	W4A16-AUTOROUND-REAP	3BIT-REAP
ওয়েট নির্ভুলতা	4-বিট, শেখা রাউন্ডিং	3-বিট
ভিত্তি (মোট / সক্রিয়)	~304B / 13B	~1.7T / 49B
প্রতি 1M টোকেনে ইনপুট	$0.50	$1.95
প্রতি 1M টোকেনে আউটপুট	$2.00	$3.90
কনটেক্সট / সর্বোচ্চ আউটপুট	262,144 / 16,384	262,144 / 16,384
টুল · কাঠামোবদ্ধ আউটপুট · স্ট্রিমিং	হ্যাঁ	হ্যাঁ
ভিশন	না	না
প্রত্যাখ্যানের স্তর	নেই	নেই

খেয়াল করুন কী বদলায় না: কনটেক্সট, আউটপুটের ছাদ, টুল কলিং, কাঠামোবদ্ধ আউটপুট আর প্রত্যাখ্যানের স্তরের অনুপস্থিতি — সবই অভিন্ন। যা নড়ে তা কেবল ভিত্তি, কোয়ান্টাইজেশন আর দাম। ফলে এদের মধ্যে বদলানো আপনার কোডে এক-স্ট্রিংয়ের পরিবর্তন আর আপনার স্থাপত্যে বিশুদ্ধভাবে অর্থনৈতিক একটি সিদ্ধান্ত।

সর্বোচ্চ আকারের একটি কলের খরচ কত

গোটা 262,144-টোকেন কনটেক্সট ভরুন আর পূর্ণ 16,384-টোকেন আউটপুট নিন:

তালিকাভুক্ত দামে। Flash: $0.131 ইনপুট + $0.033 আউটপুট। Pro: $0.511 + $0.064। অনুপাত 3.51×। Flash আরও ভাগ করে নেয় $0.50 / $2.00 মেঝেটি MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro ও Hy3-এর সঙ্গে — ভিশন ও কাঠামোবদ্ধ আউটপুটে সেগুলি কীভাবে আলাদা তা দেখতে পূর্ণ তালিকা দেখুন।

06আয়তনের হিসাব, কষে দেখানো

“3.9× সস্তা” কথাটা কেবল ইনপুটেই সত্যি। আউটপুটে Flash 1.95× সস্তা। তাই আপনার আসল সাশ্রয় নির্ভর করে আপনার ইনপুট-থেকে-আউটপুট অনুপাতের উপর, আর ব্যবধানটা এতটাই চওড়া যে নকশার সিদ্ধান্ত বদলে যেতে পারে। চারটি বাস্তবসম্মত কাজের ভার, প্রতিটি 100,000 রিকোয়েস্টে:

কাজের ভার	প্রতি কলে ইন / আউট	Flash	Pro	সাশ্রয়
টিকিট শ্রেণিবিন্যাস	1,200 / 120	$84	$281	3.3×
RAG প্রশ্নের উত্তর	8,000 / 600	$520	$1,794	3.4×
দীর্ঘ নথির সারসংক্ষেপ	60,000 / 1,500	$3,300	$12,285	3.7×
সিনথেটিক ডেটা তৈরি	500 / 2,000	$425	$878	2.1×

ধারাটি এই: আপনি যত বেশি কনটেক্সট ঠেলেন আর যত কম লেখা তৈরি করেন, Flash তত বেশি বাঁচায়। রিট্রিভাল পাইপলাইন, নথি বাছাই, লগ ও ট্রান্সক্রিপ্ট বিশ্লেষণ, আর দীর্ঘ-কনটেক্সট নিষ্কাশন — এগুলিই মধুবিন্দু: এরা এক ক্রম-মাত্রায় ইনপুট-প্রধান, আর 3.9× ছাড়টি থাকে ইনপুটেই। বদলে আপনার কাজ যদি হয় একটি ছোট প্রম্পট থেকে হাজার হাজার টোকেন গদ্য তৈরি করা, তবে ব্যবধান মোটামুটি 2×-এ নেমে আসে আর Pro-র পক্ষে সক্ষমতার যুক্তি সেই অনুপাতেই জোরালো হয়।

মাথায় গেঁথে নেওয়ার মতো আরও একটি হিসাব: প্রতি মিলিয়ন ইনপুট টোকেনে $0.50-এ, গোটা 262,144-টোকেন উইন্ডো ভরতে খরচ 13.1 সেন্ট। এই দামে দীর্ঘ-কনটেক্সট প্রম্পটিং আর বাজেটের প্রশ্ন থাকে না, যার মানে কখনও কখনও আপনি একটি রিট্রিভাল স্তর বানানোই এড়িয়ে যেতে পারেন আর কনটেক্সট উইন্ডোকেই কাজটা করতে দিতে পারেন — টোকেন সাশ্রয়ের উপরে একটি প্রকৌশল সাশ্রয়।

07এখানে “আনসেন্সরড” বলতে ঠিক কী বোঝায়

শব্দটি ঢিলেঢালাভাবে ব্যবহৃত হয়, তাই এন্ডপয়েন্টের একটি ধর্ম হিসেবে বলা আমাদের সংজ্ঞাটি এই: মডেলের সামনে কোনো প্রত্যাখ্যান ক্লাসিফায়ার নেই আর তার আউটপুটে কোনো কনটেন্ট ফিল্টারিং প্রয়োগ করা হয় না। কিছুই একটি প্রম্পট আটকে বাঁধাধরা অস্বীকৃতি ফেরত দেয় না; কিছুই সম্পূর্ণ উত্তরটি পরীক্ষা করে তা কেটে দেয় না। উচ্চ-আয়তনের প্রোডাকশন কাজে এর ফলাফল শব্দটি যতটা নাটকীয় ইঙ্গিত করে তার চেয়ে কম নাটকীয় আর বেশি কাজের:

• নিরীহ ট্রাফিকে কোনো ভুয়া সংকেত নয়। ফিল্টার করা এন্ডপয়েন্ট নিয়মিতভাবে চিকিৎসা সারসংক্ষেপ, নিরাপত্তা বিশ্লেষণ, আইনি ডিসকভারি, কল্পকাহিনি, ক্ষতি-হ্রাসের উপকরণ আর খোদ মডারেশনের কাজ প্রত্যাখ্যান করে — ঠিক সেই শ্রেণিগুলি যেখানে একটি ব্যাচ কাজ কোনো সংবেদনশীল বিষয় সম্পর্কে লেখা প্রক্রিয়া করছে, ক্ষতিকর কিছু তৈরি করছে না। এক লক্ষ রিকোয়েস্টে এক-শতাংশ ভুয়া-প্রত্যাখ্যানের হার মানে এক হাজার ভাঙা সারি।
• নির্ধারিত চুক্তি। একটি json_schema উত্তর চান, আর স্কিমার সঙ্গে মেলা JSON-ই পান — যেখানে একটি অবজেক্ট থাকার কথা সেখানে ক্ষমাপ্রার্থনার অনুচ্ছেদ নয়। আপনার পার্সারের কোনো প্রত্যাখ্যান-শাখা লাগে না, আর আপনার রিট্রাই যুক্তিকে ট্রান্সপোর্ট ব্যর্থতা ও নীতিগত ব্যর্থতার তফাত করতে হয় না।
• নীতিটি আপনার। বিনিময়টি এটাই। আপনার পণ্যের যদি আপনার শেষ-ব্যবহারকারীদের জন্য রক্ষাকবচ দরকার হয়, আপনি সেগুলি নিজের স্তরেই বানান — যেখানে আপনি আপনার ব্যবহারকারী ও এখতিয়ার দুটিই জানেন — কোনো প্রদানকারীর দুটি বিষয়েই আন্দাজ উত্তরাধিকারে না নিয়ে। আপনার অ্যাকাউন্ট আমাদের দায়িত্বশীল ব্যবহার নীতির অধীনেই থাকে।

আনসেন্সরড মানে অ-অ্যালাইনড বা অসহায়ক নয়। মডেল এখনও নির্দেশ মানে আর এখনও একটি সিস্টেম প্রম্পটকে সম্মান করে। আপনার ব্যবহারকারীদের জন্য কিছু শ্রেণি প্রত্যাখ্যান করাতে চাইলে সেখানেই বলে দিন — সেই নির্দেশটি এখন আমাদের চাপিয়ে দেওয়ার নয়, আপনার লেখার।

08সক্ষমতা আর সৎ সীমাবদ্ধতা

আয়তনের কাজে দুটি সক্ষমতাই বেশিরভাগ ভার বয়। কড়া json_schema আউটপুট কোনো পার্সিং স্তর ও কোনো প্রত্যাখ্যান-শাখা ছাড়াই একটি সম্পূর্ণ উত্তরকে একটি ডেটাবেস সারিতে পরিণত করে। তিনটি উপভাষাতেই টুল কলিং Flash-কে এমন একটি এজেন্টের সস্তা উপ-ধাপগুলির জন্য বিচক্ষণ ইঞ্জিন করে তোলে যার শীর্ষ-স্তরের পরিকল্পক আরও শক্তিশালী মডেলে চলে। সঙ্গে যোগ করুন reasoning_effort, যা কেবল ট্রাফিকের যে ভগ্নাংশে দরকার সেখানেই বাড়তি টোকেন খরচ করতে দেয়, আর Pro-র সঙ্গে অভিন্ন একটি 262,144-টোকেন কনটেক্সট — সস্তা স্তরটি বেছে নিয়ে আপনি কনটেক্সট ছাড়ছেন না, যা অস্বাভাবিক।

সীমাবদ্ধতাগুলিও সমান সুনির্দিষ্ট:

• ভিশন নেই। Flash কেবল টেক্সট আর একটি বার্তায় ছবি অংশ থাকলে তা প্রত্যাখ্যান করবে। একই $0.50 / $2.00 মেঝেতে আনসেন্সরড কোনো মডেলে ছবির জন্য MiniMax-M3 ও MiMo-V2.5 হলো ভিশন-সক্ষম বিকল্প; Kimi-K2.6 ও Kimi-K3 সেই স্তরের উপরে আরও শক্তিশালী ভিশন মডেল।
• মইয়ের চূড়া নয়। DeepSeek-এর নিজের সংখ্যা প্রকাশিত প্রতিটি এজেন্টিক বেঞ্চমার্কে Pro-কেই এগিয়ে রাখে, আর ব্যবধান সবচেয়ে চওড়া টানা বহু-ধাপ কোড রিজনিংয়ে। যেখানে একটি ভুল উত্তরের দাম এক হাজার সস্তা উত্তরের চেয়ে বেশি, সেখানে প্রতি মিলিয়নে বাড়তি $1.45 খরচ করুন DeepSeek-V4-Pro-তে।
• প্রতি রিকোয়েস্টে 16,384 আউটপুট টোকেন। দীর্ঘ জেনারেশন কলে কলে ভাগ করে নিতে হবে। আমরা যে প্রতিটি মডেল পরিবেশন করি তাদের সবার ছাদই এটি, আর কনটেক্সট উইন্ডো বাধা হওয়ার অনেক আগেই এটি বাধা হয়।

09কল করা

যেকোনো OpenAI-সামঞ্জস্যপূর্ণ ক্লায়েন্ট গেটওয়ের দিকে তাক করুন আর মডেল স্ট্রিংটি বদলান। আপনার স্ট্যাকের আর কিছু নড়াতে হবে না।

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

একই মডেল আইডি অপরিবর্তিতভাবে /v1/messages ও /v1/responses-এও কাজ করে, আর ক্লায়েন্ট নতুন করে না লিখে একটি বিদ্যমান ইন্টিগ্রেশনের নিচে সস্তা একটি মডেল A/B করার দ্রুততম উপায় এটিই। প্যারামিটার, স্ট্রিমিং ইভেন্টের আকার, টুল-কলিং স্কিমা আর রেট লিমিট নথিভুক্ত আছে API রেফারেন্সে; তালিকার প্রতিটি মডেল দেওয়া আছে Shannon Research-এ।

10প্রায়শই জিজ্ঞাসিত প্রশ্ন

---

উৎস: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 কারিগরি প্রতিবেদন (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 ও DeepSeek-V4-Pro-0813 মডেল কার্ড · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323)। ভিত্তি ও বেঞ্চমার্কের সব সংখ্যা তাদের নিজ নিজ লেখকদের প্রকাশিত অনুযায়ী; Shannon AI-এর দাম ও পরিবেশিত কনটেক্সট সেপ্টেম্বর ২০২৬ অনুযায়ী আমাদের নিজস্ব তালিকাভুক্ত মান।