असेन्सॉर्ड DeepSeek Flash API

LLM API चे मूल्यमापन करणारे बहुतेक संघ चुकीचे चल अनुकूल करतात. सुचतील त्यातल्या सर्वात कठीण वीस प्रॉम्प्टवर बेंचमार्क घेतात, विजेता निवडतात, आणि सहा आठवड्यांनी लक्षात येते की त्यांची पंच्याण्णव टक्के रहदारी ही लहान, संरचित, पुनरावृत्तीची कामे आहेत, जी एक-चतुर्थांश किमतीच्या मॉडेलने तशीच हाताळली असती. DeepSeek-V4-Flash त्या पंच्याण्णव टक्क्यांसाठी आहे. तुम्ही त्यात आहात की नाही हे ओळखण्याविषयी हे पान आहे.

01तुम्हाला प्रत्यक्षात काय मिळते

गुणधर्म	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
मॉडेल आयडी	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
संदर्भ / कमाल आउटपुट	262,144 टोकन / 16,384 टोकन
प्रति 1M किंमत (इनपुट / आउटपुट)	$0.50 / $2.00
स्ट्रीमिंग · टूल कॉलिंग · रिझनिंग	होय — तिन्ही बोलींवर
संरचित आउटपुट	json_schema आणि response_format
इमेज इनपुट (व्हिजन)	नाही — फक्त मजकूर
नकार स्तर / आउटपुट फिल्टर	नाही
सर्व्ह केलेले	Shannon च्या स्वतःच्या GPU क्लस्टरवर

तीन API बोली त्याच वेट्सपर्यंत पोहोचतात: /v1/chat/completions (OpenAI-आकाराची), /v1/messages (Anthropic-आकाराची), आणि /v1/responses. तिन्हींवर स्ट्रीमिंग चालते. संपूर्ण पॅरामीटर संदर्भ API दस्तऐवजांमध्ये आहे.

02ते कुठून येते: DeepSeek ची वंशावळ

DeepSeek-AI ने पाच मॉडेल पिढ्या एकाच ध्यासावर खर्च केल्या आहेत: नुसते प्रशिक्षायला स्वस्त नव्हे, तर सर्व्ह करायला स्वस्त असलेल्या मॉडेलमधून आघाडीचे वर्तन काढणे. या रांगेतला जवळजवळ प्रत्येक वास्तुरचनात्मक निर्णय तिथेच जातो, आणि महत्त्वाचे निर्णय प्रकाशित आहेत. तुम्ही या एंडपॉइंटला हाक मारता तेव्हा नेमके काय बोलावता, हे तीन गोष्टी स्पष्ट करतात.

DeepSeekMoE — सूक्ष्म-कणी एक्सपर्ट अधिक एक सामायिक

Mixture-of-Experts स्तर एका मोठ्या फीड-फॉरवर्ड जाळ्याऐवजी अनेक लहान जाळी आणि प्रति टोकन मूठभर निवडणारा राउटर ठेवतो. DeepSeek चा प्रकार एक्सपर्ट नेहमीच्या आठ-एक्सपर्ट मांडणीपेक्षा अधिक बारीक कापतो, त्यामुळे तेवढ्याच सक्रिय FLOPs मध्ये कितीतरी अधिक संयोजनक्षम व नेमके मिश्रण मिळते, आणि तो एक सामायिक एक्सपर्ट वेगळा काढतो ज्यातून प्रत्येक टोकन जाते, म्हणजे सामायिक ज्ञान प्रत्येक तज्ज्ञाच्या आत पुन्हा पुन्हा शिकावे लागत नाही. DeepSeek-V3 ने ते 256 राउटेड एक्सपर्ट अधिक 1 सामायिक एक्सपर्ट, प्रति टोकन 8 राउटेड सक्रिय या रूपात पाठवले — एकूण 671B पॅरामीटर, 37B सक्रिय — सोबत सहायक-तोट्याविना भार-संतुलन: गुणवत्ता खालावणाऱ्या दंड-पदाऐवजी, एक्सपर्ट कमी किंवा जास्त भारलेला असेल तसा प्रति-एक्सपर्ट पूर्वग्रह प्रत्येक टप्प्यावर राउटिंग गुण वर-खाली सरकवतो.

MLA — स्मृतीत बसणारे अटेन्शन

सर्व्हिंग-खर्चाच्या समस्येचा दुसरा अर्धा भाग म्हणजे KV कॅशे, जी संदर्भाबरोबर रेखीय वाढते आणि लांब क्रमांवर स्मृती व्यापून टाकते. DeepSeek-V2 मध्ये आणलेले Multi-head Latent Attention की आणि व्हॅल्यू एकत्रितपणे कमी-श्रेणीच्या सुप्त सदिशात संकुचित करते आणि तीच कॅशेमध्ये ठेवते, वापरण्याजोगे K/V ऐनवेळी पुन्हा उभे करत. DeepSeek च्या प्रकाशित V2 आकड्यांनुसार, त्यांच्या आधीच्या घन DeepSeek 67B च्या तुलनेत KV कॅशेमध्ये 93.3% घट आणि 5.76× जास्त कमाल निर्मिती थ्रूपुट नोंदवले गेले. म्हणूनच या कुटुंबात 262K-टोकन विंडो ही प्रीमियम जोड नसून किमान अपेक्षा आहे.

विरळ अटेन्शन — आणि स्वस्त टोकनचा पूर्वदाखला

V3.2-Exp ने DeepSeek Sparse Attention जोडले: एक हलका इंडेक्सर क्वेरीच्या तुलनेत संदर्भ टोकनना गुण देतो, आणि निवडक फक्त सर्वाधिक गुणांचे ठेवतो. इथे रंजक भाग यंत्रणा नव्हे, तर पावती आहे. DeepSeek ने V3.1-Terminus विरुद्ध शेजारी-शेजारी तुलना प्रकाशित केली — MMLU-Pro 85.0 वर तसेच, AIME 2025 वर (88.4 → 89.3), SWE-bench Verified किंचित खाली (68.4 → 67.8) — म्हणजे मूलतः सपाट गुणवत्ता — आणि त्याच दिवशी त्यांनी आपल्या API किमती 50% पेक्षा जास्त कमी केल्या. प्रामाणिकपणे नोंदवलेली वास्तुरचना थेट किमतीत उतरली. Flash म्हणजे तोच युक्तिवाद एक पाऊल पुढे नेलेला.

V4 पिढी

एप्रिल 2026 मध्ये MIT परवान्याखाली झलक दाखवलेले V4 पुन्हा एकदा अटेन्शनचा रचनाक्रम बदलते — Compressed Sparse Attention आणि Heavily Compressed Attention यांच्या संकरात — 32T पेक्षा जास्त टोकनवर Muon ऑप्टिमायझरने प्रशिक्षण घेते, आणि V3 चे बहु-टोकन-भाकिताचे उद्दिष्ट कायम ठेवते — जे सट्टेबाज डिकोडिंग म्हणूनही काम करते, आणि ज्यासाठी DeepSeek ने V3 मध्ये साधारण 1.8× डिकोडिंग वेगवाढीसाठी 85–90% दुसऱ्या-टोकन स्वीकार दर मोजला. V4 चा गोषवारा V4-Pro V3.2 च्या एकल-टोकन इन्फरन्स FLOPs च्या 27% आणि तिच्या KV कॅशेच्या 10% वर चालत असल्याचे नोंदवतो. हे कुटुंब तीन रिझनिंग-प्रयत्न पातळ्या उपलब्ध करते, आणि आमचा reasoning_effort पॅरामीटर त्यावरच बसतो.

स्रोत: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 तांत्रिक अहवाल (arXiv 2412.19437) · DeepSeek-V3.2-Exp मॉडेल कार्ड · DeepSeek-V4 (arXiv 2606.19348). सर्व आकडे DeepSeek-नोंदित आहेत.

03“Flash” म्हणजे प्रत्यक्षात काय

बहुतेक तुलनांमध्ये नेमकी हीच चूक होते, म्हणून हे स्पष्टपणे सांगायला हवे: DeepSeek चे Flash हे क्वांटाइझ्ड, छाटलेले किंवा डिस्टिल केलेले Pro नाही. ते स्वतंत्रपणे प्रशिक्षित, लहान Mixture-of-Experts मॉडेल असून त्याचे स्वतःचे पूर्व-प्रशिक्षण झाले आहे. V4 झलक शोधनिबंध दोन्ही आकार देतो:

आकडे DeepSeek-V4 झलक शोधनिबंधातून. आम्ही सर्व्ह करत असलेली अधिकृत चेकपॉइंट — V4-Flash-0731 आणि V4-Pro-0813 — त्यांच्या मॉडेल कार्डवर 304B आणि 1.7T असे किंचित मोठे एकूण आकडे देतात; त्या बिल्डसाठी DeepSeek सक्रिय पॅरामीटर पुन्हा सांगत नाही.

इथे दोन आकडे काम करतात. एकूण पॅरामीटर स्मृतीचा ठसा ठरवतात, ज्यावरून मॉडेलची एक प्रत किती हार्डवेअर व्यापते हे ठरते. सक्रिय पॅरामीटर प्रति टोकनचे गणित ठरवतात, ज्यावरून थ्रूपुट ठरतो. पहिल्यावर Flash साधारण 5.6× लहान आहे आणि दुसऱ्यावर 3.8× — आणि या तफावतीत लक्षात घेण्याजोगी एक सूक्ष्म गोष्ट आहे: Flash 284 अब्जांपैकी 13 अब्ज पॅरामीटर सक्रिय करते, म्हणजे साधारण 4.6%, तर Pro 1,600 अब्जांपैकी 49 अब्ज, म्हणजे साधारण 3.1%. Flash हे कमी विरळ मॉडेल आहे. ते नुसते कमी एक्सपर्ट चालू असलेले Pro नाही; ती एक अधिक घन, वेगळ्या प्रकारे तोललेली रचना आहे जी निर्माण करत असलेल्या प्रत्येक टोकनवर स्वतःचा मोठा हिस्सा खर्च करते. हा खरा अभियांत्रिकी निर्णय आहे, दर्जा उतरवणे नव्हे.

DeepSeek चे स्वतःचे आकडे काय सांगतात

दोन्ही अधिकृत मॉडेल कार्ड त्याच एजंटिक आणि सॉफ्टवेअर-अभियांत्रिकी बेंचमार्कवरचे गुण प्रकाशित करतात, ज्यामुळे ही तुलना असामान्यपणे स्वच्छ ठरते — तीच प्रयोगशाळा, तेच मूल्यमापन हार्नेस, दोन आकार:

बेंचमार्क (DeepSeek-नोंदित)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

प्रत्येक ओळीवर Pro जिंकते. हाच प्रामाणिक मथळा आहे, आणि तो तुम्ही प्रॉडक्शनमध्ये शोधण्यापेक्षा इथेच वाचलेला बरा. पण फरकाचे प्रमाण वाचा, कारण तेच तुम्ही प्रत्यक्षात विकत घेत आहात. Terminal Bench 2.1 वर पंचविसाव्या हिश्शाइतके पॅरामीटर असलेल्या मॉडेलवर अंतर 5.2 गुणांचे आहे; टूल-वापरावर ते 3.8 गुण आहे. काम जितके खोल तितके अंतर रुंदावते — DeepSWE वर 8.3 गुण, NL2Repo वर 7.3, आणि ही दोन्ही सलग बहु-टप्पी कोड रिझनिंगला बक्षीस देतात. एका कोष्टकात या अदलाबदलीचा आकार असा: मर्यादित कामांवर Flash बरेचसे अंतर भरून काढते आणि मोकळ्या टोकाच्या कामांवर माघार घेते.

DeepSeek चे स्वतःचे Flash कार्ड हा मुद्दा आणखी तीव्रपणे मांडते: सक्रिय पॅरामीटर संख्या कितीतरी कमी असूनही Flash-0731 सूचीबद्ध बेंचमार्कवर V4-Pro झलकीपेक्षा सरस ठरते. नवे लहान मॉडेल जुन्या मोठ्या मॉडेलला हरवणे ही या क्षेत्रातली नेहमीचीच गोष्ट आहे, आणि म्हणूनच “मोठा स्तर” हे तुमचे मूलभूत उत्तर कधीच असू नये.

04प्रत्यय वाचणे: W4A16-AUTOROUND-REAP

आमचे मॉडेल आयडी त्यांची कॉम्प्रेशन योजना मोठ्याने सांगतात, कारण आउटपुट गुणवत्तेवर सर्वाधिक परिणाम करणारी हीच गोष्ट आहे आणि ती जवळजवळ कुणीच उघड करत नाही. या प्रत्ययाचे तीन दावे होतात.

W4A16 — 4-bit वेट्स, 16-bit ॲक्टिव्हेशन

वेट्स प्रत्येकी 4 बिटवर साठवली जातात; ॲक्टिव्हेशन 16-bit अचूकतेवर वाहतात. हे फक्त-वेट क्वांटायझेशन आहे, आणि ते टोकन-निर्मितीतल्या खऱ्या अडथळ्यावर — म्हणजे गणितावर नव्हे तर स्मृती-रुंदीवर — नेम धरते. ॲक्टिव्हेशनही क्वांटाइझ केल्याने थोडा अधिक वेग मिळेल पण अचूकतेचा कितीतरी मोठा कडा तुटण्याचा धोका येईल; त्यांना 16 बिटवर ठेवणे हा सावध, उच्च-विश्वासार्हतेचा निर्णय आहे. ही संज्ञा सर्व्हिंग परिसंस्थेतली संक्षिप्त लिपी आहे — क्वांटायझेशनचे साहित्य तेच W4 अधिक गट-आकार असे लिहिते.

AUTOROUND — शिकलेले राउंडिंग, जवळचे नव्हे

भाबडे क्वांटायझेशन प्रत्येक वेट जवळच्या दर्शवण्याजोग्या मूल्यावर पूर्णांकित करते. ते सिद्धरीत्या इष्टतम नाही: एक वेट “चुकीच्या” दिशेने पूर्णांकित केल्याने त्याच्या शेजाऱ्यांनी आणलेली चूक रद्द होऊ शकते, आणि अब्जावधी वेट्समध्ये असे परस्परसंबंधच वरचढ ठरतात. Intel कडून आलेले AutoRound राउंडिंगचा निर्णय हीच शिकण्याजोगी गोष्ट मानते — प्रति-वेट प्रशिक्षणीय विचलन, ±0.5 पर्यंत मर्यादित, म्हणजे कोणताही एक राउंडिंग निर्णय उलटवण्याइतके नेमके आणि त्याहून अधिक कधीच नाही, अधिक शिकण्याजोग्या क्लिपिंग मर्यादा, आणि हे सर्व लहान कॅलिब्रेशन संचावर ब्लॉकनिहाय आउटपुट-पुनर्रचनेच्या उद्दिष्टाविरुद्ध सचिन्ह ग्रेडियंट डिसेंटने अनुकूल केलेले. दोनशे टप्पे, आणि झाले.

Intel च्या प्रकाशित तुलनांमध्ये 4-bit फक्त-वेट सेटिंगवर AutoRound 32 पैकी 30 परिस्थितींमध्ये GPTQ ला, 32 पैकी 27 मध्ये AWQ ला आणि 32 पैकी 29 मध्ये OmniQuant ला हरवते, आणि 2 बिटवर भाबड्या जवळच्या-पूर्णांकापेक्षा 6.9 ते 33.2 अचूकता-बिंदूंची कमाई करते. यातले काहीही इन्फरन्सच्या वेळी खर्चिक नाही: ही एकदाच, ऑफलाइन केलेली आकड्यांची अधिक चांगली निवड आहे.

REAP — कुणीच राउट न करणारे एक्सपर्ट काढून टाकणे

REAP (Router-weighted Expert Activation Pruning), Cerebras Systems आणि University of Calgary कडून आलेली, MoE मॉडेलसाठीची एकवेळची कॉम्प्रेशन पद्धत आहे. राउटर प्रत्येक एक्सपर्टकडे किती जोरात आणि किती वेळा गेट करतो याला त्या एक्सपर्टच्या आउटपुटच्या परिमाणाने गुणून ती त्याला गुण देते, आणि सर्वात कमी ठळक एक्सपर्ट सरळ काढून टाकते — नंतर पुन्हा प्रशिक्षण नाही.

शोधनिबंधाचा मध्यवर्ती निष्कर्ष हाच उपयुक्त आहे: उच्च कॉम्प्रेशन प्रमाणांवर एक्सपर्ट छाटणे हे त्यांच्या विलीनीकरणापेक्षा सरस ठरते. कार्यात्मकदृष्ट्या वेगळे एक्सपर्ट विलीन केल्याने लेखक ज्याला कार्यात्मक उपअवकाश ऱ्हास म्हणतात ते घडते — MoE बांधण्याजोगे बनवणारे सूक्ष्म-कणी, इनपुट-सापेक्ष नियंत्रण राउटर गमावतो, आणि त्याला स्थिर सरासरींमध्ये दिशा धरावी लागते. 20B ते 1T पॅरामीटरच्या मॉडेलवरचे त्यांचे आकडे: कोडिंग कामांवर 25% एक्सपर्ट कॉम्प्रेशनला REAP सरासरी 2.8% अचूकता गमावते, तिथे विलीनीकरणाच्या आधाररेषा 5% पेक्षा जास्त गमावतात; 50% वर REAP 8.0% गमावते तिथे विलीनीकरण 20% पेक्षा जास्त. Qwen3-Coder-480B वर 50% छाटणीला घट 1.4% आहे, तर भाबड्या वारंवारता-आधारित छाटणीसाठी 39.3%. Cerebras ने इतरांसह DeepSeek रांगेसाठीही REAP चेकपॉइंट प्रकाशित केली आहेत.

इथे 4-bit आणि Pro वर 3-bit का

दोन्ही स्तरांना त्याच वर्गाच्या हार्डवेअरवर बसावेच लागते आणि वेगात राहावे लागते. Pro 1.7 ट्रिलियन पॅरामीटर वागवते, त्यामुळे मुळात बसण्यासाठी त्याला अधिक आक्रमक 3-bit उपचार लागतो. Flash साधारण 300 अब्ज वागवते, त्यामुळे त्याला तो लागत नाही — आणि वाचलेला तो एक बिट बसण्यासाठी नव्हे तर विश्वासार्हतेसाठी खर्च होतो.

तो अतिरिक्त बिट त्याच्या अंकगणिती वजनापेक्षा जास्त महत्त्वाचा आहे, कारण क्वांटायझेशनची हानी रेखीय नसते. AWQ शोधनिबंधाच्या WikiText-2 मोजमापांत Llama-2-7B FP16 वरच्या 5.47 पर्प्लेक्सिटीवरून 4-bit वर 5.60 वर जाते — 2.4% दंड — पण 3-bit वर 6.24, म्हणजे 14% दंड. म्हणजे 25% अधिक कॉम्प्रेशनसाठी साधारण सहापट झीज, आणि 70B वरही तोच आकृतिबंध टिकतो. GPTQ शोधनिबंध याहून स्पष्ट बोलतो: 3 बिटवर भाबडे जवळचे-पूर्णांक 175B-वर्गाच्या मॉडेलवर कोसळते, हजारोंच्या पर्प्लेक्सिटीत जाते, तर 4 बिटवर ते पूर्णपणे वापरण्याजोगे राहते. चार बिटांखाली, चांगला क्वांटायझेशन अल्गोरिदम ही सोय उरत नाही — मॉडेलला एकत्र धरून ठेवणारी तीच एकमेव गोष्ट बनते.

म्हणून या दोन प्रत्ययांचे प्रामाणिक वाचन असे: Pro आपल्या स्वतःच्या अनकॉम्प्रेस्ड रूपापासून जितके दूर आहे, त्यापेक्षा Flash आपल्या स्वतःच्या रूपाच्या जवळ आहे. Pro तरीही अधिक सशक्त मॉडेलच आहे — वरचे बेंचमार्क कोष्टक तेवढे निकालात काढते. फक्त इथवर पोहोचायला त्याने अधिक गमावले आहे, आणि त्या विशेषाधिकाराचे पैसे तुम्ही मोजता.

स्रोत: AutoRound — “Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs” (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — “REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression” (arXiv 2510.13999), Cerebras Systems. पर्प्लेक्सिटीचे आकडे AWQ (arXiv 2306.00978) आणि GPTQ (arXiv 2210.17323) मधून.

05एंडपॉइंटवर Flash विरुद्ध Pro

विभाग 03 ने आधारांचा भाग व्यापला. आमच्या गेटवेवर उत्पादन म्हणून हे दोन स्तर असे दिसतात:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
क्वांटायझेशन	W4A16-AUTOROUND-REAP	3BIT-REAP
वेट अचूकता	4-bit, शिकलेले राउंडिंग	3-bit
आधार (एकूण / सक्रिय)	~304B / 13B	~1.7T / 49B
प्रति 1M टोकन इनपुट	$0.50	$1.95
प्रति 1M टोकन आउटपुट	$2.00	$3.90
संदर्भ / कमाल आउटपुट	262,144 / 16,384	262,144 / 16,384
टूल · संरचित आउटपुट · स्ट्रीमिंग	होय	होय
व्हिजन	नाही	नाही
नकार स्तर	नाही	नाही

काय बदलत नाही ते लक्षात घ्या: संदर्भ, आउटपुटची कमाल मर्यादा, टूल कॉलिंग, संरचित आउटपुट, आणि नकार स्तराचा अभाव — हे सारखेच आहेत. फक्त आधार, क्वांटायझेशन आणि किंमत हलतात. त्यामुळे दोघांमध्ये अदलाबदल करणे म्हणजे तुमच्या कोडमधला एक-स्ट्रिंग बदल आणि तुमच्या वास्तुरचनेतला निव्वळ आर्थिक निर्णय ठरतो.

एका कमाल आकाराच्या कॉलचा खर्च

संपूर्ण 262,144-टोकन संदर्भ भरा आणि पूर्ण 16,384-टोकन आउटपुट घ्या:

यादी-किमतीवर. Flash: $0.131 इनपुट + $0.033 आउटपुट. Pro: $0.511 + $0.064. गुणोत्तर 3.51×. Flash हा $0.50 / $2.00 चा तळ MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro आणि Hy3 यांच्यासोबतही वाटून घेते — व्हिजन आणि संरचित आउटपुटवर ती कशी वेगळी आहेत यासाठी संपूर्ण कॅटलॉग पाहा.

06प्रमाणाचे गणित, सोडवून दाखवलेले

“3.9× स्वस्त” हे फक्त इनपुटवर खरे आहे. आउटपुटवर Flash 1.95× स्वस्त आहे. त्यामुळे तुमची खरी बचत तुमच्या इनपुट-ते-आउटपुट गुणोत्तरावर अवलंबून असते, आणि हा पल्ला रचनेचे निर्णय बदलण्याइतका रुंद आहे. प्रत्येकी 1,00,000 विनंत्यांची चार वास्तववादी कामे:

काम	प्रति कॉल इन / आउट	Flash	Pro	बचत
तिकिटांचे वर्गीकरण	1,200 / 120	$84	$281	3.3×
RAG प्रश्नोत्तरे	8,000 / 600	$520	$1,794	3.4×
लांब दस्तऐवजाचा सारांश	60,000 / 1,500	$3,300	$12,285	3.7×
सिंथेटिक डेटा निर्मिती	500 / 2,000	$425	$878	2.1×

आकृतिबंध असा: तुम्ही जितका जास्त संदर्भ ढकलाल आणि जितका कमी मजकूर निर्माण कराल, तितकी Flash तुमची जास्त बचत करते. रिट्रीव्हल पाइपलाइन, दस्तऐवज छाननी, लॉग व प्रतिलेख विश्लेषण, आणि दीर्घ-संदर्भातून माहिती काढणे — ही सर्वात योग्य जागा आहे, कारण ती दशपटीने इनपुट-प्रधान असतात, आणि 3.9× सवलत इनपुटवरच आहे. याउलट तुमचे काम लहान प्रॉम्प्टमधून हजारो टोकनचे गद्य निर्माण करणे असेल, तर अंतर साधारण 2× वर आकुंचित होते आणि Pro साठीचा क्षमतेचा युक्तिवाद त्या प्रमाणात अधिक बळकट होतो.

आत्मसात करण्याजोगे आणखी एक गणित: प्रति दशलक्ष इनपुट टोकन $0.50 दराने संपूर्ण 262,144-टोकन विंडो भरायला 13.1 सेंट पडतात. त्या किमतीत दीर्घ-संदर्भाचे प्रॉम्प्टिंग हा अंदाजपत्रकाचा प्रश्न उरत नाही, म्हणजे कधीकधी रिट्रीव्हल स्तर बांधणे टाळून संदर्भ विंडोलाच काम करू देता येते — टोकनच्या बचतीवर आणखी एक अभियांत्रिकी बचत.

07इथे “असेन्सॉर्ड” म्हणजे नेमके काय

हा शब्द सैलपणे वापरला जातो, म्हणून एंडपॉइंटचा गुणधर्म म्हणून मांडलेली आमची व्याख्या अशी: मॉडेलसमोर कोणताही नकार वर्गीकारक नाही आणि त्याच्या आउटपुटवर कोणतेही कंटेंट फिल्टरिंग लावलेले नाही. कोणतीही गोष्ट प्रॉम्प्ट मध्येच अडवून ठरावीक नकार परत करत नाही; कोणतीही गोष्ट पूर्तता तपासून तिच्यातला भाग काढून टाकत नाही. मोठ्या प्रमाणावरच्या प्रॉडक्शन कामासाठी याचे परिणाम या शब्दाच्या ध्वनीपेक्षा कमी नाट्यमय आणि अधिक उपयुक्त आहेत:

• निरुपद्रवी रहदारीवर खोटे इशारे नाहीत. फिल्टर लावलेले एंडपॉइंट नेहमीच वैद्यकीय सारांश, सुरक्षा लेखन, कायदेशीर शोध, कथासाहित्य, हानी-कमी करणारी सामग्री आणि खुद्द मॉडरेशनचे काम नाकारतात — नेमक्या त्याच श्रेणी जिथे सामूहिक काम संवेदनशील विषयाबद्दलच्या मजकुरावर प्रक्रिया करत असते, हानिकारक काही निर्माण करत नसते. एक लाख विनंत्यांवर एक टक्का खोटा-नकार दर म्हणजे हजार मोडक्या ओळी.
• ठाम करार. json_schema प्रतिसाद मागा आणि तुम्हाला स्कीमाशी जुळणारे JSON मिळते, वस्तू असायला हवी तिथे दिलगिरीचा परिच्छेद नाही. तुमच्या पार्सरला नकाराची फांदी लागत नाही, आणि तुमच्या पुनःप्रयत्नाच्या तर्कशास्त्राला वहन-अपयश व धोरण-अपयश यात फरक करावा लागत नाही.
• धोरण तुमचे. हीच ती अदलाबदल. तुमच्या उत्पादनाला तुमच्या अंतिम वापरकर्त्यांसाठी कठडे हवे असतील, तर तुम्ही ते तुमच्या स्तरावर बांधता — जिथे तुम्हाला तुमचे वापरकर्ते आणि तुमचे कार्यक्षेत्र माहीत असते — प्रदात्याने दोन्हींबद्दल केलेले अंदाज वारशाने घेण्याऐवजी. तुमच्या खात्यावर आमचे जबाबदार वापर धोरण लागूच राहते.

असेन्सॉर्ड म्हणजे अनअलाइन्ड किंवा मदत न करणारे नव्हे. मॉडेल अजूनही सूचना पाळते आणि सिस्टीम प्रॉम्प्टचा मान राखते. तुमच्या वापरकर्त्यांसाठी त्याने ठरावीक श्रेणी नाकाराव्यात असे वाटत असेल, तर तिथे तसे सांगा — ती सूचना आता आम्ही लादण्याची नसून तुम्ही लिहिण्याची आहे.

08क्षमता आणि प्रामाणिक मर्यादा

मोठ्या प्रमाणावरच्या कामाचा बहुतांश भार दोन क्षमता उचलतात. काटेकोर json_schema आउटपुट पूर्ततेचे रूपांतर पार्सिंग स्तराशिवाय आणि नकाराच्या फांदीशिवाय थेट डेटाबेस ओळीत करते. तिन्ही बोलींवरचे टूल कॉलिंग Flash ला अशा एजंटच्या स्वस्त उप-टप्प्यांसाठी समंजस इंजिन बनवते ज्याचा वरच्या पातळीचा नियोजक अधिक सशक्त मॉडेलवर चालतो. त्यात reasoning_effort जोडा, जो तुम्हाला ज्या अंशाला अतिरिक्त टोकन लागतात त्याच्यावरच ते खर्चू देतो, आणि Pro सारखीच 262,144-टोकन संदर्भ विंडो — स्वस्त स्तर निवडून तुम्ही संदर्भ गमावत नाही, जे असामान्य आहे.

मर्यादाही तितक्याच ठोस आहेत:

• व्हिजन नाही. Flash फक्त मजकुरासाठी आहे आणि संदेशातले इमेज भाग नाकारेल. त्याच $0.50 / $2.00 तळावर असेन्सॉर्ड मॉडेलवर प्रतिमांसाठी MiniMax-M3 आणि MiMo-V2.5 हे व्हिजन-सक्षम पर्याय आहेत; त्या स्तराच्या वर Kimi-K2.6 आणि Kimi-K3 ही अधिक सशक्त व्हिजन मॉडेल आहेत.
• शिडीचे सर्वात वरचे टोक नाही. DeepSeek चे स्वतःचे आकडे प्रत्येक प्रकाशित एजंटिक बेंचमार्कवर Pro ला पुढे ठेवतात, आणि सलग बहु-टप्पी कोड रिझनिंगवर अंतर सर्वात रुंद आहे. जिथे एक चुकीचे उत्तर हजार स्वस्त उत्तरांपेक्षा महाग पडते, तिथे प्रति दशलक्ष अतिरिक्त $1.45 DeepSeek-V4-Pro वर खर्च करा.
• प्रति विनंती 16,384 आउटपुट टोकन. लांब निर्मिती अनेक कॉलमध्ये तुकड्यांत करावी लागते. आम्ही सर्व्ह करत असलेल्या प्रत्येक मॉडेलवर हीच कमाल मर्यादा आहे, आणि संदर्भ विंडोच्या कितीतरी आधी तीच बंधनकारक ठरते.

09कॉल करणे

कोणताही OpenAI-सुसंगत क्लायंट गेटवेकडे वळवा आणि मॉडेल स्ट्रिंग बदला. तुमच्या स्टॅकमधले बाकी काहीही हलवावे लागत नाही.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

तोच मॉडेल आयडी /v1/messages आणि /v1/responses वर जसाच्या तसा चालतो, आणि तुमचा क्लायंट पुन्हा न लिहिता अस्तित्वातल्या इंटिग्रेशनखाली स्वस्त मॉडेलची A/B चाचणी घेण्याचा तोच सर्वात वेगवान मार्ग आहे. पॅरामीटर, स्ट्रीमिंग इव्हेंटचे आकार, टूल-कॉलिंग स्कीमा आणि दर-मर्यादा API संदर्भात नोंदवलेल्या आहेत; कॅटलॉगमधले प्रत्येक मॉडेल Shannon Research मध्ये सूचीबद्ध आहे.

10वारंवार विचारले जाणारे प्रश्न

---

स्रोत: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 तांत्रिक अहवाल (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 आणि DeepSeek-V4-Pro-0813 मॉडेल कार्ड · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). आधार आणि बेंचमार्कचे सर्व आकडे त्यांच्या त्यांच्या लेखकांनी प्रकाशित केल्याप्रमाणे आहेत; Shannon AI च्या किमती आणि सर्व्ह केलेला संदर्भ ही सप्टेंबर 2026 पर्यंतची आमची स्वतःची यादी-मूल्ये आहेत.