अनसेंसर्ड DeepSeek Flash API

किसी LLM API का मूल्यांकन करने वाली ज़्यादातर टीमें ग़लत चर का अनुकूलन करती हैं। वे सोच सकने वाले सबसे कठिन बीस प्रॉम्प्ट पर बेंचमार्क करती हैं, विजेता चुनती हैं, और छह हफ़्ते बाद पता चलता है कि उनका पंचानबे प्रतिशत ट्रैफ़िक छोटा, संरचित, दोहराव वाला काम है जिसे एक-चौथाई कीमत वाला मॉडल बिल्कुल वैसे ही निपटा देता। DeepSeek-V4-Flash उसी पंचानबे प्रतिशत के लिए है। यह पन्ना यह जानने के बारे में है कि आप उसमें कब हैं — और कब नहीं।

01आपको असल में क्या मिलता है

गुण	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
मॉडल आईडी	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
कॉन्टेक्स्ट / अधिकतम आउटपुट	262,144 टोकन / 16,384 टोकन
कीमत प्रति 1M (इनपुट / आउटपुट)	$0.50 / $2.00
स्ट्रीमिंग · टूल कॉलिंग · रीज़निंग	हाँ — तीनों बोलियों में
स्ट्रक्चर्ड आउटपुट	json_schema और response_format
इमेज इनपुट (विज़न)	नहीं — सिर्फ़ टेक्स्ट
रिफ्यूज़ल लेयर / आउटपुट फ़िल्टर	कोई नहीं
कहाँ परोसा जाता है	Shannon का अपना GPU क्लस्टर

तीन API बोलियाँ उन्हीं वेट्स तक पहुँचती हैं: /v1/chat/completions (OpenAI जैसी), /v1/messages (Anthropic जैसी), और /v1/responses। स्ट्रीमिंग तीनों पर काम करती है। पूरा पैरामीटर संदर्भ API दस्तावेज़ीकरण में है।

02यह आया कहाँ से: DeepSeek की वंशावली

DeepSeek-AI ने पाँच मॉडल पीढ़ियाँ एक ही धुन पर बिताई हैं: ऐसे मॉडल से फ्रंटियर व्यवहार निकालना जिसे परोसना सस्ता हो, न कि सिर्फ़ ट्रेन करना सस्ता हो। इस कड़ी का लगभग हर आर्किटेक्चरल फ़ैसला वहीं तक जाता है, और अहम फ़ैसले प्रकाशित हैं। तीन बताते हैं कि जब आप यह एंडपॉइंट छूते हैं तो आप क्या बुला रहे हैं।

DeepSeekMoE — बारीक एक्सपर्ट और एक साझा एक्सपर्ट

कोई Mixture-of-Experts लेयर एक बड़े फ़ीड-फ़ॉरवर्ड नेटवर्क की जगह कई छोटे नेटवर्क और एक राउटर रखती है जो प्रति टोकन मुट्ठी भर चुनता है। DeepSeek का संस्करण एक्सपर्ट को परंपरागत आठ-एक्सपर्ट ढाँचे से ज़्यादा बारीक काटता है, ताकि उतने ही सक्रिय FLOPs से कहीं ज़्यादा संयोजनात्मक रूप से विशिष्ट मिश्रण मिले, और यह एक साझा एक्सपर्ट को अलग रखता है जिससे हर टोकन गुज़रता है, ताकि सामान्य ज्ञान हर विशेषज्ञ के भीतर दोहराकर दोबारा न सीखा जाए। DeepSeek-V3 ने इसे 256 राउटेड एक्सपर्ट और 1 साझा एक्सपर्ट के रूप में भेजा, जिसमें प्रति टोकन 8 राउटेड सक्रिय होते हैं — 671B कुल पैरामीटर, 37B सक्रिय — साथ में बिना सहायक-हानि वाला लोड बैलेंसिंग: गुणवत्ता गिराने वाले दंड पद के बजाय, हर एक्सपर्ट पर एक बायस हर क़दम पर राउटिंग स्कोर ऊपर या नीचे खिसकाता है, इस आधार पर कि वह एक्सपर्ट कम भरा है या ज़्यादा।

MLA — ऐसा अटेंशन जो मेमोरी में समा जाए

परोसने की लागत की समस्या का दूसरा आधा हिस्सा KV कैश है, जो कॉन्टेक्स्ट के साथ रैखिक रूप से बढ़ता है और लंबी सीक्वेंस लंबाइयों पर मेमोरी पर हावी हो जाता है। Multi-head Latent Attention, जिसे DeepSeek-V2 में पेश किया गया, कुंजियों और मानों को संयुक्त रूप से एक निम्न-रैंक लेटेंट वेक्टर में कंप्रेस करता है और उसी को कैश करता है, तथा काम लायक K/V तत्काल दोबारा बनाता है। DeepSeek के प्रकाशित V2 आँकड़े, उनके पुराने सघन DeepSeek 67B के मुक़ाबले, KV कैश में 93.3% की कमी और 5.76× ज़्यादा अधिकतम जनरेशन थ्रूपुट बताते हैं। यही वजह है कि इस परिवार में 262K-टोकन विंडो कोई प्रीमियम सुविधा नहीं बल्कि सामान्य बात है।

स्पार्स अटेंशन — और सस्ते टोकन की मिसाल

V3.2-Exp ने DeepSeek Sparse Attention जोड़ा: एक हल्का इंडेक्सर कॉन्टेक्स्ट टोकनों को क्वेरी के मुक़ाबले स्कोर देता है, और एक सिलेक्टर सिर्फ़ सबसे ऊँचे स्कोर वालों को रखता है। दिलचस्प हिस्सा तंत्र नहीं, रसीद है। DeepSeek ने V3.1-Terminus के साथ आमने-सामने की तुलना प्रकाशित की जिसमें MMLU-Pro 85.0 पर समान रहा, AIME 2025 बढ़ा (88.4 → 89.3), SWE-bench Verified थोड़ा घटा (68.4 → 67.8) — यानी लगभग सपाट गुणवत्ता — और उसी दिन उन्होंने अपनी API कीमतें 50% से ज़्यादा घटा दीं। आर्किटेक्चर, ईमानदारी से रिपोर्ट किया गया, सीधे कीमत में बदलता हुआ। Flash उसी तर्क को एक क़दम और आगे ले जाता है।

V4 पीढ़ी

V4, जिसकी झलक अप्रैल 2026 में MIT लाइसेंस के तहत दिखाई गई, अटेंशन ढाँचे को फिर बदलकर Compressed Sparse Attention और Heavily Compressed Attention का हाइब्रिड लाता है, 32T से ज़्यादा टोकन पर Muon ऑप्टिमाइज़र से ट्रेन होता है, और V3 का मल्टी-टोकन-प्रेडिक्शन उद्देश्य बनाए रखता है — जो साथ ही स्पेकुलेटिव डिकोडिंग का काम करता है, और जिसे DeepSeek ने V3 में 85–90% दूसरे-टोकन स्वीकृति दर पर नापा, यानी लगभग 1.8× डिकोडिंग तेज़ी। V4 का सार बताता है कि V4-Pro V3.2 के सिंगल-टोकन इन्फ़रेंस FLOPs के 27% और उसके KV कैश के 10% पर चलता है। यह परिवार तीन रीज़निंग-एफ़र्ट स्तर देता है, और हमारा reasoning_effort पैरामीटर उन्हीं पर मैप होता है।

स्रोत: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 तकनीकी रिपोर्ट (arXiv 2412.19437) · DeepSeek-V3.2-Exp मॉडल कार्ड · DeepSeek-V4 (arXiv 2606.19348)। सभी आँकड़े DeepSeek द्वारा रिपोर्ट किए गए हैं।

03"Flash" का असल मतलब क्या है

यही वह बिंदु है जिसे ज़्यादातर तुलनाएँ ग़लत समझती हैं, इसलिए इसे सपाट शब्दों में कहना ज़रूरी है: DeepSeek का Flash कोई क्वांटाइज़, प्रून या डिस्टिल किया हुआ Pro नहीं है। यह अलग से ट्रेन किया गया, छोटा Mixture-of-Experts मॉडल है जिसका अपना प्री-ट्रेनिंग रन है। V4 प्रीव्यू पेपर दोनों आकार देता है:

आँकड़े DeepSeek-V4 प्रीव्यू पेपर से। जिन आधिकारिक चेकपॉइंट को हम परोसते हैं — V4-Flash-0731 और V4-Pro-0813 — उनके मॉडल कार्ड थोड़े बड़े कुल यानी 304B और 1.7T बताते हैं; DeepSeek उन बिल्डों के लिए सक्रिय पैरामीटर दोबारा नहीं बताता।

यहाँ दो संख्याएँ काम करती हैं। कुल पैरामीटर मेमोरी फ़ुटप्रिंट तय करते हैं, जिससे तय होता है कि मॉडल की एक प्रति कितना हार्डवेयर घेरती है। सक्रिय पैरामीटर प्रति टोकन अंकगणित तय करते हैं, जिससे थ्रूपुट तय होता है। Flash पहली संख्या पर लगभग 5.6× छोटा है और दूसरी पर 3.8× छोटा — और इस फ़ासले में एक बारीकी ध्यान देने लायक है: Flash 284 अरब में से 13 अरब पैरामीटर सक्रिय करता है, यानी लगभग 4.6%, जबकि Pro 1,600 अरब में से 49 अरब, यानी लगभग 3.1%। Flash कम विरल मॉडल है। यह महज़ Pro नहीं है जिसमें कम एक्सपर्ट चालू हों; यह एक सघन, अलग तरह से संतुलित डिज़ाइन है जो अपने पैदा किए हर टोकन पर अपना बड़ा हिस्सा खर्च करता है। यह एक असली इंजीनियरिंग चुनाव है, कोई अवनति नहीं।

DeepSeek के अपने आँकड़े क्या कहते हैं

दोनों आधिकारिक मॉडल कार्ड उन्हीं एजेंटिक और सॉफ़्टवेयर-इंजीनियरिंग बेंचमार्कों पर स्कोर प्रकाशित करते हैं, जिससे यह असामान्य रूप से साफ़ तुलना बनती है — वही लैब, वही मूल्यांकन हार्नेस, दो आकार:

बेंचमार्क (DeepSeek द्वारा रिपोर्ट)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro हर पंक्ति जीतता है। यही ईमानदार सुर्ख़ी है, और हम चाहेंगे कि आप इसे यहीं पढ़ें, प्रोडक्शन में खोजने के बजाय। पर अंतरों को पढ़िए, क्योंकि असल में आप वही ख़रीद रहे हैं। Terminal Bench 2.1 पर अंतर 5.2 अंक का है, उस मॉडल पर जिसके पैरामीटर पच्चीसवाँ हिस्सा हैं; टूल-उपयोग पर 3.8 अंक। अंतर वहाँ चौड़ा होता है जहाँ काम सबसे गहरा है — DeepSWE पर 8.3 अंक, NL2Repo पर 7.3, और ये दोनों लगातार बहु-चरणीय कोड रीज़निंग को पुरस्कृत करते हैं। एक तालिका में सौदे का आकार यही है: Flash सीमित कामों पर ज़्यादातर फ़ासला पाट देता है और खुले-सिरे वाले कामों पर ज़मीन छोड़ देता है।

DeepSeek का अपना Flash कार्ड बात और तीखे ढंग से रखता है: Flash-0731 सूचीबद्ध बेंचमार्कों पर V4-Pro प्रीव्यू से बेहतर प्रदर्शन करता है, बावजूद इसके कि उसकी सक्रिय पैरामीटर संख्या कहीं कम है। इस क्षेत्र में किसी नए छोटे मॉडल का पुराने बड़े मॉडल को हराना सामान्य बात है, और यही वजह है कि "बड़ा स्तर" कभी आपका डिफ़ॉल्ट जवाब नहीं होना चाहिए।

04प्रत्यय पढ़ना: W4A16-AUTOROUND-REAP

हमारे मॉडल आईडी अपनी कंप्रेशन योजना खुलकर बताते हैं, क्योंकि यही वह चीज़ है जो आउटपुट गुणवत्ता को सबसे ज़्यादा प्रभावित करती है और लगभग कोई इसे बताता नहीं। यह प्रत्यय तीन दावों में टूटता है।

W4A16 — 4-बिट वेट्स, 16-बिट एक्टिवेशन

वेट्स हर एक 4 बिट पर संग्रहित होते हैं; एक्टिवेशन 16-बिट परिशुद्धता पर बहते हैं। यह सिर्फ़-वेट क्वांटाइज़ेशन है, और यह टोकन जनरेशन की असली अड़चन पर निशाना साधता है, जो अंकगणित नहीं बल्कि मेमोरी बैंडविड्थ है। एक्टिवेशन भी क्वांटाइज़ करने से थोड़ी और रफ़्तार मिलती पर सटीकता के कहीं बड़े ढलान का जोखिम आ जाता; उन्हें 16 बिट पर छोड़ना रूढ़िवादी, ऊँची-निष्ठा वाला चुनाव है। यह अंकन सर्विंग-पारिस्थितिकी की शॉर्टहैंड है — क्वांटाइज़ेशन साहित्य इसी को ग्रुप साइज़ के साथ W4 लिखता है।

AUTOROUND — सीखी हुई राउंडिंग, निकटतम राउंडिंग नहीं

सीधी-सादी क्वांटाइज़ेशन हर वेट को निकटतम प्रतिनिधित्व-योग्य मान पर राउंड कर देती है। यह साबित तौर पर इष्टतम नहीं है: एक वेट को "ग़लत" तरफ़ राउंड करना उसके पड़ोसियों से आई त्रुटि रद्द कर सकता है, और अरबों वेट्स के साथ ये अंतःक्रियाएँ ही हावी हो जाती हैं। Intel का AutoRound राउंडिंग के फ़ैसले को ही सीखने लायक चीज़ मानता है — प्रति-वेट एक प्रशिक्षणीय विचलन जिसे ±0.5 तक सीमित रखा जाता है, यानी ठीक इतना कि कोई भी एक राउंडिंग फ़ैसला पलटा जा सके और उससे ज़्यादा कभी नहीं, साथ ही सीखने योग्य क्लिपिंग रेंज, जिन्हें एक छोटे कैलिब्रेशन सेट पर ब्लॉक-वार आउटपुट-पुनर्निर्माण उद्देश्य के विरुद्ध साइन्ड ग्रेडिएंट डिसेंट से अनुकूलित किया जाता है। दो सौ चरण, और काम ख़त्म।

Intel की प्रकाशित तुलनाओं में 4-बिट सिर्फ़-वेट सेटिंग पर AutoRound, GPTQ को परखे गए 32 में से 30 परिदृश्यों में, AWQ को 32 में से 27 में और OmniQuant को 32 में से 29 में हराता है, तथा 2 बिट पर सीधी राउंड-टू-नियरेस्ट के मुक़ाबले 6.9 से 33.2 सटीकता अंकों का फ़ायदा देता है। इसमें से कुछ भी इन्फ़रेंस के वक़्त कोई लागत नहीं लेता: यह संख्याओं का बेहतर चुनाव है, जो एक बार, ऑफ़लाइन किया जाता है।

REAP — उन एक्सपर्ट को हटाना जिन तक कोई राउट नहीं करता

REAP (Router-weighted Expert Activation Pruning), जो Cerebras Systems और University of Calgary से आया है, MoE मॉडलों के लिए वन-शॉट कंप्रेशन है। यह हर एक्सपर्ट को इस आधार पर स्कोर देता है कि राउटर उस तक कितनी मज़बूती से और कितनी बार गेट करता है, गुणा उस एक्सपर्ट के आउटपुट के परिमाण से, फिर सबसे कम महत्वपूर्ण एक्सपर्ट को सीधे हटा देता है — बाद में कोई दोबारा ट्रेनिंग नहीं।

पेपर का केंद्रीय निष्कर्ष ही काम का है: ऊँचे कंप्रेशन अनुपातों पर एक्सपर्ट हटाना उन्हें मिलाने से बेहतर है। कार्यात्मक रूप से भिन्न एक्सपर्ट को मिलाने से वह होता है जिसे लेखक कार्यात्मक उपस्थान संकुचन कहते हैं — राउटर वह बारीक, इनपुट-निर्भर नियंत्रण खो देता है जिसकी वजह से MoE बनाने लायक था, और स्थिर औसतों के बीच दिशा देता रह जाता है। 20B से 1T पैरामीटर तक के मॉडलों पर उनके आँकड़े: कोडिंग कामों पर 25% एक्सपर्ट कंप्रेशन पर REAP औसत सटीकता में 2.8% खोता है, जबकि मर्जिंग बेसलाइन 5% से ज़्यादा खोती हैं; 50% पर REAP 8.0% खोता है जबकि मर्जिंग 20% से ज़्यादा। Qwen3-Coder-480B पर 50% प्रूनिंग पर गिरावट 1.4% है, जबकि सीधी आवृत्ति-आधारित प्रूनिंग के लिए 39.3%। Cerebras ने अन्य मॉडलों के साथ-साथ DeepSeek कड़ी के लिए भी REAP चेकपॉइंट प्रकाशित किए हैं।

यहाँ 4-बिट और Pro पर 3-बिट क्यों

दोनों स्तरों को उसी श्रेणी के हार्डवेयर पर समाना और तेज़ रहना है। Pro 1.7 ट्रिलियन पैरामीटर ढोता है, इसलिए उसे समाने के लिए ही ज़्यादा आक्रामक 3-बिट बरताव चाहिए। Flash लगभग 300 अरब ढोता है, इसलिए उसे नहीं चाहिए — और जो एक बिट बचता है वह समाने के बजाय निष्ठा पर खर्च होता है।

वह अतिरिक्त बिट अपने अंकगणित से कहीं ज़्यादा मायने रखता है, क्योंकि क्वांटाइज़ेशन की क्षति रैखिक नहीं होती। AWQ पेपर के WikiText-2 मापों में Llama-2-7B, FP16 पर 5.47 पर्प्लेक्सिटी से 4-बिट पर 5.60 जाता है — 2.4% का दंड — पर 3-बिट पर 6.24, यानी 14% का दंड। यह लगभग 25% ज़्यादा कंप्रेशन के लिए छह गुना गिरावट है, और वही पैटर्न 70B पर भी टिकता है। GPTQ पेपर और भी सीधा है: 3 बिट पर सीधी राउंड-टू-नियरेस्ट 175B-श्रेणी के मॉडलों पर ढह जाती है, पर्प्लेक्सिटी हज़ारों में चली जाती है, जबकि 4 बिट पर वह पूरी तरह इस्तेमाल लायक रहती है। चार बिट से नीचे, एक अच्छा क्वांटाइज़ेशन एल्गोरिदम शौक़ की चीज़ नहीं रह जाता और वही अकेली चीज़ बन जाता है जो मॉडल को जोड़े रखती है।

तो इन दो प्रत्ययों का ईमानदार पाठ यह है: Flash अपने बिना कंप्रेस किए रूप के जितना क़रीब है, Pro अपने रूप के उतना क़रीब नहीं। Pro फिर भी मज़बूत मॉडल है — ऊपर की बेंचमार्क तालिका यह तय कर देती है। बस उसने यहाँ तक पहुँचने में ज़्यादा छोड़ा, और उस विशेषाधिकार के आप पैसे चुकाते हैं।

स्रोत: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024। REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems। पर्प्लेक्सिटी आँकड़े AWQ (arXiv 2306.00978) और GPTQ (arXiv 2210.17323) से।

05एंडपॉइंट पर Flash बनाम Pro

खंड 03 ने फ़ाउंडेशनों को कवर किया। यहाँ देखिए कि हमारे गेटवे पर उत्पाद के रूप में ये दोनों स्तर कैसे दिखते हैं:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
क्वांटाइज़ेशन	W4A16-AUTOROUND-REAP	3BIT-REAP
वेट परिशुद्धता	4-बिट, सीखी हुई राउंडिंग	3-बिट
फ़ाउंडेशन (कुल / सक्रिय)	~304B / 13B	~1.7T / 49B
इनपुट प्रति 1M टोकन	$0.50	$1.95
आउटपुट प्रति 1M टोकन	$2.00	$3.90
कॉन्टेक्स्ट / अधिकतम आउटपुट	262,144 / 16,384	262,144 / 16,384
टूल · स्ट्रक्चर्ड आउटपुट · स्ट्रीमिंग	हाँ	हाँ
विज़न	नहीं	नहीं
रिफ्यूज़ल लेयर	कोई नहीं	कोई नहीं

ध्यान दीजिए कि क्या नहीं बदलता: कॉन्टेक्स्ट, आउटपुट सीमा, टूल कॉलिंग, स्ट्रक्चर्ड आउटपुट, और रिफ्यूज़ल लेयर की अनुपस्थिति — ये एक जैसे हैं। सिर्फ़ फ़ाउंडेशन, क्वांटाइज़ेशन और कीमत बदलते हैं। इससे इनके बीच अदला-बदली आपके कोड में एक स्ट्रिंग का बदलाव और आपके आर्किटेक्चर में विशुद्ध आर्थिक फ़ैसला बन जाती है।

अधिकतम आकार वाली एक कॉल की लागत

पूरी 262,144-टोकन कॉन्टेक्स्ट भरिए और पूरा 16,384-टोकन आउटपुट लीजिए:

सूची कीमत पर। Flash: $0.131 इनपुट + $0.033 आउटपुट। Pro: $0.511 + $0.064। अनुपात 3.51×। Flash, $0.50 / $2.00 का फ़र्श MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro और Hy3 के साथ साझा भी करता है — ये विज़न और स्ट्रक्चर्ड आउटपुट पर कैसे अलग हैं, यह देखने के लिए पूरी कैटलॉग देखिए।

06मात्रा का गणित, हिसाब लगाकर

"3.9× सस्ता" सिर्फ़ इनपुट पर सच है। आउटपुट पर Flash 1.95× सस्ता है। इसलिए आपकी असली बचत आपके इनपुट-से-आउटपुट अनुपात पर निर्भर करती है, और यह फैलाव इतना चौड़ा है कि डिज़ाइन के फ़ैसले बदल दे। चार वास्तविक वर्कलोड, हर एक 1,00,000 अनुरोध पर:

वर्कलोड	प्रति कॉल इन / आउट	Flash	Pro	बचत
टिकट वर्गीकरण	1,200 / 120	$84	$281	3.3×
RAG प्रश्न-उत्तर	8,000 / 600	$520	$1,794	3.4×
लंबे दस्तावेज़ का सारांश	60,000 / 1,500	$3,300	$12,285	3.7×
सिंथेटिक डेटा जनरेशन	500 / 2,000	$425	$878	2.1×

पैटर्न यह है: आप जितना ज़्यादा कॉन्टेक्स्ट भेजते हैं और जितना कम टेक्स्ट पैदा करते हैं, Flash उतना ही ज़्यादा बचाता है। रिट्रीवल पाइपलाइन, दस्तावेज़ छँटाई, लॉग और ट्रांसक्रिप्ट विश्लेषण, तथा लंबे-कॉन्टेक्स्ट वाला निष्कर्षण सबसे मुफ़ीद जगह हैं — ये एक कोटि से इनपुट-प्रधान हैं, और इनपुट ही वह जगह है जहाँ 3.9× की छूट रहती है। इसके उलट अगर आपका वर्कलोड छोटा प्रॉम्प्ट है जो हज़ारों टोकन गद्य पैदा करता है, तो अंतर घटकर लगभग 2× रह जाता है और Pro के पक्ष में क्षमता का तर्क उतना ही मज़बूत हो जाता है।

एक और अंकगणित जिसे आत्मसात करना ठीक रहेगा: $0.50 प्रति दस लाख इनपुट टोकन पर, पूरी 262,144-टोकन विंडो भरने की लागत 13.1 सेंट है। उस कीमत पर लंबे-कॉन्टेक्स्ट वाली प्रॉम्प्टिंग बजट का सवाल नहीं रह जाती, जिसका कभी-कभी मतलब यह होता है कि आप रिट्रीवल परत बनाना ही छोड़ सकते हैं और काम कॉन्टेक्स्ट विंडो से करा सकते हैं — टोकन की बचत के ऊपर एक इंजीनियरिंग बचत।

07यहाँ "अनसेंसर्ड" का सटीक मतलब

यह शब्द ढीले-ढाले ढंग से इस्तेमाल होता है, इसलिए यहाँ हमारी परिभाषा है, एंडपॉइंट के गुण के रूप में कही गई: मॉडल के आगे कोई रिफ्यूज़ल क्लासिफ़ायर नहीं है और उसके आउटपुट पर कोई कंटेंट फ़िल्टरिंग लागू नहीं होती। कोई चीज़ प्रॉम्प्ट को बीच में रोककर रटा-रटाया इनकार नहीं लौटाती; कोई चीज़ पूर्णता की जाँच करके उसे काटती नहीं। ज़्यादा मात्रा वाले प्रोडक्शन काम के लिए इसके नतीजे शब्द के सुझाव से कम नाटकीय और ज़्यादा उपयोगी हैं:

• निर्दोष ट्रैफ़िक पर कोई झूठा अलार्म नहीं। फ़िल्टर वाले एंडपॉइंट रोज़मर्रा में चिकित्सकीय सारांश, सुरक्षा विश्लेषण, कानूनी डिस्कवरी, कथा-साहित्य, नुक़सान-घटाने वाली सामग्री और ख़ुद मॉडरेशन के काम को मना कर देते हैं — ठीक वही श्रेणियाँ जहाँ कोई बैच जॉब किसी संवेदनशील विषय के बारे में टेक्स्ट प्रोसेस कर रहा होता है, न कि कुछ हानिकारक पैदा कर रहा होता है। एक लाख अनुरोधों पर, एक प्रतिशत की झूठी-इनकार दर यानी एक हज़ार टूटी पंक्तियाँ।
• निर्धारित अनुबंध। json_schema जवाब माँगिए और आपको स्कीमा से मेल खाता JSON मिलेगा, न कि वहाँ माफ़ी का पैराग्राफ़ जहाँ ऑब्जेक्ट होना चाहिए। आपके पार्सर को किसी इनकार शाखा की ज़रूरत नहीं, और आपके रीट्राई तर्क को ट्रांसपोर्ट विफलता और पॉलिसी विफलता में फ़र्क नहीं करना पड़ता।
• पॉलिसी आपकी है। यही सौदा है। अगर आपके उत्पाद को अपने अंतिम उपयोगकर्ताओं के लिए गार्डरेल चाहिए, तो आप उन्हें अपनी परत पर बनाते हैं, जहाँ आप अपने उपयोगकर्ताओं और अपने अधिकार-क्षेत्र को जानते हैं, बजाय इसके कि किसी प्रदाता के दोनों के बारे में लगाए अंदाज़े विरासत में लें। आपका खाता हमारी Responsible Use Policy के अधीन बना रहता है।

अनसेंसर्ड का मतलब बिना अलाइनमेंट या बिना मददगार होना नहीं है। मॉडल फिर भी निर्देशों का पालन करता है और सिस्टम प्रॉम्प्ट का सम्मान करता है। अगर आप चाहते हैं कि वह आपके उपयोगकर्ताओं के लिए कुछ श्रेणियाँ मना करे, तो वहीं कह दीजिए — वह निर्देश अब आपका लिखा हुआ है, हमारा थोपा हुआ नहीं।

08क्षमताएँ और ईमानदार सीमाएँ

मात्रा वाले काम का ज़्यादातर बोझ दो क्षमताएँ उठाती हैं। सख़्त json_schema आउटपुट किसी पूर्णता को बिना पार्सिंग परत और बिना इनकार शाखा के डेटाबेस पंक्ति में बदल देता है। तीनों बोलियों में टूल कॉलिंग Flash को उस एजेंट के सस्ते उप-चरणों के लिए समझदार इंजन बनाती है जिसका शीर्ष-स्तरीय योजनाकार किसी मज़बूत मॉडल पर चलता है। इसमें reasoning_effort जोड़िए, जो आपको अतिरिक्त टोकन सिर्फ़ उस ट्रैफ़िक अंश पर खर्च करने देता है जिसे उनकी ज़रूरत है, और Pro जितनी ही 262,144-टोकन कॉन्टेक्स्ट — सस्ता स्तर चुनकर आप कॉन्टेक्स्ट नहीं गँवाते, जो असामान्य है।

सीमाएँ उतनी ही ठोस हैं:

• विज़न नहीं। Flash सिर्फ़ टेक्स्ट है और संदेश में इमेज हिस्सों को अस्वीकार कर देगा। उसी $0.50 / $2.00 के फ़र्श पर किसी अनसेंसर्ड मॉडल में इमेज के लिए MiniMax-M3 और MiMo-V2.5 विज़न-सक्षम विकल्प हैं; Kimi-K2.6 और Kimi-K3 उस स्तर से ऊपर के मज़बूत विज़न मॉडल हैं।
• सीढ़ी का शीर्ष नहीं। DeepSeek के अपने आँकड़े हर प्रकाशित एजेंटिक बेंचमार्क पर Pro को आगे रखते हैं, और अंतर लगातार बहु-चरणीय कोड रीज़निंग पर सबसे चौड़ा है। जहाँ एक ग़लत जवाब हज़ार सस्ते जवाबों से महँगा पड़ता है, वहाँ प्रति दस लाख अतिरिक्त $1.45 DeepSeek-V4-Pro पर खर्च कीजिए।
• प्रति अनुरोध 16,384 आउटपुट टोकन। लंबी जनरेशन को कॉलों में बाँटना पड़ेगा। यह सीमा हमारे परोसे हर मॉडल पर एक जैसी है, और कॉन्टेक्स्ट विंडो के भरने से काफ़ी पहले आ जाती है।

09इसे बुलाना

किसी भी OpenAI-कम्पैटिबल क्लाइंट को गेटवे पर मोड़िए और मॉडल स्ट्रिंग बदल दीजिए। आपके स्टैक में और कुछ हिलाने की ज़रूरत नहीं।

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

वही मॉडल आईडी बिना बदले /v1/messages और /v1/responses पर भी काम करती है, और किसी मौजूदा इंटीग्रेशन के नीचे सस्ते मॉडल का A/B करने का यही सबसे तेज़ तरीक़ा है, बिना क्लाइंट दोबारा लिखे। पैरामीटर, स्ट्रीमिंग इवेंट आकार, टूल-कॉलिंग स्कीमा और रेट लिमिट API संदर्भ में प्रलेखित हैं; कैटलॉग का हर मॉडल Shannon Research पर सूचीबद्ध है।

10अक्सर पूछे जाने वाले सवाल

---

स्रोत: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 तकनीकी रिपोर्ट (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 और DeepSeek-V4-Pro-0813 मॉडल कार्ड · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323)। सभी फ़ाउंडेशन और बेंचमार्क आँकड़े वैसे ही हैं जैसे उनके संबंधित लेखकों ने प्रकाशित किए; Shannon AI की कीमतें और परोसा जाने वाला कॉन्टेक्स्ट सितंबर 2026 तक के हमारे अपने सूची मान हैं।