सेन्सर नगरिएको DeepSeek Flash API
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — भुइँतल मूल्य, 262K सन्दर्भ, र कुनै अस्वीकृति तह छैन। दिनमा दस हजार पटक चल्ने कार्यभारतर्फ फर्काउने मोडेल यही हो।
संक्षेपमा
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP Shannon AI गेटवेमा DeepSeek परिवारको उच्च-मात्रा तह हो। यो हाम्रो आफ्नै GPU क्लस्टरमा प्रति दस लाख इनपुट टोकन $0.50 र प्रति दस लाख आउटपुट टोकन $2.00 मा चल्छ — हाम्रो क्याटलगको भुइँतल — 262,144-टोकनको सन्दर्भ, 16,384 अधिकतम आउटपुट टोकन, स्ट्रिमिङ, टुल कलिङ, reasoning_effort सहितको तर्क, र कडा json_schema संरचित आउटपुटसहित। यहाँ कुनै अस्वीकृति तह र आउटपुट फिल्टरिङ छैन। यो DeepSeek-V4-Pro को अपाङ्ग संस्करण होइन: Pro धेरै ठूलो आधारलाई 3-बिटमा खाँदेको हो भने Flash सानो आधारलाई उच्च-निष्ठाको 4-बिट AutoRound क्वान्टाइजेसनमा बोकिएको हो। ती एउटै वक्रका दुई फरक बिन्दु हुन्, र कुन जित्छ भन्ने पूरै तपाईंको कार्यभारमा भर पर्छ।
LLM API मूल्याङ्कन गर्ने अधिकांश टोलीले गलत चर अनुकूलन गर्छन्। तिनले सोच्न सक्ने सबैभन्दा कठिन बीस प्रम्प्टमा बेन्चमार्क गर्छन्, विजेता छान्छन्, अनि छ हप्तापछि थाहा पाउँछन् कि तिनको पन्चानब्बे प्रतिशत ट्राफिक छोटो, संरचित, दोहोरिने काम रहेछ जुन चौथाइ मूल्यको मोडेलले उस्तै गरी सम्हाल्ने थियो। DeepSeek-V4-Flash त्यही पन्चानब्बे प्रतिशतका लागि छ। यो पृष्ठ तपाईं कहिले त्यसभित्र हुनुहुन्छ — र कहिले हुनुहुन्न — भन्ने चिन्नेबारे हो।
01तपाईंले वास्तवमा के पाउनुहुन्छ
| गुण | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| मोडेल id | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| सन्दर्भ / अधिकतम आउटपुट | 262,144 टोकन / 16,384 टोकन |
| प्रति 1M मूल्य (इनपुट / आउटपुट) | $0.50 / $2.00 |
| स्ट्रिमिङ · टुल कलिङ · तर्क | छ — तीनै बोलीमा |
| संरचित आउटपुट | json_schema र response_format |
| तस्बिर इनपुट (भिजन) | छैन — पाठ मात्र |
| अस्वीकृति तह / आउटपुट फिल्टर | छैन |
| कहाँ सेवा दिइएको | Shannon को आफ्नै GPU क्लस्टर |
तीन API बोलीले उही वेटसम्म पुर्याउँछन्: /v1/chat/completions (OpenAI-आकारको), /v1/messages (Anthropic-आकारको), र /v1/responses। स्ट्रिमिङ तीनैमा काम गर्छ। पूर्ण प्यारामिटर सन्दर्भ API कागजात मा छ।
02यो कहाँबाट आयो: DeepSeek को वंश
DeepSeek-AI ले पाँच मोडेल पुस्ता एउटै धुनमा बिताएको छ: तालिम दिन मात्र सस्तो होइन, सेवा दिन सस्तो मोडेलबाट अग्रपंक्तिको व्यवहार निकाल्ने। यस शृङ्खलाका झन्डै हरेक वास्तुकलागत निर्णय त्यसैतर्फ फर्किन्छन्, र महत्त्वपूर्णहरू प्रकाशित छन्। तीनवटाले तपाईं यो एन्डपोइन्टमा के बोलाउँदै हुनुहुन्छ भन्ने बुझाउँछन्।
DeepSeekMoE — सूक्ष्म विशेषज्ञ र एउटा साझा विशेषज्ञ
Mixture-of-Experts तहले एउटा ठूलो फिड-फर्वार्ड नेटवर्कको सट्टा धेरै साना नेटवर्क र प्रति टोकन मुट्ठीभर छान्ने राउटर राख्छ। DeepSeek को संस्करणले परम्परागत आठ-विशेषज्ञ बनावटभन्दा विशेषज्ञलाई अझ सूक्ष्म रूपमा काट्छ, ताकि उही सक्रिय FLOPs ले धेरै बढी संयोजनात्मक रूपमा निर्दिष्ट मिश्रण किन्न सकोस्, र यसले एउटा साझा विशेषज्ञ छुट्याउँछ जसबाट हरेक टोकन गुज्रन्छ, ताकि सामान्य ज्ञान हरेक विशेषज्ञभित्र दोहोर्याएर नसिकियोस्। DeepSeek-V3 ले त्यसलाई 256 राउट हुने विशेषज्ञ र 1 साझा विशेषज्ञ, प्रति टोकन 8 राउट हुनेलाई सक्रिय गर्दै पठायो — कुल 671B प्यारामिटर, 37B सक्रिय — साथै सहायक-हानिविनाको लोड सन्तुलन: गुणस्तर बिगार्ने दण्ड पदको सट्टा, कुनै विशेषज्ञ कम वा बढी भारित हुँदा प्रति-विशेषज्ञ बायसले हरेक चरणमा राउटिङ अङ्क माथि वा तल सार्छ।
MLA — मेमोरीमा अट्ने अटेन्सन
सेवा-लागत समस्याको अर्को आधा KV क्यास हो, जुन सन्दर्भसँगै रैखिक रूपमा बढ्छ र लामो अनुक्रम लम्बाइमा मेमोरीमा हावी हुन्छ। DeepSeek-V2 मा ल्याइएको Multi-head Latent Attention ले की र भ्यालुलाई संयुक्त रूपमा न्यून-श्रेणीको लेटेन्ट भेक्टरमा सङ्कुचित गर्छ र त्यसैलाई क्यास गर्छ, अनि प्रयोगयोग्य K/V तत्कालै पुनर्निर्माण गर्छ। आफ्नो अघिल्लो घना DeepSeek 67B विरुद्ध DeepSeek का प्रकाशित V2 आँकडाले KV क्यासमा 93.3% कमी र 5.76× उच्च अधिकतम जेनेरेसन थ्रुपुट रिपोर्ट गर्छन्। त्यसैले यस परिवारमा 262K-टोकनको विन्डो प्रिमियम थपिने कुरा नभई आधारभूत सर्त हो।
स्पार्स अटेन्सन — र सस्ता टोकनको नजिर
V3.2-Exp ले DeepSeek Sparse Attention थप्यो: एउटा हलुका इन्डेक्सरले क्वेरी विरुद्ध सन्दर्भ टोकनलाई अङ्क दिन्छ, र सेलेक्टरले शीर्ष अङ्क पाउनेलाई मात्र राख्छ। चाखलाग्दो कुरा संयन्त्र होइन, रसिद हो। DeepSeek ले V3.1-Terminus विरुद्ध छेउछेउ राखेर प्रकाशित गर्यो — MMLU-Pro 85.0 मा उस्तै, AIME 2025 माथि (88.4 → 89.3), SWE-bench Verified सामान्य तल (68.4 → 67.8) — मूलतः समथर गुणस्तर — र त्यही दिन आफ्नो API मूल्य 50% भन्दा बढी घटायो। इमानदारीपूर्वक रिपोर्ट गरिएको वास्तुकला सिधै मूल्यमा बदलिँदै। Flash त्यही तर्कलाई एक कदम अगाडि बढाएको हो।
V4 पुस्ता
अप्रिल 2026 मा MIT लाइसेन्स अन्तर्गत पूर्वावलोकन गरिएको V4 ले अटेन्सन स्ट्याक फेरि बदल्छ र Compressed Sparse Attention तथा Heavily Compressed Attention को हाइब्रिड राख्छ, 32T भन्दा बढी टोकनमा Muon अप्टिमाइजरसँग तालिम लिन्छ, र V3 को बहु-टोकन-भविष्यवाणी उद्देश्य कायम राख्छ — जुन अनुमानित डिकोडिङका रूपमा पनि काम गर्छ, र जसलाई DeepSeek ले V3 मा करिब 1.8× डिकोडिङ तीव्रताका लागि 85–90% दोस्रो-टोकन स्वीकृति दरमा नाप्यो। V4 को सारांशले V4-Pro लाई V3.2 को एकल-टोकन इन्फरेन्स FLOPs को 27% र त्यसको KV क्यासको 10% मा चलेको रिपोर्ट गर्छ। परिवारले तीन तर्क-प्रयास तह उपलब्ध गराउँछ, र हाम्रो reasoning_effort प्यारामिटर तिनैमा नक्सांकित हुन्छ।
स्रोत: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 प्राविधिक प्रतिवेदन (arXiv 2412.19437) · DeepSeek-V3.2-Exp मोडेल कार्ड · DeepSeek-V4 (arXiv 2606.19348)। सबै आँकडा DeepSeek ले रिपोर्ट गरेका हुन्।
03"Flash" को वास्तविक अर्थ
अधिकांश तुलनाले यहीँ गल्ती गर्छन्, त्यसैले स्पष्टै भन्नु उपयुक्त छ: DeepSeek को Flash क्वान्टाइज, प्रुन वा डिस्टिल गरिएको Pro होइन। यो आफ्नै प्रि-ट्रेनिङ रन भएको छुट्टै तालिम पाएको, सानो Mixture-of-Experts मोडेल हो। V4 पूर्वावलोकन पेपरले दुई आकार दिन्छ:
आँकडा DeepSeek-V4 पूर्वावलोकन पेपरबाट। हामीले सेवा दिने आधिकारिक चेकपोइन्ट — V4-Flash-0731 र V4-Pro-0813 — का मोडेल कार्डमा अलिक ठूला जम्मा 304B र 1.7T सूचीबद्ध छन्; ती बिल्डका लागि DeepSeek ले सक्रिय प्यारामिटर पुन: उल्लेख गर्दैन।
यहाँ दुई सङ्ख्याले काम गर्छन्। कुल प्यारामिटरले मेमोरी खपत तोक्छ, जसले मोडेलको एक प्रतिले कति हार्डवेयर ओगट्छ भन्ने निर्धारण गर्छ। सक्रिय प्यारामिटरले प्रति टोकन गणित तोक्छ, जसले थ्रुपुट निर्धारण गर्छ। Flash पहिलोमा करिब 5.6× र दोस्रोमा 3.8× सानो छ — र त्यो अन्तरमा एउटा सूक्ष्मता ध्यान दिन लायक छ: Flash ले 284 अर्बमध्ये 13 अर्ब प्यारामिटर, अर्थात् करिब 4.6% सक्रिय गर्छ, जबकि Pro ले 1,600 अर्बमध्ये 49 अर्ब, करिब 3.1% सक्रिय गर्छ। Flash नै कम विरल मोडेल हो। यो थोरै विशेषज्ञ खोलिएको Pro मात्र होइन; यो घना, फरक ढङ्गले सन्तुलित डिजाइन हो जसले उत्पादन गर्ने हरेक टोकनमा आफ्नो ठूलो अंश खर्च गर्छ। त्यो साँचो इन्जिनियरिङ छनौट हो, अवनति होइन।
DeepSeek का आफ्नै सङ्ख्याले के भन्छन्
दुवै आधिकारिक मोडेल कार्डले उही एजेन्टिक र सफ्टवेयर-इन्जिनियरिङ बेन्चमार्कमा अङ्क प्रकाशित गर्छन्, जसले यसलाई असामान्य रूपमा सफा तुलना बनाउँछ — उही प्रयोगशाला, उही मूल्याङ्कन हार्नेस, दुई आकार:
| बेन्चमार्क (DeepSeek-रिपोर्ट गरिएको) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
Pro ले हरेक पङ्क्ति जित्छ। त्यो इमानदार शीर्षक हो, र तपाईंले यो उत्पादनमा पत्ता लगाउनुभन्दा यहीँ पढ्नुहोस् भन्ने हाम्रो चाहना छ। तर अन्तर पढ्नुहोस्, किनभने तपाईंले वास्तवमा किन्ने त्यही हो। Terminal Bench 2.1 मा पच्चीसौं भाग प्यारामिटर भएको मोडेलमा अन्तर 5.2 बिन्दु छ; टुल प्रयोगमा 3.8 बिन्दु। काम जति गहिरो हुन्छ अन्तर त्यति फराकिलो हुन्छ — DeepSWE मा 8.3 बिन्दु, NL2Repo मा 7.3, र यी दुवैले निरन्तर बहु-चरण कोड तर्कलाई पुरस्कृत गर्छन्। एउटै तालिकामा साटफेरको आकार यही हो: Flash ले सीमित कार्यमा अधिकांश दूरी छोप्छ र खुल्ला-अन्त्यका कार्यमा भूमि छाड्छ।
DeepSeek कै Flash कार्डले कुरालाई अझ तीखो बनाउँछ: सक्रिय प्यारामिटर सङ्ख्या धेरै कम भए पनि Flash-0731 ले सूचीबद्ध बेन्चमार्कमा V4-Pro पूर्वावलोकनलाई उछिन्छ। नयाँ सानो मोडेलले पुरानो ठूलोलाई उछिन्नु यस क्षेत्रको सामान्य अवस्था हो, र त्यसैले "ठूलो तह" तपाईंको पूर्वनिर्धारित जवाफ कहिल्यै हुनु हुँदैन।
सन्दर्भबारे एउटा टिप्पणी
DeepSeek ले V4 परिवारका लागि 1M-टोकनको सन्दर्भ प्रकाशित गर्छ। Shannon AI गेटवेले यो मोडेललाई 262,144 टोकन मा सेवा दिन्छ — हाम्रो क्याटलगका बाह्रै मोडेलमा एकरूप विन्डो, र Pro मा तपाईंले पाउने उही विन्डो। प्रति मोडेल id फरक सिलिङ कण्ठ गर्नुभन्दा सूचीका हरेक मोडेलले सन्दर्भमा उस्तै व्यवहार गरून् भन्ने हाम्रो चाहना छ।
04प्रत्यय पढ्दा: W4A16-AUTOROUND-REAP
हाम्रा मोडेल id ले आफ्नो सङ्कुचन योजना खुलेर भन्छन्, किनभने आउटपुट गुणस्तरमा सबैभन्दा बढी असर गर्ने कुरा त्यही हो र झन्डै कसैले खुलासा गर्दैन। यसलाई तीन दाबीमा विभाजन गर्न सकिन्छ।
W4A16 — 4-बिट वेट, 16-बिट एक्टिभेसन
वेट प्रत्येक 4 बिटमा भण्डारण गरिन्छन्; एक्टिभेसन 16-बिट परिशुद्धतामा बग्छन्। यो वेट-मात्रको क्वान्टाइजेसन हो, र यसले टोकन उत्पादनको वास्तविक अवरोधलाई लक्ष्य गर्छ, जुन गणित होइन मेमोरी ब्यान्डविथ हो। एक्टिभेसन पनि क्वान्टाइज गर्दा अलिकति बढी गति आउँथ्यो तर धेरै ठूलो शुद्धता भीरको जोखिम हुन्थ्यो; तिनलाई 16 बिटमै छाड्नु रूढिवादी, उच्च-निष्ठाको छनौट हो। यो सङ्केत सेवा-पारिस्थितिकीको छोटकरी हो — क्वान्टाइजेसन साहित्यले यही कुरालाई समूह आकारसहित W4 लेख्छ।
AUTOROUND — नजिकको होइन, सिकिएको राउन्डिङ
साधारण क्वान्टाइजेसनले हरेक वेटलाई नजिकको प्रतिनिधित्वयोग्य मानमा राउन्ड गर्छ। त्यो प्रमाणित रूपमा उत्तम होइन: एउटा वेटलाई "गलत" दिशामा राउन्ड गर्दा छिमेकीले ल्याएको त्रुटि खारेज हुन सक्छ, र अर्बौं वेटसँग ती अन्तर्क्रियाले नै हावी हुन्छन्। Intel बाट आएको AutoRound ले राउन्डिङ निर्णय आफैंलाई सिक्नुपर्ने कुराका रूपमा लिन्छ — ±0.5 मा सीमित प्रति-वेट तालिमयोग्य विचलन, जुन कुनै पनि एकल राउन्डिङ निर्णय पल्टाउन ठ्याक्कै पर्याप्त हुन्छ र त्योभन्दा कहिल्यै बढी हुँदैन, साथै सिक्न मिल्ने क्लिपिङ दायरा, जसलाई सानो क्यालिब्रेसन सेटमाथि ब्लक-वाइज आउटपुट-पुनर्निर्माण उद्देश्य विरुद्ध चिह्नित ग्रेडिएन्ट अवरोहण ले अनुकूलन गर्छ। दुई सय चरण, अनि सकियो।
Intel का प्रकाशित तुलनाअनुसार 4-बिट वेट-मात्र सेटिङमा AutoRound ले परीक्षण गरिएका 32 मध्ये 30 परिदृश्यमा GPTQ लाई, 32 मध्ये 27 मा AWQ लाई र 32 मध्ये 29 मा OmniQuant लाई उछिन्छ, र 2 बिटमा साधारण नजिकको-पूर्णाङ्क राउन्डिङभन्दा 6.9 देखि 33.2 शुद्धता बिन्दुसम्मको लाभ दिन्छ। यसमध्ये कुनैको पनि इन्फरेन्सको समयमा लागत लाग्दैन: यो एक पटक, अफलाइन गरिने सङ्ख्याको राम्रो छनौट मात्र हो।
REAP — कसैले राउट नगर्ने विशेषज्ञ हटाउने
Cerebras Systems र University of Calgary बाट आएको REAP (Router-weighted Expert Activation Pruning) MoE मोडेलका लागि एक-पटके सङ्कुचन हो। यसले राउटरले कति बलियोसँग र कति पटक कुनै विशेषज्ञतर्फ गेट गर्छ भन्नेलाई त्यस विशेषज्ञको आउटपुटको परिमाणले गुणन गरेर अङ्क दिन्छ, अनि सबैभन्दा कम प्रमुख विशेषज्ञलाई सिधै मेटाइदिन्छ — त्यसपछि कुनै पुन:तालिम हुँदैन।
पेपरको केन्द्रीय निष्कर्ष उपयोगी छ: उच्च सङ्कुचन अनुपातमा विशेषज्ञ मर्ज गर्नुभन्दा प्रुन गर्नु राम्रो हुन्छ। कार्यात्मक रूपमा फरक विशेषज्ञ मर्ज गर्दा लेखकहरूले कार्यात्मक उपस्थान पतन भनेको कुरा हुन्छ — राउटरले MoE बनाउनै लायक तुल्याएको सूक्ष्म, इनपुट-निर्भर नियन्त्रण गुमाउँछ र स्थिर औसतबीच मात्र सञ्चालन गर्न बाध्य हुन्छ। 20B देखि 1T प्यारामिटरसम्मका मोडेलमा तिनका सङ्ख्या: कोडिङ कार्यमा 25% विशेषज्ञ सङ्कुचनमा REAP ले औसत शुद्धताको 2.8% गुमाउँछ जहाँ मर्जिङ आधाररेखाले 5% भन्दा बढी गुमाउँछन्; 50% मा REAP ले 8.0% गुमाउँछ जहाँ मर्जिङले 20% भन्दा बढी गुमाउँछ। Qwen3-Coder-480B मा 50% प्रुनिङमा गिरावट 1.4% छ, जबकि साधारण आवृत्ति-आधारित प्रुनिङको 39.3% छ। Cerebras ले अरूसँगै DeepSeek शृङ्खलाका लागि पनि REAP चेकपोइन्ट प्रकाशित गरेको छ।
यहाँ 4-बिट र Pro मा 3-बिट किन
दुवै तह उही वर्गको हार्डवेयरमा अट्नु र छिटो रहनु पर्छ। Pro ले 1.7 ट्रिलियन प्यारामिटर बोक्छ, त्यसैले अट्नकै लागि यसलाई बढी आक्रामक 3-बिट उपचार चाहिन्छ। Flash ले करिब 300 अर्ब बोक्छ, त्यसैले चाहिँदैन — र बचेको बिट अट्नमा होइन, निष्ठामा खर्च हुन्छ।
त्यो थप बिट आफ्नो गणितले सुझाएभन्दा बढी महत्त्वपूर्ण छ, किनभने क्वान्टाइजेसनको क्षति रैखिक हुँदैन। AWQ पेपरका WikiText-2 नापमा Llama-2-7B FP16 मा 5.47 पर्प्लेक्सिटीबाट 4-बिटमा 5.60 मा जान्छ — 2.4% दण्ड — तर 3-बिटमा 6.24, अर्थात् 14% दण्ड। त्यो 25% बढी सङ्कुचनका लागि करिब छ गुणा ह्रास हो, र 70B मा पनि उही ढाँचा कायम रहन्छ। GPTQ पेपर अझ स्पष्ट छ: 3 बिटमा साधारण नजिकको-पूर्णाङ्क राउन्डिङ 175B-वर्गका मोडेलमा हजारौं पर्प्लेक्सिटीसम्म ढल्छ, जबकि 4 बिटमा पूर्ण प्रयोगयोग्य रहन्छ। चार बिटभन्दा तल, राम्रो क्वान्टाइजेसन एल्गोरिदम सुविधा हुन छाड्छ र मोडेललाई एकसाथ थामिराख्ने एउटै कुरा बन्छ।
त्यसैले यी दुई प्रत्ययको इमानदार पाठ यो हो: Pro आफ्नो सङ्कुचित नगरिएको रूपबाट जति टाढा छ, Flash आफ्नो रूपबाट त्यसभन्दा नजिक छ। Pro अझै बलियो मोडेल हो — माथिको बेन्चमार्क तालिकाले त्यो टुङ्ग्याइदिन्छ। यो यहाँ आइपुग्न बढी गुमाएको मात्र हो, र तपाईंले त्यो सुविधाको मूल्य तिर्नुहुन्छ।
स्रोत: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024। REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems। पर्प्लेक्सिटी आँकडा AWQ (arXiv 2306.00978) र GPTQ (arXiv 2210.17323) बाट।
05एन्डपोइन्टमा Flash विरुद्ध Pro
खण्ड 03 ले आधारहरू समेट्यो। हाम्रो गेटवेमा उत्पादनका रूपमा यी दुई तह कस्ता देखिन्छन्, यहाँ छ:
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| क्वान्टाइजेसन | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| वेट परिशुद्धता | 4-बिट, सिकिएको राउन्डिङ | 3-बिट |
| आधार (कुल / सक्रिय) | ~304B / 13B | ~1.7T / 49B |
| प्रति 1M टोकन इनपुट | $0.50 | $1.95 |
| प्रति 1M टोकन आउटपुट | $2.00 | $3.90 |
| सन्दर्भ / अधिकतम आउटपुट | 262,144 / 16,384 | 262,144 / 16,384 |
| टुल · संरचित आउटपुट · स्ट्रिमिङ | छ | छ |
| भिजन | छैन | छैन |
| अस्वीकृति तह | छैन | छैन |
के बदलिँदैन भन्ने ध्यान दिनुहोस्: सन्दर्भ, आउटपुट सिलिङ, टुल कलिङ, संरचित आउटपुट र अस्वीकृति तहको अभाव उस्तै छन्। सर्ने कुरा केवल आधार, क्वान्टाइजेसन र मूल्य हुन्। त्यसैले तिनीहरूबीच साट्नु तपाईंको कोडमा एक-स्ट्रिङको परिवर्तन र तपाईंको वास्तुकलामा विशुद्ध आर्थिक निर्णय बन्छ।
अधिकतम आकारको एउटा कलको लागत कति
पूरै 262,144-टोकनको सन्दर्भ भर्नुहोस् र पूरै 16,384-टोकनको आउटपुट लिनुहोस्:
सूची मूल्यमा। Flash: $0.131 इनपुट + $0.033 आउटपुट। Pro: $0.511 + $0.064। अनुपात 3.51×। Flash ले $0.50 / $2.00 को भुइँतल MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro र Hy3 सँग पनि बाँड्छ — ती भिजन र संरचित आउटपुटमा कसरी फरक छन् भन्नका लागि पूरै क्याटलग हेर्नुहोस्।
06मात्राको गणित, गरेर देखाइएको
"3.9× सस्तो" इनपुटमा मात्र सत्य हो। आउटपुटमा Flash 1.95× सस्तो छ। त्यसैले तपाईंको वास्तविक बचत तपाईंको इनपुट-आउटपुट अनुपातमा भर पर्छ, र फैलावट डिजाइन निर्णय बदल्न पुग्ने गरी फराकिलो छ। चार यथार्थपरक कार्यभार, प्रत्येक 100,000 अनुरोध मा:
| कार्यभार | प्रति कल इन / आउट | Flash | Pro | बचत |
|---|---|---|---|---|
| टिकट वर्गीकरण | 1,200 / 120 | $84 | $281 | 3.3× |
| RAG प्रश्न उत्तर | 8,000 / 600 | $520 | $1,794 | 3.4× |
| लामो कागजातको सारांश | 60,000 / 1,500 | $3,300 | $12,285 | 3.7× |
| सिंथेटिक डेटा उत्पादन | 500 / 2,000 | $425 | $878 | 2.1× |
ढाँचा यस्तो छ: तपाईंले जति बढी सन्दर्भ धकेल्नुहुन्छ र जति कम पाठ उत्पादन गर्नुहुन्छ, Flash ले त्यति बढी बचाउँछ। रिट्रिभल पाइपलाइन, कागजात छानबिन, लग र ट्रान्सक्रिप्ट विश्लेषण, तथा लामो-सन्दर्भ निकासी नै मीठो बिन्दु हुन् — ती परिमाणको एक क्रमले इनपुट-प्रधान हुन्छन्, र 3.9× छुट इनपुटमै छ। बरु तपाईंको कार्यभार छोटो प्रम्प्टबाट हजारौं टोकन गद्य उत्पादन गर्ने खालको छ भने अन्तर करिब 2× मा खुम्चिन्छ र Pro को पक्षमा क्षमताको तर्क त्यसै अनुपातमा बलियो हुन्छ।
आत्मसात् गर्न लायक अर्को एउटा गणित: प्रति दस लाख इनपुट टोकन $0.50 मा, पूरै 262,144-टोकनको विन्डो भर्न 13.1 सेन्ट लाग्छ। त्यस मूल्यमा लामो-सन्दर्भ प्रम्प्टिङ बजेटको प्रश्न हुन छाड्छ, जसको अर्थ कहिलेकाहीँ तपाईंले रिट्रिभल तह बनाउनै नपर्ने र सन्दर्भ विन्डोलाई नै काम गर्न दिन सक्ने हुन्छ — टोकन बचतमाथि इन्जिनियरिङको बचत।
07यहाँ "सेन्सर नगरिएको" को ठ्याक्कै अर्थ के हो
यो शब्द फितलो रूपमा प्रयोग हुन्छ, त्यसैले एन्डपोइन्टको गुणका रूपमा भनिएको हाम्रो परिभाषा यहाँ छ: मोडेलअगाडि कुनै अस्वीकृति क्लासिफायर छैन र त्यसको आउटपुटमा कुनै सामग्री फिल्टरिङ लागू हुँदैन। कुनै कुराले प्रम्प्ट रोकेर तयारी अस्वीकार फर्काउँदैन; कुनै कुराले पूर्णता जाँचेर काट्दैन। उच्च-मात्राको उत्पादन कामका लागि यसका परिणाम शब्दले सुझाएभन्दा कम नाटकीय र बढी उपयोगी छन्:
- निर्दोष ट्राफिकमा गलत सकारात्मक छैनन्। फिल्टर गरिएका एन्डपोइन्टले नियमित रूपमा चिकित्सकीय सारांश, सुरक्षा लेख, कानुनी खोजी, कथासाहित्य, हानि-न्यूनीकरण सामग्री र मोडेरेसनको काम आफैंलाई अस्वीकार गर्छन् — ठ्याक्कै ती कोटी जहाँ ब्याच जबले संवेदनशील विषय बारेको पाठ प्रशोधन गरिरहेको हुन्छ, हानिकारक केही उत्पादन गरिरहेको हुँदैन। एक लाख अनुरोधमा एक-प्रतिशत गलत-अस्वीकार दर भनेको एक हजार बिग्रेका पङ्क्ति हुन्।
- निर्धारणात्मक करार।
json_schemaप्रतिक्रिया माग्नुहोस् र तपाईंले स्किमासँग मिल्ने JSON पाउनुहुन्छ, वस्तु हुनुपर्ने ठाउँमा माफीको अनुच्छेद होइन। तपाईंको पार्सरलाई अस्वीकार हाँगा चाहिँदैन, र तपाईंको पुन:प्रयास तर्कले ट्रान्सपोर्ट असफलतालाई नीतिगत असफलताबाट छुट्याउनु पर्दैन। - नीति तपाईंको हो। साटफेर त्यही हो। तपाईंको उत्पादनलाई अन्तिम प्रयोगकर्ताका लागि सुरक्षाघेरा चाहिन्छ भने, प्रदायकको दुवैबारेको अनुमान सापटी लिनुको सट्टा, तपाईंले आफ्ना प्रयोगकर्ता र आफ्नो क्षेत्राधिकार चिन्ने आफ्नै तहमा ती बनाउनुहुन्छ। तपाईंको खाता हाम्रो जिम्मेवार प्रयोग नीति अन्तर्गत नै रहन्छ।
सेन्सर नगरिएको भनेको एलाइन नगरिएको वा असहयोगी भनेको होइन। मोडेलले अझै निर्देशन पालना गर्छ र सिस्टम प्रम्प्टको सम्मान गर्छ। तपाईंका प्रयोगकर्ताका लागि यसले केही कोटी अस्वीकार गरोस् भन्ने चाहनुहुन्छ भने त्यहीँ भन्नुहोस् — त्यो निर्देशन अब हामीले थोपर्ने होइन, तपाईंले लेख्ने कुरा हो।
08क्षमता र इमानदार सीमा
मात्राको कामका लागि दुई क्षमताले अधिकांश भार बोक्छन्। कडा json_schema आउटपुट ले पूर्णतालाई पार्सिङ तह र अस्वीकार हाँगाविनै डेटाबेस पङ्क्तिमा बदल्छ। तीनै बोलीमा टुल कलिङ ले Flash लाई त्यस्तो एजेन्टका सस्ता उप-चरणका लागि समझदार इन्जिन बनाउँछ जसको माथिल्लो तहको योजनाकार बलियो मोडेलमा चल्छ। थपमा reasoning_effort छ, जसले ट्राफिकको जुन अंशलाई चाहिन्छ त्यसमै मात्र थप टोकन खर्च गर्न दिन्छ, र Pro कै जस्तै 262,144-टोकनको सन्दर्भ छ — सस्तो तह छान्दैमा तपाईं सन्दर्भ गुमाउनुहुन्न, जुन असामान्य कुरा हो।
सीमा पनि उत्तिकै ठोस छन्:
- भिजन छैन। Flash पाठ-मात्र हो र सन्देशमा तस्बिर भाग अस्वीकार गर्छ। उही $0.50 / $2.00 भुइँतलमा सेन्सर नगरिएको मोडेलमा तस्बिरका लागि MiniMax-M3 र MiMo-V2.5 भिजन-सक्षम विकल्प हुन्; Kimi-K2.6 र Kimi-K3 त्यस तहभन्दा माथिका बलिया भिजन मोडेल हुन्।
- भर्याङको टुप्पो होइन। DeepSeek कै सङ्ख्याले हरेक प्रकाशित एजेन्टिक बेन्चमार्कमा Pro लाई अगाडि राख्छन्, र अन्तर निरन्तर बहु-चरण कोड तर्कमा सबैभन्दा फराकिलो छ। जहाँ एउटा गलत जवाफको मूल्य हजार सस्ता जवाफभन्दा बढी पर्छ, त्यहाँ प्रति दस लाख थप $1.45 DeepSeek-V4-Pro मा खर्चनुहोस्।
- प्रति अनुरोध 16,384 आउटपुट टोकन। लामा जेनेरेसन कलहरूमा टुक्र्याउनुपर्छ। हामीले सेवा दिने हरेक मोडेलमा यही सिलिङ छ, र यो सन्दर्भ विन्डो भरिनुभन्दा धेरै अगाडि नै बाँधिन्छ।
09बोलाउने तरिका
कुनै पनि OpenAI-अनुकूल क्लाइन्टलाई गेटवेतर्फ फर्काउनुहोस् र मोडेल स्ट्रिङ बदल्नुहोस्। तपाईंको स्ट्याकमा अरू केही सार्नु पर्दैन।
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
उही मोडेल id /v1/messages र /v1/responses मा अपरिवर्तित काम गर्छ, र अवस्थित इन्टिग्रेसनमुनि आफ्नो क्लाइन्ट नलेखीकनै सस्तो मोडेल A/B गर्ने सबैभन्दा छिटो बाटो यही हो। प्यारामिटर, स्ट्रिमिङ घटनाका आकार, टुल-कलिङ स्किमा र दर सीमा API सन्दर्भ मा कागजात गरिएका छन्; क्याटलगका हरेक मोडेल Shannon Research मा सूचीबद्ध छन्।
10बारम्बार सोधिने प्रश्न
सेन्सर नगरिएको DeepSeek Flash API भनेको के हो?
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP का लागि Shannon AI गेटवेको एन्डपोइन्ट: DeepSeek को 13B-सक्रिय V4-Flash आधारको 4-बिट AutoRound बिल्ड, हाम्रो आफ्नै GPU क्लस्टरमा कुनै अस्वीकृति तह र आउटपुट फिल्टरविना सेवा दिइएको, प्रति दस लाख इनपुट टोकन $0.50 र प्रति दस लाख आउटपुट टोकन $2.00 मा, 262,144-टोकनको सन्दर्भसहित।
DeepSeek V4 Flash को मूल्य प्रति दस लाख टोकन कति पर्छ?
$0.50 इनपुट र $2.00 आउटपुट, जुन Shannon गेटवेको भुइँतल मूल्य हो। DeepSeek-V4-Pro-0813 $1.95 र $3.90 छ, त्यसैले Flash इनपुटमा 3.9× र आउटपुटमा 1.95× सस्तो छ। पूरै 262,144-टोकनको सन्दर्भ भर्दा Flash मा करिब $0.13 र Pro मा करिब $0.51 लाग्छ।
मैले DeepSeek V4 Flash प्रयोग गर्ने कि DeepSeek V4 Pro?
कलको सङ्ख्या नै बन्धन हो भने Flash: वर्गीकरण, निकासी, संक्षेपीकरण, सिंथेटिक डेटा, RAG उत्तर, एजेन्टका उप-चरण। एउटै कलको कठिनाइ बन्धन हो भने Pro। Flash ह्रास गरिएको Pro होइन; यो उच्च-निष्ठाको 4-बिट क्वान्टाइजेसनमा रहेको सानो आधार हो, जबकि Pro 3-बिटमा रहेको 1.7T प्यारामिटरको आधार हो।
के DeepSeek-V4-Flash-0731 ले भिजन र JSON स्किमा आउटपुट समर्थन गर्छ?
यसले कडा json_schema संरचित आउटपुट र response_format समर्थन गर्छ, थपमा टुल कलिङ, स्ट्रिमिङ र reasoning_effort। यसले तस्बिर इनपुट स्वीकार गर्दैन। उही भुइँतल मूल्यमा सेन्सर नगरिएको मोडेलमा तस्बिरका लागि MiniMax-M3 र MiMo-V2.5 भिजन-सक्षम विकल्प हुन्।
W4A16-AUTOROUND-REAP को अर्थ के हो?
W4A16 भनेको 16-बिट एक्टिभेसनसहितको 4-बिट वेट हो। AutoRound Intel को सिकिएको राउन्डिङ विधि हो, जसले नजिकको मानमा राउन्ड गर्नुको सट्टा चिह्नित ग्रेडिएन्ट अवरोहणद्वारा राउन्डिङ निर्णय अनुकूलन गर्छ। REAP Cerebras Systems को Mixture-of-Experts मोडेलका लागि एक-पटके विशेषज्ञ प्रुनिङ हो, जसले सबैभन्दा कम राउट हुने विशेषज्ञलाई पुन:तालिमविनै हटाइदिन्छ।
के मोडेल साँच्चै सेन्सर नगरिएको, कुनै अस्वीकृति तहविनाको हो?
हो। मोडेलअगाडि कुनै अस्वीकृति क्लासिफायर बस्दैन र त्यसको आउटपुटमा कुनै फिल्टरिङ लागू हुँदैन, त्यसैले तपाईंले मोडेलकै वितरण पाउनुहुन्छ। यसको अर्थ तपाईंको उत्पादनको सुरक्षा अडान तपाईंकै हो र सुरक्षाघेरा तपाईंले आफ्नै तहमा बनाउनुहुन्छ; हाम्रो जिम्मेवार प्रयोग नीतिले खाता सञ्चालन गरिरहेकै हुन्छ।
आफ्नो मात्रा Flash मा चलाउनुहोस्
$0.50 इन, $2.00 आउट, 262K सन्दर्भ, कुनै अस्वीकार छैन। एउटै मोडेल स्ट्रिङ बदल्नुहोस्।
API कागजात पढ्नुहोस् सबै 12 मोडेल हेर्नुहोस्Shannon Lab LLC · New Mexico, USA · हाम्रो जिम्मेवार प्रयोग नीतिद्वारा सञ्चालित
स्रोत: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 प्राविधिक प्रतिवेदन (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 र DeepSeek-V4-Pro-0813 मोडेल कार्ड · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323)। सबै आधार र बेन्चमार्क आँकडा तिनका सम्बन्धित लेखकहरूले प्रकाशित गरेअनुसार छन्; Shannon AI का मूल्य र सेवा दिइने सन्दर्भ सेप्टेम्बर 2026 सम्मका हाम्रा आफ्नै सूची मान हुन्।