We do not hold or access any user's data, and we do not suspend accounts unless a lawful authority requires an enforcement action.
मोडेल कार्ड · DeepSeek-V4-Pro-0813 · 3BIT-REAP

सेन्सर नगरिएको DeepSeek API

1.6 ट्रिलियन प्यारामिटर को DeepSeek Mixture-of-Experts, कुनै अस्वीकृति तहविना सेवामा: 262K सन्दर्भ, नेटिभ तर्क प्रयास, टुल कलिङ, र हाम्रो आफ्नै GPU क्लस्टरमा तीन API डायलेक्ट।

सेप्टेम्बर 5, 2026 मा अद्यावधिकमोडेल कार्डआधार: DeepSeek-V4-Proप्रति 1M $1.95 / $3.90

संक्षेपमा

DeepSeek-V4-Pro-0813-3BIT-REAP Shannon AI को सेन्सर नगरिएको लाइनअपको प्रमुख तर्क-र-कोड मोडेल हो। आधार भनेको DeepSeek-AI को खुला-वेट V4-Pro हो — कुल 1.6T प्यारामिटर, प्रति टोकन 49B सक्रिय, MIT लाइसेन्समा, दस लाख टोकनको सन्दर्भका लागि नेटिभ रूपमै तालिम प्राप्त। हामी यसलाई हाम्रो आफ्नै GPU क्लस्टरमा REAP विशेषज्ञ प्रुनिङसहित 3-बिट वेटमा सेवा दिन्छौं, 262,144-टोकन विन्डो, 16,384-टोकन अधिकतम आउटपुट, स्ट्रिमिङ, नेटिभ टुल कलिङ, कडा json_schema आउटपुट र reasoning_effort डायलसहित। प्रति 1M इनपुट $1.95, प्रति 1M आउटपुट $3.90। भिजन छैन। कुनै अस्वीकृति तह छैन, कुनै आउटपुट फिल्टरिङ छैन।

"सेन्सर नगरिएको DeepSeek API" भन्ने वाक्यांशसम्म आइपुग्ने मानिसहरूलाई एउटा निश्चित कुरा चाहिन्छ: DeepSeek कै तर्क र कोडिङ क्षमता भएको तर आफूले साँच्चै सोधेको प्रश्नको जवाफ दिने मोडेल। क्षमतातर्फको आधा भाग राम्ररी अभिलेखित छ — DeepSeek-AI ले वास्तुकला र आँकडा प्रकाशित गर्‍यो, र वेटहरू Hugging Face मा MIT अन्तर्गत छन्। दोस्रो आधा भाग सञ्चालनसम्बन्धी निर्णय हो, र त्यो प्रायः तपाईंका लागि अरूले नै गरिदिन्छन्। यो पृष्ठले दुवै समेट्छ: V4-Pro आधार के हो, हाम्रो 3BIT-REAP बिल्डले त्यसमा के गर्छ, र हामीले "सेन्सर नगरिएको" भन्दा त्यसको ठ्याक्कै अर्थ के हो।

01"सेन्सर नगरिएको DeepSeek API" को साँचो अर्थ

दुई फरक संयन्त्र एउटै शब्दमुनि राखिन्छन्। पहिलो हो वेटभित्रै पकाइएको अलाइनमेन्ट — पोस्ट-ट्रेनिङका बेला सिकिएको अस्वीकृति व्यवहार। दोस्रो हो सेवातर्फको मध्यस्थता तह: एउटा छुट्टै क्लासिफायर, जसले मोडेलले देख्नुअघि तपाईंको प्रम्प्ट र तपाईंले देख्नुअघि आउटपुट जाँच्छ, र मोडेलले जे भन्न चाहेको भए पनि जवाफ वाक्य बीचमै काट्न सक्छ।

दुवै नापिन सक्ने छन्, र DeepSeek को आफ्नै सेवा नापिएको छ। Promptfoo ले राजनीतिक रूपमा संवेदनशील प्रश्नहरूको 1,360 प्रम्प्टको सङ्ग्रह बनायो र DeepSeek को होस्ट गरिएको R1 ले तीमध्ये 1,156 वटा — करिब 85% — अस्वीकार गर्‍यो वा वरिपरि घुमायो भनी प्रतिवेदन दियो। उही परिवारमाथिको प्राज्ञिक कामले लेखकहरूले विचार दमन भनेको एउटा छुट्टै असफलता ढाँचा भेट्टायो, जहाँ संवेदनशील विषयमा मोडेलको तर्क शृङ्खला सुरु हुनासाथ लगभग तुरुन्तै टुङ्गिन्छ। Information Sciences मा प्रकाशित एउटा छुट्टै अडिटले अर्थ-तहको दमन अभिलेख गर्‍यो: मोडेलको आन्तरिक तर्कमा उपस्थित सामग्री प्रयोगकर्तासम्म पुग्नुअघि चुपचाप हटाइने वा पुनर्लेखन गरिने। यो सोझै अस्वीकार गर्नुभन्दा गाह्रो समस्या हो, किनभने काटिएको जवाफ जवाफजस्तै देखिन्छ।

हामीले चलाउने कुरा भनेको खुला-वेट रिलिज हो, हामी आफैंले सञ्चालन गर्ने हार्डवेयरमा, संयुक्त राज्य अमेरिकामा, Shannon Lab LLC अन्तर्गत। मोडेलको अगाडि कुनै अस्वीकृति तह छैन र फर्केर आउने कुरामा कुनै फिल्टर लगाइँदैन: सेवा दिनुअघि तपाईंको प्रम्प्ट नीतिका लागि क्लासिफाइ गरिँदैन, र आउटपुट स्ट्रिम बाहिर जाने बाटोमा जाँचिँदैन। आधार MIT लाइसेन्समा र सार्वजनिक भएकाले, तपाईं हाम्रो कुरा पत्याउनुको साटो हाम्रा आउटपुट सन्दर्भ वेटसँग आफैं तुलना गर्न सक्नुहुन्छ।

02आधार: DeepSeek-V4-Pro, एउटा 1.6T MoE

DeepSeek-V4 भनेको DeepSeek-AI को हालको खुला-वेट परिवार हो, अप्रिल 2026 मा प्रिभ्यु गरिएको र MIT अन्तर्गत दुई आकारमा जारी: V4-Flash (कुल 284B, 13B सक्रिय) र V4-Pro (कुल 1.6T, 49B सक्रिय)। यो लेख Pro तहको बारेमा हो। दुवैलाई लगभग 33 ट्रिलियन टोकन मा पूर्व-तालिम दिइएको थियो र दुवैले दस लाख टोकनको सन्दर्भ नेटिभ रूपमै समर्थन गर्छन्।

1.6T
कुल प्यारामिटर
49B
सक्रिय / टोकन
~33T
तालिम टोकन
MIT
लाइसेन्स

ध्यान दिनुपर्ने कुरा स्पार्सिटी अनुपात हो: कुनै पनि टोकनमा प्यारामिटरको करिब 3% मात्र सक्रिय हुन्छ, र यत्रो ठूलो मोडेल सेवायोग्य हुनुको कारण नै त्यही हो। MoE ब्लक आफैं अझै DeepSeekMoE नै हो — V2 मा ल्याइएका सूक्ष्म-दानादार राउट हुने विशेषज्ञ र सधैं सक्रिय रहने साझा विशेषज्ञ — V4 मा सानातिना परिवर्तनसहित, जसमध्ये सबैभन्दा देखिने भनेको सुरुका तहहरूमा ह्यास राउटिङ हो। Multi-Token Prediction — V3 को सहायक उद्देश्य जसले स्पेकुलेटिभ डिकोडिङ पनि सम्भव बनाउँछ — जस्ताको तस्तै राखिएको छ।

V4 का नयाँ भागहरू संरचनात्मक छन्। Manifold-Constrained Hyper-Connections (mHC) ले सादा रेसिड्युअल बाटोको ठाउँमा सिकिएको मिश्रण म्याट्रिक्स राख्छ, जुन Sinkhorn–Knopp प्रक्षेपणमार्फत दोहोरो स्टोक्यास्टिक म्याट्रिक्सको म्यानिफोल्डमा सीमित गरिन्छ — यस्तो रेसिड्युअल स्ट्रिम जसले धेरै गहिरा स्ट्याक मार्ने सङ्ख्यात्मक बहावविनै प्रति इनपुट पुनः तौल दिन्छ। तालिम धेरैजसो मोड्युलका लागि AdamW बाट हटेर Muon मा सर्‍यो, Newton–Schulz ओर्थोगोनलाइजेसन प्रयोग गर्दै, र AdamW लाई एम्बेडिङ, प्रेडिक्सन हेड, नर्मलाइजेसन र स्थिर mHC प्यारामिटरका लागि मात्र राखियो। अनि विशेषज्ञ वेटहरू FP4 मा तालिम दिइन्छन् भने अरू धेरैजसो प्यारामिटर FP8 मा — सुरुदेखि नै क्वान्टाइजेसन-सचेत, जुन मोडेलले थप सङ्कुचन कति सहजै लिन्छ भन्नेमा महत्त्वपूर्ण हुन्छ।

03MLA बाट CSA + HCA सम्म: DeepSeek ले लामो सन्दर्भ कसरी सस्तो राख्छ

चार पुस्तासम्म DeepSeek को मुख्य धार आकार होइन, ध्यानको अर्थशास्त्र हो। हरेक संस्करणले KV क्यासमाथि आक्रमण गरेको छ, जुन सन्दर्भसँगै रैखिक रूपमा बढ्छ र लामो लम्बाइमा मेमोरी ओगट्छ।

  • V2 ले Multi-head Latent Attention (MLA) ल्यायो — कुञ्जी र मानहरूलाई एउटा लेटेन्ट भेक्टरमा निम्न-र्‍याङ्क संयुक्त सङ्कुचन, ताकि जेनेरेसनले प्रति-हेड पूरै K र V को साटो त्यो भेक्टर र एउटा विलग गरिएको RoPE कुञ्जी मात्र क्यास गरोस्। DeepSeek ले गुणस्तर कायम वा सुधारिएकै अवस्थामा KV क्यास मानक मल्टि-हेड ध्यानको लगभग 4–14% मा झरेको प्रतिवेदन दियो।
  • V3 ले त्यसलाई 671B सम्म बढायो, र खुला मोडेलहरूमा सस्तो लामो सन्दर्भका लागि MLA नै पूर्वनिर्धारित मान्यता बनायो।
  • V3.2 ले DeepSeek Sparse Attention (DSA) थप्यो, जसले सबै कुरामा ध्यान दिनुको साटो हलुका इन्डेक्सरमार्फत प्रति क्वेरी इतिहासको top-k उपसमूह छान्छ।
  • V4 ले दुवैलाई सङ्कर बनाउँछ। Compressed Sparse Attention (CSA) ले पहिले हरेक m टोकनका KV प्रविष्टिलाई सिकिएका तौलसहित एउटै प्रविष्टिमा सङ्कुचित गर्छ, अनि ती सङ्कुचित प्रविष्टिमाथि स्पार्स top-k छनोट चलाउँछ। Heavily Compressed Attention (HCA) ले धेरै बढी आक्रामक रूपमा सङ्कुचन गर्छ तर नतिजामाथि सघन नै रहन्छ। यी दुई तह प्रकार स्ट्याकभरि आलोपालो राखिन्छन्, त्यसैले सस्तो विश्वव्यापी सारांश र सटीक स्थानीय पुनर्प्राप्ति सँगै रहन्छन्।

दस लाख टोकनको सन्दर्भमा प्रतिवेदित फाइदा स्पष्ट छ: V4-Pro लाई V3.2 को तुलनामा प्रति टोकन करिब 27% अनुमान FLOPs र 10% KV क्यास चाहिन्छ। यसैले 262K को अनुरोध मेमोरी घटनाजस्तो नभई सामान्य अनुरोधजस्तै व्यवहार गर्छ, र यसैले लामो सन्दर्भका पुनर्प्राप्ति आँकडा केही दसौं हजार टोकनपछि ढल्नुको साटो टिकिरहन्छन्।

043BIT-REAP प्रत्ययको अर्थ

हाम्रो क्याटलग आइडी 3BIT-REAP मा टुङ्गिन्छ, र त्यसले क्रमैसँग लागू गरिएका दुई स्वतन्त्र सङ्कुचन चरण जनाउँछ।

REAP: विशेषज्ञ मिलाउने होइन, हटाउने

REAP भनेको Cerebras Research को Router-weighted Expert Activation Pruning हो — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", ICLR 2026 मा स्वीकृत। स्पार्स MoE मा राउटरले आफ्ना विशेषज्ञ समान रूपमा प्रयोग गर्दैन: एउटा लामो पुच्छर विरलै, कमजोर रूपमा, वा दुवै किसिमले छानिन्छ। REAP ले हरेक विशेषज्ञलाई राउटर गेट मान (कति पटक र कति बलियोसँग छानिन्छ) र विशेषज्ञ सक्रियता नर्म (त्यसको आउटपुटले कति योगदान गर्छ) जोडेर अङ्क दिन्छ, अनि हार्नेहरूलाई सोझै मेटाइदिन्छ।

लेखको तर्क यो हो कि प्रुनिङले मिलाउनुलाई जित्छ: मिलाउँदा MoE बनाउनै लायक बनाएको कार्यात्मक विशेषज्ञता औसतमा हराउँछ, जबकि राउटरले मुस्किलले पुग्ने विशेषज्ञ मेटाउँदा त्यो जोगिन्छ। 20B देखि 1T सम्मका मोडेलहरूमा REAP ले जेनेरेटिभ बेन्चमार्कमा मिलाउने र प्रतिस्पर्धी प्रुनिङ विधिहरूलाई उछिन्यो, र लेखकहरूले Qwen3-Coder-480B तथा Kimi-K2 मा 50% विशेषज्ञ प्रुनिङमा कोड जेनेरेसन र टुल कलिङमा लगभग नोक्सानरहित नतिजा प्रतिवेदन गरे — र ठ्याक्कै त्यही कार्यभार प्रोफाइलका लागि यो मोडेल यहाँ छ।

3-बिट वेट: सबैभन्दा ठूला आधारका लागि सङ्कुचन तह

बाँच्ने भागलाई त्यसपछि 3-बिट वेट मा क्वान्टाइज गरिन्छ। तीन बिट आक्रामक हो, र हामी अरू केही देखाउने नाटक गर्दैनौं: लाइनअपभरि हामी आधार सानो भई निचोड नचाहिने ठाउँमा W8A16, बीचमा W4A16-AUTOROUND-REAP, र 3BIT-REAP चाहिँ सबैभन्दा ठूला आधारमा मात्र प्रयोग गर्छौं, जहाँ त्यो मोडेल सेवा दिने र नदिने बीचको भिन्नता हो।

अदलाबदली सोझै भन्नु राम्रो हुन्छ: 3-बिटको 1.6T MoE सन्दर्भ रिलिजसँग बिट-समान हुँदैन, र गुणस्तरमा सानो लागत साँचो हो। बदलामा तपाईंले पाउने कुरा भनेको त्यस्तो आधार हो जसको असङ्कुचित उचाइ उच्च परिशुद्धतामा सजिलै अट्ने जुनसुकै कुराभन्दा निकै माथि छ — र V4 का विशेषज्ञ सुरुदेखि नै FP4 मा तालिम पाएका हुनाले, मोडेल थप वेट सङ्कुचनमा असामान्य रूपमा सुशील रहन्छ। परिशुद्धतामा हलुका छोइएको DeepSeek बिल्ड चाहनुहुन्छ भने, DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP ले उही 262K सन्दर्भमा $0.50 इन / $2.00 आउटमा 4-बिट वेट, 16-बिट सक्रियता र AutoRound को सिकिएको राउन्डिङ प्रयोग गर्छ।

05तर्क, र reasoning_effort डायल

V4 को पोस्ट-ट्रेनिङले डोमेन विशेषज्ञहरूलाई छुट्टाछुट्टै तालिम दिन्छ — गणित, कोडिङ, एजेन्ट, निर्देशन पालना — SFT पछि GRPO, अर्थात् DeepSeek ले R1 सँगै ल्याएको Group Relative Policy Optimization विधि। ती विशेषज्ञलाई त्यसपछि उल्टो-KL उद्देश्य अन्तर्गत अन-पोलिसी डिस्टिलेसनमार्फत एउटै मोडेलमा एकीकृत गरिन्छ, ताकि एउटै चेकपोइन्टले सबैमा साधारण रहने सामान्यज्ञ हुनुको साटो एकैपटक धेरै डोमेनमा विशेषज्ञ-स्तरको व्यवहार बोकोस्।

जारी गरिएको मोडेलले बाइनरी स्विचको साटो क्रमिक चिन्तन मोड खुला राख्छ। हाम्रो गेटवेमा त्यो मानक reasoning_effort प्यारामिटर हो — यो मोडेलको सबैभन्दा उपयोगी एउटै नब:

  • Low — लगभग सोझै जवाफ: वर्गीकरण, निकासी, पुनर्लेखन, अनि मोडेलको सोचविचारभन्दा त्यसको ज्ञानका लागि तिरिरहेको जुनसुकै काम।
  • Medium — कोड समीक्षा, डिबगिङ र बहु-चरण विश्लेषणका लागि पूर्वनिर्धारित कार्यशैली।
  • High — जवाफ दिनुअघि लामो सोचविचार। गाह्रा समस्या यहीँ हल हुन्छन्, र तपाईंको आउटपुट-टोकन बिल पनि यहीँ बस्छ, किनभने तर्क टोकनहरू आउटपुटका रूपमा बिल हुन्छन्।

अस्वीकृति तह नभएकाले संवेदनशील विषयवस्तुमा तर्क शृङ्खला काटिँदैन — आफ्नै सेवामा अभिलेखित विचार-दमनको ढाँचा यहाँ हुने कुनै संयन्त्रै छैन।

06कोड र एजेन्टिक काम: आधारले पाउने अङ्क

यी V4-Pro रिलिजका लागि DeepSeek-AI ले आफैं प्रकाशित गरेका आँकडा हुन् — हाम्रा होइनन्, र हाम्रो क्वान्टाइज्ड बिल्डमा नापिएका पनि होइनन्। हामी यी देखाउँछौं किनभने यो आधार छान्नुको इमानदार कारण तिनै हुन्, र तपाईंले तदनुसार तौल दिन सक्नुहोस् भनेर आफ्नै पक्षका आँकडा भनी सङ्केत गरिदिन्छौं।

LiveCodeBench93.5
GPQA Diamond90.1
MMLU-Pro87.5
MRCR 1M83.5
SWE-bench Verified80.6
Terminal-Bench 2.067.9

दुईवटा टिप्पणीयोग्य छन्। SWE-bench Verified मा 80.6% भनेको साँचो रिपोजिटरीको इस्यु समाधान हो — अपरिचित कोडबेस पढ्ने, त्रुटि पत्ता लगाउने, र परियोजनाकै परीक्षण पास गर्ने प्याच बनाउने। दस लाख टोकनमा MRCR (83.5) भनेको पूरै लम्बाइमा बहु-चरण को-रेफरेन्स पुनर्प्राप्ति हो — लामो सन्दर्भको दाबी सजावट मात्र होइन भन्ने बताउने आँकडा। DeepSeek ले मोडेलका लागि 3206 को Codeforces रेटिङ र 1M सन्दर्भमा CorpusQA मा 62.0 पनि प्रतिवेदन गर्छ।

माथिका आँकडा DeepSeek-V4-Pro सन्दर्भ रिलिजका लागि DeepSeek-AI ले प्रतिवेदन गरेका हुन्। हाम्रो 3BIT-REAP बिल्ड ती वेटको सङ्कुचित संस्करण हो र यी कार्यहरूमा स्वतन्त्र रूपमा बेन्चमार्क गरिएको छैन; सन्दर्भ अङ्कलाई यो एन्डपोइन्टको नाप होइन, आधारको उचाइ मान्नुहोस्।

07262K सन्दर्भ: वास्तवमा के अट्छ

सन्दर्भ मोडेललाई दस लाख टोकनका लागि तालिम दिइएको छ। हामी 262,144 सेवा दिन्छौं — गेटवेका हरेक मोडेलले बाँड्ने विन्डो, त्यसैले मोडेल फेर्नु एक-लाइनको परिवर्तन हो र कहिल्यै सन्दर्भ घट्दैन। व्यवहारमा धेरैजसो साँचो कामका लागि सन्दर्भले बाँध्ने बिन्दु 262K भन्दा पर छ:

कार्यभारअनुमानित टोकन262K मा अट्छ?
मध्यम आकारको सेवा रिपो (~50k लाइन)~600Kअट्दैन — मोड्युल छान्नुहोस्
एउटै उपप्रणाली + त्यसका परीक्षण~60–120Kअट्छ, सजिलै
कुनै प्रोटोकलको पूरै RFC सङ्ग्रह~150Kअट्छ
700 पृष्ठको प्राविधिक पुस्तक~250Kअट्छ, सीमाको नजिक
लामो एजेन्ट रन, 40+ टुल टर्न~80–200Kअट्छ

योजना बनाउनुपर्ने सीमा भनेको आउटपुट हो: प्रति प्रतिक्रिया अधिकतम 16,384 टोकन। त्यो एउटा लामो कागजात वा ठूलै बहु-फाइल प्याच हो, तर पूरै कोडबेस होइन। ठूला जेनेरेसन कामहरू एउटै विशाल पूर्णताको माग गरेर होइन, अघिल्लो आउटपुट पुनः सन्दर्भमा राखेर अनुरोधहरू शृङ्खलाबद्ध गरेर गरिन्छन् — र 262K विन्डोले त्यसलाई सस्तो बनाइदिन्छ।

08मूल्य, र लाइनअपमा V4-Pro कहाँ बस्छ

प्रति दस लाख टोकन $1.95 इन / $3.90 आउट मा, V4-Pro प्रमुख तर्क तह हो — समस्या गाह्रो हुँदा तपाईं पुग्ने मोडेल। समस्या केवल ठूलो मात्र हो भने, उही 262K विन्डोका सस्ता मोडेलहरूले त्यो काम एक चौथाइ मूल्यमा गरिदिन्छन्।

सेन्सर नगरिएको मोडेलइन / 1Mआउट / 1Mभिजनकसका लागि उत्तम
DeepSeek-V4-Pro · 3BIT-REAP$1.95$3.90छैनगाह्रो तर्क, कोड, एजेन्ट
DeepSeek-V4-Flash · W4A16$0.50$2.00छैनउही वंश, उच्च परिमाण
GLM-5.2 · 3BIT-REAP$0.73$2.34छैनसामान्य प्रयोजनको भरपर्दो मोडेल
Kimi-K3 · 3BIT-REAP$3.83$19.12छउच्च-तहका मल्टिमोडल एजेन्ट
MiniMax-M3 · 3BIT-REAP$0.50$2.00छसबैभन्दा सस्तो भिजन

मानिसहरूले साँच्चै गर्ने तुलनाबारे सोझै भन्दा: DeepSeek कै आफ्नै API यसभन्दा सस्तो छ — आफ्नै V4-Pro को सूची करिब $0.435 इन / $0.87 आउट छ, र तिनको क्यास-हिट इनपुट मूल्य त्योभन्दा पनि कम छ। प्रति टोकन मूल्य नै तपाईंको एक मात्र मापदण्ड हो र मध्यस्थता व्यवहारले तपाईंको कामलाई असर गर्दैन भने, आफ्नै API प्रयोग गर्नुहोस्; तपाईंले पछि थाहा पाउनुभन्दा हामी अहिल्यै भनिदिन रुचाउँछौं। यो प्रिमियमले फरक गुणहरूको सङ्ग्रह किन्छ: कुनै अस्वीकृति तह र कुनै आउटपुट फिल्टर छैन, Shannon Lab LLC अन्तर्गत अमेरिकी सञ्चालक, पिन गरिएको मिति अङ्कित चेकपोइन्ट (0813) ताकि माथिबाटको चुपचाप अपग्रेडले परियोजनाको बीचमा तपाईंका आउटपुट कहिल्यै नफेरोस्, एउटै मोडेलमा तीन API डायलेक्ट, र लाइनअपका बाह्रै मोडेलमा उही 262K विन्डो र उही प्यारामिटर सतह।

09बोलाउने तरिका: तीन डायलेक्ट, एउटै मोडेल

गेटवेको हरेक मोडेलले तीनै एन्डपोइन्टमा जवाफ दिन्छ, हरेकमा स्ट्रिमिङसहित। तपाईंले नयाँ SDK अपनाउनुपर्दैन — तपाईं एउटा बेस URL र एउटा मोडेल आइडी फेर्नुहुन्छ।

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
    "reasoning_effort": "high",
    "stream": true,
    "messages": [
      {"role": "system", "content": "You are a systems programmer. Be direct."},
      {"role": "user", "content": "Audit this parser for memory-safety bugs."}
    ]
  }'
  • /v1/chat/completions — OpenAI डायलेक्ट; OpenAI SDK र तिनमा बनेका जुनसुकै कुरासँग काम गर्छ।
  • /v1/messages — Anthropic डायलेक्ट, त्यही आकारमा लेखिइसकेका कोडबेसका लागि।
  • /v1/responses — Responses-शैलीको इन्टरफेस।

यो मोडेलमा समर्थित: स्ट्रिमिङ, नेटिभ टुल कलिङ, कडा json_schema संरचित आउटपुट, response_format, र reasoning_effort। पूरा प्यारामिटर सन्दर्भ र प्रत्यक्ष प्लेग्राउन्ड API कागजात मा छन्।

10इमानदार सीमाहरू

यसमाथि केही बनाउनुअघि जान्नुपर्ने चार कुरा:

  • भिजन छैन। पाठ-मात्र; यसले कुनै पनि एन्डपोइन्टमा तस्बिर इनपुट लिँदैन। देख्न सक्ने सेन्सर नगरिएको मोडेल चाहिन्छ भने Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 वा inkling प्रयोग गर्नुहोस्।
  • 16,384-टोकनको आउटपुट सिलिङ। उच्च प्रयासमा तर्क टोकनहरू पनि यसैमा गनिन्छन्, त्यसैले लामो सोचविचारले जवाफका लागि कम ठाउँ छाड्छ। ठूला जेनेरेसन कामका लागि अनुरोधहरू शृङ्खलाबद्ध गर्नुहोस्।
  • 3-बिट साँचो सङ्कुचन हो। सन्दर्भ अङ्कहरूले आधार वर्णन गर्छन्, यो बिल्ड होइन। सबैभन्दा उच्च निष्ठाको तहका लागि, W8A16 मोडेलहरू (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) मा सबैभन्दा कम क्वान्टाइजेसन छ।
  • सेन्सर नगरिएको भनेको परिणामरहित होइन। अस्वीकृति तह नहुनुको अर्थ तपाईंले के सोध्नुहुन्छ र जवाफसँग के गर्नुहुन्छ भन्ने जिम्मेवारी तपाईंकै हो — हाम्रो सेवा सर्त र तपाईं सञ्चालन गर्ने ठाउँको कानुन अन्तर्गत।
डिजाइनबाटै पारदर्शी

यस पृष्ठको हरेक वास्तुकलासम्बन्धी दाबी र बेन्चमार्क आँकडा सार्वजनिक प्राथमिक स्रोतबाट आएको हो। तिनलाई आफैं पढ्नुहोस्।

11बारम्बार सोधिने प्रश्न

सेन्सर नगरिएको DeepSeek API भनेको के हो?

यो DeepSeek-V4-Pro खुला-वेट मोडेल हो, जुन Shannon AI को आफ्नै GPU क्लस्टरमा अगाडि कुनै अस्वीकृति तहविना र फर्काउने कुरामा कुनै फिल्टर नलगाई सेवा दिइन्छ। तपाईं यसलाई /v1/chat/completions, /v1/messages वा /v1/responses मा 262,144-टोकनको सन्दर्भ विन्डोसहित बोलाउनुहुन्छ, र एन्डपोइन्टले मध्यस्थता गर्नुको साटो जवाफ दिन्छ।

यो DeepSeek को आधिकारिक API भन्दा कसरी फरक छ?

उही खुला-वेट वंश, फरक सञ्चालक र फरक नीति। DeepSeek को आफ्नै सेवा प्रति टोकन सस्तो छ र त्यसले आफ्नै मध्यस्थता चलाउँछ; Promptfoo र प्राज्ञिक समूहहरूले प्रकाशित गरेका अडिटहरूले त्यहाँ राजनीतिक रूपमा संवेदनशील प्रम्प्टमा अस्वीकृति र अर्थगत दमन अभिलेख गरेका छन्। Shannon AI ले ती वेट संयुक्त राज्य अमेरिकामा कुनै अस्वीकृति तहविना चलाउँछ, तीन API डायलेक्टमा तर्क प्रयास र टुल कलिङ खुला राख्छ, र मिति अङ्कित चेकपोइन्ट पिन गर्छ ताकि आउटपुट तपाईंको मुनिबाटै सर्दैन।

3BIT-REAP को अर्थ के हो?

दुई सङ्कुचन चरण। REAP भनेको Router-weighted Expert Activation Pruning हो — Cerebras Research को एउटा विधि जसले Mixture-of-Experts मोडेलबाट विरलै र कमजोर रूपमा राउट हुने विशेषज्ञहरू हटाउँछ, हरेक विशेषज्ञलाई त्यसको राउटर गेट मान र सक्रियता नर्मका आधारमा अङ्क दिँदै। बाँच्ने भागलाई त्यसपछि 3-बिट वेटमा क्वान्टाइज गरिन्छ। यी दुवै मिलेर 1.6 ट्रिलियन प्यारामिटरको आधारलाई हाम्रो आफ्नै GPU क्लस्टरमा अट्ने र छिटो रहने बनाउँछन्।

सन्दर्भ विन्डो र अधिकतम आउटपुट कति ठूलो छ?

262,144 टोकनको सन्दर्भ र प्रति अनुरोध 16,384 टोकनसम्मको आउटपुट। त्यो भनेको भित्र लगभग 600 देखि 800 पृष्ठ पाठ, र बाहिर एउटा लामो प्राविधिक कागजात वा ठूलो बहु-फाइल प्याच। लामा कामहरू आउटपुट सीमा बढाएर होइन, अनुरोधहरू शृङ्खलाबद्ध गरेर गरिन्छन्।

के DeepSeek V4 Pro ले टुल कलिङ र JSON स्किमा आउटपुट समर्थन गर्छ?

दुवै गर्छ। नेटिभ टुल कलिङ, कडा json_schema संरचित आउटपुट र response_format सबै समर्थित छन्, साथै स्ट्रिमिङ र reasoning_effort प्यारामिटर पनि। यसले तस्बिर इनपुट लिँदैन; सेन्सर नगरिएको मोडेलमा भिजन चाहिन्छ भने त्यसको साटो Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 वा inkling प्रयोग गर्नुहोस्।

सेन्सर नगरिएको DeepSeek API को मूल्य कति पर्छ?

प्रति दस लाख इनपुट टोकन $1.95 र प्रति दस लाख आउटपुट टोकन $3.90। यही सेन्सर नगरिएको लाइनअपभित्र, DeepSeek-V4-Flash ले उही 262K सन्दर्भका लागि $0.50 इन र $2.00 आउट लिन्छ, र GLM-5.2 ले $0.73 इन र $2.34 आउट लिन्छ — त्यसैले समस्या ठूलो होइन गाह्रो हुँदा तपाईंले पुग्ने तह V4-Pro हो।

DeepSeek V4 Pro लाई सेन्सर नगरिकन बोलाउनुहोस्

262K सन्दर्भ, तर्क प्रयास, टुल कलिङ। एउटै कुञ्जीमा OpenAI, Anthropic र Responses डायलेक्ट।

API कागजात पढ्नुहोस् सबै मोडेल कार्ड

Shannon Lab LLC · न्यू मेक्सिको, USA · मोडेलहरू हाम्रो आफ्नै GPU क्लस्टरमा सेवा दिइन्छन्


स्रोतहरू: DeepSeek-AI — DeepSeek-V4-Pro मोडेल कार्ड · DeepSeek-V4 प्राविधिक प्रतिवेदन (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · DeepSeek-V3 प्राविधिक प्रतिवेदन · REAP the Experts (Cerebras Research) · Promptfoo सेन्सरसिप अडिट · Discovering Forbidden Topics in Language Models। बेन्चमार्क आँकडा सन्दर्भ रिलिजका लागि DeepSeek-AI ले प्रतिवेदन गरेका हुन्; सङ्कुचित बिल्डको स्वतन्त्र तेस्रो-पक्ष प्रमाणीकरण बाँकी छ। मूल्यहरू सेप्टेम्बर 5, 2026 सम्मका Shannon AI सूची मूल्य हुन्।

All research links