असेन्सॉर्ड DeepSeek API
1.6-ट्रिलियन-पॅरामीटर DeepSeek Mixture-of-Experts, कोणत्याही नकार स्तराशिवाय सर्व्ह केलेले: 262K संदर्भ, नेटिव्ह reasoning effort, टूल कॉलिंग, आणि आमच्या स्वतःच्या GPU क्लस्टरवर तीन API बोली.
थोडक्यात
DeepSeek-V4-Pro-0813-3BIT-REAP हे Shannon AI च्या असेन्सॉर्ड मालिकेतील आघाडीचे रिझनिंग-आणि-कोड मॉडेल आहे. आधार आहे DeepSeek-AI चे ओपन-वेट्स V4-Pro — एकूण 1.6T पॅरामीटर, प्रति टोकन 49B सक्रिय, MIT परवान्याखाली, दशलक्ष-टोकन संदर्भासाठी मुळातच प्रशिक्षित. आम्ही ते आमच्या स्वतःच्या GPU क्लस्टरवर 3-bit वेट्स आणि REAP एक्सपर्ट प्रूनिंगसह सर्व्ह करतो — 262,144-टोकन विंडो, 16,384-टोकन कमाल आउटपुट, स्ट्रीमिंग, नेटिव्ह टूल कॉलिंग, कडक json_schema आउटपुट, आणि एक reasoning_effort डायल. प्रति 1M इनपुट $1.95, प्रति 1M आउटपुट $3.90. व्हिजन नाही. नकार स्तर नाही, आउटपुट फिल्टरिंग नाही.
“असेन्सॉर्ड DeepSeek API” या शब्दप्रयोगापर्यंत पोहोचणाऱ्यांना एकच विशिष्ट गोष्ट हवी असते: DeepSeek च्या रिझनिंग आणि कोडिंग क्षमतेचे असे मॉडेल जे त्यांनी प्रत्यक्षात विचारलेल्या प्रश्नाचे उत्तर देते. क्षमतेचा अर्धा भाग नीट नोंदवलेला आहे — DeepSeek-AI ने वास्तुरचना आणि आकडे प्रकाशित केले आहेत, आणि वेट्स Hugging Face वर MIT परवान्याखाली आहेत. दुसरा अर्धा भाग हा संचालनाचा निर्णय आहे, आणि तो सहसा तुमच्यासाठी दुसऱ्याने घेतलेला असतो. हे पान दोन्ही भाग मांडते: V4-Pro आधार काय आहे, आमची 3BIT-REAP बिल्ड त्याचे काय करते, आणि आम्ही “असेन्सॉर्ड” म्हणतो तेव्हा त्याचा नेमका अर्थ काय.
01“असेन्सॉर्ड DeepSeek API” चा प्रत्यक्ष अर्थ
एकाच शब्दाखाली दोन वेगवेगळ्या यंत्रणा नोंदवल्या जातात. पहिली म्हणजे वेट्समध्येच भाजून घातलेले अलाइनमेंट — पोस्ट-ट्रेनिंगदरम्यान शिकलेले नकाराचे वर्तन. दुसरी म्हणजे सर्व्हिंगच्या बाजूचा मॉडरेशन स्तर: एक स्वतंत्र वर्गीकारक, जो मॉडेल पाहण्याआधी तुमचा प्रॉम्प्ट आणि तुम्ही पाहण्याआधी आउटपुट तपासतो, आणि मॉडेलला काय म्हणायचे होते याचा विचार न करता उत्तर वाक्याच्या मध्येच कापू शकतो.
दोन्ही मोजता येण्याजोग्या आहेत, आणि DeepSeek च्या स्वतःच्या सेवेचे मोजमाप झालेले आहे. Promptfoo ने राजकीयदृष्ट्या संवेदनशील प्रश्नांचा 1,360-प्रॉम्प्टचा संच जमवला आणि नोंदवले की DeepSeek च्या होस्ट केलेल्या R1 ने त्यांपैकी 1,156 प्रश्न नाकारले किंवा टाळले — साधारण 85%. याच कुटुंबावरील शैक्षणिक कामात लेखकांनी विचार-दमन (thought suppression) म्हटलेली एक वेगळी अपयशाची पद्धत आढळली, जिथे संवेदनशील विषयावर मॉडेलचा विचारप्रवाह सुरू होताच जवळजवळ लगेच थांबतो. Information Sciences मध्ये प्रकाशित झालेल्या स्वतंत्र तपासणीने अर्थपातळीवरील दडपशाही नोंदवली: मॉडेलच्या अंतर्गत विचारप्रवाहात असलेला आशय वापरकर्त्यापर्यंत पोहोचण्याआधी गुपचूप वगळला किंवा पुन्हा लिहिला जातो. ही सरळ नकारापेक्षा अवघड समस्या आहे, कारण कापलेले उत्तर उत्तरासारखेच दिसते.
आम्ही जे चालवतो ते ओपन-वेट्स रिलीज आहे, आम्ही स्वतः चालवत असलेल्या हार्डवेअरवर, अमेरिकेत, Shannon Lab LLC अंतर्गत. मॉडेलसमोर कोणताही नकार स्तर नाही आणि परत येणाऱ्या मजकुरावर कोणताही फिल्टर नाही: तुमचा प्रॉम्प्ट सर्व्ह होण्याआधी धोरणासाठी वर्गीकृत केला जात नाही, आणि आउटपुट प्रवाह बाहेर जाताना तपासला जात नाही. आधार MIT परवान्याखाली सार्वजनिक असल्यामुळे, आमचा शब्द प्रमाण मानण्याऐवजी तुम्ही स्वतः आमचे आउटपुट संदर्भ वेट्सशी ताडून पाहू शकता.
02आधार: DeepSeek-V4-Pro, एक 1.6T MoE
DeepSeek-V4 हे DeepSeek-AI चे सध्याचे ओपन-वेट्स कुटुंब आहे — एप्रिल 2026 मध्ये पूर्वदर्शित आणि MIT अंतर्गत दोन आकारांत प्रसिद्ध: V4-Flash (एकूण 284B, सक्रिय 13B) आणि V4-Pro (एकूण 1.6T, सक्रिय 49B). हा लेख Pro स्तराविषयी आहे. दोन्ही साधारण 33 ट्रिलियन टोकनवर पूर्व-प्रशिक्षित आहेत आणि दोन्ही मुळातच दशलक्ष-टोकन संदर्भाला पाठिंबा देतात.
लक्षात घेण्यासारखी गोष्ट म्हणजे विरळतेचे प्रमाण: कोणत्याही एका टोकनवर फक्त 3% पॅरामीटर सक्रिय होतात, आणि म्हणूनच एवढे मोठे मॉडेल मुळात सर्व्ह करता येते. MoE ब्लॉक अजूनही DeepSeekMoE आहेच — V2 मध्ये आणलेले बारीक-विभाजित राउटेड एक्सपर्ट अधिक कायम चालू असलेले शेअर्ड एक्सपर्ट — त्यात V4 मधले बदल किरकोळ आहेत, ज्यांतला सर्वात दृश्य म्हणजे सुरुवातीच्या स्तरांमधले हॅश राउटिंग. Multi-Token Prediction — V3 मधले सहायक उद्दिष्ट, जे स्पेक्युलेटिव्ह डीकोडिंगही शक्य करते — तसेच्या तसे राखले आहे.
V4 मधले नवीन भाग संरचनात्मक आहेत. Manifold-Constrained Hyper-Connections (mHC) साध्या रेसिड्युअल मार्गाच्या जागी शिकलेले मिश्रण-मॅट्रिक्स आणतात, जे Sinkhorn–Knopp प्रोजेक्शनद्वारे दुहेरी स्टोकास्टिक मॅट्रिक्सच्या मॅनिफोल्डवर बांधलेले असते — म्हणजे असा रेसिड्युअल प्रवाह जो प्रत्येक इनपुटनुसार वजने बदलतो, पण अतिशय खोल स्टॅक मोडून टाकणाऱ्या संख्यात्मक भरकटीशिवाय. प्रशिक्षण बहुतांश मॉड्यूलसाठी AdamW वरून Muon वर हलवले आहे, ज्यात Newton–Schulz ऑर्थोगोनलायझेशन वापरले जाते; AdamW फक्त एम्बेडिंग, प्रेडिक्शन हेड, नॉर्मलायझेशन आणि स्थिर mHC पॅरामीटरसाठी ठेवले आहे. आणि एक्सपर्ट वेट्स FP4 मध्ये प्रशिक्षित आहेत, तर बहुतेक इतर पॅरामीटर FP8 मध्ये — म्हणजे सुरुवातीपासूनच क्वांटायझेशन-जागरूक, आणि पुढील कॉम्प्रेशन मॉडेल किती सहजतेने पचवते यासाठी हेच महत्त्वाचे ठरते.
03MLA पासून CSA + HCA पर्यंत: DeepSeek लांब संदर्भ स्वस्त कसा ठेवते
चार पिढ्यांमध्ये DeepSeek चा सलग धागा आकार नाही, तर अटेन्शनचे अर्थकारण आहे. प्रत्येक आवृत्तीने KV कॅशेवर हल्ला केला आहे — जी संदर्भाबरोबर रेषीय वाढते आणि लांब लांबीवर मेमरी व्यापून टाकते.
- V2 ने Multi-head Latent Attention (MLA) आणले — कीज आणि व्हॅल्यूजचे एका लेटंट व्हेक्टरमध्ये कमी-रँक संयुक्त कॉम्प्रेशन, त्यामुळे जनरेशन प्रत्येक हेडचे पूर्ण K आणि V न ठेवता तो व्हेक्टर अधिक एक वेगळी केलेली RoPE की कॅश करते. DeepSeek ने नोंदवले की मानक मल्टी-हेड अटेन्शनच्या तुलनेत KV कॅशे साधारण 4–14% पर्यंत खाली आली, आणि गुणवत्ता टिकली किंवा सुधारली.
- V3 ने ते 671B पर्यंत नेले, आणि ओपन मॉडेलमध्ये स्वस्त लांब संदर्भासाठी MLA हेच गृहीत मानक बनले.
- V3.2 ने DeepSeek Sparse Attention (DSA) जोडले, ज्यात सर्व गोष्टींकडे लक्ष देण्याऐवजी एका हलक्या इंडेक्सरमार्फत प्रत्येक क्वेरीसाठी इतिहासाचा top-k उपसंच निवडला जातो.
- V4 संकर करते. Compressed Sparse Attention (CSA) आधी प्रत्येक m टोकनच्या KV नोंदी शिकलेल्या वजनांसह एका नोंदीत संकुचित करते, आणि मग त्या संकुचित नोंदींवर विरळ top-k निवड चालवते. Heavily Compressed Attention (HCA) कितीतरी अधिक आक्रमकपणे संकुचित करते पण निकालावर घन (dense) राहते. हे दोन स्तरप्रकार संपूर्ण स्टॅकमध्ये आलटून पालटून येतात, त्यामुळे स्वस्त जागतिक सारांश आणि अचूक स्थानिक पुनर्प्राप्ती एकत्र नांदतात.
दशलक्ष-टोकन संदर्भावर नोंदवलेला फायदा ठळक आहे: V3.2 च्या तुलनेत V4-Pro ला प्रति-टोकन इन्फरन्स FLOPs पैकी साधारण 27% आणि KV कॅशेपैकी 10% लागतात. म्हणूनच 262K विनंती मेमरीचा प्रसंग न ठरता सामान्य विनंतीसारखी वागते, आणि म्हणूनच लांब-संदर्भ पुनर्प्राप्तीचे आकडे काही दहा हजार टोकननंतर कोसळण्याऐवजी टिकून राहतात.
043BIT-REAP या प्रत्ययाचा अर्थ
आमचा कॅटलॉग आयडी 3BIT-REAP ने संपतो, आणि ते क्रमाने लावलेल्या दोन स्वतंत्र कॉम्प्रेशन पायऱ्यांचे वर्णन करते.
REAP: एक्सपर्ट विलीन न करता छाटणे
REAP म्हणजे Router-weighted Expert Activation Pruning, Cerebras Research कडून — “REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression”, ICLR 2026 साठी स्वीकारलेला शोधनिबंध. विरळ MoE मध्ये राउटर आपले एक्सपर्ट समानपणे वापरत नाही: एक लांब शेपूट क्वचित निवडली जाते, कमकुवतपणे निवडली जाते, किंवा दोन्ही. REAP प्रत्येक एक्सपर्टला राउटर गेट मूल्ये (तो किती वेळा आणि किती जोरात निवडला जातो) आणि एक्सपर्ट सक्रियतेचे नॉर्म्स (त्याचे आउटपुट किती योगदान देते) एकत्र करून गुण देते, आणि मग हरणाऱ्यांना सरळ काढून टाकते.
शोधनिबंधाचा युक्तिवाद असा की छाटणी विलीनीकरणापेक्षा सरस आहे: विलीनीकरण त्या कार्यात्मक विशेषीकरणाचीच सरासरी काढून टाकते ज्यासाठी मुळात MoE बांधण्यात अर्थ होता, तर राउटर जेमतेम पोहोचतो अशा एक्सपर्टना काढून टाकल्याने ते विशेषीकरण टिकते. 20B ते 1T पर्यंतच्या मॉडेलवर REAP ने जनरेटिव्ह बेंचमार्कवर विलीनीकरण आणि स्पर्धक छाटणी-पद्धतींना मागे टाकले, आणि लेखक नोंदवतात की Qwen3-Coder-480B आणि Kimi-K2 वर 50% एक्सपर्ट छाटणीवरही कोड जनरेशन आणि टूल कॉलिंगमध्ये जवळजवळ शून्य तोटा होतो — आणि नेमके हेच कामाचे स्वरूप या मॉडेलसाठी अपेक्षित आहे.
3-bit वेट्स: सर्वात मोठ्या आधारांसाठीचा कॉम्प्रेशन स्तर
जे उरते ते नंतर 3-bit वेट्समध्ये क्वांटाइझ केले जाते. तीन बिट आक्रमक आहेत, आणि आम्ही तसे नाही असे भासवत नाही: संपूर्ण मालिकेत आधार पुरेसा लहान असून पिळण्याची गरज नसेल तिथे आम्ही W8A16 वापरतो, मधल्या पातळीवर W4A16-AUTOROUND-REAP, आणि 3BIT-REAP फक्त सर्वात मोठ्या आधारांवर — जिथे मॉडेल सर्व्ह करणे आणि न करणे यातलाच तो फरक असतो.
तडजोड स्पष्टपणे सांगण्याजोगी आहे: 3-bit 1.6T MoE हे संदर्भ रिलीजशी बिट-दर-बिट सारखे नाही, आणि थोडा गुणवत्तेचा खर्च खरा आहे. त्या बदल्यात तुम्हाला असा आधार मिळतो, ज्याची अकॉम्प्रेस्ड कमाल मर्यादा जास्त अचूकतेवर सहज बसणाऱ्या कशाहीपेक्षा कितीतरी वर आहे — आणि V4 चे एक्सपर्ट मुळातच FP4 मध्ये प्रशिक्षित असल्यामुळे, पुढील वेट कॉम्प्रेशनखाली हे मॉडेल असामान्यरीत्या सुस्वभावी राहते. अचूकतेच्या बाबतीत हलक्या हाताची DeepSeek बिल्ड हवी असेल, तर DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP 16-bit ॲक्टिव्हेशनसह 4-bit वेट्स आणि AutoRound चे शिकलेले राउंडिंग वापरते, त्याच 262K संदर्भावर $0.50 इन / $2.00 आउट या दरात.
05रिझनिंग, आणि reasoning_effort डायल
V4 चे पोस्ट-ट्रेनिंग विषयनिहाय तज्ज्ञ स्वतंत्रपणे प्रशिक्षित करते — गणित, कोडिंग, एजंट, सूचनापालन — आधी SFT आणि मग GRPO, म्हणजे DeepSeek ने R1 सोबत आणलेली Group Relative Policy Optimization पद्धत. नंतर हे तज्ज्ञ रिव्हर्स-KL उद्दिष्टाखाली ऑन-पॉलिसी डिस्टिलेशनद्वारे एकाच मॉडेलमध्ये एकत्र आणले जातात, त्यामुळे एकच चेकपॉइंट अनेक क्षेत्रांत एकाच वेळी तज्ज्ञ-दर्जाचे वर्तन बाळगतो — सर्वच गोष्टींत जेमतेम असणारा सर्वसाधारण मॉडेल न ठरता.
प्रसिद्ध झालेले मॉडेल दोन-टोकी स्विचऐवजी टप्प्याटप्प्याने विचार करण्याचे मोड देते. आमच्या गेटवेवर तेच प्रमाणित reasoning_effort पॅरामीटर आहे — या मॉडेलवरचे सर्वात उपयुक्त एकमेव बटण:
- Low — जवळजवळ थेट उत्तर: वर्गीकरण, माहिती काढणे, पुनर्लेखन, आणि जिथे तुम्ही मॉडेलच्या विचारमंथनासाठी नव्हे तर त्याच्या ज्ञानासाठी पैसे देत आहात असे कोणतेही काम.
- Medium — कोड पुनरावलोकन, डीबगिंग आणि बहु-टप्पी विश्लेषणासाठीचा नेहमीचा कार्यमोड.
- High — उत्तर देण्याआधी दीर्घ विचारमंथन. इथेच कठीण समस्या सुटतात, आणि इथेच तुमचे आउटपुट-टोकन बिल राहते, कारण रिझनिंग टोकन आउटपुट म्हणून बिल केले जातात.
नकार स्तर नसल्यामुळे संवेदनशील विषयांवर विचारप्रवाह कापला जात नाही — पहिल्या-पक्षाच्या सेवेवर नोंदवलेला विचार-दमनाचा प्रकार इथे घडण्यासाठी कोणतीही यंत्रणाच नाही.
06कोड आणि एजंटिक काम: आधाराचे गुण
हे V4-Pro रिलीजसाठी DeepSeek-AI ने स्वतः प्रकाशित केलेले आकडे आहेत — आमचे नाहीत, आणि आमच्या क्वांटाइझ्ड बिल्डवर मोजलेलेही नाहीत. हा आधार निवडण्याचे प्रामाणिक कारण तेच असल्यामुळे आम्ही ते दाखवतो, आणि ते पहिल्या-पक्षाचे आहेत असे नमूद करतो जेणेकरून तुम्ही त्यांना त्यानुसार वजन देऊ शकाल.
दोहोंवर भाष्य आवश्यक आहे. SWE-bench Verified वर 80.6% म्हणजे खऱ्या रेपॉझिटरीतील इश्यू सोडवणे — अपरिचित कोडबेस वाचणे, दोष शोधणे, आणि प्रकल्पाच्या स्वतःच्या चाचण्या उत्तीर्ण होणारा पॅच तयार करणे. दहा लाख टोकनवरील MRCR (83.5) म्हणजे पूर्ण लांबीवर बहु-फेरी सहसंदर्भ पुनर्प्राप्ती — हाच आकडा सांगतो की लांब-संदर्भाचा दावा नुसती सजावट नाही. DeepSeek या मॉडेलसाठी 3206 चे Codeforces रेटिंग आणि 1M संदर्भावर CorpusQA वर 62.0 असेही नोंदवते.
वरील आकडे DeepSeek-V4-Pro संदर्भ रिलीजसाठी DeepSeek-AI ने नोंदवलेले आहेत. आमची 3BIT-REAP बिल्ड त्या वेट्सची संकुचित आवृत्ती आहे आणि या कामांवर तिचे स्वतंत्रपणे बेंचमार्किंग झालेले नाही; संदर्भ गुण या एंडपॉइंटचे मोजमाप नव्हे, तर आधाराची कमाल मर्यादा माना.
07262K संदर्भ: प्रत्यक्षात काय बसते
संदर्भ मॉडेल दहा लाख टोकनसाठी प्रशिक्षित आहे. आम्ही 262,144 सर्व्ह करतो — गेटवेवरील प्रत्येक मॉडेल हीच विंडो वापरते, त्यामुळे मॉडेल बदलणे म्हणजे एका ओळीचा बदल आणि कधीही संदर्भाची घसरण नाही. प्रत्यक्षात बहुतेक खऱ्या कामांसाठी संदर्भ अडचणीचा ठरतो त्या टप्प्याच्या पलीकडे 262K आहे:
| कामाचा प्रकार | अंदाजे टोकन | 262K मध्ये बसते? |
|---|---|---|
| मध्यम आकाराचा सर्व्हिस रेपो (~50k ओळी) | ~600K | नाही — मॉड्यूल निवडा |
| एक उपप्रणाली आणि तिच्या चाचण्या | ~60–120K | होय, आरामात |
| एका प्रोटोकॉलचा पूर्ण RFC संच | ~150K | होय |
| 700 पानी तांत्रिक पुस्तक | ~250K | होय, मर्यादेजवळ |
| लांब एजंट रन, 40+ टूल फेऱ्या | ~80–200K | होय |
नियोजन करताना लक्षात ठेवण्याजोगी मर्यादा आउटपुटची आहे: प्रति प्रतिसाद कमाल 16,384 टोकन. एवढ्यात एक लांब दस्तऐवज किंवा भरीव बहु-फाइल पॅच बसतो, पण संपूर्ण कोडबेस नाही. मोठी जनरेशन कामे एका प्रचंड कम्प्लीशनसाठी विचारून नव्हे, तर आधीचे आउटपुट पुन्हा संदर्भात टाकून विनंत्या साखळीने जोडून केली जातात — आणि 262K विंडो हेच स्वस्त करते.
08किंमत, आणि मालिकेत V4-Pro चे स्थान
प्रति दशलक्ष टोकन $1.95 इन / $3.90 आउट या दरात V4-Pro हा आघाडीचा रिझनिंग स्तर आहे — समस्या कठीण असेल तेव्हा गाठायचे मॉडेल. ती फक्त मोठी असेल, तेव्हा त्याच 262K विंडोवरची स्वस्त मॉडेल तेच काम एक चतुर्थांश किमतीत करतील.
| असेन्सॉर्ड मॉडेल | इन / 1M | आउट / 1M | व्हिजन | कशासाठी सर्वोत्तम |
|---|---|---|---|---|
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | नाही | कठीण रिझनिंग, कोड, एजंट |
| DeepSeek-V4-Flash · W4A16 | $0.50 | $2.00 | नाही | तीच वंशावळ, मोठा वापर |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | नाही | सर्वसाधारण कामाचा घोडा |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | होय | सर्वोच्च दर्जाचे मल्टिमोडल एजंट |
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | होय | सर्वात स्वस्त व्हिजन |
लोक प्रत्यक्षात जी तुलना करतील तिच्याबद्दल स्पष्ट बोलू: DeepSeek चा स्वतःचा API याहून स्वस्त आहे — पहिल्या-पक्षाचे V4-Pro साधारण $0.435 इन / $0.87 आउट या दराने दिले जाते, आणि त्यांची कॅशे-हिट इनपुट किंमत त्याहूनही कमी आहे. प्रति टोकन किंमत हाच तुमचा एकमेव निकष असेल आणि मॉडरेशनच्या वर्तनाचा तुमच्या कामावर परिणाम होत नसेल, तर पहिल्या-पक्षाचा API वापरा; तुम्हाला ते नंतर कळण्यापेक्षा आम्ही आताच सांगणे बरे. जादा किंमत वेगळ्या गुणधर्मांचा संच विकत घेते: नकार स्तर नाही आणि आउटपुट फिल्टर नाही, Shannon Lab LLC अंतर्गत अमेरिकन संचालक, तारीख असलेला पिन केलेला चेकपॉइंट (0813) — म्हणजे अपस्ट्रीममधली गुपचूप सुधारणा प्रकल्पाच्या मध्यावर तुमचे आउटपुट कधीच बदलत नाही, एकाच मॉडेलवर तीन API बोली, आणि मालिकेतील बाराही मॉडेलवर तीच 262K विंडो आणि तेच पॅरामीटर पृष्ठभाग.
09कॉल करणे: तीन बोली, एक मॉडेल
गेटवेवरील प्रत्येक मॉडेल तिन्ही एंडपॉइंटवर उत्तर देते, आणि प्रत्येकावर स्ट्रीमिंगसह. तुम्ही नवीन SDK स्वीकारत नाही — तुम्ही एक बेस URL आणि एक मॉडेल आयडी बदलता.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
"reasoning_effort": "high",
"stream": true,
"messages": [
{"role": "system", "content": "You are a systems programmer. Be direct."},
{"role": "user", "content": "Audit this parser for memory-safety bugs."}
]
}'
/v1/chat/completions— OpenAI बोली; OpenAI SDK आणि त्यांवर उभारलेल्या कशाहीसोबत चालते./v1/messages— Anthropic बोली, आधीच त्या आकारानुसार लिहिलेल्या कोडबेससाठी./v1/responses— Responses-शैलीचा इंटरफेस.
या मॉडेलवर समर्थित: स्ट्रीमिंग, नेटिव्ह टूल कॉलिंग, कडक json_schema संरचित आउटपुट, response_format, आणि reasoning_effort. संपूर्ण पॅरामीटर संदर्भ आणि थेट प्लेग्राउंड API दस्तऐवजांमध्ये आहेत.
10प्रामाणिक मर्यादा
यावर काही उभारण्याआधी चार गोष्टी माहीत असाव्यात:
- व्हिजन नाही. फक्त मजकूर; कोणत्याही एंडपॉइंटवर ते इमेज इनपुट स्वीकारणार नाही. पाहू शकणारे असेन्सॉर्ड मॉडेल हवे असेल तर Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 किंवा inkling वापरा.
- 16,384-टोकन आउटपुट मर्यादा. उच्च effort वर रिझनिंग टोकनही याच मर्यादेत मोजले जातात, त्यामुळे दीर्घ विचारमंथनानंतर उत्तरासाठी कमी जागा उरते. मोठ्या जनरेशन कामांसाठी विनंत्या साखळीने जोडा.
- 3-bit हे खरे कॉम्प्रेशन आहे. संदर्भ गुण आधाराचे वर्णन करतात, या बिल्डचे नाही. सर्वोच्च विश्वासार्हतेच्या स्तरासाठी
W8A16मॉडेल (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) सर्वात कमी क्वांटायझेशन बाळगतात. - असेन्सॉर्ड म्हणजे परिणामांपासून मुक्त नाही. नकार स्तर नसणे म्हणजे तुम्ही काय विचारता आणि उत्तराचे काय करता याची जबाबदारी तुमचीच — आमच्या सेवा अटींनुसार आणि तुम्ही जिथे काम करता तिथल्या कायद्यानुसार.
या पानावरील प्रत्येक वास्तुरचनात्मक दावा आणि बेंचमार्क आकडा सार्वजनिक प्राथमिक स्रोतातून आला आहे. ते स्वतः वाचा.
11वारंवार विचारले जाणारे प्रश्न
असेन्सॉर्ड DeepSeek API म्हणजे काय?
हे DeepSeek-V4-Pro हे ओपन-वेट्स मॉडेल आहे, जे Shannon AI च्या स्वतःच्या GPU क्लस्टरवर सर्व्ह केले जाते — त्याच्यासमोर कोणताही नकार स्तर नाही आणि ते जे परत देते त्यावर कोणतेही फिल्टरिंग लावले जात नाही. तुम्ही ते /v1/chat/completions, /v1/messages किंवा /v1/responses वर 262,144-टोकन संदर्भ विंडोसह कॉल करता, आणि एंडपॉइंट मॉडरेशन करण्याऐवजी उत्तर देतो.
हे DeepSeek च्या अधिकृत API पेक्षा वेगळे कसे आहे?
तीच ओपन-वेट्स वंशावळ, वेगळा संचालक आणि वेगळे धोरण. DeepSeek ची स्वतःची सेवा प्रति टोकन स्वस्त आहे आणि ती स्वतःचे मॉडरेशन चालवते; Promptfoo आणि शैक्षणिक गटांनी प्रकाशित केलेल्या तपासण्यांनी तिथे राजकीयदृष्ट्या संवेदनशील प्रॉम्प्टवर नकार आणि अर्थपातळीवरील दडपशाही नोंदवली आहे. Shannon AI हे वेट्स अमेरिकेत कोणत्याही नकार स्तराशिवाय चालवते, तीन API बोलींवर reasoning effort आणि टूल कॉलिंग उपलब्ध करून देते, आणि तारीख असलेला चेकपॉइंट पिन करते जेणेकरून तुमच्या नकळत आउटपुट बदलत नाहीत.
3BIT-REAP म्हणजे काय?
दोन कॉम्प्रेशन पायऱ्या. REAP म्हणजे Router-weighted Expert Activation Pruning — Cerebras Research ची पद्धत, जी Mixture-of-Experts मॉडेलमधून क्वचित आणि कमकुवतपणे राउट होणारे एक्सपर्ट काढून टाकते; प्रत्येक एक्सपर्टला त्याच्या राउटर गेट मूल्यांवरून आणि आउटपुट सक्रियतेच्या नॉर्म्सवरून गुण दिले जातात. जे उरते ते नंतर 3-bit वेट्समध्ये क्वांटाइझ केले जाते. दोन्ही मिळून 1.6-ट्रिलियन-पॅरामीटर फाउंडेशन आमच्या स्वतःच्या GPU क्लस्टरवर बसवतात आणि वेगवान ठेवतात.
संदर्भ विंडो आणि कमाल आउटपुट किती मोठे आहेत?
262,144 टोकनचा संदर्भ आणि प्रति विनंती 16,384 टोकनपर्यंत आउटपुट. म्हणजे आत साधारण 600 ते 800 पाने मजकूर, आणि बाहेर एक लांब तांत्रिक दस्तऐवज किंवा मोठा बहु-फाइल पॅच. लांब कामे आउटपुट मर्यादा वाढवून नव्हे, तर विनंत्या साखळीने जोडून केली जातात.
DeepSeek V4 Pro टूल कॉलिंग आणि JSON स्कीमा आउटपुटला पाठिंबा देते का?
दोन्हींना होय. नेटिव्ह टूल कॉलिंग, कडक json_schema संरचित आउटपुट आणि response_format हे सर्व समर्थित आहेत, तसेच स्ट्रीमिंग आणि reasoning_effort पॅरामीटरही. ते इमेज इनपुट स्वीकारत नाही; असेन्सॉर्ड मॉडेलवर तुम्हाला व्हिजन हवे असेल तर त्याऐवजी Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 किंवा inkling वापरा.
असेन्सॉर्ड DeepSeek API ची किंमत किती आहे?
प्रति दशलक्ष इनपुट टोकन $1.95 आणि प्रति दशलक्ष आउटपुट टोकन $3.90. याच असेन्सॉर्ड मालिकेत DeepSeek-V4-Flash याच 262K संदर्भासाठी $0.50 इन आणि $2.00 आउट घेते, आणि GLM-5.2 $0.73 इन आणि $2.34 आउट घेते — म्हणून समस्या मोठी असण्यापेक्षा कठीण असेल तेव्हा गाठायचा स्तर म्हणजे V4-Pro.
DeepSeek V4 Pro असेन्सॉर्ड कॉल करा
262K संदर्भ, reasoning effort, टूल कॉलिंग. एकाच कीवर OpenAI, Anthropic आणि Responses बोली.
API दस्तऐवज वाचा सर्व मॉडेल कार्डShannon Lab LLC · न्यू मेक्सिको, अमेरिका · मॉडेल आमच्या स्वतःच्या GPU क्लस्टरवर सर्व्ह केली जातात
स्रोत: DeepSeek-AI — DeepSeek-V4-Pro मॉडेल कार्ड · DeepSeek-V4 तांत्रिक अहवाल (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · DeepSeek-V3 तांत्रिक अहवाल · REAP the Experts (Cerebras Research) · Promptfoo सेन्सॉरशिप तपासणी · Discovering Forbidden Topics in Language Models. बेंचमार्क आकडे संदर्भ रिलीजसाठी DeepSeek-AI ने नोंदवलेले आहेत; संकुचित बिल्डची स्वतंत्र तृतीय-पक्ष पडताळणी अद्याप बाकी आहे. किमती 5 सप्टेंबर 2026 रोजीच्या Shannon AI यादी-किमती आहेत.