અનસેન્સર્ડ DeepSeek API
એક 1.6-ટ્રિલિયન-પેરામીટર DeepSeek મિક્સ્ચર-ઓફ-એક્સપર્ટ્સ કોઈ ઇનકાર સ્તર વગર સર્વ થાય છે: 262K કોન્ટેક્સ્ટ, નેટિવ રિઝનિંગ ઇફર્ટ, ટૂલ કૉલિંગ, અને અમારા પોતાના GPU ક્લસ્ટર પર ત્રણ API ડાયલેક્ટ.
ટૂંકમાં
DeepSeek-V4-Pro-0813-3BIT-REAP એ Shannon AI ના અનસેન્સર્ડ લાઇનઅપનું ફ્લેગશિપ રિઝનિંગ-અને-કોડ મોડેલ છે. ફાઉન્ડેશન DeepSeek-AI નું ઓપન-વેઇટ્સ V4-Pro છે — 1.6T કુલ પેરામીટર, ટોકન દીઠ 49B એક્ટિવેટેડ, MIT-લાઇસન્સ્ડ, મિલિયન-ટોકન કોન્ટેક્સ્ટ માટે નેટિવલી તાલીમ પામેલું. અમે તેને અમારા પોતાના GPU ક્લસ્ટર પર REAP એક્સપર્ટ પ્રુનિંગ સાથે 3-બિટ વેઇટ્સ પર સર્વ કરીએ છીએ, 262,144-ટોકન વિન્ડો, 16,384-ટોકન મહત્તમ આઉટપુટ, સ્ટ્રીમિંગ, નેટિવ ટૂલ કૉલિંગ, સ્ટ્રિક્ટ json_schema આઉટપુટ, અને reasoning_effort ડાયલ સાથે. 1M ઇનપુટ દીઠ $1.95, 1M આઉટપુટ દીઠ $3.90. કોઈ વિઝન નહીં. કોઈ ઇનકાર સ્તર નહીં, કોઈ આઉટપુટ ફિલ્ટરિંગ નહીં.
"અનસેન્સર્ડ DeepSeek API" શબ્દસમૂહ પર આવતા લોકોને એક ચોક્કસ વસ્તુ જોઈએ છે: DeepSeek ની રિઝનિંગ અને કોડિંગ ક્ષમતા ધરાવતું મોડેલ જે તેમણે ખરેખર પૂછેલા પ્રશ્નનો જવાબ આપે. ક્ષમતાનો અડધો ભાગ સારી રીતે દસ્તાવેજીકૃત છે — DeepSeek-AI એ આર્કિટેક્ચર અને આંકડા પ્રકાશિત કર્યા છે, અને વેઇટ્સ Hugging Face પર MIT હેઠળ છે. બીજો અડધો ભાગ એક ઓપરેટિંગ નિર્ણય છે, અને તે સામાન્ય રીતે તમારા વતી લેવાયેલો હોય છે. આ પાનું બંને આવરી લે છે: V4-Pro ફાઉન્ડેશન શું છે, અમારું 3BIT-REAP બિલ્ડ તેની સાથે શું કરે છે, અને જ્યારે અમે "અનસેન્સર્ડ" કહીએ ત્યારે તેનો બરાબર શું અર્થ થાય છે.
01"અનસેન્સર્ડ DeepSeek API" નો ખરેખર શું અર્થ થાય છે
એક જ શબ્દ હેઠળ બે અલગ મિકેનિઝમ આવે છે. પહેલી છે વેઇટ્સમાં જડેલું અલાઇનમેન્ટ — પોસ્ટ-ટ્રેનિંગ દરમિયાન શીખેલું ઇનકારનું વર્તન. બીજી છે સર્વિંગ-સાઇડ મોડરેશન સ્તર: એક અલગ ક્લાસિફાયર જે મોડેલ તમારો પ્રોમ્પ્ટ જુએ તે પહેલાં તેનું નિરીક્ષણ કરે છે અને તમે આઉટપુટ જુઓ તે પહેલાં તેનું, અને મોડેલ ખરેખર શું કહેવા માગતું હતું તેને ધ્યાનમાં લીધા વગર જવાબને વાક્યની વચ્ચે કાપી શકે છે.
બંને માપી શકાય એવા છે, અને DeepSeek ની ફર્સ્ટ-પાર્ટી સેવા માપવામાં આવી છે. Promptfoo એ રાજકીય રીતે સંવેદનશીલ પ્રશ્નોનો 1,360-પ્રોમ્પ્ટનો સેટ ભેગો કર્યો અને જણાવ્યું કે DeepSeek ના હોસ્ટ કરેલા R1 એ તેમાંથી 1,156 ને નકાર્યા કે ટાળ્યા — લગભગ 85%. એ જ પરિવાર પરના શૈક્ષણિક કામે એક અલગ નિષ્ફળતાની રીત શોધી જેને લેખકોએ thought suppression કહ્યું, જ્યાં સંવેદનશીલ વિષય પર મોડેલનું રિઝનિંગ ટ્રેસ શરૂ થતાંની સાથે લગભગ સમાપ્ત થઈ જાય છે. Information Sciences માં પ્રકાશિત એક અલગ ઓડિટે સિમેન્ટિક-સ્તરનું સપ્રેશન દસ્તાવેજીકૃત કર્યું: મોડેલના આંતરિક રિઝનિંગમાં હાજર કન્ટેન્ટ જે વપરાશકર્તા સુધી પહોંચે તે પહેલાં ચૂપચાપ કાઢી નાખવામાં કે ફરીથી લખવામાં આવે છે. તે સીધા ઇનકાર કરતાં અઘરી સમસ્યા છે, કારણ કે કાપેલો જવાબ જવાબ જેવો દેખાય છે.
અમે જે ચલાવીએ છીએ તે ઓપન-વેઇટ્સ રિલીઝ છે, અમે ચલાવતાં હાર્ડવેર પર, USA માં, Shannon Lab LLC હેઠળ. મોડેલની સામે કોઈ ઇનકાર સ્તર નથી અને પાછું આવે છે તેના પર કોઈ ફિલ્ટર લાગુ થતું નથી: તમારો પ્રોમ્પ્ટ સર્વ થાય તે પહેલાં પોલિસી માટે વર્ગીકૃત થતો નથી, અને આઉટપુટ સ્ટ્રીમ બહાર જતાં નિરીક્ષણ થતું નથી. ફાઉન્ડેશન MIT-લાઇસન્સ્ડ અને જાહેર હોવાથી, તમે અમારો શબ્દ માનવાને બદલે અમારા આઉટપુટને રેફરન્સ વેઇટ્સ સામે જાતે સરખાવી શકો છો.
02ફાઉન્ડેશન: DeepSeek-V4-Pro, એક 1.6T MoE
DeepSeek-V4 એ DeepSeek-AI નો વર્તમાન ઓપન-વેઇટ્સ પરિવાર છે, એપ્રિલ 2026માં પ્રિવ્યૂ થયો અને MIT હેઠળ બે કદમાં શિપ થયો: V4-Flash (284B કુલ, 13B એક્ટિવેટેડ) અને V4-Pro (1.6T કુલ, 49B એક્ટિવેટેડ). આ લેખ Pro ટાયર વિશે છે. બંને લગભગ 33 ટ્રિલિયન ટોકન પર પ્રી-ટ્રેઇન થયેલા છે અને બંને નેટિવલી દસ-લાખ-ટોકન કોન્ટેક્સ્ટને સમર્થન આપે છે.
ધ્યાનમાં લેવા જેવી વસ્તુ સ્પાર્સિટી રેશિયો છે: કોઈપણ ટોકન પર માત્ર લગભગ 3% પેરામીટર જ ફાયર થાય છે, જે આટલા મોટા મોડેલને સર્વ કરી શકાય એવું બનાવે છે. MoE બ્લોક પોતે હજુ DeepSeekMoE છે — V2 માં રજૂ થયેલા ફાઇન-ગ્રેઇન્ડ રાઉટેડ એક્સપર્ટ વત્તા હંમેશાં-ચાલુ શેર્ડ એક્સપર્ટ — ફક્ત નાના V4 ફેરફારો સાથે, જેમાં સૌથી વધુ દેખાતો ફેરફાર શરૂઆતના લેયરમાં હેશ રાઉટિંગ છે. Multi-Token Prediction, V3 નો સહાયક ઉદ્દેશ જે સ્પેક્યુલેટિવ ડિકોડિંગને પણ સક્ષમ કરે છે, યથાવત જાળવવામાં આવ્યો છે.
V4 માં નવા ભાગો સ્ટ્રક્ચરલ છે. Manifold-Constrained Hyper-Connections (mHC) સાદા રેસિડ્યુઅલ પાથને એક શીખેલા મિક્સિંગ મેટ્રિક્સથી બદલે છે જે Sinkhorn–Knopp પ્રોજેક્શન દ્વારા ડબલી સ્ટોકેસ્ટિક મેટ્રિસિસના મેનિફોલ્ડ પર બંધાયેલું છે — એક રેસિડ્યુઅલ સ્ટ્રીમ જે ખૂબ ઊંડા સ્ટેકને મારી નાખતાં ન્યુમેરિકલ ડ્રિફ્ટ વગર ઇનપુટ પ્રમાણે રિવેઇટ કરે છે. તાલીમ મોટાભાગનાં મોડ્યુલ માટે AdamW પરથી Muon પર ખસી ગઈ, Newton–Schulz ઓર્થોગોનલાઇઝેશન વાપરીને, AdamW ફક્ત એમ્બેડિંગ, પ્રિડિક્શન હેડ, નોર્મલાઇઝેશન અને સ્ટેટિક mHC પેરામીટર માટે જ રાખેલું. અને એક્સપર્ટ વેઇટ્સ FP4 માં તાલીમ પામેલા છે જ્યારે મોટાભાગના બીજા પેરામીટર FP8 માં — શરૂઆતથી જ ક્વોન્ટાઇઝેશન-જાગૃત, જે મોડેલ વધુ કમ્પ્રેશન કેટલી સરળતાથી લે છે તેના માટે મહત્વનું છે.
03MLA થી CSA + HCA સુધી: DeepSeek લાંબા કોન્ટેક્સ્ટને સસ્તું કેવી રીતે રાખે છે
ચાર જનરેશનમાં DeepSeek નો સામાન્ય દોરો કદ નથી, તે એટેન્શન ઇકોનોમિક્સ છે. દરેક વર્ઝને KV કેશ પર હુમલો કર્યો છે, જે કોન્ટેક્સ્ટ સાથે રેખીય રીતે વધે છે અને લાંબી લંબાઈ પર મેમરી પર પ્રભુત્વ ધરાવે છે.
- V2 એ Multi-head Latent Attention (MLA) રજૂ કર્યું — key અને value નું લો-રેન્ક જોડિયું કમ્પ્રેશન એક લેટન્ટ વેક્ટરમાં, એટલે જનરેશન સંપૂર્ણ per-head K અને V ને બદલે એ વેક્ટર વત્તા એક ડિકપલ્ડ RoPE key કેશ કરે છે. DeepSeek એ પ્રમાણભૂત મલ્ટિ-હેડ એટેન્શનના લગભગ 4–14% સુધી KV કેશ ઘટ્યાનું જણાવ્યું, ક્વોલિટી જાળવીને કે સુધારીને.
- V3 એ તેને 671B સુધી સ્કેલ કર્યું, MLA ને ઓપન મોડેલમાં સસ્તા લાંબા કોન્ટેક્સ્ટ માટે ડિફૉલ્ટ ધારણા બનાવી.
- V3.2 એ DeepSeek Sparse Attention (DSA) ઉમેર્યું, દરેક ક્વેરી માટે એક હલકા ઇન્ડેક્સર દ્વારા બધા પર ધ્યાન આપવાને બદલે ઇતિહાસનો top-k સબસેટ પસંદ કરીને.
- V4 હાઇબ્રિડાઇઝ કરે છે. Compressed Sparse Attention (CSA) પહેલાં દરેક m ટોકનની KV એન્ટ્રીને શીખેલા વેઇટ્સ સાથે એક એન્ટ્રીમાં કમ્પ્રેસ કરે છે, પછી એ કમ્પ્રેસ કરેલી એન્ટ્રી પર sparse top-k સિલેક્શન ચલાવે છે. Heavily Compressed Attention (HCA) ઘણું વધુ આક્રમક રીતે કમ્પ્રેસ કરે છે પણ પરિણામ પર ડેન્સ રહે છે. બે લેયર પ્રકારો સ્ટેક દ્વારા ઇન્ટરલીવ કરેલા છે, એટલે સસ્તો ગ્લોબલ સારાંશ અને ચોક્કસ લોકલ રિટ્રીવલ સાથે-સાથે અસ્તિત્વ ધરાવે છે.
એક-મિલિયન-ટોકન કોન્ટેક્સ્ટ પર જણાવેલો ફાયદો સ્પષ્ટ છે: V4-Pro ને V3.2 ના લગભગ 27% પર-ટોકન ઇન્ફરન્સ FLOPs અને 10% KV કેશ જ જોઈએ છે. એટલે જ 262K વિનંતી એક મેમરી ઘટનાને બદલે સામાન્ય વિનંતી જેવી વર્તે છે, અને એટલે જ લાંબા-કોન્ટેક્સ્ટ રિટ્રીવલ આંકડા થોડાં દસ હજાર ટોકન પછી તૂટવાને બદલે ટકી રહે છે.
043BIT-REAP પ્રત્યય શું સૂચવે છે
અમારો કેટલોગ id 3BIT-REAP પર સમાપ્ત થાય છે, અને તે ક્રમમાં લાગુ થયેલા બે સ્વતંત્ર કમ્પ્રેશન પગલાંનું વર્ણન કરે છે.
REAP: એક્સપર્ટને પ્રુન કરવા, મર્જ નહીં
REAP એ Cerebras Research તરફથી Router-weighted Expert Activation Pruning છે — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", ICLR 2026 માટે સ્વીકૃત. એક sparse MoE માં રાઉટર પોતાના એક્સપર્ટને સમાનપણે વાપરતું નથી: એક લાંબી પૂંછડી ભાગ્યે જ, નબળી રીતે, અથવા બંને રીતે પસંદ થાય છે. REAP રાઉટર ગેટ વેલ્યુ (તે કેટલી વાર અને કેટલી મજબૂત રીતે પસંદ થાય છે) ને એક્સપર્ટ એક્ટિવેશન નોર્મ (તેનું આઉટપુટ કેટલું યોગદાન આપે છે) સાથે જોડીને દરેક એક્સપર્ટને સ્કોર કરે છે, પછી હારેલાઓને સીધા કાઢી નાખે છે.
પેપરની દલીલ છે કે પ્રુનિંગ મર્જિંગ કરતાં ચડિયાતું છે: મર્જિંગ એ ફંક્શનલ સ્પેશિયલાઇઝેશનની સરેરાશ કાઢી નાખે છે જેણે MoE ને બનાવવા યોગ્ય બનાવ્યું હતું, જ્યારે રાઉટર ભાગ્યે જ પહોંચે એવા એક્સપર્ટને કાઢી નાખવાથી તે જળવાય છે. 20B થી 1T સુધીના મોડેલોમાં, REAP એ જનરેટિવ બેન્ચમાર્ક પર મર્જિંગ અને સ્પર્ધક પ્રુનિંગ પદ્ધતિઓ કરતાં વધુ સારો દેખાવ કર્યો, અને લેખકો Qwen3-Coder-480B અને Kimi-K2 પર 50% એક્સપર્ટ પ્રુનિંગ પર કોડ જનરેશન અને ટૂલ કૉલિંગમાં લગભગ-લોસલેસ પરિણામો જણાવે છે — જે બરાબર આ મોડેલ જે વર્કલોડ પ્રોફાઇલ માટે અહીં છે એ જ છે.
3-બિટ વેઇટ્સ: સૌથી મોટા ફાઉન્ડેશન માટેનું કમ્પ્રેશન ટાયર
જે બચે છે તેને પછી 3-બિટ વેઇટ્સ પર ક્વોન્ટાઇઝ કરવામાં આવે છે. ત્રણ બિટ આક્રમક છે, અને અમે એ છુપાવતા નથી: લાઇનઅપમાં અમે W8A16 વાપરીએ છીએ જ્યાં ફાઉન્ડેશન એટલું નાનું છે કે તેને સ્ક્વીઝની જરૂર નથી, વચ્ચે W4A16-AUTOROUND-REAP, અને 3BIT-REAP ફક્ત સૌથી મોટા ફાઉન્ડેશન પર, જ્યાં તે મોડેલને સર્વ કરવા અને ન કરવા વચ્ચેનો ફરક છે.
ટ્રેડઓફ સ્પષ્ટપણે કહેવા જેવો છે: 3-બિટ 1.6T MoE રેફરન્સ રિલીઝ સાથે bit-identical નથી, અને થોડો ક્વોલિટી ખર્ચ ખરો છે. તેના બદલામાં તમને એવું ફાઉન્ડેશન મળે છે જેની અનકમ્પ્રેસ્ડ ટોચ ઊંચી પ્રિસિઝન પર આરામથી ફિટ થતી કોઈપણ વસ્તુ કરતાં ઘણી ઊંચી છે — અને V4 ના એક્સપર્ટ શરૂઆતથી જ FP4 માં તાલીમ પામેલા હોવાથી, મોડેલ વધુ વેઇટ કમ્પ્રેશન હેઠળ અસામાન્ય રીતે સારી રીતે વર્તે છે. જો તમને પ્રિસિઝન પર હલકા સ્પર્શવાળું DeepSeek બિલ્ડ જોઈએ, તો DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP 16-બિટ એક્ટિવેશન સાથે 4-બિટ વેઇટ્સ અને AutoRound ના શીખેલા રાઉન્ડિંગ વાપરે છે, એ જ 262K કોન્ટેક્સ્ટ પર $0.50 ઇન / $2.00 આઉટ પર.
05રિઝનિંગ, અને reasoning_effort ડાયલ
V4 નું પોસ્ટ-ટ્રેનિંગ ડોમેન સ્પેશિયાલિસ્ટને અલગથી તાલીમ આપે છે — ગણિત, કોડિંગ, એજન્ટ, સૂચના પાલન — SFT પછી GRPO સાથે, DeepSeek એ R1 સાથે રજૂ કરેલી Group Relative Policy Optimization પદ્ધતિ. પછી એ સ્પેશિયાલિસ્ટને એક રિવર્સ-KL ઉદ્દેશ હેઠળ ઓન-પોલિસી ડિસ્ટિલેશન દ્વારા એક મોડેલમાં એકીકૃત કરવામાં આવે છે, એટલે એક જ ચેકપોઇન્ટ એકસાથે ઘણા ડોમેનમાં સ્પેશિયાલિસ્ટ-ગ્રેડ વર્તન વહન કરે છે, બધામાં સામાન્ય-કક્ષાનું જનરલિસ્ટ બનવાને બદલે.
રિલીઝ થયેલું મોડેલ બાઇનરી સ્વિચને બદલે ક્રમાંકિત થિંકિંગ મોડ આપે છે. અમારા ગેટવે પર તે પ્રમાણભૂત reasoning_effort પેરામીટર છે, આ મોડેલ પરનો સૌથી ઉપયોગી ડાયલ:
- લો — લગભગ-સીધો જવાબ: વર્ગીકરણ, નિષ્કર્ષણ, ફરીથી લખવું, કોઈપણ વસ્તુ જ્યાં તમે મોડેલના વિચારવાને બદલે તેના જ્ઞાન માટે ચૂકવો છો.
- મીડિયમ — કોડ રિવ્યૂ, ડિબગિંગ અને મલ્ટિ-સ્ટેપ વિશ્લેષણ માટે ડિફૉલ્ટ કાર્યકારી મોડ.
- હાઈ — જવાબ આપતાં પહેલાં લાંબું વિચારવું. જ્યાં અઘરી સમસ્યાઓ ઉકેલાય છે, અને જ્યાં તમારું આઉટપુટ-ટોકન બિલ રહે છે, કારણ કે રિઝનિંગ ટોકન આઉટપુટ તરીકે બિલ થાય છે.
કોઈ ઇનકાર સ્તર ન હોવાથી, સંવેદનશીલ વિષય પર રિઝનિંગ ટ્રેસ કપાતું નથી — ફર્સ્ટ-પાર્ટી સેવા પર દસ્તાવેજીકૃત thought-suppression પેટર્ન અહીં થવાની કોઈ મિકેનિઝમ નથી.
06કોડ અને એજન્ટિક કામ: ફાઉન્ડેશન શું સ્કોર કરે છે
આ V4-Pro રિલીઝ માટે DeepSeek-AI ના પોતાના પ્રકાશિત આંકડા છે — અમારા નહીં, અને અમારા ક્વોન્ટાઇઝ્ડ બિલ્ડ પર માપેલા નહીં. અમે તેમને બતાવીએ છીએ કારણ કે તે આ ફાઉન્ડેશન પસંદ કરવાનું પ્રામાણિક કારણ છે, અને તેમને ફર્સ્ટ-પાર્ટી તરીકે ફ્લેગ કરીએ છીએ જેથી તમે તે પ્રમાણે તેમનું વજન કરી શકો.
બે ટિપ્પણી લાયક છે. SWE-bench Verified પર 80.6% એ ખરા-રિપોઝિટરી ઇશ્યૂ રિઝોલ્યુશન છે — અજાણ્યો કોડબેઝ વાંચવો, ખામી શોધવી, પ્રોજેક્ટના પોતાના ટેસ્ટ પાસ કરે એવો પેચ બનાવવો. પૂરી લંબાઈ પર MRCR (83.5) એ સંપૂર્ણ લંબાઈ પર મલ્ટિ-રાઉન્ડ કોરેફરન્સ રિટ્રીવલ છે, એ આંકડો જે તમને કહે છે કે લાંબા-કોન્ટેક્સ્ટનો દાવો સુશોભન નથી. DeepSeek મોડેલ માટે 3206 નું Codeforces રેટિંગ પણ જણાવે છે, અને 1M કોન્ટેક્સ્ટ પર CorpusQA પર 62.0.
ઉપરના આંકડા DeepSeek-V4-Pro રેફરન્સ રિલીઝ માટે DeepSeek-AI-જણાવેલા છે. અમારું 3BIT-REAP બિલ્ડ એ વેઇટ્સનું કમ્પ્રેસ્ડ વેરિઅન્ટ છે અને આ ટાસ્ક પર સ્વતંત્ર રીતે બેન્ચમાર્ક કરાયું નથી; રેફરન્સ સ્કોરને આ એન્ડપોઇન્ટના માપ તરીકે નહીં, ફાઉન્ડેશનની ટોચ તરીકે ગણો.
07262K કોન્ટેક્સ્ટ: ખરેખર શું ફિટ થાય છે
રેફરન્સ મોડેલ દસ લાખ ટોકન માટે તાલીમ પામેલું છે. અમે 262,144 સર્વ કરીએ છીએ — ગેટવે પરના દરેક મોડેલ શેર કરે છે એ વિન્ડો, એટલે મોડેલ બદલવું એક-લીટીનો ફેરફાર છે અને ક્યારેય કોન્ટેક્સ્ટમાં પીછેહઠ નથી. વ્યવહારમાં 262K મોટાભાગના ખરા કામ માટે કોન્ટેક્સ્ટ મર્યાદિત બને એ બિંદુની આગળ છે:
| વર્કલોડ | અંદાજિત ટોકન | 262K માં ફિટ થાય? |
|---|---|---|
| મધ્યમ-કદનો સર્વિસ રિપો (~50k લાઇન) | ~600K | ના — પસંદ કરેલા મોડ્યુલ |
| એક સબસિસ્ટમ + તેના ટેસ્ટ | ~60–120K | હા, આરામથી |
| એક પ્રોટોકોલ માટે પૂરો RFC સેટ | ~150K | હા |
| 700-પાનાંનું ટેકનિકલ પુસ્તક | ~250K | હા, મર્યાદાની નજીક |
| લાંબો એજન્ટ રન, 40+ ટૂલ ટર્ન | ~80–200K | હા |
જેની આસપાસ યોજના બનાવવી તે મર્યાદા આઉટપુટ છે: દરેક રિસ્પોન્સ દીઠ મહત્તમ 16,384 ટોકન. તે એક લાંબો ડોક્યુમેન્ટ કે નોંધપાત્ર મલ્ટિ-ફાઇલ પેચ છે, પણ કોડબેઝ નથી. મોટા જનરેશન કામ પાછલા આઉટપુટને કોન્ટેક્સ્ટમાં પાછું રાખીને વિનંતીઓ ચેઇન કરીને થાય છે — જે 262K વિન્ડો સસ્તું બનાવે છે — એક વિશાળ કમ્પ્લિશન માગવાને બદલે.
08કિંમત, અને V4-Pro લાઇનઅપમાં ક્યાં બેસે છે
1M ટોકન દીઠ $1.95 ઇન / $3.90 આઉટ પર, V4-Pro ફ્લેગશિપ રિઝનિંગ ટાયર છે — તમે તેને ત્યારે વાપરો છો જ્યારે સમસ્યા અઘરી હોય. જ્યારે તે ફક્ત મોટી હોય, ત્યારે એ જ 262K વિન્ડો પરના સસ્તા મોડેલ ચોથા ભાગની કિંમતે તે કરી આપશે.
| અનસેન્સર્ડ મોડેલ | ઇન / 1M | આઉટ / 1M | વિઝન | શેના માટે શ્રેષ્ઠ |
|---|---|---|---|---|
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | ના | અઘરું રિઝનિંગ, કોડ, એજન્ટ |
| DeepSeek-V4-Flash · W4A16 | $0.50 | $2.00 | ના | એ જ વંશ, ઊંચું વોલ્યુમ |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | ના | જનરલ-પર્પઝ વર્કહોર્સ |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | હા | ટોપ-એન્ડ મલ્ટિમોડલ એજન્ટ |
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | હા | સૌથી સસ્તું વિઝન |
લોકો ખરેખર જે સરખામણી કરશે તે વિશે સીધા રહીએ: DeepSeek નું પોતાનું API આના કરતાં સસ્તું છે — ફર્સ્ટ-પાર્ટી V4-Pro લગભગ $0.435 ઇન / $0.87 આઉટ પર લિસ્ટ થાય છે, અને તેમની cache-hit ઇનપુટ કિંમત તેનાથી પણ ઓછી છે. જો ટોકન દીઠ કિંમત તમારો એકમાત્ર માપદંડ છે અને મોડરેશનનું વર્તન તમારા કામને અસર કરતું નથી, તો ફર્સ્ટ-પાર્ટી API વાપરો; અમે તમને પછીથી શોધવા દેવાને બદલે તે અત્યારે કહેવાનું પસંદ કરીએ છીએ. પ્રીમિયમ ગુણધર્મોનો એક અલગ સેટ ખરીદે છે: કોઈ ઇનકાર સ્તર નહીં અને કોઈ આઉટપુટ ફિલ્ટર નહીં, Shannon Lab LLC હેઠળ US ઓપરેટર, એક પિન કરેલો ડેટેડ ચેકપોઇન્ટ (0813) જેથી ચૂપચાપ થયેલો અપસ્ટ્રીમ અપગ્રેડ તમારા પ્રોજેક્ટની વચ્ચે તમારા આઉટપુટને ક્યારેય બદલે નહીં, એક મોડેલ સામે ત્રણ API ડાયલેક્ટ, અને લાઇનઅપના બધા બાર મોડેલમાં એ જ 262K વિન્ડો અને પેરામીટર સપાટી.
09તેને કૉલ કરવું: ત્રણ ડાયલેક્ટ, એક મોડેલ
ગેટવે પરનું દરેક મોડેલ ત્રણેય એન્ડપોઇન્ટ પર જવાબ આપે છે, દરેક પર સ્ટ્રીમિંગ સાથે. તમે નવું SDK અપનાવતા નથી — તમે એક બેઝ URL અને એક મોડેલ id બદલો છો.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
"reasoning_effort": "high",
"stream": true,
"messages": [
{"role": "system", "content": "You are a systems programmer. Be direct."},
{"role": "user", "content": "Audit this parser for memory-safety bugs."}
]
}'
/v1/chat/completions— OpenAI ડાયલેક્ટ; OpenAI SDK અને તેના પર બનેલા કોઈપણ સાથે કામ કરે છે./v1/messages— Anthropic ડાયલેક્ટ, પહેલેથી એ આકાર સામે લખાયેલા કોડબેઝ માટે./v1/responses— Responses-શૈલીનું ઇન્ટરફેસ.
આ મોડેલ પર સમર્થિત: સ્ટ્રીમિંગ, નેટિવ ટૂલ કૉલિંગ, સ્ટ્રિક્ટ json_schema સ્ટ્રક્ચર્ડ આઉટપુટ, response_format, અને reasoning_effort. પૂરો પેરામીટર રેફરન્સ અને લાઇવ પ્લેગ્રાઉન્ડ API ડોક્યુમેન્ટેશનમાં છે.
10પ્રામાણિક મર્યાદાઓ
તેના પર બનાવતાં પહેલાં જાણવા જેવી ચાર વસ્તુઓ:
- કોઈ વિઝન નહીં. ફક્ત ટેક્સ્ટ; તે કોઈપણ એન્ડપોઇન્ટ પર ઇમેજ ઇનપુટ સ્વીકારશે નહીં. જો તમને જોઈ શકતું અનસેન્સર્ડ મોડેલ જોઈએ, તો Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 કે inkling વાપરો.
- 16,384-ટોકનની આઉટપુટ મર્યાદા. ઊંચા ઇફર્ટ પર રિઝનિંગ ટોકન તેની સામે ગણાય છે, એટલે લાંબું વિચારવાથી જવાબ માટે ઓછી જગ્યા રહે છે. મોટા જનરેશન કામ માટે વિનંતીઓ ચેઇન કરો.
- 3-બિટ ખરું કમ્પ્રેશન છે. રેફરન્સ સ્કોર ફાઉન્ડેશનનું વર્ણન કરે છે, આ બિલ્ડનું નહીં. સૌથી ઊંચા-ફિડેલિટી ટાયર માટે,
W8A16મોડેલ (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) સૌથી ઓછું ક્વોન્ટાઇઝેશન વહન કરે છે. - અનસેન્સર્ડ પરિણામ વગરનું નથી. કોઈ ઇનકાર સ્તર ન હોવાનો અર્થ છે કે તમે શું પૂછો છો, અને જવાબ સાથે તમે શું કરો છો, તેની જવાબદારી તમારી પાસે રહે છે — અમારી સેવાની શરતો અને તમે જ્યાં કામ કરો છો ત્યાંના કાયદા હેઠળ.
આ પાનાં પરનો દરેક આર્કિટેક્ચરલ દાવો અને બેન્ચમાર્ક આંકડો એક જાહેર પ્રાથમિક સોર્સમાંથી આવે છે. તેમને જાતે વાંચો.
11વારંવાર પુછાતા પ્રશ્નો
અનસેન્સર્ડ DeepSeek API એટલે શું?
તે DeepSeek-V4-Pro ઓપન-વેઇટ્સ મોડેલ છે જે Shannon AI ના પોતાના GPU ક્લસ્ટર પર તેની સામે કોઈ ઇનકાર સ્તર વગર અને તે પાછું આપે છે તેના પર કોઈ ફિલ્ટરિંગ લાગુ કર્યા વગર સર્વ થાય છે. તમે તેને /v1/chat/completions, /v1/messages કે /v1/responses પર 262,144-ટોકન કોન્ટેક્સ્ટ વિન્ડો સાથે કૉલ કરો છો, અને એન્ડપોઇન્ટ મોડરેટ કરવાને બદલે જવાબ આપે છે.
આ DeepSeek ના ઓફિશિયલ API કરતાં કેવી રીતે અલગ છે?
એ જ ઓપન-વેઇટ્સ વંશ, અલગ ઓપરેટર અને અલગ પોલિસી. DeepSeek ની ફર્સ્ટ-પાર્ટી સેવા ટોકન દીઠ સસ્તી છે અને પોતાનું મોડરેશન ચલાવે છે; Promptfoo અને શૈક્ષણિક જૂથો દ્વારા પ્રકાશિત ઓડિટે ત્યાં રાજકીય રીતે સંવેદનશીલ પ્રોમ્પ્ટ પર ઇનકાર અને સિમેન્ટિક સપ્રેશન દસ્તાવેજીકૃત કર્યું. Shannon AI વેઇટ્સને USA માં કોઈ ઇનકાર સ્તર વગર ચલાવે છે, ત્રણ API ડાયલેક્ટ પર રિઝનિંગ ઇફર્ટ અને ટૂલ કૉલિંગ ખુલ્લું મૂકે છે, અને ડેટેડ ચેકપોઇન્ટ પિન કરે છે જેથી આઉટપુટ તમારી નીચે ન બદલાય.
3BIT-REAP નો શું અર્થ થાય છે?
બે કમ્પ્રેશન પગલાં. REAP એ Router-weighted Expert Activation Pruning છે, Cerebras Research ની પદ્ધતિ જે મિક્સ્ચર-ઓફ-એક્સપર્ટ્સ મોડેલમાંથી ભાગ્યે જ અને નબળી રીતે રાઉટ થતા એક્સપર્ટને કાઢી નાખે છે, દરેક એક્સપર્ટને તેના રાઉટર ગેટ વેલ્યુ અને એક્ટિવેશન નોર્મથી સ્કોર કરીને. જે બચે છે તેને પછી 3-બિટ વેઇટ્સ પર ક્વોન્ટાઇઝ કરવામાં આવે છે. બંને મળીને 1.6-ટ્રિલિયન-પેરામીટર ફાઉન્ડેશનને અમારા પોતાના GPU ક્લસ્ટર પર ફિટ અને ઝડપી રાખે છે.
કોન્ટેક્સ્ટ વિન્ડો અને મહત્તમ આઉટપુટ કેટલા મોટા છે?
262,144 ટોકન કોન્ટેક્સ્ટના અને દરેક વિનંતી દીઠ 16,384 ટોકન સુધીના આઉટપુટ. તે લગભગ 600 થી 800 પાનાંનો ટેક્સ્ટ ઇન છે, અને એક લાંબો ટેકનિકલ ડોક્યુમેન્ટ કે મોટો મલ્ટિ-ફાઇલ પેચ આઉટ છે. લાંબાં કામ આઉટપુટ કેપ વધારવાને બદલે વિનંતીઓ ચેઇન કરીને થાય છે.
શું DeepSeek V4 Pro ટૂલ કૉલિંગ અને JSON schema આઉટપુટને સમર્થન આપે છે?
બંનેને હા. નેટિવ ટૂલ કૉલિંગ, સ્ટ્રિક્ટ json_schema સ્ટ્રક્ચર્ડ આઉટપુટ, અને response_format બધા સમર્થિત છે, સ્ટ્રીમિંગ અને reasoning_effort પેરામીટર સાથે. તે ઇમેજ ઇનપુટ સ્વીકારતું નથી; જો તમને અનસેન્સર્ડ મોડેલ પર વિઝન જોઈએ, તો તેના બદલે Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 કે inkling વાપરો.
અનસેન્સર્ડ DeepSeek API નો ખર્ચ કેટલો છે?
1 મિલિયન ઇનપુટ ટોકન દીઠ $1.95 અને 1 મિલિયન આઉટપુટ ટોકન દીઠ $3.90. એ જ અનસેન્સર્ડ લાઇનઅપમાં, DeepSeek-V4-Flash એ જ 262K કોન્ટેક્સ્ટ માટે $0.50 ઇન અને $2.00 આઉટ ખર્ચે છે, અને GLM-5.2 $0.73 ઇન અને $2.34 આઉટ ખર્ચે છે, એટલે V4-Pro એ ટાયર છે જે તમે વાપરો છો જ્યારે સમસ્યા મોટીને બદલે અઘરી હોય.
DeepSeek V4 Pro ને અનસેન્સર્ડ કૉલ કરો
262K કોન્ટેક્સ્ટ, રિઝનિંગ ઇફર્ટ, ટૂલ કૉલિંગ. એક કી પર OpenAI, Anthropic અને Responses ડાયલેક્ટ.
API ડોક્સ વાંચો બધા મોડેલ કાર્ડShannon Lab LLC · ન્યૂ મેક્સિકો, USA · મોડેલ અમારા પોતાના GPU ક્લસ્ટર પર સર્વ થાય છે
સોર્સ: DeepSeek-AI — DeepSeek-V4-Pro મોડેલ કાર્ડ · DeepSeek-V4 ટેકનિકલ રિપોર્ટ (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · DeepSeek-V3 ટેકનિકલ રિપોર્ટ · REAP the Experts (Cerebras Research) · Promptfoo સેન્સરશિપ ઓડિટ · Discovering Forbidden Topics in Language Models. બેન્ચમાર્ક આંકડા રેફરન્સ રિલીઝ માટે DeepSeek-AI-જણાવેલા છે; કમ્પ્રેસ્ડ બિલ્ડની સ્વતંત્ર તૃતીય-પક્ષ ચકાસણી બાકી છે. કિંમતો 5 સપ્ટેમ્બર, 2026 મુજબ Shannon AI ની લિસ્ટ કિંમતો છે.