സെൻസർ ചെയ്യാത്ത DeepSeek API

"സെൻസർ ചെയ്യാത്ത DeepSeek API" എന്ന വാക്യത്തിൽ എത്തുന്നവർക്ക് ഒരു പ്രത്യേക കാര്യമാണ് വേണ്ടത്: DeepSeek-ന്റെ യുക്തിചിന്താ, കോഡിംഗ് ശേഷിയുള്ള, താൻ യഥാർത്ഥത്തിൽ ചോദിച്ച ചോദ്യത്തിന് ഉത്തരം നൽകുന്ന ഒരു മോഡൽ. ശേഷിയുടെ പകുതി നന്നായി രേഖപ്പെടുത്തിയിട്ടുണ്ട് — DeepSeek-AI ആർക്കിടെക്ചറും സംഖ്യകളും പ്രസിദ്ധീകരിച്ചു, വെയ്റ്റുകൾ MIT-ന് കീഴിൽ Hugging Face-ൽ ഉണ്ട്. രണ്ടാം പകുതി ഒരു നടത്തിപ്പ് തീരുമാനമാണ്, സാധാരണ അത് നിങ്ങൾക്ക് വേണ്ടി മറ്റാരോ എടുക്കുന്നു. ഈ പേജ് രണ്ടും ഉൾക്കൊള്ളുന്നു: V4-Pro അടിത്തറ എന്താണ്, ഞങ്ങളുടെ 3BIT-REAP ബിൽഡ് അതിനോട് എന്ത് ചെയ്യുന്നു, ഞങ്ങൾ "സെൻസർ ചെയ്യാത്തത്" എന്ന് പറയുമ്പോൾ അതിന്റെ കൃത്യമായ അർത്ഥമെന്ത്.

01"സെൻസർ ചെയ്യാത്ത DeepSeek API" എന്നാൽ യഥാർത്ഥത്തിൽ എന്ത്

രണ്ട് വ്യത്യസ്ത സംവിധാനങ്ങൾ ഒരേ വാക്കിനു കീഴിൽ വരുന്നു. ആദ്യത്തേത് വെയ്റ്റുകളിൽ തന്നെ ചുട്ടെടുത്ത അലൈൻമെന്റാണ് — പോസ്റ്റ്-ട്രെയിനിംഗിൽ പഠിച്ചെടുത്ത നിരസന സ്വഭാവം. രണ്ടാമത്തേത് ഒരു സെർവിംഗ്-സൈഡ് മോഡറേഷൻ പാളിയാണ്: മോഡൽ കാണും മുമ്പ് നിങ്ങളുടെ പ്രോംപ്റ്റും നിങ്ങൾ കാണും മുമ്പ് ഔട്ട്പുട്ടും പരിശോധിക്കുന്ന ഒരു പ്രത്യേക ക്ലാസിഫയർ; മോഡലിന് എന്ത് പറയാനുണ്ടായിരുന്നു എന്നത് പരിഗണിക്കാതെ അതിന് ഒരു പ്രതികരണം വാക്യത്തിനിടയിൽ മുറിക്കാനാകും.

രണ്ടും അളക്കാവുന്നതാണ്, DeepSeek-ന്റെ സ്വന്തം സേവനം അളക്കപ്പെട്ടിട്ടുമുണ്ട്. രാഷ്ട്രീയമായി സൂക്ഷ്മമായ ചോദ്യങ്ങളുടെ 1,360 പ്രോംപ്റ്റുള്ള ഒരു കൂട്ടം Promptfoo ഉണ്ടാക്കി, DeepSeek-ന്റെ ഹോസ്റ്റ് ചെയ്ത R1 അതിൽ 1,156 എണ്ണം നിരസിക്കുകയോ വഴിതിരിച്ചുവിടുകയോ ചെയ്തതായി റിപ്പോർട്ട് ചെയ്തു — ഏകദേശം 85%. അതേ കുടുംബത്തെക്കുറിച്ചുള്ള അക്കാദമിക് പഠനങ്ങൾ രചയിതാക്കൾ ചിന്താ അടിച്ചമർത്തൽ എന്ന് വിളിച്ച ഒരു പ്രത്യേക പരാജയ രീതി കണ്ടെത്തി — സൂക്ഷ്മമായ ഒരു വിഷയത്തിൽ മോഡലിന്റെ യുക്തിചിന്താ രേഖ തുടങ്ങിയ ഉടനെ തന്നെ അവസാനിക്കുന്നു. Information Sciences-ൽ പ്രസിദ്ധീകരിച്ച മറ്റൊരു ഓഡിറ്റ് അർത്ഥതല അടിച്ചമർത്തൽ രേഖപ്പെടുത്തി: മോഡലിന്റെ ആന്തരിക യുക്തിചിന്തയിൽ ഉണ്ടായിരുന്ന ഉള്ളടക്കം ഉപയോക്താവിൽ എത്തും മുമ്പ് നിശ്ശബ്ദമായി ഒഴിവാക്കപ്പെടുകയോ മാറ്റിയെഴുതപ്പെടുകയോ ചെയ്യുന്നു. ഒരു നേരിട്ടുള്ള നിരസനത്തെക്കാൾ കടുത്ത പ്രശ്നമാണ് അത്, കാരണം മുറിഞ്ഞ ഒരു ഉത്തരം ഒരു ഉത്തരം പോലെയാണ് തോന്നുക.

ഞങ്ങൾ പ്രവർത്തിപ്പിക്കുന്നത് ഓപ്പൺ-വെയ്റ്റ് റിലീസാണ്, ഞങ്ങൾ നടത്തുന്ന ഹാർഡ്‌വെയറിൽ, അമേരിക്കയിൽ, Shannon Lab LLC-ക്ക് കീഴിൽ. മോഡലിന് മുന്നിൽ നിരസന പാളിയില്ല, തിരികെ വരുന്നതിൽ ഫിൽട്ടർ പ്രയോഗിക്കുന്നുമില്ല: നിങ്ങളുടെ പ്രോംപ്റ്റ് നൽകും മുമ്പ് നയത്തിനായി തരംതിരിക്കപ്പെടുന്നില്ല, ഔട്ട്പുട്ട് സ്ട്രീം പുറത്തേക്കുള്ള വഴിയിൽ പരിശോധിക്കപ്പെടുന്നുമില്ല. അടിത്തറ MIT ലൈസൻസുള്ളതും പൊതുവായതുമായതിനാൽ, ഞങ്ങളുടെ വാക്ക് വിശ്വസിക്കുന്നതിനു പകരം ഞങ്ങളുടെ ഔട്ട്പുട്ടുകൾ റഫറൻസ് വെയ്റ്റുകളോട് താരതമ്യം ചെയ്ത് നിങ്ങൾക്ക് സ്വയം പരിശോധിക്കാം.

02അടിത്തറ: DeepSeek-V4-Pro, ഒരു 1.6T MoE

DeepSeek-AI-യുടെ നിലവിലെ ഓപ്പൺ-വെയ്റ്റ് കുടുംബമാണ് DeepSeek-V4; 2026 ഏപ്രിലിൽ ഇത് ആദ്യം കാണിക്കുകയും MIT-ന് കീഴിൽ രണ്ട് വലുപ്പങ്ങളിൽ പുറത്തിറങ്ങുകയും ചെയ്തു: V4-Flash (ആകെ 284B, സജീവം 13B), V4-Pro (ആകെ 1.6T, സജീവം 49B). ഈ ലേഖനം Pro തട്ടിനെക്കുറിച്ചാണ്. രണ്ടും ഏകദേശം 33 ട്രില്യൺ ടോക്കണിൽ പ്രീ-ട്രെയിൻ ചെയ്തതാണ്, രണ്ടും ദശലക്ഷം ടോക്കൺ സന്ദർഭം നേറ്റീവായി പിന്തുണയ്ക്കുന്നു.

ശ്രദ്ധിക്കേണ്ടത് സ്പാഴ്സിറ്റി അനുപാതമാണ്: ഏതൊരു ടോക്കണിലും പാരാമീറ്ററുകളുടെ ഏകദേശം 3% മാത്രമേ പ്രവർത്തിക്കുന്നുള്ളൂ; ഇത്ര വലിയൊരു മോഡൽ നൽകാൻ കഴിയുന്നത് അതുകൊണ്ടാണ്. MoE ബ്ലോക്ക് ഇപ്പോഴും DeepSeekMoE തന്നെയാണ് — V2-ൽ അവതരിപ്പിച്ച സൂക്ഷ്മതല റൂട്ടഡ് എക്സ്പെർട്ടുകളും എപ്പോഴും പ്രവർത്തിക്കുന്ന പങ്കിട്ട എക്സ്പെർട്ടുകളും — V4-ൽ ചെറിയ മാറ്റങ്ങൾ മാത്രം, ഏറ്റവും പ്രകടമായി ആദ്യ ലെയറുകളിലെ ഹാഷ് റൂട്ടിംഗ്. സ്പെക്യുലേറ്റീവ് ഡീകോഡിംഗ് സാധ്യമാക്കുന്ന V3-ന്റെ സഹായക ലക്ഷ്യമായ Multi-Token Prediction മാറ്റമില്ലാതെ നിലനിർത്തിയിരിക്കുന്നു.

V4-ലെ പുതിയ ഭാഗങ്ങൾ ഘടനാപരമാണ്. Manifold-Constrained Hyper-Connections (mHC) സാധാരണ റെസിഡ്യുവൽ പാതയ്ക്ക് പകരം, Sinkhorn–Knopp പ്രൊജക്ഷൻ വഴി ഇരട്ട സ്റ്റോക്കാസ്റ്റിക് മാട്രിക്സുകളുടെ മാനിഫോൾഡിൽ പരിമിതപ്പെടുത്തിയ ഒരു പഠിച്ചെടുത്ത മിക്സിംഗ് മാട്രിക്സ് ഉപയോഗിക്കുന്നു — വളരെ ആഴമുള്ള അടുക്കുകളെ നശിപ്പിക്കുന്ന സംഖ്യാപരമായ വ്യതിയാനമില്ലാതെ ഇൻപുട്ടിനനുസരിച്ച് വീണ്ടും തൂക്കം നൽകുന്ന ഒരു റെസിഡ്യുവൽ സ്ട്രീം. പരിശീലനം മിക്ക മൊഡ്യൂളുകൾക്കും AdamW-യിൽ നിന്ന് Muon-ലേക്ക് മാറി, Newton–Schulz ഓർത്തോഗണലൈസേഷൻ ഉപയോഗിച്ച്; എംബെഡിംഗുകൾ, പ്രവചന ഹെഡുകൾ, നോർമലൈസേഷൻ, സ്ഥിരമായ mHC പാരാമീറ്ററുകൾ എന്നിവയ്ക്ക് മാത്രം AdamW നിലനിർത്തി. എക്സ്പെർട്ട് വെയ്റ്റുകൾ FP4-ൽ പരിശീലിപ്പിച്ചു, മറ്റ് മിക്ക പാരാമീറ്ററുകളും FP8-ൽ — തുടക്കം മുതൽ ക്വാണ്ടൈസേഷൻ-ബോധമുള്ളത്; തുടർന്നുള്ള കംപ്രഷനെ മോഡൽ എത്ര സുഗമമായി സ്വീകരിക്കുന്നു എന്നതിന് അത് പ്രധാനമാണ്.

03MLA-യിൽ നിന്ന് CSA + HCA-യിലേക്ക്: DeepSeek നീണ്ട സന്ദർഭം വിലകുറച്ച് നിലനിർത്തുന്നത് എങ്ങനെ

നാല് തലമുറകളിലൂടെയുള്ള DeepSeek-ന്റെ പൊതുനൂൽ വലുപ്പമല്ല, അറ്റൻഷന്റെ സാമ്പത്തികശാസ്ത്രമാണ്. ഓരോ പതിപ്പും KV കാഷെയെയാണ് ആക്രമിച്ചത്; അത് സന്ദർഭത്തിനൊപ്പം രേഖീയമായി വളരുകയും നീണ്ട നീളങ്ങളിൽ മെമ്മറിയിൽ ആധിപത്യം പുലർത്തുകയും ചെയ്യുന്നു.

• V2 Multi-head Latent Attention (MLA) അവതരിപ്പിച്ചു — കീകളെയും വാല്യുകളെയും ഒരു ലേറ്റന്റ് വെക്റ്ററിലേക്ക് ചുരുക്കുന്ന ലോ-റാങ്ക് സംയുക്ത കംപ്രഷൻ; അതിനാൽ ജനറേഷൻ ഓരോ ഹെഡിന്റെയും പൂർണ്ണ K, V-ക്ക് പകരം ആ വെക്റ്ററും വേർപെടുത്തിയ ഒരു RoPE കീയും കാഷെ ചെയ്യുന്നു. സാധാരണ മൾട്ടി-ഹെഡ് അറ്റൻഷന്റെ ഏകദേശം 4–14% ആയി KV കാഷെ കുറഞ്ഞതായി DeepSeek റിപ്പോർട്ട് ചെയ്തു, ഗുണനിലവാരം നിലനിർത്തിക്കൊണ്ടോ മെച്ചപ്പെടുത്തിക്കൊണ്ടോ.
• V3 അത് 671B-ലേക്ക് വലുതാക്കി, ഓപ്പൺ മോഡലുകളിൽ വിലകുറഞ്ഞ നീണ്ട സന്ദർഭത്തിനുള്ള സ്ഥിരം അനുമാനമായി MLA-യെ മാറ്റി.
• V3.2 DeepSeek Sparse Attention (DSA) ചേർത്തു — എല്ലാത്തിലും ശ്രദ്ധിക്കുന്നതിനു പകരം ഒരു ലഘു ഇൻഡെക്സർ വഴി ഓരോ ക്വറിക്കും ചരിത്രത്തിന്റെ ഒരു top-k ഉപഗണം തിരഞ്ഞെടുക്കുന്നു.
• V4 സങ്കരമാക്കുന്നു. Compressed Sparse Attention (CSA) ആദ്യം ഓരോ m ടോക്കണിന്റെയും KV എൻട്രികളെ പഠിച്ചെടുത്ത വെയ്റ്റുകളോടെ ഒരൊറ്റ എൻട്രിയാക്കി ചുരുക്കുന്നു, പിന്നെ ആ ചുരുക്കിയ എൻട്രികളിൽ സ്പാഴ്സ് top-k തിരഞ്ഞെടുപ്പ് നടത്തുന്നു. Heavily Compressed Attention (HCA) കൂടുതൽ ശക്തമായി ചുരുക്കുന്നു, പക്ഷേ ഫലത്തിന് മേൽ ഡെൻസായി തുടരുന്നു. ഈ രണ്ട് ലെയർ തരങ്ങളും അടുക്കിലുടനീളം ഇടകലർത്തിയിരിക്കുന്നു; അതിനാൽ വിലകുറഞ്ഞ ആഗോള സംഗ്രഹവും കൃത്യമായ പ്രാദേശിക വീണ്ടെടുപ്പും ഒരുമിച്ച് നിലനിൽക്കുന്നു.

ദശലക്ഷം ടോക്കൺ സന്ദർഭത്തിൽ റിപ്പോർട്ട് ചെയ്ത നേട്ടം ശ്രദ്ധേയമാണ്: V3.2-ന്റെ ടോക്കണിന്റെ ഇൻഫറൻസ് FLOP-കളുടെ ഏകദേശം 27%-ഉം KV കാഷെയുടെ 10%-ഉം മാത്രമേ V4-Pro-ക്ക് വേണ്ടൂ. അതുകൊണ്ടാണ് ഒരു 262K അഭ്യർത്ഥന ഒരു മെമ്മറി സംഭവമായല്ല, ഒരു സാധാരണ അഭ്യർത്ഥനയായി പെരുമാറുന്നത്, ഒപ്പം നീണ്ട സന്ദർഭത്തിലെ വീണ്ടെടുപ്പ് സംഖ്യകൾ ഏതാനും പതിനായിരം ടോക്കണുകൾക്കപ്പുറം തകർന്നുവീഴാതെ പിടിച്ചുനിൽക്കുന്നതും.

043BIT-REAP എന്ന അനുബന്ധത്തിന്റെ അർത്ഥം

ഞങ്ങളുടെ കാറ്റലോഗ് ഐഡി 3BIT-REAP എന്നതിൽ അവസാനിക്കുന്നു; ക്രമത്തിൽ പ്രയോഗിച്ച രണ്ട് സ്വതന്ത്ര കംപ്രഷൻ ഘട്ടങ്ങളാണ് അത് സൂചിപ്പിക്കുന്നത്.

REAP: എക്സ്പെർട്ടുകളെ ലയിപ്പിക്കുകയല്ല, വെട്ടിമാറ്റുകയാണ്

Cerebras Research-ൽ നിന്നുള്ള Router-weighted Expert Activation Pruning ആണ് REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", ICLR 2026-ൽ സ്വീകരിക്കപ്പെട്ടത്. ഒരു സ്പാഴ്സ് MoE-യിൽ റൂട്ടർ തന്റെ എക്സ്പെർട്ടുകളെ തുല്യമായി ഉപയോഗിക്കുന്നില്ല: ഒരു നീണ്ട വാൽ അപൂർവമായോ ദുർബലമായോ അല്ലെങ്കിൽ രണ്ടുമായോ തിരഞ്ഞെടുക്കപ്പെടുന്നു. റൂട്ടർ ഗേറ്റ് മൂല്യങ്ങളും (എത്ര തവണ, എത്ര ശക്തമായി തിരഞ്ഞെടുക്കപ്പെടുന്നു) എക്സ്പെർട്ട് ആക്ടിവേഷൻ നോമുകളും (അതിന്റെ ഔട്ട്പുട്ട് എത്ര സംഭാവന ചെയ്യുന്നു) സംയോജിപ്പിച്ച് REAP ഓരോ എക്സ്പെർട്ടിനെയും സ്കോർ ചെയ്യുന്നു, പിന്നെ തോറ്റവയെ പൂർണ്ണമായി ഇല്ലാതാക്കുന്നു.

ലയിപ്പിക്കലിനെ പ്രൂണിംഗ് തോൽപ്പിക്കുന്നു എന്നതാണ് പ്രബന്ധത്തിന്റെ വാദം: MoE ഉണ്ടാക്കാൻ മുതലാക്കിയ പ്രവർത്തനപരമായ സവിശേഷവൽക്കരണത്തെ ലയിപ്പിക്കൽ ശരാശരിയാക്കി ഇല്ലാതാക്കുന്നു, അതേസമയം റൂട്ടർ കഷ്ടിച്ചു മാത്രം എത്തുന്ന എക്സ്പെർട്ടുകളെ ഇല്ലാതാക്കുന്നത് അതിനെ നിലനിർത്തുന്നു. 20B മുതൽ 1T വരെയുള്ള മോഡലുകളിൽ, ജനറേറ്റീവ് ബെഞ്ച്മാർക്കുകളിൽ ലയിപ്പിക്കലിനെയും മത്സരിക്കുന്ന പ്രൂണിംഗ് രീതികളെയും REAP മറികടന്നു; Qwen3-Coder-480B, Kimi-K2 എന്നിവയിൽ 50% എക്സ്പെർട്ട് പ്രൂണിംഗിൽ കോഡ് നിർമ്മാണത്തിലും ടൂൾ കോളിംഗിലും ഏതാണ്ട് നഷ്ടരഹിതമായ ഫലങ്ങൾ രചയിതാക്കൾ റിപ്പോർട്ട് ചെയ്യുന്നു — ഈ മോഡൽ ഇവിടെയുള്ളത് കൃത്യമായി ആ ജോലിഭാരത്തിനാണ്.

3-ബിറ്റ് വെയ്റ്റുകൾ: ഏറ്റവും വലിയ അടിത്തറകൾക്കുള്ള കംപ്രഷൻ തട്ട്

അതിജീവിക്കുന്നത് പിന്നെ 3-ബിറ്റ് വെയ്റ്റുകളിലേക്ക് ക്വാണ്ടൈസ് ചെയ്യപ്പെടുന്നു. മൂന്ന് ബിറ്റ് ശക്തമായ ഒരു നടപടിയാണ്, അല്ലെന്ന് ഞങ്ങൾ നടിക്കുന്നില്ല: നിരയിലുടനീളം, ഞെരുക്കം ആവശ്യമില്ലാത്തത്ര ചെറിയ അടിത്തറകൾക്ക് ഞങ്ങൾ W8A16 ഉപയോഗിക്കുന്നു, നടുവിൽ W4A16-AUTOROUND-REAP, ഏറ്റവും വലിയ അടിത്തറകളിൽ മാത്രം 3BIT-REAP — അവിടെ മോഡൽ നൽകുന്നതും നൽകാതിരിക്കുന്നതും തമ്മിലുള്ള വ്യത്യാസമാണ് അത്.

ഈ വിട്ടുവീഴ്ച വ്യക്തമായി പറയേണ്ടതാണ്: ഒരു 3-ബിറ്റ് 1.6T MoE റഫറൻസ് റിലീസിനോട് ബിറ്റ്-സമാനമല്ല, ചെറിയൊരു ഗുണനിലവാര ചെലവ് യഥാർത്ഥവുമാണ്. പകരം നിങ്ങൾക്ക് കിട്ടുന്നത് ഒരു അടിത്തറയാണ് — അതിന്റെ കംപ്രസ് ചെയ്യാത്ത പരിധി ഉയർന്ന കൃത്യതയിൽ സുഖമായി ഒതുങ്ങുന്ന ഏതിനെക്കാളും ഏറെ മുകളിലാണ് — ഒപ്പം V4-ന്റെ എക്സ്പെർട്ടുകൾ തുടക്കത്തിലേ FP4-ൽ പരിശീലിപ്പിച്ചതിനാൽ, തുടർന്നുള്ള വെയ്റ്റ് കംപ്രഷനിൽ മോഡൽ അസാധാരണമാംവിധം നന്നായി പെരുമാറുന്നു. കൃത്യതയിൽ കൂടുതൽ മൃദുവായ ഒരു DeepSeek ബിൽഡ് വേണമെങ്കിൽ, DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP 4-ബിറ്റ് വെയ്റ്റുകളും 16-ബിറ്റ് ആക്ടിവേഷനുകളും AutoRound-ന്റെ പഠിച്ചെടുത്ത റൗണ്ടിംഗും ഉപയോഗിക്കുന്നു, അതേ 262K സന്ദർഭത്തിൽ $0.50 ഇൻ / $2.00 ഔട്ട്.

05യുക്തിചിന്തയും reasoning_effort ഡയലും

V4-ന്റെ പോസ്റ്റ്-ട്രെയിനിംഗ് മേഖലാ വിദഗ്ധരെ വെവ്വേറെ പരിശീലിപ്പിക്കുന്നു — ഗണിതം, കോഡിംഗ്, ഏജന്റുകൾ, നിർദ്ദേശ പാലനം — SFT-ക്ക് ശേഷം GRPO (R1-നൊപ്പം DeepSeek അവതരിപ്പിച്ച Group Relative Policy Optimization രീതി) ഉപയോഗിച്ച്. പിന്നെ ആ വിദഗ്ധരെ റിവേഴ്സ്-KL ലക്ഷ്യത്തിന് കീഴിലുള്ള ഓൺ-പോളിസി ഡിസ്റ്റിലേഷൻ വഴി ഒരൊറ്റ മോഡലാക്കി ഏകീകരിക്കുന്നു; അതിനാൽ എല്ലാത്തിലും ശരാശരിയായ ഒരു പൊതുവിജ്ഞാനിയാകുന്നതിനു പകരം ഒരൊറ്റ ചെക്ക്പോയിന്റ് ഒരേസമയം പല മേഖലകളിൽ വിദഗ്ധ നിലവാരത്തിലുള്ള സ്വഭാവം വഹിക്കുന്നു.

പുറത്തിറക്കിയ മോഡൽ ഒരു ദ്വിമുഖ സ്വിച്ചല്ല, ക്രമാനുഗതമായ ചിന്താ മോഡുകളാണ് നൽകുന്നത്. ഞങ്ങളുടെ ഗേറ്റ്‌വേയിൽ അത് സ്റ്റാൻഡേർഡ് reasoning_effort പാരാമീറ്ററാണ് — ഈ മോഡലിലെ ഏറ്റവും ഉപകാരപ്രദമായ ഒറ്റ നോബ്:

• Low — ഏതാണ്ട് നേരിട്ടുള്ള ഉത്തരം: വർഗ്ഗീകരണം, വിവരം വേർതിരിച്ചെടുക്കൽ, മാറ്റിയെഴുതൽ, മോഡലിന്റെ ആലോചനയ്ക്കല്ല അറിവിനാണ് പണം കൊടുക്കുന്ന എന്തും.
• Medium — കോഡ് അവലോകനം, ഡീബഗ്ഗിംഗ്, ബഹുഘട്ട വിശകലനം എന്നിവയ്ക്കുള്ള സ്ഥിരം പ്രവർത്തന മോഡ്.
• High — ഉത്തരം നൽകും മുമ്പ് നീണ്ട ആലോചന. കടുപ്പമുള്ള പ്രശ്നങ്ങൾ പരിഹരിക്കപ്പെടുന്നത് ഇവിടെയാണ്, നിങ്ങളുടെ ഔട്ട്പുട്ട്-ടോക്കൺ ബില്ലും ഇവിടെയാണ്; കാരണം യുക്തിചിന്താ ടോക്കണുകൾ ഔട്ട്പുട്ടായാണ് ബില്ല് ചെയ്യപ്പെടുന്നത്.

നിരസന പാളിയില്ലാത്തതിനാൽ, സൂക്ഷ്മമായ വിഷയങ്ങളിൽ യുക്തിചിന്താ രേഖ മുറിക്കപ്പെടുന്നില്ല — സ്വന്തം സേവനത്തിൽ രേഖപ്പെടുത്തിയ ചിന്താ-അടിച്ചമർത്തൽ രീതി ഇവിടെ സംഭവിക്കാൻ ഒരു സംവിധാനവുമില്ല.

06കോഡും ഏജന്റ് ജോലിയും: അടിത്തറ നേടുന്ന സ്കോറുകൾ

ഇവ V4-Pro റിലീസിനായി DeepSeek-AI സ്വയം പ്രസിദ്ധീകരിച്ച കണക്കുകളാണ് — ഞങ്ങളുടേതല്ല, ഞങ്ങളുടെ ക്വാണ്ടൈസ് ചെയ്ത ബിൽഡിൽ അളന്നതുമല്ല. ഈ അടിത്തറ തിരഞ്ഞെടുക്കാനുള്ള സത്യസന്ധമായ കാരണം അവയാണ് എന്നതിനാൽ ഞങ്ങൾ അവ കാണിക്കുന്നു, ഒപ്പം അതിനനുസരിച്ച് നിങ്ങൾക്ക് തൂക്കം നൽകാൻ കഴിയേണ്ടതിനാൽ അവ ഒന്നാം കക്ഷിയുടേതാണെന്ന് അടയാളപ്പെടുത്തുന്നു.

രണ്ടെണ്ണം പരാമർശം അർഹിക്കുന്നു. SWE-bench Verified-ൽ 80.6% എന്നത് യഥാർത്ഥ റെപ്പോസിറ്ററിയിലെ പ്രശ്ന പരിഹാരമാണ് — പരിചയമില്ലാത്ത ഒരു കോഡ്‌ബേസ് വായിക്കുക, തകരാർ കണ്ടെത്തുക, പ്രോജക്റ്റിന്റെ സ്വന്തം ടെസ്റ്റുകൾ പാസാകുന്ന ഒരു പാച്ച് ഉണ്ടാക്കുക. ദശലക്ഷം ടോക്കണിൽ MRCR (83.5) എന്നത് പൂർണ്ണ നീളത്തിലുള്ള ബഹുവട്ട കോറഫറൻസ് വീണ്ടെടുപ്പാണ് — നീണ്ട സന്ദർഭത്തിന്റെ അവകാശവാദം അലങ്കാരമല്ലെന്ന് പറയുന്ന സംഖ്യ. മോഡലിന് 3206 എന്ന Codeforces റേറ്റിംഗും 1M സന്ദർഭത്തിൽ CorpusQA-യിൽ 62.0-ഉം DeepSeek റിപ്പോർട്ട് ചെയ്യുന്നു.

മുകളിലെ കണക്കുകൾ DeepSeek-V4-Pro റഫറൻസ് റിലീസിനായി DeepSeek-AI റിപ്പോർട്ട് ചെയ്തവയാണ്. ഞങ്ങളുടെ 3BIT-REAP ബിൽഡ് ആ വെയ്റ്റുകളുടെ കംപ്രസ് ചെയ്ത ഒരു വകഭേദമാണ്, ഈ ജോലികളിൽ അത് സ്വതന്ത്രമായി ബെഞ്ച്മാർക്ക് ചെയ്തിട്ടില്ല; റഫറൻസ് സ്കോറുകളെ ഈ എൻഡ്‌പോയിന്റിന്റെ അളവായല്ല, അടിത്തറയുടെ പരിധിയായി കണക്കാക്കുക.

07262K സന്ദർഭം: യഥാർത്ഥത്തിൽ എന്ത് ഒതുങ്ങും

റഫറൻസ് മോഡൽ ദശലക്ഷം ടോക്കണിനായി പരിശീലിപ്പിച്ചതാണ്. ഞങ്ങൾ 262,144 നൽകുന്നു — ഗേറ്റ്‌വേയിലെ എല്ലാ മോഡലും പങ്കിടുന്ന ജാലകം; അതിനാൽ മോഡലുകൾ മാറ്റുന്നത് ഒറ്റവരി മാറ്റമാണ്, ഒരിക്കലും ഒരു സന്ദർഭ പിന്നോട്ടടിയുമല്ല. പ്രായോഗികമായി, മിക്ക യഥാർത്ഥ ജോലികളിലും സന്ദർഭം തടസ്സമാകുന്ന ഘട്ടത്തിനും അപ്പുറമാണ് 262K:

ജോലിഭാരം	ഏകദേശ ടോക്കണുകൾ	262K-യിൽ ഒതുങ്ങുമോ?
ഇടത്തരം സേവന റെപ്പോ (~50k വരികൾ)	~600K	ഇല്ല — മൊഡ്യൂളുകൾ തിരഞ്ഞെടുക്കുക
ഒരൊറ്റ ഉപസംവിധാനവും അതിന്റെ ടെസ്റ്റുകളും	~60–120K	ഉവ്വ്, സുഖമായി
ഒരു പ്രോട്ടോക്കോളിന്റെ പൂർണ്ണ RFC കൂട്ടം	~150K	ഉവ്വ്
700 പേജുള്ള ഒരു സാങ്കേതിക പുസ്തകം	~250K	ഉവ്വ്, പരിധിയോട് അടുത്ത്
നീണ്ട ഏജന്റ് പ്രവർത്തനം, 40+ ടൂൾ ഊഴങ്ങൾ	~80–200K	ഉവ്വ്

ആസൂത്രണം ചെയ്യേണ്ട പരിധി ഔട്ട്പുട്ടാണ്: ഒരു പ്രതികരണത്തിന് പരമാവധി 16,384 ടോക്കൺ. അത് ഒരു നീണ്ട രേഖയോ കാര്യമായ ഒരു ബഹുഫയൽ പാച്ചോ ആണ്, ഒരു കോഡ്‌ബേസ് അല്ല. വലിയ നിർമ്മാണ ജോലികൾ ഒരു കൂറ്റൻ കംപ്ലീഷൻ ചോദിച്ചല്ല, മുൻ ഔട്ട്പുട്ട് സന്ദർഭത്തിൽ തിരികെ വച്ചുകൊണ്ട് അഭ്യർത്ഥനകൾ ചങ്ങലയാക്കിയാണ് ചെയ്യുന്നത് — 262K ജാലകം അത് വിലകുറഞ്ഞതാക്കുന്നു.

08വിലയും നിരയിൽ V4-Pro-യുടെ സ്ഥാനവും

ദശലക്ഷം ടോക്കണിന് $1.95 ഇൻ / $3.90 ഔട്ട് എന്ന നിലയിൽ, V4-Pro ആണ് മുൻനിര യുക്തിചിന്താ തട്ട് — പ്രശ്നം കടുപ്പമുള്ളതാകുമ്പോൾ നിങ്ങൾ എത്തിപ്പിടിക്കുന്ന മോഡൽ. അത് വെറും വലുതാണ് എങ്കിൽ, അതേ 262K ജാലകത്തിലെ വിലകുറഞ്ഞ മോഡലുകൾ കാൽഭാഗം വിലയ്ക്ക് അത് ചെയ്യും.

സെൻസർ ചെയ്യാത്ത മോഡൽ	ഇൻ / 1M	ഔട്ട് / 1M	വിഷൻ	ഏറ്റവും അനുയോജ്യം
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	ഇല്ല	കടുപ്പമുള്ള യുക്തിചിന്ത, കോഡ്, ഏജന്റുകൾ
DeepSeek-V4-Flash · W4A16	$0.50	$2.00	ഇല്ല	അതേ പരമ്പര, ഉയർന്ന അളവ്
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	ഇല്ല	പൊതു ആവശ്യത്തിനുള്ള പണിയാള
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	ഉവ്വ്	ഉന്നത നിലവാരമുള്ള മൾട്ടിമോഡൽ ഏജന്റുകൾ
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	ഉവ്വ്	ഏറ്റവും വിലകുറഞ്ഞ വിഷൻ

ആളുകൾ യഥാർത്ഥത്തിൽ നടത്തുന്ന താരതമ്യത്തെക്കുറിച്ച് നേരെ പറയാം: DeepSeek-ന്റെ സ്വന്തം API ഇതിനെക്കാൾ വിലകുറഞ്ഞതാണ് — ഒന്നാം കക്ഷി V4-Pro ഏകദേശം $0.435 ഇൻ / $0.87 ഔട്ട് എന്ന് പട്ടികപ്പെടുത്തുന്നു, അവരുടെ കാഷെ-ഹിറ്റ് ഇൻപുട്ട് വില അതിലും കുറവാണ്. ടോക്കണിന്റെ വില മാത്രമാണ് നിങ്ങളുടെ മാനദണ്ഡമെങ്കിൽ, മോഡറേഷൻ സ്വഭാവം നിങ്ങളുടെ ജോലിയെ ബാധിക്കുന്നില്ലെങ്കിൽ, ഒന്നാം കക്ഷി API ഉപയോഗിക്കുക; നിങ്ങൾ പിന്നീട് അത് കണ്ടെത്തുന്നതിനെക്കാൾ ഞങ്ങൾ അത് പറയുന്നതാണ് നല്ലത്. ഈ അധിക വില വാങ്ങുന്നത് വ്യത്യസ്തമായ ഒരു കൂട്ടം സവിശേഷതകളാണ്: നിരസന പാളിയോ ഔട്ട്പുട്ട് ഫിൽട്ടറോ ഇല്ല, Shannon Lab LLC-ക്ക് കീഴിൽ ഒരു യുഎസ് നടത്തിപ്പുകാരൻ, ഉറപ്പിച്ചുനിർത്തിയ തീയതിയിട്ട ഒരു ചെക്ക്പോയിന്റ് (0813) — അതിനാൽ നിശ്ശബ്ദമായ ഒരു അപ്‌സ്ട്രീം അപ്‌ഗ്രേഡ് പ്രോജക്റ്റിനിടെ നിങ്ങളുടെ ഔട്ട്പുട്ടുകൾ മാറ്റുന്നില്ല, ഒരൊറ്റ മോഡലിനെതിരെ മൂന്ന് API ഭാഷാഭേദങ്ങൾ, നിരയിലെ പന്ത്രണ്ട് മോഡലുകളിലും ഒരേ 262K ജാലകവും ഒരേ പാരാമീറ്റർ പ്രതലവും.

09അത് വിളിക്കൽ: മൂന്ന് ഭാഷാഭേദങ്ങൾ, ഒരു മോഡൽ

ഗേറ്റ്‌വേയിലെ എല്ലാ മോഡലും മൂന്ന് എൻഡ്‌പോയിന്റുകളിലും ഉത്തരം നൽകുന്നു, ഓരോന്നിലും സ്ട്രീമിംഗോടെ. നിങ്ങൾ ഒരു പുതിയ SDK സ്വീകരിക്കുന്നില്ല — ഒരു ബേസ് URL-ഉം ഒരു മോഡൽ ഐഡിയും മാറ്റുന്നു.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
    "reasoning_effort": "high",
    "stream": true,
    "messages": [
      {"role": "system", "content": "You are a systems programmer. Be direct."},
      {"role": "user", "content": "Audit this parser for memory-safety bugs."}
    ]
  }'

• /v1/chat/completions — OpenAI ഭാഷാഭേദം; OpenAI SDK-കളോടും അവയ്ക്ക് മേൽ പണിതതെന്തിനോടും പ്രവർത്തിക്കുന്നു.
• /v1/messages — Anthropic ഭാഷാഭേദം, ആ രൂപത്തിനെതിരെ ഇതിനകം എഴുതിയ കോഡ്‌ബേസുകൾക്കായി.
• /v1/responses — Responses ശൈലിയിലുള്ള ഇന്റർഫേസ്.

ഈ മോഡലിൽ പിന്തുണയ്ക്കുന്നവ: സ്ട്രീമിംഗ്, നേറ്റീവ് ടൂൾ കോളിംഗ്, കർശനമായ json_schema ഘടനാപരമായ ഔട്ട്പുട്ട്, response_format, reasoning_effort. പൂർണ്ണ പാരാമീറ്റർ പരാമർശവും തത്സമയ പ്ലേഗ്രൗണ്ടും API ഡോക്യുമെന്റേഷനിലുണ്ട്.

10സത്യസന്ധമായ പരിധികൾ

ഇതിനുമേൽ പണിയും മുമ്പ് അറിഞ്ഞിരിക്കേണ്ട നാല് കാര്യങ്ങൾ:

• വിഷൻ ഇല്ല. ടെക്സ്റ്റ് മാത്രം; ഒരു എൻഡ്‌പോയിന്റിലും അത് ഇമേജ് ഇൻപുട്ട് സ്വീകരിക്കില്ല. കാഴ്ചയുള്ള ഒരു സെൻസർ ചെയ്യാത്ത മോഡൽ വേണമെങ്കിൽ Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 അല്ലെങ്കിൽ inkling ഉപയോഗിക്കുക.
• 16,384 ടോക്കൺ ഔട്ട്പുട്ട് പരിധി. ഉയർന്ന പരിശ്രമത്തിൽ യുക്തിചിന്താ ടോക്കണുകൾ അതിനെതിരെ കണക്കാക്കപ്പെടുന്നു, അതിനാൽ നീണ്ട ആലോചന ഉത്തരത്തിന് കുറച്ച് ഇടമേ ബാക്കിവയ്ക്കൂ. വലിയ നിർമ്മാണ ജോലികൾക്ക് അഭ്യർത്ഥനകൾ ചങ്ങലയാക്കുക.
• 3-ബിറ്റ് ഒരു യഥാർത്ഥ കംപ്രഷനാണ്. റഫറൻസ് സ്കോറുകൾ അടിത്തറയെയാണ് വിവരിക്കുന്നത്, ഈ ബിൽഡിനെയല്ല. ഏറ്റവും ഉയർന്ന വിശ്വസ്തതയുള്ള തട്ടിന്, W8A16 മോഡലുകൾ (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) ഏറ്റവും കുറഞ്ഞ ക്വാണ്ടൈസേഷനാണ് വഹിക്കുന്നത്.
• സെൻസർ ചെയ്യാത്തത് പരിണതഫലങ്ങളില്ലാത്തതല്ല. നിരസന പാളിയില്ല എന്നാൽ നിങ്ങൾ എന്ത് ചോദിക്കുന്നു, ഉത്തരം കൊണ്ട് എന്ത് ചെയ്യുന്നു എന്നതിന്റെ ഉത്തരവാദിത്തം നിങ്ങളുടേതാണ് എന്നാണ് — ഞങ്ങളുടെ സേവന നിബന്ധനകൾക്കും നിങ്ങൾ പ്രവർത്തിക്കുന്നിടത്തെ നിയമത്തിനും കീഴിൽ.

11പതിവ് ചോദ്യങ്ങൾ

---

സ്രോതസ്സുകൾ: DeepSeek-AI — DeepSeek-V4-Pro മോഡൽ കാർഡ് · DeepSeek-V4 സാങ്കേതിക റിപ്പോർട്ട് (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · DeepSeek-V3 സാങ്കേതിക റിപ്പോർട്ട് · REAP the Experts (Cerebras Research) · Promptfoo സെൻസർഷിപ്പ് ഓഡിറ്റ് · Discovering Forbidden Topics in Language Models. ബെഞ്ച്മാർക്ക് കണക്കുകൾ റഫറൻസ് റിലീസിനായി DeepSeek-AI റിപ്പോർട്ട് ചെയ്തവയാണ്; കംപ്രസ് ചെയ്ത ബിൽഡിന്റെ സ്വതന്ത്ര മൂന്നാം കക്ഷി പരിശോധന ഇനിയും നടക്കാനിരിക്കുന്നു. വിലകൾ 2026 സെപ്റ്റംബർ 5 വരെയുള്ള Shannon AI ലിസ്റ്റ് വിലകളാണ്.