වාරණයෙන් තොර DeepSeek API එක
පරාමිති ට්‍රිලියන 1.6ක DeepSeek Mixture-of-Experts ආකෘතියක් ප්‍රතික්ෂේප ස්තරයක් නොමැතිව සේවා සපයයි: 262K context, native reasoning effort, tool calling, සහ අපගේම GPU පොකුරේ API උපභාෂා තුනක්.
සාරාංශය
DeepSeek-V4-Pro-0813-3BIT-REAP යනු Shannon AI හි වාරණයෙන් තොර පෙළෙහි ප්‍රධාන තර්කන-සහ-කේත ආකෘතියයි. පදනම වන්නේ DeepSeek-AI හි විවෘත-බර V4-Pro ආකෘතියයි — මුළු පරාමිති 1.6T, එක් ටෝකනයකට සක්‍රිය 49B, MIT-බලපත්‍රලාභී, මිලියන-ටෝකන context සඳහා ස්වභාවිකව පුහුණු කර ඇත. අපි එය අපගේම GPU පොකුරේ 3-bit බරින් REAP expert pruning සමඟින්, 262,144-ටෝකන window එකක්, 16,384-ටෝකන උපරිම ප්‍රතිදානයක්, streaming, native tool calling, දැඩි json_schema ප්‍රතිදානය, සහ reasoning_effort ඩයල් එකක් සමඟ සේවා සපයමු. ආදාන 1M කට $1.95, ප්‍රතිදාන 1M කට $3.90. දෘශ්‍ය හැකියාවක් නැත. ප්‍රතික්ෂේප ස්තරයක් නැත, ප්‍රතිදාන පෙරහනක් නැත.
"වාරණයෙන් තොර DeepSeek API එකක්" යන වාක්‍ය ඛණ්ඩය වෙත පැමිණෙන අය එකම නිශ්චිත දෙයක් අවශ්‍ය කරයි: ඔවුන් ඇත්තටම ඇසූ ප්‍රශ්නයට පිළිතුරු දෙන DeepSeek හි තර්කන සහ කේත ලිවීමේ හැකියාව ඇති ආකෘතියකි. හැකියාව පිළිබඳ අඩ ලේඛනගත කර ඇත — DeepSeek-AI ගෘහ නිර්මාණ ශිල්පය සහ සංඛ්‍යා ප්‍රකාශයට පත් කළ අතර, බර Hugging Face හි MIT යටතේ තිබේ. දෙවන අඩ ක්‍රියාත්මක තීරණයක් වන අතර, එය සාමාන්‍යයෙන් ඔබ වෙනුවෙන් ගනු ලැබේ. මෙම පිටුව දෙකම ආවරණය කරයි: V4-Pro පදනම කුමක්ද, අපගේ 3BIT-REAP සැකැස්ම එයට කරන දේ කුමක්ද, සහ අප එය කියන විට "වාරණයෙන් තොර" යනු හරියටම කුමක්ද යන්න.
01"වාරණයෙන් තොර DeepSeek API" ඇත්තටම අදහස් කරන්නේ කුමක්ද
විවිධ යාන්ත්‍රණ දෙකක් එකම වචනය යටතේ ගොනු කෙරේ. පළමුවැන්න බරවල ම බදාගත් සමරූපීකරණයයි — පශ්චාත්-පුහුණුවේදී ඉගෙන ගත් ප්‍රතික්ෂේප හැසිරීම. දෙවැන්න සේවා-පාර්ශ්ව නියාමන ස්තරයකි: ආකෘතිය එය දැකීමට පෙර ඔබේ විමසුම සහ ඔබ එය දැකීමට පෙර ප්‍රතිදානය පරීක්ෂා කරන වෙනම වර්ගීකාරකයක්, ආකෘතියට කුමක් කීමට අවශ්‍ය වුවත් වාක්‍ය මැද ප්‍රතිචාරයක් කපා දැමිය හැකි.
දෙකම මැනිය හැකි අතර, DeepSeek හි ප්‍රථම-පාර්ශ්ව සේවාව මනිනු ලැබ ඇත. Promptfoo දේශපාලනිකව සංවේදී ප්‍රශ්න 1,360ක කට්ටලයක් එකලස් කර, DeepSeek හි සත්කාරක R1 ඉන් 1,156ක් ප්‍රතික්ෂේප කළ හෝ මගහැරියේ බව වාර්තා කළේය — දළ වශයෙන් 85%ක්. එකම පවුලේ ශාස්ත්‍රීය කාර්යයකින් කතුවරුන් thought suppression ලෙස නම් කළ වෙනස් අසමත්වීම් රටාවක් සොයාගෙන ඇත, එහිදී ආකෘතියේ තර්කන මාවත සංවේදී මාතෘකාවක් ආරම්භ වීමත් සමඟම පාහේ අවසන් වේ. Information Sciences හි ප්‍රකාශයට පත් කළ වෙනම විගණනයකින් අර්ථාන්විත-මට්ටමේ මැඩපැවැත්වීම ලේඛනගත කරන ලදී: ආකෘතියේ අභ්‍යන්තර තර්කනයේ ඇති අන්තර්ගතය පරිශීලකයාට ළඟා වීමට පෙර නිහඬව මඟ හරින ලද හෝ නැවත ලියන ලදී. එය සම්පූර්ණ ප්‍රතික්ෂේපයකට වඩා අමාරු ගැටලුවකි, මන්ද කපා දැමූ පිළිතුරක් පිළිතුරක් මෙන් පෙනෙන බැවිනි.
අප ධාවනය කරන්නේ විවෘත-බර නිකුතුව, අප ක්‍රියාත්මක කරන දෘඪාංග මත, එක්සත් ජනපදයේ, Shannon Lab LLC යටතේය. ආකෘතිය ඉදිරියෙන් ප්‍රතික්ෂේප ස්තරයක් නොමැති අතර ආපසු එන දෙයට කිසිදු පෙරහනක් යොදා නොමැත: ඔබේ විමසුම සේවා සැපයීමට පෙර ප්‍රතිපත්තිය සඳහා වර්ගීකරණය කර නොමැත, ප්‍රතිදාන ප්‍රවාහය එළියට යන අතරතුර පරීක්ෂා කර නොමැත. පදනම MIT-බලපත්‍රලාභී සහ ප්‍රසිද්ධ බැවින්, ඔබට අපගේ වචනය විශ්වාස කරනවා වෙනුවට අපගේ ප්‍රතිදාන ඔබටම යොමු බර සමඟ සංසන්දනය කළ හැක.
02පදනම: DeepSeek-V4-Pro, 1.6T MoE එකක්
DeepSeek-V4 යනු DeepSeek-AI හි වත්මන් විවෘත-බර පවුලයි, 2026 අප්‍රේල් මාසයේ පෙරදසුන් කරන ලද අතර ප්‍රමාණ දෙකකින් MIT යටතේ නිකුත් කරන ලදී: V4-Flash (මුළු 284B, සක්‍රිය 13B) සහ V4-Pro (මුළු 1.6T, සක්‍රිය 49B). මෙම ලිපිය Pro තට්ටුව ගැනය. දෙකම දළ වශයෙන් ටෝකන ට්‍රිලියන 33ක් පමණ මත පූර්ව-පුහුණු කර ඇති අතර, දෙකම මිලියන-ටෝකන context එකක් ස්වභාවිකව සහාය දක්වයි.
සැලකිය යුතු දෙය sparsity අනුපාතයයි: ඕනෑම ටෝකනයක් මත පරාමිතිවලින් 3%ක් පමණි ක්‍රියාත්මක වන්නේ, එය මෙතරම් විශාල ආකෘතියක් සේවා සැපයිය හැකි එකම හේතුවයි. MoE කොටසම තවමත් DeepSeekMoE වේ — V2හිදී හඳුන්වා දුන් සියුම් ලෙස මාර්ගගත කළ විශේෂඥයන් සහ සැමවිටම-සක්‍රිය බෙදාගත් විශේෂඥයන් — සුළු V4 වෙනස්කම් සමඟින්, වඩාත්ම පෙනෙන්නේ මුල්ම ස්තරවල hash routing එකයි. V3 හි සහායක අරමුණ වන අතර speculative decoding ද හැකි කරන Multi-Token Prediction, වෙනස් නොවී පවතී.
V4 හි නව කොටස් ව්‍යුහාත්මකය. Manifold-Constrained Hyper-Connections (mHC) සරල residual මාවත ප්‍රතිස්ථාපනය කරන්නේ Sinkhorn–Knopp ප්‍රක්ෂේපණයක් හරහා doubly stochastic matrices හි manifold එක මතට සීමා කළ ඉගෙන ගත් මිශ්‍රණ matrix එකකින් — ඉතා ගැඹුරු stacks විනාශ කරන සංඛ්‍යාත්මක drift එකක් නොමැතිව ආදානය අනුව නැවත බර දෙන residual stream එකකි. පුහුණුව බොහෝ මොඩියුල සඳහා AdamW එකෙන් Muon වෙතට මාරු වූයේ Newton–Schulz orthogonalization භාවිතයෙන් වන අතර, AdamW තබාගෙන ඇත්තේ embeddings, prediction heads, normalization සහ ස්ථිතික mHC පරාමිති සඳහා පමණි. විශේෂඥ බර FP4 හි පුහුණු කර ඇති අතර අනෙකුත් බොහෝ පරාමිති FP8 හි ඇත — ආරම්භයේ සිටම quantization-දැනුවත්ය, එය ආකෘතිය තවදුරටත් සම්පීඩනයක් ගන්නා ආකාරයට වැදගත් වේ.
03MLA සිට CSA + HCA දක්වා: DeepSeek දිගු context එක ලාභදායීව තබා ගන්නා ආකාරය
පරම්පරා හතරක් හරහා DeepSeek හි එකම නූල ප්‍රමාණය නොව attention ආර්ථිකයයි. සෑම අනුවාදයක්ම KV cache එකට පහර දී ඇත, එය context සමඟ රේඛීයව වර්ධනය වන අතර දිගු දිග වලදී මතකය ආධිපත්‍යය කරයි.
- V2 විසින් Multi-head Latent Attention (MLA) හඳුන්වා දෙන ලදී — keys සහ values latent vector එකකට අඩු-ශ්‍රේණි ඒකාබද්ධ සම්පීඩනයක් කිරීම, එබැවින් උත්පාදනය සම්පූර්ණ per-head K සහ V වෙනුවට එම vector එක සහ decoupled RoPE key එකක් cache කරයි. DeepSeek KV cache එක සම්මත multi-head attention හි 4–14%ක් පමණට පහළ වී ඇති බව, ගුණාත්මකභාවය රඳවා ගෙන හෝ වැඩිදියුණු කර ඇති බව වාර්තා කළේය.
- V3 එය 671B දක්වා පරිමාණය කළ අතර, විවෘත ආකෘතිවල ලාභදායී දිගු context සඳහා MLA පෙරනිමි උපකල්පනය බවට පත් කළේය.
- V3.2 DeepSeek Sparse Attention (DSA) එකතු කළේය, සියල්ලට අවධානය යොමු කරනවා වෙනුවට සැහැල්ලු indexer එකක් හරහා විමසුමකට ඉතිහාසයේ top-k උප කුලකයක් තෝරාගනිමින්.
- V4 දෙකම මිශ්‍ර කරයි. Compressed Sparse Attention (CSA) මුලින්ම සෑම m ටෝකනයක්ම ඉගෙන ගත් බර සමඟ එක් ප්‍රවේශයකට සම්පීඩනය කර, පසුව එම සම්පීඩිත ප්‍රවේශ මත sparse top-k තේරීමක් ධාවනය කරයි. Heavily Compressed Attention (HCA) බෙහෙවින් ආක්‍රමණශීලීව සම්පීඩනය කරන නමුත් ප්‍රතිඵලය මත dense ලෙස පවතී. ස්තර වර්ග දෙකම stack එක හරහා අන්තර්ගත කර ඇති නිසා, ලාභදායී ගෝලීය සාරාංශය සහ නිවැරදි ස්ථානික ලබාගැනීම එකට පවතී.
මිලියන-ටෝකන context එකකදී වාර්තා කළ ප්‍රතිලාභය තියුණුය: V4-Pro ට V3.2 හි per-token inference FLOPs වලින් 27%ක් සහ KV cache වලින් 10%ක් පමණක් අවශ්‍යයි. එය නිසාම 262K ඉල්ලීමක් මතක සිද්ධියක් නොව සාමාන්‍ය ඉල්ලීමක් මෙන් හැසිරෙන්නේ, සහ දිගු-context ලබාගැනීමේ සංඛ්‍යා ටෝකන දහස් ගණනකට පසු බිඳ වැටෙනවා වෙනුවට රැඳී පවතින්නේ.
043BIT-REAP අවසානය අදහස් කරන්නේ කුමක්ද
අපගේ නාමාවලි id එක අවසන් වන්නේ 3BIT-REAP එකෙනි, එය අනුපිළිවෙළින් යොදන ලද ස්වාධීන සම්පීඩන පියවර දෙකක් විස්තර කරයි.
REAP: විශේෂඥයන් ඒකාබද්ධ නොකර ඉවත් කිරීම
REAP යනු Cerebras Research වෙතින් Router-weighted Expert Activation Pruning එකයි — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", ICLR 2026 සඳහා පිළිගන්නා ලදී. sparse MoE එකක router එක එහි විශේෂඥයන් සමානව භාවිත නොකරයි: දිගු වලිගයක් කලාතුරකින්, දුර්වල ලෙස, හෝ දෙකම තෝරාගනු ලැබේ. REAP එක router gate අගයන් (එය තෝරාගන්නා වාර ගණන සහ ශක්තිය) expert activation norms (එහි ප්‍රතිදානය දායක වන ප්‍රමාණය) සමඟ ඒකාබද්ධ කරමින් එක් එක් විශේෂඥයා ලකුණු කර, පසුව පරාජිතයන් සම්පූර්ණයෙන් මකා දමයි.
පත්‍රිකාවේ තර්කය නම් pruning එකතු කිරීම (merging) ට වඩා ජයගන්නා බවයි: ඒකාබද්ධ කිරීම MoE එක ගොඩනැගීමට වටිනා කළ ක්‍රියාකාරී විශේෂීකරණය සාමාන්‍යකරණය කරයි, router එකට කලාතුරකින් ළඟා විය හැකි විශේෂඥයන් මකා දැමීම එය රඳවා තබයි. 20B සිට 1T දක්වා ආකෘති හරහා, REAP ජනන ප්‍රමිතීන් මත ඒකාබද්ධ කිරීම සහ තරඟකාරී pruning ක්‍රම වලට වඩා ඉහළින් ක්‍රියා කළ අතර, කතුවරුන් Qwen3-Coder-480B සහ Kimi-K2 මත 50% විශේෂඥ pruning එකකදී කේත උත්පාදනය සහ tool calling මත පාහේ-අලාභ රහිත ප්‍රතිඵල වාර්තා කරයි — එය හරියටම මෙම ආකෘතිය මෙහි ඇති කාර්ය බර පැතිකඩයි.
3-bit බර: විශාලතම පදනම් සඳහා සම්පීඩන තට්ටුව
ඉතිරි වන දේ පසුව 3-bit බර බවට quantize කෙරේ. bits තුනක් ආක්‍රමණශීලීය, අප එසේ නොවේ යැයි නොපවසමු: නාමාවලිය පුරාම පදනම කුඩා වූ තැන W8A16, මැදට W4A16-AUTOROUND-REAP, සහ ලොකුම පදනම් වලට පමණක් 3BIT-REAP භාවිත කරමු, එහිදී එය ආකෘතිය සේවා සැපයීම සහ නොසැපයීම අතර වෙනසයි.
වෙළඳාම පැහැදිලිව පැවසිය යුතුය: 3-bit 1.6T MoE එකක් යොමු නිකුතුවට bit-සමාන නොවේ, කුඩා ගුණාත්මක පිරිවැයක් සැබෑය. ඔබට ලැබෙන්නේ සම්පීඩනය නොකළ සිවිලිමක් ඉහළ ප්‍රතිශ්‍රේණියකදී පහසුවෙන් නොගැලපෙන ඕනෑම දෙයකට වඩා ඉහළින් වාඩිවී ඇති පදනමකි — V4 හි විශේෂඥයන් මුලින්ම FP4 හි පුහුණු කර ඇති නිසා, ආකෘතිය තවදුරටත් බර සම්පීඩනය යටතේ අසාමාන්‍ය ලෙස හොඳින් හැසිරේ. ඔබට නිරවද්‍යතාවය මත සැහැල්ලු ස්පර්ශයක් ඇති DeepSeek සැකැස්මක් අවශ්‍ය නම්, DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP 16-bit activations සහ AutoRound හි ඉගෙන ගත් round කිරීම සමඟ 4-bit බර භාවිත කරයි, එකම 262K context එකේ ආදානයට $0.50 / ප්‍රතිදානයට $2.00.
05තර්කනය, සහ reasoning_effort ඩයල් එක
V4 හි පශ්චාත්-පුහුණුව වසම් විශේෂඥයන් වෙන වෙනම පුහුණු කරයි — ගණිතය, කේත ලිවීම, agents, උපදෙස් අනුගමනය — SFT එකකින් පසුව DeepSeek R1 සමඟ හඳුන්වා දුන් Group Relative Policy Optimization ක්‍රමය වන GRPO භාවිතා කරමින්. එම විශේෂඥයන් පසුව reverse-KL අරමුණක් යටතේ on-policy distillation එකකින් එක් ආකෘතියකට ඒකාබද්ධ කර, තනි checkpoint එකක් සමගාමීව වසම් කිහිපයක විශේෂඥ-මට්ටමේ හැසිරීම දරයි, සියල්ලෙහිම මධ්‍යස්ථ සාමාන්‍යවාදියෙකු වෙනුවට.
නිකුත් කළ ආකෘතිය ද්විමය මාරුවක් වෙනුවට ශ්‍රේණිගත කළ චින්තන ප්‍රකාර හෙළි කරයි. අපගේ gateway එකේ එය සම්මත reasoning_effort පරාමිතියයි, මෙම ආකෘතියේ ඇති තනි වඩාත්ම ප්‍රයෝජනවත් ඩයල් එක:
- Low — සෘජු පිළිතුරු දීමට ආසන්නය: වර්ගීකරණය, උපුටා ගැනීම, නැවත ලිවීම, ආකෘතියේ තැහුඹුම වෙනුවට එහි දැනුමට ඔබ ගෙවන ඕනෑම දෙයක්.
- Medium — කේත සමාලෝචනය, debugging සහ බහු-පියවර විශ්ලේෂණය සඳහා පෙරනිමි වැඩ ප්‍රකාරය.
- High — පිළිතුරු දීමට පෙර දිගු තැහුඹුම. අමාරු ගැටලු විසඳෙන තැන, සහ ඔබේ ප්‍රතිදාන-ටෝකන බිල පවතින තැන, මන්ද තර්කන ටෝකන ප්‍රතිදානය ලෙස බිල් කෙරෙන බැවිනි.
ප්‍රතික්ෂේප ස්තරයක් නොමැති නිසා, තර්කන මාවත සංවේදී විෂය කරුණු මත කපා දමන්නේ නැත — ප්‍රථම-පාර්ශ්ව සේවාවෙහි ලේඛනගත කළ thought-suppression රටාවට මෙහි සිදුවීමට යාන්ත්‍රණයක් නැත.
06කේත ලිවීම සහ agentic කාර්යය: පදනම ලකුණු ලබන දේ
මේවා V4-Pro නිකුතුව සඳහා DeepSeek-AI විසින්ම ප්‍රකාශයට පත් කළ සංඛ්‍යා — අපගේ නොවේ, අපගේ quantize කළ සැකැස්ම මත මනිනු ලැබුවේ නැත. අප ඒවා පෙන්වන්නේ මෙම පදනම තෝරාගැනීමට අවංක හේතුව බැවින්, ඔබට ඒවා ඒ අනුව බර කළ හැකි වන පරිදි ප්‍රථම-පාර්ශ්ව ලෙස සලකුණු කරමින්.
දෙකක් අදහස් කිරීමට සුදුසුය. SWE-bench Verified හි 80.6% යනු සැබෑ-කේත ගබඩා නිකුතු විසඳීමයි — නොදන්නා කේත සමුදායක් කියවීම, දෝෂය සොයාගැනීම, ව්‍යාපෘතියේම පරීක්ෂණ සමත් වන patch එකක් නිපදවීම. ටෝකන මිලියනයක MRCR (83.5) යනු සම්පූර්ණ දිගින් බහු-වටයේ coreference retrieval එකයි, දිගු-context ප්‍රකාශය අලංකාරවාදී නොවන බව පවසන සංඛ්‍යාව. DeepSeek මෙම ආකෘතිය සඳහා Codeforces ශ්‍රේණියක් 3206ක්, 1M context එකේ CorpusQA මත 62.0ක් ද වාර්තා කරයි.
ඉහත සංඛ්‍යා DeepSeek-V4-Pro යොමු නිකුතුව සඳහා DeepSeek-AI-වාර්තා කළ ඒවාය. අපගේ 3BIT-REAP සැකැස්ම එම බරවල සම්පීඩිත ප්‍රභේදයක් වන අතර මෙම කාර්යයන් මත ස්වාධීනව ප්‍රමිතිගත කර නොමැත; යොමු ලකුණු පදනමේ සිවිලිම ලෙස සලකන්න, මෙම endpoint එකේ මිනුමක් ලෙස නොව.
07262K context: ඇත්තටම ගැලපෙන දේ
යොමු ආකෘතිය මිලියන ටෝකනයක් සඳහා පුහුණු කර ඇත. අප සේවා සපයන්නේ 262,144ක් — gateway එකේ සෑම ආකෘතියක්ම බෙදාගන්නා window එකයි, එබැවින් ආකෘති මාරු කිරීම එක පේළියක වෙනසක් මිස කිසි විටෙකත් context පසුබෑමක් නොවේ. ප්‍රායෝගිකව 262K යනු බොහෝ සැබෑ වැඩ සඳහා context බැඳෙන ලක්ෂ්‍යයට වඩා එහායින්ය:
| කාර්ය බර | දළ ටෝකන | 262K තුළ ගැලපේද? |
|---|---|---|
| මධ්‍යම ප්‍රමාණයේ සේවා repo එකක් (~50k පේළි) | ~600K | නැත — තෝරාගත් මොඩියුල |
| තනි උප පද්ධතියක් + එහි පරීක්ෂණ | ~60–120K | ඔව්, පහසුවෙන් |
| ප්‍රොටෝකෝලයක් සඳහා සම්පූර්ණ RFC කට්ටලය | ~150K | ඔව් |
| පිටු 700ක තාක්ෂණික පොතක් | ~250K | ඔව්, සීමාවට ආසන්නයෙන් |
| දිගු agent ධාවනයක්, tool turns 40+ | ~80–200K | ඔව් |
සැලසුම් කළ යුතු සීමාව ප්‍රතිදානයයි: ප්‍රතිචාරයකට උපරිම ටෝකන 16,384ක්. එය දිගු ලේඛනයක් හෝ සැලකිය යුතු බහු-ගොනු patch එකකි, එහෙත් කේත සමුදායක් නොවේ. විශාල උත්පාදන කාර්යයන් සිදු කරන්නේ එක් විශාල සම්පූර්ණ කිරීමක් ඉල්ලනවා වෙනුවට, 262K window එකෙන් ලාභදායී වන පෙර ප්‍රතිදානය context එකේ ආපසු තබාගෙන ඉල්ලීම් දාමගත කිරීමෙනි.
08මිල, සහ V4-Pro නාමාවලියේ සිටින ස්ථානය
ආදාන ටෝකන මිලියනයකට $1.95 / ප්‍රතිදාන ටෝකන මිලියනයකට $3.90ට, V4-Pro ප්‍රධාන තර්කන තට්ටුවයි — ගැටලුව අමාරු වූ විට ඔබ ළඟා වන ආකෘතිය. එය හුදෙක් විශාල වූ විට, එකම 262K window එකේ ලාභදායී ආකෘති එය හතරෙන් එකක මිලකට කරනු ඇත.
| වාරණයෙන් තොර ආකෘතිය | ආදාන / 1M | ප්‍රතිදාන / 1M | දෘශ්‍ය හැකියාව | වඩාත්ම ගැලපෙන්නේ |
|---|---|---|---|---|
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | නැත | අමාරු තර්කනය, කේත, agents |
| DeepSeek-V4-Flash · W4A16 | $0.50 | $2.00 | නැත | එකම පෙළපත, ඉහළ පරිමාව |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | නැත | සාමාන්‍ය-කාර්ය වැඩකරු |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | ඔව් | ඉහළම-තට්ටු බහුමාධ්‍ය agents |
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | ඔව් | ලාභම දෘශ්‍ය හැකියාව |
මිනිසුන් ඇත්තටම කරන සංසන්දනය ගැන සෘජු වීම: DeepSeek හි නිල API එක මීට වඩා ලාභදායීය — ප්‍රථම-පාර්ශ්ව V4-Pro ආදානයට ආසන්න වශයෙන් $0.435ක් / ප්‍රතිදානයට $0.87ක් ලැයිස්තුගත කරන අතර, ඔවුන්ගේ cache-hit ආදාන මිල ගණන් තවත් අඩුය. ටෝකනයකට මිල ඔබේ එකම නිර්ණායකය නම් සහ නියාමන හැසිරීම ඔබේ වැඩට බලපාන්නේ නැත්නම්, ප්‍රථම-පාර්ශ්ව API එක භාවිත කරන්න; අප එය පසුව සොයාගැනීමට වඩා ඔබට එය කීමට කැමතියි. වාරිතරගය ලබා දෙන්නේ වෙනස් ගුණාංග කට්ටලයකි: ප්‍රතික්ෂේප ස්තරයක් සහ ප්‍රතිදාන පෙරහනක් නොමැති, Shannon Lab LLC යටතේ එක්සත් ජනපද ක්‍රියාකරුවෙක්, ස්ථාවර දිනගත checkpoint එකක් (0813) එබැවින් නිහඬ upstream උත්ශ්‍රේණියක් ඔබේ ප්‍රතිදාන ව්‍යාපෘතිය මධ්‍යයේදී කිසි විටෙකත් වෙනස් නොකරයි, එක් ආකෘතියකට API උපභාෂා තුනක්, සහ නාමාවලියේ ආකෘති දොළහම හරහා එකම 262K window එක සහ පරාමිති පෘෂ්ඨය.
09එය අමතන ආකාරය: උපභාෂා තුනක්, ආකෘතියක්
gateway එකේ සෑම ආකෘතියක්ම endpoints තුනෙන්ම පිළිතුරු දෙයි, එක් එක් එකේම streaming සමඟින්. ඔබ නව SDK එකක් අනුගමනය කරන්නේ නැත — ඔබ base URL එකක් සහ ආකෘති id එකක් වෙනස් කරයි.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
"reasoning_effort": "high",
"stream": true,
"messages": [
{"role": "system", "content": "You are a systems programmer. Be direct."},
{"role": "user", "content": "Audit this parser for memory-safety bugs."}
]
}'/v1/chat/completions— OpenAI උපභාෂාව; OpenAI SDK සහ ඒවා මත ගොඩනගා ඇති ඕනෑම දෙයක් සමඟ ක්‍රියා කරයි./v1/messages— Anthropic උපභාෂාව, එම හැඩය සඳහා දැනටමත් ලියා ඇති කේත සමුදායන් සඳහා./v1/responses— Responses-විලාසි අතුරු මුහුණත.
මෙම ආකෘතියේ සහාය දක්වයි: streaming, native tool calling, දැඩි json_schema ව්‍යුහගත ප්‍රතිදානය, response_format, සහ reasoning_effort. සම්පූර්ණ පරාමිති යොමුව සහ සජීවී playground එකක් API ලේඛනයේ ඇත.
10අවංක සීමා
එය මත ගොඩනැගීමට පෙර දැනගත යුතු දේවල් හතරක්:
- දෘශ්‍ය හැකියාවක් නැත. පෙළ-පමණි; එය කිසිදු endpoint එකක රූප ආදානයක් පිළිගන්නේ නැත. දකින වාරණයෙන් තොර ආකෘතියක් අවශ්‍ය නම්, Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 හෝ inkling භාවිත කරන්න.
- 16,384-ටෝකන ප්‍රතිදාන සිවිලිම. ඉහළ ප්‍රයත්නයේදී තර්කන ටෝකන එයට එරෙහිව ගණන් ගැනේ, එබැවින් දිගු තැහුඹුමක් පිළිතුරට අඩු ඉඩක් ඉතිරි කරයි. විශාල උත්පාදන කාර්යයන් සඳහා ඉල්ලීම් දාමගත කරන්න.
- 3-bit යනු සැබෑ සම්පීඩනයකි. යොමු ලකුණු විස්තර කරන්නේ පදනම මිස මෙම සැකැස්ම නොවේ. ඉහළම-විශ්වසනීයත්ව තට්ටුව සඳහා,
W8A16ආකෘති (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) අඩුම quantization එක දරයි. - වාරණයෙන් තොර යනු ප්‍රතිවිපාක රහිත නොවේ. ප්‍රතික්ෂේප ස්තරයක් නොමැති වීම යන්නෙන් අදහස් වන්නේ ඔබ අසන දේට, සහ පිළිතුරෙන් ඔබ කරන දේට වගකීම ඔබ සමඟ පවතින බවයි — අපගේ සේවා නියමයන් සහ ඔබ ක්‍රියාත්මක වන ස්ථානයේ නීතිය යටතේ.
මෙම පිටුවේ සෑම ගෘහ නිර්මාණ ශිල්ප ප්‍රකාශයක්ම සහ ප්‍රමිති සංඛ්‍යාවක්ම ප්‍රසිද්ධ ප්‍රාථමික මූලාශ්‍රයකින් පැමිණේ. ඒවා ඔබම කියවන්න.
11නිතර අසන ප්‍රශ්න
වාරණයෙන් තොර DeepSeek API එක යනු කුමක්ද?
එය Shannon AI හි අපගේම GPU පොකුරේ, ඉදිරියෙන් ප්‍රතික්ෂේප ස්තරයක් නොමැතිව සහ එය ආපසු දෙන දේට කිසිදු පෙරහනක් යොදන ලද නොමැතිව සේවා සපයන DeepSeek-V4-Pro විවෘත-බර ආකෘතියයි. ඔබ එය /v1/chat/completions, /v1/messages හෝ /v1/responses හිදී ටෝකන 262,144ක context window එකක් සමඟ අමතන අතර, එම endpoint එක නියාමනය කරනවා වෙනුවට පිළිතුරු දෙයි.
මෙය DeepSeek හි නිල API එකෙන් වෙනස් වන්නේ කෙසේද?
එකම විවෘත-බර පෙළපත, එහෙත් වෙනස් ක්‍රියාකරුවෙක් සහ වෙනස් ප්‍රතිපත්තියක්. DeepSeek හි ප්‍රථම-පාර්ශ්ව සේවාව එක් ටෝකනයකට ලාභදායී වන අතර තමන්ගේම නියාමනය ධාවනය කරයි; Promptfoo සහ ශාස්ත්‍රීය කණ්ඩායම් විසින් ප්‍රකාශයට පත් කළ විගණන එහි දේශපාලනිකව සංවේදී විමසුම්වලට ප්‍රතික්ෂේප කිරීම් සහ අර්ථානුසාරී මැඩපැවැත්වීම් ලේඛනගත කර ඇත. Shannon AI එක්සත් ජනපදයේ බර ධාවනය කරන්නේ ප්‍රතික්ෂේප ස්තරයක් නොමැතිව, API උපභාෂා තුනක තර්කන ප්‍රයත්නය සහ tool calling හෙළි කරමින්, ප්‍රතිදාන ඔබ යටතේ මාරු නොවන පරිදි දිනගත checkpoint එකක් ස්ථාවර කරමිනි.
3BIT-REAP යන්නෙන් අදහස් කරන්නේ කුමක්ද?
සම්පීඩන පියවර දෙකකි. REAP යනු Router-weighted Expert Activation Pruning එකයි, එය Mixture-of-Experts ආකෘතියකින් කලාතුරකින් සහ දුර්වල ලෙස මාර්ගගත කරන ලද විශේෂඥයන් ඉවත් කරන Cerebras Research ක්‍රමයකි, එය එක් එක් විශේෂඥයා ඔහුගේ router gate අගයන් සහ activation norms අනුව ලකුණු කරයි. ඉතිරි වන දේ පසුව 3-bit බර බවට quantize කෙරේ. දෙකම එකට එකතු වී පරාමිති ට්‍රිලියන 1.6ක පදනමක් අපගේම GPU පොකුරේ ගැලපී වේගවත්ව පවතින සේ සලසයි.
context window එක සහ උපරිම ප්‍රතිදානය කොපමණ විශාලද?
context ටෝකන 262,144ක් සහ එක් ඉල්ලීමකට උපරිම ප්‍රතිදාන ටෝකන 16,384ක් දක්වා. එය දළ වශයෙන් පිටු 600 සිට 800 දක්වා පෙළක් ඇතුළට, සහ දිගු තාක්ෂණික ලේඛනයක් හෝ විශාල බහු-ගොනු පැච් එකක් එළියට යනවා යනුවෙන් අදහස් වේ. දිගු කාර්යයන් සිදු කරන්නේ ප්‍රතිදාන සීමාව ඉහළ නංවා නොව ඉල්ලීම් දාමගත කිරීමෙනි.
DeepSeek V4 Pro tool calling සහ JSON schema ප්‍රතිදානයට සහාය දක්වයිද?
දෙකටම ඔව්. Native tool calling, දැඩි json_schema ව්‍යුහගත ප්‍රතිදානය, සහ response_format යන සියල්ලටම streaming සහ reasoning_effort පරාමිතියක් සමඟ සහාය දක්වයි. එය රූප ආදානය පිළිගන්නේ නැත; වාරණයෙන් තොර ආකෘතියක දෘශ්‍ය හැකියාව අවශ්‍ය නම්, ඒ වෙනුවට Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 හෝ inkling භාවිත කරන්න.
වාරණයෙන් තොර DeepSeek API එකේ මිල කීයද?
ආදාන ටෝකන මිලියනයකට $1.95ක් සහ ප්‍රතිදාන ටෝකන මිලියනයකට $3.90ක්. එකම වාරණයෙන් තොර පෙළෙහිම, DeepSeek-V4-Flash එකම 262K context එකට ආදානයට $0.50ක් සහ ප්‍රතිදානයට $2.00ක් ගෙවෙන අතර, GLM-5.2 ආදානයට $0.73ක් සහ ප්‍රතිදානයට $2.34ක් ගෙවේ, එබැවින් ගැටලුව විශාල නොව අමාරු වූ විට ඔබ ළඟා වන්නේ V4-Pro තට්ටුවටයි.
DeepSeek V4 Pro වාරණයෙන් තොරව අමතන්න
262K context, reasoning effort, tool calling. එක් යතුරක් මත OpenAI, Anthropic සහ Responses උපභාෂා.
API ලේඛන කියවන්න සියලුම ආකෘති කාඩ්පත්Shannon Lab LLC · New Mexico, USA · ආකෘති අපගේම GPU පොකුරේ සේවා සපයයි
මූලාශ්‍ර: DeepSeek-AI — DeepSeek-V4-Pro ආකෘති කාඩ්පත · DeepSeek-V4 තාක්ෂණික වාර්තාව (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · DeepSeek-V3 තාක්ෂණික වාර්තාව · REAP the Experts (Cerebras Research) · Promptfoo ප්‍රතික්ෂේප විගණනය · Discovering Forbidden Topics in Language Models. ප්‍රමිති සංඛ්‍යා DeepSeek-AI-වාර්තා කළ යොමු නිකුතුව සඳහාය; සම්පීඩිත සැකැස්මේ ස්වාධීන තෙවන-පාර්ශ්ව සත්‍යාපනය පොරොත්තුවෙන් පවතී. මිල ගණන් 2026 සැප්තැම්බර් 5 වන දින Shannon AI ලැයිස්තු මිල වේ.