වාරණයෙන් තොර DeepSeek Flash API

LLM API එකක් ඇගයීමට ලක් කරන බොහෝ කණ්ඩායම් ප්‍රශස්තකරණය කරන්නේ වැරදි විචල්‍යයයි. ඔවුන් සිතාගත හැකි දුෂ්කරම විමසුම් විස්සක් මත ප්‍රමිති පරීක්ෂණ කර, ජයග්‍රාහකයා තෝරාගෙන, සති හයකට පසු සොයාගන්නේ තම ගමනාගමනයෙන් සියයට අනූපහක්ම කෙටි, ව්‍යුහගත, පුනරාවර්තන වැඩ බවත්, හතරෙන් එකක් වැය වන ආකෘතියක් එය හරියටම එලෙසම හසුරුවනු ඇති බවත්ය. DeepSeek-V4-Flash පවතින්නේ එම සියයට අනූපහ වෙනුවෙනි. මෙම පිටුව ඔබ එහි සිටින්නේ කවදාද — සහ නොසිටින්නේ කවදාද — යන්න දැනගැනීම ගැනය.

01ඔබට ඇත්තටම ලැබෙන දේ

ගුණාංගය	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
ආකෘති id	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
සන්දර්භය / උපරිම ප්‍රතිදානය	ටෝකන 262,144 / ටෝකන 16,384
මිලියනයකට මිල (ආදාන / ප්‍රතිදාන)	$0.50 / $2.00
ප්‍රවාහනය · මෙවලම් ඇමතුම් · තර්කනය	ඔව් — උපභාෂා තුනේම
ව්‍යුහගත ප්‍රතිදානය	json_schema සහ response_format
රූප ආදානය (දෘශ්‍ය හැකියාව)	නැත — පෙළ පමණයි
ප්‍රතික්ෂේප ස්තරය / ප්‍රතිදාන පෙරහන	නැත
සේවා කරන්නේ	Shannon හිම GPU පොකුරේ

API උපභාෂා තුනක් එකම බර වෙත ළඟා වේ: /v1/chat/completions (OpenAI හැඩයේ), /v1/messages (Anthropic හැඩයේ), සහ /v1/responses. ප්‍රවාහනය තුනේම ක්‍රියා කරයි. සම්පූර්ණ පරාමිති යොමුව API ලේඛනයේ ඇත.

02එය පැමිණෙන්නේ කොහෙන්ද: DeepSeek පෙළපත

DeepSeek-AI ආකෘති පරම්පරා පහක් ගත කර ඇත්තේ එක් උමතුවක් මතය: හුදෙක් පුහුණු කිරීමට ලාභ නොව සේවා කිරීමට ලාභ ආකෘතියකින් ඉදිරිපෙළ හැසිරීම ලබා ගැනීමයි. මෙම පෙළපතේ පාහේ සෑම ගෘහ නිර්මාණ තීරණයක්ම ආපසු යන්නේ එය වෙතය, තවද වැදගත් ඒවා ප්‍රකාශයට පත් කර ඇත. ඔබ මෙම අන්ත ලක්ෂ්‍යයට පහර දෙන විට ඇමතන්නේ කුමක්ද යන්න පැහැදිලි කරන ඒවා තුනකි.

DeepSeekMoE — සියුම් විශේෂඥයන් සහ බෙදාගත් එකක්

Mixture-of-Experts ස්තරයක් එක් විශාල feed-forward ජාලයක් වෙනුවට කුඩා ඒවා බොහොමයක් සහ ටෝකනයකට අතළොස්සක් තෝරන රවුටරයක් යොදයි. DeepSeek හි ප්‍රභේදය සම්මත විශේෂඥයන් අටේ සැලැස්මට වඩා විශේෂඥයන් සියුම්ව කපයි, එබැවින් එකම සක්‍රීය FLOPs ප්‍රමාණයෙන් බෙහෙවින් වඩා සංයෝජනාත්මකව නිශ්චිත මිශ්‍රණයක් ලැබෙන අතර, එය සෑම ටෝකනයක්ම හරහා යන බෙදාගත් විශේෂඥයෙකු වෙන් කරයි, එබැවින් පොදු දැනුම එක් එක් විශේෂඥයා තුළ අනවශ්‍ය ලෙස නැවත ඉගෙන නොගනී. DeepSeek-V3 එය මාර්ගගත විශේෂඥයන් 256ක් සහ බෙදාගත් විශේෂඥයෙකු, ටෝකනයකට මාර්ගගත 8ක් සක්‍රීය කරමින් යවා ඇත — මුළු පරාමිති 671B, සක්‍රීය 37B — auxiliary-loss-free load balancing සමඟින්: ගුණාත්මකභාවය පිරිහෙළන දඬුවම් පදයක් වෙනුවට, එක් එක් විශේෂඥයා අඩු ලෙස හෝ වැඩි ලෙස පටවා ධාවනය වන විට එක් එක් පියවරේදී විශේෂඥයාට අනුව නැඹුරුවක් මාර්ගගත ලකුණු ඉහළට හෝ පහළට තල්ලු කරයි.

MLA — මතකයට ගැලපෙන attention

සේවා-පිරිවැය ගැටලුවේ අනෙක් අර්ධය KV cache එකයි, එය සන්දර්භය සමඟ රේඛීයව වර්ධනය වී දිගු අනුක්‍රම දිගවලදී මතකය ආධිපත්‍යය දරයි. DeepSeek-V2 හි හඳුන්වා දුන් Multi-head Latent Attention, keys සහ values low-rank latent vector එකකට ඒකාබද්ධව සම්පීඩනය කර එය cache කරයි, ගමන් අතරමගදී භාවිත කළ හැකි K/V නැවත ගොඩනගමින්. DeepSeek ප්‍රකාශයට පත් කළ V2 සංඛ්‍යා, ඔවුන්ගේ පෙර ඝන DeepSeek 67B හා සසඳා, KV cache හි 93.3%ක අඩුවීමක් සහ 5.76× ඉහළ උපරිම උත්පාදන ප්‍රතිදාන වේගයක් වාර්තා කරයි. ටෝකන 262Kක කවුළුවක් මෙම පවුලේ අමතර වාරිකයක් නොව මූලික අවශ්‍යතාවක් වන්නේ එබැවිනි.

Sparse attention — සහ ලාභ ටෝකන සඳහා පූර්වාදර්ශය

V3.2-Exp DeepSeek Sparse Attention එකතු කළේය: සැහැල්ලු indexer එකක් විමසුමට එරෙහිව සන්දර්භ ටෝකන ලකුණු කරන අතර, තෝරකයක් ඉහළම ලකුණු ලබන ඒවා පමණක් තබා ගනී. සිත්ගන්නා කොටස යාන්ත්‍රණය නොව රිසිට්පතයි. DeepSeek V3.1-Terminus හා පැත්තෙන් පැත්තට සංසන්දනයක් ප්‍රකාශයට පත් කළේය: MMLU-Pro 85.0 හි සමානව, AIME 2025 ඉහළට (88.4 → 89.3), SWE-bench Verified සුළු වශයෙන් පහළට (68.4 → 67.8) — අත්‍යවශ්‍යයෙන්ම සමතලා ගුණාත්මකභාවයක් — තවද එදිනම ඔවුන්ගේ API මිල 50%කට වඩා අඩු කළහ. අවංකව වාර්තා කරන ලද ගෘහ නිර්මාණය, කෙළින්ම මිල බවට හැරෙයි. Flash යනු එම තර්කය තවත් එක් පියවරක් ඉදිරියට ගෙන ගිය එකකි.

V4 පරම්පරාව

2026 අප්‍රේල් මාසයේ MIT බලපත්‍රයක් යටතේ පෙරදසුන් කරන ලද V4, attention කුට්ටිය නැවතත් Compressed Sparse Attention සහ Heavily Compressed Attention මිශ්‍රණයකින් ප්‍රතිස්ථාපනය කරයි, ටෝකන 32T කට වඩා මත Muon ප්‍රශස්තකාරකය සමඟ පුහුණු වේ, තවද V3 හි multi-token-prediction අරමුණ රඳවා ගනී — එය speculative decoding ලෙසද ද්විත්ව ලෙස ක්‍රියා කරන අතර, DeepSeek එය V3 හි දළ වශයෙන් 1.8× විකේතන වේග වැඩිවීමක් සඳහා දෙවන-ටෝකන පිළිගැනීමේ අනුපාතය 85–90%ක් ලෙස මැන ඇත. V4 සාරාංශය වාර්තා කරන්නේ V4-Pro ධාවනය වන්නේ V3.2 හි තනි-ටෝකන අනුමාන FLOPs වලින් 27%කින් සහ එහි KV cache වලින් 10%කින් බවයි. පවුල තර්කන-ප්‍රයත්න මට්ටම් තුනක් හෙළි කරන අතර, අපගේ reasoning_effort පරාමිතිය සිතියම්ගත වන්නේ ඒ මතය.

මූලාශ්‍ර: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 Technical Report (arXiv 2412.19437) · DeepSeek-V3.2-Exp ආකෘති කාඩ්පත · DeepSeek-V4 (arXiv 2606.19348). සියලුම සංඛ්‍යා DeepSeek විසින් වාර්තා කරන ලද ඒවාය.

03"Flash" යන්නෙන් ඇත්තටම අදහස් වන්නේ කුමක්ද

බොහෝ සංසන්දන වැරදි වන ලක්ෂ්‍යය මෙයයි, එබැවින් එය කෙළින්ම පැවසීම වටී: DeepSeek හි Flash යනු ප්‍රමාණකරණය කළ, කප්පාදු කළ හෝ distill කළ Pro එකක් නොවේ. එය එහිම පූර්ව-පුහුණු ධාවනයක් සහිත, වෙන වෙනම පුහුණු කරන ලද, කුඩා Mixture-of-Experts ආකෘතියකි. V4 පෙරදසුන් පත්‍රිකාව ප්‍රමාණ දෙක ලබා දෙයි:

සංඛ්‍යා DeepSeek-V4 පෙරදසුන් පත්‍රිකාවෙනි. අප සේවා කරන නිල චෙක්පොයින්ට් — V4-Flash-0731 සහ V4-Pro-0813 — ඒවායේ ආකෘති කාඩ්පත්වල 304B සහ 1.7T ලෙස තරමක් විශාල එකතු ලැයිස්තුගත කරයි; DeepSeek එම නිමැවුම් සඳහා සක්‍රීය පරාමිති නැවත සඳහන් නොකරයි.

මෙහිදී වැඩ කරන්නේ සංඛ්‍යා දෙකකි. මුළු පරාමිති මතක පියසටහන තීරණය කරයි, එය ආකෘතියේ පිටපතක් කොපමණ දෘඪාංග ප්‍රමාණයක් අත්පත් කර ගන්නේද යන්න තීරණය කරයි. සක්‍රීය පරාමිති ටෝකනයකට අංක ගණිතය තීරණය කරයි, එය ප්‍රතිදාන වේගය තීරණය කරයි. Flash පළමුවැන්නෙන් දළ වශයෙන් 5.6× කුඩා වන අතර දෙවැන්නෙන් 3.8× කුඩාය — තවද එම පරතරයේ දැකිය යුතු සියුම් කරුණක් තිබේ: Flash බිලියන 284කින් 13ක්, එනම් ආසන්න වශයෙන් 4.6%ක්, සක්‍රීය කරන අතර, Pro බිලියන 1,600කින් 49ක්, එනම් ආසන්න වශයෙන් 3.1%ක්, සක්‍රීය කරයි. Flash යනු අඩුවෙන් විරල ආකෘතියයි. එය හුදෙක් අඩු විශේෂඥයන් සංඛ්‍යාවක් සක්‍රීය කළ Pro එකක් නොවේ; එය නිපදවන සෑම ටෝකනයක් වෙනුවෙන්ම තමන්ගෙන් වැඩි කොටසක් වැය කරන, ඝන, වෙනස් ලෙස තුලනය කළ සැලසුමකි. එය පහත් කිරීමක් නොව සැබෑ ඉංජිනේරු තේරීමකි.

DeepSeek හිම සංඛ්‍යා කියන දේ

නිල ආකෘති කාඩ්පත් දෙකම එකම නියෝජිත සහ මෘදුකාංග-ඉංජිනේරු ප්‍රමිති පරීක්ෂණ මත ලකුණු ප්‍රකාශයට පත් කරයි, එය මෙය අසාමාන්‍ය ලෙස පිරිසිදු සංසන්දනයක් කරයි — එකම රසායනාගාරය, එකම ඇගයීම් රාමුව, ප්‍රමාණ දෙකක්:

ප්‍රමිතිය (DeepSeek වාර්තා කළ)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro සෑම පේළියක්ම ජයගනී. එය අවංක ශීර්ෂ පාඨයයි, තවද ඔබ එය නිෂ්පාදනයේදී සොයාගනු වෙනුවට මෙහිදී කියවනවාට අපි කැමතියි. නමුත් පරතර කියවන්න, මන්ද ඔබ ඇත්තටම මිලදී ගන්නේ ඒවා බැවිනි. Terminal Bench 2.1 හි, පරාමිතිවලින් විසිපස්වන කොටසක් ඇති ආකෘතියක් මත, පරතරය ලකුණු 5.2කි; මෙවලම් භාවිතයේදී එය ලකුණු 3.8කි. වැඩ ගැඹුරුම වන තැන පරතරය පුළුල් වේ — DeepSWE හි ලකුණු 8.3ක්, NL2Repo හි 7.3ක්, ඒ දෙකම නොනවතින බහු-පියවර කේත තර්කනයට ත්‍යාග දෙයි. එක් වගුවක හුවමාරුවේ හැඩය එයයි: Flash සීමිත කාර්යයන්හිදී දුරින් වැඩි කොටසක් වසා දමන අතර විවෘත-අවසන් ඒවායේදී පසුබසී.

DeepSeek හිම Flash කාඩ්පත එම කරුණ තවත් තියුණු ලෙස කියයි: Flash-0731 එහි බෙහෙවින් කුඩා සක්‍රීය පරාමිති ගණන තිබියදීත් ලැයිස්තුගත ප්‍රමිති පරීක්ෂණවලදී V4-Pro පෙරදසුන අභිබවා යයි. නවතම කුඩා ආකෘතියක් පැරණි විශාල එකක් පරදවා ගැනීම මෙම ක්ෂේත්‍රයේ සාමාන්‍ය තත්ත්වයයි, තවද "විශාල ස්තරය" කිසිදා ඔබේ පෙරනිමි පිළිතුර නොවිය යුත්තේ එබැවිනි.

04අගපදය කියවීම: W4A16-AUTOROUND-REAP

අපගේ ආකෘති id ඒවායේ සම්පීඩන ක්‍රමය හඬ නඟා ප්‍රකාශ කරයි, මන්ද එය ප්‍රතිදාන ගුණාත්මකභාවයට වැඩිපුරම බලපාන දෙය වන අතර පාහේ කිසිවෙකු එය හෙළි නොකරන බැවිනි. මෙය කොටස් තුනකට වියෝජනය වේ.

W4A16 — බිට් 4 බර, බිට් 16 සක්‍රියතා

බර එකකට බිට් 4 බැගින් ගබඩා කෙරේ; සක්‍රියතා බිට් 16 නිරවද්‍යතාවෙන් ගලා යයි. මෙය බර-පමණක් ප්‍රමාණකරණයක් වන අතර, එය ටෝකන උත්පාදනයේ සැබෑ බාධකය ඉලක්ක කරයි, එනම් අංක ගණිතය නොව මතක කලාපයයි. සක්‍රියතාද ප්‍රමාණකරණය කිරීමෙන් තව ටිකක් වේගය ලැබෙන නමුත් බෙහෙවින් විශාල නිරවද්‍යතා පල්ලමක අවදානමක් ඇත; ඒවා බිට් 16හි තැබීම ගතානුගතික, ඉහළ-විශ්වසනීයත්ව තේරීමයි. සංකේතනය සේවා-පරිසර පද්ධතියේ කෙටි ලිවීමකි — ප්‍රමාණකරණ සාහිත්‍යය එකම දේ group size එකක් සමඟ W4 ලෙස ලියයි.

AUTOROUND — ළඟම වට කිරීම නොව, ඉගෙනගත් වට කිරීම

බොළඳ ප්‍රමාණකරණය සෑම බරක්ම නියෝජනය කළ හැකි ළඟම අගයට වට කරයි. එය පැහැදිලිවම ප්‍රශස්ත නොවේ: එක් බරක් "වැරදි" ලෙස වට කිරීමෙන් එහි අසල්වැසියන් හඳුන්වා දුන් දෝෂය අවලංගු කළ හැකි අතර, බර බිලියන ගණනක් සමඟ එම අන්තර්ක්‍රියා ආධිපත්‍යය දරයි. Intel වෙතින් පැමිණෙන AutoRound, වට කිරීමේ තීරණයම ඉගෙන ගත යුතු දෙයක් ලෙස සලකයි — ±0.5 කට සීමා කළ, බරකට පුහුණු කළ හැකි කැළඹීමක්, ඕනෑම තනි වට කිරීමේ තීරණයක් පෙරළීමට හරියටම ප්‍රමාණවත් වන අතර ඊට වඩා කිසිදා නොවේ, ඊට අමතරව ඉගෙන ගත හැකි කැපීමේ පරාස, කුඩා ක්‍රමාංකන කට්ටලයක් මත කුට්ටි අනුව ප්‍රතිදාන-ප්‍රතිනිර්මාණ අරමුණකට එරෙහිව ලකුණු සහිත අනුක්‍රමණ බැසීමෙන් ප්‍රශස්තකරණය කරයි. පියවර දෙසියයක්, එවිට අවසන්.

Intel හි ප්‍රකාශිත සංසන්දනවලට අනුව බිට් 4 බර-පමණක් සැකසුම්වලදී AutoRound පරීක්ෂා කළ අවස්ථා 32න් 30කදී GPTQ ද, 32න් 27කදී AWQ ද, 32න් 29කදී OmniQuant ද පරදවා ඇති අතර, බිට් 2කදී බොළඳ ළඟම-අගයට-වට කිරීම හා සසඳන විට නිරවද්‍යතා ලකුණු 6.9 සිට 33.2 දක්වා වාසි ලබා ඇත. ඉන් කිසිවක් අනුමාන කිරීමේදී කිසිවක් වැය නොකරයි: එය වරක්, offline ලෙස ගන්නා ලද වඩා හොඳ සංඛ්‍යා තේරීමකි.

REAP — කිසිවෙකු මාර්ගගත නොකරන විශේෂඥයන් ඉවත් කිරීම

Cerebras Systems සහ University of Calgary වෙතින් පැමිණෙන REAP (Router-weighted Expert Activation Pruning), MoE ආකෘති සඳහා එක්-ගමන් සම්පීඩනයකි. එය එක් එක් විශේෂඥයා රවුටරය ඔහුට කොතරම් තදින් සහ කොපමණ වාරයක් ගේට් කරයිද යන්නෙන් ලකුණු කර, එම විශේෂඥයාගේ ප්‍රතිදානයේ විශාලත්වයෙන් ගුණ කර, පසුව අවම වැදගත්කමක් ඇති විශේෂඥයන් සම්පූර්ණයෙන්ම මකා දමයි — පසුව නැවත පුහුණු කිරීමක් නැත.

පත්‍රිකාවේ කේන්ද්‍රීය සොයාගැනීම ප්‍රයෝජනවත් එකයි: ඉහළ සම්පීඩන අනුපාතවලදී, විශේෂඥයන් කප්පාදු කිරීම ඔවුන් ඒකාබද්ධ කිරීම පරදවයි. ක්‍රියාකාරීව වෙනස් විශේෂඥයන් ඒකාබද්ධ කිරීම කතුවරුන් functional subspace collapse ලෙස හඳුන්වන දෙයට හේතු වේ — රවුටරයට MoE එක ගොඩනැගීම වටින්නක් කළ සියුම්, ආදාන-පදනම් පාලනය අහිමි වී, ස්ථිතික සාමාන්‍යයන් අතර හැසිරවීමට ඉතිරි වේ. පරාමිති 20B සිට 1T දක්වා ආකෘති හරහා ඔවුන්ගේ සංඛ්‍යා: කේතන කාර්යයන් මත විශේෂඥ සම්පීඩනය 25%කදී, ඒකාබද්ධ කිරීමේ පාදක ක්‍රම 5%කට වඩා අහිමි කරගන්නා තැන REAP මධ්‍යන්‍ය නිරවද්‍යතාවෙන් 2.8%ක් අහිමි කරගනී; 50%කදී, ඒකාබද්ධ කිරීම 20%කට වඩා අහිමි කරගන්නා තැන REAP 8.0%ක් අහිමි කරගනී. Qwen3-Coder-480B මත 50% කප්පාදුවේදී පහත වැටීම 1.4%ක් වන අතර, බොළඳ සංඛ්‍යාත-පදනම් කප්පාදුව සඳහා එය 39.3%කි. Cerebras අනෙක් ඒවා අතර DeepSeek පෙළපත සඳහාද REAP චෙක්පොයින්ට් ප්‍රකාශයට පත් කර ඇත.

මෙහි බිට් 4ක් සහ Pro හි බිට් 3ක් වන්නේ ඇයි

ස්තර දෙකටම එකම දෘඪාංග පන්තිය මත ගැලපී වේගවත්ව පැවතිය යුතුය. Pro පරාමිති ට්‍රිලියන 1.7ක් රැගෙන යයි, එබැවින් ගැලපීමට වත් එයට වඩා ආක්‍රමණශීලී බිට් 3 ප්‍රතිකාරය අවශ්‍ය වේ. Flash රැගෙන යන්නේ දළ වශයෙන් බිලියන 300ක් පමණි, එබැවින් එයට එය අවශ්‍ය නොවේ — තවද එය ඉතිරි කරන bit එක ගැලපීම වෙනුවට විශ්වසනීයත්වය සඳහා වැය කෙරේ.

එම අමතර bit එක එහි අංක ගණිතය යෝජනා කරනවාට වඩා වැදගත් වේ, මන්ද ප්‍රමාණකරණ හානිය රේඛීය නොවන බැවිනි. AWQ පත්‍රිකාවේ WikiText-2 මිනුම්වලදී, Llama-2-7B FP16 හි perplexity 5.47 සිට බිට් 4කදී 5.60 දක්වා යයි — 2.4%ක දඬුවමක් — නමුත් බිට් 3කදී 6.24 දක්වා, එනම් 14%ක දඬුවමකි. එය 25%ක් වැඩි සම්පීඩනයක් සඳහා දළ වශයෙන් හය ගුණයක පිරිහීමකි, තවද 70B හිද එම රටාවම පවතී. GPTQ පත්‍රිකාව තවත් සෘජුය: bits තුනකදී, බොළඳ ළඟම-අගයට-වට කිරීම 175B පන්තියේ ආකෘති මත කඩා වැටේ, perplexity දහස් ගණනකට, බිට් 4කදී පරිපූර්ණ ලෙස භාවිත කළ හැකිව පවතිද්දී. bits හතරට පහළින්, හොඳ ප්‍රමාණකරණ ඇල්ගොරිතමයක් සුඛෝපභෝගී දෙයක් වීම නවතා ආකෘතිය එකට තබා ගන්නා එකම දෙය බවට පත් වේ.

එබැවින් මෙම අගපද දෙකේ අවංක කියවීම නම්: Pro එහිම සම්පීඩනය නොකළ අනුවාදයට වඩා Flash එහිම සම්පීඩනය නොකළ අනුවාදයට ළං වී සිටී. Pro තවමත් ශක්තිමත් ආකෘතියයි — ඉහත ප්‍රමිති වගුව එය තීරණය කරයි. එය හුදෙක් මෙතැනට පැමිණීමට වැඩි යමක් අත්හැර ඇති අතර, ඔබ එම වරප්‍රසාදය වෙනුවෙන් ගෙවයි.

මූලාශ්‍ර: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Perplexity සංඛ්‍යා AWQ (arXiv 2306.00978) සහ GPTQ (arXiv 2210.17323) වෙතිනි.

05අන්ත ලක්ෂ්‍යයේදී Flash එදිරිව Pro

03 වන කොටස පදනම් ආවරණය කළේය. අපගේ gateway එකේ නිෂ්පාදන ලෙස ස්තර දෙක පෙනෙන්නේ මෙසේය:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
ප්‍රමාණකරණය	W4A16-AUTOROUND-REAP	3BIT-REAP
බර නිරවද්‍යතාව	බිට් 4, ඉගෙනගත් වට කිරීම	බිට් 3
පදනම (මුළු / සක්‍රීය)	~304B / 13B	~1.7T / 49B
ටෝකන මිලියනයකට ආදාන	$0.50	$1.95
ටෝකන මිලියනයකට ප්‍රතිදාන	$2.00	$3.90
සන්දර්භය / උපරිම ප්‍රතිදානය	262,144 / 16,384	262,144 / 16,384
මෙවලම් · ව්‍යුහගත ප්‍රතිදානය · ප්‍රවාහනය	ඔව්	ඔව්
දෘශ්‍ය හැකියාව	නැත	නැත
ප්‍රතික්ෂේප ස්තරය	නැත	නැත

වෙනස් නොවන දේ සලකන්න: සන්දර්භය, ප්‍රතිදාන සීමාව, මෙවලම් ඇමතුම්, ව්‍යුහගත ප්‍රතිදානය, සහ ප්‍රතික්ෂේප ස්තරයක් නොමැති වීම සමානය. චලනය වන එකම දේවල් වන්නේ පදනම, ප්‍රමාණකරණය, සහ මිලයි. එය ඒවා අතර මාරු වීම ඔබේ කේතයේ එක් නූලක වෙනසක් සහ ඔබේ ගෘහ නිර්මාණයේ තනිකරම ආර්ථික තීරණයක් කරයි.

උපරිම ප්‍රමාණයේ එක් ඇමතුමකට වැය වන්නේ කුමක්ද

සම්පූර්ණ ටෝකන 262,144ක සන්දර්භය පුරවා සම්පූර්ණ ටෝකන 16,384ක ප්‍රතිදානය ගන්න:

ලැයිස්තු මිලට. Flash: ආදාන $0.131 + ප්‍රතිදාන $0.033. Pro: $0.511 + $0.064. අනුපාතය 3.51×. Flash එම $0.50 / $2.00 බිම MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro සහ Hy3 සමඟද බෙදාගනී — ඒවා දෘශ්‍ය හැකියාව සහ ව්‍යුහගත ප්‍රතිදානය මත වෙනස් වන ආකාරය සඳහා සම්පූර්ණ නාමාවලිය බලන්න.

06පරිමා අංක ගණිතය, විස්තර කර

"3.9× ලාභයි" යනු ආදානයේදී පමණක් සත්‍යයකි. ප්‍රතිදානයේදී Flash 1.95× ලාභය. එබැවින් ඔබේ සැබෑ ඉතිරිය රඳා පවතින්නේ ඔබේ ආදාන-සිට-ප්‍රතිදාන අනුපාතය මත වන අතර, පරාසය සැලසුම් තීරණ වෙනස් කරන තරම් පුළුල්ය. සැබෑ වැඩ බර හතරක්, එක එකක් ඉල්ලීම් 100,000ක් බැගින්:

වැඩ බර	ඇමතුමකට ආදාන / ප්‍රතිදාන	Flash	Pro	ඉතිරිය
ප්‍රවේශපත්‍ර වර්ගීකරණය	1,200 / 120	$84	$281	3.3×
RAG ප්‍රශ්නවලට පිළිතුරු දීම	8,000 / 600	$520	$1,794	3.4×
දිගු-ලේඛන සාරාංශය	60,000 / 1,500	$3,300	$12,285	3.7×
කෘත්‍රිම දත්ත උත්පාදනය	500 / 2,000	$425	$878	2.1×

රටාව: ඔබ තල්ලු කරන සන්දර්භය වැඩි වන තරමට සහ ඔබ උත්පාදනය කරන පෙළ අඩු වන තරමට, Flash ඔබට වැඩිපුර ඉතිරි කරයි. ලබාගැනීමේ නල මාර්ග, ලේඛන වර්ගීකරණය, ලොග් සහ පිටපත් විශ්ලේෂණය, සහ දිගු-සන්දර්භ උපුටා ගැනීම යනු ලස්සනම ස්ථානයයි — ඒවා විශාලත්ව අනුපිළිවෙළකින් ආදාන-ආධිපත්‍ය දරන අතර, 3.9× වට්ටම පවතින්නේ ආදානයේය. ඒ වෙනුවට ඔබේ වැඩ බර ගද්‍ය ටෝකන දහස් ගණනක් නිපදවන කෙටි විමසුමක් නම්, පරතරය දළ වශයෙන් 2× දක්වා පටු වන අතර Pro සඳහා හැකියාව පිළිබඳ තර්කය ඊට අනුරූපව ශක්තිමත් වේ.

අභ්‍යන්තරගත කර ගැනීම වටින තවත් එක් අංක ගණිත කොටසක්: ආදාන ටෝකන මිලියනයකට $0.50 ගානේ, සම්පූර්ණ ටෝකන 262,144ක කවුළුව පිරවීමට ශත 13.1ක් වැය වේ. එම මිලට දිගු-සන්දර්භ විමසුම් අයවැය ප්‍රශ්නයක් වීම නවතී, එයින් සමහර විට අදහස් වන්නේ ඔබට ලබාගැනීමේ ස්තරයක් ගොඩනැගීම මුළුමනින්ම මඟ හැර සන්දර්භ කවුළුවට වැඩ කිරීමට ඉඩ දිය හැකි බවයි — ටෝකන ඉතිරියට ඉහළින් ඇති ඉංජිනේරු ඉතිරියකි.

07මෙහි "වාරණයෙන් තොර" යන්නෙන් හරියටම අදහස් වන්නේ කුමක්ද

එම වචනය ලිහිල්ව භාවිත වේ, එබැවින් අන්ත ලක්ෂ්‍යයේ ගුණාංගයක් ලෙස ප්‍රකාශ කරන ලද, අපගේ අර්ථ දැක්වීම මෙයයි: ආකෘතියට ඉදිරියෙන් ප්‍රතික්ෂේප වර්ගීකාරකයක් නැත, එහි ප්‍රතිදානයට යොදන අන්තර්ගත පෙරහනක්ද නැත. විමසුමක් අවහිර කර ටින් කළ ප්‍රතික්ෂේපයක් ආපසු දෙන කිසිවක් නැත; සම්පූර්ණ කිරීම පරීක්ෂා කර එය සංස්කරණය කරන කිසිවක් නැත. විශාල-පරිමා නිෂ්පාදන කාර්යය සඳහා ප්‍රතිවිපාක එම වචනය යෝජනා කරනවාට වඩා අඩු නාටකාකාර සහ වඩා ප්‍රයෝජනවත්ය:

• නිර්දෝෂී ගමනාගමනය මත ව්‍යාජ ධනාත්මක නැත. පෙරහන් සහිත අන්ත ලක්ෂ්‍ය නිතිපතා වෛද්‍ය සාරාංශ, ආරක්ෂක වාර්තා, නීතිමය සොයාගැනීම්, ප්‍රබන්ධ, හානි-අවම කිරීමේ ද්‍රව්‍ය සහ මධ්‍යස්ථ කිරීමේ කාර්යයම ප්‍රතික්ෂේප කරයි — හානිකර යමක් නිපදවනවා වෙනුවට කණ්ඩායම් කාර්යයක් සංවේදී මාතෘකාවක් පිළිබඳ පෙළ සකසන ප්‍රවර්ග හරියටම ඒවාය. ඉල්ලීම් ලක්ෂයකදී, සියයට එකක ව්‍යාජ-ප්‍රතික්ෂේප අනුපාතයක් යනු කැඩුණු පේළි දහසකි.
• නිශ්චිත ගිවිසුම්. json_schema ප්‍රතිචාරයක් ඉල්ලන්න, එවිට ඔබට schema එකට ගැලපෙන JSON ලැබෙනු ඇත, වස්තුවක් තිබිය යුතු තැන සමාව අයැදීමේ ඡේදයක් නොවේ. ඔබේ parser එකට ප්‍රතික්ෂේප ශාඛාවක් අවශ්‍ය නොවන අතර, ඔබේ නැවත උත්සාහ කිරීමේ තර්කනයට ප්‍රවාහන අසාර්ථකත්වයක් ප්‍රතිපත්තිමය එකකින් වෙන් කිරීමට සිදු නොවේ.
• ප්‍රතිපත්තිය ඔබ සතුය. එය හුවමාරුවයි. ඔබේ නිෂ්පාදනයට ඔබේ අවසන් පරිශීලකයන් සඳහා ආරක්ෂක වැට අවශ්‍ය නම්, සැපයුම්කරුවෙකුගේ අනුමාන දෙකම උරුම කර ගැනීම වෙනුවට, ඔබ ඔබේ පරිශීලකයන් සහ ඔබේ අධිකරණ බලය දන්නා ඔබේ ස්තරයේදී ඒවා ගොඩනගයි. ඔබේ ගිණුම අපගේ වගකීම් සහගත භාවිත ප්‍රතිපත්තිය යටතේ පාලනය වේ.

වාරණයෙන් තොර යනු පෙළගැස්මකින් තොර හෝ උදව් නොකරන දෙයක් නොවේ. ආකෘතිය තවමත් උපදෙස් අනුගමනය කරන අතර තවමත් පද්ධති විමසුමකට ගරු කරයි. ඔබේ පරිශීලකයන් සඳහා ඇතැම් ප්‍රවර්ග ප්‍රතික්ෂේප කිරීමට ඔබට අවශ්‍ය නම්, එය එහි කියන්න — එම උපදෙස දැන් අප පැටවීමට නොව ඔබ ලිවීමට ඇති එකකි.

08හැකියාවන් සහ අවංක සීමා

පරිමා කාර්යය සඳහා බර වැඩි කොටසක් දරන්නේ හැකියාවන් දෙකකි. දැඩි json_schema ප්‍රතිදානය සම්පූර්ණ කිරීමක් parse කිරීමේ ස්තරයක් හෝ ප්‍රතික්ෂේප ශාඛාවක් නොමැතිව දත්ත සමුදා පේළියක් බවට හරවයි. උපභාෂා තුනේම මෙවලම් ඇමතුම්, ඉහළම මට්ටමේ සැලසුම්කරු ශක්තිමත් ආකෘතියක් මත ධාවනය වන නියෝජිතයෙකුගේ ලාභ උප-පියවර සඳහා Flash සාධාරණ එන්ජිමක් කරයි. ඒවාට reasoning_effort එකතු කරන්න, එය ඔබට ඒවා අවශ්‍ය ගමනාගමනයේ කොටස මත පමණක් අමතර ටෝකන වැය කිරීමට ඉඩ දෙයි, තවද Pro හි එකට සමාන ටෝකන 262,144ක සන්දර්භයක් — ලාභ ස්තරය තෝරා ගැනීමෙන් ඔබ සන්දර්භය අත් නොහරින අතර, එය අසාමාන්‍යය.

සීමාද එලෙසම නිශ්චිතය:

• දෘශ්‍ය හැකියාවක් නැත. Flash පෙළ පමණක් වන අතර පණිවිඩයක රූප කොටස් ප්‍රතික්ෂේප කරයි. එකම $0.50 / $2.00 බිම මිලේ වාරණයෙන් තොර ආකෘතියක රූප සඳහා, MiniMax-M3 සහ MiMo-V2.5 යනු දෘශ්‍ය හැකියාව ඇති විකල්පයන්ය; Kimi-K2.6 සහ Kimi-K3 එම ස්තරයට ඉහළින් ඇති ශක්තිමත් දෘශ්‍ය ආකෘතීන්ය.
• ඉණිමගේ මුදුන නොවේ. DeepSeek හිම සංඛ්‍යා ප්‍රකාශිත සෑම නියෝජිත ප්‍රමිතියකදීම Pro ඉදිරියෙන් තබන අතර, පරතරය පුළුල්ම වන්නේ නොනවතින බහු-පියවර කේත තර්කනයේදීය. එක් වැරදි පිළිතුරක් ලාභ දහසකට වඩා වැය වන තැන, මිලියනයකට අමතර $1.45 DeepSeek-V4-Pro මත වැය කරන්න.
• ඉල්ලීමකට ප්‍රතිදාන ටෝකන 16,384කි. දිගු උත්පාදන ඇමතුම් හරහා කැබලි කළ යුතුය. මෙය අප සේවා කරන සෑම ආකෘතියකම එකම සීමාව වන අතර, එය සන්දර්භ කවුළුවට බෙහෙවින් පෙර බැඳේ.

09එයට ඇමතුම් දීම

ඕනෑම OpenAI-අනුකූල client එකක් gateway එකට යොමු කර ආකෘති නූල වෙනස් කරන්න. ඔබේ තට්ටුවේ වෙන කිසිවක් චලනය විය යුතු නැත.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

එකම ආකෘති id එක /v1/messages සහ /v1/responses මතද වෙනස් නොවී ක්‍රියා කරයි, එය ඔබේ client එක නැවත නොලියා පවතින ඒකාබද්ධ කිරීමකට යටින් ලාභ ආකෘතියක් A/B කිරීමට ඇති වේගවත්ම ක්‍රමයයි. පරාමිති, ප්‍රවාහන සිදුවීම් හැඩ, මෙවලම්-ඇමතුම් schema සහ අනුපාත සීමා API යොමුවේ ලේඛනගත කර ඇත; නාමාවලියේ සෑම ආකෘතියක්ම Shannon Research හි ලැයිස්තුගත කර ඇත.

10නිතර අසන ප්‍රශ්න

---

මූලාශ්‍ර: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 Technical Report (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 සහ DeepSeek-V4-Pro-0813 ආකෘති කාඩ්පත් · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). සියලුම පදනම් සහ ප්‍රමිති සංඛ්‍යා ඒවායේ අදාළ කතුවරුන් විසින් ප්‍රකාශයට පත් කරන ලද පරිදිය; Shannon AI මිල සහ සේවා කරන සන්දර්භය 2026 සැප්තැම්බර් වන විට අපගේම ලැයිස්තු අගයන්ය.