ሳንሱር-አልባው DeepSeek Flash API
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — ወለል ዋጋ፣ 262K ዐውድ፣ እና የእምቢታ ንብርብር የለም። በቀን አስር ሺህ ጊዜ የሚሮጠውን የሥራ ጫና የምታዞሩበት ሞዴል።
ባጭሩ
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP በShannon AI Gateway ላይ ያለው የDeepSeek ቤተሰብ ከፍተኛ-መጠን ደረጃ ነው። በራሳችን GPU ክላስተር ላይ በሚሊዮን ግብዓት ቶክን $0.50 እና በሚሊዮን ውጤት ቶክን $2.00 — የካታሎጋችን ወለል — ይሮጣል፣ 262,144-ቶክን ዐውድ፣ 16,384 ከፍተኛ የውጤት ቶክኖች፣ ስትሪሚንግ፣ መሣሪያ መጥራት፣ በreasoning_effort ማመዛዘን፣ እና ጥብቅ json_schema የተዋቀረ ውጤት ይዞ። የእምቢታ ንብርብርም ሆነ የውጤት ማጣሪያ የለም። የDeepSeek-V4-Pro የተጎሳቆለ ስሪት አይደለም፦ Pro ወደ 3-ቢት የተጨመቀ በጣም ትልቅ መሠረት ነው፣ Flash ደግሞ ከፍተኛ-ታማኝነት ባለው 4-ቢት AutoRound ኳንታይዜሽን የሚሸከም ትንሽ መሠረት ነው። እነዚያ በተመሳሳዩ ኩርባ ላይ ያሉ ሁለት የተለያዩ ነጥቦች ናቸው፣ የትኛው እንደሚያሸንፍም ሙሉ ለሙሉ በሥራ ጫናችሁ ላይ የተመሠረተ ነው።
የLLM APIን የሚገመግሙ አብዛኞቹ ቡድኖች የተሳሳተውን ተለዋዋጭ ያሻሽላሉ። ማሰብ በሚችሉት እጅግ ከበዱት ሃያ ጥያቄዎች ላይ ይለካሉ፣ አሸናፊውን ይመርጣሉ፣ ከስድስት ሳምንት በኋላም ትራፊካቸው ዘጠና አምስት በመቶ የአንድ-አራተኛ ወጪ ያለው ሞዴል በተመሳሳይ ይይዘው የነበረ አጭር፣ የተዋቀረ፣ ተደጋጋሚ ሥራ ሆኖ ያገኙታል። DeepSeek-V4-Flash ያለው ለዚያ ዘጠና አምስት በመቶ ነው። ይህ ገጽ ስለ እናንተ በዚያ ውስጥ መሆናችሁን ማወቅ ነው — እና ባትሆኑበትም ጊዜ።
01በእውነት የምታገኙት
| ንብረት | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| የሞዴል መለያ | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| ዐውድ / ከፍተኛ ውጤት | 262,144 ቶክኖች / 16,384 ቶክኖች |
| በ1M ዋጋ (ግብዓት / ውጤት) | $0.50 / $2.00 |
| ስትሪሚንግ · መሣሪያ መጥራት · ማመዛዘን | አለ — ሁሉም ሦስት ዘይቤዎች |
| የተዋቀረ ውጤት | json_schema እና response_format |
| የምስል ግብዓት (እይታ) | የለም — ጽሑፍ-ብቻ |
| የእምቢታ ንብርብር / የውጤት ማጣሪያ | የለም |
| የሚቀርበው በ | የራሳችን GPU ክላስተር |
ሦስት የAPI ዘይቤዎች ወደ ተመሳሳዮቹ ክብደቶች ይደርሳሉ፦ /v1/chat/completions (የOpenAI ቅርጽ)፣ /v1/messages (የAnthropic ቅርጽ)፣ እና /v1/responses። ስትሪሚንግ በሦስቱም ይሠራል። ሙሉ የመለኪያ ማጣቀሻ በAPI ሰነዶች ውስጥ ነው።
02ከየት እንደመጣ፦ የDeepSeek የዘር ሐረግ
DeepSeek-AI አምስት የሞዴል ትውልዶችን በአንድ ዝንባሌ ላይ አሳልፏል፦ ለማገልገል ርካሽ ከሆነ ሞዴል frontier ባህርይ ማግኘት፣ ለማሠልጠን ርካሽ ብቻ ሳይሆን። በመስመሩ ውስጥ ያለ ማለት ይቻላል እያንዳንዱ ሥነ ሕንጻዊ ውሳኔ ወደዚያ ይመለሳል፣ አስፈላጊዎቹም ታትመዋል። ሦስቱ ይህን የመዳረሻ ነጥብ ስትመቱ የምትጠሩትን ያብራራሉ።
DeepSeekMoE — ጥርት ያሉ ኤክስፐርቶች ከጋራ አንድ ጋር
የኤክስፐርቶች ድብልቅ ንብርብር አንድ ትልቅ feed-forward አውታረ መረብን በብዙ ትንንሽ እና በአንድ ቶክን ጥቂቶችን በሚመርጥ መሪ ይተካል። የDeepSeek ዝርያ ኤክስፐርቶችን ከተለመደው ስምንት-ኤክስፐርት አቀማመጥ ይበልጥ ጥርት አድርጎ ይቆራርጣል፣ ስለዚህ ተመሳሳዩ ንቁ FLOPs በጣም ይበልጥ ጥምር-ተኮር ልዩ ድብልቅ ይገዛል፣ እያንዳንዱ ቶክን የሚያልፍበትን የጋራ ኤክስፐርት ይለያል፣ ስለዚህ የጋራ እውቀት በእያንዳንዱ ስፔሻሊስት ውስጥ በድግግሞሽ አይማርም። DeepSeek-V3 ያንን እንደ 256 የተመሩ ኤክስፐርቶች ከ1 የጋራ ኤክስፐርት ጋር፣ በአንድ ቶክን 8ቱን የተመሩ በማንቃት ላከ — 671B ጠቅላላ መለኪያዎች፣ 37B ንቁ — ከauxiliary-loss-free load balancing ጋር፦ ጥራትን ከሚያዋርድ የቅጣት ቃል ይልቅ፣ በአንድ-ኤክስፐርት ያለ ልዩነት ያ ኤክስፐርት ከመጠን በታች ወይም ከመጠን በላይ ሲጫን በእያንዳንዱ ደረጃ የ routing ውጤቶችን ወደ ላይ ወይም ወደ ታች ይገፋል።
MLA — በማህደረ ትውስታ ውስጥ የሚገጥም ትኩረት
የአገልግሎት-ወጪ ችግር ሌላኛው ግማሽ ከዐውድ ጋር በቀጥታ መስመር የሚያድገውና በረጅም ቅደም ተከተል ርዝመቶች ላይ ማህደረ ትውስታን የሚቆጣጠረው KV መሸጎጫ ነው። በDeepSeek-V2 የተዋወቀው Multi-head Latent Attention ቁልፎችንና እሴቶችን በጋራ ወደ ዝቅተኛ-ደረጃ latent ቬክተር ይጨመቃል እሱን ይሸጉጣል፣ ጥቅም ላይ የሚውል K/Vንም ወዲያውኑ ይገነባል። የDeepSeek የታተመ V2 ቁጥሮች፣ ከቀደመው ጥቅጥቅ DeepSeek 67B ጋር ሲነጻጸር፣ 93.3% የKV መሸጎጫ ቅናሽ እና 5.76× ከፍ ያለ ከፍተኛ የማመንጨት throughput ይዘግባል። ለዚህ ነው በዚህ ቤተሰብ ውስጥ የ262K-ቶክን መስኮት እንደ ተጨማሪ-ክፍያ አክል ሳይሆን እንደ መደበኛ ሁኔታ የሆነው።
Sparse attention — እና ለርካሽ ቶክኖች ቀዳሚ ምሳሌ
V3.2-Exp DeepSeek Sparse Attentionን ጨመረ፦ ቀላል indexer የዐውድ ቶክኖችን ከጥያቄው ጋር ያስመዘግባል፣ መራጭም ከፍተኛ-ውጤት ያገኙትን ብቻ ይይዛል። አስደሳቹ ክፍል ስልቱ ሳይሆን ደረሰኙ ነው። DeepSeek ከV3.1-Terminus ጋር ጎን-ለጎን አትሟል፣ MMLU-Pro በ85.0 ተመሳሳይ፣ AIME 2025 ከፍ ብሎ (88.4 → 89.3)፣ SWE-bench Verified በትንሹ ወርዶ (68.4 → 67.8) — በመሠረቱ ጠፍጣፋ ጥራት — እና በዚያኑ ቀን የAPI ዋጋቸውን ከ50% በላይ ቀነሱ። ሥነ ሕንጻ፣ በታማኝነት ተዘግቦ፣ በቀጥታ ወደ ዋጋ ይቀየራል። Flash ያ ክርክር አንድ እርምጃ የበለጠ የተወሰደ ነው።
የV4 ትውልድ
በሚያዝያ 2026 በMIT ፈቃድ ስር ቅድመ-እይታ የተደረገው V4 የትኩረት ቁልሉን በCompressed Sparse Attentionና በHeavily Compressed Attention ድብልቅ እንደገና ይተካል፣ ከ32 ትሪሊዮን ቶክኖች በላይ በMuon optimizer ይሠለጥናል፣ የV3ን multi-token-prediction ዓላማም ይይዛል — ይህም እንደ speculative decoding ድርብ ጥቅም ያለው ሲሆን DeepSeek በV3 ላይ ለግምት 1.8× decoding ማፍጠን በ85–90% ሁለተኛ-ቶክን ተቀባይነት መጠን ለክቷል። የV4 abstract V4-Pro የV3.2ን የነጠላ-ቶክን የግምት FLOPs 27% እና የKV መሸጎጫውን 10% እያሮጠ እንደሆነ ይዘግባል። ቤተሰቡ ሦስት reasoning-effort ደረጃዎችን ያጋልጣል፣ የእኛም reasoning_effort መለኪያ ወደዚያ የሚመለከተው ነው።
ምንጮች፦ DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 Technical Report (arXiv 2412.19437) · DeepSeek-V3.2-Exp model card · DeepSeek-V4 (arXiv 2606.19348)። ሁሉም ቁጥሮች በDeepSeek የተዘገቡ ናቸው።
03"Flash" በእውነት ማለት ምን ማለት ነው
ይህ አብዛኞቹ ንጽጽሮች የሚሳሳቱበት ነጥብ ነው፣ ስለዚህ በግልጽ መናገር ተገቢ ነው፦ የDeepSeek Flash ኳንታይዝ የተደረገ፣ የተከረከመ ወይም distilled Pro አይደለም። የራሱ ቅድመ-ሥልጠና ሩጫ ያለው፣ ለብቻው የሠለጠነ፣ ትንሽ የኤክስፐርቶች ድብልቅ ሞዴል ነው። የV4 ቅድመ-እይታ ጽሑፍ ሁለቱን መጠኖች ይሰጣል፦
ቁጥሮች ከDeepSeek-V4 ቅድመ-እይታ ጽሑፍ የመጡ ናቸው። የምናገለግላቸው ይፋዊ checkpointsች — V4-Flash-0731 እና V4-Pro-0813 — በሞዴል ካርዶቻቸው ላይ ትንሽ ትልቅ ጠቅላላ 304B እና 1.7T ይዘረዝራሉ፤ DeepSeek ለእነዚያ ግንባታዎች ንቁ መለኪያዎችን እንደገና አይገልጽም።
እዚህ ላይ ሥራውን የሚያከናውኑት ሁለት ቁጥሮች ናቸው። ጠቅላላ መለኪያዎች የማህደረ ትውስታ ስፋትን ይወስናሉ፣ ይህም የሞዴሉ ቅጂ ምን ያህል ሃርድዌር እንደሚይዝ ይወስናል። ንቁ መለኪያዎች በአንድ ቶክን ያለውን ስሌት ይወስናሉ፣ ይህም throughputን ይወስናል። Flash በመጀመሪያው በግምት 5.6× ያንሳል፣ በሁለተኛውም 3.8× ያንሳል — በዚያ ልዩነት ውስጥም ልብ ሊባል የሚገባው ስስ ነጥብ አለ፦ Flash ከ284 ቢሊዮን 13ን ንቁ ያደርጋል፣ በግምት 4.6%፣ Pro ግን ከ1,600 ቢሊዮን 49ን ንቁ ያደርጋል፣ በግምት 3.1%። Flash ያነሰ ሳሳ ሞዴል ነው። በቀላሉ ጥቂት ኤክስፐርቶች የበሩለት Pro አይደለም፤ በምትኩ ራሱ ካመነጨው ከእያንዳንዱ ቶክን ላይ የበለጠ ድርሻ የሚያሳልፍ ጥቅጥቅ ያለ፣ በተለየ መንገድ የተመጣጠነ ንድፍ ነው። ያ እውነተኛ የምህንድስና ምርጫ ነው፣ ዝቅ ማድረግ አይደለም።
የDeepSeek ራሱ ቁጥሮች የሚናገሩት
ሁለቱም ይፋዊ የሞዴል ካርዶች በተመሳሳዮቹ የወኪልነትና የሶፍትዌር-ምህንድስና መለኪያዎች ላይ ውጤቶችን ያትማሉ፣ ይህም ያልተለመደ ንጹህ ንጽጽር ያደርገዋል — ተመሳሳይ ላቦራቶሪ፣ ተመሳሳይ የግምገማ harness፣ ሁለት መጠኖች፦
| የመለኪያ (በDeepSeek የተዘገበ) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
Pro እያንዳንዱን ረድፍ ያሸንፋል። ያ ታማኙ ራስጌ ነው፣ በምርት ውስጥ ከምታገኙት ይልቅ እዚህ ብታነቡት እንመርጣለን። ነገር ግን ልዩነቶቹን አንብቡ፣ በእውነት የምትገዙት እነሱን ስለሆነ። በTerminal Bench 2.1 ላይ ልዩነቱ ከመለኪያዎቹ አንድ-ሃያ-አምስተኛ ባለው ሞዴል ላይ 5.2 ነጥብ ነው፤ በtool-use ላይ 3.8 ነጥብ ነው። ሥራው እየጠለቀ ሲሄድ ልዩነቱ ይሰፋል — በDeepSWE ላይ 8.3 ነጥብ፣ በNL2Repo ላይ 7.3፣ ሁለቱም ቀጣይነት ያለው ብዙ-ደረጃ የኮድ ማመዛዘንን የሚሸልሙ። ያ በአንድ ሠንጠረዥ ውስጥ ያለው የልውውጡ ቅርጽ ነው፦ Flash በተገደቡ ተግባራት ላይ አብዛኛውን ርቀት ይዘጋል፣ ክፍት-ጫፍ ባሉት ላይ ግን ቦታ ይሰጣል።
የDeepSeek ራሱ የFlash ካርድ ነጥቡን የበለጠ ስለታም ያደርገዋል፦ Flash-0731 ከሱ በጣም ያነሰ ንቁ የመለኪያ ብዛት ቢኖረውም በተዘረዘሩት መለኪያዎች ላይ የV4-Pro ቅድመ-እይታን ይበልጣል። አዲስ ትንሽ ሞዴል የቆየ ትልቅ ሞዴልን መርታት በዚህ ዘርፍ የተለመደ ሁኔታ ነው፣ "ትልቁ ደረጃ" ፈጽሞ ነባሪ መልሳችሁ መሆን የሌለበትም ምክንያት ያ ነው።
ስለ ዐውድ ማስታወሻ
DeepSeek ለV4 ቤተሰብ የ1M-ቶክን ዐውድ ያትማል። Shannon AI Gateway ይህን ሞዴል የሚያገለግለው በ262,144 ቶክኖች ነው — በካታሎጋችን ውስጥ ባሉት አስራ ሁለቱም ሞዴሎች ላይ ወጥ የሆነው መስኮት፣ በPro ላይ ከምታገኙት ተመሳሳይ መስኮትም። በእያንዳንዱ የሞዴል መለያ የተለየ ጣሪያ እንድታስታውሱ ከማድረግ ይልቅ በዝርዝሩ ውስጥ ያለ እያንዳንዱ ሞዴል በዐውድ ላይ በተመሳሳይ እንዲሠራ እንመርጣለን።
04ቅጥያውን ማንበብ፦ W4A16-AUTOROUND-REAP
የሞዴል መለያዎቻችን የመጨመቂያ ስልታቸውን ጮክ ብለው ይናገራሉ፣ የውጤት ጥራትን እጅግ የሚነካውና ማለት ይቻላል ማንም የማይገልጸው ነገር ስለሆነ። ይህኛው ወደ ሦስት የይገባኛል ጥያቄዎች ይከፈላል።
W4A16 — 4-ቢት ክብደቶች፣ 16-ቢት አክቲቬሽኖች
ክብደቶች እያንዳንዳቸው በ4 ቢት ይቀመጣሉ፤ አክቲቬሽኖች በ16-ቢት ትክክለኛነት ያልፋሉ። ይህ weight-only ኳንታይዜሽን ነው፣ የቶክን ማመንጨት እውነተኛ bottleneckንም ያነጣጥራል፣ ይህም ከስሌት ይልቅ የማህደረ ትውስታ bandwidth ነው። አክቲቬሽኖችንም ኳንታይዝ ማድረግ ትንሽ ተጨማሪ ፍጥነት ይገዛ ነበር፣ በጣም ትልቅ የትክክለኛነት ገደልንም ያስከትል ነበር፤ በ16 ቢት መተው ወግ አጥባቂ፣ ከፍተኛ-ታማኝነት ያለው ምርጫ ነው። ማስታወሻው የአገልግሎት-ecosystem አጭር-መግለጫ ነው — የኳንታይዜሽን ሥነ ጽሑፍ ተመሳሳዩን ነገር W4 ከቡድን መጠን ጋር ብሎ ይጽፈዋል።
AUTOROUND — የተማረ ማጠጋጋት፣ ቅርብ ማጠጋጋት አይደለም
ዘገምተኛ ኳንታይዜሽን እያንዳንዱን ክብደት ወደ ቅርቡ ሊወከል ወደሚችል እሴት ያጠጋጋል። ያ በተጨባጭ ምርጥ አይደለም፦ አንድን ክብደት በ"ስህተት" መንገድ ማጠጋጋት በጎረቤቶቹ የገባውን ስህተት ሊሽር ይችላል፣ በቢሊዮኖች ክብደቶችም እነዚያ መስተጋብሮች ይቆጣጠራሉ። ከIntel የመጣው AutoRound የማጠጋጋት ውሳኔውን ራሱ የሚማር ነገር አድርጎ ይይዘዋል — ወደ ±0.5 የተገደበ፣ ማንኛውንም ነጠላ የማጠጋጋት ውሳኔ ለመቀልበስ በትክክል የሚበቃ እንጂ ከዚያ ያልበለጠ፣ ሊሠለጥን የሚችል በአንድ-ክብደት ብጥብጥ፣ ከሊማር clipping ክልሎች ጋር፣ በትንሽ calibration ስብስብ ላይ በbock-wise output-reconstruction ዓላማ ላይ በsigned gradient descent የተመቻቸ። ሁለት መቶ ደረጃዎች፣ ከዚያም ይጠናቀቃል።
የIntel የታተሙ ንጽጽሮች AutoRound በ4-ቢት weight-only ውቅሮች ላይ ከ32 ከተፈተኑ ሁኔታዎች 30ውን GPTQን፣ 27ውን AWQን እና 29ውን OmniQuantን ሲረታ ያሳያሉ፣ ከዘገምተኛ round-to-nearest በ2 ቢት ላይ ካለው በ6.9 እስከ 33.2 የትክክለኛነት ነጥቦች ጥቅም ጋር። ምንም በግምት ጊዜ ምንም አያስከፍልም፦ አንድ ጊዜ ብቻ፣ offline የተደረገ የተሻለ የቁጥሮች ምርጫ ነው።
REAP — ማንም ወደማይመራባቸው ኤክስፐርቶች መጣል
REAP (Router-weighted Expert Activation Pruning)፣ ከCerebras Systemsና ከካልጋሪ ዩኒቨርስቲ የመጣ፣ ለMoE ሞዴሎች one-shot መጨመቅ ነው። እያንዳንዱን ኤክስፐርት መሪው ምን ያህል በጠንካራነትና ምን ያህል ጊዜ እንደሚያስገባው በዚያ ኤክስፐርት ውጤት መጠን ተባዝቶ ያስመዘግባል፣ ከዚያም እጅግ ያነሱትን ኤክስፐርቶች ወዲያውኑ ይሰርዛል — ከዚያ በኋላ ድጋሚ ሥልጠና የለም።
የጽሑፉ ማዕከላዊ ግኝት ጠቃሚው ነው፦ በከፍተኛ የመጨመቂያ ምጣኔዎች ላይ፣ ኤክስፐርቶችን መከርከም ማዋሃድን ይበልጣል። በተግባር የተለዩ ኤክስፐርቶችን ማዋሃድ ደራሲዎቹ functional subspace collapse የሚሉትን ያስከትላል — መሪው MoEን መገንባት ዋጋ ያሰጠውን ጥርት ያለ፣ ግብዓት-ጥገኛ ቁጥጥር ያጣል፣ በቋሚ አማካዮች መካከል ብቻ ይቀራል። ከ20B እስከ 1T መለኪያ ባሉ ሞዴሎች ላይ ያላቸው ቁጥሮች፦ በኮድ ተግባራት ላይ በ25% ኤክስፐርት መጨመቅ፣ REAP 2.8% አማካይ ትክክለኛነት ያጣል፣ የማዋሃድ ማጣቀሻዎች ግን ከ5% በላይ ያጣሉ፤ በ50% ላይ፣ REAP 8.0% ያጣል፣ ማዋሃድ ግን ከ20% በላይ ያጣል። በQwen3-Coder-480B ላይ በ50% መከርከም ጠብታው 1.4% ነው፣ ለዘገምተኛ ድግግሞሽ-ተኮር መከርከም ግን 39.3% ነው። Cerebras ከሌሎችም መካከል ለDeepSeek መስመር REAP checkpointsን አትሟል።
እዚህ 4-ቢት፣ በPro ላይ ደግሞ 3-ቢት ለምን
ሁለቱም ደረጃዎች በተመሳሳዩ የሃርድዌር ክፍል ላይ መገጠምና ፈጣን መሆን አለባቸው። Pro 1.7 ትሪሊዮን መለኪያዎችን ይሸከማል፣ ስለዚህ ጨርሶ ለመግጠም የበለጠ ኃይለኛ 3-ቢት አያያዝ ያስፈልገዋል። Flash በግምት 300 ቢሊዮን ይሸከማል፣ ስለዚህ አያስፈልገውም — የሚያድነውም ቢት ለመግጠም ፈንታ በታማኝነት ላይ ይውላል።
የመጨመቂያ ጉዳት linear ስላልሆነ ያ ተጨማሪ ቢት ከስሌቱ በሚጠቁመው በላይ ይጠቅማል። በAWQ ጽሑፍ WikiText-2 ልኬቶች ውስጥ፣ Llama-2-7B ከFP16 5.47 perplexity ወደ 4-ቢት ላይ 5.60 ይሄዳል — 2.4% ቅጣት — ወደ 3-ቢት ላይ 6.24 ግን፣ 14% ቅጣት። ያ ለ25% ተጨማሪ መጨመቅ በግምት ስድስት እጥፍ የከፋ መዳከም ነው፣ ተመሳሳዩ ዘይቤም በ70B ላይ ይቆያል። የGPTQ ጽሑፍ የበለጠ ግልጽ ነው፦ በ3 ቢት ላይ፣ ዘገምተኛ round-to-nearest በ175B-ደረጃ ሞዴሎች ላይ ወደ ሺዎች perplexity ይደረምሳል፣ በ4 ቢት ላይ ግን ፍጹም ጥቅም ላይ ሊውል ይችላል። ከአራት ቢት በታች፣ ጥሩ የኳንታይዜሽን algorithm ጥሩ-ነገር መሆኑን አቁሞ ሞዴሉን አንድ ላይ የሚያቆየው ብቸኛ ነገር ይሆናል።
ስለዚህ የእነዚህ ሁለት ቅጥያዎች ታማኝ ንባብ ይህ ነው፦ Flash ከPro ካልተጨመቀው ራሱ ጋር ካለው ርቀት ይልቅ ወደ ራሱ ካልተጨመቀው ራሱ ይበልጥ ቅርብ ነው። Pro አሁንም የበለጠ ጠንካራ ሞዴል ነው — ከላይ ያለው የመለኪያ ሠንጠረዥ ያንን ይፈታዋል። እዚህ ለመድረስ ብቻ የበለጠ ትቷል፣ ለልዩ መብቱም ትከፍላላችሁ።
ምንጮች፦ AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516)፣ Intel፣ Findings of EMNLP 2024። REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999)፣ Cerebras Systems። Perplexity ቁጥሮች ከAWQ (arXiv 2306.00978) እና ከGPTQ (arXiv 2210.17323)።
05Flash በPro ላይ በመዳረሻ ነጥቡ
ክፍል 03 መሠረቶቹን ሸፍኗል። እነሆ ሁለቱ ደረጃዎች በጌትዌያችን ላይ እንደ ምርቶች ምን እንደሚመስሉ፦
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| ኳንታይዜሽን | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| የክብደት ትክክለኛነት | 4-ቢት፣ የተማረ ማጠጋጋት | 3-ቢት |
| መሠረት (ጠቅላላ / ንቁ) | ~304B / 13B | ~1.7T / 49B |
| በ1M ግብዓት | $0.50 | $1.95 |
| በ1M ውጤት | $2.00 | $3.90 |
| ዐውድ / ከፍተኛ ውጤት | 262,144 / 16,384 | 262,144 / 16,384 |
| መሣሪያዎች · የተዋቀረ ውጤት · ስትሪሚንግ | አለ | አለ |
| እይታ | የለም | የለም |
| የእምቢታ ንብርብር | የለም | የለም |
የማይቀየረውን ልብ በሉ፦ ዐውድ፣ የውጤት ጣሪያ፣ መሣሪያ መጥራት፣ የተዋቀረ ውጤት፣ እና የእምቢታ ንብርብር አለመኖር ተመሳሳይ ናቸው። የሚንቀሳቀሱት መሠረቱ፣ ኳንታይዜሽኑ፣ እና ዋጋው ብቻ ናቸው። ይህ በመካከላቸው መቀያየር በኮዳችሁ ውስጥ የአንድ-ሕብረቁምፊ ለውጥ፣ በሥነ ሕንጻችሁ ውስጥም ንጹህ ኢኮኖሚያዊ ውሳኔ ያደርገዋል።
አንድ ከፍተኛ-መጠን ጥሪ የሚያስከፍለው
ሙሉውን የ262,144-ቶክን ዐውድ ሙሉና ሙሉውን 16,384-ቶክን ውጤት ውሰዱ፦
በዝርዝር ዋጋ። Flash፦ $0.131 ግብዓት + $0.033 ውጤት። Pro፦ $0.511 + $0.064። ምጣኔ 3.51×። Flash እንዲሁም ከMiniMax-M3፣ Laguna-S-2.1፣ MiMo-V2.5፣ MiMo-V2.5-Pro እና Hy3 ጋር $0.50 / $2.00 ወለልን ይጋራል — እነዚያ በእይታና በተዋቀረ ውጤት ላይ እንዴት እንደሚለያዩ ለማየት ሙሉውን ካታሎግ ተመልከቱ።
06የመጠን ሒሳብ፣ የተሠራ
"3.9× ይረክሳል" የሚለው በግብዓት ላይ ብቻ እውነት ነው። በውጤት ላይ Flash 1.95× ይረክሳል። ትክክለኛው ቁጠባችሁ ስለዚህ በግብዓት-ወደ-ውጤት ምጣኔያችሁ ላይ የተመሠረተ ነው፣ ስፋቱም የንድፍ ውሳኔዎችን ለመቀየር የሚበቃ ነው። አራት እውነተኛ የሥራ ጫናዎች፣ እያንዳንዳቸው በ100,000 ጥያቄዎች፦
| የሥራ ጫና | ግብዓት / ውጤት በጥሪ | Flash | Pro | ቁጠባ |
|---|---|---|---|---|
| የቲኬት ምድብ ማድረግ | 1,200 / 120 | $84 | $281 | 3.3× |
| RAG ጥያቄ መመለስ | 8,000 / 600 | $520 | $1,794 | 3.4× |
| ረጅም-ሰነድ ማጠቃለያ | 60,000 / 1,500 | $3,300 | $12,285 | 3.7× |
| Synthetic ውሂብ ማመንጨት | 500 / 2,000 | $425 | $878 | 2.1× |
ስልቱ፦ ብዙ ዐውድ በገፋችሁና ያነሰ ጽሑፍ ባመነጨችሁ መጠን፣ Flash የበለጠ ያስቆጥባችኋል። Retrieval ቧንቧ መስመሮች፣ የሰነድ ምደባ፣ የlogና የግልባጭ ትንተና፣ እና ረጅም-ዐውድ ማውጣት ጣፋጩ ቦታ ናቸው — በአንድ የመጠን ደረጃ ግብዓት-ተኮር ናቸው፣ የ3.9× ቅናሽም የሚኖረው በግብዓት ላይ ነው። የሥራ ጫናችሁ በምትኩ ሺዎችን የፕሮዝ ቶክኖች የሚያመነጭ አጭር ጥያቄ ከሆነ ግን፣ ልዩነቱ ወደ በግምት 2× ይጠባል፣ ለPro ያለው የችሎታ ክርክርም በዚያው ልክ ይጠነክራል።
ልታስቡበት የሚገባ ተጨማሪ ሒሳብ፦ በሚሊዮን ግብዓት ቶክን $0.50 ላይ፣ ሙሉውን የ262,144-ቶክን መስኮት መሙላት 13.1 ሳንቲም ያስከፍላል። በዚያ ዋጋ ላይ ረጅም-ዐውድ prompting የበጀት ጥያቄ መሆኑን ያቆማል፣ ይህም አንዳንዴ retrieval ንብርብር ጨርሶ ሳትገነቡ ዐውዱ መስኮት ራሱ ሥራውን እንዲሠራ ልትተዉ እንደምትችሉ ማለት ነው — ከቶክን ቁጠባ በላይ የምህንድስና ቁጠባ።
07እዚህ ላይ "ሳንሱር-አልባ" በትክክል ማለት ምን ማለት ነው
ቃሉ ልል ሆኖ ይገለገልበታል፣ ስለዚህ የእኛ ትርጉም እነሆ፣ የመዳረሻ ነጥቡ ገጽታ ተብሎ የተገለጸ፦ ከሞዴሉ ፊት የእምቢታ ምድብ-ሰጪ የለም፣ በውጤቱ ላይም የይዘት ማጣሪያ አይተገበርም። ጥያቄን የሚያግድና የተዘጋጀ እምቢታ የሚመልስ ምንም ነገር የለም፤ ማጠናቀቂያውን የሚመረምርና የሚያርመው ምንም ነገር የለም። ለከፍተኛ-መጠን ምርት ሥራ ውጤቶቹ ቃሉ ከሚጠቁመው ያነሰ አስደናቂና የበለጠ ጠቃሚ ናቸው፦
- በጉዳት-አልባ ትራፊክ ላይ የሐሰት አዎንታዎች የሉም። የተጣሩ የመዳረሻ ነጥቦች በተደጋጋሚ የሕክምና ማጠቃለያዎችን፣ የደህንነት ጽሑፎችን፣ የሕግ discovery፣ ልቦለድ፣ የጉዳት-መቀነሻ ቁሳቁስንና ራሱን የማጣራት ሥራን ይከለክላሉ — በትክክል batch ሥራ ስለ ጥንቁቅ ርዕስ ጽሑፍ የሚያካሂድባቸው እንጂ ጎጂ ነገር የማያመነጭባቸው ምድቦች። በመቶ ሺህ ጥያቄዎች ላይ፣ የአንድ-በመቶ የሐሰት-እምቢታ መጠን ሺህ የተበላሹ ረድፎች ማለት ነው።
- ደተርሚኒስቲክ ውሎች።
json_schemaምላሽ ጠይቁና ነገር ሊሆን በሚገባበት ቦታ የይቅርታ አንቀጽ ሳይሆን ከschemaው ጋር የሚስማማ JSON ታገኛላችሁ። parserችሁ የእምቢታ ቅርንጫፍ አያስፈልገውም፣ የretry ስልትችሁም የትራንስፖርት ውድቀትን ከፖሊሲ ውድቀት መለየት አያስፈልገውም። - ፖሊሲው የእናንተ ነው። ልውውጡ ያ ነው። ምርታችሁ ለመጨረሻ ተጠቃሚዎቻችሁ ጥበቃዎች ካስፈለጉት፣ ተጠቃሚዎቻችሁንና ግዛታችሁን በምታውቁበት በራሳችሁ ንብርብር ላይ ትገነቧቸዋላችሁ፣ ስለ ሁለቱም የአቅራቢ ግምቶችን ከመውረስ ይልቅ። መለያችሁ አሁንም በResponsible Use Policyያችን ይተዳደራል።
ሳንሱር-አልባ ማለት ያልተስተካከለ ወይም የማይረዳ ማለት አይደለም። ሞዴሉ አሁንም መመሪያዎችን ይከተላል፣ አሁንም የስርዓት ጥያቄን ያከብራል። ለተጠቃሚዎቻችሁ የተወሰኑ ምድቦችን እንዲከለክል ከፈለጋችሁ፣ እዚያ ላይ ተናገሩ — ያ መመሪያ አሁን የምትጽፉት የእናንተ ነው እንጂ የምንጭነው የእኛ አይደለም።
08ችሎታዎችና ታማኝ ገደቦች
ለመጠን ሥራ አብዛኛውን ክብደት የሚሸከሙት ሁለት ችሎታዎች ናቸው። ጥብቅ json_schema ውጤት ማጠናቀቂያን ያለ parsing ንብርብርና ያለ እምቢታ ቅርንጫፍ ወደ database ረድፍ ይለውጣል። በሦስቱም ዘይቤዎች ላይ መሣሪያ መጥራት ደግሞ ከፍተኛ-ደረጃ አቅዳጁ በጠንካራ ሞዴል ላይ ለሚሮጥ ወኪል ርካሽ ንዑስ-ደረጃዎች Flashን ምክንያታዊ ሞተር ያደርገዋል። ተጨማሪ ቶክኖችን የሚያስፈልጋቸውን ትራፊክ ክፍልፋይ ላይ ብቻ እንድታሳልፉ የሚያደርገውን reasoning_effort ጨምሩ፣ ከPro ጋር ተመሳሳይ የ262,144-ቶክን ዐውድንም — ርካሹን ደረጃ በመምረጥ ዐውድ አትሰጡም፣ ያም ያልተለመደ ነው።
ገደቦቹም በተመሳሳይ ተጨባጭ ናቸው፦
- እይታ የለም። Flash ጽሑፍ-ብቻ ነው በመልእክት ውስጥ ያሉ የምስል ክፍሎችንም ይክዳል። በሳንሱር-አልባ ሞዴል ላይ በተመሳሳዩ $0.50 / $2.00 ወለል ላይ ምስሎች ካስፈለጓችሁ፣ MiniMax-M3 እና MiMo-V2.5 እይታ-ችሎታ ያላቸው አማራጮች ናቸው፤ Kimi-K2.6 እና Kimi-K3 ከዚያ ደረጃ በላይ ጠንካራ የእይታ ሞዴሎች ናቸው።
- የደረጃው ጫፍ አይደለም። የDeepSeek ራሱ ቁጥሮች Proን በተታተመ እያንዳንዱ የወኪልነት መለኪያ ላይ ወደፊት ያስቀምጡታል፣ ልዩነቱም ቀጣይነት ባለው ብዙ-ደረጃ የኮድ ማመዛዘን ላይ በጣም ይሰፋል። አንድ የተሳሳተ መልስ ከሺህ ርካሽ መልሶች የበለጠ በሚያስከፍልበት ቦታ፣ ተጨማሪውን $1.45 በሚሊዮን ላይ በDeepSeek-V4-Pro ላይ አውጡ።
- በአንድ ጥያቄ 16,384 የውጤት ቶክኖች። ረጅም ማመንጫዎች በጥሪዎች ውስጥ መከፋፈል አለባቸው። ይህ በምናገለግላቸው እያንዳንዱ ሞዴል ላይ ተመሳሳይ ጣሪያ ነው፣ የዐውድ መስኮቱ ከሚያስረው በጣም ቀድሞም ያስራል።
09መጥራት
ማንኛውንም ከOpenAI ጋር ተኳሃኝ ደንበኛ ወደ ጌትዌዩ አዙሩና የሞዴል ሕብረቁምፊውን ቀይሩ። በቁልላችሁ ውስጥ ሌላ ምንም መንቀሳቀስ የለበትም።
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
ተመሳሳዩ የሞዴል መለያ ሳይቀየር በ/v1/messages እና በ/v1/responses ላይ ይሠራል፣ ደንበኛችሁን ሳትደግፉ ነባር ውህደት ስር ርካሽ ሞዴል A/B ለማድረግ ፈጣኑ መንገድም ያ ነው። መለኪያዎች፣ የስትሪሚንግ ክስተት ቅርጾች፣ የመሣሪያ-ጥሪ schemasና የተመን ገደቦች በAPI ማጣቀሻ ውስጥ ተመዝግበዋል፤ በካታሎጉ ውስጥ ያለ እያንዳንዱ ሞዴል በShannon Research ላይ ተዘርዝሯል።
10በተደጋጋሚ የሚጠየቁ ጥያቄዎች
ሳንሱር-አልባው የDeepSeek Flash API ምንድን ነው?
ለDeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP ያለው የShannon AI Gateway የመዳረሻ ነጥብ፦ የDeepSeek 13B-ንቁ V4-Flash መሠረት 4-ቢት AutoRound ግንባታ፣ በራሳችን GPU ክላስተር ላይ የእምቢታ ንብርብርና የውጤት ማጣሪያ ሳይኖረው የሚቀርብ፣ በሚሊዮን ግብዓት ቶክን $0.50 እና በሚሊዮን ውጤት ቶክን $2.00 ላይ፣ የ262,144-ቶክን ዐውድ ይዞ።
DeepSeek V4 Flash በሚሊዮን ቶክን ምን ያስከፍላል?
$0.50 ግብዓት እና $2.00 ውጤት፣ በShannon ጌትዌይ ላይ ያለው ወለል ዋጋ። DeepSeek-V4-Pro-0813 $1.95 እና $3.90 ነው፣ ስለዚህ Flash በግብዓት 3.9× ይረክሳል፣ በውጤትም 1.95× ይረክሳል። ሙሉውን የ262,144-ቶክን ዐውድ መሙላት በFlash ላይ በግምት $0.13፣ በPro ላይ ደግሞ $0.51 ያስከፍላል።
DeepSeek V4 Flash ወይስ DeepSeek V4 Proን መጠቀም አለብኝ?
የጥሪዎች ብዛት ገደብ ሲሆን Flashን ተጠቀሙ፦ ምድብ ማድረግ፣ ማውጣት፣ ማጠቃለል፣ synthetic ውሂብ፣ RAG መመለስ፣ የወኪል ንዑስ-ደረጃዎች። የአንድ ጥሪ ችግር ገደብ ሲሆን Proን ተጠቀሙ። Flash የተዳከመ Pro አይደለም፤ ከፍተኛ-ታማኝነት ባለው 4-ቢት ኳንታይዜሽን ያለ ትንሽ መሠረት ነው፣ Pro ደግሞ በ3-ቢት ላይ ያለ የ1.7T-መለኪያ መሠረት ነው።
DeepSeek-V4-Flash-0731 እይታንና የJSON schema ውጤትን ይደግፋል?
ጥብቅ json_schema የተዋቀረ ውጤትንና response_formatን ይደግፋል፣ ከመሣሪያ መጥራት፣ ስትሪሚንግ እና reasoning_effort ጋር። የምስል ግብዓትን አይቀበልም። በተመሳሳዩ ወለል ዋጋ በሳንሱር-አልባ ሞዴል ላይ ምስሎች ካስፈለጓችሁ፣ MiniMax-M3 እና MiMo-V2.5 እይታ-ችሎታ ያላቸው አማራጮች ናቸው።
W4A16-AUTOROUND-REAP ማለት ምን ማለት ነው?
W4A16 ማለት 4-ቢት ክብደቶች ከ16-ቢት አክቲቬሽኖች ጋር ማለት ነው። AutoRound የIntel የተማረ ማጠጋጋት ዘዴ ነው፣ ወደ ቅርቡ እሴት ከማጠጋጋት ይልቅ የማጠጋጋት ውሳኔዎችን በsigned gradient descent ያሻሽላል። REAP የCerebras Systems ለኤክስፐርቶች ድብልቅ ሞዴሎች one-shot የኤክስፐርት መከርከም ነው፣ እምብዛም-የሚመሩ ኤክስፐርቶችን ያለ ድጋሚ ሥልጠና ይጥላል።
ሞዴሉ በእውነት ሳንሱር-አልባ ነው፣ የእምቢታ ንብርብርም የለውም?
አዎ። ከሞዴሉ ፊት የእምቢታ ምድብ-ሰጪ የለም፣ በውጤቱ ላይም ማጣሪያ አይተገበርም፣ ስለዚህ የራሱን የሞዴሉን distribution ታገኛላችሁ። ይህም ማለት የምርታችሁን የደህንነት አቋም እናንተ ትይዛላችሁ፣ ጥበቃዎችንም በራሳችሁ ንብርብር ላይ ትገነባላችሁ ማለት ነው፤ Responsible Use Policyያችን አሁንም መለያውን ይተዳደራል።
መጠናችሁን በFlash ላይ አሮጡ
$0.50 ግብዓት፣ $2.00 ውጤት፣ 262K ዐውድ፣ እምቢታዎች የሉም። አንድ የሞዴል ሕብረቁምፊ ቀይሩ።
የAPI ሰነዶችን አንብቡ ሁሉንም 12 ሞዴሎች አስሱShannon Lab LLC · ኒው ሜክሲኮ፣ አሜሪካ · በResponsible Use Policyያችን ይተዳደራል
ምንጮች፦ DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 Technical Report (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 and DeepSeek-V4-Pro-0813 model cards · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323)። ሁሉም የመሠረትና የመለኪያ ቁጥሮች እንደየራሳቸው ደራሲዎች የታተሙ ናቸው፤ የShannon AI ዋጋዎችና የቀረበው ዐውድ የራሳችን የዝርዝር እሴቶች ናቸው እስከ መስከረም 2026።