અનસેન્સર્ડ DeepSeek Flash API

LLM API નું મૂલ્યાંકન કરતી મોટાભાગની ટીમો ખોટા વેરિયેબલને ઓપ્ટિમાઇઝ કરે છે. તેઓ વિચારી શકે એવા સૌથી અઘરા વીસ પ્રોમ્પ્ટ પર બેન્ચમાર્ક કરે છે, વિજેતા પસંદ કરે છે, અને છ અઠવાડિયા પછી શોધે છે કે તેમના ટ્રાફિકનો પંચાણું ટકા ટૂંકું, સ્ટ્રક્ચર્ડ, પુનરાવર્તિત કામ છે જે ચોથા ભાગની કિંમતનું મોડેલ સરખું જ સંભાળ્યું હોત. DeepSeek-V4-Flash એ પંચાણું ટકા માટે અસ્તિત્વ ધરાવે છે. આ પાનું જાણવા વિશે છે કે તમે ક્યારે એમાં છો — અને ક્યારે નથી.

01તમને ખરેખર શું મળે છે

ગુણધર્મ	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
મોડેલ id	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
કોન્ટેક્સ્ટ / મહત્તમ આઉટપુટ	262,144 ટોકન / 16,384 ટોકન
1M દીઠ કિંમત (ઇનપુટ / આઉટપુટ)	$0.50 / $2.00
સ્ટ્રીમિંગ · ટૂલ કૉલિંગ · રિઝનિંગ	હા — ત્રણેય ડાયલેક્ટ
સ્ટ્રક્ચર્ડ આઉટપુટ	json_schema અને response_format
ઇમેજ ઇનપુટ (વિઝન)	ના — ફક્ત ટેક્સ્ટ
ઇનકાર સ્તર / આઉટપુટ ફિલ્ટર	કોઈ નહીં
સર્વ થાય છે	Shannon ના પોતાના GPU ક્લસ્ટર પર

ત્રણ API ડાયલેક્ટ એ જ વેઇટ્સ સુધી પહોંચે છે: /v1/chat/completions (OpenAI-આકારનું), /v1/messages (Anthropic-આકારનું), અને /v1/responses. ત્રણેય પર સ્ટ્રીમિંગ કામ કરે છે. પૂરો પેરામીટર સંદર્ભ API ડોક્યુમેન્ટેશન માં છે.

02તે ક્યાંથી આવે છે: DeepSeek વંશ

DeepSeek-AI એ પાંચ મોડેલ પેઢી એક જ ઝનૂન પર ખર્ચી છે: એવું મોડેલ મેળવવું જે ફ્રન્ટિયર વર્તન આપે અને સર્વ કરવા સસ્તું હોય, ફક્ત તાલીમ આપવા સસ્તું નહીં. લાઇનમાં લગભગ દરેક આર્કિટેક્ચરલ નિર્ણય એ તરફ પાછો જાય છે, અને મહત્વના પ્રકાશિત છે. ત્રણ સમજાવે છે કે તમે આ એન્ડપોઇન્ટ પર જ્યારે હિટ કરો છો ત્યારે તમે શું કૉલ કરી રહ્યા છો.

DeepSeekMoE — ફાઇન-ગ્રેઇન્ડ એક્સપર્ટ વત્તા શેર્ડ એક

મિક્સ્ચર-ઓફ-એક્સપર્ટ્સ લેયર એક મોટા ફીડ-ફોરવર્ડ નેટવર્કને ઘણા નાના અને એક રાઉટર સાથે બદલે છે જે ટોકન દીઠ મુઠ્ઠીભર પસંદ કરે છે. DeepSeek નું વેરિઅન્ટ પરંપરાગત આઠ-એક્સપર્ટ લેઆઉટ કરતાં એક્સપર્ટને વધુ ઝીણા કાપે છે, એટલે એ જ એક્ટિવેટેડ FLOPs ઘણું વધુ combinatorially ચોક્કસ મિશ્રણ ખરીદે છે, અને તે એક શેર્ડ એક્સપર્ટને અલગ કરે છે જેમાંથી દરેક ટોકન પસાર થાય છે, એટલે સામાન્ય જ્ઞાન દરેક સ્પેશિયલિસ્ટની અંદર redundantly ફરીથી શીખાતું નથી. DeepSeek-V3 એ તેને 256 રાઉટેડ એક્સપર્ટ વત્તા 1 શેર્ડ એક્સપર્ટ તરીકે મોકલ્યું, ટોકન દીઠ 8 રાઉટેડ એક્ટિવેટ કરીને — 671B કુલ પેરામીટર, 37B એક્ટિવ — auxiliary-loss-free load balancing સાથે: ગુણવત્તાને ડિગ્રેડ કરતા penalty term ને બદલે, દરેક પગલે એક્સપર્ટ under- કે over-loaded ચાલે એ પ્રમાણે per-expert bias રાઉટિંગ સ્કોરને ઉપર કે નીચે ધકેલે છે.

MLA — મેમરીમાં ફિટ થતું એટેન્શન

સર્વિંગ-કોસ્ટ સમસ્યાનો બીજો અડધો ભાગ KV કેશ છે, જે કોન્ટેક્સ્ટ સાથે લિનિયરલી વધે છે અને લાંબી સિક્વન્સ લંબાઈએ મેમરી પર પ્રભુત્વ ધરાવે છે. DeepSeek-V2 માં રજૂ થયેલું Multi-head Latent Attention, key અને value ને સંયુક્ત રીતે low-rank latent vector માં કમ્પ્રેસ કરે છે અને એને કેશ કરે છે, જરૂર પડે ત્યારે વાપરી શકાય એવા K/V ને ફરીથી બનાવે છે. તેમના અગાઉના dense DeepSeek 67B સામે DeepSeek ના પ્રકાશિત V2 આંકડા KV કેશમાં 93.3% ઘટાડો અને 5.76x વધુ મહત્તમ જનરેશન થ્રુપુટ જણાવે છે. એ જ કારણ છે કે આ પરિવારમાં 262K-ટોકન વિન્ડો પ્રીમિયમ ઉમેરાને બદલે table stakes છે.

Sparse એટેન્શન — અને સસ્તા ટોકનનો દાખલો

V3.2-Exp એ DeepSeek Sparse Attention ઉમેર્યું: એક હલકું indexer ક્વેરી સામે કોન્ટેક્સ્ટ ટોકનને સ્કોર કરે છે, અને selector ફક્ત ટોપ-સ્કોરિંગ ને રાખે છે. રસપ્રદ ભાગ receipt છે, મિકેનિઝમ નહીં. DeepSeek એ V3.1-Terminus સામે સાઇડ-બાય-સાઇડ પ્રકાશિત કર્યું જેમાં MMLU-Pro 85.0 પર સરખું, AIME 2025 વધ્યું (88.4 → 89.3), SWE-bench Verified સહેજ ઘટ્યું (68.4 → 67.8) — મૂળભૂત રીતે ફ્લેટ ગુણવત્તા — અને એ જ દિવસે તેમની API કિંમત 50% કરતાં વધુ ઘટાડી. આર્કિટેક્ચર, પ્રામાણિકપણે જણાવેલું, સીધું કિંમતમાં ફેરવાતું. Flash એ દલીલને એક પગલું આગળ લઈ જાય છે.

V4 પેઢી

એપ્રિલ 2026 માં MIT લાઇસન્સ હેઠળ પ્રીવ્યુ થયેલું V4, એટેન્શન સ્ટેકને ફરીથી Compressed Sparse Attention અને Heavily Compressed Attention ના હાઇબ્રિડ સાથે બદલે છે, 32T કરતાં વધુ ટોકન પર Muon ઓપ્ટિમાઇઝર સાથે તાલીમ પામે છે, અને V3 ના multi-token-prediction ઉદ્દેશને જાળવે છે — જે speculative decoding તરીકે પણ કામ કરે છે, અને જેને DeepSeek એ V3 માં લગભગ 1.8x decoding સ્પીડઅપ માટે 85-90% second-token acceptance rate પર માપ્યું. V4 abstract V4-Pro ને V3.2 ના single-token ઇન્ફરન્સ FLOPs ના 27% અને તેના KV કેશના 10% પર ચાલતું જણાવે છે. પરિવાર ત્રણ reasoning-effort સ્તર ખુલ્લા મૂકે છે, જે અમારો reasoning_effort પેરામીટર જેના પર મેપ થાય છે.

સોર્સ: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 ટેકનિકલ રિપોર્ટ (arXiv 2412.19437) · DeepSeek-V3.2-Exp મોડેલ કાર્ડ · DeepSeek-V4 (arXiv 2606.19348). બધા આંકડા DeepSeek-જણાવેલા છે.

03"Flash" નો ખરેખર શું અર્થ થાય છે

આ એ બિંદુ છે જ્યાં મોટાભાગની સરખામણી ખોટી પડે છે, એટલે તેને સ્પષ્ટપણે જણાવવા યોગ્ય છે: DeepSeek નું Flash ક્વોન્ટાઇઝ્ડ, પ્રુન્ડ કે ડિસ્ટિલ્ડ Pro નથી. તે તેની પોતાની પ્રી-ટ્રેઇનિંગ રન ધરાવતું અલગ રીતે તાલીમ પામેલું, નાનું મિક્સ્ચર-ઓફ-એક્સપર્ટ્સ મોડેલ છે. V4 પ્રીવ્યુ પેપર બે કદ આપે છે:

DeepSeek-V4 પ્રીવ્યુ પેપર માંથી આંકડા. અમે સર્વ કરીએ છીએ એ ઓફિશિયલ ચેકપોઇન્ટ — V4-Flash-0731 અને V4-Pro-0813 — તેમના મોડેલ કાર્ડ પર થોડું મોટું કુલ 304B અને 1.7T યાદી કરે છે; DeepSeek એ બિલ્ડ માટે એક્ટિવેટેડ પેરામીટર ફરીથી જણાવતું નથી.

અહીં બે આંકડા કામ કરે છે. કુલ પેરામીટર મેમરી ફૂટપ્રિન્ટ નક્કી કરે છે, જે નક્કી કરે છે કે મોડેલની એક કૉપી કેટલું હાર્ડવેર ધરાવે છે. એક્ટિવેટેડ પેરામીટર ટોકન દીઠ ગણિત નક્કી કરે છે, જે થ્રુપુટ નક્કી કરે છે. Flash પહેલા પર લગભગ 5.6x નાનું અને બીજા પર 3.8x નાનું છે — અને એ ગેપમાં નોંધવા યોગ્ય એક સૂક્ષ્મતા છે: Flash 284 બિલિયનમાંથી 13 એક્ટિવેટ કરે છે, લગભગ 4.6%, જ્યારે Pro 1,600 બિલિયનમાંથી 49 એક્ટિવેટ કરે છે, લગભગ 3.1%. Flash ઓછું sparse મોડેલ છે. તે ફક્ત ઓછા એક્સપર્ટ ચાલુ કરેલું Pro નથી; તે વધુ ડેન્સ, અલગ રીતે સંતુલિત ડિઝાઇન છે જે તે ઉત્પન્ન કરે છે એ દરેક ટોકન પર પોતાનો મોટો હિસ્સો ખર્ચે છે. એ ખરો એન્જિનિયરિંગ પસંદગી છે, ડાઉનગ્રેડ નહીં.

DeepSeek ના પોતાના આંકડા શું કહે છે

બંને ઓફિશિયલ મોડેલ કાર્ડ એ જ એજન્ટિક અને સોફ્ટવેર-એન્જિનિયરિંગ બેન્ચમાર્ક પર સ્કોર પ્રકાશિત કરે છે, જે આને અસાધારણ રીતે સ્વચ્છ સરખામણી બનાવે છે — એ જ લેબ, એ જ મૂલ્યાંકન હાર્નેસ, બે કદ:

બેન્ચમાર્ક (DeepSeek-જણાવેલું)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro દરેક પંક્તિ જીતે છે. એ પ્રામાણિક હેડલાઇન છે, અને અમે ઇચ્છીએ છીએ કે તમે તેને પ્રોડક્શનમાં શોધવાને બદલે અહીં વાંચો. પણ માર્જિન વાંચો, કારણ કે તમે ખરેખર એ ખરીદી રહ્યા છો. Terminal Bench 2.1 પર ગેપ પચ્ચીસમા ભાગના પેરામીટર ધરાવતા મોડેલ પર 5.2 પોઇન્ટ છે; ટૂલ-યુઝ પર તે 3.8 પોઇન્ટ છે. ગેપ ત્યાં પહોળો થાય છે જ્યાં કામ સૌથી ઊંડું જાય છે — DeepSWE પર 8.3 પોઇન્ટ, NL2Repo પર 7.3, બંને જે ટકાઉ મલ્ટિ-સ્ટેપ કોડ રિઝનિંગને પુરસ્કાર આપે છે. એક જ ટેબલમાં ટ્રેડનો આકાર એ છે: Flash મર્યાદિત ટાસ્ક પર મોટાભાગનું અંતર બંધ કરે છે અને ખુલ્લા-અંતવાળા પર જમીન છોડે છે.

DeepSeek નું પોતાનું Flash કાર્ડ મુદ્દાને હજુ વધુ તીક્ષ્ણ રીતે બનાવે છે: Flash-0731 યાદી થયેલા બેન્ચમાર્ક પર તેની ઘણી નાની એક્ટિવેટેડ પેરામીટર ગણતરી છતાં V4-Pro પ્રીવ્યુને પાછળ છોડે છે. જૂના મોટા મોડેલને હરાવતું નવું નાનું મોડેલ આ ક્ષેત્રમાં સામાન્ય સ્થિતિ છે, અને એ જ કારણ છે કે "મોટું ટાયર" ક્યારેય તમારો ડિફૉલ્ટ જવાબ ન હોવો જોઈએ.

04પ્રત્યય વાંચવો: W4A16-AUTOROUND-REAP

અમારા મોડેલ id તેમની કમ્પ્રેશન યોજના મોટેથી જણાવે છે, કારણ કે એ જ વસ્તુ છે જે આઉટપુટ ગુણવત્તાને સૌથી વધુ અસર કરે છે અને લગભગ કોઈ તેને જાહેર કરતું નથી. આ ત્રણ દાવામાં વિભાજિત થાય છે.

W4A16 — 4-બિટ વેઇટ્સ, 16-બિટ એક્ટિવેશન

વેઇટ્સ દરેક 4 બિટ પર સ્ટોર થાય છે; એક્ટિવેશન 16-બિટ ચોકસાઈ પર વહે છે. આ ફક્ત-વેઇટ ક્વોન્ટાઇઝેશન છે, અને તે ટોકન જનરેશનમાં ખરી bottleneck ને લક્ષ્ય બનાવે છે, જે arithmetic ને બદલે memory bandwidth છે. એક્ટિવેશનને પણ ક્વોન્ટાઇઝ કરવાથી થોડી વધુ ઝડપ મળશે અને ઘણી મોટી ચોકસાઈ ખાડાનું જોખમ રહેશે; તેમને 16 બિટ પર છોડવું એ રૂઢિચુસ્ત, ઉચ્ચ-ફિડેલિટીની પસંદગી છે. Notation એ serving-ecosystem shorthand છે — ક્વોન્ટાઇઝેશન સાહિત્ય એ જ વસ્તુને group size સાથે W4 તરીકે લખે છે.

AUTOROUND — શીખેલું રાઉન્ડિંગ, નજીકનું રાઉન્ડિંગ નહીં

નાઇવ ક્વોન્ટાઇઝેશન દરેક વેઇટને નજીકના representable મૂલ્ય પર રાઉન્ડ કરે છે. તે સાબિત રીતે ઓપ્ટિમલ નથી: એક વેઇટને "ખોટી" રીતે રાઉન્ડ કરવાથી તેના પડોશીઓ દ્વારા દાખલ થયેલી ભૂલ રદ થઈ શકે છે, અને અબજો વેઇટ્સ સાથે એ ક્રિયાપ્રતિક્રિયાઓ પ્રભુત્વ ધરાવે છે. Intel તરફથી AutoRound, રાઉન્ડિંગ નિર્ણયને પોતાને શીખવા યોગ્ય કંઈક તરીકે ટ્રીટ કરે છે — ±0.5 સુધી મર્યાદિત trainable per-weight perturbation, બરાબર કોઈપણ સિંગલ રાઉન્ડિંગ નિર્ણયને flip કરવા પૂરતું અને ક્યારેય વધુ નહીં, વત્તા શીખી શકાય એવી clipping ranges, નાના calibration સેટ સામે block-wise output-reconstruction ઉદ્દેશ સામે signed gradient descent વડે ઓપ્ટિમાઇઝ કરેલું. બસો પગલાં, પછી પૂરું.

Intel ના પ્રકાશિત સરખામણીમાં AutoRound 4-બિટ ફક્ત-વેઇટ સેટિંગ પર 32 માંથી 30 ટેસ્ટ કરેલા સિનારિયોમાં GPTQ ને, 32 માંથી 27 માં AWQ ને અને 32 માંથી 29 માં OmniQuant ને હરાવે છે, 2 બિટ પર નાઇવ round-to-nearest સામે 6.9 થી 33.2 ચોકસાઈ પોઇન્ટના ફાયદા સાથે. તેમાંથી કંઈ ઇન્ફરન્સ સમયે કંઈ ખર્ચતું નથી: તે એકવાર, ઑફલાઇન બનાવેલી સંખ્યાની વધુ સારી પસંદગી છે.

REAP — કોઈ રાઉટ ન કરે એવા એક્સપર્ટને કાઢી નાખવા

Cerebras Systems અને University of Calgary તરફથી REAP (Router-weighted Expert Activation Pruning), MoE મોડેલો માટે એક-શોટ કમ્પ્રેશન છે. તે દરેક એક્સપર્ટને રાઉટર તેને કેટલી મજબૂત અને કેટલી વાર ગેટ કરે છે તેના પરથી સ્કોર કરે છે, એ એક્સપર્ટના આઉટપુટની magnitude વડે ગુણાકાર કરીને, પછી ઓછામાં ઓછા મહત્વના એક્સપર્ટને સીધા કાઢી નાખે છે — પછી કોઈ પુનઃ-તાલીમ નહીં.

પેપરની કેન્દ્રીય શોધ ઉપયોગી છે: ઊંચા કમ્પ્રેશન રેશિયો પર, એક્સપર્ટને પ્રુન કરવું તેમને મર્જ કરવા કરતાં વધુ સારું છે. functionally અલગ એક્સપર્ટને મર્જ કરવાથી લેખકો જેને functional subspace collapse કહે છે એ થાય છે — રાઉટર એ ઝીણું, ઇનપુટ-આધારિત નિયંત્રણ ગુમાવે છે જેણે MoE ને બનાવવા યોગ્ય બનાવ્યું, અને static averages વચ્ચે સ્ટીયર કરવા રહી જાય છે. 20B થી 1T પેરામીટર સુધીના મોડેલો પરના તેમના આંકડા: કોડિંગ ટાસ્ક પર 25% એક્સપર્ટ કમ્પ્રેશન પર, REAP 2.8% સરેરાશ ચોકસાઈ ગુમાવે છે જ્યાં મર્જિંગ બેઝલાઇન 5% કરતાં વધુ ગુમાવે છે; 50% પર, REAP 8.0% ગુમાવે છે જ્યાં મર્જિંગ 20% કરતાં વધુ ગુમાવે છે. Qwen3-Coder-480B પર 50% પ્રુનિંગ પર ઘટાડો 1.4% છે, નાઇવ frequency-based પ્રુનિંગ માટે 39.3% સામે. Cerebras એ DeepSeek લાઇન સહિત બીજા માટે REAP ચેકપોઇન્ટ પ્રકાશિત કર્યા છે.

અહીં 4-બિટ અને Pro પર 3-બિટ કેમ

બંને ટાયરે એ જ વર્ગના હાર્ડવેર પર ફિટ થવું અને ઝડપી રહેવું પડે છે. Pro 1.7 ટ્રિલિયન પેરામીટર વહન કરે છે, એટલે તેને બિલકુલ ફિટ થવા વધુ આક્રમક 3-બિટ ટ્રીટમેન્ટની જરૂર છે. Flash લગભગ 300 બિલિયન વહન કરે છે, એટલે તેને જરૂર નથી — અને તે જે બિટ બચાવે છે તે ફિટ થવાને બદલે ફિડેલિટી પર ખર્ચાય છે.

એ વધારાનો બિટ તેના ગણિત સૂચવે છે એના કરતાં વધુ મહત્વનો છે, કારણ કે ક્વોન્ટાઇઝેશન નુકસાન લિનિયર નથી. AWQ પેપરના WikiText-2 માપમાં, Llama-2-7B FP16 પર 5.47 perplexity થી 4-બિટ પર 5.60 સુધી જાય છે — 2.4% penalty — પણ 3-બિટ પર 6.24 સુધી, 14% penalty. તે 25% વધુ કમ્પ્રેશન માટે લગભગ છ ગણું ડિગ્રેડેશન છે, અને એ જ પેટર્ન 70B પર પણ ટકે છે. GPTQ પેપર હજુ વધુ સ્પષ્ટ છે: 3 બિટ પર, નાઇવ round-to-nearest 175B-ક્લાસ મોડેલો પર તૂટી પડે છે, હજારો perplexity માં, જ્યારે 4 બિટ પર સંપૂર્ણપણે વાપરી શકાય એવું રહે છે. ચાર બિટની નીચે, સારો ક્વોન્ટાઇઝેશન અલ્ગોરિધમ સુવિધા બનવાનું બંધ કરે છે અને મોડેલને એકસાથે પકડી રાખતી એકમાત્ર વસ્તુ બની જાય છે.

એટલે આ બે પ્રત્યયનું પ્રામાણિક વાચન છે: Flash Pro તેની પોતાની અનકમ્પ્રેસ્ડ સેલ્ફ સામે બેસે છે એના કરતાં તેની પોતાની અનકમ્પ્રેસ્ડ સેલ્ફની વધુ નજીક બેસે છે. Pro હજુ મજબૂત મોડેલ છે — ઉપરનું બેન્ચમાર્ક ટેબલ એ સેટલ કરે છે. તેણે અહીં પહોંચવા ફક્ત વધુ છોડ્યું, અને તમે એ વિશેષાધિકાર માટે ચૂકવો છો.

સોર્સ: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Perplexity આંકડા AWQ (arXiv 2306.00978) અને GPTQ (arXiv 2210.17323) માંથી.

05એન્ડપોઇન્ટ પર Flash vs Pro

સેક્શન 03 એ ફાઉન્ડેશન આવરી લીધા. અમારા ગેટવે પર બે ટાયર પ્રોડક્ટ તરીકે આના જેવા દેખાય છે:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
ક્વોન્ટાઇઝેશન	W4A16-AUTOROUND-REAP	3BIT-REAP
વેઇટ ચોકસાઈ	4-બિટ, શીખેલું રાઉન્ડિંગ	3-બિટ
ફાઉન્ડેશન (કુલ / એક્ટિવ)	~304B / 13B	~1.7T / 49B
1M ટોકન દીઠ ઇનપુટ	$0.50	$1.95
1M ટોકન દીઠ આઉટપુટ	$2.00	$3.90
કોન્ટેક્સ્ટ / મહત્તમ આઉટપુટ	262,144 / 16,384	262,144 / 16,384
ટૂલ · સ્ટ્રક્ચર્ડ આઉટપુટ · સ્ટ્રીમિંગ	હા	હા
વિઝન	ના	ના
ઇનકાર સ્તર	કોઈ નહીં	કોઈ નહીં

નોંધ કરો શું નથી બદલાતું: કોન્ટેક્સ્ટ, આઉટપુટ સીલિંગ, ટૂલ કૉલિંગ, સ્ટ્રક્ચર્ડ આઉટપુટ, અને ઇનકાર સ્તરની ગેરહાજરી એકસમાન છે. ફક્ત ફાઉન્ડેશન, ક્વોન્ટાઇઝેશન, અને કિંમત જ ખસે છે. તે તેમની વચ્ચે સ્વિચ કરવાને તમારા કોડમાં એક-string ફેરફાર અને તમારા આર્કિટેક્ચરમાં શુદ્ધ આર્થિક નિર્ણય બનાવે છે.

એક મહત્તમ-કદનો કૉલ શું ખર્ચે છે

આખા 262,144-ટોકન કોન્ટેક્સ્ટને ભરો અને પૂરું 16,384-ટોકન આઉટપુટ લો:

યાદી કિંમત પર. Flash: $0.131 ઇનપુટ + $0.033 આઉટપુટ. Pro: $0.511 + $0.064. રેશિયો 3.51x. Flash MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro અને Hy3 સાથે $0.50 / $2.00 તળિયું પણ શેર કરે છે — વિઝન અને સ્ટ્રક્ચર્ડ આઉટપુટ પર તેઓ કેવી રીતે અલગ પડે છે એ માટે પૂરો કેટલોગ જુઓ.

06વોલ્યુમ ગણિત, ઉકેલેલું

"3.9x સસ્તું" ફક્ત ઇનપુટ પર જ સાચું છે. આઉટપુટ પર Flash 1.95x સસ્તું છે. તમારી ખરી બચત તેથી તમારા ઇનપુટ-ટુ-આઉટપુટ રેશિયો પર આધાર રાખે છે, અને ફેલાવો ડિઝાઇન નિર્ણય બદલવા માટે પૂરતો પહોળો છે. દરેક 100,000 વિનંતી પર ચાર વાસ્તવિક વર્કલોડ:

વર્કલોડ	કૉલ દીઠ ઇન / આઉટ	Flash	Pro	બચત
ટિકિટ વર્ગીકરણ	1,200 / 120	$84	$281	3.3x
RAG પ્રશ્ન જવાબ	8,000 / 600	$520	$1,794	3.4x
લોંગ-ડોક્યુમેન્ટ સારાંશ	60,000 / 1,500	$3,300	$12,285	3.7x
સિન્થેટિક ડેટા જનરેશન	500 / 2,000	$425	$878	2.1x

પેટર્ન: તમે જેટલો વધુ કોન્ટેક્સ્ટ ધકેલો છો અને જેટલો ઓછો ટેક્સ્ટ જનરેટ કરો છો, Flash તમને એટલી વધુ બચત આપે છે. રિટ્રીવલ પાઇપલાઇન, ડોક્યુમેન્ટ ટ્રાયાજ, લોગ અને ટ્રાન્સક્રિપ્ટ વિશ્લેષણ, અને લોંગ-કોન્ટેક્સ્ટ નિષ્કર્ષણ sweet spot છે — તેઓ magnitude ના ક્રમે ઇનપુટ-પ્રભુત્વ ધરાવે છે, અને ઇનપુટ એ છે જ્યાં 3.9x ડિસ્કાઉન્ટ રહે છે. તેના બદલે જો તમારો વર્કલોડ હજારો ટોકનનું prose ઉત્પન્ન કરતો ટૂંકો પ્રોમ્પ્ટ છે, તો ગેપ લગભગ 2x સુધી સંકોચાય છે અને Pro માટેની ક્ષમતાની દલીલ તદનુસાર મજબૂત બને છે.

આંતરિક કરવા યોગ્ય એક વધુ ગણિત: 1 મિલિયન ઇનપુટ ટોકન દીઠ $0.50 પર, આખી 262,144-ટોકન વિન્ડોને ભરવાની કિંમત 13.1 સેન્ટ છે. એ કિંમતે લોંગ-કોન્ટેક્સ્ટ પ્રોમ્પ્ટિંગ બજેટ પ્રશ્ન બનવાનું બંધ કરે છે, જેનો અર્થ ક્યારેક એ થાય કે તમે retrieval લેયર બિલ્ડ કરવાનું સંપૂર્ણપણે છોડી શકો છો અને કોન્ટેક્સ્ટ વિન્ડોને કામ કરવા દઈ શકો છો — ટોકન બચત ઉપર એન્જિનિયરિંગ બચત.

07અહીં "અનસેન્સર્ડ" નો ચોક્કસપણે શું અર્થ થાય છે

શબ્દ ઢીલી રીતે વપરાય છે, એટલે અહીં અમારી વ્યાખ્યા છે, એન્ડપોઇન્ટના ગુણધર્મ તરીકે જણાવેલી: મોડેલની આગળ કોઈ ઇનકાર ક્લાસિફાયર નથી અને તેના આઉટપુટ પર કોઈ કન્ટેન્ટ ફિલ્ટરિંગ લાગુ થતું નથી. કંઈ પ્રોમ્પ્ટને intercept કરીને prefabricated ઇનકાર પાછો આપતું નથી; કંઈ completion નું નિરીક્ષણ કરીને તેને redact કરતું નથી. ઊંચા-વોલ્યુમના પ્રોડક્શન કામ માટે પરિણામ શબ્દ સૂચવે છે એના કરતાં ઓછું નાટકીય અને વધુ ઉપયોગી છે:

• નિર્દોષ ટ્રાફિક પર કોઈ ખોટા પોઝિટિવ નહીં. ફિલ્ટર્ડ એન્ડપોઇન્ટ નિયમિતપણે મેડિકલ સારાંશ, સિક્યુરિટી write-up, કાનૂની discovery, ફિક્શન, harm-reduction સામગ્રી અને મોડરેશન કામ પોતાનેજ નકારે છે — બરાબર એ કેટેગરી જ્યાં બેચ જોબ સંવેદનશીલ વિષય વિશે ટેક્સ્ટ પ્રોસેસ કરી રહી છે, નુકસાનકારક કંઈક ઉત્પન્ન નહીં કરી રહી. એક લાખ વિનંતી પર, એક-ટકાનો ખોટો-ઇનકાર દર એક હજાર તૂટેલી પંક્તિઓ છે.
• નિર્ધારિત કરાર. json_schema રિસ્પોન્સ માટે પૂછો અને તમને સ્કીમા સાથે મેળ ખાતું JSON મળે છે, જ્યાં ઓબ્જેક્ટ હોવો જોઈએ ત્યાં માફીનો ફકરો નહીં. તમારા parser ને કોઈ ઇનકાર branch ની જરૂર નથી, અને તમારા retry logic એ transport નિષ્ફળતાને પોલિસી નિષ્ફળતાથી અલગ કરવાની જરૂર નથી.
• તમે પોલિસીના માલિક છો. એ જ ટ્રેડ છે. જો તમારા પ્રોડક્ટને તમારા end user માટે ગાર્ડરેલની જરૂર હોય, તો તમે તેમને તમારા સ્તરે બનાવો છો, જ્યાં તમે તમારા users અને તમારા જુરિસ્ડિક્શનને જાણો છો, બંને વિશે provider ના અનુમાનો વારસામાં લેવાને બદલે. તમારું એકાઉન્ટ અમારી જવાબદાર ઉપયોગ નીતિ દ્વારા સંચાલિત રહે છે.

અનસેન્સર્ડ એ unaligned કે unhelpful જેવું જ નથી. મોડેલ હજુ સૂચનાઓનું પાલન કરે છે અને હજુ system prompt નું સન્માન કરે છે. જો તમે ઇચ્છો કે તે તમારા users માટે ચોક્કસ કેટેગરી નકારે, તો ત્યાં એમ કહો — એ સૂચના હવે તમારે લખવાની છે, અમારે લાગુ કરવાની નહીં.

08ક્ષમતાઓ અને પ્રામાણિક મર્યાદાઓ

વોલ્યુમ કામ માટે બે ક્ષમતાઓ મોટાભાગનું વજન વહન કરે છે. સ્ટ્રિક્ટ json_schema આઉટપુટ completion ને કોઈ parsing લેયર અને કોઈ ઇનકાર branch વગર ડેટાબેઝ row માં ફેરવે છે. ત્રણેય ડાયલેક્ટમાં ટૂલ કૉલિંગ Flash ને એજન્ટના સસ્તા સબ-સ્ટેપ માટે વ્યાજબી એન્જિન બનાવે છે જેનો top-level planner મજબૂત મોડેલ પર ચાલે છે. reasoning_effort ઉમેરો, જે તમને ટ્રાફિકના ફક્ત એ અંશ પર વધારાના ટોકન ખર્ચવા દે છે જેને તેમની જરૂર છે, અને Pro જેવો જ 262,144-ટોકન કોન્ટેક્સ્ટ — તમે સસ્તું ટાયર પસંદ કરીને કોન્ટેક્સ્ટ છોડતા નથી, જે અસામાન્ય છે.

મર્યાદાઓ એટલી જ ચોક્કસ છે:

• કોઈ વિઝન નહીં. Flash ફક્ત-ટેક્સ્ટ છે અને મેસેજમાં ઇમેજ ભાગને નકારશે. એ જ $0.50 / $2.00 તળિયે અનસેન્સર્ડ મોડેલ પર ઇમેજ માટે, MiniMax-M3 અને MiMo-V2.5 વિઝન-સક્ષમ વિકલ્પો છે; Kimi-K2.6 અને Kimi-K3 એ ટાયરની ઉપર મજબૂત વિઝન મોડેલ છે.
• સીડીની ટોચ નહીં. DeepSeek ના પોતાના આંકડા દરેક પ્રકાશિત એજન્ટિક બેન્ચમાર્ક પર Pro ને આગળ મૂકે છે, ટકાઉ મલ્ટિ-સ્ટેપ કોડ રિઝનિંગ પર ગેપ સૌથી પહોળો છે. જ્યાં એક ખોટો જવાબ હજાર સસ્તા કરતાં વધુ ખર્ચે છે, 1 મિલિયન દીઠ વધારાના $1.45 DeepSeek-V4-Pro પર ખર્ચો.
• વિનંતી દીઠ 16,384 આઉટપુટ ટોકન. લાંબા જનરેશનને કૉલ પર chunk કરવા પડે છે. અમે સર્વ કરીએ છીએ એ દરેક મોડેલ પર આ એ જ સીલિંગ છે, અને તે કોન્ટેક્સ્ટ વિન્ડો કરે એ પહેલાં જ bind થાય છે.

09તેને કૉલ કરવું

કોઈપણ OpenAI-કમ્પેટિબલ ક્લાયન્ટને ગેટવે તરફ પોઇન્ટ કરો અને model string બદલો. તમારા સ્ટેકમાં બીજું કંઈ ખસવાની જરૂર નથી.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

એ જ મોડેલ id /v1/messages અને /v1/responses પર બદલાયા વગર કામ કરે છે, જે તમારા ક્લાયન્ટને ફરીથી લખ્યા વગર હાલના ઇન્ટિગ્રેશન નીચે સસ્તા મોડેલને A/B કરવાનો સૌથી ઝડપી રસ્તો છે. પેરામીટર, સ્ટ્રીમિંગ ઇવેન્ટ આકાર, ટૂલ-કૉલિંગ સ્કીમા અને રેટ લિમિટ API સંદર્ભ માં દસ્તાવેજીકૃત છે; કેટલોગમાંનું દરેક મોડેલ Shannon Research પર યાદી થયેલું છે.

10વારંવાર પુછાતા પ્રશ્નો

---

સોર્સ: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 ટેકનિકલ રિપોર્ટ (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 અને DeepSeek-V4-Pro-0813 મોડેલ કાર્ડ · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). બધા ફાઉન્ડેશન અને બેન્ચમાર્ક આંકડા તેમના સંબંધિત લેખકો દ્વારા પ્રકાશિત થયા પ્રમાણે છે; Shannon AI ની કિંમત અને સર્વ કરેલો કોન્ટેક્સ્ટ સપ્ટેમ્બર 2026 મુજબ અમારા પોતાના યાદી મૂલ્યો છે.