API DeepSeek Flash aláìní ìhámọ́
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — iye ilẹ̀, kọ́ńtẹ́kìsì 262K, àti kò sí ìpele ìkọ̀sílẹ̀. Àwòṣe tí o ń darí sí iṣẹ́ tí ń sá ní ẹgbẹ̀rún mẹ́wàá ìgbà lóòjọ́.
Ní Ṣókí
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP ni ìpele ìwọ̀n-ńlá ti ìdílé DeepSeek lórí Ẹnu-ọ̀nà Shannon AI. Ó ń sá lórí ìdìpọ̀ GPU tiwa ní $0.50 fún token wọlé mílíọ̀nù kan àti $2.00 fún token jáde mílíọ̀nù kan — ilẹ̀ àkójọ wa — pẹ̀lú kọ́ńtẹ́kìsì token 262,144, token ìtújáde gíga jù 16,384, ṣíṣàn, ìpe ohun-èlò, ìrònú pẹ̀lú reasoning_effort, àti ìtújáde tí a ṣètò json_schema tí ó le. Kò sí ìpele ìkọ̀sílẹ̀ àti kò sí ìṣẹ́sẹ̀ ìtújáde. Kì í ṣe ẹ̀dà DeepSeek-V4-Pro tí a ti rọ: Pro jẹ́ ìpìlẹ̀ tí ó tóbi púpọ̀ tí a fún sí 3-bit, Flash jẹ́ ìpìlẹ̀ tí ó kéré tí a ń ru ní ìdínwọ̀n AutoRound 4-bit tí ó ní ìdúróṣinṣin gíga sí i. Àwọn wọ̀nyẹn jẹ́ ojú méjì ọ̀tọ̀ lórí ìlà kan náà, èyí tí ó bá borí sì gbára lé iṣẹ́ rẹ pátápátá.
Ọ̀pọ̀ ẹgbẹ́ tí ń díwọ̀n API LLM ni ó ń mú ohun tí kò tọ́ dára. Wọ́n ń díwọ̀n lórí ogún ìtọ́ni tí ó le jù tí wọ́n lè rò, wọ́n ń yan olùborí, wọ́n sì ń rí i ní ọ̀sẹ̀ mẹ́fà lẹ́yìn náà pé ìdá márùn-ún-dín-ọgọ́rùn-ún ìjábọ̀ wọn jẹ́ iṣẹ́ kúkúrú, tí a ṣètò, tí ó ń tún ara rẹ̀ ṣe tí àwòṣe tí ó ń ná ìdámẹ́rin ìbá ti ṣàkóso bákan náà. DeepSeek-V4-Flash wà fún ìdá márùn-ún-dín-ọgọ́rùn-ún yẹn. Ojú-ìwé yìí jẹ mọ́ mímọ̀ ìgbà tí o wà nínú rẹ̀ — àti ìgbà tí o kò sí.
01Ohun tí o ń rí ní tòótọ́
| Ànímọ́ | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| Id àwòṣe | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| Kọ́ńtẹ́kìsì / ìtújáde gíga jù | token 262,144 / token 16,384 |
| Iye fún 1M (wọlé / jáde) | $0.50 / $2.00 |
| Ṣíṣàn · ìpe ohun-èlò · ìrònú | Bẹ́ẹ̀ ni — gbogbo èdè mẹ́tẹ̀ẹ̀ta |
| Ìtújáde tí a ṣètò | json_schema àti response_format |
| Àwòrán wọlé (ìríran) | Rárá — ọ̀rọ̀ nìkan |
| Ìpele ìkọ̀sílẹ̀ / ìṣẹ́sẹ̀ ìtújáde | Kò sí |
| A ń pèsè lórí | Ìdìpọ̀ GPU tiwa Shannon |
Èdè API mẹ́ta ń dé ìwúwo kan náà: /v1/chat/completions (ìrísí OpenAI), /v1/messages (ìrísí Anthropic), àti /v1/responses. Ṣíṣàn ń ṣiṣẹ́ lórí gbogbo mẹ́tẹ̀ẹ̀ta. Ìtọ́kasí párámítà kíkún wà nínú àkọsílẹ̀ API.
02Ibi tí ó ti wá: ìlà ìran DeepSeek
DeepSeek-AI ti lo ìran àwòṣe márùn-ún lórí ìfẹ́ kan: rírí ìhùwàsí iwájú láti inú àwòṣe tí ó pọ́n láti pèsè, kì í ṣe èyí tí ó kàn pọ́n láti kọ́. Ó fẹ́rẹ̀ẹ́ jẹ́ pé gbogbo ìpinnu ìhun-ìkọ́ nínú ìlà náà padà sí ìyẹn, a sì ti tẹ àwọn tí ó ṣe pàtàkì jáde. Mẹ́ta ń ṣàlàyé ohun tí o ń pè nígbà tí o bá kọlu ẹnu-ọ̀nà yìí.
DeepSeekMoE — amòye kékeré pẹ̀lú ọ̀kan tí a pín
Ìpele Àdàpọ̀ Àwọn Amòye ń fi ọ̀pọ̀ nẹ́tíwọ́kì feed-forward kékeré àti olùdarí tí ń yan díẹ̀ fún token kọ̀ọ̀kan rọ́pò nẹ́tíwọ́kì ńlá kan. Ẹ̀dà DeepSeek ń gé àwọn amòye ní kékeré ju ìtòlẹ́sẹẹsẹ amòye-mẹ́jọ gbogbogbò lọ, torí náà FLOPs tí a mú ṣiṣẹ́ kan náà ń rà àdàpọ̀ tí ó pàtó ní ìsopọ̀ púpọ̀ sí i, ó sì ń ya amòye kan tí a pín sọ́tọ̀ tí gbogbo token ń kọjá, kí a má bàa tún ìmọ̀ tí ó wọ́pọ̀ kọ́ léraléra nínú akọ́ṣẹ́mọṣẹ́ kọ̀ọ̀kan. DeepSeek-V3 fi ìyẹn ránṣẹ́ gẹ́gẹ́ bí amòye 256 tí a ń darí pẹ̀lú amòye 1 tí a pín, tí ń mú 8 tí a ń darí ṣiṣẹ́ fún token kọ̀ọ̀kan — párámítà 671B ní àpapọ̀, 37B tí ó ń ṣiṣẹ́ — pẹ̀lú ìdọ́gba ẹrù láìsí ìpàdánù àfikún: dípò ọ̀rọ̀ ìjìyà tí ń ba dídára jẹ́, ìtẹ̀sí fún-amòye ń ti àmì ìdarí sókè tàbí sísàlẹ̀ ní ìgbésẹ̀ kọ̀ọ̀kan bí amòye yẹn ṣe ń sá pẹ̀lú ẹrù tí ó kéré tàbí tí ó pọ̀ jù.
MLA — àfiyèsí tí ó bá ìrántí mu
Ìdajì kejì ìṣòro ìnáwó-pípèsè ni KV cache, tí ń dàgbà ní ìlà pẹ̀lú kọ́ńtẹ́kìsì tí ó sì ń darí ìrántí ní gígùn ọ̀wọ̀ọ̀wọ̀ gígùn. Multi-head Latent Attention, tí a dá sílẹ̀ nínú DeepSeek-V2, ń fúnpọ̀ àwọn kọ́kọ́rọ́ àti iye papọ̀ sínú fẹ́kítọ̀ latent onípò-kékeré ó sì ń tọ́jú ìyẹn, tí ó ń tún K/V tí ó ṣeé lò kọ́ lójú ẹsẹ̀. Àwọn nọ́mbà V2 tí DeepSeek tẹ̀ jáde, lòdì sí DeepSeek 67B tí ó nípọn tí ó ṣáájú, ròyìn ìdínkù 93.3% nínú KV cache àti ìjábọ̀ ìṣẹ̀dá gíga jù tí ó ga ní 5.76×. Ìdí nìyẹn tí fèrèsé token 262K fi jẹ́ ohun gbogbogbò nínú ìdílé yìí dípò àfikún iye gíga.
Àfiyèsí tí ó túká — àti àpẹẹrẹ fún token pọ́n
V3.2-Exp fi DeepSeek Sparse Attention kún un: olùtọ́ka fúyẹ́ kan ń fún àwọn token kọ́ńtẹ́kìsì ní àmì lòdì sí query náà, olùyàn kan sì ń pa àwọn tí ó ní àmì gíga jù mọ́ nìkan. Apá tí ó fani-lọ́kàn-mọ́ra ni ẹ̀rí náà, kì í ṣe ètò náà. DeepSeek tẹ ìfiwéra ẹ̀gbẹ́-sí-ẹ̀gbẹ́ jáde lòdì sí V3.1-Terminus pẹ̀lú MMLU-Pro tí ó dọ́gba ní 85.0, AIME 2025 tí ó gòkè (88.4 → 89.3), SWE-bench Verified tí ó rẹ̀ díẹ̀ (68.4 → 67.8) — dídára tí ó fẹ́rẹ̀ẹ́ dúró ṣánṣán — wọ́n sì gé iye API wọn kù ní ju 50% lọ ní ọjọ́ kan náà. Ìhun-ìkọ́, tí a ròyìn ní òtítọ́, tí ń yí padà tààrà sí iye. Flash ni àríyànjiyàn yẹn tí a gbé lọ ní ìgbésẹ̀ kan sí i.
Ìran V4
V4, tí a fi hàn ṣáájú ní April 2026 lábẹ́ ìwé-àṣẹ MIT, tún fi àdàpọ̀ Compressed Sparse Attention àti Heavily Compressed Attention rọ́pò àkójọ àfiyèsí náà, ó ń kọ́ pẹ̀lú olùmúdára Muon lórí ju token 32T lọ, ó sì ń pa èròǹgbà ìsọtẹ́lẹ̀-token-púpọ̀ ti V3 mọ́ — èyí tí ó tún ń ṣiṣẹ́ gẹ́gẹ́ bí speculative decoding, èyí tí DeepSeek díwọ̀n ní ìwọ̀n ìgbàwọlé token-kejì 85–90% fún ìyára ìṣàdédè nǹkan bí 1.8× nínú V3. Ìsọníṣókí V4 ròyìn V4-Pro tí ń sá ní 27% ti FLOPs ìsọtẹ́lẹ̀ token-kan ti V3.2 àti 10% ti KV cache rẹ̀. Ìdílé náà ń fi ipele ìsapá-ìrònú mẹ́ta hàn, èyí ni párámítà reasoning_effort wa ń tọ́ka sí.
Àwọn orísun: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Ìròyìn Ìmọ̀-ẹ̀rọ DeepSeek-V3 (arXiv 2412.19437) · àkọsílẹ̀ àwòṣe DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Gbogbo nọ́mbà jẹ́ èyí tí DeepSeek ròyìn.
03Kí ni "Flash" túmọ̀ sí ní tòótọ́
Èyí ni kókó tí ọ̀pọ̀ ìfiwéra ń ṣàṣìṣe lórí rẹ̀, torí náà ó tọ́ láti sọ ọ́ ní gbangba: Flash ti DeepSeek kì í ṣe Pro tí a dínwọ̀n, tí a gé tàbí tí a fà jáde. Ó jẹ́ àwòṣe Àdàpọ̀ Àwọn Amòye kékeré tí a kọ́ lọ́tọ̀ pẹ̀lú ìsáré ìdálẹ́kọ̀ọ́-ṣáájú tirẹ̀. Ìwé ìfihàn-ṣáájú V4 fún ní ìwọ̀n méjèèjì:
Àwọn nọ́mbà láti inú ìwé ìfihàn-ṣáájú DeepSeek-V4. Àwọn ààmì ìdúró ìṣẹ́ tí a ń pèsè — V4-Flash-0731 àti V4-Pro-0813 — ń tòjọ àpapọ̀ tí ó tóbi díẹ̀ sí i ti 304B àti 1.7T lórí àkọsílẹ̀ àwòṣe wọn; DeepSeek kò tún sọ àwọn párámítà tí ó ń ṣiṣẹ́ fún àwọn ìkọ́ yẹn.
Nọ́mbà méjì ni ó ń ṣiṣẹ́ níhìn-ín. Àpapọ̀ párámítà ń pinnu àyè ìrántí, èyí tí ń pinnu iye ohun-èlò tí ẹ̀dà àwòṣe kan ń gbà. Àwọn párámítà tí ó ń ṣiṣẹ́ ń pinnu ìṣírò fún token kọ̀ọ̀kan, èyí tí ń pinnu ìjábọ̀. Flash kéré ní nǹkan bí 5.6× lórí àkọ́kọ́ àti 3.8× lórí èkejì — ohun tí ó jinlẹ̀ sì wà nínú àlàfo yẹn tí ó tọ́ láti ṣàkíyèsí: Flash ń mú párámítà 13 nínú bílíọ̀nù 284 ṣiṣẹ́, nǹkan bí 4.6%, nígbà tí Pro ń mú 49 nínú bílíọ̀nù 1,600 ṣiṣẹ́, nǹkan bí 3.1%. Flash ni àwòṣe tí ó túká kéré. Kì í ṣe Pro pẹ̀lú amòye tí ó kéré tí a ṣí; ó jẹ́ ìhùmọ̀ tí ó nípọn sí i, tí a dọ́gba lọ́nà ọ̀tọ̀ tí ó ń lo ìpín tí ó tóbi sí i ti ara rẹ̀ lórí gbogbo token tí ó ń ṣẹ̀dá. Ìpinnu iṣẹ́-ẹ̀rọ gidi ni ìyẹn, kì í ṣe ìdínkù.
Ohun tí àwọn nọ́mbà DeepSeek fúnra rẹ̀ ń sọ
Àwọn àkọsílẹ̀ àwòṣe méjèèjì ń tẹ àmì lórí àwọn àmì ìdíwọ̀n aṣojú àti iṣẹ́-ẹ̀rọ sọ́fítíwéà kan náà jáde, èyí tí ń mú kí èyí jẹ́ ìfiwéra tí ó mọ́ ní àìlẹ́gbẹ́ — ilé-ìwádìí kan náà, ìhámọ́ra ìdíwọ̀n kan náà, ìwọ̀n méjì:
| Àmì ìdíwọ̀n (DeepSeek ni ó ròyìn) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
Pro ń borí ní gbogbo ìlà. Ìyẹn ni àkọlé olóòótọ́ náà, a sì fẹ́ kí o kà á níhìn-ín dípò kí o rí i nínú iṣẹ́ gidi. Ṣùgbọ́n ka àwọn àlàfo náà, nítorí wọ́n ni ohun tí o ń rà ní tòótọ́. Lórí Terminal Bench 2.1 àlàfo náà jẹ́ àmì 5.2 lórí àwòṣe tí ó ní ìdámẹ́ẹ̀ẹ́dọ́gbọ̀n párámítà; lórí ìlò ohun-èlò ó jẹ́ àmì 3.8. Àlàfo náà ń gbòòrò níbi tí iṣẹ́ ti jinlẹ̀ jù — àmì 8.3 lórí DeepSWE, 7.3 lórí NL2Repo, méjèèjì tí ń san èrè fún ìrònú kóòdù oníṣẹ̀ọ̀nà-púpọ̀ tí ó dúró. Ìrísí ìpàṣípààrọ̀ náà nìyẹn nínú tábìlì kan: Flash ń dín ọ̀pọ̀ ìjìnà náà kù lórí àwọn iṣẹ́ tí ó ní ààlà ó sì ń pàdánù ilẹ̀ lórí àwọn tí kò ní ààlà.
Àkọsílẹ̀ Flash ti DeepSeek fúnra rẹ̀ ń fi kókó náà hàn ní kedere sí i: Flash-0731 ń borí ìfihàn-ṣáájú V4-Pro lórí àwọn àmì ìdíwọ̀n tí a tòjọ bí ó tilẹ̀ jẹ́ pé iye párámítà tí ó ń ṣiṣẹ́ rẹ̀ kéré púpọ̀. Àwòṣe kékeré tuntun tí ń borí èyí tí ó tóbi tí ó dàgbà jẹ́ ipò gbogbogbò nínú pápá yìí, òun sì ni ìdí tí "ipele tí ó tóbi sí i" kò gbọ́dọ̀ jẹ́ ìdáhùn àdámọ́ rẹ láé.
Àkíyèsí nípa kọ́ńtẹ́kìsì
DeepSeek ń tẹ kọ́ńtẹ́kìsì token 1M jáde fún ìdílé V4. Ẹnu-ọ̀nà Shannon AI ń pèsè àwòṣe yìí ní token 262,144 — fèrèsé kan náà kọjá gbogbo àwòṣe méjìlá nínú àkójọ wa, àti fèrèsé kan náà tí o ń rí lórí Pro. A fẹ́ kí gbogbo àwòṣe nínú àtòjọ náà hùwà bákan náà lórí kọ́ńtẹ́kìsì dípò kí o máa há àjà ọ̀tọ̀ sórí fún id àwòṣe kọ̀ọ̀kan.
04Kíka àfikún náà: W4A16-AUTOROUND-REAP
Àwọn id àwòṣe wa ń sọ ètò ìfúnpọ̀ wọn ní gbangba, nítorí òun ni ohun tí ó ń kan dídára ìtújáde jùlọ tí ó sì fẹ́rẹ̀ẹ́ jẹ́ pé kò sí ẹni tí ó ń sọ. Èyí pín sí ìsọ̀rọ̀ mẹ́ta.
W4A16 — ìwúwo 4-bit, ìṣiṣẹ́ 16-bit
A ń tọ́jú àwọn ìwúwo ní bit 4 kọ̀ọ̀kan; àwọn ìṣiṣẹ́ ń ṣàn ní ìpéye 16-bit. Èyí jẹ́ ìdínwọ̀n ìwúwo-nìkan, ó sì ń fojú sí ìdíwọ́ gidi nínú ìṣẹ̀dá token, èyí tí ó jẹ́ ìwọ̀n ìrántí dípò ìṣírò. Dídínwọ̀n àwọn ìṣiṣẹ́ pẹ̀lú yóò rà ìyára díẹ̀ sí i yóò sì fi ààbà ìpéye tí ó tóbi púpọ̀ sí i sínú ewu; fífi wọ́n sílẹ̀ ní bit 16 ni àṣàyàn ìṣọ́ra tí ó ní ìdúróṣinṣin gíga. Àmì náà jẹ́ ọ̀rọ̀ ṣókí ti ètò-àyíká pípèsè — ìwé ìdínwọ̀n ń kọ ohun kan náà gẹ́gẹ́ bí W4 pẹ̀lú ìwọ̀n ẹgbẹ́.
AUTOROUND — yíyí-kà tí a kọ́, kì í ṣe yíyí-kà sí èyí tí ó sún mọ́
Ìdínwọ̀n tí kò gbọ́n ń yí gbogbo ìwúwo kà sí iye tí ó sún mọ́ ọn jùlọ tí a lè fi hàn. Ìyẹn kò dára jùlọ ní kedere: yíyí ìwúwo kan kà ní ọ̀nà "tí kò tọ́" lè pa àṣìṣe tí àwọn aládùúgbò rẹ̀ dá sílẹ̀ rẹ́, pẹ̀lú ìwúwo bílíọ̀nù àwọn ìbáṣepọ̀ wọ̀nyẹn sì ń darí. AutoRound, láti Intel, ń mú ìpinnu yíyí-kà náà fúnra rẹ̀ gẹ́gẹ́ bí ohun tí a lè kọ́ — ìdàrú fún-ìwúwo tí a lè kọ́ tí a fi ààlà sí ±0.5, tí ó tó gan-an láti yí ìpinnu yíyí-kà kan padà tí kò sì ju bẹ́ẹ̀ lọ, pẹ̀lú ààlà gígé tí a lè kọ́, tí a mú dára nípa signed gradient descent lòdì sí èròǹgbà àtúnkọ́-ìtújáde bulọ́ọ̀kì-kọ̀ọ̀kan lórí àkójọ ìwọ̀n kékeré kan. Ìgbésẹ̀ igba, lẹ́yìn náà ó parí.
Àwọn ìfiwéra tí Intel tẹ̀ jáde ní AutoRound tí ń borí GPTQ ní 30 nínú ìṣẹ̀lẹ̀ 32 tí a dánwò, AWQ ní 27 nínú 32 àti OmniQuant ní 29 nínú 32 ní ìṣètò ìwúwo-nìkan 4-bit, pẹ̀lú èrè lórí yíyí-kà-sí-èyí-tí-ó-sún-mọ́ tí kò gbọ́n ti àmì ìpéye 6.9 sí 33.2 ní bit 2. Kò sí ohunkóhun nínú rẹ̀ tí ó ń ná ohunkóhun ní àkókò ìsọtẹ́lẹ̀: àṣàyàn nọ́mbà tí ó dára jù ni, tí a ṣe lẹ́ẹ̀kan, lóde-ìsopọ̀.
REAP — pípa àwọn amòye tí kò sí ẹni tí ń darí sí rẹ́
REAP (Router-weighted Expert Activation Pruning), láti Cerebras Systems àti Yunifásítì Calgary, jẹ́ ìfúnpọ̀ ìbọn-kan fún àwọn àwòṣe MoE. Ó ń fún amòye kọ̀ọ̀kan ní àmì nípa bí olùdarí náà ṣe ń darí sí i lágbára tó àti lọ́pọ̀ ìgbà tó, tí a sọ di ìlọ́po ìwọ̀n ìtújáde amòye yẹn, lẹ́yìn náà ó ń pa àwọn amòye tí kò já mọ́ nǹkan kan rẹ́ pátápátá — kò sí ìdálẹ́kọ̀ọ́ mìíràn lẹ́yìn náà.
Àbájáde àárín ìwé náà ni èyí tí ó wúlò: ní ìwọ̀n ìfúnpọ̀ gíga, gígé àwọn amòye ń borí dídà wọ́n pọ̀. Dídà àwọn amòye tí ó yàtọ̀ ní iṣẹ́ pọ̀ ń fa ohun tí àwọn òǹkọ̀wé ń pè ní ìwólulẹ̀ àyè-abẹ́ iṣẹ́ — olùdarí náà ń pàdánù ìṣàkóso kékeré tí ó gbára lé ìwọlé tí ó mú kí MoE tọ́ sí kíkọ́, a sì fi í sílẹ̀ láti máa darí láàrin ìwọ̀n agbede-méjì tí ó dúró. Àwọn nọ́mbà wọn kọjá àwọn àwòṣe láti párámítà 20B sí 1T: ní ìfúnpọ̀ amòye 25% lórí àwọn iṣẹ́ ìkọ̀wé-kóòdù, REAP ń pàdánù ìpéye agbede-méjì 2.8% níbi tí àwọn ìpìlẹ̀ ìfiwéra dídàpọ̀ ń pàdánù ju 5% lọ; ní 50%, REAP ń pàdánù 8.0% níbi tí dídàpọ̀ ń pàdánù ju 20% lọ. Lórí Qwen3-Coder-480B ní gígé 50% ìdínkù náà jẹ́ 1.4%, lòdì sí 39.3% fún gígé tí ó gbára lé ìgbà-mélòó tí kò gbọ́n. Cerebras ti tẹ àwọn ààmì ìdúró ìṣẹ́ REAP jáde fún ìlà DeepSeek láàrin àwọn mìíràn.
Ìdí tí 4-bit fi wà níhìn-ín àti 3-bit lórí Pro
Ìpele méjèèjì gbọ́dọ̀ bá ẹ̀ka ohun-èlò kan náà mu kí wọ́n sì máa yára. Pro ń ru párámítà trílíọ̀nù 1.7, torí náà ó nílò ìtọ́jú 3-bit tí ó lágbára sí i láti bá a mu rárá. Flash ń ru nǹkan bí bílíọ̀nù 300, torí náà kò nílò rẹ̀ — a sì ń ná bit tí ó fi pamọ́ lórí ìdúróṣinṣin dípò lórí bíbá a mu.
Bit àfikún yẹn ṣe pàtàkì ju bí ìṣírò rẹ̀ ṣe dábàá lọ, nítorí ìbàjẹ́ ìdínwọ̀n kì í ṣe ti ìlà. Nínú ìwọ̀n WikiText-2 ti ìwé AWQ, Llama-2-7B lọ láti perplexity 5.47 ní FP16 sí 5.60 ní 4-bit — ìjìyà 2.4% — ṣùgbọ́n sí 6.24 ní 3-bit, ìjìyà 14%. Ìyẹn jẹ́ nǹkan bí ìlọ́po mẹ́fà ìdínkù fún ìfúnpọ̀ 25% sí i, ìlànà kan náà sì dúró ní 70B. Ìwé GPTQ ṣe kedere sí i: ní bit 3, yíyí-kà-sí-èyí-tí-ó-sún-mọ́ tí kò gbọ́n ń wólulẹ̀ lórí àwọn àwòṣe ẹ̀ka 175B, sínú ẹgbẹẹgbẹ̀rún perplexity, nígbà tí ó ń dúró ní ṣíṣeéṣe pátápátá ní bit 4. Ní ìsàlẹ̀ bit mẹ́rin, algorithm ìdínwọ̀n tí ó dára dáwọ́ jíjẹ́ ohun dídùn dúró ó sì ń di ohun kan ṣoṣo tí ó ń gbé àwòṣe náà ró.
Torí náà kíkà olóòótọ́ ti àfikún méjèèjì yìí ni: Flash jókòó ní ẹ̀gbẹ́ ara rẹ̀ tí a kò fúnpọ̀ ju bí Pro ṣe jókòó ní ẹ̀gbẹ́ ti ara rẹ̀ lọ. Pro ṣì ni àwòṣe tí ó lágbára jù — tábìlì àmì ìdíwọ̀n lókè ti pinnu ìyẹn. Ó kàn fi púpọ̀ sí i sílẹ̀ láti dé ibí, o sì ń san fún àǹfààní náà.
Àwọn orísun: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Àwọn nọ́mbà perplexity láti AWQ (arXiv 2306.00978) àti GPTQ (arXiv 2210.17323).
05Flash lòdì sí Pro ní ẹnu-ọ̀nà náà
Apá 03 bo àwọn ìpìlẹ̀ náà. Bí ìpele méjèèjì ṣe rí gẹ́gẹ́ bí ọjà lórí ẹnu-ọ̀nà wa nìyí:
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| Ìdínwọ̀n | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| Ìpéye ìwúwo | 4-bit, yíyí-kà tí a kọ́ | 3-bit |
| Ìpìlẹ̀ (àpapọ̀ / tí ó ń ṣiṣẹ́) | ~304B / 13B | ~1.7T / 49B |
| Ìwọlé fún token 1M | $0.50 | $1.95 |
| Ìjáde fún token 1M | $2.00 | $3.90 |
| Kọ́ńtẹ́kìsì / ìtújáde gíga jù | 262,144 / 16,384 | 262,144 / 16,384 |
| Ohun-èlò · ìtújáde tí a ṣètò · ṣíṣàn | Bẹ́ẹ̀ ni | Bẹ́ẹ̀ ni |
| Ìríran | Rárá | Rárá |
| Ìpele ìkọ̀sílẹ̀ | Kò sí | Kò sí |
Ṣàkíyèsí ohun tí kò yí padà: kọ́ńtẹ́kìsì, àjà ìtújáde, ìpe ohun-èlò, ìtújáde tí a ṣètò, àti àìsí ìpele ìkọ̀sílẹ̀ dọ́gba. Ohun tí ó ń yí padà nìkan ni ìpìlẹ̀ náà, ìdínwọ̀n náà, àti iye náà. Ìyẹn ń mú kí yíyí padà láàrin wọn jẹ́ ìyípadà okùn-kan nínú kóòdù rẹ àti ìpinnu ọrọ̀-ajé pátápátá nínú ìhun-ìkọ́ rẹ.
Ohun tí ìpè ìwọ̀n-gíga-jù kan ń ná
Kún gbogbo kọ́ńtẹ́kìsì token 262,144 náà kí o sì gba ìtújáde token 16,384 kíkún:
Ní iye àtòjọ. Flash: $0.131 wọlé + $0.033 jáde. Pro: $0.511 + $0.064. Ìwọ̀n 3.51×. Flash tún ń pín ilẹ̀ $0.50 / $2.00 pẹ̀lú MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro àti Hy3 — wo àkójọ kíkún náà fún bí àwọn wọ̀nyẹn ṣe yàtọ̀ lórí ìríran àti ìtújáde tí a ṣètò.
06Ìṣírò ìwọ̀n náà, tí a ṣiṣẹ́ lé lórí
"3.9× pọ́n sí i" jẹ́ òtítọ́ lórí ìwọlé nìkan. Lórí ìjáde Flash pọ́n ní 1.95×. Ìfowópamọ́ gidi rẹ nítorí náà gbára lé ìwọ̀n ìwọlé-sí-ìjáde rẹ, àlàfo náà sì gbòòrò tó láti yí àwọn ìpinnu ìhùmọ̀ padà. Iṣẹ́ gidi mẹ́rin, ọ̀kọ̀ọ̀kan ní ìbéèrè 100,000:
| Iṣẹ́ | Wọlé / jáde fún ìpè | Flash | Pro | Ìfowópamọ́ |
|---|---|---|---|---|
| Ìpínsọ́wọ̀ tíkẹ́ẹ̀tì | 1,200 / 120 | $84 | $281 | 3.3× |
| Ìdáhùn ìbéèrè RAG | 8,000 / 600 | $520 | $1,794 | 3.4× |
| Ìsọníṣókí àkọsílẹ̀ gígùn | 60,000 / 1,500 | $3,300 | $12,285 | 3.7× |
| Ìṣẹ̀dá dátà àtọ̀wọ́dá | 500 / 2,000 | $425 | $878 | 2.1× |
Ìlànà náà: bí o ṣe ń ti kọ́ńtẹ́kìsì púpọ̀ sí i tí o sì ń ṣẹ̀dá ọ̀rọ̀ tí ó kéré sí i, bẹ́ẹ̀ ni Flash ṣe ń fi owó pamọ́ sí i fún ọ. Àwọn pàìpù ìmúrajáde, ìṣàyẹ̀wò àkọsílẹ̀, ìtúpalẹ̀ àkọsílẹ̀ àti ìròyìn, àti ìyọjáde kọ́ńtẹ́kìsì gígùn ni ibi tí ó dùn jù — ìwọlé ń darí wọn ní ìlọ́po ẹ̀wẹ̀ kan, ìwọlé sì ni ibi tí ìdínkù 3.9× náà wà. Bí iṣẹ́ rẹ bá dípò bẹ́ẹ̀ jẹ́ ìtọ́ni kúkúrú tí ń ṣẹ̀dá ẹgbẹẹgbẹ̀rún token ti ọ̀rọ̀, àlàfo náà ń dín kù sí nǹkan bí 2× àríyànjiyàn agbára fún Pro sì ń lágbára sí i bákan náà.
Ìṣírò kan sí i tí ó tọ́ sí ìmọ̀: ní $0.50 fún token wọlé mílíọ̀nù kan, gbogbo fèrèsé token 262,144 náà ń ná sẹ́ǹtì 13.1 láti kún. Ìtọ́ni kọ́ńtẹ́kìsì gígùn dáwọ́ jíjẹ́ ìbéèrè ìsúná dúró ní iye yẹn, èyí tí ó túmọ̀ sí nígbà mìíràn pé o lè fo kíkọ́ ìpele ìmúrajáde rárá kí o sì jẹ́ kí fèrèsé kọ́ńtẹ́kìsì náà ṣe iṣẹ́ náà — ìfowópamọ́ iṣẹ́-ẹ̀rọ lórí ìfowópamọ́ token náà.
07Kí ni "aláìní ìhámọ́" túmọ̀ sí níhìn-ín, ní pàtó
A ń lo ọ̀rọ̀ náà lọ́nà tí kò le, torí náà ìtumọ̀ wa nìyí, tí a sọ gẹ́gẹ́ bí ànímọ́ ẹnu-ọ̀nà náà: kò sí olùpín ìkọ̀sílẹ̀ níwájú àwòṣe náà àti kò sí ìṣẹ́sẹ̀ àkóónú lórí ìtújáde rẹ̀. Kò sí ohun tí ń dá ìtọ́ni dúró tí ó sì ń dá ìkọ̀ tí a ti pèsè sílẹ̀ padà; kò sí ohun tí ń yẹ ìparí náà wò tí ó sì ń pa á rẹ́. Fún iṣẹ́ gidi ìwọ̀n-ńlá àbájáde rẹ̀ kò lágbára tó bí ọ̀rọ̀ náà ṣe dábàá ó sì wúlò sí i:
- Kò sí àṣìṣe rere lórí ìjábọ̀ tí kò léwu. Àwọn ẹnu-ọ̀nà tí a ṣẹ́sẹ̀ ń kọ ìsọníṣókí ìṣègùn, ìkọ̀wé ààbò, ìṣàwárí ti òfin, ìtàn àròsọ, ohun èlò ìdín-ipalára-kù àti iṣẹ́ ìṣàkóso àkóónú fúnra rẹ̀ nígbà gbogbo — àwọn ẹ̀ka gan-an níbi tí iṣẹ́ ìdìpọ̀ ń ṣàkóso ọ̀rọ̀ nípa kókó tí ó ní ìfarabalẹ̀ dípò kí ó ṣẹ̀dá ohun ìpalára kankan. Ní ìbéèrè ọ̀kẹ́ márùn-ún, ìwọ̀n ìkọ̀sílẹ̀-èké ti ìdá kan nínú ọgọ́rùn-ún jẹ́ ìlà ẹgbẹ̀rún kan tí ó bàjẹ́.
- Àdéhùn tí ó dájú. Béèrè ìdáhùn
json_schemao ó sì rí JSON tí ó bá schema náà mu, kì í ṣe ìpínrọ̀ àforíjì níbi tí ohun kan yẹ kí ó wà. Olùtúpalẹ̀ rẹ kò nílò ẹ̀ka ìkọ̀sílẹ̀, ìtòlẹ́sẹẹsẹ àtúngbìyànjú rẹ kò sì gbọ́dọ̀ ya ìkùnà ìgbéjáde sọ́tọ̀ kúrò lára ti ìlànà. - Ìwọ ni o ní ìlànà náà. Ìpàṣípààrọ̀ náà nìyẹn. Bí ọjà rẹ bá nílò ààbò fún àwọn olùlò rẹ, o ń kọ́ wọn ní ìpele tìrẹ, níbi tí o ti mọ àwọn olùlò rẹ àti agbègbè òfin rẹ, dípò kí o jogún àbá olùpèsè kan nípa méjèèjì. Àkántì rẹ ṣì wà lábẹ́ Ìlànà Ìlò Onídùúró wa.
Aláìní ìhámọ́ kì í ṣe ohun kan náà pẹ̀lú aláìbámu tàbí aláìníṣàǹfààní. Àwòṣe náà ṣì ń tẹ̀lé ìtọ́ni ó sì ń bọ̀wọ̀ fún ìtọ́ni ètò. Bí o bá fẹ́ kí ó kọ̀ àwọn ẹ̀ka kan fún àwọn olùlò tìrẹ, sọ ọ́ níbẹ̀ — ìtọ́ni yẹn jẹ́ tìrẹ láti kọ báyìí dípò tiwa láti fi lélẹ̀.
08Agbára àti ààlà olóòótọ́
Agbára méjì ni ó ń ru ọ̀pọ̀ ìwúwo fún iṣẹ́ ìwọ̀n-ńlá. Ìtújáde json_schema tí ó le ń yí ìparí kan padà sí ìlà ibi-ìpamọ́-dátà láìsí ìpele ìtúpalẹ̀ àti láìsí ẹ̀ka ìkọ̀sílẹ̀. Ìpe ohun-èlò nínú gbogbo èdè mẹ́tẹ̀ẹ̀ta ń mú Flash jẹ́ ẹ̀rọ tí ó bọ́gbọ́n mu fún àwọn ìgbésẹ̀-abẹ́ pọ́n ti aṣojú kan tí olùṣètò ipele-òkè rẹ̀ ń sá lórí àwòṣe tí ó lágbára sí i. Fi reasoning_effort kún un, èyí tí ń jẹ́ kí o ná token àfikún lórí ìdá ìjábọ̀ tí ó nílò wọn nìkan, àti kọ́ńtẹ́kìsì token 262,144 tí ó dọ́gba pẹ̀lú ti Pro — o kò fi kọ́ńtẹ́kìsì sílẹ̀ nípa yíyan ìpele tí ó pọ́n, èyí tí kò wọ́pọ̀.
Àwọn ààlà náà ṣe kedere bákan náà:
- Kò sí ìríran. Flash jẹ́ ọ̀rọ̀ nìkan yóò sì kọ àwọn apá àwòrán nínú ìfọ̀rọ̀ránṣẹ́. Fún àwọn àwòrán lórí àwòṣe aláìní ìhámọ́ ní ilẹ̀ $0.50 / $2.00 kan náà, MiniMax-M3 àti MiMo-V2.5 ni àwọn àṣàyàn tí ó lè ríran; Kimi-K2.6 àti Kimi-K3 jẹ́ àwòṣe ìríran tí ó lágbára sí i lókè ìpele yẹn.
- Kì í ṣe orí àkàbà náà. Àwọn nọ́mbà DeepSeek fúnra rẹ̀ ń gbé Pro síwájú lórí gbogbo àmì ìdíwọ̀n aṣojú tí a tẹ̀ jáde, pẹ̀lú àlàfo tí ó gbòòrò jù lórí ìrònú kóòdù oníṣẹ̀ọ̀nà-púpọ̀ tí ó dúró. Níbi tí ìdáhùn kan tí kò tọ́ ń ná ju ẹgbẹ̀rún àwọn pọ́n lọ, ná $1.45 àfikún fún mílíọ̀nù kan lórí DeepSeek-V4-Pro.
- Token ìtújáde 16,384 fún ìbéèrè kọ̀ọ̀kan. A gbọ́dọ̀ pín àwọn ìṣẹ̀dá gígùn sí àpá kọjá àwọn ìpè. Àjà kan náà nìyí lórí gbogbo àwòṣe tí a ń pèsè, ó sì ń dì dáadáa kí fèrèsé kọ́ńtẹ́kìsì náà tó dì.
09Pípe é
Darí oníbàárà èyíkéyìí tí ó bá OpenAI mu sí ẹnu-ọ̀nà náà kí o sì yí okùn àwòṣe náà padà. Kò sí ohunkóhun mìíràn nínú àkójọ rẹ tí ó gbọ́dọ̀ yí padà.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
Id àwòṣe kan náà ń ṣiṣẹ́ láìyípadà lórí /v1/messages àti /v1/responses, èyí tí ó jẹ́ ọ̀nà tí ó yára jù láti fi àwòṣe tí ó pọ́n wéra lábẹ́ ìsopọ̀ tí ó ti wà tẹ́lẹ̀ láìsí kíkọ oníbàárà rẹ padà. A ti kọ àwọn párámítà, ìrísí ìṣẹ̀lẹ̀ ṣíṣàn, schema ìpe-ohun-èlò àti ààlà ìwọ̀n sílẹ̀ nínú ìtọ́kasí API; a ti tòjọ gbogbo àwòṣe nínú àkójọ náà ní Ìwádìí Shannon.
10Àwọn ìbéèrè tí a sábà ń bèèrè
Kí ni API DeepSeek Flash aláìní ìhámọ́?
Ẹnu-ọ̀nà Shannon AI fún DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP: ìkọ́ AutoRound 4-bit ti ìpìlẹ̀ V4-Flash onípárámítà-tí-ń-ṣiṣẹ́ 13B ti DeepSeek, tí a ń pèsè lórí ìdìpọ̀ GPU tiwa láìsí ìpele ìkọ̀sílẹ̀ àti láìsí ìṣẹ́sẹ̀ ìtújáde, ní $0.50 fún token wọlé mílíọ̀nù kan àti $2.00 fún token jáde mílíọ̀nù kan, pẹ̀lú kọ́ńtẹ́kìsì token 262,144.
Ẹ̀lòó ni DeepSeek V4 Flash ń ná fún token mílíọ̀nù kan?
$0.50 wọlé àti $2.00 jáde, iye ilẹ̀ lórí ẹnu-ọ̀nà Shannon. DeepSeek-V4-Pro-0813 jẹ́ $1.95 àti $3.90, torí náà Flash pọ́n ní 3.9× lórí ìwọlé àti 1.95× lórí ìjáde. Kíkún gbogbo kọ́ńtẹ́kìsì token 262,144 náà ń ná nǹkan bí $0.13 lórí Flash lòdì sí $0.51 lórí Pro.
Ṣé kí n lo DeepSeek V4 Flash tàbí DeepSeek V4 Pro?
Flash nígbà tí iye àwọn ìpè bá jẹ́ ìdíwọ́: ìpínsọ́wọ̀, ìyọjáde, ìsọníṣókí, dátà àtọ̀wọ́dá, ìdáhùn RAG, àwọn ìgbésẹ̀-abẹ́ aṣojú. Pro nígbà tí ìṣòro ìpè kan bá jẹ́ ìdíwọ́. Flash kì í ṣe Pro tí ó ti rẹ̀; ó jẹ́ ìpìlẹ̀ kékeré ní ìdínwọ̀n 4-bit tí ó ní ìdúróṣinṣin gíga sí i, níbi tí Pro jẹ́ ìpìlẹ̀ onípárámítà 1.7T ní 3-bit.
Ṣé DeepSeek-V4-Flash-0731 ń gba ìríran àti ìtújáde JSON Schema?
Ó ń gba ìtújáde tí a ṣètò json_schema tí ó le àti response_format, pẹ̀lú ìpe ohun-èlò, ṣíṣàn àti reasoning_effort. Kò gba àwòrán wọlé. Fún àwọn àwòrán lórí àwòṣe aláìní ìhámọ́ ní iye ilẹ̀ kan náà, MiniMax-M3 àti MiMo-V2.5 ni àwọn àṣàyàn tí ó lè ríran.
Kí ni W4A16-AUTOROUND-REAP túmọ̀ sí?
W4A16 jẹ́ ìwúwo 4-bit pẹ̀lú ìṣiṣẹ́ 16-bit. AutoRound jẹ́ ọ̀nà yíyí-kà tí a kọ́ ti Intel, èyí tí ń mú àwọn ìpinnu yíyí-kà dára nípa signed gradient descent dípò yíyí-kà sí iye tí ó sún mọ́ ọn jùlọ. REAP jẹ́ gígé amòye ìbọn-kan ti Cerebras Systems fún àwọn àwòṣe Àdàpọ̀ Àwọn Amòye, tí ń pa àwọn amòye tí a kì í darí sí wọn jùlọ rẹ́ láìsí ìdálẹ́kọ̀ọ́ mìíràn.
Ṣé àwòṣe náà jẹ́ aláìní ìhámọ́ ní tòótọ́, láìsí ìpele ìkọ̀sílẹ̀?
Bẹ́ẹ̀ ni. Kò sí olùpín ìkọ̀sílẹ̀ tí ó jókòó níwájú àwòṣe náà a kò sì lo ìṣẹ́sẹ̀ kankan sí ìtújáde rẹ̀, torí náà o ń rí ìpín àwòṣe náà fúnra rẹ̀. Ìyẹn tún túmọ̀ sí pé ìwọ ni o ní ipò ààbò ọjà rẹ tí o sì ń kọ́ ààbò ní ìpele tìrẹ; Ìlànà Ìlò Onídùúró wa ṣì ń ṣàkóso àkántì náà.
Sá ìwọ̀n rẹ lórí Flash
$0.50 wọlé, $2.00 jáde, kọ́ńtẹ́kìsì 262K, kò sí ìkọ̀sílẹ̀. Yí okùn àwòṣe kan padà.
Ka Àkọsílẹ̀ API Ṣàwárí Gbogbo Àwòṣe 12Shannon Lab LLC · New Mexico, USA · Ìlànà Ìlò Onídùúró wa ni ó ń ṣàkóso rẹ̀
Àwọn orísun: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Ìròyìn Ìmọ̀-ẹ̀rọ DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · àwọn àkọsílẹ̀ àwòṣe DeepSeek-V4-Flash-0731 àti DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Gbogbo nọ́mbà ìpìlẹ̀ àti ìdíwọ̀n jẹ́ gẹ́gẹ́ bí àwọn òǹkọ̀wé wọn ṣe tẹ̀ wọ́n jáde; àwọn iye Shannon AI àti kọ́ńtẹ́kìsì tí a ń pèsè jẹ́ iye àtòjọ tiwa bí ó ti wà ní September 2026.