Ilay API DeepSeek tsy voasivana
Mixture-of-Experts DeepSeek 1,6 tapitrisa arivo parametatra atolotra tsy misy sosona fandavana: context 262K, ezaka fisainana natoraly, fiantsoana fitaovana, ary fitenim-paritra API telo eo amin'ny vondrona GPU anay manokana.
Fintina
Ny DeepSeek-V4-Pro-0813-3BIT-REAP no modely fisainana-sy-kaody voalohany amin'ny andiana tsy voasivan'ny Shannon AI. Ny fototra dia ny V4-Pro lanja misokatra avy amin'ny DeepSeek-AI — 1,6T parametatra manontolo, 49B mavitrika isaky ny token, lisansa MIT, nampiofanina natoraly ho amin'ny context tapitrisa token. Atolotray eo amin'ny vondrona GPU anay manokana izy amin'ny lanja 3-bit miaraka amin'ny fanapahana manam-pahaizana REAP, misy varavarankely 262 144 token, output ambony indrindra 16 384 token, streaming, fiantsoana fitaovana natoraly, output json_schema hentitra, ary kirakira reasoning_effort. $1.95 isaky ny 1M miditra, $3.90 isaky ny 1M mivoaka. Tsy misy fahitana. Tsy misy sosona fandavana, tsy misy fanivanana output.
Ny olona tonga amin'ny andianteny hoe "API DeepSeek tsy voasivana" dia mitady zavatra iray mazava: modely manana ny fahaiza-misaina sy manoratra kaody an'ny DeepSeek izay mamaly ny fanontaniana tena napetraka. Voarakitra tsara ny antsasany momba ny fahaiza-manao — namoaka ny rafitra sy ny tarehimarika ny DeepSeek-AI, ary ao amin'ny Hugging Face ambanin'ny MIT ny lanja. Fanapahan-kevitra ara-pandraharahana kosa ny antsasany faharoa, ary matetika raisina ho anao izany. Ity pejy ity dia mandrakotra izy roa: inona ny fototra V4-Pro, inona no ataon'ny build 3BIT-REAP anay aminy, ary inona marina ny dikan'ny hoe "tsy voasivana" rehefa lazainay izany.
01Inona marina ny dikan'ny "API DeepSeek tsy voasivana"
Mekanisma roa samihafa no atambatra ao anatin'ny teny iray. Ny voalohany dia ny fifanarahana voatambatra ao anatin'ny lanja — fitondran-tena fandavana nianarana nandritra ny fiofanana taorian'ny fanofanana fototra. Ny faharoa dia sosona fanaraha-maso eo amin'ny tolotra: classifier misaraka mandinika ny prompt-nao alohan'ny hahitan'ny modely azy sy ny output alohan'ny hahitanao azy, ary afaka manapaka valiny eo an-tenatenan'ny fehezan-teny na inona na inona tian'ny modely holazaina.
Samy azo refesina izy roa, ary efa norefesina ny tolotra avy amin'ny DeepSeek mihitsy. Nanangona andiam-panontaniana saro-pady ara-politika misy 1 360 prompt ny Promptfoo ary nitatitra fa ny R1 nampiantranoin'ny DeepSeek dia nandà na nanodinkodina 1 156 tamin'izy ireo — 85% tany ho any. Ny asa akademika momba io fianakaviana io ihany dia nahita endrika tsy fahombiazana miavaka nantsoin'ny mpanoratra hoe famonoana ny eritreritra, izay ahatapahan'ny lalan'ny fisainan'ny modely saika vantany vao manomboka amin'ny lohahevitra saro-pady. Fanadihadiana hafa navoaka tao amin'ny Information Sciences dia nanamarina famonoana amin'ny ambaratonga ara-kevitra: votoaty misy ao anatin'ny fisainana anatiny amin'ny modely nefa esorina mangina na soratana indray alohan'ny hahatongavany aminao. Olana sarotra kokoa noho ny fandavana mivantana izany, satria toa valiny ny valiny voatapaka.
Izay ampandehaninay dia ny famoahana lanja misokatra, eo amin'ny fitaovana ampandehaninay, any Etazonia, ambanin'ny Shannon Lab LLC. Tsy misy sosona fandavana eo alohan'ny modely ary tsy misy sivana ampiharina amin'izay miverina: tsy sokajiana ara-politika alohan'ny hanolorana azy ny prompt-nao, ary tsy dinihina eny an-dalana mivoaka ny sanda output. Satria misokatra sy ambanin'ny lisansa MIT ny fototra, dia azonao ampitahaina amin'ny lanja fanovozan-kevitra ny output-nay, fa tsy voatery hino anay fotsiny ianao.
02Ny fototra: DeepSeek-V4-Pro, MoE 1,6T
Ny DeepSeek-V4 no fianakaviana lanja misokatra ankehitrin'ny DeepSeek-AI, naseho tamin'ny Aprily 2026 ary navoaka ambanin'ny MIT amin'ny habe roa: V4-Flash (284B manontolo, 13B mavitrika) sy V4-Pro (1,6T manontolo, 49B mavitrika). Momba ny ambaratonga Pro ity lahatsoratra ity. Samy nampiofanina mialoha tamin'ny 33 tapitrisa arivo token tany ho any izy roa ary samy manohana natoraly context tapitrisa token.
Ny tahan'ny sparsity no zavatra tokony homarihina: 3% eo ho eo amin'ny parametatra ihany no mandeha amin'ny token iray, ka izany no mahatonga ny modely lehibe toy izao ho azo atolotra mihitsy. Ny bloc MoE mihitsy dia mbola DeepSeekMoE — ireo manam-pahaizana voatondro madinidinika miampy ireo manam-pahaizana iombonana mandeha foana nampidirina tao amin'ny V2 — miaraka amin'ny fanovana V4 kely fotsiny, indrindra ny hash routing amin'ny sosona voalohany indrindra. Ny Multi-Token Prediction, tanjona fanampiny tao amin'ny V3 izay mahatonga koa ny speculative decoding, dia tazonina tsy miova.
Ara-drafitra ny ampahany vaovao ao amin'ny V4. Ny Manifold-Constrained Hyper-Connections (mHC) dia manolo ny lalana residual tsotra amin'ny matrisy fifangaroana nianarana voafetra eo amin'ny manifold-n'ny matrisy doubly stochastic amin'ny alalan'ny projection Sinkhorn–Knopp — sanda residual mandanja indray isaky ny input tsy misy ny fivilian'ny isa mamono ny antontana lalina be. Ny fiofanana dia niala tamin'ny AdamW ho amin'ny Muon ho an'ny ankamaroan'ny module, mampiasa ny orthogonalization Newton–Schulz, ary ny AdamW dia notazonina ho an'ny embedding, ny loha fanombanana, ny normalization ary ny parametatra mHC tsy miova ihany. Ary ny lanjan'ny manam-pahaizana dia ampiofanina amin'ny FP4 raha FP8 ny ankamaroan'ny parametatra hafa — mahatsapa ny quantization hatrany am-piandohana, izay manan-danja amin'ny fomba andraisan'ny modely ny fanerena fanampiny am-pahamoram-panahy.
03Manomboka amin'ny MLA ka hatramin'ny CSA + HCA: ny fomba itazonan'ny DeepSeek ny context lava ho mora
Ny tady mitohy amin'ny taranaka efatra amin'ny DeepSeek dia tsy ny habe fa ny toekarenan'ny attention. Ny dikan-teny tsirairay dia nanafika ny KV cache, izay mitombo mifanandrify amin'ny context ary mibahana ny arika amin'ny halavana lava.
- Ny V2 no nampiditra ny Multi-head Latent Attention (MLA) — fanerena iraisana amin'ny laharana ambany ny key sy ny value ho vecteur latent, ka ny famoronana dia mitahiry io vecteur io miampy key RoPE misaraka fa tsy ny K sy V feno isaky ny loha. Nitatitra ny DeepSeek fa nidina ho 4–14% tany ho any amin'ny multi-head attention mahazatra ny KV cache, ary tazonina na natsaraina aza ny kalitao.
- Ny V3 nampitombo izany ho 671B, ka nahatonga ny MLA ho fiheverana mandeha ho azy ho an'ny context lava mora amin'ny modely misokatra.
- Ny V3.2 nanampy ny DeepSeek Sparse Attention (DSA), izay mifidy ampahany top-k amin'ny tantara isaky ny fanontaniana amin'ny alalan'ny indexer maivana fa tsy manisy attention amin'ny zava-drehetra.
- Manao hybrid ny V4. Ny Compressed Sparse Attention (CSA) dia manery aloha ny entry KV isaky ny m token ho entry iray amin'ny lanja nianarana, dia mampandeha fifidianana sparse top-k amin'ireo entry voatery ireo. Ny Heavily Compressed Attention (HCA) kosa manery mafy kokoa be nefa mijanona ho matevina amin'ny valiny. Mifamahofaho manerana ny antontana ireo karazana sosona roa ireo, ka miara-misy ny famintinana manerantany mora sy ny fakàna eo an-toerana marina.
Mampitolagaga ny tombony notaterina amin'ny context tapitrisa token: mila 27% eo ho eo amin'ny FLOPs inference isaky ny token ary 10% amin'ny KV cache an'ny V3.2 ny V4-Pro. Izany no antony ihetsehan'ny fangatahana 262K toy ny fangatahana mahazatra fa tsy toy ny hetsika arika, ary ny antony itoeran'ny tarehimarika fakàna context lava fa tsy mirodana rehefa mihoatra ny alinalina token vitsivitsy.
04Ny dikan'ny tovana 3BIT-REAP
Mifarana amin'ny 3BIT-REAP ny id-nay ao amin'ny katalaogy, ary manoritsoritra dingana fanerena roa mifampitohy izany.
REAP: manapaka ny manam-pahaizana, fa tsy mampifangaro azy
Ny REAP dia Router-weighted Expert Activation Pruning, avy amin'ny Cerebras Research — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", nekena ho an'ny ICLR 2026. Ao anatin'ny MoE sparse, tsy mampiasa ny manam-pahaizany mitovy ny router: misy rambony lava fidiana tsy matetika, malemy, na izy roa. Manombana ny manam-pahaizana tsirairay ny REAP amin'ny fanambarana ny sandan'ny vavahadin'ny router (impiry sy hatraiza ny fifidianana azy) miaraka amin'ny norm-n'ny fanetsehana ny manam-pahaizana (hatraiza ny fandraisany anjara amin'ny output), dia fafany tanteraka ireo resy.
Ny hevitry ny lahatsoratra dia ny hoe mandresy ny fampifangaroana ny fanapahana: ny fampifangaroana dia manao salan'isa ny fahaiza-manokana izay nahatonga ny MoE ho mendrika naorina, raha ny famafana ireo manam-pahaizana saika tsy tratran'ny router kosa mitazona izany. Amin'ny modely manomboka amin'ny 20B ka hatramin'ny 1T, nihoatra ny fampifangaroana sy ireo fomba fanapahana mifaninana ny REAP amin'ny benchmark famoronana, ary mitatitra ny mpanoratra fa saika tsy misy fahaverezana ny vokatra amin'ny famoronana kaody sy ny fiantsoana fitaovana amin'ny fanapahana 50% ny manam-pahaizana amin'ny Qwen3-Coder-480B sy Kimi-K2 — izay indrindra no karazana asa ijoroan'ity modely ity.
Lanja 3-bit: ny ambaratongam-panerena ho an'ny fototra lehibe indrindra
Ny sisa tavela dia atao quantization amin'ny lanja 3-bit. Mahery ny telo bit, ary tsy manafinafina izany izahay: manerana ny andiany, mampiasa W8A16 izahay any amin'ny fototra kely tsy mila fanerena, W4A16-AUTOROUND-REAP eo afovoany, ary 3BIT-REAP ho an'ny fototra lehibe indrindra ihany, izay ilazany ny fahasamihafana eo amin'ny fanolorana ny modely sy ny tsy fanolorana azy.
Mendrika lazaina mazava ny fifanakalozana: ny MoE 1,6T amin'ny 3-bit dia tsy mitovy bit amin'ny famoahana fanovozan-kevitra, ary tena misy ny vidiny kely amin'ny kalitao. Izay azonao ho takalon'izany dia fototra izay ny valindrihany tsy voatery dia ambony lavitra noho izay rehetra miditra tsara amin'ny fahamarinana ambony kokoa — ary satria ny manam-pahaizan'ny V4 dia nampiofanina tamin'ny FP4 hatrany am-boalohany, dia mahazatra tsara ny fitondran-tenan'ny modely ambanin'ny fanerena lanja fanampiny. Raha te hahazo build DeepSeek malefaka kokoa amin'ny fahamarinana ianao, ny DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP dia mampiasa lanja 4-bit miaraka amin'ny fanetsehana 16-bit sy ny fanodinana nianaran'ny AutoRound, amin'ny context 262K mitovy amin'ny $0.50 miditra / $2.00 mivoaka.
05Fisainana, sy ny kirakira reasoning_effort
Ny fiofanana taorian'ny fanofanana fototra amin'ny V4 dia mampiofana manam-pahaizana isaky ny sehatra mitokana — matematika, fanoratana kaody, agent, fanarahana toromarika — miaraka amin'ny SFT arahin'ny GRPO, ilay fomba Group Relative Policy Optimization nampidirin'ny DeepSeek tamin'ny R1. Ireo manam-pahaizana ireo dia atambatra ho modely iray amin'ny alalan'ny distillation on-policy ambanin'ny tanjona reverse-KL, ka checkpoint tokana no mitondra fitondran-tena mendrika manam-pahaizana amin'ny sehatra maromaro miaraka fa tsy generalist antonony amin'ny rehetra.
Ny modely navoaka dia manolotra fomba fisainana miakatra tsikelikely fa tsy fanetsehana roa loha. Eo amin'ny vavahadinay dia ny parametatra reasoning_effort mahazatra izany, ilay kirakira tena mahasoa indrindra amin'ity modely ity:
- Ambany — famaliana saika mivantana: fanasokajiana, fanesorana angona, fanoratana indray, izay rehetra andoavanao vola ho an'ny fahalalan'ny modely fa tsy ho an'ny fandinihany.
- Antonony — ny fomba fiasa mandeha ho azy ho an'ny fandinihana kaody, ny fikarohana bug ary ny famakafakana misy dingana maro.
- Ambony — fandinihana lava alohan'ny famaliana. Eo no vahana ny olana sarotra, ary eo koa no misy ny faktioranao amin'ny token mivoaka, satria isaina ho output ny token fisainana.
Satria tsy misy sosona fandavana, dia tsy tapahina amin'ny lohahevitra saro-pady ny lalan'ny fisainana — tsy manana mekanisma hisehoana eto ilay endrika famonoana eritreritra voamarina teo amin'ny tolotra ofisialy.
06Kaody sy asa agent: izay azon'ny fototra
Ireto no tarehimarika navoakan'ny DeepSeek-AI mihitsy ho an'ny famoahana V4-Pro — tsy anay izy, ary tsy norefesina tamin'ny build voatery anay. Aseho izy ireo satria izy no antony marina hifidianana ity fototra ity, ary marihinay fa avy amin'ny mpamokatra izy mba hahafahanao mandanja azy araka izany.
Roa no mendrika resahina. Ny SWE-bench Verified amin'ny 80,6% dia famahana olana amin'ny repo tena misy — famakiana kaody tsy fantatra, fitadiavana ny kilema, famoronana patch mandalo ny fitsapana an'ny tetikasa mihitsy. Ny MRCR amin'ny tapitrisa token (83,5) dia fakàna coreference misy fihodinana maro amin'ny halavany feno, ilay tarehimarika milaza aminao fa tsy haingo ny fitakiana momba ny context lava. Mitatitra koa ny DeepSeek fa 3206 ny naoty Codeforces ho an'ny modely, ary 62,0 amin'ny CorpusQA amin'ny context 1M.
Ny tarehimarika etsy ambony dia notaterin'ny DeepSeek-AI ho an'ny famoahana fanovozan-kevitra DeepSeek-V4-Pro. Ny build 3BIT-REAP anay dia dikan-javatra voatery amin'ireo lanja ireo ary mbola tsy nodinihina tamin'ny benchmark mahaleo tena amin'ireo asa ireo; raiso ho valindrihan'ny fototra ny naoty fanovozan-kevitra, fa tsy ho fandrefesana ity endpoint ity.
07Context 262K: inona no tena miditra
Nampiofanina ho an'ny tapitrisa token ny modely fanovozan-kevitra. 262 144 no atolotray — ilay varavarankely iombonan'ny modely rehetra eo amin'ny vavahady, ka ny fiovana modely dia fanovana andalana iray ary tsy fihemorana context mihitsy. Amin'ny fampiharana, ny 262K dia mihoatra ny toerana ametran'ny context ho an'ny ankamaroan'ny asa tena izy:
| Karazan'asa | Token eo ho eo | Miditra ao anatin'ny 262K? |
|---|---|---|
| Repo tolotra antonony (~50k andalana) | ~600K | Tsia — fidio ny module |
| Rafitra kely iray + ny fitsapana azy | ~60–120K | Eny, malalaka |
| Andiana RFC feno ho an'ny protokôla iray | ~150K | Eny |
| Boky teknika 700 pejy | ~250K | Eny, akaikin'ny fetra |
| Fandehanan'ny agent lava, 40+ fihodinana fitaovana | ~80–200K | Eny |
Ny fetra tokony hokendrena dia ny output: 16 384 token ambony indrindra isaky ny valiny. Antontan-taratasy lava na patch misy rakitra maro goavana izany, fa tsy kaody manontolo. Ny asa famoronana lehibe dia atao amin'ny fampifandimbiasana fangatahana miaraka amin'ny output teo aloha averina ao anatin'ny context — izay ataon'ny varavarankely 262K ho mora — fa tsy amin'ny fangatahana famaranana goavana tokana.
08Vidiny, sy ny toeran'ny V4-Pro ao anatin'ny andiany
Amin'ny $1.95 miditra / $3.90 mivoaka isaky ny tapitrisa token, ny V4-Pro no ambaratonga fisainana voalohany — ilay modely tadiavinao rehefa sarotra ny olana. Rehefa lehibe fotsiny izy, dia hahavita izany amin'ny ampahefatry ny vidiny ny modely mora kokoa amin'ny varavarankely 262K mitovy.
| Modely tsy voasivana | Miditra / 1M | Mivoaka / 1M | Fahitana | Tsara indrindra ho an'ny |
|---|---|---|---|---|
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Tsia | Fisainana sarotra, kaody, agent |
| DeepSeek-V4-Flash · W4A16 | $0.50 | $2.00 | Tsia | Firazanana mitovy, habetsahana |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Tsia | Mpiasa ankapobeny |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Eny | Agent multimodal ambony indrindra |
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Eny | Fahitana mora indrindra |
Mba ho mahitsy momba ny fampitahana tena hataon'ny olona: mora kokoa noho ity ny API an'ny DeepSeek mihitsy — ny V4-Pro avy amin'ny mpamokatra dia manondro $0.435 miditra / $0.87 mivoaka eo ho eo, ary ambany noho izany aza ny vidin'ny input tratra cache. Raha ny vidiny isaky ny token no hany fepetra anananao ary tsy misy fiantraikany amin'ny asanao ny fitondran-tena amin'ny fanaraha-maso, dia ampiasao ny API an'ny mpamokatra; aleonay milaza izany aminao toy izay hahitanao izany aoriana. Ny vola fanampiny dia mividy toetra hafa: tsy misy sosona fandavana ary tsy misy sivana output, mpandraharaha amerikana ambanin'ny Shannon Lab LLC, checkpoint misy daty voapetaka (0813) ka tsy misy fanavaozana mangina any ambony manova ny output-nao eo an-tenatenan'ny tetikasa, fitenim-paritra API telo manoloana modely iray, ary varavarankely 262K sy velaran-parametatra mitovy manerana ny modely roa ambin'ny folo ao anatin'ny andiany.
09Ny fiantsoana azy: fitenim-paritra telo, modely iray
Ny modely rehetra eo amin'ny vavahady dia mamaly amin'ny endpoint telo, misy streaming amin'ny tsirairay. Tsy mandray SDK vaovao ianao — manova base URL sy id-n'ny modely ihany.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
"reasoning_effort": "high",
"stream": true,
"messages": [
{"role": "system", "content": "You are a systems programmer. Be direct."},
{"role": "user", "content": "Audit this parser for memory-safety bugs."}
]
}'/v1/chat/completions— fitenim-paritra OpenAI; miasa amin'ny SDK OpenAI sy izay rehetra naorina taminy./v1/messages— fitenim-paritra Anthropic, ho an'ny kaody efa nosoratana manaraka io endrika io./v1/responses— ny interface amin'ny endrika Responses.
Tohanana amin'ity modely ity: ny streaming, ny fiantsoana fitaovana natoraly, ny output voarafitra json_schema hentitra, ny response_format, ary ny reasoning_effort. Ny fanovozan-kevitra feno momba ny parametatra sy ny playground velona dia ao amin'ny antontan-taratasin'ny API.
10Fetra marina
Zavatra efatra tokony ho fantatra alohan'ny hanorenanao aminy:
- Tsy misy fahitana. Lahatsoratra ihany; tsy handray sary miditra amin'ny endpoint na iray aza izy. Raha mila modely tsy voasivana mahita ianao, dia ampiasao ny Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 na inkling.
- Valindrihana output 16 384 token. Isaina ao anatiny ny token fisainana amin'ny ezaka ambony, ka ny fandinihana lava dia mamela toerana kely kokoa ho an'ny valiny. Ampifandimbiaso ny fangatahana ho an'ny asa famoronana lehibe.
- Fanerena tena izy ny 3-bit. Ny naoty fanovozan-kevitra dia manoritsoritra ny fototra, fa tsy ity build ity. Ho an'ny ambaratonga misy fahatokisana ambony indrindra, ny modely
W8A16(MiMo-V2.5-Pro, MiMo-V2.5, Hy3) no mitondra ny quantization kely indrindra. - Ny tsy fisian'ny sivana dia tsy midika tsy misy vokany. Ny tsy fisian'ny sosona fandavana dia midika fa mipetraka aminao ny andraikitra amin'izay angatahinao sy izay ataonao amin'ny valiny — ambanin'ny fepetra fampiasanay sy ny lalàna eo amin'ny toerana iasanao.
Ny fitakiana ara-drafitra sy ny tarehimarika benchmark rehetra eto amin'ity pejy ity dia avy amin'ny loharano voalohany ampahibemaso. Vakio izy ireo ho anao.
11Fanontaniana apetraka matetika
Inona no atao hoe API DeepSeek tsy voasivana?
Ny modely lanja misokatra DeepSeek-V4-Pro atolotra eo amin'ny vondrona GPU manokan'ny Shannon AI izy io, tsy misy sosona fandavana eo alohany ary tsy misy fanivanana ampiharina amin'izay averiny. Antsoinao amin'ny /v1/chat/completions, /v1/messages na /v1/responses izy miaraka amin'ny varavarankelin'ny context 262 144 token, ary mamaly ilay endpoint fa tsy manara-maso.
Inona no mampiavaka an'ity amin'ny API ofisialin'ny DeepSeek?
Firazanan-danja misokatra mitovy, mpandraharaha hafa sy politika hafa. Ny tolotra avy amin'ny DeepSeek mihitsy dia mora kokoa isaky ny token ary mampandeha ny fanaraha-masony manokana; ny fanadihadiana navoakan'ny Promptfoo sy ny vondrona akademika dia nanamarina fandavana sy famonoana ara-kevitra amin'ny prompt saro-pady ara-politika any. Ny Shannon AI kosa mampandeha ny lanja any Etazonia tsy misy sosona fandavana, mampiseho ny ezaka fisainana sy ny fiantsoana fitaovana amin'ny fitenim-paritra API telo, ary mametaka checkpoint misy daty mba tsy hiovaovan'ny output ambany aminao.
Inona ny dikan'ny 3BIT-REAP?
Dingana fanerena roa. Ny REAP dia Router-weighted Expert Activation Pruning, fomba avy amin'ny Cerebras Research izay manaisotra amin'ny modely Mixture-of-Experts ireo manam-pahaizana tsy dia voatondro matetika na voatondro malemy, ka tombanany ny manam-pahaizana tsirairay araka ny sandan'ny vavahadin'ny router sy ny norm-n'ny fanetsehana azy. Ny sisa tavela dia atao quantization amin'ny lanja 3-bit avy eo. Ireo miaraka no mahatonga ny fototra 1,6 tapitrisa arivo parametatra hiditra sy hijanona ho haingana eo amin'ny vondrona GPU anay manokana.
Ohatrinona ny varavarankelin'ny context sy ny output ambony indrindra?
262 144 token context ary hatramin'ny 16 384 token output isaky ny fangatahana. Izany dia manodidina ny 600 ka hatramin'ny 800 pejin-dahatsoratra miditra, ary antontan-taratasy teknika lava na patch lehibe misy rakitra maro mivoaka. Ny asa lava dia atao amin'ny fampifandimbiasana fangatahana, fa tsy amin'ny fampiakarana ny fetran'ny output.
Manohana fiantsoana fitaovana sy output JSON schema ve ny DeepSeek V4 Pro?
Eny ho an'izy roa. Fiantsoana fitaovana natoraly, output voarafitra json_schema hentitra, ary response_format dia samy tohanana, miaraka amin'ny streaming sy ny parametatra reasoning_effort. Tsy mandray sary miditra izy; raha mila fahitana amin'ny modely tsy voasivana ianao, dia ampiasao ny Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 na inkling.
Ohatrinona ny vidin'ny API DeepSeek tsy voasivana?
$1.95 isaky ny tapitrisa token miditra ary $3.90 isaky ny tapitrisa token mivoaka. Ao anatin'ny andiana tsy voasivana mitovy, ny DeepSeek-V4-Flash dia mitentina $0.50 miditra sy $2.00 mivoaka amin'ny context 262K mitovy, ary ny GLM-5.2 dia $0.73 miditra sy $2.34 mivoaka, ka ny V4-Pro no ambaratonga tadiavinao rehefa sarotra ny olana fa tsy rehefa lehibe fotsiny.
Antsoy tsy voasivana ny DeepSeek V4 Pro
Context 262K, ezaka fisainana, fiantsoana fitaovana. Fitenim-paritra OpenAI, Anthropic ary Responses amin'ny fanalahidy iray.
Vakio ny antontan-taratasin'ny API Ny karatra modely rehetraShannon Lab LLC · New Mexico, Etazonia · modely atolotra eo amin'ny vondrona GPU anay manokana
Loharano: DeepSeek-AI — karatra modely DeepSeek-V4-Pro · Tatitra teknika DeepSeek-V4 (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · Tatitra teknika DeepSeek-V3 · REAP the Experts (Cerebras Research) · Fanadihadian'ny Promptfoo momba ny sivana · Discovering Forbidden Topics in Language Models. Ny tarehimarika benchmark dia notaterin'ny DeepSeek-AI ho an'ny famoahana fanovozan-kevitra; mbola andrasana ny fanamarinana mahaleo tena avy amin'ny antoko fahatelo momba ny build voatery. Ny vidiny dia vidin'ny lisitry ny Shannon AI tamin'ny 5 Septambra 2026.