API ya DeepSeek e se nang Thibelo
Mixture-of-Experts ya DeepSeek ya di-parameter tse dikete tse 1.6 tsa dimilione e sebetsang ntle le lera la ho hana: context ya 262K, boiteko ba ho nahana ba tlhaho, ho bitsa disebediswa, le dipuo tse tharo tsa API sehlopheng sa rona sa di-GPU.
Kakaretso e Kgutshwane
DeepSeek-V4-Pro-0813-3BIT-REAP ke model e ka sehloohong ya ho nahana le ya khoutu lenaneng la Shannon AI le se nang thibelo. Motheo ke V4-Pro ya DeepSeek-AI ya di-weight tse bulehileng — di-parameter tse 1.6T kaofela, tse 49B tse sebetsang ka token, e nang le laesense ya MIT, e koetlisitsweng ka tlhaho bakeng sa context ya di-token tse milione. Re e sebedisa sehlopheng sa rona sa di-GPU ka di-weight tsa di-bit tse tharo hammoho le ho pomeng ha ditsebi ka REAP, ka fensetere ya di-token tse 262,144, tlhahiso e kgolo ka ho fetisisa ya di-token tse 16,384, ho phalla, ho bitsa disebediswa ha tlhaho, tlhahiso e tiileng ya json_schema, le heke ya reasoning_effort. $1.95 ka 1M ya kenyo, $3.90 ka 1M ya tlhahiso. Ha ho pono. Ha ho lera la ho hana, ha ho ho sefuwa ha tlhahiso.
Batho ba fihlang polelwaneng ya "API ya DeepSeek e se nang thibelo" ba batla ntho e le nngwe e itseng: model e nang le bokgoni ba DeepSeek ba ho nahana le ba ho ngola khoutu e arabang potso eo ba hlileng ba e botsitseng. Halofo ya bokgoni e ngotswe hantle — DeepSeek-AI e phatlaladitse moaho le dipalo, mme di-weight di ho Hugging Face tlasa MIT. Halofo ya bobedi ke qeto ya tshebetso, mme hangata e nkelwa wena. Leqephe lena le akaretsa ka bobedi: hore na motheo wa V4-Pro ke eng, hore na moaho wa rona wa 3BIT-REAP o etsang ho wona, le hantle hore na "e se nang thibelo" e bolelang ha re e bua.
01"API ya DeepSeek e se nang thibelo" hantle e bolelang
Mekgwa e mmedi e fapaneng e kenngwa tlasa lentswe le le leng. Wa pele ke tlhophiso e kentsweng ka hare ho di-weight — boitshwaro ba ho hana bo ithutilweng nakong ya koetliso ya morao. Wa bobedi ke lera la taolo ya dikahare le sebetsang ha model e sebediswa: sehlophisi se ikemetseng se hlahlobang prompt ya hao pele model e e bona le tlhahiso pele o e bona, mme se ka kgaola karabo bohareng ba polelo ho sa tsotellehe seo model e neng e batla ho se bua.
Ka bobedi di ka lekanngwa, mme tshebeletso ya DeepSeek ka bo yona e se e lekantswe. Promptfoo e bokelletse sehlopha sa di-prompt tse 1,360 tsa dipotso tse amang dipolotiki mme ya tlaleha hore R1 e sebetsang ho DeepSeek e ile ya hana kapa ya qoba tse 1,156 tsa tsona — hoo e ka bang 85%. Mosebetsi wa dithuto lelapeng le le leng o fumane mokgwa o ikgethileng wa ho hloleha oo bangodi ba o bitsang ho hatelluwa ha menahano, moo mohlala wa ho nahana wa model o emang hoo e batlang e le ha o qala hodima sehlooho se tebileng. Tlhahlobo e ikemetseng e phatlaladitsweng ho Information Sciences e tlalehile ho hatelluwa boemong ba moelelo: dikahare tse teng ho nahana ha ka hare ha model tse siuwang kapa tse ngolwang bocha ka setu pele di fihla ho mosebedisi. Boo ke bothata bo boholo ho feta ho hana ka ho toba, hobane karabo e kgaotsweng e shebahala e le karabo.
Seo re se sebedisang ke tokollo ya di-weight tse bulehileng, ho thepa eo re e tsamaisang, United States, tlasa Shannon Lab LLC. Ha ho lera la ho hana ka pele ho model ebile ha ho sefe se sebediswang ho se kgutlang: prompt ya hao ha e hlophiswe ho ya ka leano pele e sebediswa, ebile phallo ya tlhahiso ha e hlahlobjwe ha e tswa. Kaha motheo o na le laesense ya MIT ebile o phatlaladitswe, o ka bapisa ditlhahiso tsa rona le di-weight tsa mohlala ka bowena ho ena le ho amohela lentswe la rona.
02Motheo: DeepSeek-V4-Pro, MoE ya 1.6T
DeepSeek-V4 ke lelapa la hajwale la DeepSeek-AI la di-weight tse bulehileng, le ileng la bontshwa ka Mmesa 2026 mme la lokollwa tlasa MIT ka boholo bo bobedi: V4-Flash (284B kaofela, 13B tse sebetsang) le V4-Pro (1.6T kaofela, 49B tse sebetsang). Sengolwa sena se bua ka boemo ba Pro. Ka bobedi di koetlisitswe pele ka hoo e ka bang di-token tse dikete tse 33 tsa dimilione mme ka bobedi di tshehetsa ka tlhaho context ya di-token tse milione.
Tekanyo ya ho hasana ke yona ntho eo o lokelang ho e hlokomela: ke feela hoo e ka bang 3% ya di-parameter e sebetsang ho token e nngwe le e nngwe, e leng se etsang hore model e kgolo hakana e ka sebediswa le hanyane. Sehlopha sa MoE ka bosona e ntse e le DeepSeekMoE — ditsebi tse kgethilweng ka botebo hammoho le ditsebi tse arolelanwang tse dulang di sebetsa, tse hlahisitsweng ho V2 — ka diphetoho tse nyenyane feela tsa V4, haholo ho kgethwa ka hash maralleng a pele. Multi-Token Prediction, sepheo se tshehetsang sa V3 se boetseng se dumellang ho hlalosa ka menahano, se bolokilwe se sa fetoha.
Dikarolo tse ntjha ho V4 ke tsa moaho. Manifold-Constrained Hyper-Connections (mHC) di nkela sebaka sa tsela e tlwaelehileng ya residual ka mmatrikse ya motswako e ithutilweng e thibetsweng hodima manifold ya di-matrix tse doubly stochastic ka tshupiso ya Sinkhorn–Knopp — phallo ya residual e fetolang boima ho ya ka kenyo ntle le ho fapoha ha dipalo ho bolayang dikgoele tse tebileng haholo. Koetliso e ile ya tloha ho AdamW ya ya ho Muon bakeng sa dikarolo tse ngata, e sebedisa Newton–Schulz orthogonalization, ha AdamW e bolokilwe feela bakeng sa embeddings, dihlooho tsa ponelopele, ho lekanya le di-parameter tse sa fetoheng tsa mHC. Mme di-weight tsa ditsebi di koetliswa ka FP4 ha di-parameter tse ding tse ngata di le ho FP8 — di lokiseditswe ho fokotswa ho tloha qalong, e leng bohlokwa bakeng sa hore na model e amohela ho pitikwa ho eketsehileng ka bonolo hakae.
03Ho tloha MLA ho ya ho CSA + HCA: kamoo DeepSeek e bolokang context e telele e le theko e tlase
Mohala o tsamayang meloko e mene ya DeepSeek hase boholo, ke moruo wa tlhokomelo. Phetolelo e nngwe le e nngwe e hlasetse KV cache, e holang ka mola le context ebile e busa memori boleleleng bo bolelele.
- V2 e hlahisitse Multi-head Latent Attention (MLA) — ho pitikwa hammoho ho tlase ha di-key le di-value ho ba vector e patiloeng, kahoo tlhahiso e boloka vector eo hammoho le key ya RoPE e arohaneng ho ena le K le V tse feletseng ka hlooho ka nngwe. DeepSeek e tlalehile hore KV cache e theohile ho ba hoo e ka bang 4–14% ya tlhokomelo e tlwaelehileng ya dihlooho tse ngata, ha boleng bo bolokilwe kapa bo ntlafaditswe.
- V3 e ile ya hodisa seo ho fihla ho 671B, mme ya etsa hore MLA e be kgopolo ya kamehla ya context e telele e theko e tlase ho di-model tse bulehileng.
- V3.2 e ekelitse DeepSeek Sparse Attention (DSA), e kgethang karolo ya top-k ya nalane ka kopo ka nngwe ka sesupi se bobebe ho ena le ho tsotella tsohle.
- V4 e a kopanya. Compressed Sparse Attention (CSA) e qala ka ho pitika dikeno tsa KV tsa di-token tse m ka nngwe ho ba keno e le nngwe ka di-weight tse ithutilweng, ebe e sebedisa kgetho e hasaneng ya top-k hodima dikeno tseo tse pitikilweng. Heavily Compressed Attention (HCA) e pitika ka matla haholo empa e dula e le tebileng hodima sephetho. Mefuta ena e mmedi ya marallo e kopantswe ka hare ho kgoele, kahoo kakaretso e akaretsang ya theko e tlase le ho lata ha sebaka ho hlaka di dula mmoho.
Moputso o tlalehilweng ho context ya di-token tse milione o hlakile: V4-Pro e hloka hoo e ka bang 27% ya di-FLOP tsa ho nahana ka token le 10% ya KV cache tsa V3.2. Ke ka lebaka leo kopo ya 262K e itshwarang jwalo ka kopo e tlwaelehileng ho ena le ketsahalo ya memori, le hobaneng dipalo tsa ho lata context e telele di ema ho ena le ho putlama kamora di-token tse dikete tse mashome a seng makae.
04Seo 3BIT-REAP e se bolelang
Id ya rona ya katalogo e qetella ka 3BIT-REAP, mme seo se hlalosa mehato e mmedi e ikemetseng ya ho pitikwa e sebedisitsweng ka tatellano.
REAP: ho pomeng ha ditsebi, e seng ho di kopanya
REAP ke Router-weighted Expert Activation Pruning, e tswang ho Cerebras Research — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", e amohetsweng ho ICLR 2026. Ho MoE e hasaneng router ha e sebedise ditsebi tsa yona ka ho lekana: mohatla o molelele o kgethwa ka seoelo, ka bofokodi, kapa ka bobedi. REAP e beha setsebi se seng le se seng maemong ka ho kopanya boleng ba heke ya router (hore na se kgethwa hangata hakae mme ka matla a makae) le maemo a ho sebetsa a setsebi (hore na tlhahiso ya sona e kenya letsoho hakae), ebe e hlakola tse hlolehileng ka ho toba.
Tseko ya pampiri ke hore ho poma ho hlolla ho kopanya: ho kopanya ho tlosa ka karolelano boiphapanyo bo etsang hore MoE e be bohlokwa, ha ho hlakola ditsebi tseo router e batlang e sa di fihlele ho bo boloka. Ho pholletsa le di-model ho tloha ho 20B ho isa ho 1T, REAP e hlotse ho kopanya le mekgwa e meng ya ho poma ditekanyetsong tsa tlhahiso, mme bangodi ba tlaleha diphetho tse batlang di se na tahlehelo tlhahisong ya khoutu le ho bitseng ha disebediswa ha ditsebi tse 50% di pomilwe ho Qwen3-Coder-480B le Kimi-K2 — e leng hantle mofuta wa mosebetsi oo model ena e leng mona ka lebaka la wona.
Di-weight tsa di-bit tse tharo: boemo ba ho pitikwa bakeng sa metheo e meholo ka ho fetisisa
Se salang se ntan'o fokotswa ho ba di-weight tsa di-bit tse tharo. Di-bit tse tharo ke matla, mme ha re iketse eka ho jwalo: ho pholletsa le lenane re sebedisa W8A16 moo motheo o leng monyenyane ho lekana hoo o sa hlokeng ho pitikwa, W4A16-AUTOROUND-REAP bohareng, mme 3BIT-REAP feela hodima metheo e meholo ka ho fetisisa, moo e leng phapang pakeng tsa ho sebedisa model le ho se e sebedise.
Ntho eo re e latlhang e lokela ho boleluwa ka ho hlaka: MoE ya 1.6T ya di-bit tse tharo ha e tshwane ka bit le tokollo ya mohlala, mme tahlehelo e nyenyane ya boleng e teng e le kannete. Seo o se fumanang ke motheo oo sekgahla sa wona se sa pitikwang se leng hodimo haholo ho feta ntho efe kapa efe e lekanang ka phutholoho ka botebo bo phahameng — mme kaha ditsebi tsa V4 di ne di koetlisitswe ka FP4 ho tloha qalong, model e itshwara hantle ka mokgwa o sa tlwaelehang tlasa ho pitikwa ho eketsehileng ha di-weight. Haeba o batla moaho wa DeepSeek o nang le letsoho le bobebe botebong, DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP e sebedisa di-weight tsa di-bit tse nne le ho sebetsa ha di-bit tse 16 le ho potoloha ho ithutilweng ha AutoRound, hodima context e tshwanang ya 262K ka $0.50 kenyo / $2.00 tlhahiso.
05Ho nahana, le heke ya reasoning_effort
Koetliso ya morao ya V4 e koetlisa ditsebi tsa mafapha ka thoko — dipalo, ho ngola khoutu, di-agent, ho latela ditaelo — ka SFT e latelwang ke GRPO, mokgwa wa Group Relative Policy Optimization oo DeepSeek e o hlahisitseng ka R1. Ditsebi tseo di ntan'o kopanngwa ho ba model e le nngwe ka ho fetisa tsebo ka har'a leano ka sepheo sa reverse-KL, kahoo checkpoint e le nngwe e jara boitshwaro ba boemo ba setsebi mafapheng a mmalwa ka nako e le nngwe ho ena le ho ba setsebi sa tsohle se seng se sa kgone letho.
Model e lokollotsweng e pepesa mekgwa ya ho nahana e nang le maemo ho ena le sekgetho sa dintho tse pedi. Ho gateway ya rona seo ke parameter e tlwaelehileng ya reasoning_effort, heke e sebetsang ka ho fetisisa ho model ena:
- E tlase — ho araba ka ho batla ho toba: ho hlophisa, ho ntsha tlhahisoleseding, ho ngola bocha, ntho efe kapa efe moo o lefellang tsebo ya model ho ena le ho nahanisisa ha yona.
- E bohareng — mokgwa wa kamehla wa ho sebetsa bakeng sa ho hlahloba khoutu, ho fumana diphoso le tlhahlobo ya mehato e mengata.
- E phahameng — ho nahanisisa nako e telele pele ho arabuwa. Ke moo mathata a thata a rarollwang teng, le moo tefello ya hao ya di-token tsa tlhahiso e leng teng, kaha di-token tsa ho nahana di lefiswa e le tlhahiso.
Kaha ho se na lera la ho hana, mohlala wa ho nahana ha o kgaolwe dihloohong tse tebileng — mokgwa wa ho hatelluwa ha menahano o tlalehilweng tshebeletsong ya semmuso ha o na mokgwa wa ho etsahala mona.
06Khoutu le mosebetsi wa di-agent: seo motheo o se fumanang
Tsena ke dipalo tsa DeepSeek-AI tseo e di phatlaladitseng bakeng sa tokollo ya V4-Pro — e seng tsa rona, ebile ha di a lekanngwa hodima moaho wa rona o fokotsitsweng. Re di bontsha hobane ke lona lebaka le tshepahalang la ho kgetha motheo ona, mme re di tshwaya e le tsa lehlakoreng la pele hore o kgone ho di beha maemong a nepahetseng.
Tse pedi di hloka tlhaloso. SWE-bench Verified ho 80.6% ke ho rarolla mathata a di-repo tsa sebele — ho bala khoutu eo o sa e tsebeng, ho fumana phoso, le ho hlahisa sekgwahla se fetang diteko tsa projeke ka bo yona. MRCR ho di-token tse milione (83.5) ke ho lata ha coreference ka mekgahlelo e mengata bolelele bo felletseng, palo e o bolellang hore tseko ya context e telele hase mokgabiso. DeepSeek e boetse e tlaleha maemo a Codeforces a 3206 bakeng sa model ena, le 62.0 ho CorpusQA ka context ya 1M.
Dipalo tse ka hodimo di tlalehilwe ke DeepSeek-AI bakeng sa tokollo ya mohlala ya DeepSeek-V4-Pro. Moaho wa rona wa 3BIT-REAP ke phetolelo e pitikilweng ya di-weight tseo mme ha o a lekanngwa ka boikemelo mesebetsing ena; nka dipalo tsa mohlala e le sekgahla sa motheo, e seng tekanyo ya sebaka sena.
07Context ya 262K: se hlileng se lekanang
Model ya mohlala e koetlisitswe bakeng sa di-token tse milione. Re sebedisa tse 262,144 — fensetere eo model e nngwe le e nngwe ho gateway e e arolelanang, kahoo ho fetola model ke phetoho ya mola o le mong mme ha se ke se be ho theoha ha context. Tshebetsong, 262K e fetile sebaka seo context e tlamang teng mesebetsing e mengata ya sebele:
| Mosebetsi | Di-token tse ka bang | Na di lekana ho 262K? |
|---|---|---|
| Repo ya tshebeletso e bohareng (~mela e 50k) | ~600K | Tjhe — kgetha dikarolo |
| Karolo e le nngwe le diteko tsa yona | ~60–120K | E, ka phutholoho |
| Sehlopha se felletseng sa di-RFC tsa protocol | ~150K | E |
| Buka ya boenjiniere ya maqephe a 700 | ~250K | E, haufi le moedi |
| Ho matha ha agent nako e telele, mekgahlelo e 40+ ya disebediswa | ~80–200K | E |
Moedi oo o lokelang ho o rerela ke tlhahiso: di-token tse 16,384 ka karabo. Eo ke tokomane e telele kapa sekgwahla se seholo sa difaele tse ngata, empa e seng khoutu yohle. Mesebetsi e meholo ya tlhahiso e etswa ka ho hokahanya dikopo ka tlhahiso ya pele e kgutliseditswe ho context — e leng seo fensetere ya 262K e se etsang theko e tlase — ho ena le ho kopa phetho e le nngwe e kgolo haholo.
08Theko, le moo V4-Pro e emeng teng lenaneng
Ka $1.95 kenyo / $3.90 tlhahiso ka di-token tse milione, V4-Pro ke boemo bo ka sehloohong ba ho nahana — model eo o e kgethang ha bothata bo le thata. Ha bo le boholo feela, di-model tse theko e tlase hodima fensetere e tshwanang ya 262K di tla bo etsa ka kotara ya theko.
| Model e se nang thibelo | Kenyo / 1M | Tlhahiso / 1M | Pono | E lokela |
|---|---|---|---|---|
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Tjhe | Ho nahana ho thata, khoutu, di-agent |
| DeepSeek-V4-Flash · W4A16 | $0.50 | $2.00 | Tjhe | Leloko le tshwanang, palo e kgolo |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Tjhe | Sesebediswa se akaretsang sa letsatsi le letsatsi |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | E | Di-agent tsa mefuta e mengata tsa boemo bo hodimo |
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | E | Pono e theko e tlase ka ho fetisisa |
Ha re bue ka ho toba ka papiso eo batho ba tla e etsa e le kannete: API ya DeepSeek ka bo yona e theko e tlase ho feta ena — V4-Pro ya lehlakoreng la pele e thathamisitswe hoo e ka bang $0.435 kenyo / $0.87 tlhahiso, mme theko ya bona ya kenyo ya cache-hit e tlase le ho feta. Haeba theko ka token e le yona feela ntho eo o e shebang mme boitshwaro ba taolo ya dikahare bo sa ame mosebetsi wa hao, sebedisa API ya lehlakoreng la pele; re ka rata ho o bolella seo ho ena le hore o tle o tsebe hamorao. Theko e phahameng e reka dintho tse fapaneng: ha ho lera la ho hana ebile ha ho sefe sa tlhahiso, mosebedisi wa Amerika tlasa Shannon Lab LLC, checkpoint e tiisitsweng e nang le letsatsi (0813) hore ntlafatso e sa boleluweng ya ka hodimo e se ke ya fetola ditlhahiso tsa hao hara projeke, dipuo tse tharo tsa API kgahlanong le model e le nngwe, le fensetere e tshwanang ya 262K le di-parameter tse tshwanang ho di-model tsohle tse leshome le metso e mmedi tsa lenane.
09Ho e bitsa: dipuo tse tharo, model e le nngwe
Model e nngwe le e nngwe ho gateway e araba dibakeng tsohle tse tharo, ka ho phalla ho se seng le se seng. Ha o amohele SDK e ntjha — o fetola base URL le id ya model.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
"reasoning_effort": "high",
"stream": true,
"messages": [
{"role": "system", "content": "You are a systems programmer. Be direct."},
{"role": "user", "content": "Audit this parser for memory-safety bugs."}
]
}'/v1/chat/completions— puo ya OpenAI; e sebetsa le di-SDK tsa OpenAI le ntho efe kapa efe e ahilweng hodima tsona./v1/messages— puo ya Anthropic, bakeng sa di-codebase tse seng di ngotswe ho latela sebopeho seo./v1/responses— sebopeho sa mokgwa wa Responses.
Di tshehetswa ho model ena: ho phalla, ho bitsa disebediswa ha tlhaho, tlhahiso e hlophisitsweng e tiileng ya json_schema, response_format, le reasoning_effort. Tshupiso e felletseng ya di-parameter le sebaka sa ho leka se phelang di ditokomaneng tsa API.
10Meedi e tshepahalang
Dintho tse nne tseo o lokelang ho di tseba pele o aha hodima yona:
- Ha ho pono. Ke ya mongolo feela; e ke ke ya amohela kenyo ya setshwantsho sebakeng sefe kapa sefe. Haeba o hloka model e se nang thibelo e bonang, sebedisa Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 kapa inkling.
- Moedi wa tlhahiso wa di-token tse 16,384. Di-token tsa ho nahana di baleletswa ho wona ha boiteko bo phahame, kahoo ho nahanisisa ha nako e telele ho siya sebaka se senyenyane bakeng sa karabo. Hokahanya dikopo bakeng sa mesebetsi e meholo ya tlhahiso.
- Di-bit tse tharo ke ho pitikwa ha sebele. Dipalo tsa mohlala di hlalosa motheo, e seng moaho ona. Bakeng sa boemo ba botshepehi bo hodimo ka ho fetisisa, di-model tsa
W8A16(MiMo-V2.5-Pro, MiMo-V2.5, Hy3) di na le ho fokotswa ho fokolang ka ho fetisisa. - Ho se be le thibelo ha ho a lokolloha diphellong. Ho hloka lera la ho hana ho bolela hore boikarabelo ba seo o se botsang, le seo o se etsang ka karabo, bo dula le wena — tlasa dipehelo tsa rona tsa tshebeletso le molao wa moo o sebetsang teng.
Tseko e nngwe le e nngwe ya moaho le palo e nngwe le e nngwe ya tekanyetso leqepheng lena di tswa mohloding wa mantlha wa sechaba. Di bale ka bowena.
11Dipotso tse botswang hangata
API ya DeepSeek e se nang thibelo ke eng?
Ke model ya DeepSeek-V4-Pro ya di-weight tse bulehileng e sebetsang sehlopheng sa Shannon AI sa di-GPU ntle le lera la ho hana ka pele ho yona ebile ho se na ho sefuwa ha se e se kgutlisang. O e bitsa ho /v1/chat/completions, /v1/messages kapa /v1/responses ka fensetere ya context ya di-token tse 262,144, mme sebaka seo se a araba ho ena le ho laola dikahare.
Sena se fapane jwang le API ya semmuso ya DeepSeek?
Leloko le tshwanang la di-weight tse bulehileng, mosebedisi o fapaneng le leano le fapaneng. Tshebeletso ya DeepSeek ka bo yona e theko e tlase ka token mme e na le taolo ya yona ya dikahare; ditlhahlobo tse phatlaladitsweng tsa Promptfoo le tsa dihlopha tsa dithuto di tlalehile ho hana le ho hatella moelelo ho di-prompt tse amang dipolotiki moo. Shannon AI e sebedisa di-weight tsena United States ntle le lera la ho hana, e pepesa boiteko ba ho nahana le ho bitsa disebediswa dipuong tse tharo tsa API, mme e tiisa checkpoint e nang le letsatsi hore ditlhahiso di se ke tsa fetoha ka tlasa hao.
3BIT-REAP e bolelang?
Mehato e mmedi ya ho pitikwa. REAP ke Router-weighted Expert Activation Pruning, mokgwa wa Cerebras Research o lahlang ditsebi tse kgethwang ka seoelo le ka bofokodi ho model ya Mixture-of-Experts, o beha setsebi se seng le se seng maemong ho ya ka boleng ba heke ya router le maemo a ho sebetsa. Se salang se ntan'o fokotswa ho ba di-weight tsa di-bit tse tharo. Hammoho di etsa hore motheo wa di-parameter tse dikete tse 1.6 tsa dimilione o lekane mme o dule o le potlako sehlopheng sa rona sa di-GPU.
Fensetere ya context le tlhahiso e kgolo ka ho fetisisa di boholo bo bokae?
Di-token tse 262,144 tsa context le ho fihla ho di-token tse 16,384 tsa tlhahiso ka kopo. Seo ke hoo e ka bang maqephe a 600 ho isa ho a 800 a mongolo a kenang, le tokomane e telele ya boenjiniere kapa sekgwahla se seholo sa difaele tse ngata se tswang. Mesebetsi e metelele e etswa ka ho hokahanya dikopo, e seng ka ho phahamisa moedi wa tlhahiso.
Na DeepSeek V4 Pro e tshehetsa ho bitsa disebediswa le tlhahiso ya JSON schema?
E ho ka bobedi. Ho bitsa disebediswa ha tlhaho, tlhahiso e hlophisitsweng ya json_schema e tiileng, le response_format tsohle di a tshehetswa, hammoho le ho phalla le parameter ya reasoning_effort. Ha e amohele kenyo ya setshwantsho; haeba o hloka pono ho model e se nang thibelo, sebedisa Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 kapa inkling sebakeng sa yona.
API ya DeepSeek e se nang thibelo e bitsa bokae?
$1.95 ka di-token tse milione tsa kenyo le $3.90 ka di-token tse milione tsa tlhahiso. Ka hare ho lenane le le leng le se nang thibelo, DeepSeek-V4-Flash e bitsa $0.50 kenyong le $2.00 tlhahisong bakeng sa context e tshwanang ya 262K, mme GLM-5.2 e bitsa $0.73 kenyong le $2.34 tlhahisong, kahoo V4-Pro ke boemo boo o bo kgethang ha bothata bo le thata ho ena le ha bo le boholo.
Bitsa DeepSeek V4 Pro ntle le thibelo
Context ya 262K, boiteko ba ho nahana, ho bitsa disebediswa. Dipuo tsa OpenAI, Anthropic le Responses ka senotlolo se le seng.
Bala Ditokomane tsa API Dikarete tsohle tsa di-ModelShannon Lab LLC · New Mexico, USA · di-model di sebetsa sehlopheng sa rona sa di-GPU
Mehlodi: DeepSeek-AI — karete ya model ya DeepSeek-V4-Pro · Tlaleho ya boenjiniere ya DeepSeek-V4 (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · Tlaleho ya boenjiniere ya DeepSeek-V3 · REAP the Experts (Cerebras Research) · Tlhahlobo ya thibelo ya Promptfoo · Discovering Forbidden Topics in Language Models. Dipalo tsa ditekanyetso di tlalehilwe ke DeepSeek-AI bakeng sa tokollo ya mohlala; netefatso e ikemetseng ya motho wa boraro ya moaho o pitikilweng e ntse e emetswe. Ditheko ke ditheko tsa lenane tsa Shannon AI ho tloha ka la 5 Loetse 2026.