API ya DeepSeek Flash e se nang Thibelo

Dihlopha tse ngata tse hlahlobang API ya LLM di ntlafatsa palo e fosahetseng. Di lekanya ka di-prompt tse thata tse mashome a mabedi tseo di ka di nahanang, di kgetha mohlodi, ebe di fumana dibeke tse tsheletseng hamorao hore diperesente tse mashome a robong a metso e mehlano tsa mosebetsi wa tsona ke mosebetsi o mokgutshwane, o hlophisitsweng, o pheta-phetwang oo model e bitsang kotara ya theko e neng e tla o etsa ka tsela e tshwanang. DeepSeek-V4-Flash e teng bakeng sa diperesente tseo tse mashome a robong a metso e mehlano. Leqephe lena le mabapi le ho tseba hore na o ka hare ho tsona — le hore na ha o eo.

01Seo o hlileng o se fumanang

Semelo	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Id ya model	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Context / tlhahiso e phahameng	Di-token tse 262,144 / di-token tse 16,384
Theko ka 1M (kenyo / tlhahiso)	$0.50 / $2.00
Ho phalla · ho bitsa disebediswa · ho nahana	E — dipuong tsohle tse tharo
Tlhahiso e hlophisitsweng	json_schema le response_format
Kenyo ya setshwantsho (pono)	Tjhe — mongolo feela
Lera la ho hana / sefe sa tlhahiso	Ha le yo
E sebetsa ho	Sehlopha sa Shannon sa di-GPU

Dipuo tse tharo tsa API di fihla ho di-weight tse tshwanang: /v1/chat/completions (sebopeho sa OpenAI), /v1/messages (sebopeho sa Anthropic), le /v1/responses. Ho phalla ho sebetsa ho tsohle tse tharo. Tshupiso e felletseng ya di-parameter e ditokomaneng tsa API.

02Moo e tswang teng: leloko la DeepSeek

DeepSeek-AI e qetile meloko e mehlano ya di-model ka takatso e le nngwe: ho fumana boitshwaro ba boemo bo hodimo ho tswa ho model eo ho theko e tlase ho e sebedisa, e seng feela eo ho theko e tlase ho e koetlisa. Hoo e batlang e le qeto e nngwe le e nngwe ya moaho leloko lena e kgutlela moo, mme tsa bohlokwa di phatlaladitswe. Tse tharo di hlalosa seo o se bitsang ha o fihla sebakeng sena.

DeepSeekMoE — ditsebi tse kgethilweng ka botebo hammoho le e le nngwe e arolelanwang

Lerallo la Mixture-of-Experts le nkela sebaka sa marang-rang a le mang a maholo a feed-forward ka a mangata a manyenyane le router e kgethang a seng makae ho token e nngwe le e nngwe. Mofuta wa DeepSeek o arola ditsebi ka botebo bo fetang sebopeho se tlwaelehileng sa ditsebi tse robedi, kahoo di-FLOP tse tshwanang tse sebetsang di reka motswako o kgethehileng haholo ka ho kopanya, mme o arola setsebi se arolelanwang seo token e nngwe le e nngwe e fetang ho sona, kahoo tsebo e tlwaelehileng ha e ithutwe hape ka ho pheta-phetwa ka har'a setsebi se seng le se seng. DeepSeek-V3 e ile ya romela seo e le ditsebi tse 256 tse kgethuwang hammoho le setsebi se le seng se arolelanwang, ka ho sebetsa ha tse 8 tse kgethuwang ka token — di-parameter tse 671B kaofela, tse 37B tse sebetsang — hammoho le ho lekanya mojaro ntle le tahlehelo e tshehetsang: ho ena le lentswe la kotlo le fokotsang boleng, leeme la setsebi ka seng le sutumetsa dintlha tsa ho kgetha hodimo kapa tlase mohatong o mong le o mong ha setsebi seo se sebetsa ka tlase kapa ka hodima tekano.

MLA — tlhokomelo e lekanang memoring

Halofo e nngwe ya bothata ba theko ya ho fana ka tshebeletso ke KV cache, e holang ka mola le context mme e busa memori boleleleng bo bolelele ba tatellano. Multi-head Latent Attention, e hlahisitsweng ho DeepSeek-V2, e pitika di-key le di-value hammoho ho ba vector e patiloeng ya boemo bo tlase mme e boloka eo, e aha K/V e sebetsang hape hang-hang. Dipalo tsa V2 tse phatlaladitsweng ke DeepSeek, kgahlanong le DeepSeek 67B ya bona e tiileng ya pele, di tlaleha ho fokotseha ha 93.3% ha KV cache le bongata ba tlhahiso bo phahameng ka makgetlo a 5.76. Ke ka lebaka leo fensetere ya di-token tse 262K e leng ntho e tlwaelehileng lelapeng lena ho ena le ho ba tlatsetso ya theko e phahameng.

Tlhokomelo e hasaneng — le mohlala wa di-token tsa theko e tlase

V3.2-Exp e ile ya eketsa DeepSeek Sparse Attention: sesupi se bobebe se beha di-token tsa context maemong kgahlanong le potso, mme sekgethi se boloka feela tse nang le dintlha tse phahameng. Karolo e kgahlisang ke bopaki, e seng mokgwa. DeepSeek e phatlaladitse papiso e lekaneng kgahlanong le V3.1-Terminus ka MMLU-Pro e tshwanang ho 85.0, AIME 2025 e nyolohile (88.4 → 89.3), SWE-bench Verified e theohile hanyenyane (68.4 → 67.8) — boleng bo batlang bo lekana — mme ya fokotsa ditheko tsa API ya bona ka ho feta 50% ka letsatsi le le leng. Moaho, o tlalehilwe ka nnete, o fetoha theko ka ho toba. Flash ke tseko eo e nkilweng mohato o le mong ho ya pele.

Moloko wa V4

V4, e bontshitsweng ka Mmesa 2026 tlasa laesense ya MIT, e nkela sebaka sa mokoloko wa tlhokomelo hape ka motswako wa Compressed Sparse Attention le Heavily Compressed Attention, e koetlisa ka mohlophisi wa Muon hodima di-token tse fetang 32T, mme e boloka sepheo sa V3 sa ho bolela di-token tse ngata — se boetseng se sebetsa e le speculative decoding, mme seo DeepSeek e se lekantseng ka sekgahla sa ho amohela ha token ya bobedi sa 85–90% bakeng sa ho potlakisa ha decoding ha makgetlo a ka bang 1.8 ho V3. Kakaretso ya V4 e tlaleha V4-Pro e matha ka 27% ya di-FLOP tsa V3.2 tsa ho sebetsa ha token e le nngwe le 10% ya KV cache ya yona. Lelapa le pepesa maemo a mararo a boiteko ba ho nahana, e leng seo parameter ya rona ya reasoning_effort e supang ho sona.

Mehlodi: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Tlaleho ya Boenjiniere ya DeepSeek-V3 (arXiv 2412.19437) · Karete ya model ya DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Dipalo tsohle di tlalehilwe ke DeepSeek.

03Seo "Flash" e hlileng e se bolelang

Ke ntlha eo dipapiso tse ngata di e fosang, kahoo e lokela ho boleluwa ka ho hlaka: Flash ya DeepSeek hase Pro e pitikilweng, e pomilweng kapa e ntshitsweng. Ke model ya Mixture-of-Experts e koetlisitsweng ka thoko, e nyenyane, e nang le koetliso ya yona ya pele. Pampiri ya ponahatso ya V4 e fana ka boholo bo bobedi:

Dipalo di tswa pampiring ya ponahatso ya DeepSeek-V4. Di-checkpoint tsa semmuso tseo re di sebedisang — V4-Flash-0731 le V4-Pro-0813 — di thathamisa dipalo tse kgolwanyane tsa 304B le 1.7T dikareteng tsa tsona tsa di-model; DeepSeek ha e boele e bolele di-parameter tse sebetsang bakeng sa meaho eo.

Dipalo tse pedi di etsa mosebetsi mona. Di-parameter tsohle di beha sebaka sa memori, se etsang qeto ya hore na kopi ya model e nka thepa e kae. Di-parameter tse sebetsang di beha dipalo ka token, tse etsang qeto ya bongata ba tshebetso. Flash e nyenyane ka hoo e ka bang makgetlo a 5.6 ho ya pele mme e nyenyane ka makgetlo a 3.8 ho ya bobedi — mme ho na le ntho e nyenyane e lokelang ho hlokomelwa sekgeong seo: Flash e sebedisa tse 13 ho tse dikete tse 284 tsa dimilione tsa di-parameter, hoo e ka bang 4.6%, ha Pro e sebedisa tse 49 ho tse dikete tse 1,600 tsa dimilione, hoo e ka bang 3.1%. Flash ke model e sa hasaneng haholo. Hase feela Pro e nang le ditsebi tse fokolang tse bulehileng; ke moralo o teteaneng, o lekantsweng ka tsela e fapaneng, o sebedisang karolo e kgolwanyane ya bona ho token e nngwe le e nngwe eo o e hlahisang. Eo ke kgetho ya sebele ya boenjiniere, e seng ho theoswa.

Seo dipalo tsa DeepSeek ka bo yona di se bolelang

Dikarete tsa semmuso tsa di-model ka bobedi di phatlalatsa dintlha ditekanyetsong tse tshwanang tsa di-agent le tsa boenjiniere ba software, e leng se etsang hore ena e be papiso e hlwekileng ka mokgwa o sa tlwaelehang — laboratori e le nngwe, sesebediswa se le seng sa tlhahlobo, boholo bo bobedi:

Tekanyetso (e tlalehilwe ke DeepSeek)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro e hlola mola o mong le o mong. Ke sehlooho se tshepahalang, mme re ka rata hore o se bale mona ho ena le hore o se fumane tshebetsong. Empa bala sekgeo, hobane ke sona seo o hlileng o se rekang. Ho Terminal Bench 2.1 sekgeo ke dintlha tse 5.2 ho model e nang le karolo ya bomashome a mabedi a metso e mehlano ya di-parameter; ho ho sebediseng ha disebediswa ke dintlha tse 3.8. Sekgeo se hola moo mosebetsi o tebang haholo — dintlha tse 8.3 ho DeepSWE, tse 7.3 ho NL2Repo, tse putsang ka bobedi ho nahana ha khoutu ha mehato e mengata ho tswelang pele. Ke sebopeho sa phapanyetsano tafoleng e le nngwe: Flash e kwala boholo ba sebaka mesebetsing e nang le meedi mme e lahleheloa ke sebaka ho e sa fediseng.

Karete ya Flash ya DeepSeek ka bo yona e hatisa ntlha eo ka matla le ho feta: Flash-0731 e feta ponahatso ya V4-Pro ditekanyetsong tse thathamisitsweng le ha palo ya yona ya di-parameter tse sebetsang e le nyenyane haholo. Model e nyenyane e ntjha e hlolang e kgolo ya kgale ke boemo bo tlwaelehileng lefapheng lena, mme ke lona lebaka la hore "boemo bo boholo" bo se ke ba eba karabo ya hao ya kamehla.

04Ho bala moqetelo: W4A16-AUTOROUND-REAP

Di-id tsa rona tsa di-model di bolela leano la tsona la ho pitikwa ka ho hlaka, hobane ke yona ntho e amang boleng ba tlhahiso ho fetisisa mme hoo e batlang e le mang ha a e phatlalatse. Ona o arohana ka ditseko tse tharo.

W4A16 — di-weight tsa di-bit tse 4, ho sebetsa ha di-bit tse 16

Di-weight di bolokwa ka di-bit tse 4 ka nngwe; ho sebetsa ho phalla ka nepo ya di-bit tse 16. Sena ke ho pitikwa ha di-weight feela, mme ho lebisitswe tshitisong ya sebele tlhahisong ya di-token, e leng bophara ba memori ho ena le dipalo. Ho pitika le ho sebetsa ho ne ho tla reka lebelo le lenyenyane le ho beha kotsing lefika le leholo haholo la nepo; ho ho siya ho di-bit tse 16 ke kgetho e hlokolosi, ya botshepehi bo phahameng. Tshwao ke kgutsufatso ya lefapha la ho fana ka tshebeletso — dingolwa tsa ho pitikwa di ngola ntho e tshwanang e le W4 le boholo ba sehlopha.

AUTOROUND — ho potoloha ho ithutilweng, e seng ho potolohela ho ho haufi

Ho pitikwa ho tlwaelehileng ho potolohela weight e nngwe le e nngwe ho boleng bo haufi bo ka emelwang. Seo ha se ntlafetseng ka ho bonahalang: ho potoloha weight e le nngwe ka tsela e "fosahetseng" ho ka hlakola phoso e tlisitsweng ke baahisani ba yona, mme ka di-weight tse dikete tse dimilione ditshebedisano tseo di busa. AutoRound, e tswang ho Intel, e nka qeto ya ho potoloha ka boyona e le ntho eo ho ithutwang ka yona — phetoho e ka koetliswang ka weight e nngwe le e nngwe e thibetsweng ho ±0.5, e lekaneng hantle ho fetola qeto efe kapa efe e le nngwe ya ho potoloha empa ha e fete moo, hammoho le mefuta ya ho poma e ka ithutwang, e ntlafaditsweng ka signed gradient descent kgahlanong le sepheo sa ho aha bocha tlhahiso ka block ka nngwe hodima sehlopha se senyenyane sa ho lekanya. Mehato e makgolo a mabedi, ebe ho felile.

Dipapiso tse phatlaladitsweng tsa Intel di na le AutoRound e hlola GPTQ maemong a 30 ho a 32 a lekilweng, AWQ a 27 ho a 32 le OmniQuant a 29 ho a 32 ditlhophisong tsa di-weight feela tsa di-bit tse 4, ka dintlha tsa nepo tse fetang tsa ho potolohela ho ho haufi ka 6.9 ho isa ho 33.2 ho di-bit tse pedi. Ha ho letho ho tsona le bitsang tjhelete nakong ya ho sebetsa: ke kgetho e ntle ya dipalo, e entsweng hang, kantle ho marang-rang.

REAP — ho lahla ditsebi tseo ho seng ho keteha ho tsona

REAP (Router-weighted Expert Activation Pruning), e tswang ho Cerebras Systems le University of Calgary, ke ho pitikwa ka mohato o le mong bakeng sa di-model tsa MoE. E beha setsebi se seng le se seng maemong ka hore na router e keteha ho sona ka matla a makae le hangata hakae, ho atisitsweng ka boholo ba tlhahiso ya setsebi seo, ebe e hlakola ditsebi tse hlolehileng ka ho toba — ntle le ho koetlisa hape ka mora moo.

Ntho e ka sehloohong e fumanweng ke pampiri ke e molemo: ditekanyong tse phahameng tsa ho pitikwa, ho poma ditsebi ho hlolla ho di kopanya. Ho kopanya ditsebi tse fapaneng ka tshebetso ho baka seo bangodi ba se bitsang ho putlama ha sebaka sa tshebetso — router e lahlehelwa ke taolo e nepahetseng, e itshetlehileng ka kenyo e neng e etsa hore MoE e be bohlokwa, mme e sala e tsamaisa pakeng tsa dikarolelano tse sa fetoheng. Dipalo tsa bona ho pholletsa le di-model ho tloha ho 20B ho isa ho 1T: ho pitikweng ha ditsebi ha 25% mesebetsing ya khoutu, REAP e lahlehelwa ke 2.8% ya nepo e ka karolelano moo mekgwa ya ho kopanya e lahlehelwang ke ho feta 5%; ho 50%, REAP e lahlehelwa ke 8.0% moo ho kopanya ho lahlehelwang ke ho feta 20%. Ho Qwen3-Coder-480B ka ho poma ha 50% ho theoha ke 1.4%, kgahlanong le 39.3% bakeng sa ho poma ho tlwaelehileng ho ipapisitseng le hangata. Cerebras e phatlaladitse di-checkpoint tsa REAP bakeng sa leloko la DeepSeek har'a tse ding.

Hobaneng di-bit tse 4 mona le di-bit tse tharo ho Pro

Maemo ka bobedi a tlameha ho lekana le ho dula a le potlako hodima mofuta o tshwanang wa thepa. Pro e jere di-parameter tse trilione le halofo, kahoo e hloka kalafo e matla ya di-bit tse tharo hore e lekane le hanyane. Flash e jere hoo e ka bang dikete tse 300 tsa dimilione, kahoo ha e e hloke — mme bit eo e e bolokang e sebediswa botshepehing ho ena le ho lekana.

Bit eo e eketsehileng e bohlokwa ho feta kamoo dipalo tsa yona di bontshang, hobane tshenyo ya ho pitikwa ha e ye ka mola. Ditekanyong tsa WikiText-2 tsa pampiri ya AWQ, Llama-2-7B e tloha ho perplexity ya 5.47 ho FP16 ho ya ho 5.60 ho di-bit tse 4 — kotlo ya 2.4% — empa e ya ho 6.24 ho di-bit tse tharo, kotlo ya 14%. Seo ke hoo e ka bang makgetlo a tsheletseng a ho theoha bakeng sa ho pitikwa ho ho eketsehileng ka 25%, mme mokgwa o tshwanang o teng ho 70B. Pampiri ya GPTQ e hlaka le ho feta: ho di-bit tse tharo, ho potolohela ho ho haufi ho tlwaelehileng ho a putlama ho di-model tsa boemo ba 175B, ho ya dikete tsa perplexity, ha ho ntse ho sebetsa hantle ka ho phethahetseng ho di-bit tse 4. Ka tlase ho di-bit tse nne, algorithm e ntle ya ho pitika e ema ho ba mokgabiso mme e fetoha ntho e le nngwe feela e tshwereng model.

Kahoo ho bala ho tshepahalang ha meqetelo ena e mmedi ke: Flash e haufi le boemo ba yona bo sa pitikwang ho feta kamoo Pro e haufi le ba yona. Pro e ntse e le model e matla — tafole ya ditekanyetso e ka hodimo e rarolla seo. E lahlile ho hongata feela ho fihla mona, mme o lefella tokelo eo.

Mehlodi: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Dipalo tsa perplexity di tswa ho AWQ (arXiv 2306.00978) le GPTQ (arXiv 2210.17323).

05Flash kgahlanong le Pro sebakeng

Karolo ya 03 e akaretsa metheo. Bona kamoo maemo a mabedi a shebahalang kateng e le dihlahiswa ho gateway ya rona:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Ho pitikwa	W4A16-AUTOROUND-REAP	3BIT-REAP
Nepo ya di-weight	Di-bit tse 4, ho potoloha ho ithutilweng	Di-bit tse tharo
Motheo (kaofela / tse sebetsang)	~304B / 13B	~1.7T / 49B
Kenyo ka di-token tse 1M	$0.50	$1.95
Tlhahiso ka di-token tse 1M	$2.00	$3.90
Context / tlhahiso e phahameng	262,144 / 16,384	262,144 / 16,384
Disebediswa · tlhahiso e hlophisitsweng · ho phalla	E	E
Pono	Tjhe	Tjhe
Lera la ho hana	Ha le yo	Ha le yo

Hlokomela se sa fetoheng: context, moedi wa tlhahiso, ho bitsa disebediswa, tlhahiso e hlophisitsweng, le ho hloka lera la ho hana di a tshwana. Dintho tse fetohang feela ke motheo, ho pitikwa, le theko. Seo se etsa hore ho fetola pakeng tsa tsona e be phetoho ya mohala o le mong khoutung ya hao mme e be qeto ya moruo feela moahong wa hao.

Seo pitso e le nngwe ya boholo bo phahameng e se bitsang

Tlatsa context yohle ya di-token tse 262,144 mme o nke tlhahiso e felletseng ya di-token tse 16,384:

Ka theko ya lenane. Flash: $0.131 kenyo + $0.033 tlhahiso. Pro: $0.511 + $0.064. Tekanyo 3.51×. Flash e boetse e arolelana moedi wa $0.50 / $2.00 le MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro le Hy3 — sheba lenane le felletseng ho bona hore na tseo di fapana jwang ponong le tlhahisong e hlophisitsweng.

06Dipalo tsa palo e kgolo, di sebeditswe

"Theko e tlase ka makgetlo a 3.9" ke nnete kenyong feela. Tlhahisong Flash e theko e tlase ka makgetlo a 1.95. Kahoo poloko ya hao ya sebele e itshetlehile ka tekanyo ya hao ya kenyo ho ya tlhahisong, mme sekgeo se sephara ho lekana ho fetola diqeto tsa moralo. Mesebetsi e mene ya sebele, e nngwe le e nngwe ka dikopo tse 100,000:

Mosebetsi	Kenyo / tlhahiso ka pitso	Flash	Pro	Poloko
Ho hlophisa ditekete	1,200 / 120	$84	$281	3.3×
Ho araba dipotso ka RAG	8,000 / 600	$520	$1,794	3.4×
Kakaretso ya tokomane e telele	60,000 / 1,500	$3,300	$12,285	3.7×
Ho hlahisa data ya maiketsetso	500 / 2,000	$425	$878	2.1×

Mokgwa: ha o sutumetsa context e ngata mme o hlahisa mongolo o monyenyane, Flash e o bolokela ho eketsehileng. Mekoloko ya ho lata, ho hlahloba ditokomane, tlhahlobo ya di-log le ya dingolwa, le ho ntsha ha context e telele ke sebaka se setle — di busiwa ke kenyo ka boemo ba leshome, mme kenyo ke moo phokotso ya makgetlo a 3.9 e leng teng. Haeba mosebetsi wa hao e le prompt e kgutshwane e hlahisang di-token tsa dikete tsa mongolo, sekgeo se theoha ho hoo e ka bang makgetlo a mabedi mme tseko ya bokgoni ya Pro e ba matla ka ho lekanang.

Karolo e nngwe ya dipalo e lokelang ho ngolwa hlooheng: ka $0.50 ka di-token tse milione tsa kenyo, fensetere yohle ya di-token tse 262,144 e bitsa disente tse 13.1 ho e tlatsa. Ho sebedisa prompt ya context e telele ho ema ho ba potso ya tekanyetso ka theko eo, e leng se ka nako tse ding se bolelang hore o ka tlola ho aha lera la ho lata ka ho feletseng mme wa lesa fensetere ya context e etse mosebetsi — poloko ya boenjiniere hodima poloko ya di-token.

07Seo "e se nang thibelo" e se bolelang mona, ka nepo

Lentswe le sebediswa ka bongatanyana, kahoo tlhaloso ya rona ke ena, e boletsweng e le semelo sa sebaka: ha ho sehlophisi sa ho hana ka pele ho model ebile ha ho sefe sa dikahare se sebedisitsweng tlhahisong ya yona. Ha ho letho le tshwarang prompt mme le kgutlisa kgano e lokiseditsweng; ha ho letho le hlahlobang karabo mme le e siya. Bakeng sa mosebetsi wa tshebetso wa palo e kgolo diphello ha di makatse mme di na le thuso ho feta kamoo lentswe le bontshang:

• Ha ho dipalo tse fosahetseng mosebetsing o se nang kotsi. Dibaka tse sefuwang ka mokgwa o tlwaelehileng di hana dikakaretso tsa bongaka, ditlaleho tsa tshireletso, ho fumana ha molao, dipale tsa boiqapelo, dintho tsa ho fokotsa kotsi le mosebetsi wa taolo ya dikahare ka boyona — ke mefuta hantle moo mosebetsi wa sehlopha o sebetsang mongolo o buang ka sehlooho se tebileng ho ena le ho hlahisa ntho e nngwe e kotsi. Ho dikopo tse dikete tse lekgolo, sekgahla sa kgano e fosahetseng sa peresente e le nngwe ke mela e sekete e senyehileng.
• Dikonteraka tse tsitsitseng. Kopa karabo ya json_schema mme o fumana JSON e tsamaellanang le schema, e seng serapa sa boitshwarelo moo ho lokelang ho ba le ntho. Sehlalosi sa hao ha se hloke lekala la kgano, mme mokgwa wa hao wa ho leka hape ha o hloke ho tseba phapang pakeng tsa ho hloleha ha ho romela le ho hloleha ha leano.
• Leano ke la hao. Eo ke phapanyetsano. Haeba sehlahiswa sa hao se hloka diteho bakeng sa basebedisi ba hao, o di aha lerallong la hao, moo o tsebang basebedisi ba hao le naha ya hao, ho ena le ho amohela dikhakanyo tsa mofani ka bobedi. Akhaonto ya hao e dula e busiwa ke Leano la rona la Tshebediso e Nang le Boikarabelo.

"E se nang thibelo" ha e tshwane le e sa lokisetswang kapa e sa thuseng. Model e ntse e latela ditaelo mme e ntse e hlompha prompt ya sistimi. Haeba o batla hore e hane mefuta e itseng bakeng sa basebedisi ba hao, e bolele moo — taelo eo jwale ke ya hao ho e ngola ho ena le hore e be ya rona ho e qobella.

08Bokgoni le meedi e tshepahalang

Bokgoni bo bobedi bo jara boima bo bongata mosebetsing wa palo e kgolo. Tlhahiso e tiileng ya json_schema e fetola karabo ho ba mola wa database ntle le lera la ho hlalosa le ntle le lekala la kgano. Ho bitsa disebediswa dipuong tsohle tse tharo ho etsa hore Flash e be enjini e utlwahalang bakeng sa mehato e menyenyane e theko e tlase ya agent eo moreri wa yona wa boemo bo hodimo o mathang ho model e matla. Eketsa reasoning_effort, e o dumellang ho sebedisa di-token tse eketsehileng feela karolong ya mosebetsi e di hlokang, le context ya di-token tse 262,144 e tshwanang le ya Pro — ha o lahle context ka ho kgetha boemo bo theko e tlase, e leng ntho e sa tlwaelehang.

Meedi le yona e hlakile ka ho lekanang:

• Ha ho pono. Flash ke ya mongolo feela mme e tla hana dikarolo tsa ditshwantsho molaetseng. Bakeng sa ditshwantsho ho model e se nang thibelo moeding o tshwanang wa $0.50 / $2.00, MiniMax-M3 le MiMo-V2.5 ke dikgetho tse bonang; Kimi-K2.6 le Kimi-K3 ke di-model tse matla haholo tse bonang ka hodima boemo boo.
• E seng hodimo ha lere. Dipalo tsa DeepSeek ka bo yona di beha Pro ka pele tekanyetsong e nngwe le e nngwe e phatlaladitsweng ya di-agent, ka sekgeo se sephara ka ho fetisisa ho ho nahaneng ha khoutu ha mehato e mengata ho tswelang pele. Moo karabo e le nngwe e fosahetseng e bitsang ho feta tse sekete tsa theko e tlase, sebedisa $1.45 e eketsehileng ka milione ho DeepSeek-V4-Pro.
• Di-token tsa tlhahiso tse 16,384 ka kopo. Ditlhahiso tse telele di tlameha ho arolwa dipitsong. Ona ke moedi o tshwanang ho model e nngwe le e nngwe eo re fanang ka yona, mme o tlama pele fensetere ya context e etsa jwalo.

09Ho e bitsa

Supa client efe kapa efe e tsamaellanang le OpenAI ho gateway mme o fetole mohala wa model. Ha ho letho le leng mokolokong wa hao le lokelang ho fetoha.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Id e tshwanang ya model e sebetsa e sa fetoha ho /v1/messages le /v1/responses, e leng tsela e potlakileng ka ho fetisisa ya ho leka model e theko e tlase ka tlase ho kopano e teng ntle le ho ngola client ya hao bocha. Di-parameter, dibopeho tsa diketsahalo tsa ho phalla, di-schema tsa ho bitsa disebediswa le meedi ya sekgahla di ngotswe tshupisong ya API; model e nngwe le e nngwe lenaneng e thathamisitswe ho Dipatlisiso tsa Shannon.

10Dipotso tse botswang hangata

---

Mehlodi: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Tlaleho ya Boenjiniere ya DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · Dikarete tsa di-model tsa DeepSeek-V4-Flash-0731 le DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Dipalo tsohle tsa motheo le tsa ditekanyetso ke jwalokaha di phatlaladitswe ke bangodi ba tsona; ditheko tsa Shannon AI le context e fanwang ke ditekanyo tsa rona tsa lenane ho tloha ka Loetse 2026.