API DeepSeek Flash Enweghị Mmachi

Ọtụtụ ndị otu na-enyocha API LLM na-akwalite ihe na-ekwesịghị ekwesị. Ha na-anwale prompt iri abụọ kacha sie ike ha nwere ike iche, họrọ onye meriri, wee chọpụta izu isii ka e mesịrị na pasent iri itoolu na ise nke okporo ụzọ ha bụ ọrụ dị mkpirikpi, nke ahaziri ahazi, nke a na-emeghachi emeghachi nke ụdị na-efu otu ụzọ anọ nke ọnụ ahịa ahụ gaara emeso otu ụzọ ahụ. DeepSeek-V4-Flash dị maka pasent iri itoolu na ise ahụ. Ibe a bụ maka ịmata mgbe ị nọ n'ime ya — na mgbe ị na-anọghị.

01Ihe ị na-enweta n'ezie

Njirimara	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Id ụdị	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Ọnọdụ / mmepụta kacha elu	Token 262,144 / token 16,384
Ọnụ ahịa kwa 1M (nnata / mgbasa)	$0.50 / $2.00
Streaming · ịkpọ ngwá ọrụ · echiche	Ee — olumba atọ ahụ niile
Mmepụta ahaziri ahazi	json_schema na response_format
Ntinye onyonyo (ọhụụ)	Mba — naanị ederede
Akwa njụ / nzacha mmepụta	Ọ dịghị
Ebe a na-agba ya	Ụyọkọ GPU nke Shannon

Olumba API atọ na-erute otu arọ ahụ: /v1/chat/completions (ụdị OpenAI), /v1/messages (ụdị Anthropic), na /v1/responses. Streaming na-arụ ọrụ na ha atọ. Ntụaka paramita zuru oke dị n'akwụkwọ API.

02Ebe o si bịa: usoro DeepSeek

DeepSeek-AI etinyela ọgbọ ụdị ise n'otu ihe: inweta omume ihu ọhịa site n'ụdị nke dị ọnụ ala ije ozi, ọ bụghị naanị nke dị ọnụ ala ịzụ. Ihe fọrọ nke nta ka ọ bụrụ mkpebi nhazi ọ bụla n'usoro ahụ na-alọghachi na nke ahụ, e bipụtakwara ndị dị mkpa. Atọ na-akọwa ihe ị na-akpọ mgbe ị kụrụ endpoint a.

DeepSeekMoE — ọkachamara dị nkọ tinyere otu nke a na-ekekọrịta

Akwa Mixture-of-Experts na-eji ọtụtụ netwọk feed-forward pere mpe na router nke na-ahọrọ ole na ole kwa token dochie otu nnukwu netwọk. Ụdị DeepSeek na-ebipụ ọkachamara nkọ karịa nhazi ọkachamara asatọ nkịtị, ka otu FLOPs a kpaliri wee zụta ngwakọta nke doro anya karịa n'ụzọ combinatorial, ọ na-ekewapụtakwa otu ọkachamara a na-ekekọrịta nke token ọ bụla na-agafe, ka a ghara ịmụgharị ihe ọmụma nkịtị ugboro ugboro n'ime onye ọkachamara ọ bụla. DeepSeek-V3 bufere nke ahụ dị ka ọkachamara 256 a na-eduzi tinyere 1 a na-ekekọrịta, na-akpali 8 a na-eduzi kwa token — paramita 671B zuru oke, 37B na-arụ ọrụ — tinyere nhazi ibu enweghị mfu inyeaka: kama iji okwu ntaramahụhụ nke na-emebi àgwà, mkpezi kwa ọkachamara na-akwalite ma ọ bụ wedata akara ntụzịaka kwa nzọụkwụ ka ọkachamara ahụ na-agba n'okpuru ma ọ bụ n'elu ibu ya.

MLA — nlebara anya nke dabara n'ebe nchekwa

Ọkara nke ọzọ nke nsogbu ọnụ ahịa ije ozi bụ cache KV, nke na-eto n'usoro na ọnọdụ ma na-achị ebe nchekwa n'ogologo usoro. Multi-head Latent Attention, nke e webatara na DeepSeek-V2, na-apịkọta igodo na uru ọnụ n'ime vector zoro ezo nke dị ala ma na-echekwa nke ahụ, na-ewughachi K/V a pụrụ iji mee ihe n'oge ahụ. Ọnụọgụ V2 nke DeepSeek bipụtara, megide DeepSeek 67B dị njupụta nke ha buru ụzọ mepụta, na-akọ mbelata 93.3% na cache KV na uko mmepụta kacha elu dị elu okpukpu 5.76. Nke ahụ bụ ihe kpatara windo token 262K ji bụrụ ihe nkịtị n'ezinụlọ a kama ịbụ mgbakwunye dị oke ọnụ.

Nlebara anya dị fere fere — na ihe ngosi maka token dị ọnụ ala

V3.2-Exp gbakwunyere DeepSeek Sparse Attention: indexer dị fere fere na-enye token ọnọdụ akara megide ajụjụ ahụ, onye nhọrọ na-ejigidekwa naanị ndị kacha nweta akara. Akụkụ na-adọrọ mmasị bụ akwụkwọ nnata ahụ, ọ bụghị usoro ahụ. DeepSeek bipụtara ntụnyere megide V3.1-Terminus ebe MMLU-Pro hà nhata na 85.0, AIME 2025 rịgoro (88.4 → 89.3), SWE-bench Verified dara ntakịrị (68.4 → 67.8) — àgwà dị larịị n'ezie — ha wedakwara ọnụ ahịa API ha karịa 50% n'otu ụbọchị ahụ. Nhazi, nke a kọrọ n'eziokwu, na-atụgharị ozugbo ghọọ ọnụ ahịa. Flash bụ arụmụka ahụ nke a kwaliri otu nzọụkwụ.

Ọgbọ V4

V4, nke e gosipụtara n'Eprel 2026 n'okpuru ikike MIT, jiri ngwakọta nke Compressed Sparse Attention na Heavily Compressed Attention dochie ngwakọta nlebara anya ahụ ọzọ, na-azụ ya na optimizer Muon n'ihe karịrị token 32T, ma na-ejigide ebumnuche amụma ọtụtụ token nke V3 — nke na-arụkwa ọrụ dị ka speculative decoding, nke DeepSeek tụrụ na ọnụego nnabata token nke abụọ nke 85–90% maka nkenke decoding dị ihe dị ka okpukpu 1.8 na V3. Nchịkọta V4 na-akọ na V4-Pro na-agba na 27% nke FLOPs nkwubi okwu otu token nke V3.2 na 10% nke cache KV ya. Ezinụlọ ahụ na-egosipụta ọkwa mgbalị echiche atọ, nke bụ ihe paramita reasoning_effort anyị na-atụba na ya.

Isi mmalite: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Akụkọ nka na ụzụ DeepSeek-V3 (arXiv 2412.19437) · Kaadị ụdị DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Ọnụọgụ niile bụ nke DeepSeek kọrọ.

03Ihe "Flash" pụtara n'ezie

Nke a bụ ebe ọtụtụ ntụnyere na-ehie ụzọ, ya mere ọ bara uru ikwu ya n'ụzọ doro anya: Flash nke DeepSeek abụghị Pro nke a mere quantize, nke a kpụchara ma ọ bụ nke e si na ya mepụta. Ọ bụ ụdị Mixture-of-Experts dị obere nke a zụrụ iche nke nwere ọzụzụ mbụ nke aka ya. Akwụkwọ ngosi V4 na-enye nha abụọ ahụ:

Ọnụọgụ sitere n'akwụkwọ ngosi DeepSeek-V4. Checkpoint gọọmentị anyị na-agba — V4-Flash-0731 na V4-Pro-0813 — na-edepụta mkpokọta ka ukwuu ntakịrị nke 304B na 1.7T na kaadị ụdị ha; DeepSeek anaghị ekwughachi paramita a kpaliri maka ụdị ndị ahụ.

Ọnụọgụ abụọ na-arụ ọrụ ebe a. Paramita zuru oke na-edobe ebe nchekwa ọ na-eji, nke na-ekpebi ole ngwá ọrụ otu ụdị ahụ na-ewere. Paramita a kpaliri na-edobe mgbako kwa token, nke na-ekpebi uko. Flash dị obere ihe dị ka okpukpu 5.6 na nke mbụ na okpukpu 3.8 na nke abụọ — e nwekwara ihe dị nro bara uru ịhụ n'oghere ahụ: Flash na-akpali 13 n'ime ijeri 284 nke paramita, ihe dị ka 4.6%, ebe Pro na-akpali 49 n'ime ijeri 1,600, ihe dị ka 3.1%. Flash bụ ụdị nke na-adịghị fere fere. Ọ bụghị nnọọ Pro nke gbanyụrụ ọkachamara ole na ole; ọ bụ atụmatụ dị njupụta karịa, nke e kwụbara n'ụzọ dị iche nke na-etinye oke ka ukwuu nke onwe ya na token ọ bụla ọ na-emepụta. Nke ahụ bụ ezigbo nhọrọ nka na ụzụ, ọ bụghị mbelata.

Ihe ọnụọgụ DeepSeek nke aka ha na-ekwu

Kaadị ụdị gọọmentị abụọ ahụ na-ebipụta akara n'otu benchmark agent na injinia sọftụwia ahụ, nke na-eme ka nke a bụrụ ntụnyere dị ọcha pụrụ iche — otu ụlọ nyocha ahụ, otu harness nyocha ahụ, nha abụọ:

Benchmark (nke DeepSeek kọrọ)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro na-emeri ahịrị ọ bụla. Nke ahụ bụ isiokwu ziri ezi, ọ ga-akara anyị mma ka ị gụọ ya ebe a kama ịchọpụta ya na mmepụta. Mana gụọ oghere ndị ahụ, n'ihi na ha bụ ihe ị na-azụ n'ezie. Na Terminal Bench 2.1 oghere ahụ bụ isi 5.2 n'ụdị nwere otu ụzọ iri abụọ na ise nke paramita; n'ọrụ ngwá ọrụ ọ bụ isi 3.8. Oghere ahụ na-asawanye ebe ọrụ ahụ dị omimi karịa — isi 8.3 na DeepSWE, 7.3 na NL2Repo, nke ha abụọ na-akwụ ụgwọ maka echiche koodu nke ọtụtụ nzọụkwụ nke na-adịgide. Nke ahụ bụ ọdịdị nke mgbanwe ahụ n'otu tebụl: Flash na-emechi ihe ka ukwuu nke oghere ahụ n'ọrụ nwere oke ma na-atụfu ala n'ọrụ enweghị oke.

Kaadị Flash nke DeepSeek na-emesi isi ahụ ike karịa: Flash-0731 na-akarị ngosi V4-Pro na benchmark ndị e depụtara n'agbanyeghị ọnụ ọgụgụ paramita a kpaliri nke dị nta karịa. Obere ụdị ọhụrụ na-emeri nnukwu ụdị ochie bụ ọnọdụ nkịtị n'ọhịa a, ọ bụkwa ya mere "ọkwa buru ibu karịa" na-ekwesịghị ịbụ azịza ndabere gị.

04Ịgụ njedebe ahụ: W4A16-AUTOROUND-REAP

Id ụdị anyị na-ekwupụta atụmatụ mkpakọ ha n'olu dara ụda, n'ihi na ọ bụ ihe kacha emetụta àgwà mmepụta, ọ fọrọkwa nke nta ka ọ bụrụ na ọ dịghị onye na-ekwupụta ya. Nke a na-ekewa n'ime nkwupụta atọ.

W4A16 — arọ 4-bit, mmalite 16-bit

A na-echekwa arọ na bit 4 kwa otu; mmalite na-agafe na izi ezi 16-bit. Nke a bụ quantization arọ naanị, ọ na-echekwa ezigbo ihe mgbochi dị na mmepụta token, nke bụ bandwidth ebe nchekwa kama mgbako. Ime quantize mmalite kwa ga-azụta ntakịrị nkenke ọzọ ma tinye ihe ize ndụ nke ugwu izi ezi buru ibu karịa; ịhapụ ha na bit 16 bụ nhọrọ nke kpachara anya, nke nwere nkwenye dị elu. Ndepụta ahụ bụ mkpirisi nke gburugburu ije ozi — akwụkwọ quantization na-ede otu ihe ahụ dị ka W4 nwere nha otu.

AUTOROUND — nchịkọta a mụtara, ọ bụghị nchịkọta kacha nso

Quantization nkịtị na-achịkọta arọ ọ bụla ruo uru kacha ya nso a pụrụ igosipụta. Nke ahụ abụghị kacha mma n'ụzọ a pụrụ igosi: ịchịkọta otu arọ n'ụzọ "na-ezighị ezi" nwere ike ikpochapụ njehie ndị agbata obi ya webatara, na ijeri arọ mmekọrịta ndị ahụ na-achị. AutoRound, sitere na Intel, na-ewere mkpebi nchịkọta ahụ n'onwe ya dị ka ihe a ga-amụta — mgbanwe kwa arọ a pụrụ ịzụ nke a machibidoro na ±0.5, nke zuru ezu ịtụgharị mkpebi nchịkọta ọ bụla ma ọ dịghị karịa, tinyere oke mbelata a pụrụ ịmụta, nke a kwaliri site na signed gradient descent megide ebumnuche mwughachi mmepụta nke akwa n'akwa n'ofe obere nchịkọta nhazi. Nzọụkwụ narị abụọ, o zuola.

Ntụnyere Intel bipụtara nwere AutoRound na-emeri GPTQ n'ọnọdụ 30 n'ime 32 a nwalere, AWQ n'ime 27 n'ime 32 na OmniQuant n'ime 29 n'ime 32 na ntọala arọ-naanị 4-bit, nwere uru karịrị nchịkọta nkịtị nke isi izi ezi 6.9 ruo 33.2 na bit 2. Ọ dịghị nke ọ bụla n'ime ya na-efu ihe ọ bụla n'oge nkwubi okwu: ọ bụ nhọrọ ọnụọgụ ka mma, nke e mere otu ugboro, na-anọghị n'ịntanetị.

REAP — ihichapụ ọkachamara ọ dịghị onye na-eduga na ha

REAP (Router-weighted Expert Activation Pruning), sitere na Cerebras Systems na Mahadum Calgary, bụ mkpakọ otu ugboro maka ụdị MoE. Ọ na-enye ọkachamara ọ bụla akara site n'ike na ugboro ole router si eduga na ya, nke a mụbara site n'ịdị ukwuu nke mmepụta ọkachamara ahụ, wee hichapụ ọkachamara ndị dara ada kpamkpam — ọ dịghị ọzụzụ ọzọ mgbe ahụ gasịrị.

Ihe bụ isi akwụkwọ ahụ chọpụtara bụ nke bara uru: n'ọnụọgụ mkpakọ dị elu, ịkpụcha ọkachamara ka ijikọta ha mma. Ijikọta ọkachamara ndị dị iche n'ọrụ na-akpata ihe ndị odee na-akpọ ọdịda subspace ọrụ — router ahụ na-atụfu njikwa dị nkọ, nke dabere na ntinye nke mere ka MoE ahụ baa uru e wuru ya, a na-ahapụkwa ya ka ọ na-eduzi n'etiti nkezi na-agbanweghị agbanwe. Ọnụọgụ ha n'ofe ụdị site na 20B ruo 1T: na mkpakọ ọkachamara nke 25% n'ọrụ idekọ koodu, REAP na-atụfu 2.8% nke nkezi izi ezi ebe ndabere ijikọta na-atụfu ihe karịrị 5%; na 50%, REAP na-atụfu 8.0% ebe ijikọta na-atụfu ihe karịrị 20%. Na Qwen3-Coder-480B na nkpụcha 50% ọdịda ahụ bụ 1.4%, megide 39.3% maka nkpụcha nkịtị dabere na ugboro. Cerebras ebipụtala checkpoint REAP maka usoro DeepSeek n'etiti ndị ọzọ.

Ihe mere ọ ji bụrụ 4-bit ebe a na 3-bit na Pro

Ọkwa abụọ ahụ ga-adaba ma nọgide na-adị ọsọ n'otu ụdị ngwá ọrụ ahụ. Pro na-ebu paramita trilion 1.7, ya mere ọ chọrọ ọgwụgwọ 3-bit siri ike karịa ka ọ wee daba ma ọlị. Flash na-ebu ihe dị ka ijeri 300, ya mere ọ chọghị ya — a na-etinyekwa bit ọ zọpụtara na nkwenye kama na idaba.

Bit ọzọ ahụ dị mkpa karịa ka mgbako ya na-egosi, n'ihi na mmebi quantization abụghị nke linear. N'ihe ndị e tụrụ na WikiText-2 nke akwụkwọ AWQ, Llama-2-7B si na perplexity 5.47 na FP16 gaa 5.60 na 4-bit — ntaramahụhụ nke 2.4% — mana gaa 6.24 na 3-bit, ntaramahụhụ nke 14%. Nke ahụ bụ ihe dị ka okpukpu isii nke mbelata ahụ maka mkpakọ karịrị 25%, otu usoro ahụ na-adịkwa na 70B. Akwụkwọ GPTQ dị nkọ karịa: na bit atọ, nchịkọta nkịtị na-ada n'ụdị ọkwa 175B, na-abanye na puku perplexity, ebe ọ na-adịgide n'ụzọ a pụrụ iji mee ihe nke ọma na bit anọ. N'okpuru bit anọ, ezigbo algọridim quantization na-akwụsị ịbụ ihe ọma ma ghọọ naanị ihe na-ejide ụdị ahụ ọnụ.

Ya mere ọgụgụ ziri ezi nke njedebe abụọ ndị a bụ: Flash dị nso karịa n'onwe ya nke a na-apịkọtaghị karịa ka Pro dị nso n'onwe ya. Pro ka bụ ụdị siri ike karịa — tebụl benchmark dị n'elu na-edozi nke ahụ. Naanị na ọ hapụrụ ihe karịrị iji rute ebe a, ị na-akwụkwa ụgwọ maka ohere ahụ.

Isi mmalite: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Ọnụọgụ perplexity sitere na AWQ (arXiv 2306.00978) na GPTQ (arXiv 2210.17323).

05Flash megide Pro na endpoint ahụ

Nkebi 03 kpuchiri ntọala ndị ahụ. Nke a bụ otu ọkwa abụọ ahụ si dị ka ngwaahịa na gateway anyị:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Quantization	W4A16-AUTOROUND-REAP	3BIT-REAP
Izi ezi arọ	4-bit, nchịkọta a mụtara	3-bit
Ntọala (zuru oke / na-arụ ọrụ)	~304B / 13B	~1.7T / 49B
Nnata kwa token 1M	$0.50	$1.95
Mgbasa kwa token 1M	$2.00	$3.90
Ọnọdụ / mmepụta kacha elu	262,144 / 16,384	262,144 / 16,384
Ngwá ọrụ · mmepụta ahaziri ahazi · streaming	Ee	Ee
Ọhụụ	Mba	Mba
Akwa njụ	Ọ dịghị	Ọ dịghị

Mara ihe na-adịghị agbanwe: ọnọdụ, oke mmepụta, ịkpọ ngwá ọrụ, mmepụta ahaziri ahazi, na enweghị akwa njụ bụ otu ihe ahụ. Naanị ihe na-agbanwe bụ ntọala, quantization, na ọnụ ahịa. Nke ahụ na-eme ka ịgbanwe n'etiti ha bụrụ mgbanwe otu eriri na koodu gị na mkpebi akụnụba zuru oke na nhazi gị.

Ihe otu ọkpụkpọ kacha ibu na-efu

Juputa ọnọdụ token 262,144 dum ma were mmepụta token 16,384 zuru oke:

N'ọnụ ahịa ndepụta. Flash: $0.131 nnata + $0.033 mgbasa. Pro: $0.511 + $0.064. Oke okpukpu 3.51. Flash na-ekekọritakwa ala $0.50 / $2.00 na MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro na Hy3 — lee katalọgụ zuru oke maka otu ndị ahụ si dị iche n'ọhụụ na mmepụta ahaziri ahazi.

06Mgbakọ ọtụtụ, nke e rụrụ

"Ọnụ ala okpukpu 3.9" bụ eziokwu naanị na nnata. Na mgbasa Flash dị ọnụ ala okpukpu 1.95. Ezigbo ego ị na-echekwa dabere ya mere na oke nnata-na-mgbasa gị, mgbasa ahụ sarakwa mbara nke na ọ na-agbanwe mkpebi atụmatụ. Ọrụ anọ dị ka o si dị, nke ọ bụla na arịrịọ 100,000:

Ọrụ	Nnata / mgbasa kwa ọkpụkpọ	Flash	Pro	Ihe echekwara
Ikewa tiketi	1,200 / 120	$84	$281	3.3×
Ịza ajụjụ RAG	8,000 / 600	$520	$1,794	3.4×
Nchịkọta ogologo akwụkwọ	60,000 / 1,500	$3,300	$12,285	3.7×
Imepụta data sịntetik	500 / 2,000	$425	$878	2.1×

Usoro ahụ: ka ọnọdụ ị na-akwaga si dị ukwuu na ka ederede ị na-emepụta si dị nta, ka Flash na-echekwara gị karịa. Usoro nchọta, ikewa akwụkwọ, nyocha ndekọ na ndegharị okwu, na mmịpụta ogologo ọnọdụ bụ ebe kacha mma — ha na-adabere na nnata n'ọkwa dị ukwuu, nnata bụkwa ebe mbelata okpukpu 3.9 ahụ dị. Ọ bụrụ na kama nke ahụ, ọrụ gị bụ obere prompt na-emepụta puku token nke ederede, oghere ahụ na-adị warara ruo ihe dị ka okpukpu 2, arụmụka ikike maka Pro na-esikwa ike karịa.

Otu mgbako ọzọ bara uru ịmata: na $0.50 kwa miliyọn token nnata, windo token 262,144 dum na-efu cent 13.1 ijuputa. Ịnye prompt nke ogologo ọnọdụ na-akwụsị ịbụ ajụjụ mmefu n'ọnụ ahịa ahụ, nke pụtara mgbe ụfọdụ na ị nwere ike ịgafe iwu akwa nchọta ma hapụ windo ọnọdụ ahụ ka ọ rụọ ọrụ ahụ — ihe echekwara na nka na ụzụ n'elu ihe echekwara na token.

07Ihe "enweghị mmachi" pụtara ebe a, kpọmkwem

A na-eji okwu ahụ eme ihe n'ụzọ na-adịghị nkọ, ya mere nke a bụ nkọwa anyị, nke e kwuru dị ka njirimara nke endpoint ahụ: ọ dịghị nkewa njụ n'ihu ụdị ahụ, ọ dịghịkwa nzacha ọdịnaya e tinyere na mmepụta ya. Ọ dịghị ihe na-egbochi prompt ma weghachi njụ e deburu ede; ọ dịghị ihe na-enyocha mmecha ahụ ma hichapụ ya. Maka ọrụ mmepụta nke nnukwu ọnụ ọgụgụ, nsonaazụ ya adịghị egwu ma baa uru karịa ka okwu ahụ na-egosi:

• Ọ dịghị nkwenye ụgha n'okporo ụzọ dị mma. Endpoint e nyochara na-ajụkarị nchịkọta ahụike, ihe edere gbasara nchekwa, nchọpụta iwu, akụkọ ifo, ihe mbelata mmerụ na ọrụ nhazi ọdịnaya n'onwe ya — kpọmkwem ụdị ebe ọrụ ụyọkọ na-ahazi ederede gbasara isiokwu nwere mmetụta kama imepụta ihe ọjọọ ọ bụla. N'arịrịọ puku narị, ọnụego njụ ụgha nke otu pasent bụ ahịrị puku gbajiri agbaji.
• Nkwekọrịta a maara ihe ọ ga-eme. Rịọ maka nzaghachi json_schema ị ga-enweta JSON dabara na schema ahụ, ọ bụghị paragraf mgbaghara ebe ihe kwesịrị ịdị. Parser gị achọghị alaka njụ, mgbagha nnwale ọzọ gị achọghịkwa ikewa ọdịda njem na nke amụma.
• Ị nwere amụma ahụ. Nke ahụ bụ mgbanwe ahụ. Ọ bụrụ na ngwaahịa gị chọrọ ihe mgbochi maka ndị ọrụ gị, ị na-ewu ha n'akwa gị, ebe ị maara ndị ọrụ gị na mpaghara iwu gị, kama ịnata nkọ onye na-enye ọrụ banyere ha abụọ. Amụma Ojiji Kwesịrị Ekwesị anyị ka na-achịkwa akaụntụ gị.

Enweghị mmachi abụghị otu ihe na enweghị nkwụba ma ọ bụ enweghị enyemaka. Ụdị ahụ ka na-eso ntụziaka ma na-asọpụrụ prompt sistemụ. Ọ bụrụ na ịchọrọ ka ọ jụ ụdị ụfọdụ maka ndị ọrụ gị, kwuo ya n'ebe ahụ — ntụziaka ahụ bụ ugbu a nke gị ide kama nke anyị imanye.

08Ikike na oke ziri ezi

Ikike abụọ na-ebu ihe ka ukwuu nke ibu maka ọrụ ọtụtụ. Mmepụta json_schema siri ike na-atụgharị mmecha ka ọ bụrụ ahịrị nchekwa data n'enweghị akwa nkewa na n'enweghị alaka njụ. Ịkpọ ngwá ọrụ n'olumba atọ ahụ niile na-eme Flash ka ọ bụrụ engine bara uche maka nzọụkwụ ntakịrị dị ọnụ ala nke agent nke onye nhazi ọkwa elu ya na-agba n'ụdị siri ike karịa. Tinye reasoning_effort, nke na-ekwe ka i mefuo token ọzọ naanị n'akụkụ nke okporo ụzọ ahụ chọrọ ha, na ọnọdụ token 262,144 nke hà nhata na nke Pro — ị naghị enyefe ọnọdụ site n'ịhọrọ ọkwa dị ọnụ ala, nke bụ ihe a na-adịghị ahụkebe.

Oke ndị ahụ dokwara anya otu ahụ:

• Ọ dịghị ọhụụ. Flash bụ naanị ederede, ọ ga-ajụkwa akụkụ onyonyo n'ozi. Maka onyonyo n'ụdị enweghị mmachi n'otu ala $0.50 / $2.00 ahụ, MiniMax-M3 na MiMo-V2.5 bụ nhọrọ ndị nwere ọhụụ; Kimi-K2.6 na Kimi-K3 bụ ụdị ọhụụ siri ike karịa n'elu ọkwa ahụ.
• Ọ bụghị elu nke ubube ahụ. Ọnụọgụ DeepSeek nke aka ha na-etinye Pro n'ihu na benchmark agent ọ bụla e bipụtara, oghere ahụ sarakwa mbara karịa n'echiche koodu nke ọtụtụ nzọụkwụ nke na-adịgide. Ebe otu azịza na-ezighị ezi na-efu karịa puku ndị dị ọnụ ala, mefuo $1.45 ọzọ kwa miliyọn na DeepSeek-V4-Pro.
• Token mmepụta 16,384 kwa arịrịọ. A ga-ekewa ogologo mmepụta n'ofe ọkpụkpọ. Nke a bụ otu oke ahụ n'ụdị ọ bụla anyị na-agba, ọ na-ekechikwa tupu windo ọnọdụ ahụ eme ya.

09Ịkpọ ya

Tụọ onye ahịa ọ bụla dakọtara na OpenAI na gateway ahụ ma gbanwee eriri ụdị ahụ. Ọ dịghị ihe ọzọ dị na nchịkọta gị ga-agbanwe.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Otu id ụdị ahụ na-arụ ọrụ n'enweghị mgbanwe na /v1/messages na /v1/responses, nke bụ ụzọ kacha ngwa isi nwalee A/B nke ụdị dị ọnụ ala n'okpuru njikọ ị nwerelarị n'enweghị idegharị onye ahịa gị. E depụtara paramita, ọdịdị ihe omume streaming, schema ịkpọ ngwá ọrụ na oke ọnụego n'ntụaka API; e depụtara ụdị ọ bụla dị na katalọgụ na Nnyocha Shannon.

10Ajụjụ ndị a na-ajụkarị

---

Isi mmalite: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Akụkọ nka na ụzụ DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · Kaadị ụdị DeepSeek-V4-Flash-0731 na DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Ọnụọgụ ntọala na benchmark niile dị ka ndị odee ha si bipụta ha; ọnụ ahịa Shannon AI na ọnọdụ anyị na-eje ozi bụ uru ndepụta nke anyị dị ka ọ dị na Septemba 2026.