API DeepSeek Flash tsy voasivana

Ny ankamaroan'ny ekipa manombana API LLM dia manatsara ny fari-piovana diso. Manao benchmark amin'ny prompt roapolo sarotra indrindra azony eritreretina izy ireo, mifidy ilay mpandresy, dia mahita enim-herinandro any aoriana fa asa fohy, voarafitra, miverimberina no dimy amby sivifolo isan-jaton'ny fifamoivoizany, izay ho nokarakarain'ny modely mitentina ampahefany mitovy amin'izany. Misy ho an'io dimy amby sivifolo isan-jato io ny DeepSeek-V4-Flash. Ny fahafantarana hoe rahoviana ianao no ao anatiny — ary rahoviana no tsy ao — no votoatin'ity pejy ity.

01Izay tena azonao

Toetra	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Id-n'ny modely	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Context / output ambony indrindra	262 144 token / 16 384 token
Vidiny isaky ny 1M (miditra / mivoaka)	$0.50 / $2.00
Streaming · fiantsoana fitaovana · fisainana	Eny — amin'ny fitenim-paritra telo
Output voarafitra	json_schema sy response_format
Sary miditra (fahitana)	Tsia — lahatsoratra ihany
Sosona fandavana / sivana output	Tsy misy
Atolotra eo amin'ny	Vondrona GPU an'ny Shannon manokana

Fitenim-paritra API telo no mahatratra io lanja io ihany: /v1/chat/completions (endrika OpenAI), /v1/messages (endrika Anthropic), ary /v1/responses. Miasa amin'izy telo ny streaming. Ny fanovozan-kevitra feno momba ny parametatra dia ao amin'ny antontan-taratasin'ny API.

02Ny niaviany: ny firazanana DeepSeek

Taranaka modely dimy no nolanian'ny DeepSeek-AI tamin'ny fahazotoana iray: ny fahazoana fitondran-tena eo amin'ny sisin-tany avy amin'ny modely mora atolotra, fa tsy mora ampiofanina fotsiny. Saika ny fanapahan-kevitra ara-drafitra rehetra eo amin'io tsipika io no miverina amin'izany, ary navoaka ireo manan-danja. Telo no manazava izay antsoinao rehefa mikasika ity endpoint ity ianao.

DeepSeekMoE — manam-pahaizana madinika miampy iray iombonana

Ny sosona Mixture-of-Experts dia manolo tambajotra feed-forward lehibe iray amin'ny maro kely kokoa sy router mifidy vitsivitsy isaky ny token. Ny karazana an'ny DeepSeek dia manapaka ny manam-pahaizana ho madinika kokoa noho ny fandaminana manam-pahaizana valo mahazatra, ka ny FLOPs mavitrika mitovy dia mividy fifangaroana manokana kokoa be, ary manokana manam-pahaizana iombonana izay lalovan'ny token rehetra izy, ka tsy averina ianarana ao anatin'ny manam-pahaizana tsirairay ny fahalalana iombonana. Ny DeepSeek-V3 dia namoaka izany ho manam-pahaizana voatondro 256 miampy 1 iombonana, manetsika 8 voatondro isaky ny token — 671 miliara parametatra manontolo, 37 miliara mavitrika — miaraka amin'ny fandanjana enta-mavesatra tsy misy fatiantoka fanampiny: fa tsy sazy manimba ny kalitao, dia misy fironana isaky ny manam-pahaizana manindry miakatra na midina ny naoty routing isaky ny dingana arakaraka ny fahavesarana na ny fahamaivanan'ilay manam-pahaizana.

MLA — attention mifanaraka amin'ny fitadidiana

Ny antsasany faharoa amin'ny olan'ny vidin'ny fanolorana dia ny KV cache, izay mitombo mifanaraka amin'ny context ary manjaka amin'ny fitadidiana amin'ny filaharana lava. Ny Multi-head Latent Attention, nampidirina tao amin'ny DeepSeek-V2, dia manery ny fanalahidy sy ny sanda ho vector latent rank ambany ary manao cache an'izany, dia manangana indray ny K/V azo ampiasaina eny am-pandehanana. Ny tarehimarika V2 navoakan'ny DeepSeek, manoloana ny DeepSeek 67B matevina teo aloha, dia mitatitra fihenana 93,3% amin'ny KV cache sy fahafaha-mamokatra ambony indrindra 5,76× ambony kokoa. Izany no antony maha-fototra fa tsy fanampiny lafo ny varavarankely 262K token amin'ity fianakaviana ity.

Attention sparse — sy ny ohatra amin'ny token mora

Ny V3.2-Exp dia nanampy ny DeepSeek Sparse Attention: misy indexer maivana manisa ny token context manoloana ny query, ary misy selector mitazona ireo misy naoty ambony indrindra ihany. Ny ampahany mahaliana dia ny tapakila, fa tsy ny mekanisma. Namoaka fampitahana mifanila amin'ny V3.1-Terminus ny DeepSeek miaraka amin'ny MMLU-Pro mitovy amin'ny 85,0, AIME 2025 niakatra (88,4 → 89,3), SWE-bench Verified nidina kely (68,4 → 67,8) — kalitao milamina ihany — ary nampihena ny vidin'ny API-ny mihoatra ny 50% tamin'io andro io ihany. Firafitra, notaterina am-pahamarinana, miova ho vidiny mivantana. Ny Flash dia io hevitra io nentina dingana iray mihoatra.

Ny taranaka V4

Ny V4, naseho mialoha tamin'ny Aprily 2026 ambanin'ny lisansa MIT, dia manolo indray ny stack attention amin'ny fifangaroan'ny Compressed Sparse Attention sy Heavily Compressed Attention, mampiofana amin'ny optimizer Muon amin'ny token mihoatra ny 32T, ary mitazona ny tanjona fanambarana token maro an'ny V3 — izay miasa ihany koa ho decoding speculative, ary norefesin'ny DeepSeek ho tahan'ny fanekena ny token faharoa 85–90% ho amin'ny hafainganan'ny decoding 1,8× eo ho eo tao amin'ny V3. Ny famintinana V4 dia mitatitra ny V4-Pro mandeha amin'ny 27% amin'ny FLOPs inference token tokana an'ny V3.2 sy 10% amin'ny KV cache-ny. Manolotra ambaratonga ezaka fisainana telo ny fianakaviana, ary izany no ifandraisan'ny parametatra reasoning_effort anay.

Loharano: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Tatitra ara-teknika DeepSeek-V3 (arXiv 2412.19437) · karatra modely DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Notaterin'ny DeepSeek ny tarehimarika rehetra.

03Ny tena dikan'ny "Flash"

Eto no diso ny ankamaroan'ny fampitahana, ka mendrika lazaina mazava: ny Flash an'ny DeepSeek dia tsy Pro natao quantization, notapahina na nozaraina. Modely Mixture-of-Experts kely kokoa nampiofanina misaraka izy, misy ny fiofanana mialoha azy manokana. Ny taratasy fisehoana mialoha V4 dia manome ny habe roa:

Tarehimarika avy amin'ny taratasy fisehoana mialoha DeepSeek-V4. Ny checkpoint ofisialy atolotray — V4-Flash-0731 sy V4-Pro-0813 — dia mitanisa isa manontolo lehibe kokoa kely, 304B sy 1,7T, ao amin'ny karatra modeliny; tsy averin'ny DeepSeek lazaina ny parametatra mavitrika ho an'ireo build ireo.

Isa roa no manao ny asa eto. Ny parametatra manontolo no mametra ny toerana amin'ny fitadidiana, izay manapaka ny habetsahan'ny fitaovana lanin'ny dika iray amin'ny modely. Ny parametatra mavitrika no mametra ny aritmetika isaky ny token, izay manapaka ny fahafaha-mamokatra. Ny Flash dia 5,6× kely kokoa eo amin'ny voalohany ary 3,8× kely kokoa eo amin'ny faharoa — ary misy zavatra madinika mendrika hotsikaritina ao anatin'io elanelana io: manetsika 13 amin'ny 284 miliara parametatra ny Flash, 4,6% eo ho eo, raha manetsika 49 amin'ny 1 600 miliara kosa ny Pro, 3,1% eo ho eo. Ny Flash no modely tsy dia sparse. Tsy Pro misy manam-pahaizana vitsy kokoa velona fotsiny izy; famolavolana matevina kokoa, voalanjalanja hafa, izay mandany ampahany lehibe kokoa amin'ny tenany amin'ny token tsirairay vokariny. Safidy ara-injeniera tena izy izany, fa tsy fihenana.

Izay lazain'ny tarehimarikan'ny DeepSeek

Ny karatra modely ofisialy roa dia samy mamoaka naoty amin'ny benchmark agentic sy injeniera rindrambaiko mitovy, izay mahatonga ity ho fampitahana madio tsy mahazatra — laboratoara iray ihany, harness fanombanana iray ihany, habe roa:

Benchmark (notaterin'ny DeepSeek)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Mandresy amin'ny andalana rehetra ny Pro. Izany no loha-teny marina, ary aleonay vakinao eto toy izay hitanao any amin'ny famokarana. Fa vakio ny elanelana, satria izy ireo no tena vidinao. Amin'ny Terminal Bench 2.1 dia 5,2 teboka ny elanelana amin'ny modely manana ampahadimy amby roapolon'ny parametatra; amin'ny fampiasana fitaovana dia 3,8 teboka izy. Mitatra ny elanelana amin'ny toerana lalina indrindra amin'ny asa — 8,3 teboka amin'ny DeepSWE, 7,3 amin'ny NL2Repo, samy manome valisoa ny fisainana kaody maharitra misy dingana maro. Izany no endriky ny fifanakalozana ao anaty tabilao iray: ny Flash dia manakaiky ny ankamaroan'ny elanelana amin'ny asa voafetra ary mamela toerana amin'ny asa misokatra.

Ny karatra Flash an'ny DeepSeek mihitsy no manasongadina izany bebe kokoa: mihoatra ny fisehoana mialoha V4-Pro ny Flash-0731 amin'ny benchmark voatanisa na dia kely lavitra aza ny isan'ny parametatra mavitrika aminy. Ny modely kely vaovao mandresy ny lehibe taloha dia toe-javatra mahazatra amin'ity sehatra ity, ary izany no antony tsy tokony ho valinteninao mandeha ho azy mihitsy ny "ambaratonga lehibe kokoa".

04Ny famakiana ny tovana: W4A16-AUTOROUND-REAP

Ny id-n'ny modelinay dia milaza mafy ny rafitra fanerena azy, satria izy no zavatra tena misy fiantraikany amin'ny kalitaon'ny output nefa saika tsy misy manambara azy. Miparitaka ho fitakiana telo ity iray ity.

W4A16 — lanja 4-bit, fanetsehana 16-bit

Tehirizina amin'ny 4 bit avy ny lanja; mikoriana amin'ny fahamarinana 16-bit ny fanetsehana. Quantization lanja ihany izany, ary mikendry ny tena sakana amin'ny famokarana token izy, dia ny bandwidth-n'ny fitadidiana fa tsy ny aritmetika. Ny fanaovana quantization ny fanetsehana koa dia hividy hafainganana kely fanampiny nefa hampidi-doza hantsana fahamarinana lehibe lavitra; ny fitazonana azy amin'ny 16 bit no safidy malina misy fahatokisana ambony. Fanafohezana avy amin'ny tontolon'ny fanolorana ny fanamarihana — ny literatiora momba ny quantization dia manoratra izany ho W4 miaraka amin'ny haben'ny vondrona.

AUTOROUND — fanodinana nianarana, fa tsy fanodinana mankany amin'ny akaiky indrindra

Ny quantization tsotra dia manodina ny lanja tsirairay mankany amin'ny sanda azo aseho akaiky indrindra. Porofo fa tsy izy no tsara indrindra izany: ny fanodinana lanja iray amin'ny lalana "diso" dia mety hanafoana ny hadisoana nampidirin'ny mpiara-monina aminy, ary miaraka amin'ny lanja an-tapitrisany dia manjaka ireo fifandraisana ireo. Ny AutoRound, avy amin'ny Intel, dia mandray ny fanapahan-kevitra momba ny fanodinana ho zavatra ianarana — fanelingelenana isaky ny lanja azo ampiofanina voafetra amin'ny ±0,5, ampy indrindra hanovana fanapahan-kevitra fanodinana tokana fa tsy mihoatra, miampy elanelana clipping azo ianarana, natsaraina tamin'ny signed gradient descent manoloana tanjona fanarenana output isam-bloc amin'ny andiana calibration kely. Dingana roanjato, dia vita.

Ny fampitahana navoakan'ny Intel dia mampandresy ny AutoRound amin'ny GPTQ amin'ny 30 amin'ny 32 toe-javatra nosedraina, amin'ny AWQ amin'ny 27 amin'ny 32 ary amin'ny OmniQuant amin'ny 29 amin'ny 32 amin'ny fandrindrana lanja-ihany 4-bit, miaraka amin'ny tombony 6,9 ka hatramin'ny 33,2 teboka fahamarinana mihoatra ny fanodinana tsotra amin'ny 2 bit. Tsy misy vidiny mihitsy izany amin'ny fotoanan'ny inference: safidy isa tsara kokoa izy, natao indray mandeha, tsy an-tserasera.

REAP — fanesorana ny manam-pahaizana tsy tondroin'olona

Ny REAP (Router-weighted Expert Activation Pruning), avy amin'ny Cerebras Systems sy ny Oniversiten'i Calgary, dia fanerena indray mandeha ho an'ny modely MoE. Manisa ny manam-pahaizana tsirairay izy araka ny hamafy sy ny fahamatetiky ny fanokafan'ny router azy, ampitomboina amin'ny halehiben'ny output-n'io manam-pahaizana io, dia mamafa tanteraka ireo tsy dia manan-danja — tsy misy fiofanana averina aoriana.

Ny fikarohana afovoan'ny taratasy no ilaina: amin'ny tahan'ny fanerena avo, dia mandresy ny fampifangaroana azy ireo ny fanapahana ny manam-pahaizana. Ny fampifangaroana manam-pahaizana samy hafa asa dia miteraka izay antsoin'ny mpanoratra hoe fianjeran'ny subspace ara-panasa — very amin'ny router ny fifehezana madinika miankina amin'ny input izay nahatonga ny MoE ho mendrika naorina, ary tavela mitarika eo anelanelan'ny salan'isa raikitra izy. Indro ny tarehimarikany manerana ny modely 20 miliara ka hatramin'ny 1 tapitrisa arivo parametatra: amin'ny fanerena manam-pahaizana 25% amin'ny asa fanoratana kaody, dia mahavery 2,8% amin'ny fahamarinana antonony ny REAP raha mahavery mihoatra ny 5% ny fototra fampifangaroana; amin'ny 50%, mahavery 8,0% ny REAP raha mahavery mihoatra ny 20% ny fampifangaroana. Amin'ny Qwen3-Coder-480B amin'ny fanapahana 50% dia 1,4% ny fihenana, manoloana ny 39,3% amin'ny fanapahana mifototra amin'ny fahamatetika tsotra. Namoaka checkpoint REAP ho an'ny tsipika DeepSeek ankoatra ny hafa ny Cerebras.

Ny antony 4-bit eto ary 3-bit amin'ny Pro

Ny ambaratonga roa dia samy tsy maintsy mifanaraka sy mijanona ho haingana amin'ny sokajy fitaovana mitovy. Mitondra 1,7 tapitrisa arivo parametatra ny Pro, ka mila ny fikarakarana 3-bit mahery kokoa mba hifanaraka mihitsy. Mitondra 300 miliara eo ho eo ny Flash, ka tsy mila izany — ary ny bit tsitsiny dia lany amin'ny fahatokisana fa tsy amin'ny fampifanarahana.

Manan-danja mihoatra ny lazain'ny aritmetikany io bit fanampiny io, satria tsy linear ny fahasimbana avy amin'ny quantization. Ao amin'ny fandrefesana WikiText-2 an'ny taratasy AWQ, ny Llama-2-7B dia mandeha avy amin'ny perplexity 5,47 amin'ny FP16 mankany amin'ny 5,60 amin'ny 4-bit — sazy 2,4% — fa mankany amin'ny 6,24 amin'ny 3-bit, sazy 14%. Izany dia in-enina eo ho eo ny fihenana ho an'ny fanerena 25% fanampiny, ary mitovy ny endrika amin'ny 70B. Mbola mahitsy kokoa ny taratasy GPTQ: amin'ny 3 bit dia mianjera ny fanodinana tsotra amin'ny modely sokajy 175B, mankany amin'ny perplexity an'arivony, nefa mijanona ho azo ampiasaina tanteraka amin'ny 4 bit. Ambanin'ny efatra bit dia tsy fanampiny mahafinaritra intsony ny algoritma quantization tsara fa izy irery no mitazona ny modely tsy hirodana.

Ka ny famakiana marina ireo tovana roa ireo dia: akaiky kokoa ny tenany tsy voatery ny Flash noho ny Pro amin'ny tenany. Mbola matanjaka kokoa ny Pro — voafaritry ny tabilao benchmark etsy ambony izany. Nanome be kokoa fotsiny izy mba ho tonga eto, ary mandoa ny tombony ianao.

Loharano: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Tarehimarika perplexity avy amin'ny AWQ (arXiv 2306.00978) sy ny GPTQ (arXiv 2210.17323).

05Flash sa Pro eo amin'ny endpoint

Ny fizarana 03 dia nandrakotra ny fototra. Indro ny endriky ny ambaratonga roa amin'ny maha-vokatra azy eo amin'ny vavahadinay:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Quantization	W4A16-AUTOROUND-REAP	3BIT-REAP
Fahamarinan'ny lanja	4-bit, fanodinana nianarana	3-bit
Fototra (manontolo / mavitrika)	~304B / 13B	~1.7T / 49B
Miditra isaky ny 1M token	$0.50	$1.95
Mivoaka isaky ny 1M token	$2.00	$3.90
Context / output ambony indrindra	262 144 / 16 384	262 144 / 16 384
Fitaovana · output voarafitra · streaming	Eny	Eny
Fahitana	Tsia	Tsia
Sosona fandavana	Tsy misy	Tsy misy

Mariho izay tsy miova: mitovy ny context, ny valindrihan'ny output, ny fiantsoana fitaovana, ny output voarafitra, ary ny tsy fisian'ny sosona fandavana. Ny fototra, ny quantization ary ny vidiny ihany no miova. Izany no mahatonga ny fiovana eo amin'izy ireo ho fanovana tady tokana ao amin'ny kaodinao ary fanapahan-kevitra ara-toekarena madio ao amin'ny rafitrao.

Ny vidin'ny fiantsoana tokana amin'ny habe ambony indrindra

Fenoy ny context 262 144 token manontolo ary raiso ny output 16 384 token feno:

Amin'ny vidiny an-tsoratra. Flash: $0.131 miditra + $0.033 mivoaka. Pro: $0.511 + $0.064. Tahany 3,51×. Mizara ny fetra ambany $0.50 / $2.00 amin'ny MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro ary Hy3 ihany koa ny Flash — jereo ny katalaogy feno ho an'ny fahasamihafan'izy ireo amin'ny fahitana sy ny output voarafitra.

06Ny kajy momba ny habetsahana, novahana

Marina amin'ny input ihany ny "3,9× mora kokoa". Amin'ny output dia 1,9× mora kokoa ny Flash. Miankina amin'ny tahan'ny input sy output anao noho izany ny tena tombonao, ary midadasika ampy hanova ny fanapahan-kevitra amin'ny famolavolana ny elanelana. Asa efatra tena misy, tsirairay amin'ny fangatahana 100 000:

Asa	Miditra / mivoaka isaky ny fiantsoana	Flash	Pro	Tombony
Fanasokajiana tapakila	1,200 / 120	$84	$281	3.3×
Famaliana fanontaniana RAG	8,000 / 600	$520	$1,794	3.4×
Famintinana antontan-taratasy lava	60,000 / 1,500	$3,300	$12,285	3.7×
Famokarana angona synthetic	500 / 2,000	$425	$878	2.1×

Ny endriny: arakaraka ny hatetiky ny context alefanao sy ny hakelin'ny lahatsoratra vokarinao no hitsitsian'ny Flash bebe kokoa ho anao. Ny lalana fakàna, ny fanasokajiana antontan-taratasy, ny famakafakana log sy transcript, ary ny fanesorana angona amin'ny context lava no toerana tsara indrindra — manjakan'ny input izy ireo amin'ny ambaratonga iray manontolo, ary eo amin'ny input no misy ny fihenam-bidy 3,9×. Raha prompt fohy mamokatra lahatsoratra an'arivony token kosa ny asanao, dia mihena ho 2× eo ho eo ny elanelana ary mihamatanjaka mifanaraka amin'izany ny fanamarinana ny fahaiza-manaon'ny Pro.

Ampahany aritmetika iray hafa mendrika hotadidina: amin'ny $0.50 isaky ny tapitrisa token miditra, dia 13,1 sentimo ny hamenoana ny varavarankely 262 144 token manontolo. Tsy fanontaniana momba ny teti-bola intsony ny prompt context lava amin'io vidiny io, izay midika indraindray fa azonao dinganina tsy hanorenana sosona fakàna mihitsy ary avelanao ny varavarankely context hanao ny asa — fitsitsiana ara-injeniera ambonin'ny fitsitsiana token.

07Ny dikan'ny "tsy voasivana" eto, marina

Ampiasaina tsy an-tsakany sy an-davany ilay teny, ka indro ny famaritanay azy, lazaina ho toetran'ny endpoint: tsy misy classifier fandavana eo alohan'ny modely ary tsy misy fanivanana votoaty ampiharina amin'ny output-ny. Tsy misy manakana prompt ary mamerina fandavana voaomana; tsy misy mandinika ny valiny ary manafina ampahany. Ho an'ny asa famokarana be habetsahana dia tsy dia mampihetsi-po ny vokany fa mahasoa kokoa noho ny lazain'ilay teny:

• Tsy misy diso positif amin'ny fifamoivoizana tsotra. Ny endpoint voasivana dia mandà matetika ny famintinana ara-pitsaboana, ny tatitra momba ny fiarovana, ny fitadiavana porofo ara-dalàna, ny tantara foronina, ny fitaovana fampihenana loza ary ny asa fanaraha-maso mihitsy — ireo sokajy indrindra izay ikarakaran'ny asa an-tsokosoko lahatsoratra momba lohahevitra saro-pady fa tsy famokarana zavatra manimba. Amin'ny fangatahana iray hetsy, ny tahan'ny fandavana diso iray isan-jato dia andalana arivo simba.
• Fifanarahana azo vinaniana. Mangataha valiny json_schema dia mahazo JSON mifanaraka amin'ny schema ianao, fa tsy fehintsoratra fialan-tsiny eo amin'ny toerana tokony hisian'ny zavatra iray. Tsy mila sampana fandavana ny mpamaky anao, ary tsy voatery hanavaka ny tsy fahombiazan'ny fitaterana amin'ny an'ny politika ny lojikan'ny fanandramana indray ataonao.
• Anao ny politika. Izany no fifanakalozana. Raha mila fefy ho an'ny mpampiasa farany ny vokatrao, dia orenao eo amin'ny sosona anao izy, izay ahafantaranao ny mpampiasanao sy ny faritra misy anao, fa tsy mandova ny vinavinan'ny mpamatsy momba izy roa. Mbola fehezin'ny politikam-pampiasana tomponandraikitra anay ny kaontinao.

Ny tsy voasivana dia tsy mitovy amin'ny tsy voarindra na tsy manampy. Mbola manaraka toromarika ny modely ary mbola manaja prompt rafitra. Raha tianao handà sokajy sasany ho an'ny mpampiasa anao izy, dia lazao ao izany — anao ny hanoratra izany toromarika izany fa tsy anay ny hanery azy.

08Fahaiza-manao sy fetra marina

Fahaiza-manao roa no mitondra ny ankamaroan'ny lanja amin'ny asa be habetsahana. Ny output json_schema hentitra dia manova valiny ho andalana anaty banky angona tsy misy sosona famakiana ary tsy misy sampana fandavana. Ny fiantsoana fitaovana amin'ny fitenim-paritra telo dia mahatonga ny Flash ho maotera mety ho an'ny dingana kely mora amin'ny agent izay mandeha amin'ny modely matanjaka kokoa ny mpandrindra ambony. Ampio ny reasoning_effort, izay mamela anao handany token fanampiny amin'ny ampahany mila azy ihany, ary ny context 262 144 token mitovy amin'ny an'ny Pro — tsy manolotra context ianao amin'ny fifidiananao ny ambaratonga mora, izay tsy mahazatra.

Mazava tsara toy izany koa ny fetra:

• Tsy misy fahitana. Lahatsoratra ihany ny Flash ary handà ny ampahany sary ao anaty hafatra. Ho an'ny sary amin'ny modely tsy voasivana eo amin'io fetra ambany $0.50 / $2.00 io ihany, ny MiniMax-M3 sy ny MiMo-V2.5 no safidy mahay fahitana; ny Kimi-K2.6 sy ny Kimi-K3 kosa dia modely fahitana matanjaka kokoa ambonin'io ambaratonga io.
• Tsy izy no tampon'ny tohatra. Ny tarehimarikan'ny DeepSeek mihitsy dia mametraka ny Pro ho mialoha amin'ny benchmark agentic navoaka rehetra, ary midadasika indrindra ny elanelana amin'ny fisainana kaody maharitra misy dingana maro. Amin'ny toerana ahalafo kokoa ny valiny diso iray noho ny arivo mora, dia lanio ny $1.45 fanampiny isaky ny tapitrisa amin'ny DeepSeek-V4-Pro.
• 16 384 token mivoaka isaky ny fangatahana. Tsy maintsy zaraina amin'ny fiantsoana maro ny famokarana lava. Io no valindrihana mitovy amin'ny modely rehetra atolotray, ary mamatotra alohan'ny varavarankely context lavitra izy.

09Ny fiantsoana azy

Atodiho amin'ny vavahady ny mpanjifa mifanaraka amin'ny OpenAI rehetra dia ovay ny tady modely. Tsy misy zavatra hafa tsy maintsy miova ao amin'ny stack-nao.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Miasa tsy miova amin'ny /v1/messages sy ny /v1/responses io id-n'ny modely io ihany, izay fomba haingana indrindra hanaovana A/B modely mora kokoa ao ambanin'ny fampidirana efa misy tsy misy fanoratana indray ny mpanjifanao. Ny parametatra, ny endriky ny hetsika streaming, ny schema fiantsoana fitaovana ary ny fetran'ny tahan'ny fangatahana dia voarakitra ao amin'ny fanovozan-kevitry ny API; ny modely rehetra ao amin'ny katalaogy dia voalisitra ao amin'ny Shannon Research.

10Fanontaniana apetraka matetika

---

Loharano: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Tatitra ara-teknika DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · karatra modely DeepSeek-V4-Flash-0731 sy DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Ny tarehimarika momba ny fototra sy ny benchmark rehetra dia araka ny navoakan'ny mpanoratra azy avy; ny vidiny Shannon AI sy ny context atolotra dia sanda an-tsoratra anay mifanaraka amin'ny Septambra 2026.