L-API Bla Ċensura ta' DeepSeek Flash

Ħafna timijiet li jevalwaw API ta' LLM jottimizzaw il-varjabbli ħażina. Jibbenchmarkjaw fuq l-eqsa għoxrin prompt li jistgħu jaħsbu fihom, jagħżlu r-rebbieħ, u wara sitt ġimgħat jinnutaw li ħamsa u disgħin fil-mija tat-traffiku tagħhom hu xogħol qasir, strutturat u ripetittiv li mudell bi kwart il-prezz kien iġib l-istess riżultat. DeepSeek-V4-Flash jeżisti għal dak il-ħamsa u disgħin fil-mija. Din il-paġna hi dwar kif tagħraf meta tinsab fih — u meta le.

01X'tabilħaqq tikseb

Proprjetà	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Id tal-mudell	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Kuntest / output massimu	262,144 token / 16,384 token
Prezz għal kull 1M (dħul / ħruġ)	$0.50 / $2.00
Streaming · sejħa ta' għodod · raġunament	Iva — it-tliet djaletti kollha
Output strutturat	json_schema u response_format
Input ta' immaġni (viżjoni)	Le — test biss
Saff ta' rifjut / filtru tal-output	Xejn
Servut fuq	Il-cluster GPU stess ta' Shannon

Tliet djaletti tal-API jilħqu l-istess piżi: /v1/chat/completions (fil-forma ta' OpenAI), /v1/messages (fil-forma ta' Anthropic), u /v1/responses. Streaming jaħdem fuq it-tlieta. Ir-referenza sħiħa tal-parametri tinsab fid-dokumentazzjoni tal-API.

02Minn fejn ġej: il-lineage ta' DeepSeek

DeepSeek-AI għamlet ħames ġenerazzjonijiet ta' mudelli b'ossessjoni waħda: li toħroġ imġiba ta' quċċata minn mudell li hu rħis biex tservih, mhux biss rħis biex tħarrġu. Kważi kull deċiżjoni arkitettonika fil-linja tirritorna għal dan, u l-aktar importanti huma ppubblikati. Tlieta jispjegaw dak li qed issejjaħ meta tolqot dan l-endpoint.

DeepSeekMoE — esperti fini flimkien ma' wieħed kondiviż

Saff ta' Taħlita ta' Esperti jissostitwixxi network feed-forward kbir wieħed b'ħafna oħrajn iżgħar u router li jagħżel ftit għal kull token. Il-varjant ta' DeepSeek jaqta' l-esperti aktar fini mil-layout konvenzjonali ta' tmien esperti, għalhekk l-istess FLOPs attivati jixtru taħlita ferm aktar speċifika b'mod kombinatorju, u jisola espert kondiviż li kull token jgħaddi minnu, għalhekk l-għarfien komuni ma jerġax jitgħallem b'mod ridondanti ġewwa kull speċjalista. DeepSeek-V3 rilaxxat dan bħala 256 espert routed flimkien ma' espert kondiviż wieħed, li jattiva 8 routed għal kull token — 671B parametru totali, 37B attivati — flimkien ma' bilanċ tal-piż mingħajr telf awżiljarju: minflok terminu ta' penali li jnaqqas il-kwalità, bias għal kull espert imexxi l-punteġġi tar-routing 'il fuq jew 'l isfel f'kull pass skont jekk dak l-espert ikunx mgħobbi żżejjed jew inqas mill-meħtieġ.

MLA — attenzjoni li tidħol fil-memorja

In-nofs l-ieħor tal-problema tal-ispiża tas-servizz hu l-KV cache, li tikber b'mod lineari mal-kuntest u tiddomina l-memorja fuq tulijiet twal ta' sekwenza. Multi-head Latent Attention, introdotta fi DeepSeek-V2, tikkompressa l-keys u l-values flimkien f'vettur latenti ta' rank baxx u tikkaċċja dak, u tirrikostruwixxi K/V utli fil-mument. Iċ-ċifri ppubblikati ta' DeepSeek għal V2, kontra d-DeepSeek 67B densa preċedenti tagħhom, jirrapportaw tnaqqis ta' 93.3% fil-KV cache u 5.76× throughput massimu ta' ġenerazzjoni ogħla. Dak hu għaliex tieqa ta' 262K-token hi standard f'din il-familja minflok żieda premium.

Attenzjoni spars — u l-preċedent għal tokens irħas

V3.2-Exp żiedet DeepSeek Sparse Attention: indiċjatur ħafif jiskorja t-tokens tal-kuntest kontra l-mistoqsija, u selettur iżomm biss dawk bl-ogħla punteġġ. Il-parti interessanti hi r-riċevuta, mhux il-mekkaniżmu. DeepSeek ippubblikat tqabbil ma' V3.1-Terminus b'MMLU-Pro identiku fuq 85.0, AIME 2025 'il fuq (88.4 → 89.3), SWE-bench Verified 'l isfel bi ftit (68.4 → 67.8) — kwalità essenzjalment fissa — u naqqset il-prezzijiet tal-API tagħha b'aktar minn 50% fl-istess jum. Arkitettura, rrapportata b'mod onest, li tinbidel direttament f'prezz. Flash hu dak l-argument mibni pass 'il quddiem.

Il-ġenerazzjoni V4

V4, murija minn qabel f'April 2026 taħt liċenzja MIT, tissostitwixxi l-istack tal-attenzjoni għal darb'oħra b'taħlita ta' Compressed Sparse Attention u Heavily Compressed Attention, tħarreġ bl-ottimizzatur Muon fuq aktar minn 32T token, u żżomm l-objettiv ta' previżjoni b'ħafna tokens ta' V3 — li jservi wkoll bħala decoding spekulattiv, u li DeepSeek kejlet b'rata ta' aċċettazzjoni tat-tieni token ta' 85–90% għal veloċità ta' decoding ta' madwar 1.8× fi V3. L-abstract ta' V4 jirrapporta li V4-Pro jaħdem b'27% tal-FLOPs tal-inferenza b'token wieħed u 10% tal-KV cache ta' V3.2. Il-familja tesponi tliet livelli ta' sforz ta' raġunament, li huma dak li l-parametru reasoning_effort tagħna jimmappja fuqhom.

Sorsi: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Rapport Tekniku ta' DeepSeek-V3 (arXiv 2412.19437) · karta mudell ta' DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Iċ-ċifri kollha huma rrapportati minn DeepSeek.

03X'tabilħaqq tfisser "Flash"

Dan hu l-punt li ħafna tqabbiliet jaqbdu ħażin, għalhekk jistħoqqlu jingħad ċar: il-Flash ta' DeepSeek mhuwiex Pro kwantizzat, imqaċċat jew distillat. Hu mudell ta' Taħlita ta' Esperti iżgħar, imħarreġ separatament b'run ta' pre-taħriġ tiegħu stess. Il-paper ta' preview ta' V4 jagħti ż-żewġ daqsijiet:

Ċifri mill-paper ta' preview ta' DeepSeek-V4. Iċ-checkpoints uffiċjali li nservu — V4-Flash-0731 u V4-Pro-0813 — jelenkaw totali ftit akbar ta' 304B u 1.7T fuq il-karti mudell tagħhom; DeepSeek ma terġax tiddikjara l-parametri attivati għal dawk il-builds.

Żewġ ċifri jagħmlu x-xogħol hawn. Il-parametri totali jistabbilixxu l-marka tal-memorja, li tiddeċiedi kemm ħardwer tokkupa kopja tal-mudell. Il-parametri attivati jistabbilixxu l-aritmetika għal kull token, li tiddeċiedi t-throughput. Flash hi bejn wieħed u ieħor 5.6× iżgħar fuq l-ewwel u 3.8× iżgħar fuq it-tieni — u hemm sottiljezza li tistħoqq tinnota f'dik id-differenza: Flash tattiva 13 minn 284 biljun parametru, madwar 4.6%, filwaqt li Pro tattiva 49 minn 1,600 biljun, madwar 3.1%. Flash hu l-mudell l-inqas spars. Mhuwiex sempliċiment Pro b'inqas esperti mixgħula; hu disinn aktar dens, ibbilanċjat b'mod differenti, li jonfoq sehem akbar minnu nnifsu fuq kull token li jipproduċi. Dik hi għażla vera tal-inġinerija, mhux downgrade.

X'jgħidu ċ-ċifri stess ta' DeepSeek

Iż-żewġ karti mudell uffiċjali jippubblikaw punteġġi fuq l-istess benchmarks aġentiċi u tal-inġinerija tas-software, li jagħmel dan tqabbil mhux tas-soltu nadif — l-istess lab, l-istess harness tal-evalwazzjoni, żewġ daqsijiet:

Benchmark (irrapportat minn DeepSeek)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro jirbaħ kull ringiela. Dak hu t-titlu onest, u nippreferu li taqrah hawn milli ssibu fil-produzzjoni. Imma aqra l-marġini, għax huma dak li tabilħaqq qed tixtri. Fuq Terminal Bench 2.1 id-differenza hi ta' 5.2 punt fuq mudell b'wieħed minn ħamsa u għoxrin tal-parametri; fuq l-użu tal-għodod hi 3.8 punt. Id-differenza tikber fejn ix-xogħol jimxi fil-fond — 8.3 punt fuq DeepSWE, 7.3 fuq NL2Repo, it-tnejn li jippremjaw raġunament tal-kodiċi sostnut b'ħafna passi. Dik hi l-forma tat-tradeoff f'tabella waħda: Flash tagħlaq ħafna mid-distanza fuq xogħlijiet limitati u ċċedi art fuq dawk miftuħa.

Il-karta stess ta' Flash ta' DeepSeek tagħmel il-punt saħansitra aktar qawwi: Flash-0731 tegħleb l-preview ta' V4-Pro fuq il-benchmarks elenkati minkejja n-numru tal-parametri attivati tagħha ferm iżgħar. Mudell iżgħar u aktar riċenti li jegħleb wieħed akbar u eqdem hu l-istat normali f'dan il-qasam, u hi r-raġuni għaliex "livell akbar" m'għandu qatt ikun it-tweġiba default tiegħek.

04Naqraw is-suffiss: W4A16-AUTOROUND-REAP

L-ids tal-mudelli tagħna jiddikjaraw l-iskema ta' kompressjoni tagħhom bl-amplifikatur, għax hi l-ħaġa li l-aktar taffettwa l-kwalità tal-output u kważi ħadd ma jiżvelaha. Dan jinqasam f'tliet pretensjonijiet.

W4A16 — piżi ta' 4-bit, attivazzjonijiet ta' 16-bit

Il-piżi jinħażnu bi 4 bits kull wieħed; l-attivazzjonijiet jgħaddu b'preċiżjoni ta' 16-bit. Din hi kwantizzazzjoni weight-only, u tindirizza l-bottleneck attwali fil-ġenerazzjoni tat-tokens, li hi l-bandwidth tal-memorja minflok l-aritmetika. Li tikkwantizza wkoll l-attivazzjonijiet tixtri ftit veloċità żejda u tirriskja waqgħa akbar ħafna fil-preċiżjoni; li tħallihom fi 16-bit hi l-għażla konservattiva u ta' fedeltà għolja. In-notazzjoni hi shorthand tal-ekosistema tas-servizz — il-litteratura tal-kwantizzazzjoni tikteb l-istess ħaġa bħala W4 b'daqs ta' grupp.

AUTOROUND — rounding mgħallem, mhux rounding lejn l-eqreb

Kwantizzazzjoni naive tirranġa kull piż lejn l-eqreb valur rappreżentabbli. Dak b'mod ċar mhuwiex ottimali: li ddawwar piż wieħed bil-mod "ħażin" jista' jikkanċella żball introdott min-nagħbiet tiegħu, u b'biljuni ta' piżijiet dawk l-interazzjonijiet jiddominaw. AutoRound, ta' Intel, jittratta d-deċiżjoni tar-rounding innifisha bħala ħaġa x'titgħallem — perturbazzjoni li tista' titħarreġ għal kull piż, ristretta għal ±0.5, eżattament biżżejjed biex taqleb kwalunkwe deċiżjoni waħda ta' rounding u qatt aktar, flimkien ma' firxiet ta' clipping li jistgħu jitgħallmu, ottimizzati permezz ta' signed gradient descent kontra objettiv ta' rikostruzzjoni tal-output b'blokki fuq sett żgħir ta' kalibrazzjoni. Mitejn pass, u lest.

It-tqabbiliet ippubblikati ta' Intel juru li AutoRound jegħleb lil GPTQ f'30 minn 32 xenarju ttestjat, lil AWQ f'27 minn 32 u lil OmniQuant f'29 minn 32 f'settings ta' 4-bit weight-only, b'gwadann fuq ir-round-to-nearest naive ta' bejn 6.9 u 33.2 punt ta' preċiżjoni fi 2-bit. Xejn minn dan ma jiswa xejn fil-ħin tal-inferenza: hi għażla aħjar ta' numri, magħmula darba, offline.

REAP — inwarrbu l-esperti li ħadd ma jsejjaħ

REAP (Router-weighted Expert Activation Pruning), ta' Cerebras Systems u l-Università ta' Calgary, hi kompressjoni one-shot għal mudelli MoE. Tiskorja kull espert skont kemm b'saħħa u kemm ta' spiss ir-router jgejtjah, immultiplikat bil-kobor tal-output ta' dak l-espert, imbagħad tħassar direttament l-esperti l-inqas salienti — ebda retraining wara.

Is-sejba ċentrali tal-paper hi dik utli: f'rati ta' kompressjoni għolja, it-tqaċċit tal-esperti jegħleb it-tħaltija tagħhom. Li tħallat esperti distinti funzjonalment tikkawża dak li l-awturi jsejħu kollass tas-subspace funzjonali — ir-router jitlef il-kontroll fin, dipendenti fuq l-input, li kien jagħmel il-MoE ta' min jibnih, u jibqa' jġorr bejn medji statiċi. Iċ-ċifri tagħhom tul mudelli minn 20B sa 1T parametru: fi 25% kompressjoni tal-esperti fuq xogħlijiet ta' kodifikazzjoni, REAP titlef 2.8% preċiżjoni medja fejn il-baselines tat-tħaltija jitilfu aktar minn 5%; fi 50%, REAP titlef 8.0% fejn it-tħaltija titlef aktar minn 20%. Fuq Qwen3-Coder-480B fi 50% tqaċċit il-waqgħa hi 1.4%, kontra 39.3% għal tqaċċit naive ibbażat fuq il-frekwenza. Cerebras ippubblikat checkpoints ta' REAP għal-linja ta' DeepSeek fost oħrajn.

Għaliex 4-bit hawn u 3-bit fuq Pro

Iż-żewġ livelli jridu jidħlu u jibqgħu mgħaġġla fuq l-istess klassi ta' ħardwer. Pro iġorr 1.7 triljun parametru, għalhekk jeħtieġ it-trattament aktar aggressiv ta' 3-bit biex jidħol xorta. Flash iġorr madwar 300 biljun, għalhekk ma jeħtieġux — u l-bit li jiffranka jintnefaq fuq il-fedeltà minflok fuq id-dħul.

Dak il-bit żejjed jgħodd aktar milli l-aritmetika tiegħu tissuġġerixxi, għax il-ħsara tal-kwantizzazzjoni mhijiex lineari. Fil-kejl WikiText-2 tal-paper ta' AWQ, Llama-2-7B tmur minn 5.47 perplexity fi FP16 għal 5.60 fi 4-bit — penali ta' 2.4% — imma għal 6.24 fi 3-bit, penali ta' 14%. Dak hu bejn wieħed u ieħor sitt darbiet id-degradazzjoni għal 25% aktar kompressjoni, u l-istess pattern jibqa' validu fi 70B. Il-paper ta' GPTQ hu saħansitra aktar dirett: fi 3 bits, ir-round-to-nearest naive jikkollassa fuq mudelli tal-klassi ta' 175B, sa eluf ta' perplexity, filwaqt li jibqa' perfettament użabbli fi 4 bits. Taħt erba' bits, algoritmu tajjeb ta' kwantizzazzjoni ma jibqax lussu u jsir l-uniku ħaġa li żżomm il-mudell f'saqajh.

Għalhekk il-qari onest ta' dawn iż-żewġ suffissi hu: Flash toqgħod eqreb tal-verżjoni mhux kompressata tagħha stess milli Pro toqgħod tal-tagħha. Pro għadu l-mudell l-aktar b'saħħtu — it-tabella tal-benchmarks hawn fuq issolvi dak. Sempliċiment ċeda aktar biex jasal hawn, u int tħallas għall-privileġġ.

Sorsi: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Iċ-ċifri tal-perplexity huma minn AWQ (arXiv 2306.00978) u GPTQ (arXiv 2210.17323).

05Flash kontra Pro fl-endpoint

It-Taqsima 03 kopriet il-fondazzjonijiet. Hawn kif iż-żewġ livelli jidhru bħala prodotti fuq il-gateway tagħna:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Kwantizzazzjoni	W4A16-AUTOROUND-REAP	3BIT-REAP
Preċiżjoni tal-piżi	4-bit, rounding mgħallem	3-bit
Fondazzjoni (total / attivi)	~304B / 13B	~1.7T / 49B
Dħul għal kull 1M token	$0.50	$1.95
Ħruġ għal kull 1M token	$2.00	$3.90
Kuntest / output massimu	262,144 / 16,384	262,144 / 16,384
Għodod · output strutturat · streaming	Iva	Iva
Viżjoni	Le	Le
Saff ta' rifjut	Xejn	Xejn

Innota dak li ma jinbidilx: il-kuntest, is-saqaf tal-output, is-sejħa ta' għodod, l-output strutturat, u n-nuqqas ta' saff ta' rifjut huma identiċi. L-uniċi affarijiet li jimxu huma l-fondazzjoni, il-kwantizzazzjoni, u l-prezz. Dak jagħmel il-qlib bejniethom bidla ta' string waħda fil-kodiċi tiegħek u deċiżjoni purament ekonomika fl-arkitettura tiegħek.

Kemm tiswa sejħa waħda ta' daqs massimu

Imla l-kuntest sħiħ ta' 262,144-token u ħu l-output sħiħ ta' 16,384-token:

Bil-prezz tal-lista. Flash: $0.131 dħul + $0.033 ħruġ. Pro: $0.511 + $0.064. Proporzjon 3.51×. Flash jaqsam ukoll il-qiegħ ta' $0.50 / $2.00 ma' MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro u Hy3 — ara l-katalgu sħiħ għal kif dawk jiddifferixxu fuq il-viżjoni u l-output strutturat.

06Il-matematika tal-volum, maħduma

"3.9× irħas" hu veru biss fuq id-dħul. Fuq il-ħruġ Flash hi 1.95× irħas. L-iffrankar veru tiegħek għalhekk jiddependi fuq il-proporzjon dħul-ħruġ tiegħek, u l-firxa hi wiesgħa biżżejjed biex tibdel deċiżjonijiet ta' disinn. Erba' xogħlijiet realistiċi, kull wieħed bi 100,000 talba:

Xogħol	Dħul / ħruġ għal kull sejħa	Flash	Pro	Iffrankar
Klassifikazzjoni ta' tickets	1,200 / 120	$84	$281	3.3×
Tweġib ta' mistoqsijiet RAG	8,000 / 600	$520	$1,794	3.4×
Sommarju ta' dokument twil	60,000 / 1,500	$3,300	$12,285	3.7×
Ġenerazzjoni ta' data sintetika	500 / 2,000	$425	$878	2.1×

Il-pattern: iktar ma tgħaddi kuntest u iktar ma tiġġenera anqas test, iktar Flash tiffrankalek. Pipelines ta' rkupru, triage ta' dokumenti, analiżi ta' logs u transkrizzjonijiet, u estrazzjoni b'kuntest twil huma l-punt l-aktar tajjeb — huma dominati mid-dħul b'ordni ta' kobor sħiħ, u d-dħul hu fejn jgħix l-iskont ta' 3.9×. Jekk minflok ix-xogħol tiegħek hu prompt qasir li jipproduċi eluf ta' tokens ta' proża, id-differenza dejqa għal madwar 2× u l-argument tal-kapaċità favur Pro jissaħħaħ b'mod korrispondenti.

Biċċa oħra ta' aritmetika li jistħoqqilha tinżamm f'moħħok: bi $0.50 għal kull miljun token tad-dħul, it-tieqa sħiħa ta' 262,144-token tiswa 13.1 ċenteżmu biex timtela. Il-prompting b'kuntest twil ma jibqax mistoqsija ta' baġit b'dak il-prezz, li kultant ifisser li tista' taqbeż kompletament il-bini ta' saff ta' rkupru u tħalli t-tieqa tal-kuntest tagħmel ix-xogħol — iffrankar tal-inġinerija fuq quċċata tal-iffrankar tat-tokens.

07X'ifisser "bla ċensura" hawn, preċiżament

Il-kelma tintuża b'mod laxk, għalhekk hawn hi d-definizzjoni tagħna, iddikjarata bħala proprjetà tal-endpoint: m'hemm ebda klassifikatur ta' rifjut quddiem il-mudell u ebda filtrar tal-kontenut applikat għall-output tiegħu. Xejn ma jinterċetta prompt u jroddi rifjut ippreparat minn qabel; xejn ma jispezzjona t-tweġiba u jħassarha. Għal xogħol ta' produzzjoni ta' volum għoli, il-konsegwenzi huma anqas drammatiċi u aktar utli milli l-kelma tissuġġerixxi:

• Ebda pożittiv falz fuq traffiku ta' bla ħsara. Endpoints iffiltrati regolarment jirrifjutaw sommarji mediċi, kitba dwar is-sigurtà, dixxiplina legali, fiction, materjal ta' tnaqqis tal-ħsara u anke x-xogħol tal-moderazzjoni nnifsu — eżattament il-kategoriji fejn xogħol bl-ingrossa qed jipproċessa test dwar suġġett sensittiv minflok jipproduċi xi ħaġa ta' ħsara. F'mitt elf talba, rata ta' rifjut falz ta' wieħed fil-mija hi elf ringiela mkissra.
• Kuntratti deterministiċi. Itlob tweġiba json_schema u tikseb JSON li jaqbel mal-iskema, mhux paragrafu ta' skuża fejn kellu jkun hemm oġġett. Il-parser tiegħek m'għandu bżonn ebda fergħa ta' rifjut, u l-loġika tar-retry tiegħek m'għandhiex għalfejn tiddistingwi bejn falliment tat-trasport u wieħed tal-politika.
• Il-politika hi tiegħek. Dak hu t-tradeoff. Jekk il-prodott tiegħek jeħtieġ protezzjonijiet għall-utenti finali tiegħek, tibnihom fis-saff tiegħek stess, fejn taf lill-utenti u l-ġurisdizzjoni tiegħek, minflok tiret it-tħaddin ta' fornitur dwar it-tnejn. Il-kont tiegħek jibqa' regolat mill-Politika ta' Użu Responsabbli tagħna.

Bla ċensura mhux l-istess bħal mhux allinjat jew mhux ta' għajnuna. Il-mudell xorta jsegwi l-istruzzjonijiet u xorta jirrispetta system prompt. Jekk trid li jirrifjuta ċerti kategoriji għall-utenti tiegħek, għidlu hemm — dik l-istruzzjoni issa hi tiegħek biex tiktibha minflok tagħna biex nimponuha.

08Kapaċitajiet u limiti onesti

Żewġ kapaċitajiet iġorru l-biċċa l-kbira tal-piż għax-xogħol ta' volum. Output strett b'json_schema idawwar tweġiba f'ringiela ta' database mingħajr saff ta' parsing u mingħajr fergħa ta' rifjut. Sejħa ta' għodod fit-tliet djaletti kollha tagħmel lil Flash magna sensibbli għas-sub-passi rħas ta' aġent li l-pjanifikatur ewlieni tiegħu jaħdem fuq mudell aktar b'saħħtu. Żid reasoning_effort, li jħallik tonfoq tokens żejda biss fuq il-frazzjoni tat-traffiku li teħtieġhom, u kuntest ta' 262,144-token identiku għal dak ta' Pro — ma ċċedix kuntest billi tagħżel il-livell irħis, li mhuwiex tas-soltu.

Il-limiti huma ugwalment konkreti:

• Ebda viżjoni. Flash hi test biss u tirrifjuta partijiet ta' immaġni f'messaġġ. Għal immaġni fuq mudell bla ċensura bl-istess qiegħ ta' $0.50 / $2.00, MiniMax-M3 u MiMo-V2.5 huma l-għażliet li jaraw; Kimi-K2.6 u Kimi-K3 huma mudelli tal-viżjoni aktar b'saħħithom 'il fuq minn dak il-livell.
• Mhux fil-quċċata tas-sellum. Iċ-ċifri stess ta' DeepSeek jqiegħdu lil Pro quddiem fuq kull benchmark aġentiku ppubblikat, bid-differenza l-aktar wiesgħa fuq raġunament tal-kodiċi sostnut b'ħafna passi. Fejn tweġiba waħda ħażina tiswa aktar minn elf waħda rħisa, onfoq l-$1.45 żejda għal kull miljun fuq DeepSeek-V4-Pro.
• 16,384 token ta' output għal kull talba. Ġenerazzjonijiet twal iridu jinqasmu bejn sejħiet. Dan hu l-istess saqaf fuq kull mudell li nservu, u jorbot ħafna qabel ma tagħmel it-tieqa tal-kuntest.

09Sejjaħlu

Indika kwalunkwe klijent kompatibbli ma' OpenAI lejn il-gateway u biddel l-istring tal-mudell. Xejn aktar fl-istack tiegħek ma jrid jinbidel.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

L-istess id tal-mudell taħdem mingħajr tibdil fuq /v1/messages u /v1/responses, li hi l-aktar mod mgħaġġel biex tagħmel A/B ta' mudell irħas taħt integrazzjoni eżistenti mingħajr ma tikteb mill-ġdid il-klijent tiegħek. Il-parametri, il-forom tal-avvenimenti tal-streaming, l-iskemi tas-sejħa ta' għodod u l-limiti tar-rata huma dokumentati fir-referenza tal-API; kull mudell fil-katalgu hu elenkat fuq Shannon Research.

10Mistoqsijiet frekwenti

---

Sorsi: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Rapport Tekniku ta' DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · karti mudell ta' DeepSeek-V4-Flash-0731 u DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Iċ-ċifri kollha tal-fondazzjoni u tal-benchmarks huma kif ippubblikati mill-awturi rispettivi tagħhom; il-prezzijiet ta' Shannon AI u l-kuntest servut huma l-valuri tal-lista tagħna stess mis-Settembru 2026.