API DeepSeek Flash heb sensoriaeth

Mae'r rhan fwyaf o dimau sy'n gwerthuso API LLM yn optimeiddio'r newidyn anghywir. Maent yn meincnodi ar yr ugain anogwr anoddaf y gallant feddwl amdanynt, yn dewis yr enillydd, ac yn darganfod chwe wythnos yn ddiweddarach fod naw deg pump y cant o'u traffig yn waith byr, strwythuredig, ailadroddus y byddai model chwarter y pris wedi'i drin yn union yr un fath. Mae DeepSeek-V4-Flash yn bodoli ar gyfer y naw deg pump y cant hwnnw. Mae'r dudalen hon yn ymwneud â gwybod pryd rydych ynddo — a phryd nad ydych.

01Beth rydych yn ei gael mewn gwirionedd

Priodwedd	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
ID model	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Cyd-destun / allbwn mwyaf	262,144 tocyn / 16,384 tocyn
Pris fesul 1M (mewnbwn / allbwn)	$0.50 / $2.00
Ffrydio · galw offer · rhesymu	Ie — y tair tafodiaith
Allbwn strwythuredig	json_schema a response_format
Mewnbwn delwedd (gweledol)	Na — testun yn unig
Haen wrthod / hidlydd allbwn	Dim
Gwasanaethir ar	Clwstwr GPU Shannon ei hun

Mae tair tafodiaith API yn cyrraedd yr un pwysau: /v1/chat/completions (ar ffurf OpenAI), /v1/messages (ar ffurf Anthropic), a /v1/responses. Mae ffrydio'n gweithio ar y tair. Mae'r cyfeirlyfr paramedrau llawn yn y ddogfennaeth API.

02O ble mae'n dod: llinach DeepSeek

Mae DeepSeek-AI wedi treulio pum cenhedlaeth o fodelau ar un obsesiwn: cael ymddygiad ffiniol allan o fodel sy'n rhad i'w wasanaethu, nid dim ond yn rhad i'w hyfforddi. Mae bron pob penderfyniad pensaernïol yn y llinach yn olrhain yn ôl at hynny, ac mae'r rhai pwysig wedi'u cyhoeddi. Mae tri yn esbonio beth rydych yn ei alw pan drawwch y pwynt terfyn hwn.

DeepSeekMoE — arbenigwyr mân ynghyd ag un a rennir

Mae haen Cymysgedd o Arbenigwyr yn disodli un rhwydwaith bwydo-ymlaen mawr â llawer o rai llai a llwybrydd sy'n dewis llond llaw fesul tocyn. Mae amrywiad DeepSeek yn sleisio arbenigwyr yn fanach na'r cynllun wyth-arbenigwr confensiynol, felly mae'r un FLOPau actif yn prynu cymysgedd llawer mwy penodol yn gyfuniadol, ac mae'n ynysu arbenigwr a rennir y mae pob tocyn yn mynd drwyddo, fel nad yw gwybodaeth gyffredin yn cael ei hailddysgu'n ddiangen o fewn pob arbenigwr. Cludodd DeepSeek-V3 hynny fel 256 arbenigwr wedi'u llwybro ynghyd ag 1 arbenigwr a rennir, gan actifadu 8 wedi'u llwybro fesul tocyn — 671B paramedr cyfan, 37B yn actif — ynghyd â chydbwyso llwyth heb golled ategol: yn hytrach na therm cosb sy'n diraddio ansawdd, mae gogwydd fesul arbenigwr yn gwthio sgorau llwybro i fyny neu i lawr bob cam wrth i'r arbenigwr hwnnw redeg dan-lwyth neu or-lwyth.

MLA — sylw sy'n ffitio yn y cof

Hanner arall problem cost gwasanaethu yw'r storfa KV, sy'n tyfu'n llinol gyda chyd-destun ac yn dominyddu'r cof ar hyd dilyniannau hir. Mae Multi-head Latent Attention, a gyflwynwyd yn DeepSeek-V2, yn cywasgu allweddi a gwerthoedd gyda'i gilydd i mewn i fector cudd rheng isel ac yn storio hwnnw, gan ailadeiladu K/V defnyddiadwy ar y hedfan. Mae ffigurau V2 cyhoeddedig DeepSeek, yn erbyn eu DeepSeek 67B dwys cynharach, yn adrodd gostyngiad o 93.3% yn y storfa KV a throsglwyddiad cynhyrchu mwyaf 5.76× yn uwch. Dyna pam mae ffenestr 262K tocyn yn ddisgwyliad sylfaenol yn y teulu hwn yn hytrach nag ychwanegiad premiwm.

Sylw tenau — a'r cynsail dros docynnau rhad

Ychwanegodd V3.2-Exp DeepSeek Sparse Attention: mae mynegeiwr ysgafn yn sgorio tocynnau'r cyd-destun yn erbyn yr ymholiad, ac mae dewisydd yn cadw'r rhai â'r sgorau uchaf yn unig. Y rhan ddiddorol yw'r dderbynneb, nid y mecanwaith. Cyhoeddodd DeepSeek gymhariaeth ochr yn ochr â V3.1-Terminus gyda MMLU-Pro yn union yr un fath ar 85.0, AIME 2025 i fyny (88.4 → 89.3), SWE-bench Verified i lawr ychydig (68.4 → 67.8) — ansawdd yn wastad yn ei hanfod — a thorrodd eu prisiau API fwy na 50% yr un diwrnod. Pensaernïaeth, wedi'i hadrodd yn onest, yn troi'n uniongyrchol yn bris. Flash yw'r ddadl honno wedi'i chymryd un cam ymhellach.

Cenhedlaeth V4

Mae V4, a ragolygwyd ym mis Ebrill 2026 o dan drwydded MIT, yn disodli'r pentwr sylw eto â hybrid o Compressed Sparse Attention a Heavily Compressed Attention, yn hyfforddi gyda'r optimeiddiwr Muon ar fwy na 32T o docynnau, ac yn cadw amcan rhagfynegi aml-docyn V3 — sydd hefyd yn gweithredu fel datgodio hapfasnachol, ac a fesurodd DeepSeek ar gyfradd derbyn ail docyn o 85–90% am gyflymiad datgodio o oddeutu 1.8× yn V3. Mae crynodeb V4 yn adrodd bod V4-Pro yn rhedeg ar 27% o FLOPau casglu un-tocyn V3.2 a 10% o'i storfa KV. Mae'r teulu'n datgelu tair lefel ymdrech rhesymu, sef yr hyn y mae ein paramedr reasoning_effort yn mapio arno.

Ffynonellau: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Adroddiad Technegol DeepSeek-V3 (arXiv 2412.19437) · cerdyn model DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Mae'r holl ffigurau wedi'u hadrodd gan DeepSeek.

03Beth mae ‘Flash’ yn ei olygu mewn gwirionedd

Dyma'r pwynt y mae'r rhan fwyaf o gymariaethau'n ei gamddeall, felly mae'n werth ei ddweud yn blaen: nid Pro wedi'i gwanteiddio, ei docio na'i ddistyllu yw Flash DeepSeek. Model Cymysgedd o Arbenigwyr llai, wedi'i hyfforddi ar wahân gyda'i rediad rhag-hyfforddi ei hun, ydyw. Mae papur rhagolwg V4 yn rhoi'r ddau faint:

Ffigurau o bapur rhagolwg DeepSeek-V4. Mae'r pwyntiau gwirio swyddogol a wasanaethwn — V4-Flash-0731 a V4-Pro-0813 — yn rhestru cyfansymiau ychydig yn fwy, sef 304B ac 1.7T, ar eu cardiau model; nid yw DeepSeek yn ailddatgan paramedrau actif ar gyfer yr adeiladweithiau hynny.

Dau rif sy'n gwneud y gwaith yma. Mae paramedrau cyfan yn gosod ôl troed y cof, sy'n penderfynu faint o galedwedd y mae un copi o'r model yn ei feddiannu. Mae paramedrau actif yn gosod y rhifyddeg fesul tocyn, sy'n penderfynu'r trwybwn. Mae Flash oddeutu 5.6× yn llai ar y cyntaf a 3.8× yn llai ar yr ail — ac mae cynildeb gwerth sylwi arno yn y bwlch hwnnw: mae Flash yn actifadu 13 o 284 biliwn paramedr, tua 4.6%, tra bod Pro yn actifadu 49 o 1,600 biliwn, tua 3.1%. Flash yw'r model llai tenau. Nid Pro gyda llai o arbenigwyr wedi'u troi ymlaen mohono; cynllun dwysach, wedi'i gydbwyso'n wahanol, sy'n gwario cyfran fwy ohono'i hun ar bob tocyn a gynhyrcha. Dewis peirianyddol go iawn yw hynny, nid israddiad.

Beth mae ffigurau DeepSeek ei hun yn ei ddweud

Mae'r ddau gerdyn model swyddogol yn cyhoeddi sgorau ar yr un meincnodau asiantaidd a pheirianneg meddalwedd, sy'n gwneud hon yn gymhariaeth anarferol o lân — yr un labordy, yr un harnais gwerthuso, dau faint:

Meincnod (a adroddwyd gan DeepSeek)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Mae Pro yn ennill pob rhes. Dyna'r pennawd gonest, a byddai'n well gennym i chi ei ddarllen yma na'i ddarganfod mewn cynhyrchiad. Ond darllenwch y gwahaniaethau, oherwydd dyna beth rydych yn ei brynu mewn gwirionedd. Ar Terminal Bench 2.1 mae'r bwlch yn 5.2 pwynt ar fodel sydd â phumed ar hugain o'r paramedrau; ar ddefnyddio offer mae'n 3.8 pwynt. Mae'r bwlch yn lledu lle mae'r gwaith ddyfnaf — 8.3 pwynt ar DeepSWE, 7.3 ar NL2Repo, y ddau'n gwobrwyo rhesymu cod aml-gam parhaus. Dyna siâp y fargen mewn un tabl: mae Flash yn cau'r rhan fwyaf o'r pellter ar dasgau ffiniedig ac yn ildio tir ar rai penagored.

Mae cerdyn Flash DeepSeek ei hun yn gwneud y pwynt yn fwy miniog fyth: mae Flash-0731 yn rhagori ar ragolwg V4-Pro ar y meincnodau a restrir er gwaethaf ei gyfrif paramedrau actif llawer llai. Mae model bach mwy newydd yn curo un mawr hŷn yn gyflwr arferol yn y maes hwn, a dyna'r rheswm na ddylai ‘haen fwy’ byth fod yn ateb diofyn i chi.

04Darllen yr ôl-ddodiad: W4A16-AUTOROUND-REAP

Mae ein IDau model yn datgan eu cynllun cywasgu'n uchel, oherwydd dyna'r peth sy'n effeithio fwyaf ar ansawdd allbwn a bron nad oes neb yn ei ddatgelu. Mae hwn yn datod yn dri honiad.

W4A16 — pwysau 4 did, actifadu 16 did

Storir pwysau ar 4 did yr un; mae actifadu'n llifo drwodd ar fanwlder 16 did. Cwanteiddio pwysau-yn-unig yw hyn, ac mae'n targedu'r gwir dagfa mewn cynhyrchu tocynnau, sef lled band y cof yn hytrach na rhifyddeg. Byddai cwanteiddio'r actifadu hefyd yn prynu ychydig mwy o gyflymder ac yn peryglu clogwyn cywirdeb llawer mwy; eu gadael ar 16 did yw'r dewis ceidwadol, ffyddlondeb uchel. Llaw-fer yr ecosystem gwasanaethu yw'r nodiant — mae'r llenyddiaeth cwanteiddio'n ysgrifennu'r un peth fel W4 gyda maint grŵp.

AUTOROUND — talgrynnu dysgedig, nid talgrynnu at yr agosaf

Mae cwanteiddio naïf yn talgrynnu pob pwysau at y gwerth cynrychioladwy agosaf. Nid yw hynny'n optimaidd, fel y gellir ei ddangos: gall talgrynnu un pwysau'r ffordd ‘anghywir’ ganslo gwall a gyflwynwyd gan ei gymdogion, a chyda biliynau o bwysau mae'r rhyngweithiadau hynny'n dominyddu. Mae AutoRound, gan Intel, yn trin y penderfyniad talgrynnu ei hun fel rhywbeth i'w ddysgu — aflonyddiad hyfforddadwy fesul pwysau wedi'i gyfyngu i ±0.5, sef digon yn union i droi unrhyw un penderfyniad talgrynnu a byth mwy, ynghyd ag amrediadau clipio dysgadwy, wedi'i optimeiddio drwy ddisgyniad graddiant arwyddedig yn erbyn amcan ailadeiladu allbwn fesul bloc dros set raddnodi fach. Dau gan cam, ac wedyn ar ben.

Mae cymariaethau cyhoeddedig Intel yn dangos AutoRound yn curo GPTQ mewn 30 o 32 senario a brofwyd, AWQ mewn 27 o 32 ac OmniQuant mewn 29 o 32 ar osodiadau pwysau-yn-unig 4 did, gydag enillion dros dalgrynnu-at-yr-agosaf naïf o 6.9 i 33.2 pwynt cywirdeb ar 2 did. Nid yw dim ohono'n costio unrhyw beth adeg casglu: dewis gwell o rifau ydyw, wedi'i wneud unwaith, all-lein.

REAP — gollwng arbenigwyr nad oes neb yn llwybro atynt

Mae REAP (Tocio Actifadu Arbenigwyr wedi'i Bwysoli gan y Llwybrydd), gan Cerebras Systems a Phrifysgol Calgary, yn gywasgu un-ergyd ar gyfer modelau MoE. Mae'n sgorio pob arbenigwr yn ôl pa mor gryf a pha mor aml y mae'r llwybrydd yn giatio ato, wedi'i luosi â maint allbwn yr arbenigwr hwnnw, ac wedyn yn dileu'r arbenigwyr lleiaf arwyddocaol yn llwyr — dim ailhyfforddi wedyn.

Canfyddiad canolog y papur yw'r un defnyddiol: ar gymarebau cywasgu uchel, mae tocio arbenigwyr yn curo eu cyfuno. Mae cyfuno arbenigwyr swyddogaethol wahanol yn achosi'r hyn y mae'r awduron yn ei alw'n gwymp is-ofod swyddogaethol — mae'r llwybrydd yn colli'r rheolaeth fanwl, sy'n dibynnu ar y mewnbwn, a wnaeth yr MoE'n werth ei adeiladu, ac fe'i gedir yn llywio rhwng cyfartaleddau statig. Eu ffigurau ar draws modelau o 20B i 1T paramedr: ar gywasgu arbenigwyr o 25% ar dasgau codio, mae REAP yn colli 2.8% o gywirdeb cymedrig lle mae llinellau sylfaen cyfuno'n colli dros 5%; ar 50%, mae REAP yn colli 8.0% lle mae cyfuno'n colli dros 20%. Ar Qwen3-Coder-480B ar docio 50% mae'r gostyngiad yn 1.4%, o gymharu â 39.3% ar gyfer tocio naïf yn seiliedig ar amlder. Mae Cerebras wedi cyhoeddi pwyntiau gwirio REAP ar gyfer llinach DeepSeek ymhlith eraill.

Pam 4 did yma a 3 did ar Pro

Rhaid i'r ddwy haen ffitio ac aros yn gyflym ar yr un dosbarth caledwedd. Mae Pro yn cario 1.7 triliwn paramedr, felly mae angen y driniaeth 3 did fwy ymosodol arno i ffitio o gwbl. Mae Flash yn cario oddeutu 300 biliwn, felly nid oes ei hangen — ac mae'r did y mae'n ei arbed yn cael ei wario ar ffyddlondeb yn lle ar ffitio.

Mae'r did ychwanegol hwnnw'n bwysicach nag y mae'r rhifyddeg yn ei awgrymu, oherwydd nid yw difrod cwanteiddio'n llinol. Ym mesuriadau WikiText-2 papur AWQ, mae Llama-2-7B yn mynd o ddryswch o 5.47 ar FP16 i 5.60 ar 4 did — cosb o 2.4% — ond i 6.24 ar 3 did, cosb o 14%. Mae hynny oddeutu chwe gwaith y dirywiad am 25% yn fwy o gywasgu, ac mae'r un patrwm yn dal ar 70B. Mae papur GPTQ yn fwy plaen fyth: ar 3 did, mae talgrynnu-at-yr-agosaf naïf yn cwympo ar fodelau dosbarth 175B, i filoedd o ddryswch, tra'n aros yn berffaith ddefnyddiadwy ar 4 did. O dan bedwar did, mae algorithm cwanteiddio da'n peidio â bod yn foethusrwydd ac yn dod yr unig beth sy'n dal y model at ei gilydd.

Felly darlleniad gonest y ddau ôl-ddodiad hyn yw: mae Flash yn eistedd yn agosach at ei hunan heb ei gywasgu nag y mae Pro at ei hunan yntau. Pro yw'r model cryfach o hyd — mae'r tabl meincnodau uchod yn setlo hynny. Yn syml, fe ildiodd fwy i gyrraedd yma, ac rydych yn talu am y fraint.

Ffynonellau: AutoRound — ‘Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs’ (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — ‘REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression’ (arXiv 2510.13999), Cerebras Systems. Ffigurau dryswch o AWQ (arXiv 2306.00978) a GPTQ (arXiv 2210.17323).

05Flash yn erbyn Pro ar y pwynt terfyn

Roedd adran 03 yn ymdrin â'r sylfeini. Dyma sut olwg sydd ar y ddwy haen fel cynhyrchion ar ein porth:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Cwanteiddio	W4A16-AUTOROUND-REAP	3BIT-REAP
Manwlder pwysau	4 did, talgrynnu dysgedig	3 did
Sylfaen (cyfan / actif)	~304B / 13B	~1.7T / 49B
Mewnbwn fesul 1M tocyn	$0.50	$1.95
Allbwn fesul 1M tocyn	$2.00	$3.90
Cyd-destun / allbwn mwyaf	262,144 / 16,384	262,144 / 16,384
Offer · allbwn strwythuredig · ffrydio	Ie	Ie
Gweledol	Na	Na
Haen wrthod	Dim	Dim

Sylwch beth nad yw'n newid: mae cyd-destun, nenfwd allbwn, galw offer, allbwn strwythuredig, ac absenoldeb haen wrthod yn union yr un fath. Yr unig bethau sy'n symud yw'r sylfaen, y cwanteiddio, a'r pris. Mae hynny'n gwneud newid rhyngddynt yn newid un llinyn yn eich cod ac yn benderfyniad economaidd pur yn eich pensaernïaeth.

Beth mae un alwad maint mwyaf yn ei gostio

Llenwch y cyd-destun 262,144 tocyn cyfan a chymryd yr allbwn llawn o 16,384 tocyn:

Ar bris rhestr. Flash: $0.131 mewnbwn + $0.033 allbwn. Pro: $0.511 + $0.064. Cymhareb 3.51×. Mae Flash hefyd yn rhannu'r llawr $0.50 / $2.00 gyda MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro a Hy3 — gweler y catalog llawn am sut mae'r rheini'n gwahaniaethu ar weledol ac allbwn strwythuredig.

06Mathemateg y cyfaint, wedi'i gweithio allan

Dim ond ar fewnbwn y mae ‘3.9× yn rhatach’ yn wir. Ar allbwn mae Flash 1.95× yn rhatach. Mae eich gwir arbediad felly'n dibynnu ar eich cymhareb mewnbwn-i-allbwn, ac mae'r lledaeniad yn ddigon eang i newid penderfyniadau dylunio. Pedwar llwyth gwaith realistig, pob un ar 100,000 o geisiadau:

Llwyth gwaith	I mewn / allan fesul galwad	Flash	Pro	Arbediad
Dosbarthu tocynnau cymorth	1,200 / 120	$84	$281	3.3×
Ateb cwestiynau RAG	8,000 / 600	$520	$1,794	3.4×
Crynodeb dogfen hir	60,000 / 1,500	$3,300	$12,285	3.7×
Cynhyrchu data synthetig	500 / 2,000	$425	$878	2.1×

Y patrwm: po fwyaf o gyd-destun rydych yn ei wthio a'r lleiaf o destun rydych yn ei gynhyrchu, y mwyaf y mae Flash yn ei arbed i chi. Piblinellau adalw, didoli dogfennau, dadansoddi logiau a thrawsgrifiadau, ac echdynnu cyd-destun hir yw'r man melys — maent yn cael eu dominyddu gan fewnbwn o drefn maint, a'r mewnbwn yw lle mae'r disgownt 3.9× yn byw. Os yw eich llwyth gwaith yn anogwr byr sy'n cynhyrchu miloedd o docynnau o ryddiaith yn lle hynny, mae'r bwlch yn culhau i oddeutu 2× ac mae'r ddadl alluogrwydd dros Pro'n cryfhau'n gyfatebol.

Un darn arall o rifyddeg sy'n werth ei fewnoli: ar $0.50 fesul miliwn o docynnau mewnbwn, mae llenwi'r ffenestr 262,144 tocyn gyfan yn costio 13.1 sent. Mae annog cyd-destun hir yn peidio â bod yn gwestiwn cyllideb ar y pris hwnnw, sydd weithiau'n golygu y gallwch hepgor adeiladu haen adalw'n gyfan gwbl a gadael i'r ffenestr cyd-destun wneud y gwaith — arbediad peirianyddol ar ben yr arbediad tocynnau.

07Beth yn union mae ‘heb sensoriaeth’ yn ei olygu yma

Defnyddir y gair yn llac, felly dyma ein diffiniad, wedi'i ddatgan fel priodwedd o'r pwynt terfyn: nid oes dosbarthydd gwrthod o flaen y model ac nid oes hidlo cynnwys yn cael ei gymhwyso i'w allbwn. Nid oes dim yn rhyng-gipio anogwr ac yn dychwelyd gwrthodiad tun; nid oes dim yn archwilio'r cwblhad ac yn ei olygu. Ar gyfer gwaith cynhyrchu cyfaint uchel mae'r canlyniadau'n llai dramatig ac yn fwy defnyddiol nag y mae'r gair yn ei awgrymu:

• Dim positifau ffug ar draffig diniwed. Mae pwyntiau terfyn wedi'u hidlo'n gwrthod crynodebau meddygol, adroddiadau diogelwch, darganfod cyfreithiol, ffuglen, deunydd lleihau niwed a gwaith cymedroli ei hun yn rheolaidd — sef yn union y categorïau lle mae swydd swp yn prosesu testun am bwnc sensitif yn hytrach na chynhyrchu unrhyw beth niweidiol. Ar gan mil o geisiadau, mae cyfradd gwrthod ffug o un y cant yn fil o resi wedi torri.
• Contractau penderfynadwy. Gofynnwch am ymateb json_schema ac fe gewch JSON sy'n cyfateb i'r sgema, nid paragraff o ymddiheuriad lle dylai gwrthrych fod. Nid oes angen cangen wrthod ar eich dosrannwr, ac nid oes rhaid i'ch rhesymeg ailgeisio wahaniaethu rhwng methiant cludiant ac un polisi.
• Chi sy'n berchen ar y polisi. Dyna'r fargen. Os oes angen rheiliau diogelwch ar eich cynnyrch ar gyfer eich defnyddwyr terfynol, rydych yn eu hadeiladu ar eich haen chi, lle rydych yn adnabod eich defnyddwyr a'ch awdurdodaeth, yn lle etifeddu dyfaliadau darparwr am y ddau. Mae eich cyfrif yn parhau i gael ei lywodraethu gan ein Polisi Defnydd Cyfrifol.

Nid yw ‘heb sensoriaeth’ yr un peth â heb ei alinio nac yn anghymwynasgar. Mae'r model yn dal i ddilyn cyfarwyddiadau ac yn dal i barchu anogwr system. Os ydych am iddo wrthod rhai categorïau ar gyfer eich defnyddwyr chi, dywedwch hynny yno — eich cyfarwyddyd chi i'w ysgrifennu yw hwnnw bellach, nid ein un ni i'w orfodi.

08Galluoedd a therfynau gonest

Mae dau allu'n cario'r rhan fwyaf o'r pwysau ar gyfer gwaith cyfaint. Mae allbwn json_schema llym yn troi cwblhad yn rhes cronfa ddata heb haen ddosrannu a heb gangen wrthod. Mae galw offer yn y tair tafodiaith yn gwneud Flash yn beiriant synhwyrol ar gyfer is-gamau rhad asiant y mae ei gynlluniwr lefel uchaf yn rhedeg ar fodel cryfach. Ychwanegwch reasoning_effort, sy'n gadael i chi wario tocynnau ychwanegol ar y gyfran o draffig sydd eu hangen yn unig, a chyd-destun 262,144 tocyn sy'n union yr un fath ag un Pro — nid ydych yn ildio cyd-destun drwy ddewis yr haen rad, sy'n anarferol.

Mae'r terfynau'r un mor bendant:

• Dim gweledol. Testun yn unig yw Flash a bydd yn gwrthod rhannau delwedd mewn neges. Ar gyfer delweddau ar fodel heb sensoriaeth am yr un llawr $0.50 / $2.00, MiniMax-M3 a MiMo-V2.5 yw'r dewisiadau gweledol; mae Kimi-K2.6 a Kimi-K3 yn fodelau gweledol cryfach uwchlaw'r haen honno.
• Nid brig yr ysgol. Mae ffigurau DeepSeek ei hun yn rhoi Pro ar y blaen ar bob meincnod asiantaidd cyhoeddedig, gyda'r bwlch ehangaf ar resymu cod aml-gam parhaus. Lle mae un ateb anghywir yn costio mwy na mil o rai rhad, gwariwch y $1.45 ychwanegol fesul miliwn ar DeepSeek-V4-Pro.
• 16,384 tocyn allbwn fesul cais. Rhaid rhannu cynhyrchiadau hir yn ddarnau ar draws galwadau. Dyma'r un nenfwd ar bob model a wasanaethwn, ac mae'n rhwymo ymhell cyn i'r ffenestr cyd-destun wneud.

09Ei alw

Pwyntiwch unrhyw gleient cydnaws ag OpenAI at y porth a newidiwch y llinyn model. Nid oes rhaid i ddim arall yn eich pentwr symud.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Mae'r un ID model yn gweithio'n ddigyfnewid ar /v1/messages a /v1/responses, sef y ffordd gyflymaf o roi prawf A/B ar fodel rhatach o dan integreiddiad presennol heb ailysgrifennu eich cleient. Mae paramedrau, siapiau digwyddiadau ffrydio, sgemâu galw offer a therfynau cyfradd wedi'u dogfennu yn y cyfeirlyfr API; mae pob model yn y catalog wedi'i restru yn Ymchwil Shannon.

10Cwestiynau cyffredin

---

Ffynonellau: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Adroddiad Technegol DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · cardiau model DeepSeek-V4-Flash-0731 a DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Mae'r holl ffigurau sylfaen a meincnod fel y'u cyhoeddwyd gan eu hawduron priodol; gwerthoedd rhestr ein hunain yw prisiau Shannon AI a'r cyd-destun a wasanaethir, yn gyfredol hyd at Fedi 2026.