Yr API DeepSeek Heb Sensoriaeth
Cymysgedd o Arbenigwyr DeepSeek 1.6 triliwn paramedr wedi'i wasanaethu heb haen wrthod: cyd-destun 262K, ymdrech resymu frodorol, galw offer, a thair tafodiaith API ar ein clwstwr GPU ein hunain.
TL;DR
DeepSeek-V4-Pro-0813-3BIT-REAP yw model blaenllaw rhesymu a chod rhes heb sensoriaeth Shannon AI. Y sylfaen yw V4-Pro pwysau agored DeepSeek-AI — 1.6T o baramedrau cyfan, 49B wedi'u hactifadu fesul tocyn, trwyddedig MIT, wedi'i hyfforddi'n frodorol ar gyfer cyd-destun miliwn tocyn. Rydym yn ei wasanaethu ar ein clwstwr GPU ein hunain ar bwysau 3-did gyda thocio arbenigwyr REAP, gyda ffenestr 262,144 tocyn, allbwn mwyaf o 16,384 tocyn, ffrydio, galw offer brodorol, allbwn json_schema llym, a deial reasoning_effort. $1.95 fesul 1M mewnbwn, $3.90 fesul 1M allbwn. Dim gweledol. Dim haen wrthod, dim hidlo allbwn.
Mae pobl sy'n cyrraedd yr ymadrodd ‘API DeepSeek heb sensoriaeth’ eisiau un peth penodol: model â gallu rhesymu a chodio DeepSeek sy'n ateb y cwestiwn a ofynnwyd ganddynt mewn gwirionedd. Mae'r hanner gallu wedi'i ddogfennu'n dda — cyhoeddodd DeepSeek-AI y bensaernïaeth a'r rhifau, ac mae'r pwysau ar Hugging Face o dan MIT. Penderfyniad gweithredu yw'r ail hanner, ac fel arfer caiff ei wneud ar eich rhan. Mae'r dudalen hon yn ymdrin â'r ddau: beth yw sylfaen V4-Pro, beth mae ein hadeiladwaith 3BIT-REAP yn ei wneud iddi, ac yn union beth mae ‘heb sensoriaeth’ yn ei olygu pan ddywedwn ni hynny.
01Beth mae ‘API DeepSeek heb sensoriaeth’ yn ei olygu mewn gwirionedd
Mae dau fecanwaith gwahanol yn cael eu ffeilio o dan yr un gair. Y cyntaf yw aliniad wedi'i bobi i mewn i'r pwysau — ymddygiad gwrthod a ddysgwyd yn ystod ôl-hyfforddi. Yr ail yw haen gymedroli ochr y gweinydd: dosbarthydd ar wahân sy'n archwilio eich anogaeth cyn i'r model ei gweld a'r allbwn cyn i chi ei weld, ac a all dorri ymateb i ffwrdd yng nghanol brawddeg waeth beth roedd y model am ei ddweud.
Mae'r ddau'n fesuradwy, ac mae gwasanaeth cyntaf-parti DeepSeek wedi cael ei fesur. Casglodd Promptfoo set o 1,360 anogaeth o gwestiynau gwleidyddol sensitif ac adroddodd fod R1 a westeiwyd gan DeepSeek wedi gwrthod neu ochrgamu 1,156 ohonynt — tua 85%. Canfu gwaith academaidd ar yr un teulu fodd methu penodol a alwodd yr awduron yn atal meddwl, lle mae olrhain rhesymu'r model yn dod i ben bron cyn gynted ag y mae'n dechrau ar bwnc sensitif. Dogfennodd archwiliad ar wahân a gyhoeddwyd yn Information Sciences atal ar lefel semantig: cynnwys sy'n bresennol yn rhesymu mewnol y model sy'n cael ei hepgor neu ei ailysgrifennu'n dawel cyn iddo gyrraedd y defnyddiwr. Mae hynny'n broblem anos na gwrthodiad plaen, am fod ateb wedi'i docio'n edrych fel ateb.
Yr hyn rydym ni'n ei redeg yw'r rhyddhad pwysau agored, ar galedwedd rydym ni'n ei weithredu, yn yr Unol Daleithiau, o dan Shannon Lab LLC. Nid oes haen wrthod o flaen y model a dim hidlydd wedi'i gymhwyso i'r hyn sy'n dod yn ôl: nid yw eich anogaeth yn cael ei dosbarthu ar gyfer polisi cyn iddi gael ei gwasanaethu, ac nid yw'r ffrwd allbwn yn cael ei harchwilio ar ei ffordd allan. Am fod y sylfaen yn drwyddedig MIT ac yn gyhoeddus, gallwch gymharu ein hallbynnau â'r pwysau cyfeirio eich hun yn hytrach na chymryd ein gair ni.
02Y sylfaen: DeepSeek-V4-Pro, MoE 1.6T
DeepSeek-V4 yw teulu pwysau agored cyfredol DeepSeek-AI, a ragolygwyd ym mis Ebrill 2026 ac a ryddhawyd o dan MIT mewn dau faint: V4-Flash (284B cyfan, 13B wedi'u hactifadu) a V4-Pro (1.6T cyfan, 49B wedi'u hactifadu). Am yr haen Pro y mae'r erthygl hon. Cafodd y ddau eu rhag-hyfforddi ar tua 33 triliwn o docynnau ac mae'r ddau'n cefnogi cyd-destun miliwn tocyn yn frodorol.
Y gymhareb teneurwydd yw'r peth i sylwi arno: dim ond tua 3% o'r paramedrau sy'n tanio ar unrhyw docyn penodol, sef yr hyn sy'n gwneud model mor fawr â hyn yn wasanaethadwy o gwbl. Mae'r bloc MoE ei hun yn dal i fod yn DeepSeekMoE — yr arbenigwyr llwybredig manwl ynghyd â'r arbenigwyr a rennir sydd bob amser ymlaen a gyflwynwyd yn V2 — gyda dim ond newidiadau bach yn V4, yn fwyaf gweladwy llwybro hais yn y haenau cynharaf. Cedwir Multi-Token Prediction, amcan ategol V3 sydd hefyd yn galluogi dadgodio rhagfynegol, yn ddigyfnewid.
Mae'r darnau newydd yn V4 yn strwythurol. Mae Manifold-Constrained Hyper-Connections (mHC) yn disodli'r llwybr gweddillol plaen â matrics cymysgu a ddysgwyd wedi'i gyfyngu ar faniffold matricsau dwbl stochastig drwy dafluniad Sinkhorn–Knopp — ffrwd weddillol sy'n ailbwysoli fesul mewnbwn heb y crwydro rhifiadol sy'n lladd pentyrrau dwfn iawn. Symudodd yr hyfforddi oddi ar AdamW i Muon ar gyfer y rhan fwyaf o fodiwlau, gan ddefnyddio orthogonoleiddio Newton–Schulz, gan gadw AdamW ar gyfer mewnblaniadau, pennau rhagfynegi, normaleiddio a pharamedrau statig mHC yn unig. Ac mae pwysau'r arbenigwyr yn cael eu hyfforddi yn FP4 gyda'r rhan fwyaf o baramedrau eraill yn FP8 — yn ymwybodol o gwanteiddio o'r dechrau, sy'n bwysig o ran pa mor osgeiddig y mae'r model yn derbyn cywasgu pellach.
03O MLA i CSA + HCA: sut mae DeepSeek yn cadw cyd-destun hir yn rhad
Nid maint yw llinyn cyswllt DeepSeek ar draws pedair cenhedlaeth, ond economeg sylw. Mae pob fersiwn wedi ymosod ar y storfa KV, sy'n tyfu'n llinellol gyda chyd-destun ac sy'n dominyddu'r cof ar hydoedd hir.
- Cyflwynodd V2 Multi-head Latent Attention (MLA) — cywasgiad ar y cyd rheng-isel o allweddi a gwerthoedd i fector cudd, fel bod cynhyrchu'n storio'r fector hwnnw ynghyd ag allwedd RoPE ddatgysylltiedig yn lle K a V llawn fesul pen. Adroddodd DeepSeek fod y storfa KV wedi gostwng i tua 4–14% o sylw aml-ben safonol, gyda'r ansawdd yn dal neu'n gwella.
- Graddiodd V3 hynny i 671B, gan wneud MLA yn rhagdybiaeth ddiofyn ar gyfer cyd-destun hir rhad mewn modelau agored.
- Ychwanegodd V3.2 DeepSeek Sparse Attention (DSA), gan ddewis is-set top-k o'r hanes fesul ymholiad drwy fynegeiwr ysgafn yn hytrach na thalu sylw i bopeth.
- Mae V4 yn hybrideiddio. Mae Compressed Sparse Attention (CSA) yn gyntaf yn cywasgu cofnodion KV pob m tocyn yn un cofnod â phwysau a ddysgwyd, yna'n rhedeg dewis top-k tenau dros y cofnodion cywasgedig hynny. Mae Heavily Compressed Attention (HCA) yn cywasgu'n llawer mwy ymosodol ond yn aros yn ddwys dros y canlyniad. Mae'r ddau fath o haen wedi'u plethu drwy'r pentwr, felly mae crynodeb byd-eang rhad ac adalw lleol manwl gywir yn cydfodoli.
Mae'r elw a adroddwyd ar gyd-destun miliwn tocyn yn drawiadol: mae angen tua 27% o'r FLOPs casglu fesul tocyn a 10% o'r storfa KV ar V4-Pro o'i gymharu â V3.2. Dyna pam mae cais 262K yn ymddwyn fel cais arferol yn hytrach na digwyddiad cof, a pham mae'r rhifau adalw cyd-destun hir yn dal i fyny yn lle chwalu heibio ychydig ddegau o filoedd o docynnau.
04Beth mae'r ôl-ddodiad 3BIT-REAP yn ei olygu
Mae ein hid catalog yn gorffen yn 3BIT-REAP, ac mae hynny'n disgrifio dau gam cywasgu annibynnol a gymhwysir yn eu trefn.
REAP: tocio arbenigwyr, nid eu huno
REAP yw Router-weighted Expert Activation Pruning, gan Cerebras Research — ‘REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression’, a dderbyniwyd i ICLR 2026. Mewn MoE tenau nid yw'r llwybrydd yn defnyddio ei arbenigwyr yn gyfartal: caiff cynffon hir ei dewis yn anaml, yn wan, neu'r ddau. Mae REAP yn sgorio pob arbenigwr drwy gyfuno gwerthoedd giât y llwybrydd (pa mor aml a pha mor gryf y caiff ei ddewis) â normau actifadu'r arbenigwr (faint mae ei allbwn yn ei gyfrannu), yna'n dileu'r collwyr yn llwyr.
Dadl y papur yw bod tocio'n curo uno: mae uno'n cyfartaleddu'r arbenigedd swyddogaethol a wnaeth yr MoE yn werth ei adeiladu, tra bod dileu'r arbenigwyr y prin y mae'r llwybrydd yn eu cyrraedd yn ei gadw. Ar draws modelau o 20B i 1T, perfformiodd REAP yn well nag uno a dulliau tocio cystadleuol ar feincnodau cynhyrchiol, ac mae'r awduron yn adrodd canlyniadau bron heb golled ar gynhyrchu cod a galw offer ar docio 50% o arbenigwyr ar Qwen3-Coder-480B a Kimi-K2 — sef yn union y proffil llwyth gwaith y mae'r model hwn yma ar ei gyfer.
Pwysau 3-did: yr haen gywasgu ar gyfer y sylfeini mwyaf
Yna caiff yr hyn sy'n goroesi ei gwanteiddio i bwysau 3-did. Mae tri did yn ymosodol, ac nid ydym yn esgus fel arall: ar draws y rhes rydym yn defnyddio W8A16 lle mae'r sylfaen yn ddigon bach i beidio ag angen y gwasgu, W4A16-AUTOROUND-REAP yn y canol, a 3BIT-REAP ar y sylfeini mwyaf yn unig, lle mae'n gwneud y gwahaniaeth rhwng gwasanaethu'r model a pheidio â'i wasanaethu.
Mae'r cyfaddawd yn werth ei nodi'n blaen: nid yw MoE 1.6T 3-did yn union yr un fath fesul did â'r rhyddhad cyfeirio, ac mae cost ansawdd fach yn real. Yr hyn rydych chi'n ei gael amdano yw sylfaen y mae ei nenfwd heb ei chywasgu yn eistedd ymhell uwchlaw unrhyw beth sy'n ffitio'n gyfforddus ar gywirdeb uwch — ac am fod arbenigwyr V4 wedi'u hyfforddi yn FP4 o'r dechrau, mae'r model yn ymddwyn yn anarferol o dda o dan gywasgu pwysau pellach. Os ydych chi eisiau adeiladwaith DeepSeek â chyffyrddiad ysgafnach ar gywirdeb, mae DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP yn defnyddio pwysau 4-did gydag actifadu 16-did a thalgrynnu wedi'i ddysgu AutoRound, ar yr un cyd-destun 262K am $0.50 i mewn / $2.00 allan.
05Rhesymu, a'r deial reasoning_effort
Mae ôl-hyfforddi V4 yn hyfforddi arbenigwyr parth ar wahân — mathemateg, codio, asiantau, dilyn cyfarwyddiadau — gyda SFT ac wedyn GRPO, y dull Group Relative Policy Optimization a gyflwynodd DeepSeek gyda R1. Yna caiff yr arbenigwyr hynny eu huno'n un model drwy ddistyllu ar-bolisi o dan amcan KL gwrthdro, fel bod un pwynt gwirio'n cario ymddygiad o safon arbenigwr mewn sawl parth ar unwaith yn hytrach na bod yn gyffredinolwr sy'n gyffredin ym mhob un ohonynt.
Mae'r model a ryddhawyd yn amlygu moddau meddwl graddedig yn hytrach na switsh deuaidd. Ar ein porth ni dyna'r paramedr reasoning_effort safonol, y ddolen fwyaf defnyddiol ar y model hwn:
- Isel — ateb bron yn uniongyrchol: dosbarthu, echdynnu, ailysgrifennu, unrhyw beth lle rydych chi'n talu am wybodaeth y model yn hytrach na'i ystyriaeth.
- Canolig — y modd gweithio diofyn ar gyfer adolygu cod, dadfygio a dadansoddi aml-gam.
- Uchel — ystyriaeth hir cyn ateb. Lle caiff y problemau anodd eu datrys, a lle mae eich bil tocynnau allbwn yn byw, gan fod tocynnau rhesymu'n cael eu bilio fel allbwn.
Am nad oes haen wrthod, nid yw'r olrhain rhesymu'n cael ei docio ar bwnc sensitif — nid oes mecanwaith i'r patrwm atal meddwl a ddogfennwyd ar y gwasanaeth cyntaf-parti ddigwydd yma.
06Gwaith cod ac asiantaidd: beth mae'r sylfaen yn ei sgorio
Ffigurau cyhoeddedig DeepSeek-AI ei hun ar gyfer rhyddhad V4-Pro yw'r rhain — nid ein rhai ni, ac heb eu mesur ar ein hadeiladwaith cwanteiddiedig. Rydym yn eu dangos am mai nhw yw'r rheswm gonest dros ddewis y sylfaen hon, ac rydym yn eu nodi fel ffigurau cyntaf-parti fel y gallwch eu pwysoli'n unol â hynny.
Mae dau'n haeddu sylw. Mae SWE-bench Verified ar 80.6% yn datrys materion mewn ystorfeydd go iawn — darllen cronfa god anghyfarwydd, lleoli'r diffyg, cynhyrchu clwt sy'n pasio profion y prosiect ei hun. Mae MRCR ar filiwn o docynnau (83.5) yn adalw cyfeirio aml-rownd ar hyd llawn, sef y rhif sy'n dweud wrthych nad yw'r honiad cyd-destun hir yn addurniadol. Mae DeepSeek hefyd yn adrodd graddfa Codeforces o 3206 ar gyfer y model, a 62.0 ar CorpusQA ar gyd-destun 1M.
Mae'r ffigurau uchod wedi'u hadrodd gan DeepSeek-AI ar gyfer rhyddhad cyfeirio DeepSeek-V4-Pro. Amrywiad cywasgedig o'r pwysau hynny yw ein hadeiladwaith 3BIT-REAP ac nid yw wedi'i feincnodi'n annibynnol ar y tasgau hyn; trinwch y sgoriau cyfeirio fel nenfwd y sylfaen, nid fel mesuriad o'r pwynt terfyn hwn.
07Cyd-destun 262K: beth sy'n ffitio mewn gwirionedd
Mae'r model cyfeirio wedi'i hyfforddi ar gyfer miliwn o docynnau. Rydym yn gwasanaethu 262,144 — y ffenestr y mae pob model ar y porth yn ei rhannu, felly mae newid modelau'n newid un llinell ac nid yw byth yn atchweliad cyd-destun. Yn ymarferol mae 262K y tu hwnt i'r pwynt lle mae cyd-destun yn rhwymo ar gyfer y rhan fwyaf o waith go iawn:
| Llwyth gwaith | Tocynnau bras | Yn ffitio i 262K? |
|---|---|---|
| Ystorfa gwasanaeth canolig (~50k llinell) | ~600K | Nac ydy — dewiswch fodiwlau |
| Un is-system a'i phrofion | ~60–120K | Ydy, yn gyfforddus |
| Set RFC lawn ar gyfer protocol | ~150K | Ydy |
| Llyfr technegol 700 tudalen | ~250K | Ydy, yn agos at y terfyn |
| Rhediad asiant hir, 40+ tro offeryn | ~80–200K | Ydy |
Y terfyn i gynllunio o'i gwmpas yw'r allbwn: 16,384 tocyn ar y mwyaf fesul ymateb. Mae hynny'n ddogfen hir neu'n glwt aml-ffeil sylweddol, ond nid yn gronfa god. Gwneir gwaith cynhyrchu mawr drwy gadwyno ceisiadau gyda'r allbwn blaenorol yn ôl yn y cyd-destun — sy'n rhad diolch i'r ffenestr 262K — yn hytrach na thrwy ofyn am un cwblhad enfawr.
08Pris, a ble mae V4-Pro yn eistedd yn y rhes
Ar $1.95 i mewn / $3.90 allan fesul miliwn o docynnau, V4-Pro yw'r haen resymu flaenllaw — y model rydych chi'n estyn amdano pan fo'r broblem yn anodd. Pan mai dim ond yn fawr y mae, bydd modelau rhatach ar yr un ffenestr 262K yn ei wneud am chwarter y pris.
| Model heb sensoriaeth | I mewn / 1M | Allan / 1M | Gweledol | Gorau ar gyfer |
|---|---|---|---|---|
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Na | Rhesymu caled, cod, asiantau |
| DeepSeek-V4-Flash · W4A16 | $0.50 | $2.00 | Na | Yr un llinach, cyfaint uchel |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Na | Ceffyl gwaith cyffredinol |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Ie | Asiantau amlfoddol pen uchaf |
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Ie | Y gweledol rhataf |
Gan fod yn onest am y gymhariaeth y bydd pobl yn ei gwneud mewn gwirionedd: mae API DeepSeek ei hun yn rhatach na hyn — mae V4-Pro cyntaf-parti'n rhestru tua $0.435 i mewn / $0.87 allan, ac mae eu prisio mewnbwn ar drawiad storfa'n is fyth. Os mai pris fesul tocyn yw eich unig faen prawf ac nad yw'r ymddygiad cymedroli'n effeithio ar eich gwaith, defnyddiwch yr API cyntaf-parti; byddai'n well gennym ddweud hynny wrthych na'ch bod yn darganfod yn nes ymlaen. Mae'r premiwm yn prynu set wahanol o briodweddau: dim haen wrthod a dim hidlydd allbwn, gweithredwr yn yr Unol Daleithiau o dan Shannon Lab LLC, pwynt gwirio dyddiedig wedi'i binio (0813) fel nad yw uwchraddiad tawel i fyny'r afon byth yn newid eich allbynnau yng nghanol prosiect, tair tafodiaith API yn erbyn un model, a'r un ffenestr 262K ac arwyneb paramedrau ar draws pob un o'r deuddeg model yn y rhes.
09Ei alw: tair tafodiaith, un model
Mae pob model ar y porth yn ateb ar y tri phwynt terfyn, gyda ffrydio ar bob un. Nid ydych chi'n mabwysiadu SDK newydd — rydych chi'n newid URL sylfaen ac id model.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
"reasoning_effort": "high",
"stream": true,
"messages": [
{"role": "system", "content": "You are a systems programmer. Be direct."},
{"role": "user", "content": "Audit this parser for memory-safety bugs."}
]
}'
/v1/chat/completions— tafodiaith OpenAI; mae'n gweithio gyda SDKs OpenAI ac unrhyw beth a adeiladwyd arnynt./v1/messages— tafodiaith Anthropic, ar gyfer cronfeydd cod sydd eisoes wedi'u hysgrifennu yn erbyn y siâp hwnnw./v1/responses— y rhyngwyneb ar ffurf Responses.
Cefnogir ar y model hwn: ffrydio, galw offer brodorol, allbwn strwythuredig json_schema llym, response_format, a reasoning_effort. Mae'r cyfeirlyfr paramedrau llawn a maes chwarae byw yn y dogfennau API.
10Terfynau gonest
Pedwar peth i'w gwybod cyn i chi adeiladu arno:
- Dim gweledol. Testun yn unig; ni fydd yn derbyn mewnbwn delwedd ar unrhyw bwynt terfyn. Os oes angen model heb sensoriaeth sy'n gweld arnoch, defnyddiwch Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 neu inkling.
- Nenfwd allbwn o 16,384 tocyn. Mae tocynnau rhesymu'n cyfrif tuag ato ar ymdrech uchel, felly mae ystyriaeth hir yn gadael llai o le i'r ateb. Cadwynwch geisiadau ar gyfer gwaith cynhyrchu mawr.
- Cywasgiad go iawn yw 3-did. Mae'r sgoriau cyfeirio'n disgrifio'r sylfaen, nid yr adeiladwaith hwn. Ar gyfer yr haen ffyddlondeb uchaf, y modelau
W8A16(MiMo-V2.5-Pro, MiMo-V2.5, Hy3) sy'n cario'r cwanteiddio lleiaf. - Nid yw heb sensoriaeth yn golygu heb ganlyniadau. Mae dim haen wrthod yn golygu bod y cyfrifoldeb am yr hyn rydych chi'n gofyn amdano, a'r hyn rydych chi'n ei wneud â'r ateb, yn eistedd gyda chi — o dan ein telerau gwasanaeth a chyfraith y lle rydych chi'n gweithredu ynddo.
Mae pob honiad pensaernïol a ffigwr meincnod ar y dudalen hon yn dod o ffynhonnell gynradd gyhoeddus. Darllenwch nhw eich hun.
11Cwestiynau cyffredin
Beth yw'r API DeepSeek heb sensoriaeth?
Y model pwysau agored DeepSeek-V4-Pro ydyw, wedi'i wasanaethu ar glwstwr GPU Shannon AI ei hun heb haen wrthod o'i flaen a heb hidlo ar yr hyn y mae'n ei ddychwelyd. Rydych chi'n ei alw yn /v1/chat/completions, /v1/messages neu /v1/responses gyda ffenestr cyd-destun 262,144 tocyn, ac mae'r pwynt terfyn yn ateb yn lle cymedroli.
Sut mae hyn yn wahanol i API swyddogol DeepSeek?
Yr un llinach pwysau agored, gweithredwr gwahanol a pholisi gwahanol. Mae gwasanaeth cyntaf-parti DeepSeek yn rhatach fesul tocyn ac mae'n rhedeg ei gymedroli ei hun; mae archwiliadau cyhoeddedig gan Promptfoo a grwpiau academaidd wedi dogfennu gwrthod ac atal semantig ar anogaethau gwleidyddol sensitif yno. Mae Shannon AI yn rhedeg y pwysau yn yr Unol Daleithiau heb haen wrthod, yn amlygu ymdrech resymu a galw offer ar dair tafodiaith API, ac yn pinio pwynt gwirio dyddiedig fel nad yw allbynnau'n symud oddi tanoch.
Beth mae 3BIT-REAP yn ei olygu?
Dau gam cywasgu. REAP yw Router-weighted Expert Activation Pruning, dull gan Cerebras Research sy'n gollwng arbenigwyr a lwybrir yn anaml ac yn wan o fodel Cymysgedd o Arbenigwyr, gan sgorio pob arbenigwr yn ôl gwerthoedd giât ei lwybrydd a normau ei actifadu. Yna caiff yr hyn sy'n goroesi ei gwanteiddio i bwysau 3-did. Gyda'i gilydd maent yn gwneud i sylfaen 1.6 triliwn paramedr ffitio ac aros yn gyflym ar ein clwstwr GPU ein hunain.
Pa mor fawr yw'r ffenestr cyd-destun a'r allbwn mwyaf?
262,144 tocyn o gyd-destun a hyd at 16,384 tocyn o allbwn fesul cais. Mae hynny tua 600 i 800 tudalen o destun i mewn, a dogfen dechnegol hir neu glwt aml-ffeil mawr allan. Gwneir gwaith hir drwy gadwyno ceisiadau, nid drwy godi'r cap allbwn.
A yw DeepSeek V4 Pro yn cefnogi galw offer ac allbwn sgema JSON?
Ydy, y ddau. Cefnogir galw offer brodorol, allbwn strwythuredig json_schema llym, a response_format, ynghyd â ffrydio a pharamedr reasoning_effort. Nid yw'n derbyn mewnbwn delwedd; os oes angen gweledol arnoch ar fodel heb sensoriaeth, defnyddiwch Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 neu inkling yn lle hynny.
Faint mae'r API DeepSeek heb sensoriaeth yn ei gostio?
$1.95 fesul miliwn o docynnau mewnbwn a $3.90 fesul miliwn o docynnau allbwn. O fewn yr un rhes heb sensoriaeth, mae DeepSeek-V4-Flash yn costio $0.50 i mewn a $2.00 allan am yr un cyd-destun 262K, ac mae GLM-5.2 yn costio $0.73 i mewn a $2.34 allan, felly V4-Pro yw'r haen rydych chi'n estyn amdani pan fo'r broblem yn anodd yn hytrach nag yn fawr.
Galwch DeepSeek V4 Pro heb sensoriaeth
Cyd-destun 262K, ymdrech resymu, galw offer. Tafodieithoedd OpenAI, Anthropic a Responses ar un allwedd.
Darllen y Dogfennau API Pob Cerdyn ModelShannon Lab LLC · New Mexico, UDA · modelau'n cael eu gwasanaethu ar ein clwstwr GPU ein hunain
Ffynonellau: DeepSeek-AI — cerdyn model DeepSeek-V4-Pro · Adroddiad technegol DeepSeek-V4 (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · Adroddiad technegol DeepSeek-V3 · REAP the Experts (Cerebras Research) · Archwiliad sensoriaeth Promptfoo · Discovering Forbidden Topics in Language Models. Mae'r ffigurau meincnod wedi'u hadrodd gan DeepSeek-AI ar gyfer y rhyddhad cyfeirio; mae gwiriad annibynnol trydydd parti o'r adeiladwaith cywasgedig yn yr arfaeth. Prisiau rhestr Shannon AI ar 5 Medi 2026 yw'r prisiau.