API-ja e pacensuruar e DeepSeek

Njerëzit që mbërrijnë te shprehja "API e pacensuruar DeepSeek" duan një gjë të caktuar: një model me aftësinë e DeepSeek për arsyetim dhe kod që i përgjigjet pyetjes që bënë vërtet. Gjysma e aftësisë është e dokumentuar mirë — DeepSeek-AI e publikoi arkitekturën dhe shifrat, dhe peshat gjenden në Hugging Face nën MIT. Gjysma e dytë është një vendim operimi, dhe zakonisht merret në vend të jush. Kjo faqe i mbulon të dyja: çfarë është themeli V4-Pro, çfarë i bën atij ndërtimi ynë 3BIT-REAP, dhe saktësisht çfarë do të thotë "i pacensuruar" kur e themi ne.

01Çfarë do të thotë vërtet "API e pacensuruar DeepSeek"

Dy mekanizma të ndryshëm renditen nën të njëjtën fjalë. I pari është përputhshmëria e pjekur brenda peshave — sjellja refuzuese e mësuar gjatë pas-stërvitjes. I dyti është një shtresë moderimi në anën e shërbimit: një klasifikues i veçantë që e inspekton promptin tuaj përpara se ta shohë modeli dhe daljen përpara se ta shihni ju, dhe që mund ta presë një përgjigje në mes të fjalisë pavarësisht se çfarë donte të thoshte modeli.

Të dyja janë të matshme, dhe shërbimi i vetë DeepSeek është matur. Promptfoo mblodhi një grup prej 1.360 promptesh me pyetje politikisht të ndjeshme dhe raportoi se R1 i strehuar nga DeepSeek refuzoi ose shmangu 1.156 prej tyre — rreth 85%. Puna akademike mbi të njëjtën familje gjeti një mënyrë dështimi të veçantë që autorët e quajtën shtypje e mendimit, ku gjurma e arsyetimit të modelit ndërpritet pothuajse sapo nis mbi një temë të ndjeshme. Një auditim i veçantë i botuar te Information Sciences dokumentoi shtypje në nivel semantik: përmbajtje e pranishme në arsyetimin e brendshëm të modelit që hiqet ose rishkruhet në heshtje përpara se t'i mbërrijë përdoruesit. Ky është problem më i vështirë se një refuzim i hapur, sepse një përgjigje e cunguar duket si përgjigje.

Ajo që ne ekzekutojmë është publikimi me pesha të hapura, mbi harduer që e operojmë ne, në Shtetet e Bashkuara, nën Shannon Lab LLC. Nuk ka shtresë refuzimi para modelit dhe as filtër mbi atë që kthehet: prompti juaj nuk klasifikohet për politikë përpara se të shërbehet, dhe rrjedha e daljes nuk inspektohet rrugës për jashtë. Meqë themeli ka licencë MIT dhe është publik, mund t'i krahasoni vetë daljet tona me peshat e referencës në vend që të na besoni në fjalë.

02Themeli: DeepSeek-V4-Pro, një MoE me 1.6T

DeepSeek-V4 është familja aktuale me pesha të hapura e DeepSeek-AI, e paraparë në prill 2026 dhe e publikuar nën MIT në dy përmasa: V4-Flash (284B në total, 13B të aktivizuar) dhe V4-Pro (1.6T në total, 49B të aktivizuar). Ky artikull ka të bëjë me nivelin Pro. Të dyja u para-stërvitën me rreth 33 trilion tokena dhe të dyja mbështesin vendas një kontekst prej një milion tokenash.

Raporti i rrallësisë është gjëja për t'u vënë re: vetëm rreth 3% e parametrave ndizen për çdo token të dhënë, dhe kjo është ajo që e bën fare të shërbyeshëm një model kaq të madh. Vetë blloku MoE mbetet DeepSeekMoE — ekspertët e drejtuar me imtësi plus ekspertët e përbashkët gjithnjë aktivë të futur në V2 — me vetëm ndryshime të vogla në V4, më dukshëm drejtimi me hash në shtresat më të hershme. Multi-Token Prediction, objektivi ndihmës i V3 që mundëson edhe dekodimin spekulativ, ruhet i pandryshuar.

Pjesët e reja në V4 janë strukturore. Manifold-Constrained Hyper-Connections (mHC) e zëvendësojnë rrugën e thjeshtë rezidualare me një matricë përzierjeje të mësuar, të kufizuar mbi manifoldin e matricave dyfish stokastike përmes një projeksioni Sinkhorn–Knopp — një rrjedhë rezidualare që ripeshon sipas hyrjes pa devijimin numerik që i vret stivat shumë të thella. Stërvitja kaloi nga AdamW te Muon për shumicën e moduleve, duke përdorur ortogonalizimin Newton–Schulz, me AdamW të mbajtur vetëm për embeddings, kokat e parashikimit, normalizimin dhe parametrat statikë mHC. Dhe peshat e ekspertëve stërviten në FP4 me shumicën e parametrave të tjerë në FP8 — të vetëdijshme për kuantizimin që në fillim, gjë që ka rëndësi për sa hijshëm e mban modeli një ngjeshje të mëtejshme.

03Nga MLA te CSA + HCA: si e mban DeepSeek të lirë kontekstin e gjatë

Fija përshkuese e DeepSeek nëpër katër breza nuk është përmasa, është ekonomia e vëmendjes. Çdo version i ka sulmuar cache-in KV, i cili rritet në mënyrë lineare me kontekstin dhe dominon memorien në gjatësi të mëdha.

• V2 futi Multi-head Latent Attention (MLA) — një ngjeshje e përbashkët me rang të ulët e çelësave dhe vlerave në një vektor latent, kështu që gjenerimi ruan në cache atë vektor plus një çelës RoPE të shkëputur në vend të K-së dhe V-së së plotë për çdo kokë. DeepSeek raportoi cache KV të ulur në rreth 4–14% të vëmendjes standarde shumëkokëshe, me cilësinë e ruajtur ose të përmirësuar.
• V3 e shkallëzoi këtë në 671B, duke e bërë MLA-në supozimin e parazgjedhur për kontekst të gjatë e të lirë në modelet e hapura.
• V3.2 shtoi DeepSeek Sparse Attention (DSA), duke përzgjedhur një nëngrup top-k të historikut për çdo pyetje përmes një indeksuesi të lehtë në vend që t'i kushtonte vëmendje gjithçkaje.
• V4 i hibridizon. Compressed Sparse Attention (CSA) së pari i ngjesh zërat KV të çdo m tokenash në një zë të vetëm me pesha të mësuara, pastaj kryen përzgjedhje të rrallë top-k mbi ata zëra të ngjeshur. Heavily Compressed Attention (HCA) ngjesh shumë më agresivisht, por mbetet e dendur mbi rezultatin. Të dy llojet e shtresave janë të ndërthurura nëpër stivë, kështu që përmbledhja globale e lirë dhe rikthimi i saktë lokal bashkëjetojnë.

Përfitimi i raportuar në një kontekst prej një milion tokenash është i dukshëm: V4-Pro ka nevojë për rreth 27% të FLOP-eve të inferencës për token dhe 10% të cache-it KV të V3.2. Ja pse një kërkesë 262K sillet si kërkesë e zakonshme e jo si ngjarje memorieje, dhe pse shifrat e rikthimit në kontekst të gjatë qëndrojnë në vend që të shemben pas disa dhjetëra mijëra tokenash.

04Çfarë do të thotë prapashtesa 3BIT-REAP

Id-ja jonë e katalogut mbaron me 3BIT-REAP, dhe kjo përshkruan dy hapa të pavarur ngjeshjeje të zbatuar me radhë.

REAP: krasitje ekspertësh, jo bashkim i tyre

REAP është Router-weighted Expert Activation Pruning, nga Cerebras Research — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", e pranuar në ICLR 2026. Në një MoE të rrallë drejtuesi nuk i përdor ekspertët e vet në mënyrë të barabartë: një bisht i gjatë përzgjidhet rrallë, dobët ose të dyja. REAP i vlerëson ekspertët duke ndërthurur vlerat e portës së drejtuesit (sa shpesh dhe sa fort zgjidhet secili) me normat e aktivizimit të ekspertit (sa shumë kontribuon dalja e tij), pastaj i fshin krejtësisht humbësit.

Argumenti i punimit është se krasitja ia kalon bashkimit: bashkimi e mesatarizon e zhduk specializimin funksional që e bëri MoE-në të vlefshme për t'u ndërtuar, ndërsa fshirja e ekspertëve që drejtuesi mezi i prek e ruan atë. Nëpër modele nga 20B deri në 1T, REAP ia kaloi bashkimit dhe metodave konkurruese të krasitjes në benchmark-e gjenerative, dhe autorët raportojnë rezultate pothuajse pa humbje në gjenerimin e kodit dhe në thirrjen e mjeteve me 50% krasitje ekspertësh te Qwen3-Coder-480B dhe Kimi-K2 — që është pikërisht profili i punës për të cilin ndodhet këtu ky model.

Pesha 3-bitëshe: niveli i ngjeshjes për themelet më të mëdha

Ajo që mbijeton kuantizohet më pas në pesha 3-bitëshe. Tre bita janë agresivë, dhe nuk pretendojmë ndryshe: nëpër gamë përdorim W8A16 aty ku themeli është mjaftueshëm i vogël sa të mos ketë nevojë për shtrëngim, W4A16-AUTOROUND-REAP në mes, dhe 3BIT-REAP vetëm te themelet më të mëdha, ku është diferenca mes shërbimit të modelit dhe mosshërbimit të tij.

Kompromisi ia vlen të thuhet hapur: një MoE 1.6T me 3 bita nuk është bit-për-bit identik me publikimin e referencës, dhe një kosto e vogël cilësie është reale. Ajo që merrni në këmbim është një themel tavani i pangjeshur i të cilit ndodhet shumë më lart se çdo gjë që hyn rehat me saktësi më të lartë — dhe meqë ekspertët e V4-s u stërvitën që në fillim në FP4, modeli sillet jashtëzakonisht mirë nën ngjeshje të mëtejshme peshash. Nëse doni një ndërtim DeepSeek me dorë më të lehtë mbi saktësinë, DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP përdor pesha 4-bitëshe me aktivizime 16-bitëshe dhe rrumbullakim të mësuar të AutoRound, me të njëjtin kontekst 262K, me 0.50 $ hyrje / 2.00 $ dalje.

05Arsyetimi dhe çelësi reasoning_effort

Pas-stërvitja e V4-s i stërvit specialistët sipas fushave veç e veç — matematikë, programim, agjentë, ndjekje udhëzimesh — me SFT të ndjekur nga GRPO, metoda Group Relative Policy Optimization që DeepSeek e futi me R1. Ata specialistë pastaj bashkohen në një model të vetëm përmes distilimit on-policy nën një objektiv KL të kundërt, kështu që një checkpoint i vetëm mbart sjellje të nivelit të specialistit në disa fusha njëherësh, në vend që të jetë një gjeneralist mediokër në të gjitha.

Modeli i publikuar ekspozon mënyra menduari të shkallëzuara e jo një çelës binar. Në portën tonë kjo është parametri standard reasoning_effort, çelësi më i dobishëm i vetëm i këtij modeli:

• I ulët — përgjigje pothuajse e drejtpërdrejtë: klasifikim, nxjerrje, rishkrim, gjithçka ku po paguani për njohuritë e modelit e jo për menduarin e tij.
• I mesëm — mënyra e parazgjedhur e punës për shqyrtim kodi, korrigjim gabimesh dhe analizë shumëhapëshe.
• I lartë — menduar i gjatë përpara përgjigjes. Aty ku zgjidhen problemet e vështira, dhe aty ku jeton fatura juaj e tokenave të daljes, meqë tokenat e arsyetimit faturohen si dalje.

Meqë nuk ka shtresë refuzimi, gjurma e arsyetimit nuk cungohet mbi lëndë të ndjeshme — modeli i shtypjes së mendimit i dokumentuar te shërbimi i vetë prodhuesit nuk ka asnjë mekanizëm për të ndodhur këtu.

06Kodi dhe puna agjentike: sa nxjerr themeli

Këto janë shifrat e publikuara nga vetë DeepSeek-AI për publikimin V4-Pro — jo tonat, dhe të pamatura mbi ndërtimin tonë të kuantizuar. I tregojmë sepse janë arsyeja e ndershme për ta zgjedhur këtë themel, dhe i shënojmë si të prodhuesit që t'i peshoni si duhet.

Dy prej tyre e meritojnë një koment. SWE-bench Verified me 80.6% është zgjidhje çështjesh në depo të vërteta — të lexosh një bazë kodi të panjohur, të gjesh defektin, të prodhosh një arnim që kalon testet e vetë projektit. MRCR me një milion tokena (83.5) është rikthim bashkëreferencash me shumë raunde në gjatësi të plotë, shifra që ju thotë se pretendimi për kontekst të gjatë nuk është dekorativ. DeepSeek raporton gjithashtu një vlerësim Codeforces prej 3206 për modelin, dhe 62.0 në CorpusQA me kontekst 1M.

Shifrat e mësipërme janë të raportuara nga DeepSeek-AI për publikimin e referencës DeepSeek-V4-Pro. Ndërtimi ynë 3BIT-REAP është një variant i ngjeshur i atyre peshave dhe nuk është matur në mënyrë të pavarur në këto detyra; trajtojini rezultatet e referencës si tavanin e themelit, jo si matje të këtij endpoint-i.

07Kontekst 262K: çfarë hyn vërtet brenda

Modeli i referencës është stërvitur për një milion tokena. Ne shërbejmë 262.144 — dritarja që e ndajnë të gjitha modelet në portë, kështu që ndërrimi i modelit është një ndryshim një-rreshtësh dhe kurrë një zbrapsje konteksti. Në praktikë 262K është përtej pikës ku konteksti bëhet kufizues për shumicën e punëve të vërteta:

Ngarkesa e punës	Tokena të përafërt	Hyn në 262K?
Depo shërbimi e mesme (~50 mijë rreshta)	~600K	Jo — përzgjidhni module
Një nënsistem i vetëm + testet e tij	~60–120K	Po, me lehtësi
Grupi i plotë i RFC-ve për një protokoll	~150K	Po
Një libër teknik me 700 faqe	~250K	Po, afër kufirit
Ekzekutim i gjatë agjenti, 40+ raunde mjetesh	~80–200K	Po

Kufiri për të cilin duhet planifikuar është dalja: maksimumi 16.384 tokena për përgjigje. Kjo është një dokument i gjatë ose një arnim i konsiderueshëm me shumë skedarë, por jo një bazë kodi. Punët e mëdha të gjenerimit bëhen duke lidhur kërkesa me daljen e mëparshme sërish në kontekst — gjë që dritarja 262K e bën të lirë — e jo duke kërkuar një plotësim të vetëm gjigant.

08Çmimi dhe ku ndodhet V4-Pro në gamë

Me 1.95 $ hyrje / 3.90 $ dalje për milion tokena, V4-Pro është niveli kryesor i arsyetimit — modeli që kërkoni kur problemi është i vështirë. Kur është thjesht i madh, modele më të lira me të njëjtën dritare 262K e bëjnë punën për një çerek të çmimit.

Modeli i pacensuruar	Hyrje / 1M	Dalje / 1M	Pamje	Më i mirë për
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Jo	Arsyetim i vështirë, kod, agjentë
DeepSeek-V4-Flash · W4A16	$0.50	$2.00	Jo	E njëjta linjë, volum i lartë
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Jo	Kalë pune i përgjithshëm
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Po	Agjentë multimodalë të nivelit të lartë
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Po	Pamja më e lirë

Të jemi të drejtpërdrejtë për krahasimin që njerëzit do të bëjnë vërtet: API-ja e vetë DeepSeek është më e lirë se kjo — V4-Pro te vetë prodhuesi listohet rreth 0.435 $ hyrje / 0.87 $ dalje, dhe çmimi i hyrjes me cache të goditur është edhe më i ulët. Nëse çmimi për token është kriteri juaj i vetëm dhe sjellja e moderimit nuk ndikon në punën tuaj, përdorni API-në e prodhuesit; ne parapëlqejmë t'jua themi këtë sesa ta zbuloni më vonë. Shtesa blen një grup tjetër vetish: pa shtresë refuzimi dhe pa filtër dalje, një operator amerikan nën Shannon Lab LLC, një checkpoint i fiksuar me datë (0813) që një përditësim i heshtur nga lart të mos i ndryshojë kurrë daljet tuaja në mes të projektit, tre dialekte API-je kundrejt një modeli të vetëm, dhe të njëjtën dritare 262K e sipërfaqe parametrash nëpër të dymbëdhjetë modelet e gamës.

09Ta thërrasim: tre dialekte, një model

Çdo model në portë përgjigjet në të tri endpoint-et, me transmetim në secilin. Nuk adoptoni një SDK të ri — ndryshoni një URL bazë dhe një id modeli.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
    "reasoning_effort": "high",
    "stream": true,
    "messages": [
      {"role": "system", "content": "You are a systems programmer. Be direct."},
      {"role": "user", "content": "Audit this parser for memory-safety bugs."}
    ]
  }'

• /v1/chat/completions — dialekti OpenAI; funksionon me SDK-të e OpenAI dhe me gjithçka të ndërtuar mbi to.
• /v1/messages — dialekti Anthropic, për bazat e kodit tashmë të shkruara sipas asaj forme.
• /v1/responses — ndërfaqja në stilin Responses.

Të mbështetura te ky model: transmetimi, thirrja vendase e mjeteve, dalja strikte e strukturuar json_schema, response_format dhe reasoning_effort. Referenca e plotë e parametrave dhe një terren prove i drejtpërdrejtë gjenden te dokumentacioni i API-t.

10Kufij të ndershëm

Katër gjëra për t'i ditur përpara se të ndërtoni mbi të:

• Pa pamje. Vetëm tekst; nuk pranon hyrje me imazh në asnjë endpoint. Nëse ju duhet një model i pacensuruar që sheh, përdorni Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 ose inkling.
• Tavan dalje prej 16.384 tokenash. Tokenat e arsyetimit llogariten brenda tij me përpjekje të lartë, prandaj një menduar i gjatë lë më pak vend për përgjigjen. Lidhni kërkesa për punë të mëdha gjenerimi.
• 3 bita janë ngjeshje e vërtetë. Rezultatet e referencës përshkruajnë themelin, jo këtë ndërtim. Për nivelin me besnikërinë më të lartë, modelet W8A16 (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) kanë kuantizimin më të vogël.
• I pacensuruar nuk do të thotë pa pasoja. Mungesa e shtresës së refuzimit do të thotë se përgjegjësia për atë që kërkoni, dhe për atë që bëni me përgjigjen, mbetet me ju — sipas kushteve tona të shërbimit dhe ligjit aty ku veproni.

11Pyetje të bëra shpesh

---

Burimet: DeepSeek-AI — karta e modelit DeepSeek-V4-Pro · Raporti teknik i DeepSeek-V4 (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · Raporti teknik i DeepSeek-V3 · REAP the Experts (Cerebras Research) · Auditimi i censurës nga Promptfoo · Discovering Forbidden Topics in Language Models. Shifrat e benchmark-eve janë të raportuara nga DeepSeek-AI për publikimin e referencës; verifikimi i pavarur nga palë të treta për ndërtimin e ngjeshur është në pritje. Çmimet janë çmimet e listës së Shannon AI më 5 shtator 2026.