Ongesensureerde DeepSeek Flash API

Die meeste spanne wat 'n LLM-API evalueer, optimeer die verkeerde veranderlike. Hulle toets op die twintig moeilikste opdragte wat hulle kan bedink, kies die wenner, en ontdek ses weke later dat vyf-en-negentig persent van hulle verkeer kort, gestruktureerde, herhalende werk is wat 'n model teen 'n kwart van die prys presies dieselfde sou hanteer het. DeepSeek-V4-Flash bestaan vir daardie vyf-en-negentig persent. Hierdie bladsy gaan daaroor om te weet wanneer jy daarin is — en wanneer nie.

01Wat jy werklik kry

Eienskap	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Model-ID	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Konteks / maks uitvoer	262,144 tekens / 16,384 tekens
Prys per 1M (inset / uitvoer)	$0.50 / $2.00
Stroming · gereedskaproeping · redenering	Ja — al drie dialekte
Gestruktureerde uitvoer	json_schema en response_format
Beeldinset (visie)	Nee — slegs teks
Weieringslaag / uitvoerfilter	Geen
Bedien op	Shannon se eie GPU-tros

Drie API-dialekte bereik dieselfde gewigte: /v1/chat/completions (OpenAI-vormig), /v1/messages (Anthropic-vormig), en /v1/responses. Stroming werk op al drie. Die volledige parameterverwysing is in die API-dokumentasie.

02Waar dit vandaan kom: die DeepSeek-afstamming

DeepSeek-AI het vyf modelgeslagte aan een obsessie bestee: om grensgedrag te kry uit 'n model wat goedkoop is om te bedien, nie bloot goedkoop om af te rig nie. Byna elke argitektoniese besluit in die lyn kom daarop terug, en die belangrikes is gepubliseer. Drie verduidelik wat jy roep wanneer jy hierdie eindpunt tref.

DeepSeekMoE — fynkorrelige eksperts plus 'n gedeelde een

'n Mixture-of-Experts-laag vervang een groot voorwaartsvoernetwerk met baie kleineres en 'n router wat 'n handjievol per teken kies. DeepSeek se variant sny eksperts fyner as die konvensionele uitleg van agt eksperts, sodat dieselfde geaktiveerde FLOPs 'n veel meer kombinatories spesifieke mengsel koop, en dit isoleer 'n gedeelde ekspert waardeur elke teken gaan, sodat algemene kennis nie oortollig binne elke spesialis herleer word nie. DeepSeek-V3 het dit gestuur as 256 gerouteerde eksperts plus 1 gedeelde ekspert, met 8 gerouteerdes geaktiveer per teken — 671B totale parameters, 37B aktief — saam met lasbalansering sonder hulpverlies: eerder as 'n strafterm wat kwaliteit afbreek, stoot 'n per-ekspert-sydigheid die routeringtellings elke stap op of af soos daardie ekspert onder- of oorbelaai loop.

MLA — aandag wat in die geheue pas

Die ander helfte van die bedieningskosteprobleem is die KV-kas, wat lineêr met konteks groei en geheue by lang reekslengtes oorheers. Multi-head Latent Attention, in DeepSeek-V2 ingevoer, komprimeer sleutels en waardes gesamentlik in 'n laerang latente vektor en kas daardie, en rekonstrueer bruikbare K/V in vlug. DeepSeek se gepubliseerde V2-syfers, teenoor hulle vroeëre digte DeepSeek 67B, berig 'n vermindering van 93.3% in die KV-kas en 5.76× hoër maksimum genereringsdeurset. Dit is waarom 'n venster van 262K tekens in hierdie familie die basiese verwagting is eerder as 'n premie-byvoeging.

Yl aandag — en die presedent vir goedkoop tekens

V3.2-Exp het DeepSeek Sparse Attention bygevoeg: 'n liggewig-indekseerder punt kontekstekens teen die navraag, en 'n keurder hou net die hoogspunt-tekens. Die interessante deel is die bewysstuk, nie die meganisme nie. DeepSeek het 'n vergelyking langs V3.1-Terminus gepubliseer met MMLU-Pro identies op 85.0, AIME 2025 op (88.4 → 89.3), SWE-bench Verified marginaal af (68.4 → 67.8) — in wese plat kwaliteit — en hulle het hulle API-pryse dieselfde dag met meer as 50% verlaag. Argitektuur, eerlik gerapporteer, wat direk in prys verander. Flash is daardie argument een stap verder gevoer.

Die V4-geslag

V4, in April 2026 onder 'n MIT-lisensie in voorskou gewys, vervang die aandagstapel weer met 'n hibried van Compressed Sparse Attention en Heavily Compressed Attention, rig met die Muon-optimeerder op meer as 32T tekens af, en behou V3 se multi-teken-voorspellingsdoelwit — wat ook as spekulatiewe dekodering dien, en wat DeepSeek in V3 op 'n aanvaardingskoers van 85–90% vir die tweede teken gemeet het vir ongeveer 'n 1.8× dekoderingsversnelling. Die V4-opsomming berig dat V4-Pro teen 27% van V3.2 se afleidings-FLOPs per enkele teken en 10% van sy KV-kas loop. Die familie stel drie vlakke van redeneerpoging beskikbaar, en dit is waarop ons reasoning_effort-parameter afbeeld.

Bronne: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 tegniese verslag (arXiv 2412.19437) · DeepSeek-V3.2-Exp-modelkaart · DeepSeek-V4 (arXiv 2606.19348). Alle syfers is deur DeepSeek berig.

03Wat "Flash" werklik beteken

Dit is die punt wat die meeste vergelykings verkeerd kry, so dit is die moeite werd om dit reguit te stel: DeepSeek se Flash is nie 'n gekwantiseerde, gesnoeide of gedistilleerde Pro nie. Dit is 'n apart afgerigte, kleiner Mixture-of-Experts-model met sy eie voorafleerlopie. Die V4-voorskouartikel gee die twee groottes:

Syfers uit die DeepSeek-V4-voorskouartikel. Die amptelike kontrolepunte wat ons bedien — V4-Flash-0731 en V4-Pro-0813 — lys effens groter totale van 304B en 1.7T op hulle modelkaarte; DeepSeek herhaal nie geaktiveerde parameters vir daardie bou-eenhede nie.

Twee getalle doen hier die werk. Totale parameters bepaal die geheuevoetspoor, wat besluit hoeveel hardeware 'n kopie van die model beslaan. Geaktiveerde parameters bepaal die rekenkunde per teken, wat deurset besluit. Flash is ongeveer 5.6× kleiner op die eerste en 3.8× kleiner op die tweede — en daar is 'n subtiliteit in daardie gaping wat die moeite werd is om raak te sien: Flash aktiveer 13 van 284 miljard parameters, ongeveer 4.6%, terwyl Pro 49 van 1,600 miljard aktiveer, ongeveer 3.1%. Flash is die minder yl model. Dit is nie eenvoudig Pro met minder eksperts aangeskakel nie; dit is 'n digter, anders gebalanseerde ontwerp wat 'n groter deel van homself aan elke teken bestee wat dit produseer. Dit is 'n werklike ingenieurskeuse, nie 'n afgradering nie.

Wat DeepSeek se eie syfers sê

Albei amptelike modelkaarte publiseer tellings op dieselfde agentiese en sagteware-ingenieursmaatstawwe, wat dit 'n ongewoon skoon vergelyking maak — dieselfde laboratorium, dieselfde evalueringstuig, twee groottes:

Maatstaf (deur DeepSeek berig)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro wen elke ry. Dit is die eerlike opskrif, en ons wil eerder hê jy lees dit hier as dat jy dit in produksie ontdek. Maar lees die marges, want dit is wat jy werklik koop. Op Terminal Bench 2.1 is die gaping 5.2 punte op 'n model met 'n vyf-en-twintigste van die parameters; op gereedskapgebruik is dit 3.8 punte. Die gaping verbreed waar die werk die diepste raak — 8.3 punte op DeepSWE, 7.3 op NL2Repo, albei waarvan volgehoue meerstap-koderedenering beloon. Dit is die vorm van die afruiling in een tabel: Flash sluit die meeste van die afstand op begrensde take en gee grond prys op oop take.

DeepSeek se eie Flash-kaart stel die punt nog skerper: Flash-0731 presteer beter as die V4-Pro-voorskou op die gelyste maatstawwe ten spyte van sy veel kleiner geaktiveerde parametertelling. Dat 'n nuwer klein model 'n ouer groot een klop, is die normale gang van sake in hierdie veld, en dit is die rede waarom "groter vlak" nooit jou verstekantwoord moet wees nie.

04Die agtervoegsel gelees: W4A16-AUTOROUND-REAP

Ons model-ID's stel hulle kompressieskema hardop, want dit is die ding wat uitvoerkwaliteit die meeste raak en wat byna niemand bekend maak nie. Hierdie een ontbind in drie bewerings.

W4A16 — 4-bis-gewigte, 16-bis-aktiverings

Gewigte word teen 4 bisse elk gestoor; aktiverings vloei teen 16-bis-presisie deur. Dit is slegs-gewig-kwantisering, en dit mik na die werklike bottelnek in tekengenerering, wat geheuebandwydte eerder as rekenkunde is. Om aktiverings ook te kwantiseer sou 'n bietjie meer spoed koop en 'n veel groter akkuraatheidskrans riskeer; om hulle op 16 bisse te laat is die konserwatiewe keuse met hoë getrouheid. Die notasie is bedieningsekosisteem-afkorting — die kwantiseringsliteratuur skryf dieselfde ding as W4 met 'n groepgrootte.

AUTOROUND — aangeleerde afronding, nie naaste afronding nie

Naïewe kwantisering rond elke gewig na die naaste voorstelbare waarde af. Dit is aantoonbaar nie optimaal nie: om een gewig die "verkeerde" kant toe af te rond kan fout kanselleer wat deur sy bure ingebring is, en met miljarde gewigte oorheers daardie interaksies. AutoRound, van Intel, hanteer die afrondingsbesluit self as iets om aan te leer — 'n afrigbare per-gewig-versteuring wat tot ±0.5 beperk is, presies genoeg om enige enkele afrondingsbesluit om te keer en nooit meer nie, plus aanleerbare afknipreekse, geoptimeer deur getekende gradiëntafdaling teen 'n blokgewyse uitvoerrekonstruksiedoelwit oor 'n klein kalibrasiestel. Tweehonderd stappe, dan klaar.

Intel se gepubliseerde vergelykings het AutoRound wat GPTQ in 30 uit 32 getoetste scenario's klop, AWQ in 27 uit 32 en OmniQuant in 29 uit 32 by 4-bis slegs-gewig-instellings, met winste bo naïewe afronding-na-naaste van 6.9 tot 33.2 akkuraatheidspunte by 2 bisse. Niks daarvan kos iets tydens afleiding nie: dit is 'n beter keuse van getalle, een keer aflyn gemaak.

REAP — eksperts laat val waarheen niemand routeer nie

REAP (Router-weighted Expert Activation Pruning), van Cerebras Systems en die Universiteit van Calgary, is eenskoot-kompressie vir MoE-modelle. Dit punt elke ekspert volgens hoe sterk en hoe dikwels die router daarheen hek, vermenigvuldig met die grootte van daardie ekspert se uitvoer, en skrap dan die minste opvallende eksperts heeltemal — geen herafrigting daarna nie.

Die artikel se sentrale bevinding is die nuttige een: by hoë kompressieverhoudings klop die snoei van eksperts die saamsmelting daarvan. Om funksioneel onderskeibare eksperts saam te smelt veroorsaak wat die outeurs funksionele deelruimte-ineenstorting noem — die router verloor die fynkorrelige, insetafhanklike beheer wat die MoE die moeite werd gemaak het om te bou, en bly agter om tussen statiese gemiddeldes te stuur. Hulle syfers oor modelle van 20B tot 1T parameters: teen 25% ekspertkompressie op koderingstake verloor REAP 2.8% gemiddelde akkuraatheid waar saamsmeltingsgrondlyne meer as 5% verloor; teen 50% verloor REAP 8.0% waar saamsmelting meer as 20% verloor. Op Qwen3-Coder-480B teen 50% snoei is die daling 1.4%, teenoor 39.3% vir naïewe frekwensiegebaseerde snoei. Cerebras het REAP-kontrolepunte vir onder meer die DeepSeek-lyn gepubliseer.

Waarom 4-bis hier en 3-bis op Pro

Albei vlakke moet op dieselfde klas hardeware pas en vinnig bly. Pro dra 1.7 biljoen parameters, so dit het die aggressiewer 3-bis-behandeling nodig om hoegenaamd te pas. Flash dra ongeveer 300 miljard, so dit het dit nie nodig nie — en die bis wat dit spaar, word aan getrouheid bestee in plaas van aan inpas.

Daardie ekstra bis maak meer saak as wat sy rekenkunde suggereer, want kwantiseringskade is nie lineêr nie. In die AWQ-artikel se WikiText-2-metings gaan Llama-2-7B van 5.47 perpleksiteit by FP16 na 5.60 by 4-bis — 'n straf van 2.4% — maar na 6.24 by 3-bis, 'n straf van 14%. Dit is ongeveer ses keer die agteruitgang vir 25% meer kompressie, en dieselfde patroon hou by 70B. Die GPTQ-artikel is nog botter: by 3 bisse stort naïewe afronding-na-naaste in op modelle van die 175B-klas, tot in die duisende perpleksiteit, terwyl dit by 4 bisse volkome bruikbaar bly. Onder vier bisse hou 'n goeie kwantiseringsalgoritme op om 'n luukse te wees en word dit die enigste ding wat die model bymekaar hou.

Die eerlike lees van hierdie twee agtervoegsels is dus: Flash sit nader aan sy eie ongekomprimeerde self as wat Pro aan syne sit. Pro is steeds die sterker model — die maatstaftabel hierbo besleg dit. Dit het net meer prysgegee om hier te kom, en jy betaal vir die voorreg.

Bronne: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Perpleksiteitsyfers uit AWQ (arXiv 2306.00978) en GPTQ (arXiv 2210.17323).

05Flash teenoor Pro by die eindpunt

Afdeling 03 het die grondslae gedek. Hier is hoe die twee vlakke as produkte op ons poort lyk:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Kwantisering	W4A16-AUTOROUND-REAP	3BIT-REAP
Gewigpresisie	4-bis, aangeleerde afronding	3-bis
Grondslag (totaal / aktief)	~304B / 13B	~1.7T / 49B
Inset per 1M tekens	$0.50	$1.95
Uitvoer per 1M tekens	$2.00	$3.90
Konteks / maks uitvoer	262,144 / 16,384	262,144 / 16,384
Gereedskap · gestruktureerde uitvoer · stroming	Ja	Ja
Visie	Nee	Nee
Weieringslaag	Geen	Geen

Let op wat nie verander nie: konteks, uitvoerplafon, gereedskaproeping, gestruktureerde uitvoer, en die afwesigheid van 'n weieringslaag is identies. Die enigste dinge wat beweeg, is die grondslag, die kwantisering en die prys. Dit maak die oorskakeling tussen hulle 'n verandering van een string in jou kode en 'n suiwer ekonomiese besluit in jou argitektuur.

Wat een oproep van maksimum grootte kos

Vul die hele konteks van 262,144 tekens en neem die volle uitvoer van 16,384 tekens:

Teen lysprys. Flash: $0.131 inset + $0.033 uitvoer. Pro: $0.511 + $0.064. Verhouding 3.51×. Flash deel ook die vloer van $0.50 / $2.00 met MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro en Hy3 — sien die volledige katalogus vir hoe dié verskil op visie en gestruktureerde uitvoer.

06Die volumewiskunde, uitgewerk

"3.9× goedkoper" is net waar op inset. Op uitvoer is Flash 1.95× goedkoper. Jou werklike besparing hang dus af van jou inset-tot-uitvoer-verhouding, en die spreiding is wyd genoeg om ontwerpbesluite te verander. Vier realistiese werkladings, elk teen 100,000 versoeke:

Werklading	In / uit per oproep	Flash	Pro	Besparing
Kaartjieklassifikasie	1,200 / 120	$84	$281	3.3×
RAG-vraagbeantwoording	8,000 / 600	$520	$1,794	3.4×
Opsomming van lang dokument	60,000 / 1,500	$3,300	$12,285	3.7×
Sintetiese datagenerering	500 / 2,000	$425	$878	2.1×

Die patroon: hoe meer konteks jy instoot en hoe minder teks jy genereer, hoe meer spaar Flash jou. Herwinningspyplyne, dokumenttriage, log- en transkripsie-ontleding, en langkonteks-onttrekking is die soetkol — hulle word met 'n ordegrootte deur inset oorheers, en inset is waar die afslag van 3.9× lê. As jou werklading eerder 'n kort opdrag is wat duisende tekens prosa produseer, vernou die gaping tot ongeveer 2× en die vermoënsargument vir Pro word ooreenkomstig sterker.

Nog 'n stuk rekenkunde wat die moeite werd is om te internaliseer: teen $0.50 per miljoen insettekens kos die hele venster van 262,144 tekens 13.1 sent om te vul. Langkonteks-opdragte hou teen daardie prys op om 'n begrotingsvraag te wees, wat soms beteken dat jy 'n herwinningslaag glad nie hoef te bou nie en die konteksvenster die werk kan laat doen — 'n ingenieursbesparing bo-op die tekenbesparing.

07Wat "ongesensureerd" hier presies beteken

Die woord word losweg gebruik, so hier is ons definisie, gestel as 'n eienskap van die eindpunt: daar is geen weieringsklassifiseerder voor die model nie en geen inhoudsfiltrering op sy uitvoer nie. Niks onderskep 'n opdrag en gee 'n geblikte weiering terug nie; niks inspekteer die voltooiing en redigeer dit nie. Vir hoëvolume-produksiewerk is die gevolge minder dramaties en nuttiger as wat die woord suggereer:

• Geen vals positiewes op onskadelike verkeer nie. Gefiltreerde eindpunte weier gereeld mediese opsommings, sekuriteitsverslae, regsontdekking, fiksie, skadeverminderingsmateriaal en modereringswerk self — presies die kategorieë waar 'n bondeltaak teks oor 'n sensitiewe onderwerp verwerk eerder as om iets skadeliks te produseer. By honderdduisend versoeke is 'n valsweieringskoers van een persent 'n duisend gebreekte rye.
• Deterministiese kontrakte. Vra vir 'n json_schema-antwoord en jy kry JSON wat by die skema pas, nie 'n paragraaf van verskoning waar 'n objek moes wees nie. Jou ontleder het geen weieringstak nodig nie, en jou hertoetslogika hoef nie 'n vervoermislukking van 'n beleidsmislukking te onderskei nie.
• Jy besit die beleid. Dit is die afruiling. As jou produk beskermings vir jou eindgebruikers nodig het, bou jy dit by jou laag, waar jy jou gebruikers en jou jurisdiksie ken, in plaas daarvan om 'n verskaffer se raaiskote oor albei te erf. Jou rekening bly deur ons Beleid vir Verantwoordelike Gebruik beheer.

Ongesensureerd is nie dieselfde as onbelyn of onbehulpsaam nie. Die model volg steeds instruksies en respekteer steeds 'n stelselopdrag. As jy wil hê dit moet sekere kategorieë vir jou gebruikers weier, sê dit daar — daardie instruksie is nou joune om te skryf eerder as ons s'n om op te lê.

08Vermoëns en eerlike grense

Twee vermoëns dra die meeste gewig vir volumewerk. Streng json_schema-uitvoer maak van 'n voltooiing 'n databasisry sonder ontleedlaag en sonder weieringstak. Gereedskaproeping in al drie dialekte maak Flash 'n sinvolle enjin vir die goedkoop substappe van 'n agent wie se topvlakbeplanner op 'n sterker model loop. Voeg reasoning_effort by, wat jou toelaat om ekstra tekens net op die fraksie verkeer te bestee wat dit nodig het, en 'n konteks van 262,144 tekens identies aan Pro s'n — jy gee nie konteks prys deur die goedkoop vlak te kies nie, wat ongewoon is.

Die grense is net so konkreet:

• Geen visie nie. Flash is slegs teks en sal beelddele in 'n boodskap verwerp. Vir beelde op 'n ongesensureerde model teen dieselfde vloer van $0.50 / $2.00 is MiniMax-M3 en MiMo-V2.5 die visie-bekwame opsies; Kimi-K2.6 en Kimi-K3 is sterker visiemodelle bo daardie vlak.
• Nie die bopunt van die leer nie. DeepSeek se eie syfers plaas Pro voor op elke gepubliseerde agentiese maatstaf, met die gaping die wydste op volgehoue meerstap-koderedenering. Waar een verkeerde antwoord meer kos as duisend goedkoop antwoorde, bestee die ekstra $1.45 per miljoen aan DeepSeek-V4-Pro.
• 16,384 uitvoertekens per versoek. Lang generasies moet oor oproepe heen gestuk word. Dit is dieselfde plafon op elke model wat ons bedien, en dit bind lank voor die konteksvenster dit doen.

09Om dit te roep

Wys enige OpenAI-versoenbare kliënt na die poort en verander die modelstring. Niks anders in jou stapel hoef te beweeg nie.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Dieselfde model-ID werk onveranderd op /v1/messages en /v1/responses, wat die vinnigste manier is om 'n goedkoper model onder 'n bestaande integrasie te A/B-toets sonder om jou kliënt te herskryf. Parameters, stroomgebeurtenisvorme, gereedskaproepingskemas en tempoperke word in die API-verwysing gedokumenteer; elke model in die katalogus word by Shannon Research gelys.

10Gereelde vrae

---

Bronne: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 tegniese verslag (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731- en DeepSeek-V4-Pro-0813-modelkaarte · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Alle grondslag- en maatstafsyfers is soos deur hulle onderskeie outeurs gepubliseer; Shannon AI se pryse en bediende konteks is ons eie lyswaardes soos op September 2026.