Ongecensureerde DeepSeek Flash-API

De meeste teams die een LLM-API evalueren, optimaliseren de verkeerde variabele. Ze benchmarken op de twintig moeilijkste prompts die ze kunnen bedenken, kiezen de winnaar, en ontdekken zes weken later dat vijfennegentig procent van hun verkeer bestaat uit kort, gestructureerd, repetitief werk dat een model van een kwart van de prijs identiek had afgehandeld. DeepSeek-V4-Flash bestaat voor die vijfennegentig procent. Deze pagina gaat erover te weten wanneer u daarin zit — en wanneer niet.

01Wat u werkelijk krijgt

Eigenschap	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Model-id	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Context / max. uitvoer	262,144 tokens / 16,384 tokens
Prijs per 1M (invoer / uitvoer)	$0.50 / $2.00
Streaming · tool calling · redeneren	Ja — alle drie de dialecten
Gestructureerde uitvoer	json_schema en response_format
Beeldinvoer (vision)	Nee — alleen tekst
Weigeringslaag / uitvoerfilter	Geen
Geserveerd op	Shannons eigen GPU-cluster

Drie API-dialecten komen bij dezelfde gewichten uit: /v1/chat/completions (OpenAI-vorm), /v1/messages (Anthropic-vorm) en /v1/responses. Streaming werkt op alle drie. De volledige parameterreferentie staat in de API-documentatie.

02Waar het vandaan komt: de DeepSeek-afstamming

DeepSeek-AI heeft vijf modelgeneraties aan één obsessie besteed: frontier-gedrag halen uit een model dat goedkoop is om te serveren, en niet alleen goedkoop om te trainen. Vrijwel elke architectonische beslissing in de lijn is daarop terug te voeren, en de belangrijkste zijn gepubliceerd. Drie ervan verklaren wat u aanroept wanneer u dit endpoint raakt.

DeepSeekMoE — fijnkorrelige experts plus één gedeelde

Een Mixture-of-Experts-laag vervangt één groot feed-forward-netwerk door veel kleinere, met een router die er per token een handvol kiest. De variant van DeepSeek snijdt experts fijner dan de conventionele indeling met acht experts, zodat dezelfde geactiveerde FLOPs een veel combinatorisch specifieker mengsel kopen, en isoleert een gedeelde expert waar elk token doorheen gaat, zodat algemene kennis niet in elke specialist opnieuw wordt aangeleerd. DeepSeek-V3 leverde dat als 256 gerouteerde experts plus 1 gedeelde expert, met 8 gerouteerde actief per token — 671B totale parameters, 37B actief — samen met load balancing zonder hulpverlies: in plaats van een strafterm die de kwaliteit aantast, duwt een bias per expert de routeringsscores elke stap omhoog of omlaag naarmate die expert onder- of overbelast draait.

MLA — attentie die in het geheugen past

De andere helft van het serveerkostenprobleem is de KV-cache, die lineair met de context groeit en bij lange sequenties het geheugen domineert. Multi-head Latent Attention, geïntroduceerd in DeepSeek-V2, comprimeert keys en values gezamenlijk tot een latente vector van lage rang en cachet die, en reconstrueert bruikbare K/V ter plekke. De gepubliceerde V2-cijfers van DeepSeek, tegenover hun eerdere dichte DeepSeek 67B, rapporteren een reductie van 93.3% in de KV-cache en een 5.76× hogere maximale generatiedoorvoer. Daarom is een venster van 262K tokens in deze familie de norm en geen betaalde extra.

Sparse attention — en het precedent voor goedkope tokens

V3.2-Exp voegde DeepSeek Sparse Attention toe: een lichte indexer geeft contexttokens een score tegen de query, en een selector houdt alleen de hoogstscorende over. Het interessante is het bewijsstuk, niet het mechanisme. DeepSeek publiceerde een vergelijking naast V3.1-Terminus met MMLU-Pro identiek op 85.0, AIME 2025 hoger (88.4 → 89.3) en SWE-bench Verified marginaal lager (68.4 → 67.8) — in wezen vlakke kwaliteit — en verlaagde hun API-prijzen diezelfde dag met meer dan 50%. Architectuur, eerlijk gerapporteerd, die rechtstreeks in prijs verandert. Flash is dat argument één stap verder doorgevoerd.

De V4-generatie

V4, in april 2026 als preview uitgebracht onder een MIT-licentie, vervangt de attentiestapel opnieuw door een hybride van Compressed Sparse Attention en Heavily Compressed Attention, traint met de Muon-optimizer op meer dan 32T tokens, en behoudt het multi-token-prediction-doel van V3 — dat tevens als speculatief decoderen dient, en dat DeepSeek in V3 mat op een acceptatiegraad van 85–90% voor het tweede token, goed voor ruwweg een 1.8× snellere decodering. De samenvatting van V4 rapporteert dat V4-Pro draait op 27% van de FLOPs voor inferentie per token van V3.2 en 10% van diens KV-cache. De familie biedt drie niveaus van redeneerinspanning, en daar sluit onze parameter reasoning_effort op aan.

Bronnen: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · technisch rapport DeepSeek-V3 (arXiv 2412.19437) · modelkaart DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Alle cijfers zijn door DeepSeek gerapporteerd.

03Wat "Flash" werkelijk betekent

Dit is het punt waarop de meeste vergelijkingen de fout in gaan, dus het is de moeite waard het onomwonden te stellen: de Flash van DeepSeek is geen gekwantiseerde, gesnoeide of gedistilleerde Pro. Het is een apart getraind, kleiner Mixture-of-Experts-model met zijn eigen pretrainingsrun. Het V4-previewpaper geeft de twee formaten:

Cijfers uit het previewpaper van DeepSeek-V4. De officiële checkpoints die wij serveren — V4-Flash-0731 en V4-Pro-0813 — vermelden op hun modelkaarten iets grotere totalen van 304B en 1.7T; DeepSeek geeft voor die builds geen nieuw aantal geactiveerde parameters op.

Twee getallen doen hier het werk. Het totale aantal parameters bepaalt de geheugenvoetafdruk, en dus hoeveel hardware één kopie van het model bezet. Het aantal geactiveerde parameters bepaalt het rekenwerk per token, en dus de doorvoer. Flash is ruwweg 5.6× kleiner op het eerste en 3.8× kleiner op het tweede — en in dat verschil zit een subtiliteit die opmerking verdient: Flash activeert 13 van de 284 miljard parameters, ongeveer 4.6%, terwijl Pro er 49 van de 1,600 miljard activeert, ongeveer 3.1%. Flash is het minder spaarzame model. Het is niet simpelweg Pro met minder experts aangezet; het is een dichter, anders uitgebalanceerd ontwerp dat een groter deel van zichzelf besteedt aan elk token dat het produceert. Dat is een echte ingenieurskeuze, geen degradatie.

Wat DeepSeeks eigen cijfers zeggen

Beide officiële modelkaarten publiceren scores op dezelfde agentische en software-engineeringbenchmarks, wat dit een ongewoon zuivere vergelijking maakt — hetzelfde lab, hetzelfde evaluatieharnas, twee formaten:

Benchmark (door DeepSeek gerapporteerd)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro wint elke rij. Dat is de eerlijke kop, en wij lezen die liever hier met u dan dat u haar in productie ontdekt. Maar lees de marges, want dat is wat u werkelijk koopt. Op Terminal Bench 2.1 is het gat 5.2 punten voor een model met een vijfentwintigste van de parameters; op toolgebruik is het 3.8 punten. Het gat wordt groter naarmate het werk dieper gaat — 8.3 punten op DeepSWE, 7.3 op NL2Repo, allebei benchmarks die volgehouden coderedeneren over meerdere stappen belonen. Dat is de vorm van de afweging in één tabel: Flash overbrugt het grootste deel van de afstand op afgebakende taken en geeft terrein prijs op open taken.

DeepSeeks eigen Flash-kaart maakt het punt nog scherper: Flash-0731 presteert beter dan de V4-Pro-preview op de vermelde benchmarks, ondanks zijn veel kleinere aantal geactiveerde parameters. Dat een nieuwer klein model een ouder groot model verslaat, is in dit vakgebied de normale gang van zaken, en het is de reden dat "het grotere niveau" nooit uw standaardantwoord zou moeten zijn.

04Het achtervoegsel lezen: W4A16-AUTOROUND-REAP

Onze model-id's noemen hun compressieschema hardop, omdat dat het meest van invloed is op de uitvoerkwaliteit en vrijwel niemand het openbaar maakt. Dit achtervoegsel valt uiteen in drie beweringen.

W4A16 — gewichten van 4 bits, activaties van 16 bits

Gewichten worden op 4 bits per stuk opgeslagen; activaties stromen door met een precisie van 16 bits. Dit is kwantisatie alleen op gewichten, en ze richt zich op het werkelijke knelpunt bij het genereren van tokens, namelijk geheugenbandbreedte in plaats van rekenwerk. Ook de activaties kwantiseren zou wat extra snelheid opleveren en een veel groter risico op een nauwkeurigheidsklif meebrengen; ze op 16 bits laten is de behoudende keuze met hoge getrouwheid. De notatie is jargon uit het serveerecosysteem — de kwantisatieliteratuur schrijft hetzelfde als W4 met een groepsgrootte.

AUTOROUND — geleerd afronden, niet afronden op de dichtstbijzijnde waarde

Naïeve kwantisatie rondt elk gewicht af op de dichtstbijzijnde representeerbare waarde. Dat is aantoonbaar niet optimaal: één gewicht de "verkeerde" kant op afronden kan de fout van zijn buren opheffen, en met miljarden gewichten domineren die interacties. AutoRound, van Intel, behandelt de afrondingsbeslissing zelf als iets dat je kunt leren — een trainbare verstoring per gewicht, begrensd op ±0.5, precies genoeg om elke afzonderlijke afrondingsbeslissing om te draaien en nooit meer, plus leerbare afknotbereiken, geoptimaliseerd met signed gradient descent tegen een blokgewijs doel voor uitvoerreconstructie over een kleine kalibratieset. Tweehonderd stappen, en klaar.

In de gepubliceerde vergelijkingen van Intel verslaat AutoRound GPTQ in 30 van de 32 geteste scenario's, AWQ in 27 van de 32 en OmniQuant in 29 van de 32 bij instellingen met 4 bits alleen op gewichten, met winsten van 6.9 tot 33.2 nauwkeurigheidspunten ten opzichte van naïef afronden op de dichtstbijzijnde waarde bij 2 bits. Niets daarvan kost iets bij inferentie: het is een betere keuze van getallen, eenmalig gemaakt, offline.

REAP — experts weggooien waar niemand naartoe routeert

REAP (Router-weighted Expert Activation Pruning), van Cerebras Systems en de University of Calgary, is compressie in één stap voor MoE-modellen. Het geeft elke expert een score op basis van hoe sterk en hoe vaak de router hem aanstuurt, vermenigvuldigd met de grootte van de uitvoer van die expert, en verwijdert vervolgens de minst saillante experts volledig — zonder hertraining achteraf.

De centrale bevinding van het paper is de bruikbare: bij hoge compressieverhoudingen verslaat het snoeien van experts het samenvoegen ervan. Functioneel verschillende experts samenvoegen veroorzaakt wat de auteurs functionele deelruimte-instorting noemen — de router verliest de fijnkorrelige, invoerafhankelijke regie die de MoE de moeite waard maakte, en houdt alleen sturing tussen statische gemiddelden over. Hun cijfers over modellen van 20B tot 1T parameters: bij 25% expertcompressie op codeertaken verliest REAP 2.8% gemiddelde nauwkeurigheid waar samenvoegende baselines meer dan 5% verliezen; bij 50% verliest REAP 8.0% waar samenvoegen meer dan 20% verliest. Op Qwen3-Coder-480B bij 50% snoeien is de daling 1.4%, tegenover 39.3% voor naïef snoeien op frequentie. Cerebras heeft onder meer voor de DeepSeek-lijn REAP-checkpoints gepubliceerd.

Waarom hier 4 bits en op Pro 3 bits

Beide niveaus moeten passen en snel blijven op dezelfde klasse hardware. Pro draagt 1.7 biljoen parameters en heeft dus de agressievere behandeling met 3 bits nodig om überhaupt te passen. Flash draagt ruwweg 300 miljard en heeft dat niet nodig — en de bit die het bespaart, wordt aan getrouwheid besteed in plaats van aan passen.

Die extra bit doet meer dan de rekensom suggereert, want kwantisatieschade is niet lineair. In de WikiText-2-metingen van het AWQ-paper gaat Llama-2-7B van 5.47 perplexiteit bij FP16 naar 5.60 bij 4 bits — een straf van 2.4% — maar naar 6.24 bij 3 bits, een straf van 14%. Dat is ruwweg zes keer de verslechtering voor 25% meer compressie, en hetzelfde patroon geldt bij 70B. Het GPTQ-paper is nog botter: bij 3 bits stort naïef afronden op de dichtstbijzijnde waarde in op modellen van de 175B-klasse, tot in de duizenden perplexiteit, terwijl het bij 4 bits prima bruikbaar blijft. Onder vier bits houdt een goed kwantisatiealgoritme op een aardigheidje te zijn en wordt het het enige dat het model bijeenhoudt.

De eerlijke lezing van deze twee achtervoegsels luidt dus: Flash staat dichter bij zijn eigen ongecomprimeerde zelf dan Pro bij het zijne. Pro is nog altijd het sterkere model — de benchmarktabel hierboven beslecht dat. Het heeft alleen meer moeten opgeven om hier te komen, en u betaalt voor dat voorrecht.

Bronnen: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Perplexiteitscijfers uit AWQ (arXiv 2306.00978) en GPTQ (arXiv 2210.17323).

05Flash tegenover Pro op het endpoint

Paragraaf 03 behandelde de basismodellen. Zo zien de twee niveaus eruit als producten op onze gateway:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Kwantisatie	W4A16-AUTOROUND-REAP	3BIT-REAP
Gewichtsprecisie	4 bits, geleerd afronden	3 bits
Basismodel (totaal / actief)	~304B / 13B	~1.7T / 49B
Invoer per 1M tokens	$0.50	$1.95
Uitvoer per 1M tokens	$2.00	$3.90
Context / max. uitvoer	262,144 / 16,384	262,144 / 16,384
Tools · gestructureerde uitvoer · streaming	Ja	Ja
Vision	Nee	Nee
Weigeringslaag	Geen	Geen

Let op wat niet verandert: context, uitvoerplafond, tool calling, gestructureerde uitvoer en de afwezigheid van een weigeringslaag zijn identiek. Het enige wat beweegt, zijn het basismodel, de kwantisatie en de prijs. Daardoor is wisselen tussen beide een wijziging van één string in uw code en een puur economische beslissing in uw architectuur.

Wat één aanroep van maximale grootte kost

Vul de volledige context van 262,144 tokens en neem de volledige uitvoer van 16,384 tokens:

Tegen lijstprijs. Flash: $0.131 invoer + $0.033 uitvoer. Pro: $0.511 + $0.064. Verhouding 3.51×. Flash deelt de bodem van $0.50 / $2.00 ook met MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro en Hy3 — zie de volledige catalogus voor hoe die verschillen op vision en gestructureerde uitvoer.

06De rekensom voor volume, uitgewerkt

"3.9× goedkoper" geldt alleen op invoer. Op uitvoer is Flash 1.95× goedkoper. Uw werkelijke besparing hangt dus af van uw verhouding tussen invoer en uitvoer, en de spreiding is groot genoeg om ontwerpbeslissingen te veranderen. Vier realistische werklasten, elk bij 100,000 verzoeken:

Werklast	In / uit per aanroep	Flash	Pro	Besparing
Ticketclassificatie	1,200 / 120	$84	$281	3.3×
Vragen beantwoorden met RAG	8,000 / 600	$520	$1,794	3.4×
Samenvatting van een lang document	60,000 / 1,500	$3,300	$12,285	3.7×
Generatie van synthetische data	500 / 2,000	$425	$878	2.1×

Het patroon: hoe meer context u erin duwt en hoe minder tekst u genereert, hoe meer Flash u bespaart. Ophaalpijplijnen, documenttriage, analyse van logs en transcripties, en extractie met lange context zijn de zoete plek — ze worden met een orde van grootte door invoer gedomineerd, en op invoer zit de korting van 3.9×. Bestaat uw werklast juist uit een korte prompt die duizenden tokens proza produceert, dan versmalt het gat tot ruwweg 2× en wordt het capaciteitsargument voor Pro navenant sterker.

Nog één rekensom die het waard is te internaliseren: bij $0.50 per miljoen invoertokens kost het vullen van het hele venster van 262,144 tokens 13.1 cent. Bij die prijs houdt prompten met lange context op een budgetvraag te zijn, wat soms betekent dat u helemaal geen ophaallaag hoeft te bouwen en het contextvenster het werk kunt laten doen — een besparing in engineering bovenop de besparing in tokens.

07Wat "ongecensureerd" hier precies betekent

Het woord wordt losjes gebruikt, dus hier onze definitie, geformuleerd als een eigenschap van het endpoint: er staat geen weigeringsclassifier voor het model en er wordt geen contentfiltering op de uitvoer toegepast. Niets onderschept een prompt en geeft een ingeblikte afwijzing terug; niets inspecteert de voltooiing en lakt haar. Voor productiewerk op hoog volume zijn de gevolgen minder dramatisch en nuttiger dan het woord suggereert:

• Geen vals-positieven op onschuldig verkeer. Gefilterde endpoints weigeren routinematig medische samenvattingen, beveiligingsverslagen, juridische discovery, fictie, materiaal over schadebeperking en moderatiewerk zelf — precies de categorieën waarin een batchtaak tekst over een gevoelig onderwerp verwerkt in plaats van iets schadelijks te produceren. Bij honderdduizend verzoeken zijn duizend kapotte rijen het gevolg van één procent onterechte weigeringen.
• Deterministische contracten. Vraag om een antwoord met json_schema en u krijgt JSON die aan het schema voldoet, geen alinea excuses waar een object hoort te staan. Uw parser heeft geen weigeringstak nodig, en uw retrylogica hoeft geen transportfout van een beleidsfout te onderscheiden.
• U bepaalt het beleid. Dat is de afweging. Heeft uw product waarborgen nodig voor uw eindgebruikers, dan bouwt u die op uw laag, waar u uw gebruikers en uw rechtsgebied kent, in plaats van de gissingen van een aanbieder over beide te erven. Voor uw account blijft ons beleid voor verantwoord gebruik gelden.

Ongecensureerd is niet hetzelfde als niet-uitgelijnd of onbehulpzaam. Het model volgt nog steeds instructies en respecteert nog steeds een systeemprompt. Wilt u dat het bepaalde categorieën weigert voor uw gebruikers, zeg dat daar — die instructie is nu aan u om te schrijven in plaats van aan ons om op te leggen.

08Capaciteiten en eerlijke beperkingen

Twee capaciteiten dragen het meeste gewicht bij volumewerk. Strikte uitvoer met json_schema maakt van een voltooiing een databaserij zonder parseerlaag en zonder weigeringstak. Tool calling in alle drie de dialecten maakt Flash een verstandige motor voor de goedkope deelstappen van een agent waarvan de planner op het hoogste niveau op een sterker model draait. Voeg daar reasoning_effort aan toe, waarmee u alleen extra tokens besteedt aan het deel van het verkeer dat ze nodig heeft, en een context van 262,144 tokens die identiek is aan die van Pro — u levert geen context in door het goedkope niveau te kiezen, en dat is ongebruikelijk.

De beperkingen zijn even concreet:

• Geen vision. Flash is alleen tekst en weigert beeldonderdelen in een bericht. Voor afbeeldingen op een ongecensureerd model tegen dezelfde bodem van $0.50 / $2.00 zijn MiniMax-M3 en MiMo-V2.5 de opties met vision; Kimi-K2.6 en Kimi-K3 zijn sterkere vision-modellen boven dat niveau.
• Niet de top van de ladder. DeepSeeks eigen cijfers zetten Pro voorop op elke gepubliceerde agentische benchmark, met het grootste gat bij volgehouden coderedeneren over meerdere stappen. Waar één fout antwoord meer kost dan duizend goedkope, geeft u de extra $1.45 per miljoen uit aan DeepSeek-V4-Pro.
• 16,384 uitvoertokens per verzoek. Lange generaties moeten over meerdere aanroepen worden opgeknipt. Dit is hetzelfde plafond op elk model dat wij serveren, en het bindt ruim voordat het contextvenster dat doet.

09Aanroepen

Richt een willekeurige OpenAI-compatibele client op de gateway en verander de modelstring. Verder hoeft er niets in uw stack te bewegen.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Dezelfde model-id werkt ongewijzigd op /v1/messages en /v1/responses, en dat is de snelste manier om onder een bestaande integratie een goedkoper model te A/B-testen zonder uw client te herschrijven. Parameters, de vorm van streaming-events, schema's voor tool calling en rate limits staan in de API-referentie; elk model in de catalogus staat vermeld op Shannon Research.

10Veelgestelde vragen

---

Bronnen: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · technisch rapport DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · modelkaarten DeepSeek-V4-Flash-0731 en DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Alle cijfers over basismodellen en benchmarks zijn zoals gepubliceerd door hun respectieve auteurs; de prijzen en de geserveerde context van Shannon AI zijn onze eigen lijstwaarden per september 2026.