Usensurert DeepSeek Flash-API

De fleste team som evaluerer et LLM-API, optimerer feil variabel. De tester på de tjue vanskeligste promptene de klarer å komme på, kårer en vinner, og oppdager seks uker senere at nittifem prosent av trafikken deres er kort, strukturert, repetitivt arbeid som en modell til en fjerdedel av prisen ville håndtert identisk. DeepSeek-V4-Flash finnes for de nittifem prosentene. Denne siden handler om å vite når du er der — og når du ikke er det.

01Hva du faktisk får

Egenskap	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Modell-ID	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Kontekst / maks utdata	262,144 tokens / 16,384 tokens
Pris per 1M (inn / ut)	$0.50 / $2.00
Strømming · verktøykall · resonnering	Ja — alle tre dialektene
Strukturert utdata	json_schema og response_format
Bilder som inndata (syn)	Nei — kun tekst
Avvisningslag / utdatafilter	Ingen
Servert på	Shannons egen GPU-klynge

Tre API-dialekter når de samme vektene: /v1/chat/completions (OpenAI-formet), /v1/messages (Anthropic-formet) og /v1/responses. Strømming fungerer på alle tre. Fullstendig parameterreferanse finner du i API-dokumentasjonen.

02Hvor den kommer fra: DeepSeek-avstamningen

DeepSeek-AI har brukt fem modellgenerasjoner på én besettelse: å få frontlinjeatferd ut av en modell som er billig å servere, ikke bare billig å trene. Nesten hvert arkitektonisk valg i rekken kan spores tilbake til det, og de viktigste er publisert. Tre av dem forklarer hva du kaller når du treffer dette endepunktet.

DeepSeekMoE — finkornede eksperter pluss én delt

Et Mixture-of-Experts-lag erstatter ett stort foroverkoblet nettverk med mange mindre og en ruter som velger en håndfull per token. DeepSeeks variant deler ekspertene finere enn det vanlige oppsettet med åtte eksperter, slik at de samme aktiverte FLOPS-ene kjøper en langt mer kombinatorisk spesifikk blanding, og den skiller ut en delt ekspert som hvert token går gjennom, slik at allmennkunnskap ikke læres på nytt i hver spesialist. DeepSeek-V3 leverte det som 256 rutede eksperter pluss 1 delt ekspert, med 8 rutede aktivert per token — 671B totale parametere, 37B aktive — sammen med lastbalansering uten hjelpetap: i stedet for et straffeledd som forringer kvaliteten, dytter en skjevhet per ekspert ruteskårene opp eller ned for hvert steg etter hvert som den eksperten kjører under- eller overbelastet.

MLA — oppmerksomhet som får plass i minnet

Den andre halvdelen av serveringskostnadsproblemet er KV-hurtigbufferen, som vokser lineært med konteksten og dominerer minnet ved lange sekvenser. Multi-head Latent Attention, introdusert i DeepSeek-V2, komprimerer nøkler og verdier i fellesskap til en lavrangs latent vektor og hurtigbufrer den, og rekonstruerer brukbare K/V underveis. DeepSeeks publiserte V2-tall, mot deres tidligere tette DeepSeek 67B, rapporterer en reduksjon på 93.3% i KV-hurtigbuffer og 5.76× høyere maksimal genereringsgjennomstrømning. Det er derfor et vindu på 262K tokens er en selvfølge i denne familien snarere enn et tillegg mot ekstra betaling.

Tynn oppmerksomhet — og presedensen for billige tokens

V3.2-Exp la til DeepSeek Sparse Attention: en lettvekts indekserer scorer kontekst-tokens mot spørringen, og en velger beholder bare de høyest skårende. Det interessante er kvitteringen, ikke mekanismen. DeepSeek publiserte en side-ved-side-sammenligning mot V3.1-Terminus der MMLU-Pro var identisk på 85.0, AIME 2025 opp (88.4 → 89.3) og SWE-bench Verified marginalt ned (68.4 → 67.8) — i praksis flat kvalitet — og kuttet API-prisene sine med mer enn 50% samme dag. Arkitektur, ærlig rapportert, omgjort direkte til pris. Flash er det argumentet tatt ett steg videre.

V4-generasjonen

V4, forhåndsvist i april 2026 under en MIT-lisens, bytter ut oppmerksomhetsstabelen igjen med en hybrid av Compressed Sparse Attention og Heavily Compressed Attention, trener med Muon-optimereren på mer enn 32T tokens, og beholder V3s mål om flertokensprediksjon — som samtidig fungerer som spekulativ dekoding, og som DeepSeek målte til en akseptrate på 85–90% for det andre tokenet, tilsvarende rundt 1.8× raskere dekoding i V3. V4-sammendraget rapporterer at V4-Pro kjører på 27% av V3.2s inferens-FLOPS per token og 10% av KV-hurtigbufferen. Familien eksponerer tre nivåer av resonneringsinnsats, og det er dem reasoning_effort-parameteren vår peker på.

Kilder: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Teknisk rapport for DeepSeek-V3 (arXiv 2412.19437) · modellkortet for DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Alle tall er rapportert av DeepSeek.

03Hva «Flash» faktisk betyr

Dette er punktet de fleste sammenligninger bommer på, så det er verdt å si rett ut: DeepSeeks Flash er ikke en kvantisert, beskåret eller destillert Pro. Den er en separat trent, mindre Mixture-of-Experts-modell med sin egen fortreningskjøring. V4-forhåndsartikkelen oppgir de to størrelsene:

Tall fra forhåndsartikkelen om DeepSeek-V4. De offisielle sjekkpunktene vi serverer — V4-Flash-0731 og V4-Pro-0813 — oppgir noe større totaler på 304B og 1.7T på modellkortene sine; DeepSeek gjentar ikke aktiverte parametere for de byggingene.

To tall gjør jobben her. Totale parametere setter minneavtrykket, som avgjør hvor mye maskinvare én kopi av modellen legger beslag på. Aktiverte parametere setter regnearbeidet per token, som avgjør gjennomstrømningen. Flash er rundt 5.6× mindre på det første og 3.8× mindre på det andre — og det ligger en finesse verdt å legge merke til i det gapet: Flash aktiverer 13 av 284 milliarder parametere, rundt 4.6%, mens Pro aktiverer 49 av 1,600 milliarder, rundt 3.1%. Flash er den minst tynne modellen. Den er ikke bare Pro med færre eksperter påslått; den er en tettere, annerledes balansert konstruksjon som bruker en større andel av seg selv på hvert token den produserer. Det er et reelt ingeniørvalg, ikke en nedgradering.

Hva DeepSeeks egne tall sier

Begge de offisielle modellkortene publiserer skårer på de samme agentiske testene og programvaretestene, noe som gjør dette til en uvanlig ryddig sammenligning — samme lab, samme evalueringsrammeverk, to størrelser:

Benchmark (rapportert av DeepSeek)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro vinner hver eneste rad. Det er den ærlige overskriften, og vi vil heller at du leser den her enn at du oppdager den i produksjon. Men les marginene, for det er dem du faktisk kjøper. På Terminal Bench 2.1 er gapet 5.2 poeng for en modell med en tjuefemtedel av parameterne; på verktøybruk er det 3.8 poeng. Gapet vokser der arbeidet blir dypest — 8.3 poeng på DeepSWE, 7.3 på NL2Repo, som begge belønner vedvarende kodearbeid over mange steg. Det er formen på avveiningen i én tabell: Flash tetter det meste av avstanden på avgrensede oppgaver og gir tapt på åpne.

DeepSeeks eget Flash-kort setter poenget enda skarpere: Flash-0731 slår V4-Pro-forhåndsversjonen på de oppførte testene, til tross for langt færre aktiverte parametere. At en nyere liten modell slår en eldre stor, er normaltilstanden på dette feltet, og det er grunnen til at «større nivå» aldri bør være standardsvaret ditt.

04Å lese suffikset: W4A16-AUTOROUND-REAP

Modell-ID-ene våre sier komprimeringsopplegget sitt høyt, fordi det er det som påvirker utdatakvaliteten mest og som nesten ingen opplyser om. Dette ene brytes ned i tre påstander.

W4A16 — 4-bits vekter, 16-bits aktiveringer

Vektene lagres med 4 bits hver; aktiveringene flyter gjennom med 16-bits presisjon. Dette er kun vekt-kvantisering, og den treffer den faktiske flaskehalsen i tokengenerering, som er minnebåndbredde snarere enn regnearbeid. Å kvantisere aktiveringene også ville gitt litt mer fart og risikert et mye større nøyaktighetsstup; å la dem stå på 16 bits er det konservative valget med høy troskap. Notasjonen er stenografi fra serveringsmiljøet — kvantiseringslitteraturen skriver det samme som W4 med en gruppestørrelse.

AUTOROUND — lært avrunding, ikke avrunding til nærmeste

Naiv kvantisering runder hver vekt av til nærmeste representerbare verdi. Det er beviselig ikke optimalt: å runde én vekt «feil» vei kan kansellere feil innført av naboene, og med milliarder av vekter dominerer de samspillene. AutoRound, fra Intel, behandler selve avrundingsvalget som noe som kan læres — en trenbar forstyrrelse per vekt begrenset til ±0.5, akkurat nok til å snu et hvilket som helst enkelt avrundingsvalg og aldri mer, pluss lærbare klippeområder, optimert med fortegnsbasert gradientnedstigning mot et blokkvis mål om å rekonstruere utdata over et lite kalibreringssett. To hundre steg, så er den ferdig.

Intels publiserte sammenligninger har AutoRound slå GPTQ i 30 av 32 testede scenarier, AWQ i 27 av 32 og OmniQuant i 29 av 32 med 4-bits kun-vekt-innstillinger, med gevinster over naiv avrunding til nærmeste på 6.9 til 33.2 nøyaktighetspoeng ved 2 bits. Ingenting av det koster noe under inferens: det er et bedre valg av tall, gjort én gang, frakoblet.

REAP — å kaste ut eksperter ingen ruter til

REAP (Router-weighted Expert Activation Pruning), fra Cerebras Systems og University of Calgary, er ettskudds komprimering for MoE-modeller. Den scorer hver ekspert etter hvor sterkt og hvor ofte ruteren porterer til den, multiplisert med størrelsen på den ekspertens utdata, og sletter så de minst fremtredende ekspertene helt — uten videre trening etterpå.

Artikkelens sentrale funn er det nyttige: ved høye komprimeringsgrader slår det å beskjære eksperter det å slå dem sammen. Å slå sammen funksjonelt ulike eksperter fører til det forfatterne kaller kollaps av det funksjonelle underrommet — ruteren mister den finkornede, inndataavhengige styringen som gjorde MoE-en verdt å bygge, og sitter igjen med å styre mellom statiske gjennomsnitt. Tallene deres på tvers av modeller fra 20B til 1T parametere: ved 25% ekspertkomprimering på kodeoppgaver taper REAP 2.8% i snittnøyaktighet der sammenslåingsgrunnlinjer taper over 5%; ved 50% taper REAP 8.0% der sammenslåing taper over 20%. På Qwen3-Coder-480B med 50% beskjæring er fallet 1.4%, mot 39.3% for naiv frekvensbasert beskjæring. Cerebras har publisert REAP-sjekkpunkter for blant annet DeepSeek-rekken.

Hvorfor 4 bits her og 3 bits på Pro

Begge nivåene må få plass og holde farten på den samme klassen maskinvare. Pro bærer 1.7 billioner parametere, så den trenger den mer aggressive 3-bits-behandlingen bare for å få plass. Flash bærer rundt 300 milliarder, så det gjør den ikke — og biten den sparer, brukes på troskap i stedet for på å få plass.

Den ekstra biten betyr mer enn regnestykket antyder, for kvantiseringsskade er ikke lineær. I AWQ-artikkelens WikiText-2-målinger går Llama-2-7B fra 5.47 i perpleksitet ved FP16 til 5.60 ved 4 bits — en straff på 2.4% — men til 6.24 ved 3 bits, en straff på 14%. Det er rundt seks ganger så mye forringelse for 25% mer komprimering, og samme mønster holder ved 70B. GPTQ-artikkelen er enda mer direkte: ved 3 bits kollapser naiv avrunding til nærmeste på modeller i 175B-klassen, ned i perpleksiteter på flere tusen, mens den forblir fullt brukbar ved 4 bits. Under fire bits slutter en god kvantiseringsalgoritme å være en finesse og blir det eneste som holder modellen sammen.

Så den ærlige lesningen av disse to suffiksene er: Flash ligger nærmere sin egen ukomprimerte utgave enn Pro ligger til sin. Pro er fortsatt den sterkere modellen — benchmark-tabellen over avgjør det. Den ga bare fra seg mer for å komme hit, og du betaler for privilegiet.

Kilder: AutoRound — «Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs» (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — «REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression» (arXiv 2510.13999), Cerebras Systems. Perpleksitetstall fra AWQ (arXiv 2306.00978) og GPTQ (arXiv 2210.17323).

05Flash mot Pro på endepunktet

Avsnitt 03 dekket grunnmodellene. Slik ser de to nivåene ut som produkter på gatewayen vår:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Kvantisering	W4A16-AUTOROUND-REAP	3BIT-REAP
Vektpresisjon	4 bits, lært avrunding	3 bits
Grunnmodell (totalt / aktive)	~304B / 13B	~1.7T / 49B
Inn per 1M tokens	$0.50	$1.95
Ut per 1M tokens	$2.00	$3.90
Kontekst / maks utdata	262,144 / 16,384	262,144 / 16,384
Verktøy · strukturert utdata · strømming	Ja	Ja
Syn	Nei	Nei
Avvisningslag	Ingen	Ingen

Legg merke til hva som ikke endrer seg: kontekst, utdatatak, verktøykall, strukturert utdata og fraværet av et avvisningslag er identiske. Det eneste som beveger seg, er grunnmodellen, kvantiseringen og prisen. Det gjør bytte mellom dem til en endring av én streng i koden din og et rent økonomisk valg i arkitekturen din.

Hva ett kall i maksimal størrelse koster

Fyll hele konteksten på 262,144 tokens og ta ut full utdata på 16,384 tokens:

Til listepris. Flash: $0.131 inn + $0.033 ut. Pro: $0.511 + $0.064. Forhold 3.51×. Flash deler også gulvet på $0.50 / $2.00 med MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro og Hy3 — se hele katalogen for hvordan de skiller seg på syn og strukturert utdata.

06Volumregnestykket, gjennomført

«3.9× billigere» stemmer bare på inndata. På utdata er Flash 1.95× billigere. Den reelle besparelsen din avhenger derfor av forholdet mellom inn og ut, og spennet er stort nok til å endre designvalg. Fire realistiske arbeidsmengder, hver på 100,000 forespørsler:

Arbeidsmengde	Inn / ut per kall	Flash	Pro	Besparelse
Klassifisering av henvendelser	1,200 / 120	$84	$281	3.3×
RAG-spørsmålsbesvarelse	8,000 / 600	$520	$1,794	3.4×
Sammendrag av lange dokumenter	60,000 / 1,500	$3,300	$12,285	3.7×
Generering av syntetiske data	500 / 2,000	$425	$878	2.1×

Mønsteret: jo mer kontekst du dytter inn og jo mindre tekst du genererer, jo mer sparer Flash deg for. Gjenfinningspipelines, dokumenttriagering, analyse av logger og transkripsjoner, og uttrekk over lang kontekst er sweet spot — de er inndatadominerte med en størrelsesorden, og det er på inndata rabatten på 3.9× bor. Er arbeidsmengden din i stedet en kort prompt som produserer tusenvis av tokens prosa, krymper gapet til rundt 2× og argumentet for Pros evner blir tilsvarende sterkere.

Ett regnestykke til er verdt å ta innover seg: til $0.50 per million inn-tokens koster det 13.1 cent å fylle hele vinduet på 262,144 tokens. Prompting med lang kontekst slutter å være et budsjettspørsmål til den prisen, noe som iblant betyr at du kan droppe å bygge et gjenfinningslag i det hele tatt og la kontekstvinduet gjøre jobben — en ingeniørbesparelse på toppen av tokenbesparelsen.

07Hva «usensurert» betyr her, presist

Ordet brukes løst, så her er vår definisjon, formulert som en egenskap ved endepunktet: det står ingen avvisningsklassifiserer foran modellen og ingen innholdsfiltrering brukes på utdataene. Ingenting fanger opp en prompt og returnerer et ferdigskrevet avslag; ingenting inspiserer fullføringen og sladder den. For produksjonsarbeid i store volum er konsekvensene mindre dramatiske og mer nyttige enn ordet antyder:

• Ingen falske positive på ufarlig trafikk. Filtrerte endepunkter avviser rutinemessig medisinske sammendrag, sikkerhetsrapporter, juridisk bevisinnhenting, skjønnlitteratur, skadereduserende materiale og modereringsarbeid i seg selv — nøyaktig de kategoriene der en bulkjobb behandler tekst om et sensitivt tema snarere enn å produsere noe skadelig. Ved hundre tusen forespørsler er én prosent falske avvisninger tusen ødelagte rader.
• Deterministiske kontrakter. Be om et json_schema-svar, og du får JSON som følger skjemaet, ikke et avsnitt med unnskyldninger der et objekt skulle stått. Parseren din trenger ingen avvisningsgren, og gjenforsøkslogikken din slipper å skille en transportfeil fra en policyfeil.
• Du eier policyen. Det er avveiningen. Trenger produktet ditt rekkverk for sluttbrukerne dine, bygger du dem i ditt eget lag, der du kjenner brukerne og jurisdiksjonen din, i stedet for å arve en leverandørs gjetninger om begge deler. Kontoen din reguleres fortsatt av vår policy for ansvarlig bruk.

Usensurert er ikke det samme som ujustert eller uhjelpsom. Modellen følger fortsatt instruksjoner og respekterer fortsatt en systemprompt. Vil du at den skal avvise visse kategorier for dine brukere, sier du det der — den instruksjonen er nå din å skrive snarere enn vår å pålegge.

08Egenskaper og ærlige begrensninger

To egenskaper bærer det meste av vekten for volumarbeid. Streng json_schema-utdata gjør en fullføring til en databaserad uten parselag og uten avvisningsgren. Verktøykall i alle tre dialektene gjør Flash til en fornuftig motor for de billige delstegene i en agent hvis øverste planlegger kjører på en sterkere modell. Legg til reasoning_effort, som lar deg bruke ekstra tokens bare på den andelen av trafikken som trenger dem, og en kontekst på 262,144 tokens identisk med Pros — du gir ikke fra deg kontekst ved å velge det billige nivået, noe som er uvanlig.

Begrensningene er like konkrete:

• Ingen syn. Flash er kun tekst og vil avvise bildedeler i en melding. Trenger du bilder på en usensurert modell til det samme gulvet på $0.50 / $2.00, er MiniMax-M3 og MiMo-V2.5 alternativene med synsevne; Kimi-K2.6 og Kimi-K3 er sterkere synsmodeller over det nivået.
• Ikke toppen av stigen. DeepSeeks egne tall setter Pro foran på hver publiserte agentiske test, med størst gap på vedvarende kodearbeid over mange steg. Der ett galt svar koster mer enn tusen billige, bruk de ekstra $1.45 per million på DeepSeek-V4-Pro.
• 16,384 utdata-tokens per forespørsel. Lange genereringer må stykkes opp over flere kall. Dette er det samme taket på hver modell vi serverer, og det binder lenge før kontekstvinduet gjør det.

09Slik kaller du den

Pek en hvilken som helst OpenAI-kompatibel klient mot gatewayen og bytt modellstrengen. Ingenting annet i stabelen din trenger å flytte seg.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Den samme modell-ID-en fungerer uendret på /v1/messages og /v1/responses, som er den raskeste måten å A/B-teste en billigere modell under en eksisterende integrasjon uten å skrive om klienten din. Parametere, formen på strømmehendelser, skjemaer for verktøykall og ratebegrensninger er dokumentert i API-referansen; hver modell i katalogen er listet på Shannon Research.

10Ofte stilte spørsmål

---

Kilder: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Teknisk rapport for DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · modellkortene for DeepSeek-V4-Flash-0731 og DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Alle tall om grunnmodeller og benchmarker er slik de er publisert av sine respektive forfattere; Shannon AIs priser og servert kontekst er våre egne listeverdier per september 2026.