Ocensurerat DeepSeek Flash-API

De flesta team som utvärderar ett LLM-API optimerar fel variabel. De benchmarkar på de tjugo svåraste prompter de kan komma på, väljer vinnaren och upptäcker sex veckor senare att nittiofem procent av deras trafik är kort, strukturerat, repetitivt arbete som en modell till en fjärdedel av priset hade klarat exakt likadant. DeepSeek-V4-Flash finns för de nittiofem procenten. Den här sidan handlar om att veta när du är i dem — och när du inte är det.

01Vad du faktiskt får

Egenskap	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Modell-id	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Kontext / max utdata	262 144 tokens / 16 384 tokens
Pris per 1M (indata / utdata)	$0.50 / $2.00
Strömning · verktygsanrop · resonemang	Ja — alla tre dialekterna
Strukturerad utdata	json_schema och response_format
Bildindata (vision)	Nej — endast text
Vägranslager / utdatafilter	Inget
Serveras på	Shannons eget GPU-kluster

Tre API-dialekter når samma vikter: /v1/chat/completions (OpenAI-formad), /v1/messages (Anthropic-formad) och /v1/responses. Strömning fungerar på alla tre. Fullständig parameterreferens finns i API-dokumentationen.

02Varifrån den kommer: DeepSeeks härstamning

DeepSeek-AI har ägnat fem modellgenerationer åt en besatthet: att få fram beteende i frontlinjen ur en modell som är billig att servera, inte bara billig att träna. Nästan varje arkitekturbeslut i linjen går tillbaka på det, och de viktiga är publicerade. Tre av dem förklarar vad du anropar när du träffar den här slutpunkten.

DeepSeekMoE — finkorniga experter plus en delad

Ett Mixture-of-Experts-lager ersätter ett stort feed-forward-nätverk med många mindre plus en router som väljer ut en handfull per token. DeepSeeks variant skivar experterna finare än den konventionella uppställningen med åtta experter, så att samma aktiverade FLOPs köper en långt mer kombinatoriskt specifik blandning, och den isolerar en delad expert som varje token passerar genom, så att allmän kunskap inte lärs in redundant inuti varje specialist. DeepSeek-V3 levererade det som 256 dirigerade experter plus 1 delad expert, med 8 dirigerade aktiverade per token — 671 miljarder parametrar totalt, 37 miljarder aktiva — tillsammans med lastbalansering utan hjälpförlust: i stället för en straffterm som försämrar kvaliteten knuffar en bias per expert dirigeringspoängen upp eller ner för varje steg allteftersom experten är under- eller överbelastad.

MLA — attention som får plats i minnet

Den andra halvan av serveringskostnadsproblemet är KV-cachen, som växer linjärt med kontexten och dominerar minnet vid långa sekvenslängder. Multi-head Latent Attention, introducerad i DeepSeek-V2, komprimerar nycklar och värden gemensamt till en lågrangs latent vektor och cachar den, och rekonstruerar användbara K/V i farten. DeepSeeks publicerade V2-siffror, mot deras tidigare täta DeepSeek 67B, rapporterar en minskning av KV-cachen med 93,3 % och 5,76× högre maximal genereringsgenomströmning. Det är därför ett fönster på 262K tokens är en självklarhet i den här familjen snarare än ett premiumtillägg.

Gles attention — och prejudikatet för billiga tokens

V3.2-Exp lade till DeepSeek Sparse Attention: en lättviktig indexerare poängsätter kontexttokens mot frågan, och en väljare behåller bara de högst poängsatta. Det intressanta är kvittot, inte mekanismen. DeepSeek publicerade en sida-vid-sida-jämförelse mot V3.1-Terminus med MMLU-Pro identiskt på 85,0, AIME 2025 upp (88,4 → 89,3) och SWE-bench Verified marginellt ner (68,4 → 67,8) — i praktiken oförändrad kvalitet — och sänkte sina API-priser med mer än 50 % samma dag. Arkitektur, ärligt rapporterad, omsatt direkt i pris. Flash är samma argument taget ett steg längre.

V4-generationen

V4, förhandsvisad i april 2026 under MIT-licens, byter återigen ut attention-stapeln mot en hybrid av Compressed Sparse Attention och Heavily Compressed Attention, tränar med Muon-optimeraren på mer än 32 biljoner tokens och behåller V3:s multi-token-prediction-mål — som också fungerar som spekulativ avkodning, och som DeepSeek mätte till en acceptansgrad på 85–90 % för den andra token, motsvarande ungefär 1,8× snabbare avkodning i V3. V4-sammanfattningen rapporterar att V4-Pro kör på 27 % av V3.2:s inferens-FLOPs per token och 10 % av dess KV-cache. Familjen exponerar tre nivåer av resonemangsansträngning, vilket är det vår parameter reasoning_effort avbildas på.

Källor: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Teknisk rapport för DeepSeek-V3 (arXiv 2412.19437) · Modellkort för DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Samtliga siffror är DeepSeek-rapporterade.

03Vad ”Flash” faktiskt betyder

Det här är punkten de flesta jämförelser får fel, så den är värd att säga rakt ut: DeepSeeks Flash är ingen kvantiserad, beskuren eller destillerad Pro. Det är en separat tränad, mindre Mixture-of-Experts-modell med sin egen förträningskörning. V4-förhandsartikeln anger de två storlekarna:

Siffror från DeepSeek-V4-förhandsartikeln. De officiella kontrollpunkter vi serverar — V4-Flash-0731 och V4-Pro-0813 — anger något större totaler, 304 miljarder och 1,7 biljoner, på sina modellkort; DeepSeek upprepar inte antalet aktiverade parametrar för de builderna.

Två tal gör jobbet här. Totala parametrar sätter minnesavtrycket, vilket avgör hur mycket hårdvara en kopia av modellen upptar. Aktiverade parametrar sätter aritmetiken per token, vilket avgör genomströmningen. Flash är ungefär 5,6× mindre på det första och 3,8× mindre på det andra — och det finns en finess värd att lägga märke till i den skillnaden: Flash aktiverar 13 av 284 miljarder parametrar, ungefär 4,6 %, medan Pro aktiverar 49 av 1 600 miljarder, ungefär 3,1 %. Flash är den mindre glesa modellen. Den är inte helt enkelt Pro med färre experter påslagna; det är en tätare, annorlunda balanserad design som lägger en större andel av sig själv på varje token den producerar. Det är ett verkligt ingenjörsval, ingen nedgradering.

Vad DeepSeeks egna siffror säger

Båda de officiella modellkorten publicerar resultat på samma agentiska och mjukvaruutvecklande benchmarks, vilket gör det här till en ovanligt ren jämförelse — samma labb, samma utvärderingsramverk, två storlekar:

Benchmark (DeepSeek-rapporterad)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro vinner varje rad. Det är den ärliga rubriken, och vi vill hellre att du läser den här än upptäcker den i produktion. Men läs marginalerna, för det är dem du faktiskt köper. På Terminal Bench 2.1 är gapet 5,2 poäng på en modell med en tjugofemtedel av parametrarna; på verktygsanvändning är det 3,8 poäng. Gapet vidgas där arbetet blir som djupast — 8,3 poäng på DeepSWE, 7,3 på NL2Repo, som båda belönar uthålligt kodresonemang i flera steg. Det är formen på avvägningen i en enda tabell: Flash tar igen det mesta av avståndet på avgränsade uppgifter och tappar mark på öppna.

DeepSeeks eget Flash-kort gör poängen ännu skarpare: Flash-0731 överträffar V4-Pro-förhandsversionen på de listade benchmarkerna trots sitt långt mindre antal aktiverade parametrar. Att en nyare liten modell slår en äldre stor är normaltillståndet i det här fältet, och det är skälet till att ”större nivå” aldrig bör vara ditt standardsvar.

04Att läsa suffixet: W4A16-AUTOROUND-REAP

Våra modell-id:n uttalar sitt komprimeringsschema högt, eftersom det är den sak som mest påverkar utdatakvaliteten och som nästan ingen redovisar. Det här sönderfaller i tre påståenden.

W4A16 — 4-bitars vikter, 16-bitars aktiveringar

Vikter lagras i 4 bitar vardera; aktiveringar flödar genom med 16-bitars precision. Det här är kvantisering enbart av vikter, och den riktar in sig på den faktiska flaskhalsen i tokengenerering, som är minnesbandbredd snarare än aritmetik. Att kvantisera även aktiveringarna skulle köpa lite mer hastighet och riskera en mycket större träffsäkerhetsstup; att lämna dem i 16 bitar är det försiktiga valet med hög trohet. Notationen är serveringsekosystemets kortform — kvantiseringslitteraturen skriver samma sak som W4 med en gruppstorlek.

AUTOROUND — inlärd avrundning, inte närmaste avrundning

Naiv kvantisering avrundar varje vikt till närmaste representerbara värde. Det är bevisligen inte optimalt: att avrunda en vikt åt ”fel” håll kan ta ut fel som grannarna infört, och med miljarder vikter dominerar de interaktionerna. AutoRound, från Intel, behandlar själva avrundningsbeslutet som något att lära sig — en träningsbar störning per vikt begränsad till ±0,5, precis nog för att vända vilket enskilt avrundningsbeslut som helst och aldrig mer, plus inlärbara klippintervall, optimerade med teckenbaserad gradientnedstigning mot ett blockvis mål för utdatarekonstruktion över en liten kalibreringsmängd. Tvåhundra steg, sedan klart.

Intels publicerade jämförelser har AutoRound före GPTQ i 30 av 32 testade scenarier, före AWQ i 27 av 32 och före OmniQuant i 29 av 32 vid 4-bitars viktkvantisering, med vinster över naiv avrundning till närmaste på 6,9 till 33,2 träffsäkerhetspoäng vid 2 bitar. Inget av det kostar något vid inferens: det är ett bättre val av tal, gjort en gång, offline.

REAP — att kasta experter ingen dirigerar till

REAP (Router-weighted Expert Activation Pruning), från Cerebras Systems och University of Calgary, är engångskomprimering för MoE-modeller. Den poängsätter varje expert utifrån hur starkt och hur ofta routern grindar till den, multiplicerat med storleken på expertens utdata, och raderar sedan de minst framträdande experterna helt — utan någon omträning efteråt.

Artikelns centrala fynd är det användbara: vid höga komprimeringsgrader slår beskärning av experter sammanslagning av dem. Att slå ihop funktionellt skilda experter orsakar det författarna kallar kollaps av det funktionella delrummet — routern förlorar den finkorniga, indataberoende kontroll som gjorde MoE:n värd att bygga, och blir kvar med att styra mellan statiska medelvärden. Deras siffror över modeller från 20 miljarder till 1 biljon parametrar: vid 25 % expertkomprimering på koduppgifter förlorar REAP 2,8 % i medelträffsäkerhet där sammanslagningsbaslinjer förlorar över 5 %; vid 50 % förlorar REAP 8,0 % där sammanslagning förlorar över 20 %. På Qwen3-Coder-480B vid 50 % beskärning är fallet 1,4 %, mot 39,3 % för naiv frekvensbaserad beskärning. Cerebras har publicerat REAP-kontrollpunkter för bland annat DeepSeek-linjen.

Varför 4 bitar här och 3 bitar på Pro

Båda nivåerna måste få plats och förbli snabba på samma klass av hårdvara. Pro bär 1,7 biljoner parametrar och behöver därför den mer aggressiva 3-bitarsbehandlingen för att få plats över huvud taget. Flash bär ungefär 300 miljarder och behöver det inte — och biten den sparar läggs på trohet i stället för på att få plats.

Den extra biten spelar större roll än dess aritmetik antyder, eftersom kvantiseringsskada inte är linjär. I AWQ-artikelns WikiText-2-mätningar går Llama-2-7B från 5,47 i perplexitet vid FP16 till 5,60 vid 4 bitar — ett straff på 2,4 % — men till 6,24 vid 3 bitar, ett straff på 14 %. Det är ungefär sex gånger försämringen för 25 % mer komprimering, och samma mönster håller vid 70B. GPTQ-artikeln är ännu rakare: vid 3 bitar kollapsar naiv avrundning till närmaste på modeller i 175B-klassen, ner i tusentals i perplexitet, medan den förblir fullt användbar vid 4 bitar. Under fyra bitar slutar en bra kvantiseringsalgoritm vara en finess och blir det enda som håller ihop modellen.

Så den ärliga läsningen av de två suffixen är: Flash ligger närmare sitt eget okomprimerade jag än Pro ligger sitt. Pro är fortfarande den starkare modellen — benchmarktabellen ovan avgör det. Den gav helt enkelt upp mer för att komma hit, och du betalar för privilegiet.

Källor: AutoRound — ”Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs” (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — ”REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression” (arXiv 2510.13999), Cerebras Systems. Perplexitetssiffror från AWQ (arXiv 2306.00978) och GPTQ (arXiv 2210.17323).

05Flash mot Pro vid slutpunkten

Avsnitt 03 täckte grundmodellerna. Så här ser de två nivåerna ut som produkter på vår gateway:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Kvantisering	W4A16-AUTOROUND-REAP	3BIT-REAP
Viktprecision	4 bitar, inlärd avrundning	3 bitar
Grundmodell (totalt / aktivt)	~304B / 13B	~1.7T / 49B
Indata per 1M tokens	$0.50	$1.95
Utdata per 1M tokens	$2.00	$3.90
Kontext / max utdata	262 144 / 16 384	262 144 / 16 384
Verktyg · strukturerad utdata · strömning	Ja	Ja
Vision	Nej	Nej
Vägranslager	Inget	Inget

Lägg märke till vad som inte ändras: kontext, utdatatak, verktygsanrop, strukturerad utdata och frånvaron av vägranslager är identiska. Det enda som rör sig är grundmodellen, kvantiseringen och priset. Det gör bytet mellan dem till en ändring av en enda sträng i din kod och ett rent ekonomiskt beslut i din arkitektur.

Vad ett anrop av maximal storlek kostar

Fyll hela kontexten på 262 144 tokens och ta ut hela utdatan på 16 384 tokens:

Till listpris. Flash: $0.131 indata + $0.033 utdata. Pro: $0.511 + $0.064. Kvot 3,51×. Flash delar också golvet $0.50 / $2.00 med MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro och Hy3 — se hela katalogen för hur de skiljer sig på vision och strukturerad utdata.

06Volymmatematiken, uträknad

”3,9× billigare” gäller bara på indata. På utdata är Flash 1,95× billigare. Din verkliga besparing beror därför på din kvot mellan indata och utdata, och spridningen är stor nog att ändra designbeslut. Fyra realistiska arbetslaster, var och en vid 100 000 förfrågningar:

Arbetslast	In / ut per anrop	Flash	Pro	Besparing
Ärendeklassificering	1,200 / 120	$84	$281	3.3×
RAG-frågebesvarande	8,000 / 600	$520	$1,794	3.4×
Sammanfattning av långt dokument	60,000 / 1,500	$3,300	$12,285	3.7×
Generering av syntetiska data	500 / 2,000	$425	$878	2.1×

Mönstret: ju mer kontext du skickar in och ju mindre text du genererar, desto mer sparar Flash åt dig. Återsökningspipelines, dokumenttriage, logg- och transkriptanalys samt extraktion ur lång kontext är sweet spot — de domineras av indata med en storleksordning, och indata är där rabatten på 3,9× bor. Är din arbetslast i stället en kort prompt som producerar tusentals tokens prosa krymper gapet till ungefär 2×, och kapacitetsargumentet för Pro blir motsvarande starkare.

Ytterligare en räkneövning värd att internalisera: vid $0.50 per miljon indatatokens kostar hela fönstret på 262 144 tokens 13,1 cent att fylla. Att prompta med lång kontext slutar vara en budgetfråga vid det priset, vilket ibland betyder att du kan hoppa över att bygga ett återsökningslager helt och låta kontextfönstret göra jobbet — en ingenjörsbesparing ovanpå tokenbesparingen.

07Vad ”ocensurerad” betyder här, exakt

Ordet används löst, så här är vår definition, formulerad som en egenskap hos slutpunkten: det finns ingen vägransklassificerare framför modellen och ingen innehållsfiltrering tillämpas på dess utdata. Ingenting avlyssnar en prompt och returnerar ett förskrivet avslag; ingenting granskar kompletteringen och maskar den. För produktionsarbete i hög volym är konsekvenserna mindre dramatiska och mer användbara än ordet antyder:

• Inga falska positiva på harmlös trafik. Filtrerade slutpunkter vägrar rutinmässigt medicinska sammanfattningar, säkerhetsrapporter, juridisk bevisinsamling, skönlitteratur, material om skademinimering och modereringsarbete i sig — precis de kategorier där ett batchjobb bearbetar text om ett känsligt ämne snarare än producerar något skadligt. Vid hundratusen förfrågningar är en falsk vägransandel på en procent tusen trasiga rader.
• Deterministiska kontrakt. Be om ett json_schema-svar och du får JSON som matchar schemat, inte ett stycke ursäkter där ett objekt borde stå. Din parser behöver ingen vägransgren, och din omförsökslogik behöver inte skilja ett transportfel från ett policyfel.
• Du äger policyn. Det är avvägningen. Om din produkt behöver skyddsräcken för dina slutanvändare bygger du dem i ditt lager, där du känner dina användare och din jurisdiktion, i stället för att ärva en leverantörs gissningar om båda. Ditt konto styrs fortfarande av vår policy för ansvarsfull användning.

Ocensurerat är inte detsamma som ojusterat eller ohjälpsamt. Modellen följer fortfarande instruktioner och respekterar fortfarande en systemprompt. Vill du att den ska vägra vissa kategorier för dina användare, säg det där — den instruktionen är nu din att skriva snarare än vår att påtvinga.

08Förmågor och ärliga begränsningar

Två förmågor bär det mesta av tyngden för volymarbete. Strikt json_schema-utdata förvandlar en komplettering till en databasrad utan tolkningslager och utan vägransgren. Verktygsanrop i alla tre dialekterna gör Flash till en vettig motor för de billiga delstegen i en agent vars planerare på översta nivån kör på en starkare modell. Lägg till reasoning_effort, som låter dig lägga extra tokens bara på den bråkdel av trafiken som behöver dem, och en kontext på 262 144 tokens identisk med Pros — du ger inte upp kontext genom att välja den billiga nivån, vilket är ovanligt.

Begränsningarna är lika konkreta:

• Ingen vision. Flash hanterar bara text och avvisar bilddelar i ett meddelande. För bilder på en ocensurerad modell till samma golv $0.50 / $2.00 är MiniMax-M3 och MiMo-V2.5 de visionkapabla alternativen; Kimi-K2.6 och Kimi-K3 är starkare visionmodeller ovanför den nivån.
• Inte toppen av stegen. DeepSeeks egna siffror sätter Pro före på varje publicerad agentisk benchmark, med gapet störst på uthålligt kodresonemang i flera steg. Där ett felaktigt svar kostar mer än tusen billiga, lägg de extra $1.45 per miljon på DeepSeek-V4-Pro.
• 16 384 utdatatokens per förfrågan. Långa genereringar måste styckas över flera anrop. Det är samma tak på varje modell vi serverar, och det binder långt innan kontextfönstret gör det.

09Att anropa den

Peka vilken OpenAI-kompatibel klient som helst mot gatewayen och byt modellsträngen. Inget annat i din stack behöver flyttas.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Samma modell-id fungerar oförändrat på /v1/messages och /v1/responses, vilket är det snabbaste sättet att A/B-testa en billigare modell under en befintlig integration utan att skriva om din klient. Parametrar, formen på strömningshändelser, scheman för verktygsanrop och hastighetsgränser dokumenteras i API-referensen; varje modell i katalogen listas på Shannon Research.

10Vanliga frågor

---

Källor: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Teknisk rapport för DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · Modellkorten för DeepSeek-V4-Flash-0731 och DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Alla siffror för grundmodeller och benchmarks är som publicerade av respektive författare; Shannon AI:s priser och serverad kontext är våra egna listvärden per september 2026.