Нецензуриран DeepSeek Flash API

Повечето екипи, които оценяват LLM API, оптимизират грешната променлива. Правят бенчмарк върху двайсетте най-трудни промпта, които могат да измислят, избират победителя и шест седмици по-късно откриват, че деветдесет и пет процента от трафика им са кратка, структурирана, повтаряща се работа, която модел на четвърт от цената би свършил по абсолютно същия начин. DeepSeek-V4-Flash съществува заради тези деветдесет и пет процента. Тази страница е за това да разпознаете кога сте в тях — и кога не сте.

01Какво получавате в действителност

Характеристика	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Идентификатор на модела	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Контекст / максимален изход	262,144 токена / 16,384 токена
Цена на 1M (вход / изход)	$0.50 / $2.00
Поточно предаване · инструменти · разсъждение	Да — и в трите диалекта
Структуриран изход	json_schema и response_format
Вход с изображения (зрение)	Не — само текст
Слой за откази / филтър на изхода	Няма
Обслужван върху	собствен GPU клъстер на Shannon

Три API диалекта достигат до едни и същи тегла: /v1/chat/completions (във формата на OpenAI), /v1/messages (във формата на Anthropic) и /v1/responses. Поточното предаване работи и в трите. Пълната справка за параметрите е в документацията на API.

02Откъде идва: родословието DeepSeek

DeepSeek-AI прекара пет поколения модели върху една натрапчива идея: да получи поведение от челния ред при модел, който е евтин за обслужване, а не просто евтин за обучение. Почти всяко архитектурно решение в линията се връща към това и важните са публикувани. Три от тях обясняват какво точно извиквате, когато ударите тази крайна точка.

DeepSeekMoE — фино нарязани експерти плюс един споделен

Слой Mixture-of-Experts заменя една голяма пълносвързана мрежа с много по-малки и рутер, който избира шепа от тях за всеки токен. Вариантът на DeepSeek нарязва експертите по-фино от обичайната подредба с осем експерта, така че същите активирани FLOPs купуват далеч по-комбинаторно специфична смес, и отделя споделен експерт, през който минава всеки токен, така че общото знание не се преучава излишно във всеки специалист. DeepSeek-V3 пусна това като 256 маршрутизирани експерта плюс 1 споделен, с 8 маршрутизирани активни на токен — 671B общо параметри, 37B активни — заедно с балансиране на натоварването без спомагателна загуба: вместо наказателен член, който влошава качеството, отклонение за всеки експерт побутва оценките на маршрутизиране нагоре или надолу на всяка стъпка според това дали експертът е недо- или претоварен.

MLA — внимание, което се побира в паметта

Другата половина от проблема с цената на обслужване е KV кешът, който расте линейно с контекста и доминира паметта при дълги последователности. Multi-head Latent Attention, въведено в DeepSeek-V2, компресира ключовете и стойностите съвместно в нискорангов латентен вектор и кешира него, като възстановява използваеми K/V в движение. Публикуваните от DeepSeek числа за V2, спрямо по-ранния им плътен DeepSeek 67B, отчитат 93.3% намаление на KV кеша и 5.76× по-висока максимална пропускателна способност при генериране. Ето защо прозорец от 262K токена е базово изискване в това семейство, а не премиум добавка.

Разредено внимание — и прецедентът за евтини токени

V3.2-Exp добави DeepSeek Sparse Attention: лек индексатор оценява токените от контекста спрямо заявката, а селектор запазва само най-високо оценените. Интересното е разписката, не механизмът. DeepSeek публикува сравнение едно до едно с V3.1-Terminus, при което MMLU-Pro е идентичен на 85.0, AIME 2025 се покачва (88.4 → 89.3), SWE-bench Verified пада незначително (68.4 → 67.8) — по същество равно качество — и същия ден намалиха цените на своя API с над 50%. Архитектура, отчетена честно, превърната директно в цена. Flash е същият аргумент, направен още една крачка напред.

Поколението V4

V4, представен през април 2026 г. под лиценз MIT, отново заменя стека на вниманието с хибрид от Compressed Sparse Attention и Heavily Compressed Attention, обучава се с оптимизатора Muon върху над 32T токена и запазва целта за многотокенно предсказване от V3 — която служи и като спекулативно декодиране и която DeepSeek измери с 85–90% приемане на втория токен за около 1.8× ускорение при декодиране във V3. Резюмето на V4 отчита, че V4-Pro работи при 27% от FLOPs за един токен на V3.2 и 10% от нейния KV кеш. Семейството излага три нива на усилие при разсъждение, върху които се съпоставя нашият параметър reasoning_effort.

Източници: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 Technical Report (arXiv 2412.19437) · карта на модела DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Всички числа са отчетени от DeepSeek.

03Какво всъщност означава „Flash“

Тук повечето сравнения грешат, така че си струва да се каже направо: Flash на DeepSeek не е квантизиран, отрязан или дестилиран Pro. Това е отделно обучен, по-малък модел Mixture-of-Experts със собствено предварително обучение. Обзорната статия за V4 дава двата размера:

Числата са от обзорната статия за DeepSeek-V4. Официалните контролни точки, които обслужваме — V4-Flash-0731 и V4-Pro-0813 — посочват малко по-големи общи стойности от 304B и 1.7T в своите карти на модела; DeepSeek не преизчислява активираните параметри за тези билдове.

Тук работят две числа. Общият брой параметри определя отпечатъка в паметта, който решава колко хардуер заема едно копие на модела. Активираните параметри определят аритметиката на токен, която решава пропускателната способност. Flash е приблизително 5.6× по-малък по първото и 3.8× по-малък по второто — и в тази разлика има нюанс, който заслужава внимание: Flash активира 13 от 284 милиарда параметъра, около 4.6%, докато Pro активира 49 от 1600 милиарда, около 3.1%. Flash е по-малко разреденият модел. Той не е просто Pro с по-малко включени експерти; той е по-плътен, различно балансиран дизайн, който изразходва по-голяма част от себе си за всеки произведен токен. Това е истински инженерен избор, а не понижение.

Какво казват собствените числа на DeepSeek

И двете официални карти на моделите публикуват резултати на едни и същи агентни и софтуерноинженерни бенчмаркове, което прави сравнението необичайно чисто — една и съща лаборатория, една и съща тестова среда, два размера:

Бенчмарк (отчетен от DeepSeek)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro печели всеки ред. Това е честното заглавие и предпочитаме да го прочетете тук, вместо да го откриете в продукция. Но четете разликите, защото те са това, което всъщност купувате. При Terminal Bench 2.1 разликата е 5.2 точки при модел с една двайсет и пета от параметрите; при използването на инструменти е 3.8 точки. Разликата се разширява там, където работата става най-дълбока — 8.3 точки при DeepSWE, 7.3 при NL2Repo, като и двата възнаграждават продължителното многостъпково разсъждение върху код. Това е формата на компромиса в една таблица: Flash затваря по-голямата част от разстоянието при ограничени задачи и отстъпва при отворените.

Собствената карта на Flash от DeepSeek изостря въпроса още повече: Flash-0731 превъзхожда обзорната версия на V4-Pro по изброените бенчмаркове въпреки далеч по-малкия си брой активирани параметри. По-нов малък модел, който бие по-стар голям, е нормалното състояние на нещата в тази област и е причината „по-високото ниво“ никога да не бива да е вашият отговор по подразбиране.

04Как се чете наставката: W4A16-AUTOROUND-REAP

Нашите идентификатори на модели заявяват схемата си на компресия на глас, защото тя е нещото, което най-силно влияе върху качеството на изхода и което почти никой не разкрива. Тази се разлага на три твърдения.

W4A16 — 4-битови тегла, 16-битови активации

Теглата се съхраняват по 4 бита всяко; активациите текат при 16-битова точност. Това е квантизация само на теглата и тя се цели в истинското тясно място при генерирането на токени, което е пропускателната способност на паметта, а не аритметиката. Квантизирането и на активациите би купило малко повече скорост с риск от много по-голям срив в точността; оставянето им на 16 бита е консервативният избор с висока точност. Означението е съкращение от екосистемата за обслужване — литературата по квантизация пише същото като W4 с размер на групата.

AUTOROUND — научено закръгляне, а не закръгляне до най-близкото

Наивната квантизация закръгля всяко тегло до най-близката представима стойност. Това видимо не е оптимално: закръглянето на едно тегло в „грешната“ посока може да компенсира грешка, внесена от съседите му, а при милиарди тегла тези взаимодействия доминират. AutoRound от Intel третира самото решение за закръгляне като нещо, което се научава — обучаема пертурбация за всяко тегло, ограничена до ±0.5, точно колкото да обърне което и да е единично решение за закръгляне и не повече, плюс обучаеми диапазони на отрязване, оптимизирани чрез знаково градиентно спускане спрямо цел за поблоково възстановяване на изхода върху малък калибрационен набор. Двеста стъпки и готово.

Публикуваните от Intel сравнения показват AutoRound да побеждава GPTQ в 30 от 32 тествани сценария, AWQ в 27 от 32 и OmniQuant в 29 от 32 при настройки само за 4-битови тегла, с печалби над наивното закръгляне до най-близкото от 6.9 до 33.2 точки точност при 2 бита. Нищо от това не струва нищо по време на извод: това е по-добър избор на числа, направен веднъж, офлайн.

REAP — отпадане на експертите, към които никой не маршрутизира

REAP (Router-weighted Expert Activation Pruning) от Cerebras Systems и Университета в Калгари е еднократна компресия за MoE модели. Той оценява всеки експерт по това колко силно и колко често рутерът пропуска към него, умножено по големината на изхода на този експерт, след което изтрива направо най-малко значимите експерти — без последващо дообучение.

Централната находка на статията е полезната: при високи коефициенти на компресия отрязването на експерти бие сливането им. Сливането на функционално различни експерти причинява това, което авторите наричат срив на функционалното подпространство — рутерът губи финия, зависещ от входа контрол, който е направил MoE достоен за построяване, и остава да насочва между статични усреднения. Техните числа при модели от 20B до 1T параметъра: при 25% компресия на експерти върху задачи с код REAP губи 2.8% средна точност там, където базовите методи за сливане губят над 5%; при 50% REAP губи 8.0% там, където сливането губи над 20%. При Qwen3-Coder-480B с 50% отрязване спадът е 1.4% срещу 39.3% за наивното отрязване по честота. Cerebras е публикувала контролни точки с REAP и за линията DeepSeek, наред с други.

Защо 4 бита тук и 3 бита при Pro

И двете нива трябва да се поберат и да останат бързи върху един и същ клас хардуер. Pro носи 1.7 трилиона параметъра, така че се нуждае от по-агресивното 3-битово третиране, за да се побере изобщо. Flash носи около 300 милиарда, така че не се нуждае — и спестеният бит се харчи за точност вместо за побиране.

Този допълнителен бит значи повече, отколкото подсказва аритметиката, защото щетата от квантизацията не е линейна. В измерванията на WikiText-2 от статията за AWQ Llama-2-7B минава от 5.47 перплексия при FP16 до 5.60 при 4 бита — наказание от 2.4% — но до 6.24 при 3 бита, наказание от 14%. Това е приблизително шест пъти повече влошаване за 25% повече компресия и същата закономерност важи и при 70B. Статията за GPTQ е още по-пряма: при 3 бита наивното закръгляне до най-близкото се срива при модели от класа 175B, до хиляди единици перплексия, докато остава напълно използваемо при 4 бита. Под четири бита добрият алгоритъм за квантизация престава да е приятна добавка и се превръща в единственото, което държи модела цял.

Честният прочит на тези две наставки е следният: Flash стои по-близо до собствената си некомпресирана версия, отколкото Pro стои до своята. Pro все пак е по-силният модел — таблицата с бенчмарковете по-горе решава това. Той просто е дал повече, за да стигне дотук, и вие плащате за привилегията.

Източници: AutoRound — „Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs“ (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — „REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression“ (arXiv 2510.13999), Cerebras Systems. Числата за перплексия са от AWQ (arXiv 2306.00978) и GPTQ (arXiv 2210.17323).

05Flash срещу Pro на крайната точка

Раздел 03 покри основите. Ето как изглеждат двете нива като продукти в нашия шлюз:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Квантизация	W4A16-AUTOROUND-REAP	3BIT-REAP
Точност на теглата	4 бита, научено закръгляне	3 бита
Основа (общо / активни)	~304B / 13B	~1.7T / 49B
Вход на 1M токена	$0.50	$1.95
Изход на 1M токена	$2.00	$3.90
Контекст / максимален изход	262,144 / 16,384	262,144 / 16,384
Инструменти · структуриран изход · поточно предаване	Да	Да
Зрение	Не	Не
Слой за откази	Няма	Няма

Обърнете внимание какво не се променя: контекстът, таванът на изхода, извикването на инструменти, структурираният изход и липсата на слой за откази са идентични. Единственото, което се мести, са основата, квантизацията и цената. Това прави превключването между тях промяна на един низ във вашия код и чисто икономическо решение във вашата архитектура.

Колко струва едно извикване с максимален размер

Запълнете целия контекст от 262 144 токена и вземете пълния изход от 16 384 токена:

По каталожна цена. Flash: $0.131 вход + $0.033 изход. Pro: $0.511 + $0.064. Съотношение 3.51×. Flash споделя минимума от $0.50 / $2.00 и с MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro и Hy3 — вижте пълния каталог за това как те се различават по зрение и структуриран изход.

06Сметката за обем, изчислена докрай

„3.9× по-евтин“ е вярно само за входа. На изхода Flash е 1.95× по-евтин. Затова реалната ви икономия зависи от съотношението вход към изход, а разсейването е достатъчно голямо, за да промени проектни решения. Четири реалистични натоварвания, всяко при 100 000 заявки:

Натоварване	Вход / изход на извикване	Flash	Pro	Икономия
Класификация на тикети	1,200 / 120	$84	$281	3.3×
Отговори на въпроси с RAG	8,000 / 600	$520	$1,794	3.4×
Обобщение на дълъг документ	60,000 / 1,500	$3,300	$12,285	3.7×
Генериране на синтетични данни	500 / 2,000	$425	$878	2.1×

Закономерността: колкото повече контекст подавате и колкото по-малко текст генерирате, толкова повече Flash ви спестява. Пайплайни за извличане, триаж на документи, анализ на логове и стенограми и извличане от дълъг контекст са сладката точка — те са доминирани от входа с цял порядък, а входът е там, където живее отстъпката от 3.9×. Ако вместо това натоварването ви е кратък промпт, произвеждащ хиляди токени проза, разликата се свива до около 2× и аргументът за способностите на Pro съответно се засилва.

Още едно пресмятане, което си струва да усвоите: при $0.50 на милион входни токена запълването на целия прозорец от 262 144 токена струва 13.1 цента. При тази цена промптването с дълъг контекст престава да е бюджетен въпрос, което понякога значи, че можете изобщо да пропуснете изграждането на слой за извличане и да оставите контекстния прозорец да свърши работата — инженерна икономия върху икономията от токени.

07Какво точно означава „нецензуриран“ тук

Думата се използва свободно, затова ето нашата дефиниция, формулирана като свойство на крайната точка: пред модела няма класификатор за откази и към изхода му не се прилага филтриране на съдържанието. Нищо не прихваща промпт, за да върне готов отказ; нищо не инспектира завършването, за да го редактира. За производствена работа с големи обеми последиците са по-малко драматични и по-полезни, отколкото подсказва думата:

• Никакви фалшиви положителни резултати върху безобиден трафик. Филтрираните крайни точки редовно отказват медицински обобщения, доклади по сигурността, правно разкриване, художествена литература, материали за намаляване на вредите и самата модерационна работа — точно категориите, в които пакетна задача обработва текст за чувствителна тема, вместо да произвежда нещо вредно. При сто хиляди заявки един процент фалшиви откази са хиляда счупени реда.
• Детерминистични договори. Поискайте отговор по json_schema и получавате JSON, отговарящ на схемата, а не абзац с извинения там, където трябва да стои обект. Вашият парсър няма нужда от клон за откази, а логиката ви за повторни опити не трябва да различава транспортна грешка от политическа.
• Политиката е ваша. Това е компромисът. Ако продуктът ви се нуждае от предпазни механизми за крайните ви потребители, изграждате ги във вашия слой, където познавате потребителите и юрисдикцията си, вместо да наследявате догадките на доставчик и за двете. Акаунтът ви остава подчинен на нашата Политика за отговорно ползване.

Нецензуриран не е същото като ненастроен или безполезен. Моделът все така следва инструкции и все така зачита системния промпт. Ако искате да отказва определени категории пред вашите потребители, кажете го там — тази инструкция сега е ваша за писане, а не наша за налагане.

08Възможности и честни ограничения

Две възможности носят по-голямата част от тежестта при работа с обем. Строгият изход по json_schema превръща едно завършване в ред в база данни без слой за парсване и без клон за откази. Извикването на инструменти и в трите диалекта прави Flash разумен двигател за евтините подстъпки на агент, чийто планировчик от най-високо ниво работи върху по-силен модел. Добавете reasoning_effort, който ви позволява да харчите допълнителни токени само за частта от трафика, която ги изисква, и контекст от 262 144 токена, идентичен с този на Pro — не жертвате контекст, избирайки евтиното ниво, което е необичайно.

Ограниченията са също толкова конкретни:

• Без зрение. Flash е само текстов и ще отхвърли части с изображения в съобщение. За изображения при нецензуриран модел на същия минимум от $0.50 / $2.00 вариантите със зрение са MiniMax-M3 и MiMo-V2.5; Kimi-K2.6 и Kimi-K3 са по-силни модели със зрение над това ниво.
• Не е върхът на стълбата. Собствените числа на DeepSeek поставят Pro напред при всеки публикуван агентен бенчмарк, с най-широка разлика при продължителното многостъпково разсъждение върху код. Там, където един грешен отговор струва повече от хиляда евтини, похарчете допълнителните $1.45 на милион за DeepSeek-V4-Pro.
• 16 384 изходни токена на заявка. Дългите генерации трябва да се разделят на части през няколко извиквания. Това е един и същ таван при всеки модел, който обслужваме, и той се задейства далеч преди контекстния прозорец.

09Как да го извикате

Насочете който и да е съвместим с OpenAI клиент към шлюза и сменете низа на модела. Нищо друго в стека ви не се налага да мърда.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Същият идентификатор на модел работи без промяна и на /v1/messages, и на /v1/responses, което е най-бързият начин да тествате A/B по-евтин модел под съществуваща интеграция, без да пренаписвате клиента си. Параметрите, формите на събитията при поточно предаване, схемите за извикване на инструменти и лимитите на заявките са документирани в справочника за API; всички модели от каталога са изброени в Shannon Research.

10Често задавани въпроси

---

Източници: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 Technical Report (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · карти на моделите DeepSeek-V4-Flash-0731 и DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Всички числа за основите и бенчмарковете са както са публикувани от съответните им автори; цените на Shannon AI и обслужваният контекст са наши каталожни стойности към септември 2026 г.