Не чуваме и не пристапуваме до кориснички податоци, и не суспендираме сметки освен ако надлежен орган не нè принуди на акција.
Картичка на моделот · Нецензуриран каталог

Нецензурирано DeepSeek Flash API

DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — подна цена, контекст од 262K и без слој за одбивање. Моделот што го насочуваш кон оптоварувањето што се извршува десет илјади пати дневно.

Ажурирано 5 септември 2026 годинаКартичка на моделотФундамент: DeepSeek Flash0,50 / 2,00 на 1M

Накратко

DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP е нивото за голем обем од семејството DeepSeek на портата Shannon AI. Работи на сопствениот GPU кластер по 0,50 долари на милион влезни токени и 2,00 долари на милион излезни токени — подот на нашиот каталог — со контекст од 262.144 токени, максимум 16.384 излезни токени, стриминг, повикување алатки, расудување со reasoning_effort и строг структуриран излез по json_schema. Нема слој за одбивање и нема филтрирање на излезот. Не е осакатена верзија на DeepSeek-V4-Pro: Pro е многу поголем фундамент стиснат на 3 бита, а Flash е помал фундамент носен на повисоко верна 4-битна квантизација AutoRound. Тоа се две различни точки на истата крива, а која победува зависи целосно од твоето оптоварување.

Повеќето тимови што оценуваат LLM API ја оптимизираат погрешната променлива. Мерат на најтешките дваесет промпти што можат да ги смислат, го избираат победникот, па шест недели подоцна откриваат дека деведесет и пет проценти од нивниот сообраќај е кратка, структурирана, повторлива работа што модел со четири пати пониска цена би ја одработил идентично. DeepSeek-V4-Flash постои за тие деведесет и пет проценти. Оваа страница е за тоа да знаеш кога си во нив — и кога не си.

01Што всушност добиваш

$0.50
На 1M влез
$2.00
На 1M излез
262K
Контекстен прозорец
16K
Максимум излезни токени
СвојствоDeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Идентификатор на моделотDeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Контекст / максимален излез262,144 токени / 16,384 токени
Цена на 1M (влез / излез)$0.50 / $2.00
Стриминг · повикување алатки · расудувањеДа — сите три дијалекти
Структуриран излезjson_schema и response_format
Влез со слика (вид)Не — само текст
Слој за одбивање / филтер на излезотНема
Послужен насопствениот GPU кластер на Shannon

Три API дијалекти стигнуваат до истите тежини: /v1/chat/completions (во облик на OpenAI), /v1/messages (во облик на Anthropic) и /v1/responses. Стримингот работи на сите три. Целосната референца за параметрите е во API документацијата.

02Од каде доаѓа: лозата на DeepSeek

DeepSeek-AI помина пет генерации модели на една опсесија: да извлече однесување од врвно ниво од модел што е евтин за послужување, а не само евтин за тренирање. Речиси секоја архитектонска одлука во низата се враќа на тоа, а важните се објавени. Три од нив објаснуваат што повикуваш кога ќе ја погодиш оваа крајна точка.

DeepSeekMoE — ситнозрнести експерти плус еден заеднички

Еден слој со мешавина од експерти ја заменува големата мрежа со напредно проследување со многу помали и рутер што избира шачка од нив по токен. Варијантата на DeepSeek ги дели експертите поситно од вообичаениот распоред со осум експерти, па истите активирани FLOPs купуваат далеку покомбинаторно специфична мешавина, и издвојува заеднички експерт низ кој минува секој токен, така што општото знаење не се преучува излишно во секој специјалист. DeepSeek-V3 го испорача тоа како 256 рутирани експерти плус 1 заеднички, со активирање на 8 рутирани по токен — 671 милијарда вкупни параметри, 37 милијарди активни — заедно со балансирање на оптоварувањето без помошна загуба: наместо казнен член што го влошува квалитетот, пристрасност по експерт ги подигнува или спушта резултатите за рутирање на секој чекор според тоа дали тој експерт е недоволно или преоптоварен.

MLA — внимание што собира во меморија

Другата половина од проблемот со цената на послужувањето е KV кешот, што расте линеарно со контекстот и доминира во меморијата при долги низи. Латентното внимание со повеќе глави, воведено во DeepSeek-V2, ги компресира клучевите и вредностите заеднички во латентен вектор со низок ранг и го кешира него, реконструирајќи употребливи K/V во од. Објавените бројки на DeepSeek за V2, наспроти нивниот претходен густ DeepSeek 67B, пријавуваат намалување на KV кешот од 93,3% и 5,76× поголема максимална пропусност при генерирање. Затоа прозорец од 262K токени е основен влог во ова семејство, а не премиум додаток.

Редо внимание — и преседанот за евтини токени

V3.2-Exp додаде DeepSeek Sparse Attention: лесен индексатор ги оценува контекстните токени наспроти прашањето, а селектор ги задржува само највисоко оценетите. Интересниот дел е сметката, а не механизмот. DeepSeek објави споредба рамо до рамо со V3.1-Terminus со идентичен MMLU-Pro на 85,0, AIME 2025 нагоре (88,4 → 89,3), SWE-bench Verified маргинално надолу (68,4 → 67,8) — во суштина рамен квалитет — и ги намали цените на своето API за повеќе од 50% истиот ден. Архитектура, чесно објавена, претворена директно во цена. Flash е тој аргумент однесен еден чекор понатаму.

Генерацијата V4

V4, претставен во преглед во април 2026 година под лиценца MIT, повторно го заменува склопот за внимание со хибрид од компресирано редо внимание и силно компресирано внимание, тренира со оптимизаторот Muon на повеќе од 32 трилиони токени и ја задржува целта за предвидување повеќе токени од V3 — што служи и како спекулативно декодирање, и што DeepSeek го измери на стапка на прифаќање на вториот токен од 85–90% за забрзување на декодирањето од околу 1,8× кај V3. Апстрактот за V4 пријавува дека V4-Pro работи на 27% од FLOPs за еден токен на V3.2 и 10% од нејзиниот KV кеш. Семејството изложува три нивоа на напор при расудување, а токму на нив се пресликува нашиот параметар reasoning_effort.

Извори: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · технички извештај за DeepSeek-V3 (arXiv 2412.19437) · картичка на моделот DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Сите бројки се објавени од DeepSeek.

03Што всушност значи „Flash“

Ова е точката што повеќето споредби ја погрешуваат, па вреди да се каже право: Flash кај DeepSeek не е квантизиран, поткастрен или дестилиран Pro. Тоа е одделно трениран, помал модел со мешавина од експерти со сопствено претренирање. Прегледниот труд за V4 ги дава двете големини:

284B
Вкупно параметри на Flash
13B
Активни / токен кај Flash
1.6T
Вкупно параметри на Pro
49B
Активни / токен кај Pro

Бројките се од прегледниот труд за DeepSeek-V4. Официјалните контролни точки што ги послужуваме — V4-Flash-0731 и V4-Pro-0813 — наведуваат малку поголеми вкупни бројки од 304 милијарди и 1,7 трилиони на своите картички на моделот; DeepSeek не ги преискажува активираните параметри за тие верзии.

Две бројки ја вршат работата овде. Вкупните параметри го определуваат отпечатокот во меморија, што решава колку хардвер зафаќа една копија од моделот. Активираните параметри ја определуваат аритметиката по токен, што решава колкава е пропусноста. Flash е приближно 5,6× помал по првото и 3,8× помал по второто — а во тој јаз има суптилност вредна за забележување: Flash активира 13 од 284 милијарди параметри, околу 4,6%, додека Pro активира 49 од 1.600 милијарди, околу 3,1%. Flash е помалку редиот модел. Тој не е едноставно Pro со помалку вклучени експерти; тој е погуст, поинаку избалансиран дизајн што троши поголем дел од себе на секој токен што го произведува. Тоа е вистинска инженерска одлука, а не деградација.

Што велат сопствените бројки на DeepSeek

И двете официјални картички на моделите објавуваат резултати на истите агентски и софтверско-инженерски репери, што ова го прави необично чиста споредба — иста лабораторија, иста евалуациска рамка, две големини:

Репер (објавено од DeepSeek)V4-Flash-0731V4-Pro-0813
Terminal Bench 2.182.787.9
Toolathlon-Verified70.374.1
DeepSWE54.462.7
NL2Repo54.261.5
DSBench-FullStack68.771.1

Pro победува во секој ред. Тоа е чесниот наслов, и повеќе сакаме да го прочиташ тука отколку да го откриеш во продукција. Но читај ги маргините, зашто тие се тоа што всушност го купуваш. На Terminal Bench 2.1 јазот е 5,2 поени кај модел со дваесет и петпати помалку параметри; кај употребата на алатки е 3,8 поени. Јазот се шири таму каде работата станува најдлабока — 8,3 поени на DeepSWE, 7,3 на NL2Repo, а и двата наградуваат издржано расудување за код во повеќе чекори. Тоа е обликот на размената во една табела: Flash го затвора најголемиот дел од растојанието на ограничени задачи и попушта на отворените.

Сопствената картичка за Flash на DeepSeek ја заострува поентата уште повеќе: Flash-0731 го надминува прегледот на V4-Pro на наведените репери и покрај далеку помалиот број активирани параметри. Понов мал модел што бие постар голем е нормална состојба во ова поле, и токму затоа „повисокото ниво“ никогаш не смее да ти биде стандарден одговор.

Белешка за контекстот

DeepSeek објавува контекст од 1M токени за семејството V4. Портата Shannon AI го послужува овој модел на 262.144 токени — единствениот прозорец низ сите дванаесет модели во нашиот каталог, и истиот прозорец што го добиваш на Pro. Повеќе сакаме секој модел во листата да се однесува идентично во поглед на контекстот отколку ти да памтиш различен таван по идентификатор на модел.

04Како се чита наставката: W4A16-AUTOROUND-REAP

Нашите идентификатори на модели ја изговараат својата шема за компресија наглас, зашто таа е она што најмногу влијае врз квалитетот на излезот, а речиси никој не ја обелоденува. Оваа се разложува на три тврдења.

W4A16 — 4-битни тежини, 16-битни активации

Тежините се чуваат по 4 бита секоја; активациите течат со прецизност од 16 бита. Ова е квантизација само на тежините и цели кон вистинското тесно грло при генерирање токени, а тоа е меморискиот пропусен опсег, а не аритметиката. Квантизирањето и на активациите би купило малку повеќе брзина и би ризикувало многу поголем пад во точноста; оставањето на 16 бита е конзервативниот избор со висока верност. Нотацијата е кратенка од екосистемот за послужување — литературата за квантизација го пишува истото како W4 со големина на групата.

AUTOROUND — научено заокружување, а не заокружување на најблиску

Наивната квантизација ја заокружува секоја тежина на најблиската претставлива вредност. Тоа е докажливо неоптимално: заокружувањето на една тежина „погрешно“ може да ја поништи грешката внесена од нејзините соседи, а со милијарди тежини тие интеракции доминираат. AutoRound, од Intel, ја третира самата одлука за заокружување како нешто што треба да се научи — трениран пертурбација по тежина ограничена на ±0,5, точно доволно за да преврти која било единечна одлука за заокружување и никогаш повеќе, плус научливи опсези на отсекување, оптимизирани со предзначен градиентен спуст наспроти цел за реконструкција на излезот по блокови врз мал калибрациски сет. Двесте чекори и готово.

Објавените споредби на Intel го ставаат AutoRound над GPTQ во 30 од 32 тестирани сценарија, над AWQ во 27 од 32 и над OmniQuant во 29 од 32 при 4-битни поставки само на тежините, со добивки над наивното заокружување на најблиску од 6,9 до 33,2 поени точност при 2 бита. Ништо од тоа не чини ништо при извршување: тоа е подобар избор на броеви, направен еднаш, вон линија.

REAP — отфрлање на експерти кон кои никој не рутира

REAP (поткастрување на активацијата на експертите пондерирано по рутерот), од Cerebras Systems и Универзитетот во Калгари, е еднократна компресија за MoE модели. Го оценува секој експерт по тоа колку силно и колку често рутерот го отвора, помножено со големината на излезот на тој експерт, па потоа најмалку истакнатите експерти ги брише наполно — без дотренирање потоа.

Централниот наод на трудот е корисниот: при високи односи на компресија, поткаструвањето експерти го надминува нивното спојување. Спојувањето на функционално различни експерти предизвикува тоа што авторите го нарекуваат колапс на функционалниот потпростор — рутерот ја губи ситнозрнестата контрола зависна од влезот што ја оправдувала изградбата на MoE, и останува да управува меѓу статични просеци. Нивните бројки низ модели од 20 милијарди до 1 трилион параметри: при 25% компресија на експерти на задачи со код, REAP губи 2,8% средна точност таму каде основите со спојување губат над 5%; при 50%, REAP губи 8,0% таму каде спојувањето губи над 20%. Кај Qwen3-Coder-480B при поткастрување од 50% падот е 1,4%, наспроти 39,3% за наивно поткастрување по фреквенција. Cerebras објави контролни точки со REAP и за линијата DeepSeek, меѓу другите.

Зошто 4 бита тука и 3 бита кај Pro

И двете нивоа мора да собираат и да остануваат брзи на иста класа хардвер. Pro носи 1,7 трилиони параметри, па му треба поагресивниот третман со 3 бита за воопшто да собере. Flash носи околу 300 милијарди, па не му треба — а битот што го штеди се троши на верност наместо на собирање.

Тој дополнителен бит е поважен отколку што сугерира неговата аритметика, зашто штетата од квантизацијата не е линеарна. Во мерењата на WikiText-2 од трудот за AWQ, Llama-2-7B оди од 5,47 збунетост при FP16 на 5,60 при 4 бита — казна од 2,4% — но на 6,24 при 3 бита, казна од 14%. Тоа е приближно шестпати поголемо влошување за 25% повеќе компресија, а истиот образец важи и на 70 милијарди. Трудот за GPTQ е уште поостар: при 3 бита, наивното заокружување на најблиску колабира кај модели од класата 175 милијарди, во илјадници единици збунетост, додека останува сосема употребливо при 4 бита. Под четири бита, добриот алгоритам за квантизација престанува да биде убавина и станува единственото нешто што го држи моделот на купче.

Значи, чесното читање на овие две наставки е: Flash седи поблиску до сопствената некомпресирана верзија отколку што Pro седи до својата. Pro сепак е посилниот модел — табелата со репери погоре го решава тоа. Тој едноставно отстапи повеќе за да стигне дотука, а ти ја плаќаш привилегијата.

Извори: AutoRound — „Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs“ (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — „REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression“ (arXiv 2510.13999), Cerebras Systems. Бројките за збунетост се од AWQ (arXiv 2306.00978) и GPTQ (arXiv 2210.17323).

05Flash наспроти Pro на крајната точка

Делот 03 ги покри фундаментите. Еве како изгледаат двете нивоа како производи на нашата порта:

 DeepSeek-V4-Flash-0731DeepSeek-V4-Pro-0813
КвантизацијаW4A16-AUTOROUND-REAP3BIT-REAP
Прецизност на тежините4 бита, научено заокружување3 бита
Фундамент (вкупно / активни)~304B / 13B~1.7T / 49B
Влез на 1M токени$0.50$1.95
Излез на 1M токени$2.00$3.90
Контекст / максимален излез262,144 / 16,384262,144 / 16,384
Алатки · структуриран излез · стримингДаДа
ВидНеНе
Слој за одбивањеНемаНема

Забележи што не се менува: контекстот, таванот на излезот, повикувањето алатки, структурираниот излез и отсуството на слој за одбивање се идентични. Единственото што се движи се фундаментот, квантизацијата и цената. Тоа го прави менувањето меѓу нив промена од една низа во твојот код и чисто економска одлука во твојата архитектура.

Колку чини еден повик со максимална големина

Наполни го целиот контекст од 262.144 токени и земи го полниот излез од 16.384 токени:

DeepSeek-V4-Pro$0.575
DeepSeek-V4-Flash$0.164

По каталошка цена. Flash: 0,131 долари влез + 0,033 долари излез. Pro: 0,511 + 0,064. Однос 3,51×. Flash го дели подот од 0,50 / 2,00 и со MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro и Hy3 — види го целиот каталог за тоа како се разликуваат по вид и структуриран излез.

06Пресметката за обем, разработена

„3,9× поевтино“ важи само на влез. На излез Flash е 1,95× поевтин. Твојата вистинска заштеда затоа зависи од твојот однос влез спрема излез, а распонот е доволно широк за да менува одлуки во дизајнот. Четири реални оптоварувања, секое со 100.000 барања:

ОптоварувањеНавнатре / нанадвор по повикFlashProЗаштеда
Класификација на тикети1,200 / 120$84$2813.3×
Одговарање прашања со RAG8,000 / 600$520$1,7943.4×
Резиме на долг документ60,000 / 1,500$3,300$12,2853.7×
Генерирање синтетички податоци500 / 2,000$425$8782.1×

Образецот: колку повеќе контекст туркаш и колку помалку текст генерираш, толку повеќе ти штеди Flash. Процесите со пребарување, тријажата на документи, анализата на дневници и транскрипти и извлекувањето со долг контекст се златната средина — кај нив влезот доминира за цел ред на големина, а влезот е местото каде живее попустот од 3,9×. Ако пак твоето оптоварување е краток промпт што произведува илјадници токени проза, јазот се стеснува на околу 2×, а аргументот за способноста на Pro сразмерно јакне.

Уште едно парче аритметика вредно да се усвои: по 0,50 долари на милион влезни токени, полнењето на целиот прозорец од 262.144 токени чини 13,1 центи. Промптирањето со долг контекст престанува да биде буџетско прашање по таа цена, што понекогаш значи дека можеш воопшто да не градиш слој за пребарување и да го оставиш контекстниот прозорец да ја заврши работата — инженерска заштеда врз заштедата во токени.

07Што значи „нецензурирано“ тука, прецизно

Зборот се употребува лабаво, па еве ја нашата дефиниција, искажана како својство на крајната точка: нема класификатор за одбивање пред моделот и нема филтрирање на содржината применето врз неговиот излез. Ништо не пресретнува промпт за да врати конзервирано откажување; ништо не го прегледува и не го редактира одговорот. За продукциска работа со голем обем последиците се помалку драматични и покорисни отколку што сугерира зборот:

  • Без лажни позитиви врз безопасен сообраќај. Филтрираните крајни точки редовно одбиваат медицински резимеа, безбедносни извештаи, правна претходна постапка, фикција, материјали за намалување штета и самата работа со модерација — токму категориите каде масовна задача обработува текст за чувствителна тема, а не произведува ништо штетно. При сто илјади барања, стапка на лажно одбивање од еден процент е илјада скршени редови.
  • Детерминистички договори. Побарај одговор со json_schema и добиваш JSON што одговара на шемата, а не пасус со извинување таму каде треба да стои објект. На твојот парсер не му треба гранка за одбивање, а твојата логика за повторување не мора да ја разликува транспортната грешка од онаа со политиката.
  • Политиката е твоја. Тоа е размената. Ако на твојот производ му требаат заштитни огради за твоите крајни корисници, ги градиш на твојот слој, каде ги знаеш своите корисници и својата надлежност, наместо да ги наследуваш претпоставките на добавувачот за двете. Твојата сметка и понатаму е уредена со нашата Политика за одговорна употреба.

Нецензурирано не е исто што и неусогласено или бескорисно. Моделот сè уште следи инструкции и сè уште го почитува системскиот промпт. Ако сакаш да одбива определени категории за твоите корисници, кажи го тоа таму — таа инструкција сега е твоја за пишување, а не наша за наметнување.

08Можности и чесни ограничувања

Две можности носат најголем дел од товарот за работа во обем. Строгиот излез по json_schema претвора еден одговор во ред во база на податоци без слој за парсирање и без гранка за одбивање. Повикувањето алатки во сите три дијалекти го прави Flash разумен мотор за евтините под-чекори на агент чијшто планер од највисоко ниво работи на посилен модел. Додај го reasoning_effort, кој ти дозволува да трошиш дополнителни токени само на делот од сообраќајот што ги бара, и контекст од 262.144 токени идентичен со оној на Pro — не се откажуваш од контекст ако го избереш евтиното ниво, што е невообичаено.

Ограничувањата се подеднакво конкретни:

  • Без вид. Flash е само за текст и ќе ги отфрли деловите со слика во порака. За слики на нецензуриран модел по истиот под од 0,50 / 2,00, MiniMax-M3 и MiMo-V2.5 се опциите со вид; Kimi-K2.6 и Kimi-K3 се посилни модели со вид над тоа ниво.
  • Не е врвот на скалата. Сопствените бројки на DeepSeek го ставаат Pro напред на секој објавен агентски репер, со најширок јаз кај издржаното расудување за код во повеќе чекори. Таму каде еден погрешен одговор чини повеќе од илјада евтини, потроши ги дополнителните 1,45 долари на милион на DeepSeek-V4-Pro.
  • 16.384 излезни токени по барање. Долгите генерирања мора да се делат низ повеќе повици. Тоа е истиот таван на секој модел што го послужуваме, и тој се достигнува многу пред контекстниот прозорец.

09Како се повикува

Насочи кој било клиент компатибилен со OpenAI кон портата и промени ја низата со моделот. Ништо друго во твојот стек не мора да се помести.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Истиот идентификатор на модел работи непроменет на /v1/messages и /v1/responses, што е најбрзиот начин да тестираш поевтин модел под постоечка интеграција без да го препишуваш клиентот. Параметрите, обликот на настаните при стриминг, шемите за повикување алатки и ограничувањата на брзината се документирани во API референцата; секој модел во каталогот е наведен на Shannon Research.

10Често поставувани прашања

Што е нецензурираното DeepSeek Flash API?

Крајната точка на портата Shannon AI за DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP: 4-битна AutoRound верзија на фундаментот V4-Flash на DeepSeek со 13 милијарди активни параметри, послужена на сопствениот GPU кластер без слој за одбивање и без филтрирање на излезот, по 0,50 долари на милион влезни токени и 2,00 долари на милион излезни токени, со контекст од 262.144 токени.

Колку чини DeepSeek V4 Flash на милион токени?

0,50 долари влез и 2,00 долари излез, подната цена на портата Shannon. DeepSeek-V4-Pro-0813 е 1,95 и 3,90, па Flash е 3,9× поевтин на влез и 1,95× поевтин на излез. Полнењето на целиот контекст од 262.144 токени чини околу 0,13 долари на Flash наспроти 0,51 долари на Pro.

Дали да користам DeepSeek V4 Flash или DeepSeek V4 Pro?

Flash кога бројот на повици е ограничувањето: класификација, извлекување, сумирање, синтетички податоци, одговарање со RAG, под-чекори на агенти. Pro кога тежината на еден единствен повик е ограничувањето. Flash не е деградиран Pro; тој е помал фундамент на повисоко верна 4-битна квантизација, додека Pro е фундамент со 1,7 трилиони параметри на 3 бита.

Дали DeepSeek-V4-Flash-0731 поддржува вид и излез по JSON шема?

Поддржува строг структуриран излез по json_schema и response_format, плус повикување алатки, стриминг и reasoning_effort. Не прима влез со слика. За слики на нецензуриран модел по истата подна цена, MiniMax-M3 и MiMo-V2.5 се опциите со вид.

Што значи W4A16-AUTOROUND-REAP?

W4A16 се 4-битни тежини со 16-битни активации. AutoRound е методот на Intel за научено заокружување, што ги оптимизира одлуките за заокружување со предзначен градиентен спуст наместо со заокружување на најблиската вредност. REAP е еднократното поткастрување на експерти од Cerebras Systems за модели со мешавина од експерти, што ги отфрла најмалку рутираните експерти без дотренирање.

Дали моделот е навистина нецензуриран, без слој за одбивање?

Да. Ниту еден класификатор за одбивање не седи пред моделот и никакво филтрирање не се применува врз неговиот излез, па ја добиваш сопствената распределба на моделот. Тоа исто така значи дека ти си сопственик на безбедносниот став на својот производ и градиш заштитни огради на својот слој; нашата Политика за одговорна употреба и понатаму ја уредува сметката.

Пушти го својот обем на Flash

0,50 навнатре, 2,00 нанадвор, 262K контекст, без одбивања. Промени една низа со модел.

Прочитај ја API документацијата Разгледај ги сите 12 модели

Shannon Lab LLC, Ново Мексико, САД · уредено со нашата Политика за одговорна употреба


Извори: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · технички извештај за DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · картички на моделите DeepSeek-V4-Flash-0731 и DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Сите бројки за фундаментите и реперите се онака како што ги објавиле нивните автори; цените на Shannon AI и послужениот контекст се наши каталошки вредности заклучно со септември 2026 година.

Сите истражувачки врски