Առանց ցենզուրայի DeepSeek Flash API

LLM API գնահատող թիմերի մեծ մասն սխալ փոփոխականն է օպտիմալացնում։ Նրանք բենչմարկ են անցկացնում ամենադժվար քսան հուշումների վրա, որ կարող են մտածել, ընտրում են հաղթողին, և վեց շաբաթ անց հայտնաբերում են, որ իրենց տրաֆիկի իննսունհինգ տոկոսը կարճ, կառուցվածքային, կրկնվող աշխատանք է, որը մոդել՝ չորս անգամ էժան, կատարած կլիներ նույն ձևով։ DeepSeek-V4-Flash-ը գոյություն ունի այդ իննսունհինգ տոկոսի համար։ Այս էջը վերաբերում է իմանալուն, թե երբ եք դրա մեջ — և երբ չեք։

01Ինչ եք իրականում ստանում

Հատկություն	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Մոդելի id	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Համատեքստ / առավելագույն ելք	262,144 տոկեն / 16,384 տոկեն
Գին մեկ 1Մ-ի դիմաց (մուտք / ելք)	$0.50 / $2.00
Հոսքային փոխանցում · գործիքի կանչում · դատողություն	Այո — բոլոր երեք բարբառները
Կառուցվածքային ելք	json_schema և response_format
Պատկերի մուտք (տեսողություն)	Ոչ — միայն տեքստ
Մերժման շերտ / ելքի զտիչ	Չկա
Սպասարկվում է	Shannon-ի սեփական GPU կլաստերի վրա

Երեք API բարբառ հասնում են նույն կշիռներին. /v1/chat/completions (OpenAI-ձևով), /v1/messages (Anthropic-ձևով), և /v1/responses։ Հոսքային փոխանցումն աշխատում է երեքի վրա էլ։ Ամբողջական պարամետրերի ցանկը API փաստաթղթերում է։

02Որտեղից է գալիս. DeepSeek տոհմը

DeepSeek-AI-ն հինգ մոդելի սերունդ է ծախսել մեկ մոլուցքի վրա. ստանալ առաջնագծի վարքագիծ մոդելից, որը էժան է սպասարկել, ոչ միայն էժան տալիս ուսուցանել։ Գրեթե յուրաքանչյուր ճարտարապետական որոշում գծում հետևում է դրան, և կարևորները հրապարակված են։ Երեքը բացատրում են, թե ինչ եք կանչում, երբ դիմում եք այս էնդփոինթին։

DeepSeekMoE — նուրբ փորձագետներ գումարած մեկ ընդհանուր

Փորձագետների խառնուրդի շերտը մեկ մեծ feed-forward ցանցը փոխարինում է շատ ավելի փոքրերով և երթուղիչով, որն ընտրում է մի քանիսը մեկ տոկենի համար։ DeepSeek-ի տարբերակը փորձագետներին կտրում է ավելի նուրբ, քան սովորական ութ-փորձագետ դասավորությունը, այնպես որ նույն ակտիվացված FLOPs-ը գնում է շատ ավելի կոմբինատորապես կոնկրետ խառնուրդ, և այն մեկուսացնում է ընդհանուր փորձագետ, որով անցնում է ամեն տոկեն, այնպես որ ընդհանուր գիտելիքը զբաղված չէ ամեն մասնագետի ներսում կրկնակի սովորելով։ DeepSeek-V3-ը դա տվեց որպես 256 երթուղավորված փորձագետ գումարած 1 ընդհանուր փորձագետ, ակտիվացնելով 8 երթուղավորված մեկ տոկենի համար — 671B ընդհանուր պարամետր, 37B ակտիվ — գումարած օժանդակ-կորուստից ազատ բեռնվածքի հավասարակշռում. փոխանակ որակը վատացնող տուգանային անդամի, մեկ-փորձագետ շեղում մի փոքր հրում է երթուղավորման միավորները վեր կամ վար ամեն քայլում, ինչպես այդ փորձագետը ընթանում է թերբեռնված կամ գերբեռնված։

MLA — ուշադրություն, որը տեղավորվում է հիշողության մեջ

Սպասարկման ծախսի խնդրի մյուս կեսը KV քեշն է, որը գծայնորեն մեծանում է համատեքստի հետ և գերիշխում է հիշողությունը երկար հաջորդականությունների երկարությունների ժամանակ։ Multi-head Latent Attention-ը, ներկայացված DeepSeek-V2-ում, կոմպրեսում է key-ները և value-ները համատեղ ցածր-ռանգ լատենտ վեկտորի մեջ և քեշավորում է հենց դա, on-the-fly վերակառուցելով օգտագործելի K/V։ DeepSeek-ի հրապարակված V2 թվերը, դեմ իրենց ավելի վաղ խիտ DeepSeek 67B-ին, հայտնում են 93.3% կրճատում KV քեշում և 5.76 անգամ ավելի բարձր առավելագույն գեներացիայի թողունակություն։ Այդ պատճառով 262K-տոկեն պատուհանը այս ընտանիքում հիմնական պայման է, ոչ թե պրեմիում հավելում։

Sparse ուշադրություն — և էժան տոկենների նախադեպը

V3.2-Exp-ը ավելացրեց DeepSeek Sparse Attention. թեթև ինդեքսավորիչը գնահատում է համատեքստի տոկենները հարցման դեմ, և ընտրիչը պահում է միայն ամենաբարձր միավոր ունեցողները։ Հետաքրքիր մասը անդորրագիրն է, ոչ մեխանիզմը։ DeepSeek-ը հրապարակեց կողք-կողքի համեմատություն V3.1-Terminus-ի հետ՝ MMLU-Pro-ով նույնական 85.0-ում, AIME 2025-ով վեր (88.4 → 89.3), SWE-bench Verified-ով մի փոքր վար (68.4 → 67.8) — ըստ էության հարթ որակ — և կրճատեց իրենց API գները ավելի քան 50%-ով նույն օրը։ Ճարտարապետություն, ազնվորեն զեկուցված, ուղղակիորեն վերածվող գնի։ Flash-ը այդ փաստարկն է, տարված մեկ քայլ առաջ։

V4 սերունդը

V4-ը, պրիվյու արված 2026 թ. ապրիլին MIT լիցենզիայի ներքո, կրկին փոխարինում է ուշադրության շերտը Compressed Sparse Attention-ի և Heavily Compressed Attention-ի հիբրիդով, ուսուցանվում է Muon օպտիմիզատորով ավելի քան 32 տրիլիոն տոկենի վրա, և պահպանում է V3-ի multi-token-prediction նպատակը — որը նաև ծառայում է որպես spekulyativ ապակոդավորում, և որը DeepSeek-ը չափեց 85-90% երկրորդ-տոկեն ընդունման տոկոսադրույքով՝ մոտավորապես 1.8 անգամ ապակոդավորման արագացման համար V3-ում։ V4 ամփոփումը հայտնում է, որ V4-Pro-ն աշխատում է V3.2-ի single-token ինֆերենսի FLOPs-ի 27%-ով և դրա KV քեշի 10%-ով։ Ընտանիքը բացահայտում է դատողության երեք մակարդակ, ինչին համապատասխանում է մեր reasoning_effort պարամետրը։

Աղբյուրներ. DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 տեխնիկական հաշվետվություն (arXiv 2412.19437) · DeepSeek-V3.2-Exp մոդելի քարտ · DeepSeek-V4 (arXiv 2606.19348)։ Բոլոր թվերը DeepSeek-ի հայտարարածն են։

03Ինչ իրականում է նշանակում «Flash»-ը

Սա այն կետն է, որտեղ համեմատությունների մեծ մասը սխալվում է, այնպես որ արժե ուղղակի ասել. DeepSeek-ի Flash-ը քվանտացված, կրճատված կամ դիստիլացված Pro չէ։ Դա առանձին ուսուցանված, ավելի փոքր Փորձագետների խառնուրդի մոդել է՝ իր սեփական նախնական ուսուցման ցիկլով։ V4 պրիվյու հոդվածը տալիս է երկու չափերը.

Թվերը DeepSeek-V4 պրիվյու հոդվածից են։ Պաշտոնական ստուգակետերը, որ մենք սպասարկում ենք — V4-Flash-0731 և V4-Pro-0813 — իրենց մոդելի քարտերում թվարկում են մի փոքր ավելի մեծ ընդհանուրներ՝ 304B և 1.7T; DeepSeek-ը այս կառուցումների համար ակտիվացված պարամետրերը վերահաստատում չի անում։

Երկու թիվ է անում աշխատանքը այստեղ։ Ընդհանուր պարամետրերը սահմանում են հիշողության ֆուտպրինտը, որը որոշում է, թե որքան սարքաշար է զբաղեցնում մոդելի մեկ պատճեն։ Ակտիվացված պարամետրերը սահմանում են թվաբանությունը մեկ տոկենի համար, որը որոշում է թողունակությունը։ Flash-ը մոտավորապես 5.6 անգամ ավելի փոքր է առաջինում և 3.8 անգամ ավելի փոքր երկրորդում — և կա նրբություն, արժանի նկատման այդ բացվածքում. Flash-ը ակտիվացնում է 284 միլիարդից 13-ը, մոտավորապես 4.6%, մինչդեռ Pro-ն ակտիվացնում է 1,600 միլիարդից 49-ը, մոտավորապես 3.1%։ Flash-ը ավելի քիչ sparse մոդելն է։ Դա պարզապես Pro չէ ավելի քիչ միացված փորձագետներով; դա ավելի խիտ, տարբեր կերպ հավասարակշռված դիզայն է, որն իր ավելի մեծ մասն է ծախսում ամեն տոկենի վրա, որ արտադրում է։ Դա իրական ինժեներական ընտրություն է, ոչ թե իջեցում։

Ինչ են ասում DeepSeek-ի սեփական թվերը

Երկու պաշտոնական մոդելի քարտերն էլ հրապարակում են գնահատականներ նույն ագենտային և ծրագրային-ինժեներական բենչմարկների վրա, ինչը դա դարձնում է անսովոր մաքուր համեմատություն — նույն լաբորատորիա, նույն գնահատման միջավայր, երկու չափ.

Բենչմարկ (DeepSeek-ի հայտարարած)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro-ն հաղթում է ամեն տողում։ Դա ազնիվ գլխագիրն է, և մենք ավելի լավ ենք ուզում, որ դուք դա կարդաք այստեղ, քան հայտնաբերեք արտադրության մեջ։ Բայց կարդացեք մարժինները, որովհետև դրանք են, ինչ իրականում գնում եք։ Terminal Bench 2.1-ում բացը 5.2 միավոր է մոդելի վրա, որն ունի պարամետրերի քսանհինգերորդ մասը; գործիք-օգտագործման վրա այն 3.8 միավոր է։ Բացը լայնանում է այնտեղ, որտեղ աշխատանքն ամենախորն է դառնում — 8.3 միավոր DeepSWE-ում, 7.3 NL2Repo-ում, երկուսն էլ պարգևատրում են երկարատև բազմաքայլ կոդի դատողությունը։ Դա առևտրի ձևն է մեկ աղյուսակում. Flash-ը փակում է հեռավորության մեծ մասը սահմանափակ առաջադրանքների վրա և զիջում է բաց-ծայրով առաջադրանքների վրա։

DeepSeek-ի սեփական Flash քարտն այս կետն էլ ավելի սուր է անում. Flash-0731-ը գերազանցում է V4-Pro պրիվյուին թվարկված բենչմարկների վրա, չնայած իր շատ ավելի փոքր ակտիվացված պարամետրերի քանակին։ Ավելի նոր փոքր մոդելը, որ հաղթում է ավելի հին մեծին, նորմալ վիճակն է այս ոլորտում, և դա է պատճառը, թե ինչու «ավելի մեծ մակարդակը» երբեք չպետք է լինի ձեր լռելյայն պատասխանը։

04Կարդալով վերջածանցը. W4A16-AUTOROUND-REAP

Մեր մոդելների id-ները բարձրաձայն են հայտարարում իրենց սեղմման սխեման, որովհետև դա այն է, ինչ ամենաշատն է ազդում ելքի որակի վրա, և գրեթե ոչ ոք չի բացահայտում այն։ Սա բաժանվում է երեք հայտարարության։

W4A16 — 4-բիթ կշիռներ, 16-բիթ ակտիվացումներ

Կշիռները պահվում են 4 բիթով յուրաքանչյուրը; ակտիվացումները հոսում են 16-բիթ ճշգրտությամբ։ Սա միայն-կշիռ քվանտացում է, և այն թիրախավորում է իրական խցանման կետը տոկենի գեներացիայում, որը հիշողության թողունակությունն է, ոչ թե թվաբանությունը։ Ակտիվացումների քվանտացումն էլ գնելու էր մի փոքր ավելի արագություն և ռիսկելու էր շատ ավելի մեծ ճշգրտության վայրէջք; դրանք 16 բիթում թողնելը պահպանողական, բարձր-հավատարմության ընտրությունն է։ Նշանագրումը սպասարկման-էկոհամակարգի հապավում է — քվանտացման գրականությունը նույն բանը գրում է որպես W4 group size-ով։

AUTOROUND — սովորած կլորացում, ոչ մոտակա կլորացում

Միամիտ քվանտացումը կլորացնում է յուրաքանչյուր կշիռ ամենամոտ ներկայացվող արժեքին։ Դա ցուցադրելիորեն օպտիմալ չէ. մեկ կշիռը «սխալ» ուղղությամբ կլորացնելը կարող է չեղարկել իր հարևանների ներմուծած սխալը, և միլիարդավոր կշիռների դեպքում այդ փոխազդեցությունները գերիշխում են։ AutoRound-ը, Intel-ից, կլորացման որոշումն ինքնին վերաբերվում է որպես բան, որ պետք է սովորել — ուսուցանվող per-weight խախտում, սահմանափակված ±0.5-ով, ուղիղ բավական՝ ցանկացած մեկ կլորացման որոշում շրջելու համար և ոչ ավելին, գումարած սովորելի կտրման միջակայքեր, օպտիմիզացված ուղղանշան գրադիենտ վայրէջքով՝ բլոկային ելք-վերակառուցման նպատակի դեմ փոքր calibration հավաքածուի վրա։ Երկու հարյուր քայլ, և վերջ։

Intel-ի հրապարակած համեմատություններում AutoRound-ը հաղթում է GPTQ-ին 32-ից 30 փորձարկված սցենարներում, AWQ-ին 32-ից 27-ում և OmniQuant-ին 32-ից 29-ում 4-բիթ միայն-կշիռ կարգավորումներում, հասույթներով naive round-to-nearest-ի նկատմամբ՝ 6.9-ից 33.2 ճշգրտության միավոր 2 բիթում։ Ոչ մեկը ինֆերենսի ժամանակ ոչինչ չի արժենում. դա թվերի ավելի լավ ընտրություն է, կատարված մեկ անգամ, offline։

REAP — կաթել փորձագետներին, որոնց ոչ ոք չի ուղղորդում

REAP-ը (Router-weighted Expert Activation Pruning), Cerebras Systems-ից և Կալգարիի համալսարանից, one-shot սեղմում է MoE մոդելների համար։ Այն գնահատում է յուրաքանչյուր փորձագետին ըստ, թե որքան ուժեղ և որքան հաճախ է երթուղիչը դռներով անցկացնում այն, բազմապատկած այդ փորձագետի ելքի մեծությամբ, ապա ամբողջովին ջնջում է ամենաքիչ նշանակալի փորձագետներին — առանց հետագա վերաուսուցման։

Հոդվածի կենտրոնական բացահայտումն օգտակարն է. բարձր սեղմման տոկոսադրույքների ժամանակ, փորձագետների կրճատումը հաղթահարում է դրանց միավորումը։ Ֆունկցիոնալ առանձնացված փորձագետների միավորումը հանգեցնում է նրան, ինչ հեղինակներն անվանում են ֆունկցիոնալ ենթատարածության փլուզում — երթուղիչը կորցնում է նուրբ, մուտքից-կախված վերահսկողությունը, որը MoE-ն դարձնում էր կառուցման արժանի, և մնում է ղեկավարելով ստատիկ միջինների միջև։ Նրանց թվերը մոդելների վրա 20B-ից 1T պարամետրից. 25% փորձագետների սեղմման ժամանակ կոդավորման առաջադրանքների վրա, REAP-ը կորցնում է 2.8% միջին ճշգրտություն, մինչդեռ միավորման բազային մեթոդները կորցնում են ավելի քան 5%; 50%-ում REAP-ը կորցնում է 8.0%, մինչդեռ միավորումը կորցնում է ավելի քան 20%։ Qwen3-Coder-480B-ում 50% կրճատման ժամանակ անկումը 1.4% է, 39.3%-ի դեմ naive հաճախականության-հիմքով կրճատման համար։ Cerebras-ը հրապարակել է REAP ստուգակետեր DeepSeek գծի, և ուրիշների համար։

Ինչու՞ 4-բիթ այստեղ և 3-բիթ Pro-ում

Երկու մակարդակներն էլ պետք է տեղավորվեն և արագ մնան նույն դասի սարքաշարի վրա։ Pro-ն կրում է 1.7 տրիլիոն պարամետր, այնպես որ նրան անհրաժեշտ է ավելի ագրեսիվ 3-բիթ մշակում՝ ընդհանրապես տեղավորվելու համար։ Flash-ը կրում է մոտավորապես 300 միլիարդ, այնպես որ նրան դա պետք չէ — և տեղավորվող բիթը ծախսվում է հավատարմության վրա՝ տեղավորվելու փոխարեն։

Այդ լրացուցիչ բիթը ավելի կարևոր է, քան իր թվաբանությունը հուշում է, որովհետև քվանտացման վնասը գծային չէ։ AWQ հոդվածի WikiText-2 չափումներում, Llama-2-7B-ն անցնում է 5.47 perplexity-ից FP16-ում 5.60-ի 4-բիթում — 2.4% տուգանք — բայց 6.24-ի 3-բիթում, 14% տուգանք։ Դա մոտավորապես վեց անգամ ավելի մեծ վատացում 25% ավելի սեղմման համար, և նույն օրինաչափությունը գործում է 70B-ում էլ։ GPTQ հոդվածն ավելի ուղղակի է. 3 բիթում, naive round-to-nearest-ը փլուզվում է 175B-դասի մոդելների վրա, perplexity-ի հազարավորների մեջ, մինչդեռ մնում է կատարելապես օգտագործելի 4 բիթում։ Չորս բիթից ցածր, լավ քվանտացման ալգորիթմը դադարում է հաճելիություն լինելուց և դառնում է միակ բանը, որ պահում է մոդելը իրար կպած։

Այսպիսով այս երկու վերջածանցների ազնիվ ընթերցումն է. Flash-ն ավելի մոտ է նստում իր սեփական չսեղմված ինքն իրեն, քան Pro-ն նստում է իր սեփականին։ Pro-ն դեռ ավելի ուժեղ մոդելն է — վերևի բենչմարկի աղյուսակը դա հաստատում է։ Այն պարզապես ավելի շատ է հանձնել՝ այստեղ հասնելու համար, և դուք վճարում եք այդ արտոնության համար։

Աղբյուրներ. AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024։ REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems։ Perplexity թվերը AWQ-ից (arXiv 2306.00978) և GPTQ-ից (arXiv 2210.17323)։

05Flash ընդդեմ Pro-ի էնդփոինթում

03-րդ բաժինը ծածկեց հիմքերը։ Ահա ինչպիսին են երկու մակարդակները՝ որպես ապրանքներ մեր gateway-ում.

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Քվանտացում	W4A16-AUTOROUND-REAP	3BIT-REAP
Կշիռների ճշգրտություն	4-բիթ, սովորած կլորացում	3-բիթ
Հիմք (ընդհանուր / ակտիվ)	~304B / 13B	~1.7T / 49B
Մուտք մեկ 1Մ տոկենի դիմաց	$0.50	$1.95
Ելք մեկ 1Մ տոկենի դիմաց	$2.00	$3.90
Համատեքստ / առավելագույն ելք	262,144 / 16,384	262,144 / 16,384
Գործիքներ · կառուցվածքային ելք · հոսքային փոխանցում	Այո	Այո
Տեսողություն	Ոչ	Ոչ
Մերժման շերտ	Չկա	Չկա

Նկատեք, թե ինչը չի փոխվում. համատեքստը, ելքի առաստաղը, գործիքի կանչումը, կառուցվածքային ելքը, և մերժման շերտի բացակայությունը նույնական են։ Միակ բանը, որ շարժվում է, հիմքն է, քվանտացումը, և գինը։ Դա նրանց միջև անցումը դարձնում է մեկ-տողանոց փոփոխություն ձեր կոդում, և զուտ տնտեսական որոշում ձեր ճարտարապետությունում։

Ինչ արժե մեկ առավելագույն-չափի կանչը

Լցրեք ամբողջ 262,144-տոկեն համատեքստը և վերցրեք լրիվ 16,384-տոկեն ելքը.

Ցուցակի գնով։ Flash. $0.131 մուտք + $0.033 ելք։ Pro. $0.511 + $0.064։ Հարաբերակցություն 3.51 անգամ։ Flash-ը նաև կիսում է $0.50 / $2.00 հատակը MiniMax-M3-ի, Laguna-S-2.1-ի, MiMo-V2.5-ի, MiMo-V2.5-Pro-ի և Hy3-ի հետ — տես ամբողջական կատալոգը, թե ինչպես են դրանք տարբերվում տեսողության և կառուցվածքային ելքի հարցում։

06Ծավալի թվաբանությունը, հաշվարկված

«3.9 անգամ էժան» ճշմարիտ է միայն մուտքի վրա։ Ելքի վրա Flash-ը 1.95 անգամ էժան է։ Ձեր իրական խնայողությունը հետևաբար կախված է ձեր մուտք-ելք հարաբերակցությունից, և տարածումը բավական լայն է՝ դիզայնի որոշումները փոխելու համար։ Չորս իրատեսական բեռ, յուրաքանչյուրը 100,000 հարցումով.

Բեռ	Մուտք / ելք մեկ կանչի դիմաց	Flash	Pro	Խնայողություն
Տոմսերի դասակարգում	1,200 / 120	$84	$281	3.3 անգամ
RAG հարց-պատասխան	8,000 / 600	$520	$1,794	3.4 անգամ
Երկար-փաստաթղթի ամփոփում	60,000 / 1,500	$3,300	$12,285	3.7 անգամ
Սինթետիկ տվյալների գեներացիա	500 / 2,000	$425	$878	2.1 անգամ

Օրինաչափությունը. որքան ավելի շատ համատեքստ եք հրում և որքան ավելի քիչ տեքստ եք գեներացնում, այնքան ավելի շատ է Flash-ը խնայում ձեզ։ Retrieval խողովակաշարերը, փաստաթղթերի տրիաժը, log-երի և տրանսկրիպտների վերլուծությունը, և երկար-համատեքստ արդյունահանումը քաղցր կետն են — դրանք մուտքով-գերիշխված են մեծության կարգով, և մուտքն է, որտեղ ապրում է 3.9 անգամ զեղչը։ Եթե փոխարենը ձեր բեռը կարճ հուշում է, որ արտադրում է հազարավոր տոկեն արձակուրդ, բացը նեղանում է մոտավորապես 2 անգամի, և Pro-ի կարողության փաստարկն ավելի ուժեղանում է համապատասխանաբար։

ԵՒս մեկ թվաբանության կտոր, արժանի ներքին յուրացման. $0.50-ով մեկ միլիոն մուտքային տոկենի դիմաց, ամբողջ 262,144-տոկեն պատուհանը արժե 13.1 ցենտ լցնել։ Երկար-համատեքստ հուշումը դադարում է լինել բյուջետային հարց այդ գնով, ինչը երբեմն նշանակում է, որ կարող եք ընդհանրապես բաց թողնել retrieval շերտ կառուցելը և թողնել, որ համատեքստի պատուհանն անի աշխատանքը — ինժեներական խնայողություն տոկենի խնայողության վրայից։

07Ինչ է նշանակում «առանց ցենզուրայի»-ն այստեղ, ճշգրիտ

Բառը թուլորեն է օգտագործվում, այնպես որ ահա մեր սահմանումը, նշված որպես էնդփոինթի հատկություն. մոդելի դեմ ոչ մի մերժման դասակարգիչ չկա, և նրա ելքին ոչ մի բովանդակության զտում չի կիրառվում։ Ոչինչ չի ընդհատում հուշումը և վերադարձնում պատրաստի մերժում; ոչինչ չի ստուգում ավարտումը և չի ջնջում այն։ Բարձր-ծավալի արտադրական աշխատանքի համար հետևանքներն ավելի քիչ դրամատիկ են և ավելի օգտակար, քան բառը հուշում է.

• Ոչ մի կեղծ դրական մեղմ տրաֆիկի վրա։ Զտված էնդփոինթները սովորաբար մերժում են բժշկական ամփոփումներ, անվտանգության զեկույցներ, իրավական բացահայտում, գեղարվեստական գրականություն, վնասի-կրճատման նյութեր, և ինքը մոդերացիայի աշխատանքը — ուղիղ այն կատեգորիաներում, որտեղ batch աշխատանքը մշակում է տեքստ զգայուն թեմայի մասին, ոչ թե արտադրում ինչ-որ վնասակար բան։ Հարյուր հազար հարցումների ժամանակ, մեկ-տոկոս կեղծ-մերժման տոկոսադրույքը հազար կոտրված տող է։
• Դետերմինիստական պայմանագրեր։ Խնդրեք json_schema պատասխան, և ստանում եք JSON, որը համապատասխանում է սխեմային, ոչ ներողության պարբերություն, որտեղ պետք է լիներ օբյեկտ։ Ձեր վերլուծիչին անհրաժեշտ չէ մերժման ճյուղ, և ձեր կրկնափորձի տրամաբանությանը պետք չէ տարբերել տրանսպորտային ձախողումը քաղաքականության ձախողումից։
• Դուք տիրապետում եք քաղաքականությանը։ Դա առևտուրն է։ Եթե ձեր ապրանքին անհրաժեշտ են պաշտպանիչներ ձեր վերջնական օգտատերերի համար, դուք դրանք կառուցում եք ձեր շերտում, որտեղ գիտեք ձեր օգտատերերին և ձեր իրավասությունը, փոխանակ ժառանգելու մատակարարի կռահումները երկուսի մասին։ Ձեր հաշիվը շարունակում է կառավարվել մեր Պատասխանատու օգտագործման քաղաքականությամբ։

Առանց ցենզուրայի լինելը նույնը չէ, ինչ չհամապատասխանեցված կամ անօգտակար։ Մոդելը դեռ հետևում է հրահանգներին և դեռ հարգում է համակարգային հուշումը։ Եթե ուզում եք, որ այն մերժի որոշակի կատեգորիաներ ձեր օգտատերերի համար, ասեք դա այնտեղ — այդ հրահանգն այժմ ձերն է գրելու, ոչ թե մերը՝ պարտադրելու։

08Հնարավորություններ և ազնիվ սահմանափակումներ

Երկու հնարավորություն է կրում ծավալային աշխատանքի ծանրության մեծ մասը։ Խիստ json_schema ելքը ավարտումը վերածում է տվյալների բազայի տողի՝ առանց վերլուծման շերտի և առանց մերժման ճյուղի։ Գործիքի կանչումը երեք բարբառներում էլ Flash-ը դարձնում է խելամիտ շարժիչ ագենտի էժան ենթաքայլերի համար, որի վերին-մակարդակի պլանավորիչն աշխատում է ավելի ուժեղ մոդելի վրա։ Ավելացրեք reasoning_effort-ը, որը թույլ է տալիս ծախսել լրացուցիչ տոկեններ միայն այն մասի վրա, որին դրանք հարկավոր են, և 262,144-տոկեն համատեքստ, նույնական Pro-ի հետ — դուք չեք հանձնում համատեքստ՝ էժան մակարդակն ընտրելով, ինչը անսովոր է։

Սահմանափակումները հավասարապես կոնկրետ են.

• Ոչ մի տեսողություն։ Flash-ը միայն-տեքստային է և կմերժի պատկերի մասերը հաղորդագրության մեջ։ Նույն $0.50 / $2.00 հատակի վրա տեսողություն ունեցող առանց ցենզուրայի մոդելի համար, MiniMax-M3-ը և MiMo-V2.5-ը տեսողություն-ունակ տարբերակներն են; Kimi-K2.6-ը և Kimi-K3-ը ավելի ուժեղ տեսողության մոդելներ են այդ մակարդակից վեր։
• Ոչ սանդուղքի գագաթը։ DeepSeek-ի սեփական թվերը Pro-ին առաջ են դասում ամեն հրապարակված ագենտային բենչմարկում, բացով, որ ամենալայնն է երկարատև բազմաքայլ կոդի դատողության վրա։ Որտեղ մեկ սխալ պատասխանն ավելի շատ է արժենում, քան հազար էժանը, ծախսեք լրացուցիչ $1.45 մեկ միլիոնի դիմաց DeepSeek-V4-Pro-ի վրա։
• 16,384 ելքային տոկեն մեկ հարցման դիմաց։ Երկար գեներացիաները պետք է բաժանվեն կանչերի միջև։ Դա նույն առաստաղն է ամեն մոդելի վրա, որ մենք սպասարկում ենք, և կապում է լավ առաջ, քան համատեքստի պատուհանը։

09Կանչելը

Ուղղեք ցանկացած OpenAI-ի հետ համատեղելի հաճախորդ դեպի gateway-ը և փոխեք մոդելի տողը։ Ձեր stack-ում ուրիշ ոչինչ չպետք է շարժվի։

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Նույն մոդելի id-ն անփոփոխ աշխատում է /v1/messages-ի և /v1/responses-ի վրա, ինչը ամենաարագ ձևն է A/B թեստավորելու ավելի էժան մոդել գոյություն ունեցող ինտեգրացիայի տակ՝ առանց ձեր հաճախորդը վերաշարադրելու։ Պարամետրերը, հոսքային իրադարձությունների ձևերը, գործիքի-կանչման սխեմաները և արագության սահմանափակումները փաստաթղթավորված են API տեղեկատվությունում; կատալոգի յուրաքանչյուր մոդել թվարկված է Shannon Research-ում։

10Հաճախ տրվող հարցեր

---

Աղբյուրներ. DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 տեխնիկական հաշվետվություն (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 և DeepSeek-V4-Pro-0813 մոդելի քարտեր · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323)։ Բոլոր հիմքի և բենչմարկի թվերը հրապարակված են իրենց համապատասխան հեղինակների կողմից; Shannon AI-ի գները և սպասարկվող համատեքստը մեր սեփական ցուցակի արժեքներն են 2026 թ. սեպտեմբերի դրությամբ։