Цензурасыз DeepSeek Flash API

LLM API-ды бағалайтын топтардың көбі қате айнымалыны оңтайландырады. Олар ойларына келетін ең қиын жиырма промптта бенчмарк жүргізеді, жеңімпазды таңдайды, ал алты аптадан кейін трафигінің тоқсан бес пайызы төрт есе арзан модель дәл солай өңдей алатын қысқа, құрылымдалған, қайталанатын жұмыс екенін біледі. DeepSeek-V4-Flash дәл сол тоқсан бес пайыз үшін бар. Бұл бет — сол пайыздың ішінде екеніңізді әрі ішінде емес екеніңізді тану туралы.

01Нақты не аласыз

Қасиет	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Модель идентификаторы	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Контекст / ең үлкен шығыс	262,144 токен / 16,384 токен
1M-ге баға (кіріс / шығыс)	$0.50 / $2.00
Ағынды беру · құрал шақыру · пайымдау	Иә — үш диалекттің де бәрінде
Құрылымдалған шығыс	json_schema және response_format
Сурет кірісі (көру)	Жоқ — тек мәтін
Бас тарту қабаты / шығыс сүзгісі	Жоқ
Қайда ұсынылады	Shannon-ның өз GPU кластері

Дәл сол салмақтарға үш API диалекті жетеді: /v1/chat/completions (OpenAI пішіні), /v1/messages (Anthropic пішіні) және /v1/responses. Ағынды беру үшеуінде де жұмыс істейді. Параметрлердің толық анықтамасы API құжаттамасында.

02Қайдан шыққаны: DeepSeek тегі

DeepSeek-AI бес модель буынын бір мақсатқа арнады: тек оқытуы арзан емес, ұсынуы арзан модельден фронтир мінез-құлқын шығару. Осы жолдағы әр архитектуралық шешім дерлік соған барып тіреледі, ал маңыздылары жарияланған. Үшеуі осы эндпоинтке жүгінгенде нені шақыратыныңызды түсіндіреді.

DeepSeekMoE — ұсақ түйіршікті сарапшылар плюс ортақ сарапшы

Mixture-of-Experts қабаты бір үлкен алға тарату желісін көптеген кішісімен және токенге бірнешеуін таңдайтын маршрутизатормен алмастырады. DeepSeek нұсқасы сарапшыларды дәстүрлі сегіз сарапшылық сұлбадан ұсағырақ тілімдейді, сондықтан дәл сол белсендірілген FLOPs әлдеқайда комбинаторлық тұрғыда нақты қоспа береді, әрі ол әр токен өтетін ортақ сарапшыны бөліп алады, сонда жалпы білім әр маманның ішінде қайта-қайта үйренілмейді. DeepSeek-V3 мұны 256 бағдарланатын сарапшы плюс 1 ортақ сарапшы, токенге 8 бағдарланатыны белсенді түрінде шығарды — жалпы 671B параметр, 37B белсенді — оған қоса қосымша шығынсыз жүктеме теңгерімі: сапаны нашарлататын айыппұл мүшесінің орнына, әр сарапшыға тиесілі ығысу сол сарапшы аз немесе шамадан тыс жүктелген сайын бағдарлау ұпайларын әр қадамда жоғары не төмен ығыстырады.

MLA — жадқа сыятын зейін

Ұсыну құны мәселесінің екінші жартысы — KV кэш, ол контекстпен бірге сызықты өседі әрі ұзын тізбектерде жадта басым болады. DeepSeek-V2-де енгізілген Multi-head Latent Attention кілттер мен мәндерді бірге төмен рангілі жасырын векторға қысады да, соны кэштейді, ал пайдалануға жарамды K/V-ні жүрісте қайта құрады. DeepSeek жариялаған V2 көрсеткіштері өздерінің бұрынғы тығыз DeepSeek 67B моделімен салыстырғанда KV кэштің 93.3% азайғанын және ең жоғары жасау өткізу қабілетінің 5.76× артқанын хабарлайды. Сондықтан 262K токендік терезе бұл отбасында премиум қосымша емес, әдепкі талап.

Сирек зейін — және арзан токендердің прецеденті

V3.2-Exp DeepSeek Sparse Attention-ды қосты: жеңіл индекстеуші контекст токендерін сұранысқа қарсы бағалайды, ал таңдаушы тек ең жоғары ұпайлыларын қалдырады. Мұндағы қызығы — механизм емес, түбіртек. DeepSeek V3.1-Terminus-пен қатар салыстыру жариялады: MMLU-Pro 85.0-де бірдей, AIME 2025 өскен (88.4 → 89.3), SWE-bench Verified шамалы төмендеген (68.4 → 67.8) — іс жүзінде сапа тегіс — әрі сол күні API бағаларын 50%-дан астамға түсірді. Архитектура, адал хабарланғанда, тікелей бағаға айналады. Flash — сол дәлелдің бір саты алға жылжытылғаны.

V4 буыны

2026 жылғы сәуірде MIT лицензиясымен алдын ала көрсетілген V4 зейін жинағын тағы да Compressed Sparse Attention пен Heavily Compressed Attention гибридімен алмастырады, Muon оптимизаторымен 32T-дан астам токенде оқытады әрі V3-тің көп токенді болжау мақсатын сақтайды — ол сонымен бірге спекулятивті декодтау рөлін атқарады және DeepSeek оны V3-те шамамен 1.8× декодтау жеделдеуі үшін екінші токенді қабылдаудың 85–90% үлесімен өлшеген. V4 түйіндемесі V4-Pro-ның V3.2-нің бір токендік шығару FLOPs-ының 27%-ымен және оның KV кэшінің 10%-ымен жүретінін хабарлайды. Отбасы үш пайымдау күші деңгейін ашады, ал біздің reasoning_effort параметріміз соларға сәйкестендірілген.

Дереккөздер: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 техникалық есебі (arXiv 2412.19437) · DeepSeek-V3.2-Exp модель картасы · DeepSeek-V4 (arXiv 2606.19348). Барлық көрсеткіштерді DeepSeek хабарлаған.

03«Flash» шын мәнінде нені білдіреді

Салыстырулардың көбі дәл осы жерде қателеседі, сондықтан мұны тура айтқан жөн: DeepSeek-тің Flash-ы — кванттаудан өткен, кесілген немесе дистилляцияланған Pro емес. Бұл — өз алдына оқытылған, өзінің алдын ала оқыту жүрісі бар кішірек Mixture-of-Experts моделі. V4-тің алдын ала көрсету мақаласы екі өлшемді береді:

Көрсеткіштер DeepSeek-V4-тің алдын ала көрсету мақаласынан. Біз ұсынатын ресми бақылау нүктелері — V4-Flash-0731 және V4-Pro-0813 — өз модель карталарында сәл үлкенірек, 304B және 1.7T жалпы сандарын көрсетеді; DeepSeek ол құрамалар үшін белсендірілген параметрлерді қайта жарияламайды.

Мұнда жұмысты екі сан істейді. Жалпы параметрлер жад көлемін белгілейді, ал ол модельдің бір көшірмесі қанша жабдық алатынын шешеді. Белсендірілген параметрлер токенге шаққандағы арифметиканы белгілейді, ал ол өткізу қабілетін шешеді. Flash біріншісі бойынша шамамен 5.6×, екіншісі бойынша 3.8× кішірек — әрі сол алшақтықта байқауға тұрарлық бір нәзіктік бар: Flash 284 миллиард параметрдің 13-ін, яғни шамамен 4.6%-ын белсендіреді, ал Pro 1,600 миллиардтың 49-ын, шамамен 3.1%-ын белсендіреді. Flash — сиректігі азырақ модель. Ол жай ғана қосулы сарапшысы азырақ Pro емес; бұл — жасайтын әр токеніне өзінің үлкенірек үлесін жұмсайтын, тығызырақ әрі басқаша теңгерілген жоба. Бұл — төмендету емес, нағыз инженерлік таңдау.

DeepSeek-тің өз сандары не дейді

Екі ресми модель картасы да дәл сол агенттік және бағдарламалық инженерия бенчмарктары бойынша ұпайлар жариялайды, ал бұл салыстыруды әдеттен тыс таза етеді — бір зертхана, бір бағалау қаңқасы, екі өлшем:

Бенчмарк (DeepSeek хабарлаған)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro әр жолда ұтады. Бұл — адал тақырып, әрі мұны өндірісте емес, осы жерде оқығаныңызды қалаймыз. Бірақ айырманың мөлшерін оқыңыз, өйткені шын мәнінде сатып алатыныңыз — сол. Terminal Bench 2.1-де параметрі жиырма бес есе аз модельде алшақтық — 5.2 ұпай; құрал пайдалануда — 3.8 ұпай. Алшақтық жұмыс тереңдеген сайын кеңейеді: DeepSWE-де 8.3 ұпай, NL2Repo-да 7.3 — екеуі де ұзаққа созылған көп қадамды код пайымдауын марапаттайды. Айырбастың пішіні бір кестеде осылай: Flash шектеулі тапсырмаларда қашықтықтың көбін жабады да, ашық ұштыларында жол береді.

DeepSeek-тің өз Flash картасы мұны одан да өткір айтады: Flash-0731 белсендірілген параметрі әлдеқайда аз болса да, тізімделген бенчмарктарда V4-Pro-ның алдын ала нұсқасынан асып түседі. Жаңарақ кіші модельдің ескілеу үлкенін жеңуі — бұл саладағы қалыпты жағдай әрі «үлкенірек деңгей» ешқашан әдепкі жауабыңыз болмауының себебі де осы.

04Жұрнақты оқу: W4A16-AUTOROUND-REAP

Модель идентификаторларымыз өз қысу сұлбасын ашық айтады, өйткені бұл — шығыс сапасына ең қатты әсер ететін, бірақ ешкім дерлік ашпайтын нәрсе. Бұл жұрнақ үш мәлімдемеге ыдырайды.

W4A16 — 4-биттік салмақтар, 16-биттік активациялар

Салмақтар әрқайсысы 4 битте сақталады; активациялар 16-биттік дәлдікпен ағып өтеді. Бұл — тек салмақты кванттау әрі ол токен жасаудағы нағыз тар жолды, яғни арифметиканы емес, жад өткізу қабілетін нысанаға алады. Активацияларды да кванттау сәл көбірек жылдамдық берер еді де, дәлдіктің әлдеқайда үлкен құлауын қатерге тігер еді; оларды 16 битте қалдыру — сақ, дәлдігі жоғары таңдау. Белгілеу — ұсыну экожүйесінің қысқартуы; кванттау әдебиеті дәл соны топ өлшемімен бірге W4 деп жазады.

AUTOROUND — ең жақынға емес, үйренілген дөңгелектеу

Қарапайым кванттау әр салмақты ең жақын берілетін мәнге дөңгелектейді. Бұл — айқын түрде оңтайлы емес: бір салмақты «қате» жаққа дөңгелектеу көршілері енгізген қатені жоя алады, ал миллиардтаған салмақ болғанда осы өзара әрекеттер басым түседі. Intel-дің AutoRound әдісі дөңгелектеу шешімінің өзін үйренуге болатын нәрсе деп қарайды — салмаққа тиесілі, ±0.5-пен шектелген үйретілетін ауытқу, яғни кез келген бір дөңгелектеу шешімін аударуға дәл жететін, одан артық емес шама, оған қоса үйретілетін кесу ауқымдары, кішкене калибрлеу жиынтығы бойынша блоктық шығысты қайта құру мақсатына қарсы таңбалы градиенттік түсумен оңтайландырылады. Екі жүз қадам, содан кейін бітті.

Intel жариялаған салыстырулар бойынша AutoRound 4-биттік тек салмақты баптауларда GPTQ-ды сыналған 32 сценарийдің 30-ында, AWQ-ды 32-нің 27-інде және OmniQuant-ты 32-нің 29-ында жеңеді, ал 2 битте ең жақынға дөңгелектеуден 6.9-дан 33.2 дәлдік ұпайына дейін ұтады. Оның шығару кезінде ешқандай құны жоқ: бұл — офлайн, бір рет жасалатын сандардың жақсырақ таңдалуы.

REAP — ешкім бағдарламайтын сарапшыларды тастау

Cerebras Systems пен Калгари университетінен шыққан REAP (Router-weighted Expert Activation Pruning) — MoE модельдеріне арналған бір реттік қысу. Ол әр сарапшыны маршрутизатор оған қаншалықты күшті әрі қаншалықты жиі бағдарлайтынына қарай бағалап, оны сол сарапшы шығысының шамасына көбейтеді, содан кейін ең аз маңызды сарапшыларды түбегейлі жояды — кейін қайта оқытусыз.

Мақаланың басты тұжырымы пайдалы: жоғары қысу коэффициенттерінде сарапшыларды кесу оларды біріктіруден артық. Функциясы бөлек сарапшыларды біріктіру авторлар функционалдық ішкі кеңістіктің құлауы деп атайтын нәрсеге әкеледі — маршрутизатор MoE-ні құруға тұрарлық еткен ұсақ түйіршікті, кіріске тәуелді бақылауды жоғалтады да, статикалық орташалардың арасында ғана бағыттайтын болып қалады. Олардың 20B-дан 1T параметрге дейінгі модельдер бойынша сандары: код тапсырмаларында сарапшыларды 25% қысқанда REAP орташа дәлдіктің 2.8%-ын жоғалтады, ал біріктіру базалық нұсқалары 5%-дан астамын жоғалтады; 50%-да REAP 8.0%-ын жоғалтады, ал біріктіру 20%-дан астамын жоғалтады. Qwen3-Coder-480B-де 50% кесуде құлдырау 1.4%, ал жиілікке негізделген қарапайым кесуде 39.3%. Cerebras басқалармен қатар DeepSeek жолы үшін де REAP бақылау нүктелерін жариялады.

Неге мұнда 4 бит, ал Pro-да 3 бит

Екі деңгей де жабдықтың бір класына сыйып, жылдам қалуға тиіс. Pro 1.7 триллион параметр алып жүреді, сондықтан оған жалпы сыю үшін агрессивтірек 3-биттік өңдеу керек. Flash шамамен 300 миллиард алып жүреді, сондықтан оған керегі жоқ — ал үнемдеген биті сыюға емес, дәлдікке жұмсалады.

Ол қосымша биттің маңызы арифметика меңзегеннен де үлкен, өйткені кванттау зияны сызықты емес. AWQ мақаласының WikiText-2 өлшеулерінде Llama-2-7B FP16-дағы 5.47 перплексиядан 4 битте 5.60-қа көшеді — 2.4% айыппұл — ал 3 битте 6.24-ке, яғни 14% айыппұлға. Бұл — 25% көбірек қысу үшін шамамен алты есе көп нашарлау, әрі дәл сол үлгі 70B-де де сақталады. GPTQ мақаласы бұдан да ашық айтады: 3 битте ең жақынға қарапайым дөңгелектеу 175B класындағы модельдерде мыңдаған перплексияға құлайды, ал 4 битте әбден жарамды күйде қалады. Төрт биттен төмен түскенде жақсы кванттау алгоритмі сәнді қосымша болудан қалып, модельді ұстап тұрған жалғыз нәрсеге айналады.

Сондықтан бұл екі жұрнақты адал оқығанда: Flash өзінің қысылмаған нұсқасына Pro өз нұсқасына тұрғаннан жақынырақ тұр. Pro әлі де күштірек модель — жоғарыдағы бенчмарк кестесі мұны шешеді. Ол жай ғана осы жерге жету үшін көбірек берді, ал сіз сол артықшылық үшін төлейсіз.

Дереккөздер: AutoRound — «Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs» (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — «REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression» (arXiv 2510.13999), Cerebras Systems. Перплексия көрсеткіштері AWQ (arXiv 2306.00978) және GPTQ (arXiv 2210.17323) мақалаларынан.

05Эндпоинттегі Flash пен Pro

03-бөлім негіздерді қамтыды. Ал енді екі деңгей біздің шлюзде өнім ретінде қалай көрінеді:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Кванттау	W4A16-AUTOROUND-REAP	3BIT-REAP
Салмақ дәлдігі	4 бит, үйренілген дөңгелектеу	3 бит
Негізі (жалпы / белсенді)	~304B / 13B	~1.7T / 49B
1M токенге кіріс	$0.50	$1.95
1M токенге шығыс	$2.00	$3.90
Контекст / ең үлкен шығыс	262,144 / 16,384	262,144 / 16,384
Құралдар · құрылымдалған шығыс · ағынды беру	Иә	Иә
Көру	Жоқ	Жоқ
Бас тарту қабаты	Жоқ	Жоқ

Өзгермейтін нәрсеге назар аударыңыз: контекст, шығыс шегі, құралдарды шақыру, құрылымдалған шығыс және бас тарту қабатының жоқтығы — бірдей. Қозғалатыны тек негіз, кванттау және баға. Сондықтан олардың арасында ауысу кодыңызда бір жолды өзгертуге, ал архитектураңызда таза экономикалық шешімге айналады.

Ең үлкен өлшемді бір шақыру қанша тұрады

Бүкіл 262,144 токендік контексті толтырып, толық 16,384 токендік шығысты алыңыз:

Тізімдік баға бойынша. Flash: $0.131 кіріс + $0.033 шығыс. Pro: $0.511 + $0.064. Арақатынасы 3.51×. Flash сонымен қатар $0.50 / $2.00 еденін MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro және Hy3-пен бөліседі — олардың көру мен құрылымдалған шығыс бойынша қалай ажыратылатынын толық каталогтан қараңыз.

06Көлем арифметикасы, есептеліп шыққан

«3.9× арзан» дегені тек кірісте рас. Шығыста Flash 1.95× арзан. Сондықтан нақты үнеміңіз кіріс пен шығыс арақатынасына байланысты, ал ауытқу жобалау шешімдерін өзгертетіндей кең. Әрқайсысы 100,000 сұраныстағы төрт нақты жүктеме:

Жүктеме	Шақыруға кіріс / шығыс	Flash	Pro	Үнем
Өтінімдерді сыныптау	1,200 / 120	$84	$281	3.3×
RAG сұрақ-жауабы	8,000 / 600	$520	$1,794	3.4×
Ұзын құжат түйіндемесі	60,000 / 1,500	$3,300	$12,285	3.7×
Синтетикалық дерек жасау	500 / 2,000	$425	$878	2.1×

Заңдылық мынадай: контексті көбірек итеріп, мәтінді азырақ жасаған сайын Flash сізге көбірек үнемдейді. Іздеу конвейерлері, құжаттарды сұрыптау, журнал мен транскрипт талдау және ұзын контексттен шығарып алу — ең тиімді аймақ: оларда кіріс шығыстан бір қатар басым, ал 3.9× жеңілдік дәл кірісте тұр. Егер жүктемеңіз қысқа промпттан мыңдаған токендік проза шығаратын болса, алшақтық шамамен 2×-ке тарылады, ал Pro пайдасына қабілет дәлелі сәйкесінше күшейеді.

Бойға сіңіруге тұрарлық тағы бір есеп: миллион кіріс токеніне $0.50 бағасында бүкіл 262,144 токендік терезені толтыру 13.1 центке түседі. Мұндай бағада ұзын контекстті промпттау бюджет мәселесі болудан қалады, ал бұл кейде іздеу қабатын мүлдем құрмай, жұмысты контекст терезесіне тапсыруға болатынын білдіреді — токен үнемінің үстіне қосылатын инженерлік үнем.

07«Цензурасыз» мұнда нақты нені білдіреді

Бұл сөз еркін қолданылады, сондықтан біздің анықтамамыз эндпоинттің қасиеті ретінде мынадай: модельдің алдында бас тарту классификаторы жоқ әрі оның шығысына мазмұн сүзгісі қолданылмайды. Ешнәрсе промптты ұстап алып, дайын бас тартуды қайтармайды; ешнәрсе аяқталуды қарап, редакцияламайды. Көлемді өндірістік жұмыс үшін салдары бұл сөз меңзегеннен гөрі әсерсіз, әрі пайдалырақ:

• Зиянсыз трафикте жалған дабыл жоқ. Сүзілген эндпоинттер медициналық түйіндемелерден, қауіпсіздік шолуларынан, құқықтық дереккөз жинаудан, көркем шығармадан, зиянды азайту материалдарынан және модерация жұмысының өзінен үнемі бас тартады — яғни дәл топтық тапсырма зиянды ештеңе жасамай, сезімтал тақырып туралы мәтінді өңдеп отырған санаттардан. Жүз мың сұраныста бір пайыздық жалған бас тарту үлесі — мың бүлінген жол.
• Детерминистік келісімшарттар. json_schema жауабын сұрасаңыз, нысан тұруға тиіс жерде кешірім сұраған абзац емес, схемаға сай JSON аласыз. Талдаушыңызға бас тарту тармағы керек емес, ал қайталау логикаңыз тасымал ақаулығын саясат ақаулығынан ажыратуға міндетті емес.
• Саясат сізде. Айырбас — осы. Егер өніміңізге соңғы пайдаланушыларыңыз үшін қоршаулар керек болса, оларды провайдердің екеуі туралы да жорамалдарын мұра етудің орнына, пайдаланушыларыңызды да, юрисдикцияңызды да білетін өз қабатыңызда құрасыз. Есептік жазбаңыз Жауапты пайдалану саясатымызбен реттеле береді.

Цензурасыз дегеніміз — тегістелмеген немесе пайдасыз дегенмен бір емес. Модель нұсқауларды орындай береді әрі жүйелік промптты құрметтей береді. Егер оның сіздің пайдаланушыларыңыз үшін белгілі санаттардан бас тартқанын қаласаңыз, соны сол жерде айтыңыз — енді бұл нұсқауды біз таңбаймыз, оны сіз жазасыз.

08Мүмкіндіктер мен адал шектеулер

Көлемді жұмыста салмақтың көбін екі мүмкіндік көтереді. Қатаң json_schema шығысы аяқталуды талдау қабатынсыз әрі бас тарту тармағынсыз дерекқор жолына айналдырады. Үш диалекттің де бәрінде құралдарды шақыру Flash-ты жоғарғы деңгейдегі жоспарлаушысы күштірек модельде жүретін агенттің арзан ішкі қадамдары үшін орынды қозғалтқыш етеді. Оған reasoning_effort-ты қосыңыз — ол қосымша токендерді трафиктің тек соны қажет ететін үлесіне жұмсауға мүмкіндік береді — әрі Pro-мен бірдей 262,144 токендік контекст: арзан деңгейді таңдап тұрып контекстті құрбан етпейсіз, ал бұл — сирек жағдай.

Шектеулер де сондай нақты:

• Көру жоқ. Flash — тек мәтіндік әрі хабарламадағы сурет бөліктерін қабылдамайды. Дәл сол $0.50 / $2.00 еденіндегі цензурасыз модельде суреттер керек болса, көре алатын нұсқалар — MiniMax-M3 және MiMo-V2.5; ал Kimi-K2.6 мен Kimi-K3 сол деңгейден жоғары тұрған күштірек көру модельдері.
• Сатының жоғарғы жағы емес. DeepSeek-тің өз сандары бойынша Pro жарияланған әр агенттік бенчмаркте алда, ал алшақтық ұзаққа созылған көп қадамды код пайымдауында ең кең. Бір қате жауап мың арзан жауаптан қымбатқа түсетін жерде миллионға қосымша $1.45 жұмсап, DeepSeek-V4-Pro-ны алыңыз.
• Сұранысына 16,384 шығыс токені. Ұзын жасауларды шақырулар арасында бөліктерге бөлу керек. Бұл — біз ұсынатын әр модельдегі бірдей шек әрі ол контекст терезесінен әлдеқайда бұрын шектейді.

09Шақыру

Кез келген OpenAI үйлесімді клиентті шлюзге бағыттап, модель жолын өзгертіңіз. Жинағыңызда басқа ештеңе қозғалмауы керек.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Дәл сол модель идентификаторы /v1/messages пен /v1/responses-те өзгеріссіз жұмыс істейді, ал бұл — клиентіңізді қайта жазбай-ақ бар интеграцияңыздың астында арзанырақ модельді A/B сынаудың ең жылдам жолы. Параметрлер, ағын оқиғаларының пішіндері, құрал шақыру схемалары және жиілік шектеулері API анықтамасында құжатталған; каталогтағы әр модель Shannon зерттеулерінде тізімделген.

10Жиі қойылатын сұрақтар

---

Дереккөздер: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 техникалық есебі (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 және DeepSeek-V4-Pro-0813 модель карталары · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Негіз бен бенчмарк көрсеткіштерінің бәрі тиісті авторлары жариялағандай берілген; Shannon AI-дың бағалары мен ұсынылатын контексті — 2026 жылғы қыркүйектегі жағдай бойынша біздің өз тізімдік мәндеріміз.