Цензургүй DeepSeek Flash API

LLM API-г үнэлж буй ихэнх баг буруу хувьсагчийг оновчлодог. Тэд бодож олох чадах хамгийн хэцүү хорин промпт дээр жишиг тест хийж, түрүүлэгчийг сонгоод, зургаан долоо хоногийн дараа хөдөлгөөнийхөө ерэн таван хувь нь ижил үр дүнг дөрвөн дахин хямд загвараар авах боломжтой байсан богино, бүтэцтэй, давтагдах ажил байсныг олж мэддэг. DeepSeek-V4-Flash тэр ерэн таван хувьд зориулагдсан. Энэ хуудас та үүнд байгаа эсэхийг — мөн байхгүй эсэхийг мэдэх тухай юм.

01Та бодитоор юу авдаг вэ

Шинж чанар	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Загварын ID	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Контекст / дээд гаралт	262,144 токен / 16,384 токен
1M тутамын үнэ (оролт / гаралт)	$0.50 / $2.00
Стриминг · хэрэгсэл дуудах · учирлал	Тийм — гурван аялгуу бүгд
Бүтэцтэй гаралт	json_schema ба response_format
Зургийн оролт (хараа)	Үгүй — зөвхөн текст
Татгалзах давхарга / гаралтын шүүлт	Байхгүй
Ажилладаг	Shannon-ий өөрийн GPU кластер

Гурван API аялгуу ижил жинд хүрдэг: /v1/chat/completions (OpenAI хэлбэр), /v1/messages (Anthropic хэлбэр), мөн /v1/responses. Стриминг гурвуулаа дээр ажилладаг. Параметрийн бүрэн лавлагаа API баримт бичигт байна.

02Хаанаас гаралтай вэ: DeepSeek-ийн угсаа

DeepSeek-AI таван загварын үеийг нэг зорилгод зориулсан: сургахад биш, үйлчлэхэд хямд загвараас тэргүүлэх зан үйлийг гаргаж авах. Энэ шугам дахь бараг бүх архитектурын шийдвэр үүнд буцаж очдог бөгөөд чухал шийдвэрүүд нь нийтэлсэн. Гурав нь та энэ endpoint дуудахад юуг дуудаж байгааг тайлбарладаг.

DeepSeekMoE — нарийн ширхэгтэй мэргэжилтнүүд болон нэг хуваалцсан мэргэжилтэн

Холимог мэргэжилтнүүдийн (Mixture-of-Experts) давхарга нэг том feed-forward сүлжээг олон жижиг сүлжээ ба токен тутамд цөөн хэдийг сонгодог чиглүүлэгчээр сольдог. DeepSeek-ийн хувилбар мэргэжилтнүүдийг ердийн найман-мэргэжилтний зохион байгуулалтаас нарийн хэрчдэг тул ижил идэвхжсэн FLOPs хамаагүй тодорхой хослолт бүхий холимгийг худалдаж авдаг, мөн токен бүр дамждаг хуваалцсан мэргэжилтнийг тусгаарладаг тул нийтлэг мэдлэгийг мэргэжилтэн бүр дотор давтан сурахгүй. DeepSeek-V3 үүнийг 256 чиглүүлдэг мэргэжилтэн, дээр нь 1 хуваалцсан мэргэжилтэн, токен тутамд 8 чиглүүлдэгийг идэвхжүүлдэг хэлбэрээр гаргасан — нийт 671Б параметр, 37Б идэвхтэй — мөн туслах алдалгүй ачааллын тэнцвэржилттэй: чанарыг доройтуулдаг торгуулийн нэр томьёоны оронд мэргэжилтэн бүрийн бааз чиглүүлэлтийн оноог тэр мэргэжилтэн дутуу эсвэл хэт ачаалалтай ажиллаж байгаагаас хамааран алхам бүрт өсгөж эсвэл бууруулдаг.

MLA — санах ойд багтдаг анхаарал

Үйлчилгээний зардлын асуудлын нөгөө хагас нь KV кэш бөгөөд энэ нь контексттой хамт шугаман өсч, урт дарааллын урттай үед санах ойг давамгайлдаг. DeepSeek-V2-т нэвтрүүлсэн Multi-head Latent Attention нь key ба value-г хамтад нь нам зэрэглэлийн далд вектор руу шахаж, тэрийг кэшлэж, ашиглах боломжтой K/V-г дуудлагын явцад дахин угсардаг. DeepSeek-ийн нийтэлсэн V2 тоо баримт нь өмнөх нягт DeepSeek 67B-тай харьцуулахад KV кэш 93.3%-иар буурсан, дээд үүсгэлтийн дамжуулах хурд 5.76 дахин өссөн гэж мэдээлсэн. Яг энэ шалтгаанаар 262K токены цонх энэ гэр бүлд урамшуулах нэмэлт биш, суурь тоглоомын үнэ юм.

Сийрэг анхаарал — мөн хямд токенуудын жишиг

V3.2-Exp DeepSeek Sparse Attention-г нэмсэн: хөнгөн индексатор контекстын токенуудыг query-тэй харьцуулан дүгнэж, сонгогч зөвхөн хамгийн өндөр оноотойг нь хадгална. Сонирхолтой хэсэг нь механизм биш, баримт юм. DeepSeek MMLU-Pro ижил 85.0-тай, AIME 2025 өссөн (88.4 → 89.3), SWE-bench Verified бага зэрэг буурсан (68.4 → 67.8) — ерөнхийдөө тэгш чанартай — V3.1-Terminus-тай харьцуулсан тоо баримт нийтэлж ижил өдөр API-н үнээ 50%-иас дээш бууруулсан. Архитектур, шударгаар мэдээлсэн, шууд үнэ болж хувирсан. Flash бол тэр аргументыг нэг алхам цааш авчирсан хувилбар.

V4 үе

2026 оны 4 сард MIT лицензийн дор урьдчилан танилцуулсан V4 нь анхаарлын стекийг дахин Compressed Sparse Attention ба Heavily Compressed Attention-ийн эрлийзээр сольж, 32Т-аас дээш токен дээр Muon оптимайзероор сургаж, V3-ын олон-токен-урьдчилан-таамаглах зорилтыг хадгалсан — энэ нь спекулятив декодчилол болж хоёр давхар зориулалттай, DeepSeek V3-д ойролцоогоор 1.8 дахин декодын хурдасгалын хувьд хоёр дахь токены хүлээн зөвшөөрлийн хувийг 85-90% гэж хэмжсэн. V4-ийн хураангуй V4-Pro нь V3.2-ын нэг-токены инференс FLOPs-ын 27%, KV кэшийн 10%-д ажилладаг гэж мэдээлсэн. Гэр бүл гурван учирлалын-хүчин-чармайлтын түвшинг нээдэг бөгөөд манай reasoning_effort параметр яг үүн рүү харагддаг.

Эх сурвалж: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 техникийн тайлан (arXiv 2412.19437) · DeepSeek-V3.2-Exp загварын карт · DeepSeek-V4 (arXiv 2606.19348). Бүх тоо баримт DeepSeek-ийн мэдээлсэн.

03"Flash" гэдэг нь бодитоор юу гэсэн үг вэ

Энэ бол ихэнх харьцуулалт буруу ойлгодог цэг тул шулуухан хэлэх нь зүйтэй: DeepSeek-ийн Flash бол квантчилагдсан, хасагдсан, эсвэл дистилляц хийсэн Pro биш. Энэ бол өөрийн урьдчилан сургалттай, тусад нь сургагдсан, жижиг холимог мэргэжилтнүүдийн загвар юм. V4 урьдчилан танилцуулах өгүүлэл хоёр хэмжээг өгсөн:

DeepSeek-V4 урьдчилан танилцуулах өгүүллээс авсан тоо баримт. Бидний үйлчилдэг албан ёсны чекпойнт — V4-Flash-0731 ба V4-Pro-0813 — өөрсдийн загварын картдаа арай том нийт хэмжээ, 304Б ба 1.7Т гэж жагсаадаг; DeepSeek тэдгээр бүтээцийн идэвхжсэн параметрийг дахин мэдэгддэггүй.

Энд хоёр тоо ажлыг хийдэг. Нийт параметр санах ойн хэмжээг тогтоодог, энэ нь загварын нэг хувь хэдэн тоног төхөөрөмж эзэлдгийг шийддэг. Идэвхжсэн параметр токен тутмын арифметикийг тогтоодог, энэ нь дамжуулах хурдыг шийддэг. Flash эхнийхэд нь ойролцоогоор 5.6 дахин, хоёрдугаарт нь 3.8 дахин жижиг — мөн энэ зөрүүнд анзаарах хэрэгтэй нарийн ширхэг бий: Flash 284 тэрбумаас 13-г, ойролцоогоор 4.6%-г идэвхжүүлдэг, харин Pro 1,600 тэрбумаас 49-г, ойролцоогоор 3.1%-г идэвхжүүлдэг. Flash бол бага сийрэг загвар юм. Энэ нь зөвхөн цөөн мэргэжилтэн асаасан Pro биш; энэ нь өөрийн илүү том хувийг үүсгэдэг токен бүрт зарцуулдаг нягт, өөрөөр тэнцвэржүүлсэн загвар юм. Энэ бол доройтол биш бодит инженерчлэлийн сонголт.

DeepSeek-ийн өөрийн тоо баримт юу хэлдэг вэ

Хоёр албан ёсны загварын карт ижил агентийн ба программ хангамжийн инженерчлэлийн жишиг тест дээрх оноог нийтэлдэг тул энэ бол ер бусын цэвэр харьцуулалт болдог — ижил лаборатори, ижил үнэлгээний харнесс, хоёр хэмжээ:

Жишиг тест (DeepSeek-ийн мэдээлсэн)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro мөр бүрт ялдаг. Энэ бол шударга гарчиг бөгөөд бид үүнийг та энд, продакшнд олж мэдэхийн оронд, унших нь дээр гэж үзэж байна. Гэвч зөрүүг унш, учир нь тэдгээр нь та бодитоор худалдаж авч буй зүйл. Terminal Bench 2.1 дээр параметрийн хорин таван нэгтэй загвар дээр зөрүү 5.2 нэгж; хэрэгсэл ашиглалт дээр 3.8 нэгж. Ажил хамгийн гүн болох үед зөрүү өргөсдөг — DeepSWE дээр 8.3, NL2Repo дээр 7.3, хоёулаа тогтвортой олон алхамт кодын учирлалыг шагнадаг. Энэ бол нэг хүснэгт дэх солилцооны хэлбэр: Flash хязгаартай ажил дээр зайны ихэнхийг хааж, нээлттэй-төгсгөлтэй ажил дээр газраа өгдөг.

DeepSeek-ийн өөрийн Flash карт цэгийг бүр ч хурцаар хэлдэг: Flash-0731 хамаагүй бага идэвхжсэн параметрийн тоотой хэрнээ жагсаасан жишиг тест дээр V4-Pro урьдчилан танилцуулгаас илүү гарсан. Шинэ жижиг загвар хуучин том загварыг давах нь энэ салбарын хэвийн байдал бөгөөд яг энэ шалтгаанаар "том түвшин" гэдэг таны анхдагч хариулт хэзээ ч байх ёсгүй.

04Дагаврыг унших: W4A16-AUTOROUND-REAP

Манай загварын ID шахалтын схемээ дуу хоолойгоор мэдэгддэг, учир нь энэ нь гаралтын чанарт хамгийн их нөлөөлдөг бөгөөд бараг хэн ч илчилдэггүй зүйл юм. Энэ нь гурван мэдэгдэл болж задардаг.

W4A16 — 4-бит жин, 16-бит идэвхжүүлэлт

Жин бүрийг 4 бит болгон хадгалдаг; идэвхжүүлэлт 16 битийн нарийвчлалаар урсдаг. Энэ бол зөвхөн-жин квантчилал бөгөөд токен үүсгэлтийн бодит хазайрал болох арифметик биш санах ойн зурвасын өргөнийг зорьдог. Идэвхжүүлэлтийг ч квантчилах нь бага зэрэг илүү хурд худалдан авах боловч илүү том нарийвчлалын хад уруудлын эрсдэлтэй; тэдгээрийг 16 бит дээр үлдээх нь консерватив, өндөр үнэнч байдлын сонголт юм. Тэмдэглэгээ нь үйлчилгээний экосистемийн товчлол — квантчилалын уран зохиол ижил зүйлийг бүлгийн хэмжээ бүхий W4 гэж бичдэг.

AUTOROUND — сурсан бутархайлал, хамгийн ойрын бутархайлал биш

Энгийн квантчилал жин бүрийг хамгийн ойрын илэрхийлэх боломжтой утга руу бутархайлдаг. Энэ нь оновчтой биш гэдэг нь илт харагддаг: нэг жинг "буруу" аргаар бутархайлах нь хөршүүдийнх нь оруулсан алдааг цуцалж болно, мөн тэрбум тэрбум жинтэй үед тэдгээр харилцан үйлчлэл давамгайлдаг. Intel-ийн AutoRound бутархайлах шийдвэрийг өөрийг нь сурах зүйл гэж үздэг — жин тутмын ±0.5-ээр хязгаарлагдсан, ямар ч нэг бутархайлах шийдвэрийг эргүүлэхэд яг хангалттай, хэзээ ч илүү биш, сургагдах бага зэрэглэлийн зөв нэмээд, жижиг калибровкийн олонлог дээр блокоор гаралт-сэргээх зорилтын эсрэг тэмдэгтэй градиент уналтаар оновчлогдсон сургагдах саатуулга. Хоёр зуун алхам, дараа нь дуусна.

Intel-ийн нийтэлсэн харьцуулалт AutoRound нь 4-бит зөвхөн-жин тохиргоон дээр 32-оос 30 туршилтад GPTQ-г, 32-оос 27-д AWQ-г, 32-оос 29-д OmniQuant-г давсан гэж харуулдаг, 2 бит дээр энгийн хамгийн-ойрын-руу-бутархайлахаас 6.9-33.2 нарийвчлалын нэгжийн ашигтай. Инференсийн үед энэ нь юу ч зардаггүй: энэ бол офлайнаар нэг удаа хийсэн тоонуудын илүү сайн сонголт юм.

REAP — хэн ч чиглүүлдэггүй мэргэжилтнүүдийг хасах

Cerebras Systems ба Калгарийн их сургуулиас гаралтай REAP (Router-weighted Expert Activation Pruning) бол MoE загваруудад зориулсан нэг удаагийн шахалт юм. Энэ нь чиглүүлэгч мэргэжилтэн бүрт хэр хүчтэй, хэр олонтоо гэйтдэгийг тэр мэргэжилтний гаралтын хэмжээгээр үржүүлж дүгнэж, дараа нь хамгийн бага ач холбогдолтойг нь шууд устгадаг — дараа нь дахин сургалт байхгүй.

Өгүүллийн гол дүгнэлт бол хэрэгтэй дүгнэлт юм: өндөр шахалтын харьцаанд мэргэжилтнүүдийг хасах нь нэгтгэхээс давдаг. Функцын хувьд ялгаатай мэргэжилтнүүдийг нэгтгэх нь зохиогчдын функциональ дэд орон зайн нуралт гэж нэрлэдэг зүйлийг үүсгэдэг — чиглүүлэгч MoE-г бүтээхийг үнэ цэнэтэй болгосон нарийн ширхэгтэй, оролтоос хамааралтай хяналтаа алдаж, статик дунджуудын хооронд удирдахаас өөр аргагүй болдог. 20Б-аас 1Т параметр хүртэлх загвар дээрх тоо баримт: кодлолын ажилд 25% мэргэжилтэн шахахад REAP дунджаар 2.8% нарийвчлал алддаг бол нэгтгэх лавлагаа 5%-иас дээш алддаг; 50%-д REAP 8.0% алддаг бол нэгтгэх 20%-иас дээш алддаг. Qwen3-Coder-480B дээр 50% хасахад бууралт 1.4%, харин энгийн давтамжид суурилсан хасалт дээр 39.3%. Cerebras DeepSeek шугамд зориулсан REAP чекпойнтуудыг бусад зэрэгцээ нийтэлсэн.

Яагаад энд 4 бит, Pro дээр 3 бит вэ

Хоёр түвшин ижил ангиллын тоног төхөөрөмж дээр багтаж, хурдан хэвээр байх ёстой. Pro нь 1.7 триллион параметртэй тул огт багтахын тулд илүү түрэмгий 3-бит боловсруулалт хэрэгтэй. Flash ойролцоогоор 300 тэрбумтай тул хэрэггүй — мөн хэмнэсэн бит нь багтаахад биш үнэнч байдалд зарцуулагддаг.

Тэр нэмэлт бит нь арифметикаас нь илүү чухал, учир нь квантчилалын хохирол шугаман биш. AWQ өгүүллийн WikiText-2 хэмжилтэд, Llama-2-7B FP16 дээрх 5.47 perplexity-ээс 4-бит дээр 5.60 болдог — 2.4%-ийн торгууль — гэвч 3-бит дээр 6.24, 14%-ийн торгууль. Энэ бол 25% илүү шахалтад ойролцоогоор зургаа дахин их доройтол бөгөөд ижил хэв маяг 70Б дээр ч хадгалагддаг. GPTQ өгүүлэл бүр ч шулуухан хэлдэг: 3 бит дээр энгийн хамгийн-ойрын-руу-бутархайлах 175Б-ангиллын загвар дээр perplexity мянгаар нурдаг, харин 4 бит дээр төгс ашиглагдахуйц хэвээр байдаг. Дөрвөн битээс доогуур сайн квантчилалын алгоритм тав тухтай зүйл байхаа болиж, загварыг хамтад нь барих цорын ганц зүйл болдог.

Тиймээс эдгээр хоёр дагаврын шударга унших нь: Flash Pro-гоос илүү өөрийн шахагдаагүй хувилбартаа ойрхон байрладаг. Pro хэвээрээ хүчирхэг загвар — дээрх жишиг тестийн хүснэгт үүнийг шийддэг. Энэ энд байхын тулд илүү ихийг өгсөн, мөн та тэр давуу эрхийн төлөө төлдөг.

Эх сурвалж: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Perplexity тоо баримт AWQ (arXiv 2306.00978) ба GPTQ (arXiv 2210.17323)-аас.

05Endpoint дээрх Flash ба Pro

03-р хэсэг суурь загваруудыг хамарсан. Энд манай gateway дээрх бүтээгдэхүүн болох хоёр түвшин ямар харагддаг:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Квантчилал	W4A16-AUTOROUND-REAP	3BIT-REAP
Жингийн нарийвчлал	4-бит, сурсан бутархайлал	3-бит
Суурь загвар (нийт / идэвхтэй)	~304B / 13B	~1.7T / 49B
1M токенд оролт	$0.50	$1.95
1M токенд гаралт	$2.00	$3.90
Контекст / дээд гаралт	262,144 / 16,384	262,144 / 16,384
Хэрэгсэл · бүтэцтэй гаралт · стриминг	Тийм	Тийм
Хараа	Үгүй	Үгүй
Татгалзах давхарга	Байхгүй	Байхгүй

Юу өөрчлөгдөхгүй байгааг анзаараарай: контекст, гаралтын дээвэр, хэрэгсэл дуудах, бүтэцтэй гаралт, татгалзах давхаргын байхгүй байдал ижил. Зөвхөн суурь загвар, квантчилал, үнэ л хөдөлдөг. Энэ нь тэдгээрийн хооронд сэлгэхийг таны кодон дахь нэг мөрийн өөрчлөлт, таны архитектур дахь цэвэр эдийн засгийн шийдвэр болгодог.

Нэг хамгийн том хэмжээний дуудлага хэдэн төгрөг зардаг вэ

Бүх 262,144 токены контекстыг дүүргэж, бүрэн 16,384 токены гаралтыг ав:

Жагсаалтын үнээр. Flash: $0.131 оролт + $0.033 гаралт. Pro: $0.511 + $0.064. Харьцаа 3.51 дахин. Flash мөн MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro, Hy3-тай $0.50 / $2.00 доод үнийг хуваалцдаг — тэдгээр нь хараа ба бүтэцтэй гаралт дээр хэрхэн ялгаатай болохыг бүрэн каталогоос үзнэ үү.

06Их хэмжээний тооцоо

"3.9 дахин хямд" гэдэг нь зөвхөн оролт дээр үнэн. Гаралт дээр Flash 1.95 дахин хямд. Тиймээс таны бодит хэмнэлт таны оролт-гаралтын харьцаанаас хамаардаг бөгөөд зөрүү загварчлалын шийдвэрийг өөрчлөх хэмжээгээр өргөн юм. Дөрвөн бодит ажлын ачаалал, тус бүр 100,000 хүсэлттэй:

Ажлын ачаалал	Дуудлага тутмын оролт / гаралт	Flash	Pro	Хэмнэлт
Тасалбар ангилал	1,200 / 120	$84	$281	3.3×
RAG асуулт хариулт	8,000 / 600	$520	$1,794	3.4×
Урт баримт бичгийн хураангуй	60,000 / 1,500	$3,300	$12,285	3.7×
Синтетик өгөгдөл үүсгэлт	500 / 2,000	$425	$878	2.1×

Хэв маяг: та контекстыг илүү их түлхэж, бага текст үүсгэх тусам Flash танд илүү их хэмнэдэг. Татан авах дамжуулга, баримт бичгийн ангилал, лог ба стенограммын шинжилгээ, урт-контекстын задлан авалт бол тохиромжтой цэг — тэдгээр нь хэмжээний нэг эрчимээр оролтоор давамгайлагддаг, мөн оролт бол 3.9 дахин хямдралын оршдог газар. Хэрэв харин таны ажлын ачаалал мянга мянган токены зохиол үүсгэдэг богино промпт бол зөрүү ойролцоогоор 2 дахинд нарийсдаг, Pro-ын чадварын аргумент харгалзан хүчтэй болдог.

Дотогшлуулж авах хэрэгтэй бас нэг арифметик: 1 сая оролтын токенд $0.50-аар, бүх 262,144 токены цонхыг дүүргэхэд 13.1 цент зардаг. Тэр үнэд урт-контекст промпт хийх нь төсвийн асуулт байхаа болидог, энэ нь заримдаа та татан авах давхаргыг огт бүтээхгүй өнгөрч, контекстийн цонхонд ажлыг хийлгэж болно гэсэн үг — токены хэмнэлт дээр нэмэлт инженерчлэлийн хэмнэлт.

07"Цензургүй" гэдэг нь энд яг юу гэсэн үг вэ

Энэ үг сул хэрэглэгддэг тул энд манай тодорхойлолт, endpoint-ийн шинж чанар болгон илэрхийлсэн: загварын өмнө татгалзах ангилагч байхгүй, гаралтад ямар ч агуулгын шүүлт хэрэглэдэггүй. Ямар ч зүйл промптыг барьж бэлэн татгалзал буцаадаггүй; ямар ч зүйл гүйцэтгэлийг шалгаж хассаагүй. Их хэмжээний продакшн ажлын хувьд үр дагавар нь үгээс өөрөөс нь бага драмтай, илүү хэрэгтэй:

• Хор хөнөөлгүй урсгал дээр худал эерэг байхгүй. Шүүлттэй endpoint эмнэлгийн хураангуй, аюулгүй байдлын тайлан, хууль зүйн нээлт, зохиол, хор хөнөөлийг бууруулах материал, модерацийн ажлыг ердийн байдлаар татгалздаг — яг л багц ажил хортой зүйл үйлдвэрлэхийн оронд мэдрэмтгий сэдвийн тухай текстийг боловсруулдаг ангилал. Зуун мянган хүсэлт дээр нэг хувийн худал-татгалзлын хувь хэмжээ мянган эвдэрсэн мөр юм.
• Детерминист гэрээ. json_schema хариу асуувал объект байх ёстой газар уучлалт гуйсан догол мөр биш, схемтэй тохирсон JSON авна. Таны задлагч татгалзлын салбар шаардлагагүй, таны дахин оролдох логик тээвэрлэлтийн алдааг бодлогынхоос ялгах шаардлагагүй.
• Та бодлогыг өмчилдөг. Энэ бол солилцоо. Хэрэв таны бүтээгдэхүүнд эцсийн хэрэглэгчиддээ хамгаалалт хэрэгтэй бол та тэдгээрийг нийлүүлэгчийн хоёуланг нь таамаглаж өвлөхийн оронд өөрийн хэрэглэгч, хууль эрх зүйгээ мэддэг өөрийн давхаргад бүтээнэ. Таны данс манай Хариуцлагатай Хэрэглээний Бодлогоор зохицуулагдсаар байна.

Цензургүй гэдэг нь зохицуулагдаагүй эсвэл тустай биш гэсэн үг биш. Загвар зааврыг дагасаар, систем промптыг хүндэтгэсээр байна. Хэрэв та үүнийг өөрийн хэрэглэгчдэд зориулж тодорхой ангиллуудыг татгалзуулахыг хүсвэл тэнд хэлээрэй — тэр заавар одоо бидний тулгах биш таны бичих зүйл юм.

08Чадвар ба шударга хязгаарууд

Их хэмжээний ажлын жинг хоёр чадвар голчлон зөөдөг. Хатуу json_schema гаралт гүйцэтгэлийг задлан шинжлэх давхаргагүй, татгалзлын салбаргүй өгөгдлийн санг мөр болгон хувиргадаг. Гурван аялгуу бүхэлдээ хэрэгсэл дуудах нь дээд түвшний төлөвлөгч илүү хүчтэй загвар дээр ажилладаг агентийн хямд дэд алхмуудад Flash-г оновчтой хөдөлгүүр болгодог. Зөвхөн хэрэгтэй урсгалын хувь дээр л нэмэлт токен зарцуулах боломж олгодог reasoning_effort, мөн Pro-тай ижил 262,144 токены контекстыг нэмээрэй — хямд түвшнийг сонгосноор та контекстоо алддаггүй, энэ нь ер бус зүйл юм.

Хязгаарлалт ижил тодорхой:

• Хараа байхгүй. Flash зөвхөн текст бөгөөд зурвас дахь зургийн хэсгийг татгалздаг. Ижил $0.50 / $2.00 доод үнэд цензургүй загвар дээр зурагт зориулж MiniMax-M3 ба MiMo-V2.5 хараатай сонголтууд; Kimi-K2.6 ба Kimi-K3 тэр түвшнээс дээгүүр илүү хүчтэй хараатай загварууд.
• Шатны хамгийн дээд хэсэг биш. DeepSeek-ийн өөрийн тоо баримт нийтэлсэн бүх агентийн жишиг тест дээр Pro-г түрүүлүүлдэг, зөрүү тогтвортой олон алхамт кодын учирлал дээр хамгийн өргөн байдаг. Нэг буруу хариулт мянган хямд хариултаас илүү өртөгтэй байх газар DeepSeek-V4-Pro-д сая тутамд нэмэлт $1.45-г зарцуул.
• Хүсэлт тутамд 16,384 гаралтын токен. Урт үүсгэлтийг дуудлагуудад хуваах ёстой. Энэ бол бидний үйлчилдэг загвар бүр дээрх ижил дээвэр бөгөөд энэ нь контекстийн цонхноос хамаагүй өмнө хязгаарладаг.

09Дуудах нь

Ямар ч OpenAI-той нийцтэй клиентээ gateway руу чиглүүл, загварын мөрийг сол. Таны стек дахь өөр юу ч хөдлөх шаардлагагүй.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Ижил загварын ID /v1/messages ба /v1/responses дээр өөрчлөгдөлгүй ажилладаг бөгөөд энэ бол одоо байгаа интеграцийн доор клиентээ дахин бичихгүйгээр хямд загварыг A/B туршилтад оруулах хамгийн хурдан арга юм. Параметр, стримингийн үйл явдлын хэлбэр, хэрэгсэл-дуудлагын схем, хурдны хязгаар API лавлагаанд баримтжуулагдсан; каталог дахь загвар бүр Shannon Research-д жагсаагдсан.

10Түгээмэл асуултууд

---

Эх сурвалж: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 техникийн тайлан (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 ба DeepSeek-V4-Pro-0813 загварын карт · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Бүх суурь загвар ба жишиг тестийн тоо баримт нь тухайн зохиогчдын нийтэлсэн тоо; Shannon AI-н үнэ ба үйлчилдэг контекст нь 2026 оны 9 сарын байдлаарх манай өөрийн жагсаалтын утга юм.