API DeepSeek Flash Tanpa Tapisan
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — harga lantai, konteks 262K, dan tiada lapisan penolakan. Model yang anda acukan kepada beban kerja yang berjalan sepuluh ribu kali sehari.
Ringkasnya
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP ialah tingkat volum tinggi keluarga DeepSeek pada Get Laluan Shannon AI. Ia berjalan pada kluster GPU kami sendiri pada $0.50 setiap juta token input dan $2.00 setiap juta token output — lantai katalog kami — dengan konteks 262,144 token, 16,384 token output maksimum, penstriman, panggilan alat, penaakulan dengan reasoning_effort, dan output berstruktur json_schema yang ketat. Tiada lapisan penolakan dan tiada penapisan output. Ia bukan versi cacat DeepSeek-V4-Pro: Pro ialah asas yang jauh lebih besar yang dipicit kepada 3-bit, Flash ialah asas lebih kecil yang dibawa pada kuantuman AutoRound 4-bit yang lebih tinggi kesetiaannya. Itu dua titik berbeza pada lengkung yang sama, dan yang mana menang bergantung sepenuhnya pada beban kerja anda.
Kebanyakan pasukan yang menilai API LLM mengoptimumkan pemboleh ubah yang salah. Mereka menanda aras pada dua puluh gesaan tersukar yang mereka boleh fikirkan, memilih pemenangnya, dan enam minggu kemudian mendapati sembilan puluh lima peratus trafik mereka ialah kerja pendek, berstruktur dan berulang yang model berharga suku daripadanya akan tangani dengan sama baiknya. DeepSeek-V4-Flash wujud untuk sembilan puluh lima peratus itu. Halaman ini tentang mengenali bila anda berada di dalamnya — dan bila tidak.
01Apa yang anda sebenarnya dapat
| Sifat | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| Id model | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| Konteks / output maks | 262,144 token / 16,384 token |
| Harga setiap 1J (input / output) | $0.50 / $2.00 |
| Penstriman · panggilan alat · penaakulan | Ya — ketiga-tiga dialek |
| Output berstruktur | json_schema dan response_format |
| Input imej (visi) | Tidak — teks sahaja |
| Lapisan penolakan / penapis output | Tiada |
| Disajikan pada | Kluster GPU Shannon sendiri |
Tiga dialek API mencapai pemberat yang sama: /v1/chat/completions (berbentuk OpenAI), /v1/messages (berbentuk Anthropic), dan /v1/responses. Penstriman berfungsi pada ketiga-tiganya. Rujukan parameter penuh ada dalam dokumentasi API.
02Dari mana ia datang: keturunan DeepSeek
DeepSeek-AI telah menghabiskan lima generasi model pada satu obsesi: mendapatkan kelakuan sempadan daripada model yang murah untuk disajikan, bukan sekadar murah untuk dilatih. Hampir setiap keputusan seni bina dalam barisan itu berpunca daripada situ, dan yang penting-penting diterbitkan. Tiga daripadanya menerangkan apa yang anda panggil apabila anda mencapai titik akhir ini.
DeepSeekMoE — pakar berbutir halus berserta satu pakar kongsi
Lapisan Campuran Pakar menggantikan satu rangkaian suap-hadapan besar dengan banyak rangkaian kecil dan satu penghala yang memilih segelintir setiap token. Varian DeepSeek menghiris pakar dengan lebih halus daripada susun atur lapan pakar yang konvensional, jadi FLOP diaktifkan yang sama membeli campuran yang jauh lebih spesifik secara kombinatorik, dan ia mengasingkan satu pakar kongsi yang dilalui setiap token, jadi pengetahuan umum tidak dipelajari semula secara berlebihan di dalam setiap pakar. DeepSeek-V3 menghantarnya sebagai 256 pakar terhala berserta 1 pakar kongsi, mengaktifkan 8 pakar terhala setiap token — 671B jumlah parameter, 37B aktif — berserta pengimbangan beban tanpa kerugian tambahan: bukannya terma penalti yang merosotkan kualiti, satu bias setiap pakar menolak skor penghalaan naik atau turun pada setiap langkah apabila pakar itu berjalan kurang atau lebih beban.
MLA — perhatian yang muat dalam memori
Separuh lagi masalah kos penyajian ialah cache KV, yang membesar secara linear dengan konteks dan menguasai memori pada panjang jujukan yang jauh. Multi-head Latent Attention, diperkenalkan dalam DeepSeek-V2, memampatkan kunci dan nilai bersama menjadi vektor laten pangkat rendah dan meng-cache itu, membina semula K/V yang boleh diguna secara serta-merta. Angka V2 terbitan DeepSeek, berbanding DeepSeek 67B padat mereka yang terdahulu, melaporkan pengurangan 93.3% dalam cache KV dan daya pemprosesan penjanaan maksimum 5.76× lebih tinggi. Itulah sebabnya tetingkap 262K token menjadi syarat asas dalam keluarga ini dan bukan tambahan premium.
Perhatian jarang — dan duluan bagi token murah
V3.2-Exp menambah DeepSeek Sparse Attention: pengindeks ringan memberi skor kepada token konteks terhadap pertanyaan, dan pemilih mengekalkan hanya yang berskor tertinggi. Bahagian menariknya ialah resitnya, bukan mekanismenya. DeepSeek menerbitkan perbandingan sebelah-menyebelah dengan V3.1-Terminus dengan MMLU-Pro sama pada 85.0, AIME 2025 naik (88.4 → 89.3), SWE-bench Verified turun sedikit (68.4 → 67.8) — pada dasarnya kualiti rata — dan mereka memotong harga API mereka lebih daripada 50% pada hari yang sama. Seni bina, dilaporkan dengan jujur, bertukar terus menjadi harga. Flash ialah hujah itu dibawa satu langkah lagi.
Generasi V4
V4, dipratonton pada April 2026 di bawah lesen MIT, menggantikan tindanan perhatian sekali lagi dengan hibrid Compressed Sparse Attention dan Heavily Compressed Attention, berlatih dengan pengoptimum Muon pada lebih daripada 32T token, dan mengekalkan objektif ramalan berbilang token V3 — yang turut berfungsi sebagai penyahkodan spekulatif, dan yang DeepSeek ukur pada kadar penerimaan token kedua 85–90% untuk pecutan penyahkodan kira-kira 1.8× dalam V3. Abstrak V4 melaporkan V4-Pro berjalan pada 27% daripada FLOP inferens token tunggal V3.2 dan 10% daripada cache KV-nya. Keluarga itu mendedahkan tiga tahap usaha penaakulan, dan itulah yang parameter reasoning_effort kami petakan.
Sumber: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Laporan Teknikal DeepSeek-V3 (arXiv 2412.19437) · kad model DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Semua angka dilaporkan DeepSeek.
03Apa sebenarnya maksud "Flash"
Inilah perkara yang kebanyakan perbandingan salah faham, jadi ia wajar dinyatakan secara terus terang: Flash DeepSeek bukan Pro yang dikuantumkan, dipangkas atau disuling. Ia model Campuran Pakar yang lebih kecil, dilatih secara berasingan dengan larian pralatihannya sendiri. Kertas pratonton V4 memberikan dua saiz itu:
Angka daripada kertas pratonton DeepSeek-V4. Pusat semak rasmi yang kami sajikan — V4-Flash-0731 dan V4-Pro-0813 — menyenaraikan jumlah yang sedikit lebih besar iaitu 304B dan 1.7T pada kad modelnya; DeepSeek tidak menyatakan semula parameter diaktifkan bagi binaan tersebut.
Dua nombor melakukan kerjanya di sini. Jumlah parameter menetapkan jejak memori, yang menentukan berapa banyak perkakasan yang diduduki oleh satu salinan model. Parameter diaktifkan menetapkan aritmetik setiap token, yang menentukan daya pemprosesan. Flash kira-kira 5.6× lebih kecil pada yang pertama dan 3.8× lebih kecil pada yang kedua — dan ada kehalusan yang patut diperhatikan dalam jurang itu: Flash mengaktifkan 13 daripada 284 bilion parameter, kira-kira 4.6%, manakala Pro mengaktifkan 49 daripada 1,600 bilion, kira-kira 3.1%. Flash ialah model yang kurang jarang. Ia bukan sekadar Pro dengan pakar yang lebih sedikit dihidupkan; ia reka bentuk yang lebih padat dan berbeza imbangannya yang membelanjakan bahagian dirinya yang lebih besar pada setiap token yang dihasilkannya. Itu pilihan kejuruteraan yang sebenar, bukan penurunan taraf.
Apa kata angka DeepSeek sendiri
Kedua-dua kad model rasmi menerbitkan skor pada penanda aras agentik dan kejuruteraan perisian yang sama, dan itu menjadikannya perbandingan yang luar biasa bersih — makmal yang sama, rangka penilaian yang sama, dua saiz:
| Penanda aras (dilaporkan DeepSeek) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
Pro menang pada setiap baris. Itu tajuk yang jujur, dan kami lebih rela anda membacanya di sini daripada menemuinya dalam pengeluaran. Tetapi baca marginnya, kerana itulah yang sebenarnya anda beli. Pada Terminal Bench 2.1 jurangnya 5.2 mata pada model dengan satu per dua puluh lima daripada parameternya; pada penggunaan alat ia 3.8 mata. Jurang itu melebar di tempat kerja menjadi paling dalam — 8.3 mata pada DeepSWE, 7.3 pada NL2Repo, kedua-duanya memberi ganjaran kepada penaakulan kod berbilang langkah yang berterusan. Itulah bentuk pertukarannya dalam satu jadual: Flash merapatkan sebahagian besar jarak pada tugas bersempadan dan mengalah pada tugas terbuka.
Kad Flash DeepSeek sendiri menyatakannya dengan lebih tajam lagi: Flash-0731 mengatasi pratonton V4-Pro pada penanda aras yang disenaraikan walaupun kiraan parameter diaktifkannya jauh lebih kecil. Model kecil yang lebih baharu mengalahkan model besar yang lebih lama ialah keadaan biasa dalam bidang ini, dan itulah sebabnya "tingkat lebih besar" tidak sepatutnya menjadi jawapan lalai anda.
Nota tentang konteks
DeepSeek menerbitkan konteks 1J token untuk keluarga V4. Get Laluan Shannon AI menyajikan model ini pada 262,144 token — tetingkap seragam merentasi kesemua dua belas model dalam katalog kami, dan tetingkap yang sama yang anda dapat pada Pro. Kami lebih rela setiap model dalam senarai itu berkelakuan sama pada konteks daripada anda perlu menghafal siling berbeza bagi setiap id model.
04Membaca akhirannya: W4A16-AUTOROUND-REAP
Id model kami menyatakan skema pemampatannya dengan lantang, kerana itulah perkara yang paling menjejaskan kualiti output dan hampir tiada siapa yang mendedahkannya. Yang ini terurai kepada tiga dakwaan.
W4A16 — pemberat 4-bit, pengaktifan 16-bit
Pemberat disimpan pada 4 bit setiap satu; pengaktifan mengalir melalui pada ketepatan 16-bit. Ini kuantuman pemberat sahaja, dan ia menyasarkan kesesakan sebenar dalam penjanaan token, iaitu lebar jalur memori dan bukan aritmetik. Mengkuantumkan pengaktifan juga akan membeli sedikit lagi kelajuan dan mempertaruhkan tebing ketepatan yang jauh lebih besar; membiarkannya pada 16 bit ialah pilihan konservatif dan berkesetiaan tinggi. Notasi itu ialah singkatan ekosistem penyajian — kesusasteraan kuantuman menulis perkara yang sama sebagai W4 dengan saiz kumpulan.
AUTOROUND — pembundaran terpelajar, bukan pembundaran terdekat
Kuantuman naif membundarkan setiap pemberat kepada nilai boleh diwakili yang terdekat. Itu terbukti bukan optimum: membundarkan satu pemberat ke arah yang "salah" boleh membatalkan ralat yang diperkenalkan jirannya, dan dengan berbilion pemberat interaksi itu menguasai. AutoRound, daripada Intel, menganggap keputusan pembundaran itu sendiri sebagai sesuatu yang perlu dipelajari — usikan setiap pemberat yang boleh dilatih dan dikekang pada ±0.5, tepat cukup untuk membalikkan mana-mana satu keputusan pembundaran dan tidak lebih, berserta julat pengapitan yang boleh dipelajari, dioptimumkan dengan turunan kecerunan bertanda terhadap objektif pembinaan semula output blok demi blok ke atas set penentukuran yang kecil. Dua ratus langkah, kemudian selesai.
Perbandingan terbitan Intel menunjukkan AutoRound mengalahkan GPTQ dalam 30 daripada 32 senario yang diuji, AWQ dalam 27 daripada 32 dan OmniQuant dalam 29 daripada 32 pada tetapan pemberat sahaja 4-bit, dengan keuntungan berbanding pembundaran-ke-terdekat yang naif sebanyak 6.9 hingga 33.2 mata ketepatan pada 2 bit. Tiada satu pun daripadanya berkos apa-apa pada masa inferens: ia pilihan nombor yang lebih baik, dibuat sekali, di luar talian.
REAP — menggugurkan pakar yang tiada siapa menghalakan kepadanya
REAP (Router-weighted Expert Activation Pruning), daripada Cerebras Systems dan Universiti Calgary, ialah pemampatan sekali tembak untuk model MoE. Ia memberi skor kepada setiap pakar berdasarkan berapa kuat dan berapa kerap penghala menggetnya, didarab dengan magnitud output pakar itu, kemudian memadamkan pakar yang paling kurang serlah terus — tanpa latihan semula selepas itu.
Penemuan utama kertas itu ialah yang berguna: pada nisbah pemampatan tinggi, memangkas pakar mengalahkan mencantumkannya. Mencantumkan pakar yang berbeza fungsinya menyebabkan apa yang penulisnya panggil keruntuhan subruang fungsi — penghala kehilangan kawalan berbutir halus dan bergantung-input yang menjadikan MoE itu berbaloi dibina, dan tinggal mengemudi antara purata statik. Angka mereka merentasi model dari 20B hingga 1T parameter: pada pemampatan pakar 25% pada tugas pengekodan, REAP kehilangan 2.8% ketepatan min sedangkan garis dasar pencantuman kehilangan lebih 5%; pada 50%, REAP kehilangan 8.0% sedangkan pencantuman kehilangan lebih 20%. Pada Qwen3-Coder-480B pada pemangkasan 50% penurunannya 1.4%, berbanding 39.3% bagi pemangkasan berasaskan kekerapan yang naif. Cerebras telah menerbitkan pusat semak REAP untuk barisan DeepSeek antara lain.
Mengapa 4-bit di sini dan 3-bit pada Pro
Kedua-dua tingkat itu perlu muat dan kekal pantas pada kelas perkakasan yang sama. Pro membawa 1.7 trilion parameter, jadi ia memerlukan layanan 3-bit yang lebih agresif untuk muat langsung. Flash membawa kira-kira 300 bilion, jadi ia tidak perlu — dan bit yang dijimatkannya dibelanjakan pada kesetiaan dan bukan pada muat.
Bit tambahan itu lebih penting daripada yang aritmetiknya cadangkan, kerana kerosakan kuantuman bukan linear. Dalam pengukuran WikiText-2 kertas AWQ, Llama-2-7B beralih daripada perpleksiti 5.47 pada FP16 kepada 5.60 pada 4-bit — penalti 2.4% — tetapi kepada 6.24 pada 3-bit, penalti 14%. Itu kira-kira enam kali kemerosotan untuk 25% lagi pemampatan, dan corak yang sama berlaku pada 70B. Kertas GPTQ lebih terus terang lagi: pada 3 bit, pembundaran-ke-terdekat yang naif runtuh pada model kelas 175B, sehingga perpleksiti mencecah ribuan, sedangkan ia kekal boleh diguna dengan sempurna pada 4 bit. Di bawah empat bit, algoritma kuantuman yang baik berhenti menjadi kemudahan dan menjadi satu-satunya perkara yang memegang model itu bersama.
Jadi bacaan jujur bagi kedua-dua akhiran ini ialah: Flash duduk lebih dekat kepada dirinya sendiri yang tanpa mampatan berbanding Pro kepada dirinya sendiri. Pro masih model yang lebih kuat — jadual penanda aras di atas menyelesaikan itu. Ia sekadar melepaskan lebih banyak untuk sampai ke sini, dan anda membayar untuk keistimewaan itu.
Sumber: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Angka perpleksiti daripada AWQ (arXiv 2306.00978) dan GPTQ (arXiv 2210.17323).
05Flash lawan Pro pada titik akhir
Bahagian 03 merangkumi asasnya. Beginilah rupa kedua-dua tingkat itu sebagai produk pada get laluan kami:
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| Kuantuman | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| Ketepatan pemberat | 4-bit, pembundaran terpelajar | 3-bit |
| Asas (jumlah / aktif) | ~304B / 13B | ~1.7T / 49B |
| Input setiap 1J token | $0.50 | $1.95 |
| Output setiap 1J token | $2.00 | $3.90 |
| Konteks / output maks | 262,144 / 16,384 | 262,144 / 16,384 |
| Alat · output berstruktur · penstriman | Ya | Ya |
| Visi | Tidak | Tidak |
| Lapisan penolakan | Tiada | Tiada |
Perhatikan apa yang tidak berubah: konteks, siling output, panggilan alat, output berstruktur, dan ketiadaan lapisan penolakan adalah sama. Satu-satunya yang bergerak ialah asasnya, kuantumannya, dan harganya. Itu menjadikan pertukaran antara kedua-duanya satu perubahan satu rentetan dalam kod anda dan keputusan yang semata-mata ekonomi dalam seni bina anda.
Berapa kos satu panggilan bersaiz maksimum
Isi keseluruhan konteks 262,144 token dan ambil output penuh 16,384 token:
Pada harga senarai. Flash: $0.131 input + $0.033 output. Pro: $0.511 + $0.064. Nisbah 3.51×. Flash juga berkongsi lantai $0.50 / $2.00 dengan MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro dan Hy3 — lihat katalog penuh untuk melihat bagaimana model-model itu berbeza pada visi dan output berstruktur.
06Matematik volum, dikira habis
"3.9× lebih murah" hanya benar pada input. Pada output Flash 1.95× lebih murah. Penjimatan sebenar anda oleh itu bergantung pada nisbah input-kepada-output anda, dan sebarannya cukup luas untuk mengubah keputusan reka bentuk. Empat beban kerja realistik, setiap satu pada 100,000 permintaan:
| Beban kerja | Masuk / keluar setiap panggilan | Flash | Pro | Penjimatan |
|---|---|---|---|---|
| Pengelasan tiket | 1,200 / 120 | $84 | $281 | 3.3× |
| Menjawab soalan RAG | 8,000 / 600 | $520 | $1,794 | 3.4× |
| Ringkasan dokumen panjang | 60,000 / 1,500 | $3,300 | $12,285 | 3.7× |
| Penjanaan data sintetik | 500 / 2,000 | $425 | $878 | 2.1× |
Coraknya: lebih banyak konteks yang anda tolak dan lebih sedikit teks yang anda jana, lebih banyak Flash menjimatkan wang anda. Saluran pencarian, penyaringan dokumen, analisis log dan transkrip, serta pengekstrakan konteks panjang ialah titik manisnya — semuanya dikuasai input dengan beza satu magnitud, dan input itulah tempat diskaun 3.9× berada. Jika sebaliknya beban kerja anda ialah gesaan pendek yang menghasilkan beribu token prosa, jurang itu mengecil kepada kira-kira 2× dan hujah keupayaan bagi Pro menjadi lebih kuat sewajarnya.
Satu lagi kepingan aritmetik yang berbaloi dihadamkan: pada $0.50 setiap juta token input, keseluruhan tetingkap 262,144 token berkos 13.1 sen untuk diisi. Menggesa dengan konteks panjang berhenti menjadi soal bajet pada harga itu, dan itu kadangkala bermakna anda boleh melangkau pembinaan lapisan pencarian sama sekali dan biarkan tetingkap konteks melakukan kerjanya — satu penjimatan kejuruteraan di atas penjimatan token.
07Apa maksud "tanpa tapisan" di sini, dengan tepat
Perkataan itu digunakan dengan longgar, jadi inilah takrifan kami, dinyatakan sebagai sifat titik akhir: tiada pengelas penolakan di hadapan model dan tiada penapisan kandungan dikenakan pada outputnya. Tiada apa memintas gesaan lalu memulangkan penolakan siap kalengan; tiada apa memeriksa penyiapan lalu menyunting keluar isinya. Bagi kerja pengeluaran bervolum tinggi, akibatnya kurang dramatik dan lebih berguna daripada yang perkataan itu cadangkan:
- Tiada positif palsu pada trafik biasa. Titik akhir bertapis lazimnya menolak ringkasan perubatan, tulisan keselamatan, penemuan undang-undang, fiksyen, bahan pengurangan mudarat dan kerja penyederhanaan itu sendiri — tepat pada kategori di mana kerja berkelompok memproses teks tentang topik sensitif dan bukan menghasilkan apa-apa yang berbahaya. Pada seratus ribu permintaan, kadar penolakan palsu satu peratus ialah seribu baris rosak.
- Kontrak berketentuan. Minta respons
json_schemadan anda dapat JSON yang sepadan dengan skema itu, bukan satu perenggan permohonan maaf di tempat sepatutnya ada objek. Penghurai anda tidak perlukan cabang penolakan, dan logik cuba semula anda tidak perlu membezakan kegagalan pengangkutan daripada kegagalan dasar. - Anda memiliki dasar itu. Itulah pertukarannya. Jika produk anda memerlukan pagar pelindung untuk pengguna akhir anda, anda bina di lapisan anda, di mana anda kenal pengguna anda dan bidang kuasa anda, dan bukan mewarisi tekaan penyedia tentang kedua-duanya. Akaun anda kekal ditadbir oleh Dasar Penggunaan Bertanggungjawab kami.
Tanpa tapisan bukan sama dengan tidak terjajar atau tidak membantu. Model itu masih mengikut arahan dan masih menghormati gesaan sistem. Jika anda mahu ia menolak kategori tertentu untuk pengguna anda, nyatakannya di situ — arahan itu kini milik anda untuk ditulis dan bukan milik kami untuk dipaksakan.
08Keupayaan dan had yang jujur
Dua keupayaan memikul kebanyakan beban bagi kerja bervolum. Output json_schema yang ketat menukar satu penyiapan menjadi satu baris pangkalan data tanpa lapisan penghuraian dan tanpa cabang penolakan. Panggilan alat dalam ketiga-tiga dialek menjadikan Flash enjin yang munasabah untuk sub-langkah murah sesebuah ejen yang perancang peringkat atasnya berjalan pada model yang lebih kuat. Tambah reasoning_effort, yang membolehkan anda membelanjakan token tambahan hanya pada pecahan trafik yang memerlukannya, dan konteks 262,144 token yang sama dengan Pro — anda tidak menyerahkan konteks dengan memilih tingkat murah, dan itu luar biasa.
Hadnya sama konkritnya:
- Tiada visi. Flash ialah teks sahaja dan akan menolak bahagian imej dalam sesuatu mesej. Untuk imej pada model tanpa tapisan pada lantai $0.50 / $2.00 yang sama, MiniMax-M3 dan MiMo-V2.5 ialah pilihan berkeupayaan visi; Kimi-K2.6 dan Kimi-K3 ialah model visi yang lebih kuat di atas tingkat itu.
- Bukan puncak tangga. Angka DeepSeek sendiri meletakkan Pro di hadapan pada setiap penanda aras agentik yang diterbitkan, dengan jurang paling luas pada penaakulan kod berbilang langkah yang berterusan. Di mana satu jawapan salah berkos lebih daripada seribu jawapan murah, belanjakan $1.45 tambahan setiap juta pada DeepSeek-V4-Pro.
- 16,384 token output setiap permintaan. Penjanaan panjang mesti dipecahkan merentasi beberapa panggilan. Ini siling yang sama pada setiap model yang kami sajikan, dan ia mengikat jauh lebih awal daripada tetingkap konteks.
09Memanggilnya
Acukan mana-mana klien serasi OpenAI kepada get laluan dan tukar rentetan model. Tiada apa lagi dalam tindanan anda perlu bergerak.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
Id model yang sama berfungsi tanpa perubahan pada /v1/messages dan /v1/responses, dan itulah cara terpantas untuk menguji A/B model yang lebih murah di bawah integrasi sedia ada tanpa menulis semula klien anda. Parameter, bentuk peristiwa penstriman, skema panggilan alat dan had kadar didokumenkan dalam rujukan API; setiap model dalam katalog disenaraikan di Shannon Research.
10Soalan lazim
Apakah API DeepSeek Flash tanpa tapisan?
Titik akhir Get Laluan Shannon AI untuk DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP: binaan AutoRound 4-bit bagi asas V4-Flash DeepSeek yang 13B aktif, disajikan pada kluster GPU kami sendiri tanpa lapisan penolakan dan tanpa penapisan output, pada $0.50 setiap juta token input dan $2.00 setiap juta token output, dengan konteks 262,144 token.
Berapa kos DeepSeek V4 Flash setiap juta token?
$0.50 input dan $2.00 output, harga lantai pada get laluan Shannon. DeepSeek-V4-Pro-0813 ialah $1.95 dan $3.90, jadi Flash 3.9× lebih murah pada input dan 1.95× lebih murah pada output. Mengisi keseluruhan konteks 262,144 token berkos kira-kira $0.13 pada Flash berbanding $0.51 pada Pro.
Patutkah saya guna DeepSeek V4 Flash atau DeepSeek V4 Pro?
Flash apabila bilangan panggilan itu kekangannya: pengelasan, pengekstrakan, peringkasan, data sintetik, menjawab RAG, sub-langkah ejen. Pro apabila kesukaran satu panggilan itu kekangannya. Flash bukan Pro yang dirosotkan; ia asas lebih kecil pada kuantuman 4-bit berkesetiaan lebih tinggi, sedangkan Pro ialah asas 1.7T parameter pada 3-bit.
Adakah DeepSeek-V4-Flash-0731 menyokong visi dan output skema JSON?
Ia menyokong output berstruktur json_schema yang ketat dan response_format, berserta panggilan alat, penstriman dan reasoning_effort. Ia tidak menerima input imej. Untuk imej pada model tanpa tapisan pada harga lantai yang sama, MiniMax-M3 dan MiMo-V2.5 ialah pilihan berkeupayaan visi.
Apakah maksud W4A16-AUTOROUND-REAP?
W4A16 ialah pemberat 4-bit dengan pengaktifan 16-bit. AutoRound ialah kaedah pembundaran terpelajar Intel, yang mengoptimumkan keputusan pembundaran melalui turunan kecerunan bertanda dan bukan membundarkan kepada nilai terdekat. REAP ialah pemangkasan pakar sekali tembak Cerebras Systems untuk model Campuran Pakar, yang menggugurkan pakar yang paling kurang dihalakan tanpa latihan semula.
Adakah model ini benar-benar tanpa tapisan, tanpa lapisan penolakan?
Ya. Tiada pengelas penolakan duduk di hadapan model dan tiada penapisan dikenakan pada outputnya, jadi anda mendapat taburan model itu sendiri. Itu juga bermakna anda memiliki pendirian keselamatan produk anda dan membina pagar pelindung di lapisan anda sendiri; Dasar Penggunaan Bertanggungjawab kami masih mentadbir akaun itu.
Jalankan volum anda pada Flash
$0.50 masuk, $2.00 keluar, konteks 262K, tiada penolakan. Tukar satu rentetan model.
Baca Dokumen API Layari Kesemua 12 ModelShannon Lab LLC · New Mexico, USA · ditadbir oleh Dasar Penggunaan Bertanggungjawab kami
Sumber: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Laporan Teknikal DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · kad model DeepSeek-V4-Flash-0731 dan DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Semua angka asas dan penanda aras adalah seperti diterbitkan oleh penulis masing-masing; harga Shannon AI dan konteks yang disajikan ialah nilai senarai kami sendiri setakat September 2026.