API DeepSeek Flash Tanpa Sensor
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — harga lantai, konteks 262K, dan tanpa lapisan penolakan. Model yang Anda arahkan ke beban kerja yang berjalan sepuluh ribu kali sehari.
Ringkasnya
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP adalah tingkat volume tinggi dari keluarga DeepSeek di Shannon AI Gateway. Ia berjalan di klaster GPU kami sendiri seharga $0.50 per satu juta token masukan dan $2.00 per satu juta token keluaran — lantai katalog kami — dengan konteks 262.144 token, maksimum 16.384 token keluaran, streaming, tool calling, penalaran dengan reasoning_effort, dan output terstruktur json_schema yang ketat. Tidak ada lapisan penolakan dan tidak ada penyaringan keluaran. Ia bukan versi lumpuh dari DeepSeek-V4-Pro: Pro adalah fondasi jauh lebih besar yang diperas ke 3-bit, sedangkan Flash adalah fondasi lebih kecil yang dibawa pada kuantisasi AutoRound 4-bit yang lebih setia. Itu dua titik berbeda pada kurva yang sama, dan mana yang menang sepenuhnya bergantung pada beban kerja Anda.
Sebagian besar tim yang mengevaluasi API LLM mengoptimalkan variabel yang keliru. Mereka mem-benchmark dengan dua puluh prompt tersulit yang terpikirkan, memilih pemenangnya, lalu enam minggu kemudian menemukan bahwa sembilan puluh lima persen trafik mereka adalah pekerjaan pendek, terstruktur dan berulang yang akan ditangani secara identik oleh model berharga seperempatnya. DeepSeek-V4-Flash ada untuk sembilan puluh lima persen itu. Halaman ini soal mengetahui kapan Anda berada di dalamnya — dan kapan tidak.
01Apa yang sebenarnya Anda dapat
| Properti | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| ID model | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| Konteks / keluaran maks | 262.144 token / 16.384 token |
| Harga per 1M (masukan / keluaran) | $0.50 / $2.00 |
| Streaming · tool calling · penalaran | Ya — ketiga dialek |
| Output terstruktur | json_schema dan response_format |
| Masukan gambar (visi) | Tidak — hanya teks |
| Lapisan penolakan / filter keluaran | Tidak ada |
| Dilayani di | Klaster GPU milik Shannon sendiri |
Tiga dialek API menjangkau bobot yang sama: /v1/chat/completions (berbentuk OpenAI), /v1/messages (berbentuk Anthropic), dan /v1/responses. Streaming bekerja di ketiganya. Referensi parameter lengkap ada di dokumentasi API.
02Dari mana ia berasal: silsilah DeepSeek
DeepSeek-AI menghabiskan lima generasi model pada satu obsesi: mendapatkan perilaku kelas depan dari model yang murah untuk dilayani, bukan sekadar murah untuk dilatih. Nyaris tiap keputusan arsitektural dalam garis ini berakar di sana, dan yang penting-penting sudah dipublikasikan. Tiga di antaranya menjelaskan apa yang Anda panggil ketika menyentuh endpoint ini.
DeepSeekMoE — expert berbutir halus plus satu expert bersama
Sebuah lapisan Mixture-of-Experts mengganti satu jaringan feed-forward besar dengan banyak jaringan kecil dan sebuah router yang memilih segelintir per token. Varian DeepSeek mengiris expert lebih halus dibanding tata letak konvensional delapan expert, sehingga FLOPs teraktivasi yang sama membeli campuran yang jauh lebih spesifik secara kombinatorial, dan ia mengisolasi satu expert bersama yang dilewati setiap token, sehingga pengetahuan umum tidak dipelajari ulang secara berlebihan di dalam tiap spesialis. DeepSeek-V3 mengirimkannya sebagai 256 expert terute plus 1 expert bersama, mengaktifkan 8 expert terute per token — total 671B parameter, 37B aktif — berikut penyeimbangan beban tanpa auxiliary loss: alih-alih suku penalti yang menggerus kualitas, sebuah bias per-expert mendorong skor perutean naik atau turun tiap langkah seiring expert itu kurang atau kelebihan beban.
MLA — atensi yang muat di memori
Separuh lain dari masalah biaya penyajian adalah cache KV, yang tumbuh linier terhadap konteks dan mendominasi memori pada panjang urutan besar. Multi-head Latent Attention, diperkenalkan di DeepSeek-V2, mengompresi key dan value bersama-sama menjadi vektor laten berperingkat rendah lalu meng-cache itu, merekonstruksi K/V yang bisa dipakai secara langsung. Angka V2 yang dipublikasikan DeepSeek, dibanding DeepSeek 67B dense mereka yang lebih awal, melaporkan pengurangan cache KV 93,3% dan throughput generasi maksimum 5,76× lebih tinggi. Itulah sebabnya jendela 262K token adalah taruhan dasar di keluarga ini alih-alih tambahan premium.
Atensi sparse — dan preseden untuk token murah
V3.2-Exp menambahkan DeepSeek Sparse Attention: sebuah pengindeks ringan menilai token konteks terhadap query, dan sebuah penyeleksi hanya menyimpan yang berskor tertinggi. Bagian menariknya adalah bukti tagihannya, bukan mekanismenya. DeepSeek memublikasikan perbandingan berdampingan dengan V3.1-Terminus dengan MMLU-Pro identik di 85.0, AIME 2025 naik (88.4 → 89.3), SWE-bench Verified turun tipis (68.4 → 67.8) — pada dasarnya kualitas datar — dan mereka memangkas harga API mereka lebih dari 50% di hari yang sama. Arsitektur, dilaporkan dengan jujur, berubah langsung menjadi harga. Flash adalah argumen itu dibawa selangkah lebih jauh.
Generasi V4
V4, dipratinjau April 2026 di bawah lisensi MIT, kembali mengganti tumpukan atensinya dengan hibrida Compressed Sparse Attention dan Heavily Compressed Attention, dilatih dengan optimizer Muon pada lebih dari 32T token, dan mempertahankan objektif prediksi multi-token milik V3 — yang sekaligus berfungsi sebagai speculative decoding, dan yang diukur DeepSeek pada tingkat penerimaan token-kedua 85–90% untuk percepatan decoding kira-kira 1,8× di V3. Abstrak V4 melaporkan V4-Pro berjalan pada 27% FLOPs inferensi token-tunggal milik V3.2 dan 10% cache KV-nya. Keluarga ini membuka tiga tingkat upaya penalaran, dan itulah yang dipetakan oleh parameter reasoning_effort kami.
Sumber: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Laporan Teknis DeepSeek-V3 (arXiv 2412.19437) · kartu model DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Semua angka dilaporkan DeepSeek.
03Apa arti "Flash" sebenarnya
Inilah titik yang paling sering disalahpahami perbandingan, jadi patut dinyatakan terang-terangan: Flash milik DeepSeek bukan Pro yang dikuantisasi, dipangkas atau didistilasi. Ia adalah model Mixture-of-Experts lebih kecil yang dilatih terpisah dengan proses prapelatihannya sendiri. Makalah pratinjau V4 memberikan kedua ukurannya:
Angka dari makalah pratinjau DeepSeek-V4. Checkpoint resmi yang kami layani — V4-Flash-0731 dan V4-Pro-0813 — mencantumkan total yang sedikit lebih besar, yaitu 304B dan 1,7T di kartu modelnya; DeepSeek tidak menyatakan ulang parameter teraktivasi untuk build tersebut.
Dua angka melakukan seluruh pekerjaan di sini. Total parameter menetapkan jejak memori, yang menentukan berapa banyak perangkat keras yang ditempati satu salinan model. Parameter teraktivasi menetapkan aritmetika per token, yang menentukan throughput. Flash kira-kira 5,6× lebih kecil pada yang pertama dan 3,8× lebih kecil pada yang kedua — dan ada kehalusan yang layak diperhatikan di selisih itu: Flash mengaktifkan 13 dari 284 miliar parameter, sekitar 4,6%, sementara Pro mengaktifkan 49 dari 1.600 miliar, sekitar 3,1%. Flash adalah model yang kurang sparse. Ia bukan sekadar Pro dengan lebih sedikit expert yang dinyalakan; ia rancangan yang lebih padat dan berimbang secara berbeda, yang membelanjakan porsi lebih besar dari dirinya pada setiap token yang diproduksinya. Itu pilihan rekayasa yang sungguhan, bukan penurunan mutu.
Apa kata angka DeepSeek sendiri
Kedua kartu model resminya memublikasikan skor pada benchmark agentik dan rekayasa perangkat lunak yang sama, dan itu membuat ini perbandingan yang luar biasa bersih — lab yang sama, harness evaluasi yang sama, dua ukuran:
| Benchmark (dilaporkan DeepSeek) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
Pro menang di setiap baris. Itu berita utama yang jujur, dan kami lebih suka Anda membacanya di sini daripada menemukannya di produksi. Tetapi bacalah marginnya, karena itulah yang sebenarnya Anda beli. Pada Terminal Bench 2.1 jaraknya 5,2 poin untuk model dengan seperdua puluh lima jumlah parameter; pada pemakaian tool jaraknya 3,8 poin. Jaraknya melebar di tempat pekerjaannya paling dalam — 8,3 poin di DeepSWE, 7,3 di NL2Repo, keduanya mengganjar penalaran kode multilangkah yang berkelanjutan. Itulah bentuk pertukarannya dalam satu tabel: Flash menutup sebagian besar jarak pada tugas terbatas dan menyerahkan lahan pada tugas terbuka.
Kartu Flash milik DeepSeek sendiri menyampaikannya lebih tajam lagi: Flash-0731 mengungguli pratinjau V4-Pro pada benchmark yang tercantum meski jumlah parameter teraktivasinya jauh lebih kecil. Model kecil yang lebih baru mengalahkan model besar yang lebih tua adalah keadaan normal di bidang ini, dan itulah alasan "tingkat yang lebih besar" tidak boleh menjadi jawaban default Anda.
Catatan soal konteks
DeepSeek memublikasikan konteks 1 juta token untuk keluarga V4. Shannon AI Gateway melayani model ini pada 262.144 token — jendela seragam di seluruh dua belas model katalog kami, dan jendela yang sama yang Anda dapat di Pro. Kami lebih suka setiap model dalam daftar berperilaku identik soal konteks daripada memaksa Anda menghafal plafon berbeda untuk tiap id model.
04Membaca akhirannya: W4A16-AUTOROUND-REAP
ID model kami menyebut skema kompresinya dengan lantang, karena itulah hal yang paling memengaruhi kualitas keluaran dan hampir tak ada yang mengungkapkannya. Yang satu ini terurai menjadi tiga klaim.
W4A16 — bobot 4-bit, aktivasi 16-bit
Bobot disimpan pada 4 bit masing-masing; aktivasi mengalir pada presisi 16-bit. Ini kuantisasi hanya-bobot, dan ia membidik hambatan sesungguhnya dalam pembangkitan token, yaitu bandwidth memori alih-alih aritmetika. Mengkuantisasi aktivasi juga akan membeli sedikit kecepatan tambahan dan mempertaruhkan jurang akurasi yang jauh lebih besar; membiarkannya di 16 bit adalah pilihan konservatif dan berkesetiaan tinggi. Notasinya adalah singkatan ekosistem penyajian — literatur kuantisasi menuliskan hal yang sama sebagai W4 dengan ukuran grup.
AUTOROUND — pembulatan terpelajar, bukan pembulatan terdekat
Kuantisasi naif membulatkan tiap bobot ke nilai terwakilkan terdekat. Itu terbukti tidak optimal: membulatkan satu bobot ke arah yang "salah" bisa membatalkan galat yang disuntikkan tetangganya, dan dengan miliaran bobot, interaksi itu mendominasi. AutoRound, dari Intel, memperlakukan keputusan pembulatan itu sendiri sebagai sesuatu yang bisa dipelajari — sebuah perturbasi per-bobot yang dapat dilatih dan dibatasi pada ±0,5, persis cukup untuk membalik satu keputusan pembulatan mana pun dan tak lebih, plus rentang kliping yang bisa dipelajari, dioptimalkan lewat signed gradient descent terhadap objektif rekonstruksi keluaran per blok pada satu set kalibrasi kecil. Dua ratus langkah, lalu selesai.
Perbandingan yang dipublikasikan Intel menunjukkan AutoRound mengalahkan GPTQ pada 30 dari 32 skenario yang diuji, AWQ pada 27 dari 32 dan OmniQuant pada 29 dari 32 di setelan hanya-bobot 4-bit, dengan keunggulan atas pembulatan-ke-terdekat naif sebesar 6,9 sampai 33,2 poin akurasi pada 2 bit. Tak satu pun darinya berbiaya apa pun saat inferensi: ia sekadar pilihan angka yang lebih baik, dibuat sekali, luring.
REAP — membuang expert yang tak dirutekan siapa pun
REAP (Router-weighted Expert Activation Pruning), dari Cerebras Systems dan University of Calgary, adalah kompresi sekali-jalan untuk model MoE. Ia menilai tiap expert berdasarkan seberapa kuat dan seberapa sering router membukakan gerbang ke sana, dikalikan besaran keluaran expert itu, lalu menghapus expert yang paling tidak menonjol sekaligus — tanpa pelatihan ulang sesudahnya.
Temuan sentral makalahnya adalah yang berguna: pada rasio kompresi tinggi, memangkas expert mengalahkan menggabungkannya. Menggabungkan expert yang secara fungsional berbeda menyebabkan apa yang penulisnya sebut keruntuhan subruang fungsional — router kehilangan kendali berbutir halus yang bergantung masukan, yang justru membuat MoE layak dibangun, dan tinggal mengemudikan antar rata-rata statis. Angka mereka di seluruh model dari 20B hingga 1T parameter: pada kompresi expert 25% untuk tugas coding, REAP kehilangan 2,8% akurasi rata-rata di mana baseline penggabungan kehilangan lebih dari 5%; pada 50%, REAP kehilangan 8,0% di mana penggabungan kehilangan lebih dari 20%. Pada Qwen3-Coder-480B dengan pemangkasan 50%, penurunannya 1,4%, berhadapan dengan 39,3% untuk pemangkasan naif berbasis frekuensi. Cerebras telah memublikasikan checkpoint REAP untuk garis DeepSeek, di antara yang lain.
Kenapa 4-bit di sini dan 3-bit di Pro
Kedua tingkat harus muat dan tetap cepat di kelas perangkat keras yang sama. Pro membawa 1,7 triliun parameter, jadi ia butuh perlakuan 3-bit yang lebih agresif supaya muat sama sekali. Flash membawa kira-kira 300 miliar, jadi ia tidak butuh — dan bit yang dihematnya dibelanjakan untuk kesetiaan alih-alih untuk muat.
Satu bit tambahan itu lebih penting daripada yang disiratkan aritmetikanya, karena kerusakan kuantisasi tidak linier. Dalam pengukuran WikiText-2 di makalah AWQ, Llama-2-7B bergerak dari perplexity 5,47 pada FP16 ke 5,60 pada 4-bit — penalti 2,4% — tetapi ke 6,24 pada 3-bit, penalti 14%. Itu kira-kira enam kali lipat degradasi untuk kompresi 25% lebih banyak, dan pola yang sama berlaku pada 70B. Makalah GPTQ bahkan lebih blak-blakan: pada 3 bit, pembulatan-ke-terdekat naif runtuh pada model kelas 175B, sampai perplexity ribuan, sementara tetap sempurna dipakai pada 4 bit. Di bawah empat bit, algoritma kuantisasi yang baik berhenti menjadi kemewahan dan menjadi satu-satunya yang menahan model tetap utuh.
Jadi pembacaan jujur atas kedua akhiran itu adalah: Flash duduk lebih dekat ke dirinya sendiri yang belum dikompresi dibanding Pro ke dirinya sendiri. Pro tetap model yang lebih kuat — tabel benchmark di atas menuntaskan itu. Ia sekadar menyerahkan lebih banyak untuk sampai ke sini, dan Anda membayar untuk keistimewaan itu.
Sumber: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Angka perplexity dari AWQ (arXiv 2306.00978) dan GPTQ (arXiv 2210.17323).
05Flash lawan Pro di endpoint
Bagian 03 membahas fondasinya. Berikut wujud kedua tingkat itu sebagai produk di gateway kami:
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| Kuantisasi | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| Presisi bobot | 4-bit, pembulatan terpelajar | 3-bit |
| Fondasi (total / aktif) | ~304B / 13B | ~1.7T / 49B |
| Masukan per 1M token | $0.50 | $1.95 |
| Keluaran per 1M token | $2.00 | $3.90 |
| Konteks / keluaran maks | 262.144 / 16.384 | 262.144 / 16.384 |
| Tool · output terstruktur · streaming | Ya | Ya |
| Visi | Tidak | Tidak |
| Lapisan penolakan | Tidak ada | Tidak ada |
Perhatikan apa yang tidak berubah: konteks, plafon keluaran, tool calling, output terstruktur, dan ketiadaan lapisan penolakan identik. Yang bergerak hanyalah fondasinya, kuantisasinya, dan harganya. Itu membuat perpindahan di antara keduanya menjadi perubahan satu string di kode Anda dan keputusan yang murni ekonomis di arsitektur Anda.
Berapa biaya satu panggilan berukuran maksimum
Isi seluruh konteks 262.144 token dan ambil keluaran penuh 16.384 token:
Pada harga daftar. Flash: $0.131 masukan + $0.033 keluaran. Pro: $0.511 + $0.064. Rasio 3,51×. Flash juga berbagi lantai $0.50 / $2.00 dengan MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro dan Hy3 — lihat katalog lengkapnya untuk mengetahui bedanya soal visi dan output terstruktur.
06Aritmetika volume, dihitung tuntas
"3,9× lebih murah" hanya benar pada masukan. Pada keluaran, Flash 1,95× lebih murah. Penghematan nyata Anda karenanya bergantung pada rasio masukan-ke-keluaran Anda, dan sebarannya cukup lebar untuk mengubah keputusan desain. Empat beban kerja realistis, masing-masing pada 100.000 permintaan:
| Beban kerja | Masuk / keluar per panggilan | Flash | Pro | Penghematan |
|---|---|---|---|---|
| Klasifikasi tiket | 1,200 / 120 | $84 | $281 | 3,3× |
| Penjawaban pertanyaan RAG | 8,000 / 600 | $520 | $1,794 | 3,4× |
| Ringkasan dokumen panjang | 60,000 / 1,500 | $3,300 | $12,285 | 3,7× |
| Pembangkitan data sintetis | 500 / 2,000 | $425 | $878 | 2,1× |
Polanya: makin banyak konteks yang Anda dorong dan makin sedikit teks yang Anda bangkitkan, makin besar penghematan Flash. Pipeline pengambilan, penyortiran dokumen, analisis log dan transkrip, serta ekstraksi konteks panjang adalah titik manisnya — semuanya didominasi masukan sebesar satu orde besaran, dan masukan adalah tempat diskon 3,9× itu tinggal. Kalau sebaliknya beban kerja Anda berupa prompt pendek yang menghasilkan ribuan token prosa, jaraknya menyempit ke kira-kira 2× dan argumen kemampuan untuk Pro menjadi lebih kuat sepadan dengan itu.
Satu potong aritmetika lagi yang layak diresapi: pada $0.50 per satu juta token masukan, seluruh jendela 262.144 token berbiaya 13,1 sen untuk diisi. Prompting konteks panjang berhenti menjadi pertanyaan anggaran pada harga itu, yang kadang berarti Anda bisa melewatkan pembangunan lapisan pengambilan sama sekali dan membiarkan jendela konteks yang bekerja — penghematan rekayasa di atas penghematan token.
07Apa arti "tanpa sensor" di sini, secara persis
Katanya dipakai serampangan, jadi inilah definisi kami, dinyatakan sebagai properti endpoint: tidak ada pengklasifikasi penolakan di depan model dan tidak ada penyaringan konten yang diterapkan pada keluarannya. Tidak ada yang mencegat prompt lalu mengembalikan penolakan kalengan; tidak ada yang memeriksa keluaran lalu menyuntingnya. Untuk pekerjaan produksi bervolume tinggi, konsekuensinya lebih tidak dramatis dan lebih berguna daripada yang disiratkan kata itu:
- Tanpa positif palsu pada trafik yang tak berbahaya. Endpoint tersaring rutin menolak ringkasan medis, tulisan keamanan, penemuan hukum, fiksi, materi pengurangan dampak buruk dan pekerjaan moderasi itu sendiri — persis kategori di mana sebuah batch job memproses teks tentang topik sensitif alih-alih memproduksi apa pun yang berbahaya. Pada seratus ribu permintaan, tingkat penolakan palsu satu persen berarti seribu baris rusak.
- Kontrak deterministik. Minta respons
json_schemadan Anda menerima JSON yang cocok dengan skemanya, bukan satu paragraf permintaan maaf di tempat yang seharusnya berisi objek. Parser Anda tidak butuh cabang penolakan, dan logika retry Anda tidak harus membedakan kegagalan transport dari kegagalan kebijakan. - Kebijakannya milik Anda. Itulah pertukarannya. Kalau produk Anda butuh pagar pengaman untuk pengguna akhir Anda, Anda membangunnya di lapisan Anda, tempat Anda mengenal pengguna dan yurisdiksi Anda, alih-alih mewarisi tebakan penyedia tentang keduanya. Akun Anda tetap diatur oleh Kebijakan Penggunaan Bertanggung Jawab kami.
Tanpa sensor tidak sama dengan tak selaras atau tak menolong. Modelnya tetap mengikuti instruksi dan tetap menghormati system prompt. Kalau Anda ingin ia menolak kategori tertentu untuk pengguna Anda, katakan di sana — instruksi itu kini milik Anda untuk ditulis, bukan milik kami untuk dipaksakan.
08Kemampuan dan batasan yang jujur
Dua kemampuan memikul sebagian besar beban untuk kerja bervolume. Output json_schema yang ketat mengubah sebuah completion menjadi baris basis data tanpa lapisan parsing dan tanpa cabang penolakan. Tool calling di ketiga dialek menjadikan Flash mesin yang masuk akal untuk sublangkah murah dari sebuah agen yang perencana tingkat atasnya berjalan di model lebih kuat. Tambahkan reasoning_effort, yang memungkinkan Anda membelanjakan token ekstra hanya pada sebagian kecil trafik yang membutuhkannya, dan konteks 262.144 token yang identik dengan milik Pro — Anda tidak menyerahkan konteks dengan memilih tingkat murah, dan itu tidak biasa.
Batasannya sama konkretnya:
- Tanpa visi. Flash hanya teks dan akan menolak bagian gambar dalam sebuah pesan. Untuk gambar pada model tanpa sensor di lantai $0.50 / $2.00 yang sama, MiniMax-M3 dan MiMo-V2.5 adalah opsi berkemampuan visi; Kimi-K2.6 dan Kimi-K3 adalah model visi yang lebih kuat di atas tingkat itu.
- Bukan puncak tangga. Angka DeepSeek sendiri menempatkan Pro unggul pada setiap benchmark agentik yang dipublikasikan, dengan jarak terlebar pada penalaran kode multilangkah yang berkelanjutan. Ketika satu jawaban keliru berbiaya lebih mahal daripada seribu jawaban murah, belanjakan $1.45 ekstra per satu juta di DeepSeek-V4-Pro.
- 16.384 token keluaran per permintaan. Generasi panjang harus dipecah lintas panggilan. Ini plafon yang sama pada setiap model yang kami layani, dan ia mengikat jauh sebelum jendela konteksnya mengikat.
09Memanggilnya
Arahkan klien kompatibel-OpenAI mana pun ke gateway lalu ganti string modelnya. Tidak ada lagi yang harus bergerak di tumpukan Anda.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
ID model yang sama bekerja tanpa perubahan di /v1/messages dan /v1/responses, dan itulah cara tercepat mengadu A/B sebuah model lebih murah di bawah integrasi yang sudah ada tanpa menulis ulang klien Anda. Parameter, bentuk event streaming, skema tool calling dan batas laju didokumentasikan di referensi API; setiap model di katalog terdaftar di Shannon Research.
10Pertanyaan yang sering diajukan
Apa itu API DeepSeek Flash tanpa sensor?
Endpoint Shannon AI Gateway untuk DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP: build AutoRound 4-bit dari fondasi V4-Flash milik DeepSeek yang mengaktifkan 13B, dilayani di klaster GPU kami sendiri tanpa lapisan penolakan dan tanpa penyaringan keluaran, seharga $0.50 per satu juta token masukan dan $2.00 per satu juta token keluaran, dengan konteks 262.144 token.
Berapa biaya DeepSeek V4 Flash per satu juta token?
$0.50 masukan dan $2.00 keluaran, harga lantai di Shannon Gateway. DeepSeek-V4-Pro-0813 berharga $1.95 dan $3.90, jadi Flash 3,9× lebih murah pada masukan dan 1,95× lebih murah pada keluaran. Mengisi seluruh konteks 262.144 token berbiaya sekitar $0.13 di Flash berbanding $0.51 di Pro.
Sebaiknya saya pakai DeepSeek V4 Flash atau DeepSeek V4 Pro?
Flash ketika jumlah panggilan adalah kendalanya: klasifikasi, ekstraksi, perangkuman, data sintetis, penjawaban RAG, sublangkah agen. Pro ketika kesulitan satu panggilan adalah kendalanya. Flash bukan Pro yang diturunkan mutunya; ia fondasi yang lebih kecil pada kuantisasi 4-bit berkesetiaan lebih tinggi, sementara Pro adalah fondasi 1,7 triliun parameter pada 3-bit.
Apakah DeepSeek-V4-Flash-0731 mendukung visi dan output JSON schema?
Ia mendukung output terstruktur json_schema yang ketat dan response_format, plus tool calling, streaming dan reasoning_effort. Ia tidak menerima masukan gambar. Untuk gambar pada model tanpa sensor di harga lantai yang sama, MiniMax-M3 dan MiMo-V2.5 adalah opsi berkemampuan visi.
Apa arti W4A16-AUTOROUND-REAP?
W4A16 berarti bobot 4-bit dengan aktivasi 16-bit. AutoRound adalah metode pembulatan terpelajar dari Intel, yang mengoptimalkan keputusan pembulatan lewat signed gradient descent alih-alih membulatkan ke nilai terdekat. REAP adalah pemangkasan expert sekali-jalan dari Cerebras Systems untuk model Mixture-of-Experts, yang membuang expert paling jarang dirutekan tanpa pelatihan ulang.
Apakah modelnya benar-benar tanpa sensor, tanpa lapisan penolakan?
Ya. Tidak ada pengklasifikasi penolakan yang berdiri di depan model dan tidak ada penyaringan yang diterapkan pada keluarannya, jadi Anda menerima distribusi milik model itu sendiri. Itu juga berarti Anda yang memiliki postur keamanan produk Anda dan membangun pagar pengaman di lapisan Anda sendiri; Kebijakan Penggunaan Bertanggung Jawab kami tetap mengatur akun Anda.
Jalankan volume Anda di Flash
$0.50 masuk, $2.00 keluar, konteks 262K, tanpa penolakan. Ganti satu string model.
Baca Dokumentasi API Telusuri Semua 12 ModelShannon Lab LLC · New Mexico, USA · diatur oleh Kebijakan Penggunaan Bertanggung Jawab kami
Sumber: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · Laporan Teknis DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · kartu model DeepSeek-V4-Flash-0731 dan DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Semua angka fondasi dan benchmark adalah sebagaimana dipublikasikan penulisnya masing-masing; harga Shannon AI dan konteks yang dilayani adalah nilai daftar kami sendiri per September 2026.