Tsenseerimata DeepSeek Flashi API
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — põrandahind, 262K kontekst ja keeldumiskihti ei ole. Mudel, mille sa suunad koormusele, mis jookseb kümme tuhat korda päevas.
Lühidalt
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP on DeepSeeki perekonna suure mahu tase Shannon AI lüüsis. Ta jookseb meie enda GPU-klastris hinnaga $0.50 miljoni sisendtokeni ja $2.00 miljoni väljundtokeni kohta — meie kataloogi põrand — 262,144-tokenilise kontekstiga, 16,384 maksimaalse väljundtokeniga, voogedastuse, tööriistakutsete, reasoning_effort-iga arutluse ja range json_schema struktureeritud väljundiga. Keeldumiskihti ja väljundi filtreerimist ei ole. Ta ei ole sandistatud versioon mudelist DeepSeek-V4-Pro: Pro on palju suurem vundament, mis on pigistatud 3 bitini, Flash aga väiksem vundament kõrgema täpsusega 4-bitises AutoRoundi kvantiseeringus. Need on kaks eri punkti samal kõveral ja see, kumb võidab, sõltub täielikult sinu koormusest.
Enamik meeskondi, kes LLM-i API-t hindavad, optimeerib vale muutujat. Nad võrdlevad kahekümne kõige raskema viiba peal, mille peale nad tulevad, valivad võitja ja avastavad kuus nädalat hiljem, et üheksakümmend viis protsenti nende liiklusest on lühike, struktureeritud ja korduv töö, mille neli korda odavam mudel oleks identselt ära teinud. DeepSeek-V4-Flash on olemas selle üheksakümne viie protsendi jaoks. See lehekülg on sellest, kuidas teada, millal sa oled selle sees — ja millal ei ole.
01Mida sa tegelikult saad
| Omadus | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| Mudeli id | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| Kontekst / maks. väljund | 262,144 tokenit / 16,384 tokenit |
| Hind 1M kohta (sisend / väljund) | $0.50 / $2.00 |
| Voogedastus · tööriistakutsed · arutlus | Jah — kõik kolm dialekti |
| Struktureeritud väljund | json_schema ja response_format |
| Pildisisend (nägemine) | Ei — ainult tekst |
| Keeldumiskiht / väljundifilter | Puudub |
| Serveeritud | Shannoni enda GPU-klastris |
Samade kaaludeni jõuab kolm API dialekti: /v1/chat/completions (OpenAI kujul), /v1/messages (Anthropicu kujul) ja /v1/responses. Voogedastus töötab kõigil kolmel. Täielik parameetriviide on API dokumentatsioonis.
02Kust ta tuleb: DeepSeeki liin
DeepSeek-AI on kulutanud viis mudelipõlvkonda ühele kinnisideele: saada tipptasemel käitumine mudelist, mida on odav serveerida, mitte ainult odav treenida. Peaaegu iga selle liini arhitektuuriotsus taandub sellele ja olulised neist on avaldatud. Kolm selgitavad, mida sa kutsud, kui sa sellesse otspunkti pöördud.
DeepSeekMoE — peeneteralised eksperdid pluss üks jagatud
Mixture-of-Experts kiht asendab ühe suure ettesöötva võrgu paljude väiksematega ja ruuteriga, mis valib tokeni kohta käputäie. DeepSeeki variant lõikab eksperdid peenemaks kui tavapärane kaheksa eksperdiga paigutus, nii et sama aktiveeritud FLOP-ide hulk ostab palju kombinatoorselt spetsiifilisema segu, ning see eraldab jagatud eksperdi, millest iga token läbi käib, nii et üldteadmisi ei õpita üleliigselt iga spetsialisti sees uuesti. DeepSeek-V3 andis selle välja kujul 256 marsruuditud eksperti pluss 1 jagatud ekspert, tokeni kohta aktiveeritakse 8 marsruuditut — 671B parameetrit kokku, 37B aktiivset — koos abikaotuse-vaba koormuse tasakaalustamisega: karistusliikme asemel, mis kvaliteeti halvendab, nihutab ekspertikohane kalle marsruutimisskoore igal sammul üles või alla vastavalt sellele, kas ekspert on ala- või ülekoormatud.
MLA — tähelepanu, mis mällu mahub
Serveerimiskulu probleemi teine pool on KV-vahemälu, mis kasvab kontekstiga lineaarselt ja domineerib mälu pikkade jadade juures. Multi-head Latent Attention, mida tutvustati DeepSeek-V2-s, surub võtmed ja väärtused ühiselt kokku madala astakuga latentseks vektoriks ning vahemälustab selle, taastades kasutatava K/V lennult. DeepSeeki avaldatud V2 näitajad nende varasema tiheda DeepSeek 67B vastu teatavad 93.3% vähenemisest KV-vahemälus ja 5.76× kõrgemast maksimaalsest genereerimise läbilaskevõimest. Just seepärast on 262K-tokeniline aken selles perekonnas iseenesestmõistetav, mitte lisatasuga lisand.
Hõre tähelepanu — ja odavate tokenite pretsedent
V3.2-Exp lisas DeepSeek Sparse Attentioni: kerge indekseerija hindab kontekstitokeneid päringu vastu ja valija hoiab alles ainult kõige kõrgema skooriga tokenid. Huvitav osa on tšekk, mitte mehhanism. DeepSeek avaldas kõrvutuse V3.1-Terminusega, kus MMLU-Pro oli identne 85.0 juures, AIME 2025 tõusis (88.4 → 89.3), SWE-bench Verified langes napilt (68.4 → 67.8) — sisuliselt tasane kvaliteet — ja nad langetasid samal päeval oma API hindu enam kui 50%. Arhitektuur, ausalt teatatud, muutub otse hinnaks. Flash on see argument üks samm kaugemale viiduna.
V4 põlvkond
V4, mida eelvaadati 2026. aasta aprillis MIT-litsentsi all, asendab tähelepanuvirna taas hübriidiga, milles on Compressed Sparse Attention ja Heavily Compressed Attention, treenib Muon optimeerijaga enam kui 32T tokenil ja hoiab V3 mitme tokeni ennustuse eesmärgi — mis toimib ühtlasi spekulatiivse dekodeerimisena ja mille puhul DeepSeek mõõtis V3-s 85–90% teise tokeni vastuvõtumäära, andes umbes 1.8× dekodeerimiskiirenduse. V4 kokkuvõte teatab, et V4-Pro jookseb 27% juures V3.2 ühe tokeni järeldamise FLOP-idest ja 10% juures tema KV-vahemälust. Perekond pakub kolme arutluspingutuse taset ja just neile meie reasoning_effort parameeter vastendub.
Allikad: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 tehniline aruanne (arXiv 2412.19437) · DeepSeek-V3.2-Exp mudelikaart · DeepSeek-V4 (arXiv 2606.19348). Kõik näitajad on DeepSeeki teatatud.
03Mida „Flash” tegelikult tähendab
See on koht, kus enamik võrdlusi eksib, nii et tasub öelda otse välja: DeepSeeki Flash ei ole kvantiseeritud, kärbitud ega destilleeritud Pro. See on eraldi treenitud väiksem Mixture-of-Experts mudel omaenda eeltreeningujooksuga. V4 eelvaate artikkel annab kaks suurust:
Näitajad DeepSeek-V4 eelvaate artiklist. Ametlikud kontrollpunktid, mida meie serveerime — V4-Flash-0731 ja V4-Pro-0813 — loetlevad oma mudelikaartidel veidi suuremad kogusummad 304B ja 1.7T; DeepSeek ei esita nende ehituste kohta aktiveeritud parameetreid uuesti.
Kaks numbrit teevad siin töö ära. Parameetrite koguarv määrab mälujalajälje, mis otsustab, kui palju riistvara üks mudeli koopia hõivab. Aktiveeritud parameetrid määravad tokenikohase aritmeetika, mis otsustab läbilaskevõime. Flash on esimeses umbes 5.6× väiksem ja teises 3.8× väiksem — ja selles vahes on peenus, mida tasub märgata: Flash aktiveerib 13 miljardit 284-st, umbes 4.6%, samas kui Pro aktiveerib 49 miljardit 1,600-st, umbes 3.1%. Flash on vähem hõre mudel. Ta ei ole lihtsalt Pro, millel on vähem eksperte sisse lülitatud; ta on tihedam, teisiti tasakaalustatud disain, mis kulutab iga toodetud tokeni peale suurema osa iseendast. See on päris insenerivalik, mitte allakäik.
Mida DeepSeeki enda numbrid ütlevad
Mõlemad ametlikud mudelikaardid avaldavad skoorid samadel agentsetel ja tarkvaraarenduse võrdlustestidel, mis teeb sellest ebatavaliselt puhta võrdluse — sama labor, sama hindamisraamistik, kaks suurust:
| Võrdlustest (DeepSeeki teatatud) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
Pro võidab iga rea. See on aus pealkiri ja me eelistame, et sa loed selle siit, mitte ei avasta seda tootmises. Aga loe vahesid, sest just neid sa tegelikult ostad. Terminal Bench 2.1-l on vahe 5.2 punkti mudelil, millel on kahekümne viiendik parameetritest; tööriistakasutusel on see 3.8 punkti. Vahe laieneb seal, kus töö läheb kõige sügavamaks — 8.3 punkti DeepSWE-l, 7.3 NL2Repol, mis mõlemad premeerivad püsivat mitmesammulist koodiarutlust. See ongi vahetuse kuju ühes tabelis: Flash sulgeb piiritletud ülesannetel enamiku vahemaast ja annab lahtiste ülesannete puhul järele.
DeepSeeki enda Flashi kaart teeb selle punkti veelgi teravamaks: Flash-0731 edestab V4-Pro eelvaadet loetletud võrdlustestidel, hoolimata oma palju väiksemast aktiveeritud parameetrite arvust. Uuem väike mudel, kes lööb vanemat suurt, on selles valdkonnas normaalne asjade seis ja just seepärast ei tohiks „suurem tase” kunagi olla sinu vaikevastus.
Märkus konteksti kohta
DeepSeek avaldab V4 perekonna kohta 1M-tokenilise konteksti. Shannon AI lüüs serveerib seda mudelit 262,144 tokeni juures — ühtlane aken kõigil kaheteistkümnel meie kataloogi mudelil ja sama aken, mille sa saad Prol. Me eelistame, et iga nimekirja mudel käituks konteksti osas identselt, selle asemel et sa peaksid iga mudeli id kohta erinevat lage meelde jätma.
04Järelliidet lugedes: W4A16-AUTOROUND-REAP
Meie mudelite id-d ütlevad oma kompressiooniskeemi valjusti välja, sest just see mõjutab väljundi kvaliteeti kõige rohkem ja peaaegu keegi ei avalikusta seda. See laguneb kolmeks väiteks.
W4A16 — 4-bitised kaalud, 16-bitised aktivatsioonid
Kaalud salvestatakse 4 bitiga; aktivatsioonid liiguvad läbi 16-bitise täpsusega. See on ainult kaalude kvantiseerimine ja see sihib tegelikku pudelikaela tokenite genereerimisel, milleks on mälu läbilaskevõime, mitte aritmeetika. Ka aktivatsioonide kvantiseerimine ostaks veidi rohkem kiirust ja riskiks palju suurema täpsuskaljuga; nende jätmine 16 biti juurde on konservatiivne, suure täpsusega valik. Tähistus on serveerimisökosüsteemi lühend — kvantiseerimiskirjandus kirjutab sama asja kui W4 koos grupisuurusega.
AUTOROUND — õpitud ümardamine, mitte lähima ümardamine
Naiivne kvantiseerimine ümardab iga kaalu lähima esitatava väärtuseni. See ei ole tõestatavalt optimaalne: ühe kaalu „valesse” suunda ümardamine võib tühistada vea, mille tõid sisse tema naabrid, ja miljardite kaalude juures domineerivad need vastasmõjud. AutoRound Intelilt käsitleb ümardamisotsust ennast asjana, mida õppida — treenitav kaalukohane häiritus, mis on piiratud vahemikuga ±0.5, täpselt piisav, et pöörata mis tahes üksik ümardamisotsus ja mitte kunagi rohkem, pluss õpitavad kärpimisvahemikud, optimeeritud märgiga gradientlaskumisega plokipõhise väljundi rekonstrueerimise eesmärgi vastu väikesel kalibreerimishulgal. Kakssada sammu, siis valmis.
Inteli avaldatud võrdlustes lööb AutoRound GPTQ-d 30 katsetatud stsenaariumis 32-st, AWQ-d 27-s 32-st ja OmniQuanti 29-s 32-st 4-bitise ainult-kaalude seadistuse juures, kusjuures naiivse lähima ümardamise ees on võit 2 biti juures 6.9 kuni 33.2 täpsuspunkti. Miski sellest ei maksa järeldamise ajal midagi: see on lihtsalt parem numbrivalik, tehtud üks kord, ühenduseta.
REAP — nende ekspertide väljaviskamine, kelleni keegi ei marsruudi
REAP (Router-weighted Expert Activation Pruning) Cerebras Systemsilt ja Calgary ülikoolilt on ühe hoobiga kompressioon MoE mudelitele. See hindab iga eksperti selle järgi, kui tugevalt ja kui sageli ruuter temani väravab, korrutatuna selle eksperdi väljundi suurusjärguga, ning kustutab siis kõige vähem olulised eksperdid lihtsalt ära — ilma hilisema ümbertreenimiseta.
Artikli keskne leid on see kasulik: kõrgete kompressioonisuhete juures võidab ekspertide kärpimine nende ühendamise. Funktsionaalselt erinevate ekspertide ühendamine põhjustab seda, mida autorid nimetavad funktsionaalse alamruumi kollapsiks — ruuter kaotab peeneteralise, sisendist sõltuva juhtimise, mis MoE ehitamise üldse väärt tegi, ja jääb roolima staatiliste keskmiste vahel. Nende numbrid mudelite lõikes 20B-st 1T-ni: 25% ekspertide kompressiooni juures kodeerimisülesannetel kaotab REAP 2.8% keskmisest täpsusest, kus ühendamise algtasemed kaotavad üle 5%; 50% juures kaotab REAP 8.0%, kus ühendamine kaotab üle 20%. Mudelil Qwen3-Coder-480B 50% kärpimise juures on langus 1.4%, naiivse sagedusepõhise kärpimise 39.3% vastu. Cerebras on avaldanud REAP-kontrollpunkte muu hulgas DeepSeeki liinile.
Miks siin 4 bitti ja Prol 3
Mõlemad tasemed peavad mahtuma ja jääma kiireks samas klassis riistvaral. Pro kannab 1.7 triljonit parameetrit, nii et ta vajab üldse mahtumiseks agressiivsemat 3-bitist kohtlemist. Flash kannab umbes 300 miljardit, nii et ta ei vaja — ja bitt, mille ta kokku hoiab, kulutatakse mahtumise asemel täpsusele.
See lisabitt loeb rohkem, kui tema aritmeetika vihjab, sest kvantiseerimiskahju ei ole lineaarne. AWQ artikli WikiText-2 mõõtmistes läheb Llama-2-7B FP16 juures perpleksuselt 5.47 5.60-le 4 biti juures — 2.4% karistus — aga 6.24-le 3 biti juures, 14% karistus. See on umbes kuuekordne halvenemine 25% suurema kompressiooni eest ja sama muster kehtib 70B juures. GPTQ artikkel on veelgi otsesem: 3 biti juures naiivne lähima ümardamine kollapseerub 175B-klassi mudelitel, tuhandete perpleksusteni, jäädes samas 4 biti juures täiesti kasutatavaks. Alla nelja biti lakkab hea kvantiseerimisalgoritm olemast peenus ja muutub ainsaks asjaks, mis mudelit koos hoiab.
Nii et nende kahe järelliide aus lugemine on: Flash on oma kokkusurumata mina lähedal rohkem kui Pro on oma omale. Pro on endiselt tugevam mudel — ülalolev võrdlustabel otsustab selle ära. Ta lihtsalt andis siia jõudmiseks rohkem ära ja sina maksad selle privileegi eest.
Allikad: AutoRound — „Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs” (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — „REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression” (arXiv 2510.13999), Cerebras Systems. Perpleksuse näitajad artiklitest AWQ (arXiv 2306.00978) ja GPTQ (arXiv 2210.17323).
05Flash vs Pro otspunktis
Osa 03 kattis vundamendid. Siin on see, millised need kaks taset meie lüüsis toodetena välja näevad:
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| Kvantiseerimine | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| Kaalude täpsus | 4-bitine, õpitud ümardamine | 3-bitine |
| Vundament (kokku / aktiivne) | ~304B / 13B | ~1.7T / 49B |
| Sisend 1M tokeni kohta | $0.50 | $1.95 |
| Väljund 1M tokeni kohta | $2.00 | $3.90 |
| Kontekst / maks. väljund | 262,144 / 16,384 | 262,144 / 16,384 |
| Tööriistad · struktureeritud väljund · voogedastus | Jah | Jah |
| Nägemine | Ei | Ei |
| Keeldumiskiht | Puudub | Puudub |
Pane tähele, mis ei muutu: kontekst, väljundilagi, tööriistakutsed, struktureeritud väljund ja keeldumiskihi puudumine on identsed. Ainsad asjad, mis liiguvad, on vundament, kvantiseerimine ja hind. See teeb nende vahel vahetamise sinu koodis ühe stringi muutuseks ja sinu arhitektuuris puhtalt majanduslikuks otsuseks.
Mis maksab üks maksimaalse suurusega päring
Täida kogu 262,144-tokeniline kontekst ja võta täielik 16,384-tokeniline väljund:
Hinnakirja hinnaga. Flash: $0.131 sisend + $0.033 väljund. Pro: $0.511 + $0.064. Suhe 3.51×. Flash jagab $0.50 / $2.00 põrandat ka mudelitega MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro ja Hy3 — vaata täielikku kataloogi, et näha, kuidas need nägemise ja struktureeritud väljundi poolest erinevad.
06Mahuarvutus, läbi tehtud
„3.9× odavam” kehtib ainult sisendil. Väljundil on Flash 1.95× odavam. Sinu tegelik kokkuhoid sõltub seega sinu sisendi-väljundi suhtest ja hajuvus on piisavalt lai, et disainiotsuseid muuta. Neli realistlikku koormust, kõik 100,000 päringu juures:
| Koormus | Sisse / välja päringu kohta | Flash | Pro | Kokkuhoid |
|---|---|---|---|---|
| Piletite klassifitseerimine | 1,200 / 120 | $84 | $281 | 3.3× |
| RAG-küsimustele vastamine | 8,000 / 600 | $520 | $1,794 | 3.4× |
| Pika dokumendi kokkuvõte | 60,000 / 1,500 | $3,300 | $12,285 | 3.7× |
| Sünteetiliste andmete genereerimine | 500 / 2,000 | $425 | $878 | 2.1× |
Muster on selline: mida rohkem konteksti sa sisse lükkad ja mida vähem teksti sa toodad, seda rohkem Flash sulle kokku hoiab. Otsingutorustikud, dokumentide sorteerimine, logide ja transkriptsioonide analüüs ning pika kontekstiga ekstraktimine on magus koht — need on suurusjärgu võrra sisendidomineeritud ja just sisendil elab 3.9× allahindlus. Kui sinu koormus on hoopis lühike viip, mis toodab tuhandeid tokeneid proosat, kitseneb vahe umbes 2×-ni ja võimekuse argument Pro kasuks muutub vastavalt tugevamaks.
Veel üks aritmeetikatükk, mida tasub omaks võtta: hinnaga $0.50 miljoni sisendtokeni kohta maksab kogu 262,144-tokenilise akna täitmine 13.1 senti. Selle hinna juures lakkab pika kontekstiga viipamine olemast eelarveküsimus, mis mõnikord tähendab, et sa saad otsingukihi ehitamise üldse vahele jätta ja lasta kontekstiaknal töö ära teha — insenerikokkuhoid tokenikokkuhoiu peale.
07Mida „tsenseerimata” siin täpselt tähendab
Sõna kasutatakse lodevalt, nii et siin on meie määratlus, esitatud otspunkti omadusena: mudeli ees ei ole keeldumisklassifikaatorit ja tema väljundile ei rakendata sisufiltreerimist. Miski ei püüa viipa kinni ega tagasta konservi keeldumist; miski ei uuri lõpetust ega redigeeri seda. Suure mahuga tootmistöö jaoks on tagajärjed vähem dramaatilised ja kasulikumad, kui sõna vihjab:
- Kahjutul liiklusel ei ole valepositiive. Filtreeritud otspunktid keelduvad rutiinselt meditsiinilistest kokkuvõtetest, turvaülevaadetest, õiguslikust tõendite kogumisest, ilukirjandusest, kahju vähendamise materjalist ja modereerimistööst endast — täpselt nendest kategooriatest, kus partiitöö töötleb teksti tundlikust teemast rääkides, mitte ei tooda midagi kahjulikku. Saja tuhande päringu juures on üheprotsendiline valekeeldumise määr tuhat katkist rida.
- Determineeritud lepingud. Küsi
json_schemavastust ja sa saad skeemile vastava JSON-i, mitte lõigu vabandusi seal, kus peaks olema objekt. Sinu parser ei vaja keeldumisharu ja sinu kordusloogika ei pea eristama transpordiviga poliitikaveast. - Poliitika kuulub sulle. See ongi vahetus. Kui sinu toode vajab lõppkasutajate jaoks kaitsepiirdeid, ehitad sa need omaenda kihile, kus sa tunned oma kasutajaid ja oma jurisdiktsiooni, selle asemel et pärida teenusepakkuja oletused mõlema kohta. Sinu kontot reguleerib endiselt meie vastutustundliku kasutuse poliitika.
Tsenseerimata ei ole sama mis joondamata või abitu. Mudel järgib endiselt juhiseid ja austab endiselt süsteemiviipa. Kui sa tahad, et ta keelduks sinu kasutajate jaoks teatud kategooriatest, ütle seda seal — see juhis on nüüd sinu kirjutada, mitte meie peale suruda.
08Võimekused ja ausad piirid
Kaks võimekust kannavad mahutöö juures suurema osa raskusest. Range json_schema väljund muudab lõpetuse andmebaasireaks ilma parsimiskihi ja keeldumisharuta. Tööriistakutsed kõigis kolmes dialektis teevad Flashist mõistliku mootori odavate alamsammude jaoks agendis, mille ülemise taseme planeerija jookseb tugevamal mudelil. Lisa reasoning_effort, mis lubab sul kulutada lisatokeneid ainult sellele liikluse osale, mis neid vajab, ja Proga identne 262,144-tokeniline kontekst — sa ei loovuta odavat taset valides konteksti, mis on ebatavaline.
Piirid on sama konkreetsed:
- Nägemist ei ole. Flash on ainult tekstile ja lükkab sõnumis olevad pildiosad tagasi. Piltide jaoks tsenseerimata mudelil samal $0.50 / $2.00 põrandal on nägemisvõimelised valikud MiniMax-M3 ja MiMo-V2.5; Kimi-K2.6 ja Kimi-K3 on sellest tasemest tugevamad nägemismudelid.
- Mitte redeli tipp. DeepSeeki enda numbrid panevad Pro igal avaldatud agentsel võrdlustestil ette, kusjuures vahe on kõige suurem püsiva mitmesammulise koodiarutluse juures. Kus üks vale vastus maksab rohkem kui tuhat odavat, kuluta see lisa $1.45 miljoni kohta mudelile DeepSeek-V4-Pro.
- 16,384 väljundtokenit päringu kohta. Pikad genereeringud tuleb päringute vahel tükeldada. See on sama lagi igal mudelil, mida me serveerime, ja see hakkab piirama ammu enne kontekstiakent.
09Kutsumine
Suuna mis tahes OpenAI-ga ühilduv klient lüüsile ja muuda mudelistringi. Miski muu sinu virnas ei pea liikuma.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
Sama mudeli id töötab muutmata kujul ka aadressidel /v1/messages ja /v1/responses, mis on kiireim viis odavamat mudelit olemasoleva integratsiooni all A/B-testida ilma klienti ümber kirjutamata. Parameetrid, voogedastuse sündmuste kujud, tööriistakutsete skeemid ja päringupiirangud on dokumenteeritud API viites; iga kataloogi mudel on loetletud Shannon Researchis.
10Korduma kippuvad küsimused
Mis on tsenseerimata DeepSeek Flashi API?
Shannon AI lüüsi otspunkt mudelile DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP: 4-bitine AutoRoundi ehitus DeepSeeki 13B aktiivse parameetriga V4-Flash vundamendist, serveeritud meie enda GPU-klastris ilma keeldumiskihi ja väljundi filtreerimiseta hinnaga $0.50 miljoni sisendtokeni ja $2.00 miljoni väljundtokeni kohta, 262,144-tokenilise kontekstiga.
Kui palju DeepSeek V4 Flash miljoni tokeni kohta maksab?
$0.50 sisend ja $2.00 väljund — Shannoni lüüsi põrandahind. DeepSeek-V4-Pro-0813 on $1.95 ja $3.90, nii et Flash on sisendil 3.9× odavam ja väljundil 1.95× odavam. Kogu 262,144-tokenilise konteksti täitmine maksab Flashil umbes $0.13 ja Prol umbes $0.51.
Kas kasutada DeepSeek V4 Flashi või DeepSeek V4 Prot?
Flashi siis, kui piiranguks on päringute arv: klassifitseerimine, ekstraktimine, kokkuvõtmine, sünteetilised andmed, RAG-vastamine, agendi alamsammud. Prot siis, kui piiranguks on ühe päringu raskus. Flash ei ole halvendatud Pro; ta on väiksem vundament kõrgema täpsusega 4-bitises kvantiseeringus, kus Pro on 1.7T parameetriga vundament 3-bitises.
Kas DeepSeek-V4-Flash-0731 toetab nägemist ja JSON-skeemiga väljundit?
Ta toetab ranget json_schema struktureeritud väljundit ja response_format-i, pluss tööriistakutseid, voogedastust ja reasoning_effort-i. Ta ei võta vastu pildisisendit. Piltide jaoks tsenseerimata mudelil sama põrandahinnaga on nägemisvõimelised valikud MiniMax-M3 ja MiMo-V2.5.
Mida tähendab W4A16-AUTOROUND-REAP?
W4A16 on 4-bitised kaalud 16-bitiste aktivatsioonidega. AutoRound on Inteli õpitud ümardamise meetod, mis optimeerib ümardamisotsuseid märgiga gradientlaskumise abil, selle asemel et ümardada lähima väärtuseni. REAP on Cerebras Systemsi ühe hoobiga ekspertide kärpimine Mixture-of-Experts mudelitele, mis viskab välja kõige vähem marsruuditud eksperdid ilma ümbertreenimiseta.
Kas mudel on tõesti tsenseerimata, ilma keeldumiskihita?
Jah. Mudeli ees ei ole keeldumisklassifikaatorit ja tema väljundile ei rakendata filtreerimist, nii et sa saad mudeli enda jaotuse. See tähendab ka, et sa vastutad ise oma toote turvahoiaku eest ja ehitad kaitsepiirded omaenda kihile; kontot reguleerib endiselt meie vastutustundliku kasutuse poliitika.
Jooksuta oma maht Flashil
$0.50 sisse, $2.00 välja, 262K kontekst, keeldumisi ei ole. Muuda ühte mudelistringi.
Loe API dokumentatsiooni Sirvi kõiki 12 mudelitShannon Lab LLC · New Mexico, USA · reguleerib meie vastutustundliku kasutuse poliitika
Allikad: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 tehniline aruanne (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 ja DeepSeek-V4-Pro-0813 mudelikaardid · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Kõik vundamendi ja võrdlustestide näitajad on sellised, nagu nende vastavad autorid on need avaldanud; Shannon AI hinnad ja serveeritav kontekst on meie enda hinnakirja väärtused 2026. aasta septembri seisuga.