Zentsurarik gabeko DeepSeek Flash APIa

LLM API bat ebaluatzen duten talde gehienek aldagai okerra optimizatzen dute. Bururatzen zaizkien hogei prompt zailenekin egiten dute benchmark, irabazlea aukeratzen dute, eta sei aste geroago konturatzen dira trafikoaren ehuneko laurogeita hamabost lan labur, egituratu eta errepikakorra dela, laurdena kostatzen den eredu batek berdin-berdin kudeatuko zuena. DeepSeek-V4-Flash ehuneko laurogeita hamabost horrentzat dago. Orri hau noiz zauden barruan — eta noiz ez — jakiteari buruzkoa da.

01Zer lortzen duzun benetan

Ezaugarria	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Ereduaren id-a	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Testuingurua / gehieneko irteera	262,144 token / 16,384 token
1M-ko prezioa (sarrera / irteera)	$0.50 / $2.00
Streaming · tresna-deiak · arrazoiketa	Bai — hiru dialektoetan
Egituratutako irteera	json_schema eta response_format
Irudi-sarrera (ikusmena)	Ez — testua soilik
Uko egiteko geruza / irteera-iragazkia	Bat ere ez
Non zerbitzatzen den	Shannon-en GPU kluster propioan

Hiru API dialektok pisu berberak atzitzen dituzte: /v1/chat/completions (OpenAI erakoa), /v1/messages (Anthropic erakoa) eta /v1/responses. Streaminga hiruretan dabil. Parametroen erreferentzia osoa APIaren dokumentazioan dago.

02Nondik datorren: DeepSeek leinua

DeepSeek-AI-k bost eredu-belaunaldi eman ditu obsesio bakar batekin: mugako portaera lortzea zerbitzatzen merkea den eredu batetik, ez soilik entrenatzen merkea denetik. Leinuko ia erabaki arkitektoniko guztiak hortik datoz, eta garrantzitsuenak argitaratuta daude. Hiruk azaltzen dute zer deitzen ari zaren amaiera-puntu hau jotzean.

DeepSeekMoE — aditu xeheak eta partekatutako bat

Mixture-of-Experts geruza batek aurrera-elikatzeko sare handi bat askoz txikiagoekin ordezkatzen du, eta bideratzaile batek token bakoitzeko banaka batzuk hautatzen ditu. DeepSeek-en aldaerak adituak xeheago zatitzen ditu ohiko zortzi adituren diseinuak baino, beraz aktibatutako FLOP berberek nahasketa askoz zehatzagoa erosten dute konbinatorikoki, eta partekatutako aditu bat isolatzen du, token guztiek zeharkatzen dutena, ezagutza komuna espezialista bakoitzaren barruan behin eta berriz ikas ez dadin. DeepSeek-V3-k hori bidali zuen 256 aditu bideratu eta partekatutako aditu 1 gisa, token bakoitzeko 8 bideratu aktibatuz — 671B parametro guztira, 37B aktibo — galera osagarririk gabeko karga-orekarekin batera: kalitatea hondatzen duen zigor-terminoaren ordez, aditu bakoitzeko alborapen batek bideratze-puntuazioak igo edo jaisten ditu urrats bakoitzean, aditu hori gutxiegi edo gehiegi kargatuta dabilen arabera.

MLA — memorian kabitzen den arreta

Zerbitzu-kostuaren arazoaren beste erdia KV cachea da, testuinguruarekin linealki hazten dena eta sekuentzia luzeetan memoria menderatzen duena. Multi-head Latent Attention-ek, DeepSeek-V2-n aurkeztuak, gakoak eta balioak batera konprimatzen ditu heinu txikiko bektore latente batean eta hori gordetzen du cachean, K/V erabilgarria unean bertan berreraikiz. DeepSeek-ek argitaratutako V2 datuek, beren lehenagoko DeepSeek 67B trinkoaren aldean, KV cachean %93.3ko murrizketa eta 5.76× sorkuntza-errendimendu maximo handiagoa jakinarazten dute. Horregatik da 262K tokeneko leihoa oinarrizko ezaugarria familia honetan, eta ez gehigarri premium bat.

Arreta bakana — eta token merkeen aurrekaria

V3.2-Exp-ek DeepSeek Sparse Attention gehitu zuen: indexatzaile arin batek testuinguruko tokenak puntuatzen ditu kontsultaren aurka, eta hautatzaile batek puntuazio altuenekoak baino ez ditu gordetzen. Interesgarriena mekanismoa baino, frogagiria da. DeepSeek-ek V3.1-Terminus-en aldeko konparazio zuzena argitaratu zuen: MMLU-Pro berdin 85.0-n, AIME 2025 gora (88.4 → 89.3), SWE-bench Verified apur bat behera (68.4 → 67.8) — funtsean kalitate lauan — eta egun berean beren APIaren prezioak %50 baino gehiago jaitsi zituzten. Arkitektura, zintzoki jakinarazita, zuzenean preziora bihurtuta. Flash argudio hori urrats bat harago eramatea da.

V4 belaunaldia

V4-k, 2026ko apirilean MIT lizentziapean aurreikusiak, arreta-pila berriro ordezkatzen du Compressed Sparse Attention eta Heavily Compressed Attention hibrido batekin, Muon optimizatzailearekin entrenatzen du 32T token baino gehiagorekin, eta V3-ren token anitzeko iragarpen-helburua mantentzen du — deskodetze espekulatibo gisa ere balio duena, eta DeepSeek-ek V3-n bigarren tokenaren %85–90eko onarpen-tasan neurtu zuena, gutxi gorabehera 1.8× deskodetze-azkartzea emanez. V4-ren laburpenak dio V4-Pro-k V3.2-ren token bakarreko inferentzia-FLOPen %27 eta bere KV cachearen %10 erabiltzen dituela. Familiak arrazoiketa-esfortzuaren hiru maila eskaintzen ditu, eta horiei lotzen zaie gure reasoning_effort parametroa.

Iturriak: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 Technical Report (arXiv 2412.19437) · DeepSeek-V3.2-Exp ereduaren txartela · DeepSeek-V4 (arXiv 2606.19348). Datu guztiak DeepSeek-ek jakinarazitakoak dira.

03Zer esan nahi duen "Flash"-ek benetan

Hemen huts egiten dute konparazio gehienek, beraz argi esatea merezi du: DeepSeek-en Flash ez da Pro kuantizatua, inausia edo distilatua. Bereiz entrenatutako Mixture-of-Experts eredu txikiagoa da, bere aurre-entrenamendu propioarekin. V4-ren aurrerapen-artikuluak bi tamainak ematen ditu:

Datuak DeepSeek-V4 aurrerapen-artikulukoak dira. Zerbitzatzen ditugun txekipuntu ofizialek — V4-Flash-0731 eta V4-Pro-0813 — apur bat handiagoak diren 304B eta 1.7T guztirakoak zerrendatzen dituzte beren ereduen txarteletan; DeepSeek-ek ez ditu eraikuntza horietarako parametro aktibatuak berriro ematen.

Bi zenbakik egiten dute lana hemen. Parametro guztiek memoria-oinatza finkatzen dute, eta horrek erabakitzen du ereduaren kopia batek zenbat hardware hartzen duen. Parametro aktibatuek token bakoitzeko aritmetika finkatzen dute, eta horrek errendimendua erabakitzen du. Flash lehenengoan 5.6× txikiagoa da eta bigarrenean 3.8× txikiagoa — eta alde horretan xehetasun bat dago ohartzeko: Flash-ek 284 mila milioietatik 13 aktibatzen ditu, %4.6 inguru, eta Pro-k 1,600 mila milioietatik 49, %3.1 inguru. Flash da eredu gutxiago bakana. Ez da besterik gabe Pro aditu gutxiago piztuta; diseinu trinkoagoa eta bestela orekatua da, sortzen duen token bakoitzean bere buruaren zati handiagoa gastatzen duena. Ingeniaritza-erabaki erreala da hori, ez beherakada bat.

Zer dioten DeepSeek-en zenbakiek

Bi ereduen txartel ofizialek benchmark agentiko eta software-ingeniaritzako berberetan argitaratzen dituzte puntuazioak, eta horrek konparazio ezohiko garbia egiten du — laborategi bera, ebaluazio-tresna bera, bi tamaina:

Benchmark-a (DeepSeek-ek jakinarazia)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro-k errenkada guztiak irabazten ditu. Hori da titular zintzoa, eta nahiago dugu hemen irakurtzea produkzioan aurkitzea baino. Baina irakur itzazu tarteak, horiek baitira erosten ari zarena. Terminal Bench 2.1-en aldea 5.2 puntukoa da parametroen hogeita bosten bat duen eredu batean; tresna-erabileran 3.8 puntukoa. Aldea zabaldu egiten da lana sakonagoa denean — 8.3 puntu DeepSWE-n, 7.3 NL2Repo-n, biek urrats anitzeko kode-arrazoiketa jarraitua saritzen baitute. Hori da trukearen forma taula bakar batean: Flash-ek distantziaren zatirik handiena ixten du zeregin mugatuetan eta lurra galtzen du irekietan.

DeepSeek-en Flash txartelak are zorrotzago azaltzen du: Flash-0731-ek V4-Pro aurrerapena gainditzen du zerrendatutako benchmark-etan, bere parametro aktibatu askoz gutxiago izanik ere. Eredu txiki berri batek zaharrago handiago bat gainditzea egoera normala da alor honetan, eta horregatik ez luke inoiz "maila handiagoa" izan behar zure erantzun lehenetsia.

04Atzizkia irakurtzen: W4A16-AUTOROUND-REAP

Gure ereduen id-ek beren konpresio-eskema ozen esaten dute, hori baita irteeraren kalitatean gehien eragiten duena eta ia inork ez baitu jakinarazten. Honek hiru baieztapenetan banatzen du.

W4A16 — 4 biteko pisuak, 16 biteko aktibazioak

Pisuak 4 bitean gordetzen dira bakoitza; aktibazioak 16 biteko zehaztasunean igarotzen dira. Hau pisu soileko kuantizazioa da, eta token-sorkuntzako benetako botila-lepoa jotzen du: memoriaren banda-zabalera, ez aritmetika. Aktibazioak ere kuantizatzeak abiadura apur bat gehiago emango luke eta zehaztasun-amildegi askoz handiagoa arriskatuko luke; 16 bitean uztea aukera kontserbadorea eta fideltasun handikoa da. Notazioa zerbitzu-ekosistemaren laburdura da — kuantizazio-literaturak gauza bera idazten du W4 gisa, talde-tamaina batekin.

AUTOROUND — ikasitako biribiltzea, ez hurbilenera biribiltzea

Kuantizazio inuxenteak pisu bakoitza adieraz daitekeen baliorik hurbilenera biribiltzen du. Hori argi eta garbi ez da optimoa: pisu bat "oker" biribiltzeak bere auzokideek sartutako errorea baliogabe dezake, eta mila milioika pisurekin elkarrekintza horiek nagusitzen dira. AutoRound-ek, Intel-ena, biribiltze-erabakia bera ikasteko zerbait balitz bezala tratatzen du — pisu bakoitzeko perturbazio entrenagarri bat ±0.5-era mugatua, biribiltze-erabaki bakar bat iraultzeko adina eta ez gehiago, gehi mozketa-tarte ikasgarriak, zeinu-gradientearen jaitsieraz optimizatuak, kalibrazio-multzo txiki baten gaineko blokeka irteera berreraikitzeko helburuaren aurka. Berrehun urrats, eta kito.

Intel-ek argitaratutako konparazioetan AutoRound-ek GPTQ gainditzen du probatutako 32 eszenatokietatik 30etan, AWQ 32tik 27tan eta OmniQuant 32tik 29tan, 4 biteko pisu soileko konfigurazioetan, eta hurbilenera biribiltze inuxentearen aldean 6.9 eta 33.2 zehaztasun-puntu arteko irabaziak ditu 2 bitean. Ezerk ez du kostatzen inferentzia-garaian: zenbaki-aukera hobea da, behin egina, lineaz kanpo.

REAP — inork bideratzen ez dituen adituak kentzen

REAP (Router-weighted Expert Activation Pruning), Cerebras Systems-ena eta Calgaryko Unibertsitatearena, MoE ereduentzako urrats bakarreko konpresioa da. Aditu bakoitza puntuatzen du bideratzaileak zenbat indarrez eta zenbat aldiz jotzen dion arabera, aditu horren irteeraren magnitudeaz biderkatuta, eta gero garrantzi gutxieneko adituak zuzenean ezabatzen ditu — ondoren berrentrenatu gabe.

Artikuluaren aurkikuntza nagusia da baliagarriena: konpresio-tasa handietan, adituak inaustea haiek batzea baino hobea da. Funtzionalki desberdinak diren adituak batzeak egileek azpiespazio funtzionalaren kolapsoa deitzen dutena eragiten du — bideratzaileak MoE eraikitzea merezi zuen kontrol xehea eta sarreraren araberakoa galtzen du, eta batez besteko estatikoen artean gidatzen geratzen da. Haien datuak 20B-tik 1T-ra bitarteko ereduetan: aditu-konpresioaren %25ean kodetze-zereginetan, REAP-ek batez besteko zehaztasunaren %2.8 galtzen du, batze-oinarriek %5 baino gehiago galtzen duten bitartean; %50ean, REAP-ek %8.0 galtzen du eta batzeak %20 baino gehiago. Qwen3-Coder-480B-n %50eko inausketarekin jaitsiera %1.4koa da, maiztasunean oinarritutako inausketa inuxentearen %39.3ren aldean. Cerebras-ek REAP txekipuntuak argitaratu ditu DeepSeek leinurako, besteak beste.

Zergatik 4 bit hemen eta 3 bit Pro-n

Bi mailek hardware-klase berean kabitu eta azkar mantendu behar dute. Pro-k 1.7 bilioi parametro daramatza, beraz 3 biteko tratamendu oldarkorragoa behar du kabitzeko soilik. Flash-ek 300 mila milioi inguru daramatza, beraz ez du behar — eta aurrezten duen bita fideltasunean gastatzen da, kabitzen barik.

Bit gehigarri horrek bere aritmetikak iradokitzen duena baino gehiago balio du, kuantizazioaren kaltea ez baita lineala. AWQ artikuluaren WikiText-2 neurketetan, Llama-2-7B FP16-ko 5.47 perplexitatetik 5.60-ra igarotzen da 4 bitean — %2.4ko zigorra — baina 6.24-ra 3 bitean, %14ko zigorra. Hori gutxi gorabehera degradazioaren sei halako da %25 konpresio gehiagorengatik, eta eredu bera betetzen da 70B-n. GPTQ artikulua are argiagoa da: 3 bitean, hurbilenera biribiltze inuxenteak kolapsatu egiten du 175B klaseko ereduetan, milaka perplexitateraino, eta 4 bitean guztiz erabilgarri jarraitzen du. Lau bitetik behera, kuantizazio-algoritmo on bat luxua izateari uzten dio eta eredua elkarrekin eusten duen gauza bakarra bihurtzen da.

Beraz, bi atzizki hauen irakurketa zintzoa hau da: Flash bere burua konprimitu gabekotik hurbilago dago Pro berea denetik baino. Pro eredu indartsuagoa da oraindik — goiko benchmark taulak hori erabakitzen du. Besterik gabe, gehiago eman zuen hona iristeko, eta pribilegio horrengatik ordaintzen duzu.

Iturriak: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Perplexitate-datuak AWQ-tik (arXiv 2306.00978) eta GPTQ-tik (arXiv 2210.17323).

05Flash eta Pro amaiera-puntuan

03. atalak oinarriak landu ditu. Hona hemen bi mailak zer diren produktu gisa gure atebidean:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Kuantizazioa	W4A16-AUTOROUND-REAP	3BIT-REAP
Pisuen zehaztasuna	4 bit, ikasitako biribiltzea	3 bit
Oinarria (guztira / aktibo)	~304B / 13B	~1.7T / 49B
Sarrera 1M tokeneko	$0.50	$1.95
Irteera 1M tokeneko	$2.00	$3.90
Testuingurua / gehieneko irteera	262,144 / 16,384	262,144 / 16,384
Tresnak · egituratutako irteera · streaming	Bai	Bai
Ikusmena	Ez	Ez
Uko egiteko geruza	Bat ere ez	Bat ere ez

Ohartu zer ez den aldatzen: testuingurua, irteera-sabaia, tresna-deiak, egituratutako irteera eta uko egiteko geruzarik eza berdinak dira. Aldatzen diren gauza bakarrak oinarria, kuantizazioa eta prezioa dira. Horrek batetik bestera aldatzea kate bakarreko aldaketa bihurtzen du zure kodean eta erabaki erabat ekonomikoa zure arkitekturan.

Zenbat kostatzen den tamaina maximoko dei bat

Bete 262,144 tokeneko testuingurua osorik eta hartu 16,384 tokeneko irteera osoa:

Zerrenda-prezioan. Flash: $0.131 sarrera + $0.033 irteera. Pro: $0.511 + $0.064. Ratioa 3.51×. Flash-ek $0.50 / $2.00 zorua partekatzen du MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro eta Hy3 ereduekin ere — ikus katalogo osoa horiek ikusmenean eta egituratutako irteeran nola desberdintzen diren jakiteko.

06Bolumenaren matematika, eginda

"3.9× merkeagoa" sarreran bakarrik da egia. Irteeran Flash 1.95× merkeagoa da. Zure benetako aurrezpena, beraz, zure sarrera-irteera ratioaren araberakoa da, eta tartea nahikoa zabala da diseinu-erabakiak aldatzeko. Lau lan-karga errealista, bakoitza 100,000 eskaerarekin:

Lan-karga	Sarrera / irteera deiko	Flash	Pro	Aurrezpena
Txartelen sailkapena	1,200 / 120	$84	$281	3.3×
RAG galdera-erantzuna	8,000 / 600	$520	$1,794	3.4×
Dokumentu luzeen laburpena	60,000 / 1,500	$3,300	$12,285	3.7×
Datu sintetikoen sorkuntza	500 / 2,000	$425	$878	2.1×

Eredua: zenbat eta testuinguru gehiago bultzatu eta zenbat eta testu gutxiago sortu, orduan eta gehiago aurrezten dizu Flash-ek. Berreskuratze-kanalizazioak, dokumentuen triaje, log eta transkripzioen analisia eta testuinguru luzeko erauzketa dira puntu gozoa — magnitude-ordena batez sarrerak menderatuak dira, eta sarreran bizi da 3.9×ko deskontua. Aldiz, zure lan-karga prompt labur bat bada milaka tokeneko prosa sortzen duena, tartea 2× ingurura estutzen da eta Pro-ren aldeko gaitasun-argudioa proportzionalki indartzen da.

Barneratzea merezi duen beste kalkulu bat: milioi bat sarrera-tokeneko $0.50-tan, 262,144 tokeneko leiho osoa betetzeak 13.1 zentimo kostatzen du. Testuinguru luzeko prompt-ak aurrekontu-galdera izateari uzten dio prezio horretan, eta horrek batzuetan esan nahi du berreskuratze-geruza bat eraikitzea saihets dezakezula eta testuinguru-leihoari lana egiten utzi — token-aurrezpenaren gainean ingeniaritza-aurrezpena.

07Zer esan nahi duen hemen "zentsurarik gabe", zehazki

Hitza lasai erabiltzen da, beraz hona gure definizioa, amaiera-puntuaren propietate gisa adierazita: ez dago uko egiteko sailkatzailerik ereduaren aurrean, eta ez zaio eduki-iragazketarik aplikatzen bere irteerari. Ezerk ez du prompt bat atzematen ez ukatze inprimaki bat itzultzen; ezerk ez du osaketa aztertzen ez zentsuratzen. Bolumen handiko produkzio-lanerako, ondorioak hitzak iradokitzen duena baino gutxiago dira ikusgarriak eta gehiago baliagarriak:

• Ez dago faltsu positiborik trafiko onberan. Iragazitako amaiera-puntuek maiz uko egiten diete laburpen medikoei, segurtasun-txostenei, lege-aurkikuntzari, fikzioari, kalte-murrizketako materialari eta moderazio-lanari berari — hain zuzen ere lote-lan batek gai sentikor bati buruzko testua prozesatzen duen kategoriak, ezer kaltegarririk sortu gabe. Ehun mila eskaeratan, ehuneko bateko uko faltsuen tasak mila errenkada hausten ditu.
• Kontratu deterministak. Eskatu json_schema erantzun bat eta eskemarekin bat datorren JSONa jasoko duzu, ez barkamen-paragrafo bat objektu bat egon beharko lukeen tokian. Zure parseatzaileak ez du uko-adarrik behar, eta zure berriro saiatzeko logikak ez du garraio-hutsegite bat politika-hutsegite batetik bereizi behar.
• Politika zurea da. Hori da trukea. Zure produktuak azken erabiltzaileentzat babesak behar baditu, zure geruzan eraikitzen dituzu, zure erabiltzaileak eta zure jurisdikzioa ezagutzen dituzun tokian, hornitzaile baten biei buruzko asmakizunak heredatu beharrean. Zure kontua gure Erabilera Arduratsuaren Politikak arautzen jarraitzen du.

Zentsurarik gabekoa ez da lerrokatu gabekoaren edo lagungarri ez denaren berdina. Ereduak jarraibideak jarraitzen ditu oraindik eta sistemako promptari eusten dio. Zure erabiltzaileentzat kategoria batzuei uko egitea nahi baduzu, esan hor — jarraibide hori orain zuk idaztekoa da, ez guk inposatzekoa.

08Gaitasunak eta muga zintzoak

Bi gaitasunek daramate pisurik handiena bolumen-lanean. json_schema irteera zorrotzak osaketa bat datu-base errenkada bihurtzen du parseatze-geruzarik eta uko-adarrik gabe. Hiru dialektoetako tresna-deiek Flash motor zentzuzkoa egiten dute goi-mailako planifikatzailea eredu indartsuago batean dabilen agente baten azpi-urrats merkeetarako. Gehitu reasoning_effort, token gehigarriak behar dituen trafikoaren zatian bakarrik gastatzen uzten dizuna, eta Pro-renaren berdina den 262,144 tokeneko testuingurua — ez duzu testuingurua galtzen maila merkea aukeratzeagatik, eta hori ezohikoa da.

Mugak berdin zehatzak dira:

• Ikusmenik ez. Flash testua soilik da eta mezu batean irudi-zatiak baztertuko ditu. $0.50 / $2.00 zoru berean eredu zentsuragabe batean irudiak nahi badituzu, MiniMax-M3 eta MiMo-V2.5 dira ikusmena duten aukerak; Kimi-K2.6 eta Kimi-K3 maila horren gaineko ikusmen-eredu indartsuagoak dira.
• Ez da eskailerako goia. DeepSeek-en zenbakiek Pro jartzen dute aurretik argitaratutako benchmark agentiko guztietan, aldea zabalena izanik urrats anitzeko kode-arrazoiketa jarraituan. Erantzun oker batek mila merkek baino gehiago kostatzen duen tokian, gastatu milioiko $1.45 gehigarri hori DeepSeek-V4-Pro-n.
• Eskaerako 16,384 irteera-token. Sorkuntza luzeak deien artean zatitu behar dira. Sabai bera da zerbitzatzen dugun eredu guztietan, eta testuinguru-leihoak baino askoz lehenago mugatzen du.

09Nola deitu

Zuzendu OpenAIrekin bateragarria den edozein bezero atebidera eta aldatu ereduaren katea. Zure pilan ez du beste ezerk mugitu behar.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

Ereduaren id berak aldaketarik gabe funtzionatzen du /v1/messages eta /v1/responses deietan, eta hori da eredu merkeago bat lehendik dagoen integrazio baten azpian A/B probatzeko modurik azkarrena, bezeroa berridatzi gabe. Parametroak, streaming gertaeren formak, tresna-deien eskemak eta muga-tasak APIaren erreferentzian daude dokumentatuta; katalogoko eredu guztiak Shannon Research atalean zerrendatzen dira.

10Maiz egiten diren galderak

---

Iturriak: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 Technical Report (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 eta DeepSeek-V4-Pro-0813 ereduen txartelak · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Oinarri eta benchmark datu guztiak beren egileek argitaratutakoak dira; Shannon AI-ren prezioak eta zerbitzatutako testuingurua gure 2026ko iraileko zerrenda-balioak dira.