API de DeepSeek Flash sen censura

A maioría dos equipos que avalían unha API de LLM optimizan a variable equivocada. Fan benchmarks cos vinte prompts máis difíciles que se lles ocorren, escollen o gañador e descobren seis semanas despois que o noventa e cinco por cento do seu tráfico é traballo curto, estruturado e repetitivo que un modelo que custa a cuarta parte tería resolto igual. DeepSeek-V4-Flash existe para ese noventa e cinco por cento. Esta páxina vai de saber cando estás nel — e cando non.

01Que obtés realmente

Propiedade	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
Identificador do modelo	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
Contexto / saída máxima	262,144 tokens / 16,384 tokens
Prezo por 1M (entrada / saída)	$0.50 / $2.00
Streaming · ferramentas · razoamento	Si — nos tres dialectos
Saída estruturada	json_schema e response_format
Entrada de imaxe (visión)	Non — só texto
Capa de negativas / filtro de saída	Ningunha
Servido en	O propio clúster de GPU de Shannon

Tres dialectos de API chegan aos mesmos pesos: /v1/chat/completions (con forma de OpenAI), /v1/messages (con forma de Anthropic) e /v1/responses. O streaming funciona nos tres. A referencia completa de parámetros está na documentación da API.

02De onde vén: a liñaxe DeepSeek

DeepSeek-AI leva cinco xeracións de modelos cunha soa obsesión: sacar comportamento de fronteira dun modelo que sexa barato de servir, e non simplemente barato de adestrar. Case todas as decisións arquitectónicas da liña remontan a iso, e as importantes están publicadas. Tres explican o que estás a chamar cando pegas neste endpoint.

DeepSeekMoE — expertos de gran fino máis un compartido

Unha capa de Mestura de Expertos substitúe unha rede feed-forward grande por moitas máis pequenas e un enrutador que selecciona un puñado por token. A variante de DeepSeek corta os expertos máis fino ca a disposición convencional de oito expertos, así que os mesmos FLOPs activados compran unha mestura combinatoriamente moito máis específica, e illa un experto compartido polo que pasan todos os tokens, de xeito que o coñecemento común non se reaprende de forma redundante dentro de cada especialista. DeepSeek-V3 saíu con 256 expertos enrutados máis 1 experto compartido, activando 8 enrutados por token — 671 mil millóns de parámetros totais, 37 mil millóns activos — xunto cun balanceo de carga sen perda auxiliar: en vez dun termo de penalización que degrada a calidade, un nesgo por experto empurra as puntuacións de enrutamento arriba ou abaixo en cada paso segundo ese experto vaia infracargado ou sobrecargado.

MLA — atención que cabe en memoria

A outra metade do problema do custo de servizo é a caché KV, que medra linealmente co contexto e domina a memoria en secuencias longas. A atención latente multicabeza, introducida en DeepSeek-V2, comprime claves e valores conxuntamente nun vector latente de rango baixo e cachea iso, reconstruíndo K/V utilizables sobre a marcha. As cifras publicadas por DeepSeek para V2, fronte ao seu anterior DeepSeek 67B denso, informan dunha redución do 93.3% na caché KV e dun rendemento máximo de xeración 5.76× maior. Por iso unha xanela de 262K tokens é o mínimo nesta familia e non un engadido premium.

Atención dispersa — e o precedente dos tokens baratos

V3.2-Exp engadiu a DeepSeek Sparse Attention: un indexador lixeiro puntúa os tokens do contexto fronte á consulta, e un selector queda só cos mellor puntuados. O interesante é o recibo, non o mecanismo. DeepSeek publicou unha comparativa directa con V3.1-Terminus con MMLU-Pro idéntico en 85.0, AIME 2025 á alza (88.4 → 89.3) e SWE-bench Verified marxinalmente á baixa (68.4 → 67.8) — calidade esencialmente plana — e recortou os prezos da súa API en máis dun 50% ese mesmo día. Arquitectura, informada con honestidade, convertida directamente en prezo. Flash é ese argumento levado un paso máis alá.

A xeración V4

V4, presentada en abril de 2026 baixo licenza MIT, substitúe de novo a pila de atención por un híbrido de Compressed Sparse Attention e Heavily Compressed Attention, adéstrase co optimizador Muon con máis de 32 billóns de tokens e conserva o obxectivo de predición multitoken de V3 — que serve tamén como decodificación especulativa e que DeepSeek mediu cunha taxa de aceptación do segundo token do 85–90% para unha aceleración de decodificación de arredor de 1.8× en V3. O resumo de V4 informa de que V4-Pro funciona co 27% dos FLOPs de inferencia por token de V3.2 e co 10% da súa caché KV. A familia expón tres niveis de esforzo de razoamento, que é ao que se corresponde o noso parámetro reasoning_effort.

Fontes: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · informe técnico de DeepSeek-V3 (arXiv 2412.19437) · ficha do modelo DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348). Todas as cifras están informadas por DeepSeek.

03Que significa "Flash" realmente

Este é o punto no que máis comparacións se equivocan, así que paga a pena dicilo sen rodeos: o Flash de DeepSeek non é un Pro cuantizado, podado ou destilado. É un modelo Mestura de Expertos máis pequeno adestrado por separado, co seu propio preadestramento. O artigo de presentación de V4 dá os dous tamaños:

Cifras do artigo de presentación de DeepSeek-V4. Os puntos de control oficiais que servimos — V4-Flash-0731 e V4-Pro-0813 — listan totais lixeiramente maiores de 304B e 1.7T nas súas fichas de modelo; DeepSeek non volve indicar os parámetros activados para esas compilacións.

Dúas cifras fan aquí todo o traballo. Os parámetros totais fixan a pegada de memoria, que decide canto hardware ocupa unha copia do modelo. Os parámetros activados fixan a aritmética por token, que decide o rendemento. Flash é arredor de 5.6× máis pequeno na primeira e 3.8× máis pequeno na segunda — e hai unha sutileza que convén notar nesa diferenza: Flash activa 13 dos 284 mil millóns de parámetros, arredor do 4.6%, mentres que Pro activa 49 dos 1,600 mil millóns, arredor do 3.1%. Flash é o modelo menos disperso. Non é simplemente Pro con menos expertos acendidos; é un deseño máis denso e equilibrado doutro xeito que gasta unha porción maior de si mesmo en cada token que produce. Iso é unha escolla de enxeñaría real, non unha rebaixa.

Que din as propias cifras de DeepSeek

As dúas fichas de modelo oficiais publican puntuacións nos mesmos benchmarks de axentes e de enxeñaría do software, o que fai desta unha comparación inusualmente limpa — o mesmo laboratorio, o mesmo arnés de avaliación, dous tamaños:

Benchmark (informado por DeepSeek)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

Pro gaña en todas as filas. Ese é o titular honesto, e preferimos que o leas aquí a que o descubras en produción. Pero le as marxes, porque son o que estás realmente a mercar. En Terminal Bench 2.1 a distancia é de 5.2 puntos nun modelo cunha vixésimo quinta parte dos parámetros; no uso de ferramentas é de 3.8 puntos. A distancia ensánchase onde o traballo se fai máis profundo — 8.3 puntos en DeepSWE, 7.3 en NL2Repo, que premian ambos o razoamento sostido sobre código en varios pasos. Esa é a forma do intercambio nunha soa táboa: Flash pecha a maior parte da distancia nas tarefas acoutadas e cede terreo nas abertas.

A propia ficha de Flash de DeepSeek afina aínda máis a idea: Flash-0731 supera a versión previa de V4-Pro nos benchmarks listados a pesar do seu reconto de parámetros activados moito menor. Que un modelo pequeno novo lle gañe a un grande vello é o estado normal das cousas neste campo, e é a razón pola que "o nivel máis grande" nunca debería ser a túa resposta por defecto.

04Ler o sufixo: W4A16-AUTOROUND-REAP

Os nosos identificadores de modelo declaran o seu esquema de compresión en alto, porque é o que máis afecta á calidade da saída e case ninguén o revela. Este descomponse en tres afirmacións.

W4A16 — pesos de 4 bits, activacións de 16 bits

Os pesos almacénanse a 4 bits cada un; as activacións flúen con precisión de 16 bits. Esta é cuantización só de pesos, e apunta ao verdadeiro pescozo de botella na xeración de tokens, que é o largo de banda de memoria e non a aritmética. Cuantizar tamén as activacións compraría un pouco máis de velocidade a risco dun despeñadeiro de precisión moito maior; deixalas a 16 bits é a opción conservadora e de alta fidelidade. A notación é abreviatura do ecosistema de servizo — a literatura de cuantización escribe o mesmo como W4 cun tamaño de grupo.

AUTOROUND — redondeo aprendido, non redondeo ao máis próximo

A cuantización inxenua redondea cada peso ao valor representable máis próximo. Iso demostradamente non é óptimo: redondear un peso na dirección "equivocada" pode cancelar o erro introducido polos seus veciños, e con miles de millóns de pesos esas interaccións dominan. AutoRound, de Intel, trata a propia decisión de redondeo como algo que se pode aprender — unha perturbación por peso adestrable restrinxida a ±0.5, xusto o abondo para dar a volta a calquera decisión de redondeo e nunca máis, máis rangos de recorte aprendibles, optimizado por descenso de gradiente con signo contra un obxectivo de reconstrución da saída por bloques sobre un pequeno conxunto de calibración. Douscentos pasos, e listo.

As comparacións publicadas por Intel poñen a AutoRound por diante de GPTQ en 30 de 32 escenarios probados, de AWQ en 27 de 32 e de OmniQuant en 29 de 32 en configuracións de 4 bits só de pesos, con ganancias sobre o redondeo inxenuo ao máis próximo de 6.9 a 33.2 puntos de precisión a 2 bits. Nada diso custa nada no momento da inferencia: é unha mellor escolla de números, feita unha vez, fóra de liña.

REAP — eliminar os expertos aos que ninguén enruta

REAP (Router-weighted Expert Activation Pruning), de Cerebras Systems e da Universidade de Calgary, é compresión dun só paso para modelos MoE. Puntúa cada experto pola forza e a frecuencia con que o enrutador o activa, multiplicado pola magnitude da saída dese experto, e despois elimina de vez os expertos menos salientables — sen readestramento posterior.

O achado central do artigo é o útil: con proporcións de compresión altas, podar expertos gaña a fusionalos. Fusionar expertos funcionalmente distintos provoca o que os autores chaman colapso do subespazo funcional — o enrutador perde o control de gran fino e dependente da entrada que fixo que valese a pena construír a MoE, e queda dirixindo entre medias estáticas. As súas cifras en modelos de 20 mil millóns a 1 billón de parámetros: cun 25% de compresión de expertos en tarefas de programación, REAP perde un 2.8% de precisión media onde as liñas base de fusión perden máis dun 5%; ao 50%, REAP perde un 8.0% onde a fusión perde máis dun 20%. En Qwen3-Coder-480B cun 50% de poda a caída é do 1.4%, fronte ao 39.3% da poda inxenua baseada na frecuencia. Cerebras publicou puntos de control REAP para a liña de DeepSeek, entre outras.

Por que 4 bits aquí e 3 bits en Pro

Os dous niveis teñen que caber e manterse rápidos na mesma clase de hardware. Pro leva 1.7 billóns de parámetros, así que precisa o tratamento máis agresivo de 3 bits para caber sequera. Flash leva arredor de 300 mil millóns, así que non — e o bit que aforra gástase en fidelidade en vez de en caber.

Ese bit de máis importa máis do que suxire a súa aritmética, porque o dano da cuantización non é lineal. Nas medicións sobre WikiText-2 do artigo de AWQ, Llama-2-7B pasa de 5.47 de perplexidade en FP16 a 5.60 a 4 bits — unha penalización do 2.4% — pero a 6.24 a 3 bits, unha penalización do 14%. Iso é arredor de seis veces a degradación por un 25% máis de compresión, e o mesmo patrón mantense en 70B. O artigo de GPTQ é aínda máis rotundo: a 3 bits, o redondeo inxenuo ao máis próximo colapsa en modelos da clase de 175B, ata os milleiros de perplexidade, mentres que segue perfectamente utilizable a 4 bits. Por debaixo de catro bits, un bo algoritmo de cuantización deixa de ser un detalle e pasa a ser o único que mantén o modelo enteiro.

Así que a lectura honesta destes dous sufixos é: Flash está máis preto do seu propio eu sen comprimir do que Pro está do seu. Pro segue sendo o modelo máis forte — a táboa de benchmarks de arriba resólveo. Simplemente renunciou a máis para chegar aquí, e ti pagas polo privilexio.

Fontes: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. Cifras de perplexidade de AWQ (arXiv 2306.00978) e GPTQ (arXiv 2210.17323).

05Flash fronte a Pro no endpoint

A sección 03 cubriu as bases. Isto é o que semellan os dous niveis como produtos na nosa pasarela:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
Cuantización	W4A16-AUTOROUND-REAP	3BIT-REAP
Precisión dos pesos	4 bits, redondeo aprendido	3 bits
Base (totais / activos)	~304B / 13B	~1.7T / 49B
Entrada por 1M de tokens	$0.50	$1.95
Saída por 1M de tokens	$2.00	$3.90
Contexto / saída máxima	262,144 / 16,384	262,144 / 16,384
Ferramentas · saída estruturada · streaming	Si	Si
Visión	Non	Non
Capa de negativas	Ningunha	Ningunha

Fíxate no que non cambia: o contexto, o teito de saída, a chamada de ferramentas, a saída estruturada e a ausencia de capa de negativas son idénticos. O único que se move é a base, a cuantización e o prezo. Iso converte o cambio dun a outro nunha modificación dunha cadea no teu código e nunha decisión puramente económica na túa arquitectura.

Canto custa unha chamada de tamaño máximo

Enche o contexto enteiro de 262,144 tokens e leva a saída completa de 16,384 tokens:

A prezo de lista. Flash: $0.131 de entrada + $0.033 de saída. Pro: $0.511 + $0.064. Proporción 3.51×. Flash tamén comparte o chan de $0.50 / $2.00 con MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro e Hy3 — mira o catálogo completo para ver en que difiren en visión e saída estruturada.

06A aritmética do volume, feita

"3.9× máis barato" só é certo na entrada. Na saída Flash é 1.95× máis barato. O teu aforro real depende, xa que logo, da túa proporción entre entrada e saída, e a forquita é o bastante ampla como para cambiar decisións de deseño. Catro cargas de traballo realistas, cada unha con 100,000 peticións:

Carga de traballo	Entrada / saída por chamada	Flash	Pro	Aforro
Clasificación de tickets	1,200 / 120	$84	$281	3.3×
Resposta a preguntas con RAG	8,000 / 600	$520	$1,794	3.4×
Resumo de documentos longos	60,000 / 1,500	$3,300	$12,285	3.7×
Xeración de datos sintéticos	500 / 2,000	$425	$878	2.1×

O patrón: canto máis contexto empurres e menos texto xeres, máis che aforra Flash. As canalizacións de recuperación, a triaxe de documentos, a análise de rexistros e transcricións e a extracción de contexto longo son o punto doce — están dominadas pola entrada nunha orde de magnitude, e a entrada é onde vive o desconto de 3.9×. Se, pola contra, a túa carga é un prompt curto que produce miles de tokens de prosa, a distancia estréitase ata arredor de 2× e o argumento de capacidade a favor de Pro reforzase en consecuencia.

Outra peza de aritmética que convén interiorizar: a $0.50 por millón de tokens de entrada, encher a xanela enteira de 262,144 tokens custa 13.1 céntimos. A ese prezo, escribir prompts de contexto longo deixa de ser unha cuestión de orzamento, o que ás veces significa que podes saltar por completo a construción dunha capa de recuperación e deixar que a xanela de contexto faga o traballo — un aforro de enxeñaría por riba do aforro en tokens.

07Que significa aquí "sen censura", con precisión

A palabra úsase á lixeira, así que velaquí a nosa definición, formulada como unha propiedade do endpoint: non hai clasificador de negativas diante do modelo nin filtrado de contido aplicado á súa saída. Nada intercepta un prompt para devolver unha negativa enlatada; nada inspecciona a completación para censurala. Para o traballo en produción de alto volume as consecuencias son menos dramáticas e máis útiles do que a palabra suxire:

• Sen falsos positivos en tráfico inocuo. Os endpoints filtrados rexeitan habitualmente resumos médicos, informes de seguridade, revelación de probas xurídicas, ficción, material de redución de danos e o propio traballo de moderación — precisamente as categorías nas que un traballo por lotes procesa texto sobre un tema sensible en vez de producir nada daniño. Con cen mil peticións, unha taxa de falsas negativas do un por cento son mil filas rotas.
• Contratos deterministas. Pide unha resposta con json_schema e obtés JSON que cumpre o esquema, non un parágrafo de desculpas onde debería ir un obxecto. O teu analizador non precisa unha rama de negativa, e a túa lóxica de reintento non ten que distinguir un fallo de transporte dun de política.
• A política é túa. Ese é o intercambio. Se o teu produto precisa proteccións para os teus usuarios finais, constrúelas na túa capa, onde coñeces os teus usuarios e a túa xurisdición, en vez de herdar as suposicións dun provedor sobre ambas as dúas. A túa conta segue rexida pola nosa Política de Uso Responsable.

Sen censura non é o mesmo ca sen aliñar ou pouco útil. O modelo segue seguindo instrucións e segue respectando un prompt de sistema. Se queres que rexeite certas categorías para os teus usuarios, dillo aí — esa instrución agora escríbela ti en vez de impoñela nós.

08Capacidades e límites honestos

Dúas capacidades levan case todo o peso do traballo a volume. A saída estrita en json_schema converte unha completación nunha fila de base de datos sen capa de análise e sen rama de negativa. A chamada de ferramentas nos tres dialectos fai de Flash un motor sensato para os subpasos baratos dun axente cuxo planificador de alto nivel corre nun modelo máis forte. Engade reasoning_effort, que che permite gastar tokens extra só na fracción de tráfico que os precisa, e un contexto de 262,144 tokens idéntico ao de Pro — non renuncias ao contexto por escoller o nivel barato, o que é pouco habitual.

Os límites son igual de concretos:

• Sen visión. Flash é só de texto e rexeitará as partes de imaxe dunha mensaxe. Para imaxes nun modelo sen censura ao mesmo chan de $0.50 / $2.00, MiniMax-M3 e MiMo-V2.5 son as opcións con visión; Kimi-K2.6 e Kimi-K3 son modelos de visión máis fortes por riba dese nivel.
• Non é o cume da escaleira. As propias cifras de DeepSeek poñen a Pro por diante en todos os benchmarks de axentes publicados, coa distancia máis ampla no razoamento sostido sobre código en varios pasos. Onde unha resposta errada custa máis ca mil baratas, gasta os $1.45 de máis por millón en DeepSeek-V4-Pro.
• 16,384 tokens de saída por petición. As xeracións longas hai que trocealas en varias chamadas. Este é o mesmo teito en todos os modelos que servimos, e chega antes ca o da xanela de contexto.

09Como chamalo

Apunta calquera cliente compatible con OpenAI á pasarela e cambia a cadea do modelo. Non hai que mover nada máis na túa pila.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

O mesmo identificador de modelo funciona sen cambios en /v1/messages e /v1/responses, que é a forma máis rápida de facer un A/B cun modelo máis barato baixo unha integración existente sen reescribir o teu cliente. Os parámetros, as formas dos eventos de streaming, os esquemas de chamada de ferramentas e os límites de taxa están documentados na referencia da API; todos os modelos do catálogo están listados en Shannon Research.

10Preguntas frecuentes

---

Fontes: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · informe técnico de DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · fichas dos modelos DeepSeek-V4-Flash-0731 e DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). Todas as cifras de base e de benchmark son as publicadas polos seus respectivos autores; os prezos de Shannon AI e o contexto servido son valores de lista propios vixentes en setembro de 2026.