L'API de Nemotron sense censura
El pedigrí de recerca d'NVIDIA, publicat obertament i servit sense capa de refús: una MoE híbrida Mamba-Atenció de 550B afinada per a STEM i raonament d'horitzó llarg — a 0,75 $ d'entrada / 3,30 $ de sortida per milió de tokens.
TL;DR
Nemotron3Ultra-3BIT-REAP és el desplegament sense censura que Shannon fa del Nemotron 3 Ultra d'NVIDIA — un model Mixture-of-Experts de 550 mil milions de paràmetres amb 55B actius per token, publicat el 4 de juny de 2026 amb els pesos, les dades d'entrenament i les receptes sota la llicència permissiva OpenMDW-1.1 de la Linux Foundation. Al nostre propi clúster de GPU s'executa sense capa de refús i sense filtratge de la sortida, amb un context de 262.144 tokens, fins a 16.384 tokens de sortida per petició, crides a eines, streaming, traces de raonament i sortida estricta json_schema. No accepta imatges. Preu: 0,75 $ / 3,30 $ per 1M de tokens.
La majoria de models «oberts» ho són de pesos i de res més: un paquet de paràmetres, una llicència i silenci sobre d'on van sortir les xifres. Nemotron fa dos anys que és l'excepció constant: NVIDIA publica els pesos, els conjunts de dades de postentrenament, els entorns d'RL i la recepta. Això importa per a un extrem sense censura d'una manera que és fàcil de passar per alt. Un model les dades d'alineament del qual són públiques és un model sobre el comportament de refús del qual pots raonar en lloc d'endevinar-lo — i un model que un tercer pot desplegar legítimament sense un filtre de contingut cargolat a la boca.
01Què és Nemotron 3 Ultra?
Nemotron 3 Ultra és el membre més gran de la família Nemotron 3 d'NVIDIA, publicat a Hugging Face el 4 de juny de 2026. L'informe tècnic d'NVIDIA el descriu com «un model de llenguatge Mixture-of-Experts híbrid Mamba-Atenció de 550 mil milions de paràmetres totals i 55 mil milions d'actius» — aproximadament un 10% de la xarxa treballa en un token qualsevol, que és el que fa que un model de mig bilió de paràmetres sigui servible.
La disposició reportada és de 108 capes amb una dimensió de model de 8.192, intercalant capes d'espai d'estats Mamba-2 amb un conjunt escàs de capes d'atenció completa, i 512 experts per capa MoE amb encaminament top-22. El preentrenament va córrer sobre uns 20 bilions de tokens de text en dues fases — primer esbiaixada cap a la diversitat, després cap a la qualitat — amb un tall de setembre de 2025, 12 llengües naturals i 43 llenguatges de programació. El postentrenament va fer servir SFT, RL en múltiples entorns amb recompenses verificables i destil·lació on-policy amb múltiples mestres a partir de més de deu mestres especialistes. L'objectiu de disseny declarat són els agents de llarga durada: sessions que sostenen un context gran, criden eines dotzenes de vegades i duren prou perquè l'economia per token domini la factura.
02El llinatge Nemotron, i per què el pedigrí importa
Nemotron no és un cas aïllat. És el resultat visible d'un programa de recerca d'NVIDIA que va en la mateixa direcció des del 2024, i cada generació hi ha deixat alguna cosa que el model actual encara arrossega. Nemotron-4 340B (juny de 2024) va arribar amb una canonada oberta de generació de dades sintètiques, el seu model de recompensa i el seu generador, més una revelació poc habitual: la immensa majoria de les seves dades d'alineament les havia generat un model. El model com a fàbrica de dades més que no pas com a oracle és la raó per la qual les publicacions posteriors de Nemotron continuen incloent conjunts de dades al costat dels pesos.
Llama-Nemotron — raonament que pots apagar
La família Llama-Nemotron del 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) va aportar dues idees que han envellit bé. La primera era arquitectònica: la cerca d'arquitectures neuronals Puzzle d'NVIDIA va construir una biblioteca de blocs de transformer destil·lats bloc a bloc i els va assemblar amb programació entera mixta, produint models on alguns blocs se salten completament l'atenció o la substitueixen per una sola capa lineal, mentre que la FFN Fusion col·lapsava blocs feed-forward consecutius en menys blocs, més amples i paral·lels — retallant profunditat seqüencial en lloc de nombre de paràmetres. LN-Ultra cabia en un sol node de 8×H100 mentre, segons l'article d'NVIDIA, superava DeepSeek-R1 a GPQA-Diamond (76,0% contra 71,5%).
La segona era de comportament: Llama-Nemotron va ser la primera família oberta amb un interruptor de raonament dinàmic, etiquetant les dades d'entrenament amb detailed thinking on o detailed thinking off a la instrucció de sistema, amb recompenses de format que imposaven etiquetes <think> en el mode encès. Un sol joc de pesos, dos comportaments, seleccionables en temps d'inferència. El control del pressupost de raonament de Nemotron 3 — i el paràmetre reasoning_effort de la nostra API — descendeixen directament d'aquella feina.
Nemotron 3 — el gir híbrid
Nemotron 3 va substituir la derivació de Llama per una arquitectura híbrida feta de zero i hi va afegir LatentMoE (comprimir els tokens abans d'encaminar-los, cosa que segons NVIDIA permet «4 vegades més experts pel mateix cost d'inferència»), predicció multitoken i preentrenament natiu en NVFP4. NVIDIA va publicar un acumulat de 50 milions de mostres d'SFT, 2 milions de tasques d'RL i 55 entorns d'RL al costat dels pesos — no has de creure't la paraula d'un fabricant sobre què li van ensenyar al model, perquè el material didàctic és descarregable.
03Què et compra l'arquitectura híbrida
La memòria cau KV d'un transformer creix linealment amb la longitud de la seqüència, que és per què la inferència de context llarg es fa cara en memòria abans que en còmput. Les capes Mamba-2 són models d'espai d'estats que porten un estat recurrent de mida fixa, de manera que el seu cost de memòria per token no creix amb la història; en el que són dolentes és en el record associatiu precís. La hibridació manté Mamba-2 per al gruix del processament de la seqüència més una minoria de capes d'atenció real per al record que les capes d'espai d'estats espifien, amb una ràtio agressiva de 64 caps de consulta per 2 caps KV que encongeix encara més la memòria cau. NVIDIA reporta un 94,7% a RULER amb un milió de tokens — un benchmark d'agulla al paller construït per enxampar models que anuncien una finestra que no poden fer servir.
La conseqüència és el rendiment: NVIDIA afirma fins a uns 6× més rendiment d'inferència que models comparables amb una precisió a la par, i Artificial Analysis va mesurar de manera independent 140,3 tokens per segon amb 1,33 segons fins al primer token — 7è de 89 models. En una execució d'agent de 200 torns, això és la diferència entre acabar en una tarda i no acabar.
04Què vol dir «3BIT-REAP», honestament
El sufix no és decoració — et diu exactament què se li ha fet a la base perquè hi càpiga.
REAP — Router-weighted Expert Activation Pruning — ve de Cerebras Research i va ser acceptat a ICLR 2026. En una MoE esparsa el router envia cada token a un grapat d'experts; al llarg d'una càrrega de treball real, alguns es toquen constantment i d'altres gairebé mai. REAP puntua cada expert amb un criteri de rellevància que combina amb quina força l'obre el router i quant de grans són les seves contribucions de sortida, i després elimina directament els menys rellevants — Cerebras reporta la poda de fins al 50% dels experts en models de fins a 1 bilió de paràmetres tot preservant en bona mesura la qualitat de referència, i troba que per a tasques generatives com el codi, podar supera fusionar. La quantització a 3 bits comprimeix després el que sobreviu. Primer podar, després quantitzar, de manera que el pressupost de bits va als experts que porten trànsit en lloc d'escampar-se pels que són morts.
La compressió no és gratuïta, i no farem veure el contrari: la quantització agressiva apareix primer com a petites degradacions en el compliment exacte del format i en l'aritmètica de cadena llarga, no com a incoherència visible. On queda cadascun dels tres nivells:
| Sufix | Què és | On el fem servir |
|---|---|---|
| 3BIT-REAP | Pesos de 3 bits + poda d'experts | Les bases més grans, on res més no hi cap amb velocitat |
| W4A16-AUTOROUND-REAP | Pesos de 4 bits / activacions de 16 bits, arrodoniment après d'AutoRound, + poda | Bases de mida mitjana; AutoRound recupera precisió respecte de l'arrodoniment ingenu al més proper |
| W8A16 | Pesos de 8 bits / activacions de 16 bits | Màxima fidelitat; bases prou petites per no necessitar compressió agressiva |
Nemotron 3 Ultra, amb 550B, cau de ple a la primera categoria. Si la teva càrrega de treball és inusualment sensible a la sortida numèrica exacta en cadenes llargues, l'índex de recerca llista el nivell W8A16 — MiMo-V2.5-Pro-W8A16 i Hy3-W8A16 — al terra de 0,50 $/2,00 $. Un intercanvi real, no un embut: model més petit, menys compressió.
05Què vol dir «sense censura» en aquest extrem
Concretament: no hi ha cap capa de refús ni cap filtratge de contingut aplicat a la sortida. Cap classificador inspecciona el teu prompt per retornar-te una negativa enllaunada, i la resposta no s'escaneja abans d'arribar al teu flux. El que obtens és el comportament propi del model.
Aquí és on el llinatge obert deixa de ser una curiositat. Com que NVIDIA va publicar les dades de postentrenament i els entorns d'RL, les disposicions del model són auditables en principi en lloc de ser folklore. I com que OpenMDW-1.1 és una llicència permissiva de la Linux Foundation que cobreix arquitectura, paràmetres, documentació i programari, un operador independent pot servir un desplegament modificat i sense filtre al seu propi maquinari sense que la llicència sigui l'obstacle. Moltes llicències de models «oberts» no ho permeten. Aquesta sí. La diferència es nota allà on el refús reflex és un defecte, no una funció de seguretat:
- Recerca en seguretat — anàlisi de vulnerabilitats, raonament sobre exploits, comportament de programari maliciós, eines de red team, sense haver de discutir si la pregunta està permesa.
- Química, biologia i farmacologia — càlculs de dosi, mecanismes de reacció, toxicologia, rutes de síntesi que un extrem filtrat rebutja per simple contacte amb una paraula clau.
- Aprenentatge automàtic adversari — negatius difícils, corpus de jailbreaks i taxonomies d'abús per a classificadors que necessiten haver vist la cosa real.
- Text clínic, jurídic i forense — material de casos que és cru per naturalesa i que es refusa exactament per això.
Sense censura no vol dir sense responsabilitat. El que generes és teu, i la nostra Política d'ús responsable i les Condicions del servei regeixen el compte. Treure una capa de refús treu una conjectura sobre la intenció; no treu les teves obligacions sota la llei que se't aplica.
06STEM i raonament: què diuen les xifres publicades
El focus d'entrenament de Nemotron han estat les matemàtiques, el codi, la ciència i el seguiment d'instruccions des que el conjunt de dades de postentrenament de Llama-Nemotron es va construir precisament al voltant d'aquests quatre eixos. El que NVIDIA reporta per a la base Nemotron 3 Ultra — xifres reportades pel fabricant sobre el model sense comprimir, que no hem executat nosaltres:
Dues advertències valen més que les xifres. La dada d'SWE-Bench Verified és un rang — NVIDIA reporta del 65,0% al 70,4% segons quina bastida d'agent l'executi (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), i una diferència de cinc punts deguda només a la bastida mostra fins a quin punt les puntuacions agèntiques depenen de l'arnès i no del model. I Artificial Analysis va situar Nemotron 3 Ultra en un 48 al seu Intelligence Index, 9è de 89 models — fort, no al capdamunt del camp, i la seva mesura independent és la que ponderaríem per damunt de la diapositiva de qualsevol fabricant.
Sobre la generació anterior, l'article de Llama-Nemotron d'NVIDIA reporta LN-Ultra amb un 76,0% a GPQA-Diamond contra el 71,5% de DeepSeek-R1 i el 43,4% de Llama-3.1-405B-Instruct, més un 80,8% a AIME 2024 — un model diferent, inclòs perquè la ciència de nivell de postgrau i les matemàtiques de competició fa dues generacions que són l'objectiu de la família.
Totes les xifres d'aquí les publica algú que no som nosaltres. Comprova tu mateix les fonts primàries.
Xifres de benchmark tal com les publica NVIDIA (juny de 2026) sobre el Nemotron 3 Ultra sense comprimir, i Artificial Analysis per a les mesures independents. Les compilacions comprimides poden diferir. No publiquem xifres de benchmark que no hàgim verificat o que no puguem atribuir.
07Preu, i l'advertència sobre la verbositat
A 0,75 $ per milió de tokens d'entrada i 3,30 $ per milió de tokens de sortida, Nemotron3Ultra se situa al terç inferior del nostre catàleg en entrada i al mig en sortida. Exemples treballats, perquè el preu per milió costa de percebre:
| Forma de la crida | Entrada | Sortida | Cost |
|---|---|---|---|
| Torn de RAG típic | 50,000 | 4,000 | $0.051 |
| Anàlisi de document llarg | 150,000 | 8,000 | $0.139 |
| Crida de mida màxima | 262,144 | 16,384 | $0.251 |
Una petició de context complet i sortida completa — tots els tokens que l'extrem acceptarà i tots els que produirà — costa uns 25 cèntims. La mateixa forma a Kimi-K3-3BIT-REAP, el nostre model més car a 3,83 $/19,12 $, costa uns 1,32 $, o 5,3× més.
Ara l'advertència, i és real. Artificial Analysis va mesurar que Nemotron 3 Ultra genera 2,3× més tokens de sortida que la mediana dels seus parells al llarg del seu conjunt de proves. Els models de raonament et facturen el pensament, i aquest pensa llargament; un avantatge de preu per token s'evapora en un desavantatge per tasca si el model raona tres vegades més estona per arribar a la mateixa resposta. La mitigació ve de sèrie i està exposada a la nostra API: Nemotron 3 es va postentrenar per al control del pressupost de raonament, i aquí s'admet reasoning_effort — NVIDIA descriu un mode de menys esforç que fa servir substancialment menys tokens de pensament a canvi d'una pèrdua de precisió d'un sol dígit. En classificació, extracció i encaminament, abaixa'l i l'economia canvia materialment; en una demostració o una refactorització de diversos fitxers, apuja'l i paga-ho deliberadament. Mesura els teus propis tokens per tasca en lloc de llegir la llista de preus i donar-ho per fet.
08Com cridar-lo: tres dialectes, un model
Tots els models de la passarel·la responen en tres superfícies d'API amb streaming, de manera que pots apuntar-hi un client existent sense reescriure la integració: /v1/chat/completions (dialecte d'OpenAI), /v1/messages (dialecte d'Anthropic) i /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'Resum de capacitats, perquè res no et sorprengui a l'hora d'integrar:
| Capacitat | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Finestra de context | 262.144 tokens |
| Sortida màxima / petició | 16.384 tokens |
| Streaming | Sí |
| Crides a eines | Sí |
| Traces de raonament | Sí |
reasoning_effort | Sí |
json_schema (estricte) | Sí |
response_format | Sí |
| Visió / entrada d'imatge | No — només text |
| Capa de refús | Cap |
La fila de la visió enxampa la gent: Nemotron3Ultra és només de text. Si la teva canonada envia imatges, fes servir MiniMax-M3-3BIT-REAP o MiMo-V2.5-W8A16 a 0,50 $/2,00 $, o Kimi-K2.6-W4A16-AUTOROUND-REAP a 0,78 $/3,67 $ — tots amb visió, tots sense censura, tots amb el mateix context de 262.144 tokens. La referència completa de paràmetres és a la documentació de l'API.
09On encaixa Nemotron3Ultra entre els dotze
El catàleg són dotze models sense censura que comparteixen la mateixa finestra de context, els mateixos tres dialectes i la mateixa absència de capa de refús; difereixen en base, preu i capacitat. La posició de Nemotron és específica: el cavall de batalla del raonament de llinatge obert — ni el més barat, ni el més capaç, però sí el que té més rastre documental públic darrere del seu comportament, i el més afinat cap a STEM i agents.
| Model | Entrada / 1M | Sortida / 1M | Visió | Tria'l per a |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Sí | L'opció amb visió més barata |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | No | El nivell de quantització de màxima fidelitat |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | No | El raonament de base gran més barat |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | No | STEM, agents, llinatge obert |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | Sí | Visió + fidelitat d'AutoRound |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | No | Anàlisi profunda d'un sol tret |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Sí | El sostre absolut de capacitat |
Se'n mostren set de dotze. El catàleg complet — incloent-hi Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 i Hy3 — és a la documentació de l'API. Tingues en compte que Laguna-S-2.1 no admet sortida estructurada i que inkling no admet json_schema; Nemotron3Ultra admet totes dues coses.
El veí més proper per preu és GLM-5.2-3BIT-REAP a 0,73 $/2,34 $, i la comparació honesta és aquesta: GLM-5.2 és més barat per token, sobretot en sortida. Nemotron aporta un corpus d'entrenament publicat, un comandament explícit de pressupost de raonament i una història familiar apuntada a la ciència de nivell de postgrau. Raonament general d'alt volum: fes servir el barat. Feina intensiva en STEM, agèntica o subjecta a una auditoria que pregunti d'on ve el comportament del model: Nemotron es guanya la diferència.
10Preguntes freqüents
Què és l'API de Nemotron sense censura?
És l'extrem allotjat de Shannon AI per a Nemotron3Ultra 3BIT-REAP, una compilació comprimida del Nemotron 3 Ultra de pesos oberts d'NVIDIA. S'executa al nostre propi clúster de GPU sense cap capa de refús i sense filtratge de la sortida, exposa un context de 262.144 tokens i 16.384 tokens de sortida per petició, i costa 0,75 $ per milió de tokens d'entrada i 3,30 $ per milió de tokens de sortida.
Nemotron d'NVIDIA és realment de pesos oberts?
Sí. NVIDIA va publicar Nemotron 3 Ultra el 4 de juny de 2026 amb els pesos, les dades d'entrenament i les receptes sota la llicència permissiva OpenMDW-1.1 de la Linux Foundation, després de Nemotron-4 340B i de la família Llama-Nemotron. Aquesta obertura és el que fa possible un desplegament sense filtre operat de manera independent.
Què vol dir 3BIT-REAP?
Dos passos de compressió. REAP — Router-weighted Expert Activation Pruning, de Cerebras Research i acceptat a ICLR 2026 — puntua cada expert d'un model Mixture-of-Experts per la força amb què el router l'obre i per la magnitud de les seves contribucions de sortida, i després esborra directament els menys rellevants. El que sobreviu es quantitza a pesos de 3 bits, de manera que el pressupost de bits es gasta en experts que realment porten trànsit.
Nemotron3Ultra admet visió o sortida amb esquema JSON?
Res d'imatges: aquest extrem és només de text. Sí que admet sortida estructurada estricta — tant json_schema com response_format — a més de crides a eines, streaming, traces de raonament i reasoning_effort. Per a imatges en un model sense censura, fes servir MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 o inkling.
Per què el context és de 262.144 tokens si NVIDIA n'anuncia 1M?
L'arquitectura de Nemotron 3 apunta a una finestra d'un milió de tokens i NVIDIA reporta un 94,7% a RULER en aquesta longitud. El nostre desplegament serveix 262.144 tokens, la finestra que mantenim a plena velocitat a tot el catàleg. Tots els models de la passarel·la exposen el mateix context, de manera que pots canviar d'id de model sense reescriure la teva fragmentació.
Nemotron és bo per a matemàtiques, ciència i codi?
L'STEM i el raonament són el focus declarat de la família. NVIDIA reporta un 90% a PinchBench, entre un 65,0 i un 70,4% a SWE-Bench Verified amb cinc bastides d'agent i un 56,4% a Terminal-Bench 2.1 per a Nemotron 3 Ultra; l'anterior Llama-Nemotron Ultra va reportar un 76,0% a GPQA-Diamond contra el 71,5% de DeepSeek-R1. Totes són xifres reportades pel fabricant sobre la base sense comprimir.
Crida l'API de Nemotron sense censura
262K de context, crides a eines, esquema JSON estricte, cap capa de refús — 0,75 $ d'entrada / 3,30 $ de sortida per 1M de tokens.
Llegeix la documentació de l'API Totes les fitxes de modelShannon Lab LLC · Nou Mèxic, EUA · l'ús es regeix per la nostra Política d'ús responsable
Fonts: Informe tècnic de NVIDIA Nemotron 3 Ultra · Blog de desenvolupadors d'NVIDIA (juny de 2026) · Notes d'arquitectura de Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Els benchmarks de la base els reporta NVIDIA sobre el model sense comprimir tret que s'atribueixin a Artificial Analysis; les compilacions comprimides poden diferir. Els preus i les capacitats són vigents a 5 de setembre de 2026.