Ongecensureerde Nemotron-API

De meeste "open" modellen zijn open in hun gewichten en verder niets — een tarball met parameters, een licentie, en stilte over waar de getallen vandaan kwamen. Nemotron is daarop al twee jaar de consequente uitzondering: NVIDIA levert de gewichten, de post-trainingsdatasets, de RL-omgevingen en het recept. Dat is voor een ongecensureerd endpoint op een manier van belang die makkelijk over het hoofd wordt gezien. Een model waarvan de alignmentdata gepubliceerd zijn, is een model waarover u het weigeringsgedrag kunt beredeneren in plaats van ernaar te raden — en een model dat een derde partij legitiem kan uitrollen zonder een contentfilter op de mond gebout.

01Wat is Nemotron 3 Ultra?

Nemotron 3 Ultra is het grootste lid van NVIDIA's Nemotron 3-familie, op 4 juni 2026 op Hugging Face uitgebracht. Het technische rapport van NVIDIA beschrijft het als "een Mixture-of-Experts Hybrid Mamba-Attention-taalmodel met 550 miljard totale en 55 miljard actieve parameters" — ruwweg 10% van het netwerk werkt aan een willekeurig token, en dat is wat een model van een half biljoen parameters überhaupt serveerbaar maakt.

De gerapporteerde indeling telt 108 lagen bij modeldimensie 8,192, waarin Mamba-2-toestandsruimtelagen worden afgewisseld met een spaarzame set volledige attentielagen, met 512 experts per MoE-laag en top-22-routering. Het pretrainen liep op ruwweg 20 biljoen teksttokens in twee fasen — eerst gericht op diversiteit, daarna op kwaliteit — met een kennisgrens in september 2025, 12 natuurlijke talen en 43 programmeertalen. De post-training gebruikte SFT, RL in meerdere omgevingen met verifieerbare beloningen, en Multi-Teacher On-Policy Distillation over meer dan tien gespecialiseerde leraren. Het verklaarde ontwerpdoel zijn langlopende agents: sessies die een grote context vasthouden, tientallen keren tools aanroepen, en lang genoeg draaien dat de kosten per token de rekening bepalen.

02De Nemotron-afstamming, en waarom de stamboom telt

Nemotron is geen eenmalige uitgave. Het is de zichtbare uitkomst van een onderzoeksprogramma dat NVIDIA sinds 2024 in dezelfde richting voert, en elke generatie liet iets achter dat het huidige model nog steeds meedraagt. Nemotron-4 340B (juni 2024) verscheen met een open pijplijn voor het genereren van synthetische data, met het beloningsmodel en de generator, plus een ongebruikelijke onthulling: de overgrote meerderheid van de alignmentdata was door een model gegenereerd. Het model als datafabriek in plaats van als orakel is de reden dat latere Nemotron-uitgaven datasets naast gewichten blijven leveren.

Llama-Nemotron — redeneren dat u kunt uitschakelen

De Llama-Nemotron-familie uit 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) droeg twee ideeën bij die goed zijn verouderd. Het eerste was architectonisch: NVIDIA's Puzzle, een neural architecture search, bouwde een bibliotheek van blokgewijs gedistilleerde transformerblokken en zette die samen met gemengd-geheeltallige programmering, wat modellen opleverde waarin sommige blokken attentie volledig overslaan of vervangen door één lineaire laag, terwijl FFN Fusion opeenvolgende feed-forward-blokken samenvouwde tot minder, bredere, parallelle blokken — dat snijdt in sequentiële diepte in plaats van in het aantal parameters. LN-Ultra paste op één node met 8×H100 en presteerde volgens NVIDIA's paper beter dan DeepSeek-R1 op GPQA-Diamond (76.0% tegen 71.5%).

Het tweede was gedragsmatig: Llama-Nemotron was de eerste open familie met een dynamische redeneerschakelaar, waarbij trainingsdata in de systeeminstructie werden gelabeld als detailed thinking on of detailed thinking off, met formaatbeloningen die <think>-tags afdwongen in de aan-stand. Eén set gewichten, twee gedragingen, te kiezen op het moment van inferentie. De redeneerbudgetregeling van Nemotron 3 — en de parameter reasoning_effort op onze API — stamt rechtstreeks van dat werk af.

Nemotron 3 — de hybride wending

Nemotron 3 verving de afleiding van Llama door een vanaf nul opgebouwde hybride architectuur en voegde LatentMoE toe (tokens comprimeren vóór de routering, wat volgens NVIDIA "4x zoveel experts tegen dezelfde inferentiekosten" mogelijk maakt), plus multi-token prediction en native NVFP4-pretraining. NVIDIA publiceerde cumulatief 50 miljoen SFT-voorbeelden, 2 miljoen RL-taken en 55 RL-omgevingen naast de gewichten — u hoeft een leverancier niet op zijn woord te geloven over wat het model geleerd kreeg, want het lesmateriaal is te downloaden.

03Wat de hybride architectuur u oplevert

De KV-cache van een transformer groeit lineair met de sequentielengte, en daarom wordt inferentie met lange context duur in geheugen voordat het duur wordt in rekenkracht. Mamba-2-lagen zijn toestandsruimtemodellen met een recurrente toestand van vaste grootte, dus hun geheugenkosten per token groeien niet mee met de geschiedenis; waar ze slecht in zijn, is precieze associatieve herinnering. De hybride houdt Mamba-2 aan voor het leeuwendeel van de sequentieverwerking, plus een minderheid aan echte attentielagen voor precies de herinnering waar toestandsruimtelagen struikelen, met een agressieve verhouding van 64 query-heads op 2 KV-heads die de cache verder verkleint. NVIDIA rapporteert 94.7% op RULER bij 1M tokens — een naald-in-hooibergbenchmark die is gebouwd om modellen te betrappen die een venster claimen dat ze niet kunnen gebruiken.

Het gevolg is doorvoer: NVIDIA claimt tot ruwweg 6× hogere inferentiedoorvoer dan vergelijkbare modellen bij gelijkwaardige nauwkeurigheid, en Artificial Analysis mat onafhankelijk 140.3 tokens per seconde met een time to first token van 1.33 seconde — 7e van 89 modellen. Op een agent-run van 200 beurten is dat het verschil tussen in één middag klaar zijn en niet klaar komen.

04Wat "3BIT-REAP" eerlijk gezegd betekent

Het achtervoegsel is geen versiering — het vertelt u precies wat er met het basismodel is gedaan om het passend te maken.

REAP — Router-weighted Expert Activation Pruning — komt van Cerebras Research en werd geaccepteerd voor ICLR 2026. In een spaarzame MoE stuurt de router elk token naar een handvol experts; over een echte werklast worden sommige voortdurend geraakt en andere bijna nooit. REAP geeft elke expert een score op een saillantiecriterium dat combineert hoe sterk de router hem aanstuurt en hoe groot zijn bijdragen aan de uitvoer zijn, en verwijdert dan de minst saillante volledig — Cerebras rapporteert dat tot 50% van de experts kan worden gesnoeid uit modellen tot 1 biljoen parameters, met grotendeels behoud van de basiskwaliteit, en vindt dat snoeien voor generatieve taken zoals code beter werkt dan samenvoegen. Vervolgens comprimeert kwantisatie naar 3 bits wat overblijft. Eerst snoeien, dan kwantiseren, zodat het bitbudget naar experts gaat die verkeer dragen in plaats van uitgesmeerd te worden over dode experts.

Compressie is niet gratis, en wij zullen niet doen alsof: agressieve kwantisatie laat zich eerst zien als kleine verslechteringen in het exact naleven van formaten en in rekenen over lange ketens, niet als zichtbare onsamenhangendheid. Waar de drie niveaus landen:

Achtervoegsel	Wat het is	Waar wij het gebruiken
3BIT-REAP	Gewichten van 3 bits + expert pruning	De grootste basismodellen, waar niets anders op snelheid past
W4A16-AUTOROUND-REAP	Gewichten van 4 bits / activaties van 16 bits, AutoRound geleerd afronden, + pruning	Middelgrote basismodellen; AutoRound wint nauwkeurigheid terug ten opzichte van naïef afronden
W8A16	Gewichten van 8 bits / activaties van 16 bits	Hoogste getrouwheid; basismodellen klein genoeg om agressieve compressie niet nodig te hebben

Nemotron 3 Ultra valt met 550B onmiskenbaar in de eerste categorie. Is uw werklast ongewoon gevoelig voor exacte numerieke uitvoer over lange ketens, dan noemt de onderzoeksindex het W8A16-niveau — MiMo-V2.5-Pro-W8A16 en Hy3-W8A16 — op de bodemprijs van $0.50/$2.00. Een echte afweging, geen verkooptrechter: kleiner model, minder compressie.

05Wat "ongecensureerd" op dit endpoint betekent

Concreet: er is geen weigeringslaag en er wordt geen contentfiltering op de uitvoer toegepast. Geen classifier inspecteert uw prompt en geeft een ingeblikte afwijzing terug, en het antwoord wordt niet gescand voordat het uw stream bereikt. Wat u krijgt, is het eigen gedrag van het model.

Dit is waar de open afstamming ophoudt een weetje te zijn. Omdat NVIDIA de post-trainingsdata en de RL-omgevingen heeft gepubliceerd, zijn de neigingen van het model in principe controleerbaar in plaats van volksverhaal. En omdat OpenMDW-1.1 een permissieve licentie van de Linux Foundation is die architectuur, parameters, documentatie en software dekt, kan een onafhankelijke exploitant een aangepaste, ongefilterde uitrol op eigen hardware serveren zonder dat de licentie de belemmering vormt. Veel licenties van "open" modellen staan dat niet toe. Deze wel. Het verschil komt boven waar reflexmatige weigering een bug is en geen veiligheidsvoorziening:

• Beveiligingsonderzoek — kwetsbaarheidsanalyse, redeneren over exploits, gedrag van malware, red-team-gereedschap, zonder discussie over de vraag of de vraag mag.
• Scheikunde, biologie en farmacologie — doseringsberekeningen, reactiemechanismen, toxicologie, syntheseroutes waarop een gefilterd endpoint bij het eerste trefwoord afhaakt.
• Adversarial ML — harde negatieven, jailbreak-corpora en misbruiktaxonomieën voor classifiers die het echte werk gezien moeten hebben.
• Klinische, juridische en forensische tekst — dossiermateriaal dat van nature expliciet is en precies daarom wordt geweigerd.

Ongecensureerd is niet onaansprakelijk. U bent eigenaar van wat u genereert, en ons beleid voor verantwoord gebruik en onze algemene voorwaarden gelden voor het account. Het verwijderen van een weigeringslaag verwijdert een gok naar intentie; het verwijdert niet uw verplichtingen onder het recht dat op u van toepassing is.

06STEM en redeneren: wat de gepubliceerde cijfers zeggen

De trainingsfocus van Nemotron is wiskunde, code, wetenschap en het volgen van instructies, sinds de post-trainingsdataset van Llama-Nemotron precies rond die vier assen werd gebouwd. Wat NVIDIA rapporteert voor het basismodel Nemotron 3 Ultra — door de leverancier gerapporteerde cijfers op het ongecomprimeerde model, die wij niet zelf hebben gedraaid:

Twee kanttekeningen die meer waard zijn dan de cijfers. Het getal voor SWE-Bench Verified is een bereik — NVIDIA rapporteert 65.0% tot 70.4%, afhankelijk van welk agent-harnas het draait (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), en een spreiding van vijf punten die alleen uit de steigers voortkomt laat zien hoezeer agentische scores van het harnas afhangen in plaats van van het model. En Artificial Analysis plaatste Nemotron 3 Ultra op 48 op hun Intelligence Index, 9e van 89 modellen — sterk, niet de top van het veld, en hun onafhankelijke meting is degene die wij zwaarder zouden wegen dan de dia van welke leverancier dan ook.

Over de vorige generatie rapporteert NVIDIA's Llama-Nemotron-paper LN-Ultra op 76.0% op GPQA-Diamond tegenover 71.5% voor DeepSeek-R1 en 43.4% voor Llama-3.1-405B-Instruct, plus 80.8% op AIME 2024 — een ander model, hier opgenomen omdat wetenschap op universitair niveau en wedstrijdwiskunde al twee generaties het doelwit van de familie zijn.

Benchmarkcijfers zoals gepubliceerd door NVIDIA (juni 2026) op het ongecomprimeerde Nemotron 3 Ultra, en door Artificial Analysis voor onafhankelijke metingen. Gecomprimeerde builds kunnen afwijken. Wij publiceren geen benchmarkcijfers die wij niet hebben geverifieerd of niet kunnen toeschrijven.

07Prijs, en de kanttekening over breedsprakigheid

Met $0.75 per miljoen invoertokens en $3.30 per miljoen uitvoertokens zit Nemotron3Ultra op invoer in het onderste derde deel van onze catalogus en op uitvoer in het midden. Uitgewerkte voorbeelden, omdat een prijs per miljoen moeilijk te voelen is:

Vorm van de aanroep	Invoer	Uitvoer	Kosten
Typische RAG-beurt	50,000	4,000	$0.051
Analyse van een lang document	150,000	8,000	$0.139
Aanroep op maximale grootte	262,144	16,384	$0.251

Een verzoek met volledige context en volledige uitvoer — elk token dat het endpoint aanneemt en elk token dat het produceert — kost ongeveer 25 cent. Dezelfde vorm op Kimi-K3-3BIT-REAP, ons duurste model op $3.83/$19.12, kost ongeveer $1.32, oftewel 5.3× zoveel.

Nu de kanttekening, en die is reëel. Artificial Analysis mat dat Nemotron 3 Ultra 2.3× meer uitvoertokens genereert dan de mediane concurrent over hun benchmarksuite. Redeneermodellen factureren u voor het denken, en dit model denkt uitvoerig; een prijsvoordeel per token verdampt tot een nadeel per taak als het model drie keer zo lang redeneert om bij hetzelfde antwoord uit te komen. De verzachting zit ingebouwd en staat op onze API open: Nemotron 3 kreeg post-training voor redeneerbudgetregeling, en reasoning_effort wordt hier ondersteund — NVIDIA beschrijft een stand met lagere inspanning die aanzienlijk minder denktokens gebruikt tegen een nauwkeurigheidsverlies van één cijfer. Bij classificatie, extractie en routering draait u hem omlaag en verandert de rekensom wezenlijk; bij een bewijs of een refactor over meerdere bestanden draait u hem omhoog en betaalt u er bewust voor. Meet uw eigen tokens per taak in plaats van de prijslijst te lezen en aan te nemen.

08Aanroepen: drie dialecten, één model

Elk model op de gateway antwoordt op drie streaming-API-oppervlakken, zodat u een bestaande client erop kunt richten zonder uw integratie te herschrijven: /v1/chat/completions (OpenAI-dialect), /v1/messages (Anthropic-dialect) en /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Overzicht van de capaciteiten, zodat niets u bij de integratie verrast:

Capaciteit	Nemotron3Ultra · 3BIT-REAP
Contextvenster	262,144 tokens
Max. uitvoer / verzoek	16,384 tokens
Streaming	Ja
Tool calling	Ja
Redeneersporen	Ja
reasoning_effort	Ja
json_schema (strikt)	Ja
response_format	Ja
Vision / beeldinvoer	Nee — alleen tekst
Weigeringslaag	Geen

De vision-regel verrast mensen: Nemotron3Ultra is alleen tekst. Stuurt uw pijplijn afbeeldingen, gebruik dan MiniMax-M3-3BIT-REAP of MiMo-V2.5-W8A16 op $0.50/$2.00, of Kimi-K2.6-W4A16-AUTOROUND-REAP op $0.78/$3.67 — allemaal met vision, allemaal ongecensureerd, allemaal op dezelfde context van 262,144 tokens. De volledige parameterreferentie staat in de API-documentatie.

09Waar Nemotron3Ultra past tussen de twaalf

De catalogus telt twaalf ongecensureerde modellen die hetzelfde contextvenster, dezelfde drie dialecten en dezelfde afwezigheid van een weigeringslaag delen; ze verschillen in basismodel, prijs en capaciteit. De positie van Nemotron is specifiek: het redeneerwerkpaard met open afstamming — niet het goedkoopste, niet het capabelste, maar dat met het meest openbare papieren spoor achter zijn gedrag, het hardst afgestemd op STEM en agents.

Model	In / 1M	Uit / 1M	Vision	Kies het voor
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Ja	Goedkoopste optie met vision
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Nee	Kwantisatieniveau met de hoogste getrouwheid
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Nee	Goedkoopste redeneren op een groot basismodel
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Nee	STEM, agents, open afstamming
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Ja	Vision + AutoRound-getrouwheid
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Nee	Diepe analyse in één keer
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Ja	Het absolute capaciteitsplafond

Zeven van de twaalf getoond. De volledige catalogus — inclusief Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 en Hy3 — staat in de API-documentatie. Let op: Laguna-S-2.1 ondersteunt geen gestructureerde uitvoer en inkling ondersteunt geen json_schema; Nemotron3Ultra ondersteunt beide.

De naaste buur qua prijs is GLM-5.2-3BIT-REAP op $0.73/$2.34, en de eerlijke vergelijking is deze: GLM-5.2 is goedkoper per token, vooral op uitvoer. Nemotron brengt een gepubliceerd trainingscorpus mee, een expliciete knop voor het redeneerbudget, en een familiegeschiedenis die op wetenschap van universitair niveau mikt. Algemeen redeneren op groot volume: draai de goedkoopste. STEM-zwaar, agentisch, of onderworpen aan een audit die vraagt waar het gedrag van het model vandaan komt: dan verdient Nemotron het verschil.

10Veelgestelde vragen

---

Bronnen: technisch rapport NVIDIA Nemotron 3 Ultra · NVIDIA developer blog (juni 2026) · architectuurnotities Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmarks van het basismodel zijn door NVIDIA gerapporteerd op het ongecomprimeerde model tenzij toegeschreven aan Artificial Analysis; gecomprimeerde builds kunnen afwijken. Prijzen en capaciteiten zijn actueel per 5 september 2026.