Usensurert Nemotron-API

De fleste «åpne» modeller er åpne vekter og ingenting mer — en tarball med parametere, en lisens, og taushet om hvor tallene kom fra. Nemotron har vært det konsekvente unntaket i to år: NVIDIA slipper vektene, ettertreningsdatasettene, RL-miljøene og oppskriften. Det betyr noe for et usensurert endepunkt på en måte som er lett å overse. En modell hvis justeringsdata er publisert, er en modell hvis avvisningsatferd du kan resonnere om i stedet for å gjette på — og en modell en tredjepart legitimt kan rulle ut uten et innholdsfilter boltet fast til munnen.

01Hva er Nemotron 3 Ultra?

Nemotron 3 Ultra er det største medlemmet av NVIDIAs Nemotron 3-familie, sluppet på Hugging Face 4. juni 2026. NVIDIAs tekniske rapport beskriver den som «en Mixture-of-Experts hybrid Mamba-Attention-språkmodell med 550 milliarder totale og 55 milliarder aktive parametere» — omtrent 10% av nettverket arbeider på et gitt token, og det er dette som gjør en modell på en halv billion parametere mulig å servere i det hele tatt.

Den rapporterte oppbygningen er 108 lag med modelldimensjon 8,192, der Mamba-2-tilstandsromlag veksler med et tynt sett fulle oppmerksomhetslag, og 512 eksperter per MoE-lag med topp-22-ruting. Fortreningen gikk over rundt 20 billioner teksttokens i to faser — først mangfoldsvektet, så kvalitetsvektet — med kunnskapsgrense september 2025, 12 naturlige språk og 43 programmeringsspråk. Ettertreningen brukte SFT, RL i flere miljøer med verifiserbare belønninger, og Multi-Teacher On-Policy Distillation fra mer enn ti spesialistlærere. Det uttalte designmålet er langtkjørende agenter: økter som holder mye kontekst, kaller verktøy dusinvis av ganger, og varer lenge nok til at økonomien per token dominerer regningen.

02Nemotron-avstamningen, og hvorfor meritter betyr noe

Nemotron er ingen engangshendelse. Den er det synlige resultatet av et NVIDIA-forskningsprogram som har gått i samme retning siden 2024, og hver generasjon etterlot noe den nåværende modellen fortsatt bærer med seg. Nemotron-4 340B (juni 2024) kom med en åpen pipeline for syntetisk datagenerering, belønningsmodellen og generatoren sin, pluss en uvanlig opplysning: det overveldende flertallet av justeringsdataene var generert av modeller. Modellen som datafabrikk snarere enn orakel er grunnen til at senere Nemotron-slipp fortsetter å levere datasett sammen med vektene.

Llama-Nemotron — resonnering du kan slå av

Llama-Nemotron-familien fra 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) bidro med to idéer som har eldes godt. Den første var arkitektonisk: NVIDIAs Puzzle-søk etter nevral arkitektur bygde et bibliotek av blokkvis destillerte transformerblokker og satte dem sammen med heltallsprogrammering, noe som ga modeller der enkelte blokker hopper helt over oppmerksomhet eller erstatter den med ett lineært lag, mens FFN Fusion kollapset påfølgende foroverkoblede blokker til færre, bredere og parallelle blokker — og kuttet sekvensiell dybde snarere enn antall parametere. LN-Ultra fikk plass på én enkelt 8×H100-node samtidig som den, ifølge NVIDIAs artikkel, slo DeepSeek-R1 på GPQA-Diamond (76.0% mot 71.5%).

Den andre var atferdsmessig: Llama-Nemotron var den første åpne familien med en dynamisk resonneringsbryter, der treningsdata ble merket detailed thinking on eller detailed thinking off i systeminstruksjonen, med formatbelønninger som håndhevet <think>-tagger i på-modus. Ett sett vekter, to atferder, valgbare ved inferens. Nemotron 3s styring av resonneringsbudsjett — og reasoning_effort-parameteren på API-et vårt — stammer direkte fra det arbeidet.

Nemotron 3 — den hybride vendingen

Nemotron 3 erstattet Llama-avledningen med en hybrid arkitektur bygget fra bunnen av og la til LatentMoE (komprimering av tokens før ruting, som NVIDIA sier tillater «4x så mange eksperter for samme inferenskostnad»), flertokensprediksjon og innebygd NVFP4-fortrening. NVIDIA publiserte til sammen 50 millioner SFT-eksempler, 2 millioner RL-oppgaver og 55 RL-miljøer sammen med vektene — du trenger ikke ta en leverandørs ord for hva modellen ble lært opp på, for læreverket kan lastes ned.

03Hva den hybride arkitekturen gir deg

En transformers KV-hurtigbuffer vokser lineært med sekvenslengden, og det er derfor inferens over lang kontekst blir dyr i minne før den blir dyr i regnekraft. Mamba-2-lag er tilstandsrommodeller som bærer en tilstand av fast størrelse, så minnekostnaden per token vokser ikke med historikken; det de er dårlige på, er presis assosiativ gjenfinning. Hybriden beholder Mamba-2 for hovedtyngden av sekvensbehandlingen pluss et mindretall ekte oppmerksomhetslag for den gjenfinningen tilstandsromlagene fomler med, og et aggressivt forhold på 64 spørringshoder mot 2 KV-hoder krymper hurtigbufferen ytterligere. NVIDIA rapporterer 94.7% på RULER ved 1M tokens — en nålgjenfinningstest laget for å avsløre modeller som hevder å ha et vindu de ikke kan bruke.

Konsekvensen er gjennomstrømning: NVIDIA hevder opptil rundt 6× høyere inferensgjennomstrømning enn sammenlignbare modeller ved samme nøyaktighet, og Artificial Analysis målte uavhengig 140.3 tokens per sekund med 1.33 sekunder til første token — 7. plass av 89 modeller. På en agentkjøring over 200 runder er det forskjellen på å bli ferdig i løpet av en ettermiddag og ikke å bli ferdig.

04Hva «3BIT-REAP» betyr, ærlig talt

Suffikset er ikke pynt — det forteller deg nøyaktig hva som er gjort med grunnmodellen for å få den til å passe.

REAP — Router-weighted Expert Activation Pruning — kommer fra Cerebras Research og ble antatt til ICLR 2026. I en tynn MoE sender ruteren hvert token til en håndfull eksperter; over en reell arbeidsmengde treffes noen konstant og andre nesten aldri. REAP scorer hver ekspert etter et fremtredenhetskriterium som kombinerer hvor sterkt ruteren porterer den og hvor store utdatabidragene dens er, og fjerner så de minst fremtredende helt — Cerebras rapporterer beskjæring av opptil 50% av ekspertene i modeller så store som 1 billion parametere med i stor grad bevart utgangskvalitet, og finner at for generative oppgaver som kode slår beskjæring det å slå sammen. 3-bits kvantisering komprimerer deretter det som overlever. Beskjær først, kvantiser etterpå, slik at bitbudsjettet går til eksperter som bærer trafikk i stedet for å smøres utover døde.

Komprimering er ikke gratis, og vi skal ikke late som noe annet: aggressiv kvantisering viser seg først som små forringelser i eksakt formatetterlevelse og lang kjedet aritmetikk, ikke som synlig usammenheng. Slik ligger de tre nivåene:

Suffiks	Hva det er	Hvor vi bruker det
3BIT-REAP	3-bits vekter + ekspertbeskjæring	De største grunnmodellene, der ingenting annet får plass med fart
W4A16-AUTOROUND-REAP	4-bits vekter / 16-bits aktiveringer, AutoRound-lært avrunding, + beskjæring	Mellomstore grunnmodeller; AutoRound henter tilbake nøyaktighet sammenlignet med naiv avrunding til nærmeste
W8A16	8-bits vekter / 16-bits aktiveringer	Høyest troskap; grunnmodeller som er små nok til å slippe aggressiv komprimering

Nemotron 3 Ultra på 550B hører soleklart hjemme i den første kategorien. Er arbeidsmengden din uvanlig følsom for eksakt numerisk utdata over lange kjeder, lister forskningsindeksen W8A16-nivået — MiMo-V2.5-Pro-W8A16 og Hy3-W8A16 — på gulvet $0.50/$2.00. En reell avveining, ikke en trakt: mindre modell, mindre komprimering.

05Hva «usensurert» betyr på dette endepunktet

Konkret: det finnes ikke noe avvisningslag og ingen innholdsfiltrering av utdata. Ingen klassifiserer inspiserer prompten din og returnerer et ferdigskrevet avslag, og svaret skannes ikke før det når strømmen din. Det du får, er modellens egen atferd.

Det er her den åpne avstamningen slutter å være trivia. Fordi NVIDIA publiserte ettertreningsdataene og RL-miljøene, er modellens disposisjoner i prinsippet reviderbare snarere enn folklore. Og fordi OpenMDW-1.1 er en tillatende Linux Foundation-lisens som dekker arkitektur, parametere, dokumentasjon og programvare, kan en uavhengig operatør servere en endret, ufiltrert utrulling på egen maskinvare uten at lisensen står i veien. Mange «åpne» modellisenser tillater ikke det. Denne gjør det. Forskjellen viser seg der refleksavvisning er en feil, ikke en sikkerhetsfunksjon:

• Sikkerhetsforskning — sårbarhetsanalyse, resonnering rundt utnyttelser, skadevareatferd, red team-verktøy, uten å måtte krangle om hvorvidt spørsmålet er tillatt.
• Kjemi, biologi og farmakologi — doseringsregning, reaksjonsmekanismer, toksikologi, synteseveier som et filtrert endepunkt avviser ved første nøkkelordtreff.
• Motstridende ML — harde negative eksempler, jailbreak-korpora og misbrukstaksonomier for klassifiserere som må ha sett den ekte varen.
• Klinisk, juridisk og rettsmedisinsk tekst — saksmateriale som er grafisk av natur og blir avvist nettopp derfor.

Usensurert er ikke det samme som uten ansvar. Du eier det du genererer, og vår policy for ansvarlig bruk og våre bruksvilkår regulerer kontoen. Å fjerne et avvisningslag fjerner en gjetning om hensikt; det fjerner ikke dine forpliktelser etter loven som gjelder for deg.

06STEM og resonnering: hva de publiserte tallene sier

Nemotrons treningsfokus har vært matematikk, kode, realfag og instruksjonsfølging helt siden Llama-Nemotrons ettertreningsdatasett ble bygget rundt nøyaktig de fire aksene. Dette rapporterer NVIDIA for grunnmodellen Nemotron 3 Ultra — leverandørrapporterte tall på den ukomprimerte modellen, som vi ikke selv har kjørt:

To forbehold som er verdt mer enn tallene. Tallet for SWE-Bench Verified er et intervall — NVIDIA rapporterer 65.0% til 70.4% avhengig av hvilket agentrammeverk som kjører det (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), og et sprik på fem poeng som bare skyldes stillaset, viser hvor mye agentskårer avhenger av rammeverket snarere enn av modellen. Og Artificial Analysis plasserte Nemotron 3 Ultra på 48 på sin Intelligence Index, 9. plass av 89 modeller — sterkt, men ikke på toppen av feltet, og deres uavhengige måling er den vi ville vektet foran ethvert lysbilde fra en leverandør.

For den forrige generasjonen rapporterer NVIDIAs Llama-Nemotron-artikkel LN-Ultra til 76.0% på GPQA-Diamond mot DeepSeek-R1s 71.5% og Llama-3.1-405B-Instructs 43.4%, pluss 80.8% på AIME 2024 — en annen modell, tatt med fordi realfag på doktorgradsnivå og konkurransematematikk har vært familiens mål i to generasjoner.

Benchmark-tall slik de er publisert av NVIDIA (juni 2026) på den ukomprimerte Nemotron 3 Ultra, og av Artificial Analysis for uavhengige målinger. Komprimerte bygginger kan avvike. Vi publiserer ikke benchmark-tall vi ikke har verifisert eller ikke kan tilskrive noen.

07Pris, og forbeholdet om ordrikdom

Til $0.75 per million inn-tokens og $3.30 per million ut-tokens ligger Nemotron3Ultra i den nederste tredjedelen av katalogen vår på inndata og på midten på utdata. Regnede eksempler, fordi priser per million er vanskelige å kjenne på:

Type kall	Inn	Ut	Kostnad
Typisk RAG-runde	50,000	4,000	$0.051
Analyse av langt dokument	150,000	8,000	$0.139
Kall i maksimal størrelse	262,144	16,384	$0.251

En forespørsel med full kontekst og full utdata — hvert token endepunktet tar imot og hvert token det vil produsere — koster rundt 25 cent. Samme form på Kimi-K3-3BIT-REAP, vår dyreste modell til $3.83/$19.12, koster rundt $1.32, eller 5.3× mer.

Så forbeholdet, og det er reelt. Artificial Analysis målte at Nemotron 3 Ultra genererer 2.3× flere ut-tokens enn medianen blant likemenn på tvers av testsuiten deres. Resonneringsmodeller fakturerer deg for tenkingen, og denne tenker lenge; en prisfordel per token fordamper til en ulempe per oppgave hvis modellen resonnerer tre ganger så lenge for å nå det samme svaret. Mottiltaket er innebygd og eksponert på API-et vårt: Nemotron 3 ble ettertrent for styring av resonneringsbudsjett, og reasoning_effort støttes her — NVIDIA beskriver en modus med lavere innsats som bruker vesentlig færre tenketokens mot en nøyaktighetskostnad på ett siffer. På klassifisering, uttrekk og ruting: skru den ned, så endrer økonomien seg merkbart; på et bevis eller en refaktorering over flere filer: skru den opp og betal for det med åpne øyne. Mål tokens per oppgave selv i stedet for å lese prislisten og anta.

08Slik kaller du den: tre dialekter, én modell

Alle modeller på gatewayen svarer på tre strømmende API-flater, så du kan peke en eksisterende klient mot den uten å skrive om integrasjonen din: /v1/chat/completions (OpenAI-dialekten), /v1/messages (Anthropic-dialekten) og /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Oppsummering av egenskaper, så ingenting overrasker deg når du integrerer:

Egenskap	Nemotron3Ultra · 3BIT-REAP
Kontekstvindu	262,144 tokens
Maks utdata per forespørsel	16,384 tokens
Strømming	Ja
Verktøykall	Ja
Resonneringsspor	Ja
reasoning_effort	Ja
json_schema (streng)	Ja
response_format	Ja
Syn / bilder som inndata	Nei — kun tekst
Avvisningslag	Ingen

Syn-raden lurer folk: Nemotron3Ultra er kun tekst. Sender pipelinen din bilder, bruk MiniMax-M3-3BIT-REAP eller MiMo-V2.5-W8A16 til $0.50/$2.00, eller Kimi-K2.6-W4A16-AUTOROUND-REAP til $0.78/$3.67 — alle med synsevne, alle usensurerte, alle på den samme konteksten på 262,144 tokens. Fullstendig parameterreferanse finner du i API-dokumentasjonen.

09Hvor Nemotron3Ultra hører hjemme blant de tolv

Katalogen består av tolv usensurerte modeller som deler det samme kontekstvinduet, de samme tre dialektene og det samme fraværet av et avvisningslag; de skiller seg i grunnmodell, pris og egenskaper. Nemotrons plass er spesifikk: arbeidshesten for resonnering med åpen avstamning — ikke den billigste, ikke den mest kapable, men den med det mest offentlige papirsporet bak atferden sin, finjustert hardest mot STEM og agenter.

Modell	Inn / 1M	Ut / 1M	Syn	Velg den for
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Ja	Billigste alternativ med synsevne
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Nei	Kvantiseringsnivået med høyest troskap
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Nei	Billigste resonnering på stor grunnmodell
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Nei	STEM, agenter, åpen avstamning
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Ja	Syn + AutoRound-troskap
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Nei	Dyp analyse i ett skudd
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Ja	Absolutt evnetak

Sju av tolv vises. Hele katalogen — inkludert Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 og Hy3 — finnes i API-dokumentasjonen. Merk at Laguna-S-2.1 ikke støtter strukturert utdata og at inkling ikke støtter json_schema; Nemotron3Ultra støtter begge.

Nærmeste nabo i pris er GLM-5.2-3BIT-REAP til $0.73/$2.34, og den ærlige sammenligningen er denne: GLM-5.2 er billigere per token, særlig på utdata. Nemotron bringer med seg et publisert treningskorpus, en eksplisitt knapp for resonneringsbudsjett, og en familiehistorie rettet mot realfag på doktorgradsnivå. Generell resonnering i stort volum: kjør den billigste. STEM-tungt, agentisk, eller underlagt en revisjon som spør hvor modellens atferd kom fra: da er Nemotron verdt differansen.

10Ofte stilte spørsmål

---

Kilder: NVIDIAs tekniske rapport for Nemotron 3 Ultra · NVIDIAs utviklerblogg (juni 2026) · Arkitekturnotater for Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmark-tallene for grunnmodellen er rapportert av NVIDIA på den ukomprimerte modellen med mindre de er tilskrevet Artificial Analysis; komprimerte bygginger kan avvike. Priser og egenskaper er gjeldende per 5. september 2026.