Ucensureret Nemotron-API

De fleste »åbne« modeller er åbne vægte og intet andet — en tarball med parametre, en licens og tavshed om, hvor tallene kom fra. Nemotron har været den konsekvente undtagelse i to år: NVIDIA udgiver vægtene, efter-træningsdatasættene, RL-miljøerne og opskriften. Det betyder noget for et ucensureret endpoint på en måde, der er let at overse. En model, hvis alignment-data er offentliggjort, er en model, hvis afvisningsadfærd du kan ræsonnere om i stedet for at gætte på — og en, en tredjepart lovligt kan udrulle uden et indholdsfilter boltet fast på munden.

01Hvad er Nemotron 3 Ultra?

Nemotron 3 Ultra er det største medlem af NVIDIAs Nemotron 3-familie, udgivet på Hugging Face den 4. juni 2026. NVIDIAs tekniske rapport beskriver den som »en Mixture-of-Experts hybrid Mamba-Attention-sprogmodel med 550 milliarder parametre i alt og 55 milliarder aktive« — cirka 10 % af netværket arbejder på en given token, og det er dét, der overhovedet gør en model på en halv billion parametre praktisk at servere.

Den rapporterede opbygning er 108 lag ved modeldimension 8.192, hvor Mamba-2-tilstandsrumslag fletttes sammen med et sparsomt sæt fulde attention-lag, og med 512 eksperter pr. MoE-lag og top-22-routing. Fortræningen kørte på cirka 20 billioner teksttokens i to faser — først med vægt på diversitet, derefter på kvalitet — med skæringsdato september 2025, 12 naturlige sprog og 43 programmeringssprog. Efter-træningen brugte SFT, RL i flere miljøer med verificerbare belønninger og Multi-Teacher On-Policy Distillation på tværs af mere end ti specialistlærere. Det erklærede designmål er langtidskørende agenter: sessioner, der holder en stor kontekst, kalder værktøjer dusinvis af gange og kører længe nok til, at økonomien pr. token dominerer regningen.

02Nemotron-slægten, og hvorfor stamtavlen betyder noget

Nemotron er ikke en engangsforestilling. Den er det synlige resultat af et NVIDIA-forskningsprogram, der har kørt i samme retning siden 2024, og hver generation efterlod noget, den nuværende model stadig bærer med sig. Nemotron-4 340B (juni 2024) kom med en åben pipeline til generering af syntetiske data, dens belønningsmodel og dens generator, plus en usædvanlig oplysning: langt størstedelen af dens alignment-data var genereret af modeller. Modellen som datafabrik snarere end orakel er grunden til, at senere Nemotron-udgivelser bliver ved med at udgive datasæt ved siden af vægtene.

Llama-Nemotron — ræsonnement du kan slukke for

Llama-Nemotron-familien fra 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) bidrog med to idéer, der har holdt. Den første var arkitektonisk: NVIDIAs Puzzle-søgning efter neurale arkitekturer byggede et bibliotek af blokvis destillerede transformer-blokke og satte dem sammen med heltalsprogrammering, hvilket gav modeller, hvor nogle blokke helt springer attention over eller erstatter den med et enkelt lineært lag, mens FFN Fusion foldede efterfølgende feed-forward-blokke sammen til færre, bredere og parallelle blokke — og dermed skar i den sekventielle dybde frem for i antallet af parametre. LN-Ultra kunne være på en enkelt 8×H100-node og overgik ifølge NVIDIAs artikel DeepSeek-R1 på GPQA-Diamond (76,0 % mod 71,5 %).

Den anden var adfærdsmæssig: Llama-Nemotron var den første åbne familie med en dynamisk ræsonnementskontakt, hvor træningsdata blev mærket detailed thinking on eller detailed thinking off i systeminstruktionen, og formatbelønninger håndhævede <think>-mærker i tændt tilstand. Ét sæt vægte, to adfærdsmønstre, valgbare ved inferens. Nemotron 3's styring af ræsonnementsbudget — og parameteren reasoning_effort på vores API — stammer direkte fra det arbejde.

Nemotron 3 — den hybride drejning

Nemotron 3 erstattede Llama-afledningen med en hybrid arkitektur bygget fra bunden og tilføjede LatentMoE (komprimering af tokens før routing, hvilket ifølge NVIDIA tillader »4 gange så mange eksperter for de samme inferensomkostninger«), multi-token-forudsigelse og indbygget NVFP4-fortræning. NVIDIA offentliggjorde sammenlagt 50 millioner SFT-eksempler, 2 millioner RL-opgaver og 55 RL-miljøer sammen med vægtene — du behøver ikke tage en leverandørs ord for, hvad modellen blev lært, for undervisningsmaterialet kan hentes ned.

03Hvad den hybride arkitektur køber dig

En transformers KV-cache vokser lineært med sekvenslængden, og derfor bliver inferens med lang kontekst dyr i hukommelse, før den bliver dyr i beregning. Mamba-2-lag er tilstandsrumsmodeller, der bærer en tilstand af fast størrelse, så deres hukommelsesforbrug pr. token vokser ikke med historikken; til gengæld er de dårlige til præcis associativ genkaldelse. Hybriden beholder Mamba-2 til hovedparten af sekvensbehandlingen plus et mindretal af rigtige attention-lag til netop den genkaldelse, tilstandsrumslagene fumler med, og et aggressivt forhold på 64 query-hoveder pr. 2 KV-hoveder skrumper cachen yderligere. NVIDIA rapporterer 94,7 % på RULER ved 1M tokens — et nålefindings-benchmark bygget til at fange modeller, der påstår et vindue, de ikke kan bruge.

Konsekvensen er gennemløb: NVIDIA hævder op til cirka 6× højere inferensgennemløb end sammenlignelige modeller ved samme nøjagtighed, og Artificial Analysis målte uafhængigt 140,3 tokens i sekundet med 1,33 sekunder til første token — nummer 7 ud af 89 modeller. På en agentkørsel over 200 ture er det forskellen mellem at blive færdig på en eftermiddag og ikke at blive færdig.

04Hvad »3BIT-REAP« ærligt betyder

Endelsen er ikke pynt — den fortæller præcis, hvad der blev gjort ved grundmodellen for at få den til at passe.

REAP — Router-weighted Expert Activation Pruning — kommer fra Cerebras Research og blev antaget til ICLR 2026. I en sparsom MoE sender routeren hver token til en håndfuld eksperter; over en reel arbejdsbyrde bliver nogle ramt konstant og andre næsten aldrig. REAP giver hver ekspert en score på et betydningskriterium, der kombinerer hvor kraftigt routeren åbner for den og hvor store dens bidrag til outputtet er, og fjerner derefter de mindst betydningsfulde helt — Cerebras rapporterer beskæring af op til 50 % af eksperterne i modeller så store som 1 billion parametre, mens grundkvaliteten i store træk bevares, og finder, at beskæring slår sammenlægning på generative opgaver som kode. 3-bit-kvantisering komprimerer derefter det, der overlevede. Beskær først, kvantisér bagefter, så bit-budgettet går til de eksperter, der bærer trafik, i stedet for at blive smurt ud over døde eksperter.

Komprimering er ikke gratis, og det lader vi ikke som om: aggressiv kvantisering viser sig først som små forringelser i nøjagtig formatoverholdelse og i lange aritmetiske kæder, ikke som synlig usammenhæng. Sådan ligger de tre niveauer:

Endelse	Hvad det er	Hvor vi bruger det
3BIT-REAP	3-bit vægte + ekspertbeskæring	De største grundmodeller, hvor intet andet passer ved fuld hastighed
W4A16-AUTOROUND-REAP	4-bit vægte / 16-bit aktiveringer, AutoRound-lært afrunding, + beskæring	Mellemstore grundmodeller; AutoRound genvinder nøjagtighed i forhold til naiv afrunding til nærmeste
W8A16	8-bit vægte / 16-bit aktiveringer	Højeste troværdighed; grundmodeller små nok til ikke at kræve aggressiv komprimering

Nemotron 3 Ultra med sine 550 mia. parametre hører klart til i den første kategori. Er din arbejdsbyrde usædvanligt følsom over for præcist numerisk output over lange kæder, viser forskningsoversigten W8A16-niveauet — MiMo-V2.5-Pro-W8A16 og Hy3-W8A16 — til bundprisen $0,50/$2,00. En reel afvejning, ikke en tragt: mindre model, mindre komprimering.

05Hvad »ucensureret« betyder på dette endpoint

Konkret: der er intet afvisningslag og ingen indholdsfiltrering af output. Ingen klassifikator inspicerer din prompt og returnerer et standardafslag, og svaret bliver ikke scannet, før det når din stream. Det, du får, er modellens egen adfærd.

Det er her, den åbne slægt holder op med at være trivia. Fordi NVIDIA offentliggjorde efter-træningsdata og RL-miljøerne, er modellens tilbøjeligheder i princippet reviderbare frem for folklore. Og fordi OpenMDW-1.1 er en tilladelig Linux Foundation-licens, der dækker arkitektur, parametre, dokumentation og software, kan en uafhængig operatør servere en ændret, ufiltreret udrulning på sit eget hardware, uden at licensen står i vejen. Mange »åbne« modellicenser tillader ikke det. Denne gør. Forskellen viser sig, hvor refleksmæssig afvisning er en fejl og ikke en sikkerhedsfunktion:

• Sikkerhedsforskning — sårbarhedsanalyse, ræsonnement om exploits, malware-adfærd, red team-værktøjer, uden diskussion om, hvorvidt spørgsmålet er tilladt.
• Kemi, biologi og farmakologi — dosisberegning, reaktionsmekanismer, toksikologi, synteseveje, som et filtreret endpoint afviser ved første nøgleordskontakt.
• Adversarial ML — hårde negative eksempler, jailbreak-korpusser og misbrugstaksonomier til klassifikatorer, der har brug for at have set den ægte vare.
• Klinisk, juridisk og retsmedicinsk tekst — sagsmateriale, der er grafisk af natur og bliver afvist af præcis den grund.

Ucensureret er ikke det samme som uden ansvar. Du ejer det, du genererer, og vores politik for ansvarlig brug og vores servicevilkår gælder for kontoen. At fjerne et afvisningslag fjerner et gæt om hensigt; det fjerner ikke dine forpligtelser under den lovgivning, der gælder for dig.

06STEM og ræsonnement: hvad de offentliggjorte tal siger

Nemotrons træningsfokus har været matematik, kode, naturvidenskab og instruktionsfølge, siden Llama-Nemotrons efter-træningsdatasæt blev bygget netop op om de fire akser. Det, NVIDIA rapporterer for Nemotron 3 Ultra-grundmodellen — leverandørrapporterede tal på den ukomprimerede model, som vi ikke selv har kørt:

To forbehold er mere værd end tallene. Tallet for SWE-Bench Verified er et interval — NVIDIA rapporterer 65,0 % til 70,4 % afhængigt af, hvilket agent-rammeværk der kører det (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), og en spredning på fem point alene fra stilladset viser, hvor meget agentiske scorer afhænger af rammeværket frem for af modellen. Og Artificial Analysis placerede Nemotron 3 Ultra på 48 på sit Intelligence Index, nummer 9 ud af 89 modeller — stærkt, men ikke i toppen af feltet, og deres uafhængige måling er den, vi ville vægte over en hvilken som helst leverandørs slide.

Om den tidligere generation rapporterer NVIDIAs Llama-Nemotron-artikel LN-Ultra til 76,0 % på GPQA-Diamond mod DeepSeek-R1's 71,5 % og Llama-3.1-405B-Instructs 43,4 %, plus 80,8 % på AIME 2024 — en anden model, taget med fordi naturvidenskab på ph.d.-niveau og konkurrencematematik har været familiens mål i to generationer.

Benchmarktal som offentliggjort af NVIDIA (juni 2026) på den ukomprimerede Nemotron 3 Ultra, og af Artificial Analysis for de uafhængige målinger. Komprimerede udgaver kan afvige. Vi offentliggør ikke benchmarktal, vi ikke selv har verificeret eller ikke kan tilskrive en kilde.

07Pris, og forbeholdet om ordrigdom

Med $0,75 pr. million inputtokens og $3,30 pr. million outputtokens ligger Nemotron3Ultra i den nederste tredjedel af vores katalog på input og i midten på output. Gennemregnede eksempler, fordi priser pr. million er svære at mærke:

Kaldets form	Input	Output	Pris
Typisk RAG-tur	50.000	4.000	$0,051
Analyse af langt dokument	150.000	8.000	$0,139
Kald i maksimal størrelse	262.144	16.384	$0,251

En forespørgsel med fuld kontekst og fuldt output — hver eneste token endpointet vil tage imod og hver eneste token det vil producere — koster cirka 25 cent. Den samme form på Kimi-K3-3BIT-REAP, vores dyreste model til $3,83/$19,12, koster cirka $1,32, altså 5,3× mere.

Så forbeholdet, og det er reelt. Artificial Analysis målte, at Nemotron 3 Ultra genererer 2,3× flere outputtokens end medianen blandt konkurrenterne på tværs af deres benchmarksuite. Ræsonnerende modeller fakturerer dig for tænkningen, og denne her tænker længe; en fordel i pris pr. token fordamper til en ulempe pr. opgave, hvis modellen ræsonnerer tre gange så længe for at nå det samme svar. Modtrækket er indbygget og tilgængeligt på vores API: Nemotron 3 blev efter-trænet til styring af ræsonnementsbudget, og reasoning_effort understøttes her — NVIDIA beskriver en tilstand med lavere indsats, der bruger væsentligt færre tænketokens mod en nøjagtighedsomkostning i enkeltcifrede procentpoint. Til klassifikation, udtræk og routing: skru ned, og økonomien ændrer sig mærkbart; til et bevis eller en refaktorering på tværs af filer: skru op, og betal for det med vilje. Mål dine egne tokens pr. opgave i stedet for at læse prislisten og antage.

08Sådan kalder du den: tre dialekter, én model

Alle modeller på gatewayen svarer på tre streamende API-flader, så du kan pege en eksisterende klient mod den uden at skrive din integration om: /v1/chat/completions (OpenAI-dialekt), /v1/messages (Anthropic-dialekt) og /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Oversigt over egenskaber, så intet overrasker dig ved integrationen:

Egenskab	Nemotron3Ultra · 3BIT-REAP
Kontekstvindue	262.144 tokens
Maks. output / forespørgsel	16.384 tokens
Streaming	Ja
Tool calling	Ja
Ræsonnementsspor	Ja
reasoning_effort	Ja
json_schema (strikst)	Ja
response_format	Ja
Vision / billedinput	Nej — kun tekst
Afvisningslag	Intet

Vision-rækken fanger folk: Nemotron3Ultra er kun tekst. Sender din pipeline billeder, så brug MiniMax-M3-3BIT-REAP eller MiMo-V2.5-W8A16 til $0,50/$2,00, eller Kimi-K2.6-W4A16-AUTOROUND-REAP til $0,78/$3,67 — alle med vision, alle ucensurerede, alle på den samme kontekst på 262.144 tokens. Den fulde parameteroversigt findes i API-dokumentationen.

09Hvor Nemotron3Ultra passer ind blandt de tolv

Kataloget er tolv ucensurerede modeller, der deler det samme kontekstvindue, de samme tre dialekter og den samme fraværende afvisningsmekanisme; de adskiller sig i grundmodel, pris og egenskaber. Nemotrons plads er specifik: arbejdshesten til ræsonnement med åben slægt — ikke den billigste, ikke den mest kapable, men den med det mest offentlige papirspor bag sin adfærd, tunet hårdest mod STEM og agenter.

Model	Ind / 1M	Ud / 1M	Vision	Vælg den til
MiniMax-M3 · 3BIT-REAP	$0,50	$2,00	Ja	Billigste mulighed med vision
MiMo-V2.5-Pro · W8A16	$0,50	$2,00	Nej	Kvantiseringsniveauet med højest troværdighed
GLM-5.2 · 3BIT-REAP	$0,73	$2,34	Nej	Billigste ræsonnement på stor grundmodel
Nemotron3Ultra · 3BIT-REAP	$0,75	$3,30	Nej	STEM, agenter, åben slægt
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0,78	$3,67	Ja	Vision + AutoRound-troværdighed
DeepSeek-V4-Pro · 3BIT-REAP	$1,95	$3,90	Nej	Dyb analyse i ét skud
Kimi-K3 · 3BIT-REAP	$3,83	$19,12	Ja	Det absolutte kapacitetsloft

Syv ud af tolv vist. Det fulde katalog — inklusive Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 og Hy3 — findes i API-dokumentationen. Bemærk, at Laguna-S-2.1 ikke understøtter struktureret output, og at inkling ikke understøtter json_schema; Nemotron3Ultra understøtter begge dele.

Den nærmeste nabo på pris er GLM-5.2-3BIT-REAP til $0,73/$2,34, og den ærlige sammenligning er denne: GLM-5.2 er billigere pr. token, især på output. Nemotron kommer med et offentliggjort træningskorpus, en eksplicit drejeknap til ræsonnementsbudget og en familiehistorie rettet mod naturvidenskab på ph.d.-niveau. Almindeligt ræsonnement i stor mængde: kør den billige. STEM-tungt, agentisk eller underlagt et tilsyn, der spørger, hvor modellens adfærd kommer fra: dér er Nemotron forskellen værd.

10Ofte stillede spørgsmål

---

Kilder: NVIDIAs tekniske rapport om Nemotron 3 Ultra · NVIDIAs udviklerblog (juni 2026) · Arkitekturnoter om Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmarktal for grundmodellen er rapporteret af NVIDIA på den ukomprimerede model, medmindre de tilskrives Artificial Analysis; komprimerede udgaver kan afvige. Priser og egenskaber er aktuelle pr. 5. september 2026.