Ocensurerat Nemotron-API

De flesta ”öppna” modeller är öppna vikter och inget mer — en tarball med parametrar, en licens och tystnad om var siffrorna kom ifrån. Nemotron har varit det konsekventa undantaget i två år: NVIDIA släpper vikterna, efterträningsdatan, RL-miljöerna och receptet. Det spelar roll för en ocensurerad slutpunkt på ett sätt som är lätt att missa. En modell vars alignment-data är publicerad är en modell vars vägransbeteende du kan resonera om i stället för att gissa om — och en som en tredje part legitimt kan driftsätta utan ett innehållsfilter fastskruvat över munnen.

01Vad är Nemotron 3 Ultra?

Nemotron 3 Ultra är den största medlemmen i NVIDIA:s Nemotron 3-familj, släppt på Hugging Face den 4 juni 2026. NVIDIA:s tekniska rapport beskriver den som ”en språkmodell av typen Mixture-of-Experts Hybrid Mamba-Attention med 550 miljarder totala och 55 miljarder aktiva parametrar” — ungefär 10 % av nätverket arbetar på en given token, vilket är det som gör en modell på en halv biljon parametrar möjlig att servera över huvud taget.

Den rapporterade uppbyggnaden är 108 lager med modelldimension 8 192, där Mamba-2-lager av tillståndsrymdstyp varvas med en gles uppsättning fullständiga attention-lager, 512 experter per MoE-lager med top-22-dirigering. Förträningen kördes på ungefär 20 biljoner texttokens i två faser — först mångfaldsviktad, sedan kvalitetsviktad — med brytpunkt i september 2025, 12 naturliga språk och 43 programmeringsspråk. Efterträningen använde SFT, RL i flera miljöer med verifierbara belöningar, och Multi-Teacher On-Policy Distillation över mer än tio specialistlärare. Det uttalade designmålet är långkörande agenter: sessioner som håller en stor kontext, anropar verktyg dussintals gånger och kör länge nog att ekonomin per token dominerar räkningen.

02Nemotron-härstamningen, och varför meritlistan spelar roll

Nemotron är ingen engångsföreteelse. Den är den synliga produkten av ett NVIDIA-forskningsprogram som gått i samma riktning sedan 2024, och varje generation lämnade efter sig något som den nuvarande modellen fortfarande bär. Nemotron-4 340B (juni 2024) släpptes med en öppen pipeline för generering av syntetiska data, sin belöningsmodell och sin generator, plus ett ovanligt avslöjande: den överväldigande majoriteten av dess alignment-data var modellgenererad. Modellen som datafabrik snarare än orakel är skälet till att senare Nemotron-utgåvor fortsätter släppa datamängder tillsammans med vikterna.

Llama-Nemotron — resonemang du kan stänga av

Llama-Nemotron-familjen från 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) bidrog med två idéer som åldrats väl. Den första var arkitektonisk: NVIDIA:s neurala arkitektursökning Puzzle byggde ett bibliotek av blockvis destillerade transformerblock och satte ihop dem med heltalsprogrammering, vilket gav modeller där vissa block hoppar över attention helt eller ersätter det med ett enda linjärt lager, medan FFN Fusion vek ihop på varandra följande feed-forward-block till färre, bredare och parallella block — vilket kapar sekventiellt djup snarare än parameterantal. LN-Ultra fick plats på en enda 8×H100-nod och överträffade, enligt NVIDIA:s artikel, DeepSeek-R1 på GPQA-Diamond (76,0 % mot 71,5 %).

Den andra var beteendemässig: Llama-Nemotron var den första öppna familjen med en dynamisk resonemangsomkopplare, där träningsdatan märktes detailed thinking on eller detailed thinking off i systeminstruktionen, med formatbelöningar som framtvingade <think>-taggar i på-läget. En uppsättning vikter, två beteenden, valbara vid inferens. Nemotron 3:s styrning av resonemangsbudget — och parametern reasoning_effort på vårt API — härstammar direkt från det arbetet.

Nemotron 3 — vändningen mot hybrid

Nemotron 3 ersatte Llama-härledningen med en hybridarkitektur byggd från grunden och lade till LatentMoE (som komprimerar tokens före dirigering, vilket NVIDIA säger tillåter ”fyra gånger så många experter till samma inferenskostnad”), multi-token prediction och inbyggd NVFP4-förträning. NVIDIA publicerade sammanlagt 50 miljoner SFT-exempel, 2 miljoner RL-uppgifter och 55 RL-miljöer tillsammans med vikterna — du behöver inte ta en leverantörs ord för vad modellen lärdes ut, eftersom undervisningsmaterialet går att ladda ner.

03Vad hybridarkitekturen ger dig

En transformers KV-cache växer linjärt med sekvenslängden, vilket är därför inferens med lång kontext blir dyr i minne innan den blir dyr i beräkning. Mamba-2-lager är tillståndsrymdmodeller som bär ett tillstånd av fast storlek, så deras minneskostnad per token växer inte med historiken; det de är dåliga på är exakt associativ återsökning. Hybriden behåller Mamba-2 för merparten av sekvensbearbetningen plus en minoritet riktiga attention-lager för den återsökning tillståndsrymdlagren fumlar med, och en aggressiv kvot på 64 frågehuvuden mot 2 KV-huvuden krymper cachen ytterligare. NVIDIA rapporterar 94,7 % på RULER vid 1M tokens — en nålåtersökningsbenchmark byggd för att fånga modeller som gör anspråk på ett fönster de inte kan använda.

Följden är genomströmning: NVIDIA hävdar upp till ungefär 6× högre inferensgenomströmning än jämförbara modeller vid likvärdig träffsäkerhet, och Artificial Analysis mätte oberoende 140,3 tokens per sekund med 1,33 sekunders tid till första token — sjunde plats av 89 modeller. På en agentkörning med 200 turer är det skillnaden mellan att bli klar på en eftermiddag och att inte bli klar.

04Vad ”3BIT-REAP” betyder, ärligt talat

Suffixet är ingen dekoration — det säger exakt vad som gjordes med grundmodellen för att få den att få plats.

REAP — Router-weighted Expert Activation Pruning — kommer från Cerebras Research och antogs till ICLR 2026. I en gles MoE skickar routern varje token till en handfull experter; över en verklig arbetslast träffas några konstant och andra nästan aldrig. REAP poängsätter varje expert på ett framträdandekriterium som kombinerar hur starkt routern grindar den med hur stora dess utdatabidrag är, och tar sedan bort de minst framträdande helt — Cerebras rapporterar beskärning av upp till 50 % av experterna i modeller så stora som 1 biljon parametrar med i stort sett bevarad baskvalitet, och finner att beskärning för generativa uppgifter som kod slår sammanslagning. 3-bitars kvantisering komprimerar sedan det som överlever. Beskär först, kvantisera sedan, så att bitbudgeten går till experter som bär trafik i stället för att smetas ut över döda.

Komprimering är inte gratis, och vi låtsas inte annat: aggressiv kvantisering visar sig först som små försämringar i exakt formatefterlevnad och i aritmetik över långa kedjor, inte som synlig osammanhängande text. Så här ligger de tre nivåerna:

Suffix	Vad det är	Var vi använder det
3BIT-REAP	3-bitars vikter + expertbeskärning	De största grundmodellerna, där inget annat får plats med bibehållen hastighet
W4A16-AUTOROUND-REAP	4-bitars vikter / 16-bitars aktiveringar, AutoRounds inlärda avrundning, + beskärning	Mellanstora grundmodeller; AutoRound återvinner träffsäkerhet jämfört med naiv avrundning till närmaste
W8A16	8-bitars vikter / 16-bitars aktiveringar	Högst trohet; grundmodeller små nog att inte behöva aggressiv komprimering

Nemotron 3 Ultra på 550 miljarder parametrar hör tydligt hemma i den första kategorin. Om din arbetslast är ovanligt känslig för exakt numerisk utdata över långa kedjor listar forskningsindexet W8A16-nivån — MiMo-V2.5-Pro-W8A16 och Hy3-W8A16 — vid golvet $0.50/$2.00. En verklig avvägning, ingen tratt: mindre modell, mindre komprimering.

05Vad ”ocensurerad” betyder på den här slutpunkten

Konkret: det finns inget vägranslager och ingen innehållsfiltrering av utdata. Ingen klassificerare granskar din prompt och returnerar ett förskrivet avslag, och svaret genomsöks inte innan det når din ström. Det du får är modellens eget beteende.

Det är här den öppna härstamningen slutar vara kuriosa. Eftersom NVIDIA publicerade efterträningsdatan och RL-miljöerna är modellens böjelser granskningsbara i princip snarare än folklore. Och eftersom OpenMDW-1.1 är en tillåtande licens från Linux Foundation som täcker arkitektur, parametrar, dokumentation och programvara kan en oberoende operatör servera en modifierad, ofiltrerad driftsättning på egen hårdvara utan att licensen är hindret. Många ”öppna” modellicenser tillåter inte det. Den här gör det. Skillnaden visar sig där reflexmässig vägran är en bugg, inte en säkerhetsfunktion:

• Säkerhetsforskning — sårbarhetsanalys, exploateringsresonemang, skadeprogramsbeteende, red team-verktyg, utan att behöva diskutera om frågan är tillåten.
• Kemi, biologi och farmakologi — doseringsmatematik, reaktionsmekanismer, toxikologi, syntesvägar som en filtrerad slutpunkt avvisar vid nyckelordskontakt.
• Adversariell ML — svåra negativa exempel, jailbreak-korpusar och missbrukstaxonomier för klassificerare som behöver ha sett den verkliga varan.
• Klinisk, juridisk och forensisk text — fallmaterial som är grafiskt till sin natur och vägras av precis det skälet.

Ocensurerat är inte ansvarsbefriat. Du äger det du genererar, och vår policy för ansvarsfull användning och våra användarvillkor styr kontot. Att ta bort ett vägranslager tar bort en gissning om avsikt; det tar inte bort dina skyldigheter enligt den lag som gäller för dig.

06STEM och resonemang: vad de publicerade siffrorna säger

Nemotrons träningsfokus har varit matematik, kod, naturvetenskap och instruktionsföljning ända sedan efterträningsdatamängden för Llama-Nemotron byggdes kring precis de fyra axlarna. Det NVIDIA rapporterar för grundmodellen Nemotron 3 Ultra — leverantörsrapporterade siffror på den okomprimerade modellen, som vi inte har kört:

Två förbehåll är värda mer än siffrorna. Resultatet på SWE-Bench Verified är ett intervall — NVIDIA rapporterar 65,0 % till 70,4 % beroende på vilket agentramverk som kör det (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), och en spridning på fem punkter enbart från ställningen visar hur mycket agentiska poäng beror på ramverket snarare än på modellen. Och Artificial Analysis placerade Nemotron 3 Ultra på 48 i sitt Intelligence Index, nionde av 89 modeller — starkt, men inte i toppen av fältet, och deras oberoende mätning är den vi skulle vikta högre än någon leverantörs bild.

På den tidigare generationen rapporterar NVIDIA:s Llama-Nemotron-artikel LN-Ultra på 76,0 % på GPQA-Diamond mot DeepSeek-R1:s 71,5 % och Llama-3.1-405B-Instructs 43,4 %, plus 80,8 % på AIME 2024 — en annan modell, medtagen eftersom naturvetenskap på forskarnivå och tävlingsmatematik varit familjens mål i två generationer.

Benchmarksiffror som publicerade av NVIDIA (juni 2026) på den okomprimerade Nemotron 3 Ultra, och av Artificial Analysis för oberoende mätningar. Komprimerade builds kan avvika. Vi publicerar inga benchmarksiffror vi inte har verifierat eller inte kan attribuera.

07Pris, och förbehållet om ordrikedom

Vid $0.75 per miljon indatatokens och $3.30 per miljon utdatatokens ligger Nemotron3Ultra i den nedre tredjedelen av vår katalog på indata och i mitten på utdata. Räkneexempel, eftersom pris per miljon är svårt att känna:

Anropstyp	Indata	Utdata	Kostnad
Typisk RAG-tur	50,000	4,000	$0.051
Analys av långt dokument	150,000	8,000	$0.139
Anrop av maximal storlek	262,144	16,384	$0.251

En förfrågan med full kontext och full utdata — varje token slutpunkten tar emot och varje token den producerar — kostar ungefär 25 cent. Samma form på Kimi-K3-3BIT-REAP, vår dyraste modell på $3.83/$19.12, kostar ungefär $1.32, eller 5,3× mer.

Och så förbehållet, som är verkligt. Artificial Analysis mätte att Nemotron 3 Ultra genererade 2,3× fler utdatatokens än medianen bland jämförbara modeller över deras benchmarksvit. Resonemangsmodeller debiterar dig för tänkandet, och den här tänker länge; ett prisövertag per token dunstar bort till ett underläge per uppgift om modellen resonerar tre gånger så länge för att nå samma svar. Motmedlet är inbyggt och exponerat på vårt API: Nemotron 3 efterträndes för styrning av resonemangsbudget, och reasoning_effort stöds här — NVIDIA beskriver ett läge med lägre ansträngning som använder väsentligt färre tänketokens mot en träffsäkerhetsförlust på ensiffrig nivå. På klassificering, extraktion och dirigering: skruva ner den, och ekonomin ändras påtagligt; på ett bevis eller en refaktorering över flera filer: skruva upp den och betala för det medvetet. Mät dina egna tokens per uppgift i stället för att läsa prislistan och anta.

08Att anropa den: tre dialekter, en modell

Varje modell på gatewayen svarar på tre strömmande API-ytor, så att du kan peka en befintlig klient mot den utan att skriva om din integration: /v1/chat/completions (OpenAI-dialekten), /v1/messages (Anthropic-dialekten) och /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Sammanfattning av funktioner, så att inget överraskar dig vid integrationen:

Funktion	Nemotron3Ultra · 3BIT-REAP
Kontextfönster	262 144 tokens
Max utdata / förfrågan	16 384 tokens
Strömning	Ja
Verktygsanrop	Ja
Resonemangsspår	Ja
reasoning_effort	Ja
json_schema (strikt)	Ja
response_format	Ja
Vision / bildindata	Nej — endast text
Vägranslager	Inget

Vision-raden fångar folk: Nemotron3Ultra hanterar bara text. Om din pipeline skickar bilder, använd MiniMax-M3-3BIT-REAP eller MiMo-V2.5-W8A16 för $0.50/$2.00, eller Kimi-K2.6-W4A16-AUTOROUND-REAP för $0.78/$3.67 — alla visionkapabla, alla ocensurerade, alla på samma kontext om 262 144 tokens. Fullständig parameterreferens finns i API-dokumentationen.

09Var Nemotron3Ultra passar in bland de tolv

Katalogen är tolv ocensurerade modeller som delar samma kontextfönster, samma tre dialekter och samma frånvaro av vägranslager; de skiljer sig i grundmodell, pris och förmåga. Nemotrons position är specifik: arbetshästen för resonemang med öppen härstamning — inte den billigaste, inte den mest kapabla, men den med det mest offentliga pappersspåret bakom sitt beteende, hårdast trimmad mot STEM och agenter.

Modell	In / 1M	Ut / 1M	Vision	Välj den för
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Ja	Billigaste visionkapabla alternativet
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Nej	Kvantiseringsnivån med högst trohet
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Nej	Billigaste resonemanget på stor grundmodell
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Nej	STEM, agenter, öppen härstamning
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Ja	Vision + AutoRound-trohet
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Nej	Djup analys i ett svep
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Ja	Absolut kapacitetstak

Sju av tolv visas. Hela katalogen — inklusive Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 och Hy3 — finns i API-dokumentationen. Observera att Laguna-S-2.1 inte stöder strukturerad utdata och att inkling inte stöder json_schema; Nemotron3Ultra stöder båda.

Den närmaste grannen i pris är GLM-5.2-3BIT-REAP på $0.73/$2.34, och den ärliga jämförelsen är denna: GLM-5.2 är billigare per token, särskilt på utdata. Nemotron tar med sig en publicerad träningskorpus, en uttrycklig ratt för resonemangsbudget och en familjehistoria inriktad på naturvetenskap på forskarnivå. Allmänt resonemang i hög volym: kör den billigare. STEM-tungt, agentiskt eller föremål för en granskning som frågar var modellens beteende kom ifrån: då är Nemotron värd skillnaden.

10Vanliga frågor

---

Källor: NVIDIA:s tekniska rapport för Nemotron 3 Ultra · NVIDIA:s utvecklarblogg (juni 2026) · Arkitekturnoteringar för Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmarks för grundmodellen är NVIDIA-rapporterade på den okomprimerade modellen om de inte attribueras till Artificial Analysis; komprimerade builds kan avvika. Priser och funktioner är aktuella per den 5 september 2026.