Unzensierte Nemotron-API

Die meisten „offenen“ Modelle sind offene Gewichte und sonst nichts — ein Tarball voller Parameter, eine Lizenz und Schweigen darüber, woher die Zahlen kommen. Nemotron ist seit zwei Jahren die konsequente Ausnahme: NVIDIA liefert die Gewichte, die Post-Training-Datensätze, die RL-Umgebungen und das Rezept. Für einen unzensierten Endpunkt zählt das auf eine Weise, die man leicht übersieht. Ein Modell, dessen Alignment-Daten veröffentlicht sind, ist eines, dessen Ablehnungsverhalten man nachvollziehen kann, statt es zu raten — und eines, das ein Dritter legitim betreiben darf, ohne dass ihm ein Inhaltsfilter vor den Mund geschraubt wird.

01Was ist Nemotron 3 Ultra?

Nemotron 3 Ultra ist das größte Mitglied von NVIDIAs Nemotron-3-Familie, am 4. Juni 2026 auf Hugging Face veröffentlicht. NVIDIAs technischer Bericht beschreibt es als „ein Mixture-of-Experts-Sprachmodell mit hybrider Mamba-Attention-Architektur, 550 Milliarden Parametern insgesamt und 55 Milliarden aktiven Parametern“ — etwa 10% des Netzes arbeiten an einem beliebigen Token, und genau das macht ein Modell mit einer halben Billion Parametern überhaupt betreibbar.

Der berichtete Aufbau umfasst 108 Schichten bei einer Modelldimension von 8.192, die Mamba-2-State-Space-Schichten mit einer dünnen Auswahl vollständiger Attention-Schichten verschränken, dazu 512 Experten pro MoE-Schicht mit Top-22-Routing. Das Pretraining lief über rund 20 Billionen Text-Token in zwei Phasen — zuerst auf Vielfalt, dann auf Qualität gewichtet — mit Datenstand September 2025, 12 natürlichen Sprachen und 43 Programmiersprachen. Im Post-Training kamen SFT, Multi-Environment-RL mit überprüfbaren Belohnungen und Multi-Teacher On-Policy Distillation über mehr als zehn Spezialistenlehrer zum Einsatz. Das erklärte Entwurfsziel sind langlaufende Agenten: Sitzungen, die viel Kontext halten, Dutzende Male Werkzeuge aufrufen und lange genug laufen, dass die Ökonomie pro Token die Rechnung bestimmt.

02Die Nemotron-Linie und warum die Herkunft zählt

Nemotron ist kein Einzelstück. Es ist das sichtbare Ergebnis eines NVIDIA-Forschungsprogramms, das seit 2024 in dieselbe Richtung läuft, und jede Generation hat etwas hinterlassen, das das heutige Modell noch trägt. Nemotron-4 340B (Juni 2024) erschien mit einer offenen Pipeline zur Erzeugung synthetischer Daten, dem Reward-Modell und dem Generator dazu — plus einer ungewöhnlichen Offenlegung: Die überwältigende Mehrheit der Alignment-Daten war modellgeneriert. Das Modell als Datenfabrik statt als Orakel ist der Grund, warum spätere Nemotron-Releases weiterhin Datensätze neben den Gewichten ausliefern.

Llama-Nemotron — Reasoning, das man abschalten kann

Die Llama-Nemotron-Familie von 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) steuerte zwei Ideen bei, die gut gealtert sind. Die erste war architektonisch: NVIDIAs neuronale Architektursuche Puzzle baute eine Bibliothek blockweise destillierter Transformer-Blöcke auf und setzte sie mittels gemischt-ganzzahliger Optimierung zusammen. Das ergab Modelle, in denen manche Blöcke Attention ganz überspringen oder durch eine einzelne lineare Schicht ersetzen, während FFN Fusion aufeinanderfolgende Feed-Forward-Blöcke zu weniger, breiteren, parallelen Blöcken zusammenfasste — was die sequenzielle Tiefe verringert, nicht die Parameterzahl. LN-Ultra passte auf einen einzelnen Knoten mit 8×H100 und übertraf laut NVIDIAs Papier DeepSeek-R1 auf GPQA-Diamond (76,0% gegenüber 71,5%).

Die zweite war verhaltensbezogen: Llama-Nemotron war die erste offene Familie mit einem dynamischen Reasoning-Schalter, der Trainingsdaten in der Systemanweisung mit detailed thinking on oder detailed thinking off markierte, wobei Formatbelohnungen im Ein-Modus <think>-Tags erzwangen. Ein Satz Gewichte, zwei Verhaltensweisen, zur Inferenzzeit wählbar. Die Reasoning-Budget-Steuerung von Nemotron 3 — und der Parameter reasoning_effort in unserer API — stammt in direkter Linie von dieser Arbeit ab.

Nemotron 3 — die hybride Wende

Nemotron 3 ersetzte die Llama-Ableitung durch eine von Grund auf neue hybride Architektur und ergänzte LatentMoE (Token werden vor dem Routing komprimiert, was laut NVIDIA „viermal so viele Experten bei gleichen Inferenzkosten“ erlaubt), Multi-Token-Prediction und natives NVFP4-Pretraining. NVIDIA veröffentlichte kumuliert 50 Millionen SFT-Beispiele, 2 Millionen RL-Aufgaben und 55 RL-Umgebungen zusammen mit den Gewichten — man muss einem Anbieter nicht glauben, was er dem Modell beigebracht hat, weil das Lehrmaterial herunterladbar ist.

03Was die hybride Architektur bringt

Der KV-Cache eines Transformers wächst linear mit der Sequenzlänge, weshalb Inferenz mit langem Kontext im Speicher teuer wird, bevor sie es in der Rechenzeit wird. Mamba-2-Schichten sind State-Space-Modelle mit einem rekurrenten Zustand fester Größe, ihre Speicherkosten pro Token wachsen also nicht mit der Historie; schlecht sind sie in präziser assoziativer Erinnerung. Der Hybrid behält Mamba-2 für den Großteil der Sequenzverarbeitung und ergänzt eine Minderheit echter Attention-Schichten für genau die Erinnerung, an der State-Space-Schichten scheitern, wobei ein aggressives Verhältnis von 64 Query-Heads zu 2 KV-Heads den Cache weiter schrumpfen lässt. NVIDIA berichtet 94,7% auf RULER bei 1 Mio. Token — ein Nadel-im-Heuhaufen-Benchmark, gebaut, um Modelle zu ertappen, die ein Fenster behaupten, das sie nicht nutzen können.

Die Folge ist Durchsatz: NVIDIA nennt bis zu rund 6× höheren Inferenzdurchsatz als vergleichbare Modelle bei gleichwertiger Genauigkeit, und Artificial Analysis maß unabhängig 140,3 Token pro Sekunde bei 1,33 Sekunden bis zum ersten Token — Platz 7 von 89 Modellen. Bei einem Agentenlauf über 200 Runden ist das der Unterschied zwischen „an einem Nachmittag fertig“ und „gar nicht fertig“.

04Was „3BIT-REAP“ ehrlich gesagt bedeutet

Das Suffix ist keine Zierde — es sagt Ihnen genau, was mit dem Fundament gemacht wurde, damit es passt.

REAP — Router-weighted Expert Activation Pruning — stammt von Cerebras Research und wurde auf der ICLR 2026 angenommen. In einem sparse MoE schickt der Router jedes Token zu einer Handvoll Experten; über eine reale Last hinweg werden manche ständig getroffen und andere fast nie. REAP bewertet jeden Experten nach einem Saliency-Kriterium, das kombiniert, wie stark der Router ihn ansteuert und wie groß seine Beiträge zur Ausgabe sind, und entfernt die unwichtigsten vollständig — Cerebras berichtet, bis zu 50% der Experten aus Modellen mit bis zu 1 Billion Parametern zu entfernen und dabei die Ausgangsqualität weitgehend zu erhalten, und stellt fest, dass Pruning bei generativen Aufgaben wie Code das Zusammenführen schlägt. 3-Bit-Quantisierung komprimiert anschließend, was übrig bleibt. Erst prunen, dann quantisieren, damit das Bit-Budget zu den Experten fließt, die Last tragen, statt über tote verschmiert zu werden.

Kompression ist nicht umsonst, und wir tun nicht so, als wäre sie es: Aggressive Quantisierung zeigt sich zuerst in kleinen Einbußen bei exakter Formattreue und langkettiger Arithmetik, nicht in sichtbarer Inkohärenz. Wo die drei Stufen liegen:

Suffix	Was es ist	Wo wir es einsetzen
3BIT-REAP	3-Bit-Gewichte + Experten-Pruning	Die größten Fundamente, bei denen nichts anderes bei dieser Geschwindigkeit passt
W4A16-AUTOROUND-REAP	4-Bit-Gewichte / 16-Bit-Aktivierungen, gelerntes Runden mit AutoRound, + Pruning	Mittelgroße Fundamente; AutoRound holt gegenüber naivem Runden Genauigkeit zurück
W8A16	8-Bit-Gewichte / 16-Bit-Aktivierungen	Höchste Treue; Fundamente klein genug, um keine aggressive Kompression zu brauchen

Nemotron 3 Ultra fällt mit 550 Mrd. Parametern klar in die erste Kategorie. Wenn Ihre Last ungewöhnlich empfindlich auf exakte numerische Ausgaben über lange Ketten reagiert, führt der Research-Index die W8A16-Stufe — MiMo-V2.5-Pro-W8A16 und Hy3-W8A16 — an der Untergrenze von $0.50/$2.00. Ein echter Tausch, kein Trichter: kleineres Modell, weniger Kompression.

05Was „unzensiert“ auf diesem Endpunkt bedeutet

Konkret: Es gibt keine Ablehnungsschicht und keine Inhaltsfilterung auf der Ausgabe. Kein Klassifikator prüft Ihren Prompt und gibt eine Konservenabsage zurück, und die Antwort wird nicht durchleuchtet, bevor sie Ihren Stream erreicht. Was Sie bekommen, ist das Verhalten des Modells selbst.

Hier hört die offene Herkunft auf, bloße Anekdote zu sein. Weil NVIDIA die Post-Training-Daten und die RL-Umgebungen veröffentlicht hat, sind die Neigungen des Modells im Prinzip prüfbar statt Folklore. Und weil OpenMDW-1.1 eine freizügige Lizenz der Linux Foundation ist, die Architektur, Parameter, Dokumentation und Software abdeckt, darf ein unabhängiger Betreiber ein verändertes, ungefiltertes Deployment auf eigener Hardware ausliefern, ohne dass die Lizenz im Weg steht. Viele „offene“ Modelllizenzen erlauben das nicht. Diese schon. Der Unterschied zeigt sich überall dort, wo reflexhafte Ablehnung ein Fehler ist und kein Sicherheitsmerkmal:

• Sicherheitsforschung — Schwachstellenanalyse, Exploit-Überlegungen, Malware-Verhalten, Red-Team-Werkzeuge, ohne darüber zu streiten, ob die Frage erlaubt ist.
• Chemie, Biologie und Pharmakologie — Dosisrechnungen, Reaktionsmechanismen, Toxikologie, Syntheserouten, die ein gefilterter Endpunkt schon beim Stichwortkontakt ablehnt.
• Adversarielles ML — harte Negativbeispiele, Jailbreak-Korpora und Missbrauchstaxonomien für Klassifikatoren, die das Echte gesehen haben müssen.
• Klinische, juristische und forensische Texte — Fallmaterial, das von Natur aus drastisch ist und genau deshalb abgelehnt wird.

Unzensiert heißt nicht rechenschaftsfrei. Ihnen gehört, was Sie erzeugen, und unsere Richtlinie zur verantwortungsvollen Nutzung sowie die Nutzungsbedingungen gelten für das Konto. Eine Ablehnungsschicht zu entfernen, entfernt eine Vermutung über Ihre Absicht; es entfernt nicht Ihre Pflichten nach dem für Sie geltenden Recht.

06MINT und Reasoning: Was die veröffentlichten Zahlen sagen

Nemotrons Trainingsschwerpunkt liegt auf Mathematik, Code, Naturwissenschaft und Instruktionsbefolgung, seit der Post-Training-Datensatz von Llama-Nemotron genau um diese vier Achsen herum gebaut wurde. Was NVIDIA für das Fundament Nemotron 3 Ultra berichtet — Herstellerangaben zum unkomprimierten Modell, die wir nicht selbst nachgemessen haben:

Zwei Vorbehalte, die mehr wert sind als die Zahlen. Der Wert für SWE-Bench Verified ist eine Spanne — NVIDIA berichtet 65,0% bis 70,4%, je nachdem, welches Agenten-Harness läuft (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), und fünf Punkte Streuung allein durch das Gerüst zeigen, wie stark agentische Werte vom Harness abhängen und nicht vom Modell. Und Artificial Analysis setzte Nemotron 3 Ultra auf 48 im Intelligence Index, Platz 9 von 89 Modellen — stark, aber nicht an der Spitze des Feldes, und ihre unabhängige Messung würden wir höher gewichten als die Folie eines Anbieters.

Zur älteren Generation berichtet NVIDIAs Llama-Nemotron-Papier für LN-Ultra 76,0% auf GPQA-Diamond gegenüber 71,5% von DeepSeek-R1 und 43,4% von Llama-3.1-405B-Instruct, dazu 80,8% auf AIME 2024 — ein anderes Modell, hier aufgeführt, weil naturwissenschaftliche Fragen auf Graduiertenniveau und Wettbewerbsmathematik seit zwei Generationen das Ziel dieser Familie sind.

Benchmark-Werte wie von NVIDIA (Juni 2026) für das unkomprimierte Nemotron 3 Ultra veröffentlicht und von Artificial Analysis für die unabhängigen Messungen. Komprimierte Builds können abweichen. Wir veröffentlichen keine Benchmark-Zahlen, die wir nicht überprüft haben oder nicht zuordnen können.

07Preis und der Vorbehalt zur Wortfülle

Mit $0.75 pro Million Eingabetoken und $3.30 pro Million Ausgabetoken liegt Nemotron3Ultra bei der Eingabe im unteren Drittel unseres Katalogs und bei der Ausgabe in der Mitte. Durchgerechnete Beispiele, weil Preise pro Million schwer zu greifen sind:

Form des Aufrufs	Eingabe	Ausgabe	Kosten
Typische RAG-Runde	50,000	4,000	$0.051
Analyse eines langen Dokuments	150,000	8,000	$0.139
Aufruf in maximaler Größe	262,144	16,384	$0.251

Eine Anfrage mit vollem Kontext und voller Ausgabe — jedes Token, das der Endpunkt annimmt, und jedes Token, das er erzeugt — kostet etwa 25 Cent. Dieselbe Form auf Kimi-K3-3BIT-REAP, unserem teuersten Modell mit $3.83/$19.12, kostet rund $1.32, also das 5,3-Fache.

Nun der Vorbehalt, und er ist real. Artificial Analysis maß über die gesamte Benchmark-Suite hinweg, dass Nemotron 3 Ultra 2,3× mehr Ausgabetoken erzeugt als der Median der Vergleichsmodelle. Reasoning-Modelle stellen Ihnen das Denken in Rechnung, und dieses hier denkt ausführlich; ein Preisvorteil pro Token verpufft in einem Nachteil pro Aufgabe, wenn das Modell dreimal so lange überlegt, um zur selben Antwort zu kommen. Die Gegenmaßnahme ist eingebaut und über unsere API zugänglich: Nemotron 3 wurde auf Reasoning-Budget-Steuerung nachtrainiert, und reasoning_effort wird hier unterstützt — NVIDIA beschreibt einen Modus mit geringerem Aufwand, der deutlich weniger Denk-Token bei einem einstelligen Genauigkeitsverlust verbraucht. Bei Klassifikation, Extraktion und Routing drehen Sie ihn herunter, und die Ökonomie ändert sich spürbar; bei einem Beweis oder einem Refactoring über mehrere Dateien drehen Sie ihn hoch und zahlen bewusst dafür. Messen Sie Ihre eigenen Token pro Aufgabe, statt die Preisliste zu lesen und zu vermuten.

08Der Aufruf: drei Dialekte, ein Modell

Jedes Modell auf dem Gateway antwortet auf drei streamingfähigen API-Oberflächen, Sie können einen bestehenden Client also darauf richten, ohne Ihre Integration umzuschreiben: /v1/chat/completions (OpenAI-Dialekt), /v1/messages (Anthropic-Dialekt) und /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Die Übersicht der Fähigkeiten, damit Sie bei der Integration nichts überrascht:

Fähigkeit	Nemotron3Ultra · 3BIT-REAP
Kontextfenster	262.144 Token
Max. Ausgabe / Anfrage	16.384 Token
Streaming	Ja
Tool-Calling	Ja
Reasoning-Spuren	Ja
reasoning_effort	Ja
json_schema (strikt)	Ja
response_format	Ja
Vision / Bildeingabe	Nein — nur Text
Ablehnungsschicht	Keine

Die Vision-Zeile erwischt viele: Nemotron3Ultra ist reiner Text. Wenn Ihre Pipeline Bilder schickt, nutzen Sie MiniMax-M3-3BIT-REAP oder MiMo-V2.5-W8A16 für $0.50/$2.00 oder Kimi-K2.6-W4A16-AUTOROUND-REAP für $0.78/$3.67 — alle vision-fähig, alle unzensiert, alle mit demselben Kontext von 262.144 Token. Die vollständige Parameterreferenz steht in der API-Dokumentation.

09Wo Nemotron3Ultra unter den zwölf steht

Der Katalog besteht aus zwölf unzensierten Modellen, die dasselbe Kontextfenster, dieselben drei Dialekte und dasselbe Fehlen einer Ablehnungsschicht teilen; sie unterscheiden sich in Fundament, Preis und Fähigkeiten. Nemotrons Position ist spezifisch: das Reasoning-Arbeitstier mit offener Herkunft — nicht das günstigste, nicht das leistungsfähigste, aber das mit der umfangreichsten öffentlichen Papierspur hinter seinem Verhalten, am stärksten auf MINT und Agenten getrimmt.

Modell	Rein / 1 Mio.	Raus / 1 Mio.	Vision	Nehmen Sie es für
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Ja	Die günstigste vision-fähige Option
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Nein	Quantisierungsstufe mit der höchsten Treue
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Nein	Günstigstes Reasoning auf großem Fundament
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Nein	MINT, Agenten, offene Herkunft
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Ja	Vision + AutoRound-Treue
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Nein	Tiefe Analyse in einem Zug
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Ja	Absolute Leistungsobergrenze

Sieben von zwölf gezeigt. Der vollständige Katalog — inklusive Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 und Hy3 — steht in der API-Doku. Beachten Sie, dass Laguna-S-2.1 keine strukturierte Ausgabe unterstützt und inkling kein json_schema; Nemotron3Ultra unterstützt beides.

Der preisliche Nachbar ist GLM-5.2-3BIT-REAP mit $0.73/$2.34, und der ehrliche Vergleich lautet: GLM-5.2 ist pro Token günstiger, vor allem bei der Ausgabe. Nemotron bringt einen veröffentlichten Trainingskorpus mit, einen ausdrücklichen Regler für das Reasoning-Budget und eine Familiengeschichte, die auf Naturwissenschaft auf Graduiertenniveau zielt. Allgemeines Reasoning in großem Volumen: Nehmen Sie das günstigere. MINT-lastig, agentisch oder einem Audit unterworfen, das fragt, woher das Verhalten des Modells kommt: Dann ist Nemotron den Aufpreis wert.

10Häufige Fragen

---

Quellen: technischer Bericht zu NVIDIA Nemotron 3 Ultra · NVIDIA-Entwicklerblog (Juni 2026) · Architekturnotizen zu Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmark-Werte zum Fundament sind von NVIDIA für das unkomprimierte Modell berichtet, sofern sie nicht Artificial Analysis zugeschrieben sind; komprimierte Builds können abweichen. Preise und Fähigkeiten mit Stand 5. September 2026.