Necenzurované Nemotron API

Väčšina „otvorených“ modelov je otvorená len vo váhach a v ničom inom — archív parametrov, licencia a mlčanie o tom, odkiaľ sa vzali čísla. Nemotron je už dva roky dôslednou výnimkou: NVIDIA dodáva váhy, post-tréningové dátové sady, RL prostredia aj recept. Pre necenzurovaný koncový bod to znamená viac, než sa na prvý pohľad zdá. Model, ktorého zarovnávacie dáta sú zverejnené, je model, o ktorého odmietavom správaní sa dá uvažovať namiesto hádania — a ktorý smie tretia strana legitímne nasadiť bez filtra obsahu priskrutkovaného k jeho ústam.

01Čo je Nemotron 3 Ultra?

Nemotron 3 Ultra je najväčší člen rodiny Nemotron 3 od NVIDIE, vydaný na Hugging Face 4. júna 2026. Technická správa NVIDIE ho opisuje ako „jazykový model typu Mixture-of-Experts Hybrid Mamba-Attention s 550 miliardami celkových a 55 miliardami aktívnych parametrov“ — na ktoromkoľvek tokene pracuje zhruba 10 % siete, a práve to robí model s pol biliónom parametrov vôbec servírovateľným.

Uvádzané usporiadanie je 108 vrstiev pri dimenzii modelu 8 192, kde sa stavovo-priestorové vrstvy Mamba-2 striedajú s riedkou množinou vrstiev plnej pozornosti, s 512 expertmi na MoE vrstvu a smerovaním top-22. Predtréning bežal na zhruba 20 biliónoch textových tokenov v dvoch fázach — najprv s dôrazom na rozmanitosť, potom na kvalitu — s uzávierkou v septembri 2025, s 12 prirodzenými jazykmi a 43 programovacími jazykmi. Post-tréning použil SFT, RL vo viacerých prostrediach s overiteľnými odmenami a Multi-Teacher On-Policy Distillation naprieč viac než desiatimi špecializovanými učiteľmi. Deklarovaným cieľom návrhu sú dlho bežiaci agenti: relácie, ktoré držia veľký kontext, volajú nástroje desiatky ráz a bežia dosť dlho na to, aby účtu dominovala ekonomika za token.

02Rodokmeň Nemotronu a prečo na pôvode záleží

Nemotron nie je jednorazovka. Je viditeľným výstupom výskumného programu NVIDIE, ktorý beží tým istým smerom od roku 2024, a každá generácia zanechala niečo, čo súčasný model stále nesie. Nemotron-4 340B (jún 2024) prišiel s otvorenou pipeline na generovanie syntetických dát, s vlastným odmeňovacím modelom aj generátorom, plus s nezvyčajným priznaním: drvivá väčšina jeho zarovnávacích dát bola vygenerovaná modelom. Model ako továreň na dáta, nie ako veštec — preto neskoršie vydania Nemotronu dodávajú dátové sady spolu s váhami.

Llama-Nemotron — uvažovanie, ktoré sa dá vypnúť

Rodina Llama-Nemotron z roku 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) priniesla dva nápady, ktoré dobre zostarli. Prvý bol architektonický: neurónové vyhľadávanie architektúry Puzzle od NVIDIE zostavilo knižnicu blokovo destilovaných transformerových blokov a poskladalo ich zmiešaným celočíselným programovaním, čím vznikli modely, v ktorých niektoré bloky pozornosť úplne preskakujú alebo ju nahrádzajú jedinou lineárnou vrstvou, kým FFN Fusion zlúčila po sebe idúce dopredné bloky do menšieho počtu širších, paralelných — čím skrátila sekvenčnú hĺbku, nie počet parametrov. LN-Ultra sa zmestila na jediný uzol 8×H100 a podľa práce NVIDIE pritom prekonala DeepSeek-R1 na GPQA-Diamond (76,0 % oproti 71,5 %).

Druhý bol behaviorálny: Llama-Nemotron bola prvá otvorená rodina s dynamickým prepínačom uvažovania, ktorá tréningové dáta označovala v systémovej inštrukcii ako detailed thinking on alebo detailed thinking off, pričom formátové odmeny vynucovali značky <think> v zapnutom režime. Jedna sada váh, dve správania, voliteľné v čase inferencie. Riadenie rozpočtu na uvažovanie v Nemotrone 3 — a parameter reasoning_effort na našom API — pochádza priamo z tejto práce.

Nemotron 3 — hybridný obrat

Nemotron 3 nahradil odvodenie od Llamy hybridnou architektúrou postavenou od nuly a pridal LatentMoE (kompresiu tokenov pred smerovaním, ktorá podľa NVIDIE umožňuje „štyrikrát viac expertov za rovnakú cenu inferencie“), predikciu viacerých tokenov a natívny predtréning v NVFP4. NVIDIA zverejnila spolu s váhami kumulatívne 50 miliónov SFT vzoriek, 2 milióny RL úloh a 55 RL prostredí — nemusíte veriť výrobcovi na slovo, čo model učil, pretože učebné materiály sú na stiahnutie.

03Čo vám hybridná architektúra prináša

KV cache transformera rastie lineárne s dĺžkou sekvencie, a preto sa inferencia s dlhým kontextom stáva drahou v pamäti skôr než vo výpočte. Vrstvy Mamba-2 sú stavovo-priestorové modely nesúce rekurentný stav pevnej veľkosti, takže ich pamäťová cena na token s históriou nerastie; v čom sú zlé, je presné asociatívne vybavovanie. Hybrid ponecháva Mamba-2 na väčšinu spracovania sekvencie plus menšinu skutočných vrstiev pozornosti na vybavovanie, s ktorým stavovo-priestorové vrstvy zápasia, pričom agresívny pomer 64 dotazových hláv na 2 KV hlavy cache ešte zmenšuje. NVIDIA uvádza 94,7 % na RULER pri milióne tokenov — benchmark hľadania ihly postavený tak, aby prichytil modely, ktoré sa hlásia k oknu, ktoré nedokážu využiť.

Dôsledkom je priepustnosť: NVIDIA tvrdí až zhruba šesťnásobne vyššiu priepustnosť inferencie oproti porovnateľným modelom pri rovnakej presnosti a Artificial Analysis nezávisle nameralo 140,3 tokenu za sekundu s časom do prvého tokenu 1,33 sekundy — 7. miesto z 89 modelov. Pri agentskom behu s 200 kolami je to rozdiel medzi dokončením do popoludnia a nedokončením vôbec.

04Čo „3BIT-REAP“ poctivo znamená

Prípona nie je ozdoba — presne vám hovorí, čo sa so základom urobilo, aby sa zmestil.

REAP — Router-weighted Expert Activation Pruning — pochádza z Cerebras Research a bol prijatý na ICLR 2026. V riedkom MoE posiela smerovač každý token hŕstke expertov; naprieč reálnou záťažou sú niektorí zasahovaní neustále a iní takmer nikdy. REAP hodnotí každého experta kritériom výraznosti, ktoré kombinuje to, ako silno ho smerovač otvára, s tým, aké veľké sú príspevky jeho výstupu, a potom najmenej výrazných rovno odstraňuje — Cerebras uvádza prerezanie až 50 % expertov z modelov veľkých ako bilión parametrov pri prevažne zachovanej východiskovej kvalite a zisťuje, že pri generatívnych úlohách, ako je kód, prerezávanie poráža zlučovanie. To, čo prežije, potom komprimuje 3-bitová kvantizácia. Najprv prerezať, potom kvantizovať, aby bitový rozpočet padol na expertov, ktorí nesú prevádzku, namiesto toho, aby sa rozotrel po mŕtvych.

Kompresia nie je zadarmo a nebudeme predstierať opak: agresívna kvantizácia sa prejaví najprv ako drobné zhoršenie v presnom dodržiavaní formátu a v dlhých reťazcoch aritmetiky, nie ako viditeľná nesúvislosť. Kde ležia tri úrovne:

Prípona	Čo to je	Kde ju používame
3BIT-REAP	3-bitové váhy + prerezávanie expertov	Najväčšie základy, kde sa nič iné rýchlo nezmestí
W4A16-AUTOROUND-REAP	4-bitové váhy / 16-bitové aktivácie, naučené zaokrúhľovanie AutoRound + prerezávanie	Stredne veľké základy; AutoRound získava späť presnosť oproti naivnému zaokrúhľovaniu na najbližšiu hodnotu
W8A16	8-bitové váhy / 16-bitové aktivácie	Najvyššia vernosť; základy dosť malé na to, aby agresívnu kompresiu nepotrebovali

Nemotron 3 Ultra s 550 miliardami parametrov patrí jednoznačne do prvej kategórie. Ak je vaša záťaž nezvyčajne citlivá na presný číselný výstup v dlhých reťazcoch, výskumný index uvádza úroveň W8A16 — MiMo-V2.5-Pro-W8A16 a Hy3-W8A16 — na spodnej hranici 0,50 $ / 2,00 $. Skutočný kompromis, nie lievik: menší model, menej kompresie.

05Čo na tomto koncovom bode znamená „necenzurované“

Konkrétne: neexistuje žiadna vrstva odmietania a na výstup sa neaplikuje žiadne filtrovanie obsahu. Žiadny klasifikátor neskúma váš prompt a nevracia konzervované odmietnutie a odpoveď sa pred vstupom do vášho prúdu neprehliada. Dostávate vlastné správanie modelu.

Práve tu prestáva byť otvorený rodokmeň zaujímavosťou. Keďže NVIDIA zverejnila post-tréningové dáta aj RL prostredia, sklony modelu sú v princípe auditovateľné, nie folklórne. A keďže OpenMDW-1.1 je permisívna licencia Linux Foundation pokrývajúca architektúru, parametre, dokumentáciu aj softvér, nezávislý prevádzkovateľ smie servírovať upravené, nefiltrované nasadenie na vlastnom hardvéri bez toho, aby mu licencia stála v ceste. Mnohé licencie „otvorených“ modelov to nedovoľujú. Táto áno. Rozdiel sa ukáže tam, kde je reflexívne odmietnutie chybou, nie bezpečnostnou funkciou:

• Bezpečnostný výskum — analýza zraniteľností, uvažovanie o exploitoch, správanie malvéru, nástroje pre červené tímy, bez dohadovania sa o tom, či je otázka povolená.
• Chémia, biológia a farmakológia — výpočty dávkovania, reakčné mechanizmy, toxikológia, syntetické cesty, ktoré filtrovaný koncový bod odmietne pri dotyku s kľúčovým slovom.
• Adversariálne ML — ťažké negatívne príklady, korpusy jailbreakov a taxonómie zneužitia pre klasifikátory, ktoré musia mať skutočnú vec videnú.
• Klinické, právne a forenzné texty — kazuistický materiál, ktorý je zo svojej podstaty drastický a presne preto býva odmietnutý.

Necenzurované neznamená bez zodpovednosti. To, čo vygenerujete, je vaše, a účet sa riadi našimi Zásadami zodpovedného používania a Obchodnými podmienkami. Odstránenie vrstvy odmietania odstraňuje dohad o vašom úmysle; neodstraňuje vaše povinnosti podľa práva, ktoré sa na vás vzťahuje.

06STEM a uvažovanie: čo hovoria zverejnené čísla

Tréningovým ťažiskom Nemotronu je matematika, kód, veda a sledovanie inštrukcií už odvtedy, čo bola post-tréningová dátová sada Llama-Nemotron postavená presne okolo týchto štyroch osí. Čo NVIDIA uvádza pre základ Nemotron 3 Ultra — čísla od výrobcu na nekomprimovanom modeli, ktoré sme nemerali my:

Dve výhrady, ktoré majú väčšiu cenu než tie čísla. Údaj SWE-Bench Verified je rozsah — NVIDIA uvádza 65,0 % až 70,4 % podľa toho, ktorý agentský rámec ho spúšťa (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), a päťbodový rozptyl spôsobený samotným lešením ukazuje, ako veľmi agentské skóre závisí od rámca, nie od modelu. A Artificial Analysis zaradilo Nemotron 3 Ultra na 48 bodov vo svojom Intelligence Index, 9. miesto z 89 modelov — silné, no nie na čele poľa, a práve ich nezávislé meranie by sme vážili viac než ktorúkoľvek výrobcovu snímku.

Pri staršej generácii uvádza práca NVIDIE o Llama-Nemotron pre LN-Ultra 76,0 % na GPQA-Diamond oproti 71,5 % pri DeepSeek-R1 a 43,4 % pri Llama-3.1-405B-Instruct, plus 80,8 % na AIME 2024 — iný model, uvedený preto, že veda na doktorandskej úrovni a súťažná matematika sú cieľom tejto rodiny už dve generácie.

Benchmarkové čísla tak, ako ich zverejnila NVIDIA (jún 2026) na nekomprimovanom Nemotrone 3 Ultra, a Artificial Analysis pre nezávislé merania. Komprimované buildy sa môžu líšiť. Nezverejňujeme benchmarkové čísla, ktoré sme neoverili alebo nevieme priradiť zdroju.

07Cena a výhrada o mnohovravnosti

Pri 0,75 $ za milión vstupných tokenov a 3,30 $ za milión výstupných tokenov sedí Nemotron3Ultra v spodnej tretine nášho katalógu na vstupe a v strede na výstupe. Prepočítané príklady, lebo ceny za milión sa ťažko predstavujú:

Tvar volania	Vstup	Výstup	Cena
Typické RAG kolo	50,000	4,000	$0.051
Analýza dlhého dokumentu	150,000	8,000	$0.139
Volanie maximálnej veľkosti	262,144	16,384	$0.251

Požiadavka s plným kontextom a plným výstupom — každý token, ktorý koncový bod prijme, a každý, ktorý vyprodukuje — stojí asi 25 centov. Ten istý tvar na Kimi-K3-3BIT-REAP, našom najdrahšom modeli za 3,83 $ / 19,12 $, stojí asi 1,32 $, teda 5,3-krát viac.

Teraz tá výhrada, a je skutočná. Artificial Analysis nameralo, že Nemotron 3 Ultra generuje naprieč ich benchmarkovou sadou 2,3-krát viac výstupných tokenov než mediánový konkurent. Modely na uvažovanie vám účtujú aj to premýšľanie a tento premýšľa zoširoka; cenová výhoda za token sa vyparí do nevýhody za úlohu, ak model uvažuje trikrát dlhšie, aby dospel k tej istej odpovedi. Zmiernenie je zabudované a na našom API dostupné: Nemotron 3 bol post-trénovaný na riadenie rozpočtu na uvažovanie a reasoning_effort je tu podporovaný — NVIDIA opisuje režim s nižším úsilím, ktorý používa podstatne menej tokenov premýšľania za jednociferný ústupok v presnosti. Pri klasifikácii, extrakcii a smerovaní ho stiahnite dole a ekonomika sa výrazne zmení; pri dôkaze alebo refaktore cez viac súborov ho vytiahnite hore a zaplaťte zaň vedome. Merajte si vlastné tokeny na úlohu, namiesto toho, aby ste čítali cenník a predpokladali.

08Ako ho zavolať: tri dialekty, jeden model

Každý model na bráne odpovedá na troch streamovacích API rozhraniach, takže naň môžete namieriť existujúceho klienta bez prepisovania integrácie: /v1/chat/completions (dialekt OpenAI), /v1/messages (dialekt Anthropic) a /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Zhrnutie schopností, aby vás pri integrácii nič neprekvapilo:

Schopnosť	Nemotron3Ultra · 3BIT-REAP
Kontextové okno	262 144 tokenov
Max. výstup / požiadavka	16 384 tokenov
Streamovanie	Áno
Volanie nástrojov	Áno
Stopy uvažovania	Áno
reasoning_effort	Áno
json_schema (prísny)	Áno
response_format	Áno
Videnie / obrazový vstup	Nie — len text
Vrstva odmietania	Žiadna

Riadok o videní ľudí často prekvapí: Nemotron3Ultra je len textový. Ak vaša pipeline posiela obrázky, použite MiniMax-M3-3BIT-REAP alebo MiMo-V2.5-W8A16 za 0,50 $ / 2,00 $, prípadne Kimi-K2.6-W4A16-AUTOROUND-REAP za 0,78 $ / 3,67 $ — všetky vidia, všetky sú necenzurované, všetky na rovnakom kontexte 262 144 tokenov. Úplná referencia parametrov je v dokumentácii API.

09Kam Nemotron3Ultra medzi dvanástimi patrí

Katalóg tvorí dvanásť necenzurovaných modelov zdieľajúcich rovnaké kontextové okno, rovnaké tri dialekty a rovnakú neprítomnosť vrstvy odmietania; líšia sa základom, cenou a schopnosťami. Pozícia Nemotronu je konkrétna: ťahúň na uvažovanie s otvoreným rodokmeňom — nie najlacnejší, nie najschopnejší, ale ten s najväčšou verejnou papierovou stopou za svojím správaním, ladený najtvrdšie smerom k STEM a agentom.

Model	Vstup / 1M	Výstup / 1M	Videnie	Vyberte si ho na
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Áno	Najlacnejšia možnosť s videním
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Nie	Najvernejšia kvantizačná úroveň
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Nie	Najlacnejšie uvažovanie na veľkom základe
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Nie	STEM, agenti, otvorený rodokmeň
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Áno	Videnie + vernosť AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Nie	Hlboká analýza na jeden záťah
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Áno	Absolútny strop schopností

Zobrazených je sedem z dvanástich. Úplný katalóg — vrátane Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 a Hy3 — je v dokumentácii API. Všimnite si, že Laguna-S-2.1 nepodporuje štruktúrovaný výstup a inkling nepodporuje json_schema; Nemotron3Ultra podporuje oboje.

Najbližším susedom podľa ceny je GLM-5.2-3BIT-REAP za 0,73 $ / 2,34 $ a poctivé porovnanie znie takto: GLM-5.2 je za token lacnejší, najmä na výstupe. Nemotron prináša zverejnený tréningový korpus, výslovný ovládač rozpočtu na uvažovanie a rodinnú históriu mierenú na vedu na doktorandskej úrovni. Vysokoobjemové všeobecné uvažovanie: spustite ten lacnejší. Ťažké STEM, agentská práca alebo audit, ktorý sa pýta, odkiaľ sa správanie modelu vzalo: Nemotron si ten rozdiel zaslúži.

10Často kladené otázky

---

Zdroje: Technická správa NVIDIA Nemotron 3 Ultra · Vývojársky blog NVIDIE (jún 2026) · Poznámky k architektúre Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmarky základu uvádza NVIDIA na nekomprimovanom modeli, ak nie sú pripísané Artificial Analysis; komprimované buildy sa môžu líšiť. Ceny a schopnosti sú platné k 5. septembru 2026.