Tsenseerimata Nemotroni API

Enamik „avatud” mudeleid on avatud kaalude poolest ja mitte muu poolest — parameetrite tarball, litsents ja vaikimine selle kohta, kust numbrid tulid. Nemotron on olnud kaks aastat järjekindel erand: NVIDIA annab välja kaalud, järeltreeningu andmestikud, RL-keskkonnad ja retsepti. Tsenseerimata otspunkti jaoks loeb see viisil, mida on lihtne mööda vaadata. Mudel, mille joondusandmed on avaldatud, on mudel, kelle keeldumiskäitumise üle saab arutleda, mitte seda oletada — ja mudel, mida kolmas osapool tohib õiguspäraselt paigaldada ilma sisufiltrita suu ette poldituna.

01Mis on Nemotron 3 Ultra?

Nemotron 3 Ultra on NVIDIA Nemotron 3 perekonna suurim liige, mis anti Hugging Face'ile välja 4. juunil 2026. NVIDIA tehniline aruanne kirjeldab teda kui „550 miljardi kogu- ja 55 miljardi aktiivse parameetriga Mixture-of-Experts hübriidset Mamba-Attention keelemudelit” — umbes 10% võrgust töötab mis tahes antud tokeni kallal ja just see teeb poolteist-triljoni-suunas parameetritega mudeli üldse serveeritavaks.

Teatatud paigutus on 108 kihti mudeli mõõtmel 8,192, põimides Mamba-2 olekuruumi kihte hõreda hulga täieliku tähelepanu kihtidega, 512 eksperti MoE-kihi kohta ja top-22 marsruutimine. Eeltreening käis umbes 20 triljonil tekstitokenil kahes faasis — esmalt mitmekesisuse, siis kvaliteedi poole kaldu — 2025. aasta septembri lõikepiiriga, 12 loomuliku ja 43 programmeerimiskeelega. Järeltreeningus kasutati SFT-d, mitmes keskkonnas kontrollitavate preemiatega RL-i ja mitme õpetajaga on-policy destilleerimist enam kui kümne spetsialistist õpetaja lõikes. Väljaöeldud disainisiht on pikalt jooksvad agendid: seansid, mis hoiavad suurt konteksti, kutsuvad tööriistu kümneid kordi ja kestavad piisavalt kaua, et tokenikohane ökonoomika arvet domineeriks.

02Nemotroni liin ja miks pedigree loeb

Nemotron ei ole ühekordne asi. See on NVIDIA uurimisprogrammi nähtav väljund, mis on liikunud samas suunas alates 2024. aastast, ja iga põlvkond jättis midagi, mida praegune mudel endiselt kannab. Nemotron-4 340B (juuni 2024) tuli välja avatud sünteetiliste andmete genereerimise torustiku, oma preemiamudeli ja generaatoriga, pluss ebatavalise avaldusega: valdav enamus tema joondusandmetest oli mudeli genereeritud. Mudel kui andmevabrik, mitte oraakel, on põhjus, miks hilisemad Nemotroni väljalasked jätkuvalt annavad kaalude kõrval välja ka andmestikke.

Llama-Nemotron — arutlus, mille saab välja lülitada

2025. aasta Llama-Nemotroni perekond (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) andis kaks ideed, mis on hästi vananenud. Esimene oli arhitektuuriline: NVIDIA Puzzle neuroarhitektuuri otsing ehitas raamatukogu plokkide kaupa destilleeritud transformeriplokkidest ja pani need kokku täisarvulise segaprogrammeerimisega, tootes mudeleid, kus mõned plokid jätavad tähelepanu täiesti vahele või asendavad selle ühe lineaarse kihiga, samal ajal kui FFN Fusion kokkusuruvad järjestikused ettesöötvad plokid vähemateks, laiemateks ja paralleelseteks — kärpides pigem järjestikust sügavust kui parameetrite arvu. LN-Ultra mahtus ühele 8×H100 sõlmele, edestades NVIDIA artikli järgi GPQA-Diamondil DeepSeek-R1-e (76.0% vs 71.5%).

Teine oli käitumuslik: Llama-Nemotron oli esimene avatud perekond dünaamilise arutluslülitiga, mis märgistas treeningandmed süsteemijuhises kas detailed thinking on või detailed thinking off, ning vormipreemiad jõustasid sisselülitatud režiimis <think> sildid. Üks kaalude komplekt, kaks käitumist, valitav järeldamise ajal. Nemotron 3 arutluseelarve juhtimine — ja meie API reasoning_effort parameeter — pärineb otse sellest tööst.

Nemotron 3 — hübriidne pööre

Nemotron 3 asendas Llamast tuletamise nullist ehitatud hübriidarhitektuuriga ja lisas LatentMoE (tokenite kokkusurumine enne marsruutimist, mis NVIDIA sõnul lubab „4x rohkem eksperte sama järeldamiskulu juures”), mitme tokeni ennustuse ja natiivse NVFP4 eeltreeningu. NVIDIA avaldas koos kaaludega kumulatiivselt 50 miljonit SFT-näidet, 2 miljonit RL-ülesannet ja 55 RL-keskkonda — sa ei pea tootja sõna uskuma selle kohta, mida mudelile õpetati, sest õppematerjal on allalaaditav.

03Mida hübriidarhitektuur sulle annab

Transformeri KV-vahemälu kasvab lineaarselt jada pikkusega ja just seepärast läheb pika konteksti järeldamine kalliks pigem mälus kui arvutuses. Mamba-2 kihid on olekuruumi mudelid, mis kannavad fikseeritud suurusega rekurrentset olekut, nii et nende tokenikohane mälukulu ei kasva ajalooga; halvad on nad täpses assotsiatiivses meenutamises. Hübriid hoiab Mamba-2 jada töötlemise põhiosa jaoks pluss vähemuse päris tähelepanukihte selle meenutamise jaoks, millega olekuruumi kihid hädas on, ning agressiivne 64 päringupea / 2 KV-pea suhe kahandab vahemälu veelgi. NVIDIA teatab 94.7% RULER-il 1M tokeni juures — nõelaotsingu võrdlustest, mis on ehitatud tabama mudeleid, kes väidavad akent, mida nad kasutada ei suuda.

Tagajärg on läbilaskevõime: NVIDIA väidab kuni umbes 6× kõrgemat järeldamise läbilaskevõimet võrreldes samaväärsete mudelitega samal täpsusel, ning Artificial Analysis mõõtis sõltumatult 140.3 tokenit sekundis 1.33-sekundilise esimese tokeni ajaga — 7. koht 89 mudeli seas. 200-voorulisel agendijooksul on see vahe, kas asi saab pärastlõunaga valmis või ei saagi.

04Mida „3BIT-REAP” ausalt tähendab

Järelliide ei ole kaunistus — see ütleb sulle täpselt, mida vundamendiga tehti, et ta ära mahuks.

REAP — Router-weighted Expert Activation Pruning — pärineb Cerebras Researchilt ja võeti vastu ICLR 2026-le. Hõredas MoE-s saadab ruuter iga tokeni käputäiele ekspertidele; päris koormuse peal tabatakse mõnda pidevalt ja teisi peaaegu mitte kunagi. REAP hindab iga eksperti olulisuskriteeriumi järgi, mis ühendab selle, kui tugevalt ruuter teda väravab ja kui suured on tema väljundipanused, ning eemaldab kõige vähem olulised lihtsalt ära — Cerebras teatab kuni 50% ekspertide kärpimisest kuni 1 triljoni parameetriga mudelites, säilitades suures osas algtaseme kvaliteedi, ja leiab, et generatiivsete ülesannete puhul nagu kood võidab kärpimine ühendamise. 3-bitine kvantiseerimine surub siis kokku selle, mis alles jäi. Kärbi enne, kvantiseeri pärast, nii et bitieelarve läheb ekspertidele, kes liiklust kannavad, selle asemel et olla laiali määritud surnud ekspertide peale.

Kompressioon ei ole tasuta ja me ei teeskle vastupidist: agressiivne kvantiseerimine ilmneb kõigepealt väikeste halvenemistena täpse vormingu järgimises ja pikas ahelas aritmeetikas, mitte nähtava sidusetusena. Kuhu kolm taset jäävad:

Järelliide	Mis see on	Kus me seda kasutame
3BIT-REAP	3-bitised kaalud + ekspertide kärpimine	Kõige suuremad vundamendid, kuhu miski muu kiirusega ei mahu
W4A16-AUTOROUND-REAP	4-bitised kaalud / 16-bitised aktivatsioonid, AutoRoundi õpitud ümardamine, + kärpimine	Keskmise suurusega vundamendid; AutoRound taastab täpsust naiivse lähima ümardamise ees
W8A16	8-bitised kaalud / 16-bitised aktivatsioonid	Kõrgeim täpsus; vundamendid, mis on piisavalt väikesed, et agressiivset kompressiooni mitte vajada

Nemotron 3 Ultra oma 550B-ga on selgelt esimeses kategoorias. Kui sinu koormus on ebatavaliselt tundlik täpse numbrilise väljundi suhtes pikkade ahelate vältel, loetleb uurimisindeks W8A16 taseme — MiMo-V2.5-Pro-W8A16 ja Hy3-W8A16 — hinnapõrandal $0.50/$2.00. Päris vahetus, mitte lehter: väiksem mudel, vähem kompressiooni.

05Mida „tsenseerimata” sellel otspunktil tähendab

Konkreetselt: keeldumiskihti ei ole ja väljundile ei rakendata sisufiltreerimist. Ükski klassifikaator ei uuri sinu viipa ega tagasta konservi keeldumist ning vastust ei skaneerita, enne kui see sinu voogu jõuab. Sa saad mudeli enda käitumise.

Just siin lakkab avatud liin olemast pelk kurioosum. Kuna NVIDIA avaldas järeltreeningu andmed ja RL-keskkonnad, on mudeli kalduvused põhimõtteliselt auditeeritavad, mitte rahvapärimus. Ja kuna OpenMDW-1.1 on lubav Linux Foundationi litsents, mis katab arhitektuuri, parameetreid, dokumentatsiooni ja tarkvara, tohib sõltumatu operaator serveerida muudetud filtreerimata paigaldust omaenda riistvaral ilma, et litsents oleks takistuseks. Paljud „avatud” mudelite litsentsid seda ei luba. See lubab. Vahe ilmneb seal, kus refleksiivne keeldumine on viga, mitte turvafunktsioon:

• Turvauuringud — haavatavuste analüüs, ekspluatatsioonide arutlemine, pahavara käitumine, punase meeskonna tööriistad, ilma vaidluseta selle üle, kas küsimus on lubatud.
• Keemia, bioloogia ja farmakoloogia — annusearvutused, reaktsioonimehhanismid, toksikoloogia, sünteesiteed, millest filtreeritud otspunkt märksõna puudutamisel keeldub.
• Vastandlik masinõpe — rasked negatiivid, jailbreak-korpused ja kuritarvituse taksonoomiad klassifikaatoritele, mis peavad olema päris asja näinud.
• Kliiniline, õiguslik ja kohtuekspertiisi tekst — juhtumimaterjal, mis on oma olemuselt jõhker ja millest keeldutakse täpselt sel põhjusel.

Tsenseerimata ei tähenda vastutuseta. Sa vastutad selle eest, mida sa genereerid, ning kontot reguleerivad meie vastutustundliku kasutuse poliitika ja kasutustingimused. Keeldumiskihi eemaldamine eemaldab oletuse kavatsuse kohta; see ei eemalda sinu kohustusi sinu suhtes kehtiva õiguse ees.

06STEM ja arutlus: mida avaldatud numbrid ütlevad

Nemotroni treeningufookus on olnud matemaatika, kood, teadus ja juhiste järgimine alates sellest, kui Llama-Nemotroni järeltreeningu andmestik ehitati täpselt neile neljale teljele. Mida NVIDIA Nemotron 3 Ultra vundamendi kohta teatab — tootja teatatud numbrid kokkusurumata mudeli kohta, mida meie ei ole jooksutanud:

Kaks reservatsiooni, mis on väärt rohkem kui numbrid. SWE-Bench Verifiedi näitaja on vahemik — NVIDIA teatab 65.0% kuni 70.4% sõltuvalt sellest, milline agendiraamistik seda jooksutab (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), ja viiepunktiline hajuvus ainuüksi tellingutest näitab, kui palju agentsed skoorid sõltuvad raamistikust, mitte mudelist. Ja Artificial Analysis paigutas Nemotron 3 Ultra oma Intelligence Indexil 48 punktile, 9. kohale 89 mudeli seast — tugev, mitte välja tipp, ja nende sõltumatu mõõtmine on see, mida me kaaluksime üle iga tootja slaidi.

Varasema põlvkonna kohta teatab NVIDIA Llama-Nemotroni artikkel LN-Ultra tulemuseks 76.0% GPQA-Diamondil DeepSeek-R1 71.5% ja Llama-3.1-405B-Instructi 43.4% vastu, pluss 80.8% AIME 2024-l — teine mudel, lisatud seepärast, et kraadiõppe tasemel teadus ja võistlusmatemaatika on olnud perekonna siht kaks põlvkonda.

Võrdlustesti numbrid nii, nagu NVIDIA need avaldas (juuni 2026) kokkusurumata Nemotron 3 Ultra kohta, ja Artificial Analysis sõltumatute mõõtmiste kohta. Kokkusurutud ehitused võivad erineda. Me ei avalda võrdlusnumbreid, mida me ise ei kontrollinud või mida me ei suuda omistada.

07Hind ja sõnaohtruse reservatsioon

Hinnaga $0.75 miljoni sisendtokeni ja $3.30 miljoni väljundtokeni kohta asub Nemotron3Ultra meie kataloogi alumises kolmandikus sisendi ja keskel väljundi poolest. Läbiarvutatud näited, sest miljonikohast hinda on raske tunnetada:

Päringu kuju	Sisend	Väljund	Kulu
Tüüpiline RAG-voor	50,000	4,000	$0.051
Pika dokumendi analüüs	150,000	8,000	$0.139
Maksimaalse suurusega päring	262,144	16,384	$0.251

Täiskonteksti ja täisväljundiga päring — iga token, mille otspunkt vastu võtab, ja iga token, mille ta toodab — maksab umbes 25 senti. Sama kuju mudelil Kimi-K3-3BIT-REAP, meie kalleimal mudelil hinnaga $3.83/$19.12, maksab umbes $1.32 ehk 5.3× rohkem.

Nüüd reservatsioon ja see on tõsine. Artificial Analysis mõõtis, et Nemotron 3 Ultra genereerib oma võrdlustestide komplekti lõikes 2.3× rohkem väljundtokeneid kui mediaanne konkurent. Arutlusmudelid arveldavad sulle mõtlemise eest ja see mudel mõtleb pikalt; tokenikohane hinnaeelis aurustub ülesandekohaseks puuduseks, kui mudel arutleb sama vastuseni jõudmiseks kolm korda kauem. Leevendus on sisse ehitatud ja meie API-s avatud: Nemotron 3 järeltreeniti arutluseelarve juhtimise jaoks ja reasoning_effort on siin toetatud — NVIDIA kirjeldab madalama pingutuse režiimi, mis kasutab oluliselt vähem mõtlemistokeneid ühekohalise täpsuskaotuse hinnaga. Klassifitseerimisel, ekstraktimisel ja marsruutimisel keera see alla ja ökonoomika muutub oluliselt; tõestuse või mitme faili refaktori juures keera üles ja maksa selle eest teadlikult. Mõõda oma tokeneid ülesande kohta, mitte ära loe hinnakirja ja oleta.

08Kutsumine: kolm dialekti, üks mudel

Iga lüüsi mudel vastab kolmel voogedastaval API-pinnal, nii et sa saad olemasoleva kliendi sellele suunata ilma oma integratsiooni ümber kirjutamata: /v1/chat/completions (OpenAI dialekt), /v1/messages (Anthropicu dialekt) ja /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Võimekuste kokkuvõte, et integreerimisel midagi ei üllataks:

Võimekus	Nemotron3Ultra · 3BIT-REAP
Kontekstiaken	262,144 tokenit
Maksimaalne väljund / päring	16,384 tokenit
Voogedastus	Jah
Tööriistakutsed	Jah
Arutlusjäljed	Jah
reasoning_effort	Jah
json_schema (range)	Jah
response_format	Jah
Nägemine / pildisisend	Ei — ainult tekst
Keeldumiskiht	Puudub

Nägemise rida tabab inimesi ootamatult: Nemotron3Ultra on ainult tekstile. Kui sinu torustik saadab pilte, kasuta mudelit MiniMax-M3-3BIT-REAP või MiMo-V2.5-W8A16 hinnaga $0.50/$2.00, või Kimi-K2.6-W4A16-AUTOROUND-REAP hinnaga $0.78/$3.67 — kõik nägemisvõimelised, kõik tsenseerimata, kõik samal 262,144-tokenilisel kontekstil. Täielik parameetriviide on API dokumentatsioonis.

09Kus Nemotron3Ultra kaheteistkümne seas paikneb

Kataloog on kaksteist tsenseerimata mudelit, mis jagavad sama kontekstiakent, samu kolme dialekti ja sama keeldumiskihi puudumist; nad erinevad vundamendi, hinna ja võimekuse poolest. Nemotroni positsioon on konkreetne: avatud liiniga arutluse tööhobune — mitte odavaim, mitte võimekaim, aga see, mille käitumise taga on kõige rohkem avalikku paberijälge ja mis on kõige tugevamalt häälestatud STEM-ile ja agentidele.

Mudel	Sisse / 1M	Välja / 1M	Nägemine	Vali ta selleks
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Jah	Odavaim nägemisvõimeline valik
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Ei	Kõrgeima täpsusega kvantiseerimistase
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Ei	Odavaim suure vundamendiga arutlus
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Ei	STEM, agendid, avatud liin
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Jah	Nägemine + AutoRoundi täpsus
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Ei	Sügav ühe hoobiga analüüs
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Jah	Absoluutne võimekuselagi

Näidatud seitse kaheteistkümnest. Täielik kataloog — sealhulgas Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 ja Hy3 — on API dokumentatsioonis. Pane tähele, et Laguna-S-2.1 ei toeta struktureeritud väljundit ja inkling ei toeta json_schema-t; Nemotron3Ultra toetab mõlemat.

Lähim naaber hinna poolest on GLM-5.2-3BIT-REAP hinnaga $0.73/$2.34 ja aus võrdlus on selline: GLM-5.2 on tokeni kohta odavam, eriti väljundil. Nemotron toob kaasa avaldatud treeningukorpuse, selgesõnalise arutluseelarve nupu ja perekonnaajaloo, mis on suunatud kraadiõppe tasemel teadusele. Suuremahuline üldine arutlus: jooksuta odavamat. STEM-raskus, agentsus või audit, mis küsib, kust mudeli käitumine tuli: Nemotron teenib vahe ära.

10Korduma kippuvad küsimused

---

Allikad: NVIDIA Nemotron 3 Ultra tehniline aruanne · NVIDIA arendajablogi (juuni 2026) · Nemotron 3 Super arhitektuurimärkmed · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Vundamendi võrdlustestid on NVIDIA teatatud kokkusurumata mudeli kohta, kui ei ole omistatud Artificial Analysisile; kokkusurutud ehitused võivad erineda. Hinnad ja võimekused on ajakohased 5. septembri 2026 seisuga.