Necenzūruotas Nemotron API

Dauguma „atvirų“ modelių yra atviri tik svoriais ir niekuo daugiau — parametrų archyvas, licencija ir tyla apie tai, iš kur atsirado skaičiai. Nemotron jau dvejus metus yra nuosekli išimtis: NVIDIA pateikia svorius, papildomo apmokymo duomenų rinkinius, RL aplinkas ir receptą. Necenzūruotam galiniam taškui tai svarbu tokiu būdu, kurį lengva pražiūrėti. Modelis, kurio derinimo duomenys paskelbti, yra toks, apie kurio atsisakymo elgseną galima samprotauti, o ne spėlioti — ir toks, kurį trečioji šalis gali teisėtai teikti be prie burnos prisukto turinio filtro.

01Kas yra Nemotron 3 Ultra?

Nemotron 3 Ultra yra didžiausias NVIDIA Nemotron 3 šeimos narys, paskelbtas Hugging Face platformoje 2026 m. birželio 4 d. NVIDIA techninėje ataskaitoje jis apibūdinamas kaip „550 milijardų viso ir 55 milijardų aktyvių parametrų ekspertų mišinio hibridinis Mamba-Attention kalbos modelis“ — maždaug 10 % tinklo dirba su bet kuriuo konkrečiu žetonu, ir būtent tai leidžia pusės trilijono parametrų modelį apskritai aptarnauti.

Paskelbta schema yra 108 sluoksniai su 8 192 modelio matmeniu, kur Mamba-2 būsenos erdvės sluoksniai persipina su retu pilno dėmesio sluoksnių rinkiniu, po 512 ekspertų viename MoE sluoksnyje su top-22 maršrutizavimu. Pirminis mokymas vyko maždaug ties 20 trilijonų teksto žetonų dviem etapais — pirma pasvirus į įvairovę, paskui į kokybę — su 2025 m. rugsėjo riba, 12 natūralių ir 43 programavimo kalbomis. Papildomam apmokymui naudotas SFT, kelių aplinkų RL su patikrinamais atlygiais ir daugelio mokytojų on-policy distiliavimas iš daugiau nei dešimties specialistų mokytojų. Deklaruojamas projektavimo tikslas — ilgai veikiantys agentai: seansai, kurie laiko didelį kontekstą, dešimtis kartų kviečia įrankius ir trunka pakankamai ilgai, kad sąskaitoje lemtų žetono ekonomika.

02Nemotron linija ir kodėl kilmė svarbi

Nemotron nėra vienkartinis dalykas. Tai matoma NVIDIA tyrimų programos, nuo 2024 m. judančios ta pačia kryptimi, išeiga, ir kiekviena karta paliko kažką, ką dabartinis modelis vis dar nešiojasi. Nemotron-4 340B (2024 m. birželis) pasirodė su atviru sintetinių duomenų generavimo konvejeriu, savo atlygio modeliu ir generatoriumi, plius neįprastu atskleidimu: didžioji dalis jo derinimo duomenų buvo sugeneruoti modelio. Modelis kaip duomenų fabrikas, o ne kaip orakulas, ir yra priežastis, kodėl vėlesni Nemotron leidimai vis dar teikia duomenų rinkinius kartu su svoriais.

Llama-Nemotron — samprotavimas, kurį galima išjungti

2025 m. Llama-Nemotron šeima (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) davė dvi idėjas, kurios gerai paseno. Pirmoji buvo architektūrinė: NVIDIA Puzzle neuroninės architektūros paieška sudarė blokų lygmeniu distiliuotų transformerio blokų biblioteką ir surinko juos mišraus sveikaskaitinio programavimo būdu, sukurdama modelius, kuriuose kai kurie blokai dėmesį praleidžia visiškai arba pakeičia jį vienu tiesiniu sluoksniu, o FFN Fusion suliejo iš eilės einančius tiesioginio sklidimo blokus į mažiau, platesnių ir lygiagrečių — mažindama nuoseklųjį gylį, o ne parametrų skaičių. LN-Ultra tilpo į vieną 8×H100 mazgą ir, pagal NVIDIA straipsnį, pranoko DeepSeek-R1 GPQA-Diamond teste (76,0 % prieš 71,5 %).

Antroji buvo elgsenos: Llama-Nemotron buvo pirmoji atvira šeima su dinaminiu samprotavimo jungikliu, mokymo duomenis sisteminiame nurodyme žymėjusi detailed thinking on arba detailed thinking off, o formato atlygiai įtvirtino <think> žymas įjungtame režime. Vienas svorių rinkinys, dvi elgsenos, pasirenkamos išvedimo metu. Nemotron 3 samprotavimo biudžeto valdymas — ir reasoning_effort parametras mūsų API — tiesiogiai kilo iš to darbo.

Nemotron 3 — posūkis į hibridą

Nemotron 3 pakeitė Llama išvestinę architektūrą hibridine, sukurta nuo nulio, ir pridėjo LatentMoE (žetonų suglaudinimą prieš maršrutizavimą, kuris, NVIDIA teigimu, leidžia „4 kartus daugiau ekspertų už tą pačią išvedimo kainą“), kelių žetonų prognozavimą ir savąjį NVFP4 pirminį mokymą. Kartu su svoriais NVIDIA paskelbė iš viso 50 milijonų SFT pavyzdžių, 2 milijonus RL užduočių ir 55 RL aplinkas — jums nereikia tikėti tiekėjo žodžiu apie tai, ko modelis buvo mokomas, nes mokomąją medžiagą galima atsisiųsti.

03Ką jums perka hibridinė architektūra

Transformerio KV podėlis auga tiesiškai su sekos ilgiu, todėl ilgo konteksto išvedimas pabrangsta atmintyje anksčiau nei skaičiavimuose. Mamba-2 sluoksniai yra būsenos erdvės modeliai, nešiojantys fiksuoto dydžio rekurentinę būseną, todėl jų atminties kaina vienam žetonui su istorija neauga; prastai jiems sekasi tikslus asociatyvus prisiminimas. Hibridas palieka Mamba-2 didžiajai sekos apdorojimo daliai plius mažumą tikrų dėmesio sluoksnių tam prisiminimui, kurį būsenos erdvės sluoksniai pameta, o agresyvus 64 užklausos galvų / 2 KV galvų santykis podėlį dar sumažina. NVIDIA praneša 94,7 % RULER teste ties 1 mln. žetonų — adatos paieškos etalonu, sukurtu pagauti modelius, deklaruojančius langą, kurio jie negali panaudoti.

Pasekmė yra pralaidumas: NVIDIA teigia iki maždaug 6 kartų didesnį išvedimo pralaidumą nei panašūs modeliai esant lygiaverčiam tikslumui, o Artificial Analysis nepriklausomai išmatavo 140,3 žetono per sekundę su 1,33 sekundės laiku iki pirmojo žetono — 7-a vieta iš 89 modelių. 200 ėjimų agento vykdyme tai skirtumas tarp užbaigimo per popietę ir neužbaigimo išvis.

04Ką sąžiningai reiškia „3BIT-REAP“

Priesaga nėra papuošalas — ji tiksliai pasako, kas buvo padaryta su pagrindu, kad jis tilptų.

REAP — maršrutizatoriumi svertinis ekspertų aktyvacijos genėjimas — yra iš Cerebras Research ir buvo priimtas į ICLR 2026. Retame MoE maršrutizatorius kiekvieną žetoną siunčia saujelei ekspertų; per realų darbo krūvį vieni pasiekiami nuolat, kiti beveik niekada. REAP kiekvienam ekspertui skiria svarbos įvertį, jungiantį tai, kaip stipriai jį atveria maršrutizatorius, ir tai, kokio dydžio yra jo indėlis į išvestį, o paskui mažiausiai svarbius pašalina visiškai — Cerebras praneša genintys iki 50 % ekspertų iš net 1 trilijono parametrų modelių, iš esmės išlaikant pradinę kokybę, ir nustato, kad generatyvinėms užduotims, tokioms kaip kodas, genėjimas pranoksta liejimą. 3 bitų kvantavimas paskui suglaudina tai, kas išliko. Pirma genėti, paskui kvantuoti, kad bitų biudžetas tektų srautą nešantiems ekspertams, o ne būtų ištepliotas ant negyvųjų.

Glaudinimas nėra nemokamas, ir mes to neslėpsime: agresyvus kvantavimas pirmiausia pasirodo kaip nedideli nuosmukiai tikslaus formato laikymesi ir ilgų grandinių aritmetikoje, o ne kaip matomas nerišlumas. Kur atsiduria trys pakopos:

Priesaga	Kas tai yra	Kur ją naudojame
3BIT-REAP	3 bitų svoriai + ekspertų genėjimas	Didžiausiems pagrindams, kur greitai nieko kito netelpa
W4A16-AUTOROUND-REAP	4 bitų svoriai / 16 bitų aktyvacijos, AutoRound išmoktas apvalinimas, + genėjimas	Vidutinio dydžio pagrindams; AutoRound atgauna tikslumą, palyginti su naiviu apvalinimu iki artimiausio
W8A16	8 bitų svoriai / 16 bitų aktyvacijos	Aukščiausia ištikimybė; pagrindams, pakankamai mažiems, kad agresyvaus glaudinimo nereikėtų

Nemotron 3 Ultra su 550 mlrd. parametrų aiškiai patenka į pirmąją kategoriją. Jei jūsų darbo krūvis neįprastai jautrus tiksliai skaitinei išvesčiai ilgose grandinėse, tyrimų rodyklėje nurodyta W8A16 pakopa — MiMo-V2.5-Pro-W8A16 ir Hy3-W8A16 — ties $0.50/$2.00 grindimis. Tai tikras mainas, o ne piltuvas: mažesnis modelis, mažesnis glaudinimas.

05Ką šiame galiniame taške reiškia „necenzūruotas“

Konkrečiai: nėra jokio atsisakymo sluoksnio ir jokio turinio filtravimo išvestyje. Joks klasifikatorius netikrina jūsų užklausos ir negrąžina konservuoto atsisakymo, o atsakymas nėra skenuojamas prieš pasiekdamas jūsų srautą. Gaunate paties modelio elgseną.

Būtent čia atvira kilmė nustoja būti smulkmena. Kadangi NVIDIA paskelbė papildomo apmokymo duomenis ir RL aplinkas, modelio nuostatos iš principo yra audituojamos, o ne folkloras. O kadangi OpenMDW-1.1 yra leidžiamoji Linux Foundation licencija, apimanti architektūrą, parametrus, dokumentaciją ir programinę įrangą, nepriklausomas operatorius gali teikti modifikuotą, nefiltruotą diegimą savo įrangoje ir licencija tam nekliudys. Daug „atvirų“ modelių licencijų to neleidžia. Ši leidžia. Skirtumas matomas ten, kur refleksinis atsisakymas yra klaida, o ne saugos funkcija:

• Saugumo tyrimai — pažeidžiamumų analizė, samprotavimas apie eksploitus, kenkėjiškos programos elgsena, red-team įrankiai, nesiginčijant, ar klausimas leidžiamas.
• Chemija, biologija ir farmakologija — dozavimo skaičiavimai, reakcijų mechanizmai, toksikologija, sintezės keliai, kuriuos filtruotas galinis taškas atmeta vos užkliuvęs už raktažodžio.
• Priešiškas mašininis mokymasis — sunkūs neigiami pavyzdžiai, jailbreak korpusai ir piktnaudžiavimo taksonomijos klasifikatoriams, kuriems būtina būti mačiusiems tikrą dalyką.
• Klinikiniai, teisiniai ir teismo ekspertizės tekstai — bylų medžiaga, kuri iš prigimties yra vaizdinga ir kaip tik dėl to atmetama.

Necenzūruotas nereiškia neatsakingas. Jūs esate atsakingi už tai, ką sugeneruojate, o paskyrą reglamentuoja mūsų Atsakingo naudojimo politika ir Paslaugų teikimo sąlygos. Pašalinus atsisakymo sluoksnį pašalinamas spėjimas apie ketinimus; jūsų pareigos pagal jums taikomą teisę nuo to nedingsta.

06STEM ir samprotavimas: ką sako paskelbti skaičiai

Nemotron mokymo dėmesys buvo matematika, kodas, mokslas ir nurodymų vykdymas nuo tada, kai Llama-Nemotron papildomo apmokymo duomenų rinkinys buvo sudarytas būtent apie šias keturias ašis. Ką NVIDIA praneša apie Nemotron 3 Ultra pagrindą — tiekėjo pateikti skaičiai nesuglaudintam modeliui, kurio mes patys nevykdėme:

Dvi išlygos vertos daugiau nei patys skaičiai. SWE-Bench Verified reikšmė yra intervalas — NVIDIA praneša nuo 65,0 % iki 70,4 %, priklausomai nuo to, kuri agento sąranka jį vykdo (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), ir penkių punktų sklaida vien dėl karkaso rodo, kaip stipriai agentiniai balai priklauso nuo sąrankos, o ne nuo modelio. O Artificial Analysis Nemotron 3 Ultra įvertino 48 balais savo intelekto indekse, 9-a vieta iš 89 modelių — stipru, bet ne srities viršūnė, ir būtent jų nepriklausomą matavimą svertume labiau nei bet kurio tiekėjo skaidrę.

Apie ankstesnę kartą: NVIDIA Llama-Nemotron straipsnis praneša LN-Ultra 76,0 % GPQA-Diamond teste prieš DeepSeek-R1 71,5 % ir Llama-3.1-405B-Instruct 43,4 %, plius 80,8 % AIME 2024. Tai kitas modelis, įtrauktas todėl, kad magistrantūros lygio mokslas ir olimpiadinė matematika dvi kartas buvo šios šeimos taikinys.

Etalonų reikšmės yra tokios, kokias paskelbė NVIDIA (2026 m. birželis) nesuglaudintam Nemotron 3 Ultra, ir Artificial Analysis nepriklausomiems matavimams. Suglaudintos versijos gali skirtis. Mes neskelbiame etalonų skaičių, kurių nepatikrinome arba negalime priskirti šaltiniui.

07Kaina ir daugiakalbystės išlyga

Su $0.75 už milijoną įvesties žetonų ir $3.30 už milijoną išvesties žetonų Nemotron3Ultra yra apatiniame mūsų katalogo trečdalyje pagal įvestį ir viduryje pagal išvestį. Išnagrinėti pavyzdžiai, nes kainą už milijoną sunku pajusti:

Kvietimo forma	Įvestis	Išvestis	Kaina
Tipinis RAG ėjimas	50,000	4,000	$0.051
Ilgo dokumento analizė	150,000	8,000	$0.139
Didžiausio dydžio kvietimas	262,144	16,384	$0.251

Pilno konteksto ir pilnos išvesties užklausa — kiekvienas žetonas, kurį galinis taškas priims, ir kiekvienas, kurį jis pagamins — kainuoja apie 25 centus. Ta pati forma su Kimi-K3-3BIT-REAP, brangiausiu mūsų modeliu už $3.83/$19.12, kainuoja apie $1.32, arba 5,3 karto daugiau.

Dabar išlyga, ir ji tikra. Artificial Analysis išmatavo, kad Nemotron 3 Ultra visame jų etalonų rinkinyje generuoja 2,3 karto daugiau išvesties žetonų nei medianinis konkurentas. Samprotaujantys modeliai apmokestina jus už mąstymą, o šis mąsto ilgai; kainos už žetoną pranašumas išgaruoja į trūkumą kainos už užduotį lygmenyje, jei modelis samprotauja tris kartus ilgiau, kad prieitų prie to paties atsakymo. Švelninimo priemonė yra įmontuota ir atverta mūsų API: Nemotron 3 buvo papildomai apmokytas samprotavimo biudžeto valdymui, o reasoning_effort čia palaikomas — NVIDIA aprašo mažesnių pastangų režimą, naudojantį gerokai mažiau mąstymo žetonų už vienaženklį tikslumo mainą. Klasifikavime, ištraukime ir maršrutizavime sumažinkite jį, ir ekonomika iš esmės pasikeis; įrodyme ar kelių failų pertvarkyme padidinkite jį ir mokėkite sąmoningai. Matuokite savo žetonus vienai užduočiai, o ne skaitykite kainoraštį ir darykite prielaidas.

08Kaip kviesti: trys dialektai, vienas modelis

Kiekvienas vartų modelis atsako trijuose srautinio perdavimo API paviršiuose, todėl esamą klientą galite nukreipti į jį neperrašydami integracijos: /v1/chat/completions (OpenAI dialektas), /v1/messages (Anthropic dialektas) ir /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Galimybių santrauka, kad integruojant niekas nenustebintų:

Galimybė	Nemotron3Ultra · 3BIT-REAP
Konteksto langas	262 144 žetonai
Didžiausia išvestis / užklausai	16 384 žetonai
Srautinis perdavimas	Taip
Įrankių iškvietimas	Taip
Samprotavimo pėdsakai	Taip
reasoning_effort	Taip
json_schema (griežta)	Taip
response_format	Taip
Rega / vaizdų įvestis	Ne — tik tekstas
Atsisakymo sluoksnis	Nėra

Regos eilutė žmones dažnai užklumpa: Nemotron3Ultra yra tik tekstinis. Jei jūsų konvejeris siunčia vaizdus, naudokite MiniMax-M3-3BIT-REAP arba MiMo-V2.5-W8A16 už $0.50/$2.00, arba Kimi-K2.6-W4A16-AUTOROUND-REAP už $0.78/$3.67 — visi turi regą, visi necenzūruoti, visi su tuo pačiu 262 144 žetonų kontekstu. Visa parametrų nuoroda yra API dokumentacijoje.

09Kur Nemotron3Ultra atsiduria tarp dvylikos

Katalogą sudaro dvylika necenzūruotų modelių, dalijančių tą patį konteksto langą, tuos pačius tris dialektus ir tą patį atsisakymo sluoksnio nebuvimą; jie skiriasi pagrindu, kaina ir galimybėmis. Nemotron pozicija yra konkreti: atviros kilmės samprotavimo darbinis arklys — ne pigiausias, ne pajėgiausias, bet turintis daugiausia viešų pėdsakų už savo elgsenos ir stipriausiai derintas STEM bei agentams.

Modelis	Įvestis / 1 mln.	Išvestis / 1 mln.	Rega	Rinkitės jį dėl
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Taip	Pigiausias variantas su rega
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Ne	Aukščiausios ištikimybės kvantavimo pakopa
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Ne	Pigiausias didelio pagrindo samprotavimas
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Ne	STEM, agentai, atvira kilmė
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Taip	Rega + AutoRound ištikimybė
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Ne	Gili vieno šūvio analizė
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Taip	Absoliučios gebėjimų lubos

Parodyti septyni iš dvylikos. Visas katalogas — įskaitant Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 ir Hy3 — yra API dokumentacijoje. Atkreipkite dėmesį, kad Laguna-S-2.1 nepalaiko struktūrizuotos išvesties, o inkling nepalaiko json_schema; Nemotron3Ultra palaiko abu.

Artimiausias kaimynas pagal kainą yra GLM-5.2-3BIT-REAP už $0.73/$2.34, ir sąžiningas palyginimas toks: GLM-5.2 pigesnis vienam žetonui, ypač išvestyje. Nemotron atsineša paskelbtą mokymo korpusą, aiškią samprotavimo biudžeto rankenėlę ir šeimos istoriją, nukreiptą į magistrantūros lygio mokslą. Didelės apimties bendram samprotavimui — leiskite pigesnį. STEM intensyviam, agentiniam arba auditui, klausiančiam, iš kur atsirado modelio elgsena — Nemotron skirtumą pateisina.

10Dažnai užduodami klausimai

---

Šaltiniai: NVIDIA Nemotron 3 Ultra techninė ataskaita · NVIDIA kūrėjų tinklaraštis (2026 m. birželis) · Nemotron 3 Super architektūros pastabos · Llama-Nemotron: efektyvūs samprotavimo modeliai · Cerebras Research, REAP. Pagrindo etalonai yra NVIDIA pateikti nesuglaudintam modeliui, nebent priskirti Artificial Analysis; suglaudintos versijos gali skirtis. Kainos ir galimybės galioja 2026 m. rugsėjo 5 d.