Necenzuriran Nemotron API
Raziskovalni rodovnik NVIDIE, objavljen na odprto in strežen brez sloja zavračanja: hibridni MoE Mamba-Attention s 550B parametri, uglašen za STEM in dolgoročno sklepanje — za $0.75 vhod / $3.30 izhod na milijon žetonov.
Na kratko
Nemotron3Ultra-3BIT-REAP je Shannonova necenzurirana namestitev modela NVIDIA Nemotron 3 Ultra — modela Mixture-of-Experts s 550 milijardami parametrov in 55B aktivnimi na žeton, izdanega 4. junija 2026 skupaj z utežmi, učnimi podatki in recepti pod dopustno licenco OpenMDW-1.1 fundacije Linux Foundation. Na našem lastnem grozdu GPU teče brez sloja zavračanja in brez filtriranja izhoda, s kontekstom 262,144 žetonov, do 16,384 žetoni izhoda na zahtevo, s klicanjem orodij, pretakanjem, sledmi sklepanja in strogim izhodom json_schema. Slik ne sprejema. Cena: $0.75 / $3.30 na 1M žetonov.
Večina »odprtih« modelov je odprtih le po utežeh in nič več — arhiv parametrov, licenca in molk o tem, od kod so prišle številke. Nemotron je bil dve leti dosledna izjema: NVIDIA objavi uteži, podatkovne zbirke za potrening, okolja RL in recept. Za necenzurirano končno točko to šteje na način, ki ga je zlahka spregledati. Model, čigar podatki o poravnavi so objavljeni, je model, o čigar vedenju ob zavračanju lahko sklepate, namesto da ugibate — in model, ki ga sme tretja oseba legitimno namestiti brez vsebinskega filtra, privitega na usta.
01Kaj je Nemotron 3 Ultra?
Nemotron 3 Ultra je največji član NVIDIINE družine Nemotron 3, objavljen na Hugging Face 4. junija 2026. NVIDIIN tehnični zapis ga opisuje kot »jezikovni model Mixture-of-Experts s hibridno arhitekturo Mamba-Attention s 550 milijardami skupnih in 55 milijardami aktivnih parametrov« — pri danem žetonu dela približno 10 % omrežja, kar je edini razlog, da je model s pol bilijona parametrov sploh mogoče streči.
Objavljena postavitev je 108 plasti pri dimenziji modela 8,192, s prepletanjem plasti prostora stanj Mamba-2 in redke množice plasti polne pozornosti, ter 512 strokovnjakov na plast MoE z usmerjanjem top-22. Predučenje je teklo na približno 20 bilijonih besedilnih žetonov v dveh fazah — najprej z uteženo raznolikostjo, nato s kakovostjo — s presečnim datumom septembra 2025, na 12 naravnih in 43 programskih jezikih. Potrening je uporabil SFT, RL v več okoljih s preverljivimi nagradami in večučiteljsko destilacijo na lastni politiki z več kot desetimi specialističnimi učitelji. Navedeni cilj zasnove so dolgotrajni agenti: seje, ki držijo velik kontekst, orodja pokličejo desetkrat in več ter tečejo dovolj dolgo, da račun obvladuje ekonomika na žeton.
02Rodovnica Nemotron in zakaj rodovnik šteje
Nemotron ni enkraten izdelek. Je vidni iztržek NVIDIINEGA raziskovalnega programa, ki od leta 2024 teče v isto smer, in vsak rod je zapustil nekaj, kar današnji model še vedno nosi. Nemotron-4 340B (junij 2024) je prišel z odprtim cevovodom za generiranje sintetičnih podatkov, s svojim modelom nagrade in generatorjem, ob tem pa z nenavadnim razkritjem: veliko večino podatkov za poravnavo je ustvaril model sam. Model kot tovarna podatkov namesto kot preročišče je razlog, da poznejše izdaje Nemotron ob utežeh vztrajno objavljajo tudi podatkovne zbirke.
Llama-Nemotron — sklepanje, ki ga lahko izklopite
Družina Llama-Nemotron iz leta 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) je prispevala dve zamisli, ki sta se dobro postarali. Prva je bila arhitekturna: NVIDIIN iskalnik nevronskih arhitektur Puzzle je zgradil knjižnico po blokih destiliranih transformerskih blokov in jih sestavil z mešanim celoštevilskim programiranjem, kar je dalo modele, v katerih nekateri bloki pozornost povsem preskočijo ali jo nadomestijo z eno samo linearno plastjo, FFN Fusion pa je zaporedne bloke naprejšnjih omrežij zložil v manj, širših in vzporednih — s tem je krajšal zaporedno globino, ne števila parametrov. LN-Ultra je šel na eno samo vozlišče z 8×H100 in po NVIDIINEM članku prekašal DeepSeek-R1 na GPQA-Diamond (76,0 % proti 71,5 %).
Druga je bila vedenjska: Llama-Nemotron je bila prva odprta družina s stikalom za dinamično sklepanje, ki je učne podatke v sistemskem navodilu označila z detailed thinking on ali detailed thinking off, pri čemer so nagrade za obliko v vklopljenem načinu vsiljevale oznake <think>. En sklop uteži, dve vedenji, izbirni ob sklepanju. Nadzor proračuna sklepanja pri Nemotronu 3 — in parameter reasoning_effort na našem API — izhaja neposredno iz tega dela.
Nemotron 3 — hibridni obrat
Nemotron 3 je izpeljanko iz Llame zamenjal s hibridno arhitekturo, zgrajeno od začetka, in dodal LatentMoE (stiskanje žetonov pred usmerjanjem, kar po NVIDIINIH besedah omogoča »4-krat več strokovnjakov ob enakem strošku sklepanja«), napovedovanje več žetonov in izvorno predučenje v NVFP4. NVIDIA je ob utežeh objavila skupno 50 milijonov vzorcev SFT, 2 milijona nalog RL in 55 okolij RL — ni vam treba verjeti ponudniku na besedo, česa je bil model naučen, ker je učno gradivo na voljo za prenos.
03Kaj vam prinese hibridna arhitektura
Predpomnilnik KV pri transformerju raste linearno z dolžino zaporedja, zato sklepanje pri dolgem kontekstu podraži pomnilnik prej kot računanje. Plasti Mamba-2 so modeli prostora stanj z rekurentnim stanjem stalne velikosti, zato njihov pomnilniški strošek na žeton ne raste z zgodovino; slabe pa so pri natančnem asociativnem priklicu. Hibrid ohrani Mamba-2 za glavnino obdelave zaporedja in manjšino resničnih plasti pozornosti za priklic, pri katerem plasti prostora stanj zatavajo, z agresivnim razmerjem 64 poizvedbenih glav na 2 glavi KV, ki predpomnilnik še dodatno skrči. NVIDIA poroča 94,7 % na RULER pri 1M žetonov — to je meritev iskanja igle, zgrajena prav zato, da ujame modele, ki oglašujejo okno, ki ga ne znajo uporabiti.
Posledica je prepustnost: NVIDIA trdi, da je prepustnost sklepanja do približno 6-krat višja od primerljivih modelov ob enaki natančnosti, Artificial Analysis pa je neodvisno izmeril 140,3 žetona na sekundo pri 1,33 sekunde do prvega žetona — 7. med 89 modeli. Pri agentnem teku z 200 obrati je to razlika med tem, da opravi v enem popoldnevu, in tem, da ne opravi.
04Kaj »3BIT-REAP« pomeni, pošteno
Pripona ni okras — natanko vam pove, kaj je bilo storjeno s temeljem, da gre noter.
REAP — Router-weighted Expert Activation Pruning — prihaja iz Cerebras Research in je bil sprejet na ICLR 2026. V redkem MoE usmerjevalnik vsak žeton pošlje peščici strokovnjakov; pri resnični delovni obremenitvi so nekateri izbrani ves čas, drugi skoraj nikoli. REAP vsakega strokovnjaka oceni po merilu izstopanja, ki združi kako močno ga usmerjevalnik izbere in kako velik je prispevek njegovega izhoda, nato pa najmanj izstopajoče trajno odstrani — Cerebras poroča o obrezovanju do 50 % strokovnjakov pri modelih velikosti do 1 bilijona parametrov ob večinoma ohranjeni izhodiščni kakovosti in ugotavlja, da je pri generativnih nalogah, kot je koda, obrezovanje boljše od zlivanja. 3-bitna kvantizacija nato stisne, kar preživi. Najprej obrezati, nato kvantizirati, da proračun bitov pripade strokovnjakom, ki nosijo promet, namesto da se razmaže po mrtvih.
Stiskanje ni zastonj in tega ne bomo skrivali: agresivna kvantizacija se najprej pokaže kot majhna poslabšanja pri natančnem upoštevanju oblike in pri dolgih računskih verigah, ne kot vidna nesmiselnost. Kam padejo tri stopnje:
| Pripona | Kaj je | Kje jo uporabljamo |
|---|---|---|
| 3BIT-REAP | 3-bitne uteži + obrezovanje strokovnjakov | Največji temelji, kjer nič drugega ne gre noter ob spodobni hitrosti |
| W4A16-AUTOROUND-REAP | 4-bitne uteži / 16-bitne aktivacije, naučeno zaokroževanje AutoRound, + obrezovanje | Srednje veliki temelji; AutoRound povrne natančnost v primerjavi z naivnim zaokroževanjem na najbližjo vrednost |
| W8A16 | 8-bitne uteži / 16-bitne aktivacije | Najvišja zvestoba; temelji, dovolj majhni, da agresivnega stiskanja ne potrebujejo |
Nemotron 3 Ultra s 550B parametri sodi naravnost v prvo kategorijo. Če je vaša delovna obremenitev nenavadno občutljiva za natančen številski izhod v dolgih verigah, raziskovalno kazalo navaja stopnjo W8A16 — MiMo-V2.5-Pro-W8A16 in Hy3-W8A16 — pri dnu $0.50/$2.00. Resnična menjava, ne lijak: manjši model, manj stiskanja.
05Kaj na tej končni točki pomeni »necenzuriran«
Konkretno: sloja zavračanja ni in na izhodu ni nobenega vsebinskega filtriranja. Noben razvrščevalnik ne pregleduje vašega poziva in ne vrača konzervirane zavrnitve, odgovor pa ni preverjen, preden pride v vaš tok. Dobite lastno vedenje modela.
Tu odprta rodovnica neha biti zanimivost. Ker je NVIDIA objavila podatke potreninga in okolja RL, so nagnjenja modela načelno preverljiva in ne folklora. In ker je OpenMDW-1.1 dopustna licenca fundacije Linux Foundation, ki pokriva arhitekturo, parametre, dokumentacijo in programje, sme neodvisen upravljavec na svoji strojni opremi streči spremenjeno, nefiltrirano namestitev, ne da bi bila licenca ovira. Marsikatera »odprta« licenca modela tega ne dovoli. Ta jo. Razlika se pokaže tam, kjer je refleksno zavračanje napaka in ne varnostna značilnost:
- Varnostne raziskave — analiza ranljivosti, sklepanje o izrabah, vedenje zlonamerne kode, orodja rdečih ekip, brez prerekanja, ali je vprašanje dovoljeno.
- Kemija, biologija in farmakologija — računanje odmerkov, mehanizmi reakcij, toksikologija, sintezne poti, ki jih filtrirana končna točka zavrne že ob stiku s ključno besedo.
- Nasprotniško strojno učenje — težki negativni primeri, korpusi pobegov iz omejitev in taksonomije zlorab za razvrščevalnike, ki morajo biti resnično stvar že videli.
- Klinična, pravna in forenzična besedila — gradivo primerov, ki je po naravi nazorno in je prav zato zavrnjeno.
Necenzuriran ne pomeni neodgovoren. Za to, kar ustvarite, odgovarjate vi, račun pa urejata naša Politika odgovorne uporabe in Pogoji uporabe. Odstranitev sloja zavračanja odstrani ugibanje o namenu; ne odstrani pa vaših obveznosti po pravu, ki velja za vas.
06STEM in sklepanje: kaj pravijo objavljene številke
Nemotronovo učenje se osredotoča na matematiko, kodo, znanost in upoštevanje navodil, odkar je bila podatkovna zbirka potreninga Llama-Nemotron zgrajena natanko okoli teh štirih osi. Kaj NVIDIA poroča za temelj Nemotron 3 Ultra — številke ponudnika na nestisnjenem modelu, ki jih nismo poganjali sami:
Dve opozorili sta vredni več kot številke. Podatek za SWE-Bench Verified je razpon — NVIDIA poroča 65,0 % do 70,4 % glede na to, katero agentno ogrodje ga poganja (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), in petodstotni razmik zgolj zaradi ogrodja kaže, kako močno so agentni rezultati odvisni od ogrodja in ne od modela. Artificial Analysis pa je Nemotron 3 Ultra uvrstil na 48 na svojem indeksu inteligence, 9. med 89 modeli — močno, a ne na vrhu polja, in prav to neodvisno meritev bi ovrednotili više od katere koli ponudnikove prosojnice.
Za prejšnji rod NVIDIIN članek o Llama-Nemotron poroča o LN-Ultra pri 76,0 % na GPQA-Diamond proti 71,5 % pri DeepSeek-R1 in 43,4 % pri Llama-3.1-405B-Instruct, ob 80,8 % na AIME 2024 — drug model, ki ga navajamo, ker sta znanost na podiplomski ravni in tekmovalna matematika že dva rodova cilj te družine.
Vsako številko tukaj je objavil nekdo drug kot mi. Primarne vire preverite sami.
Številke meritev, kot jih je objavila NVIDIA (junij 2026) na nestisnjenem Nemotron 3 Ultra, in kot jih je za neodvisne meritve objavil Artificial Analysis. Stisnjene izvedbe se lahko razlikujejo. Ne objavljamo številk meritev, ki jih nismo preverili ali jih ne moremo pripisati viru.
07Cena in opozorilo o zgovornosti
Pri $0.75 na milijon vhodnih žetonov in $3.30 na milijon izhodnih žetonov Nemotron3Ultra po vhodu sedi v spodnji tretjini našega kataloga, po izhodu pa na sredini. Izračunani primeri, ker je ceno na milijon težko občutiti:
| Oblika klica | Vhod | Izhod | Strošek |
|---|---|---|---|
| Običajen obrat RAG | 50,000 | 4,000 | $0.051 |
| Analiza dolgega dokumenta | 150,000 | 8,000 | $0.139 |
| Klic največje velikosti | 262,144 | 16,384 | $0.251 |
Zahteva s polnim kontekstom in polnim izhodom — vsak žeton, ki ga končna točka sprejme, in vsak žeton, ki ga bo ustvarila — stane približno 25 centov. Ista oblika na Kimi-K3-3BIT-REAP, našem najdražjem modelu pri $3.83/$19.12, stane približno $1.32, torej 5,3-krat več.
Zdaj pa opozorilo, in resnično je. Artificial Analysis je izmeril, da Nemotron 3 Ultra čez njihov nabor meritev ustvari 2,3-krat več izhodnih žetonov kot mediana primerljivih modelov. Modeli s sklepanjem vam zaračunajo razmišljanje, ta pa razmišlja obširno; prednost pri ceni na žeton izpuhti v slabost pri ceni na nalogo, če model do istega odgovora sklepa trikrat dlje. Ublažitev je vgrajena in izpostavljena na našem API: Nemotron 3 je bil potreniran za nadzor proračuna sklepanja, reasoning_effort pa je tu podprt — NVIDIA opisuje način z nižjim naporom, ki porabi bistveno manj razmišljajočih žetonov ob enomestnem odstotku slabše natančnosti. Pri razvrščanju, luščenju in usmerjanju ga znižajte in ekonomika se občutno spremeni; pri dokazu ali predelavi več datotek ga zvišajte in to plačajte namenoma. Merite svoje žetone na nalogo, namesto da preberete cenik in domnevate.
08Kako ga poklicati: tri narečja, en model
Vsak model na prehodu odgovarja na treh pretočnih površinah API, tako da lahko obstoječega odjemalca usmerite nanj brez predelave integracije: /v1/chat/completions (narečje OpenAI), /v1/messages (narečje Anthropic) in /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'
Povzetek zmožnosti, da vas ob integraciji nič ne preseneti:
| Zmožnost | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Okno konteksta | 262,144 žetonov |
| Največ izhoda / zahtevo | 16,384 žetonov |
| Pretakanje | Da |
| Klicanje orodij | Da |
| Sledi sklepanja | Da |
reasoning_effort | Da |
json_schema (strogo) | Da |
response_format | Da |
| Razumevanje slik / slikovni vhod | Ne — samo besedilo |
| Sloj zavračanja | Ga ni |
Vrstica o slikah ljudi preseneti: Nemotron3Ultra je samo besedilen. Če vaš cevovod pošilja slike, uporabite MiniMax-M3-3BIT-REAP ali MiMo-V2.5-W8A16 pri $0.50/$2.00 oziroma Kimi-K2.6-W4A16-AUTOROUND-REAP pri $0.78/$3.67 — vsi razumejo slike, vsi so necenzurirani, vsi imajo isti kontekst 262,144 žetonov. Popoln pregled parametrov je v dokumentaciji API.
09Kam med dvanajsterico spada Nemotron3Ultra
Katalog je dvanajst necenzuriranih modelov, ki si delijo isto okno konteksta, ista tri narečja in isto odsotnost sloja zavračanja; razlikujejo se po temelju, ceni in zmožnostih. Nemotronov položaj je določen: delovni konj sklepanja z odprto rodovnico — ne najcenejši, ne najzmogljivejši, a tisti z najbolj javno papirnato sledjo za svojim vedenjem, najmočneje uglašen k STEM in agentom.
| Model | Vhod / 1M | Izhod / 1M | Razumevanje slik | Izberite ga za |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Da | Najcenejša možnost z razumevanjem slik |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | Ne | Stopnja kvantizacije z najvišjo zvestobo |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Ne | Najcenejše sklepanje na velikem temelju |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | Ne | STEM, agenti, odprta rodovnica |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | Da | Razumevanje slik + zvestoba AutoRound |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Ne | Poglobljena analiza v enem zamahu |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Da | Absolutni vrh zmožnosti |
Prikazanih je sedem od dvanajstih. Celoten katalog — vključno z Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 in Hy3 — je v dokumentaciji API. Upoštevajte, da Laguna-S-2.1 ne podpira strukturiranega izhoda in inkling ne podpira json_schema; Nemotron3Ultra podpira oboje.
Najbližji sosed po ceni je GLM-5.2-3BIT-REAP pri $0.73/$2.34, poštena primerjava pa je ta: GLM-5.2 je cenejši na žeton, zlasti pri izhodu. Nemotron prinaša objavljen učni korpus, izrecno ročico za proračun sklepanja in družinsko zgodovino, naperjeno k znanosti na podiplomski ravni. Za splošno sklepanje v velikih količinah poganjajte cenejšega. Za delo, težko v STEM, agentno ali podvrženo reviziji, ki sprašuje, od kod je prišlo vedenje modela: Nemotron si razliko zasluži.
10Pogosta vprašanja
Kaj je necenzuriran Nemotron API?
To je gostovana končna točka Shannon AI za Nemotron3Ultra 3BIT-REAP, stisnjeno izvedbo modela Nemotron 3 Ultra z odprtimi utežmi podjetja NVIDIA. Teče na našem lastnem grozdu GPU brez sloja zavračanja in brez filtriranja izhoda, izpostavlja kontekst 262,144 žetonov in 16,384 izhodnih žetonov na zahtevo ter stane $0.75 na milijon vhodnih žetonov in $3.30 na milijon izhodnih žetonov.
Ali ima NVIDIA Nemotron res odprte uteži?
Da. NVIDIA je Nemotron 3 Ultra objavila 4. junija 2026 skupaj z utežmi, učnimi podatki in recepti pod dopustno licenco OpenMDW-1.1 fundacije Linux Foundation, po Nemotron-4 340B in družini Llama-Nemotron. Prav ta odprtost omogoča neodvisno upravljano, nefiltrirano namestitev.
Kaj pomeni 3BIT-REAP?
Dva koraka stiskanja. REAP — Router-weighted Expert Activation Pruning iz Cerebras Research, sprejet na ICLR 2026 — vsakega strokovnjaka Mixture-of-Experts oceni po tem, kako močno ga usmerjevalnik izbere in kako velik je prispevek njegovega izhoda, nato pa najmanj izstopajoče trajno odstrani. Preživeli so kvantizirani na 3-bitne uteži, tako da je proračun bitov porabljen za strokovnjake, ki dejansko nosijo promet.
Ali Nemotron3Ultra podpira razumevanje slik ali izhod po shemi JSON?
Slik ne: ta končna točka je samo besedilna. Podpira pa strog strukturiran izhod — tako json_schema kot response_format — ter klicanje orodij, pretakanje, sledi sklepanja in reasoning_effort. Za slike na necenzuriranem modelu uporabite MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 ali inkling.
Zakaj je kontekst 262,144 žetonov, ko NVIDIA oglašuje 1M?
Arhitektura Nemotron 3 cilja na okno 1M žetonov in NVIDIA pri tej dolžini poroča 94,7 % na RULER. Naša namestitev streže 262,144 žetonov, torej okno, ki ga pri polni hitrosti držimo čez ves katalog. Vsak model na prehodu izpostavlja isti kontekst, zato lahko zamenjate ID modela, ne da bi predelali svoje razsekavanje.
Je Nemotron dober za matematiko, znanost in kodo?
STEM in sklepanje sta navedeni poudarek te družine. NVIDIA za Nemotron 3 Ultra poroča 90 % na PinchBench, 65,0–70,4 % na SWE-Bench Verified čez pet agentnih ogrodij in 56,4 % na Terminal-Bench 2.1; starejši Llama-Nemotron Ultra je poročal 76,0 % na GPQA-Diamond proti 71,5 % pri DeepSeek-R1. Vse to poroča ponudnik na nestisnjenem temelju.
Pokličite necenzuriran Nemotron API
262K konteksta, klicanje orodij, stroga shema JSON, brez sloja zavračanja — $0.75 vhod / $3.30 izhod na 1M žetonov.
Preberite dokumentacijo API Vse kartice modelovShannon Lab LLC · Nova Mehika, ZDA · uporabo ureja naša Politika odgovorne uporabe
Viri: tehnično poročilo NVIDIA o Nemotron 3 Ultra · razvijalski blog NVIDIE (junij 2026) · arhitekturne opombe za Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Meritve temelja poroča NVIDIA na nestisnjenem modelu, razen kjer so pripisane Artificial Analysis; stisnjene izvedbe se lahko razlikujejo. Cene in zmožnosti veljajo na dan 5. septembra 2026.