Nemotron API bez cenzure
NVIDIA-ino istraživačko podrijetlo, objavljeno otvoreno, posluženo bez sloja odbijanja: hibridni Mamba-Attention MoE s 550 milijardi parametara ugođen za STEM i promišljanje na dugom horizontu — uz 0,75 $ ulaz / 3,30 $ izlaz po milijunu tokena.
Ukratko
Nemotron3Ultra-3BIT-REAP Shannonova je izvedba modela NVIDIA Nemotron 3 Ultra bez cenzure — model tipa Mixture-of-Experts s 550 milijardi parametara i 55 milijardi aktivnih po tokenu, objavljen 4. lipnja 2026. s težinama, podacima za treniranje i receptima pod permisivnom licencom OpenMDW-1.1 Linux Foundationa. Na našem vlastitom GPU klasteru radi bez sloja odbijanja i bez filtriranja izlaza, s kontekstom od 262.144 tokena, do 16.384 izlazna tokena po zahtjevu, pozivanjem alata, streamingom, tragovima promišljanja i strogim izlazom json_schema. Ne prima slike. Cijena: 0,75 $ / 3,30 $ po 1M tokena.
Većina „otvorenih” modela otvorena je samo po težinama i ničemu drugom — arhiva parametara, licenca i muk o tome odakle su brojke došle. Nemotron je dvije godine dosljedna iznimka: NVIDIA isporučuje težine, skupove podataka za naknadno treniranje, RL okruženja i recept. To za krajnju točku bez cenzure znači više nego što se na prvi pogled čini. Model čiji su podaci za usklađivanje objavljeni jest model o čijem ponašanju odbijanja možete zaključivati umjesto da nagađate — i model koji treća strana može legitimno posluživati bez filtra sadržaja prilijepljenog na usta.
01Što je Nemotron 3 Ultra?
Nemotron 3 Ultra najveći je član NVIDIA-ine obitelji Nemotron 3, objavljen na Hugging Faceu 4. lipnja 2026. NVIDIA-in ga tehnički izvještaj opisuje kao „hibridni Mamba-Attention jezični model tipa Mixture-of-Experts s ukupno 550 milijardi i 55 milijardi aktivnih parametara” — na bilo kojem tokenu radi otprilike 10 % mreže, što uopće i čini model od pola bilijuna parametara mogućim za posluživanje.
Prijavljeni raspored je 108 slojeva pri dimenziji modela 8.192, s Mamba-2 slojevima prostora stanja isprepletenima s rijetkim skupom slojeva pune pažnje, uz 512 stručnjaka po MoE sloju i top-22 usmjeravanje. Predtreniranje je teklo na otprilike 20 bilijuna tekstualnih tokena u dvije faze — najprije s naglaskom na raznolikost, zatim na kvalitetu — s presjekom u rujnu 2025., na 12 prirodnih i 43 programska jezika. Naknadno treniranje koristilo je SFT, RL u više okruženja s provjerljivim nagradama i Multi-Teacher On-Policy Distillation preko više od deset specijaliziranih učitelja. Navedeni cilj dizajna su dugotrajni agenti: sesije koje drže velik kontekst, desetke puta pozivaju alate i traju dovoljno dugo da ekonomija po tokenu zavlada računom.
02Loza Nemotrona i zašto je podrijetlo važno
Nemotron nije jednokratan. On je vidljivi izlaz NVIDIA-ina istraživačkog programa koji od 2024. ide u istom smjeru, a svaka je generacija ostavila nešto što aktualni model još nosi. Nemotron-4 340B (lipanj 2024.) došao je s otvorenim proizvodnim lancem za sintetičke podatke, svojim modelom nagrade i svojim generatorom, uz neuobičajeno otkriće: velika je većina njegovih podataka za usklađivanje bila strojno generirana. Model kao tvornica podataka, a ne kao proročište — zato kasnija izdanja Nemotrona uz težine i dalje isporučuju skupove podataka.
Llama-Nemotron — promišljanje koje možete isključiti
Obitelj Llama-Nemotron iz 2025. (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) doprinijela je dvjema idejama koje su dobro ostarjele. Prva je arhitektonska: NVIDIA-in Puzzle, pretraga neuronskih arhitektura, izgradio je knjižnicu transformerskih blokova destiliranih blok po blok i sastavio ih mješovito-cjelobrojnim programiranjem, dajući modele u kojima neki blokovi pažnju posve preskaču ili je zamjenjuju jednim linearnim slojem, dok je FFN Fusion uzastopne unaprijedne blokove sažeo u manje, širih i paralelnih — režući sekvencijalnu dubinu, a ne broj parametara. LN-Ultra stao je na jedan čvor s 8×H100, a prema NVIDIA-inu radu nadmašio je DeepSeek-R1 na GPQA-Diamondu (76,0 % naspram 71,5 %).
Druga je ideja bila bihevioralna: Llama-Nemotron bila je prva otvorena obitelj s dinamičkom sklopkom promišljanja, koja je podatke za treniranje označavala s detailed thinking on ili detailed thinking off u sistemskoj uputi, uz formatne nagrade koje su u uključenom načinu iznuđivale oznake <think>. Jedan skup težina, dva ponašanja, birana u trenutku zaključivanja. Upravljanje proračunom promišljanja u Nemotronu 3 — i parametar reasoning_effort na našem API-ju — izravni su potomci tog rada.
Nemotron 3 — hibridni zaokret
Nemotron 3 zamijenio je izvedbu iz Llame hibridnom arhitekturom pisanom od nule i dodao LatentMoE (komprimiranje tokena prije usmjeravanja, što prema NVIDIA-i omogućuje „četiri puta više stručnjaka uz isti trošak zaključivanja”), predviđanje više tokena i izvorno predtreniranje u NVFP4. NVIDIA je uz težine objavila kumulativno 50 milijuna SFT uzoraka, 2 milijuna RL zadataka i 55 RL okruženja — ne morate proizvođaču vjerovati na riječ o tome što je model učio, jer je nastavno gradivo dostupno za preuzimanje.
03Što vam donosi hibridna arhitektura
KV predmemorija transformera raste linearno s duljinom niza, zbog čega zaključivanje na dugom kontekstu poskupljuje u memoriji prije nego u računu. Mamba-2 slojevi su modeli prostora stanja koji nose rekurentno stanje fiksne veličine, pa im memorijski trošak po tokenu ne raste s poviješću; ono u čemu su loši jest precizan asocijativni dohvat. Hibrid zadržava Mamba-2 za najveći dio obrade niza uz manjinu pravih slojeva pažnje za dohvat koji slojevi prostora stanja fušaju, a omjer od 64 glave upita naspram 2 KV glave predmemoriju dodatno smanjuje. NVIDIA izvještava o 94,7 % na RULER-u pri milijun tokena — mjerilu traženja igle u plastu sijena sastavljenom baš zato da uhvati modele koji tvrde da imaju prozor kojim se ne mogu služiti.
Posljedica je propusnost: NVIDIA tvrdi do otprilike 6 puta veću propusnost zaključivanja od usporedivih modela pri jednakoj točnosti, a Artificial Analysis neovisno je izmjerio 140,3 tokena u sekundi uz 1,33 sekunde do prvog tokena — 7. mjesto od 89 modela. Na agentskom izvođenju od 200 poteza to je razlika između završetka u jednom popodnevu i nezavršavanja.
04Što „3BIT-REAP” znači, iskreno
Sufiks nije ukras — govori vam točno što je s temeljem učinjeno da bi stao.
REAP — Router-weighted Expert Activation Pruning — dolazi iz Cerebras Researcha i prihvaćen je na ICLR 2026. U rijetkom MoE-u usmjerivač svaki token šalje šačici stručnjaka; na stvarnom se opterećenju neki pogađaju neprestano, a drugi gotovo nikad. REAP ocjenjuje svakog stručnjaka po kriteriju istaknutosti koji spaja koliko ga snažno usmjerivač propušta i koliko su veliki njegovi doprinosi izlazu, a zatim najmanje istaknute izravno uklanja — Cerebras izvještava o obrezivanju do 50 % stručnjaka na modelima velikima i do bilijun parametara uz uglavnom očuvanu polaznu kvalitetu i nalazi da za generativne zadatke poput koda obrezivanje pobjeđuje spajanje. 3-bitna kvantizacija zatim komprimira ono što je preživjelo. Prvo obrezivanje, pa kvantizacija, da bitni proračun ode stručnjacima koji nose promet umjesto da se razmaže po mrtvima.
Kompresija nije besplatna i nećemo se pretvarati da jest: agresivna se kvantizacija prvo očituje kao sitna nazadovanja u pridržavanju točnog formata i u dugolančanoj aritmetici, a ne kao vidljiva nesuvislost. Gdje padaju tri razine:
| Sufiks | Što je to | Gdje ga koristimo |
|---|---|---|
| 3BIT-REAP | 3-bitne težine + obrezivanje stručnjaka | Najveći temelji, gdje ništa drugo ne stane uz zadržanu brzinu |
| W4A16-AUTOROUND-REAP | 4-bitne težine / 16-bitne aktivacije, AutoRoundovo naučeno zaokruživanje + obrezivanje | Temelji srednje veličine; AutoRound vraća točnost u odnosu na naivno zaokruživanje na najbliže |
| W8A16 | 8-bitne težine / 16-bitne aktivacije | Najveća vjernost; temelji dovoljno mali da im agresivna kompresija ne treba |
Nemotron 3 Ultra sa svojih 550 milijardi jasno pripada prvoj kategoriji. Ako je vaše opterećenje neobično osjetljivo na točan brojčani izlaz kroz duge lance, istraživački indeks navodi razinu W8A16 — MiMo-V2.5-Pro-W8A16 i Hy3-W8A16 — na donjoj granici od 0,50 $ / 2,00 $. Stvarna zamjena, a ne lijevak: manji model, manje kompresije.
05Što „bez cenzure” znači na ovoj krajnjoj točki
Konkretno: nema sloja odbijanja niti se na izlaz primjenjuje filtriranje sadržaja. Nijedan klasifikator ne pregledava vaš prompt i ne vraća konzerviranu odbijenicu, a odgovor se ne skenira prije nego što stigne u vaš tok. Ono što dobivate vlastito je ponašanje modela.
Ovdje otvorena loza prestaje biti zanimljivost. Budući da je NVIDIA objavila podatke za naknadno treniranje i RL okruženja, sklonosti modela načelno su provjerljive umjesto da ostanu predaja. A budući da je OpenMDW-1.1 permisivna licenca Linux Foundationa koja pokriva arhitekturu, parametre, dokumentaciju i softver, neovisan operater može na vlastitom hardveru posluživati izmijenjenu, nefiltriranu izvedbu, a da licenca ne bude prepreka. Mnoge licence „otvorenih” modela to ne dopuštaju. Ova dopušta. Razlika se vidi ondje gdje je refleksno odbijanje kvar, a ne sigurnosna značajka:
- Sigurnosno istraživanje — analiza ranjivosti, zaključivanje o eksploatima, ponašanje zlonamjernog koda, alati za crveni tim, bez rasprave o tome je li pitanje dopušteno.
- Kemija, biologija i farmakologija — računanje doza, mehanizmi reakcija, toksikologija, sintetski putovi koje filtrirana krajnja točka odbija na dodir s ključnom riječi.
- Suparničko strojno učenje — teški negativni primjeri, korpusi jailbreakova i taksonomije zlouporabe za klasifikatore koji moraju vidjeti pravu stvar.
- Klinički, pravni i forenzički tekst — materijal iz predmeta koji je po naravi grafičan i biva odbijen baš zbog toga.
Bez cenzure ne znači bez odgovornosti. Vlasnik ste onoga što generirate, a račun je uređen našim Pravilima odgovorne uporabe i Uvjetima pružanja usluge. Uklanjanje sloja odbijanja uklanja nagađanje o namjeri; ne uklanja vaše obveze prema zakonu koji se na vas primjenjuje.
06STEM i promišljanje: što kažu objavljene brojke
Nemotronov je fokus treniranja matematika, kod, znanost i praćenje uputa otkako je skup podataka za naknadno treniranje Llama-Nemotrona izgrađen upravo oko te četiri osi. Ono što NVIDIA izvještava za temelj Nemotron 3 Ultra — proizvođačeve brojke na nekomprimiranom modelu, koje mi nismo mjerili:
Dvije ograde vrijede više od brojki. Rezultat na SWE-Benchu Verified jest raspon — NVIDIA izvještava od 65,0 % do 70,4 % ovisno o tome koji ga agentski okvir pokreće (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), a rasap od pet bodova samo zbog skele pokazuje koliko agentski rezultati ovise o okviru, a ne o modelu. Artificial Analysis smjestio je Nemotron 3 Ultra na 48 na svojem Intelligence Indexu, 9. mjesto od 89 modela — jako, ali ne vrh polja, a njihovo bismo neovisno mjerenje pretegnuli nad bilo čijim proizvođačkim slajdom.
Za raniju generaciju NVIDIA-in rad o Llama-Nemotronu navodi LN-Ultru na 76,0 % na GPQA-Diamondu naspram 71,5 % DeepSeeka-R1 i 43,4 % Llame-3.1-405B-Instruct, uz 80,8 % na AIME 2024 — drugi model, uključen zato što su znanost na razini poslijediplomskog studija i natjecateljska matematika dvije generacije meta ove obitelji.
Svaku brojku ovdje objavio je netko drugi, a ne mi. Provjerite primarne izvore sami.
Brojke s mjerila kako ih je objavila NVIDIA (lipanj 2026.) na nekomprimiranom Nemotronu 3 Ultra te Artificial Analysis za neovisna mjerenja. Komprimirane se izvedbe mogu razlikovati. Ne objavljujemo brojke s mjerila koje nismo provjerili ili ne možemo pripisati izvoru.
07Cijena i ograda o opširnosti
Uz 0,75 $ po milijunu ulaznih i 3,30 $ po milijunu izlaznih tokena, Nemotron3Ultra sjedi u donjoj trećini naše postave po ulazu i u sredini po izlazu. Razrađeni primjeri, jer se cijena po milijunu teško osjeti:
| Oblik poziva | Ulaz | Izlaz | Trošak |
|---|---|---|---|
| Tipičan RAG potez | 50,000 | 4,000 | $0.051 |
| Analiza dugog dokumenta | 150,000 | 8,000 | $0.139 |
| Poziv najveće veličine | 262,144 | 16,384 | $0.251 |
Zahtjev s punim kontekstom i punim izlazom — svaki token koji će krajnja točka primiti i svaki koji će proizvesti — stoji otprilike 25 centi. Isti oblik na Kimi-K3-3BIT-REAP, našem najskupljem modelu uz 3,83 $ / 19,12 $, stoji oko 1,32 $, odnosno 5,3 puta više.
Sada ograda, i stvarna je. Artificial Analysis izmjerio je da Nemotron 3 Ultra kroz njihov skup mjerila generira 2,3 puta više izlaznih tokena od medijana usporedivih modela. Modeli za promišljanje naplaćuju vam razmišljanje, a ovaj razmišlja naširoko; prednost u cijeni po tokenu ispari u nedostatak po zadatku ako model promišlja tri puta dulje da bi došao do istog odgovora. Ublažavanje je ugrađeno i izloženo na našem API-ju: Nemotron 3 naknadno je treniran za upravljanje proračunom promišljanja, a reasoning_effort je ovdje podržan — NVIDIA opisuje način rada s manjim naporom koji troši bitno manje tokena razmišljanja uz jednoznamenkasti gubitak točnosti. Na klasifikaciji, izlučivanju i usmjeravanju spustite ga i ekonomija se bitno mijenja; na dokazu ili preinaci preko više datoteka podignite ga i platite to svjesno. Mjerite vlastite tokene po zadatku umjesto da čitate cjenik i pretpostavljate.
08Kako ga pozvati: tri dijalekta, jedan model
Svaki model na pristupniku odgovara na tri API površine sa streamingom, pa postojećeg klijenta možete usmjeriti na njega bez prepisivanja integracije: /v1/chat/completions (OpenAI dijalekt), /v1/messages (Anthropicov dijalekt) i /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'
Sažetak mogućnosti, da vas pri integraciji ništa ne iznenadi:
| Mogućnost | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Kontekstni prozor | 262.144 tokena |
| Najveći izlaz / zahtjev | 16.384 tokena |
| Streaming | Da |
| Pozivanje alata | Da |
| Tragovi promišljanja | Da |
reasoning_effort | Da |
json_schema (strogo) | Da |
response_format | Da |
| Vid / slikovni ulaz | Ne — samo tekst |
| Sloj odbijanja | Nema |
Redak o vidu ljude iznenadi: Nemotron3Ultra je samo tekstualan. Ako vaš proizvodni lanac šalje slike, koristite MiniMax-M3-3BIT-REAP ili MiMo-V2.5-W8A16 uz 0,50 $ / 2,00 $, odnosno Kimi-K2.6-W4A16-AUTOROUND-REAP uz 0,78 $ / 3,67 $ — svi vide, svi su bez cenzure, svi na istom kontekstu od 262.144 tokena. Potpuni popis parametara nalazi se u dokumentaciji API-ja.
09Gdje Nemotron3Ultra stoji među dvanaest
Postava je dvanaest modela bez cenzure koji dijele isti kontekstni prozor, ista tri dijalekta i isto nepostojanje sloja odbijanja; razlikuju se po temelju, cijeni i mogućnostima. Nemotronovo je mjesto određeno: radni konj za promišljanje otvorenog podrijetla — nije najjeftiniji ni najsposobniji, ali iza njegova ponašanja stoji najviše javnog papirnatog traga, a ugođen je najjače prema STEM-u i agentima.
| Model | Ulaz / 1M | Izlaz / 1M | Vid | Birajte ga za |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Da | Najjeftinija opcija s vidom |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | Ne | Razina kvantizacije najveće vjernosti |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Ne | Najjeftinije promišljanje na velikom temelju |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | Ne | STEM, agenti, otvoreno podrijetlo |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | Da | Vid + AutoRoundova vjernost |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Ne | Duboka analiza iz jednog poteza |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Da | Apsolutni strop sposobnosti |
Prikazano je sedam od dvanaest. Potpuna postava — uključujući Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 i Hy3 — nalazi se u dokumentaciji API-ja. Imajte na umu da Laguna-S-2.1 ne podržava strukturirani izlaz, a inkling ne podržava json_schema; Nemotron3Ultra podržava oboje.
Najbliži susjed po cijeni je GLM-5.2-3BIT-REAP uz 0,73 $ / 2,34 $, a poštena je usporedba ovakva: GLM-5.2 jeftiniji je po tokenu, osobito na izlazu. Nemotron donosi objavljen korpus za treniranje, izričit regulator proračuna promišljanja i obiteljsku povijest usmjerenu na znanost razine poslijediplomskog studija. Za opće promišljanje u velikom obujmu: pokrenite jeftinijeg. Za posao težak STEM-om, agentski ili podložan reviziji koja pita odakle je modelovo ponašanje došlo: Nemotron zaslužuje razliku.
10Često postavljana pitanja
Što je Nemotron API bez cenzure?
To je hostirana krajnja točka Shannon AI-ja za Nemotron3Ultra 3BIT-REAP, komprimiranu izvedbu NVIDIA-ina Nemotrona 3 Ultra otvorenih težina. Radi na našem vlastitom GPU klasteru bez sloja odbijanja i bez filtriranja izlaza, izlaže kontekst od 262.144 tokena i 16.384 izlazna tokena po zahtjevu, a košta 0,75 $ po milijunu ulaznih tokena i 3,30 $ po milijunu izlaznih tokena.
Je li NVIDIA Nemotron doista model otvorenih težina?
Da. NVIDIA je 4. lipnja 2026. objavila Nemotron 3 Ultra s težinama, podacima za treniranje i receptima pod permisivnom licencom OpenMDW-1.1 Linux Foundationa, nastavljajući na Nemotron-4 340B i obitelj Llama-Nemotron. Upravo ta otvorenost omogućuje neovisno vođenu, nefiltriranu izvedbu.
Što znači 3BIT-REAP?
Dva koraka kompresije. REAP — Router-weighted Expert Activation Pruning, iz Cerebras Researcha i prihvaćen na ICLR 2026 — ocjenjuje svakog stručnjaka u modelu tipa Mixture-of-Experts prema tome koliko ga snažno usmjerivač propušta i koliko su veliki njegovi doprinosi izlazu, a zatim najmanje istaknute izravno briše. Preživjeli se kvantiziraju na 3-bitne težine, pa se bitni proračun troši na stručnjake koji doista nose promet.
Podržava li Nemotron3Ultra vid ili izlaz po JSON shemi?
Bez slika: ova je krajnja točka samo tekstualna. Podržava strogi strukturirani izlaz — i json_schema i response_format — uz pozivanje alata, streaming, tragove promišljanja i reasoning_effort. Za slike na modelu bez cenzure koristite MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 ili inkling.
Zašto je kontekst 262.144 tokena kad NVIDIA oglašava 1M?
Arhitektura Nemotrona 3 ciljana je na prozor od milijun tokena i NVIDIA za tu duljinu izvještava o 94,7 % na RULER-u. Naša izvedba poslužuje 262.144 tokena, prozor koji držimo punom brzinom kroz cijelu postavu. Svaki model na pristupniku izlaže isti kontekst, pa možete mijenjati id-ove modela bez prepisivanja svojeg dijeljenja na dijelove.
Je li Nemotron dobar za matematiku, znanost i kod?
STEM i promišljanje navedeni su fokus obitelji. NVIDIA za Nemotron 3 Ultra izvještava o 90 % na PinchBenchu, 65,0-70,4 % na SWE-Benchu Verified kroz pet agentskih okvira i 56,4 % na Terminal-Benchu 2.1; raniji je Llama-Nemotron Ultra prijavio 76,0 % na GPQA-Diamondu naspram 71,5 % DeepSeeka-R1. Sve su brojke proizvođačeve i na nekomprimiranom temelju.
Pozovite Nemotron API bez cenzure
262K konteksta, pozivanje alata, stroga JSON shema, bez sloja odbijanja — 0,75 $ ulaz / 3,30 $ izlaz po 1M tokena.
Pročitajte dokumentaciju API-ja Sve kartice modelaShannon Lab LLC · New Mexico, SAD · uporaba je uređena našim Pravilima odgovorne uporabe
Izvori: Tehnički izvještaj o NVIDIA Nemotronu 3 Ultra · NVIDIA-in blog za razvojne inženjere (lipanj 2026.) · Arhitektonske bilješke o Nemotronu 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Brojke s mjerila za temelj prijavila je NVIDIA na nekomprimiranom modelu, osim gdje su pripisane Artificial Analysisu; komprimirane se izvedbe mogu razlikovati. Cijene i mogućnosti vrijede na dan 5. rujna 2026.