Nemotron API bez cenzury
Výzkumný rodokmen NVIDIA, zveřejněný otevřeně, servírovaný bez vrstvy odmítání: hybridní MoE Mamba-Attention s 550B parametrů vyladěný na STEM a dlouhodobé uvažování — za $0.75 vstup / $3.30 výstup za milion tokenů.
Ve zkratce
Nemotron3Ultra-3BIT-REAP je nasazení modelu NVIDIA Nemotron 3 Ultra od Shannonu bez cenzury — Mixture-of-Experts s 550 miliardami parametrů a 55 miliardami aktivovanými na token, vydaný 4. června 2026 spolu s váhami, trénovacími daty a recepty pod permisivní licencí OpenMDW-1.1 od Linux Foundation. Na našem vlastním GPU clusteru běží bez vrstvy odmítání a bez filtrování výstupu, s kontextem 262 144 tokenů, až 16 384 výstupními tokeny na požadavek, voláním nástrojů, streamováním, uvažovacími stopami a striktním výstupem json_schema. Obrázky nepřijímá. Cena: $0.75 / $3.30 za 1M tokenů.
Většina „otevřených“ modelů má otevřené váhy a nic víc — tarball parametrů, licenci a mlčení o tom, odkud se čísla vzala. Nemotron je už dva roky konzistentní výjimkou: NVIDIA dodává váhy, post-trainingové datasety, RL prostředí i recept. Pro endpoint bez cenzury to znamená víc, než se na první pohled zdá. Model, jehož alignmentová data jsou zveřejněná, je model, o jehož odmítavém chování se dá uvažovat, místo aby se hádalo — a model, který smí třetí strana legitimně nasadit bez filtru obsahu přišroubovaného na ústa.
01Co je Nemotron 3 Ultra?
Nemotron 3 Ultra je největší člen rodiny Nemotron 3 od NVIDIA, vydaný na Hugging Face 4. června 2026. Technická zpráva NVIDIA ho popisuje jako „hybridní jazykový model Mamba-Attention typu Mixture-of-Experts s 550 miliardami celkových a 55 miliardami aktivních parametrů“ — na kterémkoli tokenu pracuje zhruba 10 % sítě, což je to, co dělá model s půl bilionem parametrů vůbec servírovatelným.
Uváděné uspořádání je 108 vrstev při dimenzi modelu 8 192, prokládající stavové vrstvy Mamba-2 s řídkou sadou vrstev plné pozornosti, 512 expertů na MoE vrstvu s routováním top-22. Předtrénink běžel zhruba na 20 bilionech textových tokenů ve dvou fázích — nejprve s důrazem na rozmanitost, pak na kvalitu — s uzávěrkou v září 2025, 12 přirozenými jazyky a 43 programovacími jazyky. Post-training použil SFT, RL v mnoha prostředích s ověřitelnými odměnami a vícelearnou on-policy destilaci z více než deseti specializovaných učitelů. Deklarovaným návrhovým cílem jsou dlouho běžící agenti: sezení, která drží velký kontext, volají nástroje desítkykrát a běží dost dlouho na to, aby účtu dominovala ekonomika za token.
02Linie Nemotron a proč na rodokmenu záleží
Nemotron není jednorázovka. Je to viditelný výstup výzkumného programu NVIDIA, který běží stejným směrem od roku 2024, a každá generace po sobě nechala něco, co současný model pořád nese. Nemotron-4 340B (červen 2024) přišel s otevřenou pipeline pro generování syntetických dat, se svým odměnovým modelem i generátorem, a k tomu s neobvyklým přiznáním: naprostá většina jeho alignmentových dat byla vygenerována modelem. Model jako továrna na data spíš než jako věštírna je důvod, proč pozdější vydání Nemotronu dodávají datasety vedle vah.
Llama-Nemotron — uvažování, které jde vypnout
Rodina Llama-Nemotron z roku 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) přispěla dvěma nápady, které dobře zestárly. První byl architektonický: vyhledávání neuronové architektury Puzzle od NVIDIA postavilo knihovnu blokově destilovaných transformerových bloků a poskládalo je smíšeným celočíselným programováním, což dalo modely, v nichž některé bloky pozornost úplně přeskakují nebo ji nahrazují jedinou lineární vrstvou, zatímco FFN Fusion sloučila po sobě jdoucí dopředné bloky do menšího počtu širších a paralelních — což zkracuje sekvenční hloubku, ne počet parametrů. LN-Ultra se vešel na jediný uzel 8×H100 a podle práce NVIDIA přitom překonal DeepSeek-R1 na GPQA-Diamond (76,0 % vs 71,5 %).
Druhý byl behaviorální: Llama-Nemotron byla první otevřená rodina s dynamickým přepínačem uvažování, která trénovací data označovala v systémové instrukci jako detailed thinking on nebo detailed thinking off, přičemž formátové odměny vynucovaly v zapnutém režimu značky <think>. Jedna sada vah, dvě chování, volitelná při inferenci. Řízení rozpočtu na uvažování u Nemotronu 3 — a parametr reasoning_effort na našem API — pochází přímo z téhle práce.
Nemotron 3 — hybridní obrat
Nemotron 3 nahradil odvození od Llamy hybridní architekturou postavenou od nuly a přidal LatentMoE (komprese tokenů před routováním, o níž NVIDIA říká, že umožňuje „4× více expertů za stejnou cenu inference“), predikci více tokenů a nativní předtrénink v NVFP4. NVIDIA vedle vah zveřejnila kumulativně 50 milionů SFT vzorků, 2 miliony RL úloh a 55 RL prostředí — nemusíte dodavateli věřit na slovo, co model učil, protože učební materiál je ke stažení.
03Co vám hybridní architektura přinese
KV cache transformeru roste lineárně s délkou sekvence, a proto se inference na dlouhém kontextu prodraží dřív na paměti než na výpočtu. Vrstvy Mamba-2 jsou stavové modely nesoucí rekurentní stav pevné velikosti, takže jejich paměťová cena na token s historií neroste; v čem jsou špatné, je přesné asociativní vybavování. Hybrid ponechává Mamba-2 pro většinu zpracování sekvence a k tomu menšinu skutečných vrstev pozornosti pro to vybavování, které stavové vrstvy nezvládají, přičemž agresivní poměr 64 dotazovacích hlav na 2 KV hlavy cache dál zmenšuje. NVIDIA uvádí 94,7 % na RULER při 1M tokenech — benchmark hledání jehly, postavený právě na to, aby chytil modely, které inzerují okno, jež neumí využít.
Důsledkem je propustnost: NVIDIA tvrdí až zhruba 6× vyšší propustnost inference než srovnatelné modely při stejné přesnosti a Artificial Analysis nezávisle naměřila 140,3 tokenu za sekundu s časem do prvního tokenu 1,33 sekundy — 7. místo z 89 modelů. Na běhu agenta o 200 tazích je to rozdíl mezi dokončením do odpoledne a nedokončením vůbec.
04Co „3BIT-REAP“ poctivě znamená
Přípona není ozdoba — říká vám přesně, co se se základem udělalo, aby se vešel.
REAP — Router-weighted Expert Activation Pruning — pochází z Cerebras Research a byl přijat na ICLR 2026. V řídkém MoE posílá router každý token hrstce expertů; nad reálnou zátěží jsou některé zasahovány neustále a jiné skoro nikdy. REAP boduje každého experta kritériem významnosti, které kombinuje, jak silně ho router propouští, a jak velké jsou jeho příspěvky k výstupu, a ty nejméně významné pak rovnou odstraní — Cerebras uvádí prořezání až 50 % expertů u modelů velkých až 1 bilion parametrů při do velké míry zachované výchozí kvalitě a zjišťuje, že u generativních úloh, jako je kód, prořezávání poráží slučování. 3bitová kvantizace pak zkomprimuje to, co přežilo. Nejdřív prořezat, pak kvantizovat, aby bitový rozpočet šel expertům, kteří nesou provoz, místo aby se rozmazal po mrtvých.
Komprese není zadarmo a nebudeme předstírat opak: agresivní kvantizace se nejdřív projeví drobným zhoršením přesného dodržení formátu a dlouhých aritmetických řetězců, ne viditelnou nesouvislostí. Kam padají tři tiery:
| Přípona | Co to je | Kde ji používáme |
|---|---|---|
| 3BIT-REAP | 3bitové váhy + prořezání expertů | Největší základy, kde se nic jiného rychle nevejde |
| W4A16-AUTOROUND-REAP | 4bitové váhy / 16bitové aktivace, naučené zaokrouhlování AutoRound, + prořezání | Středně velké základy; AutoRound vrací přesnost oproti naivnímu zaokrouhlování na nejbližší |
| W8A16 | 8bitové váhy / 16bitové aktivace | Nejvyšší věrnost; základy dost malé na to, aby agresivní kompresi nepotřebovaly |
Nemotron 3 Ultra s 550B parametrů patří jednoznačně do první kategorie. Pokud je vaše zátěž nezvykle citlivá na přesný číselný výstup přes dlouhé řetězce, výzkumný rozcestník uvádí tier W8A16 — MiMo-V2.5-Pro-W8A16 a Hy3-W8A16 — na spodní hranici $0.50/$2.00. Skutečný obchod, ne trychtýř: menší model, méně komprese.
05Co na tomhle endpointu znamená „bez cenzury“
Konkrétně: není tu žádná vrstva odmítání a na výstup se neaplikuje žádné filtrování obsahu. Žádný klasifikátor neprohlíží váš prompt, aby vrátil konzervované odmítnutí, a odpověď se před vstupem do vašeho streamu neskenuje. Dostanete vlastní chování modelu.
Tady přestává být otevřený původ pouhou zajímavostí. Protože NVIDIA zveřejnila post-trainingová data i RL prostředí, jsou dispozice modelu v principu auditovatelné, ne folklorní. A protože OpenMDW-1.1 je permisivní licence Linux Foundation pokrývající architekturu, parametry, dokumentaci i software, může nezávislý provozovatel servírovat upravené, nefiltrované nasazení na vlastním hardwaru, aniž by mu v tom bránila licence. Mnoho licencí „otevřených“ modelů to nedovoluje. Tahle ano. Rozdíl se projeví tam, kde je reflexivní odmítání chyba, ne bezpečnostní funkce:
- Bezpečnostní výzkum — analýza zranitelností, uvažování o exploitech, chování malwaru, nástroje pro red teaming, bez dohadování o tom, jestli je otázka povolená.
- Chemie, biologie a farmakologie — počítání dávek, reakční mechanismy, toxikologie, syntetické cesty, které filtrovaný endpoint odmítne při kontaktu s klíčovým slovem.
- Adversariální ML — těžké negativy, korpusy jailbreaků a taxonomie zneužití pro klasifikátory, které to skutečné musely vidět.
- Klinické, právní a forenzní texty — případový materiál, který je ze své podstaty drastický a přesně proto bývá odmítán.
Bez cenzury neznamená bez odpovědnosti. Za to, co vygenerujete, ručíte vy, a účet se řídí naší Politikou odpovědného užívání a Podmínkami služby. Odstranění vrstvy odmítání odstraňuje dohad o úmyslu; neodstraňuje vaše povinnosti podle práva, které se na vás vztahuje.
06STEM a uvažování: co říkají zveřejněná čísla
Trénink Nemotronu se soustředí na matematiku, kód, vědu a dodržování instrukcí od doby, kdy byl post-trainingový dataset Llama-Nemotron postaven přesně kolem těchhle čtyř os. Co NVIDIA uvádí pro základ Nemotron 3 Ultra — čísla uváděná dodavatelem pro nekomprimovaný model, která jsme sami neměřili:
Dvě výhrady, které mají větší cenu než ta čísla. Údaj SWE-Bench Verified je rozsah — NVIDIA uvádí 65,0 % až 70,4 % podle toho, který agentní harness ho spouští (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), a pětibodový rozptyl daný jen lešením ukazuje, jak moc agentní skóre závisí na harnessu, ne na modelu. A Artificial Analysis zařadila Nemotron 3 Ultra na 48 bodů svého Intelligence Indexu, 9. místo z 89 modelů — silné, ne špička pole, a jejich nezávislé měření je to, kterému bychom dali větší váhu než jakémukoli slajdu dodavatele.
U starší generace uvádí práce NVIDIA o Llama-Nemotronu pro LN-Ultra 76,0 % na GPQA-Diamond proti 71,5 % u DeepSeek-R1 a 43,4 % u Llama-3.1-405B-Instruct, k tomu 80,8 % na AIME 2024 — jiný model, uvedený proto, že věda na úrovni doktorského studia a soutěžní matematika jsou cílem téhle rodiny už dvě generace.
Každý údaj tady zveřejnil někdo jiný než my. Ověřte si primární zdroje sami.
Benchmarková čísla tak, jak je zveřejnila NVIDIA (červen 2026) pro nekomprimovaný Nemotron 3 Ultra, a Artificial Analysis pro nezávislá měření. Komprimované buildy se mohou lišit. Nezveřejňujeme benchmarková čísla, která jsme neověřili nebo která nedokážeme přiřadit ke zdroji.
07Cena a výhrada k upovídanosti
Při $0.75 za milion vstupních tokenů a $3.30 za milion výstupních tokenů sedí Nemotron3Ultra ve spodní třetině naší nabídky na vstupu a uprostřed na výstupu. Rozpracované příklady, protože cena za milion se špatně představuje:
| Tvar volání | Vstup | Výstup | Cena |
|---|---|---|---|
| Typický tah RAG | 50,000 | 4,000 | $0.051 |
| Analýza dlouhého dokumentu | 150,000 | 8,000 | $0.139 |
| Volání maximální velikosti | 262,144 | 16,384 | $0.251 |
Požadavek s plným kontextem a plným výstupem — každý token, který endpoint přijme, a každý token, který vyprodukuje — stojí zhruba 25 centů. Stejný tvar na Kimi-K3-3BIT-REAP, našem nejdražším modelu za $3.83/$19.12, stojí asi $1.32, tedy 5,3× víc.
A teď ta výhrada, a je skutečná. Artificial Analysis naměřila, že Nemotron 3 Ultra generuje napříč jejich sadou benchmarků 2,3× více výstupních tokenů než medián konkurence. Uvažovací modely vám účtují i to přemýšlení a tenhle přemýšlí zeširoka; cenová výhoda za token se vypaří do nevýhody za úlohu, pokud model uvažuje třikrát déle, aby došel ke stejné odpovědi. Zmírnění je vestavěné a vystavené na našem API: Nemotron 3 byl post-trénován na řízení rozpočtu na uvažování a reasoning_effort je tu podporován — NVIDIA popisuje režim s nižším úsilím, který používá podstatně méně tokenů na přemýšlení výměnou za jednociferný pokles přesnosti. U klasifikace, extrakce a routování ho stáhněte dolů a ekonomika se výrazně změní; u důkazu nebo refaktoringu přes více souborů ho zvedněte a zaplaťte za to vědomě. Změřte si vlastní počet tokenů na úlohu, místo abyste četli ceník a předpokládali.
08Jak ho volat: tři dialekty, jeden model
Každý model na bráně odpovídá na třech streamovacích API rozhraních, takže na něj můžete namířit existujícího klienta bez přepisování integrace: /v1/chat/completions (dialekt OpenAI), /v1/messages (dialekt Anthropic) a /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'
Přehled schopností, aby vás při integraci nic nepřekvapilo:
| Schopnost | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Kontextové okno | 262 144 tokenů |
| Max. výstup / požadavek | 16 384 tokenů |
| Streamování | Ano |
| Volání nástrojů | Ano |
| Uvažovací stopy | Ano |
reasoning_effort | Ano |
json_schema (striktní) | Ano |
response_format | Ano |
| Vidění / obrazový vstup | Ne — pouze text |
| Vrstva odmítání | Žádná |
Řádek o vidění lidi zaskočí: Nemotron3Ultra je pouze textový. Pokud vaše pipeline posílá obrázky, použijte MiniMax-M3-3BIT-REAP nebo MiMo-V2.5-W8A16 za $0.50/$2.00, případně Kimi-K2.6-W4A16-AUTOROUND-REAP za $0.78/$3.67 — všechny umí vidění, všechny jsou bez cenzury, všechny na stejném kontextu 262 144 tokenů. Úplná referenční příručka parametrů je v dokumentaci API.
09Kam Nemotron3Ultra mezi dvanácti patří
Nabídka je dvanáct modelů bez cenzury sdílejících stejné kontextové okno, stejné tři dialekty a stejnou absenci vrstvy odmítání; liší se základem, cenou a schopnostmi. Pozice Nemotronu je konkrétní: tažný kůň uvažování s otevřeným původem — ne nejlevnější, ne nejschopnější, ale ten s nejrozsáhlejší veřejnou papírovou stopou za svým chováním, vyladěný nejvíc směrem ke STEM a agentům.
| Model | Vstup / 1M | Výstup / 1M | Vidění | Vyberte ho na |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Ano | Nejlevnější volba se schopností vidění |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | Ne | Kvantizační tier s nejvyšší věrností |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Ne | Nejlevnější uvažování na velkém základu |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | Ne | STEM, agenty, otevřený původ |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | Ano | Vidění + věrnost AutoRound |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Ne | Hlubokou analýzu na jeden zátah |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Ano | Absolutní strop schopností |
Zobrazeno sedm z dvanácti. Úplná nabídka — včetně Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 a Hy3 — je v dokumentaci API. Pozor na to, že Laguna-S-2.1 nepodporuje strukturovaný výstup a inkling nepodporuje json_schema; Nemotron3Ultra podporuje obojí.
Nejbližším sousedem podle ceny je GLM-5.2-3BIT-REAP za $0.73/$2.34 a poctivé srovnání zní takto: GLM-5.2 je za token levnější, obzvlášť na výstupu. Nemotron přináší zveřejněný trénovací korpus, explicitní ovladač rozpočtu na uvažování a rodinnou historii mířící na vědu na úrovni doktorského studia. Obecné uvažování ve velkém objemu: pusťte ten levnější. Zátěž náročná na STEM, agentní nebo podléhající auditu, který se ptá, odkud se chování modelu vzalo: Nemotron ten rozdíl vydělá.
10Nejčastější dotazy
Co je Nemotron API bez cenzury?
Je to hostovaný endpoint Shannon AI pro Nemotron3Ultra 3BIT-REAP, komprimovaný build modelu Nemotron 3 Ultra od NVIDIA s otevřenými váhami. Běží na našem vlastním GPU clusteru bez vrstvy odmítání a bez filtrování výstupu, vystavuje kontext 262 144 tokenů a 16 384 výstupních tokenů na požadavek a stojí $0.75 za milion vstupních tokenů a $3.30 za milion výstupních tokenů.
Má NVIDIA Nemotron skutečně otevřené váhy?
Ano. NVIDIA zveřejnila Nemotron 3 Ultra 4. června 2026 spolu s váhami, trénovacími daty a recepty pod permisivní licencí OpenMDW-1.1 od Linux Foundation, v návaznosti na Nemotron-4 340B a rodinu Llama-Nemotron. Právě tahle otevřenost umožňuje nezávisle provozované, nefiltrované nasazení.
Co znamená 3BIT-REAP?
Dva kompresní kroky. REAP — Router-weighted Expert Activation Pruning od Cerebras Research, přijaté na ICLR 2026 — boduje každého experta modelu Mixture-of-Experts podle toho, jak silně ho router propouští a jak velké jsou jeho příspěvky k výstupu, a ty nejméně významné pak rovnou zahodí. To, co přežije, se kvantizuje na 3bitové váhy, takže se bitový rozpočet utratí za experty, kteří skutečně nesou provoz.
Podporuje Nemotron3Ultra vidění nebo výstup podle JSON schématu?
Žádné obrázky: tenhle endpoint je pouze textový. Striktní strukturovaný výstup podporuje — json_schema i response_format — a k tomu volání nástrojů, streamování, uvažovací stopy a reasoning_effort. Pro obrázky na modelu bez cenzury použijte místo něj MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 nebo inkling.
Proč je kontext 262 144 tokenů, když NVIDIA inzeruje 1M?
Architektura Nemotron 3 cílí na okno o milionu tokenů a NVIDIA uvádí 94,7 % na RULER při této délce. Naše nasazení servíruje 262 144 tokenů, tedy okno, které držíme v plné rychlosti napříč celou nabídkou. Každý model na bráně vystavuje stejný kontext, takže můžete měnit id modelů bez přepisování svého dělení na části.
Je Nemotron dobrý na matematiku, vědu a kód?
STEM a uvažování jsou deklarovaným zaměřením celé rodiny. NVIDIA uvádí pro Nemotron 3 Ultra 90 % na PinchBench, 65,0 až 70,4 % na SWE-Bench Verified napříč pěti agentními harnessy a 56,4 % na Terminal-Bench 2.1; starší Llama-Nemotron Ultra uváděl 76,0 % na GPQA-Diamond proti 71,5 % u DeepSeek-R1. Všechno jsou to čísla uváděná dodavatelem pro nekomprimovaný základ.
Volejte Nemotron API bez cenzury
Kontext 262K, volání nástrojů, striktní JSON schéma, žádná vrstva odmítání — $0.75 vstup / $3.30 výstup za 1M tokenů.
Přečíst dokumentaci API Všechny karty modelůShannon Lab LLC · Nové Mexiko, USA · užívání se řídí naší Politikou odpovědného užívání
Zdroje: Technická zpráva NVIDIA k Nemotron 3 Ultra · Vývojářský blog NVIDIA (červen 2026) · Architektonické poznámky k Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmarky základu uvádí NVIDIA pro nekomprimovaný model, pokud nejsou přiřazeny k Artificial Analysis; komprimované buildy se mohou lišit. Ceny a schopnosti jsou platné k 5. září 2026.