Cenzúrázatlan Nemotron API

A legtöbb „nyílt” modell nyílt súlyú és semmi több — egy paraméter-tarball, egy licenc, és teljes hallgatás arról, honnan jöttek a számok. A Nemotron két éve a következetes kivétel: az NVIDIA szállítja a súlyokat, az utótanítási adathalmazokat, a megerősítéses tanulási környezeteket és a receptet. Ez egy cenzúrázatlan végpont szempontjából olyan módon számít, amit könnyű elnézni. Egy modell, amelynek az alignment-adatait közzétették, olyan modell, amelynek elutasítási viselkedéséről gondolkodni lehet ahelyett, hogy találgatnánk — és amelyet harmadik fél jogszerűen üzemeltethet anélkül, hogy tartalomszűrőt csavarna a szájára.

01Mi az a Nemotron 3 Ultra?

A Nemotron 3 Ultra az NVIDIA Nemotron 3 családjának legnagyobb tagja, amelyet 2026. június 4-én tettek közzé a Hugging Face-en. Az NVIDIA technikai jelentése így írja le: „550 milliárd összes és 55 milliárd aktív paraméteres, szakértőkeverékes hibrid Mamba-Attention nyelvi modell” — nagyjából a hálózat 10%-a dolgozik egy adott tokenen, és ez teszi egyáltalán kiszolgálhatóvá a félbillió paraméteres modellt.

A közölt elrendezés 108 réteg 8192-es modelldimenzión, amelyben Mamba-2 állapottér-rétegek váltakoznak a teljes figyelmi rétegek ritka halmazával, MoE-rétegenként 512 szakértővel és top-22 útvonalazással. Az előtanítás nagyjából 20 billió szöveges tokenen zajlott két fázisban — először diverzitásra, majd minőségre súlyozva —, 2025. szeptemberi adatzárással, 12 természetes és 43 programozási nyelven. Az utótanítás SFT-t, több környezetben futó, ellenőrizhető jutalmakkal működő megerősítéses tanulást és többtanáros on-policy desztillációt használt tíznél több specialista tanárral. A megfogalmazott tervezési cél a hosszan futó ügynök: olyan munkamenetek, amelyek nagy kontextust tartanak, tucatszor hívnak eszközöket, és elég sokáig futnak ahhoz, hogy a tokenenkénti gazdaságosság uralja a számlát.

02A Nemotron felmenői, és miért számít a származás

A Nemotron nem egyszeri kísérlet. Egy 2024 óta ugyanabba az irányba haladó NVIDIA-kutatási program látható kimenete, és minden nemzedék hagyott valamit, amit a mai modell még mindig visz magával. A Nemotron-4 340B (2024. június) nyílt szintetikusadat-generáló folyamattal, a jutalommodelljével és a generátorával együtt érkezett, plusz egy szokatlan közléssel: az alignment-adatainak elsöprő többségét modell állította elő. A modell mint adatgyár és nem mint orákulum — ezért szállítanak a későbbi Nemotron-kiadások adathalmazokat is a súlyok mellé.

Llama-Nemotron — gondolkodás, amit ki lehet kapcsolni

A 2025-ös Llama-Nemotron család (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) két olyan ötlettel járult hozzá, amelyek jól öregedtek. Az első architekturális: az NVIDIA Puzzle nevű neurálisarchitektúra-keresése blokkonként desztillált transzformer-blokkokból épített könyvtárat, és vegyes egészértékű programozással állította őket össze, olyan modelleket létrehozva, amelyekben egyes blokkok teljesen kihagyják a figyelmet, vagy egyetlen lineáris réteggel váltják ki, míg az FFN Fusion az egymást követő előrecsatolt blokkokat kevesebb, szélesebb, párhuzamos blokká olvasztotta össze — a szekvenciális mélységet vágva, nem a paraméterszámot. Az LN-Ultra elfért egyetlen 8×H100-as csomóponton, miközben az NVIDIA cikke szerint felülmúlta a DeepSeek-R1-et a GPQA-Diamondon (76,0% a 71,5% ellenében).

A második viselkedésbeli: a Llama-Nemotron volt az első nyílt család dinamikus gondolkodási kapcsolóval, amely a tanítási adatokat a rendszerutasításban detailed thinking on vagy detailed thinking off jelöléssel látta el, formátumjutalmakkal kikényszerítve a <think> címkéket a bekapcsolt módban. Egy súlykészlet, két viselkedés, következtetési időben kiválasztva. A Nemotron 3 gondolkodásiköltségvetés-szabályozása — és a mi API-nkon a reasoning_effort paraméter — közvetlenül ebből a munkából származik.

Nemotron 3 — a hibrid fordulat

A Nemotron 3 a Llama-származtatást nulláról épített hibrid architektúrára cserélte, és hozzáadta a LatentMoE megoldást (a tokenek tömörítése útvonalazás előtt, ami az NVIDIA szerint „négyszer annyi szakértőt tesz lehetővé ugyanazon a következtetési költségen”), a több tokenes előrejelzést és a natív NVFP4 előtanítást. Az NVIDIA összesen 50 millió SFT-mintát, 2 millió megerősítéses tanulási feladatot és 55 RL-környezetet tett közzé a súlyok mellett — nem kell elhinnie a gyártó szavát arról, mire tanították a modellt, mert a tananyag letölthető.

03Mit ad a hibrid architektúra

Egy transzformer KV-gyorsítótára lineárisan nő a szekvenciahosszal, ezért lesz a hosszú kontextusú következtetés memóriában drága, még mielőtt számításban az lenne. A Mamba-2 rétegek állapottér-modellek, amelyek rögzített méretű rekurrens állapotot visznek, így a tokenenkénti memóriaköltségük nem nő az előzménnyel; amiben rosszak, az a pontos asszociatív felidézés. A hibrid a szekvenciafeldolgozás zömére a Mamba-2-t tartja meg, plusz kisebbségben valódi figyelmi rétegeket arra a felidézésre, amellyel az állapottér-rétegek küszködnek, egy agresszív, 64 lekérdezőfejes / 2 KV-fejes aránnyal tovább zsugorítva a gyorsítótárat. Az NVIDIA 94,7%-ot közöl a RULER benchmarkon 1M tokennél — ez egy tűkeresési benchmark, amelyet éppen azért építettek, hogy elkapja azokat a modelleket, amelyek olyan ablakot hirdetnek, amit használni nem tudnak.

A következmény az átbocsátóképesség: az NVIDIA nagyjából hatszor nagyobb következtetési átbocsátóképességet állít az összemérhető modellekhez képest, azonos pontosság mellett, az Artificial Analysis pedig függetlenül másodpercenként 140,3 tokent mért, 1,33 másodperces első tokenig eltelt idővel — ez a 7. hely 89 modell közül. Egy 200 körös ügynökfutásnál ez a különbség aközött, hogy egy délután alatt végez, vagy nem végez egyáltalán.

04Mit jelent őszintén a „3BIT-REAP”

Az utótag nem díszítés — pontosan megmondja, mit tettek az alapmodellel, hogy elférjen.

A REAP — Router-weighted Expert Activation Pruning — a Cerebras Research műhelyéből származik, és elfogadták az ICLR 2026-ra. Egy ritka MoE-ben az útválasztó minden tokent néhány szakértőhöz küld; egy valós munkaterhelésen néhányat folyamatosan találat ér, másokat szinte soha. A REAP minden szakértőt egy olyan kiemelkedési kritériummal pontoz, amely egyesíti azt, hogy az útválasztó milyen erősen kapuzza, és hogy mekkorák a kimeneti hozzájárulásai, majd a legkevésbé lényegeseket egyszerűen eltávolítja — a Cerebras arról számol be, hogy akár egybillió paraméteres modellekből is le tudja metszeni a szakértők 50%-át az alapminőség nagyfokú megőrzése mellett, és úgy találja, hogy generatív feladatoknál, például kódnál a metszés veri az összeolvasztást. A 3 bites kvantálás ezután tömöríti azt, ami megmaradt. Előbb metszés, aztán kvantálás, hogy a bitköltségvetés a forgalmat vivő szakértőkhöz kerüljön, ne kenődjön szét a halottakon.

A tömörítés nem ingyenes, és nem is teszünk úgy, mintha az lenne: az agresszív kvantálás először a pontos formátumkövetés és a hosszú láncú aritmetika apró romlásaként jelentkezik, nem látható összefüggéstelenségként. Hogy hol áll a három szint:

Utótag	Mi ez	Hol használjuk
3BIT-REAP	3 bites súlyok + szakértőmetszés	A legnagyobb alapmodellek, ahol semmi más nem fér el megfelelő sebességgel
W4A16-AUTOROUND-REAP	4 bites súlyok / 16 bites aktivációk, AutoRound tanult kerekítés, + metszés	Közepes méretű alapmodellek; az AutoRound pontosságot nyer vissza a naiv legközelebbire kerekítéshez képest
W8A16	8 bites súlyok / 16 bites aktivációk	Legnagyobb hűség; olyan alapmodellek, amelyek elég kicsik ahhoz, hogy ne kelljen agresszívan tömöríteni őket

Az 550 milliárd paraméteres Nemotron 3 Ultra egyértelműen az első kategóriába esik. Ha a munkaterhelése szokatlanul érzékeny a hosszú láncokon át pontos numerikus kimenetre, a kutatási index felsorolja a W8A16 szintet — MiMo-V2.5-Pro-W8A16 és Hy3-W8A16 — a 0,50 $ / 2,00 $ alsó áron. Ez valódi csere, nem tölcsér: kisebb modell, kevesebb tömörítés.

05Mit jelent a „cenzúrázatlan” ezen a végponton

Konkrétan: nincs elutasítási réteg, és a kimenetre nem alkalmazunk tartalomszűrést. Semmilyen osztályozó nem vizsgálja meg a promptját, hogy konzervdobozos elutasítást adjon vissza, és a választ sem pásztázzuk át, mielőtt eljut az adatfolyamába. Amit kap, az a modell saját viselkedése.

Itt szűnik meg a nyílt felmenő puszta érdekességnek lenni. Mivel az NVIDIA közzétette az utótanítási adatokat és az RL-környezeteket, a modell hajlamai elvben auditálhatók, nem pedig folklór tárgyai. És mivel az OpenMDW-1.1 egy megengedő Linux Foundation-licenc, amely lefedi az architektúrát, a paramétereket, a dokumentációt és a szoftvert, egy független üzemeltető módosított, szűretlen kiszolgálást futtathat a saját hardverén anélkül, hogy a licenc lenne az akadály. Sok „nyílt” modelllicenc ezt nem engedi meg. Ez igen. A különbség ott mutatkozik meg, ahol a reflexszerű elutasítás hiba, nem biztonsági funkció:

• Biztonsági kutatás — sérülékenységelemzés, exploit-gondolatmenetek, kártevő-viselkedés, red team-eszközök, anélkül hogy vitatkozni kellene arról, szabad-e feltenni a kérdést.
• Kémia, biológia és farmakológia — dózisszámítás, reakciómechanizmusok, toxikológia, szintézisútvonalak, amelyeket egy szűrt végpont már kulcsszóérintésre elutasít.
• Adverzáriális gépi tanulás — nehéz negatív minták, jailbreak-korpuszok és visszaéléstaxonómiák olyan osztályozókhoz, amelyeknek látniuk kell a valódi dolgot.
• Klinikai, jogi és igazságügyi szöveg — természeténél fogva nyers esetanyag, amelyet pontosan emiatt utasítanak el.

A cenzúrázatlan nem jelenti azt, hogy elszámoltathatatlan. Amit generál, azért Ön felel, a fiókra pedig a Felelős használati szabályzatunk és a Szolgáltatási feltételeink vonatkoznak. Az elutasítási réteg eltávolítása egy szándékra vonatkozó találgatást szüntet meg; nem szünteti meg az Önre vonatkozó jog szerinti kötelezettségeit.

06STEM és gondolkodás: mit mondanak a közzétett számok

A Nemotron tanítási fókusza a matematika, a kód, a tudomány és az utasításkövetés, amióta a Llama-Nemotron utótanítási adathalmazt pontosan e négy tengely köré építették. Amit az NVIDIA a Nemotron 3 Ultra alapmodellről közöl — gyártói közlésű számok a tömörítetlen modellen, amelyeket nem mi futtattunk:

Két megszorítás többet ér a számoknál. A SWE-Bench Verified érték egy tartomány — az NVIDIA 65,0% és 70,4% közötti értéket közöl attól függően, melyik ügynökkeret futtatja (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), és az öt pontnyi szórás pusztán az állványzatból megmutatja, mennyire a kerettől és nem a modelltől függenek az ügynöki pontszámok. Az Artificial Analysis pedig 48-ra tette a Nemotron 3 Ultrát az Intelligence Indexén, ami a 9. hely 89 modell közül — erős, de nem a mezőny éle, és az ő független mérésük az, amelyet bármelyik gyártó diájánál nagyobb súllyal vennénk.

A korábbi nemzedékről az NVIDIA Llama-Nemotron cikke az LN-Ultránál 76,0%-ot közöl a GPQA-Diamondon a DeepSeek-R1 71,5%-ával és a Llama-3.1-405B-Instruct 43,4%-ával szemben, plusz 80,8%-ot az AIME 2024-en — más modell, de azért szerepel itt, mert az egyetemi szintű természettudomány és a versenymatematika két nemzedéken át volt a család célja.

A benchmarkszámokat az NVIDIA tette közzé (2026. június) a tömörítetlen Nemotron 3 Ultráról, a független méréseket pedig az Artificial Analysis. A tömörített buildek ettől eltérhetnek. Nem közlünk olyan benchmarkszámot, amelyet nem ellenőriztünk, vagy amelyet nem tudunk forráshoz kötni.

07Ár, és a bőbeszédűség megszorítása

0,75 $ millió bemeneti tokenenként és 3,30 $ millió kimeneti tokenenként áron a Nemotron3Ultra a katalógusunk alsó harmadában van bemenetre, és a közepén kimenetre. Kidolgozott példák, mert a millió tokenenkénti árazást nehéz megérezni:

Híváskép	Bemenet	Kimenet	Költség
Tipikus RAG-kör	50,000	4,000	$0.051
Hosszú dokumentum elemzése	150,000	8,000	$0.139
Maximális méretű hívás	262,144	16,384	$0.251

Egy teljes kontextusú, teljes kimenetű kérés — minden token, amit a végpont elfogad, és minden token, amit előállít — nagyjából 25 centbe kerül. Ugyanez az alak a Kimi-K3-3BIT-REAP modellen, amely a legdrágább modellünk 3,83 $ / 19,12 $ áron, körülbelül 1,32 $-ba kerül, azaz 5,3-szer többe.

Most jön a megszorítás, és ez valós. Az Artificial Analysis azt mérte, hogy a Nemotron 3 Ultra 2,3-szer több kimeneti tokent generál a mediánmodellnél a benchmarkcsomagjukon. A gondolkodó modellek a gondolkodást is kiszámlázzák, ez pedig hosszan gondolkodik; a tokenenkénti árelőny feladatonkénti hátránnyá párolog el, ha a modell háromszor annyi ideig gondolkodik ugyanahhoz a válaszhoz. Az ellenszer beépített, és elérhető az API-nkon: a Nemotron 3-at gondolkodásiköltségvetés-szabályozásra utótanították, és a reasoning_effort paraméter itt támogatott — az NVIDIA olyan alacsonyabb erőfeszítésű módot ír le, amely lényegesen kevesebb gondolkodási tokent használ egyszámjegyű pontosságcsere árán. Osztályozásnál, kinyerésnél és útvonalválasztásnál vegye lejjebb, és a gazdaságosság érdemben megváltozik; egy bizonyításnál vagy egy több fájlt érintő átalakításnál vegye feljebb, és fizessen érte tudatosan. Mérje a saját feladatonkénti tokenszámát, ne csak az árlistát olvassa, és feltételezzen.

08Meghívás: három dialektus, egy modell

Az átjáró minden modellje három streamelő API-felületen válaszol, így egy meglévő klienst az integráció átírása nélkül irányíthat rá: /v1/chat/completions (OpenAI-dialektus), /v1/messages (Anthropic-dialektus) és /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Képességösszefoglaló, hogy integrációkor semmi ne érje meglepetésként:

Képesség	Nemotron3Ultra · 3BIT-REAP
Kontextusablak	262 144 token
Max. kimenet / kérés	16 384 token
Streamelés	Igen
Eszközhívás	Igen
Gondolkodási nyomok	Igen
reasoning_effort	Igen
json_schema (szigorú)	Igen
response_format	Igen
Képfeldolgozás / képi bemenet	Nem — csak szöveg
Elutasítási réteg	Nincs

A képfeldolgozás sora sokakat megfog: a Nemotron3Ultra csak szöveges. Ha a folyamata képeket küld, használja a MiniMax-M3-3BIT-REAP vagy a MiMo-V2.5-W8A16 modellt 0,50 $ / 2,00 $ áron, vagy a Kimi-K2.6-W4A16-AUTOROUND-REAP modellt 0,78 $ / 3,67 $ áron — mindegyik képes látni, mindegyik cenzúrázatlan, és mindegyik ugyanazon a 262 144 tokenes kontextuson fut. A teljes paraméterreferencia az API-dokumentációban található.

09Hol helyezkedik el a Nemotron3Ultra a tizenkettő között

A katalógus tizenkét cenzúrázatlan modellből áll, amelyek ugyanazon a kontextusablakon, ugyanazon a három dialektuson osztoznak, és mindegyikből ugyanúgy hiányzik az elutasítási réteg; az alapmodellben, az árban és a képességekben térnek el. A Nemotron pozíciója konkrét: ez a nyílt felmenőjű gondolkodási igásló — nem a legolcsóbb, nem a legképesebb, de az, amelynek viselkedése mögött a legtöbb nyilvános papírnyom áll, és amelyet a legerősebben hangoltak STEM-re és ügynökökre.

Modell	Be / 1M	Ki / 1M	Képfeldolgozás	Mire válassza
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Igen	A legolcsóbb látó modell
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Nem	A legnagyobb hűségű kvantálási szint
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Nem	A legolcsóbb nagy alapmodelles gondolkodás
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Nem	STEM, ügynökök, nyílt felmenő
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Igen	Képfeldolgozás + AutoRound-hűség
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Nem	Mély, egylövetű elemzés
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Igen	Abszolút képességplafon

Tizenkettőből hetet mutatunk. A teljes katalógus — beleértve a Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 és Hy3 modelleket — az API-dokumentációban található. Vegye figyelembe, hogy a Laguna-S-2.1 nem támogatja a strukturált kimenetet, az inkling pedig nem támogatja a json_schema paramétert; a Nemotron3Ultra mindkettőt támogatja.

Ár szerint a legközelebbi szomszéd a GLM-5.2-3BIT-REAP 0,73 $ / 2,34 $ áron, és az őszinte összehasonlítás ez: a GLM-5.2 tokenenként olcsóbb, különösen kimenetre. A Nemotron közzétett tanítási korpuszt, kifejezett gondolkodásiköltségvetés-szabályzót és olyan családtörténetet hoz, amely az egyetemi szintű természettudományt célozza. Nagy volumenű általános gondolkodáshoz: futtassa az olcsóbbat. STEM-nehéz, ügynöki, vagy olyan auditnak kitett munkához, amely megkérdezi, honnan ered a modell viselkedése: a Nemotron megkeresi a különbözetet.

10Gyakori kérdések

---

Források: NVIDIA Nemotron 3 Ultra technikai jelentés · NVIDIA fejlesztői blog (2026. június) · Nemotron 3 Super architektúrajegyzetek · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Az alapmodell benchmarkjait az NVIDIA közölte a tömörítetlen modellen, hacsak nincsenek az Artificial Analysishez kötve; a tömörített buildek eltérhetnek. Az árak és a képességek 2026. szeptember 5-i állapotúak.