API e pacensuruar Nemotron

Shumica e modeleve "të hapura" janë pesha të hapura dhe asgjë më tepër — një arkiv parametrash, një licencë dhe heshtje se nga erdhën numrat. Nemotron ka qenë përjashtimi i qëndrueshëm prej dy vitesh: NVIDIA nxjerr peshat, grupet e të dhënave të pas-stërvitjes, mjediset RL dhe recetën. Kjo ka rëndësi për një endpoint të pacensuruar në një mënyrë që harrohet lehtë. Një model, të dhënat e përafrimit të të cilit janë publikuar, është një model sjelljen refuzuese të të cilit mund ta arsyetosh në vend që ta hamendësosh — dhe një model që një palë e tretë mund ta vendosë ligjërisht pa një filtër përmbajtjeje të mbërthyer para gojës.

01Çfarë është Nemotron 3 Ultra?

Nemotron 3 Ultra është anëtari më i madh i familjes Nemotron 3 të NVIDIA-s, i publikuar në Hugging Face më 4 qershor 2026. Raporti teknik i NVIDIA-s e përshkruan si "një model gjuhësor Mixture-of-Experts hibrid Mamba-Attention me 550 miliardë parametra në total dhe 55 miliardë aktivë" — rreth 10% e rrjetit punon mbi çdo token të dhënë, dhe kjo është ajo që e bën fare të shërbyeshëm një model me gjysmë trilioni parametrash.

Skema e raportuar ka 108 shtresa me përmasë modeli 8.192, duke ndërthurur shtresa Mamba-2 me hapësirë gjendjesh me një grup të rrallë shtresash vëmendjeje të plotë, 512 ekspertë për shtresë MoE me drejtim top-22. Para-stërvitja u zhvillua mbi rreth 20 trilion tokena teksti në dy faza — e anuar nga larmia, pastaj nga cilësia — me prerje në shtator 2025, 12 gjuhë natyrore dhe 43 gjuhë programimi. Pas-stërvitja përdori SFT, RL shumë-mjedisor me shpërblime të verifikueshme dhe distilim shumë-mësuesh mbi politikë nga më shumë se dhjetë mësues specialistë. Objektivi i deklaruar i projektimit janë agjentët me ekzekutim të gjatë: seanca që mbajnë kontekst të madh, thërrasin mjete dhjetëra herë dhe zgjasin aq sa ekonomia për token e sundon faturën.

02Linja Nemotron dhe pse ka rëndësi prejardhja

Nemotron nuk është një rast i vetmuar. Është prodhimi i dukshëm i një programi kërkimor të NVIDIA-s që ecën në të njëjtin drejtim që nga viti 2024, dhe çdo brez la diçka që modeli i sotëm ende e mbart. Nemotron-4 340B (qershor 2024) doli me një tubacion të hapur për gjenerimin e të dhënave sintetike, me modelin e vet të shpërblimit dhe gjeneruesin, plus një zbulim të pazakontë: pjesa dërrmuese e të dhënave të përafrimit ishte gjeneruar nga modeli. Modeli si fabrikë të dhënash e jo si orakull është arsyeja pse publikimet e mëvonshme të Nemotron-it vazhdojnë të nxjerrin grupe të dhënash krahas peshave.

Llama-Nemotron — arsyetim që mund ta fikësh

Familja Llama-Nemotron e vitit 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) dha dy ide që moshuan mirë. E para ishte arkitekturore: kërkimi nervor i arkitekturës Puzzle i NVIDIA-s ndërtoi një bibliotekë blloqesh transformeri të distiluara bllok për bllok dhe i montoi me programim me numra të plotë të përzier, duke prodhuar modele ku disa blloqe e anashkalojnë krejtësisht vëmendjen ose e zëvendësojnë atë me një shtresë të vetme lineare, ndërsa FFN Fusion i palosi blloqet e njëpasnjëshme feed-forward në më pak blloqe, më të gjera e paralele — duke prerë thellësinë sekuenciale e jo numrin e parametrave. LN-Ultra hynte në një nyjë të vetme 8×H100 ndërsa, sipas punimit të NVIDIA-s, e kalonte DeepSeek-R1 në GPQA-Diamond (76.0% kundrejt 71.5%).

E dyta ishte e sjelljes: Llama-Nemotron ishte familja e parë e hapur me një çelës dinamik arsyetimi, që i etiketonte të dhënat e stërvitjes me detailed thinking on ose detailed thinking off në udhëzimin e sistemit, me shpërblime formati që imponojnë etiketat <think> në modalitetin e ndezur. Një grup peshash, dy sjellje, të zgjedhshme në kohën e nxjerrjes. Kontrolli i buxhetit të arsyetimit te Nemotron 3 — dhe parametri reasoning_effort në API-në tonë — rrjedhin drejtpërdrejt nga ajo punë.

Nemotron 3 — kthesa hibride

Nemotron 3 e zëvendësoi prejardhjen nga Llama me një arkitekturë hibride të ndërtuar nga e para dhe shtoi LatentMoE (ngjeshja e tokenave përpara drejtimit, e cila sipas NVIDIA-s lejon "4 herë më shumë ekspertë për të njëjtën kosto nxjerrjeje"), parashikim shumë-tokenash dhe para-stërvitje vendase NVFP4. NVIDIA publikoi 50 milionë mostra SFT në total, 2 milionë detyra RL dhe 55 mjedise RL krahas peshave — nuk ju duhet t'i besoni fjalës së një shitësi se çfarë iu mësua modelit, sepse materiali mësimor është i shkarkueshëm.

03Çfarë ju blen arkitektura hibride

Cache-i KV i një transformeri rritet në mënyrë lineare me gjatësinë e sekuencës, prandaj nxjerrja me kontekst të gjatë bëhet e shtrenjtë në memorie përpara se të bëhet në llogaritje. Shtresat Mamba-2 janë modele me hapësirë gjendjesh që mbajnë një gjendje rekurrente me përmasë fikse, kështu që kostoja e tyre e memories për token nuk rritet me historinë; ajo ku janë të dobëta është rikujtimi i saktë shoqërues. Hibridi mban Mamba-2 për pjesën dërrmuese të përpunimit të sekuencës plus një pakicë shtresash vëmendjeje të vërtetë për rikujtimin që shtresat me hapësirë gjendjesh e ngatërrojnë, me një raport agresiv 64 koka pyetjeje / 2 koka KV që e zvogëlon cache-in edhe më tej. NVIDIA raporton 94.7% në RULER me 1M tokena — një benchmark rikthimi gjilpëre i ndërtuar për të kapur modelet që pretendojnë një dritare që nuk e përdorin dot.

Pasoja është kapaciteti: NVIDIA pretendon deri në rreth 6× kapacitet më të lartë nxjerrjeje se modelet e krahasueshme me saktësi të njëjtë, dhe Artificial Analysis mati në mënyrë të pavarur 140.3 tokena në sekondë me kohë prej 1.33 sekondash deri te tokeni i parë — i 7-ti nga 89 modele. Në një ekzekutim agjenti me 200 raunde, kjo është diferenca mes mbarimit brenda pasdites dhe mosmbarimit fare.

04Çfarë do të thotë "3BIT-REAP", ndershmërisht

Prapashtesa nuk është dekor — ju thotë saktësisht çfarë iu bë themelit që të hyjë.

REAP — Router-weighted Expert Activation Pruning — vjen nga Cerebras Research dhe u pranua në ICLR 2026. Në një MoE të rrallë, drejtuesi e dërgon çdo token te një grusht ekspertësh; përgjatë një ngarkese pune të vërtetë disa goditen vazhdimisht dhe të tjerë pothuajse kurrë. REAP e vlerëson çdo ekspert sipas një kriteri rëndësie që ndërthur sa fort e porton drejtuesi dhe sa të mëdha janë kontributet e tij në dalje, pastaj i heq krejtësisht më pak të rëndësishmit — Cerebras raporton krasitjen e deri në 50% të ekspertëve nga modele deri në 1 trilion parametra duke ruajtur kryesisht cilësinë bazë, dhe gjen se për detyra gjeneruese si programimi krasitja ia kalon bashkimit. Kuantizimi 3-bitësh pastaj ngjesh atë që mbijetoi. Krasit së pari, kuantizo së dyti, që buxheti i bitave t'u shkojë ekspertëve që mbajnë trafik e jo të shpërhapet mbi të vdekurit.

Ngjeshja nuk është falas dhe nuk do të pretendojmë të kundërtën: kuantizimi agresiv shfaqet së pari si degradime të vogla në përputhjen e saktë me formatin dhe në aritmetikën me vargje të gjata, jo si mosnjohje e dukshme. Ku bien të tri nivelet:

Prapashtesa	Çfarë është	Ku e përdorim
3BIT-REAP	Pesha 3-bitëshe + krasitje ekspertësh	Themelet më të mëdha, ku asgjë tjetër nuk hyn me shpejtësi
W4A16-AUTOROUND-REAP	Pesha 4-bitëshe / aktivizime 16-bitëshe, rrumbullakim i mësuar AutoRound, + krasitje	Themele të mesme; AutoRound rikuperon saktësi kundrejt rrumbullakimit naiv te më i afërti
W8A16	Pesha 8-bitëshe / aktivizime 16-bitëshe	Besnikëria më e lartë; themele mjaftueshëm të vogla sa të mos kenë nevojë për ngjeshje agresive

Nemotron 3 Ultra me 550B bie qartazi në kategorinë e parë. Nëse ngarkesa juaj e punës është pazakonisht e ndjeshme ndaj daljes numerike të saktë përgjatë vargjeve të gjata, indeksi i kërkimit rendit nivelin W8A16 — MiMo-V2.5-Pro-W8A16 dhe Hy3-W8A16 — te dyshemeja 0.50 $/2.00 $. Një shkëmbim i vërtetë, jo një gyp: model më i vogël, më pak ngjeshje.

05Çfarë do të thotë "i pacensuruar" te ky endpoint

Konkretisht: nuk ka shtresë refuzimi dhe nuk zbatohet filtrim përmbajtjeje mbi daljen. Asnjë klasifikues nuk e shqyrton promptin tuaj për të kthyer një refuzim të konservuar, dhe përgjigjja nuk skanohet përpara se t'ju mbërrijë në transmetim. Ajo që merrni është sjellja vetjake e modelit.

Këtu prejardhja e hapur pushon së qeni kuriozitet. Ngaqë NVIDIA publikoi të dhënat e pas-stërvitjes dhe mjediset RL, prirjet e modelit janë në parim të auditueshme e jo folklor. Dhe ngaqë OpenMDW-1.1 është një licencë lejuese e Linux Foundation që mbulon arkitekturën, parametrat, dokumentacionin dhe programet, një operator i pavarur mund të shërbejë një vendosje të modifikuar e të pafiltruar mbi harduerin e vet pa qenë licenca pengesë. Shumë licenca modelesh "të hapura" nuk e lejojnë këtë. Kjo e lejon. Diferenca duket atje ku refuzimi refleksiv është defekt, jo veçori sigurie:

• Kërkim sigurie — analizë cenueshmërish, arsyetim mbi shfrytëzime, sjellje malware-i, mjete red-team, pa u grindur nëse pyetja lejohet apo jo.
• Kimi, biologji dhe farmakologji — llogaritje dozash, mekanizma reaksionesh, toksikologji, rrugë sinteze që një endpoint i filtruar i refuzon në kontakt me fjalëkyçin.
• ML kundërshtar — negative të vështira, korpuse jailbreak-u dhe taksonomi abuzimi për klasifikues që duhet ta kenë parë gjënë e vërtetë.
• Tekst klinik, ligjor dhe forenzik — material rastesh që është grafik për nga natyra dhe refuzohet pikërisht për atë arsye.

I pacensuruar nuk do të thotë i papërgjegjshëm. Ju zotëroni atë që gjeneroni, dhe Politika jonë e Përdorimit të Përgjegjshëm dhe Kushtet e Shërbimit e rregullojnë llogarinë. Heqja e një shtrese refuzimi heq një hamendje mbi qëllimin; nuk heq detyrimet tuaja sipas ligjit që ju përket.

06STEM dhe arsyetimi: çfarë thonë shifrat e publikuara

Fokusi i stërvitjes së Nemotron-it ka qenë matematika, programimi, shkenca dhe ndjekja e udhëzimeve që kur grupi i të dhënave të pas-stërvitjes së Llama-Nemotron u ndërtua pikërisht rreth atyre katër boshteve. Çfarë raporton NVIDIA për themelin Nemotron 3 Ultra — shifra të raportuara nga prodhuesi mbi modelin e pangjeshur, të cilat nuk i ekzekutuam vetë:

Dy vërejtje që vlejnë më shumë se numrat. Shifra e SWE-Bench Verified është një interval — NVIDIA raporton nga 65.0% deri në 70.4% varësisht se cili skelet agjenti e ekzekuton (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), dhe një hapësirë prej pesë pikësh vetëm nga skeleti tregon sa shumë varen pikët agjentike nga skeleti e jo nga modeli. Dhe Artificial Analysis e vendosi Nemotron 3 Ultra me 48 në Indeksin e vet të Inteligjencës, i 9-ti nga 89 modele — i fortë, jo në krye të fushës, dhe matja e tyre e pavarur është ajo që do të peshonim mbi çdo slajd shitësi.

Për brezin e mëparshëm, punimi Llama-Nemotron i NVIDIA-s raporton LN-Ultra me 76.0% në GPQA-Diamond kundrejt 71.5% të DeepSeek-R1 dhe 43.4% të Llama-3.1-405B-Instruct, plus 80.8% në AIME 2024 — një model tjetër, i përfshirë sepse shkenca e nivelit pasuniversitar dhe matematika e garave kanë qenë objektivi i familjes për dy breza.

Shifrat e benchmark-eve siç janë publikuar nga NVIDIA (qershor 2026) mbi Nemotron 3 Ultra të pangjeshur, dhe nga Artificial Analysis për matjet e pavarura. Ndërtimet e ngjeshura mund të ndryshojnë. Nuk publikojmë shifra benchmark-esh që nuk i kemi verifikuar ose nuk i atribuojmë dot.

07Çmimi dhe vërejtja për fjalamanësinë

Me 0.75 $ për milion tokena hyrjeje dhe 3.30 $ për milion tokena dalje, Nemotron3Ultra qëndron në të tretën e poshtme të katalogut tonë për hyrjen dhe në mes për daljen. Shembuj të punuar, sepse çmimi për milion është i vështirë për t'u ndier:

Forma e thirrjes	Hyrje	Dalje	Kosto
Raund tipik RAG	50.000	4.000	$0.051
Analizë dokumenti të gjatë	150.000	8.000	$0.139
Thirrje me përmasë maksimale	262.144	16.384	$0.251

Një kërkesë me kontekst të plotë e dalje të plotë — çdo token që endpoint-i do të pranojë dhe çdo token që do të prodhojë — kushton rreth 25 cent. E njëjta formë te Kimi-K3-3BIT-REAP, modeli ynë më i shtrenjtë me 3.83 $/19.12 $, kushton rreth 1.32 $, ose 5.3× më shumë.

Tani vërejtja, dhe është e vërtetë. Artificial Analysis mati se Nemotron 3 Ultra gjeneron 2.3× më shumë tokena dalje se mesorja e bashkëmoshatarëve në grupin e tyre të benchmark-eve. Modelet arsyetuese ju faturojnë për mendimin, dhe ky mendon gjatë; një përparësi në çmimin për token avullon në disavantazh për detyrë nëse modeli arsyeton tri herë më gjatë për të mbërritur te e njëjta përgjigje. Zbutja është e brendashkruar dhe e ekspozuar në API-në tonë: Nemotron 3 u pas-stërvit për kontroll të buxhetit të arsyetimit, dhe reasoning_effort mbështetet këtu — NVIDIA përshkruan një modalitet me përpjekje më të ulët që përdor dukshëm më pak tokena mendimi për një shkëmbim saktësie me një shifër. Te klasifikimi, nxjerrja dhe drejtimi, ulni dhe ekonomia ndryshon materialisht; te një provë ose një rifaktorim shumë-skedarësh, ngrini dhe paguani për të me vetëdije. Matni tokenat tuaj për detyrë në vend që të lexoni listën e çmimeve e të hamendësoni.

08Si ta thërrisni: tri dialekte, një model

Çdo model në portë përgjigjet në tri sipërfaqe API me transmetim, kështu që mund të drejtoni një klient ekzistues drejt tij pa rishkruar integrimin: /v1/chat/completions (dialekti OpenAI), /v1/messages (dialekti Anthropic) dhe /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Përmbledhje e aftësive, që të mos ju befasojë asgjë në kohën e integrimit:

Aftësia	Nemotron3Ultra · 3BIT-REAP
Dritarja e kontekstit	262.144 tokena
Dalje maksimale / kërkesë	16.384 tokena
Transmetim	Po
Thirrje mjetesh	Po
Gjurmë arsyetimi	Po
reasoning_effort	Po
json_schema (e rreptë)	Po
response_format	Po
Pamje / hyrje me imazh	Jo — vetëm tekst
Shtresë refuzimi	Asnjë

Rreshti i pamjes i zë njerëzit në befasi: Nemotron3Ultra është vetëm tekst. Nëse tubacioni juaj dërgon imazhe, përdorni MiniMax-M3-3BIT-REAP ose MiMo-V2.5-W8A16 me 0.50 $/2.00 $, ose Kimi-K2.6-W4A16-AUTOROUND-REAP me 0.78 $/3.67 $ — të gjithë të aftë për pamje, të gjithë të pacensuruar, të gjithë mbi të njëjtin kontekst prej 262.144 tokenash. Referenca e plotë e parametrave gjendet te dokumentacioni i API-t.

09Ku bie Nemotron3Ultra mes të dymbëdhjetëve

Katalogu është dymbëdhjetë modele të pacensuruara që ndajnë të njëjtën dritare konteksti, të njëjtat tri dialekte dhe të njëjtën mungesë të një shtrese refuzimi; ndryshojnë në themel, çmim dhe aftësi. Pozicioni i Nemotron-it është i posaçëm: kali i punës i arsyetimit me prejardhje të hapur — jo më i liri, jo më i afti, por ai me gjurmën publike më të plotë pas sjelljes së vet, i rregulluar më fort drejt STEM-it dhe agjentëve.

Modeli	Hyrje / 1M	Dalje / 1M	Pamje	Zgjidheni për
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Po	Mundësia më e lirë me pamje
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Jo	Niveli i kuantizimit me besnikërinë më të lartë
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Jo	Arsyetimi më i lirë mbi themel të madh
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Jo	STEM, agjentë, prejardhje e hapur
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Po	Pamje + besnikëri AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Jo	Analizë e thellë me një hedhje
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Po	Tavani absolut i aftësisë

Shtatë nga dymbëdhjetë të shfaqur. Katalogu i plotë — përfshirë Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 dhe Hy3 — gjendet te dokumentet e API-t. Vini re se Laguna-S-2.1 nuk mbështet dalje të strukturuar dhe inkling nuk mbështet json_schema; Nemotron3Ultra i mbështet të dyja.

Fqinji më i afërt për nga çmimi është GLM-5.2-3BIT-REAP me 0.73 $/2.34 $, dhe krahasimi i ndershëm është ky: GLM-5.2 është më i lirë për token, sidomos në dalje. Nemotron sjell një korpus stërvitjeje të publikuar, një rrotë të qartë për buxhetin e arsyetimit dhe një histori familjeje të drejtuar nga shkenca e nivelit pasuniversitar. Arsyetim i përgjithshëm me volum të lartë: ekzekutoni më të lirin. I rëndë në STEM, agjentik, ose i nënshtruar një auditimi që pyet nga erdhi sjellja e modelit: Nemotron e fiton diferencën.

10Pyetje të bëra shpesh

---

Burimet: raporti teknik i NVIDIA Nemotron 3 Ultra · blogu i zhvilluesve i NVIDIA-s (qershor 2026) · shënime arkitekture për Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmark-et e themelit janë të raportuara nga NVIDIA mbi modelin e pangjeshur, përveçse kur i atribuohen Artificial Analysis; ndërtimet e ngjeshura mund të ndryshojnë. Çmimet dhe aftësitë janë të vlefshme më 5 shtator 2026.