API ya Nemotron a Bê Sansûr

Piraniya modelên «vekirî» tenê giraniyên vekirî ne û ne tiştekî din — tarballeke parametreyan, lîsansek, û bêdengî li ser wê ku jimar ji ku hatine. Nemotron du salan e îstîsnaya berdewam e: NVIDIA giraniyan, daneyên piştî-perwerdehiyê, hawîrdorên RLê û recipeyê dişîne. Ji bo endpointeke bê sansûr ev bi awayekî ku bi hêsanî tê jibîrkirin girîng e. Modeleke ku daneyên alîgirtina wê hatine weşandin modeleke ku tu dikarî li ser tevgera wê ya redkirinê hizir bikî li şûna ku texmîn bikî — û modeleke ku aliyekî sêyem dikare bi awayekî meşrû bêyî fîltreyeke naverokê ya bi dev ve girêdayî bi kar bîne.

01Nemotron 3 Ultra çi ye?

Nemotron 3 Ultra endamê herî mezin ê malbata Nemotron 3 ya NVIDIA ye, ku di 4ê Hezîrana 2026 de li ser Hugging Face hat berdan. Rapora teknîkî ya NVIDIA wê wek «modeleke zimanî ya Mixture-of-Experts a hîbrîd a Mamba-Attention bi 550 mîlyar parametreyên giştî û 55 mîlyar parametreyên aktîv» şirove dike — bi qasî 10% ya torê li ser her tokenekê dixebite, ku ev e ya ku modeleke nîv-trîlyon-parametreyî bi giştî xizmetkirî dike.

Avahiya ragihandî 108 tebeqe li dimensiyona modelê ya 8,192 e, ku tebeqeyên fezaya-rewşê yên Mamba-2 bi komeke seyrek a tebeqeyên balê yên tam re li hev dihûne, bi 512 pisporan ji bo her tebeqeya MoE û rêkirina top-22. Pêş-perwerdehî li ser bi qasî 20 trîlyon tokenên nivîsê di du qonaxan de meşiya — pêşî bi alîgirtina cihêrengiyê, paşê bi alîgirtina kalîteyê — bi qutbûna Îlona 2025, 12 zimanên xwezayî û 43 zimanên bernamesaziyê. Piştî-perwerdehiyê SFT, RLya pir-hawîrdorî bi xelatên verîfîkirbar, û Distîlasyona On-Policy ya Pir-Mamosteyî li seranserê zêdetirî deh mamosteyên pispor bikar anî. Armanca sêwiranê ya diyarkirî ajanên demdirêj in: danişînên ku contexteke mezin digirin, dehan caran bang li amûran dikin, û têra xwe dirêj dimeşin ku aborîya her-tokenî li ser fatûreyê serdest be.

02Rêza Nemotron, û çima paşxane girîng e

Nemotron ne tiştekî yek-carî ye. Ew derketina xuya ya bernameyeke lêkolînê ya NVIDIA ye ku ji 2024an ve di heman aliyê de dimeşe, û her nifşekî tiştekî hişt ku modela heyî hîn jî hildigire. Nemotron-4 340B (Hezîrana 2024) bi lûleyeke vekirî ya çêkirina daneyên sentetîk, modela xelatê û çêkerê xwe hat şandin, plus eşkerekirineke ne asayî: piraniya mezin a daneyên alîgirtina wê ji aliyê modelekê ve hatibûn çêkirin. Model wek fabrîkeyeke daneyan ne wek oraklek — ev e sedema ku berdanên paşerojê yên Nemotron her tim daneyan ligel giraniyan dişînin.

Llama-Nemotron — ramîna ku tu dikarî wê vemirînî

Malbata Llama-Nemotron a 2025an (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) du fikrên ku baş kevn bûne pêşkêş kir. Ya yekem mîmarî bû: lêgerîna mîmariya neuronî ya Puzzle ya NVIDIA pirtûkxaneyeke blokên transformerê yên bi blok-blok distîlekirî ava kir û ew bi bernamesaziya tevlihev-hejmarî li hev anîn, û modelên çêkirin ku tê de hin blok bi tevahî balê derbas dikin an wê bi tebeqeyeke xêzî ya yekane diguherînin, dema ku FFN Fusion blokên pêşve-şandinê yên li pey hev di nav yên hindiktir, firehtir û paralel de hilweşand — kûrahiya rêzkirî dibirre ne hejmara parametreyan. LN-Ultra li ser nodeyeke 8×H100 ya yekane cih girt û, li gorî gotara NVIDIA, li ser GPQA-Diamond ji DeepSeek-R1 çêtir bû (76.0% li hember 71.5%).

Ya duyem tevgerî bû: Llama-Nemotron malbata vekirî ya yekem bû bi guhêrbara ramîna dînamîk, ku daneyên perwerdehiyê di rênimaya pergalê de wek detailed thinking on an detailed thinking off nîşan dikirin, bi xelatên formatê yên ku di awayê vekirî de tagên <think> bi cih dikirin. Yek komek giranî, du tevger, di dema inferansê de hilbijartî. Kontrola budceya ramanê ya Nemotron 3 — û parametreya reasoning_effort ya li ser API ya me — rasterast ji wî karî tê.

Nemotron 3 — zivirîna hîbrîd

Nemotron 3 derxistina ji Llama bi mîmariyeke hîbrîd a ji sifirê guhert û LatentMoE zêde kir (tokenan berî rêkirinê dipêçe, ku NVIDIA dibêje rê dide «4 caran zêdetir pispor ji bo heman lêçûna inferansê»), pêşbîniya pir-tokenî, û pêş-perwerdehiya niştecih a NVFP4. NVIDIA bi giştî 50 mîlyon nimûneyên SFT, 2 mîlyon karên RLê û 55 hawîrdorên RLê ligel giraniyan weşand — ne pêwîst e tu bi gotina firoşkarekî bawer bikî ka model çi hatiye fêrkirin, ji ber ku materyalê hînkirinê tê daxistin.

03Mîmariya hîbrîd çi ji te re dikire

Cachea KV ya transformerekê bi dirêjahiya rêzê re bi awayekî xêzî mezin dibe, ku ev e sedema ku inferansa contexta dirêj berî hesabê di bîrê de biha dibe. Tebeqeyên Mamba-2 modelên fezaya-rewşê ne ku rewşeke dubarebûyî ya bi mezinahiya sabît hildigirin, loma lêçûna bîra wan a her-tokenî bi dîrokê re mezin nabe; ya ku ew tê de qels in wergirtina hevbeşkerî ya rast e. Hîbrîd Mamba-2 ji bo piraniya pêvajoya rêzê digire plus hindikayîyeke tebeqeyên balê yên rastîn ji bo wê wergirtinê ku tebeqeyên fezaya-rewşê tê de dişemitin, bi rêjeyeke tund a 64-serê pirsê / 2-serê KV ku cacheyê hîn bêtir biçûk dike. NVIDIA 94.7% li ser RULER li 1M tokenan ragihîne — benchmarkeke wergirtina derziyê ku ji bo girtina modelên ku pencereyeke ku nikarin bikar bînin îdia dikin hatiye çêkirin.

Encam bandewahî ye: NVIDIA îdia dike ku heta bi qasî 6× bandewahiyeke inferansê ya bilindtir ji modelên berawird bi rasttiyeke wekhev heye, û Artificial Analysis bi awayekî serbixwe 140.3 token/çirke bi dema 1.33-çirkeyî ya heta tokenê yekem pîva — 7em ji 89 modelan. Li ser meşandineke ajanî ya 200-dorî ev cudahiya di navbera qedandina di nîvroyekê de û qet neqedandinê de ye.

04«3BIT-REAP» bi dilsozî çi tê wateyê

Paşgir ne xemilandin e — ew tam ji te re dibêje çi bi bingehê hatiye kirin da ku cih bigire.

REAP — Router-weighted Expert Activation Pruning — ji Cerebras Research tê û ji bo ICLR 2026 hatiye qebûlkirin. Di MoEyeke seyrek de router her tokenekê bo çend pisporan dişîne; li ser karekî rastîn hinek bi berdewamî tên lêdan û hinek jî hema hema qet. REAP her pisporekî li ser pîvaneke berbiçavbûnê dinirxîne ku çiqas bi hêz router wî dergeh dike û beşdariyên derketina wî çiqas mezin in li hev tîne, paşê yên herî kêm berbiçav rasterast jê dibe — Cerebras ragihîne ku heta 50% ya pisporan ji modelên heta 1 trîlyon parametreyî tên birrîn dema ku kalîteya bingehîn bi giranî tê parastin, û dibîne ku ji bo karên çêkirinê yên wek kodê, birrîn ji tevlihevkirinê çêtir e. Paşê quantizasyona 3-bit ya ku dimîne dipêçe. Pêşî birrîn, paşê quantize kirin, loma budceya bitan diçe ser wan pisporên ku trafîkê hildigirin li şûna ku li ser yên mirî belav bibe.

Pêçandin belaş nîne, û em wek din nîşan nadin: quantizasyona tund pêşî wek xerabûnên biçûk di pêkanîna formata rast û di aritmetîka zincîra dirêj de xuya dibe, ne wek nehevgirtineke berbiçav. Sê ast li ku dikevin:

Paşgir	Ew çi ye	Em li ku bikar tînin
3BIT-REAP	giraniyên 3-bit + birrîna pisporan	Bingehên herî mezin, li cihê ku tiştekî din bi lez cih nagire
W4A16-AUTOROUND-REAP	giraniyên 4-bit / aktîvasyonên 16-bit, gilorkirina fêrbûyî ya AutoRound, + birrîn	Bingehên navîn; AutoRound rasttiyê li hember gilorkirina sade vedigerîne
W8A16	giraniyên 8-bit / aktîvasyonên 16-bit	Wefadariya herî bilind; bingehên têra xwe biçûk ku pêçandineke tund hewce nakin

Nemotron 3 Ultra bi 550B rasterast di kategoriya yekem de ye. Heke karê te bi awayekî ne asayî li hember derketina hejmarî ya rast a li ser zincîrên dirêj hesas be, indeksa lêkolînê asta W8A16 rêz dike — MiMo-V2.5-Pro-W8A16 û Hy3-W8A16 — li erdê $0.50/$2.00. Bazareke rastîn, ne qeftanek: modeleke biçûktir, pêçandineke kêmtir.

05«Bê sansûr» li ser vî endpointî çi tê wateyê

Bi awayekî berbiçav: tu tebeqeya redkirinê tune û tu fîltrekirina naverokê li ser derketinê nayê sepandin. Tu klasîfîker prompta te venakole û redkirineke amade venagerîne, û bersiv berî ku bigihîje streama te nayê şopandin. Tiştê ku tu werdigirî tevgera modelê bi xwe ye.

Li vir e ku rêza vekirî ji bûna zanyariyeke bêqîmet radiweste. Ji ber ku NVIDIA daneyên piştî-perwerdehiyê û hawîrdorên RLê weşandine, meylên modelê di prensîbê de tên odît kirin ne ku folklor bin. Û ji ber ku OpenMDW-1.1 lîsanseke nermik a Linux Foundation e ku mîmarî, parametre, belgekirin û nermalavê digire, operatorekî serbixwe dikare berdaneke guhertî û bêfîltre li ser hardware ya xwe bixebitîne bêyî ku lîsans bibe asteng. Gelek lîsansên modelên «vekirî» destûrê nadin. Ev yek dide. Cudahî li cihê ku redkirina refleksî çewtiyek e xuya dibe, ne taybetmendiyeke ewlehiyê:

• Lêkolîna ewlehiyê — analîza qelsiyan, ramîna li ser exploitan, tevgera malware, amûrên red-teamê, bêyî nîqaşkirina ka pirs destûrdar e an na.
• Kîmya, biyolojî û farmakolojî — matematîka dozê, mekanîzmayên reaksiyonê, toksîkolojî, riyên sentezê ku endpointekî fîltrekirî di têkiliya bi peyvekê re red dike.
• ML ya dijberî — nimûneyên neyînî yên dijwar, korpusên jailbreakê û taksonomiyên destdirêjiyê ji bo klasîfîkerên ku divê tişta rastîn dîtibin.
• Nivîsa klînîkî, hiqûqî û adlî — materyalê dozê ku bi xwezaya xwe grafîk e û bi tam wê sedemê tê redkirin.

Bê sansûr ne bê berpirsiyarî ye. Tu xwedanê tiştê ku tu diafirînî yî, û Polîtîkaya Bikaranîna Berpirsiyar û Şertên Xizmetê yên me hesêb birêve dibin. Rakirina tebeqeyeke redkirinê texmînekê li ser mebestê radike; ew erkên te yên di bin qanûna ku li te tê sepandin de ranake.

06STEM û ramîn: jimarên weşandî çi dibêjin

Ji dema ku daneyên piştî-perwerdehiyê yên Llama-Nemotron tam li dora wan çar tewangan hatin avakirin, hedefa perwerdehiya Nemotron matematîk, kod, zanist û şopandina rênimayan bûye. Tiştê ku NVIDIA ji bo bingehê Nemotron 3 Ultra ragihîne — jimarên ku ji aliyê firoşkar ve li ser modela nepêçandî hatine ragihandin, ku me nemeşandine:

Du hişyarî ji jimaran bêtir hêja ne. Jimara SWE-Bench Verified rêzek e — NVIDIA 65.0% heta 70.4% ragihîne li gorî wê ku kîjan hesinê ajanî wê dimeşîne (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), û belavbûneke pênc-xalî tenê ji sazûmanê nîşan dide ku nirxên ajanî çiqas bi hesinê ve girêdayî ne ne bi modelê. Û Artificial Analysis Nemotron 3 Ultra li 48 li ser Indeksa Aqilmendiyê ya xwe, 9em ji 89 modelan danî — bi hêz, ne li serê qadê, û pîvandina wan a serbixwe ew e ku em ê ji her slaydeke firoşkarekî bêtir giranî bidin.

Li ser nifşê berê, gotara Llama-Nemotron ya NVIDIA LN-Ultra li 76.0% li ser GPQA-Diamond li hember 71.5% ya DeepSeek-R1 û 43.4% ya Llama-3.1-405B-Instruct ragihîne, plus 80.8% li ser AIME 2024 — modeleke cuda, ku hatiye danîn ji ber ku zanista asta-lîsansa-bilind û matematîka pêşbaziyê du nifşan e hedefa malbatê ne.

Jimarên benchmarkê wek ku ji aliyê NVIDIA ve (Hezîrana 2026) li ser Nemotron 3 Ultra ya nepêçandî hatine weşandin, û ji aliyê Artificial Analysis ve ji bo pîvandinên serbixwe. Avakirinên pêçandî dikarin cuda bin. Em jimarên benchmarkê yên ku me verîfîye nekirine an nikarin binav bikin naweşînin.

07Biha, û hişyariya dirêjbêjiyê

Bi $0.75 ji bo her mîlyon tokenên têketinê û $3.30 ji bo her mîlyon tokenên derketinê, Nemotron3Ultra li ser têketinê di sêyeka jêrîn a katalogê me de û li ser derketinê di navê de rûdine. Nimûneyên hesabkirî, ji ber ku bihayê her-mîlyonî dijwar tê hîskirin:

Şeklê bangê	Têketin	Derketin	Lêçûn
Dora RAGê ya tîpîk	50,000	4,000	$0.051
Analîza belgeyeke dirêj	150,000	8,000	$0.139
Bangê bi mezinahiya herî zêde	262,144	16,384	$0.251

Daxwazeke bi contexta tam û derketina tam — her tokenê ku endpoint dê qebûl bike û her tokenê ku dê çêbike — bi qasî 25 sent dike. Heman şekil li ser Kimi-K3-3BIT-REAP, modela me ya herî biha bi $3.83/$19.12, bi qasî $1.32 dike, an 5.3× zêdetir.

Niha hişyarî, û ew rastîn e. Artificial Analysis pîva ku Nemotron 3 Ultra li seranserê komeleya benchmarkê ya wan 2.3× zêdetir tokenên derketinê ji hevrikê navîn çêdike. Modelên ramanê ji te ji bo hizirkirinê fatûre digirin, û ev yek bi dirêjahî hizir dike; serkeftineke bihayê her-tokenî di nav dezavantajeke her-karî de dihele heke model sê caran dirêjtir hizir bike da ku bigihîje heman bersivê. Kêmkirin di hundir de hatiye avakirin û li ser API ya me eşkere ye: Nemotron 3 ji bo kontrola budceya ramanê hatiye piştî-perwerdekirin, û reasoning_effort li vir tê piştgirî kirin — NVIDIA awayekî hewldana nizmtir şirove dike ku ji bo bazareke rasttiyê ya yek-hejmarî bi awayekî berbiçav kêmtir tokenên hizirkirinê bikar tîne. Li ser klasîfîkasyon, derxistin û rêkirinê, wê nizm bike û aborî bi awayekî berbiçav diguhere; li ser îspatekê an refactorkirineke pir-fîleyî, wê bilind bike û bi zanebûn pere bide. Tokenên-her-karî yên xwe bi xwe bipîve li şûna ku lîsteya bihayê bixwînî û texmîn bikî.

08Bangkirina wê: sê zarava, yek model

Her modeleke li ser dergehê li ser sê rûyên API yên streamingê bersivê dide, loma tu dikarî clientekî heyî lê nîşan bikî bêyî ku entegrasyona xwe ji nû ve binivîsî: /v1/chat/completions (zaravayê OpenAI), /v1/messages (zaravayê Anthropic), û /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Kurteya kapasîteyan, da ku di dema entegrasyonê de tiştek te şaş neke:

Kapasîte	Nemotron3Ultra · 3BIT-REAP
Pencereya contextê	262,144 token
Derketina herî zêde / daxwaz	16,384 token
Streaming	Erê
Bangkirina amûran	Erê
Şopên ramanê	Erê
reasoning_effort	Erê
json_schema (hişk)	Erê
response_format	Erê
Dîtin / têketina wêneyan	Na — tenê nivîs
Tebeqeya redkirinê	Tune

Rêza dîtinê mirovan digire: Nemotron3Ultra tenê nivîs e. Heke lûleya te wêneyan dişîne, MiniMax-M3-3BIT-REAP an MiMo-V2.5-W8A16 bi $0.50/$2.00 bikar bîne, an Kimi-K2.6-W4A16-AUTOROUND-REAP bi $0.78/$3.67 — hemû bi kapasîteya dîtinê, hemû bê sansûr, hemû li ser heman contexta 262,144-tokenî. Referansa parametreyan a tam di belgekirina API de ye.

09Nemotron3Ultra di nav diwazdehan de li ku dikeve

Katalog diwazdeh modelên bê sansûr in ku heman pencereya contextê, heman sê zarava û heman nebûna tebeqeyeke redkirinê parve dikin; ew di bingeh, biha û kapasîteyê de cuda ne. Cihê Nemotron taybet e: hespê karî yê ramînê bi rêzeke vekirî — ne yê herî erzan, ne yê herî bikapasîte, lê yê ku li piştî tevgera wî şopa kaxezî ya herî giştî heye, û ya ku herî tund ber bi STEM û ajanan ve hatiye eyarkirin.

Model	Têketin / 1M	Derketin / 1M	Dîtin	Ji bo vê hilbijêre
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Erê	Vebijarka herî erzan a bi dîtinê
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Na	Asta quantizasyonê ya bi wefadariya herî bilind
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Na	Ramîna bi bingehê mezin a herî erzan
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Na	STEM, ajan, rêza vekirî
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Erê	Dîtin + wefadariya AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Na	Analîza kûr a yek-gavî
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Erê	Tavana kapasîteyê ya mutleq

Heft ji diwazdehan hatine nîşandan. Kataloga tam — ligel Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 û Hy3 — di belgeyên API de ye. Bala xwe bidê ku Laguna-S-2.1 piştgiriya derketina strukturkirî nake û inkling piştgiriya json_schema nake; Nemotron3Ultra piştgiriya her duyan dike.

Cîranê herî nêz li gorî bihayê GLM-5.2-3BIT-REAP bi $0.73/$2.34 e, û berawirdkirina dilsoz ev e: GLM-5.2 ji bo her tokenekê erzantir e, bi taybetî li ser derketinê. Nemotron korpuseke perwerdehiyê ya weşandî, derenceyeke eşkere ya budceya ramanê, û dîrokeke malbatî ya ku armanca wê zanista asta-lîsansa-bilind e tîne. Ramîna giştî ya bi hejmara mezin: ya erzantir bimeşîne. Bi STEMê giran, ajanî, an di bin odîtekê de ku dipirse tevgera modelê ji ku tê: Nemotron cudahiyê hêjayî dike.

10Pirsên ku pir tên kirin

---

Çavkanî: Rapora teknîkî ya NVIDIA Nemotron 3 Ultra · Bloga pêşdebiran a NVIDIA (Hezîrana 2026) · Notên mîmariya Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmarkên bingehê ji aliyê NVIDIA ve li ser modela nepêçandî hatine ragihandin heta ku ji Artificial Analysis re neyên binavkirin; avakirinên pêçandî dikarin cuda bin. Biha û kapasîte heta 5ê Îlona 2026 rojane ne.