API Nemotron Enweghị Mmachi

Ọtụtụ ụdị "mepere emepe" bụ naanị arọ mepere emepe, ọ dịghịkwa ihe ọzọ — tarball nke paramita, ikike, na ịgbachi nkịtị banyere ebe ọnụọgụ ndị ahụ si bịa. Nemotron abụrụla ihe iwu na-agafeghị maka afọ abụọ: NVIDIA na-ebufe arọ ahụ, nchịkọta data ọzụzụ na-esote, gburugburu RL na usoro ahụ. Nke ahụ dị mkpa maka endpoint enweghị mmachi n'ụzọ dị mfe ịghara ịhụ. Ụdị nke e bipụtara data nhazi ya bụ ụdị ị nwere ike ịtụle omume njụ ya kama ịkọ nkọ — ọ bụkwa ụdị onye nke atọ nwere ike ịgba n'ụzọ ziri ezi n'enweghị nzacha ọdịnaya a kwụnyere n'ọnụ ya.

01Gịnị bụ Nemotron 3 Ultra?

Nemotron 3 Ultra bụ onye kacha ibu n'ezinụlọ Nemotron 3 nke NVIDIA, nke e wepụtara na Hugging Face na Juun 4, 2026. Akụkọ nka na ụzụ nke NVIDIA na-akọwa ya dị ka "ụdị asụsụ Mixture-of-Experts Hybrid Mamba-Attention nwere paramita ijeri 550 zuru oke na ijeri 55 na-arụ ọrụ" — ihe dị ka 10% nke netwọk na-arụ ọrụ na token ọ bụla, nke bụ ihe na-eme ka ụdị nwere ọkara trilion paramita bụrụ ihe a pụrụ ije ozi ya ma ọlị.

Nhazi e kọrọ bụ akwa 108 na akụkụ ụdị 8,192, na-agwakọta akwa oghere ọnọdụ Mamba-2 na usoro dị fere fere nke akwa nlebara anya zuru ezu, ọkachamara 512 kwa akwa MoE nwere ntụzịaka top-22. Ọzụzụ mbụ gbara na ihe dị ka token ederede trilion 20 n'ụzọ abụọ — nke buru ụzọ chee ihu n'ọdịiche, nke ọzọ n'àgwà — nwere njedebe Septemba 2025, asụsụ okike 12 na asụsụ mmemme 43. Ọzụzụ na-esote jiri SFT, RL nke gburugburu dị iche iche nwere ụgwọ ọrụ a pụrụ ịnwale, na Multi-Teacher On-Policy Distillation n'ofe ihe karịrị onye nkuzi ọkachamara iri. Ebumnuche nhazi e kwuru bụ ndị ọrụ na-agba ogologo oge: nnọkọ ndị na-ejide nnukwu ọnọdụ, na-akpọ ngwá ọrụ ugboro iri ọtụtụ, ma na-agba ogologo oge nke na akụnụba kwa token na-achị ụgwọ ahụ.

02Usoro Nemotron, na ihe kpatara ọdịnala ahụ ji dị mkpa

Nemotron abụghị ihe mere naanị otu ugboro. Ọ bụ mmepụta a na-ahụ anya nke mmemme nnyocha NVIDIA nke na-aga n'otu ntụzịaka ahụ kemgbe 2024, ọgbọ ọ bụla hapụrụkwa ihe ụdị dị ugbu a ka na-ebu. Nemotron-4 340B (Juun 2024) bịara na usoro emepụta data sịntetik mepere emepe, ụdị ụgwọ ọrụ ya na ihe mmepụta ya, tinyere nkwupụta pụrụ iche: ihe ka ukwuu nke data nhazi ya bụ ihe ụdị ahụ mepụtara. Ụdị dị ka ụlọ ọrụ data kama ka ọ bụrụ onye ihe ọmụma bụ ihe mere mwepụta Nemotron ndị mesịrị ji na-ebufe nchịkọta data tinyere arọ.

Llama-Nemotron — echiche ị nwere ike ịgbanyụ

Ezinụlọ Llama-Nemotron nke 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) nyere echiche abụọ ndị mere nke ọma. Nke mbụ bụ nke nhazi: nchọta nhazi neural Puzzle nke NVIDIA wuru ọbá nke ngọngọ transformer e sitere na akwa distill ma jikọta ha site na mmemme mixed-integer, na-emepụta ụdị ebe ụfọdụ ngọngọ na-agafe nlebara anya kpamkpam ma ọ bụ jiri otu akwa linear dochie ya, ebe FFN Fusion chịkọtara ngọngọ feed-forward ndị sochirinụ ka ha bụrụ ndị pere mpe, sara mbara, na-agakọ ọnụ — na-ebelata omimi n'usoro kama ọnụ ọgụgụ paramita. LN-Ultra dabara n'otu ọnụ 8×H100, ebe, dịka akwụkwọ NVIDIA si kwuo, ọ karịrị DeepSeek-R1 na GPQA-Diamond (76.0% megide 71.5%).

Nke abụọ bụ nke omume: Llama-Nemotron bụ ezinụlọ mepere emepe mbụ nwere ihe ntụgharị echiche na-agbanwe agbanwe, na-akara data ọzụzụ detailed thinking on ma ọ bụ detailed thinking off n'ntụziaka sistemụ, ebe ụgwọ ọrụ ụdị na-amanye akara <think> n'ọnọdụ gbanyere. Otu usoro arọ, omume abụọ, nke a na-ahọrọ n'oge nkwubi okwu. Njikwa mmefu echiche nke Nemotron 3 — na paramita reasoning_effort na API anyị — sitere kpọmkwem n'ọrụ ahụ.

Nemotron 3 — ntụgharị agwakọtara

Nemotron 3 ji nhazi agwakọtara e wuru site na mmalite dochie nke a mụtara na Llama ma tinye LatentMoE (na-apịkọta token tupu ntụzịaka, nke NVIDIA na-ekwu na ọ na-enye ohere maka "ọkachamara okpukpu 4 karịa maka otu ọnụ ahịa nkwubi okwu ahụ"), amụma ọtụtụ token, na ọzụzụ mbụ NVFP4 sitere n'okike. NVIDIA bipụtara mkpokọta nlereanya SFT nde 50, ọrụ RL nde 2 na gburugburu RL 55 tinyere arọ ahụ — ị gaghị ewere okwu ọnụ onye na-ere ya banyere ihe a kụziri ụdị ahụ, n'ihi na ihe nkuzi ahụ bụ ihe a pụrụ ibudata.

03Ihe nhazi agwakọtara ahụ na-azụtara gị

Cache KV nke transformer na-eto n'usoro na ogologo usoro ahụ, nke bụ ihe mere nkwubi okwu ogologo ọnọdụ ji dị ọnụ n'ebe nchekwa tupu ọ dị ọnụ na mgbako. Akwa Mamba-2 bụ ụdị oghere ọnọdụ nke na-ebu ọnọdụ na-alọghachi nwere nha edobere, ya mere ọnụ ahịa ebe nchekwa ha kwa token anaghị eto na akụkọ ihe mere eme; ihe ha na-adịghị mma na ya bụ ncheta jikọtara ọnụ nke ziri ezi. Ihe agwakọtara ahụ na-ejigide Mamba-2 maka ihe ka ukwuu nke nhazi usoro tinyere obere ọnụ ọgụgụ nke ezigbo akwa nlebara anya maka ncheta nke akwa oghere ọnọdụ na-atụfu, ebe oke 64-isi ajụjụ / 2-isi KV siri ike na-ebelatakwu cache ahụ. NVIDIA na-akọ 94.7% na RULER na token 1M — benchmark nchọta ntutu e wuru iji jide ụdị na-ekwu banyere windo ha na-enweghị ike iji.

Nsonaazụ ya bụ uko: NVIDIA na-ekwu ruo ihe dị ka okpukpu 6 nke uko nkwubi okwu karịa ụdị ndị yiri ya n'otu ọkwa izi ezi, Artificial Analysis tụkwara n'onwe ya token 140.3 kwa sekọnd nwere sekọnd 1.33 ruo token mbụ — nke 7 n'ime ụdị 89. N'ọsọ onye ọrụ nke ntụgharị 200, nke ahụ bụ ọdịiche dị n'etiti ịgwụcha n'ehihie na ịghara ịgwụcha ma ọlị.

04Ihe "3BIT-REAP" pụtara n'eziokwu

Njedebe ahụ abụghị ihe ịchọ mma — ọ na-agwa gị kpọmkwem ihe e mere ntọala ahụ ka o wee daba.

REAP — Router-weighted Expert Activation Pruning — sitere na Cerebras Research ma bụrụ nke a nabatara na ICLR 2026. Na MoE dị nro, router ahụ na-ezigara ọkachamara ole na ole token ọ bụla; n'ofe ezigbo ọrụ ụfọdụ na-abụ ndị a na-akụ mgbe niile ebe ndị ọzọ fọrọ nke nta ka ọ bụrụ na a naghị akụ ha ma ọlị. REAP na-enye ọkachamara ọ bụla akara na njirisi mkpa nke na-ejikọta ike router si ahọrọ ya na nha ntinye mmepụta ya, wee wepụ ndị dara ada kpamkpam — Cerebras na-akọ ịkpụcha ruo 50% nke ọkachamara site n'ụdị ndị ruru trilion paramita otu ebe ọ na-echekwa àgwà ndabere n'ụzọ dị ukwuu, ma chọpụtakwa na maka ọrụ mmepụta dị ka koodu, ịkpụcha ka ijikọta mma. Quantization 3-bit wee pịkọta ihe fọdụrụ. Kpụchaa mbụ, quantize nke abụọ, ka mmefu bit wee gaa n'aka ọkachamara ndị na-ebu ọrụ kama ka a gbasaa ya n'elu ndị nwụrụ anwụ.

Mkpakọ abụghị ihe efu, anyị agaghịkwa eme ka ọ dị ka ọ bụghị otu a: quantization siri ike na-apụta na mbụ dị ka obere mbelata na nsoro ụdị ziri ezi na mgbakọ ogologo yinye, ọ bụghị dị ka enweghị nghọta a na-ahụ anya. Ebe ọkwa atọ ahụ dara:

Njedebe	Ihe ọ bụ	Ebe anyị na-eji ya
3BIT-REAP	Arọ 3-bit + nkpụcha ọkachamara	Ntọala ndị kacha ibu, ebe ọ dịghị ihe ọzọ dabara na nkenke
W4A16-AUTOROUND-REAP	Arọ 4-bit / mmalite 16-bit, nchịkọta a mụtara nke AutoRound, + nkpụcha	Ntọala nha etiti; AutoRound na-eweghachi izi ezi karịa nchịkọta nkịtị
W8A16	Arọ 8-bit / mmalite 16-bit	Nkwenye kacha elu; ntọala ndị dị obere nke na ha achọghị mkpakọ siri ike

Nemotron 3 Ultra na 550B dị kpọmkwem n'ụdị mbụ. Ọ bụrụ na ọrụ gị nwere mmetụta pụrụ iche na mmepụta ọnụọgụ ziri ezi n'ogologo yinye, ndekọ nnyocha na-edepụta ọkwa W8A16 — MiMo-V2.5-Pro-W8A16 na Hy3-W8A16 — na ala $0.50/$2.00. Ezigbo mgbanwe, ọ bụghị mgbagbu: ụdị dị obere, mkpakọ dị ntakịrị.

05Ihe "enweghị mmachi" pụtara na endpoint a

Kpọmkwem: ọ dịghị akwa njụ, ọ dịghịkwa nzacha ọdịnaya e tinyere na mmepụta. Ọ dịghị nkewa na-enyocha prompt gị ma weghachi njụ e deburu ede, a naghịkwa enyocha nzaghachi ahụ tupu ọ rute na iyi gị. Ihe ị na-enweta bụ omume nke ụdị ahụ n'onwe ya.

Nke a bụ ebe ọdịnala mepere emepe ahụ na-akwụsị ịbụ ihe efu. N'ihi na NVIDIA bipụtara data ọzụzụ na-esote na gburugburu RL, a pụrụ ịnyocha àgwà ụdị ahụ n'ụkpụrụ kama ka ọ bụrụ akụkọ ifo. N'ihi na OpenMDW-1.1 bụ ikike Linux Foundation na-ahapụ oke nke na-ekpuchi nhazi, paramita, akwụkwọ na sọftụwia, onye ọrụ nọọrọ onwe ya nwere ike ịgba mwepụta agbanwere agbanwe, nke a na-anaghị enyocha, na ngwá ọrụ nke aka ya n'enweghị ka ikike ahụ bụrụ ihe mgbochi. Ọtụtụ ikike ụdị "mepere emepe" anaghị ekwe nke ahụ. Nke a na-ekwe. Ọdịiche ahụ na-apụta ebe njụ na-adịghị echeta echiche bụ ntụpọ, ọ bụghị atụmatụ nchekwa:

• Nnyocha nchekwa — nyocha adịghị ike, echiche exploit, omume malware, ngwá ọrụ red-team, n'enweghị ịrụ ụka banyere ma a ọ̀ na-ekwe ajụjụ ahụ.
• Kemistri, bayoloji na pharmacology — mgbakọ ọnụọgụ ọgwụ, usoro mmeghachi omume, nyocha nsi, ụzọ nchịkọta nke endpoint e nyochara na-ajụ ozugbo ọ hụrụ otu okwu.
• ML na-emegide — ndị na-adịghị mma siri ike, mkpokọta jailbreak na nhazi mmetọ maka nkewa ndị kwesịrị ịhụbu ezigbo ihe ahụ.
• Ederede ụlọ ọgwụ, iwu na forensic — ihe okwu nke dị ike n'okike ma na-enweta njụ maka kpọmkwem ihe ahụ.

Enweghị mmachi apụtaghị enweghị ọrụ. Ị nwere ihe ị na-emepụta, Amụma Ojiji Kwesịrị Ekwesị anyị na Usoro Ọrụ anyị na-achịkwa akaụntụ ahụ. Iwepụ akwa njụ na-ewepụ nkọ banyere ebumnuche; ọ naghị ewepụ ọrụ dịịrị gị n'okpuru iwu metụtara gị.

06STEM na echiche: ihe ọnụọgụ e bipụtara na-ekwu

Ebe ọzụzụ Nemotron chere ihu abụrụla mgbakọ na mwepụ, koodu, sayensị na nsoro ntụziaka kemgbe e wuru nchịkọta data ọzụzụ na-esote nke Llama-Nemotron gburugburu kpọmkwem njikere anọ ahụ. Ihe NVIDIA na-akọ maka ntọala Nemotron 3 Ultra — ọnụọgụ nke onye na-ere ya kọrọ maka ụdị a na-apịkọtaghị apịkọta, nke anyị agbaghị:

Ihe abụọ e ji akpachara anya bara uru karịa ọnụọgụ ndị ahụ. Ọnụọgụ SWE-Bench Verified bụ oke — NVIDIA na-akọ 65.0% ruo 70.4% dabere na nke agent harness na-agba ya (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), mgbasa isi ise site na scaffolding naanị na-egosikwa ka ọnụọgụ agent si dabere n'harness ahụ kama n'ụdị ahụ. Artificial Analysis debekwara Nemotron 3 Ultra na 48 na Intelligence Index ya, nke 9 n'ime ụdị 89 — ike, ọ bụghị elu nke ọhịa ahụ, nha ha tụrụ n'onwe ha bụkwa nke anyị ga-ebuli karịa slide onye ọ bụla na-ere ya.

N'ọgbọ gara aga, akwụkwọ Llama-Nemotron nke NVIDIA na-akọ LN-Ultra na 76.0% na GPQA-Diamond megide 71.5% nke DeepSeek-R1 na 43.4% nke Llama-3.1-405B-Instruct, tinyere 80.8% na AIME 2024 — ụdị dị iche, nke etinyere n'ihi na sayensị ọkwa mgbaziri agbazi na mgbakọ asọmpi abụrụla ebe ezinụlọ ahụ chere ihu maka ọgbọ abụọ.

Ọnụọgụ benchmark dị ka NVIDIA si bipụta ya (Juun 2026) na Nemotron 3 Ultra a na-apịkọtaghị apịkọta, na dị ka Artificial Analysis si bipụta maka nha ha tụrụ n'onwe ha. Ụdị a pịkọtara nwere ike ịdị iche. Anyị anaghị ebipụta ọnụọgụ benchmark anyị enyochaghị ma ọ bụ nke anyị enweghị ike ịkọwa ebe o si.

07Ọnụ ahịa, na nkọwa gbasara ịkwụ ọtụtụ okwu

Na $0.75 kwa miliyọn token nnata na $3.30 kwa miliyọn token mgbasa, Nemotron3Ultra dị n'ụzọ atọ nke ala nke katalọgụ anyị na nnata na n'etiti na mgbasa. Ihe atụ e rụrụ, ebe ọ bụ na ọnụ ahịa kwa miliyọn siri ike ịghọta:

Ụdị ọkpụkpọ	Nnata	Mgbasa	Ọnụ ahịa
Ntụgharị RAG nkịtị	50,000	4,000	$0.051
Nyocha ogologo akwụkwọ	150,000	8,000	$0.139
Ọkpụkpọ kacha ibu	262,144	16,384	$0.251

Arịrịọ nwere ọnọdụ zuru oke na mmepụta zuru oke — token ọ bụla endpoint ahụ ga-anabata na token ọ bụla ọ ga-emepụta — na-efu ihe dị ka cent 25. Otu ụdị ahụ na Kimi-K3-3BIT-REAP, ụdị anyị kacha dị ọnụ na $3.83/$19.12, na-efu ihe dị ka $1.32, ma ọ bụ okpukpu 5.3 karịa.

Ugbu a nkọwa ahụ, ọ bụkwa eziokwu. Artificial Analysis tụrụ Nemotron 3 Ultra ka ọ na-emepụta token mmepụta okpukpu 2.3 karịa onye ọgbọ ya dị n'etiti n'ofe usoro benchmark ha. Ụdị echiche na-akwụ gị ụgwọ maka echiche ahụ, nke a na-echekwa ogologo oge; uru ọnụ ahịa kwa token na-agbaze ghọọ ọghọm kwa ọrụ ma ọ bụrụ na ụdị ahụ na-eche echiche okpukpu atọ ogologo iji rute otu azịza ahụ. E wuru ihe mgbochi ya n'ime ya, e gosipụtakwara ya na API anyị: e zụrụ Nemotron 3 na-esote maka njikwa mmefu echiche, a na-akwadokwa reasoning_effort ebe a — NVIDIA na-akọwa ọnọdụ mgbalị dị ala nke na-eji token echiche dị ntakịrị karịa maka mgbanwe izi ezi nke otu nọmba. N'ịkewa, ịmịpụta na ịzigara, wedaa ya, akụnụba ahụ ga-agbanwe nke ukwuu; n'ihe ngosi ma ọ bụ nhazigharị faịlụ ọtụtụ, bulie ya ma kwụọ ụgwọ ya n'ụzọ nzube. Tụọ token kwa ọrụ nke gị kama ịgụ ndepụta ọnụ ahịa ma chee na ị maara.

08Ịkpọ ya: olumba atọ, otu ụdị

Ụdị ọ bụla dị na gateway na-aza n'elu ihu API streaming atọ, ka i wee tụọ onye ahịa ị nwerelarị na ya n'enweghị idegharị njikọ gị: /v1/chat/completions (olumba OpenAI), /v1/messages (olumba Anthropic), na /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Nchịkọta ikike, ka ihe ọ bụla ghara ijide gị n'oge njikọ:

Ikike	Nemotron3Ultra · 3BIT-REAP
Windo ọnọdụ	Token 262,144
Mmepụta kacha elu / arịrịọ	Token 16,384
Streaming	Ee
Ịkpọ ngwá ọrụ	Ee
Nsonaazụ echiche	Ee
reasoning_effort	Ee
json_schema (siri ike)	Ee
response_format	Ee
Ọhụụ / ntinye onyonyo	Mba — naanị ederede
Akwa njụ	Ọ dịghị

Ahịrị ọhụụ ahụ na-ejide ndị mmadụ: Nemotron3Ultra bụ naanị ederede. Ọ bụrụ na usoro gị na-eziga onyonyo, jiri MiniMax-M3-3BIT-REAP ma ọ bụ MiMo-V2.5-W8A16 na $0.50/$2.00, ma ọ bụ Kimi-K2.6-W4A16-AUTOROUND-REAP na $0.78/$3.67 — ha niile nwere ike ịhụ ụzọ, ha niile enweghị mmachi, ha niile nọ n'otu ọnọdụ token 262,144 ahụ. Ntụaka paramita zuru oke dị n'akwụkwọ API.

09Ebe Nemotron3Ultra dị n'ime iri na abụọ ahụ

Katalọgụ ahụ bụ ụdị enweghị mmachi iri na abụọ nke na-ekekọrịta otu windo ọnọdụ ahụ, otu olumba atọ ahụ na otu enweghị akwa njụ ahụ; ha dị iche na ntọala, ọnụ ahịa na ikike. Ọnọdụ Nemotron doro anya: onye ọrụ echiche nwere ọdịnala mepere emepe — ọ bụghị nke kacha dị ọnụ ala, ọ bụghịkwa nke kacha nwee ike, kama nke nwere akụkọ ọha kacha ukwuu n'azụ omume ya, nke a hazịrị kacha ike chee ihu na STEM na agent.

Ụdị	Nnata / 1M	Mgbasa / 1M	Ọhụụ	Họrọ ya maka
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Ee	Nhọrọ kacha dị ọnụ ala nwere ọhụụ
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Mba	Ọkwa quantization kacha nwee nkwenye
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Mba	Echiche ntọala buru ibu kacha dị ọnụ ala
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Mba	STEM, agent, ọdịnala mepere emepe
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Ee	Ọhụụ + nkwenye AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Mba	Nyocha omimi nke otu ọkpụkpọ
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Ee	Elu ikike kachasị

E gosiri asaa n'ime iri na abụọ. Katalọgụ zuru oke — gụnyere Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 na Hy3 — dị n'akwụkwọ API. Mara na Laguna-S-2.1 anaghị akwado mmepụta ahaziri ahazi, inkling anaghịkwa akwado json_schema; Nemotron3Ultra na-akwado ha abụọ.

Onye agbata obi kacha nso n'ọnụ ahịa bụ GLM-5.2-3BIT-REAP na $0.73/$2.34, ntụnyere ziri ezi bụ nke a: GLM-5.2 dị ọnụ ala kwa token, karịsịa na mmepụta. Nemotron na-eweta nchịkọta ọzụzụ e bipụtara, ihe ntụgharị mmefu echiche doro anya, na akụkọ ezinụlọ chere ihu na sayensị ọkwa mgbaziri agbazi. Echiche izugbe nke buru ibu: gbaa nke dị ọnụ ala. Nke jupụtara na STEM, nke agent, ma ọ bụ nke nyocha ga-ajụ ebe omume ụdị ahụ si bịa: Nemotron na-eritela ọdịiche ahụ.

10Ajụjụ ndị a na-ajụkarị

---

Isi mmalite: Akụkọ nka na ụzụ NVIDIA Nemotron 3 Ultra · Blọgụ ndị mmepe NVIDIA (Juun 2026) · Ndetu nhazi Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmark ntọala bụ nke NVIDIA kọrọ na ụdị a na-apịkọtaghị apịkọta ma ọ bụrụhaghị na e kwuru na ọ bụ nke Artificial Analysis; ụdị a pịkọtara nwere ike ịdị iche. Ọnụ ahịa na ikike dị ka ha si dị na Septemba 5, 2026.