API ya Nemotron bila udhibiti

Modeli nyingi "wazi" ni uzani wazi na si kitu kingine — bahasha ya vigezo, leseni, na ukimya kuhusu namba zilikotoka. Nemotron imekuwa kivumbi cha kudumu kwa miaka miwili: NVIDIA inatoa uzani, seti za data za mafunzo ya baadaye, mazingira ya RL na maelekezo. Hilo linahusu kwa ncha isiyodhibitiwa kwa namna ambayo ni rahisi kuikosa. Modeli ambayo data yake ya upatanishi imechapishwa ni modeli ambayo tabia yake ya kukataa unaweza kuifikiria badala ya kuikisia — na ambayo mtu wa tatu anaweza kuitoa kihalali bila kichujio cha maudhui kimeambatishwa mdomoni mwake.

01Nemotron 3 Ultra ni nini?

Nemotron 3 Ultra ndiye mkubwa kuliko wote katika familia ya Nemotron 3 ya NVIDIA, iliyotolewa kwenye Hugging Face tarehe 4 Juni 2026. Ripoti ya kiufundi ya NVIDIA inaieleza kama "modeli ya lugha ya Mixture-of-Experts changamano ya Mamba-Attention yenye jumla ya vigezo bilioni 550 na bilioni 55 vinavyowaka" — takriban 10% ya mtandao inafanya kazi kwenye tokeni yoyote iliyotolewa, ndilo linalofanya modeli ya nusu trilioni ya vigezo iwezekane kuhudumiwa kabisa.

Mpangilio ulioripotiwa ni tabaka 108 kwenye kipimo cha modeli cha 8,192, ukisuka tabaka za nafasi ya hali za Mamba-2 pamoja na seti chache ya tabaka kamili za attention, wataalamu 512 kwa kila tabaka ya MoE yenye uelekezaji wa top-22. Mafunzo ya awali yaliendeshwa kwenye takriban tokeni trilioni 20 za maandishi katika awamu mbili — ya kwanza ikiegemea utofauti, ya pili ubora — yenye kikomo cha Septemba 2025, lugha 12 za asili na lugha 43 za programu. Mafunzo ya baadaye yalitumia SFT, RL ya mazingira mengi yenye zawadi zinazothibitishika, na Multi-Teacher On-Policy Distillation katika zaidi ya walimu kumi wa kibingwa. Lengo lililoelezwa la muundo ni mawakala wanaoendelea kwa muda mrefu: vikao vinavyoshikilia muktadha mkubwa, vinavyoita zana mara kadhaa, na vinavyoendesha muda wa kutosha kiasi kwamba uchumi wa kila tokeni unatawala ankara.

02Ukoo wa Nemotron, na kwa nini asili yake inahusu

Nemotron si tukio la mara moja. Ni matokeo yanayoonekana ya mpango wa utafiti wa NVIDIA unaokwenda mwelekeo uleule tangu 2024, na kila kizazi kiliacha kitu ambacho modeli ya sasa bado inakibeba. Nemotron-4 340B (Juni 2024) ilikuja na bomba wazi la kuzalisha data bandia, modeli yake ya zawadi na kizalishi chake, pamoja na ufichuzi usio wa kawaida: sehemu kubwa kabisa ya data yake ya upatanishi ilizalishwa na modeli. Modeli kama kiwanda cha data badala ya kama kihuba ndiyo sababu matoleo ya baadaye ya Nemotron yanaendelea kutoa seti za data pamoja na uzani.

Llama-Nemotron — hoja unayoweza kuizima

Familia ya Llama-Nemotron ya 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) ilichangia mawazo mawili yaliyozeeka vyema. La kwanza lilikuwa la kimuundo: utafutaji wa muundo wa neva wa NVIDIA, Puzzle, ulijenga maktaba ya vitalu vya transformer vilivyofundishwa kwa kunakili kwa kila kitalu na kuviunganisha kwa programu ya nambari kamili mchanganyiko, ukizalisha modeli ambapo baadhi ya vitalu vinaruka attention kabisa au kuibadilisha na tabaka moja ya mstari, wakati FFN Fusion ilibinya vitalu vya feed-forward vinavyofuatana kuwa vichache, vipana zaidi, sambamba — ikikata kina cha mfululizo badala ya idadi ya vigezo. LN-Ultra ilitoshea kwenye nodi moja ya 8×H100 wakati, kwa mujibu wa karatasi ya NVIDIA, ikiipita DeepSeek-R1 kwenye GPQA-Diamond (76.0% dhidi ya 71.5%).

La pili lilikuwa la kitabia: Llama-Nemotron ilikuwa familia ya kwanza wazi yenye kigeuzi kinachobadilika cha hoja, ikitia data ya mafunzo alama ya detailed thinking on au detailed thinking off ndani ya maelekezo ya mfumo, zawadi za umbo zikilazimisha vitambulisho vya <think> katika hali ya kuwasha. Seti moja ya uzani, tabia mbili, zinazochaguliwa wakati wa uendeshaji. Udhibiti wa bajeti ya hoja wa Nemotron 3 — na kigezo cha reasoning_effort kwenye API yetu — kinatoka moja kwa moja kwenye kazi hiyo.

Nemotron 3 — mzunguko wa uchangamano

Nemotron 3 ilibadilisha utokanaji wa Llama na muundo changamano uliojengwa upya kutoka mwanzo na kuongeza LatentMoE (kubana tokeni kabla ya kuelekeza, ambayo NVIDIA inasema inaruhusu "wataalamu mara 4 zaidi kwa gharama ileile ya uendeshaji"), utabiri wa tokeni nyingi, na mafunzo ya awali ya asili ya NVFP4. NVIDIA ilichapisha jumla ya sampuli milioni 50 za SFT, kazi milioni 2 za RL na mazingira 55 ya RL pamoja na uzani — huhitaji kuamini neno la mtoaji kuhusu modeli ilifundishwa nini, kwa sababu vifaa vya kufundishia vinaweza kupakuliwa.

03Muundo changamano unakununulia nini

Akiba ya KV ya transformer inakua kwa mstari sambamba na urefu wa mfuatano, ndiyo sababu uendeshaji wa muktadha mrefu unakuwa ghali kwenye kumbukumbu kabla ya kompyuta. Tabaka za Mamba-2 ni modeli za nafasi ya hali zinazobeba hali ya kurudia yenye ukubwa uliowekwa, hivyo gharama yao ya kumbukumbu kwa kila tokeni haikui na historia; kile wanachokifanya vibaya ni ukumbukaji sahihi wa uhusiano. Uchangamano unaweka Mamba-2 kwa sehemu kubwa ya uchakataji wa mfuatano pamoja na wachache wa tabaka halisi za attention kwa ukumbukaji ambao tabaka za nafasi ya hali zinaufumbua vibaya, pamoja na uwiano mkali wa vichwa 64 vya swali kwa vichwa 2 vya KV unaopunguza akiba zaidi. NVIDIA inaripoti 94.7% kwenye RULER kwa tokeni 1M — kipimo cha kuchukua sindano kilichojengwa kunasa modeli zinazodai dirisha wasiloweza kulitumia.

Matokeo ni upitishaji: NVIDIA inadai hadi takriban mara 6 ya upitishaji wa uendeshaji wa modeli zinazolingana kwa usahihi ulio sawa, na Artificial Analysis ilipima kwa kujitegemea tokeni 140.3 kwa sekunde yenye sekunde 1.33 hadi tokeni ya kwanza — ya 7 kati ya modeli 89. Kwenye mzunguko wa wakala wa zamu 200 hiyo ndiyo tofauti kati ya kumaliza mchana mmoja na kutokumaliza.

04"3BIT-REAP" inamaanisha nini, kwa ukweli

Kiambishi si pambo — kinakuambia hasa kilichofanywa kwa msingi ili utoshee.

REAP — Router-weighted Expert Activation Pruning — kinatoka Cerebras Research na kilikubaliwa ICLR 2026. Katika MoE nyembamba kielekezi kinatuma kila tokeni kwa wataalamu wachache; katika mzigo halisi wa kazi baadhi wanapigwa mara kwa mara na wengine karibu kamwe. REAP inampa kila mtaalamu alama kwa kigezo cha umuhimu kinachochanganya nguvu ya kielekezi kumfungulia na ukubwa wa michango yake ya matokeo, kisha inaondoa wenye umuhimu mdogo kabisa moja kwa moja — Cerebras inaripoti kupogoa hadi 50% ya wataalamu kutoka modeli kubwa hadi vigezo trilioni 1 huku kwa kiasi kikubwa ikihifadhi ubora wa msingi, na inagundua kwamba kwa kazi za kuzalisha kama msimbo, kupogoa kunashinda kuunganisha. Biti 3 ya ubanaji kisha inabana kilichobaki. Pogoa kwanza, bana pili, ili bajeti ya biti iende kwa wataalamu wanaobeba trafiki badala ya kupakwa kwenye waliokufa.

Ubanaji si wa bure, na hatutajifanya vinginevyo: ubanaji mkali unajitokeza kwanza kama upungufu mdogo katika kufuata umbo hasa na hesabu za minyororo mirefu, si kama kutokuwa na mshikamano kunakoonekana. Madaraja matatu yanapoangukia:

Kiambishi	Ni nini	Tunapokitumia
3BIT-REAP	Uzani wa biti 3 + upogoaji wa wataalamu	Misingi mikubwa kuliko yote, ambapo hakuna kingine kinachotoshea kwa kasi
W4A16-AUTOROUND-REAP	Uzani wa biti 4 / uwashaji wa biti 16, mviringisho uliojifunza wa AutoRound, + upogoaji	Misingi ya wastani; AutoRound inarejesha usahihi juu ya uviringishaji rahisi wa karibu zaidi
W8A16	Uzani wa biti 8 / uwashaji wa biti 16	Uaminifu wa juu kabisa; misingi midogo kiasi cha kutohitaji ubanaji mkali

Nemotron 3 Ultra kwa 550B iko wazi katika kundi la kwanza. Kama mzigo wako wa kazi ni nyeti kwa namna isiyo ya kawaida kwa matokeo sahihi ya nambari katika minyororo mirefu, orodha ya utafiti inaonyesha daraja la W8A16 — MiMo-V2.5-Pro-W8A16 na Hy3-W8A16 — kwenye sakafu ya $0.50/$2.00. Ni badiliko halisi, si faneli: modeli ndogo, ubanaji mdogo.

05"Bila udhibiti" kunamaanisha nini kwenye ncha hii

Kwa uwazi: hakuna safu ya kukataa na hakuna kuchuja maudhui kunakotumika kwenye matokeo. Hakuna kiainishi kinachokagua kidokezo chako na kurudisha kukataa kulikoandaliwa, na jibu halichanganuliwi kabla halijafika kwenye mtiririko wako. Unachopata ni tabia ya modeli yenyewe.

Hapa ndipo ukoo wazi unaacha kuwa habari ndogo. Kwa sababu NVIDIA ilichapisha data ya mafunzo ya baadaye na mazingira ya RL, mielekeo ya modeli inaweza kukaguliwa kinadharia badala ya kuwa hadithi za mdomoni. Na kwa sababu OpenMDW-1.1 ni leseni ruhusifu ya Linux Foundation inayofunika muundo, vigezo, nyaraka na programu, mwendeshaji huru anaweza kuhudumia utoaji uliobadilishwa, usiochujwa kwenye maunzi yake mwenyewe bila leseni kuwa kikwazo. Leseni nyingi za modeli "wazi" haziruhusu hilo. Hii inaruhusu. Tofauti inajitokeza pale ambapo kukataa kwa mazoea ni hitilafu, si kipengele cha usalama:

• Utafiti wa usalama — uchambuzi wa udhaifu, hoja za mashambulizi, tabia ya programu hasidi, zana za timu nyekundu, bila kubishana kama swali linaruhusiwa.
• Kemia, biolojia na famakolojia — hesabu za kipimo, mifumo ya mmenyuko, sumu, njia za usanisi ambazo ncha iliyochujwa inazikataa mara tu neno linapoguswa.
• ML ya kipinzani — mifano hasi migumu, makusanyo ya jailbreak na uainishaji wa unyanyasaji kwa viainishi vinavyohitaji kuwa vimeona kitu halisi.
• Maandishi ya kimatibabu, kisheria na kiuchunguzi — vifaa vya kesi ambavyo ni vikali kwa asili na vinakataliwa kwa sababu hiyohiyo hasa.

Bila udhibiti si bila uwajibikaji. Unamiliki kile unachokizalisha, na Sera yetu ya Matumizi ya Kuwajibika na Masharti ya Huduma yanasimamia akaunti. Kuondoa safu ya kukataa kunaondoa ubashiri kuhusu nia; hakuondoi wajibu wako chini ya sheria inayokuhusu.

06STEM na hoja: namba zilizochapishwa zinasema nini

Lengo la mafunzo ya Nemotron limekuwa hesabu, msimbo, sayansi na kufuata maelekezo tangu seti ya data ya mafunzo ya baadaye ya Llama-Nemotron ilipojengwa kuzunguka mihimili hiyo minne hasa. Kile NVIDIA inaripoti kwa msingi wa Nemotron 3 Ultra — namba zilizoripotiwa na mtoaji kwenye modeli isiyobanwa, ambazo hatukuziendesha:

Tahadhari mbili zenye thamani kubwa kuliko namba. Namba ya SWE-Bench Verified ni kipimo cha kuanzia hadi mwisho — NVIDIA inaripoti 65.0% hadi 70.4% kutegemea ni mfumo gani wa wakala unaoiendesha (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), na tofauti ya pointi tano kutokana na kiunzi pekee inaonyesha kiasi gani alama za kiwakala zinategemea kiunzi badala ya modeli. Na Artificial Analysis iliweka Nemotron 3 Ultra kwenye 48 kwenye Faharasa yake ya Akili, ya 9 kati ya modeli 89 — imara, si kilele cha uwanja, na kipimo chao huru ndicho tungekipa uzito zaidi ya slaidi ya mtoaji yeyote.

Kwenye kizazi kilichotangulia, karatasi ya Llama-Nemotron ya NVIDIA inaripoti LN-Ultra kwa 76.0% kwenye GPQA-Diamond dhidi ya 71.5% ya DeepSeek-R1 na 43.4% ya Llama-3.1-405B-Instruct, pamoja na 80.8% kwenye AIME 2024 — modeli tofauti, iliyojumuishwa kwa sababu sayansi ya ngazi ya uzamili na hesabu za mashindano zimekuwa lengo la familia kwa vizazi viwili.

Namba za vipimo kama zilivyochapishwa na NVIDIA (Juni 2026) kwenye Nemotron 3 Ultra isiyobanwa, na na Artificial Analysis kwa vipimo huru. Ujenzi uliobanwa unaweza kutofautiana. Hatuchapishi namba za vipimo ambazo hatukuzithibitisha au tusizoweza kuzitaja chanzo.

07Bei, na tahadhari ya uzungumzaji mwingi

Kwa $0.75 kwa tokeni milioni za ingizo na $3.30 kwa tokeni milioni za matokeo, Nemotron3Ultra inakaa katika theluthi ya chini ya katalogi yetu kwenye ingizo na katikati kwenye matokeo. Mifano iliyofanyiwa kazi, kwa sababu bei ya kila milioni ni ngumu kuihisi:

Umbo la mwito	Ingizo	Matokeo	Gharama
Zamu ya kawaida ya RAG	50,000	4,000	$0.051
Uchambuzi wa hati ndefu	150,000	8,000	$0.139
Mwito wa ukubwa wa juu kabisa	262,144	16,384	$0.251

Ombi la muktadha kamili na matokeo kamili — kila tokeni ambayo ncha itaikubali na kila tokeni itakayoizalisha — linagharimu takriban senti 25. Umbo lilelile kwenye Kimi-K3-3BIT-REAP, modeli yetu ghali kuliko zote kwa $3.83/$19.12, linagharimu takriban $1.32, au mara 5.3 zaidi.

Sasa tahadhari, na ni ya kweli. Artificial Analysis ilipima Nemotron 3 Ultra ikizalisha tokeni za matokeo mara 2.3 zaidi ya wastani wa wenzake katika mkusanyiko wao wa vipimo. Modeli za hoja zinakutoza kwa kufikiri, na hii inafikiri kwa urefu; faida ya bei kwa kila tokeni inayeyuka kuwa hasara kwa kila kazi kama modeli inafikiri mara tatu zaidi ili kufikia jibu lilelile. Kizuizi kimejengwa ndani na kimewekwa wazi kwenye API yetu: Nemotron 3 ilifunzwa baada ya mafunzo kwa udhibiti wa bajeti ya hoja, na reasoning_effort inaungwa mkono hapa — NVIDIA inaeleza hali ya juhudi ndogo inayotumia tokeni chache zaidi za kufikiri kwa badiliko la usahihi la tarakimu moja. Kwenye uainishaji, uchukuaji na uelekezaji, ishushe na uchumi unabadilika kwa kiasi kikubwa; kwenye uthibitisho au marekebisho ya faili nyingi, iinue na ulipie kwa makusudi. Pima tokeni zako kwa kila kazi badala ya kusoma orodha ya bei na kudhani.

08Kuiita: lahaja tatu, modeli moja

Kila modeli kwenye lango inajibu kwenye nyuso tatu za API zinazotiririsha, hivyo unaweza kuelekeza mteja uliopo kwake bila kuandika upya uunganishaji wako: /v1/chat/completions (lahaja ya OpenAI), /v1/messages (lahaja ya Anthropic), na /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Muhtasari wa uwezo, ili kisikushtue chochote wakati wa kuunganisha:

Uwezo	Nemotron3Ultra · 3BIT-REAP
Dirisha la muktadha	tokeni 262,144
Matokeo ya juu kabisa / ombi	tokeni 16,384
Utiririshaji	Ndiyo
Kuita zana	Ndiyo
Nyayo za hoja	Ndiyo
reasoning_effort	Ndiyo
json_schema (kali)	Ndiyo
response_format	Ndiyo
Uoni / ingizo la picha	Hapana — maandishi pekee
Safu ya kukataa	Hakuna

Safu ya uoni inawanasa watu: Nemotron3Ultra ni ya maandishi pekee. Kama bomba lako linatuma picha, tumia MiniMax-M3-3BIT-REAP au MiMo-V2.5-W8A16 kwa $0.50/$2.00, au Kimi-K2.6-W4A16-AUTOROUND-REAP kwa $0.78/$3.67 — zote zenye uwezo wa uoni, zote bila udhibiti, zote kwenye muktadha uleule wa tokeni 262,144. Marejeo kamili ya vigezo yapo kwenye nyaraka za API.

09Nemotron3Ultra inakaa wapi kati ya kumi na mbili

Katalogi ni modeli kumi na mbili zisizodhibitiwa zinazoshiriki dirisha lilelile la muktadha, lahaja zilezile tatu na kutokuwepo kwa safu ya kukataa; zinatofautiana kwa msingi, bei na uwezo. Nafasi ya Nemotron ni mahususi: farasi wa kazi wa hoja wa ukoo wazi — si nafuu kuliko zote, si yenye uwezo mkubwa kuliko zote, bali ile yenye nyayo za hadhara nyingi kuliko zote nyuma ya tabia yake, iliyorekebishwa kwa nguvu zaidi kuelekea STEM na mawakala.

Modeli	Ndani / 1M	Nje / 1M	Uoni	Ichague kwa
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Ndiyo	Chaguo nafuu kuliko zote lenye uwezo wa uoni
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Hapana	Daraja la ubanaji lenye uaminifu wa juu kabisa
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Hapana	Hoja nafuu kuliko zote za msingi mkubwa
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Hapana	STEM, mawakala, ukoo wazi
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Ndiyo	Uoni + uaminifu wa AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Hapana	Uchambuzi wa kina wa pigo moja
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Ndiyo	Dari kamili ya uwezo

Saba kati ya kumi na mbili zimeonyeshwa. Katalogi kamili — ikijumuisha Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 na Hy3 — ipo kwenye nyaraka za API. Kumbuka kwamba Laguna-S-2.1 haiungi mkono matokeo yenye muundo na inkling haiungi mkono json_schema; Nemotron3Ultra inaunga mkono vyote viwili.

Jirani wa karibu kwa bei ni GLM-5.2-3BIT-REAP kwa $0.73/$2.34, na ulinganisho wa kweli ni huu: GLM-5.2 ni nafuu kwa kila tokeni, hasa kwenye matokeo. Nemotron inaleta kundi la mafunzo lililochapishwa, kigeuzi wazi cha bajeti ya hoja, na historia ya familia inayolenga sayansi ya ngazi ya uzamili. Hoja za jumla za kiwango kikubwa: endesha ile nafuu. Nzito kwa STEM, ya kiwakala, au inayokabiliwa na ukaguzi unaouliza tabia ya modeli imetoka wapi: Nemotron inastahili tofauti hiyo.

10Maswali yanayoulizwa mara kwa mara

---

Vyanzo: ripoti ya kiufundi ya NVIDIA Nemotron 3 Ultra · blogu ya wasanidi ya NVIDIA (Juni 2026) · maelezo ya muundo wa Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Vipimo vya msingi vimeripotiwa na NVIDIA kwenye modeli isiyobanwa isipokuwa vinapotajwa kwa Artificial Analysis; ujenzi uliobanwa unaweza kutofautiana. Bei na uwezo ni vya sasa kufikia tarehe 5 Septemba 2026.