API ya Nemotron e se nang Thibelo
Botebo ba dipatlisiso tsa NVIDIA, bo phatlaladitsweng phatlalatsa, bo sebetsa ntle le lera la ho hana: MoE ya Mamba-Attention e kopantsweng ya 550B e lokiselitsweng STEM le ho nahana ha nako e telele — ka $0.75 kenyo / $3.30 tlhahiso ka di-token tse milione.
Kakaretso e Kgutshwane
Nemotron3Ultra-3BIT-REAP ke tshebediso ya Shannon e se nang thibelo ya NVIDIA Nemotron 3 Ultra — model ya Mixture-of-Experts ya di-parameter tse dikete tse 550 tsa dimilione, e nang le tse 55B tse sebetsang ka token, e lokollotsweng ka la 4 Phupjane 2026 hammoho le di-weight, data ya koetliso le ditsela tsa ho e etsa tlasa laesense e bulehileng ya Linux Foundation ya OpenMDW-1.1. Sehlopheng sa rona sa di-GPU e sebetsa ka ho se be le lera la ho hana le ho se sefuwe ha tlhahiso, ka context ya di-token tse 262,144, ho fihla ho di-token tse 16,384 tsa tlhahiso ka kopo, ho bitsa disebediswa, ho phalla, mekgwa ya ho nahana e bonahalang le tlhahiso e tiileng ya json_schema. Ha e amohele ditshwantsho. Theko: $0.75 / $3.30 ka di-token tse 1M.
Boholo ba di-model tse "bulehileng" ke di-weight tse bulehileng feela mme ho felle moo — sephuthelwana sa di-parameter, laesense, le ho kgutsa mabapi le moo dipalo di tswang teng. Nemotron e bile mokgelo o sa fetoheng ka dilemo tse pedi: NVIDIA e romela di-weight, di-dataset tsa koetliso ya morao, dibaka tsa RL le tsela ya ho e etsa. Seo se bohlokwa bakeng sa sebaka se se nang thibelo ka tsela e bonolo ho e hlokomoloha. Model eo data ya yona ya tumellano e phatlaladitsweng ke eo o ka nahanang ka boitshwaro ba yona ba ho hana ho ena le ho hakanya — ebile ke eo motho wa boraro a ka e sebedisang ka molao ntle le sefe sa dikahare se kgomaretsweng molomong wa yona.
01Nemotron 3 Ultra ke eng?
Nemotron 3 Ultra ke setho se seholo ka ho fetisisa sa lelapa la NVIDIA la Nemotron 3, se lokollotsweng ho Hugging Face ka la 4 Phupjane 2026. Tlaleho ya boenjiniere ya NVIDIA e e hlalosa e le "model ya puo ya Mixture-of-Experts ya Mamba-Attention e kopantsweng ya di-parameter tse dikete tse 550 tsa dimilione kaofela le tse dikete tse 55 tsa dimilione tse sebetsang" — hoo e ka bang 10% ya marang-rang e sebetsa ho token e nngwe le e nngwe, e leng se etsang hore model ya halofo ya trilione ya di-parameter e kgonehe ho sebediswa le hanyane.
Sebopeho se tlalehilweng ke marallo a 108 ka bophara ba model ba 8,192, a kopanya marallo a Mamba-2 a state-space le sehlopha se hasaneng sa marallo a tlhokomelo e felletseng, ka ditsebi tse 512 lerallong le leng le le leng la MoE ka ho kgetha ka top-22. Koetliso ya pele e ile ya matha hodima hoo e ka bang di-token tsa mongolo tse dikete tse 20 tsa dimilione mekgahlelong e mmedi — wa pele o sekametseng mefuteng e fapaneng, wa bobedi ho boleng — ka moedi wa Loetse 2025, dipuo tsa tlhaho tse 12 le dipuo tsa mananeo tse 43. Koetliso ya morao e sebedisitse SFT, RL ya dibaka tse ngata e nang le meputso e netefatsehang, le Multi-Teacher On-Policy Distillation ho tswa ho barupelli ba ditsebi ba fetang leshome. Sepheo se boletsweng sa moralo ke di-agent tse sebetsang nako e telele: dinako tse tshwereng context e kgolo, tse bitsang disebediswa makgetlo a mashome, mme tse mathang nako e telele hoo moruo wa token ka nngwe o busang sekoloto.
02Leloko la Nemotron, le hore na botebo bo bohlokwa hobaneng
Nemotron hase ntho e etsahetseng hang. Ke sephetho se bonahalang sa lenaneo la dipatlisiso la NVIDIA le mathang ka tsela e tshwanang ho tloha ka 2024, mme moloko o mong le o mong o siile ntho eo model ya hajwale e ntseng e e jere. Nemotron-4 340B (Phupjane 2024) e ile ya romelwa e na le mokoloko o bulehileng wa ho hlahisa data ya maiketsetso, model ya yona ya moputso le mohlahisi wa yona, hammoho le ho pepesa ho sa tlwaelehang: boholo bo boholo ba data ya yona ya tumellano bo ne bo hlahisitswe ke model. Model e le feme ya data ho ena le ho ba senohe ke lona lebaka leo ditokollo tsa morao tsa Nemotron di ntseng di romela di-dataset hammoho le di-weight.
Llama-Nemotron — ho nahana hoo o ka ho timang
Lelapa la 2025 la Llama-Nemotron (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) le ile la kenya letsoho ka dikgopolo tse pedi tse tsofetseng hantle. Ya pele e ne e le ya moaho: Puzzle, patlo ya moaho wa marang-rang ya NVIDIA, e ile ya aha laeborari ya di-block tsa transformer tse hlahisitsweng ka block ka nngwe mme ya di kopanya ka mixed-integer programming, e hlahisa di-model moo di-block tse ding di tlolang tlhokomelo ka ho feletseng kapa di e nkela ka lerallo le le leng la linear, ha FFN Fusion e kopanya di-block tse latellanang tsa feed-forward ho ba tse fokolang, tse sephara, tse sebetsang mmoho — e fokotsa botebo ba tatellano ho ena le palo ya di-parameter. LN-Ultra e ile ya lekana kgeleke e le nngwe ya 8×H100 ha, ho ya ka pampiri ya NVIDIA, e ne e hlola DeepSeek-R1 ho GPQA-Diamond (76.0% kgahlanong le 71.5%).
Ya bobedi e ne e le ya boitshwaro: Llama-Nemotron e bile lelapa la pele le bulehileng le nang le heke e fetohang ya ho nahana, le tshwaya data ya koetliso ka detailed thinking on kapa detailed thinking off taelong ya sistimi, ka meputso ya sebopeho e tiisang ditshwao tsa <think> mokgweng o bulehileng. Sehlopha se le seng sa di-weight, boitshwaro bo bobedi, bo kgethehang nakong ya ho sebetsa. Taolo ya tekanyetso ya ho nahana ya Nemotron 3 — le parameter ya reasoning_effort ho API ya rona — e tswa ka ho toba mosebetsing oo.
Nemotron 3 — phetoho ho tse kopantsweng
Nemotron 3 e ile ya nkela sebaka sa moaho o tswang ho Llama ka moaho o kopantsweng o ahilweng ho tloha qalong mme ya eketsa LatentMoE (ho pitika di-token pele ho kgethwa, seo NVIDIA e reng se dumella "ditsebi tse ngata ka makgetlo a 4 ka theko e tshwanang ya ho sebetsa"), ho bolela di-token tse ngata, le koetliso ya pele ya tlhaho ya NVFP4. NVIDIA e phatlaladitse disampole tsa SFT tse dimilione tse 50 kaofela, mesebetsi ya RL e dimilione tse 2 le dibaka tsa RL tse 55 hammoho le di-weight — ha o tlameha ho amohela lentswe la morekisi mabapi le seo model e se rutilweng, hobane thuto ka boyona e ka jarolloha.
03Seo moaho o kopantsweng o o rekelang sona
KV cache ya transformer e hola ka mola le bolelele ba tatellano, ke ka lebaka leo ho sebetsa ha context e telele ho jang tjhelete memoring pele ho e ja dipalong. Marallo a Mamba-2 ke di-model tsa state-space tse jereng boemo bo pheta-phetang ba boholo bo sa fetoheng, kahoo theko ya bona ya memori ka token ha e hole le nalane; seo ba se sitwang ke ho hopola ka nepo ka kamano. Moaho o kopantsweng o boloka Mamba-2 bakeng sa boholo ba tshebetso ya tatellano hammoho le palo e nyenyane ya marallo a tlhokomelo ya sebele bakeng sa ho hopola hoo marallo a state-space a ho fosang, ka kabelo e matla ya dihlooho tsa dipotso tse 64 kgahlanong le dihlooho tsa KV tse 2 e fokotsang cache le ho feta. NVIDIA e tlaleha 94.7% ho RULER ka di-token tse milione — tekanyetso ya ho fumana nale e hlahisitsweng ho tshwara di-model tse ipolelang fensetere eo di sitwang ho e sebedisa.
Sephetho ke bongata ba tshebetso: NVIDIA e re ho na le ho fihla hoo e ka bang makgetlo a 6 a bongata bo phahameng ba ho sebetsa ho feta di-model tse tshwanang ka nepo e lekanang, mme Artificial Analysis e lekantse ka boikemelo di-token tse 140.3 ka motsotswana ka nako ya 1.33 wa metsotswana ho fihlela token ya pele — ya bo 7 ho di-model tse 89. Ho ho matheng ha agent ha mekgahlelo e 200 seo ke phapang pakeng tsa ho qeta mantsiboya le ho se qete.
04Seo "3BIT-REAP" e se bolelang, ka nnete
Moqetelo ha se mokgabiso — o o bolella hantle se entsweng motheong ho etsa hore o lekane.
REAP — Router-weighted Expert Activation Pruning — e tswa ho Cerebras Research mme e amohetswe ho ICLR 2026. Ho MoE e hasaneng router e romela token e nngwe le e nngwe ho ditsebi tse seng kae; mosebetsing wa sebele tse ding di otlwa kamehla ha tse ding di batla di sa otlwe. REAP e beha setsebi se seng le se seng maemong ka motheo wa bohlokwa o kopanyang hore na router e se kgetha ka matla a makae le hore na tlhahiso ya sona e kenya letsoho hakae, ebe e tlosa tse hlolehileng ka ho toba — Cerebras e tlaleha ho pomeng ha ho fihla ho 50% ya ditsebi ho di-model tse kgolo jwalo ka trilione ya di-parameter ha e ntse e boloka boleng ba motheo ka bongata, mme e fumana hore mesebetsing ya tlhahiso jwalo ka khoutu, ho poma ho hlolla ho kopanya. Ho pitikwa ha di-bit tse tharo ho ntan'o pitika se salang. Poma pele, pitika ka mora moo, hore tekanyetso ya di-bit e ye ho ditsebi tse jereng mesebetsi ho ena le ho hasanngwa hodima tse shweleng.
Ho pitikwa ha ho na theko e se nang letho, mme re ke ke ra iketsa eka ho jwalo: ho pitikwa ho matla ho hlaha pele e le ho theoha ho honyenyane ha ho latela sebopeho se nepahetseng le dipalo tsa dikgoele tse telele, e seng ho hloka kutlwisiso ho bonahalang. Moo maemo a mararo a emang teng:
| Moqetelo | Ke eng | Moo re o sebedisang teng |
|---|---|---|
| 3BIT-REAP | Di-weight tsa di-bit tse tharo + ho pomeng ha ditsebi | Metheo e meholo ka ho fetisisa, moo ho se nang se seng se lekanang ka lebelo |
| W4A16-AUTOROUND-REAP | Di-weight tsa di-bit tse 4 / ho sebetsa ha di-bit tse 16, ho potoloha ho ithutilweng ha AutoRound, + ho poma | Metheo e bohareng; AutoRound e kgutlisa nepo ho feta ho potoloha ho tlwaelehileng |
| W8A16 | Di-weight tsa di-bit tse 8 / ho sebetsa ha di-bit tse 16 | Botshepehi bo hodimo ka ho fetisisa; metheo e menyenyane hoo e sa hlokeng ho pitikwa ho matla |
Nemotron 3 Ultra ka 550B e ka hare ho sehlopha sa pele ka ho hlaka. Haeba mosebetsi wa hao o utlwela bohloko ka mokgwa o sa tlwaelehang tlhahisong ya dipalo tse nepahetseng dikgoeleng tse telele, tshupiso ya dipatlisiso e thathamisa boemo ba W8A16 — MiMo-V2.5-Pro-W8A16 le Hy3-W8A16 — moeding wa $0.50/$2.00. Ke phapanyetsano ya sebele, e seng mokoloko wa thekiso: model e nyenyane, ho pitikwa ho fokolang.
05Seo "e se nang thibelo" e se bolelang sebakeng sena
Ka ho hlaka: ha ho lera la ho hana ebile ha ho sefe sa dikahare se sebedisitsweng tlhahisong. Ha ho sehlophisi se hlahlobang prompt ya hao mme se kgutlisa kgano e lokiseditsweng, ebile karabo ha e hlahlojwe pele e fihla phallong ya hao. Seo o se fumanang ke boitshwaro ba model ka bo yona.
Ke moo leloko le bulehileng le emang ho ba tlhahisoleseding e se nang thuso. Hobane NVIDIA e phatlaladitse data ya koetliso ya morao le dibaka tsa RL, mekgwa ya model e ka hlahlojwa ha e le hantle ho ena le ho ba tshomo. Mme hobane OpenMDW-1.1 ke laesense e bulehileng ya Linux Foundation e akaretsang moaho, di-parameter, ditokomane le software, mosebedisi ya ikemetseng a ka sebedisa tshebediso e fetotsweng, e se nang sefe, hodima thepa ya hae ntle le hore laesense e be tshitiso. Dilaesense tse ngata tsa di-model tse "bulehileng" ha di dumelle seo. Ena ea dumela. Phapang e hlaha moo ho hana ka mokgwa o sa nahanweng e leng phoso, e seng karolo ya tshireletso:
- Dipatlisiso tsa tshireletso — tlhahlobo ya bofokodi, ho nahana ka ho sebedisa bofokodi, boitshwaro ba malware, disebediswa tsa sehlopha se sootho, ntle le ho ngangisana hore na potso e dumelletswe.
- Khemisi, baeloji le pharmacology — dipalo tsa tekanyo, mekgwa ya karabelo, toxicology, ditsela tsa ho kopanya tseo sebaka se sefuwang se di hanang hang ha se bona lentswe le itseng.
- ML e lwantshanang — dintho tse thata tse fosahetseng, dibokelli tsa jailbreak le ditlhophiso tsa tshebediso e mpe bakeng sa dihlophisi tse hlokang ho bone ntho ya sebele.
- Mongolo wa bongaka, wa molao le wa forensic — dintho tsa dinyewe tse mpe ka tlhaho tse hanwang ka lebaka la seo hantle.
Ho se be le thibelo ha ho bolele ho hloka boikarabelo. O na le boikarabelo ba seo o se hlahisang, mme Leano la rona la Tshebediso e Nang le Boikarabelo le Dipehelo tsa Tshebeletso di busa akhaonto. Ho tlosa lera la ho hana ho tlosa hakanyo ka sepheo sa hao; ha ho tlose ditlamo tsa hao tlasa molao o o sebetsang.
06STEM le ho nahana: seo dipalo tse phatlaladitsweng di se bolelang
Sepheo sa koetliso ya Nemotron e bile dipalo, khoutu, saense le ho latela ditaelo ho tloha ha dataset ya koetliso ya morao ya Llama-Nemotron e hahwa hodima ditshepe tseo tse nne hantle. Seo NVIDIA e se tlalehang bakeng sa motheo wa Nemotron 3 Ultra — dipalo tse tlalehilweng ke morekisi hodima model e sa pitikwang, tseo re sa kang ra di matha:
Dintho tse pedi tse hlokomedisang di bohlokwa ho feta dipalo. Palo ya SWE-Bench Verified ke sebaka — NVIDIA e tlaleha 65.0% ho isa ho 70.4% ho ya ka hore na ke sesebediswa sefe sa agent se e mathang (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), mme phapang ya dintlha tse hlano e tswang moralong feela e bontsha kamoo dipalo tsa di-agent di itshetlehileng ka sesebediswa ho ena le model. Mme Artificial Analysis e behile Nemotron 3 Ultra ho 48 tshupisong ya yona ya Intelligence Index, ya bo 9 ho di-model tse 89 — e matla, empa e seng e ka sehloohong lefapheng, mme tekanyo ya bona e ikemetseng ke eona eo re ka e behang kaholimo ho slaete ya morekisi ofe kapa ofe.
Molokong o fetileng, pampiri ya NVIDIA ya Llama-Nemotron e tlaleha LN-Ultra ho 76.0% ho GPQA-Diamond kgahlanong le 71.5% ya DeepSeek-R1 le 43.4% ya Llama-3.1-405B-Instruct, hammoho le 80.8% ho AIME 2024 — model e fapaneng, e kenyellelitsweng hobane saense ya boemo ba dithuto tse phahameng le dipalo tsa tlhodisano e bile sepheo sa lelapa ka meloko e mmedi.
Palo e nngwe le e nngwe mona e phatlaladitswe ke motho e mong ho e seng rona. Sheba mehlodi ya mantlha ka bowena.
Dipalo tsa ditekanyetso jwalokaha di phatlaladitswe ke NVIDIA (Phupjane 2026) hodima Nemotron 3 Ultra e sa pitikwang, le ke Artificial Analysis bakeng sa ditekanyo tse ikemetseng. Meaho e pitikilweng e ka fapana. Ha re phatlalatse dipalo tsa ditekanyetso tseo re sa kang ra di netefatsa kapa re sa kgoneng ho di supa moo di tswang.
07Theko, le tlhokomediso ya ho bua haholo
Ka $0.75 ka di-token tse milione tsa kenyo le $3.30 ka di-token tse milione tsa tlhahiso, Nemotron3Ultra e dula karolong ya boraro e tlase ya lenane la rona kenyong le bohareng tlhahisong. Mehlala e sebeditsweng, hobane theko ka milione e thata ho e utlwisisa:
| Sebopeho sa kopo | Kenyo | Tlhahiso | Theko |
|---|---|---|---|
| Mokgahlelo o tlwaelehileng wa RAG | 50,000 | 4,000 | $0.051 |
| Tlhahlobo ya tokomane e telele | 150,000 | 8,000 | $0.139 |
| Kopo ya boholo bo phahameng ka ho fetisisa | 262,144 | 16,384 | $0.251 |
Kopo e nang le context e felletseng le tlhahiso e felletseng — token e nngwe le e nngwe eo sebaka se tla e amohela le token e nngwe le e nngwe eo se tla e hlahisa — e bitsa hoo e ka bang disente tse 25. Sebopeho se tshwanang ho Kimi-K3-3BIT-REAP, model ya rona e theko e phahameng ka ho fetisisa ka $3.83/$19.12, se bitsa hoo e ka bang $1.32, kapa makgetlo a 5.3 ho feta.
Jwale tlhokomediso, mme ke ya sebele. Artificial Analysis e lekantse Nemotron 3 Ultra e hlahisa di-token tsa tlhahiso tse fetang tsa mothaladi tse ka bohareng ka makgetlo a 2.3 ho pholletsa le sehlopha sa bona sa ditekanyetso. Di-model tsa ho nahana di o lefisa ho nahana, mme ena e nahana nako e telele; monyetla wa theko ka token o nyamela ha o o bapisa le tefo ka mosebetsi haeba model e nahana halelele makgetlo a mararo ho fihlela karabong e tshwanang. Thibelo e ahilwe ka hare mme e pepesitswe ho API ya rona: Nemotron 3 e koetlisitswe ka mora moo bakeng sa taolo ya tekanyetso ya ho nahana, mme reasoning_effort e a tshehetswa mona — NVIDIA e hlalosa mokgwa wa boiteko bo tlase o sebedisang di-token tsa ho nahana tse fokolang haholo ka phapanyetsano ya nepo ya palo e le nngwe. Ho ho hlophiseng, ho ntsheng tlhahisoleseding le ho keteng, e theole mme moruo o fetoha ka ho hlakileng; ho bopaki kapa ho ngola bocha ha difaele tse ngata, e phahamise mme o lefe ka boomo. Lekanya di-token tsa hao ka mosebetsi ho ena le ho bala lenane la ditheko mme o nahane.
08Ho e bitsa: dipuo tse tharo, model e le nngwe
Model e nngwe le e nngwe ho gateway e araba dibakeng tse tharo tsa API tse phallang, kahoo o ka supa client e teng ho yona ntle le ho ngola bocha kopano ya hao: /v1/chat/completions (puo ya OpenAI), /v1/messages (puo ya Anthropic), le /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'Kakaretso ya bokgoni, hore ho se ke ha eba le se o makatsang nakong ya ho kopanya:
| Bokgoni | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Fensetere ya context | Di-token tse 262,144 |
| Tlhahiso e kgolo ka ho fetisisa / kopo | Di-token tse 16,384 |
| Ho phalla | E |
| Ho bitsa disebediswa | E |
| Mekgwa ya ho nahana e bonahalang | E |
reasoning_effort | E |
json_schema (e tiileng) | E |
response_format | E |
| Pono / kenyo ya setshwantsho | Tjhe — mongolo feela |
| Lera la ho hana | Ha le yo |
Mola wa pono o tshwara batho: Nemotron3Ultra ke ya mongolo feela. Haeba mokoloko wa hao o romela ditshwantsho, sebedisa MiniMax-M3-3BIT-REAP kapa MiMo-V2.5-W8A16 ka $0.50/$2.00, kapa Kimi-K2.6-W4A16-AUTOROUND-REAP ka $0.78/$3.67 — kaofela di bona, kaofela ha di na thibelo, kaofela di hodima context e tshwanang ya di-token tse 262,144. Tshupiso e felletseng ya di-parameter e ditokomaneng tsa API.
09Moo Nemotron3Ultra e lekanang teng har'a tse leshome le metso e mmedi
Lenane ke di-model tse leshome le metso e mmedi tse se nang thibelo tse arolelanang fensetere e tshwanang ya context, dipuo tse tshwanang tse tharo le ho hloka ha lera la ho hana ho tshwanang; di fapana ka motheo, theko le bokgoni. Sebaka sa Nemotron se hlakile: pere ya mosebetsi ya ho nahana ya leloko le bulehileng — e seng e theko e tlase ka ho fetisisa, e seng e nang le bokgoni bo boholo ka ho fetisisa, empa ke eona e nang le mongolo o mongata wa sechaba ka mora boitshwaro ba yona, e lokiselitsweng ka matla STEM le di-agent.
| Model | Kenyo / 1M | Tlhahiso / 1M | Pono | E kgethele |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | E | Kgetho e theko e tlase ka ho fetisisa e bonang |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | Tjhe | Boemo ba ho pitikwa bo botshepehi bo hodimo ka ho fetisisa |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Tjhe | Ho nahana ha motheo o moholo ka theko e tlase ka ho fetisisa |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | Tjhe | STEM, di-agent, leloko le bulehileng |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | E | Pono + botshepehi ba AutoRound |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Tjhe | Tlhahlobo e tebileng ya mokgahlelo o le mong |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | E | Sedulo se hodimo ka ho fetisisa sa bokgoni |
Tse supileng ho tse leshome le metso e mmedi di bontshitswe. Lenane le felletseng — le kenyelletsang Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 le Hy3 — le ditokomaneng tsa API. Hlokomela hore Laguna-S-2.1 ha e tshehetse tlhahiso e hlophisitsweng mme inkling ha e tshehetse json_schema; Nemotron3Ultra e tshehetsa ka bobedi.
Moahisani ya haufi ka theko ke GLM-5.2-3BIT-REAP ka $0.73/$2.34, mme papiso e tshepahalang ke ena: GLM-5.2 e theko e tlase ka token, haholo tlhahisong. Nemotron e tlisa sebokelli sa koetliso se phatlaladitsweng, heke e hlakileng ya tekanyetso ya ho nahana, le nalane ya lelapa e lebisitsweng saenseng ya boemo ba dithuto tse phahameng. Ho nahana ho akaretsang ha palo e kgolo: matha e theko e tlase. Mosebetsi o tletseng STEM, wa di-agent, kapa o tlasa tlhahlobo e botsang hore na boitshwaro ba model bo tswa kae: Nemotron e lokelwa ke phapang.
10Dipotso tse botswang hangata
API ya Nemotron e se nang thibelo ke eng?
Ke sebaka sa Shannon AI se tshwereng Nemotron3Ultra 3BIT-REAP, moaho o pitikilweng wa Nemotron 3 Ultra ya NVIDIA ya di-weight tse bulehileng. E sebetsa sehlopheng sa rona sa di-GPU ntle le lera la ho hana le ntle le ho sefuwa ha tlhahiso, e pepesa context ya di-token tse 262,144 le di-token tse 16,384 tsa tlhahiso ka kopo, mme e bitsa $0.75 ka di-token tse milione tsa kenyo le $3.30 ka di-token tse milione tsa tlhahiso.
Na Nemotron ya NVIDIA ke di-weight tse bulehileng e le kannete?
E. NVIDIA e phatlaladitse Nemotron 3 Ultra ka la 4 Phupjane 2026 hammoho le di-weight, data ya koetliso le ditsela tsa ho e etsa tlasa laesense e bulehileng ya Linux Foundation ya OpenMDW-1.1, ka mora Nemotron-4 340B le lelapa la Llama-Nemotron. Ho buleha hoo ke hona ho etsang hore tshebediso e sebetsang ka boikemelo, e sa sefuweng, e kgonehe.
3BIT-REAP e bolelang?
Mehato e mmedi ya ho pitikwa. REAP — Router-weighted Expert Activation Pruning, e tswang ho Cerebras Research mme e amohetswe ho ICLR 2026 — e beha setsebi se seng le se seng sa Mixture-of-Experts maemong ho ya ka hore na router e se kgetha ka matla a makae le hore na tlhahiso ya sona e kenya letsoho hakae, ebe e lahla tse hlolehileng ka ho toba. Tse setseng di pitikwa ho ba di-weight tsa di-bit tse tharo, kahoo tekanyetso ya di-bit e sebediswa ho ditsebi tse hlileng di jereng mosebetsi.
Na Nemotron3Ultra e tshehetsa pono kapa tlhahiso ya JSON schema?
Ha ho ditshwantsho: sebaka sena ke sa mongolo feela. E tshehetsa tlhahiso e hlophisitsweng e tiileng — json_schema le response_format ka bobedi — hammoho le ho bitsa disebediswa, ho phalla, mekgwa ya ho nahana e bonahalang le reasoning_effort. Bakeng sa ditshwantsho ho model e se nang thibelo, sebedisa MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 kapa inkling sebakeng sa yona.
Ke hobaneng ha context e le di-token tse 262,144 ha NVIDIA e phatlalatsa tse 1M?
Moaho wa Nemotron 3 o lebisitswe fensetereng ya di-token tse milione mme NVIDIA e tlaleha 94.7% ho RULER bolelele boo. Tshebediso ya rona e fana ka di-token tse 262,144, fensetere eo re e tshwarang ka lebelo le felletseng ho pholletsa le lenane lohle. Model e nngwe le e nngwe ho gateway e pepesa context e tshwanang, kahoo o ka fetola di-id tsa di-model ntle le ho ngola bocha ho arola ha hao.
Na Nemotron e lokela dipalo, saense le khoutu?
STEM le ho nahana ke sepheo se boletsweng sa lelapa. NVIDIA e tlaleha 90% ho PinchBench, 65.0-70.4% ho SWE-Bench Verified ho pholletsa le disebediswa tse hlano tsa di-agent le 56.4% ho Terminal-Bench 2.1 bakeng sa Nemotron 3 Ultra; Llama-Nemotron Ultra ya pele e tlalehile 76.0% ho GPQA-Diamond kgahlanong le 71.5% ya DeepSeek-R1. Tsohle di tlalehilwe ke morekisi hodima motheo o sa pitikwang.
Bitsa API ya Nemotron e se nang thibelo
Context ya 262K, ho bitsa disebediswa, JSON schema e tiileng, ha ho lera la ho hana — $0.75 kenyo / $3.30 tlhahiso ka di-token tse 1M.
Bala Ditokomane tsa API Dikarete tsohle tsa di-ModelShannon Lab LLC · New Mexico, USA · tshebediso e busiwa ke Leano la rona la Tshebediso e Nang le Boikarabelo
Mehlodi: Tlaleho ya boenjiniere ya NVIDIA Nemotron 3 Ultra · Blog ya bahlahisi ya NVIDIA (Phupjane 2026) · Dintlha tsa moaho tsa Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Ditekanyetso tsa motheo di tlalehilwe ke NVIDIA hodima model e sa pitikwang ntle le haeba di supiwa ho Artificial Analysis; meaho e pitikilweng e ka fapana. Ditheko le bokgoni di sebetsa ho tloha ka la 5 Loetse 2026.