වාරණයෙන් තොර Nemotron API
NVIDIA හි පර්යේෂණ පෙළපත, විවෘතව ප්‍රකාශිතව, ප්‍රතික්ෂේප ස්තරයක් නොමැතිව සේවා කරයි: STEM සහ දිගු-කාලීන තර්කනය සඳහා සකසන ලද 550B දෙමුහුන් Mamba-Attention MoE — මිලියනයකට $0.75 ආදාන / $3.30 ප්‍රතිදාන මිලකට.
TL;DR
Nemotron3Ultra-3BIT-REAP යනු NVIDIA Nemotron 3 Ultra හි Shannon හි වාරණයෙන් තොර යෙදවීමයි — ටෝකනයකට 55B ක්‍රියාකාරී ඇති, 2026 ජූනි 4 වන දින බර, පුහුණු දත්ත සහ රෙසිපි සමඟ Linux Foundation හි අවසර සහගත OpenMDW-1.1 බලපත්‍රය යටතේ නිකුත් කළ, පරාමිති බිලියන 550ක Mixture-of-Experts ආකෘතියකි. අපගේම GPU පොකුරේ එය ප්‍රතික්ෂේප ස්තරයක් හෝ ප්‍රතිදාන පෙරහනක් නොමැතිව, 262,144-ටෝකන සන්දර්භයක්, ඉල්ලීමකට ප්‍රතිදාන ටෝකන 16,384ක් දක්වා, මෙවලම් ඇමතුම්, ප්‍රවාහනය, තර්කන පථ සහ දැඩි json_schema ප්‍රතිදානය සමඟ ධාවනය වේ. එය රූප නොගනියි. මිල: මිලියනයකට $0.75 / $3.30.
බොහෝ "විවෘත" ආකෘති තිබෙන්නේ විවෘත බර පමණි, ඊට වඩා කිසිවක් නැත — පරාමිති tarball එකක්, බලපත්‍රයක්, සහ සංඛ්‍යා පැමිණියේ කොහෙන්ද යන්න පිළිබඳ නිශ්ශබ්දතාවක්. Nemotron වසර දෙකක් තිස්සේ ස්ථාවර ව්‍යතිරේකයයි: NVIDIA බර, පශ්ච-පුහුණු දත්ත කට්ටල, RL පරිසර සහ රෙසිපි නිකුත් කරයි. එය මග හැරීමට පහසු ආකාරයකින් වාරණයෙන් තොර අන්තයක් සඳහා වැදගත් වේ. පෙළගැස්වීමේ දත්ත ප්‍රකාශිත ආකෘතියක් යනු ඔබට අනුමාන කරනවා වෙනුවට ප්‍රතික්ෂේප හැසිරීම ගැන තර්ක කළ හැකි එකකි — සහ එහි කටේ අන්තර්ගත පෙරහනක් සවි නොකර තෙවන පාර්ශවයකට නීත්‍යානුකූලව යෙදවිය හැකි එකකි.
01Nemotron 3 Ultra යනු කුමක්ද?
Nemotron 3 Ultra යනු NVIDIA හි Nemotron 3 පවුලේ විශාලතම සාමාජිකයා වන අතර, 2026 ජූනි 4 වන දින Hugging Face වෙත නිකුත් කරන ලදී. NVIDIA හි තාක්ෂණික වාර්තාව එය "පරාමිති බිලියන 550ක් සම්පූර්ණයෙන් සහ බිලියන 55ක් ක්‍රියාකාරී Mixture-of-Experts දෙමුහුන් Mamba-Attention භාෂා ආකෘතියක්" ලෙස විස්තර කරයි — ලබා දුන් ඕනෑම ටෝකනයක් සඳහා ජාලයෙන් ක්‍රියා කරන්නේ දළ වශයෙන් 10%ක් පමණි, එමගින් ට්‍රිලියනයකට අර්ධ පරාමිතියක් සහිත ආකෘතියක් සේවා කිරීමට හැකි වේ.
වාර්තා කර ඇති සැලසුම නම් ස්ථර 108ක්, ආකෘති මානය 8,192ක්, Mamba-2 state-space ස්තර සම්පූර්ණ අවධාන ස්තර සුළු කොටසක් සමඟ අන්තර්ගෙතුම් කිරීම, top-22 මාර්ගගත කිරීම සමඟ MoE ස්තරයකට විශේෂඥයන් 512ක්. පුහුණුව අදියර දෙකකින්, දළ වශයෙන් පෙළ ටෝකන ට්‍රිලියන 20ක් මත ධාවනය විය — විවිධත්වයට නැඹුරු, පසුව ගුණාත්මකභාවයට නැඹුරු — 2025 සැප්තැම්බර් කප්පාදු දිනයක්, ස්වාභාවික භාෂා 12ක් සහ ක්‍රමලේඛන භාෂා 43ක් සමඟ. පශ්ච-පුහුණුව SFT, තහවුරු කළ හැකි ත්‍යාග සහිත බහු-පරිසර RL, සහ විශේෂඥ ගුරුවරු දහයකට වඩා හරහා Multi-Teacher On-Policy Distillation භාවිතා කළේය. ප්‍රකාශිත සැලසුම් ඉලක්කය දිගු-ධාවන agents ය: විශාල සන්දර්භයක් රඳවා ගන්නා, මෙවලම් දුසිම් ගණනක් ඇමතුම් කරන, සහ ටෝකනයකට වන ආර්ථිකය බිල්පත ආධිපත්‍යය දරන තරම් දිගු කාලයක් ධාවනය වන සැසි.
02Nemotron පෙළපත, සහ පෙළපත වැදගත් වන්නේ ඇයි
Nemotron තනි නිකුතුවක් නොවේ. එය 2024 සිට එකම දිශාවට ධාවනය වන NVIDIA පර්යේෂණ වැඩසටහනක දෘශ්‍යමාන ප්‍රතිදානයයි, සෑම පරම්පරාවක්ම වත්මන් ආකෘතිය තවමත් රැගෙන යන යමක් ඉතිරි කළේය. Nemotron-4 340B (2024 ජූනි) විවෘත සංශ්ලේෂිත දත්ත උත්පාදන pipeline එකක්, එහි ත්‍යාග ආකෘතිය සහ එහි උත්පාදකය සමඟ, මීට අමතරව අසාමාන්‍ය හෙළිදරව්වක් සමඟ නිකුත් කරන ලදී: එහි පෙළගැස්වීමේ දත්තවලින් වැඩි කොටසම ආකෘතිය-උත්පාදිත විය. ආකෘතිය ප්‍රවාදනයක් වෙනුවට දත්ත කර්මාන්තශාලාවක් වීම නිසාම පසුකාලීන Nemotron නිකුතු බර සමඟ දත්ත කට්ටල නිකුත් කිරීම දිගටම කරගෙන යයි.
Llama-Nemotron — ක්‍රියා විරහිත කළ හැකි තර්කනය
2025 Llama-Nemotron පවුල (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) හොඳින් ගැලපුණු අදහස් දෙකක් ලබා දුන්නේය. පළමුවැන්න ගෘහනිර්මාණ ශිල්පීයයි: NVIDIA හි Puzzle ස්නායු ගෘහනිර්මාණ ශිල්ප සෙවීම block-wise-distilled ට්‍රාන්ස්ෆෝමර් blocks පුස්තකාලයක් ගොඩනඟා mixed-integer programming සමඟ ඒවා එකලස් කළේය, එහි ප්‍රතිඵලයක් ලෙස සමහර blocks අවධානය සම්පූර්ණයෙන්ම මඟ හරින හෝ එය තනි රේඛීය ස්තරයකින් ප්‍රතිස්ථාපනය කරන ආකෘති නිපදවීය, එමෙන්ම FFN Fusion අනුක්‍රමික feed-forward blocks අඩුවෙන්, පළල්ව, සමාන්තරව ඒකාබද්ධ කළේය — පරාමිති ගණන වෙනුවට අනුක්‍රමික ගැඹුර කපා. LN-Ultra තනි 8×H100 නෝඩයකට ගැලපුනු අතර, NVIDIA හි පත්‍රිකාවට අනුව, GPQA-Diamond මත DeepSeek-R1 ට වඩා (76.0% එදිරිව 71.5%) ඉහළින් ක්‍රියා කළේය.
දෙවැන්න හැසිරීම් සම්බන්ධ එකකි: Llama-Nemotron යනු ගතික තර්කන මාරුවක් සහිත පළමු විවෘත පවුල විය, එය පද්ධති උපදෙසෙහි පුහුණු දත්ත detailed thinking on හෝ detailed thinking off ලෙස ටැග් කරන අතර, on-මාදිලියේ <think> ටැග් බලාත්මක කරන ආකෘති ත්‍යාග සමඟ. එක් බර කට්ටලයක්, හැසිරීම් දෙකක්, අනුමානයේදී තෝරාගත හැකි. Nemotron 3 හි තර්කන අයවැය පාලනය — සහ අපගේ API හි reasoning_effort පරාමිතිය — කෙලින්ම එම කාර්යයෙන් පැවත එයි.
Nemotron 3 — දෙමුහුන් හැරීම
Nemotron 3 Llama ව්‍යුත්පන්නය ආරම්භයේ සිටම දෙමුහුන් ගෘහනිර්මාණ ශිල්පයකින් ප්‍රතිස්ථාපනය කර LatentMoE (මාර්ගගත කිරීමට පෙර ටෝකන සම්පීඩනය, "එකම අනුමාන පිරිවැයට 4x විශේෂඥයන් ගණනක්" ඉඩ දෙන බව NVIDIA පවසයි), multi-token prediction, සහ ස්වදේශික NVFP4 පූර්ව-පුහුණුව එකතු කළේය. NVIDIA බර සමඟ එකතුව SFT නියැදි මිලියන 50ක්, RL කාර්යයන් මිලියන 2ක් සහ RL පරිසර 55ක් ප්‍රකාශයට පත් කළේය — ආකෘතියට උගන්වන ලද්දේ කුමක්ද යන්න වෙනුවෙන් ඔබ වෙළෙන්දකුගේ වචනය විශ්වාස කිරීමට අවශ්‍ය නැත, මන්ද ඉගැන්වීමේ ද්‍රව්‍ය බාගත කළ හැකි නිසාය.
03දෙමුහුන් ගෘහනිර්මාණ ශිල්පය ලබා දෙන්නේ කුමක්ද
ට්‍රාන්ස්ෆෝමරයක KV cache අනුක්‍රම දිග සමඟ රේඛීයව වර්ධනය වේ, එබැවින් දිගු-සන්දර්භ අනුමානය ගණනය කිරීමට පෙර මතකයේදී මිල අධික වේ. Mamba-2 ස්තර යනු fixed-size පුනරාවර්තී තත්වයක් රැගෙන යන state-space ආකෘති වන අතර, ඒවායේ ටෝකනයකට මතක පිරිවැය ඉතිහාසය සමඟ වර්ධනය නොවේ; ඒවා අඩුව ඇත්තේ නිවැරදි associative recall හි ය. දෙමුහුන අනුක්‍රම සැකසුමේ බහුතරය සඳහා Mamba-2 සමඟ, state-space ස්තර අපොහොසත් වන recall සඳහා සැබෑ අවධාන ස්තර සුළුතරයක් රඳවා ගනී, cache තවත් හකුළුවන 64-query-head / 2-KV-head අනුපාතයක් සමඟ. NVIDIA ටෝකන 1M දී RULER මත 94.7%ක් වාර්තා කරයි — ආකෘති කළ නොහැකි කවුළුවක් හිමිකම් කියන ආකෘති අල්ලා ගැනීමට ගොඩනගන ලද needle-retrieval ප්‍රමිතියකි.
ප්‍රතිඵලය ප්‍රතිදාන වේගයයි: NVIDIA සමානාත්මක නිරවද්‍යතාවකදී සැසඳිය හැකි ආකෘතිවලට වඩා දළ වශයෙන් 6x ඉහළ අනුමාන ප්‍රතිදාන වේගයක් ප්‍රකාශ කරන අතර, Artificial Analysis ස්වාධීනව තත්පරයකට ටෝකන 140.3ක් මුල් ටෝකනයට තත්පර 1.33ක කාලයක් සමඟ මැන ඇත — ආකෘති 89න් 7 වැනි ස්ථානය. පැතුරුම් 200ක agent ධාවනයකදී එය සවස වන විට අවසන් වීම සහ නොවීම අතර වෙනසයි.
04"3BIT-REAP" ඇත්තටම අදහස් කරන දේ
මෙම විශේෂණය අලංකරණයක් නොවේ — පදනම ගැලපීමට කුමක් කරන ලද්දේද යන්න එය හරියටම කියයි.
REAP — Router-weighted Expert Activation Pruning — Cerebras Research වෙතින් පැමිණෙන අතර ICLR 2026 සඳහා පිළිගැනීමට ලක් විය. විරල MoE එකක router එක එක ටෝකනය විශේෂඥයන් අතලොස්සකට යවයි; සැබෑ වැඩකරු බරකදී සමහරු නොනවත්වා පහර ලබන අතර අනෙක් අය පාහේ කිසි විටෙකත් නොවේ. REAP සෑම විශේෂඥයෙකුම router එය කොපමණ තදින් ගේට් කරයිද සහ එහි ප්‍රතිදාන දායකත්වය කොපමණ විශාලද යන දෙකම ඒකාබද්ධ කරන saliency නිර්ණායකයක් මත ලකුණු කරයි, පසුව අඩුම වැදගත් ඒවා සම්පූර්ණයෙන්ම ඉවත් කරයි — Cerebras පරාමිති ට්‍රිලියනයක තරම් විශාල ආකෘතිවලින් විශේෂඥයන්ගෙන් 50%ක් දක්වා කප්පාදු කරමින්, මූලික ගුණාත්මකභාවය බොහෝ දුරට රඳවා ගනිමින්, කේත වැනි උත්පාදන කාර්යයන් සඳහා කප්පාදුව ඒකාබද්ධ කිරීමට වඩා (merging) ඉක්මවා යන බව සොයාගෙන ඇති බව වාර්තා කරයි. 3-bit ප්‍රමාණකරණය පසුව ඉතිරි වන දේ සම්පීඩනය කරයි. පළමුව කප්පාදුව, පසුව ප්‍රමාණකරණය, එබැවින් bit අයවැය හිස් ඒවා හරහා විසිරී යනවා වෙනුවට ගමනාගමනය දරන විශේෂඥයන් වෙත යයි.
සම්පීඩනය නොමිලේ නොවේ, එය අප වසන් නොකරමු: ආක්‍රමණශීලී ප්‍රමාණකරණය මුලින්ම පෙනෙන අසංගතභාවයක් ලෙස නොව, නිශ්චිත-ආකෘති අනුකූලතාවේ සහ දිගු-දාම ගණිතයේ කුඩා පිරිහීම් ලෙස පෙන්නුම් කරයි. ස්තර තුන ඉන්නා තැන:
| විශේෂණය | එය කුමක්ද | අප භාවිත කරන තැන |
|---|---|---|
| 3BIT-REAP | 3-bit බර + විශේෂඥ කප්පාදුව | වේගයෙන් වෙන කිසිවක් නොගැලපෙන විශාලතම පදනම් |
| W4A16-AUTOROUND-REAP | 4-bit බර / 16-bit ක්‍රියාකාරකම්, AutoRound ඉගෙනගත් වටයනය, + කප්පාදුව | මධ්‍යම-ප්‍රමාණයේ පදනම්; AutoRound ස්වාභාවික round-to-nearest වඩා නිරවද්‍යතාව ලබා ගනී |
| W8A16 | 8-bit බර / 16-bit ක්‍රියාකාරකම් | ඉහළම විශ්වසනීයත්වය; ආක්‍රමණශීලී සම්පීඩනයක් අවශ්‍ය නොවන තරම් කුඩා පදනම් |
550B හි Nemotron 3 Ultra පළමු කාණ්ඩයට හරියටම ගැලපේ. ඔබේ වැඩකරු බර දිගු දාම හරහා නිශ්චිත සංඛ්‍යාත්මක ප්‍රතිදානයට අසාමාන්‍ය ලෙස සංවේදී නම්, පර්යේෂණ නාමාවලියේ $0.50/$2.00 මිල අවම මට්ටමින් W8A16 ස්තරය — MiMo-V2.5-Pro-W8A16 සහ Hy3-W8A16 — ලැයිස්තුගත කර ඇත. සැබෑ හුවමාරුවක්, කැල්ලක් නොවේ: කුඩා ආකෘතිය, අඩු සම්පීඩනය.
05මෙම අන්තයේ "වාරණයෙන් තොර" යනු කුමක්ද
නිශ්චිතව: ප්‍රතික්ෂේප ස්තරයක් හෝ ප්‍රතිදානයට යොදන අන්තර්ගත පෙරහනක් නැත. කිසිදු වර්ගීකාරකයක් ඔබේ විමසුම පරීක්ෂා කර සකසන ලද ප්‍රතික්ෂේපයක් ලබා නොදෙයි, ප්‍රතිචාරය ඔබේ ප්‍රවාහයට ළඟා වීමට පෙර පරිලෝකනය නොකෙරේ. ඔබට ලැබෙන්නේ ආකෘතියේම හැසිරීමයි.
මෙතැනදී විවෘත පෙළපත සුළු කරුණක් වීම නවතී. NVIDIA පශ්ච-පුහුණු දත්ත සහ RL පරිසර ප්‍රකාශයට පත් කර ඇති නිසා, ආකෘතියේ ස්වභාවයන් ජනශ්‍රැති වෙනුවට මූලධර්මාත්මකව විගණනය කළ හැක. එමෙන්ම OpenMDW-1.1 ගෘහනිර්මාණ ශිල්පය, පරාමිති, ලේඛන සහ මෘදුකාංග ආවරණය කරන අවසර සහගත Linux Foundation බලපත්‍රයක් නිසා, ස්වාධීන මෙහෙයුම්කරුවෙකුට තමන්ගේම දෘඪාංග මත වෙනස් කළ, පෙරහන් රහිත යෙදවීමක් සේවා කළ හැක්කේ බලපත්‍රය බාධාවක් නොවී. බොහෝ "විවෘත" ආකෘති බලපත්‍ර එයට ඉඩ නොදෙයි. මෙය ඉඩ දෙයි. ප්‍රතික්ෂේපිත ප්‍රතික්ෂේපය ආරක්ෂක විශේෂාංගයක් නොව දෝෂයක් වන තැන් වෙනස පෙනෙන්නේ:
- ආරක්ෂක පර්යේෂණ — දුර්වලතා විශ්ලේෂණය, exploit තර්කනය, malware හැසිරීම, red-team මෙවලම්, ප්‍රශ්නය අවසර දී ඇත්ද යන්න පිළිබඳ තර්ක කිරීමකින් තොරව.
- රසායන විද්‍යාව, ජීව විද්‍යාව සහ ඖෂධ විද්‍යාව — මාත්‍රා ගණිතය, ප්‍රතික්‍රියා යාන්ත්‍රණ, විෂ විද්‍යාව, පෙරහන් කළ අන්තයක් keyword සම්බන්ධතාවෙන් ප්‍රතික්ෂේප කරන සංශ්ලේෂණ මාර්ග.
- Adversarial ML — සැබෑ දේ දැක ඇති අවශ්‍යතාවක් ඇති වර්ගීකාරක සඳහා අමාරු negatives, jailbreak corpora සහ අපයෝජන taxonomies.
- සායනික, නීතිමය සහ අධිකරණ පෙළ — ස්වභාවයෙන්ම දරුණු වන, එබැවින්ම ප්‍රතික්ෂේප වන නඩු ද්‍රව්‍ය.
වාරණයෙන් තොර වීම වගකීම් රහිත බවක් නොවේ. ඔබ උත්පාදනය කරන දේ ඔබ සතුය, ඔබේ ගිණුම අපගේ වගකීම් සහගත භාවිත ප්‍රතිපත්තිය සහ සේවා කොන්දේසි මගින් පාලනය වේ. ප්‍රතික්ෂේප ස්තරයක් ඉවත් කිරීම අභිප්‍රාය ගැන අනුමානයක් ඉවත් කරයි; එය ඔබට අදාළ නීතිය යටතේ ඔබේ බැඳීම් ඉවත් නොකරයි.
06STEM සහ තර්කනය: ප්‍රකාශිත සංඛ්‍යා පවසන්නේ කුමක්ද
Llama-Nemotron පශ්ච-පුහුණු දත්ත කට්ටලය එම අක්ෂ හතර වටා ගොඩනඟන ලද දා සිටම Nemotron හි පුහුණු අවධානය ගණිතය, කේත, විද්‍යාව සහ උපදෙස් අනුගමනයයි. NVIDIA Nemotron 3 Ultra පදනම සඳහා වාර්තා කරන දේ — සම්පීඩනය නොකළ ආකෘතිය මත වෙළෙන්දා-වාර්තා කළ සංඛ්‍යා, අප ධාවනය නොකළ ඒවා:
සංඛ්‍යාවලට වඩා වටිනා අවවාද දෙකක්. SWE-Bench Verified සංඛ්‍යාව පරාසයකි — කුමන agent රාමුව ධාවනය කරයිද (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent) යන්න මත පදනම්ව NVIDIA 65.0% සිට 70.4% දක්වා වාර්තා කරයි, scaffolding එකෙන් පමණක් ලකුණු පහක පරාසයක් agentic ලකුණු ආකෘතියට වඩා framework මත කෙතරම් රඳා පවතීද යන්න පෙන්වයි. එමෙන්ම Artificial Analysis Nemotron 3 Ultra ඔවුන්ගේ Intelligence Index මත 48ක්, ආකෘති 89න් 9 වැනි ස්ථානයේ තැබීය — ශක්තිමත්, නමුත් ක්ෂේත්‍රයේ ඉහළම නොවේ, ඕනෑම වෙළෙන්දකුගේ slide එකකට වඩා අප බර කරන්නේ ඔවුන්ගේ ස්වාධීන මිනුමයි.
පෙර පරම්පරාව මත, NVIDIA හි Llama-Nemotron පත්‍රිකාව DeepSeek-R1 හි 71.5% සහ Llama-3.1-405B-Instruct හි 43.4%ට එරෙහිව LN-Ultra GPQA-Diamond මත 76.0%ක්, මීට අමතරව AIME 2024 මත 80.8%ක් වාර්තා කරයි — වෙනස් ආකෘතියක්, එය ඇතුළත් කර ඇත්තේ ශාස්ත්‍රපති-මට්ටමේ විද්‍යාව සහ තරඟකාරී ගණිතය පරම්පරා දෙකක් තිස්සේ පවුලේ ඉලක්කය වී ඇති නිසාය.
මෙහි සෑම සංඛ්‍යාවක්ම අප නොවන කෙනෙකු විසින් ප්‍රකාශයට පත් කරන ලද්දකි. මූලාශ්‍ර ඔබම පරීක්ෂා කරන්න.
ප්‍රමිති සංඛ්‍යා NVIDIA විසින් (2026 ජූනි) සම්පීඩනය නොකළ Nemotron 3 Ultra මත, සහ Artificial Analysis විසින් ස්වාධීන මිනුම් සඳහා ප්‍රකාශයට පත් කරන ලද පරිදිය. සම්පීඩිත ආකෘති වෙනස් විය හැක. අප සත්‍යාපනය නොකළ හෝ ආරෝපණය කළ නොහැකි ප්‍රමිති සංඛ්‍යා අප ප්‍රකාශයට පත් නොකරමු.
07මිල, සහ වචන ගණන පිළිබඳ අවවාදය
ආදාන ටෝකන මිලියනයකට $0.75ක් සහ ප්‍රතිදාන ටෝකන මිලියනයකට $3.30ක් යටතේ, Nemotron3Ultra ආදානයේදී අපගේ නාමාවලියේ පහළ තුනෙන් එකේත්, ප්‍රතිදානයේදී මධ්‍යයේත් වේ. ක්‍රියාත්මක උදාහරණ, මන්ද මිලියනයකට මිල දැනීමට අපහසු නිසා:
| ඇමතුම් හැඩය | ආදානය | ප්‍රතිදානය | වියදම |
|---|---|---|---|
| සාමාන්‍ය RAG පැතුරුමක් | 50,000 | 4,000 | $0.051 |
| දිගු ලේඛන විශ්ලේෂණය | 150,000 | 8,000 | $0.139 |
| උපරිම-ප්‍රමාණයේ ඇමතුමක් | 262,144 | 16,384 | $0.251 |
අන්තය පිළිගන්නා සෑම ටෝකනයක්ම සහ එය නිපදවන සෑම ටෝකනයක්ම භාවිත කරන පූර්ණ-සන්දර්භ, පූර්ණ-ප්‍රතිදාන ඉල්ලීමකට වැය වන්නේ සත 25ක් පමණි. $3.83/$19.12 සමඟ අපගේ මිල අධිකම ආකෘතිය වන Kimi-K3-3BIT-REAP මත එකම හැඩයට වැය වන්නේ $1.32ක් පමණි, එනම් 5.3x වැඩිය.
දැන් අවවාදය, එය සැබෑය. Artificial Analysis Nemotron 3 Ultra ඔවුන්ගේ ප්‍රමිති කට්ටලය පුරාවට මධ්‍ය සම-ආකෘතියට වඩා 2.3x වැඩි ප්‍රතිදාන ටෝකන උත්පාදනය කරන බව මැන ඇත. තර්කන ආකෘති ඔබට සිතීම සඳහා බිල් කරයි, මෙය දිගින් සිතන්නෙකි; එකම පිළිතුරට ළඟා වීමට ආකෘතිය තුන් ගුණයක් තර්ක කරන්නේ නම් ටෝකනයකට මිල වාසිය කාර්යයකට අවාසියකට වාෂ්ප වී යයි. සමනය කිරීම ගොඩනගා ඇති අතර අපගේ API මතද නිරාවරණය කර ඇත: Nemotron 3 තර්කන අයවැය පාලනය සඳහා පශ්ච-පුහුණු කර ඇති අතර, reasoning_effort මෙහි සහාය දක්වයි — NVIDIA එක ඉලක්කම් නිරවද්‍යතා හුවමාරුවක් සඳහා සැලකිය යුතු ලෙස අඩු සිතන ටෝකන භාවිත කරන අඩු-ප්‍රයත්න මාදිලියක් විස්තර කරයි. වර්ගීකරණය, උපුටා ගැනීම සහ මාර්ගගත කිරීම මත, එය පහළට හරවන්න, ආර්ථිකය සැලකිය යුතු ලෙස වෙනස් වේ; සාක්ෂියක් හෝ බහු-ගොනු ප්‍රතිනිර්මාණයක් මත, එය ඉහළට හරවා දැනුවත්ව එයට වැය කරන්න. මිල ලැයිස්තුව කියවා අනුමාන කිරීම වෙනුවට ඔබේම කාර්යයකට-ටෝකන මනින්න.
08එය ඇමතීම: උපභාෂා තුනක්, ආකෘතියක්
එන්ජිමේ සෑම ආකෘතියක්ම ප්‍රවාහ API මුහුණත් තුනක් මත පිළිතුරු දෙයි, එබැවින් ඔබට ඔබේ ඒකාබද්ධතාව නැවත ලිවීමකින් තොරව පවතින client එකක් එය වෙත යොමු කළ හැක: /v1/chat/completions (OpenAI උපභාෂාව), /v1/messages (Anthropic උපභාෂාව), සහ /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'හැකියා සාරාංශය, එබැවින් ඒකාබද්ධ කරන අවස්ථාවේදී කිසිවක් ඔබට පුදුමයක් නොවේ:
| හැකියාව | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| සන්දර්භ කවුළුව | 262,144 ටෝකන |
| උපරිම ප්‍රතිදානය / ඉල්ලීම | 16,384 ටෝකන |
| ප්‍රවාහනය | ඔව් |
| මෙවලම් ඇමතුම් | ඔව් |
| තර්කන පථ | ඔව් |
reasoning_effort | ඔව් |
json_schema (දැඩි) | ඔව් |
response_format | ඔව් |
| දෘශ්‍ය / රූප ආදානය | නැත — පෙළ පමණි |
| ප්‍රතික්ෂේප ස්තරය | නැත |
දෘශ්‍ය පේළිය මිනිසුන් අල්ලා ගනියි: Nemotron3Ultra පෙළ පමණි. ඔබේ pipeline එක රූප යවයි නම්, MiniMax-M3-3BIT-REAP හෝ $0.50/$2.00 සමඟ MiMo-V2.5-W8A16, හෝ $0.78/$3.67 සමඟ Kimi-K2.6-W4A16-AUTOROUND-REAP භාවිත කරන්න — සියල්ලම දෘශ්‍ය හැකියාවෙන් යුක්ත, සියල්ලම වාරණයෙන් තොර, සියල්ලම එකම 262,144-ටෝකන සන්දර්භය මත. සම්පූර්ණ පරාමිති යොමුව API ලේඛනවල ඇත.
09දොළහ අතරින් Nemotron3Ultra ගැලපෙන්නේ කොහෙද
නාමාවලිය එකම සන්දර්භ කවුළුව, එකම උපභාෂා තුන සහ ප්‍රතික්ෂේප ස්තරයක නොපැවතීම බෙදාගන්නා වාරණයෙන් තොර ආකෘති දොළහකි; ඒවා පදනම, මිල සහ හැකියාව අනුව වෙනස් වේ. Nemotron හි ස්ථානය නිශ්චිතයි: විවෘත-පෙළපත් තර්කන වැඩකරු — ලාභම නොවේ, වඩාත් ශක්තිමත් නොවේ, නමුත් එහි හැසිරීම පිටුපස වඩාත්ම ප්‍රසිද්ධ paper trail එකක් ඇති, STEM සහ agents වෙත දැඩිම ලෙස සකසන ලද එකයි.
| ආකෘතිය | ආදාන / 1M | ප්‍රතිදාන / 1M | දෘශ්‍ය | තෝරන්න |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | ඔව් | ලාභම දෘශ්‍ය හැකියා විකල්පය |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | නැත | ඉහළම-විශ්වසනීයත්ව ප්‍රමාණකරණ ස්තරය |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | නැත | ලාභම විශාල-පදනම් තර්කනය |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | නැත | STEM, agents, විවෘත පෙළපත |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | ඔව් | දෘශ්‍යතාව + AutoRound විශ්වසනීයත්වය |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | නැත | ගැඹුරු තනි-ගමන් විශ්ලේෂණය |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | ඔව් | නිරපේක්ෂ හැකියා සීමාව |
දොළහෙන් හත ඉදිරිපත් කර ඇත. Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 සහ Hy3 ඇතුළු සම්පූර්ණ නාමාවලිය API ලේඛනවල ඇත. සලකන්න, Laguna-S-2.1 ව්‍යුහගත ප්‍රතිදානයට සහාය නොදක්වයි, inkling json_schemaට සහාය නොදක්වයි; Nemotron3Ultra දෙකටම සහාය දක්වයි.
මිල අනුව ආසන්නතම අසල්වැසියා GLM-5.2-3BIT-REAP වන අතර $0.73/$2.34ට; අවංක සැසඳීම මෙයයි: GLM-5.2 ටෝකනයකට ලාභයි, විශේෂයෙන් ප්‍රතිදානයේදී. Nemotron ප්‍රකාශිත පුහුණු corpus එකක්, පැහැදිලි තර්කන-අයවැය dial එකක්, සහ ශාස්ත්‍රපති-මට්ටමේ විද්‍යාව ඉලක්ක කළ පවුල් ඉතිහාසයක් ගෙන එයි. ඉහළ-පරිමාණ සාමාන්‍ය තර්කනය: ලාභ එක ධාවනය කරන්න. STEM-බර, agentic, හෝ ආකෘතියේ හැසිරීම පැමිණියේ කොහෙන්ද යන්න විචාරයට ලක්වන විගණනයකට යටත්: Nemotron වෙනස උපයයි.
10නිතර අසන ප්‍රශ්න
වාරණයෙන් තොර Nemotron API යනු කුමක්ද?
එය Nemotron3Ultra 3BIT-REAP සඳහා වන Shannon AI හි සත්කාරක අන්තයයි, එය NVIDIA හි විවෘත-බර Nemotron 3 Ultra හි සම්පීඩිත සංස්කරණයකි. එය අපගේම GPU පොකුරේ ප්‍රතික්ෂේප ස්තරයක් හෝ ප්‍රතිදාන පෙරහනක් නොමැතිව ධාවනය වන අතර, ඉල්ලීමකට 262,144-ටෝකන සන්දර්භයක් සහ 16,384 ප්‍රතිදාන ටෝකන නිරාවරණය කරයි, ආදාන ටෝකන මිලියනයකට $0.75ක් සහ ප්‍රතිදාන ටෝකන මිලියනයකට $3.30ක් වැය වේ.
NVIDIA Nemotron ඇත්තටම විවෘත-බරද?
ඔව්. NVIDIA Nemotron 3 Ultra 2026 ජූනි 4 වන දින බර, පුහුණු දත්ත සහ රෙසිපි සමඟ Linux Foundation හි අවසර සහගත OpenMDW-1.1 බලපත්‍රය යටතේ ප්‍රකාශයට පත් කළේය, එය Nemotron-4 340B සහ Llama-Nemotron පවුලෙන් අනුගමනය කරන ලද්දකි. එම විවෘත බව නිසාම ස්වාධීනව මෙහෙයවනු ලබන, පෙරහන් රහිත යෙදවීමක් කළ හැකි වේ.
3BIT-REAP යනු කුමක්ද?
සම්පීඩන පියවර දෙකක්. REAP — Router-weighted Expert Activation Pruning — Cerebras Research වෙතින් පැමිණෙන අතර ICLR 2026 සඳහා පිළිගැනීමට ලක් විය. එය සෑම Mixture-of-Experts විශේෂඥයෙකුම router විසින් කොපමණ තදින් ගේට් කරනවාද සහ එහි ප්‍රතිදාන දායකත්වය කොපමණ විශාලද යන දෙකම ඒකාබද්ධ කරමින් ලකුණු කරයි, පසුව අඩුම වැදගත් ඒවා සම්පූර්ණයෙන්ම ඉවත් කරයි. ඉතිරිව ඇත්තෝ 3-bit බරට ප්‍රමාණකරණය කෙරෙති, එබැවින් bit අයවැය වැයවන්නේ ඇත්තටම ගමනාගමනය දරන විශේෂඥයන් සඳහාය.
Nemotron3Ultra දෘශ්‍ය හෝ JSON schema ප්‍රතිදානය සඳහා සහාය දක්වයිද?
රූප නැත: මෙම අන්තය පෙළ පමණි. එය දැඩි ව්‍යුහගත ප්‍රතිදානය සඳහා සහාය දක්වයි — json_schema සහ response_format දෙකම — මීට අමතරව මෙවලම් ඇමතුම්, ප්‍රවාහනය, තර්කන පථ සහ reasoning_effort. වාරණයෙන් තොර ආකෘතියක රූප සඳහා, MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 හෝ inkling වෙනුවට භාවිත කරන්න.
NVIDIA 1M ප්‍රචාරණය කරද්දී සන්දර්භය 262,144 ටෝකන වන්නේ ඇයි?
Nemotron 3 ගෘහනිර්මාණ ශිල්පය ටෝකන 1Mක කවුළුවක් ඉලක්ක කරන අතර NVIDIA එම දිගින් RULER මත 94.7%ක් වාර්තා කරයි. අපගේ යෙදවීම ටෝකන 262,144ක් සේවා කරයි, එය මුළු නාමාවලියම පුරාවට අප පූර්ණ වේගයෙන් රඳවා ගන්නා කවුළුවයි. එන්ජිමේ සෑම ආකෘතියක්ම එකම සන්දර්භය නිරාවරණය කරන නිසා, ඔබේ කැබලි කිරීම නැවත ලිවීමකින් තොරව ආකෘති ID මාරු කළ හැක.
Nemotron ගණිතය, විද්‍යාව සහ කේත සඳහා හොඳද?
STEM සහ තර්කනය පවුලේ ප්‍රකාශිත අවධානයයි. NVIDIA Nemotron 3 Ultra සඳහා PinchBench මත 90%ක්, නියෝජිත රාමු පහක් හරහා SWE-Bench Verified මත 65.0-70.4%ක් සහ Terminal-Bench 2.1 මත 56.4%ක් වාර්තා කරයි; පෙර Llama-Nemotron Ultra DeepSeek-R1 හි 71.5%ට එරෙහිව GPQA-Diamond මත 76.0%ක් වාර්තා කළේය. සියල්ලම සම්පීඩනය නොකළ පදනම මත වෙළෙන්දා-වාර්තා කළ ඒවාය.
වාරණයෙන් තොර Nemotron API එක අමතන්න
262K සන්දර්භය, මෙවලම් ඇමතුම්, දැඩි JSON schema, ප්‍රතික්ෂේප ස්තරයක් නැත — මිලියනයකට $0.75 ආදාන / $3.30 ප්‍රතිදාන.
API ලේඛන කියවන්න සියලුම ආකෘති කාඩ්පත්Shannon Lab LLC · New Mexico, USA · භාවිතය අපගේ වගකීම් සහගත භාවිත ප්‍රතිපත්තිය මගින් පාලනය වේ
මූලාශ්‍ර: NVIDIA Nemotron 3 Ultra තාක්ෂණික වාර්තාව · NVIDIA developer blog (2026 ජූනි) · Nemotron 3 Super architecture notes · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. පදනම් ප්‍රමිති, Artificial Analysis වෙත ආරෝපණය කර නොමැති නම්, සම්පීඩනය නොකළ ආකෘතිය මත NVIDIA-වාර්තා කළ ඒවාය; සම්පීඩිත ආකෘති වෙනස් විය හැක. මිල සහ හැකියා 2026 සැප්තැම්බර් 5 වන දින වර්තමානයේ පවතී.