અમે કોઈ વપરાશકર્તાનો ડેટા રાખતા કે ઍક્સેસ કરતા નથી, અને કાયદેસર સત્તા અમલ કાર્યવાહી જરૂરી ન કરે ત્યાં સુધી એકાઉન્ટ સસ્પેન્ડ કરતા નથી.
મોડેલ માર્ગદર્શિકા · Nemotron3Ultra · 3BIT-REAP

અનસેન્સર્ડ Nemotron API

NVIDIA નો રિસર્ચ વારસો, ખુલ્લેઆમ પ્રકાશિત, ઇનકાર સ્તર વગર સર્વ થાય છે: STEM અને લોંગ-હોરાઇઝન રિઝનિંગ માટે ટ્યુન થયેલું 550B હાઇબ્રિડ Mamba-Attention MoE — 1 મિલિયન ટોકન દીઠ $0.75 ઇન / $3.30 આઉટ પર.

અપડેટ: 5 સપ્ટેમ્બર, 2026મોડેલ માર્ગદર્શિકાફાઉન્ડેશન: NVIDIA Nemotron 3 Ultra

ટૂંકમાં

Nemotron3Ultra-3BIT-REAP એ Shannon નું NVIDIA Nemotron 3 Ultra નું અનસેન્સર્ડ ડિપ્લોયમેન્ટ છે — ટોકન દીઠ 55B એક્ટિવ ધરાવતું 550-બિલિયન-પેરામીટર મિક્સ્ચર-ઓફ-એક્સપર્ટ્સ મોડેલ, 4 જૂન, 2026 ના રોજ વેઇટ્સ, તાલીમ ડેટા અને રેસિપી સાથે Linux Foundation ના પરમિસિવ OpenMDW-1.1 લાઇસન્સ હેઠળ રિલીઝ થયેલું. અમારા પોતાના GPU ક્લસ્ટર પર તે કોઈ ઇનકાર સ્તર અને કોઈ આઉટપુટ ફિલ્ટરિંગ વગર ચાલે છે, 262,144-ટોકન કોન્ટેક્સ્ટ, વિનંતી દીઠ 16,384 આઉટપુટ ટોકન સુધી, ટૂલ કૉલિંગ, સ્ટ્રીમિંગ, રિઝનિંગ ટ્રેસ અને સ્ટ્રિક્ટ json_schema આઉટપુટ સાથે. તે ઇમેજ લેતું નથી. કિંમત: 1M ટોકન દીઠ $0.75 / $3.30.

મોટાભાગના "ઓપન" મોડેલ ફક્ત ઓપન વેઇટ્સ છે અને બીજું કંઈ નહીં — પેરામીટરની ટારબોલ, એક લાઇસન્સ, અને આંકડા ક્યાંથી આવ્યા એ વિશે મૌન. Nemotron બે વર્ષથી સાતત્યપૂર્ણ અપવાદ રહ્યું છે: NVIDIA વેઇટ્સ, પોસ્ટ-ટ્રેઇનિંગ ડેટાસેટ, RL એન્વાયર્નમેન્ટ અને રેસિપી મોકલે છે. અનસેન્સર્ડ એન્ડપોઇન્ટ માટે એ એવી રીતે મહત્વનું છે જે ચૂકી જવું સહેલું છે. જે મોડેલનો એલાઇનમેન્ટ ડેટા પ્રકાશિત થયેલો છે તેનું ઇનકાર વર્તન તમે અનુમાન કરવાને બદલે તર્ક કરી શકો છો — અને એક એવું જેને ત્રીજો પક્ષ કન્ટેન્ટ ફિલ્ટર તેના મોં પર બોલ્ટ કર્યા વગર કાયદેસર રીતે ડિપ્લોય કરી શકે.

01Nemotron 3 Ultra ખરેખર શું છે

Nemotron 3 Ultra એ NVIDIA ના Nemotron 3 પરિવારનું સૌથી મોટું સભ્ય છે, 4 જૂન, 2026 ના રોજ Hugging Face પર રિલીઝ થયેલું. NVIDIA નો ટેકનિકલ રિપોર્ટ તેને "550 બિલિયન કુલ અને 55 બિલિયન એક્ટિવ પેરામીટર ધરાવતું મિક્સ્ચર-ઓફ-એક્સપર્ટ્સ હાઇબ્રિડ Mamba-Attention ભાષા મોડેલ" તરીકે વર્ણવે છે — નેટવર્કનો લગભગ 10% કોઈપણ આપેલા ટોકન પર કામ કરે છે, જે અડધા-ટ્રિલિયન-પેરામીટર મોડેલને સર્વ કરવા યોગ્ય બનાવે છે.

550B
કુલ પેરામીટર
55B
એક્ટિવ / ટોકન
512
એક્સપર્ટ (ટોપ-22)
20T
પ્રી-ટ્રેઇન ટોકન

પ્રકાશિત લેઆઉટ 8,192 મોડેલ ડાયમેન્શન પર 108 લેયર છે, જે Mamba-2 સ્ટેટ-સ્પેસ લેયર ને ફુલ એટેન્શન લેયરના sparse સેટ સાથે ઇન્ટરલીવ કરે છે, MoE લેયર દીઠ 512 એક્સપર્ટ ટોપ-22 રાઉટિંગ સાથે. પ્રી-ટ્રેઇનિંગ લગભગ 20 ટ્રિલિયન ટેક્સ્ટ ટોકન પર બે તબક્કામાં ચાલ્યું — વૈવિધ્ય-પક્ષપાતી, પછી ગુણવત્તા-પક્ષપાતી — સપ્ટેમ્બર 2025 ના કટઓફ, 12 કુદરતી ભાષા અને 43 પ્રોગ્રામિંગ ભાષા સાથે. પોસ્ટ-ટ્રેઇનિંગ એ SFT, ચકાસી શકાય એવા રિવોર્ડ સાથે મલ્ટિ-એન્વાયર્નમેન્ટ RL, અને દસ કરતાં વધુ સ્પેશિયલિસ્ટ ટીચર પર મલ્ટિ-ટીચર ઓન-પોલિસી ડિસ્ટિલેશન વાપર્યું. જણાવેલું ડિઝાઇન લક્ષ્ય લોંગ-રનિંગ એજન્ટ છે: સેશન જે મોટો કોન્ટેક્સ્ટ ધારણ કરે છે, ડઝનેક વાર ટૂલ કૉલ કરે છે, અને એટલો લાંબો ચાલે છે કે ટોકન-દીઠ ગણિત બિલ પર પ્રભુત્વ ધરાવે.

02Nemotron વંશ, અને વારસો કેમ મહત્વનો છે

Nemotron કોઈ એકલદોકલ વસ્તુ નથી. તે 2024 થી એ જ દિશામાં ચાલી રહેલા NVIDIA રિસર્ચ પ્રોગ્રામનું દેખાતું ફળ છે, અને દરેક પેઢીએ કંઈક છોડ્યું જે વર્તમાન મોડેલ હજુ ધારણ કરે છે. Nemotron-4 340B (જૂન 2024) એક ઓપન સિન્થેટિક ડેટા જનરેશન પાઇપલાઇન, તેનું રિવોર્ડ મોડેલ અને તેનું જનરેટર સાથે મોકલાયું, વત્તા એક અસાધારણ ખુલાસો: તેના એલાઇનમેન્ટ ડેટાનો મોટાભાગનો ભાગ મોડેલ-જનરેટેડ હતો. મોડેલ ઓરેકલને બદલે ડેટા ફેક્ટરી છે એ જ કારણ છે કે પછીના Nemotron રિલીઝ વેઇટ્સની સાથે ડેટાસેટ મોકલવાનું ચાલુ રાખે છે.

Llama-Nemotron — બંધ કરી શકાય એવું રિઝનિંગ

2025 ના Llama-Nemotron પરિવાર (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) એ બે વિચાર આપ્યા જે સારી રીતે ટકી ગયા. પહેલો આર્કિટેક્ચરલ હતો: NVIDIA ના Puzzle ન્યુરલ આર્કિટેક્ચર સર્ચે બ્લોક-વાઇઝ-ડિસ્ટિલ્ડ ટ્રાન્સફોર્મર બ્લોકની લાઇબ્રેરી બનાવી અને mixed-integer પ્રોગ્રામિંગ સાથે તેમને એસેમ્બલ કર્યા, જેમાં કેટલાક બ્લોક એટેન્શનને સંપૂર્ણપણે છોડી દે છે કે તેને એક જ લિનિયર લેયર સાથે બદલે છે, જ્યારે FFN Fusion એ સતત ફીડ-ફોરવર્ડ બ્લોકને ઓછા, પહોળા, પેરેલલ બ્લોકમાં ભેગા કર્યા — પેરામીટર ગણતરીને બદલે ક્રમિક ઊંડાઈ ઘટાડીને. LN-Ultra એક જ 8×H100 નોડ પર ફિટ થયું જ્યારે, NVIDIA ના પેપર પ્રમાણે, GPQA-Diamond પર DeepSeek-R1 (76.0% સામે 71.5%) ને પાછળ છોડ્યું.

બીજો વર્તણૂકલક્ષી હતો: Llama-Nemotron એ ડાયનેમિક રિઝનિંગ ટૉગલ ધરાવતો પહેલો ઓપન પરિવાર હતો, જે તાલીમ ડેટાને સિસ્ટમ ઇન્સ્ટ્રક્શનમાં detailed thinking on કે detailed thinking off ટૅગ કરે છે, ઓન-મોડમાં <think> ટૅગ લાગુ કરતા ફોર્મેટ રિવોર્ડ સાથે. વેઇટ્સનો એક સેટ, બે વર્તન, ઇન્ફરન્સ સમયે પસંદ કરી શકાય એવા. Nemotron 3 નું રિઝનિંગ બજેટ કંટ્રોલ — અને અમારા API પરનું reasoning_effort પેરામીટર — સીધા એ કામમાંથી ઊતરી આવે છે.

Nemotron 3 — હાઇબ્રિડ વળાંક

Nemotron 3 એ Llama ડેરિવેશનને from-scratch હાઇબ્રિડ આર્કિટેક્ચરથી બદલ્યું અને LatentMoE ઉમેર્યું (રાઉટિંગ પહેલાં ટોકનને કમ્પ્રેસ કરવું, જે NVIDIA કહે છે તે પ્રમાણે "એ જ ઇન્ફરન્સ ખર્ચ માટે 4x જેટલા વધુ એક્સપર્ટ" ને મંજૂરી આપે છે), મલ્ટિ-ટોકન પ્રેડિક્શન, અને નેટિવ NVFP4 પ્રી-ટ્રેઇનિંગ. NVIDIA એ વેઇટ્સની સાથે કુલ 50 મિલિયન SFT સેમ્પલ, 2 મિલિયન RL ટાસ્ક અને 55 RL એન્વાયર્નમેન્ટ પ્રકાશિત કર્યા — મોડેલને શું શીખવવામાં આવ્યું એ માટે તમારે વેન્ડરના શબ્દ પર વિશ્વાસ કરવાની જરૂર નથી, કારણ કે શીખવવાની સામગ્રી ડાઉનલોડ કરી શકાય એવી છે.

03હાઇબ્રિડ આર્કિટેક્ચર તમને શું આપે છે

ટ્રાન્સફોર્મરનું KV કેશ સિક્વન્સ લંબાઈ સાથે લિનિયરલી વધે છે, જે કારણ છે કે લોંગ-કોન્ટેક્સ્ટ ઇન્ફરન્સ કમ્પ્યુટ કરતાં પહેલાં મેમરીમાં મોંઘું થાય છે. Mamba-2 લેયર સ્ટેટ-સ્પેસ મોડેલ છે જે ફિક્સ્ડ-સાઇઝ રિકરન્ટ સ્ટેટ ધારણ કરે છે, એટલે તેમનો ટોકન-દીઠ મેમરી ખર્ચ ઇતિહાસ સાથે વધતો નથી; તેઓ જેમાં ખરાબ છે એ છે ચોક્કસ એસોસિએટિવ રિકોલ. હાઇબ્રિડ મોટાભાગની સિક્વન્સ પ્રોસેસિંગ માટે Mamba-2 વત્તા સ્ટેટ-સ્પેસ લેયર જેમાં ગોથું ખાય એ રિકોલ માટે વાસ્તવિક એટેન્શન લેયરની થોડી સંખ્યા રાખે છે, 64-ક્વેરી-હેડ / 2-KV-હેડ ના આક્રમક રેશિયો સાથે જે કેશને વધુ સંકોચે છે. NVIDIA 1M ટોકન પર RULER પર 94.7% જણાવે છે — એક needle-retrieval બેન્ચમાર્ક જે એવા મોડેલને પકડવા બનેલું છે જે એવી વિન્ડોનો દાવો કરે છે જે તેઓ વાપરી શકતા નથી.

પરિણામ થ્રુપુટ છે: NVIDIA સમાન ચોકસાઈએ સરખાવવા યોગ્ય મોડેલો કરતાં લગભગ 6x વધુ ઇન્ફરન્સ થ્રુપુટનો દાવો કરે છે, અને Artificial Analysis એ સ્વતંત્ર રીતે 140.3 ટોકન/સેકન્ડ 1.33-સેકન્ડના time to first token સાથે માપ્યું — 89 મોડેલોમાં 7મું. 200-ટર્નના એજન્ટ રન પર એ બપોરમાં પૂરું થવા અને ન થવા વચ્ચેનો ફરક છે.

04"3BIT-REAP" નો પ્રામાણિકપણે શું અર્થ થાય છે

પ્રત્યય શણગાર નથી — તે તમને બરાબર કહે છે કે ફાઉન્ડેશનને ફિટ કરવા તેની સાથે શું કરાયું.

REAP — Router-weighted Expert Activation Pruning — Cerebras Research તરફથી આવે છે અને ICLR 2026 માટે સ્વીકૃત થયું. sparse MoE માં રાઉટર દરેક ટોકનને મુઠ્ઠીભર એક્સપર્ટ પર મોકલે છે; વાસ્તવિક વર્કલોડ પર કેટલાકને સતત હિટ કરાય છે અને બીજા લગભગ ક્યારેય નહીં. REAP દરેક એક્સપર્ટને એક saliency માપદંડ પર સ્કોર કરે છે જે રાઉટર તેને કેટલી મજબૂત રીતે ગેટ કરે છે અને તેના આઉટપુટ યોગદાન કેટલા મોટા છે ને જોડે છે, પછી ઓછામાં ઓછા મહત્વના ને સીધા દૂર કરે છે — Cerebras 1 ટ્રિલિયન પેરામીટર જેટલા મોટા મોડેલોમાંથી 50% સુધીના એક્સપર્ટ પ્રુન કરવાનું જણાવે છે જ્યારે મોટાભાગે બેઝલાઇન ગુણવત્તા જાળવે છે, અને શોધે છે કે કોડ જેવા જનરેટિવ ટાસ્ક માટે, પ્રુનિંગ મર્જિંગને હરાવે છે. 3-બિટ ક્વોન્ટાઇઝેશન પછી બચેલાને કમ્પ્રેસ કરે છે. પહેલાં પ્રુન કરો, પછી ક્વોન્ટાઇઝ કરો, એટલે બિટ બજેટ ટ્રાફિક વહન કરતા એક્સપર્ટ પર જાય છે તેને બદલે મરેલા ઉપર સ્મીયર થવાને બદલે.

કમ્પ્રેશન મફત નથી, અને અમે એવો ડોળ નહીં કરીએ: આક્રમક ક્વોન્ટાઇઝેશન પહેલાં ચોક્કસ-ફોર્મેટ પાલન અને લાંબી-ચેઇન ગણિતમાં નાના ઘટાડા તરીકે દેખાય છે, દેખાય એવી અસંગતતા તરીકે નહીં. ત્રણેય ટાયર ક્યાં ઊતરે છે:

પ્રત્યયતે શું છેઅમે તેને ક્યાં વાપરીએ છીએ
3BIT-REAP3-બિટ વેઇટ્સ + એક્સપર્ટ પ્રુનિંગસૌથી મોટા ફાઉન્ડેશન, જ્યાં બીજું કંઈ ઝડપે ફિટ થતું નથી
W4A16-AUTOROUND-REAP4-બિટ વેઇટ્સ / 16-બિટ એક્ટિવેશન, AutoRound શીખેલું રાઉન્ડિંગ, + પ્રુનિંગમધ્યમ-કદના ફાઉન્ડેશન; AutoRound નાઇવ round-to-nearest કરતાં ચોકસાઈ પાછી લાવે છે
W8A168-બિટ વેઇટ્સ / 16-બિટ એક્ટિવેશનસૌથી ઊંચી ફિડેલિટી; આક્રમક કમ્પ્રેશનની જરૂર ન પડે એટલા નાના ફાઉન્ડેશન

550B પર Nemotron 3 Ultra પહેલી કેટેગરીમાં સીધું જ છે. જો તમારો વર્કલોડ લાંબી ચેઇન પર ચોક્કસ સંખ્યાત્મક આઉટપુટ પ્રત્યે અસાધારણ રીતે સંવેદનશીલ છે, તો રિસર્ચ ઇન્ડેક્સ W8A16 ટાયર યાદી કરે છે — MiMo-V2.5-Pro-W8A16 અને Hy3-W8A16 — $0.50/$2.00 તળિયે. એક ખરો ટ્રેડઓફ, ફનલ નહીં: નાનું મોડેલ, ઓછું કમ્પ્રેશન.

05આ એન્ડપોઇન્ટ પર "અનસેન્સર્ડ" નો શું અર્થ થાય છે

ચોક્કસપણે: કોઈ ઇનકાર સ્તર નથી અને આઉટપુટ પર કોઈ કન્ટેન્ટ ફિલ્ટરિંગ લાગુ થતું નથી. કોઈ ક્લાસિફાયર તમારા પ્રોમ્પ્ટનું નિરીક્ષણ કરતું નથી અને પ્રિફેબ્રિકેટેડ ઇનકાર પાછો આપતું નથી, અને રિસ્પોન્સ તમારા સ્ટ્રીમ સુધી પહોંચે એ પહેલાં સ્કેન થતું નથી. તમને મળે છે એ મોડેલનું પોતાનું વર્તન છે.

અહીં જ ઓપન વંશ ટ્રિવિયા બનવાનું બંધ કરે છે. કારણ કે NVIDIA એ પોસ્ટ-ટ્રેઇનિંગ ડેટા અને RL એન્વાયર્નમેન્ટ પ્રકાશિત કર્યા, મોડેલના સ્વભાવ લોકકથાને બદલે સિદ્ધાંતરૂપે ઑડિટ કરી શકાય એવા છે. અને કારણ કે OpenMDW-1.1 આર્કિટેક્ચર, પેરામીટર, ડોક્યુમેન્ટેશન અને સોફ્ટવેરને આવરી લેતું Linux Foundation નું પરમિસિવ લાઇસન્સ છે, એક સ્વતંત્ર ઓપરેટર લાઇસન્સ અવરોધ બન્યા વગર પોતાના હાર્ડવેર પર બદલાયેલ, અનફિલ્ટર્ડ ડિપ્લોયમેન્ટ સર્વ કરી શકે છે. ઘણા "ઓપન" મોડેલ લાઇસન્સ એ મંજૂરી આપતા નથી. આ એક આપે છે. ફરક ત્યાં દેખાય છે જ્યાં રિફ્લેક્સિવ ઇનકાર બગ છે, સેફ્ટી ફીચર નહીં:

  • સિક્યુરિટી રિસર્ચ — વલ્નરેબિલિટી વિશ્લેષણ, એક્સપ્લોઇટ રિઝનિંગ, માલવેર વર્તન, રેડ-ટીમ ટૂલિંગ, પ્રશ્ન મંજૂર છે કે નહીં એ વિશે દલીલ કર્યા વગર.
  • રસાયણશાસ્ત્ર, જીવવિજ્ઞાન અને ફાર્માકોલોજી — ડોઝ ગણિત, પ્રતિક્રિયા મિકેનિઝમ, ટોક્સિકોલોજી, સંશ્લેષણ માર્ગો જેને ફિલ્ટર્ડ એન્ડપોઇન્ટ કીવર્ડ સંપર્ક પર જ નકારે છે.
  • એડવર્સેરિયલ ML — hard negatives, jailbreak corpora અને એબ્યુઝ ટેક્સોનોમી એવા ક્લાસિફાયર માટે જેમણે ખરી વસ્તુ જોયેલી હોવી જરૂરી છે.
  • ક્લિનિકલ, કાનૂની અને ફોરેન્સિક ટેક્સ્ટ — કેસ સામગ્રી જે સ્વભાવે ગ્રાફિક છે અને બરાબર એ કારણે નકારાય છે.

અનસેન્સર્ડ એટલે જવાબદારીથી મુક્ત નહીં. તમે જે જનરેટ કરો છો એ તમારું છે, અને અમારી જવાબદાર ઉપયોગ નીતિ અને સેવાની શરતો એકાઉન્ટને સંચાલિત કરે છે. ઇનકાર સ્તર દૂર કરવાથી ઇરાદા વિશેનું અનુમાન દૂર થાય છે; તે તમને લાગુ પડતા કાયદા હેઠળની તમારી જવાબદારીઓને દૂર કરતું નથી.

06STEM અને રિઝનિંગ: પ્રકાશિત આંકડા શું કહે છે

Nemotron નું તાલીમ ફોકસ ગણિત, કોડ, વિજ્ઞાન અને સૂચના પાલન રહ્યું છે ત્યારથી જ્યારે Llama-Nemotron પોસ્ટ-ટ્રેઇનિંગ ડેટાસેટ બરાબર એ ચાર ધરી પર બનેલો હતો. Nemotron 3 Ultra ફાઉન્ડેશન માટે NVIDIA જે જણાવે છે — અનક્વોન્ટાઇઝ્ડ મોડેલ પર વેન્ડર-જણાવેલા આંકડા, જે અમે ચલાવ્યા નથી:

RULER @ 1M94.7
PinchBench90.0
IFBench82.0
SWE-Bench Verified70.4
Terminal-Bench 2.156.4
ProfBench (Search)56.0

આંકડા કરતાં વધુ મૂલ્યવાન બે ચેતવણી. SWE-Bench Verified આંકડો રેન્જ છે — NVIDIA કયું એજન્ટ હાર્નેસ ચલાવે છે (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent) એના પર આધાર રાખીને 65.0% થી 70.4% જણાવે છે, અને ફક્ત સ્કેફોલ્ડિંગમાંથી પાંચ-પોઇન્ટનો ફેલાવો બતાવે છે કે એજન્ટિક સ્કોર મોડેલ કરતાં હાર્નેસ પર કેટલા આધારિત છે. અને Artificial Analysis એ Nemotron 3 Ultra ને તેના Intelligence Index પર 48, 89 મોડેલોમાં 9મા સ્થાને મૂક્યું — મજબૂત, ક્ષેત્રમાં ટોચે નહીં, અને તેમનું સ્વતંત્ર માપ એ છે જેને અમે કોઈપણ વેન્ડરની સ્લાઇડ કરતાં વધુ વજન આપીશું.

અગાઉની પેઢી પર, NVIDIA નું Llama-Nemotron પેપર LN-Ultra ને DeepSeek-R1 ના 71.5% અને Llama-3.1-405B-Instruct ના 43.4% સામે GPQA-Diamond પર 76.0% જણાવે છે, વત્તા AIME 2024 પર 80.8% — એક અલગ મોડેલ, સામેલ કારણ કે ગ્રેજ્યુએટ-લેવલ વિજ્ઞાન અને સ્પર્ધા ગણિત બે પેઢીથી પરિવારનું લક્ષ્ય રહ્યાં છે.

ડિઝાઇન દ્વારા પારદર્શક

અહીંનો દરેક આંકડો અમારા સિવાય કોઈ બીજા દ્વારા પ્રકાશિત છે. પ્રાથમિક સોર્સ જાતે તપાસો.

બેન્ચમાર્ક આંકડા NVIDIA દ્વારા (જૂન 2026) અનક્વોન્ટાઇઝ્ડ Nemotron 3 Ultra પર પ્રકાશિત, અને Artificial Analysis દ્વારા સ્વતંત્ર માપ માટે. કમ્પ્રેસ્ડ બિલ્ડ અલગ હોઈ શકે. અમે ચકાસ્યા ન હોય કે attribute કરી ન શકીએ એવા બેન્ચમાર્ક આંકડા પ્રકાશિત કરતા નથી.

07કિંમત, અને verbosity ચેતવણી

1 મિલિયન ઇનપુટ ટોકન દીઠ $0.75 અને 1 મિલિયન આઉટપુટ ટોકન દીઠ $3.30 પર, Nemotron3Ultra ઇનપુટ પર અમારા કેટલોગના નીચલા ત્રીજા ભાગમાં અને આઉટપુટ પર મધ્યમાં બેસે છે. ઉકેલેલા ઉદાહરણો, કારણ કે 1-મિલિયન-દીઠ કિંમત અનુભવવી અઘરી છે:

કૉલનો આકારઇનપુટઆઉટપુટખર્ચ
સામાન્ય RAG ટર્ન50,0004,000$0.051
લાંબા ડોક્યુમેન્ટનું વિશ્લેષણ150,0008,000$0.139
મહત્તમ-કદનો કૉલ262,14416,384$0.251

સંપૂર્ણ-કોન્ટેક્સ્ટ, સંપૂર્ણ-આઉટપુટ વિનંતી — એન્ડપોઇન્ટ સ્વીકારશે એ દરેક ટોકન અને તે ઉત્પન્ન કરશે એ દરેક ટોકન — લગભગ 25 સેન્ટ ખર્ચે છે. અમારા સૌથી મોંઘા મોડેલ Kimi-K3-3BIT-REAP પર $3.83/$19.12 પર એ જ આકાર લગભગ $1.32, અથવા 5.3x વધુ ખર્ચે છે.

હવે ચેતવણી, અને તે ખરી છે. Artificial Analysis એ માપ્યું કે Nemotron 3 Ultra તેમના બેન્ચમાર્ક સ્યુટ પર મધ્યમ સાથી કરતાં 2.3x વધુ આઉટપુટ ટોકન જનરેટ કરે છે. રિઝનિંગ મોડેલ તમને વિચારવા માટે બિલ કરે છે, અને આ એક લાંબા સમય સુધી વિચારે છે; ટોકન-દીઠ કિંમતનો ફાયદો ટાસ્ક-દીઠ ગેરફાયદામાં ઓગળી જાય છે જો મોડેલ એ જ જવાબ સુધી પહોંચવા ત્રણ ગણો સમય રિઝન કરે. mitigation બિલ્ટ-ઇન છે અને અમારા API પર ખુલ્લું મૂકાયેલું છે: Nemotron 3 રિઝનિંગ બજેટ કંટ્રોલ માટે પોસ્ટ-ટ્રેઇન થયેલું છે, અને reasoning_effort અહીં સમર્થિત છે — NVIDIA સિંગલ-ડિજિટ ચોકસાઈ ટ્રેડઓફ માટે નોંધપાત્ર રીતે ઓછા થિંકિંગ ટોકન વાપરતો ઓછો-ઇફર્ટ મોડ વર્ણવે છે. વર્ગીકરણ, નિષ્કર્ષણ અને રાઉટિંગ પર, તેને ઘટાડો અને અર્થશાસ્ત્ર નોંધપાત્ર રીતે બદલાય છે; પ્રૂફ કે મલ્ટિ-ફાઇલ રિફેક્ટર પર, તેને વધારો અને ઇરાદાપૂર્વક ચૂકવો. કિંમત યાદી વાંચીને ધારવાને બદલે તમારા પોતાના ટોકન-દીઠ-ટાસ્કને માપો.

08તેને કૉલ કરવું: ત્રણ ડાયલેક્ટ, એક મોડેલ

ગેટવે પરનું દરેક મોડેલ ત્રણ સ્ટ્રીમિંગ API સપાટી પર જવાબ આપે છે, એટલે તમે તમારા ઇન્ટિગ્રેશનને ફરીથી લખ્યા વગર હાલના ક્લાયન્ટને તેના તરફ પોઇન્ટ કરી શકો છો: /v1/chat/completions (OpenAI ડાયલેક્ટ), /v1/messages (Anthropic ડાયલેક્ટ), અને /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

ક્ષમતાનો સારાંશ, જેથી ઇન્ટિગ્રેશન સમયે કંઈ આશ્ચર્ય ન કરે:

ક્ષમતાNemotron3Ultra · 3BIT-REAP
કોન્ટેક્સ્ટ વિન્ડો262,144 ટોકન
મહત્તમ આઉટપુટ / વિનંતી16,384 ટોકન
સ્ટ્રીમિંગહા
ટૂલ કૉલિંગહા
રિઝનિંગ ટ્રેસહા
reasoning_effortહા
json_schema (સ્ટ્રિક્ટ)હા
response_formatહા
વિઝન / ઇમેજ ઇનપુટના — ફક્ત ટેક્સ્ટ
ઇનકાર સ્તરકોઈ નહીં

વિઝન પંક્તિ લોકોને પકડે છે: Nemotron3Ultra ફક્ત ટેક્સ્ટ છે. જો તમારી પાઇપલાઇન ઇમેજ મોકલે છે, તો $0.50/$2.00 પર MiniMax-M3-3BIT-REAP કે MiMo-V2.5-W8A16, કે $0.78/$3.67 પર Kimi-K2.6-W4A16-AUTOROUND-REAP વાપરો — બધા વિઝન-સક્ષમ, બધા અનસેન્સર્ડ, બધા એ જ 262,144-ટોકન કોન્ટેક્સ્ટ પર. પૂરો પેરામીટર સંદર્ભ API ડોક્યુમેન્ટેશન માં છે.

09બારમાંથી Nemotron3Ultra ક્યાં ફિટ થાય છે

કેટલોગ એ જ કોન્ટેક્સ્ટ વિન્ડો, એ જ ત્રણ ડાયલેક્ટ અને ઇનકાર સ્તરની એ જ ગેરહાજરી શેર કરતા બાર અનસેન્સર્ડ મોડેલ છે; તેઓ ફાઉન્ડેશન, કિંમત અને ક્ષમતામાં ફરક ધરાવે છે. Nemotron ની સ્થિતિ ચોક્કસ છે: ઓપન-લિનિએજ રિઝનિંગ વર્કહોર્સ — સૌથી સસ્તું નહીં, સૌથી સક્ષમ નહીં, પણ તેના વર્તન પાછળ સૌથી વધુ જાહેર પેપર ટ્રેલ ધરાવતું, STEM અને એજન્ટ તરફ સૌથી વધુ ટ્યુન કરેલું.

મોડેલઇન / 1Mઆઉટ / 1Mવિઝનતેને શેના માટે પસંદ કરો
MiniMax-M3 · 3BIT-REAP$0.50$2.00હાસૌથી સસ્તો વિઝન-સક્ષમ વિકલ્પ
MiMo-V2.5-Pro · W8A16$0.50$2.00નાસૌથી ઊંચી-ફિડેલિટી ક્વોન્ટાઇઝેશન ટાયર
GLM-5.2 · 3BIT-REAP$0.73$2.34નાસૌથી સસ્તું મોટા-ફાઉન્ડેશન રિઝનિંગ
Nemotron3Ultra · 3BIT-REAP$0.75$3.30નાSTEM, એજન્ટ, ઓપન લિનિએજ
Kimi-K2.6 · W4A16-AUTOROUND-REAP$0.78$3.67હાવિઝન + AutoRound ફિડેલિટી
DeepSeek-V4-Pro · 3BIT-REAP$1.95$3.90નાઊંડું સિંગલ-શોટ વિશ્લેષણ
Kimi-K3 · 3BIT-REAP$3.83$19.12હાસંપૂર્ણ ક્ષમતાની ટોચ

બારમાંથી સાત બતાવ્યાં. Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 અને Hy3 સહિતનો પૂરો કેટલોગ API ડોક્સ માં છે. નોંધ કરો કે Laguna-S-2.1 સ્ટ્રક્ચર્ડ આઉટપુટને સમર્થન આપતું નથી અને inkling json_schema ને સમર્થન આપતું નથી; Nemotron3Ultra બંનેને સમર્થન આપે છે.

કિંમત પ્રમાણે સૌથી નજીકનો પડોશી GLM-5.2-3BIT-REAP છે $0.73/$2.34 પર, અને પ્રામાણિક સરખામણી આ છે: GLM-5.2 ટોકન દીઠ સસ્તું છે, ખાસ કરીને આઉટપુટ પર. Nemotron પ્રકાશિત તાલીમ કોર્પસ, સ્પષ્ટ રિઝનિંગ-બજેટ ડાયલ, અને ગ્રેજ્યુએટ-લેવલ વિજ્ઞાન તરફ લક્ષિત પારિવારિક ઇતિહાસ લાવે છે. ઊંચા-વોલ્યુમનું સામાન્ય રિઝનિંગ: સસ્તું ચલાવો. STEM-ભારે, એજન્ટિક, કે એવા ઑડિટને આધીન જે પૂછે છે કે મોડેલનું વર્તન ક્યાંથી આવ્યું: Nemotron ફરક કમાય છે.

10વારંવાર પુછાતા પ્રશ્નો

અનસેન્સર્ડ Nemotron API એટલે શું?

તે Shannon AI નું Nemotron3Ultra 3BIT-REAP માટેનું હોસ્ટેડ એન્ડપોઇન્ટ છે, NVIDIA ના ઓપન-વેઇટ્સ Nemotron 3 Ultra નું કમ્પ્રેસ્ડ બિલ્ડ. તે અમારા પોતાના GPU ક્લસ્ટર પર કોઈ ઇનકાર સ્તર અને કોઈ આઉટપુટ ફિલ્ટરિંગ વગર ચાલે છે, વિનંતી દીઠ 262,144-ટોકન કોન્ટેક્સ્ટ અને 16,384 આઉટપુટ ટોકન ખુલ્લા મૂકે છે, અને 1 મિલિયન ઇનપુટ ટોકન દીઠ $0.75 અને 1 મિલિયન આઉટપુટ ટોકન દીઠ $3.30 ખર્ચે છે.

શું NVIDIA Nemotron ખરેખર ઓપન વેઇટ્સ છે?

હા. NVIDIA એ 4 જૂન, 2026 ના રોજ Nemotron 3 Ultra ને વેઇટ્સ, તાલીમ ડેટા અને રેસિપી સાથે Linux Foundation ના પરમિસિવ OpenMDW-1.1 લાઇસન્સ હેઠળ પ્રકાશિત કર્યું, Nemotron-4 340B અને Llama-Nemotron પરિવારને અનુસરીને. એ ખુલ્લાપણું જ છે જે એક સ્વતંત્ર રીતે ચલાવાયેલ, અનફિલ્ટર્ડ ડિપ્લોયમેન્ટને શક્ય બનાવે છે.

3BIT-REAP નો શું અર્થ થાય છે?

બે કમ્પ્રેશન પગલાં. REAP — Router-weighted Expert Activation Pruning, Cerebras Research તરફથી અને ICLR 2026 માટે સ્વીકૃત — દરેક Mixture-of-Experts એક્સપર્ટને રાઉટર તેને કેટલી મજબૂત રીતે ગેટ કરે છે અને તેના આઉટપુટ યોગદાન કેટલા મોટા છે તેના પરથી સ્કોર કરે છે, પછી ઓછામાં ઓછા મહત્વના ને સીધા કાઢી નાખે છે. બચેલા ને 3-બિટ વેઇટ્સમાં ક્વોન્ટાઇઝ કરાય છે, એટલે બિટ બજેટ ખરેખર ટ્રાફિક વહન કરતા એક્સપર્ટ પર ખર્ચાય છે.

શું Nemotron3Ultra વિઝન કે JSON schema આઉટપુટને સમર્થન આપે છે?

કોઈ ઇમેજ નહીં: આ એન્ડપોઇન્ટ ફક્ત ટેક્સ્ટ છે. તે સ્ટ્રિક્ટ સ્ટ્રક્ચર્ડ આઉટપુટને સમર્થન આપે છે — json_schema અને response_format બંને — વત્તા ટૂલ કૉલિંગ, સ્ટ્રીમિંગ, રિઝનિંગ ટ્રેસ અને reasoning_effort. અનસેન્સર્ડ મોડેલ પર ઇમેજ માટે, તેના બદલે MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 કે inkling વાપરો.

NVIDIA 1M જાહેરાત કરે છે ત્યારે કોન્ટેક્સ્ટ 262,144 ટોકન કેમ છે?

Nemotron 3 આર્કિટેક્ચર 1M-ટોકન વિન્ડોને લક્ષ્ય બનાવે છે અને NVIDIA એ લંબાઈ પર RULER પર 94.7% જણાવે છે. અમારું ડિપ્લોયમેન્ટ 262,144 ટોકન સર્વ કરે છે, જે વિન્ડો અમે આખા કેટલોગમાં પૂરી ઝડપે જાળવીએ છીએ. ગેટવે પરનું દરેક મોડેલ એ જ કોન્ટેક્સ્ટ ખુલ્લું મૂકે છે, એટલે તમે તમારા ચંકિંગને ફરીથી લખ્યા વગર મોડેલ id બદલી શકો છો.

શું Nemotron ગણિત, વિજ્ઞાન અને કોડ માટે સારું છે?

STEM અને રિઝનિંગ પરિવારનું જણાવેલું ફોકસ છે. NVIDIA Nemotron 3 Ultra માટે PinchBench પર 90%, પાંચ એજન્ટ હાર્નેસ પર SWE-Bench Verified પર 65.0-70.4% અને Terminal-Bench 2.1 પર 56.4% જણાવે છે; અગાઉનું Llama-Nemotron Ultra DeepSeek-R1 ના 71.5% સામે GPQA-Diamond પર 76.0% જણાવેલું. બધા અનક્વોન્ટાઇઝ્ડ ફાઉન્ડેશન પર વેન્ડર-જણાવેલા છે.

અનસેન્સર્ડ Nemotron API ને કૉલ કરો

262K કોન્ટેક્સ્ટ, ટૂલ કૉલિંગ, સ્ટ્રિક્ટ JSON schema, કોઈ ઇનકાર સ્તર નહીં — 1M ટોકન દીઠ $0.75 ઇન / $3.30 આઉટ.

API ડોક્સ વાંચો બધા મોડેલ કાર્ડ

Shannon Lab LLC · ન્યૂ મેક્સિકો, USA · ઉપયોગ અમારી જવાબદાર ઉપયોગ નીતિ દ્વારા સંચાલિત


સોર્સ: NVIDIA Nemotron 3 Ultra ટેકનિકલ રિપોર્ટ · NVIDIA ડેવલપર બ્લોગ (જૂન 2026) · Nemotron 3 Super આર્કિટેક્ચર નોંધ · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. ફાઉન્ડેશન બેન્ચમાર્ક Artificial Analysis ને attribute ન કરાયા હોય ત્યાં સુધી NVIDIA-જણાવેલા છે અનક્વોન્ટાઇઝ્ડ મોડેલ પર; કમ્પ્રેસ્ડ બિલ્ડ અલગ હોઈ શકે. કિંમત અને ક્ષમતા 5 સપ્ટેમ્બર, 2026 મુજબ વર્તમાન છે.

બધી સંશોધન લિંક્સ