We do not hold or access any user's data, and we do not suspend accounts unless a lawful authority requires an enforcement action.
मॉडेल कार्ड · Nemotron3Ultra · 3BIT-REAP

असेन्सॉर्ड Nemotron API

NVIDIA ची संशोधन वंशावळ, खुलेपणाने प्रकाशित, नकार स्तराशिवाय सर्व्ह केलेली: STEM आणि दीर्घ पल्ल्याच्या रिझनिंगसाठी ट्यून केलेले 550B हायब्रिड Mamba-Attention MoE — प्रति दशलक्ष टोकन $0.75 इन / $3.30 आउट.

5 सप्टेंबर 2026 रोजी अद्ययावतमॉडेल कार्डआधार: NVIDIA Nemotron 3 Ultra

थोडक्यात

Nemotron3Ultra-3BIT-REAP हे NVIDIA Nemotron 3 Ultra चे Shannon वरचे असेन्सॉर्ड डिप्लॉयमेंट आहे — प्रति टोकन 55B सक्रिय असलेले 550-अब्ज-पॅरामीटरचे Mixture-of-Experts मॉडेल, 4 जून 2026 रोजी वेट्स, प्रशिक्षण डेटा आणि रेसिपीसह Linux Foundation च्या उदार OpenMDW-1.1 परवान्याअंतर्गत प्रसिद्ध. आमच्या स्वतःच्या GPU क्लस्टरवर ते नकार स्तराशिवाय आणि आउटपुट फिल्टरिंगशिवाय चालते, 262,144-टोकन संदर्भ, प्रति विनंती 16,384 आउटपुट टोकन पर्यंत, टूल कॉलिंग, स्ट्रीमिंग, रिझनिंग ट्रेस आणि काटेकोर json_schema आउटपुटसह. ते प्रतिमा स्वीकारत नाही. किंमत: प्रति 1M टोकन $0.75 / $3.30.

बहुतेक “ओपन” मॉडेल म्हणजे ओपन वेट्स आणि बाकी काहीच नाही — पॅरामीटरचा एक टारबॉल, एक परवाना, आणि हे आकडे कुठून आले याविषयी मौन. Nemotron दोन वर्षे सातत्याने याला अपवाद ठरले आहे: NVIDIA वेट्स, पोस्ट-ट्रेनिंग डेटासेट, RL वातावरणे आणि रेसिपी — सगळे पाठवते. असेन्सॉर्ड एंडपॉइंटसाठी याचे महत्त्व सहज नजरेतून सुटते. ज्या मॉडेलचा अलाइनमेंट डेटा प्रकाशित आहे, त्याच्या नकार-वर्तनाबद्दल तुम्हाला अंदाज बांधावा लागत नाही, तर तर्क करता येतो — आणि तोंडावर कंटेंट फिल्टर ठोकल्याशिवाय तिसऱ्या पक्षाला ते वैधरीत्या डिप्लॉय करता येते.

01Nemotron 3 Ultra म्हणजे काय?

Nemotron 3 Ultra हे NVIDIA च्या Nemotron 3 कुटुंबातले सर्वात मोठे सदस्य, 4 जून 2026 रोजी Hugging Face वर प्रसिद्ध. NVIDIA चा तांत्रिक अहवाल त्याचे वर्णन “एकूण 550 अब्ज आणि सक्रिय 55 अब्ज पॅरामीटरचे Mixture-of-Experts हायब्रिड Mamba-Attention भाषा मॉडेल” असे करतो — कोणत्याही एका टोकनवर जाळ्याचा साधारण 10% भाग काम करतो, आणि म्हणूनच अर्ध्या ट्रिलियन पॅरामीटरचे मॉडेल मुळात सर्व्ह करण्याजोगे ठरते.

550B
एकूण पॅरामीटर
55B
सक्रिय / टोकन
512
एक्सपर्ट (टॉप-22)
20T
पूर्व-प्रशिक्षण टोकन

नोंदवलेली मांडणी मॉडेल-आयाम 8,192 वर 108 स्तरांची आहे, जिथे Mamba-2 स्टेट-स्पेस स्तर आणि पूर्ण अटेन्शन स्तरांचा विरळ संच आलटून पालटून येतात, प्रति MoE स्तर 512 एक्सपर्ट आणि टॉप-22 राउटिंग. पूर्व-प्रशिक्षण साधारण 20 ट्रिलियन मजकूर टोकनवर दोन टप्प्यांत चालले — आधी विविधता-कल, मग गुणवत्ता-कल — सप्टेंबर 2025 चा कटऑफ, 12 नैसर्गिक भाषा आणि 43 प्रोग्रामिंग भाषांसह. पोस्ट-ट्रेनिंगमध्ये SFT, पडताळण्याजोग्या बक्षिसांसह बहु-वातावरण RL, आणि दहापेक्षा जास्त तज्ज्ञ शिक्षकांवरचे Multi-Teacher On-Policy Distillation वापरले गेले. जाहीर केलेले रचना-उद्दिष्ट म्हणजे दीर्घकाळ चालणारे एजंट: मोठा संदर्भ धरून ठेवणारी, डझनवेळा टूल बोलावणारी, आणि प्रति-टोकन अर्थकारण बिलावर वरचढ ठरेल इतका वेळ चालणारी सत्रे.

02Nemotron ची वंशावळ, आणि ती का महत्त्वाची

Nemotron ही एकवेळची गोष्ट नाही. 2024 पासून त्याच दिशेने चालू असलेल्या NVIDIA च्या संशोधन कार्यक्रमाचे ते दृश्य फळ आहे, आणि प्रत्येक पिढीने काहीतरी मागे ठेवले जे आजचे मॉडेल अजूनही वागवते. Nemotron-4 340B (जून 2024) खुल्या सिंथेटिक डेटा-निर्मिती पाइपलाइनसह, त्याच्या रिवॉर्ड मॉडेल आणि जनरेटरसह आले, अधिक एक असामान्य उघड कबुली: त्याचा बहुतांश अलाइनमेंट डेटा मॉडेलनेच तयार केलेला होता. मॉडेलकडे दैवज्ञ म्हणून नव्हे तर डेटा-कारखाना म्हणून पाहण्याच्या याच भूमिकेमुळे नंतरची Nemotron प्रकाशने वेट्ससोबत डेटासेटही पाठवत राहतात.

Llama-Nemotron — बंद करता येणारे रिझनिंग

2025 चे Llama-Nemotron कुटुंब (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) दोन कल्पना देऊन गेले, ज्या चांगल्या टिकल्या. पहिली वास्तुरचनेची: NVIDIA च्या Puzzle या न्यूरल आर्किटेक्चर सर्चने ब्लॉकनिहाय डिस्टिल केलेल्या ट्रान्सफॉर्मर ब्लॉकचे ग्रंथालय बांधले आणि मिश्र-पूर्णांक प्रोग्रामिंगने ते जुळवले, ज्यातून अशी मॉडेल तयार झाली जिथे काही ब्लॉक अटेन्शन पूर्णपणे वगळतात किंवा त्याजागी एकच रेखीय स्तर वापरतात; तर FFN Fusion ने लागोपाठचे फीड-फॉरवर्ड ब्लॉक कमी, रुंद आणि समांतर ब्लॉकमध्ये आकुंचित केले — पॅरामीटर संख्या नव्हे तर क्रमवार खोली कापून. LN-Ultra एकाच 8×H100 नोडवर बसले, आणि NVIDIA च्या शोधनिबंधानुसार GPQA-Diamond वर DeepSeek-R1 ला मागे टाकले (76.0% विरुद्ध 71.5%).

दुसरी वर्तनाची: सिस्टीम सूचनेत प्रशिक्षण डेटाला detailed thinking on किंवा detailed thinking off असे टॅग लावून, आणि ऑन-मोडमध्ये <think> टॅग सक्तीचे करणाऱ्या फॉरमॅट बक्षिसांसह, गतिशील रिझनिंग टॉगल देणारे Llama-Nemotron हे पहिले खुले कुटुंब ठरले. एकच वेट्सचा संच, दोन वर्तने, इन्फरन्सच्या वेळी निवडता येणारी. Nemotron 3 चे रिझनिंग बजेट नियंत्रण — आणि आमच्या API वरचा reasoning_effort पॅरामीटर — थेट त्याच कामाचे वंशज आहेत.

Nemotron 3 — हायब्रिडकडे वळण

Nemotron 3 ने Llama वरची व्युत्पत्ती सोडून शून्यापासून हायब्रिड वास्तुरचना उभी केली आणि त्यात LatentMoE (राउटिंगपूर्वी टोकन संकुचित करणे, ज्यामुळे NVIDIA च्या मते “त्याच इन्फरन्स खर्चात 4x एक्सपर्ट” शक्य होतात), बहु-टोकन भाकीत, आणि मूळचे NVFP4 पूर्व-प्रशिक्षण जोडले. NVIDIA ने वेट्ससोबत एकत्रित 5 कोटी SFT नमुने, 20 लाख RL कामे आणि 55 RL वातावरणे प्रकाशित केली — मॉडेलला काय शिकवले गेले यासाठी विक्रेत्याच्या शब्दावर विसंबून राहावे लागत नाही, कारण शिकवण्याची सामग्रीच उतरवून घेता येते.

03हायब्रिड वास्तुरचनेतून तुम्हाला काय मिळते

ट्रान्सफॉर्मरची KV कॅशे क्रमाच्या लांबीबरोबर रेखीय वाढते, म्हणूनच दीर्घ-संदर्भ इन्फरन्स गणनेआधी स्मृतीत महाग पडतो. Mamba-2 स्तर हे ठरावीक आकाराची पुनरावर्ती स्थिती वागवणारी स्टेट-स्पेस मॉडेल आहेत, त्यामुळे त्यांचा प्रति-टोकन स्मृती-खर्च इतिहासाबरोबर वाढत नाही; त्यांची कमजोरी म्हणजे नेमके सहचर स्मरण. हायब्रिड बहुतांश क्रम-प्रक्रियेसाठी Mamba-2 ठेवते आणि स्टेट-स्पेस स्तर जिथे गडबडतात त्या स्मरणासाठी खऱ्या अटेन्शन स्तरांचा अल्पसंख्य वाटा ठेवते, आणि 64-क्वेरी-हेड / 2-KV-हेड या आक्रमक गुणोत्तराने कॅशे आणखी आक्रसते. NVIDIA 1M टोकनवर RULER वर 94.7% नोंदवते — वापरता येणार नाही अशी विंडो जाहीर करणाऱ्या मॉडेलना पकडण्यासाठी बांधलेला सुई-शोध बेंचमार्क.

याचा परिणाम थ्रूपुटमध्ये दिसतो: तुलनात्मक मॉडेलपेक्षा साधारण 6× जास्त इन्फरन्स थ्रूपुट तेवढ्याच अचूकतेवर मिळत असल्याचा दावा NVIDIA करते, आणि Artificial Analysis ने स्वतंत्रपणे 140.3 टोकन/सेकंद आणि पहिल्या टोकनपर्यंतचा 1.33 सेकंद वेळ मोजला — 89 मॉडेलमध्ये 7 वे. 200 फेऱ्यांच्या एजंट रनवर हा फरक म्हणजे दुपारपर्यंत काम संपणे किंवा अजिबात न संपणे.

04“3BIT-REAP” म्हणजे काय, प्रामाणिकपणे

हा प्रत्यय सजावट नाही — आधार बसवण्यासाठी त्याचे नेमके काय केले गेले ते तो सांगतो.

REAP — Router-weighted Expert Activation Pruning — Cerebras Research कडून आले आणि ICLR 2026 मध्ये स्वीकारले गेले. विरळ MoE मध्ये राउटर प्रत्येक टोकन मूठभर एक्सपर्टकडे पाठवतो; खऱ्या कामाच्या ओघात काहींना सतत मागणी असते आणि काहींना जवळजवळ कधीच नाही. राउटर त्याला किती जोरात गेट करतो आणि त्याचे आउटपुट योगदान किती मोठे आहे हे एकत्र करणाऱ्या ठळकपणाच्या निकषावर REAP प्रत्येक एक्सपर्टला गुण देते, आणि सर्वात कमी ठळक असलेले सरळ काढून टाकते — 1 ट्रिलियन पॅरामीटरइतक्या मोठ्या मॉडेलमधले 50% पर्यंत एक्सपर्ट छाटूनही आधाररेषेची गुणवत्ता मोठ्या प्रमाणात टिकते असे Cerebras नोंदवते, आणि कोडसारख्या निर्मितीच्या कामांसाठी छाटणी विलीनीकरणापेक्षा सरस ठरते असे त्यांना आढळते. उरलेल्याला मग 3-bit क्वांटायझेशन संकुचित करते. आधी छाटणी, मग क्वांटायझेशन — म्हणजे बिट-अंदाजपत्रक मृत एक्सपर्टवर पसरण्याऐवजी रहदारी वाहणाऱ्या एक्सपर्टवर खर्च होते.

कॉम्प्रेशन फुकट नाही, आणि आम्ही तसे भासवणार नाही: आक्रमक क्वांटायझेशन आधी दिसते ते नेमक्या स्वरूप-पालनातल्या आणि लांब साखळीच्या अंकगणितातल्या लहान झिजेच्या रूपात, दिसण्याजोग्या विसंगतीच्या रूपात नाही. तीन स्तर कुठे बसतात ते असे:

प्रत्ययतो काय आहेआम्ही तो कुठे वापरतो
3BIT-REAP3-bit वेट्स + एक्सपर्ट प्रूनिंगसर्वात मोठे आधार, जिथे दुसरे काहीही वेगात बसत नाही
W4A16-AUTOROUND-REAP4-bit वेट्स / 16-bit ॲक्टिव्हेशन, AutoRound शिकलेले राउंडिंग, + छाटणीमध्यम आकाराचे आधार; भाबड्या जवळच्या-पूर्णांकापेक्षा AutoRound अचूकता परत मिळवते
W8A168-bit वेट्स / 16-bit ॲक्टिव्हेशनसर्वोच्च विश्वासार्हता; आक्रमक कॉम्प्रेशनची गरज नसण्याइतके लहान आधार

550B वरचे Nemotron 3 Ultra पहिल्या वर्गात नेमके बसते. लांब साखळ्यांवरच्या नेमक्या संख्यात्मक आउटपुटबाबत तुमचे काम असामान्यपणे संवेदनशील असेल, तर संशोधन अनुक्रमणिकेत W8A16 स्तर दिलेला आहे — MiMo-V2.5-Pro-W8A16 आणि Hy3-W8A16 — $0.50/$2.00 या तळाच्या दरात. ही खरी अदलाबदल आहे, फनेल नाही: लहान मॉडेल, कमी कॉम्प्रेशन.

05या एंडपॉइंटवर “असेन्सॉर्ड” म्हणजे काय

ठोसपणे: नकार स्तर नाही आणि आउटपुटवर कोणतेही कंटेंट फिल्टरिंग लावलेले नाही. कोणताही वर्गीकारक तुमचा प्रॉम्प्ट तपासून ठरावीक नकार परत करत नाही, आणि प्रतिसाद तुमच्या स्ट्रीमपर्यंत पोहोचण्याआधी चाळला जात नाही. तुम्हाला मिळते ते मॉडेलचे स्वतःचे वर्तन.

इथेच खुली वंशावळ ही नुसती माहिती उरत नाही. NVIDIA ने पोस्ट-ट्रेनिंग डेटा आणि RL वातावरणे प्रकाशित केल्यामुळे मॉडेलच्या प्रवृत्ती तत्त्वतः तपासण्याजोग्या आहेत, ऐकीव नाहीत. आणि OpenMDW-1.1 हा वास्तुरचना, पॅरामीटर, दस्तऐवज आणि सॉफ्टवेअर व्यापणारा Linux Foundation चा उदार परवाना असल्यामुळे, एक स्वतंत्र चालक स्वतःच्या हार्डवेअरवर सुधारित, फिल्टरविरहित डिप्लॉयमेंट सर्व्ह करू शकतो आणि परवाना त्याच्या आड येत नाही. अनेक “ओपन” मॉडेल परवाने याला मुभा देत नाहीत. हा देतो. जिथे प्रतिक्षिप्त नकार हा सुरक्षिततेचा गुण नसून दोष असतो, तिथे हा फरक दिसतो:

  • सुरक्षा संशोधन — प्रश्न परवानगीयोग्य आहे की नाही यावर वाद न घालता भेद्यता विश्लेषण, एक्सप्लॉइटचे तर्कशास्त्र, मालवेअरचे वर्तन, रेड-टीम साधने.
  • रसायनशास्त्र, जीवशास्त्र आणि औषधशास्त्र — मात्रेचे गणित, अभिक्रियेच्या यंत्रणा, विषशास्त्र, आणि संश्लेषणाचे मार्ग, जे फिल्टर लावलेले एंडपॉइंट नुसत्या शब्दस्पर्शाने नाकारते.
  • प्रतिकूल ML — खरी गोष्ट पाहिलेली असणे गरजेचे असलेल्या वर्गीकारकांसाठी कठीण निगेटिव्ह, जेलब्रेक संग्रह आणि गैरवापराच्या वर्गवाऱ्या.
  • वैद्यकीय, कायदेशीर आणि न्यायवैद्यक मजकूर — स्वभावतःच भडक असलेली आणि नेमक्या त्याच कारणासाठी नाकारली जाणारी प्रकरण-सामग्री.

असेन्सॉर्ड म्हणजे बेजबाबदार नव्हे. तुम्ही जे निर्माण करता त्याची मालकी तुमची, आणि खात्यावर आमचे जबाबदार वापर धोरण व सेवा अटी लागू होतात. नकार स्तर काढून टाकल्याने हेतूविषयीचा अंदाज काढला जातो; तुम्हाला लागू होणाऱ्या कायद्याखालची तुमची कर्तव्ये काढली जात नाहीत.

06STEM आणि रिझनिंग: प्रकाशित आकडे काय सांगतात

Llama-Nemotron चा पोस्ट-ट्रेनिंग डेटासेट नेमक्या याच चार अक्षांभोवती बांधल्यापासून Nemotron च्या प्रशिक्षणाचा रोख गणित, कोड, विज्ञान आणि सूचनापालन हाच राहिला आहे. Nemotron 3 Ultra आधारासाठी NVIDIA जे नोंदवते ते — अनकॉम्प्रेस्ड मॉडेलवरचे विक्रेता-नोंदित आकडे, जे आम्ही चालवलेले नाहीत:

RULER @ 1M94.7
PinchBench90.0
IFBench82.0
SWE-Bench Verified70.4
Terminal-Bench 2.156.4
ProfBench (Search)56.0

आकड्यांपेक्षा जास्त मोलाच्या दोन सावधगिरी. SWE-Bench Verified चा आकडा हा एक पल्ला आहे — कोणते एजंट हार्नेस तो चालवते त्यानुसार (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent) NVIDIA 65.0% ते 70.4% नोंदवते, आणि नुसत्या स्कॅफोल्डिंगमुळे पडणारा पाच-टक्केबिंदूंचा फरक एजंटिक गुण मॉडेलपेक्षा हार्नेसवर किती अवलंबून असतात हे दाखवतो. आणि Artificial Analysis ने Nemotron 3 Ultra ला त्यांच्या Intelligence Index वर 48 गुण, 89 मॉडेलमध्ये 9 वे स्थान दिले — सशक्त, पण क्षेत्राच्या शिखरावर नाही, आणि कोणत्याही विक्रेत्याच्या स्लाइडपेक्षा आम्ही त्यांच्या स्वतंत्र मोजमापालाच अधिक वजन देऊ.

आधीच्या पिढीबद्दल, NVIDIA चा Llama-Nemotron शोधनिबंध LN-Ultra ला GPQA-Diamond वर 76.0% नोंदवतो, DeepSeek-R1 च्या 71.5% आणि Llama-3.1-405B-Instruct च्या 43.4% विरुद्ध, अधिक AIME 2024 वर 80.8% — वेगळे मॉडेल, पण पदव्युत्तर पातळीचे विज्ञान आणि स्पर्धा-गणित हे दोन पिढ्यांपासून या कुटुंबाचे लक्ष्य असल्यामुळे इथे दिलेले.

रचनेनेच पारदर्शक

इथला प्रत्येक आकडा आमच्याखेरीज इतर कुणीतरी प्रकाशित केलेला आहे. मूळ स्रोत स्वतः तपासा.

बेंचमार्क आकडे NVIDIA ने (जून 2026) अनकॉम्प्रेस्ड Nemotron 3 Ultra वर प्रकाशित केलेले, आणि स्वतंत्र मोजमापांसाठी Artificial Analysis ने दिलेले. कॉम्प्रेस्ड बिल्ड वेगळ्या असू शकतात. जे आम्ही पडताळलेले नाहीत किंवा ज्यांचे श्रेय देता येत नाही, असे बेंचमार्क आकडे आम्ही प्रकाशित करत नाही.

07किंमत, आणि शब्दबहुलतेची सावधगिरी

प्रति दशलक्ष इनपुट टोकन $0.75 आणि प्रति दशलक्ष आउटपुट टोकन $3.30 या दराने Nemotron3Ultra आमच्या कॅटलॉगमध्ये इनपुटवर खालच्या एक-तृतीयांशात आणि आउटपुटवर मध्यभागी बसते. प्रति-दशलक्ष किंमत नुसती वाचून जाणवत नाही, म्हणून सोडवलेली उदाहरणे:

कॉलचा आकारइनपुटआउटपुटखर्च
ठराविक RAG फेरी50,0004,000$0.051
लांब दस्तऐवजाचे विश्लेषण150,0008,000$0.139
कमाल आकाराचा कॉल262,14416,384$0.251

पूर्ण संदर्भ आणि पूर्ण आउटपुटची विनंती — एंडपॉइंट स्वीकारेल तेवढा प्रत्येक टोकन आणि तो निर्माण करेल तेवढा प्रत्येक टोकन — साधारण 25 सेंट पडते. $3.83/$19.12 या दराने आमचे सर्वात महाग मॉडेल असलेल्या Kimi-K3-3BIT-REAP वर तोच आकार साधारण $1.32, म्हणजे 5.3× जास्त.

आता ती सावधगिरी, आणि ती खरी आहे. Artificial Analysis ने त्यांच्या संपूर्ण बेंचमार्क संचावर Nemotron 3 Ultra मध्यमवर्ती समकक्षापेक्षा 2.3× जास्त आउटपुट टोकन निर्माण करत असल्याचे मोजले. रिझनिंग मॉडेल विचारांचेही बिल लावतात, आणि हे मॉडेल लांबवर विचार करते; तेच उत्तर गाठायला मॉडेल तिप्पट वेळ तर्क करत असेल, तर प्रति-टोकन किमतीचा फायदा प्रति-काम तोट्यात विरून जातो. उपाय आतच बांधलेला आहे आणि आमच्या API वर उघड आहे: Nemotron 3 चे पोस्ट-ट्रेनिंग रिझनिंग बजेट नियंत्रणासाठी झाले आहे, आणि इथे reasoning_effort ला पाठिंबा आहे — कमी-प्रयत्नाचा मोड एक-अंकी अचूकतेच्या तडजोडीत लक्षणीयरीत्या कमी विचार-टोकन वापरतो असे NVIDIA सांगते. वर्गीकरण, माहिती काढणे आणि राउटिंगवर तो खाली आणा, आणि अर्थकारण मोठ्या प्रमाणात बदलते; सिद्धता किंवा बहु-फाइल रिफॅक्टरवर तो वाढवा आणि जाणीवपूर्वक पैसे मोजा. किंमत-यादी वाचून गृहीत धरण्याऐवजी तुमचे स्वतःचे प्रति-काम टोकन मोजा.

08कॉल करणे: तीन बोली, एक मॉडेल

गेटवेवरचे प्रत्येक मॉडेल तीन स्ट्रीमिंग API पृष्ठभागांवर उत्तर देते, त्यामुळे तुमचे इंटिग्रेशन पुन्हा लिहिल्याशिवाय अस्तित्वातला क्लायंट त्याकडे वळवता येतो: /v1/chat/completions (OpenAI बोली), /v1/messages (Anthropic बोली), आणि /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

इंटिग्रेशनच्या वेळी काहीही अनपेक्षित घडू नये म्हणून क्षमतांचा सारांश:

क्षमताNemotron3Ultra · 3BIT-REAP
संदर्भ विंडो262,144 टोकन
कमाल आउटपुट / विनंती16,384 टोकन
स्ट्रीमिंगहोय
टूल कॉलिंगहोय
रिझनिंग ट्रेसहोय
reasoning_effortहोय
json_schema (काटेकोर)होय
response_formatहोय
व्हिजन / इमेज इनपुटनाही — फक्त मजकूर
नकार स्तरनाही

व्हिजनची ओळ लोकांना चकवते: Nemotron3Ultra फक्त मजकुरासाठी आहे. तुमची पाइपलाइन प्रतिमा पाठवत असेल, तर $0.50/$2.00 दरात MiniMax-M3-3BIT-REAP किंवा MiMo-V2.5-W8A16, किंवा $0.78/$3.67 दरात Kimi-K2.6-W4A16-AUTOROUND-REAP वापरा — सर्व व्हिजन-सक्षम, सर्व असेन्सॉर्ड, सर्व त्याच 262,144-टोकन संदर्भावर. संपूर्ण पॅरामीटर संदर्भ API दस्तऐवजांमध्ये आहे.

09बाराांमध्ये Nemotron3Ultra कुठे बसते

कॅटलॉगमध्ये बारा असेन्सॉर्ड मॉडेल आहेत, ज्यांची संदर्भ विंडो समान, तिन्ही बोली समान आणि नकार स्तराचा अभावही समान; ती वेगळी ठरतात आधार, किंमत आणि क्षमतेत. Nemotron ची जागा नेमकी आहे: खुल्या वंशावळीचा रिझनिंग कामकरी — सर्वात स्वस्त नाही, सर्वात सक्षम नाही, पण ज्याच्या वर्तनामागे सर्वाधिक सार्वजनिक कागदपत्रे आहेत असे, आणि STEM व एजंटकडे सर्वात जोरात ट्यून केलेले.

मॉडेलइन / 1Mआउट / 1Mव्हिजनयासाठी निवडा
MiniMax-M3 · 3BIT-REAP$0.50$2.00होयसर्वात स्वस्त व्हिजन-सक्षम पर्याय
MiMo-V2.5-Pro · W8A16$0.50$2.00नाहीसर्वोच्च विश्वासार्हतेचा क्वांटायझेशन स्तर
GLM-5.2 · 3BIT-REAP$0.73$2.34नाहीमोठ्या आधारावरचे सर्वात स्वस्त रिझनिंग
Nemotron3Ultra · 3BIT-REAP$0.75$3.30नाहीSTEM, एजंट, खुली वंशावळ
Kimi-K2.6 · W4A16-AUTOROUND-REAP$0.78$3.67होयव्हिजन + AutoRound विश्वासार्हता
DeepSeek-V4-Pro · 3BIT-REAP$1.95$3.90नाहीएका फटक्यातले खोल विश्लेषण
Kimi-K3 · 3BIT-REAP$3.83$19.12होयक्षमतेची निरपेक्ष कमाल मर्यादा

बारापैकी सात दाखवली आहेत. संपूर्ण कॅटलॉग — Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 आणि Hy3 यांच्यासह — API दस्तऐवजांमध्ये आहे. लक्षात घ्या की Laguna-S-2.1 संरचित आउटपुटला पाठिंबा देत नाही आणि inkling json_schema ला पाठिंबा देत नाही; Nemotron3Ultra दोन्हींना देते.

किमतीने सर्वात जवळचा शेजारी $0.73/$2.34 वरचा GLM-5.2-3BIT-REAP आहे, आणि प्रामाणिक तुलना अशी: GLM-5.2 प्रति टोकन स्वस्त आहे, विशेषतः आउटपुटवर. Nemotron सोबत आणते प्रकाशित प्रशिक्षण संग्रह, रिझनिंग-बजेटची स्पष्ट तबकडी, आणि पदव्युत्तर पातळीच्या विज्ञानाकडे रोखलेला कौटुंबिक इतिहास. मोठ्या प्रमाणावरचे सर्वसाधारण रिझनिंग: स्वस्तावाले चालवा. STEM-जड, एजंटिक, किंवा मॉडेलचे वर्तन कुठून आले असे विचारणाऱ्या तपासणीखाली येणारे काम: Nemotron तो फरक वसूल करते.

10वारंवार विचारले जाणारे प्रश्न

असेन्सॉर्ड Nemotron API म्हणजे काय?

NVIDIA च्या ओपन-वेट्स Nemotron 3 Ultra ची कॉम्प्रेस्ड बिल्ड असलेल्या Nemotron3Ultra 3BIT-REAP साठीचा हा Shannon AI चा होस्टेड एंडपॉइंट आहे. तो आमच्या स्वतःच्या GPU क्लस्टरवर नकार स्तराशिवाय आणि आउटपुट फिल्टरिंगशिवाय चालतो, 262,144-टोकन संदर्भ आणि प्रति विनंती 16,384 आउटपुट टोकन उपलब्ध करतो, आणि त्याची किंमत प्रति दशलक्ष इनपुट टोकन $0.75 व प्रति दशलक्ष आउटपुट टोकन $3.30 आहे.

NVIDIA Nemotron खरोखर ओपन वेट्स आहे का?

होय. Nemotron-4 340B आणि Llama-Nemotron कुटुंबानंतर NVIDIA ने 4 जून 2026 रोजी Nemotron 3 Ultra वेट्स, प्रशिक्षण डेटा आणि रेसिपीसह Linux Foundation च्या उदार OpenMDW-1.1 परवान्याअंतर्गत प्रकाशित केले. याच खुलेपणामुळे स्वतंत्रपणे चालवलेले, फिल्टरविरहित डिप्लॉयमेंट शक्य होते.

3BIT-REAP म्हणजे काय?

कॉम्प्रेशनचे दोन टप्पे. REAP — Router-weighted Expert Activation Pruning, Cerebras Research कडून आलेले आणि ICLR 2026 मध्ये स्वीकारलेले — राउटर प्रत्येक Mixture-of-Experts एक्सपर्टला किती जोरात गेट करतो आणि त्याचे आउटपुट योगदान किती मोठे आहे यावरून त्याला गुण देते, आणि सर्वात कमी ठळक असलेले सरळ काढून टाकते. उरलेल्यांचे 3-bit वेट्समध्ये क्वांटायझेशन होते, त्यामुळे बिट-अंदाजपत्रक प्रत्यक्षात रहदारी वाहणाऱ्या एक्सपर्टवर खर्च होते.

Nemotron3Ultra व्हिजन किंवा JSON स्कीमा आउटपुटला पाठिंबा देते का?

प्रतिमा नाहीत: हा एंडपॉइंट फक्त मजकुरासाठी आहे. काटेकोर संरचित आउटपुटला मात्र तो पाठिंबा देतो — json_schema आणि response_format दोन्ही — अधिक टूल कॉलिंग, स्ट्रीमिंग, रिझनिंग ट्रेस आणि reasoning_effort. असेन्सॉर्ड मॉडेलवर प्रतिमांसाठी त्याऐवजी MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 किंवा inkling वापरा.

NVIDIA 1M जाहीर करत असताना संदर्भ 262,144 टोकन का आहे?

Nemotron 3 वास्तुरचना 1M-टोकन विंडोचे लक्ष्य ठेवते आणि त्या लांबीवर RULER वर 94.7% NVIDIA नोंदवते. आमचे डिप्लॉयमेंट 262,144 टोकन सर्व्ह करते — संपूर्ण कॅटलॉगभर पूर्ण वेगाने आम्ही धरून ठेवतो ती विंडो. गेटवेवरचे प्रत्येक मॉडेल तोच संदर्भ उपलब्ध करते, त्यामुळे तुमचे चंकिंग पुन्हा लिहिल्याशिवाय मॉडेल आयडी बदलता येतात.

गणित, विज्ञान आणि कोडसाठी Nemotron चांगले आहे का?

STEM आणि रिझनिंग हेच या कुटुंबाचे जाहीर लक्ष्य आहे. Nemotron 3 Ultra साठी NVIDIA PinchBench वर 90%, पाच एजंट हार्नेसवर SWE-Bench Verified वर 65.0-70.4% आणि Terminal-Bench 2.1 वर 56.4% नोंदवते; आधीच्या Llama-Nemotron Ultra ने DeepSeek-R1 च्या 71.5% विरुद्ध GPQA-Diamond वर 76.0% नोंदवले होते. हे सर्व अनकॉम्प्रेस्ड आधारावरचे विक्रेता-नोंदित आकडे आहेत.

असेन्सॉर्ड Nemotron API कॉल करा

262K संदर्भ, टूल कॉलिंग, काटेकोर JSON स्कीमा, नकार स्तर नाही — प्रति 1M टोकन $0.75 इन / $3.30 आउट.

API दस्तऐवज वाचा सर्व मॉडेल कार्ड

Shannon Lab LLC · न्यू मेक्सिको, अमेरिका · वापरावर आमचे जबाबदार वापर धोरण लागू


स्रोत: NVIDIA Nemotron 3 Ultra तांत्रिक अहवाल · NVIDIA डेव्हलपर ब्लॉग (जून 2026) · Nemotron 3 Super वास्तुरचना टिपणे · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. आधाराचे बेंचमार्क, जोपर्यंत Artificial Analysis ला श्रेय दिलेले नाही तोपर्यंत, अनकॉम्प्रेस्ड मॉडेलवरचे NVIDIA-नोंदित आकडे आहेत; कॉम्प्रेस्ड बिल्ड वेगळ्या असू शकतात. किंमत आणि क्षमता 5 सप्टेंबर 2026 पर्यंत चालू आहेत.

All research links