सेन्सर नगरिएको Nemotron API
NVIDIA को अनुसन्धान वंशावली, खुला रूपमा प्रकाशित, अस्वीकृति तहविना सेवा दिइएको: STEM र लामो-क्षितिजको तर्कका लागि ट्युन गरिएको 550B हाइब्रिड Mamba-Attention MoE — प्रति दस लाख टोकन $0.75 इन / $3.30 आउट मा।
संक्षेपमा
Nemotron3Ultra-3BIT-REAP भनेको NVIDIA Nemotron 3 Ultra को Shannon द्वारा सेन्सर नगरी गरिएको डिप्लोयमेन्ट हो — प्रति टोकन 55B सक्रिय हुने 550 अर्ब प्यारामिटरको Mixture-of-Experts मोडेल, जुन जुन 4, 2026 मा Linux Foundation को उदार OpenMDW-1.1 लाइसेन्स अन्तर्गत वेट, तालिम डेटा र रेसिपीसहित जारी भएको थियो। हाम्रो आफ्नै GPU क्लस्टरमा यो कुनै अस्वीकृति तह र आउटपुट फिल्टरविना चल्छ, 262,144-टोकनको सन्दर्भ, प्रति अनुरोध 16,384 आउटपुट टोकन सम्म, टुल कलिङ, स्ट्रिमिङ, तर्कका ट्रेस र कडा json_schema आउटपुटसहित। यसले तस्बिर लिँदैन। मूल्य: प्रति 1M टोकन $0.75 / $3.30।
अधिकांश "खुला" मोडेल खुला वेट मात्र हुन्, अरू केही होइन — प्यारामिटरको एउटा टारबल, एउटा लाइसेन्स, र ती सङ्ख्या कहाँबाट आए भन्ने विषयमा मौनता। Nemotron दुई वर्षदेखि निरन्तर अपवाद रहँदै आएको छ: NVIDIA ले वेट, पोस्ट-ट्रेनिङ डेटासेट, RL वातावरण र रेसिपी सबै पठाउँछ। सेन्सर नगरिएको एन्डपोइन्टका लागि यसको महत्त्व सजिलै छुट्न सक्छ। जसको एलाइनमेन्ट डेटा प्रकाशित छ, त्यस मोडेलको अस्वीकार गर्ने व्यवहारबारे अनुमान नगरी तर्क गर्न सकिन्छ — र तेस्रो पक्षले त्यसलाई मुखमा फिल्टर बाँधेर नराखी वैध रूपमा तैनाथ गर्न सक्छ।
01Nemotron 3 Ultra भनेको के हो?
Nemotron 3 Ultra NVIDIA को Nemotron 3 परिवारको सबैभन्दा ठूलो सदस्य हो, जुन जुन 4, 2026 मा Hugging Face मा जारी भयो। NVIDIA को प्राविधिक प्रतिवेदनले यसलाई "कुल 550 अर्ब र 55 अर्ब सक्रिय प्यारामिटरको Mixture-of-Experts हाइब्रिड Mamba-Attention भाषा मोडेल" भनेर वर्णन गर्छ — कुनै पनि टोकनमा नेटवर्कको करिब 10% मात्र काम गर्छ, र यही कुराले आधा-ट्रिलियन प्यारामिटरको मोडेललाई सेवा दिन सम्भव तुल्याउँछ।
रिपोर्ट गरिएको बनावट 8,192 मोडेल आयामका 108 तह हो, जसले Mamba-2 स्टेट-स्पेस तह लाई थोरै सङ्ख्याका पूर्ण अटेन्सन तहसँग आलोपालो राख्छ, प्रति MoE तह 512 विशेषज्ञ र top-22 राउटिङसहित। प्रि-ट्रेनिङ करिब 20 ट्रिलियन पाठ टोकनमा दुई चरणमा चल्यो — पहिले विविधता-केन्द्रित, त्यसपछि गुणस्तर-केन्द्रित — सेप्टेम्बर 2025 को कटअफ, 12 प्राकृतिक भाषा र 43 प्रोग्रामिङ भाषासहित। पोस्ट-ट्रेनिङमा SFT, प्रमाणित गर्न सकिने पुरस्कारसहितको बहु-वातावरण RL, र दस भन्दा बढी विशेषज्ञ शिक्षकबाट Multi-Teacher On-Policy Distillation प्रयोग भयो। घोषित डिजाइन लक्ष्य लामो समय चल्ने एजेन्ट हुन्: ठूलो सन्दर्भ बोक्ने, दर्जनौं पटक टुल बोलाउने, र प्रति-टोकन अर्थतन्त्रले बिल निर्धारण गर्ने गरी लामो चल्ने सत्रहरू।
02Nemotron को वंश, र वंशावली किन महत्त्वपूर्ण छ
Nemotron एक पटकको प्रयास होइन। यो 2024 देखि उही दिशामा चलिरहेको NVIDIA अनुसन्धान कार्यक्रमको दृश्य उपज हो, र हरेक पुस्ताले केही न केही छाडेको छ जुन अहिलेको मोडेलले अझै बोकेको छ। Nemotron-4 340B (जुन 2024) खुला सिंथेटिक डेटा उत्पादन पाइपलाइन, त्यसको रिवार्ड मोडेल र जेनेरेटरसहित आयो, थपमा एउटा असामान्य खुलासासहित: यसको एलाइनमेन्ट डेटाको ठूलो बहुमत मोडेलले नै उत्पादन गरेको थियो। मोडेललाई ओराकल होइन, डेटा कारखानाका रूपमा हेर्ने यही दृष्टिकोणले पछिका Nemotron रिलिजहरूले वेटसँगै डेटासेट पनि पठाउँदै आएका छन्।
Llama-Nemotron — बन्द गर्न मिल्ने तर्क
2025 को Llama-Nemotron परिवार (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) ले दुई विचार दियो जुन राम्ररी टिके। पहिलो वास्तुकलागत थियो: NVIDIA को Puzzle न्युरल आर्किटेक्चर सर्चले ब्लक-वाइज डिस्टिल गरिएका ट्रान्सफर्मर ब्लकको पुस्तकालय बनायो र मिश्रित-पूर्णाङ्क प्रोग्रामिङले तिनलाई जोड्यो, जसबाट यस्ता मोडेल बने जहाँ केही ब्लकले अटेन्सन पूरै छोड्छन् वा त्यसलाई एउटै लिनियर तहले प्रतिस्थापन गर्छन्, जबकि FFN Fusion ले लगातारका फिड-फर्वार्ड ब्लकलाई थोरै, फराकिला, समानान्तर ब्लकमा खुम्च्यायो — प्यारामिटर सङ्ख्या होइन, क्रमिक गहिराइ घटाएर। NVIDIA को पेपरअनुसार LN-Ultra एउटै 8×H100 नोडमा अट्यो र GPQA-Diamond मा DeepSeek-R1 लाई उछिन्यो (76.0% विरुद्ध 71.5%)।
दोस्रो व्यवहारगत थियो: Llama-Nemotron गतिशील तर्क स्विच भएको पहिलो खुला परिवार थियो, जसले सिस्टम निर्देशनमा तालिम डेटालाई detailed thinking on वा detailed thinking off ट्याग गर्थ्यो, र अन-मोडमा <think> ट्याग लागू गराउन ढाँचा पुरस्कार राख्थ्यो। एउटै वेट सेट, दुई व्यवहार, इन्फरेन्सको समयमा छनौट गर्न मिल्ने। Nemotron 3 को तर्क बजेट नियन्त्रण — र हाम्रो API मा रहेको reasoning_effort प्यारामिटर — सिधै त्यही कामबाट आएको हो।
Nemotron 3 — हाइब्रिड मोड
Nemotron 3 ले Llama व्युत्पत्तिलाई शून्यबाट बनाइएको हाइब्रिड वास्तुकलाले प्रतिस्थापन गर्यो र LatentMoE (राउटिङअघि टोकन सङ्कुचन, जसले NVIDIA का अनुसार "उही इन्फरेन्स लागतमा 4 गुणा बढी विशेषज्ञ" सम्भव बनाउँछ), बहु-टोकन भविष्यवाणी, र नेटिभ NVFP4 प्रि-ट्रेनिङ थप्यो। NVIDIA ले वेटसँगै कुल 5 करोड SFT नमुना, 20 लाख RL कार्य र 55 RL वातावरण प्रकाशित गर्यो — मोडेललाई के सिकाइयो भन्ने कुरामा विक्रेताको भनाइ मान्नुपर्दैन, किनकि पढाइएको सामग्री नै डाउनलोड गर्न सकिन्छ।
03हाइब्रिड वास्तुकलाले के दिन्छ
ट्रान्सफर्मरको KV क्यास अनुक्रम लम्बाइसँगै रैखिक रूपमा बढ्छ, त्यसैले लामो-सन्दर्भ इन्फरेन्स कम्प्युटभन्दा पहिले मेमोरीमा महँगो पर्छ। Mamba-2 तहहरू स्टेट-स्पेस मोडेल हुन् जसले निश्चित आकारको पुनरावर्ती स्टेट बोक्छन्, त्यसैले तिनको प्रति-टोकन मेमोरी लागत इतिहाससँगै बढ्दैन; तिनको कमजोरी भनेको ठ्याक्कै साहचर्य स्मरण हो। हाइब्रिडले अनुक्रम प्रशोधनको ठूलो भागका लागि Mamba-2 राख्छ र स्टेट-स्पेस तहले चुक्ने स्मरणका लागि अल्पसङ्ख्यक वास्तविक अटेन्सन तह राख्छ, जसमा आक्रामक 64-क्वेरी-हेड / 2-KV-हेड अनुपातले क्यास अझ खुम्च्याउँछ। NVIDIA ले 1M टोकनमा RULER मा 94.7% रिपोर्ट गर्छ — यो सियो-खोज बेन्चमार्क हो, जुन प्रयोग गर्नै नसक्ने विन्डोको दाबी गर्ने मोडेल पक्रन बनाइएको हो।
यसको नतिजा थ्रुपुट हो: NVIDIA ले बराबर शुद्धतामा तुलनीय मोडेलभन्दा करिब 6× सम्म बढी इन्फरेन्स थ्रुपुटको दाबी गर्छ, र Artificial Analysis ले स्वतन्त्र रूपमा 140.3 टोकन/सेकेन्ड र 1.33 सेकेन्डको पहिलो टोकनसम्मको समय नाप्यो — 89 मोडेलमध्ये 7 औं। 200-टर्नको एजेन्ट रनमा त्यो भनेको दिउँसोमै सक्नु र नसक्नुबीचको फरक हो।
04"3BIT-REAP" को इमानदार अर्थ
यो प्रत्यय सजावट होइन — यसले आधारलाई अटाउन ठ्याक्कै के गरियो भन्ने बताउँछ।
REAP — Router-weighted Expert Activation Pruning — Cerebras Research बाट आएको हो र ICLR 2026 मा स्वीकृत भयो। विरल MoE मा राउटरले प्रत्येक टोकनलाई मुट्ठीभर विशेषज्ञकहाँ पठाउँछ; वास्तविक कार्यभारमा केही विशेषज्ञ निरन्तर हिट हुन्छन् भने अरू झन्डै कहिल्यै हुँदैनन्। REAP ले प्रत्येक विशेषज्ञलाई एउटा प्रमुखता मापदण्डमा अङ्क दिन्छ, जसले राउटरले त्यसलाई कति बलियोसँग गेट गर्छ र त्यसको आउटपुट योगदान कति ठूलो छ भन्ने जोड्छ, अनि सबैभन्दा कम प्रमुखलाई सिधै हटाइदिन्छ — Cerebras ले 1 ट्रिलियन प्यारामिटरसम्मका मोडेलबाट 50% सम्म विशेषज्ञ प्रुन गर्दा पनि आधारभूत गुणस्तर धेरै हदसम्म जोगिएको रिपोर्ट गर्छ, र कोडजस्ता जेनेरेटिभ कार्यमा प्रुनिङले मर्जिङलाई उछिन्ने पाउँछ। त्यसपछि 3-बिट क्वान्टाइजेसनले बाँकी रहेकालाई सङ्कुचित गर्छ। पहिले प्रुन, अनि क्वान्टाइज — ताकि बिट बजेट मरेका विशेषज्ञमा छरिनुको सट्टा ट्राफिक बोक्ने विशेषज्ञमा जाओस्।
सङ्कुचन नि:शुल्क होइन, र हामी अरू भएको बहाना गर्दैनौं: आक्रामक क्वान्टाइजेसन पहिले देखिने कुरा भनेको ठ्याक्कै-ढाँचा पालना र लामो शृङ्खलाको अङ्कगणितमा सानो ह्रास हो, दृश्य असंगति होइन। तीन तह कहाँ पर्छन्:
| प्रत्यय | यो के हो | हामी कहाँ प्रयोग गर्छौं |
|---|---|---|
| 3BIT-REAP | 3-बिट वेट + विशेषज्ञ प्रुनिङ | सबैभन्दा ठूला आधार, जहाँ अरू केही गतिसहित अट्दैन |
| W4A16-AUTOROUND-REAP | 4-बिट वेट / 16-बिट एक्टिभेसन, AutoRound सिकिएको राउन्डिङ, + प्रुनिङ | मध्यम आकारका आधार; AutoRound ले साधारण नजिकको-पूर्णाङ्क राउन्डिङभन्दा शुद्धता फिर्ता ल्याउँछ |
| W8A16 | 8-बिट वेट / 16-बिट एक्टिभेसन | सर्वोच्च निष्ठा; आक्रामक सङ्कुचन नचाहिने गरी साना आधार |
550B को Nemotron 3 Ultra स्पष्ट रूपमा पहिलो कोटीमा पर्छ। तपाईंको कार्यभार लामो शृङ्खलामा ठ्याक्कै सङ्ख्यात्मक आउटपुटप्रति असामान्य रूपमा संवेदनशील छ भने, अनुसन्धान अनुक्रमणिका मा W8A16 तह सूचीबद्ध छ — MiMo-V2.5-Pro-W8A16 र Hy3-W8A16 — $0.50/$2.00 को भुइँतलामा। यो साँचो साटफेर हो, फनेल होइन: सानो मोडेल, कम सङ्कुचन।
05यस एन्डपोइन्टमा "सेन्सर नगरिएको" को अर्थ के हो
ठोस रूपमा: कुनै अस्वीकृति तह छैन र आउटपुटमा कुनै सामग्री फिल्टरिङ लागू हुँदैन। कुनै क्लासिफायरले तपाईंको प्रम्प्ट जाँचेर तयारी अस्वीकार फर्काउँदैन, र प्रतिक्रिया तपाईंको स्ट्रिममा पुग्नुअघि स्क्यान हुँदैन। तपाईंले पाउने कुरा मोडेलको आफ्नै व्यवहार हो।
यहीँ खुला वंश सामान्य जानकारी हुन छाड्छ। NVIDIA ले पोस्ट-ट्रेनिङ डेटा र RL वातावरण प्रकाशित गरेकाले, मोडेलका प्रवृत्ति लोककथा होइन, सिद्धान्ततः लेखापरीक्षणयोग्य छन्। र OpenMDW-1.1 वास्तुकला, प्यारामिटर, कागजात र सफ्टवेयर समेट्ने Linux Foundation को उदार लाइसेन्स भएकाले, स्वतन्त्र सञ्चालकले आफ्नै हार्डवेयरमा परिमार्जित, फिल्टर नगरिएको डिप्लोयमेन्ट सेवा दिन सक्छ र लाइसेन्स बाधक बन्दैन। धेरै "खुला" मोडेल लाइसेन्सले त्यो अनुमति दिँदैनन्। यसले दिन्छ। जहाँ स्वचालित अस्वीकार सुरक्षा सुविधा होइन, बग हो, त्यहाँ यो फरक देखिन्छ:
- सुरक्षा अनुसन्धान — प्रश्न अनुमतियोग्य छ कि छैन भनेर विवाद नगरी भेद्यता विश्लेषण, एक्सप्लोइट तर्क, मालवेयर व्यवहार, रेड-टिम उपकरण।
- रसायन, जीवविज्ञान र औषधिविज्ञान — मात्राको गणित, प्रतिक्रिया संयन्त्र, विषविज्ञान, र संश्लेषण मार्ग जुन फिल्टर गरिएको एन्डपोइन्टले कुञ्जी-शब्द छुँदै अस्वीकार गर्छ।
- प्रतिकूल ML — वास्तविक कुरा देखेकै हुनुपर्ने क्लासिफायरका लागि कठिन नेगेटिभ, जेलब्रेक सङ्ग्रह र दुरुपयोग वर्गीकरण।
- क्लिनिकल, कानुनी र फोरेन्सिक पाठ — स्वभावतः बीभत्स हुने र ठ्याक्कै त्यही कारण अस्वीकृत हुने मुद्दा सामग्री।
सेन्सर नगरिएको भनेको जवाफदेहीविहीन होइन। तपाईंले उत्पादन गर्नुभएको कुरा तपाईंकै हो, र हाम्रो जिम्मेवार प्रयोग नीति तथा सेवा सर्तले खाता सञ्चालन गर्छन्। अस्वीकृति तह हटाउनुले नियतबारेको अनुमान हटाउँछ; यसले तपाईंमाथि लागू हुने कानुनअन्तर्गतका तपाईंका दायित्व हटाउँदैन।
06STEM र तर्क: प्रकाशित सङ्ख्याले के भन्छन्
Llama-Nemotron पोस्ट-ट्रेनिङ डेटासेट ठ्याक्कै चार अक्षवरिपरि बनेदेखि नै Nemotron को तालिम केन्द्रविन्दु गणित, कोड, विज्ञान र निर्देशन पालना रहँदै आएको छ। Nemotron 3 Ultra आधारका लागि NVIDIA ले रिपोर्ट गरेका — सङ्कुचित नगरिएको मोडेलमा विक्रेताले रिपोर्ट गरेका आँकडा, जुन हामीले चलाएका होइनौं:
सङ्ख्याभन्दा बढी मूल्यका दुई चेतावनी। SWE-Bench Verified को आँकडा एउटा दायरा हो — कुन एजेन्ट हार्नेसले चलाउँछ (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent) त्यसअनुसार NVIDIA ले 65.0% देखि 70.4% सम्म रिपोर्ट गर्छ, र स्क्याफोल्डिङ मात्रैले ल्याउने पाँच-बिन्दुको अन्तरले एजेन्टिक अङ्क मोडेलभन्दा हार्नेसमा कति निर्भर हुन्छन् भन्ने देखाउँछ। र Artificial Analysis ले Nemotron 3 Ultra लाई आफ्नो Intelligence Index मा 48, 89 मोडेलमध्ये 9 औं राख्यो — बलियो, तर क्षेत्रको शिखर होइन, अनि कुनै पनि विक्रेताको स्लाइडभन्दा तिनको स्वतन्त्र नापलाई नै हामी बढी तौल दिन्छौं।
अघिल्लो पुस्ताबारे, NVIDIA को Llama-Nemotron पेपरले LN-Ultra लाई GPQA-Diamond मा 76.0% रिपोर्ट गर्छ, जबकि DeepSeek-R1 को 71.5% र Llama-3.1-405B-Instruct को 43.4% छ, थपमा AIME 2024 मा 80.8% — फरक मोडेल हो, तर यहाँ राखिएको छ किनभने स्नातकोत्तर स्तरको विज्ञान र प्रतियोगिता गणित दुई पुस्तादेखि यस परिवारको लक्ष्य रहँदै आएको छ।
यहाँका हरेक आँकडा हामीबाहेक अरू कसैले प्रकाशित गरेका हुन्। प्राथमिक स्रोत आफैं जाँच्नुहोस्।
बेन्चमार्क आँकडा सङ्कुचित नगरिएको Nemotron 3 Ultra मा NVIDIA (जुन 2026) ले प्रकाशित गरेअनुसार, र स्वतन्त्र नापका लागि Artificial Analysis ले प्रकाशित गरेअनुसार। सङ्कुचित बिल्डहरू फरक हुन सक्छन्। हामीले प्रमाणित नगरेका वा श्रेय दिन नसकिने बेन्चमार्क सङ्ख्या प्रकाशित गर्दैनौं।
07मूल्य, र वाचालताको चेतावनी
प्रति दस लाख इनपुट टोकन $0.75 र प्रति दस लाख आउटपुट टोकन $3.30 मा, Nemotron3Ultra हाम्रो क्याटलगमा इनपुटमा तल्लो तिहाइ र आउटपुटमा बीचमा पर्छ। काम गरेर देखाइएका उदाहरण, किनभने प्रति-दस-लाख मूल्य महसुस गर्न गाह्रो हुन्छ:
| कल स्वरूप | इनपुट | आउटपुट | लागत |
|---|---|---|---|
| सामान्य RAG टर्न | 50,000 | 4,000 | $0.051 |
| लामो कागजात विश्लेषण | 150,000 | 8,000 | $0.139 |
| अधिकतम आकारको कल | 262,144 | 16,384 | $0.251 |
पूर्ण-सन्दर्भ, पूर्ण-आउटपुट अनुरोध — एन्डपोइन्टले स्वीकार गर्ने हरेक टोकन र उत्पादन गर्ने हरेक टोकन — को लागत करिब 25 सेन्ट पर्छ। उही स्वरूप Kimi-K3-3BIT-REAP मा, जुन $3.83/$19.12 सहित हाम्रो सबैभन्दा महँगो मोडेल हो, करिब $1.32 अर्थात् 5.3× बढी पर्छ।
अब चेतावनी, र यो वास्तविक हो। Artificial Analysis ले आफ्नो बेन्चमार्क सुइटभरि Nemotron 3 Ultra ले मध्यम स्तरका समकक्षभन्दा 2.3× बढी आउटपुट टोकन उत्पादन गरेको नाप्यो। तर्क गर्ने मोडेलले सोचाइकै बिल गर्छन्, र यसले लामो समय सोच्छ; उही उत्तरमा पुग्न मोडेलले तीन गुणा लामो तर्क गर्छ भने प्रति-टोकन मूल्यको लाभ प्रति-कार्य घाटामा उडेर जान्छ। उपचार भित्रै छ र हाम्रो API मा उपलब्ध छ: Nemotron 3 लाई तर्क बजेट नियन्त्रण का लागि पोस्ट-ट्रेन गरिएको हो, र यहाँ reasoning_effort समर्थित छ — NVIDIA ले एकल-अङ्कको शुद्धता साटफेरमा उल्लेख्य रूपमा कम सोचाइ टोकन प्रयोग गर्ने कम-प्रयास मोड वर्णन गर्छ। वर्गीकरण, निकासी र राउटिङमा यसलाई घटाउनुहोस् र अर्थतन्त्र उल्लेख्य रूपमा फेरिन्छ; प्रमाण वा बहु-फाइल रिफ्याक्टरमा बढाउनुहोस् र जानीबुझी त्यसको मूल्य तिर्नुहोस्। मूल्य सूची पढेर अनुमान गर्नुको सट्टा आफ्नै प्रति-कार्य टोकन नाप्नुहोस्।
08बोलाउने तरिका: तीन बोली, एउटै मोडेल
गेटवेका हरेक मोडेल तीन स्ट्रिमिङ API सतहमा जवाफ दिन्छन्, ताकि तपाईंले आफ्नो इन्टिग्रेसन नलेखीकनै अवस्थित क्लाइन्ट यसतर्फ फर्काउन सक्नुहोस्: /v1/chat/completions (OpenAI बोली), /v1/messages (Anthropic बोली), र /v1/responses।
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'क्षमताको संक्षेप, ताकि इन्टिग्रेसनको बेला केही अचम्म नलागोस्:
| क्षमता | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| सन्दर्भ विन्डो | 262,144 टोकन |
| अधिकतम आउटपुट / अनुरोध | 16,384 टोकन |
| स्ट्रिमिङ | छ |
| टुल कलिङ | छ |
| तर्कका ट्रेस | छ |
reasoning_effort | छ |
json_schema (कडा) | छ |
response_format | छ |
| भिजन / तस्बिर इनपुट | छैन — पाठ मात्र |
| अस्वीकृति तह | छैन |
भिजनको पङ्क्तिले मानिसलाई अल्मल्याउँछ: Nemotron3Ultra पाठ मात्र हो। तपाईंको पाइपलाइनले तस्बिर पठाउँछ भने $0.50/$2.00 मा MiniMax-M3-3BIT-REAP वा MiMo-V2.5-W8A16, वा $0.78/$3.67 मा Kimi-K2.6-W4A16-AUTOROUND-REAP प्रयोग गर्नुहोस् — सबै भिजन-सक्षम, सबै सेन्सर नगरिएका, सबै उही 262,144-टोकनको सन्दर्भमा। पूर्ण प्यारामिटर सन्दर्भ API कागजात मा छ।
09बाह्र मोडेलमध्ये Nemotron3Ultra कहाँ पर्छ
क्याटलगमा बाह्र सेन्सर नगरिएका मोडेल छन् जसले उही सन्दर्भ विन्डो, उही तीन बोली र अस्वीकृति तहको उही अभाव बाँड्छन्; तिनको फरक आधार, मूल्य र क्षमतामा हुन्छ। Nemotron को स्थान निश्चित छ: खुला वंशको तर्क कामदार — न सबैभन्दा सस्तो, न सबैभन्दा सक्षम, तर आफ्नो व्यवहारपछाडि सबैभन्दा धेरै सार्वजनिक कागजी प्रमाण भएको, र STEM तथा एजेन्टतर्फ सबैभन्दा कडा ट्युन गरिएको।
| मोडेल | इन / 1M | आउट / 1M | भिजन | यसका लागि छान्नुहोस् |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | छ | सबैभन्दा सस्तो भिजन-सक्षम विकल्प |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | छैन | सर्वोच्च निष्ठाको क्वान्टाइजेसन तह |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | छैन | सबैभन्दा सस्तो ठूलो-आधार तर्क |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | छैन | STEM, एजेन्ट, खुला वंश |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | छ | भिजन + AutoRound निष्ठा |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | छैन | गहिरो एकल-प्रहार विश्लेषण |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | छ | निरपेक्ष क्षमताको सिलिङ |
बाह्रमध्ये सात देखाइएका। पूर्ण क्याटलग — Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 र Hy3 सहित — API कागजात मा छ। ध्यान दिनुहोस्, Laguna-S-2.1 ले संरचित आउटपुट समर्थन गर्दैन र inkling ले json_schema समर्थन गर्दैन; Nemotron3Ultra ले दुवै समर्थन गर्छ।
मूल्यका आधारमा सबैभन्दा नजिकको छिमेकी $0.73/$2.34 को GLM-5.2-3BIT-REAP हो, र इमानदार तुलना यो हो: GLM-5.2 प्रति टोकन सस्तो छ, खासगरी आउटपुटमा। Nemotron ले प्रकाशित तालिम सङ्ग्रह, स्पष्ट तर्क-बजेट डायल, र स्नातकोत्तर स्तरको विज्ञानमा लक्षित पारिवारिक इतिहास ल्याउँछ। उच्च-मात्राको सामान्य तर्क: सस्तो चलाउनुहोस्। STEM-प्रधान, एजेन्टिक, वा मोडेलको व्यवहार कहाँबाट आयो भनी सोध्ने लेखापरीक्षणको अधीनमा: Nemotron ले त्यो फरक कमाउँछ।
10बारम्बार सोधिने प्रश्न
सेन्सर नगरिएको Nemotron API भनेको के हो?
यो NVIDIA को खुला-वेट Nemotron 3 Ultra को सङ्कुचित बिल्ड, Nemotron3Ultra 3BIT-REAP का लागि Shannon AI ले होस्ट गरेको एन्डपोइन्ट हो। यो हाम्रो आफ्नै GPU क्लस्टरमा कुनै अस्वीकृति तह र आउटपुट फिल्टरविना चल्छ, 262,144-टोकनको सन्दर्भ र प्रति अनुरोध 16,384 आउटपुट टोकन दिन्छ, र प्रति दस लाख इनपुट टोकन $0.75 तथा प्रति दस लाख आउटपुट टोकन $3.30 पर्छ।
के NVIDIA Nemotron साँच्चै खुला वेट हो?
हो। NVIDIA ले Nemotron 3 Ultra जुन 4, 2026 मा वेट, तालिम डेटा र रेसिपीसहित Linux Foundation को उदार OpenMDW-1.1 लाइसेन्स अन्तर्गत प्रकाशित गर्यो, Nemotron-4 340B र Llama-Nemotron परिवारपछि। त्यही खुलापनले स्वतन्त्र रूपमा सञ्चालित, फिल्टर नगरिएको डिप्लोयमेन्ट सम्भव बनाउँछ।
3BIT-REAP को अर्थ के हो?
दुई सङ्कुचन चरण। REAP — Router-weighted Expert Activation Pruning, Cerebras Research बाट आएको र ICLR 2026 मा स्वीकृत — ले प्रत्येक Mixture-of-Experts विशेषज्ञलाई राउटरले त्यसलाई कति बलियोसँग गेट गर्छ र त्यसको आउटपुट योगदान कति ठूलो छ भन्ने आधारमा अङ्क दिन्छ, अनि सबैभन्दा कम प्रमुखलाई सिधै हटाइदिन्छ। बाँचेकालाई 3-बिट वेटमा क्वान्टाइज गरिन्छ, ताकि बिट बजेट साँच्चै ट्राफिक बोक्ने विशेषज्ञमा खर्च होस्।
के Nemotron3Ultra ले भिजन वा JSON स्किमा आउटपुट समर्थन गर्छ?
तस्बिर छैन: यो एन्डपोइन्ट पाठ मात्र हो। यसले कडा संरचित आउटपुट भने समर्थन गर्छ — json_schema र response_format दुवै — थपमा टुल कलिङ, स्ट्रिमिङ, तर्कका ट्रेस र reasoning_effort। सेन्सर नगरिएको मोडेलमा तस्बिरका लागि MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 वा inkling प्रयोग गर्नुहोस्।
NVIDIA ले 1M विज्ञापन गर्दा सन्दर्भ किन 262,144 टोकन छ?
Nemotron 3 वास्तुकलाले 1M-टोकनको विन्डो लक्ष्य गर्छ र NVIDIA ले त्यो लम्बाइमा RULER मा 94.7% रिपोर्ट गर्छ। हाम्रो डिप्लोयमेन्टले 262,144 टोकन दिन्छ — पूरै क्याटलगभरि पूर्ण गतिमा हामीले कायम राख्ने विन्डो यही हो। गेटवेका हरेक मोडेलले उही सन्दर्भ दिन्छन्, त्यसैले आफ्नो चङ्किङ नलेखीकनै मोडेल ID साट्न सक्नुहुन्छ।
के Nemotron गणित, विज्ञान र कोडका लागि राम्रो छ?
STEM र तर्क नै यस परिवारको घोषित केन्द्रविन्दु हो। NVIDIA ले Nemotron 3 Ultra का लागि PinchBench मा 90%, पाँच एजेन्ट हार्नेसभरि SWE-Bench Verified मा 65.0-70.4% र Terminal-Bench 2.1 मा 56.4% रिपोर्ट गर्छ; अघिल्लो Llama-Nemotron Ultra ले DeepSeek-R1 को 71.5% विरुद्ध GPQA-Diamond मा 76.0% रिपोर्ट गरेको थियो। सबै सङ्कुचित नगरिएको आधारमा विक्रेताले रिपोर्ट गरेका हुन्।
सेन्सर नगरिएको Nemotron API बोलाउनुहोस्
262K सन्दर्भ, टुल कलिङ, कडा JSON स्किमा, कुनै अस्वीकृति तह छैन — प्रति 1M टोकन $0.75 इन / $3.30 आउट।
API कागजात पढ्नुहोस् सबै मोडेल कार्डShannon Lab LLC · New Mexico, USA · प्रयोग हाम्रो जिम्मेवार प्रयोग नीतिद्वारा सञ्चालित
स्रोत: NVIDIA Nemotron 3 Ultra प्राविधिक प्रतिवेदन · NVIDIA डेभलपर ब्लग (जुन 2026) · Nemotron 3 Super वास्तुकला टिप्पणी · Llama-Nemotron: दक्ष तर्क मोडेल · Cerebras Research, REAP। आधार बेन्चमार्क Artificial Analysis लाई श्रेय नदिइएसम्म सङ्कुचित नगरिएको मोडेलमा NVIDIA ले रिपोर्ट गरेका हुन्; सङ्कुचित बिल्ड फरक हुन सक्छन्। मूल्य र क्षमता सेप्टेम्बर 5, 2026 सम्म यथावत् छन्।