আমরা কোনো ব্যবহারকারীর ডেটা সংরক্ষণ করি না বা অ্যাক্সেস করি না, এবং কোনো lawful authority প্রয়োগমূলক পদক্ষেপ না চাইলে অ্যাকাউন্ট suspend করি না।
মডেল কার্ড · Nemotron3Ultra · 3BIT-REAP

আনসেন্সরড Nemotron API

NVIDIA-র গবেষণার বংশপরিচয়, উন্মুক্তভাবে প্রকাশিত, প্রত্যাখ্যানের স্তর ছাড়াই পরিবেশিত: STEM ও দীর্ঘমেয়াদি রিজনিংয়ের জন্য টিউন করা একটি 550B হাইব্রিড Mamba-Attention MoE — প্রতি মিলিয়ন টোকেনে $0.75 ইন / $3.30 আউট।

হালনাগাদ ৫ সেপ্টেম্বর ২০২৬মডেল কার্ডভিত্তি: NVIDIA Nemotron 3 Ultra

সংক্ষেপে

Nemotron3Ultra-3BIT-REAP হলো NVIDIA Nemotron 3 Ultra-র Shannon-কৃত আনসেন্সরড ডিপ্লয়মেন্ট — 550 বিলিয়ন প্যারামিটারের একটি Mixture-of-Experts মডেল, প্রতি টোকেনে 55B সক্রিয়, ৪ জুন ২০২৬-এ ওয়েট, প্রশিক্ষণ ডেটা ও রেসিপি সহ Linux Foundation-এর উদার OpenMDW-1.1 লাইসেন্সে প্রকাশিত। আমাদের নিজস্ব GPU ক্লাস্টারে এটি চলে কোনো প্রত্যাখ্যানের স্তর ও আউটপুট ফিল্টারিং ছাড়াই, 262,144-টোকেন কনটেক্সট, প্রতি রিকোয়েস্টে সর্বোচ্চ 16,384 আউটপুট টোকেন, টুল কলিং, স্ট্রিমিং, রিজনিং ট্রেস আর কড়া json_schema আউটপুট সহ। এটি ছবি নেয় না। দাম: প্রতি 1M টোকেনে $0.75 / $3.30।

অধিকাংশ “ওপেন” মডেল কেবল ওপেন ওয়েটস, তার বেশি কিছু নয় — প্যারামিটারের একটি টারবল, একটি লাইসেন্স, আর সংখ্যাগুলি কোথা থেকে এল সে বিষয়ে নীরবতা। দু-বছর ধরে Nemotron ধারাবাহিকভাবে ব্যতিক্রম: NVIDIA ওয়েট, পোস্ট-ট্রেনিং ডেটাসেট, RL পরিবেশ আর রেসিপি — সবই দেয়। একটি আনসেন্সরড এন্ডপয়েন্টের জন্য এর গুরুত্ব সহজেই চোখ এড়িয়ে যায়। যে মডেলের অ্যালাইনমেন্ট ডেটা প্রকাশিত, তার প্রত্যাখ্যানের আচরণ নিয়ে আন্দাজ করার বদলে যুক্তি দিয়ে ভাবা যায় — আর একটি তৃতীয় পক্ষ বৈধভাবে সেটিকে মুখে কনটেন্ট ফিল্টার আটকানো ছাড়াই চালাতে পারে।

01Nemotron 3 Ultra কী?

Nemotron 3 Ultra হলো NVIDIA-র Nemotron 3 পরিবারের বৃহত্তম সদস্য, ৪ জুন ২০২৬-এ Hugging Face-এ প্রকাশিত। NVIDIA-র কারিগরি প্রতিবেদন একে বর্ণনা করে “মোট 550 বিলিয়ন ও 55 বিলিয়ন সক্রিয় প্যারামিটারের একটি Mixture-of-Experts হাইব্রিড Mamba-Attention ভাষা মডেল” হিসেবে — যেকোনো একটি টোকেনে নেটওয়ার্কের মোটামুটি 10% কাজ করে, আর সেটিই আধা-ট্রিলিয়ন প্যারামিটারের একটি মডেলকে আদৌ পরিবেশনযোগ্য করে।

550B
মোট প্যারামিটার
55B
সক্রিয় / টোকেন
512
এক্সপার্ট (top-22)
20T
প্রিট্রেন টোকেন

জানানো বিন্যাসটি হলো 8,192 মডেল ডাইমেনশনে 108টি স্তর, যেখানে Mamba-2 স্টেট-স্পেস স্তর-এর সঙ্গে অল্প কিছু পূর্ণ অ্যাটেনশন স্তর মিশিয়ে দেওয়া, প্রতিটি MoE স্তরে 512 এক্সপার্ট ও top-22 রাউটিং। প্রিট্রেনিং চলেছে মোটামুটি 20 ট্রিলিয়ন টেক্সট টোকেনে, দুই পর্বে — প্রথমে বৈচিত্র্য-ঝোঁকা, পরে গুণমান-ঝোঁকা — সেপ্টেম্বর ২০২৫ কাটঅফ, 12টি স্বাভাবিক ভাষা ও 43টি প্রোগ্রামিং ভাষা নিয়ে। পোস্ট-ট্রেনিংয়ে ব্যবহৃত হয়েছে SFT, যাচাইযোগ্য পুরস্কার সহ বহু-পরিবেশ RL, আর দশটির বেশি বিশেষজ্ঞ শিক্ষক জুড়ে Multi-Teacher On-Policy Distillation। ঘোষিত নকশার লক্ষ্য দীর্ঘচলা এজেন্ট: এমন সেশন যা বড় কনটেক্সট ধরে রাখে, কয়েক ডজন বার টুল ডাকে, আর এত দীর্ঘ চলে যে বিলের হিসাব প্রতি-টোকেন অর্থনীতিই ঠিক করে দেয়।

02Nemotron বংশ, আর বংশপরিচয় কেন গুরুত্বপূর্ণ

Nemotron কোনো একবারের ঘটনা নয়। এটি ২০২৪ সাল থেকে একই দিকে চলা NVIDIA-র একটি গবেষণা কর্মসূচির দৃশ্যমান ফল, আর প্রতিটি প্রজন্ম এমন কিছু রেখে গেছে যা বর্তমান মডেল এখনও বহন করে। Nemotron-4 340B (জুন ২০২৪) এসেছিল একটি উন্মুক্ত সিনথেটিক ডেটা জেনারেশন পাইপলাইন, তার রিওয়ার্ড মডেল ও জেনারেটর সহ, আর সঙ্গে একটি অস্বাভাবিক প্রকাশ: তার অ্যালাইনমেন্ট ডেটার বিপুল অধিকাংশই মডেল-নির্মিত। মডেলকে ভবিষ্যদ্বাণীর দৈববাণী নয় বরং একটি ডেটা কারখানা হিসেবে দেখা — এই কারণেই পরবর্তী Nemotron রিলিজগুলি ওয়েটের পাশাপাশি ডেটাসেটও দিয়ে চলেছে।

Llama-Nemotron — যে রিজনিং বন্ধ করে দেওয়া যায়

২০২৫-এর Llama-Nemotron পরিবার (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) দুটি ধারণা দিয়েছিল যা ভালোভাবে টিকে গেছে। প্রথমটি স্থাপত্যগত: NVIDIA-র Puzzle নিউরাল আর্কিটেকচার সার্চ ব্লক-ভিত্তিক ডিস্টিল করা ট্রান্সফরমার ব্লকের একটি লাইব্রেরি বানিয়ে সেগুলিকে মিশ্র-পূর্ণসংখ্যা প্রোগ্রামিং দিয়ে জোড়া দেয়, ফলে এমন মডেল তৈরি হয় যেখানে কিছু ব্লক অ্যাটেনশন পুরোপুরি এড়িয়ে যায় বা তার বদলে একটি লিনিয়ার স্তর বসায়; আর FFN Fusion পরপর থাকা ফিড-ফরোয়ার্ড ব্লকগুলিকে কম সংখ্যক, চওড়া, সমান্তরাল ব্লকে গুটিয়ে আনে — প্যারামিটার সংখ্যা নয়, ক্রমিক গভীরতা কমিয়ে। LN-Ultra একটিমাত্র 8×H100 নোডে এঁটে যেত, আর NVIDIA-র পেপার অনুযায়ী GPQA-Diamond-এ DeepSeek-R1-কে ছাড়িয়ে যায় (76.0% বনাম 71.5%)।

দ্বিতীয়টি আচরণগত: Llama-Nemotron ছিল গতিশীল রিজনিং টগল সহ প্রথম উন্মুক্ত পরিবার — সিস্টেম নির্দেশে প্রশিক্ষণ ডেটাকে detailed thinking on বা detailed thinking off ট্যাগ দিয়ে চিহ্নিত করা হতো, আর ফরম্যাট রিওয়ার্ড অন-মোডে <think> ট্যাগ বাধ্যতামূলক করত। এক সেট ওয়েট, দুই আচরণ, ইনফারেন্সের সময় বেছে নেওয়া যায়। Nemotron 3-এর রিজনিং বাজেট নিয়ন্ত্রণ — আর আমাদের API-তে reasoning_effort প্যারামিটার — সরাসরি সেই কাজেরই উত্তরাধিকার।

Nemotron 3 — হাইব্রিড মোড়

Nemotron 3 Llama-উদ্ভবের বদলে শূন্য থেকে গড়া একটি হাইব্রিড স্থাপত্য এনেছে, সঙ্গে যোগ করেছে LatentMoE (রাউটিংয়ের আগে টোকেন সংকুচিত করা, যা NVIDIA-র মতে “একই ইনফারেন্স খরচে 4 গুণ বেশি এক্সপার্ট” অনুমোদন করে), মাল্টি-টোকেন প্রেডিকশন, আর নেটিভ NVFP4 প্রিট্রেনিং। NVIDIA ওয়েটের পাশাপাশি ক্রমপুঞ্জীভূত 50 মিলিয়ন SFT নমুনা, 2 মিলিয়ন RL টাস্ক ও 55টি RL পরিবেশ প্রকাশ করেছে — মডেলকে কী শেখানো হয়েছে সে বিষয়ে নির্মাতার কথা বিশ্বাস করার দরকার নেই, কারণ পাঠ্যসামগ্রীটাই ডাউনলোড করা যায়।

03হাইব্রিড স্থাপত্য আপনাকে কী দেয়

একটি ট্রান্সফরমারের KV ক্যাশ সিকোয়েন্স দৈর্ঘ্যের সঙ্গে রৈখিকভাবে বাড়ে, তাই দীর্ঘ-কনটেক্সট ইনফারেন্স কম্পিউটের আগে মেমরিতেই ব্যয়বহুল হয়ে ওঠে। Mamba-2 স্তরগুলি স্টেট-স্পেস মডেল, যারা একটি নির্দিষ্ট আকারের রিকারেন্ট স্টেট বহন করে, তাই তাদের প্রতি-টোকেন মেমরি খরচ ইতিহাসের সঙ্গে বাড়ে না; তারা দুর্বল যেখানে সেটি হলো সুনির্দিষ্ট অ্যাসোসিয়েটিভ স্মরণ। হাইব্রিডটি সিকোয়েন্স প্রক্রিয়াকরণের সিংহভাগের জন্য Mamba-2 রাখে, সঙ্গে অল্প সংখ্যক আসল অ্যাটেনশন স্তর সেই স্মরণের জন্য যেখানে স্টেট-স্পেস স্তর হোঁচট খায়, আর 64-কোয়েরি-হেড / 2-KV-হেড-এর আক্রমণাত্মক অনুপাত ক্যাশটিকে আরও ছোট করে। NVIDIA জানায় 1M টোকেনে RULER-এ 94.7% — এটি এমন একটি সুচ-খোঁজা বেঞ্চমার্ক যা বানানোই হয়েছে সেই মডেলগুলিকে ধরার জন্য যারা এমন উইন্ডোর দাবি করে যা আসলে কাজে লাগাতে পারে না।

এর ফল হলো থ্রুপুট: NVIDIA দাবি করে সমমানের নির্ভুলতায় তুলনীয় মডেলের চেয়ে মোটামুটি 6× পর্যন্ত বেশি ইনফারেন্স থ্রুপুট, আর Artificial Analysis স্বাধীনভাবে মেপেছে সেকেন্ডে 140.3 টোকেন, প্রথম টোকেন পর্যন্ত সময় 1.33 সেকেন্ড — 89টি মডেলের মধ্যে 7ম। 200-টার্নের একটি এজেন্ট রানে এটাই এক বিকেলে শেষ হওয়া আর আদৌ শেষ না হওয়ার তফাত।

04“3BIT-REAP” আসলে কী বোঝায়

প্রত্যয়টি সাজসজ্জা নয় — এটি ঠিক বলে দেয় ভিত্তিটিকে এঁটে যাওয়ার উপযোগী করতে তার উপর কী করা হয়েছে।

REAP — Router-weighted Expert Activation Pruning — এসেছে Cerebras Research থেকে আর ICLR 2026-এ গৃহীত হয়েছে। একটি স্পার্স MoE-তে রাউটার প্রতিটি টোকেনকে হাতেগোনা কয়েকটি এক্সপার্টের কাছে পাঠায়; বাস্তব কাজের ভারে কিছু এক্সপার্টে অবিরাম আঘাত পড়ে, আর অন্যগুলিতে প্রায় কখনোই নয়। REAP প্রতিটি এক্সপার্টকে একটি সালিয়েন্সি মানদণ্ডে নম্বর দেয়, যেখানে মেলানো হয় রাউটার তাকে কত জোরালোভাবে গেট করে আর তার আউটপুট অবদান কত বড়, এরপর সবচেয়ে কম গুরুত্বপূর্ণগুলি সরাসরি সরিয়ে দেয় — Cerebras জানায় 1 ট্রিলিয়ন প্যারামিটার পর্যন্ত বড় মডেল থেকে 50% পর্যন্ত এক্সপার্ট ছেঁটেও বেসলাইন গুণমান মূলত ধরে রাখা যায়, আর কোডের মতো জেনারেটিভ কাজে ছাঁটাই মার্জ করার চেয়ে ভালো ফল দেয়। এরপর 3-বিট কোয়ান্টাইজেশন যা টিকে থাকে তা সংকুচিত করে। আগে ছাঁটাই, পরে কোয়ান্টাইজ — যাতে বিট বাজেট মৃত এক্সপার্টদের উপর ছড়িয়ে না গিয়ে ট্রাফিক বহনকারী এক্সপার্টদের কাছেই যায়।

সংকোচন বিনামূল্যে আসে না, আর আমরা উল্টোটা ভান করব না: আক্রমণাত্মক কোয়ান্টাইজেশন প্রথমে ধরা পড়ে হুবহু-ফরম্যাট মান্যতা আর দীর্ঘ-শৃঙ্খল পাটিগণিতে ছোট অবনতি হিসেবে, দৃশ্যমান অসংলগ্নতা হিসেবে নয়। তিনটি স্তর কোথায় দাঁড়ায়:

প্রত্যয়এটি কীআমরা কোথায় ব্যবহার করি
3BIT-REAP3-বিট ওয়েট + এক্সপার্ট প্রুনিংবৃহত্তম ভিত্তিগুলি, যেখানে গতি বজায় রেখে আর কিছুই আঁটে না
W4A16-AUTOROUND-REAP4-বিট ওয়েট / 16-বিট অ্যাক্টিভেশন, AutoRound শেখা রাউন্ডিং, + প্রুনিংমাঝারি আকারের ভিত্তি; সরল রাউন্ড-টু-নিয়ারেস্টের তুলনায় AutoRound নির্ভুলতা ফিরিয়ে আনে
W8A168-বিট ওয়েট / 16-বিট অ্যাক্টিভেশনসর্বোচ্চ বিশ্বস্ততা; যে ভিত্তিগুলি এত ছোট যে আক্রমণাত্মক সংকোচন লাগে না

550B-তে Nemotron 3 Ultra স্পষ্টতই প্রথম শ্রেণিতে পড়ে। আপনার কাজ যদি দীর্ঘ শৃঙ্খল জুড়ে হুবহু সাংখ্যিক আউটপুটের প্রতি অস্বাভাবিক সংবেদনশীল হয়, তবে গবেষণা সূচি-তে W8A16 স্তরটি রয়েছে — MiMo-V2.5-Pro-W8A16 ও Hy3-W8A16 — $0.50/$2.00 মেঝেতে। এটি সত্যিকারের একটি বিনিময়, কোনো ফানেল নয়: ছোট মডেল, কম সংকোচন।

05এই এন্ডপয়েন্টে “আনসেন্সরড” মানে কী

স্পষ্ট করে: কোনো প্রত্যাখ্যানের স্তর নেই, আর আউটপুটে কোনো কনটেন্ট ফিল্টারিং প্রয়োগ করা হয় না। কোনো ক্লাসিফায়ার আপনার প্রম্পট পরীক্ষা করে বাঁধাধরা অস্বীকৃতি ফেরত দেয় না, আর উত্তরটি আপনার স্ট্রিমে পৌঁছানোর আগে স্ক্যান করা হয় না। আপনি যা পান তা মডেলের নিজস্ব আচরণ।

এখানেই উন্মুক্ত বংশপরিচয় আর নিছক তথ্যকণা থাকে না। NVIDIA যেহেতু পোস্ট-ট্রেনিং ডেটা ও RL পরিবেশ প্রকাশ করেছে, মডেলের প্রবণতাগুলি নীতিগতভাবে নিরীক্ষাযোগ্য, লোককথা নয়। আর OpenMDW-1.1 যেহেতু স্থাপত্য, প্যারামিটার, ডকুমেন্টেশন ও সফটওয়্যার ঢেকে রাখা Linux Foundation-এর একটি উদার লাইসেন্স, একজন স্বাধীন পরিচালক নিজের হার্ডওয়্যারে একটি পরিবর্তিত, ফিল্টারহীন ডিপ্লয়মেন্ট পরিবেশন করতে পারেন — লাইসেন্স বাধা হয়ে দাঁড়ায় না। বহু “ওপেন” মডেল লাইসেন্স সেটি অনুমোদন করে না। এটি করে। তফাতটি সেখানেই দেখা যায় যেখানে প্রতিবর্তী প্রত্যাখ্যান একটি বাগ, নিরাপত্তা বৈশিষ্ট্য নয়:

  • নিরাপত্তা গবেষণা — দুর্বলতা বিশ্লেষণ, এক্সপ্লয়েট নিয়ে যুক্তি, ম্যালওয়্যারের আচরণ, রেড-টিম টুলিং — প্রশ্নটি অনুমোদিত কি না তা নিয়ে তর্ক ছাড়াই।
  • রসায়ন, জীববিজ্ঞান ও ফার্মাকোলজি — ডোজের হিসাব, বিক্রিয়ার কৌশল, বিষবিদ্যা, সংশ্লেষণের পথ — যেগুলিতে ফিল্টার করা এন্ডপয়েন্ট কেবল শব্দ দেখেই না বলে দেয়।
  • প্রতিদ্বন্দ্বী ML — হার্ড নেগেটিভ, জেলব্রেক কর্পাস আর অপব্যবহারের শ্রেণিবিন্যাস, সেইসব ক্লাসিফায়ারের জন্য যাদের আসল জিনিসটি দেখা থাকা দরকার।
  • ক্লিনিক্যাল, আইনি ও ফরেনসিক টেক্সট — এমন কেস উপাদান যা স্বভাবতই বীভৎস আর ঠিক সেই কারণেই প্রত্যাখ্যাত হয়।

আনসেন্সরড মানে জবাবদিহিহীন নয়। আপনি যা তৈরি করেন তার মালিক আপনি, আর অ্যাকাউন্টটি আমাদের দায়িত্বশীল ব্যবহার নীতি ও পরিষেবার শর্তাবলী দ্বারা পরিচালিত। প্রত্যাখ্যানের স্তর সরানো মানে অভিপ্রায় সম্পর্কে একটি আন্দাজ সরানো; আপনার উপর প্রযোজ্য আইনের অধীনে আপনার দায়িত্ব তাতে সরে না।

06STEM ও রিজনিং: প্রকাশিত সংখ্যাগুলি কী বলে

Llama-Nemotron পোস্ট-ট্রেনিং ডেটাসেট ঠিক এই চারটি অক্ষ ঘিরে গড়ে ওঠার পর থেকে Nemotron-এর প্রশিক্ষণের মনোযোগ থেকেছে গণিত, কোড, বিজ্ঞান ও নির্দেশ অনুসরণে। Nemotron 3 Ultra ভিত্তির জন্য NVIDIA যা জানায় — অসংকুচিত মডেলের উপর নির্মাতার জানানো সংখ্যা, যেগুলি আমরা চালাইনি:

RULER @ 1M94.7
PinchBench90.0
IFBench82.0
SWE-Bench Verified70.4
Terminal-Bench 2.156.4
ProfBench (Search)56.0

সংখ্যাগুলির চেয়ে বেশি মূল্যবান দুটি সতর্কবার্তা। SWE-Bench Verified-এর সংখ্যাটি একটি পরিসর — কোন এজেন্ট হারনেস চালাচ্ছে তার উপর নির্ভর করে NVIDIA জানায় 65.0% থেকে 70.4% (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), আর কেবল স্ক্যাফোল্ডিং থেকেই পাঁচ পয়েন্টের ব্যবধান দেখায় এজেন্টিক স্কোর মডেলের চেয়ে হারনেসের উপর কতটা নির্ভর করে। আর Artificial Analysis তাদের Intelligence Index-এ Nemotron 3 Ultra-কে বসিয়েছে 48-এ, 89টি মডেলের মধ্যে 9ম — শক্তিশালী, কিন্তু শীর্ষে নয়; আর যেকোনো নির্মাতার স্লাইডের চেয়ে তাদের স্বাধীন পরিমাপকেই আমরা বেশি গুরুত্ব দেব।

আগের প্রজন্মে NVIDIA-র Llama-Nemotron পেপার জানায় LN-Ultra GPQA-Diamond-এ 76.0%, যেখানে DeepSeek-R1-এর 71.5% আর Llama-3.1-405B-Instruct-এর 43.4%, সেই সঙ্গে AIME 2024-এ 80.8% — ভিন্ন একটি মডেল, তবু উল্লেখ করা হলো কারণ স্নাতকোত্তর স্তরের বিজ্ঞান ও প্রতিযোগিতার গণিত দুই প্রজন্ম ধরে এই পরিবারের লক্ষ্য।

নকশাগতভাবেই স্বচ্ছ

এখানকার প্রতিটি সংখ্যা আমাদের বাইরের কারও প্রকাশিত। মূল উৎসগুলি নিজেই দেখে নিন।

বেঞ্চমার্ক সংখ্যাগুলি অসংকুচিত Nemotron 3 Ultra-র উপর NVIDIA-র প্রকাশিত (জুন ২০২৬), আর স্বাধীন পরিমাপের ক্ষেত্রে Artificial Analysis-এর। সংকুচিত বিল্ড ভিন্ন হতে পারে। যে বেঞ্চমার্ক সংখ্যা আমরা যাচাই করিনি বা যার উৎস দেখাতে পারি না, তা আমরা প্রকাশ করি না।

07দাম, আর বাচালতার সতর্কবার্তা

প্রতি মিলিয়ন ইনপুট টোকেনে $0.75 আর প্রতি মিলিয়ন আউটপুট টোকেনে $3.30-এ Nemotron3Ultra আমাদের তালিকায় ইনপুটে নিচের এক-তৃতীয়াংশে আর আউটপুটে মাঝখানে বসে। কাজে লাগানো উদাহরণ, কারণ প্রতি-মিলিয়ন দাম আন্দাজ করা কঠিন:

কলের ধরনইনপুটআউটপুটখরচ
সাধারণ RAG টার্ন50,0004,000$0.051
দীর্ঘ নথি বিশ্লেষণ150,0008,000$0.139
সর্বোচ্চ আকারের কল262,14416,384$0.251

পূর্ণ-কনটেক্সট, পূর্ণ-আউটপুট একটি রিকোয়েস্ট — এন্ডপয়েন্ট যত টোকেন নেবে আর যত টোকেন বানাবে, সবই — খরচ পড়ে মোটামুটি 25 সেন্ট। একই আকারের কল Kimi-K3-3BIT-REAP-এ, যা $3.83/$19.12-এ আমাদের সবচেয়ে দামি মডেল, খরচ পড়ে প্রায় $1.32 — অর্থাৎ 5.3× বেশি।

এবার সতর্কবার্তাটি, আর এটি বাস্তব। Artificial Analysis তাদের বেঞ্চমার্ক স্যুট জুড়ে মেপেছে যে Nemotron 3 Ultra মধ্যমা সমকক্ষের চেয়ে 2.3× বেশি আউটপুট টোকেন তৈরি করে। রিজনিং মডেল ভাবনার জন্যও আপনাকে বিল করে, আর এটি দীর্ঘ ভাবে; একই উত্তরে পৌঁছাতে মডেল যদি তিন গুণ সময় ধরে যুক্তি সাজায়, প্রতি-টোকেন দামের সুবিধা প্রতি-কাজের অসুবিধায় বাষ্প হয়ে যায়। প্রশমনটি ভিতরেই তৈরি আর আমাদের API-তে উন্মুক্ত: Nemotron 3-কে রিজনিং বাজেট নিয়ন্ত্রণ-এর জন্য পোস্ট-ট্রেন করা হয়েছে, আর এখানে reasoning_effort সমর্থিত — NVIDIA এমন একটি নিম্ন-প্রয়াস মোডের কথা বলে যা এক অঙ্কের নির্ভুলতার বিনিময়ে উল্লেখযোগ্যভাবে কম ভাবনা-টোকেন ব্যবহার করে। শ্রেণিবিন্যাস, নিষ্কাশন আর রাউটিংয়ে এটি কমিয়ে দিন, অর্থনীতি লক্ষণীয়ভাবে বদলে যাবে; কোনো প্রমাণ বা বহু-ফাইল রিফ্যাক্টরে বাড়িয়ে দিন আর জেনেশুনে তার দাম দিন। দামের তালিকা পড়ে ধরে নেওয়ার বদলে নিজের প্রতি-কাজ টোকেন নিজেই মাপুন।

08কল করা: তিনটি উপভাষা, একটি মডেল

গেটওয়ের প্রতিটি মডেল তিনটি স্ট্রিমিং API পৃষ্ঠে উত্তর দেয়, তাই ইন্টিগ্রেশন নতুন করে না লিখেই আপনি বিদ্যমান ক্লায়েন্টকে এদিকে তাক করাতে পারেন: /v1/chat/completions (OpenAI উপভাষা), /v1/messages (Anthropic উপভাষা), আর /v1/responses।

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

সক্ষমতার সারসংক্ষেপ, যাতে ইন্টিগ্রেশনের সময় কিছুই আপনাকে চমকে না দেয়:

সক্ষমতাNemotron3Ultra · 3BIT-REAP
কনটেক্সট উইন্ডো262,144 টোকেন
সর্বোচ্চ আউটপুট / রিকোয়েস্ট16,384 টোকেন
স্ট্রিমিংহ্যাঁ
টুল কলিংহ্যাঁ
রিজনিং ট্রেসহ্যাঁ
reasoning_effortহ্যাঁ
json_schema (কড়া)হ্যাঁ
response_formatহ্যাঁ
ভিশন / ছবি ইনপুটনা — কেবল টেক্সট
প্রত্যাখ্যানের স্তরনেই

ভিশনের সারিটি অনেককে বিপাকে ফেলে: Nemotron3Ultra কেবল টেক্সট। আপনার পাইপলাইন যদি ছবি পাঠায়, $0.50/$2.00-এ MiniMax-M3-3BIT-REAP বা MiMo-V2.5-W8A16 ব্যবহার করুন, কিংবা $0.78/$3.67-এ Kimi-K2.6-W4A16-AUTOROUND-REAP — সবগুলি ভিশন-সক্ষম, সবগুলি আনসেন্সরড, সবগুলি একই 262,144-টোকেন কনটেক্সটে। প্যারামিটারের পূর্ণ রেফারেন্স রয়েছে API ডকুমেন্টেশনে।

09বারোটির মধ্যে Nemotron3Ultra কোথায় বসে

তালিকাটি বারোটি আনসেন্সরড মডেলের, যারা একই কনটেক্সট উইন্ডো, একই তিনটি উপভাষা আর প্রত্যাখ্যানের স্তরের একই অনুপস্থিতি ভাগ করে নেয়; তারা আলাদা ভিত্তি, দাম ও সক্ষমতায়। Nemotron-এর অবস্থান সুনির্দিষ্ট: উন্মুক্ত-বংশের রিজনিং ওয়ার্কহর্স — সবচেয়ে সস্তা নয়, সবচেয়ে সক্ষমও নয়, কিন্তু নিজের আচরণের পিছনে সবচেয়ে বেশি প্রকাশ্য কাগজপত্র যার আছে, আর যাকে STEM ও এজেন্টের দিকে সবচেয়ে জোরে টিউন করা হয়েছে।

মডেলইন / 1Mআউট / 1Mভিশনকীসের জন্য বাছবেন
MiniMax-M3 · 3BIT-REAP$0.50$2.00হ্যাঁসবচেয়ে সস্তা ভিশন-সক্ষম বিকল্প
MiMo-V2.5-Pro · W8A16$0.50$2.00নাসর্বোচ্চ-বিশ্বস্ততার কোয়ান্টাইজেশন স্তর
GLM-5.2 · 3BIT-REAP$0.73$2.34নাসবচেয়ে সস্তা বড়-ভিত্তি রিজনিং
Nemotron3Ultra · 3BIT-REAP$0.75$3.30নাSTEM, এজেন্ট, উন্মুক্ত বংশ
Kimi-K2.6 · W4A16-AUTOROUND-REAP$0.78$3.67হ্যাঁভিশন + AutoRound বিশ্বস্ততা
DeepSeek-V4-Pro · 3BIT-REAP$1.95$3.90নাগভীর একক-শটে বিশ্লেষণ
Kimi-K3 · 3BIT-REAP$3.83$19.12হ্যাঁসক্ষমতার চূড়ান্ত ছাদ

বারোটির মধ্যে সাতটি দেখানো হলো। পূর্ণ তালিকা — Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 ও Hy3 সহ — রয়েছে API ডকসে। খেয়াল রাখুন, Laguna-S-2.1 কাঠামোবদ্ধ আউটপুট সমর্থন করে না আর inkling json_schema সমর্থন করে না; Nemotron3Ultra দুটিই করে।

দামে সবচেয়ে কাছের প্রতিবেশী $0.73/$2.34-এ GLM-5.2-3BIT-REAP, আর সৎ তুলনাটি এই: GLM-5.2 প্রতি টোকেনে সস্তা, বিশেষত আউটপুটে। Nemotron আনে একটি প্রকাশিত প্রশিক্ষণ কর্পাস, একটি স্পষ্ট রিজনিং-বাজেট ডায়াল, আর স্নাতকোত্তর স্তরের বিজ্ঞানের দিকে তাক করা একটি পারিবারিক ইতিহাস। উচ্চ-আয়তনের সাধারণ রিজনিং: সস্তাটিই চালান। STEM-ভারী, এজেন্টিক, কিংবা এমন নিরীক্ষার অধীন যেখানে জিজ্ঞাসা হয় মডেলের আচরণ কোথা থেকে এল: Nemotron তার বাড়তি দামটুকু অর্জন করে নেয়।

10প্রায়শই জিজ্ঞাসিত প্রশ্ন

আনসেন্সরড Nemotron API কী?

এটি Nemotron3Ultra 3BIT-REAP-এর জন্য Shannon AI-এর হোস্ট করা এন্ডপয়েন্ট, যা NVIDIA-র ওপেন-ওয়েটস Nemotron 3 Ultra-র একটি সংকুচিত বিল্ড। এটি আমাদের নিজস্ব GPU ক্লাস্টারে চলে, কোনো প্রত্যাখ্যানের স্তর নেই আর কোনো আউটপুট ফিল্টারিং নেই, প্রতি রিকোয়েস্টে 262,144-টোকেন কনটেক্সট ও 16,384 আউটপুট টোকেন উন্মুক্ত করে, আর খরচ প্রতি মিলিয়ন ইনপুট টোকেনে $0.75 ও প্রতি মিলিয়ন আউটপুট টোকেনে $3.30।

NVIDIA Nemotron কি সত্যিই ওপেন ওয়েটস?

হ্যাঁ। NVIDIA ৪ জুন ২০২৬-এ Nemotron 3 Ultra প্রকাশ করেছে — ওয়েট, প্রশিক্ষণ ডেটা ও রেসিপি সহ, Linux Foundation-এর উদার OpenMDW-1.1 লাইসেন্সের অধীনে, Nemotron-4 340B ও Llama-Nemotron পরিবারের ধারাবাহিকতায়। এই উন্মুক্ততাই স্বাধীনভাবে পরিচালিত, ফিল্টারহীন একটি ডিপ্লয়মেন্ট সম্ভব করে তোলে।

3BIT-REAP মানে কী?

দুটি সংকোচন ধাপ। REAP — Router-weighted Expert Activation Pruning, Cerebras Research-এর কাজ, ICLR 2026-এ গৃহীত — প্রতিটি Mixture-of-Experts এক্সপার্টকে নম্বর দেয় রাউটার তাকে কত জোরালোভাবে গেট করে আর তার আউটপুট অবদান কত বড় তার ভিত্তিতে, এরপর সবচেয়ে কম গুরুত্বপূর্ণগুলি সরাসরি বাদ দেয়। যেগুলি টেকে সেগুলি 3-বিট ওয়েটে কোয়ান্টাইজ করা হয়, ফলে বিট বাজেট সেই এক্সপার্টগুলির পিছনেই খরচ হয় যারা সত্যিই ট্রাফিক বহন করে।

Nemotron3Ultra কি ভিশন বা JSON schema আউটপুট সমর্থন করে?

ছবি নয়: এই এন্ডপয়েন্ট কেবল টেক্সট। তবে এটি কড়া কাঠামোবদ্ধ আউটপুট সমর্থন করে — json_schema আর response_format দুটিই — সেই সঙ্গে টুল কলিং, স্ট্রিমিং, রিজনিং ট্রেস ও reasoning_effort। আনসেন্সরড কোনো মডেলে ছবি লাগলে বরং MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 বা inkling ব্যবহার করুন।

NVIDIA যখন 1M-এর কথা বলে, কনটেক্সট তখন 262,144 টোকেন কেন?

Nemotron 3 স্থাপত্যটি 1M-টোকেন উইন্ডো লক্ষ্য করে বানানো আর NVIDIA সেই দৈর্ঘ্যে RULER-এ 94.7% জানায়। আমাদের ডিপ্লয়মেন্ট 262,144 টোকেন পরিবেশন করে — গোটা তালিকা জুড়ে যে উইন্ডোটি আমরা পূর্ণ গতিতে ধরে রাখি। গেটওয়ের প্রতিটি মডেল একই কনটেক্সট উন্মুক্ত করে, তাই চাঙ্কিং নতুন করে না লিখেই আপনি মডেল আইডি বদলাতে পারেন।

গণিত, বিজ্ঞান ও কোডের জন্য Nemotron কি ভালো?

STEM ও রিজনিংই এই পরিবারের ঘোষিত লক্ষ্য। NVIDIA Nemotron 3 Ultra-র জন্য জানায় PinchBench-এ 90%, পাঁচটি এজেন্ট হারনেস জুড়ে SWE-Bench Verified-এ 65.0-70.4% আর Terminal-Bench 2.1-এ 56.4%; আগের Llama-Nemotron Ultra GPQA-Diamond-এ 76.0% জানিয়েছিল, যেখানে DeepSeek-R1-এর ছিল 71.5%। সবই অসংকুচিত ভিত্তির উপর নির্মাতার জানানো সংখ্যা।

আনসেন্সরড Nemotron API কল করুন

262K কনটেক্সট, টুল কলিং, কড়া JSON schema, কোনো প্রত্যাখ্যানের স্তর নেই — প্রতি 1M টোকেনে $0.75 ইন / $3.30 আউট।

API ডকুমেন্টেশন পড়ুন সব মডেল কার্ড

Shannon Lab LLC · নিউ মেক্সিকো, USA · ব্যবহার আমাদের দায়িত্বশীল ব্যবহার নীতি দ্বারা পরিচালিত


উৎস: NVIDIA Nemotron 3 Ultra কারিগরি প্রতিবেদন · NVIDIA ডেভেলপার ব্লগ (জুন ২০২৬) · Nemotron 3 Super স্থাপত্য নোট · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP। ভিত্তির বেঞ্চমার্কগুলি অসংকুচিত মডেলের উপর NVIDIA-র জানানো, যদি না Artificial Analysis-কে কৃতিত্ব দেওয়া হয়; সংকুচিত বিল্ড ভিন্ন হতে পারে। দাম ও সক্ষমতা ৫ সেপ্টেম্বর ২০২৬ অনুযায়ী।

সব রিসার্চ লিঙ্ক