Senzurasız Nemotron API

"Açıq" modellərin çoxu yalnız açıq çəkilidir, başqa heç nə deyil — bir parametr arxivi, bir lisenziya və rəqəmlərin haradan gəldiyi barədə sükut. Nemotron iki ildir ki, bu qaydanın davamlı istisnasıdır: NVIDIA çəkiləri, öyrətmədən sonrakı verilənlər toplularını, RL mühitlərini və resepti də göndərir. Bunun senzurasız uc nöqtə üçün əhəmiyyəti asanlıqla gözdən qaçır. Uyğunlaşdırma məlumatları dərc edilmiş model, imtina davranışını təxmin etmək əvəzinə haqqında əsaslı mühakimə yürüdə biləcəyiniz modeldir — və üçüncü tərəfin ağzına məzmun filtri bənd etmədən qanuni şəkildə yerləşdirə biləcəyi modeldir.

01Nemotron 3 Ultra nədir?

Nemotron 3 Ultra NVIDIA-nın Nemotron 3 ailəsinin ən böyük üzvüdür və 2026-cı il iyunun 4-də Hugging Face-ə buraxılıb. NVIDIA-nın texniki hesabatı onu "cəmi 550 milyard, token başına 55 milyard aktiv parametrli Mixture-of-Experts Hibrid Mamba-Attention dil modeli" kimi təsvir edir — hər bir token üzərində şəbəkənin təxminən 10%-i işləyir, yarım trilyon parametrli modeli ümumiyyətlə verilə bilən edən də budur.

Bildirilən quruluş 8,192 model ölçüsündə 108 qatdır: Mamba-2 vəziyyət-fəza qatları seyrək tam diqqət qatları ilə növbələşir, MoE qatı başına 512 ekspert və top-22 marşrutlama var. Ön öyrətmə iki mərhələdə — əvvəlcə müxtəlifliyə, sonra keyfiyyətə meylli — təxminən 20 trilyon mətn tokeni üzərində, 2025-ci ilin sentyabr kəsimi, 12 təbii dil və 43 proqramlaşdırma dili ilə aparılıb. Öyrətmədən sonra SFT, yoxlanıla bilən mükafatlarla çoxmühitli RL və on dəfələrlə ixtisaslaşmış müəllim üzrə Çoxmüəllimli Siyasətüstü Distillyasiya istifadə olunub. Bəyan edilmiş dizayn hədəfi uzunmüddətli agentlərdir: böyük kontekst saxlayan, alətləri onlarla dəfə çağıran və token başına iqtisadiyyatın hesabı müəyyən etdiyi qədər uzun işləyən sessiyalar.

02Nemotron nəsli və nəsəbin niyə əhəmiyyəti var

Nemotron təsadüfi bir buraxılış deyil. O, 2024-cü ildən bəri eyni istiqamətdə gedən NVIDIA tədqiqat proqramının görünən nəticəsidir və hər nəsil cari modelin hələ də daşıdığı bir şey qoyub gedib. Nemotron-4 340B (iyun 2024) açıq sintetik verilən generasiyası boru kəməri, mükafat modeli və generatoru ilə, üstəgəl qeyri-adi bir açıqlama ilə göndərildi: uyğunlaşdırma məlumatlarının böyük əksəriyyəti model tərəfindən yaradılmışdı. Modelə orakul deyil, verilən fabriki kimi baxmaq — sonrakı Nemotron buraxılışlarının çəkilərlə yanaşı verilən toplularını da göndərməkdə davam etməsinin səbəbi budur.

Llama-Nemotron — söndürə biləcəyiniz düşünmə

2025-ci ilin Llama-Nemotron ailəsi (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) yaxşı yaşlanan iki ideya verdi. Birincisi arxitektura ilə bağlı idi: NVIDIA-nın Puzzle neyroarxitektura axtarışı blok-blok distillə edilmiş transformer bloklarından kitabxana qurdu və onları qarışıq tam ədədli proqramlaşdırma ilə yığdı; nəticədə bəzi blokların diqqəti tamamilə buraxdığı və ya onu tək xətti qatla əvəzlədiyi modellər alındı, FFN Fusion isə ardıcıl irəli ötürmə bloklarını daha az sayda, daha geniş və paralel bloklara yığdı — parametr sayını yox, ardıcıl dərinliyi kəsdi. LN-Ultra tək 8×H100 qovşağına sığdı və NVIDIA-nın məqaləsinə görə GPQA-Diamond-da DeepSeek-R1-i üstələdi (76.0%-ə qarşı 71.5%).

İkincisi davranışla bağlı idi: Llama-Nemotron dinamik düşünmə açarı olan ilk açıq ailə idi — öyrətmə məlumatları sistem təlimatında detailed thinking on və ya detailed thinking off kimi etiketlənirdi, format mükafatları isə açıq rejimdə <think> teqlərini məcbur edirdi. Bir dəst çəki, iki davranış, çıxarış zamanı seçilir. Nemotron 3-ün düşünmə büdcəsi idarəsi — və API-mizdəki reasoning_effort parametri — birbaşa həmin işdən gəlir.

Nemotron 3 — hibrid dönüş

Nemotron 3 Llama törəməsini sıfırdan qurulmuş hibrid arxitektura ilə əvəzlədi və LatentMoE (marşrutlamadan əvvəl tokenləri sıxır; NVIDIA deyir ki, bu, "eyni çıxarış xərcinə 4 dəfə çox ekspert" imkanı verir), çoxtokenli proqnoz və doğma NVFP4 ön öyrətməsi əlavə etdi. NVIDIA çəkilərlə yanaşı ümumilikdə 50 milyon SFT nümunəsi, 2 milyon RL tapşırığı və 55 RL mühiti dərc etdi — modelə nə öyrədildiyini istehsalçının sözünə görə qəbul etmək məcburiyyətində deyilsiniz, çünki tədris materialı yüklənə bilir.

03Hibrid arxitektura sizə nə qazandırır

Transformerin KV keşi ardıcıllıq uzunluğu ilə xətti artır, uzun kontekstli çıxarışın hesablamadan əvvəl yaddaşda bahalaşmasının səbəbi budur. Mamba-2 qatları sabit ölçülü rekurrent vəziyyət daşıyan vəziyyət-fəza modelləridir, yəni onların token başına yaddaş xərci tarixçə ilə artmır; pis olduqları şey dəqiq assosiativ xatırlamadır. Hibrid ardıcıllıq emalının böyük hissəsi üçün Mamba-2-ni, vəziyyət-fəza qatlarının büdrədiyi xatırlama üçün isə azlıq təşkil edən real diqqət qatlarını saxlayır; aqressiv 64 sorğu başlığı / 2 KV başlığı nisbəti keşi daha da kiçildir. NVIDIA 1M tokendə RULER üzrə 94.7% bildirir — bu, işlədə bilmədikləri pəncərəni iddia edən modelləri tutmaq üçün qurulmuş iynə-axtarma benchmarkıdır.

Nəticə buraxılış qabiliyyətidir: NVIDIA eyni səviyyəli dəqiqlikdə müqayisə edilə bilən modellərdən təxminən 6× yüksək çıxarış buraxılışı iddia edir, Artificial Analysis isə müstəqil olaraq saniyədə 140.3 token və ilk tokenə 1.33 saniyə ölçüb — 89 model arasında 7-ci. 200 növbəli agent icrasında bu, günortadan sonra bitirməklə ümumiyyətlə bitirməmək arasındakı fərqdir.

04"3BIT-REAP" dürüst şəkildə nə deməkdir

Şəkilçi bəzək deyil — təməli sığdırmaq üçün ona tam olaraq nə edildiyini bildirir.

REAP — Marşrutlayıcı Çəkili Ekspert Aktivasiya Budaması — Cerebras Research-dən gəlir və ICLR 2026-ya qəbul edilib. Seyrək MoE-də marşrutlayıcı hər tokeni bir neçə ekspertə göndərir; real iş yükündə bəziləri daim vurulur, bəziləri isə demək olar heç vaxt. REAP hər eksperti marşrutlayıcının onu nə qədər güclü açması və çıxış töhfələrinin nə qədər böyük olması ölçülərini birləşdirən əhəmiyyət meyarı üzrə qiymətləndirir, sonra ən az əhəmiyyətliləri birdəfəlik silir — Cerebras 1 trilyon parametrə qədər böyük modellərdən ekspertlərin 50%-ə qədərini budayarkən baza keyfiyyətini böyük ölçüdə saxladığını bildirir və kod kimi generativ tapşırıqlarda budamanın birləşdirməyi üstələdiyini tapır. 3-bitlik kvantlama sonra sağ qalanı sıxır. Əvvəl buda, sonra kvantla — belədə bit büdcəsi ölü ekspertlərə yayılmaq əvəzinə yük daşıyan ekspertlərə gedir.

Sıxılma pulsuz deyil və biz bunun əksini iddia etməyəcəyik: aqressiv kvantlama ilk növbədə görünən bağlantısızlıq kimi yox, dəqiq format uyğunluğunda və uzun zəncirli hesablamalarda kiçik geriləmələr kimi üzə çıxır. Üç pillənin yeri:

Şəkilçi	Nədir	Harada işlədirik
3BIT-REAP	3-bitlik çəkilər + ekspert budaması	Ən böyük təməllər — başqa heç nəyin sürətlə sığmadığı yer
W4A16-AUTOROUND-REAP	4-bitlik çəkilər / 16-bitlik aktivasiyalar, AutoRound öyrənilmiş yuvarlaqlaşdırma + budama	Ortaölçülü təməllər; AutoRound sadə ən yaxına yuvarlaqlaşdırmaya nisbətən dəqiqliyi bərpa edir
W8A16	8-bitlik çəkilər / 16-bitlik aktivasiyalar	Ən yüksək dəqiqlik; aqressiv sıxılmaya ehtiyacı olmayacaq qədər kiçik təməllər

550B ilə Nemotron 3 Ultra tam olaraq birinci kateqoriyadadır. Əgər iş yükünüz uzun zəncirlərdə dəqiq ədədi çıxışa qeyri-adi dərəcədə həssasdırsa, tədqiqat indeksi W8A16 pilləsini — MiMo-V2.5-Pro-W8A16 və Hy3-W8A16 — $0.50/$2.00 döşəməsində sadalayır. Bu, huni deyil, real mübadilədir: daha kiçik model, daha az sıxılma.

05Bu uc nöqtədə "senzurasız" nə deməkdir

Konkret olaraq: imtina qatı yoxdur və çıxışa məzmun filtri tətbiq edilmir. Heç bir təsnifatçı sorğunuzu yoxlayıb hazır rədd cavabı qaytarmır və cavab axınınıza çatmazdan əvvəl skan edilmir. Aldığınız şey modelin öz davranışıdır.

Açıq nəslin sadəcə maraqlı fakt olmaqdan çıxdığı yer buradır. NVIDIA öyrətmədən sonrakı məlumatları və RL mühitlərini dərc etdiyi üçün modelin meylləri folklor deyil, prinsipcə yoxlanıla biləndir. OpenMDW-1.1 isə arxitekturanı, parametrləri, sənədləşməni və proqram təminatını əhatə edən icazəverici Linux Foundation lisenziyası olduğuna görə, müstəqil operator dəyişdirilmiş, filtrsiz yerləşdirməni öz avadanlığında lisenziya maneə olmadan verə bilər. "Açıq" model lisenziyalarının çoxu buna icazə vermir. Bu verir. Fərq refleksli imtinanın təhlükəsizlik xüsusiyyəti yox, qüsur olduğu yerlərdə görünür:

• Təhlükəsizlik tədqiqatı — zəiflik təhlili, eksploit mühakiməsi, zərərli proqram davranışı, red-team alətləri — sualın icazəli olub-olmadığını müzakirə etmədən.
• Kimya, biologiya və farmakologiya — filtrli uc nöqtənin açar sözlə təmasda rədd etdiyi doza hesablamaları, reaksiya mexanizmləri, toksikologiya, sintez yolları.
• Rəqib ML — real şeyi görmüş olması lazım gələn təsnifatçılar üçün çətin mənfi nümunələr, jailbreak korpusları və sui-istifadə taksonomiyaları.
• Klinik, hüquqi və məhkəmə-tibbi mətnlər — təbiətcə kəskin olan və məhz buna görə rədd edilən iş materialları.

Senzurasız hesabatsız demək deyil. Yaratdığınız şeyin sahibi sizsiniz və hesabınızı Məsuliyyətli İstifadə Siyasətimiz və Xidmət Şərtlərimiz idarə edir. İmtina qatının götürülməsi niyyət haqqındakı təxmini götürür; sizə şamil olunan qanun üzrə öhdəliklərinizi götürmür.

06STEM və düşünmə: dərc edilmiş rəqəmlər nə deyir

Llama-Nemotron öyrətmədən sonrakı verilən toplusu məhz bu dörd ox ətrafında qurulduğundan bəri Nemotron-un öyrətmə fokusu riyaziyyat, kod, elm və təlimata əməletmədir. NVIDIA-nın Nemotron 3 Ultra təməli üçün bildirdikləri — sıxılmamış model üzərində istehsalçının bildirdiyi rəqəmlər, biz onları işlətməmişik:

Rəqəmlərdən daha dəyərli iki qeyd-şərt. SWE-Bench Verified göstəricisi bir diapazondur — NVIDIA onu hansı agent karkasının işlətdiyindən asılı olaraq 65.0%-dən 70.4%-ə qədər bildirir (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent) və yalnız iskelədən gələn beş bəndlik fərq agent ballarının modeldən çox karkasdan nə qədər asılı olduğunu göstərir. Artificial Analysis isə Nemotron 3 Ultra-nı öz İntellekt İndeksində 48 balla, 89 model arasında 9-cu yerə qoyub — güclü, amma sahənin zirvəsi deyil; və onların müstəqil ölçməsi istənilən istehsalçı slaydından daha çox çəki verəcəyimiz ölçmədir.

Əvvəlki nəsil üzrə NVIDIA-nın Llama-Nemotron məqaləsi LN-Ultra üçün GPQA-Diamond-da 76.0% bildirir — DeepSeek-R1-in 71.5%-inə və Llama-3.1-405B-Instruct-un 43.4%-inə qarşı — üstəgəl AIME 2024-də 80.8%. Bu, fərqli modeldir; ona görə daxil edilib ki, aspirantura səviyyəli elm və müsabiqə riyaziyyatı iki nəsildir ailənin hədəfidir.

Benchmark rəqəmləri NVIDIA tərəfindən (iyun 2026) sıxılmamış Nemotron 3 Ultra üçün, müstəqil ölçmələr isə Artificial Analysis tərəfindən dərc edildiyi kimidir. Sıxılmış quruluşlar fərqlənə bilər. Biz yoxlamadığımız və ya mənbəyini göstərə bilmədiyimiz benchmark rəqəmlərini dərc etmirik.

07Qiymət və sözçülük qeyd-şərti

Milyon giriş tokeni üçün $0.75 və milyon çıxış tokeni üçün $3.30 ilə Nemotron3Ultra kataloqumuzun girişdə aşağı üçdəbirində, çıxışda isə ortasındadır. İşlənmiş nümunələr, çünki milyon üzrə qiyməti hiss etmək çətindir:

Sorğu forması	Giriş	Çıxış	Xərc
Tipik RAG növbəsi	50,000	4,000	$0.051
Uzun sənəd təhlili	150,000	8,000	$0.139
Maksimum ölçülü sorğu	262,144	16,384	$0.251

Tam kontekstli, tam çıxışlı sorğu — uc nöqtənin qəbul edəcəyi hər token və istehsal edəcəyi hər token — təxminən 25 sent tutur. Eyni forma $3.83/$19.12 ilə ən bahalı modelimiz olan Kimi-K3-3BIT-REAP-də təxminən $1.32, yəni 5.3× baha başa gəlir.

İndi qeyd-şərt, və o realdır. Artificial Analysis Nemotron 3 Ultra-nın öz benchmark dəsti boyunca medyan həmkarından 2.3× çox çıxış tokeni yaratdığını ölçüb. Düşünmə modelləri sizə düşüncənin haqqını yazır, bu isə uzun-uzadı düşünür; model eyni cavaba çatmaq üçün üç dəfə uzun mühakimə yürüdürsə, token başına qiymət üstünlüyü tapşırıq başına çatışmazlığa çevrilir. Yumşaldıcı vasitə daxilə hörülüb və API-mizdə açıqdır: Nemotron 3 düşünmə büdcəsi idarəsi üçün öyrədilib və burada reasoning_effort dəstəklənir — NVIDIA birrəqəmli dəqiqlik güzəşti müqabilində əhəmiyyətli dərəcədə az düşünmə tokeni işlədən aşağı səylı rejimi təsvir edir. Təsnifat, çıxarma və marşrutlamada onu azaldın — iqtisadiyyat ciddi şəkildə dəyişir; sübutda və ya çoxfayllı refaktorda qaldırın və qəsdən ödəyin. Qiymət siyahısını oxuyub fərziyyə qurmaq əvəzinə öz tapşırıq başına tokenlərinizi ölçün.

08Çağırış: üç dialekt, bir model

Gateway-dəki hər model üç axınlı API səthində cavab verir, ona görə mövcud müştərinizi inteqrasiyanı yenidən yazmadan ona yönəldə bilərsiniz: /v1/chat/completions (OpenAI dialekti), /v1/messages (Anthropic dialekti) və /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Qabiliyyət xülasəsi — inteqrasiya zamanı heç nə sizi təəccübləndirməsin deyə:

Qabiliyyət	Nemotron3Ultra · 3BIT-REAP
Kontekst pəncərəsi	262,144 token
Sorğu başına maksimum çıxış	16,384 token
Axın	Bəli
Alət çağırışı	Bəli
Düşünmə izləri	Bəli
reasoning_effort	Bəli
json_schema (ciddi)	Bəli
response_format	Bəli
Görmə / şəkil girişi	Xeyr — yalnız mətn
İmtina qatı	Yoxdur

Görmə sətri adamları yaxalayır: Nemotron3Ultra yalnız mətndir. Boru kəməriniz şəkil göndərirsə, $0.50/$2.00 ilə MiniMax-M3-3BIT-REAP və ya MiMo-V2.5-W8A16, yaxud $0.78/$3.67 ilə Kimi-K2.6-W4A16-AUTOROUND-REAP işlədin — hamısı görmə qabiliyyətli, hamısı senzurasız, hamısı eyni 262,144 tokenlik kontekstdə. Tam parametr arayışı API sənədlərindədir.

09Nemotron3Ultra on iki model arasında hara düşür

Kataloq eyni kontekst pəncərəsini, eyni üç dialekti və imtina qatının eyni yoxluğunu bölüşən on iki senzurasız modeldir; onlar təməl, qiymət və qabiliyyətə görə fərqlənir. Nemotron-un mövqeyi konkretdir: açıq nəsilli düşünmə iş atı — ən ucuzu deyil, ən qabiliyyətlisi deyil, amma davranışının arxasında ən çox ictimai sənəd izi olanı və STEM ilə agentlərə ən çox köklənəni.

Model	Giriş / 1M	Çıxış / 1M	Görmə	Nə üçün seçin
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Bəli	Ən ucuz görmə qabiliyyətli variant
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Xeyr	Ən yüksək dəqiqlikli kvantlama pilləsi
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Xeyr	Ən ucuz böyük təməlli düşünmə
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Xeyr	STEM, agentlər, açıq nəsil
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Bəli	Görmə + AutoRound dəqiqliyi
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Xeyr	Dərin təkatımlı təhlil
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Bəli	Mütləq qabiliyyət tavanı

On ikidən yeddisi göstərilib. Tam kataloq — Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 və Hy3 daxil olmaqla — API sənədlərindədir. Nəzərə alın ki, Laguna-S-2.1 strukturlaşdırılmış çıxışı, inkling isə json_schema-nı dəstəkləmir; Nemotron3Ultra hər ikisini dəstəkləyir.

Qiymətə görə ən yaxın qonşu $0.73/$2.34 ilə GLM-5.2-3BIT-REAP-dir və dürüst müqayisə belədir: GLM-5.2 token başına, xüsusən çıxışda, daha ucuzdur. Nemotron isə dərc edilmiş öyrətmə korpusu, açıq düşünmə büdcəsi tənzimləyicisi və aspirantura səviyyəli elmə yönəlmiş ailə tarixçəsi gətirir. Yüksək həcmli ümumi düşünmə: ucuz olanı işlədin. STEM ağırlıqlı, agent yönümlü və ya modelin davranışının haradan gəldiyini soruşan auditə məruz qalan iş: Nemotron fərqi qazanır.

10Tez-tez verilən suallar

---

Mənbələr: NVIDIA Nemotron 3 Ultra texniki hesabatı · NVIDIA developer bloqu (iyun 2026) · Nemotron 3 Super arxitektura qeydləri · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Təməl benchmarkları, Artificial Analysis-ə aid edilməyibsə, sıxılmamış model üçün NVIDIA tərəfindən bildirilib; sıxılmış quruluşlar fərqlənə bilər. Qiymətlər və qabiliyyətlər 5 sentyabr 2026-cı il tarixinə aktualdır.