Sansürsüz Nemotron API'si

"Açık" modellerin çoğu yalnızca açık ağırlıktır, başka bir şey değil — bir parametre arşivi, bir lisans ve sayıların nereden geldiği konusunda sessizlik. Nemotron iki yıldır bunun tutarlı istisnası: NVIDIA ağırlıkları, eğitim sonrası veri kümelerini, RL ortamlarını ve tarifi yayımlıyor. Bu, sansürsüz bir uç nokta için gözden kaçması kolay bir biçimde önemli. Hizalama verisi yayımlanmış bir model, reddetme davranışı hakkında tahmin yürütmek yerine akıl yürütebileceğiniz bir modeldir — ve üçüncü bir tarafın ağzına bir içerik filtresi cıvatalamadan meşru şekilde dağıtabileceği bir modeldir.

01Nemotron 3 Ultra nedir?

Nemotron 3 Ultra, NVIDIA'nın Nemotron 3 ailesinin en büyük üyesidir ve 4 Haziran 2026'da Hugging Face'te yayımlandı. NVIDIA'nın teknik raporu onu "toplam 550 milyar, etkin 55 milyar parametreli bir Uzmanlar Karışımı Hibrit Mamba-Attention dil modeli" olarak tanımlıyor — herhangi bir tokende ağın kabaca %10'u çalışıyor ki yarım trilyon parametreli bir modeli hiç olmazsa sunulabilir kılan da bu.

Bildirilen düzen, model boyutu 8.192 olan 108 katman; Mamba-2 durum uzayı katmanlarını seyrek bir tam dikkat katmanı kümesiyle iç içe geçiriyor, MoE katmanı başına top-22 yönlendirmeli 512 uzman var. Ön eğitim kabaca 20 trilyon metin tokeni üzerinde iki aşamada yürüdü — önce çeşitlilik yanlı, sonra kalite yanlı — Eylül 2025 kesim tarihi, 12 doğal dil ve 43 programlama diliyle. Eğitim sonrasında SFT, doğrulanabilir ödüllerle çok ortamlı RL ve on'dan fazla uzman öğretmen üzerinden Multi-Teacher On-Policy Distillation kullanıldı. Açıklanan tasarım hedefi uzun süre çalışan ajanlar: büyük bir bağlamı tutan, araçları onlarca kez çağıran ve faturaya token başına ekonominin hükmedeceği kadar uzun süren oturumlar.

02Nemotron soyu ve soyağacı neden önemli?

Nemotron tek seferlik bir iş değil. 2024'ten beri aynı yönde ilerleyen bir NVIDIA araştırma programının görünür çıktısı ve her kuşak, güncel modelin hâlâ taşıdığı bir şey bıraktı. Nemotron-4 340B (Haziran 2024), açık bir sentetik veri üretim hattı, ödül modeli ve üreticisiyle birlikte, ayrıca sıra dışı bir açıklamayla geldi: hizalama verisinin ezici çoğunluğu model tarafından üretilmişti. Modelin bir kâhinden çok bir veri fabrikası olarak görülmesi, sonraki Nemotron sürümlerinin ağırlıkların yanı sıra veri kümeleri de yayımlamayı sürdürmesinin nedenidir.

Llama-Nemotron — kapatabileceğiniz akıl yürütme

2025 Llama-Nemotron ailesi (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) iyi yaşlanan iki fikir kattı. Birincisi mimariydi: NVIDIA'nın Puzzle sinirsel mimari araması, blok bazında damıtılmış transformer bloklarından bir kitaplık kurdu ve bunları karma tamsayı programlamayla birleştirdi; ortaya bazı blokları dikkati tümüyle atlayan ya da onu tek bir doğrusal katmanla değiştiren modeller çıktı. FFN Fusion ise ardışık ileri besleme bloklarını daha az sayıda, daha geniş ve paralel bloklara indirgedi — parametre sayısını değil ardışık derinliği kısarak. LN-Ultra tek bir 8×H100 düğümüne sığdı ve NVIDIA'nın makalesine göre GPQA-Diamond'da DeepSeek-R1'i geçti (%76,0'ya karşı %71,5).

İkincisi davranışsaldı: Llama-Nemotron, dinamik akıl yürütme anahtarına sahip ilk açık aileydi; eğitim verisini sistem talimatında detailed thinking on ya da detailed thinking off olarak etiketliyor, biçim ödülleri de açık modda <think> etiketlerini zorunlu kılıyordu. Tek ağırlık kümesi, iki davranış, çıkarım anında seçilebilir. Nemotron 3'ün akıl yürütme bütçesi denetimi — ve API'mizdeki reasoning_effort parametresi — doğrudan bu çalışmanın soyundan geliyor.

Nemotron 3 — hibrit dönüş

Nemotron 3, Llama türevini sıfırdan bir hibrit mimariyle değiştirdi ve LatentMoE (yönlendirmeden önce tokenleri sıkıştırıyor; NVIDIA bunun "aynı çıkarım maliyetiyle 4 kat fazla uzmana" izin verdiğini söylüyor), çok tokenlı tahmin ile yerel NVFP4 ön eğitimini ekledi. NVIDIA ağırlıklarla birlikte kümülatif 50 milyon SFT örneği, 2 milyon RL görevi ve 55 RL ortamı yayımladı — modele ne öğretildiği konusunda bir satıcının sözüne güvenmek zorunda değilsiniz, çünkü ders malzemesi indirilebilir durumda.

03Hibrit mimari size ne kazandırır?

Bir transformer'ın KV önbelleği dizi uzunluğuyla doğrusal büyür; uzun bağlamlı çıkarımın hesaplamadan önce bellekte pahalılaşmasının nedeni budur. Mamba-2 katmanları sabit boyutlu bir yinelemeli durum taşıyan durum uzayı modelleridir; dolayısıyla token başına bellek maliyetleri geçmişle birlikte büyümez. Kötü oldukları şey ise kesin çağrışımsal hatırlamadır. Hibrit, dizi işlemenin ağırlığı için Mamba-2'yi, durum uzayı katmanlarının beceremediği hatırlama için de azınlıkta gerçek dikkat katmanlarını tutar; agresif bir 64 sorgu başlığı / 2 KV başlığı oranı da önbelleği daha da küçültür. NVIDIA 1M tokende RULER'da %94,7 bildiriyor — kullanamadığı bir pencereyi iddia eden modelleri yakalamak için kurulmuş bir iğne arama kıyaslaması.

Sonuç iş hacmidir: NVIDIA, eş doğrulukta karşılaştırılabilir modellere göre kabaca 6 kata varan daha yüksek çıkarım iş hacmi iddia ediyor ve Artificial Analysis bağımsız olarak saniyede 140,3 token ile 1,33 saniyelik ilk token süresi ölçtü — 89 model içinde 7. sıra. 200 turluk bir ajan koşusunda bu, öğleden sonra bitirmekle hiç bitirememek arasındaki farktır.

04"3BIT-REAP" dürüstçe ne demek?

Ek bir süs değil — temeli sığdırmak için ona tam olarak ne yapıldığını söylüyor.

REAP — Router-weighted Expert Activation Pruning — Cerebras Research'ten çıktı ve ICLR 2026'ya kabul edildi. Seyrek bir MoE'de yönlendirici her tokeni bir avuç uzmana gönderir; gerçek bir iş yükünde bazıları sürekli seçilirken bazıları neredeyse hiç seçilmez. REAP her uzmanı, yönlendiricinin onu ne kadar güçlü kapıladığını ve çıktı katkılarının ne kadar büyük olduğunu birleştiren bir belirginlik ölçütüyle puanlar, sonra en az belirgin olanları doğrudan kaldırır — Cerebras, 1 trilyon parametreye kadar büyüklükteki modellerden uzmanların %50'sine kadarını, taban kaliteyi büyük ölçüde koruyarak budadığını bildiriyor ve kod gibi üretken görevlerde budamanın birleştirmeyi yendiğini buluyor. Ardından 3 bitlik niceleme, hayatta kalanı sıkıştırır. Önce buda, sonra nicele; böylece bit bütçesi ölü uzmanlara yayılmak yerine trafik taşıyan uzmanlara gider.

Sıkıştırma bedava değil ve aksini iddia etmeyeceğiz: agresif niceleme, görünür bir tutarsızlık olarak değil, önce tam biçim uyumunda ve uzun zincirli aritmetikte küçük bozulmalar olarak ortaya çıkar. Üç katmanın nereye düştüğü:

Ek	Ne olduğu	Nerede kullandığımız
3BIT-REAP	3 bitlik ağırlıklar + uzman budama	Hızda başka hiçbir şeyin sığmadığı en büyük temeller
W4A16-AUTOROUND-REAP	4 bit ağırlık / 16 bit etkinleşme, AutoRound öğrenilmiş yuvarlama + budama	Orta boy temeller; AutoRound, naif en yakına yuvarlamaya göre doğruluk kazandırır
W8A16	8 bit ağırlık / 16 bit etkinleşme	En yüksek sadakat; agresif sıkıştırmaya ihtiyaç duymayacak kadar küçük temeller

550B ile Nemotron 3 Ultra tam olarak ilk kategoriye giriyor. İş yükünüz uzun zincirler boyunca kesin sayısal çıktıya alışılmadık ölçüde duyarlıysa, araştırma dizini W8A16 katmanını — MiMo-V2.5-Pro-W8A16 ve Hy3-W8A16 — 0,50 $/2,00 $ tabanında listeliyor. Bir huni değil, gerçek bir ödünleşim: daha küçük model, daha az sıkıştırma.

05Bu uç noktada "sansürsüz" ne anlama geliyor?

Somut olarak: reddetme katmanı yoktur ve çıktıya içerik filtresi uygulanmaz. Hiçbir sınıflandırıcı isteminizi inceleyip hazır bir ret döndürmez ve yanıt akışınıza ulaşmadan önce taranmaz. Aldığınız şey modelin kendi davranışıdır.

Açık soyun bir ayrıntı olmaktan çıktığı yer burası. NVIDIA eğitim sonrası veriyi ve RL ortamlarını yayımladığı için, modelin eğilimleri söylenceden ibaret değil, ilkece denetlenebilir. Ve OpenMDW-1.1, mimariyi, parametreleri, belgeleri ve yazılımı kapsayan izin verici bir Linux Foundation lisansı olduğu için, bağımsız bir işletmeci lisans engel olmadan kendi donanımında değiştirilmiş, filtresiz bir dağıtım sunabilir. "Açık" model lisanslarının çoğu buna izin vermez. Bu veriyor. Fark, refleks hâline gelmiş reddetmenin bir güvenlik özelliği değil bir hata olduğu yerlerde ortaya çıkar:

• Güvenlik araştırması — zafiyet analizi, istismar akıl yürütmesi, kötü amaçlı yazılım davranışı, kırmızı takım araçları; sorunun izinli olup olmadığını tartışmadan.
• Kimya, biyoloji ve farmakoloji — doz matematiği, tepkime mekanizmaları, toksikoloji, filtreli bir uç noktanın anahtar sözcük teması üzerine reddettiği sentez yolları.
• Hasmane makine öğrenmesi — gerçeğini görmüş olması gereken sınıflandırıcılar için zor negatifler, jailbreak derlemleri ve kötüye kullanım taksonomileri.
• Klinik, hukuki ve adli metin — doğası gereği çarpıcı olan ve tam da bu nedenle reddedilen dava malzemesi.

Sansürsüz olmak hesap vermemek değildir. Ürettiğinizin sahibi sizsiniz; Sorumlu Kullanım Politikamız ve Hizmet Şartlarımız hesabı yönetir. Reddetme katmanını kaldırmak, niyet hakkındaki bir tahmini kaldırır; size uygulanan hukuk karşısındaki yükümlülüklerinizi kaldırmaz.

06STEM ve akıl yürütme: yayımlanmış sayılar ne diyor?

Llama-Nemotron eğitim sonrası veri kümesi tam olarak dört eksen etrafında kurulduğundan beri Nemotron'un eğitim odağı matematik, kod, bilim ve talimat takibi oldu. NVIDIA'nın Nemotron 3 Ultra temeli için bildirdikleri — bizim çalıştırmadığımız, sıkıştırılmamış model üzerinde satıcı tarafından bildirilen rakamlar:

Sayılardan daha değerli iki şerh. SWE-Bench Verified rakamı bir aralıktır — NVIDIA, onu hangi ajan iskeletinin çalıştırdığına bağlı olarak %65,0 ile %70,4 arasında bildiriyor (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent) ve yalnızca iskeleden gelen beş puanlık yayılım, ajan puanlarının modelden çok iskelete ne kadar bağlı olduğunu gösteriyor. Ayrıca Artificial Analysis, Nemotron 3 Ultra'yı Zekâ Endeksi'nde 48 puanla 89 model içinde 9. sıraya yerleştirdi — güçlü ama alanın tepesi değil; ve onların bağımsız ölçümü, herhangi bir satıcının slaydına tercih edeceğimiz ölçümdür.

Önceki kuşakta NVIDIA'nın Llama-Nemotron makalesi LN-Ultra için GPQA-Diamond'da %76,0 bildiriyor; DeepSeek-R1'in %71,5'i ve Llama-3.1-405B-Instruct'ın %43,4'üne karşılık, ayrıca AIME 2024'te %80,8. Farklı bir model; lisansüstü düzey bilim ve yarışma matematiği iki kuşaktır ailenin hedefi olduğu için buraya alındı.

Kıyaslama rakamları, sıkıştırılmamış Nemotron 3 Ultra üzerinde NVIDIA tarafından (Haziran 2026) ve bağımsız ölçümler için Artificial Analysis tarafından yayımlandığı şekliyledir. Sıkıştırılmış yapımlar farklılık gösterebilir. Doğrulamadığımız ya da kaynak gösteremediğimiz kıyaslama sayılarını yayımlamıyoruz.

07Fiyat ve ayrıntı bolluğu şerhi

Milyon giriş tokeni başına 0,75 $ ve milyon çıkış tokeni başına 3,30 $ ile Nemotron3Ultra, kataloğumuzun girişte alt üçte birinde, çıkışta ortasında yer alıyor. Milyon başına fiyatlandırmayı hissetmek zor olduğu için işlenmiş örnekler:

Çağrı biçimi	Giriş	Çıkış	Maliyet
Tipik RAG turu	50,000	4,000	$0.051
Uzun belge analizi	150,000	8,000	$0.139
Azami boyutlu çağrı	262,144	16,384	$0.251

Tam bağlamlı, tam çıktılı bir istek — uç noktanın kabul edeceği her token ve üreteceği her token — yaklaşık 25 sent tutar. Aynı biçim, 3,83 $/19,12 $ ile en pahalı modelimiz olan Kimi-K3-3BIT-REAP üzerinde yaklaşık 1,32 $, yani 5,3 kat daha pahalıdır.

Şimdi şerh ve gerçek bir şerh bu. Artificial Analysis, kıyaslama takımları genelinde Nemotron 3 Ultra'nın medyan emsalinden 2,3 kat fazla çıkış tokeni ürettiğini ölçtü. Akıl yürüten modeller düşünmeyi de faturalandırır ve bu model uzun uzun düşünür; model aynı yanıta ulaşmak için üç kat daha uzun akıl yürütüyorsa, token başına fiyat avantajı görev başına dezavantaja dönüşür. Hafifletme yerleşik ve API'mizde açık: Nemotron 3, akıl yürütme bütçesi denetimi için eğitim sonrasından geçirildi ve reasoning_effort burada destekleniyor — NVIDIA, tek haneli bir doğruluk ödünüyle önemli ölçüde daha az düşünme tokeni kullanan düşük efor modundan söz ediyor. Sınıflandırma, çıkarım ve yönlendirmede onu kısın, ekonomi kayda değer biçimde değişir; bir ispatta ya da çok dosyalı bir yeniden düzenlemede yükseltin ve bunu bilerek ödeyin. Fiyat listesini okuyup varsaymak yerine kendi görev başına token sayınızı ölçün.

08Çağırmak: üç lehçe, tek model

Ağ geçidindeki her model üç akışlı API yüzeyinde yanıt verir; böylece mevcut bir istemciyi entegrasyonunuzu yeniden yazmadan buna yöneltebilirsiniz: /v1/chat/completions (OpenAI lehçesi), /v1/messages (Anthropic lehçesi) ve /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Entegrasyon anında hiçbir şey sizi şaşırtmasın diye yetenek özeti:

Yetenek	Nemotron3Ultra · 3BIT-REAP
Bağlam penceresi	262.144 token
İstek başına azami çıktı	16.384 token
Akış	Evet
Araç çağırma	Evet
Akıl yürütme izleri	Evet
reasoning_effort	Evet
json_schema (katı)	Evet
response_format	Evet
Görü / görsel girdi	Hayır — yalnızca metin
Reddetme katmanı	Yok

Görü satırı insanları yakalıyor: Nemotron3Ultra yalnızca metindir. Hattınız görsel gönderiyorsa 0,50 $/2,00 $ ile MiniMax-M3-3BIT-REAP ya da MiMo-V2.5-W8A16, veya 0,78 $/3,67 $ ile Kimi-K2.6-W4A16-AUTOROUND-REAP kullanın — hepsi görü yetenekli, hepsi sansürsüz, hepsi aynı 262.144 tokenlık bağlamda. Tam parametre referansı API belgelerinde.

09Nemotron3Ultra on iki model arasında nereye oturuyor?

Katalog, aynı bağlam penceresini, aynı üç lehçeyi ve aynı reddetme katmanı yokluğunu paylaşan on iki sansürsüz modelden oluşur; temel, fiyat ve yetenek bakımından ayrışırlar. Nemotron'un konumu belirli: açık soylu akıl yürütme beygiri — en ucuzu değil, en yeteneklisi değil, ama davranışının arkasında en fazla kamuya açık kâğıt izi olan ve STEM ile ajanlara en çok ayarlanmış olanı.

Model	Giriş / 1M	Çıkış / 1M	Görü	Şunun için seçin
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Evet	En ucuz görü yetenekli seçenek
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Hayır	En yüksek sadakatli niceleme katmanı
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Hayır	En ucuz büyük temelli akıl yürütme
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Hayır	STEM, ajanlar, açık soy
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Evet	Görü + AutoRound sadakati
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Hayır	Derin tek atışlık analiz
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Evet	Mutlak yetenek tavanı

On iki modelin yedisi gösterildi. Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 ve Hy3 dahil kataloğun tamamı API belgelerinde. Laguna-S-2.1'in yapılandırılmış çıktıyı, inkling'in ise json_schema'yı desteklemediğini unutmayın; Nemotron3Ultra ikisini de destekler.

Fiyat bakımından en yakın komşu 0,73 $/2,34 $ ile GLM-5.2-3BIT-REAP ve dürüst karşılaştırma şu: GLM-5.2 token başına daha ucuzdur, özellikle çıkışta. Nemotron ise yayımlanmış bir eğitim derlemi, açık bir akıl yürütme bütçesi kadranı ve lisansüstü düzey bilime yönelmiş bir aile geçmişi getirir. Yüksek hacimli genel akıl yürütme: ucuz olanı çalıştırın. STEM ağırlıklı, ajan odaklı ya da modelin davranışının nereden geldiğini soran bir denetime tabi işler: farkı Nemotron hak eder.

10Sıkça sorulan sorular

---

Kaynaklar: NVIDIA Nemotron 3 Ultra teknik raporu · NVIDIA geliştirici blogu (Haziran 2026) · Nemotron 3 Super mimari notları · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Temel kıyaslamaları, Artificial Analysis'e atfedilmedikçe, sıkıştırılmamış model üzerinde NVIDIA tarafından bildirilmiştir; sıkıştırılmış yapımlar farklılık gösterebilir. Fiyatlar ve yetenekler 5 Eylül 2026 itibarıyla günceldir.