API Nemotron fără cenzură

Majoritatea modelelor „deschise” sunt deschise la greutăți și cu nimic mai mult — o arhivă de parametri, o licență și tăcere despre proveniența cifrelor. Nemotron este excepția constantă de doi ani încoace: NVIDIA livrează greutățile, seturile de date de post-antrenare, mediile de RL și rețeta. Pentru un endpoint fără cenzură, asta contează într-un fel ușor de trecut cu vederea. Un model ale cărui date de aliniere sunt publicate este un model despre al cărui comportament de refuz poți raționa, în loc să îl ghicești — și un model pe care o terță parte îl poate servi legitim fără un filtru de conținut prins de gură.

01Ce este Nemotron 3 Ultra?

Nemotron 3 Ultra este cel mai mare membru al familiei Nemotron 3 de la NVIDIA, publicat pe Hugging Face pe 4 iunie 2026. Raportul tehnic al NVIDIA îl descrie drept „un model de limbaj Mixture-of-Experts hibrid Mamba-Attention, cu 550 de miliarde de parametri totali și 55 de miliarde activi” — cam 10% din rețea lucrează la un token dat, ceea ce face ca un model de jumătate de trilion de parametri să poată fi servit în general.

Structura raportată are 108 straturi la dimensiunea de model 8.192, intercalând straturi de spațiu de stări Mamba-2 cu un set rar de straturi de atenție completă, 512 experți per strat MoE și rutare top-22. Preantrenarea a rulat pe circa 20 de trilioane de tokenuri de text în două faze — întâi orientată spre diversitate, apoi spre calitate — cu limita de cunoștințe în septembrie 2025, 12 limbi naturale și 43 de limbaje de programare. Post-antrenarea a folosit SFT, RL în medii multiple cu recompense verificabile și distilare on-policy cu profesori multipli, de la peste zece profesori specialiști. Ținta declarată de proiectare o reprezintă agenții care rulează mult: sesiuni care țin un context mare, apelează unelte de zeci de ori și durează destul cât economia per token să domine nota de plată.

02Descendența Nemotron și de ce contează pedigriul

Nemotron nu este un accident singular. Este rezultatul vizibil al unui program de cercetare NVIDIA care merge în aceeași direcție din 2024, iar fiecare generație a lăsat ceva ce modelul actual încă poartă cu el. Nemotron-4 340B (iunie 2024) a fost livrat cu o conductă deschisă de generare de date sintetice, cu modelul său de recompensă și cu generatorul său, plus o dezvăluire neobișnuită: covârșitoarea majoritate a datelor sale de aliniere fuseseră generate de model. Modelul ca fabrică de date, mai degrabă decât ca oracol, este motivul pentru care lansările Nemotron ulterioare continuă să livreze seturi de date alături de greutăți.

Llama-Nemotron — raționament pe care îl poți opri

Familia Llama-Nemotron din 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) a adus două idei care au îmbătrânit frumos. Prima a fost arhitecturală: căutarea de arhitecturi neurale Puzzle de la NVIDIA a construit o bibliotecă de blocuri de transformator distilate bloc cu bloc și le-a asamblat cu programare liniară în numere întregi, producând modele în care unele blocuri sar complet peste atenție sau o înlocuiesc cu un singur strat liniar, în timp ce FFN Fusion a contopit blocuri feed-forward consecutive în mai puține blocuri, mai late și paralele — tăind adâncimea secvențială, nu numărul de parametri. LN-Ultra a încăput pe un singur nod 8×H100, depășind în același timp, conform lucrării NVIDIA, DeepSeek-R1 la GPQA-Diamond (76,0% față de 71,5%).

A doua a fost comportamentală: Llama-Nemotron a fost prima familie deschisă cu un comutator dinamic de raționament, care eticheta datele de antrenare cu detailed thinking on sau detailed thinking off în instrucțiunea de sistem, cu recompense de format care impuneau etichete <think> în modul pornit. Un singur set de greutăți, două comportamente, selectabile la inferență. Controlul bugetului de raționament din Nemotron 3 — și parametrul reasoning_effort din API-ul nostru — coboară direct din acea muncă.

Nemotron 3 — cotitura hibridă

Nemotron 3 a înlocuit derivarea din Llama cu o arhitectură hibridă construită de la zero și a adăugat LatentMoE (comprimarea tokenurilor înainte de rutare, ceea ce, spune NVIDIA, permite „de 4 ori mai mulți experți la același cost de inferență”), predicție multi-token și preantrenare nativă în NVFP4. NVIDIA a publicat, cumulat, 50 de milioane de mostre SFT, 2 milioane de sarcini de RL și 55 de medii de RL alături de greutăți — nu trebuie să crezi pe cuvânt un producător când spune ce a fost învățat modelul, pentru că materialul de învățare se poate descărca.

03Ce îți aduce arhitectura hibridă

Cache-ul KV al unui transformator crește liniar cu lungimea secvenței, motiv pentru care inferența pe context lung devine scumpă la memorie înainte să devină scumpă la calcul. Straturile Mamba-2 sunt modele de spațiu de stări care poartă o stare recurentă de dimensiune fixă, așa că nu își cresc costul de memorie per token odată cu istoricul; la ce se descurcă prost este regăsirea asociativă precisă. Hibridul păstrează Mamba-2 pentru grosul procesării secvenței, plus o minoritate de straturi de atenție reală pentru regăsirea la care straturile de spațiu de stări se împiedică, cu un raport agresiv de 64 de capete de interogare la 2 capete KV, care micșorează și mai mult cache-ul. NVIDIA raportează 94,7% la RULER pe un milion de tokenuri — un benchmark de regăsire a acului în carul cu fân, construit tocmai ca să prindă modelele care pretind o fereastră pe care nu o pot folosi.

Consecința este debitul: NVIDIA susține un debit de inferență de până la circa 6× mai mare decât al modelelor comparabile, la acuratețe similară, iar Artificial Analysis a măsurat independent 140,3 tokenuri pe secundă, cu 1,33 secunde până la primul token — locul 7 din 89 de modele. Pe o rulare de agent cu 200 de ture, asta e diferența dintre a termina într-o după-amiază și a nu termina.

04Ce înseamnă „3BIT-REAP”, pe șleau

Sufixul nu este decorativ — îți spune exact ce i s-a făcut fundației ca să încapă.

REAP — Router-weighted Expert Activation Pruning — vine de la Cerebras Research și a fost acceptat la ICLR 2026. Într-un MoE rar, routerul trimite fiecare token către o mână de experți; pe o sarcină reală, unii sunt loviți încontinuu, alții aproape niciodată. REAP punctează fiecare expert după un criteriu de relevanță care combină cât de puternic îl deschide routerul cu cât de mari sunt contribuțiile ieșirii lui, apoi îi elimină direct pe cei mai puțin relevanți — Cerebras raportează tăierea a până la 50% dintre experți din modele de până la un trilion de parametri, păstrând în mare parte calitatea de referință, și constată că, pentru sarcini generative precum codul, tăierea bate contopirea. Cuantizarea pe 3 biți comprimă apoi ce a supraviețuit. Întâi tai, apoi cuantizezi, ca bugetul de biți să meargă la experții care duc trafic, în loc să fie întins peste cei morți.

Compresia nu este gratuită și nu ne prefacem că ar fi: cuantizarea agresivă apare întâi ca mici degradări în respectarea exactă a formatului și în aritmetica pe lanțuri lungi, nu ca incoerență vizibilă. Unde se așază cele trei trepte:

Sufix	Ce este	Unde îl folosim
3BIT-REAP	Greutăți pe 3 biți + tăiere de experți	Cele mai mari fundații, unde nimic altceva nu încape la viteză
W4A16-AUTOROUND-REAP	Greutăți pe 4 biți / activări pe 16 biți, rotunjire învățată AutoRound, + tăiere	Fundații de talie medie; AutoRound recuperează acuratețe față de rotunjirea naivă la cel mai apropiat
W8A16	Greutăți pe 8 biți / activări pe 16 biți	Cea mai mare fidelitate; fundații destul de mici cât să nu aibă nevoie de compresie agresivă

Nemotron 3 Ultra, cu 550 B, este limpede în prima categorie. Dacă sarcina ta este neobișnuit de sensibilă la ieșirea numerică exactă pe lanțuri lungi, indexul de cercetare listează treapta W8A16 — MiMo-V2.5-Pro-W8A16 și Hy3-W8A16 — la pragul de 0,50 $/2,00 $. Un schimb real, nu o pâlnie: model mai mic, compresie mai puțină.

05Ce înseamnă „fără cenzură” pe acest endpoint

Concret: nu există strat de refuz și nicio filtrare de conținut aplicată ieșirii. Niciun clasificator nu îți inspectează promptul ca să întoarcă un refuz gata scris, iar răspunsul nu este scanat înainte să ajungă în fluxul tău. Ce primești este comportamentul propriu al modelului.

Aici descendența deschisă încetează să mai fie o curiozitate. Pentru că NVIDIA a publicat datele de post-antrenare și mediile de RL, dispozițiile modelului sunt auditabile în principiu, nu doar folclor. Și pentru că OpenMDW-1.1 este o licență permisivă a Linux Foundation care acoperă arhitectura, parametrii, documentația și software-ul, un operator independent poate servi o implementare modificată și nefiltrată pe hardware propriu, fără ca licența să fie obstacolul. Multe licențe de modele „deschise” nu permit asta. Aceasta permite. Diferența se vede acolo unde refuzul reflex este un defect, nu o măsură de siguranță:

• Cercetare de securitate — analiză de vulnerabilități, raționament despre exploituri, comportament de malware, unelte de red team, fără să te cerți dacă întrebarea este permisă.
• Chimie, biologie și farmacologie — calcule de dozaj, mecanisme de reacție, toxicologie, rute de sinteză pe care un endpoint filtrat le refuză la primul contact cu un cuvânt-cheie.
• ML adversarial — negative dificile, corpusuri de jailbreak și taxonomii de abuz pentru clasificatoare care trebuie să fi văzut lucrul real.
• Text clinic, juridic și criminalistic — material de caz care este crud prin natura lui și tocmai de aceea este refuzat.

Fără cenzură nu înseamnă fără răspundere. Ce generezi îți aparține, iar Politica noastră de utilizare responsabilă și Termenii și condițiile guvernează contul. Eliminarea unui strat de refuz elimină o presupunere despre intenție; nu îți elimină obligațiile din legea care ți se aplică.

06STEM și raționament: ce spun cifrele publicate

Antrenarea Nemotron se concentrează pe matematică, cod, știință și urmarea instrucțiunilor de când setul de date de post-antrenare Llama-Nemotron a fost construit exact pe aceste patru axe. Ce raportează NVIDIA pentru fundația Nemotron 3 Ultra — cifre raportate de producător, pe modelul necomprimat, pe care nu le-am rulat noi:

Două avertismente valorează mai mult decât cifrele. Rezultatul la SWE-Bench Verified este un interval — NVIDIA raportează între 65,0% și 70,4%, în funcție de harnessul de agent care îl rulează (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), iar cinci puncte diferență doar din schelărie arată cât de mult depind scorurile agentice de harness, nu de model. Iar Artificial Analysis a plasat Nemotron 3 Ultra la 48 pe indicele lor de inteligență, locul 9 din 89 de modele — puternic, dar nu în fruntea plutonului, iar măsurătoarea lor independentă este cea pe care am cântări-o mai mult decât orice slide de producător.

Pentru generația anterioară, lucrarea NVIDIA despre Llama-Nemotron raportează LN-Ultra la 76,0% la GPQA-Diamond, față de 71,5% la DeepSeek-R1 și 43,4% la Llama-3.1-405B-Instruct, plus 80,8% la AIME 2024 — un model diferit, inclus aici pentru că știința de nivel doctoral și matematica de concurs au fost ținta familiei timp de două generații.

Cifrele de benchmark sunt cele publicate de NVIDIA (iunie 2026) pentru Nemotron 3 Ultra necomprimat și de Artificial Analysis pentru măsurătorile independente. Build-urile comprimate pot diferi. Nu publicăm cifre de benchmark pe care nu le-am verificat sau pe care nu le putem atribui.

07Prețul și avertismentul despre verbozitate

La 0,75 $ per milion de tokenuri de intrare și 3,30 $ per milion de tokenuri de ieșire, Nemotron3Ultra stă în treimea de jos a catalogului nostru la intrare și la mijloc la ieșire. Exemple lucrate, pentru că prețul per milion e greu de simțit:

Forma apelului	Intrare	Ieșire	Cost
Tură RAG tipică	50.000	4.000	$0.051
Analiză de document lung	150.000	8.000	$0.139
Apel de dimensiune maximă	262.144	16.384	$0.251

O cerere cu context plin și ieșire plină — fiecare token pe care endpointul îl acceptă și fiecare token pe care îl produce — costă cam 25 de cenți. Aceeași formă pe Kimi-K3-3BIT-REAP, cel mai scump model al nostru, la 3,83 $/19,12 $, costă cam 1,32 $, adică de 5,3 ori mai mult.

Acum avertismentul, și e unul real. Artificial Analysis a măsurat că Nemotron 3 Ultra generează de 2,3 ori mai multe tokenuri de ieșire decât media modelelor comparabile pe suita lor de benchmarkuri. Modelele de raționament te taxează pentru gândit, iar acesta gândește pe îndelete; un avantaj de preț per token se evaporă într-un dezavantaj per sarcină dacă modelul raționează de trei ori mai mult ca să ajungă la același răspuns. Contramăsura este încorporată și expusă în API-ul nostru: Nemotron 3 a fost post-antrenat pentru controlul bugetului de raționament, iar reasoning_effort este suportat aici — NVIDIA descrie un mod cu efort redus care folosește substanțial mai puține tokenuri de gândire, la un compromis de acuratețe de o singură cifră. La clasificare, extragere și rutare, dă-l mai jos și economia se schimbă simțitor; la o demonstrație sau la o refactorizare pe mai multe fișiere, dă-l mai sus și plătește deliberat. Măsoară-ți propriile tokenuri per sarcină, în loc să citești lista de prețuri și să presupui.

08Cum îl apelezi: trei dialecte, un singur model

Fiecare model de pe gateway răspunde pe trei suprafețe de API cu streaming, așa că poți îndrepta un client existent spre el fără să îți rescrii integrarea: /v1/chat/completions (dialectul OpenAI), /v1/messages (dialectul Anthropic) și /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Rezumatul capabilităților, ca să nu ai surprize la integrare:

Capabilitate	Nemotron3Ultra · 3BIT-REAP
Fereastră de context	262.144 de tokenuri
Ieșire maximă / cerere	16.384 de tokenuri
Streaming	Da
Apeluri de unelte	Da
Urme de raționament	Da
reasoning_effort	Da
json_schema (strict)	Da
response_format	Da
Viziune / intrare de tip imagine	Nu — doar text
Strat de refuz	Niciunul

Rândul cu viziunea îi prinde pe oameni pe picior greșit: Nemotron3Ultra este doar text. Dacă fluxul tău trimite imagini, folosește MiniMax-M3-3BIT-REAP sau MiMo-V2.5-W8A16 la 0,50 $/2,00 $, ori Kimi-K2.6-W4A16-AUTOROUND-REAP la 0,78 $/3,67 $ — toate cu viziune, toate fără cenzură, toate pe același context de 262.144 de tokenuri. Referința completă de parametri este în documentația API.

09Unde se așază Nemotron3Ultra între cele douăsprezece

Catalogul înseamnă douăsprezece modele fără cenzură care împart aceeași fereastră de context, aceleași trei dialecte și aceeași absență a unui strat de refuz; diferă prin fundație, preț și capabilitate. Poziția lui Nemotron este specifică: calul de povară al raționamentului cu descendență deschisă — nu cel mai ieftin, nu cel mai capabil, dar cel cu cea mai bogată urmă publică de documente în spatele comportamentului său, reglat cel mai apăsat spre STEM și agenți.

Model	Intrare / 1M	Ieșire / 1M	Viziune	Alege-l pentru
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Da	Cea mai ieftină opțiune cu viziune
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Nu	Treapta de cuantizare cu cea mai mare fidelitate
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Nu	Cel mai ieftin raționament pe fundație mare
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Nu	STEM, agenți, descendență deschisă
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Da	Viziune + fidelitate AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Nu	Analiză profundă dintr-o singură trecere
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Da	Plafonul absolut de capabilitate

Sunt arătate șapte din douăsprezece. Catalogul complet — inclusiv Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 și Hy3 — este în documentația API. De reținut că Laguna-S-2.1 nu suportă ieșire structurată, iar inkling nu suportă json_schema; Nemotron3Ultra le suportă pe amândouă.

Cel mai apropiat vecin ca preț este GLM-5.2-3BIT-REAP, la 0,73 $/2,34 $, iar comparația onestă sună așa: GLM-5.2 este mai ieftin per token, mai ales la ieșire. Nemotron aduce un corpus de antrenare publicat, un buton explicit pentru bugetul de raționament și o istorie de familie țintită spre știința de nivel doctoral. Raționament general în volum mare: rulează-l pe cel ieftin. Muncă grea de STEM, agentică sau supusă unui audit care întreabă de unde vine comportamentul modelului: Nemotron merită diferența.

10Întrebări frecvente

---

Surse: Raportul tehnic NVIDIA Nemotron 3 Ultra · Blogul NVIDIA pentru dezvoltatori (iunie 2026) · Note de arhitectură Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Benchmarkurile fundației sunt raportate de NVIDIA pe modelul necomprimat, dacă nu sunt atribuite Artificial Analysis; build-urile comprimate pot diferi. Prețurile și capabilitățile sunt valabile la 5 septembrie 2026.