L'API Nemotron senza censura
Il pedigree di ricerca di NVIDIA, pubblicato allo scoperto e servito senza strato di rifiuto: un MoE ibrido Mamba-Attention da 550B messo a punto per lo STEM e per il ragionamento a lungo orizzonte — a 0,75 $ in / 3,30 $ out per milione di token.
In breve
Nemotron3Ultra-3BIT-REAP è il deployment senza censura di Shannon di NVIDIA Nemotron 3 Ultra: un Mixture-of-Experts da 550 miliardi di parametri con 55B attivi per token, rilasciato il 4 giugno 2026 con pesi, dati di addestramento e ricette sotto la licenza permissiva OpenMDW-1.1 della Linux Foundation. Sul nostro cluster GPU gira senza alcuno strato di rifiuto e senza alcun filtro sull'output, con un contesto da 262.144 token, fino a 16.384 token di output per richiesta, tool calling, streaming, tracce di ragionamento e output json_schema in modalità strict. Non accetta immagini. Prezzo: 0,75 $ / 3,30 $ per 1M di token.
La maggior parte dei modelli «aperti» è aperta nei pesi e in nient'altro: un tarball di parametri, una licenza e silenzio su come sono nati i numeri. Nemotron è l'eccezione costante da due anni: NVIDIA pubblica i pesi, i dataset di post-training, gli ambienti di RL e la ricetta. Per un endpoint senza censura questo conta in un modo che è facile non cogliere. Un modello i cui dati di allineamento sono pubblici è un modello di cui puoi ragionare il comportamento di rifiuto invece di tirare a indovinare — ed è un modello che una terza parte può legittimamente servire senza un filtro sui contenuti avvitato alla bocca.
01Che cos'è Nemotron 3 Ultra?
Nemotron 3 Ultra è il membro più grande della famiglia Nemotron 3 di NVIDIA, pubblicato su Hugging Face il 4 giugno 2026. Il rapporto tecnico di NVIDIA lo descrive come «un modello linguistico Mixture-of-Experts ibrido Mamba-Attention da 550 miliardi di parametri totali e 55 miliardi attivi»: circa il 10% della rete lavora su un dato token, ed è questo che rende un modello da mezzo migliaio di miliardi di parametri servibile in generale.
La struttura riportata è di 108 strati a dimensione del modello 8.192, che alternano strati state-space Mamba-2 con un insieme rado di strati di attenzione piena, 512 esperti per strato MoE con instradamento top-22. Il pre-addestramento è girato su circa 20 mila miliardi di token di testo in due fasi — prima orientata alla diversità, poi alla qualità — con cutoff a settembre 2025, 12 lingue naturali e 43 linguaggi di programmazione. Il post-training ha usato SFT, RL multi-ambiente con ricompense verificabili e la Multi-Teacher On-Policy Distillation su più di dieci insegnanti specialisti. L'obiettivo di progetto dichiarato sono gli agenti a esecuzione lunga: sessioni che tengono un contesto grande, chiamano strumenti decine di volte e girano abbastanza a lungo perché sia l'economia per token a dominare il conto.
02Il lignaggio Nemotron, e perché il pedigree conta
Nemotron non è un caso isolato. È l'esito visibile di un programma di ricerca NVIDIA che va nella stessa direzione dal 2024, e ogni generazione ha lasciato qualcosa che il modello attuale porta ancora con sé. Nemotron-4 340B (giugno 2024) è uscito con una pipeline aperta di generazione di dati sintetici, il suo reward model e il suo generatore, più una rivelazione insolita: la stragrande maggioranza dei suoi dati di allineamento era generata dal modello stesso. Il modello come fabbrica di dati anziché come oracolo è il motivo per cui i rilasci Nemotron successivi continuano a pubblicare dataset insieme ai pesi.
Llama-Nemotron: il ragionamento che puoi spegnere
La famiglia Llama-Nemotron del 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) ha lasciato due idee che hanno retto bene. La prima è architetturale: la ricerca di architetture neurali Puzzle di NVIDIA ha costruito una libreria di blocchi transformer distillati a blocchi e li ha assemblati con la programmazione lineare intera mista, producendo modelli in cui alcuni blocchi saltano del tutto l'attenzione o la sostituiscono con un singolo strato lineare, mentre la FFN Fusion collassava blocchi feed-forward consecutivi in blocchi più pochi, più larghi e paralleli — tagliando la profondità sequenziale anziché il numero di parametri. LN-Ultra stava su un singolo nodo 8×H100 e, secondo il paper di NVIDIA, superava DeepSeek-R1 su GPQA-Diamond (76,0% contro 71,5%).
La seconda è comportamentale: Llama-Nemotron è stata la prima famiglia aperta con un interruttore dinamico del ragionamento, che etichettava i dati di addestramento con detailed thinking on o detailed thinking off nell'istruzione di sistema, con ricompense di formato che imponevano i tag <think> in modalità attiva. Un solo set di pesi, due comportamenti, selezionabili al momento dell'inferenza. Il controllo del budget di ragionamento di Nemotron 3 — e il parametro reasoning_effort sulla nostra API — discende direttamente da quel lavoro.
Nemotron 3: la svolta ibrida
Nemotron 3 ha sostituito la derivazione da Llama con un'architettura ibrida costruita da zero e ha aggiunto la LatentMoE (comprimere i token prima dell'instradamento, il che secondo NVIDIA consente «4 volte più esperti a parità di costo di inferenza»), la multi-token prediction e il pre-addestramento nativo in NVFP4. NVIDIA ha pubblicato, insieme ai pesi, un cumulativo di 50 milioni di campioni SFT, 2 milioni di task di RL e 55 ambienti di RL: non devi credere sulla parola a un fornitore su che cosa sia stato insegnato al modello, perché il materiale didattico è scaricabile.
03Che cosa ti dà l'architettura ibrida
La cache KV di un transformer cresce linearmente con la lunghezza della sequenza, ed è per questo che l'inferenza su contesto lungo diventa costosa in memoria prima ancora che in calcolo. Gli strati Mamba-2 sono modelli state-space che portano uno stato ricorrente di dimensione fissa, quindi il loro costo di memoria per token non cresce con la storia; quello in cui sono deboli è il richiamo associativo preciso. L'ibrido tiene Mamba-2 per il grosso dell'elaborazione della sequenza più una minoranza di strati di attenzione vera per il richiamo che gli strati state-space sbagliano, con un rapporto aggressivo di 64 teste di query per 2 teste KV che restringe ulteriormente la cache. NVIDIA riporta il 94,7% su RULER a 1M di token: un benchmark di recupero dell'ago nel pagliaio costruito apposta per smascherare i modelli che dichiarano una finestra che non sanno usare.
La conseguenza è il throughput: NVIDIA dichiara fino a circa 6× di throughput di inferenza in più rispetto a modelli comparabili a pari accuratezza, e Artificial Analysis ha misurato in modo indipendente 140,3 token al secondo con 1,33 secondi di tempo al primo token — 7° su 89 modelli. Su una corsa agentica da 200 turni è la differenza tra finire in un pomeriggio e non finire affatto.
04Che cosa significa «3BIT-REAP», onestamente
Il suffisso non è decorazione: dice esattamente che cosa è stato fatto alla base per farla stare dentro.
REAP — Router-weighted Expert Activation Pruning — viene da Cerebras Research ed è stato accettato a ICLR 2026. In un MoE sparso il router manda ogni token a una manciata di esperti; su un carico di lavoro reale alcuni vengono colpiti di continuo e altri quasi mai. REAP assegna a ogni esperto un punteggio secondo un criterio di rilevanza che combina quanto fortemente il router lo attiva e quanto sono grandi i contributi del suo output, poi rimuove del tutto i meno rilevanti — Cerebras riporta di aver potato fino al 50% degli esperti da modelli grandi fino a mille miliardi di parametri preservando in gran parte la qualità di partenza, e trova che per i compiti generativi come il codice il pruning batte la fusione. La quantizzazione a 3 bit comprime poi ciò che sopravvive. Prima si pota, poi si quantizza, così il budget di bit va agli esperti che portano traffico invece di essere spalmato su quelli morti.
La compressione non è gratis, e non facciamo finta del contrario: una quantizzazione aggressiva si manifesta prima come piccole degradazioni nel rispetto esatto del formato e nell'aritmetica a catena lunga, non come incoerenza visibile. Dove si collocano i tre livelli:
| Suffisso | Che cos'è | Dove lo usiamo |
|---|---|---|
| 3BIT-REAP | Pesi a 3 bit + pruning degli esperti | Le basi più grandi, dove nient'altro ci sta a quella velocità |
| W4A16-AUTOROUND-REAP | Pesi a 4 bit / attivazioni a 16 bit, arrotondamento appreso AutoRound, + pruning | Basi di taglia media; AutoRound recupera accuratezza rispetto all'arrotondamento ingenuo al più vicino |
| W8A16 | Pesi a 8 bit / attivazioni a 16 bit | Massima fedeltà; basi abbastanza piccole da non aver bisogno di una compressione aggressiva |
Nemotron 3 Ultra, a 550B, sta in pieno nella prima categoria. Se il tuo carico di lavoro è insolitamente sensibile all'esattezza numerica su catene lunghe, l'indice della ricerca elenca il livello W8A16 — MiMo-V2.5-Pro-W8A16 e Hy3-W8A16 — al pavimento di 0,50 $ / 2,00 $. Uno scambio vero, non un imbuto: modello più piccolo, meno compressione.
05Che cosa significa «senza censura» su questo endpoint
Concretamente: non c'è alcuno strato di rifiuto e nessun filtro sui contenuti applicato all'output. Nessun classificatore ispeziona il tuo prompt per restituirti un diniego preconfezionato, e la risposta non viene scansionata prima di arrivare al tuo stream. Quello che ottieni è il comportamento del modello stesso.
È qui che il lignaggio aperto smette di essere una curiosità. Poiché NVIDIA ha pubblicato i dati di post-training e gli ambienti di RL, le disposizioni del modello sono in linea di principio verificabili invece che folklore. E poiché OpenMDW-1.1 è una licenza permissiva della Linux Foundation che copre architettura, parametri, documentazione e software, un operatore indipendente può servire un deployment modificato e non filtrato sul proprio hardware senza che la licenza sia l'ostacolo. Molte licenze di modelli «aperti» non lo permettono. Questa sì. La differenza si vede dove il rifiuto riflesso è un bug, non una funzione di sicurezza:
- Ricerca sulla sicurezza — analisi delle vulnerabilità, ragionamento sugli exploit, comportamento dei malware, strumenti di red team, senza discutere se la domanda sia ammessa.
- Chimica, biologia e farmacologia — calcoli di dosaggio, meccanismi di reazione, tossicologia, vie di sintesi che un endpoint filtrato rifiuta al contatto con una parola chiave.
- Machine learning avversariale — negativi difficili, corpora di jailbreak e tassonomie dell'abuso per classificatori che hanno bisogno di aver visto la cosa vera.
- Testi clinici, legali e forensi — materiale di casi crudo per natura, e rifiutato esattamente per quello.
Senza censura non vuol dire senza responsabilità. Ciò che generi è tuo, e la nostra Responsible Use Policy e i Termini di servizio governano l'account. Togliere uno strato di rifiuto toglie una congettura sull'intento; non toglie i tuoi obblighi secondo la legge che ti si applica.
06STEM e ragionamento: che cosa dicono i numeri pubblicati
Il focus di addestramento di Nemotron è matematica, codice, scienze e aderenza alle istruzioni da quando il dataset di post-training di Llama-Nemotron fu costruito esattamente attorno a quei quattro assi. Ciò che NVIDIA riporta per la base Nemotron 3 Ultra — dati riportati dal fornitore sul modello non compresso, che non abbiamo eseguito noi:
Due avvertenze valgono più dei numeri. Il dato su SWE-Bench Verified è un intervallo: NVIDIA riporta dal 65,0% al 70,4% a seconda della harness agentica che lo esegue (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), e uno scarto di cinque punti dovuto alla sola impalcatura mostra quanto i punteggi agentici dipendano dalla harness più che dal modello. E Artificial Analysis ha collocato Nemotron 3 Ultra a 48 sul suo Intelligence Index, 9° su 89 modelli — forte, non in testa al campo, e la loro misurazione indipendente è quella a cui daremmo peso più che a qualsiasi slide di un fornitore.
Sulla generazione precedente, il paper Llama-Nemotron di NVIDIA riporta LN-Ultra al 76,0% su GPQA-Diamond contro il 71,5% di DeepSeek-R1 e il 43,4% di Llama-3.1-405B-Instruct, più l'80,8% su AIME 2024 — un modello diverso, incluso perché le scienze di livello universitario avanzato e la matematica da competizione sono state l'obiettivo della famiglia per due generazioni.
Ogni cifra qui è pubblicata da qualcun altro, non da noi. Controlla le fonti primarie tu stesso.
Dati di benchmark come pubblicati da NVIDIA (giugno 2026) sul Nemotron 3 Ultra non compresso, e da Artificial Analysis per le misurazioni indipendenti. Le build compresse possono differire. Non pubblichiamo numeri di benchmark che non abbiamo verificato o che non possiamo attribuire.
07Il prezzo, e l'avvertenza sulla verbosità
A 0,75 $ per milione di token in input e 3,30 $ per milione di token in output, Nemotron3Ultra si colloca nel terzo inferiore del nostro catalogo sull'input e a metà sull'output. Esempi calcolati, perché un prezzo al milione è difficile da percepire:
| Forma della chiamata | Input | Output | Costo |
|---|---|---|---|
| Turno RAG tipico | 50.000 | 4.000 | 0,051 $ |
| Analisi di un documento lungo | 150.000 | 8.000 | 0,139 $ |
| Chiamata di dimensione massima | 262.144 | 16.384 | 0,251 $ |
Una richiesta a contesto pieno e output pieno — ogni token che l'endpoint accetta e ogni token che produrrà — costa circa 25 centesimi. La stessa forma su Kimi-K3-3BIT-REAP, il nostro modello più caro a 3,83 $ / 19,12 $, costa circa 1,32 $, cioè 5,3 volte tanto.
Ora l'avvertenza, ed è reale. Artificial Analysis ha misurato che Nemotron 3 Ultra genera 2,3 volte più token di output della mediana dei suoi pari sull'intera loro suite di benchmark. I modelli di ragionamento ti fatturano il pensiero, e questo pensa a lungo; un vantaggio di prezzo per token evapora in uno svantaggio per compito se il modello ragiona tre volte più a lungo per arrivare alla stessa risposta. La mitigazione è integrata ed esposta sulla nostra API: Nemotron 3 è stato post-addestrato per il controllo del budget di ragionamento, e qui reasoning_effort è supportato — NVIDIA descrive una modalità a sforzo più basso che usa sostanzialmente meno token di pensiero a fronte di uno scambio di accuratezza a una sola cifra. Su classificazione, estrazione e instradamento, abbassalo e l'economia cambia in modo sensibile; su una dimostrazione o un refactoring su più file, alzalo e paga deliberatamente. Misura i tuoi token per compito invece di leggere il listino e dare per scontato.
08Come chiamarlo: tre dialetti, un modello
Ogni modello del gateway risponde su tre superfici API in streaming, così puoi puntarci un client esistente senza riscrivere l'integrazione: /v1/chat/completions (dialetto OpenAI), /v1/messages (dialetto Anthropic) e /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'Riepilogo delle capacità, così nulla ti sorprende al momento dell'integrazione:
| Capacità | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Finestra di contesto | 262.144 token |
| Output massimo / richiesta | 16.384 token |
| Streaming | Sì |
| Tool calling | Sì |
| Tracce di ragionamento | Sì |
reasoning_effort | Sì |
json_schema (strict) | Sì |
response_format | Sì |
| Visione / input immagine | No — solo testo |
| Strato di rifiuto | Nessuno |
La riga sulla visione coglie tutti di sorpresa: Nemotron3Ultra è solo testo. Se la tua pipeline invia immagini, usa MiniMax-M3-3BIT-REAP o MiMo-V2.5-W8A16 a 0,50 $ / 2,00 $, oppure Kimi-K2.6-W4A16-AUTOROUND-REAP a 0,78 $ / 3,67 $ — tutti capaci di visione, tutti senza censura, tutti sullo stesso contesto da 262.144 token. Il riferimento completo dei parametri è nella documentazione API.
09Dove si colloca Nemotron3Ultra fra i dodici
Il catalogo è di dodici modelli senza censura che condividono la stessa finestra di contesto, gli stessi tre dialetti e la stessa assenza di uno strato di rifiuto; differiscono per base, prezzo e capacità. La posizione di Nemotron è precisa: il cavallo da tiro del ragionamento a lignaggio aperto — non il più economico, non il più capace, ma quello con la più ampia traccia documentale pubblica dietro al proprio comportamento, e messo a punto con più decisione verso lo STEM e gli agenti.
| Modello | In / 1M | Out / 1M | Visione | Ideale per |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | 0,50 $ | 2,00 $ | Sì | L'opzione con visione più economica |
| MiMo-V2.5-Pro · W8A16 | 0,50 $ | 2,00 $ | No | Il livello di quantizzazione a più alta fedeltà |
| GLM-5.2 · 3BIT-REAP | 0,73 $ | 2,34 $ | No | Il ragionamento su base grande più economico |
| Nemotron3Ultra · 3BIT-REAP | 0,75 $ | 3,30 $ | No | STEM, agenti, lignaggio aperto |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | 0,78 $ | 3,67 $ | Sì | Visione + fedeltà AutoRound |
| DeepSeek-V4-Pro · 3BIT-REAP | 1,95 $ | 3,90 $ | No | Analisi profonda in un colpo solo |
| Kimi-K3 · 3BIT-REAP | 3,83 $ | 19,12 $ | Sì | Il tetto assoluto di capacità |
Sette su dodici mostrati. Il catalogo completo — compresi Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 e Hy3 — è nella documentazione API. Nota che Laguna-S-2.1 non supporta l'output strutturato e inkling non supporta json_schema; Nemotron3Ultra li supporta entrambi.
Il vicino più prossimo per prezzo è GLM-5.2-3BIT-REAP a 0,73 $ / 2,34 $, e il confronto onesto è questo: GLM-5.2 costa meno per token, soprattutto in output. Nemotron porta un corpus di addestramento pubblicato, una manopola esplicita per il budget di ragionamento e una storia di famiglia puntata sulle scienze di livello universitario avanzato. Ragionamento generalista ad alto volume: usa il più economico. Carichi pesanti di STEM, agentici, o soggetti a un audit che chiede da dove venga il comportamento del modello: Nemotron si guadagna la differenza.
10Domande frequenti
Che cos'è l'API Nemotron senza censura?
È l'endpoint gestito da Shannon AI per Nemotron3Ultra 3BIT-REAP, una build compressa di Nemotron 3 Ultra a pesi aperti di NVIDIA. Gira sul nostro cluster GPU senza alcuno strato di rifiuto e senza alcun filtro sull'output, espone un contesto da 262.144 token e 16.384 token di output per richiesta, e costa 0,75 $ per milione di token in input e 3,30 $ per milione di token in output.
Nemotron di NVIDIA è davvero a pesi aperti?
Sì. NVIDIA ha pubblicato Nemotron 3 Ultra il 4 giugno 2026 con pesi, dati di addestramento e ricette sotto la licenza permissiva OpenMDW-1.1 della Linux Foundation, dopo Nemotron-4 340B e la famiglia Llama-Nemotron. È questa apertura a rendere possibile un deployment indipendente e non filtrato.
Che cosa significa 3BIT-REAP?
Due passaggi di compressione. REAP — Router-weighted Expert Activation Pruning, di Cerebras Research e accettato a ICLR 2026 — assegna un punteggio a ciascun esperto di un Mixture-of-Experts in base a quanto fortemente il router lo attiva e a quanto sono grandi i contributi del suo output, poi elimina del tutto i meno rilevanti. I sopravvissuti vengono quantizzati a pesi da 3 bit, così il budget di bit viene speso sugli esperti che portano davvero traffico.
Nemotron3Ultra supporta la visione o l'output con schema JSON?
Niente immagini: questo endpoint è solo testo. Supporta invece l'output strutturato in modalità strict — sia json_schema sia response_format — più tool calling, streaming, tracce di ragionamento e reasoning_effort. Per le immagini su un modello senza censura, usa invece MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 o inkling.
Perché il contesto è di 262.144 token se NVIDIA pubblicizza 1M?
L'architettura Nemotron 3 punta a una finestra da 1M di token e NVIDIA riporta il 94,7% su RULER a quella lunghezza. Il nostro deployment serve 262.144 token, la finestra che manteniamo a piena velocità su tutto il catalogo. Ogni modello del gateway espone lo stesso contesto, così puoi scambiare gli id dei modelli senza riscrivere il tuo chunking.
Nemotron va bene per matematica, scienze e codice?
STEM e ragionamento sono il focus dichiarato della famiglia. NVIDIA riporta il 90% su PinchBench, il 65,0-70,4% su SWE-Bench Verified su cinque harness agentiche e il 56,4% su Terminal-Bench 2.1 per Nemotron 3 Ultra; il precedente Llama-Nemotron Ultra riportava il 76,0% su GPQA-Diamond contro il 71,5% di DeepSeek-R1. Sono tutti dati riportati dal fornitore sulla base non compressa.
Chiama l'API Nemotron senza censura
262K di contesto, tool calling, schema JSON in modalità strict, nessuno strato di rifiuto — 0,75 $ in / 3,30 $ out per 1M di token.
Leggi la documentazione API Tutte le schede modelloShannon Lab LLC · New Mexico, USA · uso regolato dalla nostra Responsible Use Policy
Fonti: Rapporto tecnico NVIDIA Nemotron 3 Ultra · Blog per sviluppatori NVIDIA (giugno 2026) · Note sull'architettura di Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. I benchmark della base sono riportati da NVIDIA sul modello non compresso salvo dove attribuiti ad Artificial Analysis; le build compresse possono differire. Prezzi e capacità sono aggiornati al 5 settembre 2026.