Nemotron API Bla Ċensura

Ħafna mudelli "miftuħa" huma piżi miftuħa u xejn aktar — tarball ta' parametri, liċenzja, u silenzju dwar minn fejn ġejjin iċ-ċifri. Nemotron ilha l-eċċezzjoni konsistenti għal sentejn: NVIDIA tibgħat il-piżi, is-settijiet tad-dejta ta' wara t-taħriġ, l-ambjenti tal-RL u r-riċetta. Dan jgħodd għal endpoint bla ċensura b'mod li faċli tinsieh. Mudell li d-dejta tal-allinjament tiegħu hi ppubblikata hu mudell li tista' tirraġuna dwar l-imġiba tar-rifjut tiegħu minflok tindovinaha — u wieħed li parti terza tista' tiddeploja b'mod leġittimu mingħajr filtru tal-kontenut imwaħħal ma' ħalqu.

01X'inhi Nemotron 3 Ultra?

Nemotron 3 Ultra hi l-akbar membru tal-familja Nemotron 3 ta' NVIDIA, rilaxxata fuq Hugging Face fl-4 ta' Ġunju 2026. Ir-rapport tekniku ta' NVIDIA jiddeskriviha bħala "mudell tal-lingwa Mixture-of-Experts Hybrid Mamba-Attention b'550 biljun parametru totali u 55 biljun attivi" — madwar 10% tan-network jaħdem fuq kwalunkwe token partikolari, li hu dak li jagħmel mudell ta' nofs triljun-parametru fattibbli biex jiġi servut fl-ewwel lok.

Il-layout irrapportat hu 108 saffi f'dimensjoni tal-mudell ta' 8,192, jinterkala saffi state-space Mamba-2 ma' sett spars ta' saffi ta' attenzjoni sħiħa, 512 espert għal kull saff MoE b'routing top-22. Il-pretraining ġie mħaddem fuq madwar 20 triljun token ta' test f'żewġ fażijiet — l-ewwel imbijasata lejn id-diversità, imbagħad lejn il-kwalità — b'cutoff ta' Settembru 2025, 12-il lingwa naturali u 43 lingwa ta' programmar. Il-post-taħriġ uża SFT, RL b'diversi ambjenti u premjijiet verifikabbli, u Multi-Teacher On-Policy Distillation tul aktar minn għaxar għalliema speċjalisti. L-għan tad-disinn iddikjarat huma aġenti li jaħdmu fit-tul: sessjonijiet li jżommu kuntest kbir, isejħu għodod għexieren ta' drabi, u jaħdmu twil biżżejjed biex l-ekonomija għal kull token tiddomina l-fattura.

02Il-lineage ta' Nemotron, u għaliex il-pedigree jgħodd

Nemotron mhijiex avveniment iżolat. Hi l-output viżibbli ta' programm ta' riċerka ta' NVIDIA li ilu miexi fl-istess direzzjoni sa mill-2024, u kull ġenerazzjoni ħalliet xi ħaġa li l-mudell attwali għadu jġorr. Nemotron-4 340B (Ġunju 2024) intbagħtet b'pipeline miftuħa ta' ġenerazzjoni ta' dejta sintetika, il-mudell tal-premju tagħha u l-ġeneratur tagħha, flimkien ma' żvelar mhux tas-soltu: il-maġġoranza kbira tad-dejta tal-allinjament tagħha kienet iġġenerata mill-mudell stess. Il-mudell bħala fabbrika tad-dejta minflok orakolu hu għaliex ir-rilaxxi ta' Nemotron ta' wara komplew jibagħtu settijiet ta' dejta flimkien mal-piżi.

Llama-Nemotron — raġunament li tista' titfi

Il-familja Llama-Nemotron tal-2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) ikkontribwiet żewġ ideat li mxew tajjeb maż-żmien. L-ewwel waħda kienet arkitettonika: it-tfittxija tal-arkitettura newrali Puzzle ta' NVIDIA bniet librerija ta' blokki transformer distillati blokk-b'blokk u laqqgħethom flimkien b'programmazzjoni mixed-integer, u pproduċiet mudelli fejn xi blokki jaqbżu l-attenzjoni għal kollox jew jibdluha b'saff lineari wieħed, filwaqt li FFN Fusion ikkollassat blokki feed-forward konsekuttivi f'inqas minnhom, iżda usa' u paralleli — inaqqas il-fond sekwenzjali minflok l-għadd ta' parametri. LN-Ultra daħlet f'node wieħed 8×H100 filwaqt li, skont il-paper ta' NVIDIA, qabżet lil DeepSeek-R1 fuq GPQA-Diamond (76.0% kontra 71.5%).

It-tieni waħda kienet ta' mġiba: Llama-Nemotron kienet l-ewwel familja miftuħa b'bdil dinamiku tar-raġunament, tikketta d-dejta tat-taħriġ detailed thinking on jew detailed thinking off fl-istruzzjoni tas-sistema, b'premjijiet ta' format li jinfurzaw tikketti <think> fil-mod "on". Sett wieħed ta' piżi, żewġ imġibiet, magħżula fil-ħin tal-inferenza. Il-kontroll tal-budget tar-raġunament ta' Nemotron 3 — u l-parametru reasoning_effort fuq l-API tagħna — jinżel direttament minn dak ix-xogħol.

Nemotron 3 — id-dawra ibrida

Nemotron 3 issostitwiet id-derivazzjoni minn Llama b'arkitettura ibrida mibnija mill-bidu, u żiedet LatentMoE (li tikkompressa t-tokens qabel ir-routing, li NVIDIA tgħid tippermetti "4 darbiet aktar esperti bl-istess kost ta' inferenza"), previżjoni ta' diversi tokens, u pretraining nattiv b'NVFP4. NVIDIA ppubblikat total kumulattiv ta' 50 miljun kampjun SFT, 2 miljun xogħol ta' RL u 55 ambjent ta' RL flimkien mal-piżi — m'għandekx bżonn tieħu kelmet vendor dwar x'ġie mgħallem lill-mudell, għax il-materjal tat-tagħlim jista' jitniżżel.

03X'tixtri l-arkitettura ibrida

Il-KV cache ta' transformer tikber b'mod lineari mat-tul tas-sekwenza, li hu għaliex l-inferenza b'kuntest twil issir għalja fil-memorja qabel ma ssir għalja fil-kompjut. Is-saffi Mamba-2 huma mudelli state-space li jġorru stat rikorrenti ta' daqs fiss, għalhekk il-kost tal-memorja tagħhom għal kull token ma jikbirx mal-istorja; fejn huma ħżiena hu fit-tifkir assoċjattiv preċiż. L-ibridu jżomm Mamba-2 għall-biċċa l-kbira tal-ipproċessar tas-sekwenza flimkien ma' minoranza ta' saffi ta' attenzjoni reali għat-tifkir li s-saffi state-space jħawwdu, b'proporzjon aggressiv ta' 64-query-head / 2-KV-head li jnaqqas iċ-cache aktar. NVIDIA tirrapporta 94.7% fuq RULER f'1M token — benchmark ta' rkupru ta' labra mibni biex jaqbad mudelli li jsostnu tieqa li ma jistgħux jużaw.

Il-konsegwenza hi t-throughput: NVIDIA ssostni sa madwar 6× throughput ta' inferenza ogħla minn mudelli komparabbli b'preċiżjoni ekwivalenti, u Artificial Analysis kejjel b'mod indipendenti 140.3 tokens/sekonda b'ħin għall-ewwel token ta' 1.33 sekonda — 7 minn 89 mudell. F'run ta' aġent ta' 200 turn dik hi d-differenza bejn tispiċċa f'wara nofsinhar u ma tispiċċax.

04X'ifisser "3BIT-REAP", onestament

Is-suffiss mhuwiex dekorazzjoni — jgħidlek eżattament x'sar lill-fondazzjoni biex tidħol.

REAP — Router-weighted Expert Activation Pruning — ġejja minn Cerebras Research u ġiet aċċettata għal ICLR 2026. F'MoE spars ir-router jibgħat kull token lejn ftit esperti; fuq xogħol reali xi wħud jintlaqtu kontinwament u oħrajn kważi qatt. REAP jiskorja kull espert fuq kriterju ta' salienza li jgħaqqad kemm bil-qawwa r-router jiftaħlu l-gate u kemm huma kbar il-kontribuzzjonijiet tal-output tiegħu, imbagħad ineħħi għal kollox l-inqas salijenti — Cerebras tirrapporta tqaċċit sa 50% tal-esperti minn mudelli kbar daqs 1 triljun parametru filwaqt li tippreserva fil-biċċa l-kbira l-kwalità bażi, u ssib li għal xogħlijiet ġenerattivi bħall-kodiċi, it-tqaċċit jirbaħ lit-tħaltija. Il-kwantizzazzjoni ta' 3-bit imbagħad tikkompressa dak li jibqa'. Qaċċat l-ewwel, ikkwantizza t-tieni, biex il-budget tal-bits imur għand esperti li jġorru t-traffiku minflok jitferra' fuq dawk mejta.

Il-kompressjoni mhijiex b'xejn, u mhux se nippretendu mod ieħor: il-kwantizzazzjoni aggressiva turi ruħha l-ewwel bħala degradazzjonijiet żgħar fil-konformità mal-format eżatt u fl-aritmetika ta' katini twal, mhux bħala inkoerenza viżibbli. Fejn jinżlu t-tliet livelli:

Suffiss	X'inhu	Fejn nużawh
3BIT-REAP	Piżi ta' 3-bit + tqaċċit tal-esperti	Il-fondazzjonijiet l-akbar, fejn xejn ieħor ma jidħol b'veloċità
W4A16-AUTOROUND-REAP	Piżi ta' 4-bit / attivazzjonijiet ta' 16-bit, tqarrib mgħallem AutoRound, + tqaċċit	Fondazzjonijiet ta' daqs medju; AutoRound jirkupra l-preċiżjoni fuq it-tqarrib naive għall-eqreb
W8A16	Piżi ta' 8-bit / attivazzjonijiet ta' 16-bit	L-ogħla fedeltà; fondazzjonijiet żgħar biżżejjed biex ma jeħtiġux kompressjoni aggressiva

Nemotron 3 Ultra b'550B taqa' sewwa fl-ewwel kategorija. Jekk ix-xogħol tiegħek hu sensittiv b'mod mhux tas-soltu għal output numeriku eżatt tul katini twal, l-indiċi tar-riċerka jelenka l-livell W8A16 — MiMo-V2.5-Pro-W8A16 u Hy3-W8A16 — fil-qiegħ ta' $0.50/$2.00. Kambju veru, mhux funnel: mudell iżgħar, inqas kompressjoni.

05X'tifsser "bla ċensura" fuq dan l-endpoint

Konkretament: m'hemm ebda saff ta' rifjut u ebda filtrar tal-kontenut applikat fuq l-output. Ebda klassifikatur ma jispezzjona l-prompt tiegħek u jirritorna ċaħda lesta minn qabel, u t-tweġiba mhijiex skennjata qabel ma tasal fl-istream tiegħek. Dak li tikseb hu l-imġiba tal-mudell stess.

Hawn hu fejn il-lineage miftuħa tieqaf milli tkun kurżità biss. Għax NVIDIA ppubblikat id-dejta ta' wara t-taħriġ u l-ambjenti tal-RL, id-disponimenti tal-mudell huma verifikabbli fil-prinċipju minflok folklor. U għax OpenMDW-1.1 hi liċenzja permissiva tal-Linux Foundation li tkopri l-arkitettura, il-parametri, id-dokumentazzjoni u s-software, operatur indipendenti jista' jservi deployment modifikat u mingħajr filtru fuq il-hardware tiegħu stess mingħajr ma l-liċenzja tkun l-ostakolu. Ħafna liċenzji ta' mudelli "miftuħa" ma jippermettux dan. Din tippermetti. Id-differenza tidher fejn rifjut riflessiv hu bug, mhux karatteristika ta' sikurezza:

• Riċerka tas-sigurtà — analiżi ta' vulnerabbiltajiet, raġunament dwar exploits, imġiba ta' malware, għodod ta' red-team, mingħajr ma tiddiskuti jekk il-mistoqsija hix permessa.
• Kimika, bijoloġija u farmakoloġija — matematika ta' dożaġġ, mekkaniżmi ta' reazzjoni, tossikoloġija, rotot ta' sinteżi li endpoint filtrat jiċħad mal-ewwel kuntatt ma' kelma prinċipali.
• ML avversarjali — negattivi diffiċli, corpora ta' jailbreak u tassonomiji ta' abbuż għal klassifikaturi li jeħtieġu jkunu raw il-ħaġa vera.
• Test kliniku, legali u forensiku — materjal ta' każijiet li hu grafiku min-natura tiegħu u jiġi rrifjutat eżattament għal dik ir-raġuni.

Bla ċensura mhux ifisser mingħajr responsabbiltà. Int sid dak li tiġġenera, u l-Politika ta' Użu Responsabbli u t-Termini tas-Servizz tagħna jirregolaw il-kont. Li tneħħi saff ta' rifjut ineħħi indoviniet dwar l-intenzjoni; ma jneħħix l-obbligi tiegħek taħt il-liġi li tapplika għalik.

06STEM u raġunament: x'jgħidu ċ-ċifri ppubblikati

Il-fokus tat-taħriġ ta' Nemotron ilu l-matematika, il-kodiċi, ix-xjenza u s-segwiment ta' istruzzjonijiet sa minn meta s-sett tad-dejta ta' wara t-taħriġ ta' Llama-Nemotron inbena madwar eżattament dawk l-erba' assi. Dak li NVIDIA tirrapporta għall-fondazzjoni Nemotron 3 Ultra — ċifri rrapportati mill-vendor fuq il-mudell mhux kompressat, li aħna ma ħdimniex:

Żewġ avvertimenti jiswew aktar miċ-ċifri. Iċ-ċifra ta' SWE-Bench Verified hi medda — NVIDIA tirrapporta minn 65.0% sa 70.4% skont liema harness ta' aġent iħaddimha (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), u firxa ta' ħames punti mill-iscaffolding biss turi kemm il-punteġġi aġentiċi jiddependu fuq il-harness minflok fuq il-mudell. U Artificial Analysis qiegħdet Nemotron 3 Ultra fi 48 fuq l-Intelligence Index tagħha, 9 minn 89 mudell — b'saħħtu, imma mhux fuq nett tal-qasam, u l-kejl indipendenti tagħhom hu dak li nagħtu piż ikbar minn kwalunkwe slide ta' vendor.

Fuq il-ġenerazzjoni ta' qabel, il-paper ta' Llama-Nemotron ta' NVIDIA jirrapporta li LN-Ultra kisbet 76.0% fuq GPQA-Diamond kontra 71.5% ta' DeepSeek-R1 u 43.4% ta' Llama-3.1-405B-Instruct, flimkien ma' 80.8% fuq AIME 2024 — mudell differenti, inkluż għax ix-xjenza ta' livell gradwat u l-matematika kompetittiva ilhom il-mira tal-familja għal żewġ ġenerazzjonijiet.

Iċ-ċifri tal-benchmark kif ippubblikati minn NVIDIA (Ġunju 2026) fuq Nemotron 3 Ultra mhux kompressata, u minn Artificial Analysis għal kejl indipendenti. Builds kompressati jistgħu jvarjaw. Ma nippubblikawx ċifri ta' benchmark li ma vverifikajniex jew ma nistgħux nattribwixxu.

07Prezz, u l-avviż dwar il-verbożità

B'$0.75 għal kull miljun token tad-dħul u $3.30 għal kull miljun token tal-ħruġ, Nemotron3Ultra toqgħod fit-terz t'isfel tal-katalgu tagħna fuq id-dħul u fin-nofs fuq il-ħruġ. Eżempji maħduma, għax prezzar għal kull miljun hu diffiċli biex tħossu:

Forma tas-sejħa	Dħul	Ħruġ	Kost
Turn tipiku ta' RAG	50,000	4,000	$0.051
Analiżi ta' dokument twil	150,000	8,000	$0.139
Sejħa ta' daqs massimu	262,144	16,384	$0.251

Talba b'kuntest sħiħ u output sħiħ — kull token li l-endpoint jaċċetta u kull token li jipproduċi — tiswa madwar 25 ċenteżmu. L-istess forma fuq Kimi-K3-3BIT-REAP, il-mudell l-aktar għali tagħna b'$3.83/$19.12, tiswa madwar $1.32, jew 5.3× aktar.

Issa l-avviż, u hu veru. Artificial Analysis kejlet li Nemotron 3 Ultra tiġġenera 2.3× aktar tokens ta' output mill-medja tal-pari tul is-suite tal-benchmarks tagħhom. Mudelli ta' raġunament iħallsuk għall-ħsieb, u dan jaħsibha fit-tul; vantaġġ ta' prezz għal kull token jisparixxi f'żvantaġġ għal kull xogħol jekk il-mudell jirraġuna tliet darbiet itwal biex jasal għall-istess tweġiba. Il-mitigazzjoni hi mibnija fih u esposta fuq l-API tagħna: Nemotron 3 kienet post-imħarrġa għal kontroll tal-budget tar-raġunament, u reasoning_effort hu appoġġjat hawn — NVIDIA tiddeskrivi mod ta' sforz aktar baxx li juża ħafna inqas tokens ta' ħsieb għal tpartit ta' preċiżjoni ta' ċifra waħda. Fuq klassifikazzjoni, estrazzjoni u routing, naqqasha u l-ekonomija tinbidel b'mod sostanzjali; fuq prova jew refactor ta' bosta fajls, għollieha u ħallas għaliha deliberatament. Kejjel it-tokens-għal-kull-xogħol tiegħek stess minflok taqra l-lista tal-prezzijiet u tassumi.

08Kif issejħilha: tliet djaletti, mudell wieħed

Kull mudell fuq il-gateway iwieġeb fuq tliet uċuħ tal-API bi streaming, biex tkun tista' tipponta klijent eżistenti lejh mingħajr ma tikteb mill-ġdid l-integrazzjoni tiegħek: /v1/chat/completions (djalett OpenAI), /v1/messages (djalett Anthropic), u /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Sommarju tal-kapaċitajiet, biex xejn ma jissorprendik fil-ħin tal-integrazzjoni:

Kapaċità	Nemotron3Ultra · 3BIT-REAP
Tieqa tal-kuntest	262,144 token
Output massimu / talba	16,384 token
Streaming	Iva
Sejħa ta' għodod	Iva
Traċċi ta' raġunament	Iva
reasoning_effort	Iva
json_schema (strett)	Iva
response_format	Iva
Viżjoni / input ta' immaġni	Le — test biss
Saff ta' rifjut	Xejn

Ir-ringiela tal-viżjoni taqbad lin-nies: Nemotron3Ultra hi test biss. Jekk il-pipeline tiegħek jibgħat immaġnijiet, uża MiniMax-M3-3BIT-REAP jew MiMo-V2.5-W8A16 b'$0.50/$2.00, jew Kimi-K2.6-W4A16-AUTOROUND-REAP b'$0.78/$3.67 — kollha b'kapaċità ta' viżjoni, kollha bla ċensura, kollha fuq l-istess kuntest ta' 262,144-token. Ir-referenza sħiħa tal-parametri tinsab fid-dokumentazzjoni tal-API.

09Fejn tidħol Nemotron3Ultra fost it-tnax

Il-katalgu huwa tnax-il mudell bla ċensura li jaqsmu l-istess tieqa ta' kuntest, l-istess tliet djaletti u l-istess nuqqas ta' saff ta' rifjut; jiddifferixxu fil-fondazzjoni, il-prezz u l-kapaċità. Il-pożizzjoni ta' Nemotron hi speċifika: il-ħaddiem tar-raġunament ta' lineage miftuħa — mhux l-irħas, mhux l-aktar kapaċi, imma dak bl-aktar traċċa pubblika ta' papers wara l-imġiba tiegħu, irfinut l-aktar lejn l-STEM u l-aġenti.

Mudell	Dħul / 1M	Ħruġ / 1M	Viżjoni	Agħżlu għal
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Iva	L-irħas għażla b'kapaċità ta' viżjoni
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Le	L-ogħla livell ta' fedeltà ta' kwantizzazzjoni
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Le	L-irħas raġunament b'fondazzjoni kbira
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Le	STEM, aġenti, lineage miftuħa
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Iva	Viżjoni + fedeltà AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Le	Analiżi profonda f'daqqa waħda
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Iva	Saqaf assolut tal-kapaċità

Sebgħa minn tnax muri. Il-katalgu sħiħ — inklużi Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 u Hy3 — jinsab fid-dokumenti tal-API. Innota li Laguna-S-2.1 ma tappoġġjax output strutturat u inkling ma tappoġġjax json_schema; Nemotron3Ultra tappoġġja t-tnejn.

L-eqreb ġar bil-prezz hu GLM-5.2-3BIT-REAP b'$0.73/$2.34, u t-tqabbil onest hu dan: GLM-5.2 hi irħas għal kull token, speċjalment fuq il-ħruġ. Nemotron iġġib corpus tat-taħriġ ippubblikat, dial espliċitu tal-budget tar-raġunament, u storja tal-familja mmirata lejn ix-xjenza ta' livell gradwat. Raġunament ġenerali b'volum għoli: ħaddem l-irħas waħda. Tqila fl-STEM, aġentika, jew soġġetta għal awditu li jistaqsi minn fejn ġejja l-imġiba tal-mudell: Nemotron tiggwadanja d-differenza.

10Mistoqsijiet frekwenti

---

Sorsi: Rapport tekniku ta' NVIDIA Nemotron 3 Ultra · Blog tal-iżviluppaturi ta' NVIDIA (Ġunju 2026) · Noti tal-arkitettura ta' Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Il-benchmarks tal-fondazzjoni huma rrapportati minn NVIDIA fuq il-mudell mhux kompressat sakemm ma jkunux attribwiti lil Artificial Analysis; builds kompressati jistgħu jvarjaw. Il-prezzijiet u l-kapaċitajiet huma attwali sal-5 ta' Settembru 2026.