Нецензурирано Nemotron API

Повеќето „отворени“ модели се отворени тежини и ништо друго — архива со параметри, лиценца и тишина за тоа од каде дошле бројките. Nemotron е доследниот исклучок веќе две години: NVIDIA ги објавува тежините, податочните сетови од пост-тренирањето, средините за поттикнато учење и рецептот. Тоа е важно за една нецензурирана крајна точка на начин што лесно се пропушта. Модел чиишто податоци за усогласување се објавени е модел за чиешто однесување при одбивање можеш да расудуваш наместо да погодуваш — и модел што трето лице легитимно смее да го постави без филтер за содржина закован на устата.

01Што е Nemotron 3 Ultra?

Nemotron 3 Ultra е најголемиот член на семејството Nemotron 3 на NVIDIA, објавен на Hugging Face на 4 јуни 2026 година. Техничкиот извештај на NVIDIA го опишува како „јазичен модел со мешавина од експерти од хибриден тип Mamba-Attention со 550 милијарди вкупни и 55 милијарди активни параметри“ — приближно 10% од мрежата работи на кој било даден токен, а токму тоа прави модел од половина трилион параметри воопшто да може да се послужува.

Објавениот распоред е 108 слоја со димензија на моделот 8.192, во кој слоеви со состојбен простор Mamba-2 се преплетуваат со редок сет слоеви со целосно внимание, со 512 експерти по MoE слој и рутирање на топ-22. Претренирањето течело на приближно 20 трилиони текстуални токени во две фази — прво со наклон кон разновидност, потоа кон квалитет — со пресек во септември 2025 година, 12 природни јазици и 43 програмски јазици. Пост-тренирањето користело SFT, поттикнато учење во повеќе средини со проверливи награди и дестилација на политиката од повеќе учители преку повеќе од десет специјалистички учители. Наведената цел на дизајнот се агентите што работат долго: сесии што држат голем контекст, повикуваат алатки десетици пати и траат доволно долго за економијата по токен да ја диктира сметката.

02Лозата на Nemotron и зошто потеклото е важно

Nemotron не е еднократна појава. Тој е видливиот излез на истражувачка програма на NVIDIA што се движи во иста насока од 2024 година, а секоја генерација остави нешто што сегашниот модел сè уште го носи. Nemotron-4 340B (јуни 2024) дојде со отворен процес за генерирање синтетички податоци, со својот модел на награда и својот генератор, плус со необично обелоденување: огромното мнозинство од неговите податоци за усогласување биле произведени од модел. Моделот како фабрика за податоци, а не како пророчиште, е причината поради која подоцнежните изданија на Nemotron постојано ги објавуваат податочните сетови заедно со тежините.

Llama-Nemotron — расудување што можеш да го исклучиш

Семејството Llama-Nemotron од 2025 година (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) придонесе со две идеи што добро остареа. Првата беше архитектонска: пребарувањето на невронски архитектури Puzzle на NVIDIA изгради библиотека од трансформерски блокови дестилирани блок по блок и ги состави со мешано-целобројно програмирање, произведувајќи модели во кои некои блокови целосно го прескокнуваат вниманието или го заменуваат со единствен линеарен слој, додека FFN Fusion ги собра последователните блокови со напредно проследување во помалку, поширoки и паралелни блокови — сечејќи ја секвенцијалната длабочина наместо бројот на параметри. LN-Ultra се собра на еден јазол со 8×H100 и притоа, според трудот на NVIDIA, го надмина DeepSeek-R1 на GPQA-Diamond (76,0% наспроти 71,5%).

Втората беше во однесувањето: Llama-Nemotron беше првото отворено семејство со динамичен прекинувач за расудување, што ги означуваше податоците за тренирање со detailed thinking on или detailed thinking off во системската инструкција, а наградите за формат ги наметнуваа ознаките <think> во вклучениот режим. Еден сет тежини, две однесувања, избирливи при извршување. Контролата на буџетот за расудување кај Nemotron 3 — и параметарот reasoning_effort на нашето API — потекнуваат директно од таа работа.

Nemotron 3 — хибридниот свртеж

Nemotron 3 го замени изведувањето од Llama со хибридна архитектура градена од нула и додаде LatentMoE (компресирање на токените пред рутирањето, за што NVIDIA вели дека овозможува „4 пати повеќе експерти за иста цена на извршување“), предвидување на повеќе токени и родно претренирање во NVFP4. NVIDIA објави кумулативно 50 милиони SFT примероци, 2 милиони задачи за поттикнато учење и 55 средини за поттикнато учење заедно со тежините — не мораш да му веруваш на добавувачот на збор за тоа што го учел моделот, зашто наставниот материјал може да се преземе.

03Што ти носи хибридната архитектура

KV кешот на еден трансформер расте линеарно со должината на низата, поради што извршувањето со долг контекст станува скапо во меморија пред да стане скапо во пресметка. Слоевите Mamba-2 се модели со состојбен простор што носат рекурентна состојба со фиксна големина, па нивната меморија по токен не расте со историјата; она во што се слаби е прецизното асоцијативно потсетување. Хибридот го задржува Mamba-2 за најголемиот дел од обработката на низата плус малцинство вистински слоеви со внимание за потсетувањето со кое слоевите со состојбен простор се мачат, а агресивниот однос од 64 глави за прашања и 2 KV глави го смалува кешот дополнително. NVIDIA пријавува 94,7% на RULER при 1M токени — репер за наоѓање игла во сеното, направен токму за да ги фати моделите што рекламираат прозорец што не умеат да го користат.

Последицата е пропусност: NVIDIA тврди до приближно 6× поголема пропусност при извршување од споредливи модели при иста точност, а Artificial Analysis независно измери 140,3 токени во секунда со време до првиот токен од 1,33 секунди — 7-мо од 89 модели. На агентско извршување со 200 круга тоа е разликата меѓу завршување попладнево и незавршување воопшто.

04Што значи „3BIT-REAP“, чесно кажано

Наставката не е украс — таа ти кажува точно што е направено врз фундаментот за да собере.

REAP — поткастрување на активацијата на експертите пондерирано по рутерот — доаѓа од Cerebras Research и беше прифатено на ICLR 2026. Во редок MoE рутерот го праќа секој токен кај шачка експерти; низ вистинско оптоварување некои се погодуваат постојано, а други речиси никогаш. REAP го оценува секој експерт по критериум на истакнатост што комбинира колку силно рутерот го отвора и колку големи се неговите придонеси во излезот, па потоа најмалку истакнатите ги отстранува наполно — Cerebras пријавува поткастрување до 50% од експертите кај модели големи и до 1 трилион параметри со главно зачуван почетен квалитет, и наоѓа дека за генеративни задачи како кодот поткаструвањето го надминува спојувањето. 3-битната квантизација потоа го компресира тоа што преживеало. Прво поткаструвај, потоа квантизирај, за да отиде битниот буџет кај експертите што носат сообраќај наместо да се размачка врз мртвите.

Компресијата не е бесплатна и нема да се преправаме дека е: агресивната квантизација прво се појавува како мали влошувања во точното почитување на форматот и во аритметиката на долг синџир, а не како видлива несувислост. Каде паѓаат трите нивоа:

Наставка	Што е тоа	Каде ја користиме
3BIT-REAP	3-битни тежини + поткастрување на експерти	Најголемите фундаменти, каде ништо друго не собира со зачувана брзина
W4A16-AUTOROUND-REAP	4-битни тежини / 16-битни активации, научено заокружување AutoRound, + поткастрување	Фундаменти од средна големина; AutoRound враќа точност во однос на наивното заокружување на најблиску
W8A16	8-битни тежини / 16-битни активации	Највисока верност; фундаменти доволно мали за да не им треба агресивна компресија

Nemotron 3 Ultra со 550 милијарди параметри е недвосмислено во првата категорија. Ако твоето оптоварување е необично чувствително на точен нумерички излез низ долги синџири, истражувачкиот индекс го наведува нивото W8A16 — MiMo-V2.5-Pro-W8A16 и Hy3-W8A16 — на подот од 0,50 / 2,00. Вистинска размена, не инка: помал модел, помалку компресија.

05Што значи „нецензурирано“ на оваа крајна точка

Конкретно: нема слој за одбивање и нема филтрирање на содржината врз излезот. Ниту еден класификатор не го прегледува твојот промпт за да врати конзервирано откажување, а одговорот не се скенира пред да стигне до твојот тек. Она што го добиваш е сопственото однесување на моделот.

Овде отворената лоза престанува да биде ситница. Бидејќи NVIDIA ги објави податоците од пост-тренирањето и средините за поттикнато учење, склоностите на моделот се проверливи начелно, а не преку фолклор. И бидејќи OpenMDW-1.1 е попустлива лиценца на Linux Foundation што ја покрива архитектурата, параметрите, документацијата и софтверот, независен оператор смее да послужува изменета, нефилтрирана поставеност на сопствен хардвер без лиценцата да биде пречка. Многу лиценци за „отворени“ модели тоа не го дозволуваат. Оваа го дозволува. Разликата се гледа таму каде што рефлексното одбивање е дефект, а не безбедносна одлика:

• Безбедносно истражување — анализа на ранливости, расудување за експлоати, однесување на злонамерен софтвер, алатки за црвени тимови, без расправија дали прашањето е дозволено.
• Хемија, биологија и фармакологија — пресметки на дози, механизми на реакции, токсикологија, синтетски патишта што филтрирана крајна точка ги одбива при допир со клучен збор.
• Спротивставено машинско учење — тешки негативни примери, корпуси со пробиви и таксономии на злоупотреба за класификатори што треба да го виделе вистинското нешто.
• Клинички, правни и форензички текстови — материјал од случаи што по природа е суров и се одбива токму поради тоа.

Нецензурирано не значи неодговорно. Ти си сопственик на тоа што го генерираш, а нашата Политика за одговорна употреба и Условите за користење ја уредуваат сметката. Отстранувањето на слојот за одбивање отстранува погодување на намерата; тоа не ги отстранува твоите обврски според законот што важи за тебе.

06STEM и расудување: што велат објавените бројки

Фокусот на тренирањето кај Nemotron се математиката, кодот, науката и следењето инструкции уште откако податочниот сет за пост-тренирање на Llama-Nemotron беше изграден токму околу тие четири оски. Еве што пријавува NVIDIA за фундаментот Nemotron 3 Ultra — бројки објавени од добавувачот за некомпресираниот модел, што ние не сме ги извршиле:

Две ограничувања вредат повеќе од самите бројки. Бројката за SWE-Bench Verified е распон — NVIDIA пријавува од 65,0% до 70,4% зависно од тоа кој агентски склоп ја извршува (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), а распон од пет поени само од скелето покажува колку многу агентските резултати зависат од склопот, а не од моделот. И Artificial Analysis го смести Nemotron 3 Ultra на 48 на својот Индекс на интелигенција, 9-то од 89 модели — силно, но не на врвот на полето, а нивното независно мерење е она што ние би го тежинале над кој било слајд на добавувач.

За претходната генерација, трудот за Llama-Nemotron на NVIDIA пријавува LN-Ultra со 76,0% на GPQA-Diamond наспроти 71,5% кај DeepSeek-R1 и 43,4% кај Llama-3.1-405B-Instruct, плус 80,8% на AIME 2024 — поинаков модел, вклучен затоа што науката на постдипломско ниво и натпреварувачката математика се цел на семејството низ две генерации.

Бројките од бенчмарците се објавени од NVIDIA (јуни 2026 година) за некомпресираниот Nemotron 3 Ultra, а од Artificial Analysis за независните мерења. Компресираните верзии може да отстапуваат. Не објавуваме бројки од бенчмарци што не сме ги потврдиле или не можеме да ги припишеме.

07Цена и ограничувањето со опширноста

По 0,75 долари на милион влезни токени и 3,30 долари на милион излезни токени, Nemotron3Ultra седи во долната третина од нашиот каталог по влез и во средината по излез. Разработени примери, зашто цената по милион тешко се насетува:

Облик на повикот	Влез	Излез	Цена
Типичен RAG круг	50,000	4,000	$0.051
Анализа на долг документ	150,000	8,000	$0.139
Повик со максимална големина	262,144	16,384	$0.251

Барање со полн контекст и полн излез — секој токен што крајната точка ќе го прими и секој токен што ќе го произведе — чини околу 25 центи. Истиот облик на Kimi-K3-3BIT-REAP, нашиот најскап модел по 3,83 / 19,12, чини околу 1,32 долари, односно 5,3× повеќе.

Сега ограничувањето, и тоа е вистинско. Artificial Analysis измери дека Nemotron 3 Ultra генерира 2,3× повеќе излезни токени од медијанскиот соперник низ нивниот сет од бенчмарци. Моделите за расудување ти го наплаќаат размислувањето, а овој размислува опширно; предноста во цената по токен испарува во недостаток по задача ако моделот расудува трипати подолго за да стигне до истиот одговор. Ублажувањето е вградено и изложено на нашето API: Nemotron 3 беше пост-трениран за контрола на буџетот за расудување, а reasoning_effort е поддржан овде — NVIDIA опишува режим со понизок напор што троши значително помалку токени за размислување наспроти губиток во точност од една цифра. При класификација, извлекување и рутирање, спушти го и економијата се менува суштински; при доказ или рефакторирање низ повеќе датотеки, крени го и плати го намерно. Мери ги сопствените токени по задача наместо да ја читаш ценовната листа и да претпоставуваш.

08Како се повикува: три дијалекти, еден модел

Секој модел на портата одговара на три API површини со стриминг, па можеш да насочиш постоечки клиент кон него без да ја препишуваш интеграцијата: /v1/chat/completions (дијалект на OpenAI), /v1/messages (дијалект на Anthropic) и /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Преглед на можностите, за да нема изненадувања при интеграција:

Можност	Nemotron3Ultra · 3BIT-REAP
Контекстен прозорец	262,144 токени
Максимален излез / барање	16,384 токени
Стриминг	Да
Повикување алатки	Да
Траги од расудување	Да
reasoning_effort	Да
json_schema (строго)	Да
response_format	Да
Вид / влез со слика	Не — само текст
Слој за одбивање	Нема

Редот за вид ги фаќа луѓето неподготвени: Nemotron3Ultra е само за текст. Ако твојот процес праќа слики, користи MiniMax-M3-3BIT-REAP или MiMo-V2.5-W8A16 по 0,50 / 2,00, или Kimi-K2.6-W4A16-AUTOROUND-REAP по 0,78 / 3,67 — сите со вид, сите нецензурирани, сите на истиот контекст од 262.144 токени. Целосната референца за параметрите е во API документацијата.

09Каде се вклопува Nemotron3Ultra меѓу дванаесетте

Каталогот е дванаесет нецензурирани модели што делат ист контекстен прозорец, исти три дијалекти и исто отсуство на слој за одбивање; се разликуваат по фундамент, цена и можности. Позицијата на Nemotron е конкретна: работниот коњ за расудување со отворена лоза — не најевтиниот, не најспособниот, туку оној со најјавната хартиена трага зад своето однесување, нагоден најсилно кон STEM и агенти.

Модел	Навнатре / 1M	Нанадвор / 1M	Вид	Избери го за
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Да	Најевтината опција со вид
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Не	Нивото на квантизација со највисока верност
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Не	Најевтино расудување со голем фундамент
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Не	STEM, агенти, отворена лоза
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Да	Вид + верност од AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Не	Длабока анализа од еден потег
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Да	Апсолутниот таван по способност

Прикажани се седум од дванаесет. Целосниот каталог — вклучувајќи ги Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 и Hy3 — е во API документацијата. Забележи дека Laguna-S-2.1 не поддржува структуриран излез, а inkling не поддржува json_schema; Nemotron3Ultra ги поддржува двете.

Најблискиот сосед по цена е GLM-5.2-3BIT-REAP по 0,73 / 2,34, а чесната споредба е ваква: GLM-5.2 е поевтин по токен, особено на излез. Nemotron носи објавен корпус за тренирање, изричит бирач за буџетот на расудување и семејна историја насочена кон науката на постдипломско ниво. Општо расудување во голем обем: пушти го поевтиниот. Тешко STEM оптоварување, агентско, или подложно на ревизија што прашува од каде дошло однесувањето на моделот: Nemotron ја заслужува разликата.

10Често поставувани прашања

---

Извори: технички извештај за NVIDIA Nemotron 3 Ultra · развојниот блог на NVIDIA (јуни 2026 година) · архитектонски белешки за Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Бенчмарците за фундаментот се објавени од NVIDIA за некомпресираниот модел освен ако не се припишани на Artificial Analysis; компресираните верзии може да отстапуваат. Цените и можностите се актуелни заклучно со 5 септември 2026 година.