Нецензуриран Nemotron API

Повечето „отворени“ модели са отворени тегла и нищо повече — архив с параметри, лиценз и мълчание за това откъде са дошли числата. Nemotron е последователното изключение от две години насам: NVIDIA публикува теглата, наборите за дообучение, RL средите и рецептата. Това има значение за една нецензурирана крайна точка по начин, който лесно се пропуска. Модел, чиито данни за подравняване са публикувани, е модел, за чието поведение при откази можете да разсъждавате, вместо да гадаете — и модел, който трета страна може законно да внедри, без филтър за съдържание, запушил му устата.

01Какво е Nemotron 3 Ultra?

Nemotron 3 Ultra е най-големият член на семейството Nemotron 3 на NVIDIA, издаден в Hugging Face на 4 юни 2026 г. Техническият доклад на NVIDIA го описва като „езиков модел тип Mixture-of-Experts с хибридна Mamba-Attention архитектура, с 550 милиарда общо и 55 милиарда активни параметъра“ — приблизително 10% от мрежата работи върху даден токен, което изобщо прави модел с половин трилион параметъра поддаващ се на обслужване.

Публикуваното разположение е 108 слоя при размерност на модела 8 192, редуващи слоеве Mamba-2 с пространство на състоянията с рядко разпръснат набор от слоеве с пълно внимание, 512 експерта на MoE слой с top-22 маршрутизиране. Предобучението е протекло върху приблизително 20 трилиона текстови токена на два етапа — първо с уклон към разнообразие, после към качество — с граница на данните септември 2025 г., 12 естествени и 43 програмни езика. Дообучението е използвало SFT, RL в множество среди с проверими награди и Multi-Teacher On-Policy Distillation от повече от десет специализирани учителя. Обявената проектна цел са дълго работещите агенти: сесии, които държат голям контекст, извикват инструменти десетки пъти и текат достатъчно дълго, че икономиката на токен да определя сметката.

02Родословието на Nemotron и защо школата има значение

Nemotron не е еднократен изстрел. Той е видимият резултат от изследователска програма на NVIDIA, вървяща в една и съща посока от 2024 г., и всяко поколение е оставило нещо, което днешният модел още носи. Nemotron-4 340B (юни 2024 г.) излезе с отворен конвейер за генериране на синтетични данни, с наградния си модел и с генератора си, плюс необичайно разкритие: огромното мнозинство от данните му за подравняване са били генерирани от модел. Моделът като фабрика за данни, а не като оракул, е причината по-късните издания на Nemotron да продължават да публикуват набори от данни редом с теглата.

Llama-Nemotron — разсъждение, което можете да изключите

Семейството Llama-Nemotron от 2025 г. (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) допринесе две идеи, които издържаха проверката на времето. Първата беше архитектурна: невронното търсене на архитектури Puzzle на NVIDIA изгради библиотека от блоково дестилирани трансформърни блокове и ги сглоби чрез смесено целочислено програмиране, произвеждайки модели, в които някои блокове изцяло прескачат вниманието или го заменят с един линеен слой, докато FFN Fusion сля последователни право-разпространяващи блокове в по-малко на брой, по-широки и паралелни — съкращавайки последователната дълбочина, а не броя параметри. LN-Ultra се събра на един възел с 8×H100, като според статията на NVIDIA надмина DeepSeek-R1 на GPQA-Diamond (76.0% срещу 71.5%).

Втората беше поведенческа: Llama-Nemotron беше първото отворено семейство с динамичен превключвател на разсъждението, обозначаващо обучаващите данни с detailed thinking on или detailed thinking off в системната инструкция, с награди за формат, налагащи етикети <think> във включения режим. Един набор тегла, две поведения, избираеми по време на извод. Управлението на бюджета за разсъждение при Nemotron 3 — и параметърът reasoning_effort в нашия API — произлизат пряко от тази работа.

Nemotron 3 — хибридният завой

Nemotron 3 замени производството от Llama с хибридна архитектура, построена от нулата, и добави LatentMoE (компресиране на токените преди маршрутизиране, което според NVIDIA позволява „4 пъти повече експерти при същата цена на извода“), предсказване на множество токени и естествено предобучение в NVFP4. NVIDIA публикува кумулативно 50 милиона SFT примера, 2 милиона RL задачи и 55 RL среди редом с теглата — не се налага да вярвате на думата на производителя какво е било преподадено на модела, защото учебният материал е за изтегляне.

03Какво ви купува хибридната архитектура

KV кешът на един трансформър расте линейно с дължината на последователността, което е причината изводът при дълъг контекст да поскъпва по памет преди да поскъпне по изчисления. Слоевете Mamba-2 са модели с пространство на състоянията, носещи рекурентно състояние с фиксиран размер, така че разходът им за памет на токен не расте с историята; слабото им място е точното асоциативно припомняне. Хибридът задържа Mamba-2 за основната част от обработката на последователността плюс малцинство от истински слоеве с внимание за припомнянето, с което слоевете с пространство на състоянията се справят зле, а агресивно съотношение 64 заявкови глави към 2 KV глави свива кеша още повече. NVIDIA съобщава 94.7% на RULER при 1M токена — бенчмарк за извличане на игла в купа сено, построен точно за да лови модели, обявяващи прозорец, който не могат да използват.

Последицата е пропускателна способност: NVIDIA твърди до около 6 пъти по-висока пропускателна способност при извод спрямо сравними модели при равна точност, а Artificial Analysis независимо измери 140.3 токена в секунда при 1.33 секунди до първия токен — 7-и от 89 модела. При агентно изпълнение от 200 хода това е разликата между това да приключиш до вечерта и да не приключиш.

04Какво честно означава „3BIT-REAP“

Наставката не е украса — тя ви казва точно какво е направено с основата, за да се побере.

REAP — Router-weighted Expert Activation Pruning — идва от Cerebras Research и беше приета на ICLR 2026. В разреден MoE маршрутизаторът изпраща всеки токен към шепа експерти; при реално натоварване някои се улучват постоянно, а други почти никога. REAP оценява всеки експерт по критерий за значимост, съчетаващ колко силно го пропуска маршрутизаторът и колко голям е приносът на изхода му, а после премахва изцяло най-незначимите — Cerebras съобщава за отрязване на до 50% от експертите при модели с размер до 1 трилион параметъра при до голяма степен запазено базово качество и установява, че при генеративни задачи като код отрязването бие сливането. 3-битовото квантуване после компресира оцелялото. Първо отрязване, после квантуване, за да отива битовият бюджет при експертите, които носят трафик, вместо да се размазва върху мъртвите.

Компресията не е безплатна и няма да се преструваме на друго: агресивното квантуване се проявява първо като малки влошавания в точното спазване на формат и в дългите аритметични вериги, а не като видима безсмислица. Къде стоят трите нива:

Наставка	Какво е	Къде я използваме
3BIT-REAP	3-битови тегла + отрязване на експерти	Най-големите основи, където нищо друго не се побира със скорост
W4A16-AUTOROUND-REAP	4-битови тегла / 16-битови активации, научено закръгляне AutoRound, + отрязване	Основи от среден размер; AutoRound възстановява точност спрямо наивното закръгляне до най-близкото
W8A16	8-битови тегла / 16-битови активации	Най-висока вярност; основи, достатъчно малки, за да не се нуждаят от агресивна компресия

Nemotron 3 Ultra с 550B попада категорично в първата категория. Ако натоварването ви е необичайно чувствително към точен числов изход през дълги вериги, индексът с изследвания изброява нивото W8A16 — MiMo-V2.5-Pro-W8A16 и Hy3-W8A16 — на дъното от $0.50/$2.00. Истинска размяна, а не фуния: по-малък модел, по-малко компресия.

05Какво означава „нецензуриран“ при тази крайна точка

Конкретно: няма слой за откази и няма филтриране на съдържанието върху изхода. Никакъв класификатор не оглежда промпта ви, за да върне готов отказ, и отговорът не се сканира, преди да стигне до потока ви. Това, което получавате, е собственото поведение на модела.

Тук отвореният произход спира да бъде дреболия. Понеже NVIDIA публикува данните от дообучението и RL средите, склонностите на модела са одитируеми по принцип, а не фолклор. И понеже OpenMDW-1.1 е позволителен лиценз на Linux Foundation, покриващ архитектурата, параметрите, документацията и софтуера, независим оператор може да обслужва модифицирано, нефилтрирано внедряване върху собствен хардуер, без лицензът да е препятствието. Много лицензи на „отворени“ модели не позволяват това. Този позволява. Разликата се вижда там, където рефлексният отказ е дефект, а не мярка за безопасност:

• Изследвания по сигурност — анализ на уязвимости, разсъждение върху експлойти, поведение на зловреден софтуер, инструменти за червени екипи, без спор дали въпросът е позволен.
• Химия, биология и фармакология — изчисления на дозировки, механизми на реакции, токсикология, синтезни пътища, които филтрирана крайна точка отказва при допир с ключова дума.
• Състезателно машинно обучение — трудни отрицателни примери, корпуси за пробиви и таксономии на злоупотреби за класификатори, които трябва да са виждали истинското нещо.
• Клинични, правни и съдебномедицински текстове — материали по случаи, които по природа са графични и биват отказвани точно заради това.

Нецензуриран не значи безотчетен. Вие носите отговорност за това, което генерирате, а нашите Политика за отговорна употреба и Общи условия управляват акаунта. Премахването на слой за откази премахва едно предположение за намерение; то не премахва задълженията ви по приложимия за вас закон.

06STEM и разсъждение: какво казват публикуваните числа

Фокусът на обучението на Nemotron е математика, код, наука и следване на инструкции още откакто наборът за дообучение на Llama-Nemotron беше построен точно около тези четири оси. Ето какво съобщава NVIDIA за основата Nemotron 3 Ultra — числа, съобщени от производителя върху некомпресирания модел, които ние не сме пускали:

Две уговорки струват повече от числата. Резултатът на SWE-Bench Verified е диапазон — NVIDIA съобщава от 65.0% до 70.4% в зависимост от това коя агентна рамка го изпълнява (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), а пет пункта разлика само от скелето показва колко силно агентните резултати зависят от рамката, а не от модела. И Artificial Analysis постави Nemotron 3 Ultra на 48 в своя Intelligence Index, 9-и от 89 модела — силно, но не на върха на полето, и точно тяхното независимо измерване бихме претеглили над която и да е презентация на производител.

За предходното поколение статията на NVIDIA за Llama-Nemotron съобщава LN-Ultra с 76.0% на GPQA-Diamond срещу 71.5% на DeepSeek-R1 и 43.4% на Llama-3.1-405B-Instruct, плюс 80.8% на AIME 2024 — друг модел, включен тук, защото науката на ниво докторантура и състезателната математика са целта на семейството от две поколения.

Числата от бенчмаркове са както са публикувани от NVIDIA (юни 2026 г.) за некомпресирания Nemotron 3 Ultra и от Artificial Analysis за независимите измервания. Компресираните билдове може да се различават. Не публикуваме числа от бенчмаркове, които не сме проверили или не можем да припишем на източник.

07Цена и уговорката за многословието

На $0.75 на милион входни токена и $3.30 на милион изходни токена Nemotron3Ultra стои в долната трета на каталога ни по вход и в средата по изход. Разработени примери, защото цената на милион трудно се усеща:

Форма на извикването	Вход	Изход	Цена
Типичен RAG ход	50,000	4,000	$0.051
Анализ на дълъг документ	150,000	8,000	$0.139
Извикване с максимален размер	262,144	16,384	$0.251

Заявка с пълен контекст и пълен изход — всеки токен, който крайната точка ще приеме, и всеки токен, който ще произведе — струва около 25 цента. Същата форма при Kimi-K3-3BIT-REAP, най-скъпият ни модел на $3.83/$19.12, струва около $1.32, или 5.3 пъти повече.

Сега уговорката, и тя е истинска. Artificial Analysis измери, че Nemotron 3 Ultra генерира 2.3 пъти повече изходни токена от медианния си конкурент в тяхната серия от бенчмаркове. Моделите за разсъждение ви таксуват за мисленето, а този мисли надълго; ценово предимство на токен се изпарява в недостатък на задача, ако моделът разсъждава три пъти по-дълго, за да стигне до същия отговор. Смекчаването е вградено и достъпно в нашия API: Nemotron 3 е дообучаван за управление на бюджета за разсъждение и reasoning_effort се поддържа тук — NVIDIA описва режим с по-ниско усилие, използващ съществено по-малко токени за мислене срещу едноцифрен компромис в точността. При класификация, извличане и маршрутизиране го намалете и икономиката се променя съществено; при доказателство или рефакторинг през няколко файла го вдигнете и платете за това съзнателно. Измервайте собствените си токени на задача, вместо да четете ценоразписа и да предполагате.

08Извикването му: три диалекта, един модел

Всеки модел в шлюза отговаря на три поточни API повърхности, така че можете да насочите съществуващ клиент към него, без да преписвате интеграцията си: /v1/chat/completions (диалект на OpenAI), /v1/messages (диалект на Anthropic) и /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Обобщение на възможностите, за да не ви изненада нищо при интегриране:

Възможност	Nemotron3Ultra · 3BIT-REAP
Контекстен прозорец	262 144 токена
Максимален изход на заявка	16 384 токена
Поточно предаване	Да
Извикване на инструменти	Да
Следи от разсъждение	Да
reasoning_effort	Да
json_schema (строг)	Да
response_format	Да
Зрение / вход с изображения	Не — само текст
Слой за откази	Няма

Редът за зрението хваща хората неподготвени: Nemotron3Ultra е само текстов. Ако конвейерът ви изпраща изображения, използвайте MiniMax-M3-3BIT-REAP или MiMo-V2.5-W8A16 на $0.50/$2.00, или Kimi-K2.6-W4A16-AUTOROUND-REAP на $0.78/$3.67 — всички със зрение, всички нецензурирани, всички на същия контекст от 262 144 токена. Пълната справка за параметрите е в API документацията.

09Къде стои Nemotron3Ultra сред дванадесетте

Каталогът е дванадесет нецензурирани модела, споделящи един и същ контекстен прозорец, същите три диалекта и същата липса на слой за откази; те се различават по основа, цена и възможности. Позицията на Nemotron е конкретна: работният кон за разсъждение с отворен произход — не най-евтиният, не най-способният, но този с най-обширната публична документална следа зад поведението си, настроен най-силно към STEM и агентите.

Модел	Вход / 1M	Изход / 1M	Зрение	Изберете го за
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Да	Най-евтиният вариант със зрение
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Не	Ниво на квантуване с най-висока вярност
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Не	Най-евтиното разсъждение върху голяма основа
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Не	STEM, агенти, отворен произход
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Да	Зрение + вярност на AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Не	Дълбок анализ на един изстрел
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Да	Абсолютният таван на възможностите

Показани са седем от дванадесет. Пълният каталог — включително Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 и Hy3 — е в API документацията. Имайте предвид, че Laguna-S-2.1 не поддържа структуриран изход, а inkling не поддържа json_schema; Nemotron3Ultra поддържа и двете.

Най-близкият съсед по цена е GLM-5.2-3BIT-REAP на $0.73/$2.34, а честното сравнение е следното: GLM-5.2 е по-евтин на токен, особено на изхода. Nemotron носи публикуван обучаващ корпус, изричен регулатор на бюджета за разсъждение и семейна история, насочена към науката на ниво докторантура. Общо разсъждение с голям обем: пуснете по-евтиния. Натоварване с много STEM, агентно или подлежащо на одит, който пита откъде идва поведението на модела: Nemotron си заслужава разликата.

10Често задавани въпроси

---

Източници: технически доклад за NVIDIA Nemotron 3 Ultra · блог за разработчици на NVIDIA (юни 2026 г.) · архитектурни бележки за Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Бенчмарковете за основата са съобщени от NVIDIA върху некомпресирания модел, освен когато са приписани на Artificial Analysis; компресираните билдове може да се различават. Цените и възможностите са актуални към 5 септември 2026 г.