Нецензурований API Nemotron

Більшість «відкритих» моделей відкриті лише вагами й нічим більше — архів параметрів, ліцензія й мовчання про те, звідки взялися ці числа. Nemotron уже два роки лишається послідовним винятком: NVIDIA викладає ваги, набори даних для післянавчання, RL-середовища й сам рецепт. Для нецензурованого ендпоїнта це важливо так, що легко проґавити. Модель, чиї дані з вирівнювання опубліковані, — це модель, про поведінку відмов якої можна міркувати, а не здогадуватися; і це модель, яку третя сторона може законно розгорнути без фільтра контенту, прикрученого їй до рота.

01Що таке Nemotron 3 Ultra?

Nemotron 3 Ultra — найбільший представник сімейства Nemotron 3 від NVIDIA, викладений на Hugging Face 4 червня 2026 року. Технічний звіт NVIDIA описує його як «мовну модель Mixture-of-Experts Hybrid Mamba-Attention на 550 мільярдів загальних і 55 мільярдів активних параметрів» — на кожному конкретному токені працює приблизно 10% мережі, і саме це робить модель на пів трильйона параметрів узагалі придатною до обслуговування.

Заявлена компоновка — 108 шарів із розмірністю моделі 8 192, де шари простору станів Mamba-2 чергуються з розрідженим набором шарів повної уваги, по 512 експертів на MoE-шар із маршрутизацією топ-22. Передтренування пройшло приблизно на 20 трильйонах текстових токенів у дві фази — спершу з ухилом у різноманіття, потім у якість — із межею даних у вересні 2025 року, 12 природними мовами й 43 мовами програмування. У післянавчанні застосували SFT, багатосередовищний RL із перевірюваними винагородами та Multi-Teacher On-Policy Distillation від більш ніж десяти спеціалізованих учителів. Заявлена мета проєктування — довгопрацюючі агенти: сесії, що тримають великий контекст, десятки разів викликають інструменти й тривають достатньо довго, щоб економіка кожного токена визначала рахунок.

02Родовід Nemotron і чому ця біографія важлива

Nemotron — не разовий проєкт. Це видимий результат дослідницької програми NVIDIA, що рухається в тому самому напрямку з 2024 року, і кожне покоління лишало щось, що нинішня модель досі несе. Nemotron-4 340B (червень 2024) вийшов із відкритим конвеєром генерації синтетичних даних, власною моделлю винагороди й генератором, плюс із незвичним розкриттям: переважна більшість його даних для вирівнювання була згенерована моделлю. Модель як фабрика даних, а не як оракул, — ось чому пізніші релізи Nemotron і далі виходять із наборами даних поруч із вагами.

Llama-Nemotron — міркування, яке можна вимкнути

Сімейство Llama-Nemotron 2025 року (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) дало дві ідеї, що добре витримали час. Перша — архітектурна: пошук нейронної архітектури Puzzle від NVIDIA побудував бібліотеку поблочно дистильованих трансформерних блоків і зібрав їх методами змішаного цілочисельного програмування, породивши моделі, де частина блоків узагалі пропускає увагу або замінює її одним лінійним шаром, а FFN Fusion згорнув послідовні feed-forward-блоки у менше число ширших паралельних — скоротивши послідовну глибину, а не кількість параметрів. LN-Ultra вміщався в один вузол 8×H100 і, за статтею NVIDIA, перевершував DeepSeek-R1 на GPQA-Diamond (76.0% проти 71.5%).

Друга ідея була поведінковою: Llama-Nemotron стало першим відкритим сімейством із динамічним перемикачем міркування — навчальні дані позначали detailed thinking on або detailed thinking off у системній інструкції, а форматні винагороди вимагали теґів <think> у ввімкненому режимі. Один набір ваг, дві поведінки, вибір на етапі інференсу. Керування бюджетом міркування в Nemotron 3 — і параметр reasoning_effort у нашому API — походять напряму з тієї роботи.

Nemotron 3 — поворот до гібрида

Nemotron 3 замінив похідну від Llama архітектуру гібридною, побудованою з нуля, і додав LatentMoE (стиснення токенів перед маршрутизацією, що, за словами NVIDIA, дозволяє «вчетверо більше експертів за ту саму вартість інференсу»), передбачення кількох токенів і нативне передтренування у NVFP4. Разом із вагами NVIDIA опублікувала сукупно 50 мільйонів зразків SFT, 2 мільйони RL-завдань і 55 RL-середовищ — вам не треба вірити виробникові на слово щодо того, чого модель навчали, бо навчальний матеріал можна завантажити.

03Що дає гібридна архітектура

KV-кеш трансформера росте лінійно з довжиною послідовності, тому інференс на довгому контексті дорожчає спершу в пам'яті, а не в обчисленнях. Шари Mamba-2 — це моделі простору станів із рекурентним станом фіксованого розміру, тож їхня вартість пам'яті на токен не росте з історією; погано їм дається точний асоціативний пригад. Гібрид лишає Mamba-2 для основної маси обробки послідовності плюс меншість справжніх шарів уваги для того пригаду, з яким шари простору станів не справляються, а агресивне співвідношення 64 голови запитів / 2 голови KV ще більше стискає кеш. NVIDIA повідомляє про 94.7% на RULER при 1 млн токенів — це бенчмарк пошуку голки, створений якраз для того, щоб ловити моделі, які заявляють вікно, котрим не вміють користуватися.

Наслідок — пропускна здатність: NVIDIA заявляє приблизно до 6× вищу пропускну здатність інференсу порівняно зі співмірними моделями за однакової точності, а Artificial Analysis незалежно виміряла 140.3 токена/секунду при часі до першого токена 1.33 секунди — 7-ме місце з 89 моделей. На агентному прогоні у 200 ходів це різниця між «завершити за пів дня» і «не завершити».

04Що чесно означає «3BIT-REAP»

Суфікс — не окраса: він точно каже, що зробили з фундаментом, щоб той умістився.

REAP — Router-weighted Expert Activation Pruning — походить від Cerebras Research і був прийнятий на ICLR 2026. У розрідженій MoE маршрутизатор надсилає кожен токен до жменьки експертів; на реальному навантаженні в одних попадання постійні, в інших — майже ніколи. REAP оцінює кожного експерта за критерієм значущості, що поєднує наскільки сильно його пропускає маршрутизатор і наскільки великі його внески у вивід, а потім прямо видаляє найменш значущих — Cerebras повідомляє про проріджування до 50% експертів у моделях розміром аж до 1 трильйона параметрів із загалом збереженою базовою якістю й виявляє, що для генеративних завдань на кшталт коду проріджування переважає злиття. Далі 3-бітне квантування стискає те, що лишилося. Спершу проріджування, потім квантування — щоб бітовий бюджет ішов експертам, які несуть трафік, а не розмазувався по мертвих.

Стиснення не безкоштовне, і ми не вдаватимемо інакше: агресивне квантування проявляється передусім як невелика деградація у точному дотриманні формату й у довгих арифметичних ланцюжках, а не як помітна незв'язність. Ось де опиняються три рівні:

Суфікс	Що це	Де ми це застосовуємо
3BIT-REAP	3-бітні ваги + проріджування експертів	Найбільші фундаменти, де більше нічого не вміщається зі збереженням швидкості
W4A16-AUTOROUND-REAP	4-бітні ваги / 16-бітні активації, навчене округлення AutoRound, + проріджування	Фундаменти середнього розміру; AutoRound повертає точність порівняно з наївним округленням до найближчого
W8A16	8-бітні ваги / 16-бітні активації	Найвища точність; фундаменти, достатньо малі, щоб не потребувати агресивного стиснення

Nemotron 3 Ultra на 550 млрд однозначно належить до першої категорії. Якщо ваше навантаження незвично чутливе до точного числового виводу в довгих ланцюжках, дослідницький індекс перелічує рівень W8A16 — MiMo-V2.5-Pro-W8A16 і Hy3-W8A16 — за нижньою межею $0.50/$2.00. Це справжній компроміс, а не воронка: менша модель, менше стиснення.

05Що означає «нецензурований» на цьому ендпоїнті

Конкретно: немає шару відмов і немає фільтрації контенту на виході. Жоден класифікатор не оглядає ваш промпт, щоб повернути шаблонну відмову, і відповідь не сканують перед тим, як вона потрапить у ваш стрім. Ви отримуєте власну поведінку моделі.

Саме тут відкритий родовід перестає бути дрібницею. Оскільки NVIDIA опублікувала дані післянавчання й RL-середовища, схильності моделі принаймні в принципі піддаються аудиту, а не лишаються фольклором. А оскільки OpenMDW-1.1 — це дозвільна ліцензія Linux Foundation, що охоплює архітектуру, параметри, документацію й програмне забезпечення, незалежний оператор може обслуговувати змінене, нефільтроване розгортання на власному залізі, і ліцензія не стане на заваді. Багато ліцензій «відкритих» моделей цього не дозволяють. Ця — дозволяє. Різниця видно там, де рефлекторна відмова є вадою, а не запобіжником:

• Дослідження безпеки — аналіз вразливостей, міркування про експлойти, поведінка шкідливого коду, інструментарій red-team, без суперечок про те, чи взагалі дозволено це запитання.
• Хімія, біологія й фармакологія — розрахунки дозувань, механізми реакцій, токсикологія, шляхи синтезу, на яких фільтрований ендпоїнт відмовляє від дотику до ключового слова.
• Змагальний ML — важкі негативи, корпуси джейлбрейків і таксономії зловживань для класифікаторів, яким треба бачити справжнє.
• Клінічні, юридичні й судово-медичні тексти — матеріали справ, графічні за своєю природою, яким відмовляють саме з цієї причини.

Нецензурований не означає безвідповідальний. Ви відповідаєте за те, що генеруєте, а обліковий запис регулюють наша Політика відповідального використання й Умови надання послуг. Прибирання шару відмов прибирає здогад про наміри; воно не прибирає ваших обов'язків за законом, який до вас застосовується.

06STEM і міркування: що кажуть опубліковані цифри

Фокус навчання Nemotron — математика, код, наука й дотримання інструкцій — тримається відтоді, як набір даних післянавчання Llama-Nemotron будувався саме навколо цих чотирьох осей. Ось що NVIDIA повідомляє про фундамент Nemotron 3 Ultra — цифри виробника на нестисненій моделі, яку ми самі не проганяли:

Два застереження, вартісніші за самі числа. Показник SWE-Bench Verified — це діапазон: NVIDIA повідомляє від 65.0% до 70.4% залежно від того, яка агентна обв'язка його проганяє (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), і розкид у п'ять пунктів від самого лише каркаса показує, наскільки агентні оцінки залежать від обв'язки, а не від моделі. А Artificial Analysis поставила Nemotron 3 Ultra на 48 у своєму Intelligence Index, 9-те місце з 89 моделей — сильно, але не на вершині поля, і саме їхнє незалежне вимірювання ми зважували б вище за будь-який слайд виробника.

Щодо попереднього покоління: у статті NVIDIA про Llama-Nemotron LN-Ultra показує 76.0% на GPQA-Diamond проти 71.5% у DeepSeek-R1 і 43.4% у Llama-3.1-405B-Instruct, плюс 80.8% на AIME 2024 — це інша модель, наведена тому, що наука рівня аспірантури й змагальна математика були мішенню сімейства два покоління поспіль.

Цифри бенчмарків у тому вигляді, як їх опублікувала NVIDIA (червень 2026) для нестисненого Nemotron 3 Ultra, і як їх виміряла Artificial Analysis для незалежних оцінок. Стиснені збірки можуть відрізнятися. Ми не публікуємо чисел бенчмарків, яких не перевіряли або не можемо атрибутувати.

07Ціна й застереження про багатослівність

За $0.75 за мільйон вхідних токенів і $3.30 за мільйон вихідних Nemotron3Ultra перебуває в нижній третині нашого каталогу за входом і всередині за виходом. Приклади розрахунків, бо ціну за мільйон важко відчути:

Форма виклику	Вхід	Вихід	Вартість
Типовий хід RAG	50 000	4 000	$0.051
Аналіз довгого документа	150 000	8 000	$0.139
Виклик максимального розміру	262 144	16 384	$0.251

Запит із повним контекстом і повним виводом — кожен токен, який ендпоїнт прийме, і кожен, який він видасть, — коштує близько 25 центів. Та сама форма на Kimi-K3-3BIT-REAP, нашій найдорожчій моделі за $3.83/$19.12, коштує близько $1.32, тобто в 5.3× більше.

Тепер застереження, і воно справжнє. Artificial Analysis виміряла, що Nemotron 3 Ultra генерує у 2.3× більше вихідних токенів, ніж медіанний конкурент, по всьому їхньому набору бенчмарків. Моделі міркування виставляють рахунок за роздуми, а ця роздумує довго; перевага в ціні за токен випаровується в програш за завдання, якщо модель міркує втричі довше, щоб дійти до тієї самої відповіді. Пом'якшення вбудоване й доступне в нашому API: Nemotron 3 проходив післянавчання під керування бюджетом міркування, і reasoning_effort тут підтримується — NVIDIA описує режим меншого зусилля, що витрачає істотно менше токенів роздумів за однознакову втрату точності. На класифікації, витягуванні даних і маршрутизації прикрутіть його — і економіка істотно зміниться; на доведенні чи багатофайловому рефакторингу підніміть його й свідомо заплатіть. Вимірюйте власні токени на завдання, а не читайте прайс-лист і припускайте.

08Як звертатися: три діалекти, одна модель

Кожна модель на шлюзі відповідає на трьох стримінгових API-поверхнях, тож ви можете спрямувати наявний клієнт на неї, не переписуючи інтеграцію: /v1/chat/completions (діалект OpenAI), /v1/messages (діалект Anthropic) і /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Зведення можливостей, щоб на етапі інтеграції не було несподіванок:

Можливість	Nemotron3Ultra · 3BIT-REAP
Контекстне вікно	262 144 токени
Макс. вивід / запит	16 384 токени
Стримінг	Так
Виклик інструментів	Так
Сліди міркування	Так
reasoning_effort	Так
json_schema (строгий)	Так
response_format	Так
Зір / вхідні зображення	Ні — лише текст
Шар відмов	Немає

Рядок про зір ловить людей зненацька: Nemotron3Ultra працює лише з текстом. Якщо ваш конвеєр надсилає зображення, візьміть MiniMax-M3-3BIT-REAP чи MiMo-V2.5-W8A16 за $0.50/$2.00 або Kimi-K2.6-W4A16-AUTOROUND-REAP за $0.78/$3.67 — усі бачать зображення, усі нецензуровані, усі на тому самому контексті в 262 144 токени. Повний довідник параметрів — у документації API.

09Місце Nemotron3Ultra серед дванадцяти

Каталог — це дванадцять нецензурованих моделей зі спільним контекстним вікном, тими самими трьома діалектами й тією самою відсутністю шару відмов; різняться вони фундаментом, ціною й можливостями. Позиція Nemotron конкретна: робочий кінь міркування з відкритим родоводом — не найдешевший, не найспроможніший, але той, за чиєю поведінкою стоїть найбільший публічний паперовий слід і чиє налаштування найсильніше зміщене в бік STEM та агентів.

Модель	Вхід / 1 млн	Вихід / 1 млн	Зір	Обирайте за
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Так	Найдешевший варіант із зором
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Ні	Найточніший рівень квантування
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Ні	Найдешевше міркування на великому фундаменті
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Ні	STEM, агенти, відкритий родовід
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Так	Зір + точність AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Ні	Глибокий аналіз за один прохід
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Так	Абсолютна стеля спроможності

Показано сім із дванадцяти. Повний каталог — разом із Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 і Hy3 — у документації API. Зверніть увагу: Laguna-S-2.1 не підтримує структурований вивід, а inkling не підтримує json_schema; Nemotron3Ultra підтримує і те, і те.

Найближчий сусід за ціною — GLM-5.2-3BIT-REAP за $0.73/$2.34, і чесне порівняння таке: GLM-5.2 дешевший за токен, особливо на виході. Nemotron натомість дає опублікований навчальний корпус, явний регулятор бюджету міркування й історію сімейства, націлену на науку рівня аспірантури. Високооб'ємне загальне міркування — беріть дешевшого. Насичене STEM, агентне або підпорядковане аудиту, який питає, звідки взялася поведінка моделі, — Nemotron відпрацьовує різницю.

10Часті запитання

---

Джерела: технічний звіт NVIDIA Nemotron 3 Ultra · блог для розробників NVIDIA (червень 2026) · нотатки про архітектуру Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Бенчмарки фундаменту повідомлені NVIDIA на нестисненій моделі, якщо не атрибутовано Artificial Analysis; стиснені збірки можуть відрізнятися. Ціни й можливості чинні станом на 5 вересня 2026 року.