Nemotron API без цензуры

Большинство «открытых» моделей открыты только весами и больше ничем — архив параметров, лицензия и молчание о том, откуда взялись цифры. Nemotron уже два года остаётся последовательным исключением: NVIDIA выкладывает веса, датасеты постобучения, RL-среды и рецепт. Для эндпоинта без цензуры это важнее, чем кажется. Модель, чьи данные выравнивания опубликованы, — это модель, о поведении отказов которой можно рассуждать, а не гадать, и модель, которую сторонняя команда вправе развернуть, не прикручивая ей к выходу контентный фильтр.

01Что такое Nemotron 3 Ultra?

Nemotron 3 Ultra — крупнейший представитель семейства NVIDIA Nemotron 3, выложенный на Hugging Face 4 июня 2026 года. В техническом отчёте NVIDIA описывает её как «языковую модель Mixture-of-Experts гибридной архитектуры Mamba-Attention на 550 миллиардов суммарных и 55 миллиардов активных параметров» — на любом отдельном токене работает примерно 10% сети, и именно это делает модель на полтриллиона параметров вообще пригодной к обслуживанию.

Заявленная компоновка — 108 слоёв при размерности модели 8 192, где слои пространства состояний Mamba-2 чередуются с редкими слоями полного внимания, по 512 экспертов на MoE-слой и маршрутизация top-22. Предобучение шло примерно на 20 триллионах текстовых токенов в две фазы — сначала с уклоном в разнообразие, затем в качество — с отсечкой в сентябре 2025 года, на 12 естественных и 43 языках программирования. В постобучении применялись SFT, RL в нескольких средах с проверяемыми наградами и многоучительская on-policy дистилляция более чем от десяти узкоспециализированных учителей. Заявленная цель проектирования — долго работающие агенты: сессии, которые держат большой контекст, вызывают инструменты десятки раз и длятся достаточно долго, чтобы экономика на уровне токена определяла счёт.

02Родословная Nemotron и почему она важна

Nemotron — не разовый выстрел. Это видимый результат исследовательской программы NVIDIA, идущей в одном направлении с 2024 года, и каждое поколение оставило что-то, что нынешняя модель до сих пор несёт. Nemotron-4 340B (июнь 2024) вышла с открытым конвейером генерации синтетических данных, своей моделью вознаграждения и генератором, а вдобавок с необычным раскрытием: подавляющее большинство её данных выравнивания было сгенерировано моделью. Взгляд на модель как на фабрику данных, а не как на оракула, — причина, по которой поздние релизы Nemotron продолжают выкладывать датасеты рядом с весами.

Llama-Nemotron — рассуждение, которое можно выключить

Семейство Llama-Nemotron 2025 года (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) дало две идеи, которые хорошо состарились. Первая архитектурная: нейроархитектурный поиск Puzzle от NVIDIA собрал библиотеку поблочно дистиллированных трансформерных блоков и скомпоновал их методом смешанного целочисленного программирования, получив модели, где часть блоков вообще пропускает внимание или заменяет его одним линейным слоем, а FFN Fusion схлопнул последовательные полносвязные блоки в меньшее число более широких параллельных — сокращая последовательную глубину, а не количество параметров. LN-Ultra умещалась на одном узле 8×H100 и при этом, согласно статье NVIDIA, обходила DeepSeek-R1 на GPQA-Diamond (76.0% против 71.5%).

Вторая идея поведенческая: Llama-Nemotron стала первым открытым семейством с динамическим переключателем рассуждения — обучающие данные помечались в системной инструкции как detailed thinking on или detailed thinking off, а награды за формат требовали тегов <think> во включённом режиме. Один набор весов, два поведения, выбираемых на инференсе. Управление бюджетом рассуждения в Nemotron 3 — и параметр reasoning_effort в нашем API — происходят напрямую из этой работы.

Nemotron 3 — поворот к гибриду

Nemotron 3 заменила производную от Llama на гибридную архитектуру с нуля и добавила LatentMoE (сжатие токенов перед маршрутизацией, что, по словам NVIDIA, позволяет иметь «в 4 раза больше экспертов при той же стоимости инференса»), предсказание нескольких токенов и нативное предобучение в NVFP4. NVIDIA опубликовала суммарно 50 миллионов SFT-примеров, 2 миллиона RL-задач и 55 RL-сред вместе с весами — вам не нужно верить вендору на слово насчёт того, чему модель обучали, потому что учебный материал можно скачать.

03Что даёт гибридная архитектура

KV-кэш трансформера растёт линейно с длиной последовательности, поэтому длинноконтекстный инференс дорожает по памяти раньше, чем по вычислениям. Слои Mamba-2 — модели пространства состояний с рекуррентным состоянием фиксированного размера, поэтому их затраты памяти на токен не растут с историей; плохо им даётся точный ассоциативный вызов. Гибрид оставляет Mamba-2 на основную часть обработки последовательности плюс меньшинство настоящих слоёв внимания для того самого вызова, с которым слои пространства состояний не справляются, а агрессивное соотношение 64 голов запросов на 2 головы KV дополнительно ужимает кэш. NVIDIA сообщает о 94.7% на RULER при 1M токенов — это бенчмарк на поиск иголки, построенный как раз для того, чтобы ловить модели, заявляющие окно, которым они не умеют пользоваться.

Следствие — пропускная способность: NVIDIA заявляет примерно до 6× более высокую пропускную способность инференса, чем у сопоставимых моделей при сравнимой точности, а Artificial Analysis независимо измерила 140.3 токена в секунду при времени до первого токена 1.33 секунды — 7-е место из 89 моделей. На агентном прогоне в 200 ходов это разница между «закончили за полдня» и «не закончили».

04Что честно означает «3BIT-REAP»

Суффикс — не украшение: он точно говорит, что сделали с основой, чтобы она поместилась.

REAP — Router-weighted Expert Activation Pruning — пришёл из Cerebras Research и был принят на ICLR 2026. В разреженной MoE маршрутизатор отправляет каждый токен горстке экспертов; на реальной нагрузке в одних трафик идёт постоянно, а в других почти никогда. REAP оценивает каждого эксперта по критерию значимости, объединяющему то, насколько сильно его пропускает маршрутизатор, и то, насколько велик его вклад в вывод, а затем прямо удаляет наименее значимых — Cerebras сообщает об отсечении до 50% экспертов у моделей размером вплоть до 1 триллиона параметров при в основном сохранённом базовом качестве и обнаруживает, что для генеративных задач вроде кода отсечение лучше слияния. Затем 3-битное квантование сжимает то, что выжило. Сначала отсечь, потом квантовать — чтобы бюджет битов уходил экспертам, через которых идёт трафик, а не размазывался по мёртвым.

Сжатие не бесплатно, и мы не будем делать вид, что это не так: агрессивное квантование проявляется сначала как небольшая деградация точного соблюдения формата и длинных арифметических цепочек, а не как заметная бессвязность. Где находятся три уровня:

Суффикс	Что это	Где мы это применяем
3BIT-REAP	3-битные веса + отсечение экспертов	Самые крупные основы, где ничто другое не помещается со скоростью
W4A16-AUTOROUND-REAP	4-битные веса / 16-битные активации, обучаемое округление AutoRound, + отсечение	Основы среднего размера; AutoRound возвращает точность по сравнению с наивным округлением к ближайшему
W8A16	8-битные веса / 16-битные активации	Наивысшая точность; основы достаточно малы, чтобы не требовать агрессивного сжатия

Nemotron 3 Ultra на 550B попадает ровно в первую категорию. Если ваша нагрузка необычно чувствительна к точному числовому выводу на длинных цепочках, в исследовательском указателе перечислен уровень W8A16 — MiMo-V2.5-Pro-W8A16 и Hy3-W8A16 — по нижней планке $0.50/$2.00. Это настоящий размен, а не воронка: модель меньше, сжатие слабее.

05Что «без цензуры» означает на этом эндпоинте

Конкретно: здесь нет слоя отказов и нет фильтрации содержимого на выводе. Никакой классификатор не осматривает ваш запрос, чтобы вернуть заготовленный отказ, и ответ не сканируется перед тем, как попасть в ваш поток. Вы получаете собственное поведение модели.

Вот здесь открытая родословная перестаёт быть занятным фактом. Поскольку NVIDIA опубликовала данные постобучения и RL-среды, склонности модели в принципе поддаются аудиту, а не остаются фольклором. А поскольку OpenMDW-1.1 — разрешительная лицензия Linux Foundation, покрывающая архитектуру, параметры, документацию и программное обеспечение, независимый оператор может обслуживать изменённое, нефильтрованное развёртывание на своём железе, и лицензия этому не помешает. Многие «открытые» лицензии на модели такого не разрешают. Эта — разрешает. Разница видна там, где рефлекторный отказ является багом, а не мерой безопасности:

• Исследования безопасности — анализ уязвимостей, разбор эксплойтов, поведение вредоносного ПО, инструментарий red team, без спора о том, разрешён ли вопрос.
• Химия, биология и фармакология — расчёт дозировок, механизмы реакций, токсикология, схемы синтеза, на которых фильтрованный эндпоинт отказывает по одному лишь ключевому слову.
• Состязательное ML — трудные негативные примеры, корпуса джейлбрейков и таксономии злоупотреблений для классификаторов, которым нужно было увидеть настоящее.
• Клинические, юридические и судебно-медицинские тексты — материалы дел, натуралистичные по своей природе и отклоняемые ровно по этой причине.

Без цензуры не значит без ответственности. Вы отвечаете за то, что генерируете, а аккаунт регулируется нашей Политикой ответственного использования и Условиями обслуживания. Снятие слоя отказов убирает догадку о намерении; оно не убирает ваших обязанностей по применимому к вам закону.

06STEM и рассуждение: что говорят опубликованные цифры

Фокус обучения Nemotron — математика, код, наука и следование инструкциям, с тех пор как датасет постобучения Llama-Nemotron был построен ровно вокруг этих четырёх осей. Что NVIDIA сообщает по основе Nemotron 3 Ultra — цифры заявлены вендором на несжатой модели, мы их не прогоняли:

Две оговорки стоят больше самих цифр. Показатель SWE-Bench Verified — это диапазон: NVIDIA сообщает от 65.0% до 70.4% в зависимости от того, какая агентная обвязка его прогоняет (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), и пятипунктовый разброс от одной только обвязки показывает, насколько агентные оценки зависят от лесов, а не от модели. А Artificial Analysis поставила Nemotron 3 Ultra на 48 в своём Intelligence Index, 9-е место из 89 моделей — сильно, но не вершина поля, и именно их независимое измерение мы взвешиваем выше любого вендорского слайда.

По прошлому поколению: статья NVIDIA о Llama-Nemotron сообщает у LN-Ultra 76.0% на GPQA-Diamond против 71.5% у DeepSeek-R1 и 43.4% у Llama-3.1-405B-Instruct, плюс 80.8% на AIME 2024 — это другая модель, приведённая потому, что наука уровня аспирантуры и олимпиадная математика были целью семейства два поколения подряд.

Цифры бенчмарков в том виде, в каком их опубликовала NVIDIA (июнь 2026) по несжатой Nemotron 3 Ultra, и Artificial Analysis — по независимым измерениям. У сжатых сборок результаты могут отличаться. Мы не публикуем цифры бенчмарков, которые не проверяли сами или не можем атрибутировать.

07Цена и оговорка про многословность

При $0.75 за миллион входных токенов и $3.30 за миллион выходных Nemotron3Ultra находится в нижней трети нашего каталога по входу и в середине по выходу. Разобранные примеры, потому что цену за миллион трудно ощутить:

Форма вызова	Вход	Выход	Стоимость
Типичный ход RAG	50,000	4,000	$0.051
Разбор длинного документа	150,000	8,000	$0.139
Вызов максимального размера	262,144	16,384	$0.251

Запрос с полным контекстом и полным выводом — каждый токен, который эндпоинт примет, и каждый, который он произведёт, — стоит около 25 центов. Та же форма на Kimi-K3-3BIT-REAP, нашей самой дорогой модели по $3.83/$19.12, стоит около $1.32, то есть в 5.3 раза дороже.

Теперь оговорка, и она реальна. Artificial Analysis измерила, что Nemotron 3 Ultra генерирует в 2.3 раза больше выходных токенов, чем медианный конкурент, по всему их набору бенчмарков. Рассуждающие модели выставляют счёт и за размышление, а эта размышляет обстоятельно; преимущество в цене за токен испаряется в проигрыш по цене за задачу, если модель рассуждает втрое дольше ради того же ответа. Смягчение встроено и открыто в нашем API: Nemotron 3 прошла постобучение под управление бюджетом рассуждения, и reasoning_effort здесь поддерживается — NVIDIA описывает режим пониженного усилия, который тратит существенно меньше токенов размышления ценой однозначного процента точности. На классификации, извлечении и маршрутизации убавьте его — и экономика заметно меняется; на доказательстве или рефакторинге по нескольким файлам прибавьте и заплатите за это осознанно. Измеряйте собственное число токенов на задачу, а не читайте прайс-лист и предполагайте.

08Как её вызывать: три диалекта, одна модель

Каждая модель на шлюзе отвечает на трёх стриминговых API-поверхностях, так что вы можете направить на неё существующий клиент, не переписывая интеграцию: /v1/chat/completions (диалект OpenAI), /v1/messages (диалект Anthropic) и /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Сводка возможностей, чтобы на интеграции ничего не удивило:

Возможность	Nemotron3Ultra · 3BIT-REAP
Контекстное окно	262 144 токена
Максимум вывода / запрос	16 384 токена
Стриминг	Да
Вызов инструментов	Да
Следы рассуждений	Да
reasoning_effort	Да
json_schema (строгий)	Да
response_format	Да
Зрение / ввод изображений	Нет — только текст
Слой отказов	Отсутствует

На строке про зрение люди спотыкаются: Nemotron3Ultra работает только с текстом. Если ваш конвейер отправляет изображения, берите MiniMax-M3-3BIT-REAP или MiMo-V2.5-W8A16 по $0.50/$2.00 либо Kimi-K2.6-W4A16-AUTOROUND-REAP по $0.78/$3.67 — все умеют зрение, все без цензуры, все на том же контексте в 262 144 токена. Полный справочник по параметрам — в документации API.

09Место Nemotron3Ultra среди двенадцати

Каталог — это двенадцать моделей без цензуры с одинаковым контекстным окном, одинаковыми тремя диалектами и одинаковым отсутствием слоя отказов; различаются они основой, ценой и возможностями. Позиция Nemotron конкретна: рабочая лошадка рассуждения с открытой родословной — не самая дешёвая, не самая мощная, но с самым обширным публичным следом за своим поведением и с наиболее жёсткой настройкой под STEM и агентов.

Модель	Вход / 1M	Выход / 1M	Зрение	Берите её ради
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Да	Самый дешёвый вариант со зрением
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Нет	Самый точный уровень квантования
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Нет	Самое дешёвое рассуждение на крупной основе
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Нет	STEM, агенты, открытая родословная
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Да	Зрение + точность AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Нет	Глубокий разбор с одного захода
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Да	Абсолютный потолок возможностей

Показаны семь из двенадцати. Полный каталог — включая Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 и Hy3 — в документации API. Учтите, что Laguna-S-2.1 не поддерживает структурированный вывод, а inkling не поддерживает json_schema; Nemotron3Ultra поддерживает и то, и другое.

Ближайший сосед по цене — GLM-5.2-3BIT-REAP по $0.73/$2.34, и честное сравнение звучит так: GLM-5.2 дешевле за токен, особенно на выводе. Nemotron приносит опубликованный обучающий корпус, явную ручку бюджета рассуждения и историю семейства, нацеленную на науку уровня аспирантуры. Высокообъёмное общее рассуждение — запускайте ту, что дешевле. Много STEM, агентность или аудит, который спросит, откуда взялось поведение модели, — Nemotron отрабатывает разницу.

10Часто задаваемые вопросы

---

Источники: технический отчёт NVIDIA по Nemotron 3 Ultra · блог для разработчиков NVIDIA (июнь 2026) · заметки об архитектуре Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Бенчмарки основы заявлены NVIDIA на несжатой модели, если не указана атрибуция Artificial Analysis; у сжатых сборок результаты могут отличаться. Цены и возможности актуальны на 5 сентября 2026 года.