API de Nemotron sen censura

A maioría dos modelos "abertos" son pesos abertos e nada máis — un arquivo de parámetros, unha licenza e silencio sobre a procedencia das cifras. Nemotron leva dous anos sendo a excepción constante: NVIDIA distribúe os pesos, os conxuntos de datos de post-adestramento, os contornos de aprendizaxe por reforzo e a receita. Iso importa para un endpoint sen censura dun xeito fácil de pasar por alto. Un modelo cuxos datos de aliñamento están publicados é un modelo sobre cuxo comportamento de negativa podes razoar en vez de adiviñar — e un que un terceiro pode despregar lexitimamente sen un filtro de contido atornillado á boca.

01Que é Nemotron 3 Ultra?

Nemotron 3 Ultra é o membro máis grande da familia Nemotron 3 de NVIDIA, publicado en Hugging Face o 4 de xuño de 2026. O informe técnico de NVIDIA descríbeo como "un modelo de linguaxe Mestura de Expertos híbrido Mamba-Atención de 550 mil millóns de parámetros totais e 55 mil millóns activos" — arredor do 10% da rede traballa en cada token dado, que é o que fai que un modelo de medio billón de parámetros sexa servible sequera.

O esquema publicado son 108 capas con dimensión de modelo 8,192, intercalando capas de espazo de estados Mamba-2 cun conxunto disperso de capas de atención completa, e 512 expertos por capa MoE con enrutamento top-22. O preadestramento correu sobre arredor de 20 billóns de tokens de texto en dúas fases — primeiro sesgada á diversidade, despois á calidade — cun corte en setembro de 2025, 12 linguas naturais e 43 linguaxes de programación. O post-adestramento usou axuste fino supervisado, aprendizaxe por reforzo multicontorno con recompensas verificables e destilación en política con múltiples mestres a partir de máis de dez mestres especialistas. O obxectivo de deseño declarado son os axentes de longa duración: sesións que manteñen un contexto grande, chaman ferramentas ducias de veces e duran o bastante como para que a economía por token domine a factura.

02A liñaxe Nemotron, e por que importa a traxectoria

Nemotron non é un caso illado. É a saída visible dun programa de investigación de NVIDIA que vai na mesma dirección desde 2024, e cada xeración deixou algo que o modelo actual aínda leva consigo. Nemotron-4 340B (xuño de 2024) publicouse cunha canalización aberta de xeración de datos sintéticos, o seu modelo de recompensa e o seu xerador, máis unha revelación pouco habitual: a inmensa maioría dos seus datos de aliñamento foran xerados por modelos. Ese uso do modelo como fábrica de datos e non como oráculo é a razón pola que as publicacións posteriores de Nemotron seguen distribuíndo conxuntos de datos xunto cos pesos.

Llama-Nemotron — razoamento que podes apagar

A familia Llama-Nemotron de 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) achegou dúas ideas que envelleceron ben. A primeira era arquitectónica: a busca de arquitecturas neuronais Puzzle de NVIDIA construíu unha biblioteca de bloques de transformer destilados por bloques e montounos con programación enteira mixta, producindo modelos nos que algúns bloques saltan a atención por completo ou a substitúen por unha única capa lineal, mentres que a fusión de FFN colapsaba bloques feed-forward consecutivos noutros menos numerosos, máis anchos e paralelos — recortando profundidade secuencial e non número de parámetros. LN-Ultra cabía nun só nodo de 8×H100 e, segundo o artigo de NVIDIA, superaba a DeepSeek-R1 en GPQA-Diamond (76.0% fronte a 71.5%).

A segunda era de comportamento: Llama-Nemotron foi a primeira familia aberta cun interruptor dinámico de razoamento, etiquetando os datos de adestramento con detailed thinking on ou detailed thinking off na instrución de sistema, con recompensas de formato que esixían etiquetas <think> no modo activado. Un só conxunto de pesos, dous comportamentos, seleccionables no momento da inferencia. O control do orzamento de razoamento de Nemotron 3 — e o parámetro reasoning_effort da nosa API — descende directamente dese traballo.

Nemotron 3 — o xiro híbrido

Nemotron 3 substituíu a derivación de Llama por unha arquitectura híbrida feita desde cero e engadiu LatentMoE (comprimir os tokens antes de enrutalos, o que segundo NVIDIA permite "catro veces máis expertos polo mesmo custo de inferencia"), predición multitoken e preadestramento nativo en NVFP4. NVIDIA publicou un acumulado de 50 millóns de mostras de axuste fino supervisado, 2 millóns de tarefas de aprendizaxe por reforzo e 55 contornos de reforzo xunto cos pesos — non tes que fiarte da palabra dun provedor sobre o que se lle ensinou ao modelo, porque o material didáctico é descargable.

03Que che dá a arquitectura híbrida

A caché KV dun transformer medra linealmente coa lonxitude da secuencia, e por iso a inferencia con contexto longo faise cara en memoria antes ca en cómputo. As capas Mamba-2 son modelos de espazo de estados que levan un estado recorrente de tamaño fixo, así que o seu custo de memoria por token non medra co historial; o que se lles dá mal é a recuperación asociativa precisa. O híbrido conserva Mamba-2 para o groso do procesamento da secuencia máis unha minoría de capas de atención real para esa recuperación na que tropezan as capas de espazo de estados, cunha proporción agresiva de 64 cabezas de consulta por 2 cabezas KV que encolle aínda máis a caché. NVIDIA informa dun 94.7% en RULER con 1M de tokens — un benchmark de busca de agulla deseñado para pillar modelos que anuncian unha xanela que non poden usar.

A consecuencia é o rendemento: NVIDIA afirma ata arredor de 6× máis rendemento de inferencia ca modelos comparables con precisión equivalente, e Artificial Analysis mediu de forma independente 140.3 tokens por segundo cun tempo ata o primeiro token de 1.33 segundos — o 7º de 89 modelos. Nunha execución de axente de 200 quendas iso é a diferenza entre rematar nunha tarde e non rematar.

04Que significa "3BIT-REAP", con honestidade

O sufixo non é decoración — dicheche exactamente o que se lle fixo á base para que collese.

REAP — Router-weighted Expert Activation Pruning — vén de Cerebras Research e foi aceptado en ICLR 2026. Nunha MoE dispersa o enrutador manda cada token a un puñado de expertos; sobre unha carga de traballo real algúns recíbense constantemente e outros case nunca. REAP puntúa cada experto cun criterio de saliencia que combina a forza con que o enrutador o activa e o tamaño das súas contribucións á saída, e despois elimina de vez os menos salientables — Cerebras informa de podar ata o 50% dos expertos en modelos de ata 1 billón de parámetros preservando en boa medida a calidade de referencia, e descobre que en tarefas xerativas como o código a poda gaña á fusión. A cuantización a 3 bits comprime despois o que sobrevive. Podar primeiro e cuantizar despois, para que o orzamento de bits vaia aos expertos que levan tráfico en vez de esparexerse sobre outros mortos.

A compresión non é de balde, e non imos finxir o contrario: a cuantización agresiva aparece primeiro como pequenas degradacións no cumprimento do formato exacto e na aritmética de cadea longa, e non como incoherencia visible. Onde queda cada un dos tres niveis:

Sufixo	Que é	Onde o usamos
3BIT-REAP	Pesos de 3 bits + poda de expertos	As bases máis grandes, onde non cabe nada máis con velocidade
W4A16-AUTOROUND-REAP	Pesos de 4 bits / activacións de 16 bits, redondeo aprendido AutoRound, + poda	Bases de tamaño medio; AutoRound recupera precisión fronte ao redondeo inxenuo ao máis próximo
W8A16	Pesos de 8 bits / activacións de 16 bits	Máxima fidelidade; bases abondo pequenas como para non precisar compresión agresiva

Nemotron 3 Ultra, con 550B, cae de cheo na primeira categoría. Se a túa carga de traballo é excepcionalmente sensible á saída numérica exacta ao longo de cadeas longas, o índice de investigación lista o nivel W8A16 — MiMo-V2.5-Pro-W8A16 e Hy3-W8A16 — no chan de $0.50/$2.00. Un intercambio real, non un embude: modelo máis pequeno, menos compresión.

05Que significa "sen censura" neste endpoint

En concreto: non hai capa de negativas nin filtrado de contido aplicado á saída. Ningún clasificador inspecciona o teu prompt para devolver unha negativa enlatada, e a resposta non se escanea antes de chegar ao teu fluxo. O que recibes é o comportamento propio do modelo.

Aquí é onde a liñaxe aberta deixa de ser anécdota. Como NVIDIA publicou os datos de post-adestramento e os contornos de reforzo, as disposicións do modelo son auditables en principio en vez de folclore. E como OpenMDW-1.1 é unha licenza permisiva da Linux Foundation que cobre arquitectura, parámetros, documentación e software, un operador independente pode servir un despregamento modificado e sen filtrar no seu propio hardware sen que a licenza sexa o obstáculo. Moitas licenzas de modelos "abertos" non o permiten. Esta si. A diferenza nótase alí onde a negativa reflexa é un fallo e non unha medida de seguridade:

• Investigación en seguridade — análise de vulnerabilidades, razoamento sobre exploits, comportamento de malware, ferramentas de red team, sen discutir se a pregunta está permitida.
• Química, bioloxía e farmacoloxía — cálculo de dosificacións, mecanismos de reacción, toxicoloxía, rutas de síntese que un endpoint filtrado rexeita ao contacto cunha palabra clave.
• Aprendizaxe automática adversarial — negativos difíciles, corpus de jailbreak e taxonomías de abuso para clasificadores que precisan ter visto o material real.
• Texto clínico, xurídico e forense — material de casos que é gráfico por natureza e que se rexeita por esa mesma razón.

Sen censura non significa sen responsabilidade. Ti es dono do que xeras, e a nosa Política de Uso Responsable e as Condicións do Servizo rexen a conta. Quitar unha capa de negativas quita unha suposición sobre a intención; non quita as túas obrigas ante a lei que che sexa aplicable.

06STEM e razoamento: que din as cifras publicadas

O foco de adestramento de Nemotron foron as matemáticas, o código, a ciencia e o seguimento de instrucións desde que o conxunto de datos de post-adestramento de Llama-Nemotron se construíu arredor deses catro eixes. Isto é o que NVIDIA informa para a base Nemotron 3 Ultra — cifras informadas polo provedor sobre o modelo sen comprimir, que nós non executamos:

Dúas advertencias valen máis ca as cifras. O dato de SWE-Bench Verified é un rango — NVIDIA informa do 65.0% ao 70.4% segundo que andamiaxe de axente o execute (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), e unha forquita de cinco puntos só polo andamio amosa canto dependen as puntuacións de axentes do arnés e non do modelo. E Artificial Analysis situou a Nemotron 3 Ultra en 48 no seu Intelligence Index, o 9º de 89 modelos — forte, pero non na cabeza do campo, e a súa medición independente é a que nós pesariamos por riba da diapositiva de calquera provedor.

Sobre a xeración anterior, o artigo de Llama-Nemotron de NVIDIA informa dun 76.0% en GPQA-Diamond para LN-Ultra fronte ao 71.5% de DeepSeek-R1 e ao 43.4% de Llama-3.1-405B-Instruct, máis un 80.8% en AIME 2024 — outro modelo distinto, incluído porque a ciencia de nivel de posgrao e as matemáticas de competición levan dúas xeracións sendo o obxectivo da familia.

Cifras de benchmark tal e como as publica NVIDIA (xuño de 2026) sobre o Nemotron 3 Ultra sen comprimir, e Artificial Analysis para as medicións independentes. As compilacións comprimidas poden diferir. Non publicamos cifras de benchmark que non verificásemos ou que non poidamos atribuír.

07O prezo, e a advertencia sobre a verbosidade

Con $0.75 por millón de tokens de entrada e $3.30 por millón de tokens de saída, Nemotron3Ultra sitúase no terzo inferior do noso catálogo na entrada e no medio na saída. Exemplos traballados, porque o prezo por millón custa de captar:

Forma da chamada	Entrada	Saída	Custo
Quenda RAG típica	50,000	4,000	$0.051
Análise dun documento longo	150,000	8,000	$0.139
Chamada de tamaño máximo	262,144	16,384	$0.251

Unha petición con contexto completo e saída completa — todos os tokens que o endpoint acepta e todos os que producirá — custa arredor de 25 céntimos. A mesma forma en Kimi-K3-3BIT-REAP, o noso modelo máis caro con $3.83/$19.12, custa arredor de $1.32, ou 5.3× máis.

Agora a advertencia, e é real. Artificial Analysis mediu que Nemotron 3 Ultra xera 2.3× máis tokens de saída ca a mediana dos seus pares ao longo do seu conxunto de benchmarks. Os modelos de razoamento factúranche o pensamento, e este pensa longo; unha vantaxe no prezo por token evapórase nunha desvantaxe por tarefa se o modelo razoa o triplo de tempo para chegar á mesma resposta. A mitigación vén incorporada e exposta na nosa API: Nemotron 3 post-adestrouse para o control do orzamento de razoamento, e aquí admítese reasoning_effort — NVIDIA describe un modo de menor esforzo que usa moitos menos tokens de pensamento a cambio dunha perda de precisión dun só díxito. En clasificación, extracción e enrutamento, báixao e a economía cambia de forma material; nunha demostración ou nunha refactorización de varios ficheiros, súbeo e paga por iso deliberadamente. Mide os teus propios tokens por tarefa en vez de ler a lista de prezos e dar por feito.

08Como chamalo: tres dialectos, un modelo

Todos os modelos da pasarela responden en tres superficies de API con streaming, así que podes apuntar un cliente existente cara a el sen reescribir a túa integración: /v1/chat/completions (dialecto de OpenAI), /v1/messages (dialecto de Anthropic) e /v1/responses.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

Resumo de capacidades, para que nada che sorprenda no momento de integrar:

Capacidade	Nemotron3Ultra · 3BIT-REAP
Xanela de contexto	262,144 tokens
Saída máxima / petición	16,384 tokens
Streaming	Si
Chamada de ferramentas	Si
Trazas de razoamento	Si
reasoning_effort	Si
json_schema (estrito)	Si
response_format	Si
Visión / entrada de imaxe	Non — só texto
Capa de negativas	Ningunha

A fila da visión pilla a moita xente: Nemotron3Ultra é só de texto. Se a túa canalización envía imaxes, usa MiniMax-M3-3BIT-REAP ou MiMo-V2.5-W8A16 a $0.50/$2.00, ou Kimi-K2.6-W4A16-AUTOROUND-REAP a $0.78/$3.67 — todos con visión, todos sen censura, todos co mesmo contexto de 262,144 tokens. A referencia completa de parámetros está na documentación da API.

09Onde encaixa Nemotron3Ultra entre os doce

O catálogo son doce modelos sen censura que comparten a mesma xanela de contexto, os mesmos tres dialectos e a mesma ausencia de capa de negativas; difiren na base, no prezo e nas capacidades. A posición de Nemotron é concreta: o cabalo de batalla do razoamento de liñaxe aberta — nin o máis barato nin o máis capaz, senón o que ten o rastro documental máis público detrás do seu comportamento, e o máis axustado cara ás STEM e aos axentes.

Modelo	Entrada / 1M	Saída / 1M	Visión	Escóllelo para
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	Si	A opción con visión máis barata
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	Non	O nivel de cuantización de maior fidelidade
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	Non	O razoamento de base grande máis barato
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	Non	STEM, axentes, liñaxe aberta
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	Si	Visión + fidelidade AutoRound
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	Non	Análise profunda dun só disparo
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	Si	O teito absoluto de capacidade

Amósanse sete de doce. O catálogo completo — incluíndo Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 e Hy3 — está na documentación da API. Ten en conta que Laguna-S-2.1 non admite saída estruturada e que inkling non admite json_schema; Nemotron3Ultra admite ambas as dúas.

O veciño máis próximo por prezo é GLM-5.2-3BIT-REAP a $0.73/$2.34, e a comparación honesta é esta: GLM-5.2 é máis barato por token, sobre todo na saída. Nemotron trae un corpus de adestramento publicado, un mando explícito de orzamento de razoamento e unha historia familiar apuntada á ciencia de nivel de posgrao. Razoamento xeral de alto volume: executa o máis barato. Traballo intensivo en STEM, con axentes, ou suxeito a unha auditoría que pregunte de onde vén o comportamento do modelo: Nemotron gaña a diferenza.

10Preguntas frecuentes

---

Fontes: informe técnico de NVIDIA Nemotron 3 Ultra · blog de desenvolvemento de NVIDIA (xuño de 2026) · notas de arquitectura de Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Os benchmarks da base están informados por NVIDIA sobre o modelo sen comprimir salvo que se atribúan a Artificial Analysis; as compilacións comprimidas poden diferir. Os prezos e as capacidades están vixentes a 5 de setembro de 2026.