API de Nemotron sin censura
El pedigrí investigador de NVIDIA, publicado en abierto y servido sin capa de rechazo: un MoE híbrido Mamba-Atención de 550B afinado para STEM y razonamiento de largo alcance, a $0.75 de entrada / $3.30 de salida por millón de tokens.
Resumen
Nemotron3Ultra-3BIT-REAP es el despliegue sin censura que Shannon hace de NVIDIA Nemotron 3 Ultra: un modelo Mixture-of-Experts de 550 000 millones de parámetros con 55B activos por token, publicado el 4 de junio de 2026 con pesos, datos de entrenamiento y recetas bajo la licencia permisiva OpenMDW-1.1 de la Linux Foundation. En nuestro propio clúster de GPU funciona sin capa de rechazo y sin filtrado de la salida, con 262,144 tokens de contexto, hasta 16,384 tokens de salida por petición, tool calling, streaming, trazas de razonamiento y salida estricta con json_schema. No acepta imágenes. Precio: $0.75 / $3.30 por 1M de tokens.
La mayoría de los modelos «abiertos» son pesos abiertos y poco más: un tarball de parámetros, una licencia y silencio sobre de dónde salieron las cifras. Nemotron lleva dos años siendo la excepción constante: NVIDIA publica los pesos, los conjuntos de datos de posentrenamiento, los entornos de RL y la receta. Eso importa para un endpoint sin censura de una forma que es fácil pasar por alto. Un modelo cuyos datos de alineamiento están publicados es un modelo cuyo comportamiento de rechazo puedes razonar en lugar de adivinar, y uno que un tercero puede desplegar legítimamente sin un filtro de contenido atornillado a la boca.
01¿Qué es Nemotron 3 Ultra?
Nemotron 3 Ultra es el miembro más grande de la familia Nemotron 3 de NVIDIA, publicado en Hugging Face el 4 de junio de 2026. El informe técnico de NVIDIA lo describe como «un modelo de lenguaje Mixture-of-Experts híbrido Mamba-Atención de 550 000 millones de parámetros totales y 55 000 millones activos»: aproximadamente un 10% de la red trabaja en un token dado, que es lo que hace viable servir un modelo de medio billón de parámetros.
La disposición reportada son 108 capas con dimensión de modelo 8,192, intercalando capas de espacio de estados Mamba-2 con un conjunto disperso de capas de atención completa, y 512 expertos por capa MoE con enrutado top-22. El preentrenamiento corrió sobre unos 20 billones de tokens de texto en dos fases —primero sesgada a la diversidad, luego a la calidad— con corte en septiembre de 2025, 12 lenguas naturales y 43 lenguajes de programación. El posentrenamiento usó SFT, RL multientorno con recompensas verificables y destilación on-policy con múltiples maestros a partir de más de diez maestros especialistas. El objetivo de diseño declarado son los agentes de larga duración: sesiones que sostienen un contexto grande, llaman a herramientas decenas de veces y duran lo suficiente como para que la economía por token domine la factura.
02El linaje Nemotron y por qué importa el pedigrí
Nemotron no es un caso aislado. Es el resultado visible de un programa de investigación de NVIDIA que avanza en la misma dirección desde 2024, y cada generación dejó algo que el modelo actual todavía lleva encima. Nemotron-4 340B (junio de 2024) llegó con una tubería abierta de generación de datos sintéticos, su modelo de recompensa y su generador, además de una revelación poco habitual: la inmensa mayoría de sus datos de alineamiento fueron generados por el propio modelo. El modelo como fábrica de datos en lugar de oráculo es la razón por la que las publicaciones posteriores de Nemotron siguen incluyendo conjuntos de datos junto a los pesos.
Llama-Nemotron: razonamiento que puedes apagar
La familia Llama-Nemotron de 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) aportó dos ideas que han envejecido bien. La primera fue arquitectónica: la búsqueda de arquitecturas neuronales Puzzle de NVIDIA construyó una biblioteca de bloques transformer destilados por bloques y los ensambló con programación entera mixta, produciendo modelos en los que algunos bloques se saltan la atención por completo o la sustituyen por una única capa lineal, mientras que FFN Fusion colapsaba bloques feed-forward consecutivos en menos bloques, más anchos y paralelos, recortando profundidad secuencial en lugar de número de parámetros. LN-Ultra cabía en un solo nodo de 8×H100 y, según el artículo de NVIDIA, superaba a DeepSeek-R1 en GPQA-Diamond (76.0% frente a 71.5%).
La segunda fue de comportamiento: Llama-Nemotron fue la primera familia abierta con un interruptor dinámico de razonamiento, etiquetando los datos de entrenamiento con detailed thinking on o detailed thinking off en la instrucción de sistema, con recompensas de formato que imponían etiquetas <think> en el modo activado. Un solo conjunto de pesos, dos comportamientos, seleccionables en tiempo de inferencia. El control del presupuesto de razonamiento de Nemotron 3 —y el parámetro reasoning_effort de nuestra API— desciende directamente de ese trabajo.
Nemotron 3: el giro híbrido
Nemotron 3 sustituyó la derivación de Llama por una arquitectura híbrida hecha desde cero y añadió LatentMoE (comprimir los tokens antes del enrutado, lo que según NVIDIA permite «4 veces más expertos con el mismo coste de inferencia»), predicción multitoken y preentrenamiento nativo en NVFP4. NVIDIA publicó junto a los pesos un acumulado de 50 millones de muestras de SFT, 2 millones de tareas de RL y 55 entornos de RL: no tienes que fiarte de la palabra del proveedor sobre lo que se le enseñó al modelo, porque el material didáctico es descargable.
03Qué te da la arquitectura híbrida
La caché KV de un transformer crece linealmente con la longitud de la secuencia, que es la razón por la que la inferencia de contexto largo se vuelve cara en memoria antes que en cómputo. Las capas Mamba-2 son modelos de espacio de estados que llevan un estado recurrente de tamaño fijo, así que su coste de memoria por token no crece con el historial; lo que se les da mal es el recuerdo asociativo preciso. El híbrido conserva Mamba-2 para el grueso del procesamiento de la secuencia más una minoría de capas de atención real para el recuerdo que las capas de espacio de estados no logran, con una relación agresiva de 64 cabezas de consulta / 2 cabezas KV que encoge todavía más la caché. NVIDIA reporta un 94.7% en RULER con 1M de tokens, un benchmark de recuperación de aguja en pajar diseñado para cazar modelos que anuncian una ventana que no pueden usar.
La consecuencia es el rendimiento: NVIDIA afirma hasta unas 6× más de throughput de inferencia que modelos comparables con precisión a la par, y Artificial Analysis midió de forma independiente 140.3 tokens por segundo con un tiempo hasta el primer token de 1.33 segundos: puesto 7 de 89 modelos. En una ejecución de agente de 200 turnos, eso es la diferencia entre terminar por la tarde y no terminar.
04Qué significa «3BIT-REAP», con honestidad
El sufijo no es decoración: te dice exactamente qué se le hizo a la base para que cupiera.
REAP —Router-weighted Expert Activation Pruning— viene de Cerebras Research y fue aceptado en ICLR 2026. En un MoE disperso, el enrutador envía cada token a un puñado de expertos; sobre una carga de trabajo real, algunos reciben tráfico constantemente y otros casi nunca. REAP puntúa cada experto con un criterio de relevancia que combina con qué fuerza lo activa el enrutador y qué tan grandes son sus contribuciones a la salida, y luego elimina directamente los menos relevantes: Cerebras reporta la poda de hasta un 50% de los expertos en modelos de hasta 1 billón de parámetros preservando en gran medida la calidad base, y observa que para tareas generativas como el código la poda supera a la fusión. La cuantización a 3 bits comprime después lo que sobrevive. Primero podar, luego cuantizar, para que el presupuesto de bits vaya a los expertos que soportan tráfico en lugar de repartirse entre expertos muertos.
La compresión no es gratis, y no vamos a fingir lo contrario: la cuantización agresiva aparece primero como pequeñas degradaciones en el cumplimiento exacto de formatos y en la aritmética de cadena larga, no como incoherencia visible. Dónde caen los tres niveles:
| Sufijo | Qué es | Dónde lo usamos |
|---|---|---|
| 3BIT-REAP | Pesos de 3 bits + poda de expertos | Las bases más grandes, donde nada más cabe con velocidad |
| W4A16-AUTOROUND-REAP | Pesos de 4 bits / activaciones de 16 bits, redondeo aprendido AutoRound, + poda | Bases de tamaño medio; AutoRound recupera precisión frente al redondeo ingenuo al más cercano |
| W8A16 | Pesos de 8 bits / activaciones de 16 bits | Máxima fidelidad; bases lo bastante pequeñas como para no necesitar compresión agresiva |
Nemotron 3 Ultra, con 550B, está de lleno en la primera categoría. Si tu carga de trabajo es especialmente sensible a la salida numérica exacta en cadenas largas, el índice de investigación lista el nivel W8A16 —MiMo-V2.5-Pro-W8A16 y Hy3-W8A16— en el suelo de $0.50/$2.00. Un intercambio real, no un embudo: modelo más pequeño, menos compresión.
05Qué significa «sin censura» en este endpoint
En concreto: no hay capa de rechazo ni filtrado de contenido aplicado a la salida. Ningún clasificador inspecciona tu prompt para devolver una negativa enlatada, y la respuesta no se escanea antes de llegar a tu stream. Lo que obtienes es el comportamiento propio del modelo.
Aquí es donde el linaje abierto deja de ser una curiosidad. Como NVIDIA publicó los datos de posentrenamiento y los entornos de RL, las disposiciones del modelo son auditables en principio, no folclore. Y como OpenMDW-1.1 es una licencia permisiva de la Linux Foundation que cubre arquitectura, parámetros, documentación y software, un operador independiente puede servir un despliegue modificado y sin filtros en su propio hardware sin que la licencia sea el obstáculo. Muchas licencias de modelos «abiertos» no lo permiten. Esta sí. La diferencia se nota donde el rechazo reflejo es un fallo, no una función de seguridad:
- Investigación de seguridad: análisis de vulnerabilidades, razonamiento sobre exploits, comportamiento de malware, utillaje de red team, sin discutir si la pregunta está permitida.
- Química, biología y farmacología: cálculo de dosis, mecanismos de reacción, toxicología, rutas de síntesis que un endpoint filtrado rechaza al contacto con una palabra clave.
- ML adversario: negativos difíciles, corpus de jailbreak y taxonomías de abuso para clasificadores que necesitan haber visto lo real.
- Texto clínico, jurídico y forense: material de casos que es gráfico por naturaleza y que se rechaza precisamente por eso.
Sin censura no significa sin responsabilidad. Tú eres dueño de lo que generas, y nuestra Política de Uso Responsable y nuestros Términos de Servicio rigen la cuenta. Quitar una capa de rechazo elimina una conjetura sobre tus intenciones; no elimina tus obligaciones bajo la ley que te aplica.
06STEM y razonamiento: qué dicen las cifras publicadas
El foco de entrenamiento de Nemotron han sido las matemáticas, el código, la ciencia y el seguimiento de instrucciones desde que el conjunto de datos de posentrenamiento de Llama-Nemotron se construyó exactamente en torno a esos cuatro ejes. Lo que NVIDIA reporta para la base Nemotron 3 Ultra —cifras del proveedor sobre el modelo sin comprimir, que nosotros no ejecutamos—:
Dos matices que valen más que las cifras. El dato de SWE-Bench Verified es un rango: NVIDIA reporta entre 65.0% y 70.4% según qué arnés de agente lo ejecute (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), y una horquilla de cinco puntos por el andamiaje solo demuestra cuánto dependen las puntuaciones agénticas del arnés y no del modelo. Y Artificial Analysis situó a Nemotron 3 Ultra en 48 en su Intelligence Index, puesto 9 de 89 modelos: fuerte, no en la cima del campo, y su medición independiente es la que nosotros pondríamos por delante de la diapositiva de cualquier proveedor.
Sobre la generación anterior, el artículo de Llama-Nemotron de NVIDIA reporta LN-Ultra con un 76.0% en GPQA-Diamond frente al 71.5% de DeepSeek-R1 y al 43.4% de Llama-3.1-405B-Instruct, además de un 80.8% en AIME 2024: un modelo distinto, incluido porque la ciencia de nivel de posgrado y las matemáticas de competición llevan dos generaciones siendo el objetivo de la familia.
Cada cifra de aquí la publica alguien que no somos nosotros. Comprueba tú mismo las fuentes primarias.
Cifras de benchmark tal como las publica NVIDIA (junio de 2026) sobre el Nemotron 3 Ultra sin comprimir, y Artificial Analysis para las mediciones independientes. Las compilaciones comprimidas pueden diferir. No publicamos cifras de benchmark que no hayamos verificado o que no podamos atribuir.
07Precio, y la advertencia sobre la verbosidad
A $0.75 por millón de tokens de entrada y $3.30 por millón de tokens de salida, Nemotron3Ultra se sitúa en el tercio bajo de nuestro catálogo en entrada y en la mitad en salida. Ejemplos trabajados, porque el precio por millón cuesta de intuir:
| Forma de la llamada | Entrada | Salida | Coste |
|---|---|---|---|
| Turno RAG típico | 50,000 | 4,000 | $0.051 |
| Análisis de documento largo | 150,000 | 8,000 | $0.139 |
| Llamada de tamaño máximo | 262,144 | 16,384 | $0.251 |
Una petición de contexto completo y salida completa —todos los tokens que el endpoint aceptará y todos los que producirá— cuesta unos 25 centavos. La misma forma en Kimi-K3-3BIT-REAP, nuestro modelo más caro a $3.83/$19.12, cuesta unos $1.32, es decir, 5.3× más.
Ahora la advertencia, y es real. Artificial Analysis midió que Nemotron 3 Ultra genera 2.3× más tokens de salida que la mediana de sus pares en toda su batería de benchmarks. Los modelos de razonamiento te facturan el pensamiento, y este piensa largo; una ventaja de precio por token se evapora en una desventaja por tarea si el modelo razona tres veces más para llegar a la misma respuesta. La mitigación viene incorporada y expuesta en nuestra API: Nemotron 3 fue posentrenado para el control del presupuesto de razonamiento, y aquí se admite reasoning_effort; NVIDIA describe un modo de menor esfuerzo que usa sustancialmente menos tokens de pensamiento a cambio de una pérdida de precisión de un solo dígito. En clasificación, extracción y enrutado, bájalo y la economía cambia de forma material; en una demostración o una refactorización multiarchivo, súbelo y paga deliberadamente por ello. Mide tus propios tokens por tarea en lugar de leer la lista de precios y dar cosas por supuestas.
08Cómo llamarlo: tres dialectos, un modelo
Todos los modelos de la pasarela responden en tres superficies de API con streaming, así que puedes apuntar un cliente existente hacia él sin reescribir tu integración: /v1/chat/completions (dialecto OpenAI), /v1/messages (dialecto Anthropic) y /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'Resumen de capacidades, para que nada te sorprenda al integrar:
| Capacidad | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Ventana de contexto | 262,144 tokens |
| Salida máxima / petición | 16,384 tokens |
| Streaming | Sí |
| Tool calling | Sí |
| Trazas de razonamiento | Sí |
reasoning_effort | Sí |
json_schema (estricto) | Sí |
response_format | Sí |
| Visión / entrada de imagen | No — solo texto |
| Capa de rechazo | Ninguna |
La fila de visión pilla a mucha gente: Nemotron3Ultra es solo de texto. Si tu tubería envía imágenes, usa MiniMax-M3-3BIT-REAP o MiMo-V2.5-W8A16 a $0.50/$2.00, o Kimi-K2.6-W4A16-AUTOROUND-REAP a $0.78/$3.67: todos con visión, todos sin censura, todos sobre el mismo contexto de 262,144 tokens. La referencia completa de parámetros está en la documentación de la API.
09Dónde encaja Nemotron3Ultra entre los doce
El catálogo son doce modelos sin censura que comparten la misma ventana de contexto, los mismos tres dialectos y la misma ausencia de capa de rechazo; se diferencian en base, precio y capacidades. La posición de Nemotron es específica: el caballo de batalla del razonamiento de linaje abierto. No el más barato ni el más capaz, sino aquel con el rastro documental público más extenso detrás de su comportamiento, afinado con más fuerza hacia STEM y los agentes.
| Modelo | Entrada / 1M | Salida / 1M | Visión | Elígelo para |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Sí | La opción con visión más barata |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | No | El nivel de cuantización de mayor fidelidad |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | No | El razonamiento de base grande más barato |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | No | STEM, agentes, linaje abierto |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | Sí | Visión + fidelidad AutoRound |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | No | Análisis profundo de una sola pasada |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Sí | El techo absoluto de capacidad |
Se muestran siete de doce. El catálogo completo —incluidos Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 y Hy3— está en la documentación de la API. Ten en cuenta que Laguna-S-2.1 no admite salida estructurada e inkling no admite json_schema; Nemotron3Ultra admite ambas.
El vecino más cercano por precio es GLM-5.2-3BIT-REAP a $0.73/$2.34, y la comparación honesta es esta: GLM-5.2 es más barato por token, sobre todo en salida. Nemotron aporta un corpus de entrenamiento publicado, un dial explícito de presupuesto de razonamiento y una historia familiar apuntada a la ciencia de nivel de posgrado. Razonamiento general de alto volumen: usa el más barato. Cargas intensivas en STEM, agénticas o sujetas a una auditoría que pregunte de dónde viene el comportamiento del modelo: Nemotron se gana la diferencia.
10Preguntas frecuentes
¿Qué es la API de Nemotron sin censura?
Es el endpoint alojado de Shannon AI para Nemotron3Ultra 3BIT-REAP, una compilación comprimida del Nemotron 3 Ultra de pesos abiertos de NVIDIA. Corre en nuestro propio clúster de GPU sin capa de rechazo y sin filtrado de la salida, expone 262,144 tokens de contexto y 16,384 tokens de salida por petición, y cuesta $0.75 por millón de tokens de entrada y $3.30 por millón de tokens de salida.
¿Nemotron de NVIDIA es realmente de pesos abiertos?
Sí. NVIDIA publicó Nemotron 3 Ultra el 4 de junio de 2026 con pesos, datos de entrenamiento y recetas bajo la licencia permisiva OpenMDW-1.1 de la Linux Foundation, siguiendo a Nemotron-4 340B y a la familia Llama-Nemotron. Esa apertura es lo que hace posible un despliegue independiente y sin filtros.
¿Qué significa 3BIT-REAP?
Dos pasos de compresión. REAP —Router-weighted Expert Activation Pruning, de Cerebras Research y aceptado en ICLR 2026— puntúa cada experto de la mezcla de expertos según con qué fuerza lo activa el enrutador y qué tan grandes son sus contribuciones a la salida, y luego elimina directamente los menos relevantes. Los supervivientes se cuantizan a pesos de 3 bits, de modo que el presupuesto de bits se gasta en los expertos que de verdad soportan tráfico.
¿Nemotron3Ultra admite visión o salida con esquema JSON?
Imágenes no: este endpoint es solo de texto. Sí admite salida estructurada estricta —tanto json_schema como response_format— además de tool calling, streaming, trazas de razonamiento y reasoning_effort. Para imágenes en un modelo sin censura, usa MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 o inkling.
¿Por qué el contexto es de 262,144 tokens si NVIDIA anuncia 1M?
La arquitectura Nemotron 3 apunta a una ventana de 1M de tokens y NVIDIA reporta un 94.7% en RULER a esa longitud. Nuestro despliegue sirve 262,144 tokens, la ventana que mantenemos a plena velocidad en todo el catálogo. Todos los modelos de la pasarela exponen el mismo contexto, así que puedes cambiar de identificador de modelo sin reescribir tu troceado.
¿Nemotron es bueno para matemáticas, ciencia y código?
STEM y razonamiento son el foco declarado de la familia. NVIDIA reporta un 90% en PinchBench, entre 65.0 y 70.4% en SWE-Bench Verified con cinco arneses de agente y un 56.4% en Terminal-Bench 2.1 para Nemotron 3 Ultra; el anterior Llama-Nemotron Ultra reportó un 76.0% en GPQA-Diamond frente al 71.5% de DeepSeek-R1. Todas son cifras del proveedor sobre la base sin comprimir.
Llama a la API de Nemotron sin censura
262K de contexto, tool calling, esquema JSON estricto, sin capa de rechazo — $0.75 de entrada / $3.30 de salida por 1M de tokens.
Leer la documentación de la API Todas las fichas de modeloShannon Lab LLC · Nuevo México, EE. UU. · uso regido por nuestra Política de Uso Responsable
Fuentes: informe técnico de NVIDIA Nemotron 3 Ultra · blog para desarrolladores de NVIDIA (junio de 2026) · notas de arquitectura de Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Los benchmarks de la base son cifras reportadas por NVIDIA sobre el modelo sin comprimir salvo que se atribuyan a Artificial Analysis; las compilaciones comprimidas pueden diferir. Precios y capacidades vigentes a 5 de septiembre de 2026.