సెన్సార్ లేని Nemotron API
NVIDIA పరిశోధనా వారసత్వం, బహిరంగంగా ప్రచురించబడింది, తిరస్కరణ పొర లేకుండా అందించబడుతుంది: STEM మరియు దీర్ఘ-పరిధి తర్కం కోసం సర్దుబాటు చేసిన 550B హైబ్రిడ్ Mamba-Attention MoE — మిలియన్ టోకెన్లకు $0.75 ఇన్ / $3.30 అవుట్.
క్లుప్తంగా
Nemotron3Ultra-3BIT-REAP అనేది NVIDIA Nemotron 3 Ultraకు Shannon సెన్సార్ లేని మోహరింపు — ఒక్కో టోకెన్కు 55B క్రియాశీలంతో 550-బిలియన్-పారామీటర్ల నిపుణుల-మిశ్రమ మోడల్, జూన్ 4, 2026న Linux Foundation ఉదార OpenMDW-1.1 లైసెన్స్ కింద వెయిట్లు, శిక్షణ డేటా మరియు వంటకాలతో విడుదలైంది. మా స్వంత GPU క్లస్టర్పై ఇది తిరస్కరణ పొర లేకుండా మరియు అవుట్పుట్ ఫిల్టరింగ్ లేకుండా, 262,144-టోకెన్ సందర్భంతో, ఒక్కో అభ్యర్థనకు 16,384 అవుట్పుట్ టోకెన్ల వరకూ, టూల్ కాలింగ్, స్ట్రీమింగ్, తర్క జాడలు మరియు కఠినమైన json_schema అవుట్పుట్తో నడుస్తుంది. ఇది చిత్రాలను స్వీకరించదు. ధర: 1M టోకెన్లకు $0.75 / $3.30.
చాలా "ఓపెన్" మోడల్లు ఓపెన్ వెయిట్లు మాత్రమే, ఇంకేమీ కాదు — పారామీటర్ల ఒక టార్బాల్, ఒక లైసెన్స్, మరియు ఆ సంఖ్యలు ఎక్కడి నుండి వచ్చాయో మౌనం. రెండు సంవత్సరాలుగా Nemotron నిలకడైన మినహాయింపు: NVIDIA వెయిట్లను, పోస్ట్-ట్రైనింగ్ డేటాసెట్లను, RL పరిసరాలను మరియు వంటకాన్ని పంపుతుంది. సులభంగా మిస్ అయ్యే ఒక విధంగా అది సెన్సార్ లేని ఎండ్పాయింట్కు ముఖ్యం. సమలేఖన డేటా ప్రచురించబడిన మోడల్ అంటే, దాని తిరస్కరణ ప్రవర్తనను మీరు ఊహించే బదులు తర్కించగలిగే మోడల్ — మరియు నోటికి బిగించిన కంటెంట్ ఫిల్టర్ లేకుండా ఒక మూడో పక్షం చట్టబద్ధంగా మోహరించగలిగే మోడల్.
01Nemotron 3 Ultra అంటే ఏమిటి?
Nemotron 3 Ultra అనేది NVIDIA Nemotron 3 కుటుంబంలో అతిపెద్ద సభ్యుడు, జూన్ 4, 2026న Hugging Faceకు విడుదలైంది. NVIDIA సాంకేతిక నివేదిక దాన్ని "550 బిలియన్ మొత్తం మరియు 55 బిలియన్ క్రియాశీల పారామీటర్ల నిపుణుల-మిశ్రమ హైబ్రిడ్ Mamba-Attention భాషా మోడల్"గా వర్ణిస్తుంది — ఏదైనా ఇచ్చిన టోకెన్పై నెట్వర్క్లో సుమారు 10% పని చేస్తుంది, అదే ఒక అర-ట్రిలియన్-పారామీటర్ల మోడల్ను అసలు అందించడాన్ని సాధ్యం చేస్తుంది.
నివేదించిన నిర్మాణం మోడల్ పరిమాణం 8,192 వద్ద 108 పొరలు, Mamba-2 స్థితి-స్థల పొరలను విరళమైన పూర్తి అటెన్షన్ పొరల సమూహంతో పెనవేస్తూ, టాప్-22 రూటింగ్తో ఒక్కో MoE పొరకు 512 నిపుణులు. ప్రీట్రైనింగ్ సుమారు 20 ట్రిలియన్ టెక్స్ట్ టోకెన్లపై రెండు దశలలో నడిచింది — ముందు వైవిధ్య-పక్షపాతం, ఆపై నాణ్యత-పక్షపాతం — సెప్టెంబర్ 2025 కటాఫ్తో, 12 సహజ భాషలు మరియు 43 ప్రోగ్రామింగ్ భాషలతో. పోస్ట్-ట్రైనింగ్ SFT, ధృవీకరించదగిన బహుమతులతో బహుళ-పరిసర RL, మరియు పది కంటే ఎక్కువ నిపుణ ఉపాధ్యాయుల మధ్య Multi-Teacher On-Policy Distillationను వాడింది. పేర్కొన్న రూపకల్పన లక్ష్యం దీర్ఘకాలం నడిచే ఏజెంట్లు: పెద్ద సందర్భాన్ని పట్టుకుని, డజన్ల కొద్దీ సార్లు టూల్స్ను పిలిచి, ఒక్కో-టోకెన్ ఆర్థికాంశాలే బిల్లును శాసించేంత సేపు నడిచే సెషన్లు.
02Nemotron వంశం, మరియు ఆ వారసత్వం ఎందుకు ముఖ్యం
Nemotron ఒక్కసారి జరిగిన సంఘటన కాదు. ఇది 2024 నుండి అదే దిశలో నడుస్తున్న ఒక NVIDIA పరిశోధనా కార్యక్రమపు కనిపించే ఫలితం, మరియు ప్రతి తరమూ ప్రస్తుత మోడల్ ఇంకా మోస్తున్న ఏదో ఒకటి వదిలివెళ్ళింది. Nemotron-4 340B (జూన్ 2024) ఒక బహిరంగ కృత్రిమ డేటా ఉత్పత్తి పైప్లైన్తో, దాని బహుమతి మోడల్ మరియు దాని జనరేటర్తో పాటు ఒక అసాధారణ వెల్లడితో వచ్చింది: దాని సమలేఖన డేటాలో అత్యధిక భాగం మోడల్-ఉత్పత్తి చేసినది. ఒక దైవజ్ఞుడిగా కాక ఒక డేటా కర్మాగారంగా మోడల్ — అందుకే తర్వాతి Nemotron విడుదలలు వెయిట్లతో పాటు డేటాసెట్లను పంపుతూనే ఉంటాయి.
Llama-Nemotron — ఆపివేయగలిగే తర్కం
2025 Llama-Nemotron కుటుంబం (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) బాగా నిలిచిన రెండు ఆలోచనలను అందించింది. మొదటిది నిర్మాణపరమైనది: NVIDIA Puzzle న్యూరల్ ఆర్కిటెక్చర్ శోధన బ్లాక్-వారీగా డిస్టిల్ చేసిన ట్రాన్స్ఫార్మర్ బ్లాకుల గ్రంథాలయాన్ని నిర్మించి, వాటిని మిశ్రమ-పూర్ణాంక ప్రోగ్రామింగ్తో కూర్చింది, ఫలితంగా కొన్ని బ్లాకులు అటెన్షన్ను పూర్తిగా దాటవేసే లేదా దాన్ని ఒక్క రేఖీయ పొరతో భర్తీ చేసే మోడల్లు వచ్చాయి, అదే సమయంలో FFN Fusion వరుస ఫీడ్-ఫార్వర్డ్ బ్లాకులను తక్కువ సంఖ్యలో, వెడల్పైన, సమాంతర బ్లాకులుగా కుదించింది — పారామీటర్ల సంఖ్యను కాక వరుస లోతును తగ్గిస్తూ. NVIDIA పత్రం ప్రకారం, LN-Ultra ఒక్క 8×H100 నోడ్పై ఇమిడి GPQA-Diamondపై DeepSeek-R1ను అధిగమించింది (76.0% vs 71.5%).
రెండోది ప్రవర్తనాపరమైనది: డైనమిక్ తర్క టాగుల్ ఉన్న మొదటి ఓపెన్ కుటుంబం Llama-Nemotron, సిస్టమ్ సూచనలో శిక్షణ డేటాకు detailed thinking on లేదా detailed thinking off అని ట్యాగ్ చేస్తూ, ఆన్-మోడ్లో <think> ట్యాగులను ఫార్మాట్ బహుమతులు అమలు చేస్తూ. ఒకే వెయిట్ల సమూహం, రెండు ప్రవర్తనలు, ఇన్ఫరెన్స్ సమయంలో ఎంపిక చేయదగినవి. Nemotron 3 తర్క బడ్జెట్ నియంత్రణ — మరియు మా APIలోని reasoning_effort పారామీటర్ — నేరుగా ఆ పని నుండి వచ్చినవే.
Nemotron 3 — హైబ్రిడ్ మలుపు
Nemotron 3 Llama ఉత్పన్నాన్ని మొదటి నుండి కట్టిన హైబ్రిడ్ ఆర్కిటెక్చర్తో భర్తీ చేసి, LatentMoE (రూటింగ్కు ముందు టోకెన్లను కుదించడం, ఇది "అదే ఇన్ఫరెన్స్ ఖర్చుకు 4x ఎక్కువ నిపుణులను" అనుమతిస్తుందని NVIDIA చెబుతుంది), బహుళ-టోకెన్ అంచనా, మరియు స్థానిక NVFP4 ప్రీట్రైనింగ్ను జోడించింది. NVIDIA వెయిట్లతో పాటు మొత్తం 50 మిలియన్ SFT నమూనాలను, 2 మిలియన్ RL పనులను మరియు 55 RL పరిసరాలను ప్రచురించింది — మోడల్కు ఏమి నేర్పారో ఒక విక్రేత మాటపై మీరు ఆధారపడనవసరం లేదు, ఎందుకంటే బోధనా సామగ్రి డౌన్లోడ్ చేయదగినది.
03హైబ్రిడ్ ఆర్కిటెక్చర్ మీకు ఏమి కొనిపెడుతుంది
ఒక ట్రాన్స్ఫార్మర్ KV కాష్ శ్రేణి పొడవుతో రేఖీయంగా పెరుగుతుంది, అందుకే దీర్ఘ-సందర్భ ఇన్ఫరెన్స్ గణన కంటే ముందు మెమరీలో ఖరీదవుతుంది. Mamba-2 పొరలు స్థిర-పరిమాణ పునరావృత స్థితిని మోసే స్థితి-స్థల మోడల్లు, కాబట్టి వాటి ఒక్కో-టోకెన్ మెమరీ ఖర్చు చరిత్రతో పెరగదు; అవి బలహీనమైనది కచ్చితమైన అనుబంధ జ్ఞాపకంలో. ఈ హైబ్రిడ్ శ్రేణి ప్రాసెసింగ్లో అధిక భాగానికి Mamba-2ను ఉంచుతుంది, పాటు స్థితి-స్థల పొరలు తడబడే జ్ఞాపకం కోసం కొద్ది సంఖ్యలో నిజమైన అటెన్షన్ పొరలను, మరియు దూకుడైన 64-ప్రశ్న-తల / 2-KV-తల నిష్పత్తి కాష్ను మరింత కుదిస్తుంది. NVIDIA 1M టోకెన్ల వద్ద RULERపై 94.7% నివేదిస్తుంది — వాడలేని విండోను ప్రకటించే మోడల్లను పట్టుకోవడానికి నిర్మించిన సూది-వెలికితీత బెంచ్మార్క్.
పర్యవసానం నిర్గమాంశం: సమానమైన కచ్చితత్వం వద్ద పోల్చదగిన మోడల్ల కంటే సుమారు 6× ఎక్కువ ఇన్ఫరెన్స్ నిర్గమాంశం ఉందని NVIDIA వాదిస్తుంది, మరియు Artificial Analysis స్వతంత్రంగా 1.33-సెకన్ల మొదటి-టోకెన్-సమయంతో సెకనుకు 140.3 టోకెన్లు కొలిచింది — 89 మోడల్లలో 7వది. 200-మలుపుల ఏజెంట్ పరుగుపై అది మధ్యాహ్నానికి పూర్తి చేయడానికి మరియు అసలు పూర్తి చేయకపోవడానికి మధ్య తేడా.
04"3BIT-REAP" అంటే ఏమిటి, నిజాయితీగా
ఈ ప్రత్యయం అలంకారం కాదు — పునాదిని ఇమిడేలా చేయడానికి దానికి కచ్చితంగా ఏమి చేశారో అది మీకు చెబుతుంది.
REAP — Router-weighted Expert Activation Pruning — Cerebras Research నుండి వచ్చింది మరియు ICLR 2026కి ఆమోదించబడింది. ఒక విరళ MoEలో రౌటర్ ప్రతి టోకెన్ను కొద్దిమంది నిపుణులకు పంపుతుంది; ఒక వాస్తవ పనిభారంలో కొందరు నిరంతరం తాకబడతారు మరియు మరికొందరు దాదాపు ఎప్పుడూ తాకబడరు. REAP రౌటర్ ఒక నిపుణుడిని ఎంత బలంగా గేట్ చేస్తుందో మరియు అతని అవుట్పుట్ దోహదాలు ఎంత పెద్దవో అనేవాటిని కలిపే ఒక ప్రాముఖ్యతా ప్రమాణంపై ప్రతి నిపుణుడినీ స్కోర్ చేస్తుంది, ఆపై అత్యల్ప ప్రాముఖ్యత గలవారిని పూర్తిగా తొలగిస్తుంది — 1 ట్రిలియన్ పారామీటర్ల వరకూ పెద్ద మోడల్ల నుండి 50% వరకూ నిపుణులను కత్తిరించినా ప్రామాణిక నాణ్యత ఎక్కువగా నిలబడుతుందని Cerebras నివేదిస్తుంది, మరియు కోడ్ వంటి ఉత్పాదక పనులకు కత్తిరింపు విలీనాన్ని ఓడిస్తుందని కనుగొంటుంది. ఆపై 3-బిట్ క్వాంటైజేషన్ బతికినదాన్ని కుదిస్తుంది. ముందు కత్తిరించు, తర్వాత క్వాంటైజ్ చేయి — తద్వారా బిట్ బడ్జెట్ చనిపోయిన నిపుణులపై పులమబడకుండా ట్రాఫిక్ మోసే నిపుణులకు వెళ్తుంది.
కుదింపు ఉచితం కాదు, మరియు మేము వేరేలా నటించము: దూకుడు క్వాంటైజేషన్ ముందుగా కనిపించేది కచ్చితమైన-ఫార్మాట్ అనుసరణలో మరియు పొడవైన-గొలుసు గణితంలో చిన్న క్షీణతలుగా, కనిపించే అసంబద్ధతగా కాదు. మూడు శ్రేణులు ఎక్కడ పడతాయో:
| ప్రత్యయం | అది ఏమిటి | మేము దాన్ని ఎక్కడ వాడతాము |
|---|---|---|
| 3BIT-REAP | 3-బిట్ వెయిట్లు + నిపుణుల కత్తిరింపు | అతిపెద్ద పునాదులు, అక్కడ వేగంతో వేరే ఏదీ ఇమడదు |
| W4A16-AUTOROUND-REAP | 4-బిట్ వెయిట్లు / 16-బిట్ యాక్టివేషన్లు, AutoRound నేర్చుకున్న రౌండింగ్, + కత్తిరింపు | మధ్య-పరిమాణ పునాదులు; AutoRound అమాయక దగ్గరి-సంఖ్యకు-రౌండ్ కంటే కచ్చితత్వాన్ని తిరిగి పొందుతుంది |
| W8A16 | 8-బిట్ వెయిట్లు / 16-బిట్ యాక్టివేషన్లు | అత్యధిక విశ్వసనీయత; దూకుడు కుదింపు అవసరం లేనంత చిన్న పునాదులు |
550B వద్ద Nemotron 3 Ultra స్పష్టంగా మొదటి వర్గంలోకి వస్తుంది. మీ పనిభారం పొడవైన గొలుసుల మీద కచ్చితమైన సంఖ్యా అవుట్పుట్కు అసాధారణంగా సున్నితమైతే, పరిశోధన సూచిక W8A16 శ్రేణిని — MiMo-V2.5-Pro-W8A16 మరియు Hy3-W8A16 — $0.50/$2.00 అట్టడుగు వద్ద జాబితా చేస్తుంది. ఇది ఒక నిజమైన రాజీ, ఒక ఫన్నెల్ కాదు: చిన్న మోడల్, తక్కువ కుదింపు.
05ఈ ఎండ్పాయింట్పై "సెన్సార్ లేనిది" అంటే ఏమిటి
స్పష్టంగా: తిరస్కరణ పొర లేదు మరియు అవుట్పుట్పై కంటెంట్ ఫిల్టరింగ్ వర్తించదు. ఏ వర్గీకరణీ మీ ప్రాంప్ట్ను పరిశీలించి ఒక సిద్ధమైన నిరాకరణను తిరిగి ఇవ్వదు, మరియు ప్రతిస్పందన మీ స్ట్రీమ్ను చేరుకోకముందు స్కాన్ చేయబడదు. మీకు లభించేది మోడల్ సొంత ప్రవర్తనే.
ఇక్కడే బహిరంగ వంశం చిల్లర సమాచారంగా మిగలడం ఆగిపోతుంది. NVIDIA పోస్ట్-ట్రైనింగ్ డేటాను మరియు RL పరిసరాలను ప్రచురించినందున, మోడల్ స్వభావాలు జానపద కథలు కాక సూత్రప్రాయంగా తనిఖీ చేయదగినవి. మరియు OpenMDW-1.1 అనేది ఆర్కిటెక్చర్, పారామీటర్లు, డాక్యుమెంటేషన్ మరియు సాఫ్ట్వేర్ను కవర్ చేసే ఒక ఉదార Linux Foundation లైసెన్స్ కాబట్టి, ఒక స్వతంత్ర నిర్వాహకుడు లైసెన్స్ అడ్డంకి కాకుండా తన సొంత హార్డ్వేర్పై ఒక సవరించిన, ఫిల్టర్ చేయని మోహరింపును అందించగలడు. చాలా "ఓపెన్" మోడల్ లైసెన్సులు దాన్ని అనుమతించవు. ఇది అనుమతిస్తుంది. ప్రతిస్పందనాత్మక తిరస్కరణ ఒక భద్రతా లక్షణం కాక ఒక బగ్ అయిన చోట ఆ తేడా కనిపిస్తుంది:
- భద్రతా పరిశోధన — దుర్బలత్వ విశ్లేషణ, ఎక్స్ప్లాయిట్ తర్కం, మాల్వేర్ ప్రవర్తన, రెడ్-టీమ్ సాధనాలు, ఆ ప్రశ్న అనుమతించబడిందా అని వాదించకుండా.
- రసాయన శాస్త్రం, జీవశాస్త్రం మరియు ఔషధ శాస్త్రం — మోతాదు గణితం, చర్యా యంత్రాంగాలు, విష శాస్త్రం, ఒక ఫిల్టర్ చేసిన ఎండ్పాయింట్ కీలకపదం తగలగానే తిరస్కరించే సంశ్లేషణ మార్గాలు.
- ప్రతికూల ML — నిజమైన దాన్ని చూసి ఉండాల్సిన వర్గీకరణుల కోసం కఠిన ప్రతికూలాలు, జైల్బ్రేక్ కార్పస్లు మరియు దుర్వినియోగ వర్గీకరణ శాస్త్రాలు.
- వైద్య, న్యాయ మరియు ఫోరెన్సిక్ టెక్స్ట్ — స్వభావతః పచ్చిగా ఉండే మరియు సరిగ్గా అదే కారణంగా తిరస్కరించబడే కేసు సామగ్రి.
సెన్సార్ లేనిది అంటే జవాబుదారీతనం లేనిది కాదు. మీరు ఉత్పత్తి చేసేది మీదే, మరియు మా బాధ్యతాయుత వినియోగ విధానం మరియు సేవా నిబంధనలు ఖాతాను నియంత్రిస్తాయి. తిరస్కరణ పొరను తొలగించడం ఉద్దేశం గురించిన ఒక ఊహను తొలగిస్తుంది; మీకు వర్తించే చట్టం కింద మీ బాధ్యతలను అది తొలగించదు.
06STEM మరియు తర్కం: ప్రచురించిన సంఖ్యలు ఏమి చెబుతున్నాయి
Llama-Nemotron పోస్ట్-ట్రైనింగ్ డేటాసెట్ సరిగ్గా ఆ నాలుగు అక్షాల చుట్టూ నిర్మించబడినప్పటి నుండి Nemotron శిక్షణా దృష్టి గణితం, కోడ్, విజ్ఞానం మరియు సూచనలు పాటించడం. Nemotron 3 Ultra పునాది కోసం NVIDIA నివేదించేవి — కుదించని మోడల్పై విక్రేత నివేదించిన గణాంకాలు, వీటిని మేము నడపలేదు:
ఆ సంఖ్యల కంటే ఎక్కువ విలువైన రెండు హెచ్చరికలు. SWE-Bench Verified గణాంకం ఒక శ్రేణి — ఏ ఏజెంట్ హార్నెస్ దాన్ని నడుపుతుందో బట్టి (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent) NVIDIA 65.0% నుండి 70.4% వరకూ నివేదిస్తుంది, మరియు కేవలం స్కాఫోల్డింగ్ నుండే వచ్చే ఐదు-పాయింట్ల విస్తరణ ఏజెంటిక్ స్కోర్లు మోడల్ కంటే హార్నెస్పై ఎంత ఆధారపడతాయో చూపుతుంది. మరియు Artificial Analysis Nemotron 3 Ultraను తన ఇంటెలిజెన్స్ ఇండెక్స్పై 48 వద్ద, 89 మోడల్లలో 9వ స్థానంలో ఉంచింది — బలమైనది, రంగంలో అగ్రస్థానం కాదు, మరియు ఏ విక్రేత స్లయిడ్ కంటే వారి స్వతంత్ర కొలతకే మేము ఎక్కువ బరువు ఇస్తాము.
అంతకుముందు తరంపై, NVIDIA Llama-Nemotron పత్రం LN-Ultraను DeepSeek-R1 71.5% మరియు Llama-3.1-405B-Instruct 43.4%తో పోలిస్తే GPQA-Diamondపై 76.0% వద్ద నివేదిస్తుంది, పాటు AIME 2024పై 80.8% — ఇది వేరే మోడల్, రెండు తరాలుగా పట్టభద్ర-స్థాయి విజ్ఞానం మరియు పోటీ గణితమే ఈ కుటుంబ లక్ష్యం కావడం వల్ల చేర్చబడింది.
ఇక్కడి ప్రతి గణాంకమూ మేము కాక వేరొకరు ప్రచురించినది. ప్రాథమిక మూలాలను మీరే తనిఖీ చేయండి.
కుదించని Nemotron 3 Ultraపై NVIDIA (జూన్ 2026) ప్రచురించిన బెంచ్మార్క్ గణాంకాలు, మరియు స్వతంత్ర కొలతల కోసం Artificial Analysis ప్రచురించినవి. కుదించిన బిల్డ్లు భిన్నంగా ఉండవచ్చు. మేము ధృవీకరించని లేదా ఆపాదించలేని బెంచ్మార్క్ సంఖ్యలను మేము ప్రచురించము.
07ధర, మరియు పదాధిక్యత హెచ్చరిక
మిలియన్ ఇన్పుట్ టోకెన్లకు $0.75 మరియు మిలియన్ అవుట్పుట్ టోకెన్లకు $3.30 వద్ద, Nemotron3Ultra మా శ్రేణిలో ఇన్పుట్పై కింది మూడో వంతులో మరియు అవుట్పుట్పై మధ్యలో కూర్చుంటుంది. ఆచరణాత్మక ఉదాహరణలు, ఎందుకంటే ఒక్కో-మిలియన్ ధరను అనుభవించడం కష్టం:
| కాల్ ఆకారం | ఇన్పుట్ | అవుట్పుట్ | ఖర్చు |
|---|---|---|---|
| సాధారణ RAG మలుపు | 50,000 | 4,000 | $0.051 |
| పొడవైన పత్ర విశ్లేషణ | 150,000 | 8,000 | $0.139 |
| గరిష్ఠ-పరిమాణ కాల్ | 262,144 | 16,384 | $0.251 |
ఒక పూర్తి-సందర్భ, పూర్తి-అవుట్పుట్ అభ్యర్థన — ఎండ్పాయింట్ స్వీకరించే ప్రతి టోకెన్ మరియు అది ఉత్పత్తి చేసే ప్రతి టోకెన్ — సుమారు 25 సెంట్లు ఖర్చవుతుంది. $3.83/$19.12 వద్ద మా అత్యంత ఖరీదైన మోడల్ Kimi-K3-3BIT-REAPపై అదే ఆకారం సుమారు $1.32, అంటే 5.3× ఎక్కువ.
ఇప్పుడు హెచ్చరిక, మరియు అది నిజమైనది. Artificial Analysis తమ బెంచ్మార్క్ సమూహం అంతటా Nemotron 3 Ultra మధ్యస్థ సహచరుడి కంటే 2.3× ఎక్కువ అవుట్పుట్ టోకెన్లను ఉత్పత్తి చేస్తున్నట్టు కొలిచింది. తర్క మోడల్లు ఆలోచనకూ మీకు బిల్ చేస్తాయి, మరియు ఇది సుదీర్ఘంగా ఆలోచిస్తుంది; అదే సమాధానానికి చేరుకోవడానికి మోడల్ మూడు రెట్లు ఎక్కువసేపు తర్కిస్తే ఒక్కో-టోకెన్ ధర ఆధిక్యం ఒక్కో-పని ప్రతికూలతగా ఆవిరైపోతుంది. ఉపశమనం లోపలే నిర్మించబడింది మరియు మా APIలో బహిర్గతం చేయబడింది: Nemotron 3 తర్క బడ్జెట్ నియంత్రణ కోసం పోస్ట్-ట్రైన్ చేయబడింది, మరియు ఇక్కడ reasoning_effortకు మద్దతు ఉంది — ఒక అంకె స్థాయి కచ్చితత్వ రాజీకి గణనీయంగా తక్కువ ఆలోచనా టోకెన్లను వాడే తక్కువ-ప్రయత్న మోడ్ను NVIDIA వర్ణిస్తుంది. వర్గీకరణ, వెలికితీత మరియు రూటింగ్పై దాన్ని తగ్గించండి, ఆర్థికాంశాలు గణనీయంగా మారతాయి; ఒక నిరూపణ లేదా బహుళ-ఫైల్ రీఫ్యాక్టర్పై దాన్ని పెంచి, ఉద్దేశపూర్వకంగా చెల్లించండి. ధరల జాబితా చదివి అనుకోవడం కంటే మీ సొంత ఒక్కో-పని-టోకెన్లను కొలవండి.
08దాన్ని పిలవడం: మూడు మాండలికాలు, ఒకే మోడల్
గేట్వేలోని ప్రతి మోడలూ మూడు స్ట్రీమింగ్ API ఉపరితలాలపై సమాధానమిస్తుంది, కాబట్టి మీ ఇంటిగ్రేషన్ను తిరగరాయకుండా ఒక ప్రస్తుత క్లయింట్ను దాని వైపు చూపవచ్చు: /v1/chat/completions (OpenAI మాండలికం), /v1/messages (Anthropic మాండలికం), మరియు /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'
సామర్థ్య సారాంశం, తద్వారా ఇంటిగ్రేషన్ సమయంలో ఏదీ మిమ్మల్ని ఆశ్చర్యపరచదు:
| సామర్థ్యం | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| సందర్భ విండో | 262,144 టోకెన్లు |
| ఒక్కో అభ్యర్థనకు గరిష్ఠ అవుట్పుట్ | 16,384 టోకెన్లు |
| స్ట్రీమింగ్ | ఉంది |
| టూల్ కాలింగ్ | ఉంది |
| తర్క జాడలు | ఉంది |
reasoning_effort | ఉంది |
json_schema (కఠినం) | ఉంది |
response_format | ఉంది |
| విజన్ / చిత్ర ఇన్పుట్ | లేదు — కేవలం టెక్స్ట్ |
| తిరస్కరణ పొర | ఏదీ లేదు |
విజన్ వరుస ప్రజలను పట్టుకుంటుంది: Nemotron3Ultra కేవలం టెక్స్ట్ మాత్రమే. మీ పైప్లైన్ చిత్రాలను పంపితే, $0.50/$2.00 వద్ద MiniMax-M3-3BIT-REAP లేదా MiMo-V2.5-W8A16, లేదా $0.78/$3.67 వద్ద Kimi-K2.6-W4A16-AUTOROUND-REAP వాడండి — అన్నీ విజన్-సామర్థ్యం గలవి, అన్నీ సెన్సార్ లేనివి, అన్నీ అదే 262,144-టోకెన్ సందర్భంపై. పూర్తి పారామీటర్ల సూచన API డాక్యుమెంటేషన్లో ఉంది.
09పన్నెండింటిలో Nemotron3Ultra ఎక్కడ ఇమిడుతుంది
ఈ శ్రేణి అంటే ఒకే సందర్భ విండోను, అవే మూడు మాండలికాలను మరియు తిరస్కరణ పొర లేకపోవడాన్ని పంచుకునే పన్నెండు సెన్సార్ లేని మోడల్లు; అవి పునాదిలో, ధరలో మరియు సామర్థ్యంలో భిన్నంగా ఉంటాయి. Nemotron స్థానం నిర్దిష్టమైనది: ఓపెన్-వంశ తర్క పనిగుర్రం — అత్యంత చౌక కాదు, అత్యంత సమర్థవంతమైనది కాదు, కానీ తన ప్రవర్తన వెనుక అత్యధిక బహిరంగ పత్ర జాడ ఉన్నది, STEM మరియు ఏజెంట్ల వైపు అత్యంత గట్టిగా సర్దుబాటు చేయబడినది.
| మోడల్ | ఇన్ / 1M | అవుట్ / 1M | విజన్ | దీని కోసం ఎంచుకోండి |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | ఉంది | అత్యంత చౌక విజన్-సామర్థ్య ఎంపిక |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | లేదు | అత్యధిక-విశ్వసనీయత క్వాంటైజేషన్ శ్రేణి |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | లేదు | అత్యంత చౌక పెద్ద-పునాది తర్కం |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | లేదు | STEM, ఏజెంట్లు, ఓపెన్ వంశం |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | ఉంది | విజన్ + AutoRound విశ్వసనీయత |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | లేదు | లోతైన ఒక్క-షాట్ విశ్లేషణ |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | ఉంది | పరమ సామర్థ్య గరిష్ఠ స్థాయి |
పన్నెండింటిలో ఏడు చూపబడ్డాయి. పూర్తి శ్రేణి — Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 మరియు Hy3తో సహా — API డాక్స్లో ఉంది. Laguna-S-2.1 నిర్మాణాత్మక అవుట్పుట్కు మద్దతు ఇవ్వదని మరియు inkling json_schemaకు మద్దతు ఇవ్వదని గమనించండి; Nemotron3Ultra రెంటికీ మద్దతు ఇస్తుంది.
ధర ప్రకారం అత్యంత దగ్గరి పొరుగువాడు $0.73/$2.34 వద్ద GLM-5.2-3BIT-REAP, మరియు నిజాయితీ గల పోలిక ఇది: GLM-5.2 ఒక్కో టోకెన్కు చౌక, ముఖ్యంగా అవుట్పుట్పై. Nemotron ఒక ప్రచురిత శిక్షణా కార్పస్ను, ఒక స్పష్టమైన తర్క-బడ్జెట్ మీటను, మరియు పట్టభద్ర-స్థాయి విజ్ఞానాన్ని లక్ష్యంగా చేసుకున్న కుటుంబ చరిత్రను తెస్తుంది. అధిక-పరిమాణ సాధారణ తర్కం: చౌక దాన్ని నడపండి. STEM-భారమైనది, ఏజెంటిక్, లేదా మోడల్ ప్రవర్తన ఎక్కడి నుండి వచ్చిందని అడిగే ఆడిట్కు లోబడినది: Nemotron ఆ తేడాను సంపాదిస్తుంది.
10తరచుగా అడిగే ప్రశ్నలు
సెన్సార్ లేని Nemotron API అంటే ఏమిటి?
ఇది NVIDIA ఓపెన్-వెయిట్స్ Nemotron 3 Ultra కుదించిన బిల్డ్ అయిన Nemotron3Ultra 3BIT-REAP కోసం Shannon AI హోస్ట్ చేసిన ఎండ్పాయింట్. ఇది మా స్వంత GPU క్లస్టర్పై తిరస్కరణ పొర లేకుండా మరియు అవుట్పుట్ ఫిల్టరింగ్ లేకుండా నడుస్తుంది, ఒక్కో అభ్యర్థనకు 262,144-టోకెన్ సందర్భాన్ని మరియు 16,384 అవుట్పుట్ టోకెన్లను బహిర్గతం చేస్తుంది, మరియు మిలియన్ ఇన్పుట్ టోకెన్లకు $0.75 మరియు మిలియన్ అవుట్పుట్ టోకెన్లకు $3.30 ఖర్చవుతుంది.
NVIDIA Nemotron నిజంగా ఓపెన్ వెయిట్లేనా?
అవును. Nemotron-4 340B మరియు Llama-Nemotron కుటుంబం తర్వాత, NVIDIA జూన్ 4, 2026న Nemotron 3 Ultraను Linux Foundation ఉదార OpenMDW-1.1 లైసెన్స్ కింద వెయిట్లు, శిక్షణ డేటా మరియు వంటకాలతో ప్రచురించింది. ఆ బహిరంగతే ఒక స్వతంత్రంగా నిర్వహించబడే, ఫిల్టర్ చేయని మోహరింపును సాధ్యం చేస్తుంది.
3BIT-REAP అంటే ఏమిటి?
రెండు కుదింపు దశలు. REAP — Router-weighted Expert Activation Pruning, Cerebras Research నుండి వచ్చి ICLR 2026కి ఆమోదించబడింది — రౌటర్ ఒక్కో నిపుణుడిని ఎంత బలంగా గేట్ చేస్తుందో మరియు అతని అవుట్పుట్ దోహదాలు ఎంత పెద్దవో అనేదాన్ని బట్టి ప్రతి నిపుణుల-మిశ్రమ నిపుణుడినీ స్కోర్ చేస్తుంది, ఆపై అత్యల్ప ప్రాముఖ్యత గలవారిని పూర్తిగా తొలగిస్తుంది. బతికినవి 3-బిట్ వెయిట్లకు క్వాంటైజ్ చేయబడతాయి, కాబట్టి బిట్ బడ్జెట్ నిజంగా ట్రాఫిక్ మోసే నిపుణులపై ఖర్చవుతుంది.
Nemotron3Ultra విజన్కు లేదా JSON స్కీమా అవుట్పుట్కు మద్దతు ఇస్తుందా?
చిత్రాలు లేవు: ఈ ఎండ్పాయింట్ కేవలం టెక్స్ట్ మాత్రమే. ఇది కఠినమైన నిర్మాణాత్మక అవుట్పుట్కు మద్దతు ఇస్తుంది — json_schema మరియు response_format రెండింటికీ — పాటు టూల్ కాలింగ్, స్ట్రీమింగ్, తర్క జాడలు మరియు reasoning_effort. సెన్సార్ లేని మోడల్పై చిత్రాల కోసం, బదులుగా MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 లేదా inkling వాడండి.
NVIDIA 1M అని ప్రకటిస్తుండగా సందర్భం ఎందుకు 262,144 టోకెన్లు?
Nemotron 3 ఆర్కిటెక్చర్ 1M-టోకెన్ విండోను లక్ష్యంగా పెట్టుకుంటుంది మరియు ఆ పొడవు వద్ద RULERపై NVIDIA 94.7% నివేదిస్తుంది. మా మోహరింపు 262,144 టోకెన్లను అందిస్తుంది, మొత్తం శ్రేణి అంతటా మేము పూర్తి వేగంతో పట్టుకునే విండో అదే. గేట్వేలోని ప్రతి మోడలూ ఒకే సందర్భాన్ని బహిర్గతం చేస్తుంది, కాబట్టి మీ చంకింగ్ను తిరగరాయకుండా మోడల్ IDలను మార్చుకోవచ్చు.
గణితం, విజ్ఞానం మరియు కోడ్ కోసం Nemotron మంచిదేనా?
STEM మరియు తర్కమే ఈ కుటుంబం పేర్కొన్న దృష్టి. Nemotron 3 Ultra కోసం NVIDIA PinchBenchపై 90%, ఐదు ఏజెంట్ హార్నెస్ల మధ్య SWE-Bench Verifiedపై 65.0-70.4% మరియు Terminal-Bench 2.1పై 56.4% నివేదిస్తుంది; అంతకుముందు Llama-Nemotron Ultra DeepSeek-R1 71.5%తో పోలిస్తే GPQA-Diamondపై 76.0% నివేదించింది. అన్నీ కుదించని పునాదిపై విక్రేత నివేదించినవే.
సెన్సార్ లేని Nemotron APIని పిలవండి
262K సందర్భం, టూల్ కాలింగ్, కఠినమైన JSON స్కీమా, తిరస్కరణ పొర లేదు — 1M టోకెన్లకు $0.75 ఇన్ / $3.30 అవుట్.
API డాక్స్ చదవండి అన్ని మోడల్ కార్డులుShannon Lab LLC · న్యూ మెక్సికో, USA · వినియోగం మా బాధ్యతాయుత వినియోగ విధానం ద్వారా నియంత్రించబడుతుంది
మూలాలు: NVIDIA Nemotron 3 Ultra సాంకేతిక నివేదిక · NVIDIA డెవలపర్ బ్లాగ్ (జూన్ 2026) · Nemotron 3 Super ఆర్కిటెక్చర్ గమనికలు · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Artificial Analysisకు ఆపాదించనంత వరకూ పునాది బెంచ్మార్క్లు కుదించని మోడల్పై NVIDIA నివేదించినవి; కుదించిన బిల్డ్లు భిన్నంగా ఉండవచ్చు. ధరలు మరియు సామర్థ్యాలు సెప్టెంబర్ 5, 2026 నాటికి ప్రస్తుతమైనవి.