API Nemotron tsy voasivana
Ny lova fikarohana an'ny NVIDIA, navoaka am-pahibemaso, atolotra tsy misy sosona fandavana: MoE hybrid Mamba-Attention 550 miliara parametatra nofehezina ho amin'ny STEM sy ny fisainana maharitra — amin'ny $0.75 miditra / $3.30 mivoaka isaky ny tapitrisa token.
Fintina
Ny Nemotron3Ultra-3BIT-REAP no fametrahana tsy voasivana ataon'ny Shannon amin'ny NVIDIA Nemotron 3 Ultra — modely Mixture-of-Experts 550 miliara parametatra misy 55 miliara mavitrika isaky ny token, navoaka ny 4 Jona 2026 miaraka amin'ny lanja, ny angona fiofanana ary ny recipe ambanin'ny lisansa malalaka OpenMDW-1.1 an'ny Linux Foundation. Eo amin'ny vondrona GPU anay manokana dia mandeha izy tsy misy sosona fandavana ary tsy misy fanivanana output, misy context 262 144 token, hatramin'ny 16 384 token mivoaka isaky ny fangatahana, fiantsoana fitaovana, streaming, dian'ny fisainana ary output json_schema hentitra. Tsy mandray sary izy. Vidiny: $0.75 / $3.30 isaky ny 1M token.
Ny ankamaroan'ny modely "misokatra" dia lanja misokatra fotsiny — tarbolina parametatra, lisansa iray, ary fahanginana momba ny niavian'ny tarehimarika. Roa taona izay no naha-tsy nitovy ny Nemotron: ny NVIDIA dia manolotra ny lanja, ny angona post-training, ny tontolo RL ary ny recipe. Manan-danja amin'ny endpoint tsy voasivana izany amin'ny fomba mora tsy hita. Ny modely izay navoaka ny angona fampifanarahana azy dia modely azonao dinihina fa tsy vinaniana ny fitondran-tenany amin'ny fandavana — ary modely azon'ny antoko fahatelo apetraka ara-dalàna tsy misy sivana votoaty mifatotra amin'ny vavany.
01Inona ny Nemotron 3 Ultra?
Ny Nemotron 3 Ultra no mpikambana lehibe indrindra amin'ny fianakaviana Nemotron 3 an'ny NVIDIA, navoaka tao amin'ny Hugging Face ny 4 Jona 2026. Ny tatitra ara-teknikan'ny NVIDIA dia mamaritra azy ho "modely fiteny Mixture-of-Experts Hybrid Mamba-Attention misy parametatra 550 miliara manontolo sy 55 miliara mavitrika" — 10% eo ho eo amin'ny tambajotra no miasa amin'ny token iray, ary izany no mahatonga ny modely antsasa-tapitrisa arivo parametatra ho azo atolotra mihitsy.
Ny firafitra notaterina dia sosona 108 amin'ny refy modely 8 192, mifandimby sosona state-space Mamba-2 sy vondrona sosona attention feno sparse, 512 manam-pahaizana isaky ny sosona MoE misy routing top-22. Ny fiofanana mialoha dia nandeha tamin'ny 20 tapitrisa arivo token lahatsoratra eo ho eo tao anatin'ny dingana roa — mirona amin'ny fahasamihafana aloha, dia amin'ny kalitao — miaraka amin'ny fetra Septambra 2025, fiteny voajanahary 12 ary fiteny fandaharana 43. Ny post-training dia nampiasa SFT, RL amin'ny tontolo maro misy valisoa azo hamarinina, ary Multi-Teacher On-Policy Distillation nampiasa mpampianatra manam-pahaizana mihoatra ny folo. Ny tanjona famolavolana voalaza dia ny agent maharitra: fivoriana mitazona context lehibe, miantso fitaovana am-polony, ary maharitra ampy hanjakan'ny toe-karena isaky ny token amin'ny faktiora.
02Ny firazanan'ny Nemotron, sy ny antony maha-zava-dehibe ny tantarany
Tsy vokatra indray mandeha ny Nemotron. Izy no vokatra hita maso amin'ny programa fikarohana an'ny NVIDIA izay mandeha amin'io lalana io ihany hatramin'ny 2024, ary ny taranaka tsirairay dia namela zavatra mbola entin'ny modely ankehitriny. Ny Nemotron-4 340B (Jona 2024) dia navoaka niaraka tamin'ny lalan-tsakafo famokarana angona synthetic misokatra, ny modely valisoany sy ny mpamokatra azy, miampy fanambarana tsy mahazatra: ny ankamaroan'ny angona fampifanarahana azy dia noforonin'ny modely. Ny modely ho ozinina angona fa tsy ho mpaminany no antony mbola manolotra angona miaraka amin'ny lanja ny Nemotron taty aoriana.
Llama-Nemotron — fisainana azonao vonoina
Ny fianakaviana Llama-Nemotron 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) dia nanome hevitra roa tsara tohana. Ny voalohany dia ara-drafitra: ny fikarohana firafitra neural Puzzle an'ny NVIDIA dia nanorina tranomboky bloc transformer nozaraina isam-bloc ary nametaka azy ireo tamin'ny fandaharana mixed-integer, namokatra modely misy bloc sasany mandingana tanteraka ny attention na manolo azy amin'ny sosona linear tokana, raha ny FFN Fusion kosa dia nampikatona bloc feed-forward mifanesy ho vitsy kokoa, midadasika kokoa, mifanindran-dalana — manapaka ny halalina misesy fa tsy ny isan'ny parametatra. Nifanaraka tamin'ny node 8×H100 tokana ny LN-Ultra ary, araka ny taratasin'ny NVIDIA, nihoatra ny DeepSeek-R1 tamin'ny GPQA-Diamond (76,0% manoloana ny 71,5%).
Ny faharoa dia ara-pitondran-tena: ny Llama-Nemotron no fianakaviana misokatra voalohany nanana famohana fisainana mihetsika, nanamarika ny angona fiofanana ho detailed thinking on na detailed thinking off ao amin'ny toromarika rafitra, miaraka amin'ny valisoa endrika manery ny marika <think> amin'ny fomba mivoha. Lanja iray, fitondran-tena roa, azo fidina amin'ny fotoanan'ny inference. Ny fifehezana ny teti-bola fisainana an'ny Nemotron 3 — sy ny parametatra reasoning_effort eo amin'ny API-nay — dia avy mivantana amin'io asa io.
Nemotron 3 — ny fiovana mankany amin'ny hybrid
Ny Nemotron 3 dia nanolo ny fandraisana avy amin'ny Llama tamin'ny firafitra hybrid naorina hatrany am-boalohany ary nanampy LatentMoE (fanerena ny token alohan'ny routing, izay lazain'ny NVIDIA fa mamela "manam-pahaizana in-4 mihoatra amin'ny vidin'ny inference mitovy"), fanambarana token maro, ary fiofanana mialoha NVFP4 natoraly. Ny NVIDIA dia namoaka santionany SFT 50 tapitrisa mitambatra, asa RL 2 tapitrisa ary tontolo RL 55 miaraka amin'ny lanja — tsy voatery hino ny tenin'ny mpamatsy ianao momba izay nampianarina ilay modely, satria azo alaina ny fitaovam-pampianarana.
03Izay omen'ny rafitra hybrid anao
Ny KV cache an'ny transformer dia mitombo mifanaraka amin'ny halavan'ny filaharana, ary izany no mahatonga ny inference context lava ho lafo amin'ny fitadidiana alohan'ny kajy. Ny sosona Mamba-2 dia modely state-space mitondra fanjakana recurrent misy habe raikitra, ka tsy mitombo miaraka amin'ny tantara ny vidin'ny fitadidiany isaky ny token; ny tsy ahaizany kosa dia ny fahatsiarovana mifandray marina. Ny hybrid dia mitazona ny Mamba-2 ho an'ny ankamaroan'ny fikarakarana filaharana miampy vitsy an'isa amin'ny sosona attention tena izy ho an'ny fahatsiarovana tsy vitan'ny sosona state-space, miaraka amin'ny tahan'ny 64 query-head / 2 KV-head mahery izay manakely bebe kokoa ny cache. Mitatitra 94,7% amin'ny RULER amin'ny 1M token ny NVIDIA — benchmark fitadiavana fanjaitra natao hisambotra ny modely milaza varavarankely tsy azony ampiasaina.
Ny vokatr'izany dia ny fahafaha-mamokatra: milaza ny NVIDIA fa hatramin'ny in-6 eo ho eo mihoatra ny modely mitovy aminy amin'ny fahamarinana mitovy ny fahafaha-mamokatra amin'ny inference, ary nandrefy tsy miankina ny Artificial Analysis fa 140,3 token isaky ny segondra miaraka amin'ny fotoana 1,33 segondra hahazoana ny token voalohany — faha-7 amin'ny modely 89. Amin'ny fandehanana agent 200 fihodinana dia izany no elanelana eo amin'ny mamita amin'ny tolakandro sy ny tsy mamita.
04Ny tena dikan'ny "3BIT-REAP"
Tsy haingo ny tovana — milaza aminao marina izay natao tamin'ny fototra mba hampifanaraka azy izy.
Ny REAP — Router-weighted Expert Activation Pruning — dia avy amin'ny Cerebras Research ary nekena ho an'ny ICLR 2026. Ao anatin'ny MoE sparse dia mandefa ny token tsirairay any amin'ny manam-pahaizana vitsivitsy ny router; amin'ny asa tena izy dia misy tratra tsy an-kijanona ary misy saika tsy tratra mihitsy. Ny REAP dia manisa ny manam-pahaizana tsirairay amin'ny fepetra saliency mampifangaro ny hamafin'ny fanokafan'ny router azy sy ny halehiben'ny fandraisany anjara amin'ny output, dia manaisotra tanteraka ireo tsy dia manan-danja — mitatitra ny Cerebras fa mahazo manapaka hatramin'ny 50% amin'ny manam-pahaizana amin'ny modely mahatratra 1 tapitrisa arivo parametatra nefa mitazona ny kalitao fototra, ary mahita fa amin'ny asa famokarana toy ny kaody dia mandresy ny fampifangaroana ny fanapahana. Ny quantization 3-bit avy eo dia manery izay tavela. Manapaka aloha, manao quantization aoriana, mba handehanan'ny teti-bola bit any amin'ny manam-pahaizana mitondra fifamoivoizana fa tsy hiparitaka amin'ireo maty.
Tsy maimaim-poana ny fanerena, ary tsy hody fanina izahay: ny quantization mahery dia miseho voalohany amin'ny fihenana kely amin'ny fanarahana endrika marina sy amin'ny aritmetika rojo lava, fa tsy amin'ny tsy fifandraisana hita maso. Indro ny toeran'ny ambaratonga telo:
| Tovana | Inona izy | Ny toerana ampiasanay azy |
|---|---|---|
| 3BIT-REAP | Lanja 3-bit + fanapahana manam-pahaizana | Ny fototra lehibe indrindra, izay tsy misy hafa mifanaraka amin'ny hafainganana |
| W4A16-AUTOROUND-REAP | Lanja 4-bit / fanetsehana 16-bit, fanodinana nianarana AutoRound, + fanapahana | Fototra antonony; mamerina fahamarinana manoloana ny fanodinana tsotra ny AutoRound |
| W8A16 | Lanja 8-bit / fanetsehana 16-bit | Fahatokisana ambony indrindra; fototra kely ampy tsy mila fanerena mahery |
Ao anatin'ny sokajy voalohany tsy misy fisalasalana ny Nemotron 3 Ultra amin'ny 550 miliara. Raha tena mora tohina amin'ny output ara-isa marina amin'ny rojo lava ny asanao, dia mitanisa ny ambaratonga W8A16 ny lisitry ny fikarohana — MiMo-V2.5-Pro-W8A16 sy Hy3-W8A16 — eo amin'ny fetra ambany $0.50/$2.00. Fifanakalozana tena izy, fa tsy fitarihana: modely kely kokoa, fanerena kely kokoa.
05Ny dikan'ny "tsy voasivana" amin'ity endpoint ity
Mazava: tsy misy sosona fandavana ary tsy misy fanivanana votoaty ampiharina amin'ny output. Tsy misy classifier mandinika ny prompt-nao ary mamerina fandavana voaomana, ary tsy dinihina ny valiny alohan'ny hahatongavany amin'ny stream-nao. Izay azonao dia ny fitondran-tenan'ny modely ihany.
Eto no tsy hoe zava-poana intsony ny firazanana misokatra. Satria namoaka ny angona post-training sy ny tontolo RL ny NVIDIA, dia azo dinihina ara-pitsipika fa tsy angano ny fironan'ny modely. Ary satria ny OpenMDW-1.1 dia lisansa malalaka an'ny Linux Foundation mandrakotra ny firafitra, ny parametatra, ny antontan-taratasy ary ny rindrambaiko, dia afaka manolotra fametrahana novaina, tsy voasivana, eo amin'ny fitaovany manokana ny mpandraharaha mahaleo tena tsy misy ny lisansa ho sakana. Betsaka ny lisansan'ny modely "misokatra" tsy mamela izany. Ity kosa mamela. Miseho ny fahasamihafana amin'ny toerana maha-bug fa tsy maha-fiarovana ny fandavana mandeha ho azy:
- Fikarohana momba ny fiarovana — famakafakana faharefoana, fisainana momba ny exploit, fitondran-tenan'ny malware, fitaovana red-team, tsy misy ady hevitra momba ny hoe azo atao ve ny fanontaniana.
- Simia, biolojia ary farmakolojia — kajy dosy, mekanisman'ny fanehoan-kevitra, toksikolojia, lalana synthesis izay lavin'ny endpoint voasivana raha vantany vao mahita teny fototra.
- ML mifanandrina — ohatra ratsy sarotra, corpus jailbreak ary taksonomia fanararaotana ho an'ny classifier izay mila nahita ny zavatra tena izy.
- Lahatsoratra klinika, ara-dalàna ary forensika — antontan-taratasy izay mahery vaika amin'ny maha-izy azy ary lavina noho izany indrindra.
Tsy midika tsy misy andraikitra ny tsy voasivana. Anao izay vokarinao, ary mifehy ny kaonty ny politikam-pampiasana tomponandraikitra sy ny fepetra fampiasana anay. Ny fanesorana ny sosona fandavana dia manaisotra ny vinavina momba ny fikasana; tsy manaisotra ny adidinao eo ambanin'ny lalàna mihatra aminao izy.
06STEM sy fisainana: izay lazain'ny tarehimarika navoaka
Ny matematika, ny kaody, ny siansa ary ny fanarahana toromarika no ifantohan'ny fiofanan'ny Nemotron hatramin'ny nanorenana ny angona post-training an'ny Llama-Nemotron manodidina ireo axe efatra ireo indrindra. Izay taterin'ny NVIDIA ho an'ny fototra Nemotron 3 Ultra — tarehimarika navoakan'ny mpamatsy amin'ny modely tsy voatery quantization, izay tsy nampandehaninay:
Roa ny fanamarihana manan-danja mihoatra ny tarehimarika. Ny tarehimarika SWE-Bench Verified dia elanelana — mitatitra 65,0% ka hatramin'ny 70,4% ny NVIDIA arakaraka ny harness agent mampandeha azy (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), ary ny elanelana dimy teboka avy amin'ny scaffolding ihany dia mampiseho ny hamafin'ny fiankinan'ny naoty agentic amin'ny harness fa tsy amin'ny modely. Ary napetraky ny Artificial Analysis eo amin'ny 48 amin'ny Intelligence Index-ny, faha-9 amin'ny modely 89 ny Nemotron 3 Ultra — matanjaka, fa tsy eo an-tampon'ny sehatra, ary ny fandrefesany tsy miankina no homenay lanja mihoatra ny lahatsarin'ny mpamatsy rehetra.
Amin'ny taranaka teo aloha, ny taratasy Llama-Nemotron an'ny NVIDIA dia mitatitra ny LN-Ultra amin'ny 76,0% amin'ny GPQA-Diamond manoloana ny 71,5% an'ny DeepSeek-R1 sy ny 43,4% an'ny Llama-3.1-405B-Instruct, miampy 80,8% amin'ny AIME 2024 — modely hafa izany, nampidirina satria ny siansa ambaratonga ambony sy ny matematika fifaninanana no lasibatry ny fianakaviana nandritra ny taranaka roa.
Ny tarehimarika rehetra eto dia navoakan'ny olona hafa fa tsy izahay. Hamarino ho anao ny loharano voalohany.
Tarehimarika benchmark araka ny navoakan'ny NVIDIA (Jona 2026) amin'ny Nemotron 3 Ultra tsy voatery quantization, ary an'ny Artificial Analysis ho an'ny fandrefesana tsy miankina. Mety hiovaova ny build voatery. Tsy mamoaka tarehimarika benchmark tsy nohamarininay na tsy azonay atolotra loharano izahay.
07Ny vidiny, sy ny fanamarihana momba ny halavan'ny valiny
Amin'ny $0.75 isaky ny tapitrisa token miditra sy $3.30 isaky ny tapitrisa token mivoaka, ny Nemotron3Ultra dia mipetraka eo amin'ny ampahatelony ambany amin'ny katalaoginay amin'ny input ary eo afovoany amin'ny output. Indro ohatra voakajy, satria sarotra tsapaina ny vidiny isaky ny tapitrisa:
| Endriky ny fiantsoana | Miditra | Mivoaka | Vidiny |
|---|---|---|---|
| Fihodinana RAG mahazatra | 50,000 | 4,000 | $0.051 |
| Famakafakana antontan-taratasy lava | 150,000 | 8,000 | $0.139 |
| Fiantsoana amin'ny habe ambony indrindra | 262,144 | 16,384 | $0.251 |
Ny fangatahana misy context feno sy output feno — ny token rehetra ekén'ny endpoint sy ny token rehetra hovokariny — dia mitentina 25 sentimo eo ho eo. Ny endrika mitovy amin'ny Kimi-K3-3BIT-REAP, ny modely lafo indrindra anay amin'ny $3.83/$19.12, dia mitentina $1.32 eo ho eo, na 5,3x mihoatra.
Ary ny fanamarihana izao, ary tena misy izy. Nandrefy ny Artificial Analysis fa mamokatra token output 2,3x mihoatra ny antonony amin'ny mpiara-milalao ny Nemotron 3 Ultra manerana ny andiam-benchmark-ny. Isain'ny modely fisainana aminao ny fisainana, ary lava ny fisainan'ity iray ity; ny tombony amin'ny vidiny isaky ny token dia levona ho fatiantoka isaky ny asa raha misaina in-telo lava kokoa ny modely mba hahatratra valiny mitovy. Efa ao anatiny ny fanalefahana ary aseho eo amin'ny API-nay: nampiofanina taorian'ny fiofanana ho amin'ny fifehezana ny teti-bola fisainana ny Nemotron 3, ary tohanana eto ny reasoning_effort — mamaritra fomba ezaka ambany mampiasa token fisainana kely kokoa be ny NVIDIA amin'ny fifanakalozana fahamarinana iray marika. Amin'ny fanasokajiana, ny fanesorana angona sy ny routing, ahenao izy ary miova tanteraka ny toe-karena; amin'ny porofo na fanavaozana rakitra maro, akaro izy ary aloavy an-tsitrapo. Refeso ny token isaky ny asa ho anao fa aza mamaky ny lisitry ny vidiny ary manombantombana.
08Ny fiantsoana azy: fitenim-paritra telo, modely iray
Ny modely rehetra eo amin'ny vavahady dia mamaly amin'ny sehatra API streaming telo, ka azonao atodika aminy ny mpanjifa efa misy tsy misy fanoratana indray ny fampidirana: /v1/chat/completions (fitenim-paritra OpenAI), /v1/messages (fitenim-paritra Anthropic), ary /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'Famintinana ny fahaiza-manao, mba tsy hisy hahagaga anao amin'ny fotoana ampidirana:
| Fahaiza-manao | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Varavarankely context | 262 144 token |
| Output ambony indrindra / fangatahana | 16 384 token |
| Streaming | Eny |
| Fiantsoana fitaovana | Eny |
| Dian'ny fisainana | Eny |
reasoning_effort | Eny |
json_schema (hentitra) | Eny |
response_format | Eny |
| Fahitana / sary miditra | Tsia — lahatsoratra ihany |
| Sosona fandavana | Tsy misy |
Ny andalana fahitana no mahatratra ny olona: lahatsoratra ihany ny Nemotron3Ultra. Raha mandefa sary ny lalanao, ampiasao ny MiniMax-M3-3BIT-REAP na ny MiMo-V2.5-W8A16 amin'ny $0.50/$2.00, na ny Kimi-K2.6-W4A16-AUTOROUND-REAP amin'ny $0.78/$3.67 — samy mahay fahitana, samy tsy voasivana, samy eo amin'ny context 262 144 token mitovy. Ny fanovozan-kevitra feno momba ny parametatra dia ao amin'ny antontan-taratasin'ny API.
09Ny toeran'ny Nemotron3Ultra eo amin'ireo roa ambin'ny folo
Ny katalaogy dia modely tsy voasivana roa ambin'ny folo mizara varavarankely context mitovy, fitenim-paritra telo mitovy ary tsy fisian'ny sosona fandavana mitovy; ny fototra, ny vidiny ary ny fahaiza-manao no tsy mitovy. Manokana ny toeran'ny Nemotron: ny mpiasa mafy amin'ny fisainana misy firazanana misokatra — tsy izy no mora indrindra, tsy izy no mahay indrindra, fa izy no manana ny lalan-taratasy be mpahita indrindra manohana ny fitondran-tenany, nofehezina mafy indrindra ho amin'ny STEM sy ny agent.
| Modely | Miditra / 1M | Mivoaka / 1M | Fahitana | Fidio izy ho an'ny |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Eny | Safidy mahay fahitana mora indrindra |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | Tsia | Ambaratonga quantization misy fahatokisana ambony indrindra |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Tsia | Fisainana amin'ny fototra lehibe mora indrindra |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | Tsia | STEM, agent, firazanana misokatra |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | Eny | Fahitana + fahatokisana AutoRound |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Tsia | Famakafakana lalina indray mitoraka |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Eny | Valindrihan'ny fahaiza-manao tanteraka |
Fito amin'ny roa ambin'ny folo no aseho. Ny katalaogy feno — anisan'izany ny Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 ary Hy3 — dia ao amin'ny antontan-taratasin'ny API. Marihina fa tsy manohana output voarafitra ny Laguna-S-2.1 ary tsy manohana json_schema ny inkling; manohana azy roa ny Nemotron3Ultra.
Ny mpiara-belona akaiky indrindra amin'ny vidiny dia ny GLM-5.2-3BIT-REAP amin'ny $0.73/$2.34, ary ity ny fampitahana marina: mora kokoa isaky ny token ny GLM-5.2, indrindra amin'ny output. Ny Nemotron kosa mitondra corpus fiofanana navoaka, tsipika fifehezana teti-bola fisainana mazava, ary tantaram-pianakaviana natao ho amin'ny siansa ambaratonga ambony. Fisainana ankapobeny be habetsahana: ampandehano ilay mora kokoa. Mavesatra amin'ny STEM, agentic, na iharan'ny fanamarinana mangataka izay niavian'ny fitondran-tenan'ny modely: mahazo ny elanelana ny Nemotron.
10Fanontaniana apetraka matetika
Inona no atao hoe API Nemotron tsy voasivana?
Izy io no endpoint atolotry ny Shannon AI ho an'ny Nemotron3Ultra 3BIT-REAP, build voatery amin'ny Nemotron 3 Ultra lanja misokatra an'ny NVIDIA. Mandeha eo amin'ny vondrona GPU anay manokana izy tsy misy sosona fandavana ary tsy misy fanivanana output, maneho context 262 144 token sy 16 384 token mivoaka isaky ny fangatahana, ary mitentina $0.75 isaky ny tapitrisa token miditra sy $3.30 isaky ny tapitrisa token mivoaka.
Tena lanja misokatra ve ny NVIDIA Nemotron?
Eny. Namoaka ny Nemotron 3 Ultra ny NVIDIA tamin'ny 4 Jona 2026 miaraka amin'ny lanja, ny angona fiofanana ary ny recipe ambanin'ny lisansa malalaka OpenMDW-1.1 an'ny Linux Foundation, taorian'ny Nemotron-4 340B sy ny fianakaviana Llama-Nemotron. Io fisokafana io no mahatonga ny fametrahana tsy voasivana tantanan'ny mpandraharaha mahaleo tena ho azo atao.
Inona no dikan'ny 3BIT-REAP?
Dingana fanerena roa. Ny REAP — Router-weighted Expert Activation Pruning, avy amin'ny Cerebras Research ary nekena ho an'ny ICLR 2026 — dia manisa ny manam-pahaizana Mixture-of-Experts tsirairay araka ny hamafin'ny fanokafan'ny router azy sy ny halehiben'ny fandraisany anjara amin'ny output, dia manaisotra tanteraka ireo tsy dia manan-danja. Atao quantization ho lanja 3-bit ireo tavela, ka lany amin'ny manam-pahaizana tena mitondra fifamoivoizana ny teti-bola bit.
Manohana fahitana na output JSON schema ve ny Nemotron3Ultra?
Tsy misy sary: lahatsoratra ihany ity endpoint ity. Manohana output voarafitra hentitra kosa izy — na json_schema na response_format — miampy fiantsoana fitaovana, streaming, dian'ny fisainana ary reasoning_effort. Ho an'ny sary amin'ny modely tsy voasivana, ampiasao ny MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 na inkling.
Nahoana no 262 144 token ny context nefa 1M no ambaran'ny NVIDIA?
Mikendry varavarankely 1M token ny firafitra Nemotron 3 ary mitatitra 94,7% amin'ny RULER amin'io halavana io ny NVIDIA. Ny fametrahana anay dia manolotra 262 144 token, dia ilay varavarankely tazoninay amin'ny hafainganana feno manerana ny katalaogy manontolo. Ny modely rehetra eo amin'ny vavahady dia maneho context mitovy, ka azonao ovaina ny id-n'ny modely tsy misy fanoratana indray ny fizarana lahatsoratra ataonao.
Mety amin'ny matematika, ny siansa ary ny kaody ve ny Nemotron?
Ny STEM sy ny fisainana no lazain'ny fianakaviana fa ifantohany. Mitatitra 90% amin'ny PinchBench ny NVIDIA, 65,0-70,4% amin'ny SWE-Bench Verified manerana harness agent dimy ary 56,4% amin'ny Terminal-Bench 2.1 ho an'ny Nemotron 3 Ultra; ny Llama-Nemotron Ultra teo aloha kosa nitatitra 76,0% amin'ny GPQA-Diamond manoloana ny 71,5% an'ny DeepSeek-R1. Samy notaterin'ny mpamatsy amin'ny fototra tsy voatery quantization ireo.
Antsoy ny API Nemotron tsy voasivana
Context 262K, fiantsoana fitaovana, JSON schema hentitra, tsy misy sosona fandavana — $0.75 miditra / $3.30 mivoaka isaky ny 1M token.
Vakio ny antontan-taratasin'ny API Ny tari-dalana modely rehetraShannon Lab LLC · New Mexico, Etazonia · fehezin'ny politikam-pampiasana tomponandraikitra anay ny fampiasana
Loharano: Tatitra ara-teknika NVIDIA Nemotron 3 Ultra · Bilaogin'ny mpamorona NVIDIA (Jona 2026) · Fanamarihana momba ny firafitra Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Ny benchmark momba ny fototra dia notaterin'ny NVIDIA amin'ny modely tsy voatery quantization raha tsy hoe atolotra ho an'ny Artificial Analysis; mety hiovaova ny build voatery. Ny vidiny sy ny fahaiza-manao dia mifanaraka amin'ny 5 Septambra 2026.