API Nemotron không kiểm duyệt
Danh tiếng nghiên cứu của NVIDIA, công bố công khai, phục vụ không kèm lớp từ chối: một MoE lai Mamba-Attention 550 tỷ tham số được tinh chỉnh cho STEM và suy luận tầm dài — với giá $0.75 vào / $3.30 ra mỗi triệu token.
Tóm tắt
Nemotron3Ultra-3BIT-REAP là bản triển khai không kiểm duyệt của Shannon cho NVIDIA Nemotron 3 Ultra — một mô hình Mixture-of-Experts 550 tỷ tham số với 55 tỷ tham số kích hoạt mỗi token, phát hành ngày 4 tháng 6, 2026 kèm trọng số, dữ liệu huấn luyện và công thức theo giấy phép rộng rãi OpenMDW-1.1 của Linux Foundation. Trên cụm GPU của riêng chúng tôi, nó chạy không lớp từ chối và không lọc đầu ra, với ngữ cảnh 262.144 token, tối đa 16.384 token đầu ra mỗi yêu cầu, gọi tool, streaming, dấu vết suy luận và đầu ra json_schema nghiêm ngặt. Nó không nhận ảnh. Giá: $0.75 / $3.30 mỗi 1M token.
Phần lớn các mô hình gọi là “mở” chỉ mở trọng số chứ không mở gì thêm — một gói tham số, một giấy phép, và im lặng về việc các con số đến từ đâu. Suốt hai năm qua, Nemotron là ngoại lệ kiên định: NVIDIA phát hành trọng số, các tập dữ liệu hậu huấn luyện, các môi trường RL và cả công thức. Điều đó quan trọng với một endpoint không kiểm duyệt theo cách rất dễ bị bỏ qua. Một mô hình có dữ liệu căn chỉnh được công bố là mô hình mà bạn có thể lập luận về hành vi từ chối của nó thay vì đoán mò — và là mô hình mà một bên thứ ba có thể triển khai hợp pháp, không cần bắt vít thêm bộ lọc nội dung vào miệng nó.
01Nemotron 3 Ultra là gì?
Nemotron 3 Ultra là thành viên lớn nhất trong dòng Nemotron 3 của NVIDIA, phát hành lên Hugging Face ngày 4 tháng 6, 2026. Báo cáo kỹ thuật của NVIDIA mô tả nó là “một mô hình ngôn ngữ Mixture-of-Experts lai Mamba-Attention với 550 tỷ tham số tổng và 55 tỷ tham số kích hoạt” — tức khoảng 10% mạng làm việc trên mỗi token, và đó chính là điều khiến một mô hình nửa nghìn tỷ tham số có thể phục vụ được.
Bố cục được công bố gồm 108 lớp ở số chiều mô hình 8.192, đan xen các lớp không gian trạng thái Mamba-2 với một tập thưa các lớp attention đầy đủ, 512 expert mỗi lớp MoE với định tuyến top-22. Tiền huấn luyện chạy trên khoảng 20 nghìn tỷ token văn bản trong hai giai đoạn — thiên về đa dạng, rồi thiên về chất lượng — với mốc cắt dữ liệu tháng 9 năm 2025, 12 ngôn ngữ tự nhiên và 43 ngôn ngữ lập trình. Hậu huấn luyện dùng SFT, RL đa môi trường với phần thưởng kiểm chứng được, và Multi-Teacher On-Policy Distillation từ hơn mười mô hình thầy chuyên biệt. Mục tiêu thiết kế được tuyên bố là các agent chạy dài: những phiên giữ ngữ cảnh lớn, gọi tool hàng chục lần, và chạy đủ lâu để kinh tế học trên mỗi token chi phối hóa đơn.
02Phả hệ Nemotron, và vì sao gốc gác lại quan trọng
Nemotron không phải một sản phẩm nhất thời. Nó là đầu ra hữu hình của một chương trình nghiên cứu mà NVIDIA đã chạy theo cùng một hướng từ năm 2024, và mỗi thế hệ để lại thứ mà mô hình hiện tại vẫn còn mang. Nemotron-4 340B (tháng 6, 2024) ra mắt kèm một pipeline sinh dữ liệu tổng hợp mở, mô hình phần thưởng và bộ sinh của nó, cộng thêm một tiết lộ khác thường: áp đảo phần lớn dữ liệu căn chỉnh của nó là do mô hình sinh ra. Việc coi mô hình như một nhà máy dữ liệu thay vì một nhà tiên tri chính là lý do các bản Nemotron sau này vẫn phát hành tập dữ liệu song song với trọng số.
Llama-Nemotron — suy luận mà bạn có thể tắt đi
Dòng Llama-Nemotron năm 2025 (LN-Nano 8B, LN-Super 49B, LN-Ultra 253B) đóng góp hai ý tưởng đứng vững theo thời gian. Ý tưởng thứ nhất thuộc về kiến trúc: tìm kiếm kiến trúc nơ-ron Puzzle của NVIDIA dựng một thư viện các khối transformer được chưng cất theo khối rồi ráp chúng lại bằng quy hoạch nguyên hỗn hợp, tạo ra những mô hình mà một số khối bỏ hẳn attention hoặc thay nó bằng một lớp tuyến tính duy nhất, trong khi FFN Fusion gộp các khối feed-forward liên tiếp thành ít khối hơn, rộng hơn, chạy song song — cắt độ sâu tuần tự chứ không cắt số tham số. LN-Ultra vừa vặn trên một node 8×H100 mà, theo bài báo của NVIDIA, vẫn vượt DeepSeek-R1 trên GPQA-Diamond (76.0% so với 71.5%).
Ý tưởng thứ hai thuộc về hành vi: Llama-Nemotron là dòng mở đầu tiên có công tắc suy luận động, gắn nhãn dữ liệu huấn luyện là detailed thinking on hoặc detailed thinking off ngay trong chỉ dẫn hệ thống, với phần thưởng định dạng buộc phải có thẻ <think> ở chế độ bật. Một bộ trọng số, hai hành vi, chọn được ngay lúc suy diễn. Điều khiển ngân sách suy luận của Nemotron 3 — và tham số reasoning_effort trên API của chúng tôi — kế thừa trực tiếp từ công trình đó.
Nemotron 3 — bước ngoặt lai
Nemotron 3 thay thế nhánh dẫn xuất từ Llama bằng một kiến trúc lai làm từ đầu và bổ sung LatentMoE (nén token trước khi định tuyến, mà NVIDIA nói là cho phép “gấp 4 lần số expert với cùng chi phí suy diễn”), dự đoán đa token, và tiền huấn luyện NVFP4 gốc. NVIDIA công bố tổng cộng 50 triệu mẫu SFT, 2 triệu tác vụ RL và 55 môi trường RL song song với trọng số — bạn không phải tin lời nhà cung cấp về việc mô hình đã được dạy những gì, vì giáo trình tải về được.
03Kiến trúc lai mang lại cho bạn điều gì
Bộ nhớ đệm KV của một transformer tăng tuyến tính theo độ dài chuỗi, đó là lý do suy diễn ngữ cảnh dài trở nên đắt về bộ nhớ trước khi đắt về tính toán. Các lớp Mamba-2 là mô hình không gian trạng thái mang một trạng thái hồi tiếp kích thước cố định, nên chi phí bộ nhớ trên mỗi token của chúng không tăng theo lịch sử; điểm yếu của chúng là truy hồi liên kết chính xác. Kiến trúc lai giữ Mamba-2 cho phần lớn việc xử lý chuỗi cộng thêm một thiểu số lớp attention thật để làm đúng phần truy hồi mà các lớp không gian trạng thái hay lúng túng, với tỷ lệ 64 đầu truy vấn / 2 đầu KV rất quyết liệt giúp thu nhỏ bộ nhớ đệm hơn nữa. NVIDIA báo cáo 94.7% trên RULER ở 1M token — một benchmark tìm kim đáy bể dựng ra để bắt những mô hình khoe cửa sổ mà chúng không dùng nổi.
Hệ quả là thông lượng: NVIDIA tuyên bố thông lượng suy diễn cao hơn tới khoảng 6× so với các mô hình tương đương ở mức độ chính xác ngang bằng, và Artificial Analysis đo độc lập được 140.3 token/giây với thời gian tới token đầu tiên là 1.33 giây — hạng 7 trên 89 mô hình. Trên một lượt chạy agent 200 vòng, đó là khác biệt giữa việc xong trong một buổi chiều và việc không xong.
04Nói thẳng: “3BIT-REAP” nghĩa là gì
Hậu tố này không phải trang trí — nó cho bạn biết chính xác người ta đã làm gì với nền tảng để nó vừa vặn.
REAP — Router-weighted Expert Activation Pruning — đến từ Cerebras Research và đã được nhận vào ICLR 2026. Trong một MoE thưa, router gửi mỗi token tới một nhúm expert; qua một khối lượng công việc thực tế, có expert bị gọi liên tục còn có expert gần như không bao giờ. REAP chấm điểm từng expert theo một tiêu chí nổi bật kết hợp mức router mở cổng cho nó mạnh đến đâu và đóng góp đầu ra của nó lớn đến đâu, rồi loại thẳng những expert ít quan trọng nhất — Cerebras báo cáo cắt tỉa tới 50% số expert khỏi các mô hình lớn cỡ 1 nghìn tỷ tham số mà phần lớn vẫn giữ được chất lượng gốc, và nhận thấy với các tác vụ sinh như mã nguồn, cắt tỉa tốt hơn gộp. Sau đó lượng tử hóa 3-bit nén những gì còn lại. Cắt tỉa trước, lượng tử hóa sau, để ngân sách bit dồn vào các expert gánh lưu lượng thay vì bị bôi mỏng lên những expert đã chết.
Nén không miễn phí, và chúng tôi sẽ không giả vờ ngược lại: lượng tử hóa quyết liệt lộ ra trước hết ở những suy giảm nhỏ về việc tuân thủ định dạng chính xác và số học chuỗi dài, chứ không phải ở sự lộn xộn nhìn thấy được. Ba bậc nằm ở đâu:
| Hậu tố | Nó là gì | Chúng tôi dùng ở đâu |
|---|---|---|
| 3BIT-REAP | Trọng số 3-bit + cắt tỉa expert | Các nền tảng lớn nhất, nơi không có lựa chọn nào khác vừa vặn mà vẫn nhanh |
| W4A16-AUTOROUND-REAP | Trọng số 4-bit / kích hoạt 16-bit, làm tròn học được AutoRound, + cắt tỉa | Nền tảng cỡ trung; AutoRound lấy lại độ chính xác so với làm tròn ngây thơ |
| W8A16 | Trọng số 8-bit / kích hoạt 16-bit | Độ trung thực cao nhất; các nền tảng đủ nhỏ để không cần nén quyết liệt |
Nemotron 3 Ultra ở mức 550 tỷ tham số nằm gọn trong nhóm đầu tiên. Nếu khối lượng công việc của bạn nhạy cảm bất thường với đầu ra số chính xác qua chuỗi dài, chỉ mục nghiên cứu liệt kê bậc W8A16 — MiMo-V2.5-Pro-W8A16 và Hy3-W8A16 — ở mức sàn $0.50/$2.00. Một đánh đổi thật, không phải cái phễu: mô hình nhỏ hơn, nén ít hơn.
05“Không kiểm duyệt” nghĩa là gì trên endpoint này
Cụ thể: không có lớp từ chối và không có bộ lọc nội dung nào áp lên đầu ra. Không bộ phân loại nào soi prompt của bạn rồi trả về một lời từ chối đóng hộp, và phản hồi không bị quét trước khi tới luồng của bạn. Thứ bạn nhận được là hành vi của chính mô hình.
Đây là chỗ mà phả hệ mở thôi không còn là chuyện bên lề. Vì NVIDIA đã công bố dữ liệu hậu huấn luyện và các môi trường RL, các thiên hướng của mô hình về nguyên tắc là kiểm toán được chứ không phải chuyện truyền miệng. Và vì OpenMDW-1.1 là giấy phép rộng rãi của Linux Foundation bao trùm kiến trúc, tham số, tài liệu và phần mềm, một bên vận hành độc lập có thể phục vụ một bản triển khai đã chỉnh sửa, không lọc, trên phần cứng của chính họ mà không vướng giấy phép. Nhiều giấy phép mô hình gọi là “mở” không cho phép điều đó. Giấy phép này thì có. Khác biệt lộ ra ở những nơi mà từ chối theo phản xạ là một lỗi, chứ không phải một tính năng an toàn:
- Nghiên cứu bảo mật — phân tích lỗ hổng, lập luận về khai thác, hành vi mã độc, công cụ red-team, mà không phải tranh cãi xem câu hỏi có được phép hay không.
- Hóa học, sinh học và dược lý — tính liều, cơ chế phản ứng, độc chất học, các lộ trình tổng hợp mà một endpoint có lọc sẽ từ chối ngay khi chạm từ khóa.
- ML đối kháng — mẫu âm khó, kho ngữ liệu jailbreak và phân loại hình thái lạm dụng cho các bộ phân loại cần được thấy hàng thật.
- Văn bản lâm sàng, pháp lý và pháp y — tư liệu vụ việc vốn dĩ trần trụi và bị từ chối đúng vì lý do đó.
Không kiểm duyệt không có nghĩa là vô trách nhiệm. Bạn chịu trách nhiệm về những gì mình sinh ra, và Chính sách Sử dụng Có trách nhiệm cùng Điều khoản Dịch vụ của chúng tôi điều chỉnh tài khoản. Bỏ đi một lớp từ chối là bỏ đi một phỏng đoán về ý định; nó không bỏ đi nghĩa vụ của bạn theo luật áp dụng với bạn.
06STEM và suy luận: các con số công bố nói gì
Trọng tâm huấn luyện của Nemotron là toán, mã nguồn, khoa học và tuân thủ chỉ dẫn kể từ khi tập dữ liệu hậu huấn luyện Llama-Nemotron được dựng quanh đúng bốn trục đó. Đây là những gì NVIDIA báo cáo cho nền tảng Nemotron 3 Ultra — các con số do nhà cung cấp báo cáo trên mô hình chưa nén, mà chúng tôi không tự chạy lại:
Hai lưu ý đáng giá hơn cả các con số. Con số SWE-Bench Verified là một khoảng — NVIDIA báo cáo từ 65.0% đến 70.4% tùy bộ khung agent nào chạy nó (Pi, OpenHands, Hermes, OpenCode, Mini SWE Agent), và biên độ năm điểm chỉ do phần giàn giáo cho thấy điểm số agent phụ thuộc vào khung chạy đến mức nào chứ không phải vào mô hình. Và Artificial Analysis xếp Nemotron 3 Ultra ở mức 48 trên Intelligence Index, hạng 9 trên 89 mô hình — mạnh, nhưng không đứng đầu lĩnh vực, và phép đo độc lập của họ là thứ chúng tôi coi trọng hơn bất kỳ slide nào của nhà cung cấp.
Về thế hệ trước, bài báo Llama-Nemotron của NVIDIA báo cáo LN-Ultra đạt 76.0% trên GPQA-Diamond so với 71.5% của DeepSeek-R1 và 43.4% của Llama-3.1-405B-Instruct, cộng thêm 80.8% trên AIME 2024 — một mô hình khác, được đưa vào đây vì khoa học trình độ sau đại học và toán thi đấu đã là mục tiêu của dòng này suốt hai thế hệ.
Mọi con số ở đây đều do người khác chúng tôi công bố. Hãy tự kiểm tra nguồn gốc.
Các con số benchmark như NVIDIA công bố (tháng 6, 2026) trên Nemotron 3 Ultra chưa nén, và như Artificial Analysis công bố cho các phép đo độc lập. Bản đã nén có thể khác. Chúng tôi không công bố những con số benchmark mà mình không kiểm chứng hoặc không thể dẫn nguồn.
07Giá, và lưu ý về độ dài lời
Ở mức $0.75 mỗi triệu token đầu vào và $3.30 mỗi triệu token đầu ra, Nemotron3Ultra nằm ở một phần ba dưới của danh mục về đầu vào và ở giữa về đầu ra. Vài ví dụ tính thật, vì giá theo triệu token rất khó hình dung:
| Dạng lệnh gọi | Đầu vào | Đầu ra | Chi phí |
|---|---|---|---|
| Một lượt RAG điển hình | 50,000 | 4,000 | $0.051 |
| Phân tích tài liệu dài | 150,000 | 8,000 | $0.139 |
| Lệnh gọi cỡ tối đa | 262,144 | 16,384 | $0.251 |
Một yêu cầu đầy ngữ cảnh, đầy đầu ra — mọi token endpoint chấp nhận và mọi token nó sẽ sinh ra — tốn khoảng 25 xu. Cùng dạng đó trên Kimi-K3-3BIT-REAP, mô hình đắt nhất của chúng tôi ở mức $3.83/$19.12, tốn khoảng $1.32, tức gấp 5.3×.
Giờ đến lưu ý, và nó có thật. Artificial Analysis đo được Nemotron 3 Ultra sinh ra gấp 2.3× số token đầu ra so với mức trung vị của các mô hình cùng hạng trên toàn bộ bộ benchmark của họ. Mô hình suy luận tính tiền bạn cho phần suy nghĩ, và mô hình này nghĩ rất dài; lợi thế giá trên mỗi token bốc hơi thành bất lợi trên mỗi tác vụ nếu mô hình phải suy luận dài gấp ba để đi tới cùng một câu trả lời. Cách giảm nhẹ đã có sẵn và được mở ra trên API của chúng tôi: Nemotron 3 được hậu huấn luyện cho điều khiển ngân sách suy luận, và reasoning_effort được hỗ trợ ở đây — NVIDIA mô tả một chế độ nỗ lực thấp dùng ít hơn hẳn số token suy nghĩ, đổi lại mất độ chính xác ở mức một chữ số. Với phân loại, trích xuất và định tuyến, hãy vặn xuống và bài toán kinh tế thay đổi đáng kể; với một chứng minh hay một đợt tái cấu trúc nhiều tệp, hãy vặn lên và trả tiền một cách có chủ ý. Hãy đo số token trên mỗi tác vụ của chính bạn thay vì đọc bảng giá rồi phỏng đoán.
08Gọi nó: ba phương ngữ, một mô hình
Mọi mô hình trên gateway đều trả lời trên ba bề mặt API có streaming, nên bạn có thể trỏ một client sẵn có vào nó mà không phải viết lại tích hợp: /v1/chat/completions (phương ngữ OpenAI), /v1/messages (phương ngữ Anthropic), và /v1/responses.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Nemotron3Ultra-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
]
}'Bảng tóm tắt năng lực, để không có gì bất ngờ lúc tích hợp:
| Năng lực | Nemotron3Ultra · 3BIT-REAP |
|---|---|
| Cửa sổ ngữ cảnh | 262.144 token |
| Đầu ra tối đa / yêu cầu | 16.384 token |
| Streaming | Có |
| Gọi tool | Có |
| Dấu vết suy luận | Có |
reasoning_effort | Có |
json_schema (nghiêm ngặt) | Có |
response_format | Có |
| Thị giác / đầu vào ảnh | Không — chỉ văn bản |
| Lớp từ chối | Không có |
Hàng về thị giác hay làm người ta hụt hẫng: Nemotron3Ultra chỉ xử lý văn bản. Nếu pipeline của bạn gửi ảnh, hãy dùng MiniMax-M3-3BIT-REAP hoặc MiMo-V2.5-W8A16 ở mức $0.50/$2.00, hoặc Kimi-K2.6-W4A16-AUTOROUND-REAP ở mức $0.78/$3.67 — đều có thị giác, đều không kiểm duyệt, đều trên cùng ngữ cảnh 262.144 token. Tham chiếu tham số đầy đủ nằm trong tài liệu API.
09Nemotron3Ultra đứng ở đâu trong mười hai mô hình
Danh mục gồm mười hai mô hình không kiểm duyệt dùng chung một cửa sổ ngữ cảnh, chung ba phương ngữ và chung việc không có lớp từ chối; chúng khác nhau ở nền tảng, giá và năng lực. Vị trí của Nemotron rất cụ thể: con ngựa thồ suy luận có phả hệ mở — không rẻ nhất, không mạnh nhất, nhưng là mô hình có hồ sơ công khai dày dặn nhất phía sau hành vi của nó, và được tinh chỉnh mạnh nhất về phía STEM và agent.
| Mô hình | Vào / 1M | Ra / 1M | Thị giác | Chọn nó vì |
|---|---|---|---|---|
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | Có | Lựa chọn có thị giác rẻ nhất |
| MiMo-V2.5-Pro · W8A16 | $0.50 | $2.00 | Không | Bậc lượng tử hóa trung thực nhất |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | Không | Suy luận nền tảng lớn rẻ nhất |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | Không | STEM, agent, phả hệ mở |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | Có | Thị giác + độ trung thực AutoRound |
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | Không | Phân tích sâu một phát ăn ngay |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | Có | Trần năng lực tuyệt đối |
Hiển thị bảy trên mười hai. Danh mục đầy đủ — gồm cả Laguna-S-2.1, inkling, DeepSeek-V4-Flash, MiMo-V2.5 và Hy3 — nằm trong tài liệu API. Lưu ý rằng Laguna-S-2.1 không hỗ trợ đầu ra có cấu trúc và inkling không hỗ trợ json_schema; Nemotron3Ultra hỗ trợ cả hai.
Láng giềng gần nhất về giá là GLM-5.2-3BIT-REAP ở mức $0.73/$2.34, và so sánh trung thực là thế này: GLM-5.2 rẻ hơn trên mỗi token, nhất là ở đầu ra. Nemotron mang tới một kho ngữ liệu huấn luyện được công bố, một núm vặn ngân sách suy luận tường minh, và một lịch sử dòng họ nhắm tới khoa học trình độ sau đại học. Suy luận tổng quát khối lượng lớn: chạy cái rẻ hơn. Nặng STEM, thiên agent, hoặc phải chịu một cuộc kiểm toán hỏi xem hành vi mô hình đến từ đâu: Nemotron xứng đáng với phần chênh lệch.
10Câu hỏi thường gặp
API Nemotron không kiểm duyệt là gì?
Đó là endpoint do Shannon AI vận hành cho Nemotron3Ultra 3BIT-REAP, một bản nén của Nemotron 3 Ultra trọng số mở của NVIDIA. Nó chạy trên cụm GPU của riêng chúng tôi, không lớp từ chối và không lọc đầu ra, mở ra ngữ cảnh 262.144 token và 16.384 token đầu ra mỗi yêu cầu, với giá $0.75 mỗi triệu token đầu vào và $3.30 mỗi triệu token đầu ra.
NVIDIA Nemotron có thực sự là trọng số mở không?
Có. NVIDIA công bố Nemotron 3 Ultra ngày 4 tháng 6, 2026 kèm trọng số, dữ liệu huấn luyện và công thức theo giấy phép rộng rãi OpenMDW-1.1 của Linux Foundation, tiếp nối Nemotron-4 340B và dòng Llama-Nemotron. Chính sự mở đó khiến một bản triển khai độc lập, không lọc, trở nên khả thi.
3BIT-REAP nghĩa là gì?
Hai bước nén. REAP — Router-weighted Expert Activation Pruning, từ Cerebras Research và được nhận vào ICLR 2026 — chấm điểm từng expert của Mixture-of-Experts theo mức router mở cổng cho nó mạnh đến đâu và đóng góp đầu ra của nó lớn đến đâu, rồi loại thẳng những expert ít quan trọng nhất. Số còn sống sót được lượng tử hóa xuống trọng số 3-bit, nên ngân sách bit được dồn cho các expert thực sự gánh lưu lượng.
Nemotron3Ultra có hỗ trợ thị giác hay đầu ra JSON schema không?
Không nhận ảnh: endpoint này chỉ xử lý văn bản. Nó có hỗ trợ đầu ra có cấu trúc nghiêm ngặt — cả json_schema lẫn response_format — cùng gọi tool, streaming, dấu vết suy luận và reasoning_effort. Nếu cần ảnh trên một mô hình không kiểm duyệt, hãy dùng MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 hoặc inkling.
Vì sao ngữ cảnh là 262.144 token trong khi NVIDIA quảng cáo 1M?
Kiến trúc Nemotron 3 nhắm tới cửa sổ 1M token và NVIDIA báo cáo 94.7% trên RULER ở độ dài đó. Bản triển khai của chúng tôi phục vụ 262.144 token, là cửa sổ chúng tôi giữ được ở tốc độ tối đa trên toàn bộ danh mục. Mọi mô hình trên gateway đều mở ra cùng một ngữ cảnh, nên bạn có thể đổi model ID mà không phải viết lại phần chia nhỏ dữ liệu.
Nemotron có tốt cho toán, khoa học và mã nguồn không?
STEM và suy luận là trọng tâm mà dòng mô hình này tuyên bố. NVIDIA báo cáo 90% trên PinchBench, 65.0-70.4% trên SWE-Bench Verified qua năm bộ khung agent và 56.4% trên Terminal-Bench 2.1 cho Nemotron 3 Ultra; Llama-Nemotron Ultra thế hệ trước báo cáo 76.0% trên GPQA-Diamond so với 71.5% của DeepSeek-R1. Tất cả đều do nhà cung cấp báo cáo trên nền tảng chưa nén.
Gọi API Nemotron không kiểm duyệt
Ngữ cảnh 262K, gọi tool, JSON schema nghiêm ngặt, không lớp từ chối — $0.75 vào / $3.30 ra mỗi 1M token.
Đọc tài liệu API Tất cả thẻ mô hìnhShannon Lab LLC · New Mexico, Hoa Kỳ · việc sử dụng chịu sự điều chỉnh của Chính sách Sử dụng Có trách nhiệm
Nguồn: Báo cáo kỹ thuật NVIDIA Nemotron 3 Ultra · Blog nhà phát triển NVIDIA (tháng 6, 2026) · Ghi chú kiến trúc Nemotron 3 Super · Llama-Nemotron: Efficient Reasoning Models · Cerebras Research, REAP. Các benchmark nền tảng do NVIDIA báo cáo trên mô hình chưa nén trừ khi được dẫn nguồn Artificial Analysis; bản đã nén có thể khác. Giá và năng lực cập nhật đến ngày 5 tháng 9, 2026.