API mô hình Hy3 không kiểm duyệt
Nền tảng Hy3 295B của Tencent ở độ trung thực trọng số 8-bit, với đầu ra json_schema nghiêm ngặt, cửa sổ 262.144 token và không lớp từ chối — ở mức giá sàn của danh mục.
Tóm tắt
Hy3-W8A16 là mô hình thứ ba trong ba mô hình W8A16 của chúng tôi — trọng số 8 bit, kích hoạt 16 bit, bậc có độ trung thực cao nhất chúng tôi phục vụ. Nó chỉ xử lý văn bản, hỗ trợ cả json_schema lẫn response_format, mang ngữ cảnh 262.144 token và trần đầu ra 16.384 token chung của cả danh mục, và có giá $0.50 / $2.00 mỗi triệu token — mức sàn. Không lớp từ chối, không lọc đầu ra. Hãy chọn nó cho các quy trình xử lý văn bản khối lượng lớn buộc phải trả về đầu ra có kiểu, bóc tách được ở mọi lệnh gọi, kể cả trên tư liệu mà một mô hình bị lọc sẽ không muốn đụng vào.
Phần lớn tranh luận "nên dùng mô hình nào" đều xoay quanh mức trần: mô hình nào viết mã giỏi nhất, giải toán khó nhất, chạy được phiên agent dài nhất. Các quy trình có cấu trúc không hoạt động theo kiểu đó. Một công việc trích xuất trường dữ liệu từ một trăm nghìn tài liệu mỗi ngày không cần một mô hình xuất sắc một lần — nó cần một mô hình đúng theo cùng một hình dạng ở mọi lần, và không bao giờ trả về một đoạn văn ở chỗ lẽ ra phải là một đối tượng JSON. Đó chính là thuộc tính mà Hy3-W8A16 có mặt ở đây để cung cấp.
01Hy3 là gì, và nó đến từ đâu
Hy3 là một mô hình suy luận và agent trọng số mở từ đội Hunyuan của Tencent, phát hành đầy đủ ngày 6 tháng 7, 2026 dưới một giấy phép thoáng, với trọng số công bố trên Hugging Face. Nó nối tiếp phả hệ công trình Mixture-of-Experts Hunyuan-Large trước đó của Tencent. Về kiến trúc, đây là một MoE thưa: 295 tỷ tham số tổng, trong đó khoảng 21 tỷ kích hoạt mỗi token qua định tuyến top-8 trên 192 expert, trên một transformer 80 lớp với grouped-query attention, cộng thêm một lớp multi-token-prediction 3.8B riêng cho giải mã suy đoán. Ngữ cảnh gốc là 256K — đúng bằng 262.144 token mà chúng tôi mở ra, không phải bản cắt bớt của thứ gì lớn hơn hay bản kéo giãn bằng rope của thứ gì nhỏ hơn.
Tỷ lệ thưa đó là con số quan trọng với bất kỳ ai trả tiền theo token: Hy3 mang kiến thức của một mô hình 295B trong khi mỗi lượt truyền xuôi chỉ làm khối lượng tính toán xấp xỉ một mô hình 21B. Đó cũng là lý do chúng tôi đủ sức phục vụ nó ở 8 bit thay vì nén mạnh hơn — một bản dựng 8-bit của một mô hình thưa như vậy vẫn vừa và vẫn chạy nhanh trên cụm GPU của riêng chúng tôi.
Tencent nói nó giỏi ở đâu
Các bảng đánh giá Tencent công bố đặt thế mạnh của Hy3 hẳn về phía tìm kiếm kiểu agent, điều phối tool và truy hồi ngữ cảnh dài hơn là lập trình thuần túy. Các con số họ báo cáo:
Chúng tôi cố ý cho thấy cả những thanh yếu. Hy3 thua GLM-5.2 về lập trình trong chính bảng so sánh của Tencent — 78.0 so với 84.2 trên SWE-bench Verified, 28.0 so với 46.2 trên DeepSWE. Nếu khối lượng công việc của bạn là kỹ nghệ phần mềm tự động trên nhiều tệp, hãy đọc phần còn lại của chỉ mục nghiên cứu mô hình trước. Nếu là đọc văn bản và xuất ra cấu trúc, hồ sơ năng lực này gần như lý tưởng.
Con số quan trọng nhất với công việc quy trình là một con số về độ tin cậy: Tencent báo cáo tỷ lệ ảo giác của Hy3 ở mức 5.4%, giảm từ 12.5% ở thế hệ trước, với lỗi kiến thức thường thức giảm từ 25.4% xuống 12.7%. Nguyên tắc huấn luyện họ nêu ra — trả lời khi có bằng chứng, nói thẳng khi không có — đúng là thái độ bạn muốn ở một mô hình trích xuất, thứ mà nếu không sẽ bịa ra một giá trị nghe hợp lý cho một trường mà nguồn chưa từng nhắc tới.
Mọi con số trong mục này đều do Tencent báo cáo từ các lượt kiểm thử của chính họ; kiểm chứng độc lập từ bên thứ ba vẫn chưa có tại thời điểm viết bài. Hãy coi chúng là chỉ dấu định hướng, không phải kết luận đã ngã ngũ.
02W8A16 nghĩa là gì, và vì sao nó quan trọng với đầu ra có cấu trúc
Mọi mô hình trên gateway đều mang một hậu tố lượng tử hóa. Đó không phải trang trí — nó cho bạn biết trọng số đang phục vụ nằm xa checkpoint mà phòng thí nghiệm phát hành đến mức nào.
| Bậc | Nó làm gì | Độ trung thực |
|---|---|---|
| 3BIT-REAP | Trọng số 3 bit cộng REAP, một phương pháp cắt tỉa expert loại bỏ các expert MoE hiếm được định tuyến trước khi lượng tử hóa | Nén mạnh nhất |
| W4A16-AUTOROUND-REAP | Trọng số 4 bit / kích hoạt 16 bit qua AutoRound — làm tròn có học giúp lấy lại độ chính xác so với làm tròn ngây thơ về giá trị gần nhất — cộng cắt tỉa REAP | Trung bình |
| W8A16 | Trọng số 8 bit / kích hoạt 16 bit. Không cắt tỉa, không sửa chữa bằng làm tròn có học — trọng số đơn giản là được mang ở độ chính xác gấp đôi | Cao nhất |
Trôi lệch do lượng tử hóa thực sự gây đau ở đâu
REAP và AutoRound lấy lại phần lớn những gì nén ngây thơ làm mất — nhưng chữ "phần lớn" gánh nhiều việc trong câu đó, và phần dư không rơi đều. Lượng tử hóa ít bit làm suy giảm phần đuôi: những quyết định có xác suất thấp và độ đặc thù cao. Trong văn xuôi, điều đó gần như vô hình; một tính từ khác vẫn cho một câu ổn. Trong đầu ra có cấu trúc, đó lại là toàn bộ cuộc chơi, vì một schema là một chuỗi dài những quyết định xác suất thấp mà mỗi quyết định đều phải chính xác tuyệt đối:
- Cú pháp ở mức token. Một dấu ngoặc nhọn đóng, một dấu phẩy, một dấu nháy. Mỗi thứ là một token, và một token sai làm hỏng toàn bộ phản hồi.
- Kỷ luật với enum. Schema của bạn nói
"status"phải là một trong"open" | "closed" | "pending"; một mô hình bị trôi lệch trả về"Open"hoặc"pending review"— gần đúng về ngữ nghĩa, và không hợp lệ ở cả hai. - Kỷ luật với kiểu. Một trường
numberquay về dưới dạng"1,240", mộtbooleanthành"yes". Cả hai đều bóc thành chuỗi và trượt schema. - Các giá trị hằng ở phần đuôi dài. Danh từ riêng hiếm, mã linh kiện, tên hóa chất, chữ viết không thuộc hệ Latin, ngày tháng chính xác — đúng vùng xác suất thấp mà trọng số ít bit làm nhòe.
Không điều nào ở trên biến các mô hình 4-bit hay 3-bit thành mô hình tồi; với công việc hội thoại, chênh lệch độ trung thực thường không đáng so với chênh lệch giá. Nhưng khi người tiêu thụ đầu ra là một bộ kiểm chứng chứ không phải một con người, độ chính xác ở phần đuôi chuyển thẳng thành tỷ lệ bóc tách thành công — và tỷ lệ đó chuyển thành ngân sách thử lại cùng độ trễ p99. W8A16 là bậc mà bạn thôi phải trả khoản thuế đó.
03Đầu ra có cấu trúc: json_schema và response_format
Hy3 hỗ trợ cả hai nửa của bề mặt đầu ra có cấu trúc — đáng nói rõ, vì điều đó không phải phổ biến trong cả danh mục:
| Mô hình | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | Có | Có |
| MiMo-V2.5-Pro · W8A16 | Có | Có |
| inkling · W4A16-AUTOROUND-REAP | Có | Không |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | Không | Không |
Khác biệt giữa hai cơ chế quan trọng hơn nhiều người tưởng. response_format: {"type": "json_object"} chỉ yêu cầu JSON hợp lệ và không gì hơn — mô hình tự chọn hình dạng, nên hai lệnh gọi có thể trả về {"name": ...} và {"full_name": ...} và cả hai đều đúng. json_schema cung cấp hình dạng ngay từ đầu: tên trường, kiểu, enum, danh sách bắt buộc, lồng nhau. Đó là một hợp đồng mà bạn viết mã dựa vào được.
Một lệnh gọi tối thiểu trên phương ngữ tương thích OpenAI:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}Ghi chú thực dụng
- Hãy để mọi trường là bắt buộc và cho phép
null. Trường tùy chọn mời gọi việc bỏ sót âm thầm; một trường bắt buộc nhưng chấp nhận null buộc mô hình nói rõ "không có", và đó là thông tin bạn dùng được. - Enum tốt hơn chuỗi tự do. Ở đâu đóng được tập giá trị thì hãy đóng — đây là thay đổi có sức bẩy lớn nhất lên tỷ lệ hợp lệ thực tế của một schema.
- Hãy ở dưới trần đầu ra 16.384 token. Một mảng không giới hạn sẽ bị cắt giữa chừng một đối tượng. Hãy chặn độ dài mảng, hoặc chia nhỏ đầu vào.
- Giữ lại thông điệp hệ thống. Schema ràng buộc hình dạng; prompt vẫn chi phối ngữ nghĩa — thế nào là "nghiêm trọng", ngày nào thắng khi có hai ngày xuất hiện, có chuẩn hóa đơn vị hay không.
- Vẫn phải kiểm chứng. Hỗ trợ schema nâng tỷ lệ hợp lệ; nó không thay thế một bộ kiểm chứng và một hàng đợi dead-letter.
04Vì sao "không kiểm duyệt" là thuộc tính về độ tin cậy, không chỉ về nội dung
Hy3 trên gateway không có lớp từ chối và không lọc đầu ra. Cách nói thường gặp là về nội dung: bạn có thể xử lý nghiên cứu an ninh, phân tích mã độc, mô tả khai thác lỗ hổng, kho ngữ liệu y khoa và pháp lý, tư liệu người lớn, tài liệu giảm thiểu tác hại hay bản ghi hội thoại từ người dùng thù địch mà mô hình không tự quyết thay bạn rằng nó không muốn.
Còn một lý do thứ hai, mang tính cơ học hơn. Một lời từ chối là một vi phạm schema. Một mô hình bị lọc khi khước từ sẽ không trả về đối tượng của bạn với một cờ "unavailable" — nó trả về văn xuôi. "Tôi không thể giúp với yêu cầu đó." Chuỗi đó không phải một đối tượng incident; nó trượt bộ kiểm chứng của bạn và rơi vào hàng đợi dead-letter cạnh những lỗi bóc tách thật, nơi giờ bạn phải tách các lời từ chối theo chính sách khỏi những lỗi định dạng thật sự.
Tệ hơn, các lời từ chối tương quan với nội dung chứ không phân bố ngẫu nhiên. Nếu 4% kho ngữ liệu của bạn là báo cáo sự cố an ninh và mô hình khước từ phần lớn trong số đó, bạn không mất 4% thông lượng một cách đều đặn — bạn mất hẳn một hạng mục, và cái dashboard dựng trên dữ liệu đó lặng lẽ báo thiếu đúng thứ mà nó sinh ra để phơi bày. Những lỗ hổng có hình dạng của một hạng mục tốn kém hơn nhiễu đồng đều, vì chẳng có gì cảnh báo về chúng. Bỏ đường từ chối đi và những gì còn lại — lỗi định dạng, đầu ra bị cắt, văn bản mơ hồ — không tương quan với chủ đề, và vì thế đo được.
Không kiểm duyệt không có nghĩa là vô trách nhiệm
Không có lớp từ chối nghĩa là mô hình không bình phẩm về đầu vào của bạn. Nó không có nghĩa là tài khoản không được giám sát. Việc sử dụng chịu sự điều chỉnh của Chính sách Sử dụng Có Trách nhiệm của chúng tôi và pháp luật hiện hành, và lạm dụng sẽ chấm dứt quyền truy cập. Bỏ bộ lọc đi là để một mô hình thôi đoán ý định của bạn từ một mẩu tài liệu; nó không bỏ đi trách nhiệm của bạn với những gì bạn xây dựng.
05Ngữ cảnh, trần đầu ra, và cách hoạch định chúng
Mọi mô hình trên gateway đều chung một bộ giới hạn:
Ngữ cảnh là một ngân sách dùng chung: prompt cộng đầu ra phải cùng nằm gọn trong 262.144, nên trần đầu vào thực tế trong một lệnh gọi vào khoảng 245.000 token, rất thô là chừng 180.000 từ tiếng Anh. Với công việc có cấu trúc, trần đầu ra 16.384 token mới là giới hạn khó hơn và là thứ khiến người ta bất ngờ — một schema xuất một đối tượng mỗi bản ghi sẽ chạm trần từ rất lâu trước khi cửa sổ đầy. Hai mẫu hình chống lại điều đó:
- Đầu vào rộng, đầu ra hẹp. Đẩy trọn một hợp đồng, một hồ sơ hay một cửa sổ log vào ngữ cảnh rồi yêu cầu một đối tượng gọn. Token đầu vào chỉ tốn một phần tư token đầu ra, nên cách tính giá tưởng thưởng việc đọc nhiều và viết ít.
- Cắt theo ranh giới bản ghi, không theo số byte. Hãy tách ở chỗ mô hình nhìn thấy đường nối. Một bản ghi bị cắt giữa câu sẽ tạo ra một đối tượng sai một cách tự tin, thay vì một lỗi lộ liễu.
Thế mạnh truy hồi ngữ cảnh dài được báo cáo của Hy3 — 73.4 trên AA-LCR, và bước nhảy từ 42.9% lên 75.1% ở khả năng nhớ hội thoại dài trên MRCR — đúng là năng lực mà mẫu hình đầu tiên dựa vào, và là một kỹ năng khác với viết hay.
06Giá sàn, và phép tính của một quy trình thật
Hy3 nằm ở $0.50 mỗi triệu token đầu vào và $2.00 mỗi triệu token đầu ra — mức sàn của danh mục, chia chung với MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 và MiniMax-M3. Tính ra với các khối lượng công việc tiêu biểu:
| Khối lượng công việc | Đầu vào / lệnh gọi | Đầu ra / lệnh gọi | Chi phí / lệnh gọi | Mỗi 1M lệnh gọi |
|---|---|---|---|---|
| Trích xuất trường dữ liệu | 1.200 | 300 | $0.0012 | $1.200 |
| Phân loại tài liệu | 3.000 | 120 | $0.0018 | $1.800 |
| Tóm tắt tài liệu dài theo schema | 40.000 | 900 | $0.0218 | $21.800 |
| Phân tích trọn cửa sổ | 240.000 | 2.000 | $0.1240 | $124.000 |
Con số làm thay đổi quyết định không phải mức giá in trên đầu trang mà là mức giá hữu hiệu sau khi thử lại. Nếu hai mô hình cùng giá mà một mô hình trượt kiểm chứng ở 6% số lệnh gọi còn mô hình kia trượt ở 1.5%, thì mô hình trôi lệch nhiều chạy thêm khoảng 4.5% số lệnh gọi — vẫn sống được. Thiệt hại nằm ở phần đuôi: lệnh gọi thử lại mất gấp đôi thời gian, nên độ trễ p99 gần như tăng gấp đôi với một phần lưu lượng thấy rõ, và thứ gì hỏng hai lần thì trở thành việc làm tay. Ở mức một triệu lệnh gọi mỗi ngày, đó là hàng nghìn bản ghi ai đó phải ngồi đọc.
Vì thế mới có lập luận cho bậc 8-bit ở mức giá sàn: ở đây bạn không trả thêm cho độ trung thực, nên phép tính về thử lại là tiền tự nhiên rơi vào túi. Nếu một mô hình 3-bit rẻ hơn thì đã có một sự đánh đổi thật để cân nhắc — đằng này Hy3 có giá bằng đúng thứ rẻ nhất trong danh mục.
07Ba phương ngữ API, một mô hình
Hy3 gọi được trên cả ba phương ngữ của gateway, mỗi phương ngữ đều có streaming. Cùng mô hình, cùng trọng số, cùng giới hạn — hãy chọn cái khớp với SDK bạn đang có.
| Endpoint | Phương ngữ | Dùng khi |
|---|---|---|
| /v1/chat/completions | OpenAI | Bạn đang dùng OpenAI SDK, LangChain hoặc LlamaIndex. Trỏ base URL về đây và đổi model id. |
| /v1/messages | Anthropic | Bạn đang dùng Anthropic SDK và muốn khối nội dung mà không cần lớp chuyển đổi. |
| /v1/responses | Responses | Bạn muốn dạng yêu cầu mới hơn với đầu ra có kiểu và trạng thái giữ ở phía máy chủ. |
Hy3 cũng hỗ trợ gọi tool và suy luận, bao gồm reasoning_effort. Với công việc trích xuất, nước đi hữu ích thường là hạ suy luận xuống: trên một schema đặc tả kỹ áp lên văn bản sạch, token suy nghĩ là token đầu ra bạn phải trả tiền và là độ trễ bạn phải chờ, đổi lại lợi ích không đáng kể. Hãy dồn ngân sách nỗ lực đó cho những đầu vào thật sự mơ hồ.
Tham chiếu đầy đủ về yêu cầu và phản hồi, danh sách tham số, ngữ nghĩa streaming và một playground tương tác đều nằm trong tài liệu API.
08Chọn giữa ba mô hình W8A16
Ba mô hình nằm ở bậc trung thực cao nhất, tất cả đều ở mức giá sàn. Lựa chọn chủ yếu là về phương thức đầu vào:
| Mô hình | Thị giác | json_schema | Giá vào / ra | Chọn nó cho |
|---|---|---|---|---|
| Hy3 · W8A16 | Không | Có | $0.50 / $2.00 | Quy trình có cấu trúc chỉ văn bản, điều phối tool, truy hồi ngữ cảnh dài |
| MiMo-V2.5-Pro · W8A16 | Không | Có | $0.50 / $2.00 | Công việc chỉ văn bản khi bạn muốn bản tinh chỉnh Pro của dòng MiMo |
| MiMo-V2.5 · W8A16 | Có | Có | $0.50 / $2.00 | Bất cứ thứ gì có ảnh — tài liệu quét, ảnh chụp màn hình, ảnh chụp |
Nếu bất kỳ phần nào trong đầu vào của bạn là ảnh thì lựa chọn đã được quyết sẵn: Hy3 chỉ xử lý văn bản — hãy gửi PDF quét, ảnh chụp màn hình và ảnh chụp tới MiMo-V2.5. Khi đầu vào thực sự là văn bản, hồ sơ của Hy3 gồm dùng tool kiểu agent, nhớ ngữ cảnh dài và tỷ lệ ảo giác được báo cáo thấp là thứ ánh xạ trực tiếp nhất vào công việc quy trình. Vì cả ba cùng giá, hãy chạy schema của bạn trên hai trong số đó với vài trăm bản ghi thật rồi so tỷ lệ bóc tách thành công; cách đó phân định tốt hơn bất kỳ bảng nào, kể cả bảng này.
09Hy3 xứng đáng ở đâu
- Trích xuất trường dữ liệu khối lượng lớn. Hợp đồng, hồ sơ nộp, báo cáo sự cố, bản ghi thoại, ghi chú lâm sàng, hồ sơ tòa án — bất cứ đâu mà sản phẩm bàn giao là một đối tượng có kiểu cho mỗi tài liệu và khối lượng khiến việc thử lại trở nên đắt đỏ.
- Phân loại và định tuyến ở quy mô lớn. Đầu ra enum đóng, nơi toàn bộ giá trị của mô hình nằm ở chỗ nó không bao giờ bịa ra hạng mục thứ mười chín.
- Kho ngữ liệu an ninh và tình báo mối đe dọa. Mô tả mã độc, công bố lỗ hổng và mẫu lừa đảo — thứ tư liệu khiến các mô hình bị lọc chuyển sang từ chối, và là nơi một lỗ hổng hình dạng hạng mục làm hỏng chính mục đích công việc.
- Agent gọi tool không được phép đứng hình. Độ trung thực 8-bit ở phần đối số nghĩa là JSON trao cho hàm của bạn bóc tách được; một lệnh gọi tool méo mó là một agent đứng hình, không phải một câu trả lời hơi kém hơn.
- Phân tích tài liệu dài thành cấu trúc. Trọn bộ hồ sơ vào, một đối tượng gọn ra.
- Kiểm duyệt nội dung và nghiên cứu chính sách. Gắn nhãn tư liệu mà một mô hình bị lọc từ chối đọc là một bài toán thường trực của trust and safety; một mô hình không lọc kèm schema nghiêm ngặt giải quyết nó trực tiếp.
Và những chỗ nó không hợp: bất cứ thứ gì có ảnh (hãy dùng MiMo-V2.5), và kỹ nghệ phần mềm tự động trên nhiều tệp, nơi chính bảng số liệu của Tencent đặt Hy3 sau GLM-5.2 trên SWE-bench Verified và kém xa trên DeepSWE.
Mọi khẳng định về kiến trúc và benchmark của nền tảng Hy3 đều đến từ tài liệu phát hành công khai của Tencent hoặc từ báo chí đưa tin về chúng; các dữ kiện về danh mục đến từ chính /v1/models đang chạy của chúng tôi. Hãy kiểm chứng cả hai.
Các con số benchmark đều do Tencent báo cáo, kể cả số của đối thủ; kiểm chứng độc lập vẫn chưa có tại thời điểm viết bài. Các con số chi phí được tính từ mức giá $0.50 / $2.00 chúng tôi công bố. Không con số nào trên trang này là một benchmark do Shannon tự chạy hay một ước lượng.
10Câu hỏi thường gặp
API Hy3 không kiểm duyệt là gì?
Đó là endpoint của Shannon AI Gateway cho model id Hy3-W8A16 — nền tảng Hy3 trọng số mở của Tencent, phục vụ trên cụm GPU của riêng chúng tôi ở độ chính xác trọng số 8-bit, không lớp từ chối và không lọc đầu ra. Nó cho bạn cửa sổ ngữ cảnh 262.144 token, 16.384 token đầu ra mỗi yêu cầu, gọi tool, suy luận với reasoning_effort, và đầu ra có cấu trúc đầy đủ qua cả json_schema lẫn response_format, trên /v1/chat/completions, /v1/messages và /v1/responses kèm streaming.
Hy3 có hỗ trợ JSON schema và đầu ra có cấu trúc không?
Có. Hy3-W8A16 hỗ trợ cả response_format cho chế độ JSON object lẫn json_schema cho các schema nghiêm ngặt, có kiểu — tức là toàn bộ bề mặt đầu ra có cấu trúc, không phải một phần. Điều đó không đúng với mọi mô hình trong danh mục: Laguna-S-2.1 không hỗ trợ cái nào, còn inkling hỗ trợ response_format nhưng không hỗ trợ json_schema. Nếu quy trình của bạn phụ thuộc vào một hợp đồng có kiểu, Hy3 là một trong những mô hình tôn trọng được hợp đồng đó.
W8A16 nghĩa là gì, và nó có tốt hơn 4-bit hay 3-bit không?
W8A16 nghĩa là trọng số 8 bit và kích hoạt 16 bit — bậc có độ trung thực cao nhất chúng tôi phục vụ. So với W4A16-AUTOROUND-REAP (trọng số 4 bit, làm tròn có học, cắt tỉa expert) và 3BIT-REAP (trọng số 3 bit cộng cắt tỉa expert), nó thay đổi trọng số đã phát hành ít nhất, nên hành vi bám sát checkpoint gốc nhất. Các bậc nén quyết liệt tồn tại vì nếu không thì những nền tảng lớn nhất sẽ không thực tế để phục vụ ở tốc độ thật.
Hy3 có hỗ trợ ảnh hay thị giác không?
Không. Hy3-W8A16 chỉ xử lý văn bản. Gửi phần nội dung ảnh tới nó sẽ không hoạt động. Nếu bạn cần thị giác cộng với đầu ra có cấu trúc trên cùng bậc 8-bit, hãy dùng MiMo-V2.5-W8A16, mô hình hỗ trợ đầu vào ảnh cùng với json_schema và response_format ở cùng mức giá $0.50 / $2.00.
API Hy3 tốn bao nhiêu?
$0.50 mỗi triệu token đầu vào và $2.00 mỗi triệu token đầu ra — mức giá sàn trong danh mục của chúng tôi, chia chung với MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 và MiniMax-M3. Một quy trình trích xuất tiêu biểu với 1.200 token đầu vào và 300 token đầu ra mỗi lệnh gọi tốn khoảng $0.0012 mỗi lệnh, tức khoảng $1.200 cho mỗi triệu lệnh gọi.
Hy3 có từ chối một yêu cầu không?
Không có lớp từ chối và không có lọc đầu ra đặt trước mô hình. Với một quy trình có cấu trúc, đó vừa là thuộc tính về độ tin cậy vừa là thuộc tính về nội dung: một lời từ chối là một vi phạm schema, vì đoạn văn giải thích lý do mô hình không trả lời sẽ không bóc tách được thành đối tượng mà bộ kiểm chứng của bạn mong đợi. Bỏ đi đường từ chối là bỏ đi cả một lớp lỗi bóc tách trên các kho ngữ liệu về an ninh, y khoa, pháp lý và nội dung người lớn.
Chạy Hy3 trên schema của chính bạn
Độ trung thực 8-bit, json_schema nghiêm ngặt, ngữ cảnh 262K, không từ chối — ở mức giá sàn.
Model id Hy3-W8A16 · chỉ văn bản · $0.50 vào / $2.00 ra mỗi 1M token
Nguồn: Thẻ mô hình Tencent Hunyuan · Kho mã Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Bài đưa tin của VentureBeat về bản phát hành Hy3. Các benchmark của nền tảng do Tencent báo cáo và còn là tạm thời, trong khi chờ kiểm chứng độc lập. Shannon AI do Shannon Lab LLC, New Mexico, Hoa Kỳ vận hành.