API MiMo không kiểm duyệt ở độ trung thực 8-bit
Nền tảng MiMo thiên về suy luận của Xiaomi, phục vụ không lớp từ chối ở bậc W8A16 — bậc lượng tử hóa có độ trung thực cao nhất chúng tôi chạy — với mức giá sàn của danh mục.
Tóm tắt
MiMo-V2.5-Pro · W8A16 là MiMo-V2.5-Pro trọng số mở của Xiaomi, phục vụ trên cụm GPU của riêng Shannon với trọng số 8-bit / kích hoạt 16-bit — bậc nén nhẹ nhất trong danh mục mười hai mô hình của chúng tôi. Ngữ cảnh 262.144 token, 16.384 token đầu ra mỗi yêu cầu, gọi tool, suy luận, đầu ra có cấu trúc JSON schema, streaming trên ba phương ngữ API, và không lớp từ chối, không lọc đầu ra, với giá $0.50 vào / $2.00 ra mỗi triệu token — mức sàn của danh mục. Chỉ văn bản; dùng MiMo-V2.5 · W8A16 nếu cần ảnh.
Phần lớn các danh mục bán cho bạn con số tham số. Đó là con số sai để đi mua sắm, vì mọi mô hình trọng số mở cỡ lớn mà bạn thực sự đủ tiền dùng đều đã bị nén ở đâu đó cho vừa. Câu hỏi trung thực không phải "trước khi bị ép nó lớn cỡ nào?" mà là "còn lại bao nhiêu?" Bài này nói về câu hỏi đó, và về mô hình trong danh mục của chúng tôi mà câu trả lời là gần như toàn bộ.
01API MiMo không kiểm duyệt thực sự cho bạn những gì
API MiMo không kiểm duyệt là một model id duy nhất, MiMo-V2.5-Pro-W8A16, gọi được qua ba phương ngữ cùng trỏ tới một bộ trọng số trên cụm GPU của riêng chúng tôi: /v1/chat/completions, /v1/messages và /v1/responses. Cả ba đều streaming và hỗ trợ gọi tool cùng suy luận.
Không kiểm duyệt ở đây có nghĩa hẹp: không có lớp từ chối đặt trước mô hình, không có bộ lọc trên đầu ra. Chúng tôi không chặn, không phân loại, không viết lại. Bạn nhận đúng hành vi của chính nền tảng — với một mô hình trọng số mở cấp nghiên cứu, điều đó nghĩa là nó tham gia vào nghiên cứu an ninh, hư cấu người lớn hoặc bạo lực, suy luận y khoa và pháp lý, cùng những yêu cầu mà các endpoint thương mại vẫn từ chối theo phản xạ. Đây là một công cụ chuyên nghiệp nằm dưới Chính sách Sử dụng Có Trách nhiệm của chúng tôi, chứ không phải sự vắng mặt của quy tắc.
02Phả hệ MiMo: canh bạc của Xiaomi vào tiền huấn luyện ưu tiên suy luận
MiMo không phải một biến thể Llama đổi tên; nó là một dòng riêng từ đội MiMo của Xiaomi, và ý tưởng nền của nó đáng biết trước khi bạn đánh giá mô hình. Dòng này mở đầu với MiMo-7B (30 tháng 4, 2025, giấy phép MIT), với báo cáo kỹ thuật lập luận rằng phần lớn các phòng thí nghiệm coi suy luận là vấn đề hậu huấn luyện để gắn thêm bằng RL, và rằng cách nghĩ đó là ngược. Xiaomi tái cấu trúc tiền huấn luyện quanh nó: một hỗn hợp ba giai đoạn trên 25 nghìn tỷ token, giai đoạn hai chạy khoảng 70% toán và mã, giai đoạn ba trộn thêm dấu vết suy luận tổng hợp trong khi mở rộng ngữ cảnh từ 8K lên 32K — cộng với mục tiêu Multi-Token Prediction kiêm luôn đầu giải mã suy đoán.
Kết quả là một mô hình nền 7B hành xử như thứ lớn hơn nhiều. MiMo-7B-Base đạt 32.9 trên AIME 2024, nơi Qwen2.5-7B đạt 10.1, Gemma-2-9B đạt 0.0 và Llama-3.1-8B đạt 0.3. Hậu huấn luyện sau đó chạy RL trên 130.000 bài toán và bài mã kiểm chứng được với phần thưởng mã dựa theo độ khó của bài kiểm thử, thoát khỏi cái bẫy phần thưởng thưa vốn làm mất ổn định RL cho mã. Kết quả vượt lên trên o1-mini:
AIME 2025, số liệu do Xiaomi công bố trong báo cáo kỹ thuật MiMo (arXiv:2505.07608). MiMo-7B-RL cũng được ghi nhận 95.8 trên MATH-500 và 57.8 trên LiveCodeBench v5.
Gia đình này mở rộng chứ không trôi dạt: MiMo-VL-7B (tháng 6, 2025) gắn một bộ mã hóa Qwen2.5-ViT lên cùng bộ khung, và tháng 12, 2025 mang tới MiMo-Audio-7B cùng bản MoE đầu tiên, MiMo-V2-Flash (tổng 309B / 15B hoạt động, 27T token, độ chính xác hỗn hợp FP8). MiMo-V2-Pro tiếp nối vào tháng 3, 2026 với khoảng 1T / 42B hoạt động và ngữ cảnh 1M, sau nhiều tuần xuất hiện trên OpenRouter dưới tên "Hunter Alpha". MiMo-V2.5 và MiMo-V2.5-Pro ra mắt cùng nhau ngày 22 tháng 4, 2026, đều theo giấy phép MIT.
03Bên trong MiMo-V2.5-Pro: nền tảng trông như thế nào
Theo thẻ mô hình Xiaomi công bố, MiMo-V2.5-Pro là một mô hình Mixture-of-Experts thưa với 1.02 nghìn tỷ tham số tổng và 42 tỷ tham số hoạt động mỗi token trên 70 lớp — một lớp dày, 69 lớp MoE — và 384 expert định tuyến, 8 expert mỗi token. Kích thước ẩn là 6144, với kích thước trung gian MoE hẹp 2048.
Hai lựa chọn định hình cảm giác khi dùng nó. Ngăn xếp attention là lai: 10 lớp full attention và 60 lớp cửa sổ trượt với cửa sổ 128, cộng thêm một attention-sink bias học được. Xiaomi cho biết cách này cắt bộ nhớ KV-cache gần 7 lần so với toàn bộ attention toàn cục trong khi vẫn giữ chất lượng ngữ cảnh dài — đó là khác biệt giữa một cửa sổ dài trên danh nghĩa và một cửa sổ bạn đủ sức lấp đầy. Mô hình cũng đi kèm ba lớp Multi-Token Prediction, cho bộ giải mã một đầu suy đoán.
Huấn luyện dùng 27 nghìn tỷ token ở độ dài chuỗi gốc 32K với độ chính xác hỗn hợp FP8 (E4M3), rồi tinh chỉnh có giám sát, RL kiểu agent quy mô lớn và chưng cất on-policy từ nhiều mô hình thầy. Hãy nhớ chi tiết FP8 đó; nó là lập luận mạnh nhất cho việc phục vụ nền tảng này ở 8 bit.
Xiaomi ghi nhận mô hình đạt 57.2% trên SWE-bench Pro, 72.9 trên τ3-Bench cho việc dùng tool và 48.0% trên Humanity's Last Exam — số liệu của chính nhà phát hành trên mô hình chưa nén, được trích dẫn đúng như vậy.
Chúng tôi phục vụ cửa sổ 262.144 token, không phải trọn 1M của nền tảng — một mức ngữ cảnh chúng tôi bảo đảm được về tốc độ, thay vì một con số quảng cáo tụt dốc khi tải nặng.
04W8A16 nghĩa là gì, chính xác
Mọi mô hình trong danh mục này mang một hậu tố lượng tử hóa mô tả một phép biến đổi thật, đo được, chứ không phải một bậc marketing. Của chúng tôi là 3BIT-REAP, W4A16-AUTOROUND-REAP và W8A16. MiMo-V2.5-Pro thuộc loại thứ ba.
Ký hiệu này tách làm hai. W8 là độ chính xác của trọng số: mỗi tham số được lưu dưới dạng số nguyên 8-bit thay vì số thực 16-bit, với một hệ số tỷ lệ dùng chung cho từng nhóm nhỏ để dải động cục bộ của mỗi nhóm còn nguyên. A16 là độ chính xác của kích hoạt: các giá trị chảy giữa các lớp khi suy luận vẫn ở 16 bit. Trọng số bị nén; phép tính thì không.
Nửa sau đó làm một việc lặng lẽ nhưng quan trọng. Kích hoạt khó lượng tử hóa hơn trọng số nhiều: chúng chứa các kênh ngoại lai cực đoan — vài chiều có độ lớn áp đảo mọi thứ còn lại và gánh một phần không tương xứng hành vi của mô hình. Ép chúng xuống độ chính xác thấp là bạn cắt cụt đúng tín hiệu mình cần. Các sơ đồ chỉ lượng tử hóa trọng số né được vấn đề đó bằng cách để yên đường đi của kích hoạt, và đó là lý do công việc lượng tử hóa nghiêm túc đã hội tụ về hướng này.
Vậy câu hỏi thực dụng thu về một điều: một trọng số chịu được ít bit đến đâu?
05W8A16 so với W4A16 và 3-bit: mất mát thực sự đi đâu
Nghiên cứu công bố lớn nhất về việc này là "Give Me BF16 or Give Me Death"? Accuracy-Performance Trade-Offs in LLM Quantization của Neural Magic và Red Hat — hơn 500.000 lượt đánh giá trên dòng Llama-3.1 ở các mức 8B, 70B và 405B. Kết quả chính, theo số liệu của họ:
| Định dạng | Cái gì bị nén | Mức phục hồi so với BF16 |
|---|---|---|
| W8A8-FP (8-bit) | Trọng số + kích hoạt, dạng số thực | ~99.75% trung bình — "gần như không mất mát" |
| W8A8-INT (8-bit) | Trọng số + kích hoạt, dạng số nguyên | 99–100% ở 8B/70B; 98.2–99.3% ở 405B |
| W4A16-INT (4-bit) | Chỉ trọng số | 98–99.4% (8B); 98.6–99.8% (70B) |
Số liệu do Neural Magic / Red Hat công bố (arXiv:2411.02355) trên các mô hình Llama-3.1 — nó cho thấy hình dạng của sự đánh đổi, không phải điểm số của mô hình này.
Đọc thẳng thắn, đó trông như lập luận chống lại việc bận tâm: 4-bit phục hồi 98–99%, vậy tội gì để ý? Bởi vì đó là các benchmark trắc nghiệm học thuật, gần như là công cụ tệ nhất hiện có để phát hiện thiệt hại do lượng tử hóa. Một câu hỏi benchmark chỉ có một đáp án đúng, đạt được trong một hai token, còn sai số lượng tử hóa là nhiễu nhỏ, trung bình xấp xỉ bằng không, trên mọi logit; với một câu hỏi ngắn có biên rộng, nhiễu đó bị hấp thụ.
Giờ hãy viết 4.000 token của một tài liệu kỹ thuật, giữ một giọng văn xuyên suốt câu chuyện 40.000 token, hoặc xuất JSON phải hợp lệ ngay lần đầu. Cùng loại nhiễu ấy giờ được lấy mẫu hàng nghìn lần liên tiếp, mỗi mẫu lại điều kiện hóa mẫu kế tiếp. Kiểu hỏng không phải là một câu trả lời sai — mà là sự trôi dạt: cái nắm giữ chỉ dẫn từ lượt đầu lỏng dần, một nhân vật thôi giống chính mình quanh token thứ 3.000, một dấu ngoặc đóng không bao giờ tới.
Số bit thực sự đi đâu
Sai số lượng tử hóa không trải đều trên các năng lực của mô hình; nó dồn vào phần đuôi. Những hành vi có khối lượng lớn — tiếng Anh đúng ngữ pháp, hình dạng một hàm Python, một nghìn sự kiện phổ biến nhất về thế giới — được mã hóa dư thừa qua nhiều trọng số và sống sót qua gần như mọi thứ. Những góc nhỏ, tinh chỉnh kỹ của phân bố trọng số mới là nơi giữ thứ hiếm: chữ ký chính xác của một API ít người biết, nhịp điệu của một tác giả cụ thể, khác biệt giữa hai CVE liền kề. Đó chính là những giá trị mà một lưới thô làm tròn lẫn vào nhau.
Bước từ 4 bit xuống 3 là chỗ chuyện này thôi là một khoản thuế và trở thành một vách đá. Định luật tỷ lệ suy luận k-bit của Dettmers và Zettlemoyer thấy 4-bit là điểm tối đa hóa độ chính xác zero-shot trên mỗi bit bộ nhớ mô hình, và suy giảm chiếm ưu thế bên dưới mức đó. Bốn bit cho 16 mức mỗi nhóm; ba bit cho 8. Bạn đang giảm một nửa độ phân giải của một lưới vốn đã thô, và sai số làm tròn trên mỗi trọng số tăng khoảng gấp đôi.
Phép tính quyết định vấn đề
So sánh đáng làm là một phép tính, không phải một benchmark. Thứ sống sót sau khi nén xấp xỉ bằng số tham số × số bit mỗi tham số — thể tích mang thông tin của tệp trọng số. Lấy hai nền tảng giả định có chất lượng trên mỗi tham số ngang nhau:
- Nền tảng A: 400B tham số ở 3 bit → khoảng 150 GB trọng số được giữ lại.
- Nền tảng B: 160B tham số ở 8 bit → khoảng 160 GB trọng số được giữ lại.
Xét theo số tham số thô, A thắng hai rưỡi trên một — con số mà thẻ mô hình luôn đưa lên đầu. Xét theo thông tin được giữ lại, hai bên tương đương, và B còn có một lợi thế cấu trúc: trọng số của nó nằm trên một lưới đủ mịn để hành vi phần đuôi còn nguyên vẹn, trong khi phần đuôi của A đã bị lượng tử hóa nhập vào phần thân. A biết nhiều thứ hơn; B biết những gì nó biết sắc nét hơn. Với sinh văn bản dài, định dạng chính xác, kiểm soát văn phong và bám sát trung thực ngữ cảnh dài, hãy chọn B.
Đây là phép tính minh họa, không phải benchmark: nó cho thấy vì sao "nền tảng lớn hơn" và "mô hình được phục vụ tốt hơn" là hai khẳng định khác nhau.
06Vì sao 27 nghìn tỷ token huấn luyện khiến lượng tử hóa quyết liệt tệ hơn
Một kết quả thứ hai, ít trực giác hơn, liên quan trực tiếp tới nền tảng này. Bài ICLR 2025 Scaling Laws for Precision của Kumar và cộng sự tìm thấy rằng mô hình được huấn luyện trên càng nhiều dữ liệu thì lượng tử hóa sau huấn luyện càng làm hại nó nhiều. Độ chính xác thấp làm giảm số tham số hữu hiệu của mô hình, và mức suy giảm đó tăng theo lượng dữ liệu tiền huấn luyện đã hấp thụ — đủ xa để dữ liệu tiền huấn luyện thêm vào có thể có hại ròng nếu bạn định lượng tử hóa quyết liệt, bởi bạn đang đặt xuống những cấu trúc mịn mà lưới sẽ xóa đi.
Một mô hình huấn luyện trên 5T token có cấu trúc trọng số thô, dư thừa và còn nhiều dư địa. Một mô hình huấn luyện trên 27T token — ngân sách của MiMo-V2.5-Pro — đã dùng lượng dữ liệu dôi ra để viết những phân biệt tinh vi hơn vào các giá trị trọng số chính xác hơn, và đó đúng là thứ mà một lưới 3-bit không biểu diễn nổi.
Rồi còn chi tiết FP8 ở mục 03, lập luận sạch sẽ nhất trong bài này. MiMo-V2.5-Pro được tiền huấn luyện ở độ chính xác hỗn hợp FP8. Trọng số của nó được định hình ngay từ đầu bởi một bộ tối ưu làm việc ở khoảng tám bit độ chính xác. Vì vậy phục vụ nó với trọng số 8-bit không phải một thao tác mất mát chắp vá lên một mô hình 16-bit — nó gần như là trả trọng số về đúng chế độ số học mà chúng đã được học. Bên dưới bit thứ tám gần như không còn cấu trúc mịn nào để mất. Không thể nói như vậy với những trọng số bị ép xuống ba bit.
07REAP: vì sao cắt tỉa expert là một kiểu mất mát khác với làm tròn
Hai trong ba bậc mang hậu tố REAP — một thao tác khác hẳn về bản chất so với lượng tử hóa. REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) là phép nén một lần cho các mô hình MoE thưa: nó chấm điểm từng expert theo giá trị cổng của router và chuẩn kích hoạt của expert, rồi xóa những expert điểm thấp nhất. Cerebras báo cáo kết quả gần như không mất mát trên sinh mã và gọi tool ngay cả khi cắt tỉa 50% số expert.
Chúng tôi dùng REAP đúng vì lý do nó tồn tại: với những nền tảng lớn nhất, đó là thứ khiến chúng phục vụ được. Nhưng hãy để ý khác biệt về bản chất. Lượng tử hóa làm mờ mọi trọng số một chút; cắt tỉa xóa hẳn cả expert. Nếu khối lượng công việc của bạn định tuyến nhiều tới một năng lực từng nằm trong một expert hiếm được chọn — một ngôn ngữ lập trình ít dùng, một vốn từ chuyên ngành — thì nó không bị suy giảm. Nó biến mất, và không lời nhắc nào lấy lại được. Số trung bình vẫn tuyệt vời; trường hợp phần đuôi của bạn thì có thể không.
MiMo-V2.5-Pro · W8A16 không mang hậu tố REAP. Cả 384 expert đều có mặt, và router chọn từ đúng tập đầy đủ mà nền tảng đã được huấn luyện cùng.
| Bậc | Số bit trọng số | Expert | Bạn đánh đổi gì |
|---|---|---|---|
| W8A16 | 8 | Còn đủ | Không đánh đổi gì về cấu trúc. Đây là bậc độ trung thực. |
| W4A16-AUTOROUND-REAP | 4 | Bị cắt tỉa | Chi tiết trọng số tinh vi cộng các expert ít lưu lượng, đổi lấy một nền tảng lớn hơn nhiều trong cùng khoảng giá. |
| 3BIT-REAP | 3 | Bị cắt tỉa | Phần lớn độ phân giải trọng số cộng các expert ít lưu lượng — cái giá để chạy những nền tảng lớn nhất ở tốc độ thật. |
Bậc ở giữa xứng đáng được nói công bằng. AutoRound không phải làm tròn ngây thơ: phương pháp của Intel (arXiv:2309.05516) dùng gradient descent có dấu qua khoảng 200 bước để tinh chỉnh các quyết định làm tròn và khoảng cắt cho từng nhóm trọng số, và được ghi nhận gần như không mất mát ở 4 bit trong hầu hết bối cảnh, vượt GPTQ, AWQ, HQQ và OmniQuant trên phần lớn cấu hình được thử. Một mô hình W4A16-AUTOROUND là một mô hình 4-bit thực sự tốt. Nó vẫn là một mô hình 4-bit.
08Ai nên chọn bậc 8-bit — và ai thì không
MiMo-V2.5-Pro · W8A16 nằm ở mức giá sàn của cả danh mục — $0.50 vào / $2.00 ra mỗi triệu token, cùng khoảng với các mô hình 4-bit ở bậc nhập môn và bằng khoảng một phần tư giá đầu vào của mô hình đắt nhất chúng tôi phục vụ. Bạn không trả thêm tiền cho độ trung thực; bạn đang chọn một trục khác của cùng một ngân sách.
Hãy chọn nó khi
- Độ dài đầu ra chính là công việc. Viết kỹ thuật dài, hư cấu dài cỡ chương sách, rà soát trọn bộ tài liệu — mỗi token sinh ra là một chỗ nhiễu do nén cộng dồn.
- Giọng văn và tính nhất quán quan trọng. Xây dựng nhân vật, giọng thương hiệu, một văn phong giữ suốt một phiên dài. Văn phong sống ở phần đuôi, và phần đuôi là thứ lượng tử hóa thô ăn trước tiên.
- Đầu ra có cấu trúc phải hợp lệ ngay lần đầu. Mô hình hỗ trợ
json_schemavàresponse_format; bám đúng schema là một thuộc tính của độ chính xác, và mỗi lần thử lại tránh được là tiền và độ trễ tiết kiệm được. - Bạn đang lấp đầy ngữ cảnh. Bám chỉ dẫn ở token thứ 200.000 khó hơn ở token thứ 2.000, và nó suy giảm theo độ chính xác trọng số — cũng như một dấu vết suy luận dài, nơi sai sót cộng dồn y hệt.
- Công việc vốn dĩ không kiểm duyệt được. Nghiên cứu an ninh, red-teaming, hư cấu không bị lọc, phân tích y khoa hay pháp lý nhạy cảm — nơi một câu trả lời né tránh còn tệ hơn không có câu trả lời.
Hãy chọn thứ khác khi
- Bạn cần thị giác. Mô hình này chỉ xử lý văn bản; mô hình cùng dòng MiMo-V2.5 · W8A16 có thị giác ở cùng mức giá và cùng bậc.
- Bạn cần kiến thức thế giới rộng nhất trên các truy vấn ngắn. Đó là vùng mà số tham số dôi ra của một nền tảng 3-bit lớn hơn nhiều sẽ thắng, và thiệt hại lượng tử hóa của nó gần như không lộ ra.
- Khối lượng công việc của bạn là phân loại ngắn với số lượng lớn. Thiệt hại lượng tử hóa gần như vô hình ở đó — hãy mua thứ nào nhanh nhất.
09Gọi API MiMo không kiểm duyệt
Nếu mã của bạn đang dùng OpenAI SDK, đổi base URL và model id là toàn bộ việc chuyển đổi:
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MiMo-V2.5-Pro-W8A16",
"messages": [
{"role": "user", "content": "Draft the threat model section."}
],
"reasoning_effort": "high",
"max_tokens": 16384,
"stream": true
}'/v1/messages và /v1/responses nhận cùng model id và cùng bộ khả năng. Tham chiếu tham số, schema gọi tool, ví dụ đầu ra có cấu trúc và một playground trực tiếp đều nằm trong tài liệu API của Shannon AI.
| Khả năng | MiMo-V2.5-Pro · W8A16 |
|---|---|
| Cửa sổ ngữ cảnh | 262.144 token |
| Đầu ra tối đa mỗi yêu cầu | 16.384 token |
| Streaming | Có — cả ba phương ngữ |
| Gọi tool | Có |
Suy luận / reasoning_effort | Có |
Đầu ra có cấu trúc json_schema | Có |
response_format | Có |
| Thị giác / đầu vào ảnh | Không — hãy dùng MiMo-V2.5 |
| Lớp từ chối / bộ lọc đầu ra | Không có |
| Giá mỗi 1M token | $0.50 vào / $2.00 ra |
Mọi số liệu bên ngoài ở đây đều do người khác công bố, không phải chúng tôi, và đều được dẫn nguồn trong bài. Các kết quả phục hồi sau lượng tử hóa đến từ những nghiên cứu trên dòng Llama: chúng mô tả hình dạng của sự đánh đổi, không phải điểm số của mô hình này.
10Câu hỏi thường gặp
API MiMo không kiểm duyệt là gì?
Đó là endpoint của Shannon AI cho MiMo-V2.5-Pro, mô hình Mixture-of-Experts trọng số mở của Xiaomi, được phục vụ trên cụm GPU của riêng chúng tôi, không lớp từ chối và không lọc đầu ra. Bạn gọi nó qua /v1/chat/completions, /v1/messages và /v1/responses, với ngữ cảnh 262.144 token và 16.384 token đầu ra mỗi yêu cầu.
W8A16 nghĩa là gì, và vì sao nó quan trọng?
W8A16 nghĩa là trọng số được lưu ở 8 bit mỗi tham số trong khi kích hoạt được tính ở 16 bit. Đây là bậc lượng tử hóa có độ trung thực cao nhất trong danh mục của chúng tôi. Các nghiên cứu đã công bố cho thấy định dạng 8-bit chỉ lượng tử hóa trọng số giữ lại gần như toàn bộ độ chính xác của mô hình gốc, trong khi 4-bit đánh đổi một chút độ trung thực lấy bộ nhớ và 3-bit đánh đổi một lượng đáng kể.
Mô hình nhỏ hơn ở 8-bit có thể thắng mô hình lớn hơn ở 3-bit không?
Thường là có. Thứ sống sót sau khi nén xấp xỉ bằng số tham số nhân với số bit mỗi tham số, và sai số lượng tử hóa dồn vào những hành vi hiếm ở phần đuôi. Mô hình giữ ở 8 bit vẫn mạch lạc qua văn bản dài, giữ đúng định dạng và giữ được kiến thức phần đuôi; mô hình lớn hơn bị ép xuống 3 bit vẫn giữ điểm benchmark tổng quát nhưng mất những phẩm chất đó.
MiMo-V2.5-Pro có hỗ trợ thị giác hoặc đầu vào ảnh không?
Không. MiMo-V2.5-Pro trên Shannon AI chỉ xử lý văn bản. Nó có hỗ trợ gọi tool, suy luận với reasoning_effort, đầu ra có cấu trúc JSON schema và response_format. Nếu bạn cần đầu vào ảnh, hãy dùng mô hình cùng dòng MiMo-V2.5 W8A16, vốn có thị giác ở cùng mức giá.
API MiMo không kiểm duyệt tốn bao nhiêu?
$0.50 mỗi triệu token đầu vào và $2.00 mỗi triệu token đầu ra. Đó là mức giá sàn trong danh mục Shannon AI, khiến MiMo-V2.5-Pro là cách rẻ nhất để mua độ trung thực 8-bit trên gateway này.
Thử API MiMo không kiểm duyệt
Độ trung thực tám bit, ngữ cảnh 262K, không lớp từ chối — ở mức giá sàn của danh mục.
Đọc tài liệu API Duyệt tất cả mô hìnhVận hành theo Chính sách Sử dụng Có Trách nhiệm của Shannon AI
Nguồn: báo cáo kỹ thuật MiMo, arXiv:2505.07608 · thẻ mô hình MiMo-V2.5-Pro (Xiaomi) · "Give Me BF16 or Give Me Death"?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · định luật tỷ lệ suy luận k-bit, arXiv:2212.09720 · Scaling Laws for Precision, Kumar và cộng sự, ICLR 2025. Mọi số liệu benchmark đều đúng như tác giả của chúng công bố. Shannon AI là sản phẩm của Shannon Lab LLC, New Mexico, Hoa Kỳ.