API MiMo χωρίς λογοκρισία σε πιστότητα 8 bit
Το θεμέλιο MiMo της Xiaomi, χτισμένο πρώτα γύρω από τη συλλογιστική, σερβιρισμένο χωρίς επίπεδο άρνησης σε W8A16 — τη βαθμίδα κβαντισμού υψηλότερης πιστότητας που τρέχουμε — στην τιμή βάσης του καταλόγου.
Με λίγα λόγια
Το MiMo-V2.5-Pro · W8A16 είναι το MiMo-V2.5-Pro ανοιχτών βαρών της Xiaomi, σερβιρισμένο στο δικό μας cluster GPU σε βάρη 8 bit / ενεργοποιήσεις 16 bit — τη λιγότερο συμπιεσμένη βαθμίδα στον δωδεκαμελή κατάλογό μας. Context 262.144 tokens, 16.384 tokens εξόδου ανά αίτημα, κλήση εργαλείων, συλλογιστική, δομημένη έξοδο JSON-schema, streaming σε τρεις διαλέκτους API, και χωρίς επίπεδο άρνησης ή φιλτράρισμα εξόδου, στα $0.50 in / $2.00 out ανά εκατομμύριο tokens — η βάση του καταλόγου. Μόνο κείμενο· χρησιμοποίησε το MiMo-V2.5 · W8A16 για εικόνες.
Οι περισσότεροι κατάλογοι σού πουλάνε πλήθος παραμέτρων. Είναι λάθος νούμερο για να ψωνίζεις, γιατί κάθε μεγάλο μοντέλο ανοιχτών βαρών που μπορείς πραγματικά να αντέξεις έχει συμπιεστεί για να χωρέσει κάπου. Η ειλικρινής ερώτηση δεν είναι «πόσο μεγάλο ήταν πριν το στριμώξουν;» αλλά «πόσο από αυτό είναι ακόμα εδώ;». Αυτό το άρθρο αφορά αυτή την ερώτηση, και το μοντέλο της σειράς μας όπου η απάντηση είναι σχεδόν όλο.
01Τι σου δίνει πραγματικά το API MiMo χωρίς λογοκρισία
Το API MiMo χωρίς λογοκρισία είναι ένα model id, το MiMo-V2.5-Pro-W8A16, προσβάσιμο μέσω τριών διαλέκτων που απευθύνονται στα ίδια βάρη στο δικό μας cluster GPU: /v1/chat/completions, /v1/messages και /v1/responses. Και οι τρεις κάνουν streaming και υποστηρίζουν κλήση εργαλείων και συλλογιστική.
Χωρίς λογοκρισία έχει στενή σημασία εδώ: κανένα επίπεδο άρνησης μπροστά από το μοντέλο, κανένα φίλτρο στην έξοδό του. Δεν παρεμβαίνουμε, δεν ταξινομούμε, δεν ξαναγράφουμε. Παίρνεις τη συμπεριφορά του ίδιου του θεμελίου — που για ένα μοντέλο ανοιχτών βαρών ερευνητικού επιπέδου σημαίνει ότι καταπιάνεται με έρευνα ασφάλειας, ενήλικη ή βίαιη μυθοπλασία, ιατρική και νομική συλλογιστική, και με τα αιτήματα που τα φιλοξενούμενα εμπορικά endpoints απορρίπτουν αντανακλαστικά. Είναι επαγγελματικό εργαλείο υπό την Πολιτική Υπεύθυνης Χρήσης μας, όχι απουσία κανόνων.
02Η καταγωγή MiMo: το στοίχημα της Xiaomi σε προεκπαίδευση με προτεραιότητα τη συλλογιστική
Το MiMo δεν είναι παράγωγο του Llama με νέο όνομα· είναι μια ξεχωριστή καταγωγή από την ομάδα MiMo της Xiaomi, και η ιδρυτική της ιδέα μετράει πριν αξιολογήσεις το μοντέλο. Ξεκινά με το MiMo-7B (30 Απριλίου 2025, με άδεια MIT), του οποίου η τεχνική αναφορά υποστηρίζει ότι τα περισσότερα εργαστήρια αντιμετωπίζουν τη συλλογιστική ως πρόβλημα μετεκπαίδευσης που βιδώνεται με ενισχυτική μάθηση, και ότι αυτό είναι ανάποδο. Η Xiaomi αναδιάρθρωσε αντ' αυτού την προεκπαίδευση γύρω από αυτήν: ένα μείγμα τριών σταδίων σε 25 τρισεκατομμύρια tokens, με το δεύτερο στάδιο να τρέχει περίπου 70% μαθηματικά και κώδικα και το τρίτο να διπλώνει μέσα συνθετικά ίχνη συλλογιστικής επεκτείνοντας το context από 8K σε 32K — συν έναν στόχο Multi-Token Prediction που λειτουργεί και ως κεφαλή κερδοσκοπικής αποκωδικοποίησης.
Το αποτέλεσμα ήταν ένα βασικό μοντέλο 7B που συμπεριφερόταν σαν κάτι πολύ μεγαλύτερο. Το MiMo-7B-Base σκόραρε 32.9 στο AIME 2024 εκεί που το Qwen2.5-7B σκόραρε 10.1, το Gemma-2-9B 0.0 και το Llama-3.1-8B 0.3. Η μετεκπαίδευση έτρεξε στη συνέχεια ενισχυτική μάθηση πάνω σε 130.000 επαληθεύσιμα προβλήματα μαθηματικών και κώδικα με ανταμοιβή κώδικα οδηγούμενη από τη δυσκολία των δοκιμών, ξεφεύγοντας από την παγίδα της αραιής ανταμοιβής που αποσταθεροποιεί την ενισχυτική μάθηση σε κώδικα. Το αποτέλεσμα προσγειώθηκε μπροστά από το o1-mini:
AIME 2025, νούμερα δηλωμένα από τη Xiaomi στην τεχνική αναφορά MiMo (arXiv:2505.07608). Το MiMo-7B-RL ανέφερε επίσης 95.8 στο MATH-500 και 57.8 στο LiveCodeBench v5.
Η οικογένεια πλάτυνε αντί να παρασυρθεί: το MiMo-VL-7B (Ιούνιος 2025) έβαλε έναν κωδικοποιητή Qwen2.5-ViT στην ίδια ραχοκοκαλιά, και ο Δεκέμβριος 2025 έφερε το MiMo-Audio-7B συν την πρώτη εγγραφή MoE, το MiMo-V2-Flash (309B συνολικά / 15B ενεργά, 27T tokens, μεικτή ακρίβεια FP8). Το MiMo-V2-Pro ακολούθησε τον Μάρτιο 2026 σε περίπου 1T / 42B ενεργά με context 1M, μετά από εβδομάδες στο OpenRouter ως «Hunter Alpha». Τα MiMo-V2.5 και MiMo-V2.5-Pro κυκλοφόρησαν μαζί στις 22 Απριλίου 2026, και τα δύο με MIT.
03Μέσα στο MiMo-V2.5-Pro: πώς μοιάζει το θεμέλιο
Σύμφωνα με τον δημοσιευμένο οδηγό μοντέλου της Xiaomi, το MiMo-V2.5-Pro είναι ένα αραιό μοντέλο Mixture-of-Experts με 1,02 τρισεκατομμύρια συνολικές παραμέτρους και 42 δισεκατομμύρια ενεργές ανά token σε 70 στρώματα — ένα πυκνό, 69 MoE — και 384 δρομολογημένους ειδικούς, 8 ανά token. Το κρυφό μέγεθος είναι 6144, με στενό ενδιάμεσο μέγεθος MoE 2048.
Δύο επιλογές διαμορφώνουν το πώς νιώθεις το μοντέλο στη χρήση. Η στοίβα προσοχής είναι υβριδική: 10 στρώματα πλήρους προσοχής και 60 στρώματα κυλιόμενου παραθύρου με παράθυρο 128, συν μια εκπαιδεύσιμη μεροληψία attention-sink. Η Xiaomi αναφέρει ότι αυτό κόβει την αποθήκευση της κρυφής μνήμης KV κοντά στο 7x σε σχέση με καθολική προσοχή παντού, κρατώντας παράλληλα την ποιότητα μακρού context — η διαφορά ανάμεσα σε ένα παράθυρο που είναι ονομαστικά μακρύ και σε ένα που μπορείς να αντέξεις να γεμίσεις. Έχει επίσης τρία στρώματα Multi-Token Prediction, δίνοντας στον αποκωδικοποιητή μια κερδοσκοπική κεφαλή.
Η εκπαίδευση έγινε σε 27 τρισεκατομμύρια tokens σε εγγενές μήκος ακολουθίας 32K με μεικτή ακρίβεια FP8 (E4M3), και μετά εποπτευόμενη λεπτορρύθμιση, ενισχυτική μάθηση αντζεντικής κλίμακας και on-policy απόσταξη από πολλούς δασκάλους. Κράτα αυτή τη λεπτομέρεια για το FP8· είναι το ισχυρότερο μεμονωμένο επιχείρημα για να σερβίρεις αυτό το θεμέλιο στα 8 bit.
Η Xiaomi αναφέρει το μοντέλο στο 57.2% στο SWE-bench Pro, 72.9 στο τ3-Bench για χρήση εργαλείων και 48.0% στο Humanity's Last Exam — τα δικά της νούμερα για το ασυμπίεστο μοντέλο, παρατιθέμενα ως τέτοια.
Σερβίρουμε παράθυρο 262.144 tokens, όχι το πλήρες 1M του θεμελίου — ένα context που μπορούμε να εγγυηθούμε με ταχύτητα, αντί για ένα εντυπωσιακό νούμερο που εκφυλίζεται υπό φορτίο.
04Τι σημαίνει ακριβώς W8A16
Κάθε μοντέλο σε αυτόν τον κατάλογο κουβαλά μια κατάληξη κβαντισμού που περιγράφει έναν πραγματικό, μετρήσιμο μετασχηματισμό και όχι μια βαθμίδα μάρκετινγκ. Οι δικές μας είναι 3BIT-REAP, W4A16-AUTOROUND-REAP και W8A16. Το MiMo-V2.5-Pro είναι η τρίτη.
Ο συμβολισμός σπάει στα δύο. Το W8 είναι η ακρίβεια των βαρών: κάθε παράμετρος αποθηκεύεται ως ακέραιος 8 bit αντί για δεκαδικό 16 bit, με έναν κοινό συντελεστή κλίμακας ανά μικρή ομάδα ώστε να επιβιώνει το τοπικό δυναμικό εύρος κάθε ομάδας. Το A16 είναι η ακρίβεια των ενεργοποιήσεων: οι τιμές που ρέουν ανάμεσα στα στρώματα κατά την εξαγωγή συμπερασμάτων μένουν στα 16 bit. Τα βάρη συμπιέζονται· η αριθμητική όχι.
Αυτό το δεύτερο μισό κάνει αθόρυβη, σημαντική δουλειά. Οι ενεργοποιήσεις είναι πολύ δυσκολότερες να κβαντιστούν από τα βάρη: περιέχουν ακραία κανάλια outlier — λίγες διαστάσεις των οποίων τα μεγέθη επισκιάζουν όλα τα υπόλοιπα και που κουβαλούν δυσανάλογο μερίδιο της συμπεριφοράς του μοντέλου. Σπρώξε τα σε χαμηλή ακρίβεια και ψαλιδίζεις ακριβώς το σήμα που χρειαζόσουν. Τα σχήματα μόνο για βάρη παρακάμπτουν το πρόβλημα αφήνοντας ήσυχο το μονοπάτι των ενεργοποιήσεων, και γι' αυτό η σοβαρή δουλειά στον κβαντισμό έχει συγκλίνει σε αυτά.
Έτσι το πρακτικό ερώτημα στενεύει σε ένα: πόσο λίγα bit αντέχει ένα βάρος;
05W8A16 έναντι W4A16 έναντι 3 bit: πού πάει πραγματικά η απώλεια
Η μεγαλύτερη δημοσιευμένη μελέτη πάνω σε αυτό είναι το «Give Me BF16 or Give Me Death»? Accuracy-Performance Trade-Offs in LLM Quantization των Neural Magic και Red Hat — πάνω από 500.000 αξιολογήσεις στην οικογένεια Llama-3.1 σε 8B, 70B και 405B. Το βασικό τους αποτέλεσμα, με τα δικά τους νούμερα:
| Μορφή | Τι συμπιέζεται | Δηλωμένη ανάκτηση έναντι BF16 |
|---|---|---|
| W8A8-FP (8 bit) | Βάρη + ενεργοποιήσεις, δεκαδικά | ~99.75% μ.ό. — «ουσιαστικά χωρίς απώλειες» |
| W8A8-INT (8 bit) | Βάρη + ενεργοποιήσεις, ακέραια | 99–100% στα 8B/70B· 98.2–99.3% στα 405B |
| W4A16-INT (4 bit) | Μόνο βάρη | 98–99.4% (8B)· 98.6–99.8% (70B) |
Νούμερα δηλωμένα από τους Neural Magic / Red Hat (arXiv:2411.02355) σε μοντέλα Llama-3.1 — το σχήμα της ανταλλαγής, όχι το σκορ αυτού του μοντέλου.
Διαβασμένο ειλικρινά, αυτό μοιάζει με επιχείρημα κατά του να νοιάζεσαι: τα 4 bit ανακτούν 98–99%, άρα γιατί να δώσεις σημασία; Επειδή αυτά είναι ακαδημαϊκά benchmark πολλαπλής επιλογής, από τα χειρότερα διαθέσιμα όργανα για να εντοπίσεις ζημιά από κβαντισμό. Μια ερώτηση benchmark έχει μία σωστή απάντηση προσβάσιμη σε ένα ή δύο tokens, και το σφάλμα κβαντισμού είναι μικρός θόρυβος περίπου μηδενικού μέσου πάνω σε κάθε logit· σε μια σύντομη ερώτηση με μεγάλο περιθώριο, αυτός ο θόρυβος απορροφάται.
Τώρα γράψε 4.000 tokens ενός τεχνικού εγγράφου, κράτα μια φωνή σε μια ιστορία 40.000 tokens, ή βγάλε JSON που πρέπει να επικυρωθεί με την πρώτη. Ο ίδιος θόρυβος δειγματοληπτείται χιλιάδες φορές στη σειρά, με κάθε δείγμα να προϋποθέτει το επόμενο. Ο τρόπος αποτυχίας δεν είναι μια λάθος απάντηση — είναι η παρέκκλιση: μια χαλαρωμένη λαβή στην αρχική οδηγία, ένας χαρακτήρας που παύει να ακούγεται σαν τον εαυτό του γύρω στο token 3.000, ένα κλείσιμο αγκύλης που δεν έρχεται ποτέ.
Πού πάνε πραγματικά τα bit
Το σφάλμα κβαντισμού δεν απλώνεται ομοιόμορφα στις ικανότητες ενός μοντέλου· συγκεντρώνεται στην ουρά. Οι συμπεριφορές μεγάλης μάζας — η γραμματική μιας γλώσσας, το σχήμα μιας συνάρτησης Python, τα χίλια κορυφαία γεγονότα για τον κόσμο — είναι κωδικοποιημένες πλεοναστικά σε πολλά βάρη και επιβιώνουν σχεδόν από τα πάντα. Οι λεπτά ρυθμισμένες γωνίες μικρού μεγέθους της κατανομής των βαρών κρατούν τα σπάνια: η ακριβής υπογραφή ενός αφανούς API, η καντέντσα ενός συγκεκριμένου συγγραφέα, η διαφορά ανάμεσα σε δύο γειτονικά CVE. Αυτές είναι οι τιμές που ένα χοντρό πλέγμα στρογγυλοποιεί τη μία πάνω στην άλλη.
Το βήμα από τα 4 bit στα 3 είναι εκεί που αυτό παύει να είναι φόρος και γίνεται γκρεμός. Οι νόμοι κλίμακας εξαγωγής συμπερασμάτων k-bit των Dettmers και Zettlemoyer βρήκαν ότι τα 4 bit είναι το σημείο που μεγιστοποιεί την ακρίβεια zero-shot ανά bit μνήμης μοντέλου, με τον εκφυλισμό να κυριαρχεί κάτω από αυτό. Τα τέσσερα bit δίνουν 16 επίπεδα ανά ομάδα· τα τρία δίνουν 8. Υποδιπλασιάζεις την ανάλυση ενός ήδη χοντρού πλέγματος, και το σφάλμα στρογγυλοποίησης ανά βάρος περίπου διπλασιάζεται.
Η αριθμητική που το κρίνει
Η σύγκριση που αξίζει να γίνει είναι αριθμητική, όχι benchmark. Αυτό που επιβιώνει από τη συμπίεση είναι κατά προσέγγιση παράμετροι × bit ανά παράμετρο — ο όγκος του αρχείου βαρών που κουβαλά πληροφορία. Πάρε δύο υποθετικά θεμέλια ίδιας ποιότητας ανά παράμετρο:
- Θεμέλιο A: 400B παράμετροι στα 3 bit → περίπου 150 GB διατηρημένου βάρους.
- Θεμέλιο B: 160B παράμετροι στα 8 bit → περίπου 160 GB διατηρημένου βάρους.
Με το ωμό πλήθος παραμέτρων το A κερδίζει δυόμισι προς ένα — το νούμερο με το οποίο ανοίγει ο οδηγός μοντέλου. Με τη διατηρημένη πληροφορία είναι ισοδύναμα, και το B έχει επιπλέον ένα δομικό πλεονέκτημα: τα βάρη του κάθονται σε πλέγμα αρκετά λεπτό ώστε η συμπεριφορά της ουράς του να είναι άθικτη, ενώ η ουρά του A έχει κβαντιστεί μέσα στον κύριο όγκο. Το A ξέρει περισσότερα πράγματα· το B ξέρει πιο καθαρά αυτά που ξέρει. Για μακρά παραγωγή, ακριβή μορφοποίηση, στιλιστικό έλεγχο και πιστή τήρηση μακρού context, πάρε το B.
Ενδεικτική αριθμητική, όχι benchmark: δείχνει γιατί το «μεγαλύτερο θεμέλιο» και το «καλύτερα σερβιρισμένο μοντέλο» είναι διαφορετικοί ισχυρισμοί.
06Γιατί τα 27 τρισεκατομμύρια tokens εκπαίδευσης κάνουν τον επιθετικό κβαντισμό χειρότερο
Ένα δεύτερο, λιγότερο διαισθητικό αποτέλεσμα αφορά άμεσα αυτό το θεμέλιο. Η εργασία Scaling Laws for Precision των Kumar κ.ά. στο ICLR 2025 βρίσκει ότι όσο περισσότερα δεδομένα είδε ένα μοντέλο στην εκπαίδευση, τόσο μεγαλύτερη ζημιά του κάνει ο κβαντισμός μετά την εκπαίδευση. Η χαμηλή ακρίβεια μειώνει το ενεργό πλήθος παραμέτρων ενός μοντέλου, και αυτός ο εκφυλισμός μεγαλώνει με τα δεδομένα προεκπαίδευσης που απορροφήθηκαν — τόσο πολύ ώστε επιπλέον δεδομένα προεκπαίδευσης μπορεί να είναι καθαρά επιζήμια αν σκοπεύεις να κβαντίσεις επιθετικά, επειδή στρώνεις λεπτή δομή που το πλέγμα θα σβήσει.
Ένα μοντέλο εκπαιδευμένο σε 5T tokens έχει χοντρή, πλεονάζουσα δομή βαρών και περίσσευμα να δώσει. Ένα μοντέλο εκπαιδευμένο σε 27T tokens — ο προϋπολογισμός του MiMo-V2.5-Pro — ξόδεψε αυτά τα επιπλέον δεδομένα γράφοντας λεπτότερες διακρίσεις σε πιο ακριβείς τιμές βαρών, που είναι ακριβώς αυτό που ένα πλέγμα 3 bit δεν μπορεί να αναπαραστήσει.
Και μετά υπάρχει το γεγονός του FP8 από την ενότητα 03, το καθαρότερο επιχείρημα αυτού του άρθρου. Το MiMo-V2.5-Pro προεκπαιδεύτηκε σε μεικτή ακρίβεια FP8. Τα βάρη του διαμορφώθηκαν εξαρχής από έναν βελτιστοποιητή που δούλευε σε περίπου οκτώ bit ακρίβειας. Το να το σερβίρεις σε βάρη 8 bit δεν είναι επομένως μια απωλεστική εκ των υστέρων σκέψη επιβεβλημένη σε ένα μοντέλο 16 bit — είναι κοντά στο να επιστρέφεις τα βάρη στο αριθμητικό καθεστώς μέσα στο οποίο μαθεύτηκαν. Λίγη λεπτή δομή υπάρχει κάτω από το όγδοο bit για να χαθεί. Το ίδιο δεν μπορεί να ειπωθεί για αυτά τα βάρη σπρωγμένα στα τρία.
07REAP: γιατί το κλάδεμα ειδικών είναι διαφορετικό είδος απώλειας από τη στρογγυλοποίηση
Δύο από τις τρεις βαθμίδες κουβαλούν κατάληξη REAP — μια κατηγορηματικά διαφορετική πράξη από τον κβαντισμό. Το REAP (Router-weighted Expert Activation Pruning, Cerebras Research, arXiv:2510.13999, ICLR 2026) είναι συμπίεση μίας βολής για αραιά μοντέλα MoE: βαθμολογεί κάθε ειδικό με τις τιμές πύλης του router και τη νόρμα ενεργοποίησης του ειδικού, και μετά διαγράφει τους χαμηλότερους. Η Cerebras αναφέρει σχεδόν χωρίς απώλειες αποτελέσματα σε παραγωγή κώδικα και κλήση εργαλείων ακόμα και με 50% των ειδικών κλαδεμένους.
Χρησιμοποιούμε το REAP για τον λόγο που υπάρχει: στα μεγαλύτερα θεμέλια είναι αυτό που τα κάνει σερβιριζόμενα. Πρόσεξε όμως τη διαφορά στο είδος. Ο κβαντισμός θολώνει κάθε βάρος λίγο· το κλάδεμα αφαιρεί ειδικούς ολόκληρους. Αν ο φόρτος σου δρομολογείται έντονα σε μια ικανότητα που ζούσε σε έναν σπάνια επιλεγμένο ειδικό — μια δευτερεύουσα γλώσσα προγραμματισμού, ένα εξειδικευμένο λεξιλόγιο — δεν είναι υποβαθμισμένη. Έχει φύγει, και καμία διατύπωση prompt δεν την επαναφέρει. Οι μέσοι όροι μένουν εξαιρετικοί· η δική σου ακραία περίπτωση μπορεί και όχι.
Το MiMo-V2.5-Pro · W8A16 δεν κουβαλά κατάληξη REAP. Και οι 384 ειδικοί είναι παρόντες, και ο router διαλέγει από το πλήρες σύνολο με το οποίο εκπαιδεύτηκε το θεμέλιο.
| Βαθμίδα | Bit βαρών | Ειδικοί | Τι ανταλλάσσεις |
|---|---|---|---|
| W8A16 | 8 | Όλοι παρόντες | Τίποτα δομικό. Η βαθμίδα πιστότητας. |
| W4A16-AUTOROUND-REAP | 4 | Κλαδεμένοι | Λεπτή λεπτομέρεια βαρών συν ειδικούς χαμηλής κίνησης, με αντάλλαγμα ένα πολύ μεγαλύτερο θεμέλιο στην ίδια ζώνη τιμής. |
| 3BIT-REAP | 3 | Κλαδεμένοι | Σημαντική ανάλυση βαρών συν ειδικούς χαμηλής κίνησης — το τίμημα για να τρέχεις τα πολύ μεγαλύτερα θεμέλια με ταχύτητα. |
Η μεσαία βαθμίδα αξίζει δίκαιη ακρόαση. Το AutoRound δεν είναι αφελής στρογγυλοποίηση: η μέθοδος της Intel (arXiv:2309.05516) χρησιμοποιεί προσημασμένη κατάβαση κλίσης σε περίπου 200 βήματα για να ρυθμίσει τις αποφάσεις στρογγυλοποίησης και το εύρος ψαλιδίσματος ανά ομάδα βαρών, και αναφέρεται σχεδόν χωρίς απώλειες στα 4 bit στις περισσότερες ρυθμίσεις, νικώντας τα GPTQ, AWQ, HQQ και OmniQuant στις περισσότερες δοκιμασμένες διαμορφώσεις. Ένα μοντέλο W4A16-AUTOROUND είναι γνήσια καλό μοντέλο 4 bit. Εξακολουθεί να είναι μοντέλο 4 bit.
08Ποιος πρέπει να διαλέξει τη βαθμίδα 8 bit — και ποιος όχι
Το MiMo-V2.5-Pro · W8A16 κάθεται στην τιμή βάσης ολόκληρου του καταλόγου — $0.50 in / $2.00 out ανά εκατομμύριο tokens, στην ίδια ζώνη με τα εισαγωγικά μοντέλα 4 bit και περίπου στο ένα τέταρτο της τιμής εισόδου του ακριβότερου μοντέλου που σερβίρουμε. Δεν πληρώνεις επασφάλιστρο για πιστότητα· διαλέγεις διαφορετικό άξονα του ίδιου προϋπολογισμού.
Διάλεξέ το όταν
- Το μήκος της εξόδου είναι η δουλειά. Μακρά τεχνική συγγραφή, μυθοπλασία σε μέγεθος κεφαλαίου, πλήρη περάσματα τεκμηρίωσης — κάθε παραγόμενο token είναι ένα σημείο όπου ο θόρυβος της συμπίεσης συσσωρεύεται.
- Η φωνή και η συνέπεια μετράνε. Δουλειά με χαρακτήρες, τόνος μάρκας, ένα ύφος που κρατιέται σε μια μακριά συνεδρία. Το στιλ ζει στην ουρά, και η ουρά είναι αυτό που τρώει πρώτο ο χοντρός κβαντισμός.
- Η δομημένη έξοδος πρέπει να επικυρώνεται με την πρώτη. Το μοντέλο υποστηρίζει
json_schemaκαιresponse_format· η τήρηση σχήματος είναι ιδιότητα ακρίβειας, και κάθε επανάληψη που αποφεύγεται είναι χρήματα και καθυστέρηση που γλιτώνεις. - Γεμίζεις το context. Η τήρηση οδηγιών στο token 200.000 είναι δυσκολότερη απ' ό,τι στο token 2.000, και εκφυλίζεται με την ακρίβεια των βαρών — όπως και ένα μακρύ ίχνος συλλογιστικής, όπου τα σφάλματα συσσωρεύονται με τον ίδιο τρόπο.
- Η δουλειά είναι εκ φύσεως χωρίς λογοκρισία. Έρευνα ασφάλειας, red-teaming, αφιλτράριστη μυθοπλασία, ευαίσθητη ιατρική ή νομική ανάλυση — εκεί όπου μια διστακτική απάντηση είναι χειρότερη από καμία.
Διάλεξε κάτι άλλο όταν
- Χρειάζεσαι όραση. Αυτό το μοντέλο είναι μόνο κειμένου· το αδελφό του MiMo-V2.5 · W8A16 έχει δυνατότητα όρασης στην ίδια τιμή και βαθμίδα.
- Χρειάζεσαι την ευρύτερη γνώση του κόσμου σε σύντομα ερωτήματα. Αυτό είναι το καθεστώς όπου κερδίζουν οι επιπλέον παράμετροι ενός πολύ μεγαλύτερου θεμελίου 3 bit και η ζημιά του κβαντισμού μόλις που φαίνεται.
- Ο φόρτος σου είναι σύντομη ταξινόμηση μεγάλου όγκου. Η ζημιά του κβαντισμού είναι σχεδόν αόρατη εκεί — αγόρασε ό,τι είναι γρηγορότερο.
09Πώς να καλέσεις το API MiMo χωρίς λογοκρισία
Αν ο κώδικάς σου στοχεύει το SDK της OpenAI, η αλλαγή του base URL και του model id είναι όλη η μετάβαση:
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MiMo-V2.5-Pro-W8A16",
"messages": [
{"role": "user", "content": "Draft the threat model section."}
],
"reasoning_effort": "high",
"max_tokens": 16384,
"stream": true
}'
Τα /v1/messages και /v1/responses δέχονται το ίδιο id και τις ίδιες δυνατότητες. Αναφορά παραμέτρων, σχήματα κλήσης εργαλείων, παραδείγματα δομημένης εξόδου και ζωντανό playground υπάρχουν στην τεκμηρίωση του API του Shannon AI.
| Δυνατότητα | MiMo-V2.5-Pro · W8A16 |
|---|---|
| Παράθυρο context | 262,144 tokens |
| Μέγιστη έξοδος ανά αίτημα | 16,384 tokens |
| Streaming | Ναι — και στις τρεις διαλέκτους |
| Κλήση εργαλείων | Ναι |
Συλλογιστική / reasoning_effort | Ναι |
Δομημένη έξοδος json_schema | Ναι |
response_format | Ναι |
| Όραση / είσοδος εικόνας | Όχι — χρησιμοποίησε MiMo-V2.5 |
| Επίπεδο άρνησης / φίλτρο εξόδου | Κανένα |
| Τιμή ανά 1M tokens | $0.50 in / $2.00 out |
Κάθε εξωτερικό νούμερο εδώ είναι δημοσιευμένο από κάποιον άλλον εκτός από εμάς και αποδίδεται μέσα στο κείμενο. Τα αποτελέσματα ανάκτησης από κβαντισμό προέρχονται από μελέτες της οικογένειας Llama: περιγράφουν το σχήμα της ανταλλαγής, όχι τα σκορ αυτού του μοντέλου.
10Συχνές ερωτήσεις
Τι είναι το API MiMo χωρίς λογοκρισία;
Είναι το endpoint του Shannon AI για το MiMo-V2.5-Pro, το μοντέλο Mixture-of-Experts ανοιχτών βαρών της Xiaomi, σερβιρισμένο στο δικό μας cluster GPU χωρίς επίπεδο άρνησης και χωρίς φιλτράρισμα εξόδου. Είναι προσβάσιμο μέσω /v1/chat/completions, /v1/messages και /v1/responses, με context 262.144 tokens και 16.384 tokens εξόδου ανά αίτημα.
Τι σημαίνει W8A16 και γιατί έχει σημασία;
W8A16 σημαίνει ότι τα βάρη αποθηκεύονται στα 8 bit το καθένα ενώ οι ενεργοποιήσεις υπολογίζονται στα 16 bit. Είναι η βαθμίδα κβαντισμού υψηλότερης πιστότητας στον κατάλογό μας. Δημοσιευμένες μελέτες βρίσκουν ότι οι μορφές 8 bit μόνο για βάρη ανακτούν ουσιαστικά όλη την ακρίβεια του αρχικού μοντέλου, ενώ τα 4 bit ανταλλάσσουν λίγη πιστότητα με μνήμη και τα 3 bit ανταλλάσσουν σημαντική.
Μπορεί ένα μικρότερο μοντέλο στα 8 bit να νικήσει ένα μεγαλύτερο στα 3 bit;
Συχνά ναι. Αυτό που επιβιώνει από τη συμπίεση είναι περίπου το πλήθος παραμέτρων επί τα bit ανά παράμετρο, και το σφάλμα κβαντισμού συγκεντρώνεται σε σπάνια συμπεριφορά της ουράς. Ένα μοντέλο που κρατιέται στα 8 bit διατηρεί τη συνοχή του σε μακρά κείμενα, την ακριβή μορφοποίηση και τη γνώση της ουράς· ένα μεγαλύτερο μοντέλο συνθλιμμένο στα 3 bit κρατά τα ευρέα σκορ benchmark αλλά χάνει αυτές τις ιδιότητες.
Υποστηρίζει το MiMo-V2.5-Pro όραση ή είσοδο εικόνας;
Όχι. Το MiMo-V2.5-Pro στο Shannon AI είναι μόνο κειμένου. Υποστηρίζει κλήση εργαλείων, συλλογιστική με reasoning_effort, δομημένη έξοδο JSON-schema και response_format. Αν χρειάζεσαι είσοδο εικόνας, χρησιμοποίησε το αδελφό μοντέλο MiMo-V2.5 W8A16, που έχει δυνατότητα όρασης στην ίδια τιμή.
Πόσο κοστίζει το API MiMo χωρίς λογοκρισία;
$0.50 ανά εκατομμύριο tokens εισόδου και $2.00 ανά εκατομμύριο tokens εξόδου. Αυτή είναι η τιμή βάσης στον κατάλογο του Shannon AI, που κάνει το MiMo-V2.5-Pro τον φθηνότερο τρόπο να αγοράσεις πιστότητα 8 bit σε αυτό το gateway.
Δοκίμασε το API MiMo χωρίς λογοκρισία
Πιστότητα οκτώ bit, context 262K, χωρίς επίπεδο άρνησης — στην τιμή βάσης του καταλόγου.
Διάβασε την τεκμηρίωση του API Δες όλα τα μοντέλαΛειτουργεί υπό την Πολιτική Υπεύθυνης Χρήσης του Shannon AI
Πηγές: Τεχνική αναφορά MiMo, arXiv:2505.07608 · Οδηγός μοντέλου MiMo-V2.5-Pro (Xiaomi) · «Give Me BF16 or Give Me Death»?, arXiv:2411.02355 · REAP the Experts, arXiv:2510.13999 · AutoRound, arXiv:2309.05516 · Νόμοι κλίμακας εξαγωγής συμπερασμάτων k-bit, arXiv:2212.09720 · Scaling Laws for Precision, Kumar κ.ά., ICLR 2025. Όλα τα νούμερα benchmark είναι όπως τα δηλώνουν οι συγγραφείς τους. Το Shannon AI είναι προϊόν της Shannon Lab LLC, Νέο Μεξικό, ΗΠΑ.