API μοντέλου Inkling χωρίς λογοκρισία

Τα περισσότερα από τα δώδεκα μοντέλα στο gateway μας είναι μόνο κειμένου. Τέσσερα δεν είναι, και ανάμεσα σε αυτά τα τέσσερα το Inkling κρατά μια συγκεκριμένη θέση: είναι το μοντέλο όρασης που πιάνεις όταν η εικόνα είναι το δύσκολο κομμάτι του προβλήματος αλλά ο προϋπολογισμός δεν φτάνει για ναυαρχίδα. Αυτός ο οδηγός καλύπτει από πού έρχεται το θεμέλιο, τι του έκανε η κατάληξη W4A16-AUTOROUND-REAP, τι κάνει και τι δεν κάνει στην επιφάνεια του API και — ειλικρινά — πότε ένα φθηνότερο μοντέλο του ίδιου καταλόγου είναι η καλύτερη επιλογή.

01Τι είναι το Inkling και ποιος το έφτιαξε;

Το Inkling είναι το πρώτο μοντέλο ανοιχτών βαρών του Thinking Machines Lab, δημοσιευμένο στις 15 Ιουλίου 2026. Σε αντίθεση με τις περισσότερες κυκλοφορίες που τοποθετούνται ως «ανοιχτές», βγήκε με πλήρη κατεβαζόμενα βάρη στο Hugging Face και υποστήριξη από την πρώτη μέρα σε transformers, SGLang, vLLM και llama.cpp — και γι' αυτό μπόρεσε καν να τρέξει σε υποδομή σαν τη δική μας. Τα βασικά νούμερα, από το ίδιο το υλικό κυκλοφορίας της Thinking Machines:

Αυτή είναι μια αραιή διάταξη Mixture-of-Experts: 66 στρώματα αποκωδικοποιητή σε κρυφό μέγεθος 6.144, τα δύο πρώτα πυκνά, τα υπόλοιπα 64 να κουβαλούν 256 δρομολογημένους ειδικούς συν 2 κοινούς ειδικούς, με 6 δρομολογημένους ειδικούς ενεργούς ανά token. Περίπου το 4% των παραμέτρων πυροδοτείται σε κάθε δεδομένο token — κι αυτό είναι που κάνει ένα μοντέλο σχεδόν τρισεκατομμυρίου παραμέτρων εφικτό να σερβιριστεί.

Δύο αρχιτεκτονικές επιλογές είναι αρκετά ασυνήθιστες ώστε να τις κατονομάσουμε. Η προσοχή είναι εναλλασσόμενη — 55 στρώματα προσοχής με κυλιόμενο παράθυρο 512 tokens απέναντι σε 11 καθολικά στρώματα, σε επαναλαμβανόμενο μοτίβο 5:1. Και το Inkling δεν χρησιμοποιεί RoPE: χρησιμοποιεί μια μαθημένη, εξαρτώμενη από την είσοδο σχετική μεροληψία θέσης, μαζί με σύντομες αιτιώδεις συνελίξεις στις προβολές key/value και στους υπολειμματικούς κλάδους. Οι αρχιτεκτονικές σημειώσεις του Sebastian Raschka επισημαίνουν και τα δύο ως πραγματικές αποκλίσεις από τη στάνταρ συνταγή του 2026. Η εκπαίδευση χρησιμοποίησε Muon για τις μεγάλες παραμέτρους πινάκων και Adam για τις υπόλοιπες, και μετά πάνω από 30 εκατομμύρια ασύγχρονα rollout ενισχυτικής μάθησης στη μετεκπαίδευση.

Το ζήτημα για όποιον καταναλώνει το API δεν είναι η λεπτομέρεια. Είναι ότι πρόκειται για ένα θεμέλιο κλίμακας αιχμής, εγγενώς πολυτροπικό, εκπαιδευμένο σε 45 τρισεκατομμύρια tokens που καλύπτουν κείμενο, εικόνες, ήχο και βίντεο — όχι για ένα μοντέλο κειμένου με προσαρμογέα όρασης βιδωμένο εκ των υστέρων. Οι εικόνες κωδικοποιούνται ως μπαλώματα 40×40 pixel μέσα από έναν τετραστρωματικό ιεραρχικό patchifier MLP και επεξεργάζονται από κοινού με το κείμενο στον ίδιο αποκωδικοποιητή. Η οπτική κατανόηση ήταν μέσα στον στόχο της προεκπαίδευσης.

02Τι σημαίνει W4A16-AUTOROUND-REAP;

Τρεις ξεχωριστές τεχνικές στοιβάζονται σε αυτή την κατάληξη, και κάνουν διαφορετικές δουλειές. Αξίζει να τις καταλάβεις, γιατί η κατάληξη είναι η μεγαλύτερη μεμονωμένη διαφορά ανάμεσα στο μοντέλο που καλείς στο API μας και στο checkpoint που δημοσίευσε η Thinking Machines.

REAP — κλάδεμα των ειδικών που κανείς δεν δρομολογεί

Το REAP είναι το Router-weighted Expert Activation Pruning, από τη Cerebras Research (arXiv 2510.13999, δεκτό στο ICLR 2026). Σε ένα MoE με 256 ειδικούς ανά στρώμα ο router δεν μοιράζει τη δουλειά ομοιόμορφα: κάποιοι ειδικοί χτυπιούνται συνεχώς, άλλοι πυροδοτούνται σπάνια και συνεισφέρουν λίγα όταν το κάνουν. Το REAP βαθμολογεί κάθε ειδικό και στα δύο σήματα — στις τιμές πύλης του router και στις νόρμες ενεργοποίησης του ειδικού· ένας ειδικός που επιλέγεται συχνά αλλά συνεισφέρει ενημερώσεις μικρού μεγέθους μετράει λιγότερο απ' ό,τι υποδηλώνει το πλήθος επιλογών του — και ρίχνει τους χαμηλής προεξοχής με μία βολή, πριν τον κβαντισμό.

Ο λόγος που χρησιμοποιούμε κλάδεμα αντί για την πιο της μόδας συγχώνευση ειδικών είναι ότι τα δύο αποκλίνουν ανάλογα με τον τύπο εργασίας. Η συγχώνευση δείχνει ανταγωνιστική σε διακριτικά benchmark και καταρρέει στα παραγωγικά. Οι συγγραφείς του REAP αναφέρουν ότι το κλάδεμα διατηρεί καλύτερα την ποιότητα ακριβώς στους φόρτους για τους οποίους αγοράζει κανείς ένα API — σύνθεση κώδικα, κλήση εργαλείων, συλλογιστική πολλών γύρων — σε λόγους συμπίεσης πάνω από 50%, σε μοντέλα από 20B έως 1T παραμέτρους. Η συγχώνευση καταστρέφει την εξειδίκευση του router· το κλάδεμα αφήνει άθικτους τους επιζώντες ειδικούς και τη δρομολόγηση ανάμεσά τους.

AutoRound — να μάθεις πού να στρογγυλοποιείς

Το AutoRound είναι η μέθοδος κβαντισμού μετά την εκπαίδευση της Intel (arXiv 2309.05516, δημοσιευμένη ως SignRound). Ο αφελής κβαντισμός στρογγυλοποιεί κάθε βάρος στην πλησιέστερη αναπαραστάσιμη τιμή 4 bit — λογική προεπιλογή και κακή επιλογή στην κλίμακα, επειδή τα σφάλματα στρογγυλοποίησης δεν είναι ανεξάρτητα και συσσωρεύονται μέσα από μια στοίβα 66 στρωμάτων. Το AutoRound αντιμετωπίζει την απόφαση στρογγυλοποίησης ως κάτι προς βελτιστοποίηση: η προσημασμένη κατάβαση κλίσης ρυθμίζει από κοινού την κατεύθυνση στρογγυλοποίησης και τα εύρη ψαλιδίσματος των βαρών σε μερικές εκατοντάδες βήματα, δανειζόμενη την ακρίβεια της εκπαίδευσης με επίγνωση κβαντισμού χωρίς επανεκπαίδευση. Η Intel αναφέρει τα μεγαλύτερα κέρδη σε ακραίες ρυθμίσεις χαμηλών bit και ανταγωνιστικό πλεονέκτημα στο INT4.

W4A16 — πού πάνε τα bit

Το W4A16 είναι η αριθμητική μορφή: βάρη 4 bit, ενεργοποιήσεις 16 bit. Τα βάρη — που κυριαρχούν στη μνήμη σε ένα μοντέλο 975B — συρρικνώνονται περίπου στο ένα τέταρτο ενός αποτυπώματος BF16, ενώ η αριθμητική μένει στα 16 bit. Αυτός ο διαχωρισμός μετράει ειδικά για ένα μοντέλο όρασης: τα σχήματα με κβαντισμένες ενεργοποιήσεις πλήττουν ακριβώς τη λεπτόκοκκη αριθμητική δουλειά από την οποία εξαρτάται η κατανόηση εικόνας — το διάβασμα μιας μικρής ετικέτας άξονα, η ανάλυση μιας λεπτής γραμμής σε ένα διάγραμμα, ο διαχωρισμός δύο παρόμοιων αποχρώσεων. Το να κρατάς τις ενεργοποιήσεις στα 16 bit κοστίζει εύρος ζώνης και αγοράζει πίσω ακρίβεια εκεί όπου ένας φόρτος όρασης το αντιλαμβάνεται.

Στοιβαγμένες, οι τρεις τεχνικές δίνουν ένα μοντέλο που χωράει και μένει γρήγορο χωρίς τον γκρεμό ποιότητας της επιθετικής βαθμίδας 3BIT-REAP που χρησιμοποιούμε στα πολύ μεγαλύτερα θεμέλια. Αυτή είναι η ανταλλαγή που αντανακλά η τιμή.

03Όραση: ένα API ανάλυσης εικόνας χωρίς αρνήσεις

Το Inkling είναι ένα από τα τέσσερα μοντέλα με δυνατότητα όρασης στον κατάλογό μας, μαζί με τα Kimi-K3, Kimi-K2.6 και MiniMax-M3. Τα δημοσιευμένα αποτελέσματα όρασης του βασικού μοντέλου, από την κυκλοφορία της Thinking Machines, είναι 73.3% στο MMMU Pro (Standard 10) και 78.1% στις ερωτήσεις συλλογιστικής του CharXiv — ανεβαίνοντας στο 82.0% όταν επιτρέπεται στο μοντέλο να τρέξει Python πάνω στο διάγραμμα. Αυτά είναι τα δικά τους νούμερα για το ακβάντιστο checkpoint· δες τα ως την οροφή της οικογένειας, όχι ως μέτρηση του δικού μας build.

Το CharXiv αξίζει να το κοιτάξεις παραπάνω, γιατί αντιστοιχεί στον λόγο για τον οποίο αγοράζει κανείς ένα API όρασης αντί για μια υπηρεσία OCR. Δοκιμάζει τη συλλογιστική πάνω σε επιστημονικά διαγράμματα — διάβασμα μιας τιμής από έναν άξονα, σύγκριση δύο σειρών, εντοπισμό μιας αντιστροφής τάσης. Όχι «τι κείμενο υπάρχει σε αυτή την εικόνα» αλλά «τι ισχυρίζεται αυτό το σχήμα, και στέκει ο ισχυρισμός». Αυτό δικαιολογεί το να στείλεις μια εικόνα σε ένα μοντέλο συλλογιστικής 975B αντί σε έναν μικρό περιγραφέα.

Η αποστολή εικόνας είναι συνηθισμένη δουλειά συμβατή με OpenAI — ένα μέρος περιεχομένου image_url στο /v1/chat/completions, ένα block image τύπου Anthropic στο /v1/messages, ή το αντίστοιχο στο /v1/responses. Και οι τρεις διάλεκτοι χτυπούν τα ίδια βάρη και κάνουν streaming· διάλεξε όποια μιλάει ήδη το SDK σου. Ένα δουλεμένο παράδειγμα υπάρχει στην ενότητα 09.

Το κομμάτι «χωρίς λογοκρισία» μετράει περισσότερο για την όραση παρά για το κείμενο. Ένα επίπεδο άρνησης σε ένα endpoint όρασης είναι ασυνήθιστα χοντροκομμένο, γιατί τυπικά ταξινομεί την εικόνα πριν το μοντέλο συλλογιστεί πάνω στο αίτημα. Νόμιμη δουλειά παγιδεύεται συνεχώς: μια φωτογραφία τραύματος σε μια ροή κλινικών σημειώσεων, ένα εγκληματολογικό screenshot σε μια αναφορά περιστατικού, ένα καρέ από ταινία που αναλύεται για ένα κριτικό κείμενο, μια ιατρική σάρωση, η εικόνα ενός εγγράφου που τυχαίνει να περιέχει ένα όνομα. Το Inkling στο gateway μας δεν έχει τέτοιον ταξινομητή μπροστά του. Κοιτάζει αυτό που έστειλες και απαντά στην ερώτηση που έκανες. Αυτό είναι το προϊόν.

04Δομημένη έξοδος: response_format ναι, json_schema όχι

Αυτό είναι το ένα σημείο όπου το Inkling υστερεί σε σχέση με το μεγαλύτερο μέρος του καταλόγου, και είναι καλύτερα να το προγραμματίσεις παρά να το ανακαλύψεις στην παραγωγή.

Δυνατότητα	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Όραση (είσοδος εικόνας)	Ναι	Ναι	Ναι	Όχι
response_format	Ναι	Ναι	Ναι	Όχι
json_schema	Όχι	Ναι	Ναι	Όχι
Κλήση εργαλείων	Ναι	Ναι	Ναι	Ναι
Προσπάθεια συλλογιστικής	Ναι	Ναι	Ναι	Ναι

Το response_format: {"type": "json_object"} δουλεύει — παίρνεις συντακτικά έγκυρο JSON. Αυτό που δεν παίρνεις είναι αποκωδικοποίηση περιορισμένη από γραμματική πάνω σε ένα σχήμα που δίνεις εσύ, όπου ο sampler εμποδίζεται φυσικά να εκπέμψει ένα token που παραβιάζει τη δομή σου. Τα ονόματα πεδίων, η συμμετοχή σε enum και η παρουσία υποχρεωτικών κλειδιών είναι επιλογή του μοντέλου, όχι εγγύηση.

Τρεις τρόποι να ζήσεις με αυτό, σε αύξουσα σειρά αξιοπιστίας:

1. Δώσε το σχήμα στο prompt και επικύρωσε. Βάλε το σχήμα στο system prompt ως κυριολεκτικό JSON, όρισε το response_format σε json_object και επικύρωσε την απάντηση από τη δική σου πλευρά. Ξαναδοκίμασε σε αποτυχία επικύρωσης με το μήνυμα σφάλματος του επικυρωτή προσαρτημένο. Φθηνό, δουλεύει, θέλει προϋπολογισμό επαναλήψεων.
2. Χρησιμοποίησε έναν ορισμό εργαλείου ως σχήμα. Η κλήση εργαλείων υποστηρίζεται, και ο ορισμός παραμέτρων μιας συνάρτησης είναι JSON Schema. Δήλωσε ένα μοναδικό εργαλείο ονομασμένο για την εξαγωγή που θέλεις, εξανάγκασέ το και διάβασε τα ορίσματα. Αυτή είναι συνήθως η ισχυρότερη επιλογή στο Inkling και δεν σου κοστίζει τίποτα επιπλέον.
3. Μοίρασε τη δουλειά σε δύο μοντέλα. Βάλε το Inkling να κάνει την όραση και τη συλλογιστική σε πεζό λόγο, και μετά δώσε αυτόν τον πεζό λόγο στο MiMo-V2.5-W8A16 στα $0.50 / $2.00 με πραγματικό json_schema για το πέρασμα δόμησης. Δύο κλήσεις, αλλά η δεύτερη είναι φθηνή, ντετερμινιστική στη μορφή, και το μοντέλο που χρειάζεται να είναι έξυπνο είναι εκείνο που είδε την εικόνα.

Η επιλογή 3 είναι το μοτίβο που θα προτείναμε για οποιαδήποτε ροή εξαγωγής μεγάλου όγκου. Πλήρωσε το επασφάλιστρο μόνο για το βήμα που το χρειάζεται.

05Τι αγοράζει το επασφάλιστρο της τιμής;

Στα $1.42 in / $6.07 out ανά εκατομμύριο tokens, το Inkling κάθεται σκόπιμα στη μέση του καταλόγου μας. Έξι από τα δώδεκα μοντέλα είναι στη βάση των $0.50 / $2.00. Το Kimi-K3 — η ναυαρχίδα, επίσης με δυνατότητα όρασης — είναι στα $3.83 / $19.12. Το Inkling είναι περίπου τρεις φορές τη βάση στην έξοδο και περίπου το ένα τρίτο της ναυαρχίδας.

Τιμή εξόδου, USD ανά 1M tokens, τιμοκατάλογος Shannon AI Gateway, Σεπτέμβριος 2026. Το πλάτος της μπάρας είναι ανάλογο της τιμής· μακρύτερη σημαίνει ακριβότερη.

Να η ειλικρινής ανάγνωση του πού αξίζει αυτό το επασφάλιστρο — και πού όχι.

Φόρτος	Να χρησιμοποιήσω Inkling;	Γιατί
Συλλογιστική σε διαγράμματα / σχήματα	Ναι	Τα δημοσιευμένα νούμερα CharXiv και MMMU Pro είναι αυτό στο οποίο αυτό το θεμέλιο είναι δυνατότερο.
Πράκτορες οδηγούμενοι από screenshot	Ναι	Όραση συν κλήση εργαλείων συν 262K ιστορικού σε ένα μοντέλο, χωρίς παράδοση σε άλλο.
Μακρά έγγραφα με σχήματα	Ναι	Κείμενο και εικόνες μοιράζονται έναν αποκωδικοποιητή και ένα παράθυρο context.
Παραγωγή απλού κειμένου	Όχι	Έξι μοντέλα στα $0.50 / $2.00 το κάνουν αυτό. Πληρώνεις για ένα μονοπάτι όρασης που δεν καλείς ποτέ.
Μαζική εξαγωγή κατά σχήμα	Όχι	Χωρίς json_schema. Το MiMo-V2.5 είναι φθηνότερο και περιορισμένο από σχήμα.
Απόλυτη οροφή αιχμής	Όχι	Το Kimi-K3 είναι η ναυαρχίδα. Πλήρωσε το 3.1× αν η οροφή είναι ο περιορισμός.
Φθηνότερη δυνατή όραση	Όχι	Το MiniMax-M3 έχει όραση στα $0.50 / $2.00. Ξεκίνα από εκεί και ανέβα αν σε αναγκάσει η ποιότητα.

Διάβασέ το ως κανόνα δρομολόγησης, όχι ως κατάταξη. Το Inkling ταιριάζει σε μια στενότερη ζώνη δουλειάς απ' ό,τι θα ισχυριζόταν μια σελίδα μάρκετινγκ, και μέσα σε αυτή τη ζώνη είναι δύσκολο να το νικήσεις στην τιμή. Έξω από αυτήν, προτιμάμε να σου πουλήσουμε το φθηνότερο μοντέλο και να σε κρατήσουμε.

06Το παράθυρο context 262K και τι χωράει πραγματικά

Και τα δώδεκα μοντέλα στο gateway σερβίρονται με context εισόδου 262.144 tokens και μέγιστη έξοδο 16.384 tokens ανά αίτημα. Ομοιόμορφα επίτηδες: ο χειρισμός του context δεν πρέπει ποτέ να γίνεται διακλάδωση ανά μοντέλο στον κώδικά σου, και η αντικατάσταση του inkling από το MiniMax-M3 σε ένα αρχείο ρυθμίσεων δεν πρέπει να αλλάζει σιωπηλά το τι χωράει.

Πρόσεξε τη διαφορά με το δημοσιευμένο θεμέλιο: η Thinking Machines τεκμηριώνει το Inkling στα 1.048.576 tokens, κι εμείς σερβίρουμε μια φέτα 262K από αυτά. Αν έχεις έναν πραγματικό φόρτο ενός εκατομμυρίου tokens σε ένα αίτημα, δεν είμαστε εμείς το endpoint γι' αυτό, και καλύτερα να το ξέρεις πριν χτίσεις.

Για κλίμακα στα 262K: ένα τεχνικό PDF 400 σελίδων με τα σχήματά του, μια μεσαίου μεγέθους βάση κώδικα, αρκετές ώρες απομαγνητοφώνησης ή μια μακριά αντζεντική συνεδρία που κουβαλά δεκάδες αποτελέσματα εργαλείων και μια χούφτα screenshot — το καθένα χωράει σε ένα αίτημα. Σε ένα μοντέλο όρασης, θυμήσου ότι και οι εικόνες καταναλώνουν context· ένα πυκνό screenshot δεν είναι δωρεάν, και μια συνεδρία που στέλνει καρέ γεμίζει το παράθυρο πιο γρήγορα από μια μόνο κειμένου. Η αρχιτεκτονική ταιριάζει καλά σε αυτό: το μοτίβο 5:1 κυλιόμενου παραθύρου προς καθολικό σημαίνει ότι τα περισσότερα στρώματα προσέχουν μέσα σε μια γειτονιά 512 tokens, με τα καθολικά στρώματα να ξαναφέρνουν περιοδικά μέσα τη δομή μεγάλης εμβέλειας.

07Προσπάθεια συλλογιστικής: πληρώνεις για σκέψη μόνο όταν τη χρειάζεσαι

Το Inkling εκθέτει ελεγχόμενη προσπάθεια συλλογιστικής — ένα από τα πιο χρήσιμα κουμπιά του καταλόγου. Το ανοδικό μοντέλο δέχεται επίπεδα από none και minimal, περνώντας από low, medium, high, xhigh, μέχρι max, εκτεθειμένα και στις τρεις διαλέκτους μέσω της στάνταρ παραμέτρου reasoning_effort.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Αυτός είναι μοχλός κόστους με δόντια, γιατί τα tokens συλλογιστικής χρεώνονται ως tokens εξόδου στα $6.07 ανά εκατομμύριο. Η Thinking Machines αναφέρει ότι στο Terminal Bench 2.1 το Inkling φτάνει σκορ συγκρίσιμα με το Nemotron 3 Ultra στο ένα τρίτο περίπου των tokens — η αποδοτικότητα σε tokens είναι δηλωμένος σχεδιαστικός στόχος του συστήματος προσπάθειας, όχι σύμπτωση.

Στην πράξη: τρέξε low ή minimal για λεζάντες, ταξινόμηση και ευθύγραμμη εξαγωγή, όπου η απάντηση βρίσκεται μέσα στην εικόνα και δεν χρειάζεται αλυσίδα συμπερασμών. Κράτα το high και πάνω για συλλογιστική σε διαγράμματα, οπτική σύγκριση πολλών βημάτων και αντζεντικούς γύρους όπου ένα λάθος ενδιάμεσο βήμα κοστίζει. Οι περισσότερες ομάδες δεν ορίζουν ποτέ την παράμετρο, και αφήνουν στο τραπέζι μια πολλαπλάσια διαφορά στο κόστος εξόδου.

08Τι σημαίνει εδώ «χωρίς λογοκρισία» — και τι δεν σημαίνει

Συγκεκριμένα: τρέχουμε αυτό το μοντέλο χωρίς επίπεδο άρνησης και χωρίς φιλτράρισμα στην έξοδο. Κανένας ταξινομητής δεν διαβάζει το prompt σου και δεν αποφασίζει αν επιτρέπεται στο μοντέλο να απαντήσει, και κανένας δεν διαβάζει την απάντηση πριν αυτή σταλεί με streaming. Όταν το μοντέλο είναι αβέβαιο ή του λείπει η γνώση, το λέει — αυτό είναι το μοντέλο, όχι μια πολιτική. Αυτό που δεν θα πάρεις είναι μια αντανακλαστική άρνηση σε ένα θέμα που ένα προϊόν γενικού καταναλωτή θεωρεί απαγορευμένο.

Για την όραση αυτή είναι ολόκληρη η πρόταση αξίας. Οι ταξινομητές εικόνας μπροστά από API όρασης είναι ανακριβείς, και το ποσοστό ψευδώς θετικών χτυπά πιο σκληρά ακριβώς την επαγγελματική δουλειά που χρειάζεται περισσότερο τη δυνατότητα: έρευνα ασφάλειας, κλινικά περιβάλλοντα, δημοσιογραφία και εγκληματολογία, κριτική κινηματογράφου και τέχνης, εργαλεία εποπτείας που πρέπει να κοιτάξουν αυτό που εποπτεύουν. Ένα endpoint που αρνείται με βάση την κατηγορία δεν μπορεί να εξυπηρετήσει αξιόπιστα κανένα από αυτά.

Δύο ειλικρινείς επιφυλάξεις. Πρώτον, η Thinking Machines δημοσιεύει αξιολογήσεις ασφάλειας για τη δική της εγκατάσταση αναφοράς — 78.0% στο FORTRESS adversarial, 95.9% στο FORTRESS benign, 98.6% στο StrongREJECT. Αυτά τα νούμερα περιγράφουν τη δική τους στοίβα με τα δικά τους προστατευτικά στη θέση τους. Δεν περιγράφουν τη δική μας, και δεν θα τα παραθέσουμε σαν να το κάνουν. Αφαιρέσαμε το επίπεδο που εν μέρει μετρούν αυτά τα νούμερα· αυτό είναι το προϊόν, και η ευθύνη.

Δεύτερον, «χωρίς επίπεδο άρνησης» δεν σημαίνει «χωρίς κανόνες». Η Shannon Lab LLC λειτουργεί υπό μια Πολιτική Υπεύθυνης Χρήσης και την ισχύουσα νομοθεσία των ΗΠΑ. Η αφαίρεση ενός ταξινομητή μετατοπίζει την κρίση σε εσένα, δεν τη διαγράφει. Αν χτίζεις πάνω σε αυτό, διάβασε την πολιτική πριν κλιμακώσεις.

09Ξεκινώντας

Ίδιο base URL, ίδιο κλειδί, τρεις διάλεκτοι. Αν ο κώδικάς σου καλεί ήδη OpenAI, Anthropic ή το Responses API, η αλλαγή του string του μοντέλου είναι συνήθως όλη η μετάβαση.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Πλήρης αναφορά παραμέτρων, οι μορφές /v1/messages και /v1/responses, οι μορφές συμβάντων streaming και ένα ζωντανό playground βρίσκονται στην τεκμηρίωση του API. Οδηγοί μοντέλων για τα άλλα έντεκα μοντέλα υπάρχουν στο Shannon Research.

Τα νούμερα του θεμελίου είναι δημοσιευμένα από το Thinking Machines Lab για το ακβάντιστο checkpoint του Inkling και περιγράφουν την οροφή της οικογένειας, όχι το δικό μας κβαντισμένο build. Οι τιμές και οι σημαίες δυνατοτήτων είναι τιμές τιμοκαταλόγου του Shannon AI Gateway με ισχύ τον Σεπτέμβριο 2026.

10Συχνές ερωτήσεις

---

Πηγές: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — σημειώσεις αρχιτεκτονικής και benchmark του Inkling. Τα benchmark του θεμελίου είναι δηλωμένα από το εργαστήριο για το ακβάντιστο checkpoint.