సెన్సార్ లేని Inkling మోడల్ API

మా గేట్‌వేపై ఉన్న పన్నెండు మోడల్‌లలో ఎక్కువ భాగం కేవలం-టెక్స్ట్. నాలుగు కావు, మరియు ఆ నాలుగింటిలో Inkling ఒక నిర్దిష్ట స్థానాన్ని కలిగి ఉంది: చిత్రం సమస్య యొక్క కష్టమైన భాగం కానీ బడ్జెట్ ఒక అగ్రస్థాయి మోడల్‌కు సాగనప్పుడు మీరు చేరుకునే విజన్ మోడల్. ఈ కార్డు పునాది ఎక్కడి నుండి వచ్చిందో, W4A16-AUTOROUND-REAP ప్రత్యయం దానికి ఏమి చేసిందో, API ఉపరితలం వద్ద అది ఏమి చేస్తుందో మరియు చేయదో, మరియు — నిజాయితీగా — అదే జాబితాలోని ఒక చౌక మోడల్ మెరుగైన ఎంపిక అయ్యేది ఎప్పుడో కవర్ చేస్తుంది.

01Inkling అంటే ఏమిటి, మరియు దాన్ని ఎవరు నిర్మించారు?

Inkling అనేది Thinking Machines Lab నుండి వచ్చిన మొదటి ఓపెన్-వెయిట్స్ మోడల్, జూలై 15, 2026న ప్రచురించబడింది. "ఓపెన్"గా స్థానం పొందిన చాలా విడుదలల మాదిరిగా కాక, ఇది Hugging Faceపై పూర్తి డౌన్‌లోడ్ చేయదగిన వెయిట్‌లతో మరియు transformers, SGLang, vLLM, మరియు llama.cppలలో మొదటి-రోజు మద్దతుతో పంపబడింది — మా వంటి మౌలిక సదుపాయంపై అది అసలు నడవగలిగేలా చేసినదే ఇది. Thinking Machines సొంత విడుదల సామగ్రి నుండి ముఖ్యాంశ సంఖ్యలు:

అది ఒక విరళ నిపుణుల-మిశ్రమ నమూనా: 6,144 హిడెన్ పరిమాణంలో 66 డీకోడర్ పొరలు, మొదటి రెండు దట్టమైనవి, మిగిలిన 64 256 రూట్ చేయబడే నిపుణులు పైగా 2 భాగస్వామ్య నిపుణులను మోసుకెళ్తాయి, ఒక్కో టోకెన్‌కు 6 రూట్ చేయబడే నిపుణులు క్రియాశీలంతో. పారామీటర్లలో సుమారు 4% మాత్రమే ఏ ఒక్క టోకెన్‌పైనా కాల్పులు జరుపుతాయి — ఇదే దాదాపు-ట్రిలియన్-పారామీటర్ల మోడల్‌ను అసలు అందించడానికి వాడదగినదిగా చేసేది.

రెండు ఆర్కిటెక్చర్ ఎంపికలు పేరు పెట్టదగినంత అసాధారణమైనవి. అటెన్షన్ పెనవేయబడింది — 512-టోకెన్ విండోపై 55 పొరల స్లైడింగ్-విండో అటెన్షన్ 11 గ్లోబల్ పొరలకు వ్యతిరేకంగా, ఒక 5:1 పునరావృత నమూనాలో. మరియు Inkling RoPEను వాడదు: ఇది కీ/వేల్యూ ప్రొజెక్షన్‌లు మరియు రెసిడ్యువల్ శాఖలపై చిన్న కాజల్ కన్వల్యూషన్‌లతో పాటు, ఒక నేర్చుకున్న, ఇన్‌పుట్-ఆధారిత సాపేక్ష-స్థాన పక్షపాతాన్ని వాడుతుంది. Sebastian Raschka యొక్క ఆర్కిటెక్చర్ గమనికలు రెండింటినీ ప్రామాణిక 2026 వంటకం నుండి నిజమైన నిష్క్రమణలుగా జెండా ఎత్తుతాయి. శిక్షణ పెద్ద మ్యాట్రిక్స్ పారామీటర్ల కోసం Muonను మరియు మిగిలిన వాటికి Adamను వాడింది, తర్వాత పోస్ట్-ట్రైనింగ్‌లో 30 మిలియన్ కంటే ఎక్కువ అసమకాలిక RL రోలౌట్‌లు.

ఒక API వినియోగదారుకు ముఖ్యమైన అంశం ఈ చిన్న విషయాలు కాదు. ఇది ఒక ఫ్రాంటియర్-స్థాయి, స్థానికంగా మల్టీమోడల్ పునాది, ఇది టెక్స్ట్, చిత్రాలు, ఆడియో మరియు వీడియో అంతటా విస్తరించిన 45 ట్రిలియన్ టోకెన్‌లపై శిక్షణ పొందింది — తర్వాత అతికించిన ఒక విజన్ అడాప్టర్ ఉన్న ఒక టెక్స్ట్ మోడల్ కాదు. చిత్రాలు ఒక నాలుగు-పొరల క్రమానుగత MLP ప్యాచిఫైయర్ ద్వారా 40×40 పిక్సెల్ ప్యాచ్‌లుగా ఎన్‌కోడ్ చేయబడి అదే డీకోడర్‌లో టెక్స్ట్‌తో పాటు జాయింట్‌గా ప్రాసెస్ చేయబడతాయి. దృశ్య అవగాహన ప్రీట్రైనింగ్ లక్ష్యంలోనే ఉంది.

02W4A16-AUTOROUND-REAP అంటే ఏమిటి?

ఆ ప్రత్యయంలో మూడు వేర్వేరు పద్ధతులు పేర్చబడ్డాయి, మరియు అవి వేర్వేరు పనులు చేస్తాయి. అర్థం చేసుకోవడం విలువైనది, ఎందుకంటే మీరు మా APIపై పిలిచే మోడల్‌కూ Thinking Machines ప్రచురించిన చెక్‌పాయింట్‌కూ మధ్య ఏకైక అతిపెద్ద తేడా ఆ ప్రత్యయమే.

REAP — ఎవరూ రూట్ చేయని నిపుణులను కత్తిరించడం

REAP అంటే Router-weighted Expert Activation Pruning, Cerebras Research నుండి (arXiv 2510.13999, ICLR 2026కు ఆమోదించబడింది). ఒక్కో పొరకు 256 నిపుణులు ఉన్న ఒక MoEలో, రౌటర్ పనిని సమానంగా పంపిణీ చేయదు: కొందరు నిపుణులు నిరంతరం తాకబడతారు, మరికొందరు అరుదుగా కాల్పులు జరిపి కాల్పులు జరిపినప్పుడు తక్కువ దోహదపడతారు. REAP రెండింటిపైనా ప్రతి నిపుణుడిని స్కోర్ చేస్తుంది — రౌటర్ యొక్క గేట్ విలువలు మరియు నిపుణుడి క్రియాశీలత నిబంధనలు — తరచుగా ఎంచుకోబడే కానీ చిన్న-పరిమాణం అప్‌డేట్‌లను దోహదపడే ఒక నిపుణుడు దాని ఎంపిక సంఖ్య సూచించే దానికంటే తక్కువ ముఖ్యం — మరియు క్వాంటైజేషన్‌కు ముందు, ఒక్క షాట్‌లో తక్కువ-ప్రాముఖ్యత గలవాటిని వదులుతుంది.

మేము మరింత ఫ్యాషనబుల్ నిపుణుల విలీనంకు బదులు కత్తిరింపును వాడటానికి కారణం ఇవి రెండూ పని రకం ప్రకారం విడిపోతాయి. విలీనం వివక్షాత్మక బెంచ్‌మార్క్‌లపై పోటీగా కనిపిస్తుంది మరియు ఉత్పాదక వాటిపై విరిగిపోతుంది. 20B నుండి 1T పారామీటర్ల వరకు ఉన్న మోడల్‌ల అంతటా, 50% దాటిన కుదింపు నిష్పత్తుల వద్ద, ప్రజలు ఒక APIని కొనే సరిగ్గా అదే పనిభారాలపై — కోడ్ సంశ్లేషణ, టూల్ కాలింగ్, బహుళ-మలుపుల తర్కంపై — కత్తిరింపు నాణ్యతను మెరుగ్గా కాపాడుతుందని REAP రచయితలు నివేదిస్తారు. విలీనం రౌటర్ యొక్క ప్రత్యేకతను నాశనం చేస్తుంది; కత్తిరింపు మిగిలిన నిపుణులను మరియు వారి మధ్య రూటింగ్‌ను చెక్కుచెదరకుండా వదిలేస్తుంది.

AutoRound — ఎక్కడ రౌండ్ చేయాలో నేర్చుకోవడం

AutoRound అనేది Intel యొక్క పోస్ట్-ట్రైనింగ్ క్వాంటైజేషన్ పద్ధతి (arXiv 2309.05516, SignRoundగా ప్రచురించబడింది). అమాయక క్వాంటైజేషన్ ప్రతి వెయిట్‌ను దగ్గరి ప్రాతినిధ్య 4-బిట్ విలువకు రౌండ్ చేస్తుంది — ఒక సహేతుకమైన డిఫాల్ట్ మరియు స్థాయిలో ఒక చెడ్డది, ఎందుకంటే రౌండింగ్ లోపాలు స్వతంత్రం కావు మరియు 66-పొరల స్టాక్ అంతటా కూడబెట్టుకుంటాయి. AutoRound రౌండింగ్ నిర్ణయాన్ని ఆప్టిమైజ్ చేయవలసిన దానిగా పరిగణిస్తుంది: సంకేత గ్రేడియంట్ డీసెంట్ రెండు వందల దశలపైనే రౌండింగ్ దిశ మరియు వెయిట్ క్లిప్పింగ్ శ్రేణులను జాయింట్‌గా ట్యూన్ చేస్తుంది, పునఃశిక్షణ లేకుండా క్వాంటైజేషన్-అవగాహన శిక్షణ యొక్క కచ్చితత్వాన్ని అరువు తెచ్చుకుంటూ. తీవ్ర తక్కువ-బిట్ సెట్టింగ్‌ల వద్ద అతిపెద్ద లాభాలను మరియు INT4 వద్ద ఒక పోటీ అంచును Intel నివేదిస్తుంది.

W4A16 — బిట్‌లు ఎక్కడికి వెళ్తాయి

W4A16 అనేది సంఖ్యా ఫార్మాట్: 4-బిట్ వెయిట్‌లు, 16-బిట్ యాక్టివేషన్‌లు. ఒక 975B మోడల్‌లో జ్ఞాపకాన్ని ఆధిపత్యం చేసే వెయిట్‌లు BF16 పాదముద్రలో సుమారు నాలుగవ వంతుకు కుంచించుకుపోతాయి, గణితం 16 బిట్‌ల వద్దే ఉంటుండగా. ఆ విభజన ప్రత్యేకంగా ఒక విజన్ మోడల్‌కు ముఖ్యమైనది: యాక్టివేషన్-క్వాంటైజ్ చేయబడిన పథకాలు చిత్ర అవగాహన ఆధారపడే సూక్ష్మ-గ్రాన్ సంఖ్యా పనికే హాని కలిగిస్తాయి — ఒక చిన్న అక్షం లేబుల్‌ను చదవడం, ఒక రేఖాచిత్రంలో ఒక సన్నని రేఖను గుర్తించడం, రెండు సారూప్య ఛాయలను వేరు చేయడం. యాక్టివేషన్‌లను 16 బిట్‌ల వద్ద ఉంచడం బ్యాండ్‌విడ్త్ ఖర్చు పెడుతుంది మరియు ఒక విజన్ పనిభారం గమనించే చోట కచ్చితత్వాన్ని తిరిగి కొంటుంది.

పేర్చబడినప్పుడు, ఈ మూడూ మేము అతిపెద్ద పునాదులపై వాడే దూకుడైన 3BIT-REAP శ్రేణి యొక్క నాణ్యత అగాధం లేకుండా ఇమిడి వేగంగా ఉండే ఒక మోడల్‌ను ఇస్తాయి. ధర ప్రతిబింబించే వర్తకం అదే.

03విజన్: తిరస్కరణ-లేని చిత్ర విశ్లేషణ API

Kimi-K3, Kimi-K2.6, మరియు MiniMax-M3తో పాటు, మా జాబితాలో విజన్-సామర్థ్యం గల నాలుగు మోడల్‌లలో Inkling ఒకటి. Thinking Machines విడుదల నుండి, బేస్ మోడల్ యొక్క ప్రచురించిన విజన్ ఫలితాలు MMMU Pro (Standard 10)పై 73.3% మరియు CharXiv తర్క ప్రశ్నలపై 78.1% — మోడల్ చార్ట్‌కు వ్యతిరేకంగా Pythonను నడపడానికి అనుమతించబడినప్పుడు 82.0%కు పెరుగుతుంది. అవి కుదించని చెక్‌పాయింట్ కోసం ల్యాబ్ సొంత గణాంకాలు; వాటిని కుటుంబం యొక్క శిఖరంగా పరిగణించండి, మా బిల్డ్ కొలతగా కాదు.

CharXiv దీర్ఘాలోచనకు అర్హమైనది, ఎందుకంటే అది ప్రజలు ఒక OCR సేవకు బదులు ఒక విజన్ APIని ఎందుకు కొంటారనే దానితో సరిపోతుంది. ఇది శాస్త్రీయ చార్ట్‌లపై తర్కాన్ని పరీక్షిస్తుంది — ఒక అక్షం నుండి ఒక విలువను చదవడం, రెండు సిరీస్‌లను పోల్చడం, ఒక ధోరణి తిరగబడటాన్ని గమనించడం. "ఈ చిత్రంలో ఏ టెక్స్ట్ ఉంది" కాదు కానీ "ఈ బొమ్మ ఏమని వాదిస్తుంది, మరియు ఆ వాదన నిలబడుతుందా." ఒక చిన్న క్యాప్షనర్‌కు బదులు ఒక 975B తర్క మోడల్‌కు ఒక చిత్రాన్ని పంపడాన్ని సమర్థించేది అదే.

ఒక చిత్రాన్ని పంపడం సాధారణ OpenAI-అనుకూల పని — /v1/chat/completionsపై ఒక image_url కంటెంట్ భాగం, /v1/messagesపై ఒక Anthropic-శైలి image బ్లాక్, లేదా /v1/responsesపై సమానమైనది. మూడు మాండలికాలూ అదే వెయిట్‌లను తాకుతాయి మరియు మూడూ స్ట్రీమ్ చేస్తాయి; మీ ఇప్పటికే ఉన్న SDK ఇప్పటికే మాట్లాడేదాన్ని ఎంచుకోండి. ఒక పని చేయబడిన ఉదాహరణ సెక్షన్ 09లో ఉంది.

సెన్సార్ లేని భాగం టెక్స్ట్ కంటే విజన్‌కు ఎక్కువ ముఖ్యమైనది. ఒక విజన్ ఎండ్‌పాయింట్‌పై తిరస్కరణ పొర అసాధారణంగా మొరటుగా ఉంటుంది, ఎందుకంటే ఇది సాధారణంగా మోడల్ అభ్యర్థన గురించి తర్కించడానికి ముందే చిత్రాన్ని వర్గీకరిస్తుంది. చట్టబద్ధమైన పని నిరంతరం చిక్కుకుంటుంది: ఒక క్లినికల్-నోట్స్ పైప్‌లైన్‌లో ఒక గాయపు ఫోటో, ఒక సంఘటన రాతలో ఒక ఫోరెన్సిక్ స్క్రీన్‌షాట్, ఒక విమర్శ ముక్క కోసం విశ్లేషించబడుతున్న ఒక సినిమా నుండి ఒక ఫ్రేమ్, ఒక వైద్య స్కాన్, ఒక పేరును కలిగి ఉన్న ఒక పత్రం చిత్రం. మా గేట్‌వేపై Inkling ముందు అలాంటి వర్గీకరణి ఏదీ లేదు. ఇది మీరు పంపినదాన్ని చూస్తుంది మరియు మీరు అడిగిన ప్రశ్నకు సమాధానం ఇస్తుంది. అదే ఉత్పత్తి.

04నిర్మాణాత్మక అవుట్‌పుట్: response_format అవును, json_schema లేదు

Inkling జాబితాలో ఎక్కువ భాగం కంటే తక్కువ సామర్థ్యం గలదైన ఏకైక చోటు ఇదే, మరియు దాన్ని ప్రొడక్షన్‌లో కనుగొనడం కంటే దాని కోసం ప్రణాళిక వేసుకోవడం మెరుగు.

సామర్థ్యం	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
విజన్ (చిత్ర ఇన్‌పుట్)	అవును	అవును	అవును	లేదు
response_format	అవును	అవును	అవును	లేదు
json_schema	లేదు	అవును	అవును	లేదు
టూల్ కాలింగ్	అవును	అవును	అవును	అవును
తర్క ప్రయత్నం	అవును	అవును	అవును	అవును

response_format: {"type": "json_object"} పనిచేస్తుంది — మీకు వాక్యనిర్మాణపరంగా చెల్లుబాటు అయ్యే JSON లభిస్తుంది. మీకు లభించనిది మీరు అందించిన ఒక స్కీమాకు వ్యతిరేకంగా వ్యాకరణ-పరిమిత డీకోడింగ్, ఇక్కడ మీ నిర్మాణాన్ని ఉల్లంఘించే ఒక టోకెన్‌ను విడుదల చేయకుండా సాంప్లర్ భౌతికంగా నిరోధించబడుతుంది. ఫీల్డ్ పేర్లు, enum సభ్యత్వం, మరియు అవసరమైన-కీ ఉనికి మోడల్ ఎంపిక, ఒక హామీ కాదు.

దానితో జీవించడానికి మూడు మార్గాలు, పెరుగుతున్న విశ్వసనీయత క్రమంలో:

1. స్కీమాను ప్రాంప్ట్ చేసి ధ్రువీకరించండి. స్కీమాను సిస్టమ్ ప్రాంప్ట్‌లో అక్షర JSONగా పెట్టండి, response_formatను json_objectకు సెట్ చేయండి, మరియు మీ వైపు ప్రతిస్పందనను ధ్రువీకరించండి. ధ్రువీకరణి యొక్క లోప సందేశం జోడించి ధ్రువీకరణ వైఫల్యంపై రిట్రై చేయండి. చౌక, పనిచేస్తుంది, ఒక రిట్రై బడ్జెట్ అవసరం.
2. స్కీమాగా ఒక టూల్ నిర్వచనాన్ని వాడండి. టూల్ కాలింగ్‌కు మద్దతు ఉంది, మరియు ఒక ఫంక్షన్ యొక్క పారామీటర్ నిర్వచనం ఒక JSON Schema. మీకు కావలసిన వెలికితీత కోసం పేరు పెట్టబడిన ఒక్క టూల్‌ను ప్రకటించండి, దాన్ని బలవంతం చేయండి, మరియు ఆర్గ్యుమెంట్‌లను చదవండి. Inklingపై ఇది సాధారణంగా బలమైన ఎంపిక మరియు దీనికి మీకు అదనంగా ఏమీ ఖర్చవదు.
3. పనిని రెండు మోడల్‌ల అంతటా విభజించండి. Inkling విజన్ మరియు తర్కాన్ని గద్యంలో చేయనివ్వండి, తర్వాత ఆ గద్యాన్ని నిర్మాణ దశ కోసం ఒక నిజమైన json_schemaతో మిలియన్‌కు $0.50 / $2.00 వద్ద MiMo-V2.5-W8A16కు అందించండి. రెండు కాల్‌లు, కానీ రెండోది చౌక, ఆకారంలో నిర్ణీతం, మరియు చిత్రాన్ని చూసిన మోడలే తెలివైనదిగా ఉండాల్సినది.

ఏదైనా అధిక-పరిమాణ వెలికితీత పైప్‌లైన్ కోసం మేము సిఫారసు చేసే నమూనా ఎంపిక 3. ప్రీమియంను దానికి అవసరమైన దశకు మాత్రమే చెల్లించండి.

05ధర ప్రీమియం ఏమి కొంటుంది?

మిలియన్ టోకెన్‌లకు $1.42 ఇన్ / $6.07 అవుట్ వద్ద, Inkling ఉద్దేశపూర్వకంగా మా జాబితాలో మధ్యలో కూర్చుంటుంది. పన్నెండు మోడల్‌లలో ఆరు $0.50 / $2.00 అట్టడుగున ఉన్నాయి. Kimi-K3 — అగ్రస్థాయి, విజన్-సామర్థ్యం కూడా గలది — $3.83 / $19.12. Inkling అవుట్‌పుట్‌పై అట్టడుగుకు సుమారు మూడు రెట్లు మరియు అగ్రస్థాయికి సుమారు మూడవ వంతు.

అవుట్‌పుట్ ధర, USD ఒక్కో 1M టోకెన్‌లకు, Shannon AI గేట్‌వే జాబితా రేట్లు, సెప్టెంబర్ 2026. బార్ వెడల్పు ధరకు అనులోమానుపాతంలో ఉంటుంది; పొడవైనది ఎక్కువ ఖరీదైనది.

ఆ ప్రీమియం తన ఖర్చును ఎక్కడ సంపాదిస్తుందో — మరియు ఎక్కడ సంపాదించదో — నిజాయితీ గల చదువు ఇక్కడ ఉంది.

పనిభారం	Inkling వాడాలా?	ఎందుకు
చార్ట్ / రేఖాచిత్ర తర్కం	అవును	ప్రచురించిన CharXiv మరియు MMMU Pro గణాంకాలే ఈ పునాది అత్యంత బలంగా ఉండేది.
స్క్రీన్‌షాట్-ఆధారిత ఏజెంట్‌లు	అవును	ఒక్క మోడల్‌లో విజన్ పైగా టూల్ కాలింగ్ పైగా 262K చరిత్ర, ఏ హ్యాండ్‌ఆఫ్ లేకుండా.
బొమ్మలతో పొడవైన పత్రాలు	అవును	టెక్స్ట్ మరియు చిత్రాలు ఒక డీకోడర్‌ను మరియు ఒక సందర్భ విండోను పంచుకుంటాయి.
సాదా టెక్స్ట్ ఉత్పత్తి	లేదు	$0.50 / $2.00 వద్ద ఆరు మోడల్‌లు దీన్ని చేస్తాయి. మీరు ఎప్పుడూ పిలవని ఒక విజన్ మార్గం కోసం చెల్లిస్తున్నారు.
పరిమాణంలో స్కీమా వెలికితీత	లేదు	json_schema లేదు. MiMo-V2.5 చౌక మరియు పరిమితం.
పరిపూర్ణ ఫ్రాంటియర్ శిఖరం	లేదు	Kimi-K3 అగ్రస్థాయి. శిఖరమే పరిమితి అయితే 3.1×ను చెల్లించండి.
సాధ్యమైనంత చౌక విజన్	లేదు	MiniMax-M3కి $0.50 / $2.00 వద్ద విజన్ ఉంది. అక్కడ మొదలుపెట్టి, నాణ్యత బలవంతం చేస్తే అప్‌గ్రేడ్ చేయండి.

దాన్ని ఒక ర్యాంకింగ్‌గా కాక ఒక రూటింగ్ నియమంగా చదవండి. Inkling ఒక మార్కెటింగ్ పేజీ వాదించే దానికంటే ఇరుకైన పని పరిధికి సరైనది, మరియు ఆ పరిధి లోపల ధరపై దాన్ని ఓడించడం కష్టం. దానికి బయట, మేము మిమ్మల్ని ఉంచుకోవడానికి చౌక మోడల్‌ను అమ్మడానికి ఇష్టపడతాము.

06262K సందర్భ విండో, మరియు నిజంగా ఏమి ఇమిడుతుంది

గేట్‌వేపై ఉన్న పన్నెండు మోడల్‌లూ 262,144-టోకెన్ ఇన్‌పుట్ సందర్భం మరియు అభ్యర్థనకు 16,384-టోకెన్ గరిష్ఠ అవుట్‌పుట్‌తో అందించబడతాయి. ఉద్దేశపూర్వకంగా ఏకరీతి: సందర్భ నిర్వహణ మీ కోడ్‌లో ఎప్పుడూ ఒక్కో-మోడల్ శాఖ కాకూడదు, మరియు ఒక కాన్ఫిగ్ ఫైల్‌లో inklingను MiniMax-M3తో మార్చడం నిశ్శబ్దంగా ఏమి ఇమిడుతుందో మార్చకూడదు.

ప్రచురించిన పునాదికి వ్యతిరేకంగా అంతరాన్ని గమనించండి: Thinking Machines Inklingను 1,048,576 టోకెన్‌ల వద్ద డాక్యుమెంట్ చేస్తుంది, మరియు మేము దానిలో 262K భాగాన్ని అందిస్తాము. మీకు నిజమైన మిలియన్-టోకెన్ ఒక్క-అభ్యర్థన పనిభారం ఉంటే, మేము దాని కోసం ఎండ్‌పాయింట్ కాము, మరియు మీరు నిర్మించడానికి ముందు మీకు తెలియడం మంచిది.

262K వద్ద స్థాయి కోసం: దాని బొమ్మలతో ఒక 400-పేజీల సాంకేతిక PDF, ఒక మధ్య-పరిమాణ కోడ్‌బేస్, అనేక గంటల ట్రాన్స్క్రిప్ట్, లేదా డజన్ల టూల్ ఫలితాలు మరియు కొన్ని స్క్రీన్‌షాట్‌లు మోసుకెళ్ళే ఒక పొడవైన ఏజెంటిక్ సెషన్ — ప్రతి ఒక్కటి ఒక్క అభ్యర్థనలో ఇమిడిపోతాయి. ఒక విజన్ మోడల్‌పై, చిత్రాలు కూడా సందర్భాన్ని వినియోగిస్తాయని గుర్తుంచుకోండి; ఒక దట్టమైన స్క్రీన్‌షాట్ ఉచితం కాదు, మరియు ఫ్రేమ్‌లను స్ట్రీమ్ చేసే ఒక సెషన్ కేవలం-టెక్స్ట్ దానికంటే విండోను వేగంగా నింపుతుంది. ఆర్కిటెక్చర్ దీనికి బాగా సరిపోతుంది: 5:1 స్లైడింగ్-విండో-టు-గ్లోబల్ నమూనా అంటే చాలా పొరలు ఒక 512-టోకెన్ సమీపంలో హాజరవుతాయి, గ్లోబల్ పొరలు క్రమానుగతంగా దీర్ఘ-పరిధి నిర్మాణాన్ని తిరిగి లాక్కురావడంతో.

07తర్క ప్రయత్నం: మీకు అవసరమైనప్పుడు మాత్రమే ఆలోచనకు చెల్లించడం

Inkling నియంత్రించదగిన తర్క ప్రయత్నాన్ని బహిర్గతం చేస్తుంది — జాబితాలో మరింత ఉపయోగపడే నాబ్‌లలో ఒకటి. ఎగువ మోడల్ none మరియు minimal నుండి low, medium, high, xhigh, max వరకు స్థాయిలను స్వీకరిస్తుంది, మూడు మాండలికాలలోనూ ప్రామాణిక reasoning_effort పారామీటర్ ద్వారా బహిర్గతం చేయబడింది.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

ఇది కోరలున్న ఒక ఖర్చు మీట, ఎందుకంటే తర్క టోకెన్‌లు మిలియన్‌కు $6.07 చొప్పున అవుట్‌పుట్ టోకెన్‌లుగా బిల్ చేయబడతాయి. Terminal Bench 2.1పై Inkling సుమారు మూడవ వంతు టోకెన్‌లతో Nemotron 3 Ultraతో పోల్చదగిన స్కోర్‌లను చేరుకుంటుందని Thinking Machines నివేదిస్తుంది — టోకెన్ సామర్థ్యం ప్రయత్న వ్యవస్థ యొక్క ఒక ప్రకటిత డిజైన్ లక్ష్యం, ఒక యాదృచ్ఛికం కాదు.

ఆచరణలో: సమాధానం చిత్రంలోనే ఉండి ఏ తర్క గొలుసూ అవసరం లేని క్యాప్షనింగ్, వర్గీకరణ, మరియు సూటిగా వెలికితీత కోసం low లేదా minimalను నడపండి. చార్ట్ తర్కం, బహుళ-దశల దృశ్య పోలిక, మరియు ఒక తప్పు మధ్యంతర దశ ఖరీదైన ఏజెంటిక్ మలుపుల కోసం high మరియు అంతకు మించి ఉంచండి. చాలా బృందాలు ఈ పారామీటర్‌ను ఎప్పుడూ సెట్ చేయవు, మరియు అనేక రెట్ల అవుట్‌పుట్-ఖర్చు తేడాను బల్లపైనే వదిలేస్తాయి.

08ఇక్కడ "సెన్సార్ లేనిది" అంటే ఏమిటి — మరియు అది ఏమి కాదు

నిర్దిష్టంగా: మేము ఈ మోడల్‌ను తిరస్కరణ పొర లేకుండా మరియు అవుట్‌పుట్‌పై ఫిల్టరింగ్ లేకుండా నడుపుతాము. మోడల్ సమాధానం ఇవ్వవచ్చో లేదో నిర్ణయిస్తూ ఏ వర్గీకరణీ మీ ప్రాంప్ట్‌ను చదవదు, మరియు అది స్ట్రీమ్ కావడానికి ముందు ప్రతిస్పందనను ఏదీ చదవదు. మోడల్‌కు నిశ్చయత లేనప్పుడు లేదా జ్ఞానం లేనప్పుడు, అది అలా చెబుతుంది — అది మోడల్, ఒక విధానం కాదు. మీకు లభించనిది ఒక సాధారణ-వినియోగదారు ఉత్పత్తి పరిమితి-వెలుపలిదిగా భావించే ఒక అంశంపై ఒక ప్రతిక్షిప్త తిరస్కరణ.

విజన్ కోసం ఇదే మొత్తం విలువ ప్రతిపాదన. విజన్ APIల ముందు ఉన్న చిత్ర వర్గీకరణులు కచ్చితమైనవి కావు, మరియు తప్పుడు-పాజిటివ్ రేటు ఆ సామర్థ్యం అత్యంత అవసరమైన వృత్తిపరమైన పనిపైనే అత్యంత కఠినంగా పడుతుంది: భద్రతా పరిశోధన, క్లినికల్ సందర్భాలు, జర్నలిజం మరియు ఫోరెన్సిక్స్, సినిమా మరియు కళా విమర్శ, అది మోడరేట్ చేసే దాన్ని చూడాల్సిన మోడరేషన్ సాధనాలు. వర్గంపై తిరస్కరించే ఒక ఎండ్‌పాయింట్ వాటిలో దేనికీ నమ్మదగినదిగా సేవ చేయలేదు.

రెండు నిజాయితీ గల హెచ్చరికలు. మొదటిది, Thinking Machines తమ రిఫరెన్స్ మోహరింపు కోసం భద్రతా మూల్యాంకనాలను ప్రచురిస్తుంది — FORTRESS ఎడ్వర్సేరియల్‌పై 78.0%, FORTRESS బినైన్‌పై 95.9%, StrongREJECTపై 98.6%. ఆ గణాంకాలు వారి రక్షణ కంచెలతో వారి స్టాక్‌ను వర్ణిస్తాయి. అవి మావిని వర్ణించవు, మరియు మేము వాటిని అలా అని ఉదహరించము. ఆ సంఖ్యలు కొంతమేర కొలిచే పొరనే మేము తొలగించాము; అదే ఉత్పత్తి, మరియు బాధ్యత.

రెండోది, "తిరస్కరణ పొర లేదు" అంటే "నియమాలు లేవు" అని కాదు. Shannon Lab LLC ఒక బాధ్యతాయుత వినియోగ విధానం మరియు వర్తించే US చట్టం కింద పనిచేస్తుంది. ఒక వర్గీకరణిని తొలగించడం తీర్పును మీకు మారుస్తుంది, దాన్ని తొలగించదు. మీరు దీనిపై నిర్మిస్తుంటే, మీరు స్కేల్ చేయడానికి ముందు విధానాన్ని చదవండి.

09ప్రారంభించడం

అదే బేస్ URL, అదే కీ, మూడు మాండలికాలు. మీ కోడ్ ఇప్పటికే OpenAI, Anthropic, లేదా Responses APIని పిలుస్తుంటే, మోడల్ స్ట్రింగ్‌ను మార్చడం సాధారణంగా మొత్తం మైగ్రేషన్.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

పూర్తి పారామీటర్ సూచన, /v1/messages మరియు /v1/responses ఆకారాలు, స్ట్రీమింగ్ ఈవెంట్ ఫార్మాట్‌లు, మరియు ఒక ప్రత్యక్ష ప్లేగ్రౌండ్ API డాక్యుమెంటేషన్లో ఉన్నాయి. మిగతా పదకొండు మోడల్‌ల మోడల్ కార్డులు Shannon Researchలో ఉన్నాయి.

పునాది గణాంకాలు కుదించని Inkling చెక్‌పాయింట్ కోసం Thinking Machines Lab ప్రచురించిన సంఖ్యలు మరియు కుటుంబ శిఖరాన్ని వర్ణిస్తాయి, మా క్వాంటైజ్ చేయబడిన బిల్డ్‌ను కాదు. ధరలు మరియు సామర్థ్య ఫ్లాగ్‌లు సెప్టెంబర్ 2026 నాటికి Shannon AI గేట్‌వే జాబితా విలువలు.

10తరచుగా అడిగే ప్రశ్నలు

---

మూలాలు: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling architecture and benchmark notes. పునాది బెంచ్‌మార్క్‌లు కుదించని చెక్‌పాయింట్ కోసం ల్యాబ్-నివేదించినవి.