API โมเดล Inkling แบบไม่เซ็นเซอร์

โมเดลส่วนใหญ่จากทั้งสิบสองตัวบนเกตเวย์ของเราเป็นแบบข้อความล้วน มีสี่ตัวที่ไม่ใช่ และในบรรดาสี่ตัวนั้น Inkling ยึดตำแหน่งที่เฉพาะเจาะจง: เป็นโมเดลวิชันที่คุณหยิบมาใช้เมื่อรูปภาพคือส่วนที่ยากของโจทย์ แต่งบไม่ถึงระดับเรือธง การ์ดใบนี้ครอบคลุมว่าโมเดลฐานมาจากไหน คำต่อท้าย W4A16-AUTOROUND-REAP ทำอะไรกับมันบ้าง มันทำอะไรได้และทำอะไรไม่ได้ที่ระดับ API และ — พูดกันตรง ๆ — เมื่อไรที่โมเดลราคาถูกกว่าในชุดเดียวกันคือตัวเลือกที่ดีกว่า

01Inkling คืออะไร และใครสร้าง?

Inkling คือโมเดลน้ำหนักเปิดตัวแรกจาก Thinking Machines Lab เผยแพร่เมื่อ 15 กรกฎาคม 2026 ต่างจากการปล่อยโมเดลส่วนใหญ่ที่วางตัวว่า "เปิด" ตัวนี้มาพร้อมน้ำหนักครบถ้วนให้ดาวน์โหลดบน Hugging Face และรองรับตั้งแต่วันแรกใน transformers, SGLang, vLLM และ llama.cpp — ซึ่งเป็นเหตุผลว่าทำไมมันถึงรันบนโครงสร้างพื้นฐานอย่างของเราได้เลย ตัวเลขหลักจากเอกสารเปิดตัวของ Thinking Machines เอง:

นั่นคือโครงสร้าง Mixture-of-Experts แบบเบาบาง: 66 ชั้นดีโคเดอร์ที่ขนาดฮิดเดน 6,144 สองชั้นแรกเป็นแบบหนาแน่น อีก 64 ชั้นที่เหลือบรรจุผู้เชี่ยวชาญที่ถูกเราต์ 256 ตัวบวกผู้เชี่ยวชาญร่วม 2 ตัว โดยมี ผู้เชี่ยวชาญที่ถูกเราต์ทำงาน 6 ตัวต่อโทเค็น ราว 4% ของพารามิเตอร์ทำงานในแต่ละโทเค็น — นั่นคือสิ่งที่ทำให้โมเดลเกือบล้านล้านพารามิเตอร์ให้บริการได้จริง

มีสองทางเลือกเชิงสถาปัตยกรรมที่แปลกพอจะเอ่ยถึง แอตเทนชันเป็นแบบสลับชั้น — 55 ชั้นเป็น sliding-window attention บนหน้าต่าง 512 โทเค็น สลับกับ 11 ชั้นแบบโกลบอล ในรูปแบบซ้ำอัตราส่วน 5:1 และ Inkling ไม่ใช้ RoPE: มันใช้ไบแอสตำแหน่งสัมพัทธ์ที่เรียนรู้ได้และขึ้นกับอินพุต ควบคู่กับคอนโวลูชันเชิงเหตุผลสั้น ๆ บนโปรเจกชัน key/value และบนสาขา residual บันทึกสถาปัตยกรรมของ Sebastian Raschka ชี้ว่าทั้งสองอย่างเป็นการแหวกจากสูตรมาตรฐานปี 2026 จริง ๆ การเทรนใช้ Muon กับพารามิเตอร์เมทริกซ์ขนาดใหญ่และใช้ Adam กับส่วนที่เหลือ แล้วตามด้วยการโรลเอาต์ RL แบบอะซิงโครนัสกว่า 30 ล้านครั้งในขั้นโพสต์เทรน

ประเด็นสำหรับผู้ใช้ API ไม่ใช่เกร็ดพวกนี้ แต่คือมันเป็นโมเดลฐานระดับแนวหน้าที่มัลติโมดัลโดยกำเนิด ซึ่งเทรนบนโทเค็น 45 ล้านล้านที่ครอบคลุมข้อความ รูปภาพ เสียง และวิดีโอ — ไม่ใช่โมเดลข้อความที่เอาอะแดปเตอร์วิชันมาแปะทีหลัง รูปภาพถูกเข้ารหัสเป็นแพตช์ขนาด 40×40 พิกเซลผ่าน patchifier แบบ MLP ลำดับชั้นสี่ชั้น และประมวลผลร่วมกับข้อความในดีโคเดอร์เดียวกัน ความเข้าใจภาพอยู่ในวัตถุประสงค์ของการพรีเทรนตั้งแต่ต้น

02W4A16-AUTOROUND-REAP หมายความว่าอย่างไร?

มีสามเทคนิคแยกกันซ้อนอยู่ในคำต่อท้ายนั้น และแต่ละอย่างทำหน้าที่ต่างกัน ควรทำความเข้าใจไว้ เพราะคำต่อท้ายนี้คือความต่างที่ใหญ่ที่สุดอย่างเดียวระหว่างโมเดลที่คุณเรียกบน API ของเรากับเช็กพอยต์ที่ Thinking Machines เผยแพร่

REAP — ตัดผู้เชี่ยวชาญที่ไม่มีใครเราต์ไปหา

REAP ย่อมาจาก Router-weighted Expert Activation Pruning จาก Cerebras Research (arXiv 2510.13999 ได้รับตอบรับเข้า ICLR 2026) ใน MoE ที่มีผู้เชี่ยวชาญ 256 ตัวต่อชั้น เราเตอร์ไม่ได้กระจายงานอย่างเท่าเทียม: บางตัวถูกเรียกตลอดเวลา บางตัวทำงานนาน ๆ ครั้งและมีส่วนช่วยน้อยเมื่อทำงาน REAP ให้คะแนนผู้เชี่ยวชาญแต่ละตัวจากทั้งค่าเกตของเราเตอร์และนอร์มของแอกทิเวชันของผู้เชี่ยวชาญนั้น — ผู้เชี่ยวชาญที่ถูกเลือกบ่อยแต่ให้ค่าอัปเดตขนาดเล็กย่อมสำคัญน้อยกว่าที่จำนวนครั้งการถูกเลือกบ่งบอก — แล้วตัดตัวที่มีความสำคัญต่ำออกในครั้งเดียว ก่อนการควอนไทซ์

เหตุผลที่เราใช้การตัด (pruning) แทนการรวมผู้เชี่ยวชาญที่กำลังเป็นที่นิยมกว่า คือทั้งสองวิธีให้ผลต่างกันตามประเภทงาน การรวมดูสูสีบนเบนช์มาร์กเชิงจำแนก แต่พังบนงานเชิงกำเนิด ผู้เขียน REAP รายงานว่าการตัดรักษาคุณภาพได้ดีกว่าบนงานที่คนซื้อ API มาใช้จริง ๆ พอดี — การสังเคราะห์โค้ด การเรียกใช้ทูล การให้เหตุผลหลายรอบ — ที่อัตราการบีบอัดเกิน 50% ครอบคลุมโมเดลตั้งแต่ 20B ถึง 1T พารามิเตอร์ การรวมทำลายความเชี่ยวชาญเฉพาะทางของเราเตอร์ ส่วนการตัดปล่อยผู้เชี่ยวชาญที่รอดและการเราต์ระหว่างพวกมันไว้เหมือนเดิม

AutoRound — เรียนรู้ว่าจะปัดเศษที่ไหน

AutoRound คือวิธีควอนไทซ์หลังการเทรนของ Intel (arXiv 2309.05516 เผยแพร่ในชื่อ SignRound) การควอนไทซ์แบบตรงไปตรงมาจะปัดน้ำหนักแต่ละตัวไปยังค่า 4 บิตที่ใกล้ที่สุด — เป็นค่าเริ่มต้นที่สมเหตุสมผลและเป็นทางเลือกที่แย่เมื่อสเกลใหญ่ขึ้น เพราะความคลาดเคลื่อนจากการปัดเศษไม่ได้เป็นอิสระต่อกันและสะสมผ่านสแต็ก 66 ชั้น AutoRound มองการตัดสินใจปัดเศษเป็นสิ่งที่ต้องหาค่าเหมาะที่สุด: signed gradient descent ปรับทิศทางการปัดเศษและช่วงการตัดค่าน้ำหนักไปพร้อมกันในสองสามร้อยสเต็ป ยืมความแม่นยำของ quantization-aware training มาโดยไม่ต้องเทรนใหม่ Intel รายงานว่าได้ผลดีที่สุดในการตั้งค่าบิตต่ำสุดขั้ว และได้เปรียบพอสมควรที่ INT4

W4A16 — บิตไปอยู่ตรงไหน

W4A16 คือรูปแบบเชิงตัวเลข: น้ำหนัก 4 บิต แอกทิเวชัน 16 บิต น้ำหนัก — ซึ่งกินหน่วยความจำเป็นส่วนใหญ่ในโมเดล 975B — ย่อลงเหลือราวหนึ่งในสี่ของขนาด BF16 ขณะที่การคำนวณยังอยู่ที่ 16 บิต การแบ่งแบบนี้สำคัญเป็นพิเศษกับโมเดลวิชัน: สคีมที่ควอนไทซ์แอกทิเวชันด้วยจะไปทำลายงานเชิงตัวเลขละเอียดที่ความเข้าใจภาพพึ่งพาพอดี — การอ่านป้ายแกนเล็ก ๆ การแยกเส้นบางในไดอะแกรม การแยกเฉดสีสองเฉดที่คล้ายกัน การคงแอกทิเวชันไว้ที่ 16 บิตแลกมาด้วยแบนด์วิดท์และซื้อความละเอียดกลับมาในจุดที่งานวิชันสังเกตเห็น

เมื่อซ้อนกันทั้งสาม เราได้โมเดลที่ใส่ลงเครื่องได้และยังเร็ว โดยไม่มีหน้าผาคุณภาพแบบระดับ 3BIT-REAP ที่ดุกว่าซึ่งเราใช้กับโมเดลฐานตัวใหญ่ที่สุด นั่นคือการแลกที่ราคาสะท้อนออกมา

03วิชัน: API วิเคราะห์ภาพที่ไม่ปฏิเสธ

Inkling เป็นหนึ่งในสี่โมเดลที่รับภาพได้ในชุดโมเดลของเรา เคียงข้าง Kimi-K3, Kimi-K2.6 และ MiniMax-M3 ผลวิชันที่เผยแพร่ของโมเดลฐาน จากเอกสารเปิดตัวของ Thinking Machines คือ 73.3% บน MMMU Pro (Standard 10) และ 78.1% บนคำถามเชิงให้เหตุผลของ CharXiv — ขึ้นไปถึง 82.0% เมื่อปล่อยให้โมเดลรัน Python กับแผนภูมิได้ ตัวเลขเหล่านั้นเป็นของแล็บเองสำหรับเช็กพอยต์ที่ไม่ได้ควอนไทซ์ ให้ถือเป็นเพดานของตระกูลนี้ ไม่ใช่การวัดบิลด์ของเรา

CharXiv คือตัวที่ควรพูดถึงหน่อย เพราะมันสะท้อนเหตุผลที่คนซื้อ API วิชันแทนที่จะซื้อบริการ OCR มันทดสอบการให้เหตุผลกับแผนภูมิทางวิทยาศาสตร์ — อ่านค่าจากแกน เทียบชุดข้อมูลสองชุด สังเกตแนวโน้มที่กลับทิศ ไม่ใช่ "ในภาพนี้มีข้อความอะไร" แต่คือ "รูปนี้อ้างอะไร และข้ออ้างนั้นยืนอยู่ได้ไหม" นั่นคือสิ่งที่ทำให้การส่งรูปไปหาโมเดลให้เหตุผลขนาด 975B คุ้มค่า แทนที่จะใช้ตัวบรรยายภาพเล็ก ๆ

การส่งรูปภาพเป็นงานปกติแบบที่เข้ากันได้กับ OpenAI — คอนเท็นต์พาร์ต image_url บน /v1/chat/completions บล็อก image สไตล์ Anthropic บน /v1/messages หรือรูปแบบเทียบเท่าบน /v1/responses ทั้งสามภาษาถิ่นวิ่งไปหาน้ำหนักชุดเดียวกันและสตรีมได้ทั้งหมด เลือกอันที่ SDK ของคุณพูดได้อยู่แล้ว ตัวอย่างใช้งานจริงอยู่ในหัวข้อ 09

ส่วนที่ไม่เซ็นเซอร์สำคัญกับวิชันมากกว่ากับข้อความ ชั้นการปฏิเสธบนเอนด์พอยต์วิชันหยาบผิดปกติ เพราะโดยทั่วไปมันจะจำแนกรูปภาพก่อนที่โมเดลจะได้ให้เหตุผลกับคำขอเสียด้วยซ้ำ งานที่ชอบธรรมจึงโดนดักตลอด: ภาพถ่ายบาดแผลในไปป์ไลน์บันทึกทางคลินิก ภาพหน้าจอทางนิติวิทยาศาสตร์ในรายงานเหตุการณ์ เฟรมจากภาพยนตร์ที่กำลังถูกวิเคราะห์เพื่อเขียนบทวิจารณ์ ภาพสแกนทางการแพทย์ ภาพเอกสารที่บังเอิญมีชื่อคนอยู่ Inkling บนเกตเวย์ของเราไม่มีตัวจำแนกแบบนั้นวางขวางอยู่ข้างหน้า มันดูสิ่งที่คุณส่งไปและตอบคำถามที่คุณถาม นั่นคือตัวสินค้า

04เอาต์พุตแบบมีโครงสร้าง: response_format ได้ json_schema ไม่ได้

นี่คือจุดเดียวที่ Inkling ทำได้น้อยกว่าโมเดลส่วนใหญ่ในชุด และวางแผนเผื่อไว้ย่อมดีกว่าไปเจอเอาตอนขึ้นโปรดักชัน

ความสามารถ	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
วิชัน (รับภาพเป็นอินพุต)	ได้	ได้	ได้	ไม่ได้
response_format	ได้	ได้	ได้	ไม่ได้
json_schema	ไม่ได้	ได้	ได้	ไม่ได้
การเรียกใช้ทูล	ได้	ได้	ได้	ได้
ระดับการให้เหตุผล	ได้	ได้	ได้	ได้

response_format: {"type": "json_object"} ใช้ได้ — คุณจะได้ JSON ที่ถูกต้องตามไวยากรณ์ สิ่งที่คุณจะไม่ได้คือการถอดรหัสที่ถูกจำกัดด้วยไวยากรณ์ตามสคีมาที่คุณส่งมา ซึ่งตัวสุ่มถูกกันไม่ให้ปล่อยโทเค็นที่ละเมิดโครงสร้างของคุณโดยสิ้นเชิง ชื่อฟิลด์ สมาชิกของ enum และการมีอยู่ของคีย์ที่จำเป็น ล้วนเป็นทางเลือกของโมเดล ไม่ใช่การรับประกัน

มีสามวิธีอยู่กับข้อจำกัดนั้น เรียงตามความน่าเชื่อถือจากน้อยไปมาก:

1. ใส่สคีมาลงในพรอมป์แล้วตรวจสอบ วางสคีมาไว้ในระบบพรอมป์เป็น JSON ตรง ๆ ตั้ง response_format เป็น json_object แล้วตรวจสอบคำตอบฝั่งคุณเอง เมื่อการตรวจสอบล้มเหลวให้ลองใหม่พร้อมแนบข้อความผิดพลาดของตัวตรวจไปด้วย ถูก ใช้ได้จริง แต่ต้องเผื่องบสำหรับการลองใหม่
2. ใช้นิยามทูลเป็นสคีมา การเรียกใช้ทูลรองรับอยู่แล้ว และนิยามพารามิเตอร์ของฟังก์ชันก็คือ JSON Schema ประกาศทูลตัวเดียวตั้งชื่อตามสิ่งที่คุณต้องการดึงออกมา บังคับให้เรียกมัน แล้วอ่านค่า arguments นี่มักเป็นตัวเลือกที่แข็งแรงที่สุดบน Inkling และไม่มีค่าใช้จ่ายเพิ่ม
3. แบ่งงานข้ามสองโมเดล ให้ Inkling ทำส่วนวิชันและการให้เหตุผลออกมาเป็นร้อยแก้ว แล้วส่งร้อยแก้วนั้นต่อให้ MiMo-V2.5-W8A16 ที่ $0.50 / $2.00 พร้อม json_schema ของจริงสำหรับขั้นจัดโครงสร้าง สองครั้งเรียก แต่ครั้งที่สองถูก รูปทรงแน่นอน และโมเดลที่ต้องฉลาดคือตัวที่ได้เห็นรูปภาพ

ตัวเลือกที่ 3 คือรูปแบบที่เราแนะนำสำหรับไปป์ไลน์การดึงข้อมูลปริมาณสูงทุกแบบ จ่ายส่วนต่างเฉพาะขั้นตอนที่จำเป็นต้องจ่ายเท่านั้น

05ส่วนต่างราคาซื้ออะไรให้คุณ?

ที่ $1.42 เข้า / $6.07 ออก ต่อหนึ่งล้านโทเค็น Inkling ตั้งอยู่กลางชุดโมเดลของเราโดยตั้งใจ หกในสิบสองโมเดลอยู่ที่ราคาพื้น $0.50 / $2.00 Kimi-K3 — ตัวเรือธงที่รับภาพได้เช่นกัน — อยู่ที่ $3.83 / $19.12 Inkling อยู่ราวสามเท่าของราคาพื้นฝั่งเอาต์พุต และราวหนึ่งในสามของตัวเรือธง

ราคาเอาต์พุต ดอลลาร์สหรัฐต่อ 1 ล้านโทเค็น อัตราตามรายการของ Shannon AI Gateway กันยายน 2026 ความกว้างของแท่งเป็นสัดส่วนกับราคา ยิ่งยาวยิ่งแพง

นี่คือการอ่านตามตรงว่าส่วนต่างนั้นคุ้มค่าตรงไหน — และตรงไหนที่ไม่คุ้ม

ลักษณะงาน	ใช้ Inkling ไหม?	เพราะอะไร
การให้เหตุผลกับแผนภูมิ / ไดอะแกรม	ใช้	ตัวเลข CharXiv และ MMMU Pro ที่เผยแพร่คือจุดแข็งที่สุดของโมเดลฐานนี้
เอเจนต์ที่ขับเคลื่อนด้วยภาพหน้าจอ	ใช้	วิชัน บวกการเรียกใช้ทูล บวกประวัติ 262K อยู่ในโมเดลเดียว ไม่ต้องส่งต่อ
เอกสารยาวที่มีรูปประกอบ	ใช้	ข้อความและรูปภาพใช้ดีโคเดอร์เดียวและหน้าต่างคอนเท็กซ์เดียวกัน
การสร้างข้อความล้วน	ไม่	มีหกโมเดลที่ $0.50 / $2.00 ทำงานนี้ได้ คุณกำลังจ่ายค่าเส้นทางวิชันที่ไม่เคยเรียกใช้
การดึงข้อมูลตามสคีมาปริมาณมาก	ไม่	ไม่มี json_schema MiMo-V2.5 ถูกกว่าและถูกจำกัดโครงสร้างได้
เพดานระดับแนวหน้าสุด	ไม่	Kimi-K3 คือตัวเรือธง ถ้าเพดานคือข้อจำกัด ก็จ่าย 3.1 เท่าไปเลย
วิชันที่ถูกที่สุดเท่าที่เป็นไปได้	ไม่	MiniMax-M3 มีวิชันที่ $0.50 / $2.00 เริ่มที่นั่น แล้วค่อยขยับขึ้นถ้าคุณภาพบังคับ

อ่านตารางนี้เป็นกฎการเราต์ ไม่ใช่การจัดอันดับ Inkling เหมาะกับงานแถบที่แคบกว่าที่หน้าโฆษณาจะอ้าง และภายในแถบนั้นมันหาคู่แข่งด้านราคาได้ยาก นอกแถบนั้น เรายินดีขายโมเดลที่ถูกกว่าให้คุณและรักษาคุณไว้มากกว่า

06หน้าต่างคอนเท็กซ์ 262K และสิ่งที่ใส่ลงไปได้จริง

ทั้งสิบสองโมเดลบนเกตเวย์ให้บริการด้วยคอนเท็กซ์อินพุต 262,144 โทเค็น และเอาต์พุตสูงสุด 16,384 โทเค็น ต่อคำขอ เท่ากันหมดโดยตั้งใจ: การจัดการคอนเท็กซ์ไม่ควรกลายเป็นเงื่อนไขแยกรายโมเดลในโค้ดของคุณ และการสลับ inkling เป็น MiniMax-M3 ในไฟล์คอนฟิกไม่ควรเปลี่ยนสิ่งที่ใส่ลงไปได้อย่างเงียบ ๆ

สังเกตช่องว่างเทียบกับโมเดลฐานที่เผยแพร่: Thinking Machines ระบุ Inkling ไว้ที่ 1,048,576 โทเค็น และเราให้บริการเพียงส่วน 262K ของมัน ถ้าคุณมีงานที่ต้องใช้หนึ่งล้านโทเค็นในคำขอเดียวจริง ๆ เราไม่ใช่เอนด์พอยต์สำหรับงานนั้น และรู้ไว้ก่อนสร้างย่อมดีกว่า

ให้เห็นภาพที่ 262K: PDF เทคนิค 400 หน้าพร้อมรูปประกอบ โค้ดเบสขนาดกลาง บทถอดเสียงหลายชั่วโมง หรือเซสชันเอเจนต์ยาว ๆ ที่แบกผลลัพธ์ทูลหลายสิบชิ้นกับภาพหน้าจออีกจำนวนหนึ่ง — แต่ละอย่างใส่ลงในคำขอเดียวได้ บนโมเดลวิชัน อย่าลืมว่ารูปภาพก็กินคอนเท็กซ์ ภาพหน้าจอที่แน่นไม่ได้ฟรี และเซสชันที่สตรีมเฟรมเข้าไปจะเติมหน้าต่างเร็วกว่าเซสชันข้อความล้วน สถาปัตยกรรมเหมาะกับเรื่องนี้ดี: รูปแบบ sliding-window ต่อ global อัตรา 5:1 หมายความว่าชั้นส่วนใหญ่สนใจภายในย่าน 512 โทเค็น โดยมีชั้นโกลบอลดึงโครงสร้างระยะไกลกลับเข้ามาเป็นระยะ

07ระดับการให้เหตุผล: จ่ายค่าคิดเฉพาะตอนที่ต้องคิด

Inkling เปิดให้ควบคุมระดับการให้เหตุผลได้ — เป็นหนึ่งในปุ่มปรับที่มีประโยชน์ที่สุดในชุดโมเดล โมเดลต้นทางรับระดับตั้งแต่ none และ minimal ผ่าน low, medium, high, xhigh ไปจนถึง max เปิดให้ใช้บนทั้งสามภาษาถิ่นผ่านพารามิเตอร์มาตรฐาน reasoning_effort

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

นี่คือคันโยกต้นทุนที่มีฟันจริง เพราะโทเค็นการให้เหตุผลถูกคิดเงินเป็นโทเค็นเอาต์พุตที่ $6.07 ต่อหนึ่งล้าน Thinking Machines รายงานว่าบน Terminal Bench 2.1 Inkling ทำคะแนนได้เทียบเท่า Nemotron 3 Ultra โดยใช้โทเค็นราวหนึ่งในสาม — ประสิทธิภาพด้านโทเค็นเป็นเป้าหมายการออกแบบที่ระบุไว้ของระบบระดับความพยายาม ไม่ใช่ความบังเอิญ

ในทางปฏิบัติ: ใช้ low หรือ minimal สำหรับการบรรยายภาพ การจำแนก และการดึงข้อมูลตรงไปตรงมา ซึ่งคำตอบอยู่ในรูปอยู่แล้วและไม่ต้องอนุมานเป็นลูกโซ่ สงวน high ขึ้นไปไว้ให้การให้เหตุผลกับแผนภูมิ การเปรียบเทียบภาพหลายขั้น และรอบการทำงานของเอเจนต์ที่ขั้นกลางผิดพลาดแล้วแพง ทีมส่วนใหญ่ไม่เคยตั้งพารามิเตอร์นี้เลย และปล่อยส่วนต่างค่าเอาต์พุตหลายเท่าทิ้งไว้บนโต๊ะ

08"ไม่เซ็นเซอร์" ในที่นี้หมายถึงอะไร — และไม่ได้หมายถึงอะไร

พูดให้ชัด: เรารันโมเดลนี้โดยไม่มีชั้นการปฏิเสธและไม่มีการกรองเอาต์พุต ไม่มีตัวจำแนกอ่านพรอมป์ของคุณแล้วตัดสินว่าโมเดลจะตอบได้หรือไม่ และไม่มีตัวไหนอ่านคำตอบก่อนมันจะสตรีมออกไป เมื่อโมเดลไม่แน่ใจหรือไม่มีความรู้ มันจะบอกตรง ๆ — นั่นคือตัวโมเดล ไม่ใช่นโยบาย สิ่งที่คุณจะไม่เจอคือการปฏิเสธโดยอัตโนมัติในหัวข้อที่ผลิตภัณฑ์สำหรับผู้บริโภคทั่วไปถือว่าห้าม

สำหรับวิชัน นี่คือคุณค่าทั้งหมดของข้อเสนอ ตัวจำแนกรูปภาพที่วางไว้หน้า API วิชันนั้นไม่แม่นยำ และอัตราผลบวกลวงกระทบหนักที่สุดกับงานอาชีพที่ต้องการความสามารถนี้มากที่สุด: การวิจัยความปลอดภัย บริบททางคลินิก งานข่าวและนิติวิทยาศาสตร์ การวิจารณ์ภาพยนตร์และศิลปะ เครื่องมือคัดกรองเนื้อหาที่ต้องดูสิ่งที่มันกำลังคัดกรอง เอนด์พอยต์ที่ปฏิเสธตามหมวดหมู่ไม่สามารถให้บริการงานเหล่านั้นได้อย่างน่าเชื่อถือ

มีข้อแม้ที่ต้องพูดตรง ๆ สองข้อ ข้อแรก Thinking Machines เผยแพร่ผลประเมินด้านความปลอดภัยสำหรับการให้บริการอ้างอิงของพวกเขา — 78.0% บน FORTRESS adversarial, 95.9% บน FORTRESS benign, 98.6% บน StrongREJECT ตัวเลขเหล่านั้นอธิบายสแต็กของพวกเขาที่มีการ์ดเรลของพวกเขาติดตั้งอยู่ มันไม่ได้อธิบายของเรา และเราจะไม่อ้างมันราวกับว่าอธิบาย เราถอดชั้นที่ตัวเลขเหล่านั้นวัดอยู่บางส่วนออกไป นั่นคือตัวสินค้า และคือความรับผิดชอบ

ข้อสอง "ไม่มีชั้นการปฏิเสธ" ไม่ได้แปลว่า "ไม่มีกฎ" Shannon Lab LLC ดำเนินงานภายใต้นโยบายการใช้งานอย่างรับผิดชอบและกฎหมายสหรัฐฯ ที่เกี่ยวข้อง การถอดตัวจำแนกออกเป็นการย้ายดุลยพินิจมาที่คุณ ไม่ใช่การลบมันทิ้ง ถ้าคุณกำลังสร้างอะไรบนนี้ อ่านนโยบายก่อนขยายสเกล

09เริ่มต้นใช้งาน

base URL เดิม คีย์เดิม สามภาษาถิ่น ถ้าโค้ดของคุณเรียก OpenAI, Anthropic หรือ Responses API อยู่แล้ว การเปลี่ยนสตริงชื่อโมเดลมักเป็นการย้ายทั้งหมดที่ต้องทำ

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

เอกสารอ้างอิงพารามิเตอร์ฉบับเต็ม รูปแบบของ /v1/messages และ /v1/responses รูปแบบอีเวนต์การสตรีม และเพลย์กราวด์ใช้งานจริง อยู่ในเอกสาร API การ์ดโมเดลของอีกสิบเอ็ดตัวอยู่ใน Shannon Research

ตัวเลขของโมเดลฐานเป็นตัวเลขที่ Thinking Machines Lab เผยแพร่สำหรับเช็กพอยต์ Inkling ที่ไม่ได้ควอนไทซ์ และอธิบายเพดานของตระกูล ไม่ใช่บิลด์ที่ควอนไทซ์แล้วของเรา ราคาและธงความสามารถเป็นค่าตามรายการของ Shannon AI Gateway ณ กันยายน 2026

10คำถามที่พบบ่อย

---

แหล่งอ้างอิง: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling architecture and benchmark notes เบนช์มาร์กของโมเดลฐานเป็นตัวเลขที่แล็บรายงานสำหรับเช็กพอยต์ที่ไม่ได้ควอนไทซ์