Shannon 3.1
ลูปการให้เหตุผลเดิม ย้ายมาไว้บนคลัสเตอร์ GPU ของเราเอง: ฉลาดขึ้น 32%, เร็วขึ้น 10-15 เท่า และหน้าต่างบริบท 196,608 โทเค็น
สรุปสั้น
Shannon 3.1 ยังคงทุกอย่างที่ทำให้ Shannon 3 คุ้มค่าแก่การใช้งาน — ลูปการให้เหตุผลแบบวนซ้ำ ไม่มีชั้นปฏิเสธ ไม่มีการกรองผลลัพธ์ — และเปลี่ยนเฉพาะว่ามันรันที่ไหนและอย่างไร ตอนนี้โมเดลให้บริการจากคลัสเตอร์ GPU ของเราเองแทนโฮสต์การอนุมานของบุคคลที่สาม การประเมินของ Shannon Lab วัดได้ว่าความฉลาดดีขึ้น 32% และตอบเร็วขึ้น 10-15 เท่าเมื่อเทียบกับ Shannon 3.0 หน้าต่างบริบทเพิ่มจาก 32,768 เป็น 196,608 โทเค็น ชั้นควบคุมจังหวะที่จงใจหน่วงผลลัพธ์ของ 3.0 หายไปแล้ว: 3.1 สตรีมด้วยความเร็วเต็มที่ของเอนจิน โมเดลไอดีคือ shannon-3.1 และ shannon-3.1-pro ทั้งในแชทและบนสำเนียง APIทั้งสามแบบ
การเปิดตัวโมเดลส่วนใหญ่ขอให้คุณเชื่อคำกล่าวอ้างเรื่องความสามารถไปก่อน แล้วรอตารางเบนช์มาร์กมาตัดสิน ครั้งนี้ตรวจสอบง่ายกว่านั้น: เปิดสองแท็บ ใส่พรอมป์เดียวกันลงใน shannon-3 และ shannon-3.1 แล้วดู ความต่างของความเร็วที่คำตอบมาถึงนั้นไม่ได้บางเบา และไม่ใช่ลูกเล่นการเรนเดอร์ Shannon 3.0 ถูกหน่วงไว้โดยตั้งใจ ส่วน Shannon 3.1 ไม่ถูกหน่วง
01อะไรเปลี่ยนไปจริง ๆ ใน Shannon 3.1
Shannon 3.0 เป็นผู้แนะนำสิ่งที่นิยามตระกูลนี้: ลูปการให้เหตุผลแบบวนซ้ำ โมเดลไม่ตอบด้วยความคิดแรก มันคิด ร่าง ทบทวนร่างของตัวเองเทียบกับคำถาม แล้วปรับปรุง Lite รันลูปนั้นหนึ่งรอบ ส่วน Pro รันลูปเต็ม รวมถึงขั้นเก็บเกี่ยวความรู้ก่อนลงมือร่าง การออกแบบนี้อธิบายไว้ละเอียดในบทความวิจัย Shannon 3 และไม่มีส่วนใดเปลี่ยนไปใน 3.1
สิ่งที่เปลี่ยนคือกลไกที่อยู่ข้างใต้ Shannon 3.0 ให้บริการผ่านโฮสต์การอนุมานของบุคคลที่สาม — เป็นวิธีเปิดตัวโมเดลที่สมเหตุสมผล และเป็นวิธีรันโมเดลที่จำกัดตัวเอง คุณรับมาทั้งการตั้งค่าการให้บริการของคนอื่น คิวของคนอื่น เพดานบริบทของคนอื่น และความคิดของคนอื่นว่าคุณควรได้กี่โทเค็นต่อวินาที Shannon 3.1 รันบนคลัสเตอร์ GPU ของเราเอง บนสแตกการให้บริการที่เรากำหนดค่าเอง และทุกตัวเลขพาดหัวในบทความนี้ล้วนเป็นผลสืบเนื่องจากการตัดสินใจเพียงข้อนั้น
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| รันที่ไหน | โฮสต์บุคคลที่สาม | คลัสเตอร์ GPU ของเราเอง |
| หน้าต่างบริบท | 32,768 | 196,608 |
| การสตรีมผลลัพธ์ | หน่วงจังหวะ / จำกัดอัตรา | ความเร็วเต็มที่ของเอนจิน |
| น้ำหนักโมเดล | ค่าเริ่มต้นของโฮสต์ | 4-bit NVFP4 |
| การถอดรหัส | มาตรฐาน | Speculative |
| ลูปการให้เหตุผล | คิด → ร่าง → ทบทวน → ปรับปรุง | ไม่เปลี่ยนแปลง |
| ชั้นปฏิเสธ | ไม่มี | ไม่มี |
| โมเดลไอดี | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02ทำไม Shannon 3.1 จึงรู้สึกเร็วขึ้น 10-15 เท่า
ตัวเลขความเร็วเป็นสิ่งที่คนถามถึงก่อน จึงควรพูดให้ชัดว่ามันมาจากไหน มีปัจจัยอิสระสองอย่าง และอย่างที่ส่งผลมากกว่าคือตัวที่ฟังดูไม่หวือหวาเท่า
เราถอดประตูจำกัดความเร็วออก
ผลลัพธ์ของ Shannon 3.0 ต้องผ่านชั้นควบคุมจังหวะ โทเค็นออกจากเอนจิน ถูกกักไว้ แล้วปล่อยสู่การเชื่อมต่อของคุณตามตาราง นี่ไม่ใช่อุบัติเหตุหรือบั๊ก เมื่อโฮสต์การอนุมานร่วมคือคอขวด การหน่วงจังหวะผลลัพธ์จะเกลี่ยภาระให้ราบเรียบ กันไม่ให้การสร้างข้อความยาว ๆ ผูกขาดสล็อต และทำให้สตรีมมาถึงด้วยจังหวะที่คาดเดาได้และอ่านง่ายแทนที่จะมาเป็นระลอก มันเป็นทางเลือกทางวิศวกรรมที่ปกป้องได้ และมันกินเวลานาฬิกาจริงของผู้ใช้ทุกคนในทุกคำตอบ
Shannon 3.1 ไม่มีประตูจำกัดความเร็วและไม่มีการหน่วงจังหวะการเปิดเผย โทเค็นถูกเขียนลงสตรีมของคุณทันทีที่เอนจินผลิตออกมา ถ้าเอนจินสร้างเร็ว คุณก็เห็นมันสร้างเร็ว ไม่มีบัฟเฟอร์เกลี่ยจังหวะคั่นระหว่างโมเดลกับเทอร์มินัล หน้าต่างแชท หรือตัวอ่าน SSE ของคุณ สำหรับคำตอบยาว — บทวิเคราะห์ 2,000 โทเค็น หรือไฟล์โค้ดที่ถูกสร้างขึ้น — ลำพังข้อนี้ก็คิดเป็นส่วนใหญ่ของความดีขึ้นที่คุณจะสังเกตเห็น
ผลข้างเคียงที่ต้องพูดตามตรง: ตอนนี้สตรีมมาเป็นระลอก speculative decoding (ด้านล่าง) ปล่อยโทเค็นที่ผ่านการยอมรับออกมาเป็นชุดสั้น ๆ ข้อความจึงมาถึงเป็นก้อนที่มองเห็นได้ แทนจังหวะทีละคำแบบเมตรอนอม ถ้าคุณสร้าง UI รอบจังหวะที่ราบเรียบของ 3.0 ไว้ มันยังทำงานได้ — ลำดับและเนื้อหาของโทเค็นไม่เปลี่ยน — แต่คุณอาจอยากใส่การเกลี่ยจังหวะฝั่งไคลเอนต์ของคุณเองกลับเข้ามา หากชอบภาพแบบเครื่องพิมพ์ดีด เราคิดว่าคนส่วนใหญ่อยากได้เวลาคืนมามากกว่า
ตัวเอนจินเองก็เร็วขึ้น
การถอดประตูออกจะช่วยได้ก็ต่อเมื่อสิ่งที่อยู่หลังประตูนั้นเร็ว ปัจจัยที่สองคือสแตกการให้บริการที่อธิบายไว้ในหัวข้อ 03: น้ำหนัก NVFP4 แบบ 4 บิต และ speculative decoding บนตัวเร่งความเร็วรุ่นปัจจุบันที่รองรับ FP4 แบบเนทีฟในคลัสเตอร์ของเราเอง สองอย่างนี้รวมกันยกเพดานที่การถอดประตูเปิดเผยให้เห็น
ความหน่วงเชิงเปรียบเทียบของการตอบแบบต้นทางถึงปลายทาง จากการประเมินภายในของ Shannon Lab กันยายน 2026 ช่วงตัวเลขสะท้อนความยาวพรอมป์และระดับชั้น: พรอมป์สั้นบน Lite อยู่ใกล้ปลายล่าง ส่วนการสร้างข้อความยาวบน Pro อยู่ใกล้ปลายบน
03speculative decoding ทำอะไรกันแน่
คำว่า "การอนุมานแบบ speculative decoding" ถูกใช้เป็นคำการตลาดบ่อย ๆ ฉะนั้นนี่คือกลไกของมันแบบตรงไปตรงมา
ตามปกติโมเดลภาษาผลิตหนึ่งโทเค็นต่อการประมวลผลไปข้างหน้าหนึ่งครั้ง การประมวลผลนั้นถูกครอบงำไม่ใช่ด้วยการคำนวณ แต่ด้วยแบนด์วิดท์หน่วยความจำ — ต้องอ่านน้ำหนักโมเดลก่อนจึงจะคำนวณอะไรได้ และการอ่านนั้นใช้เวลานานกว่าการคำนวณมาก GPU ใช้เวลาส่วนใหญ่รอหน่วยความจำโดยที่หน่วยประมวลผลว่างงาน การสร้าง 500 โทเค็นหมายถึงการจ่ายค่าความหน่วงนั้น 500 ครั้งตามลำดับ
speculative decoding โจมตีส่วนที่เป็นลำดับนี้ โมเดลร่างขนาดเล็กราคาถูกจะเสนอชุดโทเค็นถัดไปที่น่าจะเป็นสั้น ๆ — สมมติสี่หรือแปดตัว จากนั้นโมเดลหลักประเมินทั้งชุดในการประมวลผลไปข้างหน้าแบบแบตช์ครั้งเดียว ซึ่งแทบไม่แพงกว่าการประเมินโทเค็นเดียวเลย เพราะส่วนที่แพง (การอ่านน้ำหนัก) เกิดขึ้นครั้งเดียวไม่ว่าทางไหน โทเค็นที่เสนอมาทุกตัวที่โมเดลหลักเห็นด้วยจะได้รับการยอมรับและส่งออกทันที เมื่อเจอความไม่เห็นด้วยครั้งแรก ชุดนั้นจะถูกตัดและกลับไปถอดรหัสตามปกติจากจุดนั้น
คุณสมบัติที่สำคัญ
speculative decoding รักษาผลลัพธ์ไว้เหมือนเดิม ขั้นการตรวจสอบถูกออกแบบมาให้ลำดับที่ผ่านการยอมรับมีการแจกแจงตรงกับที่การสุ่มของโมเดลหลักเองจะให้ผลออกมา คุณไม่ได้คำตอบของโมเดลร่าง และคุณไม่ได้คำตอบแบบประมาณค่าของโมเดลใหญ่ คุณได้ผลลัพธ์ของโมเดลหลักจริง ๆ เพียงแต่มาถึงด้วยขั้นตอนเชิงลำดับที่น้อยลง โมเดลร่างมีผลต่อความเร็วเท่านั้น ไม่เคยมีผลต่อเนื้อหา
อัตราการยอมรับคือสิ่งที่ทำงานจริง บนข้อความที่คาดเดาได้ — โค้ดสำเร็จรูป โครงสร้างโค้ด เนื้อเยื่อเชื่อมของการให้เหตุผล — โมเดลร่างเดาได้แม่นและชุดยาว ๆ ลงตัวในครั้งเดียว ส่วนบนโทเค็นที่ยากจริง ๆ อัตราการยอมรับจะลดลง และระบบจะถอยกลับอย่างนุ่มนวลไปสู่การถอดรหัสทีละโทเค็นตามปกติ ความไม่สมมาตรแบบนี้คือสิ่งที่คุณต้องการ: มันเร่งส่วนที่ง่ายและไม่ไปแตะส่วนที่ยาก
ทำไมน้ำหนัก 4 บิตจึงอยู่ในย่อหน้าเดียวกัน
เพราะคอขวดคือแบนด์วิดท์หน่วยความจำ การย่อขนาดน้ำหนักโมเดลจึงเป็นคันโยกความเร็วโดยตรง ไม่ใช่แค่เรื่องพื้นที่หน่วยความจำ NVFP4 คือรูปแบบทศนิยม 4 บิตที่มีการปรับสเกลต่อบล็อกแบบละเอียด ซึ่งเป็นสิ่งที่ทำให้มันรักษาความแม่นยำไว้ได้ในจุดที่การควอนไทซ์จำนวนเต็ม 4 บิตรุ่นเก่าสูญเสียไป การอ่านไบต์เพียงราวหนึ่งในสี่ต่อการประมวลผลไปข้างหน้าหนึ่งครั้ง หมายถึงเวลารอหน่วยความจำที่ลดลงตามสัดส่วน และเหลือพื้นที่ว่างมากขึ้นมากสำหรับแคช KV บริบทยาวที่หน้าต่าง 196K เรียกร้อง
ทั้งสองอย่างทวีคูณกันมากกว่าจะแค่บวกกัน: ไบต์ต่อรอบน้อยลง และรอบต่อโทเค็นที่ส่งออกน้อยลง นั่นคือสิ่งที่ทำให้การสตรีมความเร็วเต็มที่แบบไม่มีประตูกั้นให้บริการได้ในราคาที่รับไหว แทนที่จะเป็นต้นทุนที่เราต้องทวงคืนผ่านการหน่วงจังหวะ — ซึ่งเป็นสิ่งที่ชั้นควบคุมจังหวะทำอยู่พอดีบน 3.0
04196,608 โทเค็น: หน้าต่างที่ใหญ่ขึ้น 6 เท่าปลดล็อกอะไร
Shannon 3.0 มีหน้าต่าง 32,768 โทเค็น: เป็นเซสชันทำงาน ไม่ใช่เอกสาร ราว 70-80 หน้าของร้อยแก้ว ลบด้วยสิ่งที่ลูปการให้เหตุผลใช้ไปกับการคิดของมันเอง ลบด้วยพรอมป์ระบบของคุณ ลบด้วยบทสนทนาที่ผ่านมา งานจริงชนกำแพงนั้นตลอดเวลา และทางเลี่ยงทั้งหลาย — การแบ่งชิ้น การสรุป การค้นคืนจากเนื้อหาของคุณเอง — ล้วนบั่นทอนสิ่งที่คุณพยายามรักษาไว้ 196,608 โทเค็น คือปัญหาคนละประเภทกัน
พูดให้เป็นรูปธรรม นั่นคือข้อความภาษาอังกฤษราว 400-500 หน้า หรือโค้ดเบสขนาดกลางพร้อมเทสต์และ README หรือบันทึกการประชุมหนึ่งปีของโปรเจกต์หนึ่ง หรือชุดสัญญาฉบับเต็มพร้อมเอกสารแนบทั้งหมด — เก็บไว้ในบทสนทนาเดียว ถามถึงได้ในคำถามเดียว โดยไม่มีชั้นการแบ่งชิ้นคั่นระหว่างคุณกับเนื้อหา
- คำถามระดับทั้งรีโพ โหลดโค้ดเข้าไปแล้วถามว่าทำไมบั๊กถึงหลุดขึ้นโปรดักชัน แทนที่จะวางเฉพาะสามไฟล์ที่คุณสงสัยอยู่แล้ว โมเดลหาไฟล์ที่คุณนึกไม่ถึงว่าต้องใส่เข้าไปได้
- วิเคราะห์เอกสารยาวโดยไม่ต้องใช้การค้นคืน การค้นคืนคือตัวกรองล่วงหน้าที่สูญเสียข้อมูล ซึ่งเป็นตัวตัดสินว่าโมเดลได้รับอนุญาตให้เห็นอะไร ที่ 196K คุณมักข้ามมันไปได้และปล่อยให้โมเดลอ่านทุกอย่าง ซึ่งกำจัดความล้มเหลวทั้งประเภทที่ย่อหน้าสำคัญไม่เคยถูกค้นคืนมาเลย
- บทสนทนาที่ยังคงต่อเนื่องเป็นเนื้อเดียว เซสชันทำงานยาว ๆ ไม่ทิ้งจุดเริ่มต้นของตัวเองอย่างเงียบ ๆ อีกต่อไป ข้อจำกัดที่คุณตั้งไว้ในข้อความที่สามยังมีผลในข้อความที่แปดสิบ
- ที่ว่างสำหรับลูปการให้เหตุผล การคิด การร่าง และการทบทวนของลูปเองก็กินบริบท บน 3.0 ขั้นตอนเหล่านั้นแย่งงบประมาณอันจำกัดกับเนื้อหาของคุณ บน 3.1 มันมีที่พอสบาย ๆ ซึ่งเป็นส่วนหนึ่งของเหตุผลที่คุณภาพที่ดีขึ้นและหน้าต่างที่ใหญ่ขึ้นมาพร้อมกัน
- อินพุตผสมขนาดใหญ่ รูปภาพ ข้อความที่สกัดจากเอกสาร และโค้ด ในเทิร์นเดียว โดยไม่ต้องคัดว่าอันไหนที่คุณพอจะใส่ไหว
ข้อควรระวังตามตรงหนึ่งข้อที่ใช้ได้กับทุกโมเดลบริบทยาว รวมถึงของเรา: หน้าต่างใหญ่คือความจุ ไม่ใช่การรับประกันว่าความสนใจจะกระจายสม่ำเสมอทั่วทั้งหน้าต่าง โครงสร้างยังช่วยได้อยู่ การวางคำถามไว้ใกล้ท้าย การติดป้ายกำกับเอกสารของคุณ และการบอกโมเดลว่าให้มองหาอะไร ล้วนช่วยให้ผลลัพธ์ที่ 150K โทเค็นดีขึ้นอย่างวัดได้ ในแบบที่มันไม่ช่วยเลยที่ 5K
05Lite และ Pro: shannon-3.1 และ shannon-3.1-pro
สองระดับชั้นนี้ต่างกันที่ว่ารันลูปการให้เหตุผลมากแค่ไหน และนั่นคือความต่างเดียวที่สำคัญต่อการเลือกใช้
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| การให้เหตุผล | รอบเดียว | ลูปเต็ม + เก็บเกี่ยวความรู้ |
| ทบทวนตัวเอง | ไม่ | ใช่ |
| หน้าต่างบริบท | 196,608 | 196,608 |
| การสตรีม | ความเร็วเต็มที่ ไม่มีประตูกั้น | ความเร็วเต็มที่ ไม่มีประตูกั้น |
| การมองเห็น & เอกสาร | ใช่ | ใช่ |
| เครื่องมือสร้างภาพ | ใช่ | ใช่ |
| เหมาะกับ | งานส่วนใหญ่ ปริมาณสูง | คำถามยาก ร่างแรกยังไม่พอ |
ใช้ Lite เป็นค่าเริ่มต้น ลูปการให้เหตุผลที่ดีเพียงรอบเดียวรับมือคำขอจริงส่วนใหญ่ได้ และบน 3.1 มันเร็วพอจนลูปไม่ใช่สิ่งที่คุณรู้สึกว่าต้องนั่งรออีกต่อไป หยิบ Pro มาใช้ เมื่อคำถามนั้นเป็นแบบที่คำตอบแรกมักผิดในทางที่ให้บทเรียน: การแลกได้แลกเสียเชิงสถาปัตยกรรม การวิเคราะห์เชิงปฏิปักษ์ หรืออะไรก็ตามที่คุณอยากให้เพื่อนร่วมงานที่เก่งได้นอนคิดสักคืน ขั้นทบทวนตัวเองของ Pro ไม่ใช่ของประดับ — มันคือการที่โมเดลหาข้อผิดพลาดของตัวเองเจอก่อนที่คุณจะต้องเจอ
06ความฉลาดที่เพิ่มขึ้น 32% และวิธีอ่านตัวเลขนี้
การประเมินภายในของ Shannon Lab ระบุว่า Shannon 3.1 มีความฉลาดดีขึ้น 32% เหนือ Shannon 3.0 เราอยากพูดให้ชัดว่านั่นคืออะไรและไม่ใช่อะไร
มันคือตัวเลขของเราเอง จากชุดการประเมินภายในของเรา วัดบนงานที่เราถือว่าเป็นตัวแทนของสิ่งที่ผู้คนนำมาใช้กับโมเดลเหล่านี้จริง ๆ มันไม่ใช่เบนช์มาร์กของบุคคลที่สาม และเราไม่ได้สร้างตารางลีดเดอร์บอร์ดขึ้นรอบตัวเลขรวมภายในตัวเดียว หรือเผยแพร่การแจกแจงรายเบนช์มาร์ก — การแจกแจงเช่นนั้นสื่อถึงระดับความเทียบเคียงได้จากภายนอกที่ชุดประเมินภายในไม่มี
สิ่งที่เราจะบอกได้คือความดีขึ้นนั้นมาจากไหน เพราะส่วนนั้นไม่ลึกลับเลย หน้าต่างบริบทที่ใหญ่ขึ้นหมายความว่ามีเนื้อหาที่ต้องถูกทิ้งไปน้อยลงก่อนโมเดลจะให้เหตุผลกับมัน และสิ่งที่ดูเหมือนความไม่ฉลาดในเซสชันยาว ๆ จำนวนมากแท้จริงแล้วคืออาการความจำเสื่อม สแตกการให้บริการที่เราควบคุมเองหมายความว่าโมเดลรันด้วยการตั้งค่าที่เราตั้งใจ ไม่ใช่ค่าเริ่มต้นของโฮสต์ และลูปการให้เหตุผล — ที่ไม่เปลี่ยนแปลงในเชิงการออกแบบ — ตอนนี้มีที่ให้รันจริง ๆ ภายในหน้าต่าง แทนที่จะถูกบีบชนเพดาน 32K ที่มันต้องแบ่งกับอินพุตของคุณ
เบนช์มาร์กที่มีประโยชน์ที่สุดสำหรับคุณคือของคุณเอง เอาพรอมป์จากภาระงานจริงของคุณ — ไม่ใช่ปริศนา แต่เป็นงานจริง — แล้วรันบน shannon-3 จากนั้นบน shannon-3.1 เปรียบเทียบคำตอบ และจับเวลา ตัวเลขของเราอธิบายค่าเฉลี่ยทั่วทั้งชุดประเมิน ส่วนพรอมป์ของคุณคือตัวที่ต้องดีขึ้นจริง
07การมองเห็น เอกสาร และการสร้างภาพ
Shannon 3.1 อ่านรูปภาพและเอกสารได้ ภาพหน้าจอ ไดอะแกรม ภาพถ่าย หน้าที่สแกนมา ไฟล์ PDF และเอกสารข้อความ สามารถใส่เข้าไปในบทสนทนาและถูกให้เหตุผลควบคู่กับทุกอย่างที่เหลือได้ เมื่อรวมกับหน้าต่าง 196K นี่คือสิ่งที่ทำให้เวิร์กโฟลว์ระดับเอกสารทั้งฉบับเป็นจริงได้: รายงานยาวพร้อมกราฟของมันในเทิร์นเดียว โดยไม่ต้องตัดสินใจล่วงหน้าว่าโมเดลได้รับอนุญาตให้เห็นหน้าไหนบ้าง
การสร้างและแก้ไขภาพมีให้ใช้ในแชทในรูปแบบเครื่องมือ ขอภาพแล้วโมเดลจะเรียกเครื่องมือนั้นในบรรทัดเดียวกัน ในบทสนทนาเดียวกัน พร้อมบริบทของทุกอย่างที่คุยกันมา การแก้ไขก็ทำงานแบบเดียวกัน — ส่งภาพให้แล้วบรรยายสิ่งที่ต้องการเปลี่ยน ไม่มีโหมดแยกให้ต้องสลับไปและไม่มีอินเทอร์เฟซแยกให้ต้องเรียนรู้
08การเรียก Shannon 3.1 จาก API
Shannon 3.1 ใช้ได้บนสำเนียง API ทั้งสามแบบ พร้อมการสตรีมในทุกแบบ โมเดลเดียวกัน รูปทรงคำขอสามแบบ — เลือกอันที่ตรงกับ SDK ที่คุณมีอยู่แล้ว
| เอนด์พอยต์ | รูปทรง | การสตรีม |
|---|---|---|
| /v1/chat/completions | เข้ากันได้กับ OpenAI | ใช่ |
| /v1/messages | เข้ากันได้กับ Anthropic | ใช่ |
| /v1/responses | Responses | ใช่ |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}
เปลี่ยน "shannon-3.1" เป็น "shannon-3.1-pro" เพื่อรันลูปการให้เหตุผลเต็มรูปแบบ ถ้าคุณเรียก shannon-3 อยู่แล้ว การย้ายคือเปลี่ยนโมเดลไอดีเท่านั้น: รูปทรงของคำขอและการตอบกลับไม่เปลี่ยน และไคลเอนต์สตรีมมิงเดิมยังทำงานได้ ความต่างเชิงพฤติกรรมอย่างเดียวที่ต้องคาดหวังคือสตรีมที่มาเป็นระลอกตามที่อธิบายไว้ในหัวข้อ 02 — โทเค็นเดิม ลำดับเดิม มาถึงเร็วขึ้นและเป็นก้อนที่ไม่สม่ำเสมอกว่าเดิม
เอกสารอ้างอิงพารามิเตอร์ฉบับเต็ม การยืนยันตัวตน ความหมายของข้อผิดพลาด และเพลย์กราวด์แบบโต้ตอบ อยู่ในเอกสาร API การ์ดโมเดลอื่น ๆ และบทความเชิงเทคนิคอยู่ในงานวิจัย Shannon
09ยังคงไม่เซ็นเซอร์ และไม่เปลี่ยนแปลงในแง่นั้น
Shannon 3.1 ไม่มีชั้นปฏิเสธและไม่มีการกรองเนื้อหาที่ผลลัพธ์ นี่คือจุดยืนเดียวกับรุ่นอื่นในสาย Shannon และมันไม่ได้เปลี่ยนไปพร้อมกับการย้ายมาคลัสเตอร์ของเราเอง — ถ้าจะมีอะไรเปลี่ยน การควบคุมสแตกการให้บริการเองยิ่งทำให้รับประกันได้ง่ายขึ้น เพราะไม่มีโฮสต์คั่นกลางที่มีนโยบายของตัวเองนั่งอยู่ระหว่างโมเดลกับคุณ
ควรพูดให้ชัดเพราะเป็นสิ่งที่คนย่อมสงสัยกับการเปิดตัวที่เปลี่ยนเส้นทางผลลัพธ์ทั้งเส้น: การถอดชั้นควบคุมจังหวะออกไม่ได้หมายถึงการใส่ชั้นกลั่นกรองเข้าไปแทนที่ ไม่มีอะไรตรวจ เขียนใหม่ หรือกั้นสตรีม สิ่งที่โมเดลผลิตคือสิ่งที่มาถึง เท่าที่เราทราบ Shannon 3.1 คือโมเดล AI ไม่เซ็นเซอร์ที่เร็วที่สุดเท่าที่มีอยู่ซึ่งมีหน้าต่างบริบทขนาดนี้ — และคุณสมบัติสองข้อนี้เกี่ยวข้องกัน เพราะทั้งคู่มาจากการรันโครงสร้างพื้นฐานของเราเอง แทนที่จะเช่ากำลังประมวลผลที่ถูกขึ้นรูปตามข้อกำหนดของคนอื่น
ไม่เซ็นเซอร์ไม่ได้แปลว่าไม่ต้องรับผิดชอบ การใช้งานอยู่ภายใต้นโยบายการใช้งานอย่างรับผิดชอบของเรา และภาระที่มาพร้อมโมเดลที่ยอมเข้าไปคุยกับเนื้อหายาก ๆ ก็คือคุณต้องเข้าไปคุยกับมันอย่างรับผิดชอบ
10ลองเปรียบเทียบด้วยตัวคุณเอง
ทุกคำกล่าวอ้างในหน้านี้ตรวจสอบได้ในราวสองนาที และเราอยากให้คุณตรวจสอบมากกว่าจะเชื่อเราเฉย ๆ
- เลือกพรอมป์จากงานที่คุณทำจริง ยาวยิ่งดี — เพราะมันใช้ทั้งหน้าต่างบริบทและการสตรีม
- รันบน
shannon-3จดว่าใช้เวลานานเท่าไรกว่าจะได้โทเค็นแรก และนานเท่าไรกว่าคำตอบจะจบ - รันพรอมป์เดียวกันเป๊ะบน
shannon-3.1จดตัวเลขสองตัวเดิม - จากนั้นอ่านคำตอบทั้งสอง โดยไม่สนใจนาฬิกา แล้วตัดสินว่าคุณอยากได้อันไหน
ความต่างด้านความเร็วจะเห็นได้ทันทีและชัดเจน ส่วนความต่างด้านคุณภาพคืออันที่ควรค่าแก่การนั่งพิจารณา — มันปรากฏชัดที่สุดกับอินพุตยาว ๆ ที่ 3.0 ทำงานอยู่กับเนื้อหาของคุณน้อยกว่าที่คุณคิดโดยที่คุณไม่รู้ตัว
11คำถามที่พบบ่อย
Shannon 3.1 คืออะไร?
Shannon 3.1 คือรุ่นปัจจุบันของตระกูล Shannon 3 โดยยังคงลูปการให้เหตุผลแบบวนซ้ำเดิมไว้ — คิด ร่าง ทบทวนตัวเอง ปรับปรุง — แต่รันแบบเนทีฟบนคลัสเตอร์ GPU ของเราเองแทนโฮสต์การอนุมานของบุคคลที่สาม การประเมินภายในของ Shannon Lab วัดได้ว่าความฉลาดดีขึ้น 32% และตอบเร็วขึ้น 10-15 เท่าเมื่อเทียบกับ Shannon 3.0 พร้อมขยายหน้าต่างบริบทจาก 32,768 เป็น 196,608 โทเค็น
Shannon 3.1 เร็วกว่า Shannon 3.0 แค่ไหน?
เร็วขึ้นระหว่าง 10 ถึง 15 เท่าสำหรับการตอบแบบต้นทางถึงปลายทาง ตามการประเมินภายในของ Shannon Lab มีสองสาเหตุ ผลลัพธ์ของ Shannon 3.0 ต้องผ่านชั้นควบคุมจังหวะที่จำกัดอัตราการสตรีมโดยเจตนา ส่วน Shannon 3.1 ไม่มีประตูจำกัดความเร็วและไม่มีการหน่วงจังหวะการเปิดเผย โทเค็นจึงถึงคุณเร็วเท่าที่เอนจินผลิตได้ ตัวเอนจินเองก็เร็วขึ้นด้วย: น้ำหนัก NVFP4 แบบ 4 บิต บวกกับ speculative decoding บนคลัสเตอร์ GPU ของเราเอง
หน้าต่างบริบทของ Shannon 3.1 ใหญ่แค่ไหน?
196,608 โทเค็น เพิ่มขึ้น 6 เท่าจาก 32,768 โทเค็นที่มีใน Shannon 3.0 นั่นคือข้อความราว 400-500 หน้า หรือโค้ดเบสขนาดกลาง ที่เก็บไว้ในบทสนทนาเดียวได้โดยไม่ต้องแบ่งชิ้นหรือใช้การค้นคืน
speculative decoding คืออะไร และทำไมจึงสำคัญที่นี่?
โมเดลร่างขนาดเล็กที่ทำงานเร็วจะเสนอชุดโทเค็นถัดไปที่น่าจะเป็น แล้วโมเดลหลักตรวจสอบทั้งชุดในการประมวลผลแบบแบตช์ครั้งเดียว โทเค็นที่ได้รับการยอมรับจะถูกส่งออกทันที ส่วนที่ถูกปฏิเสธจะย้อนกลับไปถอดรหัสตามปกติ ผลลัพธ์คือสิ่งที่โมเดลหลักจะผลิตออกมาเองอยู่แล้ว แต่ได้โทเค็นหลายตัวต่อหนึ่งขั้นการตรวจสอบแทนที่จะได้ทีละตัว นี่คือสิ่งที่ทำให้การสตรีมด้วยความเร็วเต็มที่มีต้นทุนที่รับไหว แทนที่จะกลายเป็นปัญหาด้านค่าใช้จ่าย
Shannon 3.1 ไม่เซ็นเซอร์หรือไม่?
ใช่ Shannon 3.1 ไม่มีชั้นปฏิเสธและไม่มีการกรองเนื้อหาที่ผลลัพธ์ เช่นเดียวกับรุ่นอื่นในสาย Shannon การถอดชั้นควบคุมจังหวะออกไม่ได้เพิ่มชั้นกลั่นกรองเข้ามาแทนที่ — สตรีมที่คุณได้รับคือผลลัพธ์ของโมเดล
โมเดลไอดีคืออะไร และใช้ Shannon 3.1 ได้ที่ไหนบ้าง?
shannon-3.1 คือระดับ Lite และ shannon-3.1-pro คือระดับ Pro ทั้งคู่ใช้ได้ในแชทและบนสำเนียง API ทั้งสามแบบ: /v1/chat/completions (รูปแบบ OpenAI), /v1/messages (รูปแบบ Anthropic) และ /v1/responses การสตรีมใช้ได้ทั้งสามแบบ
shannon-3.1 กับ shannon-3.1-pro ต่างกันอย่างไร?
Lite รันลูปการให้เหตุผลรอบเดียว: คิดแล้วตอบ ส่วน Pro รันลูปเต็ม — คิด ร่าง ทบทวนตัวเอง ปรับปรุง — พร้อมขั้นเก็บเกี่ยวความรู้ก่อนลงมือร่าง Lite เป็นค่าเริ่มต้นที่เหมาะกับงานส่วนใหญ่ ส่วน Pro เหมาะกับคำถามที่คำตอบแรกมักไม่ใช่คำตอบที่ดีที่สุด
ลองใช้ Shannon 3.1
ลูปการให้เหตุผลเดิม หน้าต่างใหญ่ขึ้นหกเท่า ไม่มีประตูจำกัดความเร็ว
เริ่มแชท อ่านเอกสาร APIshannon-3.1 · shannon-3.1-pro · สตรีมมิงบนทั้งสามสำเนียง
ตัวเลขด้านประสิทธิภาพและความฉลาดในบทความนี้เป็นการวัดของ Shannon Lab เองจากการประเมินภายใน กันยายน 2026 และระบุไว้ในฐานะตัวเลขผลิตภัณฑ์ ไม่ใช่ผลเบนช์มาร์กจากบุคคลที่สาม หน้าต่างบริบท โมเดลไอดี และความพร้อมใช้งานบน API เป็นข้อกำหนดของผลิตภัณฑ์ Shannon AI ดำเนินการโดย Shannon Lab LLC รัฐนิวเม็กซิโก สหรัฐอเมริกา อ่านเพิ่มเติม: Shannon 3 · ดัชนีงานวิจัย Shannon · เอกสาร API