API DeepSeek Flash แบบไม่เซ็นเซอร์
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — ราคาพื้น คอนเท็กซ์ 262K และไม่มีชั้นการปฏิเสธ คือโมเดลที่คุณเอาไปจ่อกับภาระงานที่รันวันละหนึ่งหมื่นครั้ง
สรุปสั้น ๆ
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP คือระดับสำหรับงานปริมาณมากของตระกูล DeepSeek บนเกตเวย์ Shannon AI มันรันบนคลัสเตอร์ GPU ของเราเองที่ $0.50 ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น และ $2.00 ต่อโทเค็นเอาต์พุตหนึ่งล้านโทเค็น — พื้นของชุดโมเดลเรา — พร้อมคอนเท็กซ์ 262,144 โทเค็น เอาต์พุตสูงสุด 16,384 โทเค็น การสตรีม การเรียกใช้ทูล การให้เหตุผลด้วย reasoning_effort และเอาต์พุตแบบมีโครงสร้าง json_schema อย่างเข้มงวด ไม่มีชั้นการปฏิเสธและไม่มีการกรองเอาต์พุต มันไม่ใช่เวอร์ชันพิการของ DeepSeek-V4-Pro: Pro คือโมเดลฐานที่ใหญ่กว่ามากซึ่งถูกบีบลงเหลือ 3 บิต ส่วน Flash คือโมเดลฐานที่เล็กกว่าซึ่งแบกไว้ที่การควอนไทซ์ AutoRound 4 บิตที่เที่ยงตรงกว่า นั่นคือสองจุดที่ต่างกันบนเส้นโค้งเดียวกัน และตัวไหนชนะขึ้นอยู่กับภาระงานของคุณล้วน ๆ
ทีมส่วนใหญ่ที่ประเมิน API LLM ปรับตัวแปรผิดตัว พวกเขาเทียบเกณฑ์มาตรฐานบนพรอมป์ที่ยากที่สุดยี่สิบข้อที่นึกออก เลือกผู้ชนะ แล้วค้นพบในอีกหกสัปดาห์ถัดมาว่าเก้าสิบห้าเปอร์เซ็นต์ของทราฟฟิกพวกเขาคืองานสั้น มีโครงสร้าง และซ้ำ ๆ ที่โมเดลราคาหนึ่งในสี่จะจัดการได้เหมือนกันเป๊ะ DeepSeek-V4-Flash มีอยู่เพื่อเก้าสิบห้าเปอร์เซ็นต์นั้น หน้านี้ว่าด้วยการรู้ว่าเมื่อไรคุณอยู่ในนั้น — และเมื่อไรที่คุณไม่ได้อยู่
01สิ่งที่คุณได้จริง ๆ
| คุณสมบัติ | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| Model id | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| คอนเท็กซ์ / เอาต์พุตสูงสุด | 262,144 โทเค็น / 16,384 โทเค็น |
| ราคาต่อ 1M (อินพุต / เอาต์พุต) | $0.50 / $2.00 |
| สตรีม · เรียกใช้ทูล · ให้เหตุผล | รองรับ — ครบทั้งสาม dialect |
| เอาต์พุตแบบมีโครงสร้าง | json_schema และ response_format |
| อินพุตเป็นภาพ (การมองเห็น) | ไม่รองรับ — ข้อความเท่านั้น |
| ชั้นการปฏิเสธ / ตัวกรองเอาต์พุต | ไม่มี |
| ให้บริการบน | คลัสเตอร์ GPU ของ Shannon เอง |
สาม API dialect เข้าถึงน้ำหนักชุดเดียวกัน: /v1/chat/completions (รูปทรงแบบ OpenAI), /v1/messages (รูปทรงแบบ Anthropic) และ /v1/responses การสตรีมทำงานได้ทั้งสามตัว เอกสารอ้างอิงพารามิเตอร์ฉบับเต็มอยู่ในเอกสาร API
02มันมาจากไหน: สายตระกูล DeepSeek
DeepSeek-AI ทุ่มโมเดลมาห้ารุ่นกับความหมกมุ่นเดียว: การรีดพฤติกรรมระดับแนวหน้าออกมาจากโมเดลที่ให้บริการได้ถูก ไม่ใช่แค่ฝึกได้ถูก แทบทุกการตัดสินใจเชิงสถาปัตยกรรมในสายนี้ย้อนกลับไปหาสิ่งนั้น และข้อสำคัญ ๆ ก็ถูกเผยแพร่ไว้ สามข้ออธิบายสิ่งที่คุณกำลังเรียกใช้เมื่อคุณยิงมาที่เอนด์พอยต์นี้
DeepSeekMoE — ผู้เชี่ยวชาญแบบละเอียด บวกตัวที่ใช้ร่วมกัน
เลเยอร์ Mixture-of-Experts แทนที่เครือข่าย feed-forward ใหญ่หนึ่งตัวด้วยตัวเล็ก ๆ หลายตัว และเราเตอร์ที่เลือกมาไม่กี่ตัวต่อโทเค็น รูปแบบของ DeepSeek ซอยผู้เชี่ยวชาญละเอียดกว่าโครงแบบแปดผู้เชี่ยวชาญตามธรรมเนียม FLOPs ที่กระตุ้นเท่าเดิมจึงซื้อส่วนผสมที่เจาะจงเชิงการจัดหมู่ได้มากกว่ามาก และมันแยกผู้เชี่ยวชาญที่ใช้ร่วมกันออกมาหนึ่งตัวที่ทุกโทเค็นต้องผ่าน ความรู้ทั่วไปจึงไม่ถูกเรียนซ้ำซ้อนอยู่ในผู้เชี่ยวชาญเฉพาะทางแต่ละตัว DeepSeek-V3 ปล่อยสิ่งนั้นออกมาเป็น ผู้เชี่ยวชาญที่กำหนดเส้นทาง 256 ตัว บวกผู้เชี่ยวชาญร่วม 1 ตัว กระตุ้นตัวที่กำหนดเส้นทาง 8 ตัวต่อโทเค็น — พารามิเตอร์รวม 671B กระตุ้น 37B — พร้อมกับการถ่วงดุลภาระโดยไม่ใช้ auxiliary loss: แทนที่จะใช้เทอมลงโทษที่ทำให้คุณภาพแย่ลง จะใช้ค่าไบแอสต่อผู้เชี่ยวชาญคอยดันคะแนนการกำหนดเส้นทางขึ้นหรือลงในแต่ละก้าว ตามที่ผู้เชี่ยวชาญตัวนั้นถูกใช้งานน้อยไปหรือมากไป
MLA — attention ที่ใส่ลงในหน่วยความจำได้
อีกครึ่งหนึ่งของปัญหาต้นทุนการให้บริการคือแคช KV ซึ่งโตเป็นเชิงเส้นตามคอนเท็กซ์ และครองหน่วยความจำที่ความยาวลำดับมาก ๆ Multi-head Latent Attention ที่แนะนำใน DeepSeek-V2 บีบอัดคีย์และแวลูร่วมกันลงเป็นเวกเตอร์แฝงอันดับต่ำ แล้วแคชตัวนั้น ก่อนจะสร้าง K/V ที่ใช้งานได้ขึ้นมาใหม่ระหว่างทาง ตัวเลข V2 ที่ DeepSeek เผยแพร่ เทียบกับ DeepSeek 67B แบบหนาแน่นรุ่นก่อนของพวกเขาเอง รายงานการลดแคช KV ลง 93.3% และปริมาณงานการสร้างสูงสุดเพิ่มขึ้น 5.76× นั่นคือเหตุผลที่หน้าต่าง 262K โทเค็นเป็นของพื้นฐานในตระกูลนี้ แทนที่จะเป็นของเสริมราคาแพง
Sparse attention — และบรรทัดฐานของโทเค็นราคาถูก
V3.2-Exp เพิ่ม DeepSeek Sparse Attention: ตัวจัดดัชนีน้ำหนักเบาให้คะแนนโทเค็นในคอนเท็กซ์เทียบกับคิวรี และตัวเลือกจะเก็บเฉพาะตัวที่คะแนนสูงสุดไว้ ส่วนที่น่าสนใจคือใบเสร็จ ไม่ใช่กลไก DeepSeek เผยแพร่การเทียบเคียงกับ V3.1-Terminus โดย MMLU-Pro เท่ากันเป๊ะที่ 85.0 AIME 2025 ขึ้น (88.4 → 89.3) SWE-bench Verified ลงเล็กน้อย (68.4 → 67.8) — คุณภาพแทบไม่ขยับ — และหั่นราคา API ของตัวเองลงกว่า 50% ในวันเดียวกัน สถาปัตยกรรมที่รายงานอย่างซื่อตรง แปลงตรง ๆ เป็นราคา Flash คือข้อโต้แย้งเดียวกันนั้นที่ก้าวไปอีกขั้น
รุ่น V4
V4 ที่เปิดตัวพรีวิวในเดือนเมษายน 2026 ภายใต้สัญญาอนุญาต MIT แทนที่สแตก attention อีกครั้งด้วยลูกผสมของ Compressed Sparse Attention และ Heavily Compressed Attention ฝึกด้วยออปติไมเซอร์ Muon บนโทเค็นกว่า 32T และคงวัตถุประสงค์การทำนายหลายโทเค็นของ V3 ไว้ — ซึ่งทำหน้าที่เป็นการถอดรหัสเชิงคาดเดาไปด้วย และ DeepSeek วัดได้ว่ามีอัตราการยอมรับโทเค็นที่สอง 85–90% ให้ความเร็วในการถอดรหัสเพิ่มราว 1.8× ใน V3 บทคัดย่อของ V4 รายงานว่า V4-Pro รันที่ 27% ของ FLOPs การอนุมานต่อโทเค็นเดียวของ V3.2 และ 10% ของแคช KV ของมัน ตระกูลนี้เปิดระดับความพยายามในการให้เหตุผลสามระดับ ซึ่งเป็นสิ่งที่พารามิเตอร์ reasoning_effort ของเราแมปไปหา
แหล่งอ้างอิง: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · รายงานทางเทคนิค DeepSeek-V3 (arXiv 2412.19437) · การ์ดโมเดล DeepSeek-V3.2-Exp · DeepSeek-V4 (arXiv 2606.19348) ตัวเลขทั้งหมดเป็นข้อมูลที่ DeepSeek รายงาน
03"Flash" หมายถึงอะไรกันแน่
นี่คือจุดที่การเปรียบเทียบส่วนใหญ่เข้าใจผิด จึงควรพูดกันตรง ๆ: Flash ของ DeepSeek ไม่ใช่ Pro ที่ถูกควอนไทซ์ ตัดทิ้ง หรือกลั่นมา มันคือโมเดล Mixture-of-Experts ที่เล็กกว่าและฝึกแยกต่างหาก โดยมีการพรีเทรนเป็นของตัวเอง รายงานพรีวิว V4 ให้ขนาดทั้งสอง:
ตัวเลขจากรายงานพรีวิว DeepSeek-V4 เช็กพอยต์อย่างเป็นทางการที่เราให้บริการ — V4-Flash-0731 และ V4-Pro-0813 — ระบุยอดรวมที่สูงกว่าเล็กน้อยคือ 304B และ 1.7T บนการ์ดโมเดลของมัน DeepSeek ไม่ได้ระบุพารามิเตอร์ที่กระตุ้นใหม่สำหรับบิลด์เหล่านั้น
ตัวเลขสองตัวคือหัวใจตรงนี้ พารามิเตอร์รวมกำหนดรอยเท้าหน่วยความจำ ซึ่งตัดสินว่าโมเดลหนึ่งชุดกินฮาร์ดแวร์เท่าไร พารามิเตอร์ที่กระตุ้นกำหนดปริมาณการคำนวณต่อโทเค็น ซึ่งตัดสินปริมาณงาน Flash เล็กกว่าราว 5.6× ในข้อแรก และเล็กกว่า 3.8× ในข้อที่สอง — และมีความละเอียดอ่อนที่ควรสังเกตในช่องว่างนั้น: Flash กระตุ้น 13 จาก 284 พันล้านพารามิเตอร์ ราว 4.6% ขณะที่ Pro กระตุ้น 49 จาก 1,600 พันล้าน ราว 3.1% Flash คือโมเดลที่เบาบางน้อยกว่า มันไม่ใช่แค่ Pro ที่เปิดผู้เชี่ยวชาญน้อยลง มันคือการออกแบบที่หนาแน่นกว่าและถ่วงดุลต่างออกไป ซึ่งใช้ส่วนของตัวเองสัดส่วนมากกว่ากับทุกโทเค็นที่มันผลิต นั่นคือทางเลือกทางวิศวกรรมจริง ๆ ไม่ใช่การลดชั้น
ตัวเลขของ DeepSeek เองบอกอะไร
การ์ดโมเดลอย่างเป็นทางการทั้งสองใบเผยแพร่คะแนนบนเกณฑ์มาตรฐานเชิงเอเจนต์และวิศวกรรมซอฟต์แวร์ชุดเดียวกัน ซึ่งทำให้นี่เป็นการเปรียบเทียบที่สะอาดผิดปกติ — แล็บเดียวกัน ฮาร์เนสประเมินเดียวกัน สองขนาด:
| เกณฑ์มาตรฐาน (DeepSeek รายงาน) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
Pro ชนะทุกแถว นั่นคือพาดหัวที่ซื่อตรง และเราอยากให้คุณอ่านมันที่นี่มากกว่าไปค้นพบมันตอนขึ้นโปรดักชัน แต่จงอ่านส่วนต่างด้วย เพราะมันคือสิ่งที่คุณกำลังซื้อจริง ๆ บน Terminal Bench 2.1 ช่องว่างคือ 5.2 จุด บนโมเดลที่มีพารามิเตอร์แค่หนึ่งในยี่สิบห้า ส่วนงานใช้ทูลคือ 3.8 จุด ช่องว่างถ่างออกตรงที่งานลึกที่สุด — 8.3 จุดบน DeepSWE, 7.3 บน NL2Repo ซึ่งทั้งคู่ให้รางวัลกับการให้เหตุผลเรื่องโค้ดหลายขั้นอย่างต่อเนื่อง นั่นคือรูปทรงของการแลกในตารางเดียว: Flash ไล่ตามได้เกือบทันบนงานที่มีขอบเขต และเสียพื้นที่บนงานปลายเปิด
การ์ด Flash ของ DeepSeek เองยิ่งพูดชัดกว่านั้น: Flash-0731 ทำได้ดีกว่าพรีวิว V4-Pro บนเกณฑ์มาตรฐานที่ระบุไว้ ทั้งที่จำนวนพารามิเตอร์ที่กระตุ้นน้อยกว่ามาก การที่โมเดลเล็กรุ่นใหม่กว่าชนะโมเดลใหญ่รุ่นเก่ากว่าคือเรื่องปกติในวงการนี้ และมันคือเหตุผลที่ "ระดับที่ใหญ่กว่า" ไม่ควรเป็นคำตอบตั้งต้นของคุณ
หมายเหตุเรื่องคอนเท็กซ์
DeepSeek เผยแพร่คอนเท็กซ์ 1M โทเค็นสำหรับตระกูล V4 เกตเวย์ Shannon AI ให้บริการโมเดลนี้ที่ 262,144 โทเค็น — หน้าต่างที่เท่ากันทั่วทั้งสิบสองโมเดลในชุดของเรา และเป็นหน้าต่างเดียวกับที่คุณได้บน Pro เราอยากให้ทุกโมเดลในรายการทำตัวเหมือนกันเรื่องคอนเท็กซ์ มากกว่าจะให้คุณต้องท่องเพดานคนละค่าต่อ model id
04อ่านคำต่อท้าย: W4A16-AUTOROUND-REAP
Model id ของเราประกาศแผนการบีบอัดของตัวเองออกมาดัง ๆ เพราะมันคือสิ่งที่ส่งผลต่อคุณภาพเอาต์พุตมากที่สุด และแทบไม่มีใครเปิดเผย ตัวนี้แตกออกเป็นสามข้ออ้าง
W4A16 — น้ำหนัก 4 บิต การกระตุ้น 16 บิต
น้ำหนักถูกเก็บที่ 4 บิตต่อตัว ส่วนการกระตุ้นไหลผ่านที่ความละเอียด 16 บิต นี่คือการควอนไทซ์เฉพาะน้ำหนัก และมันเล็งไปที่คอขวดจริงในการสร้างโทเค็น ซึ่งคือแบนด์วิดท์หน่วยความจำ ไม่ใช่การคำนวณ การควอนไทซ์การกระตุ้นด้วยจะซื้อความเร็วเพิ่มมาอีกนิด แต่เสี่ยงกับหน้าผาความแม่นยำที่ใหญ่กว่ามาก การปล่อยไว้ที่ 16 บิตจึงเป็นทางเลือกแบบระมัดระวังและเที่ยงตรงสูง สัญกรณ์นี้เป็นคำย่อของระบบนิเวศการให้บริการ — วรรณกรรมด้านการควอนไทซ์เขียนสิ่งเดียวกันว่า W4 พร้อมขนาดกลุ่ม
AUTOROUND — การปัดที่เรียนรู้ได้ ไม่ใช่การปัดหาค่าใกล้สุด
การควอนไทซ์แบบตรงไปตรงมาปัดทุกน้ำหนักไปหาค่าที่แทนได้ซึ่งใกล้ที่สุด นั่นพิสูจน์ได้ว่าไม่ใช่ทางที่ดีที่สุด: การปัดน้ำหนักตัวหนึ่งไปทาง "ผิด" อาจหักล้างความคลาดเคลื่อนที่เพื่อนบ้านของมันสร้างขึ้น และเมื่อมีน้ำหนักเป็นพันล้านตัว ปฏิสัมพันธ์เหล่านั้นก็ครอบงำทั้งหมด AutoRound จาก Intel มองการตัดสินใจปัดค่าเองเป็นสิ่งที่เรียนรู้ได้ — เป็นการรบกวนต่อน้ำหนักที่ฝึกได้ จำกัดไว้ที่ ±0.5 พอดีกับที่จะพลิกการตัดสินใจปัดค่าใด ๆ ได้หนึ่งครั้งและไม่เกินกว่านั้น บวกกับช่วงการตัดที่เรียนรู้ได้ ปรับให้ดีที่สุดด้วยการไล่ระดับแบบมีเครื่องหมายเทียบกับวัตถุประสงค์การสร้างเอาต์พุตกลับคืนทีละบล็อกบนชุดสอบเทียบเล็ก ๆ สองร้อยก้าว แล้วก็จบ
การเปรียบเทียบที่ Intel เผยแพร่ระบุว่า AutoRound ชนะ GPTQ ใน 30 จาก 32 สถานการณ์ที่ทดสอบ ชนะ AWQ ใน 27 จาก 32 และชนะ OmniQuant ใน 29 จาก 32 ที่การตั้งค่าเฉพาะน้ำหนัก 4 บิต โดยดีกว่าการปัดหาค่าใกล้สุดแบบตรงไปตรงมาอยู่ 6.9 ถึง 33.2 จุดความแม่นยำที่ 2 บิต ทั้งหมดนี้ไม่มีต้นทุนเลยตอนอนุมาน: มันคือการเลือกตัวเลขที่ดีกว่า ทำครั้งเดียว แบบออฟไลน์
REAP — ทิ้งผู้เชี่ยวชาญที่ไม่มีใครกำหนดเส้นทางไปหา
REAP (Router-weighted Expert Activation Pruning) จาก Cerebras Systems และ University of Calgary คือการบีบอัดแบบช็อตเดียวสำหรับโมเดล MoE มันให้คะแนนผู้เชี่ยวชาญแต่ละตัวจากความแรงและความถี่ที่เราเตอร์เปิดเกตไปหา คูณด้วยขนาดของเอาต์พุตของผู้เชี่ยวชาญตัวนั้น แล้วลบผู้เชี่ยวชาญที่โดดเด่นน้อยที่สุดทิ้งไปเลย — ไม่ต้องฝึกใหม่ภายหลัง
ข้อค้นพบใจกลางของรายงานคือข้อที่มีประโยชน์: ที่อัตราการบีบอัดสูง การตัดผู้เชี่ยวชาญดีกว่าการรวมพวกมัน การรวมผู้เชี่ยวชาญที่ทำหน้าที่ต่างกันทำให้เกิดสิ่งที่ผู้เขียนเรียกว่าการยุบตัวของปริภูมิย่อยเชิงหน้าที่ — เราเตอร์สูญเสียการควบคุมอย่างละเอียดที่ขึ้นกับอินพุต ซึ่งเป็นเหตุผลที่สร้าง MoE ขึ้นมาแต่แรก แล้วเหลือแค่การบังคับเลี้ยวระหว่างค่าเฉลี่ยนิ่ง ๆ ตัวเลขของพวกเขาข้ามโมเดลตั้งแต่ 20B ถึง 1T พารามิเตอร์: ที่การบีบอัดผู้เชี่ยวชาญ 25% บนงานเขียนโค้ด REAP เสียความแม่นยำเฉลี่ย 2.8% ขณะที่เส้นฐานแบบรวมเสียเกิน 5% ที่ 50% REAP เสีย 8.0% ขณะที่การรวมเสียเกิน 20% บน Qwen3-Coder-480B ที่การตัด 50% การลดลงอยู่ที่ 1.4% เทียบกับ 39.3% ของการตัดตามความถี่แบบตรงไปตรงมา Cerebras ได้เผยแพร่เช็กพอยต์ REAP สำหรับสาย DeepSeek ไว้ด้วยเช่นกัน
ทำไมที่นี่เป็น 4 บิต แต่บน Pro เป็น 3 บิต
ทั้งสองระดับต้องใส่ลงได้และยังเร็วอยู่บนฮาร์ดแวร์ระดับเดียวกัน Pro แบก 1.7 ล้านล้านพารามิเตอร์ จึงต้องใช้การจัดการแบบ 3 บิตที่ดุดันกว่าเพื่อให้ใส่ลงได้เลย ส่วน Flash แบกราว 300 พันล้าน จึงไม่ต้อง — และบิตที่มันประหยัดได้ก็ถูกใช้ไปกับความเที่ยงตรงแทนที่จะใช้ไปกับการใส่ให้ลง
บิตพิเศษนั้นสำคัญกว่าที่เลขคณิตของมันบ่งบอก เพราะความเสียหายจากการควอนไทซ์ไม่ได้เป็นเชิงเส้น ในการวัด WikiText-2 ของรายงาน AWQ Llama-2-7B ไปจากเพอร์เพล็กซิตี 5.47 ที่ FP16 เป็น 5.60 ที่ 4 บิต — โทษ 2.4% — แต่เป็น 6.24 ที่ 3 บิต ซึ่งเป็นโทษ 14% นั่นคือความถดถอยราวหกเท่าเพื่อแลกกับการบีบอัดที่มากขึ้น 25% และรูปแบบเดียวกันนี้ก็เป็นจริงที่ 70B รายงาน GPTQ พูดตรงกว่านั้นอีก: ที่ 3 บิต การปัดหาค่าใกล้สุดแบบตรงไปตรงมาพังทลายบนโมเดลระดับ 175B ไปถึงเพอร์เพล็กซิตีระดับพัน ขณะที่ยังใช้งานได้ดีเยี่ยมที่ 4 บิต ต่ำกว่าสี่บิตลงไป อัลกอริทึมการควอนไทซ์ที่ดีเลิกเป็นของเสริม และกลายเป็นสิ่งเดียวที่ยึดโมเดลไว้ด้วยกัน
ดังนั้นการอ่านคำต่อท้ายทั้งสองอย่างซื่อตรงคือ: Flash อยู่ใกล้ตัวเองในเวอร์ชันไม่บีบอัด มากกว่าที่ Pro อยู่ใกล้ตัวเองในเวอร์ชันไม่บีบอัด Pro ยังคงเป็นโมเดลที่แข็งแรงกว่า — ตารางเกณฑ์มาตรฐานข้างบนตัดสินเรื่องนั้นไปแล้ว มันเพียงแค่ยอมสละมากกว่าเพื่อมาถึงตรงนี้ และคุณก็จ่ายเงินแลกกับสิทธิพิเศษนั้น
แหล่งอ้างอิง: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024 REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems ตัวเลขเพอร์เพล็กซิตีจาก AWQ (arXiv 2306.00978) และ GPTQ (arXiv 2210.17323)
05Flash เทียบกับ Pro ที่เอนด์พอยต์
หัวข้อ 03 ครอบคลุมเรื่องโมเดลฐานไปแล้ว ต่อไปนี้คือหน้าตาของสองระดับนี้ในฐานะผลิตภัณฑ์บนเกตเวย์ของเรา:
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| การควอนไทซ์ | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| ความละเอียดของน้ำหนัก | 4 บิต ปัดแบบเรียนรู้ได้ | 3 บิต |
| โมเดลฐาน (รวม / กระตุ้น) | ~304B / 13B | ~1.7T / 49B |
| อินพุตต่อ 1M โทเค็น | $0.50 | $1.95 |
| เอาต์พุตต่อ 1M โทเค็น | $2.00 | $3.90 |
| คอนเท็กซ์ / เอาต์พุตสูงสุด | 262,144 / 16,384 | 262,144 / 16,384 |
| ทูล · เอาต์พุตมีโครงสร้าง · สตรีม | รองรับ | รองรับ |
| การมองเห็น | ไม่ | ไม่ |
| ชั้นการปฏิเสธ | ไม่มี | ไม่มี |
สังเกตสิ่งที่ไม่เปลี่ยน: คอนเท็กซ์ เพดานเอาต์พุต การเรียกใช้ทูล เอาต์พุตแบบมีโครงสร้าง และการไม่มีชั้นการปฏิเสธ เหมือนกันหมด สิ่งเดียวที่ขยับคือโมเดลฐาน การควอนไทซ์ และราคา นั่นทำให้การสลับไปมาระหว่างสองตัวเป็นการเปลี่ยนสตริงเดียวในโค้ดคุณ และเป็นการตัดสินใจเชิงเศรษฐศาสตร์ล้วน ๆ ในสถาปัตยกรรมของคุณ
การเรียกขนาดใหญ่สุดหนึ่งครั้งราคาเท่าไร
เติมคอนเท็กซ์เต็ม 262,144 โทเค็น และรับเอาต์พุตเต็ม 16,384 โทเค็น:
ที่ราคาตามรายการ Flash: อินพุต $0.131 + เอาต์พุต $0.033 Pro: $0.511 + $0.064 อัตราส่วน 3.51× Flash ยังใช้ราคาพื้น $0.50 / $2.00 ร่วมกับ MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro และ Hy3 — ดูชุดโมเดลฉบับเต็มว่าตัวเหล่านั้นต่างกันอย่างไรเรื่องการมองเห็นและเอาต์พุตแบบมีโครงสร้าง
06คณิตศาสตร์ของงานปริมาณมาก คิดออกมาให้ดู
"ถูกกว่า 3.9×" เป็นจริงเฉพาะด้านอินพุต ด้านเอาต์พุต Flash ถูกกว่า 1.95× การประหยัดจริงของคุณจึงขึ้นกับอัตราส่วนอินพุตต่อเอาต์พุต และช่วงกว้างพอที่จะเปลี่ยนการตัดสินใจออกแบบได้ ภาระงานสมจริงสี่แบบ แต่ละแบบที่ คำขอ 100,000 ครั้ง:
| ภาระงาน | เข้า / ออก ต่อการเรียก | Flash | Pro | ประหยัด |
|---|---|---|---|---|
| การจำแนกตั๋วงาน | 1,200 / 120 | $84 | $281 | 3.3× |
| การตอบคำถามแบบ RAG | 8,000 / 600 | $520 | $1,794 | 3.4× |
| การสรุปเอกสารยาว | 60,000 / 1,500 | $3,300 | $12,285 | 3.7× |
| การสร้างข้อมูลสังเคราะห์ | 500 / 2,000 | $425 | $878 | 2.1× |
รูปแบบคือ: ยิ่งคุณดันคอนเท็กซ์เข้าไปมากและสร้างข้อความออกมาน้อย Flash ยิ่งประหยัดให้คุณมาก ไปป์ไลน์การสืบค้น การคัดกรองเอกสาร การวิเคราะห์ล็อกและบทถอดเสียง และการสกัดข้อมูลจากคอนเท็กซ์ยาว คือจุดหวานพอดี — พวกมันถูกครอบงำด้วยอินพุตราวหนึ่งอันดับขนาด และอินพุตคือที่ที่ส่วนลด 3.9× อาศัยอยู่ ในทางกลับกัน ถ้าภาระงานของคุณเป็นพรอมป์สั้นที่ผลิตร้อยแก้วออกมาหลายพันโทเค็น ช่องว่างจะแคบลงเหลือราว 2× และข้อโต้แย้งด้านความสามารถของ Pro ก็แข็งแรงขึ้นตามส่วน
เลขคณิตอีกชิ้นที่ควรฝังไว้ในหัว: ที่ $0.50 ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น หน้าต่างทั้ง 262,144 โทเค็นมีค่าใช้จ่าย 13.1 เซนต์ในการเติมให้เต็ม การป้อนพรอมป์คอนเท็กซ์ยาวเลิกเป็นคำถามเรื่องงบประมาณที่ราคานั้น ซึ่งบางครั้งแปลว่าคุณข้ามการสร้างชั้นการสืบค้นไปได้เลย แล้วปล่อยให้หน้าต่างคอนเท็กซ์ทำงานแทน — เป็นการประหยัดเชิงวิศวกรรมบนการประหยัดโทเค็นอีกที
07"ไม่เซ็นเซอร์" ในที่นี้หมายถึงอะไร อย่างแม่นยำ
คำนี้ถูกใช้อย่างหลวม ๆ นี่คือนิยามของเรา ระบุในฐานะคุณสมบัติของเอนด์พอยต์: ไม่มีตัวจำแนกการปฏิเสธอยู่หน้าโมเดล และไม่มีการกรองเนื้อหาใด ๆ กับเอาต์พุตของมัน ไม่มีอะไรดักพรอมป์แล้วคืนคำบอกปัดสำเร็จรูป ไม่มีอะไรตรวจคำตอบแล้วปิดทับมัน สำหรับงานโปรดักชันปริมาณมาก ผลที่ตามมาจะดราม่าน้อยกว่าและมีประโยชน์มากกว่าที่คำ ๆ นี้บ่งบอก:
- ไม่มีผลบวกลวงบนทราฟฟิกที่ไม่มีพิษภัย เอนด์พอยต์ที่ถูกกรองบอกปัดสรุปทางการแพทย์ รายงานความมั่นคงปลอดภัย การค้นหาพยานหลักฐานทางกฎหมาย นวนิยาย เอกสารลดอันตราย และงานกลั่นกรองเนื้อหาเองอยู่เป็นประจำ — ซึ่งคือหมวดที่งานรันเป็นชุดกำลังประมวลผลข้อความที่ว่าด้วยหัวข้ออ่อนไหว มากกว่าจะผลิตอะไรที่เป็นอันตรายพอดี ที่คำขอหนึ่งแสนครั้ง อัตราการปฏิเสธผิดพลาดหนึ่งเปอร์เซ็นต์คือแถวที่เสียหายหนึ่งพันแถว
- สัญญาที่แน่นอน ขอคำตอบแบบ
json_schemaแล้วคุณจะได้ JSON ที่ตรงกับสคีมา ไม่ใช่ย่อหน้าคำขอโทษตรงที่ควรจะเป็นอ็อบเจกต์ ตัวแยกวิเคราะห์ของคุณไม่ต้องมีสาขาสำหรับการปฏิเสธ และตรรกะการลองใหม่ของคุณไม่ต้องแยกความล้มเหลวด้านการรับส่งออกจากความล้มเหลวด้านนโยบาย - คุณเป็นเจ้าของนโยบาย นั่นคือการแลก ถ้าผลิตภัณฑ์ของคุณต้องมีราวกันตกสำหรับผู้ใช้ปลายทาง คุณสร้างมันที่ชั้นของคุณ ที่ที่คุณรู้จักผู้ใช้และเขตอำนาจศาลของคุณ แทนที่จะรับมรดกการเดาของผู้ให้บริการเกี่ยวกับทั้งสองอย่าง บัญชีของคุณยังคงอยู่ภายใต้นโยบายการใช้งานอย่างรับผิดชอบของเรา
ไม่เซ็นเซอร์ไม่ใช่สิ่งเดียวกับไม่จัดแนวหรือไม่ช่วยเหลือ โมเดลยังทำตามคำสั่งและยังเคารพพรอมป์ระบบ ถ้าคุณอยากให้มันปฏิเสธบางหมวดสำหรับผู้ใช้ของคุณ ก็บอกไว้ตรงนั้น — คำสั่งนั้นตอนนี้เป็นของคุณที่จะเขียน ไม่ใช่ของเราที่จะยัดเยียด
08ความสามารถและข้อจำกัดที่พูดกันตรง ๆ
ความสามารถสองอย่างแบกน้ำหนักส่วนใหญ่ของงานปริมาณมาก เอาต์พุต json_schema แบบเข้มงวด เปลี่ยนคำตอบให้เป็นแถวในฐานข้อมูลโดยไม่ต้องมีชั้นแยกวิเคราะห์และไม่ต้องมีสาขาสำหรับการปฏิเสธ การเรียกใช้ทูลในทั้งสาม dialect ทำให้ Flash เป็นเครื่องยนต์ที่สมเหตุสมผลสำหรับขั้นตอนย่อยราคาถูกของเอเจนต์ที่มีตัววางแผนระดับบนรันอยู่บนโมเดลที่แข็งแรงกว่า เพิ่ม reasoning_effort เข้าไป ซึ่งให้คุณจ่ายโทเค็นเพิ่มเฉพาะกับเศษส่วนของทราฟฟิกที่ต้องการมันจริง ๆ และคอนเท็กซ์ 262,144 โทเค็นที่เท่ากับของ Pro — คุณไม่ได้ยอมสละคอนเท็กซ์เพื่อเลือกระดับที่ถูกกว่า ซึ่งเป็นเรื่องผิดปกติ
ข้อจำกัดก็เป็นรูปธรรมไม่แพ้กัน:
- ไม่มีการมองเห็น Flash เป็นข้อความอย่างเดียวและจะปฏิเสธส่วนที่เป็นภาพในข้อความ สำหรับภาพบนโมเดลไม่เซ็นเซอร์ที่ราคาพื้น $0.50 / $2.00 เท่ากัน MiniMax-M3 และ MiMo-V2.5 คือตัวเลือกที่รองรับการมองเห็น ส่วน Kimi-K2.6 และ Kimi-K3 เป็นโมเดลการมองเห็นที่แข็งแรงกว่าเหนือระดับนั้น
- ไม่ใช่ยอดบันได ตัวเลขของ DeepSeek เองยก Pro ไว้เหนือกว่าในทุกเกณฑ์มาตรฐานเชิงเอเจนต์ที่เผยแพร่ โดยช่องว่างกว้างที่สุดในการให้เหตุผลเรื่องโค้ดหลายขั้นอย่างต่อเนื่อง ตรงไหนที่คำตอบผิดหนึ่งครั้งแพงกว่าคำตอบราคาถูกหนึ่งพันครั้ง จงจ่ายเพิ่ม $1.45 ต่อหนึ่งล้านไปกับ DeepSeek-V4-Pro
- เอาต์พุต 16,384 โทเค็นต่อคำขอ การสร้างข้อความยาว ๆ ต้องถูกซอยข้ามหลายการเรียก นี่คือเพดานเดียวกันบนทุกโมเดลที่เราให้บริการ และมันมาถึงก่อนที่หน้าต่างคอนเท็กซ์จะเป็นข้อจำกัดเสียอีก
09การเรียกใช้
ชี้ไคลเอนต์ที่เข้ากันได้กับ OpenAI ตัวไหนก็ได้มาที่เกตเวย์ แล้วเปลี่ยนสตริงโมเดล ไม่มีอย่างอื่นในสแตกของคุณที่ต้องขยับ
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
Model id เดียวกันใช้ได้โดยไม่ต้องแก้บน /v1/messages และ /v1/responses ซึ่งเป็นวิธีที่เร็วที่สุดในการทดลอง A/B โมเดลที่ถูกกว่าใต้การเชื่อมต่อที่มีอยู่แล้ว โดยไม่ต้องเขียนไคลเอนต์ใหม่ พารามิเตอร์ รูปทรงเหตุการณ์การสตรีม สคีมาการเรียกใช้ทูล และขีดจำกัดอัตรา มีเอกสารอยู่ในเอกสารอ้างอิง API ทุกโมเดลในชุดมีรายชื่ออยู่ที่ Shannon Research
10คำถามที่พบบ่อย
API DeepSeek Flash แบบไม่เซ็นเซอร์คืออะไร?
คือเอนด์พอยต์บนเกตเวย์ Shannon AI สำหรับ DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP: บิลด์ AutoRound 4 บิตของโมเดลฐาน V4-Flash ที่กระตุ้น 13B ของ DeepSeek ให้บริการบนคลัสเตอร์ GPU ของเราเองโดยไม่มีชั้นการปฏิเสธและไม่มีการกรองเอาต์พุต ที่ $0.50 ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น และ $2.00 ต่อโทเค็นเอาต์พุตหนึ่งล้านโทเค็น พร้อมคอนเท็กซ์ 262,144 โทเค็น
DeepSeek V4 Flash ราคาเท่าไรต่อหนึ่งล้านโทเค็น?
อินพุต $0.50 และเอาต์พุต $2.00 ซึ่งเป็นราคาพื้นบนเกตเวย์ Shannon ส่วน DeepSeek-V4-Pro-0813 อยู่ที่ $1.95 และ $3.90 ดังนั้น Flash ถูกกว่าด้านอินพุต 3.9 เท่า และถูกกว่าด้านเอาต์พุต 1.95 เท่า การเติมคอนเท็กซ์เต็ม 262,144 โทเค็นมีค่าใช้จ่ายราว $0.13 บน Flash เทียบกับ $0.51 บน Pro
ผมควรใช้ DeepSeek V4 Flash หรือ DeepSeek V4 Pro?
ใช้ Flash เมื่อจำนวนครั้งของการเรียกคือข้อจำกัด: การจำแนก การสกัดข้อมูล การสรุป ข้อมูลสังเคราะห์ การตอบคำถามแบบ RAG ขั้นตอนย่อยของเอเจนต์ ใช้ Pro เมื่อความยากของการเรียกครั้งเดียวคือข้อจำกัด Flash ไม่ใช่ Pro ที่ถูกลดทอน มันคือโมเดลฐานที่เล็กกว่าที่การควอนไทซ์ 4 บิตซึ่งเที่ยงตรงกว่า ขณะที่ Pro คือโมเดลฐานขนาด 1.7T พารามิเตอร์ที่ 3 บิต
DeepSeek-V4-Flash-0731 รองรับการมองเห็นและเอาต์พุตตาม JSON schema หรือไม่?
มันรองรับเอาต์พุตแบบมีโครงสร้าง json_schema อย่างเข้มงวด และ response_format พร้อมกับการเรียกใช้ทูล การสตรีม และ reasoning_effort มันไม่รับอินพุตเป็นภาพ สำหรับภาพบนโมเดลไม่เซ็นเซอร์ที่ราคาพื้นเท่ากัน MiniMax-M3 และ MiMo-V2.5 คือตัวเลือกที่รองรับการมองเห็น
W4A16-AUTOROUND-REAP หมายถึงอะไร?
W4A16 คือน้ำหนัก 4 บิตกับการกระตุ้น 16 บิต AutoRound คือวิธีการปัดที่เรียนรู้ได้ของ Intel ซึ่งปรับการตัดสินใจปัดค่าให้ดีที่สุดด้วยการไล่ระดับแบบมีเครื่องหมาย แทนที่จะปัดไปหาค่าที่ใกล้ที่สุด REAP คือการตัดผู้เชี่ยวชาญแบบช็อตเดียวของ Cerebras Systems สำหรับโมเดล Mixture-of-Experts โดยทิ้งผู้เชี่ยวชาญที่ถูกกำหนดเส้นทางไปถึงน้อยที่สุดโดยไม่ต้องฝึกใหม่
โมเดลไม่เซ็นเซอร์จริงหรือ ไม่มีชั้นการปฏิเสธจริงหรือ?
จริง ไม่มีตัวจำแนกการปฏิเสธนั่งอยู่หน้าโมเดล และไม่มีการกรองใด ๆ กับเอาต์พุตของมัน คุณจึงได้การแจกแจงของตัวโมเดลเอง นั่นหมายความว่าคุณเป็นเจ้าของท่าทีด้านความปลอดภัยของผลิตภัณฑ์คุณเอง และสร้างราวกันตกที่ชั้นของคุณเอง นโยบายการใช้งานอย่างรับผิดชอบของเรายังคงกำกับบัญชีของคุณอยู่
รันงานปริมาณมากของคุณบน Flash
$0.50 เข้า, $2.00 ออก, คอนเท็กซ์ 262K, ไม่มีการปฏิเสธ เปลี่ยนสตริงโมเดลเดียว
อ่านเอกสาร API ดูโมเดลทั้ง 12 ตัวShannon Lab LLC · นิวเม็กซิโก สหรัฐอเมริกา · อยู่ภายใต้นโยบายการใช้งานอย่างรับผิดชอบของเรา
แหล่งอ้างอิง: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · รายงานทางเทคนิค DeepSeek-V3 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · การ์ดโมเดล DeepSeek-V4-Flash-0731 และ DeepSeek-V4-Pro-0813 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323) ตัวเลขโมเดลฐานและเกณฑ์มาตรฐานทั้งหมดเป็นไปตามที่ผู้เขียนแต่ละรายเผยแพร่ ส่วนราคาและคอนเท็กซ์ที่ให้บริการของ Shannon AI เป็นค่าตามรายการของเราเอง ณ กันยายน 2026