ಸೆನ್ಸಾರ್ ರಹಿತ DeepSeek API

"ಸೆನ್ಸಾರ್ ರಹಿತ DeepSeek API" ಎಂಬ ಪದಗುಚ್ಛಕ್ಕೆ ಬರುವ ಜನರಿಗೆ ಒಂದೇ ನಿರ್ದಿಷ್ಟ ವಿಷಯ ಬೇಕು: DeepSeek ನ ರೀಸನಿಂಗ್ ಮತ್ತು ಕೋಡಿಂಗ್ ಸಾಮರ್ಥ್ಯ ಇರುವ, ಅವರು ನಿಜವಾಗಿ ಕೇಳಿದ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುವ ಮಾಡೆಲ್. ಸಾಮರ್ಥ್ಯದ ಅರ್ಧ ಚೆನ್ನಾಗಿ ದಾಖಲಿತ — DeepSeek-AI ವಾಸ್ತುಶಿಲ್ಪ ಮತ್ತು ಸಂಖ್ಯೆಗಳನ್ನು ಪ್ರಕಟಿಸಿತು, ಮತ್ತು ವೈಟ್ಸ್ Hugging Face ನಲ್ಲಿ MIT ಅಡಿಯಲ್ಲಿ ಇವೆ. ಎರಡನೇ ಅರ್ಧ ಒಂದು ಕಾರ್ಯಾಚರಣಾ ನಿರ್ಧಾರ, ಮತ್ತು ಅದನ್ನು ಸಾಮಾನ್ಯವಾಗಿ ನಿಮಗಾಗಿ ಮಾಡಲಾಗುತ್ತದೆ. ಈ ಪುಟ ಎರಡನ್ನೂ ಒಳಗೊಂಡಿದೆ: V4-Pro ಫೌಂಡೇಶನ್ ಏನು, ನಮ್ಮ 3BIT-REAP ಬಿಲ್ಡ್ ಅದಕ್ಕೆ ಏನು ಮಾಡುತ್ತದೆ, ಮತ್ತು ನಾವು ಅದನ್ನು ಹೇಳುವಾಗ "ಸೆನ್ಸಾರ್ ರಹಿತ" ಎಂದರೆ ನಿಖರವಾಗಿ ಏನು.

01"ಸೆನ್ಸಾರ್ ರಹಿತ DeepSeek API" ನಿಜವಾಗಿ ಏನರ್ಥ

ಎರಡು ಬೇರೆ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ಒಂದೇ ಪದದ ಅಡಿಯಲ್ಲಿ ಇಡಲಾಗುತ್ತದೆ. ಮೊದಲನೆಯದು ವೈಟ್ಸ್‌ಗೆ ಬೇಯಿಸಿದ ಅಲೈನ್‌ಮೆಂಟ್ — ಪೋಸ್ಟ್-ಟ್ರೇನಿಂಗ್ ಸಮಯದಲ್ಲಿ ಕಲಿತ ನಿರಾಕರಣೆ ವರ್ತನೆ. ಎರಡನೆಯದು ಸೇವಾ-ಬದಿಯ ಮಾಡರೇಶನ್ ಪದರ: ಮಾಡೆಲ್ ನೋಡುವ ಮೊದಲು ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಮತ್ತು ನೀವು ನೋಡುವ ಮೊದಲು ಔಟ್‌ಪುಟ್ ಅನ್ನು ಪರೀಕ್ಷಿಸುವ ಪ್ರತ್ಯೇಕ ವರ್ಗೀಕಾರಕ, ಮಾಡೆಲ್ ಏನು ಹೇಳಬಯಸಿದರೂ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಮಧ್ಯದಲ್ಲಿ ಕತ್ತರಿಸಬಲ್ಲದು.

ಎರಡೂ ಅಳೆಯಬಹುದಾದವು, ಮತ್ತು DeepSeek ನ ಪ್ರಥಮ-ಪಕ್ಷ ಸೇವೆಯನ್ನು ಅಳೆಯಲಾಗಿದೆ. Promptfoo ರಾಜಕೀಯವಾಗಿ ಸೂಕ್ಷ್ಮ ಪ್ರಶ್ನೆಗಳ 1,360-ಪ್ರಾಂಪ್ಟ್ ಸೆಟ್ ಒಟ್ಟುಗೂಡಿಸಿ, DeepSeek ನ ಹೋಸ್ಟ್ ಮಾಡಿದ R1 ಅವುಗಳಲ್ಲಿ 1,156 ಅನ್ನು ನಿರಾಕರಿಸಿತು ಅಥವಾ ತಪ್ಪಿಸಿತು ಎಂದು ವರದಿ ಮಾಡಿತು — ಸುಮಾರು 85%. ಅದೇ ಕುಟುಂಬದ ಶೈಕ್ಷಣಿಕ ಕೆಲಸ ಲೇಖಕರು thought suppression ಎಂದು ಕರೆದ ಒಂದು ವಿಶಿಷ್ಟ ವೈಫಲ್ಯ ವಿಧಾನ ಕಂಡುಕೊಂಡಿತು, ಅಲ್ಲಿ ಸೂಕ್ಷ್ಮ ವಿಷಯದ ಬಗ್ಗೆ ಆರಂಭವಾಗುತ್ತಿದ್ದಂತೆಯೇ ಮಾಡೆಲ್‌ನ ರೀಸನಿಂಗ್ ಟ್ರೇಸ್ ಕೊನೆಗೊಳ್ಳುತ್ತದೆ. Information Sciences ನಲ್ಲಿ ಪ್ರಕಟಿತ ಪ್ರತ್ಯೇಕ ಆಡಿಟ್ ಶಬ್ದಾರ್ಥ-ಮಟ್ಟದ ನಿಗ್ರಹವನ್ನು ದಾಖಲಿಸಿತು: ಮಾಡೆಲ್‌ನ ಆಂತರಿಕ ರೀಸನಿಂಗ್‌ನಲ್ಲಿ ಇರುವ ವಿಷಯ ಬಳಕೆದಾರರಿಗೆ ತಲುಪುವ ಮೊದಲು ಮೌನವಾಗಿ ಬಿಡಲ್ಪಟ್ಟಿತು ಅಥವಾ ಮರುಬರೆಯಲ್ಪಟ್ಟಿತು. ಅದು ಸ್ಪಷ್ಟ ನಿರಾಕರಣೆಗಿಂತ ಕಷ್ಟದ ಸಮಸ್ಯೆ, ಏಕೆಂದರೆ ಕುಗ್ಗಿಸಿದ ಉತ್ತರ ಉತ್ತರದಂತೆ ಕಾಣುತ್ತದೆ.

ನಾವು ಚಲಾಯಿಸುವುದು ಓಪನ್-ವೈಟ್ಸ್ ಬಿಡುಗಡೆಯನ್ನು, ನಾವು ನಿರ್ವಹಿಸುವ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ, ಅಮೆರಿಕ ಸಂಯುಕ್ತ ಸಂಸ್ಥಾನದಲ್ಲಿ, Shannon Lab LLC ಅಡಿಯಲ್ಲಿ. ಮಾಡೆಲ್‌ನ ಮುಂದೆ ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ ಮತ್ತು ಹಿಂತಿರುಗುವುದಕ್ಕೆ ಫಿಲ್ಟರ್ ಅನ್ವಯಿಸಲಾಗುವುದಿಲ್ಲ: ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಸೇವೆ ಸಲ್ಲಿಸುವ ಮೊದಲು ನೀತಿಗಾಗಿ ವರ್ಗೀಕರಿಸಲಾಗುವುದಿಲ್ಲ, ಮತ್ತು ಔಟ್‌ಪುಟ್ ಸ್ಟ್ರೀಮ್ ಹೊರಹೋಗುವ ದಾರಿಯಲ್ಲಿ ಪರೀಕ್ಷಿಸಲಾಗುವುದಿಲ್ಲ. ಫೌಂಡೇಶನ್ MIT-ಪರವಾನಗಿ ಮತ್ತು ಸಾರ್ವಜನಿಕವಾಗಿರುವ ಕಾರಣ, ನಮ್ಮ ಮಾತನ್ನು ನಂಬುವ ಬದಲು ನಮ್ಮ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಉಲ್ಲೇಖ ವೈಟ್ಸ್ ವಿರುದ್ಧ ನೀವೇ ಹೋಲಿಸಬಹುದು.

02ಫೌಂಡೇಶನ್: DeepSeek-V4-Pro, ಒಂದು 1.6T MoE

DeepSeek-V4 ಎಂಬುದು DeepSeek-AI ಯ ಪ್ರಸ್ತುತ ಓಪನ್-ವೈಟ್ಸ್ ಕುಟುಂಬ, ಏಪ್ರಿಲ್ 2026 ರಲ್ಲಿ ಪ್ರಿವ್ಯೂ ಆಗಿ, ಎರಡು ಗಾತ್ರಗಳಲ್ಲಿ MIT ಅಡಿಯಲ್ಲಿ ಕಳುಹಿಸಲಾಗಿದೆ: V4-Flash (284B ಒಟ್ಟು, 13B ಆಕ್ಟಿವೇಟ್ ಆಗಿದೆ) ಮತ್ತು V4-Pro (1.6T ಒಟ್ಟು, 49B ಆಕ್ಟಿವೇಟ್ ಆಗಿದೆ). ಈ ಲೇಖನ Pro ಶ್ರೇಣಿಯ ಬಗ್ಗೆ. ಎರಡೂ ಸುಮಾರು 33 ಟ್ರಿಲಿಯನ್ ಟೋಕನ್‌ಗಳ ಮೇಲೆ ಪೂರ್ವ-ತರಬೇತಿ ಪಡೆದಿವೆ ಮತ್ತು ಎರಡೂ ಒಂದು-ಮಿಲಿಯನ್-ಟೋಕನ್ ಸಂದರ್ಭವನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಬೆಂಬಲಿಸುತ್ತವೆ.

ಗಮನಿಸಬೇಕಾದ ವಿಷಯ ಸ್ಪಾರ್ಸಿಟಿ ಅನುಪಾತ: ಯಾವುದೇ ಟೋಕನ್‌ನಲ್ಲಿ ಸುಮಾರು 3% ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು ಮಾತ್ರ ಆಕ್ಟಿವ್ ಆಗುತ್ತವೆ, ಇದೇ ಇಷ್ಟು ದೊಡ್ಡ ಮಾಡೆಲ್ ಅನ್ನು ಸೇವೆ ನೀಡಬಹುದಾಗಿಸುತ್ತದೆ. MoE ಬ್ಲಾಕ್ ಸ್ವತಃ ಇನ್ನೂ DeepSeekMoE — V2 ನಲ್ಲಿ ಪರಿಚಯಿಸಿದ ಸೂಕ್ಷ್ಮ-ಧಾನ್ಯ ರೂಟ್ ಮಾಡಿದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳು ಜೊತೆಗೆ ಯಾವಾಗಲೂ-ಆನ್ ಹಂಚಿದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳು — ಸಣ್ಣ V4 ಬದಲಾವಣೆಗಳೊಂದಿಗೆ ಮಾತ್ರ, ಅತಿ ಗೋಚರವಾಗಿ ಆರಂಭಿಕ ಪದರಗಳಲ್ಲಿ ಹ್ಯಾಶ್ ರೂಟಿಂಗ್. Multi-Token Prediction, ಸ್ಪೆಕ್ಯುಲೇಟಿವ್ ಡಿಕೋಡಿಂಗ್ ಅನ್ನೂ ಶಕ್ತಗೊಳಿಸುವ V3 ಸಹಾಯಕ ಉದ್ದೇಶ, ಬದಲಾಗದೆ ಉಳಿಸಿಕೊಳ್ಳಲಾಗಿದೆ.

V4 ನಲ್ಲಿನ ಹೊಸ ಭಾಗಗಳು ರಚನಾತ್ಮಕ. Manifold-Constrained Hyper-Connections (mHC) ಸಾಮಾನ್ಯ ರೆಸಿಡುಯಲ್ ಮಾರ್ಗವನ್ನು Sinkhorn–Knopp ಪ್ರೊಜೆಕ್ಷನ್ ಮೂಲಕ ದ್ವಿಗುಣ ಸ್ಟೊಕ್ಯಾಸ್ಟಿಕ್ ಮ್ಯಾಟ್ರಿಕ್ಸ್‌ಗಳ ಮ್ಯಾನಿಫೋಲ್ಡ್‌ಗೆ ನಿರ್ಬಂಧಿಸಿದ ಕಲಿತ ಮಿಕ್ಸಿಂಗ್ ಮ್ಯಾಟ್ರಿಕ್ಸ್‌ನಿಂದ ಬದಲಿಸುತ್ತದೆ — ಬಹಳ ಆಳವಾದ ಸ್ಟ್ಯಾಕ್‌ಗಳನ್ನು ಕೊಲ್ಲುವ ಸಂಖ್ಯಾತ್ಮಕ ಡ್ರಿಫ್ಟ್ ಇಲ್ಲದೆ ಪ್ರತಿ ಇನ್‌ಪುಟ್‌ಗೆ ಮರುತೂಕ ಹಾಕುವ ರೆಸಿಡುಯಲ್ ಸ್ಟ್ರೀಮ್. ತರಬೇತಿ AdamW ಇಂದ ಹೆಚ್ಚಿನ ಮಾಡ್ಯೂಲ್‌ಗಳಿಗೆ Muon ಗೆ ಸ್ಥಳಾಂತರಿಸಲಾಯಿತು, Newton–Schulz ಆರ್ಥೊಗೊನಲೈಸೇಶನ್ ಬಳಸಿ, AdamW ಎಂಬೆಡಿಂಗ್‌ಗಳು, ಪ್ರೆಡಿಕ್ಷನ್ ಹೆಡ್‌ಗಳು, ನಾರ್ಮಲೈಸೇಶನ್ ಮತ್ತು ಸ್ಥಿರ mHC ಪ್ಯಾರಾಮೀಟರ್‌ಗಳಿಗೆ ಮಾತ್ರ ಉಳಿಸಲಾಗಿದೆ. ಮತ್ತು ಎಕ್ಸ್‌ಪರ್ಟ್ ವೈಟ್ಸ್ FP4 ನಲ್ಲಿ ತರಬೇತಿ ಪಡೆದಿವೆ, ಹೆಚ್ಚಿನ ಇತರ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು FP8 ನಲ್ಲಿ — ಆರಂಭದಿಂದಲೇ ಕ್ವಾಂಟೈಸೇಶನ್-ಅರಿವಿನ, ಇದು ಮಾಡೆಲ್ ಹೆಚ್ಚಿನ ಸಂಕುಚನವನ್ನು ಎಷ್ಟು ಸೊಗಸಾಗಿ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ ಎಂಬುದಕ್ಕೆ ಮುಖ್ಯ.

03MLA ಇಂದ CSA + HCA ಗೆ: DeepSeek ದೀರ್ಘ ಸಂದರ್ಭವನ್ನು ಅಗ್ಗವಾಗಿ ಹೇಗೆ ಇಡುತ್ತದೆ

ನಾಲ್ಕು ತಲೆಮಾರುಗಳಾದ್ಯಂತ DeepSeek ನ ಸಾಮಾನ್ಯ ಎಳೆ ಗಾತ್ರವಲ್ಲ, ಅದು ಗಮನ ಆರ್ಥಿಕತೆ. ಪ್ರತಿ ಆವೃತ್ತಿಯೂ KV ಕ್ಯಾಶ್ ಅನ್ನು ಆಕ್ರಮಿಸಿದೆ, ಇದು ಸಂದರ್ಭದೊಂದಿಗೆ ರೇಖೀಯವಾಗಿ ಬೆಳೆಯುತ್ತದೆ ಮತ್ತು ದೀರ್ಘ ಉದ್ದಗಳಲ್ಲಿ ಮೆಮೊರಿಯನ್ನು ಪ್ರಾಬಲ್ಯಗೊಳಿಸುತ್ತದೆ.

• V2 Multi-head Latent Attention (MLA) ಪರಿಚಯಿಸಿತು — ಕೀಗಳು ಮತ್ತು ಮೌಲ್ಯಗಳ ಕಡಿಮೆ-ಶ್ರೇಣಿಯ ಜಂಟಿ ಸಂಕುಚನವನ್ನು ಒಂದು ಲೇಟೆಂಟ್ ವೆಕ್ಟರ್‌ಗೆ, ಆದ್ದರಿಂದ ರಚನೆ ಪೂರ್ಣ ಪ್ರತಿ-ಹೆಡ್ K ಮತ್ತು V ಬದಲಿಗೆ ಆ ವೆಕ್ಟರ್ ಜೊತೆಗೆ ಬೇರ್ಪಡಿಸಿದ RoPE ಕೀ ಕ್ಯಾಶ್ ಮಾಡುತ್ತದೆ. DeepSeek KV ಕ್ಯಾಶ್ ಪ್ರಮಾಣಿತ ಮಲ್ಟಿ-ಹೆಡ್ ಗಮನದ ಸುಮಾರು 4–14% ಗೆ ಇಳಿದಿದೆ ಎಂದು ವರದಿ ಮಾಡಿತು, ಗುಣಮಟ್ಟ ಉಳಿಸಿಕೊಂಡು ಅಥವಾ ಸುಧಾರಿಸಿ.
• V3 ಅದನ್ನು 671B ಗೆ ಸ್ಕೇಲ್ ಮಾಡಿತು, ಓಪನ್ ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಅಗ್ಗದ ದೀರ್ಘ ಸಂದರ್ಭಕ್ಕೆ MLA ಅನ್ನು ಡೀಫಾಲ್ಟ್ ಊಹೆಯಾಗಿಸಿತು.
• V3.2 DeepSeek Sparse Attention (DSA) ಸೇರಿಸಿತು, ಎಲ್ಲದರ ಮೇಲೆ ಗಮನ ಕೊಡುವ ಬದಲು ಹಗುರ ಇಂಡೆಕ್ಸರ್ ಮೂಲಕ ಪ್ರತಿ ಪ್ರಶ್ನೆಗೆ ಇತಿಹಾಸದ ಟಾಪ್-ಕೆ ಉಪಸಮೂಹವನ್ನು ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ.
• V4 ಹೈಬ್ರಿಡೈಸ್ ಮಾಡುತ್ತದೆ. Compressed Sparse Attention (CSA) ಮೊದಲು ಪ್ರತಿ m ಟೋಕನ್‌ಗಳ KV ನಮೂದುಗಳನ್ನು ಕಲಿತ ತೂಕಗಳೊಂದಿಗೆ ಒಂದು ನಮೂದಿಗೆ ಸಂಕುಚಿಸುತ್ತದೆ, ನಂತರ ಆ ಸಂಕುಚಿತ ನಮೂದುಗಳ ಮೇಲೆ ಸ್ಪಾರ್ಸ್ ಟಾಪ್-ಕೆ ಆಯ್ಕೆ ಚಲಾಯಿಸುತ್ತದೆ. Heavily Compressed Attention (HCA) ಇನ್ನೂ ಹೆಚ್ಚು ಆಕ್ರಮಣಕಾರಿಯಾಗಿ ಸಂಕುಚಿಸುತ್ತದೆ ಆದರೆ ಫಲಿತಾಂಶದ ಮೇಲೆ ಸಾಂದ್ರವಾಗಿ ಉಳಿಯುತ್ತದೆ. ಎರಡು ಪದರ ಪ್ರಕಾರಗಳು ಸ್ಟ್ಯಾಕ್‌ನಾದ್ಯಂತ ಪರಸ್ಪರ ಹೆಣೆದುಕೊಂಡಿವೆ, ಆದ್ದರಿಂದ ಅಗ್ಗದ ಜಾಗತಿಕ ಸಾರಾಂಶ ಮತ್ತು ನಿಖರ ಸ್ಥಳೀಯ ಮರುಪಡೆಯುವಿಕೆ ಒಟ್ಟಿಗೆ ಇರುತ್ತವೆ.

ಒಂದು-ಮಿಲಿಯನ್-ಟೋಕನ್ ಸಂದರ್ಭದಲ್ಲಿ ವರದಿಯಾದ ಲಾಭ ಗಮನಾರ್ಹ: V4-Pro ಗೆ V3.2 ಯ ಸುಮಾರು 27% ಪ್ರತಿ-ಟೋಕನ್ ಇನ್ಫರೆನ್ಸ್ FLOPs ಮತ್ತು 10% KV ಕ್ಯಾಶ್ ಬೇಕು. ಅದಕ್ಕಾಗಿಯೇ 262K ವಿನಂತಿ ಮೆಮೊರಿ ಘಟನೆಗಿಂತ ಸಾಮಾನ್ಯ ವಿನಂತಿಯಂತೆ ವರ್ತಿಸುತ್ತದೆ, ಮತ್ತು ದೀರ್ಘ-ಸಂದರ್ಭ ಮರುಪಡೆಯುವಿಕೆ ಸಂಖ್ಯೆಗಳು ಕೆಲವು ಹತ್ತಾರು ಸಾವಿರ ಟೋಕನ್‌ಗಳ ಆಚೆ ಕುಸಿಯುವ ಬದಲು ಉಳಿಯುತ್ತವೆ.

043BIT-REAP ಪ್ರತ್ಯಯದ ಅರ್ಥ

ನಮ್ಮ ಕ್ಯಾಟಲಾಗ್ id 3BIT-REAP ನಲ್ಲಿ ಕೊನೆಗೊಳ್ಳುತ್ತದೆ, ಮತ್ತು ಅದು ಕ್ರಮದಲ್ಲಿ ಅನ್ವಯಿಸಿದ ಎರಡು ಸ್ವತಂತ್ರ ಸಂಕುಚನ ಹಂತಗಳನ್ನು ವಿವರಿಸುತ್ತದೆ.

REAP: ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ವಿಲೀನಗೊಳಿಸುವ ಬದಲು ಪ್ರೂನ್ ಮಾಡುವುದು

REAP ಎಂದರೆ Router-weighted Expert Activation Pruning, Cerebras Research ಇಂದ — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", ICLR 2026 ಗೆ ಸ್ವೀಕರಿಸಲಾಗಿದೆ. ಸ್ಪಾರ್ಸ್ MoE ನಲ್ಲಿ ರೂಟರ್ ತನ್ನ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಸಮಾನವಾಗಿ ಬಳಸುವುದಿಲ್ಲ: ಒಂದು ಉದ್ದ ಬಾಲವನ್ನು ಅಪರೂಪವಾಗಿ, ದುರ್ಬಲವಾಗಿ, ಅಥವಾ ಎರಡೂ ಆಗಿ ಆಯ್ಕೆ ಮಾಡಲಾಗುತ್ತದೆ. REAP ಪ್ರತಿ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗೆ ರೂಟರ್ ಗೇಟ್ ಮೌಲ್ಯಗಳನ್ನು (ಎಷ್ಟು ಬಾರಿ ಮತ್ತು ಎಷ್ಟು ಬಲವಾಗಿ ಆಯ್ಕೆ ಮಾಡಲಾಗಿದೆ) ಎಕ್ಸ್‌ಪರ್ಟ್ ಆಕ್ಟಿವೇಶನ್ ನಾರ್ಮ್‌ಗಳೊಂದಿಗೆ (ಅದರ ಔಟ್‌ಪುಟ್ ಎಷ್ಟು ಕೊಡುಗೆ ನೀಡುತ್ತದೆ) ಸಂಯೋಜಿಸಿ ಅಂಕ ನೀಡುತ್ತದೆ, ನಂತರ ಸೋತವರನ್ನು ನೇರವಾಗಿ ಅಳಿಸುತ್ತದೆ.

ಪೇಪರ್‌ನ ವಾದವೆಂದರೆ ಪ್ರೂನಿಂಗ್ ವಿಲೀನಗೊಳಿಸುವಿಕೆಯನ್ನು ಸೋಲಿಸುತ್ತದೆ: ವಿಲೀನ MoE ಅನ್ನು ಕಟ್ಟುವುದನ್ನು ಯೋಗ್ಯಗೊಳಿಸಿದ ಕ್ರಿಯಾತ್ಮಕ ವಿಶೇಷತೆಯನ್ನು ಸರಾಸರಿಗೊಳಿಸುತ್ತದೆ, ಆದರೆ ರೂಟರ್ ಅಪರೂಪವಾಗಿ ತಲುಪುವ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಅಳಿಸುವುದು ಅದನ್ನು ಉಳಿಸುತ್ತದೆ. 20B ಇಂದ 1T ವರೆಗಿನ ಮಾಡೆಲ್‌ಗಳಾದ್ಯಂತ, REAP ರಚನಾತ್ಮಕ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳಲ್ಲಿ ವಿಲೀನ ಮತ್ತು ಸ್ಪರ್ಧಾತ್ಮಕ ಪ್ರೂನಿಂಗ್ ವಿಧಾನಗಳನ್ನು ಮೀರಿಸಿತು, ಮತ್ತು ಲೇಖಕರು Qwen3-Coder-480B ಮತ್ತು Kimi-K2 ಮೇಲೆ 50% ಎಕ್ಸ್‌ಪರ್ಟ್ ಪ್ರೂನಿಂಗ್‌ನಲ್ಲಿ ಕೋಡ್ ರಚನೆ ಮತ್ತು ಟೂಲ್ ಕಾಲಿಂಗ್‌ನಲ್ಲಿ ಬಹುತೇಕ-ನಷ್ಟರಹಿತ ಫಲಿತಾಂಶಗಳನ್ನು ವರದಿ ಮಾಡುತ್ತಾರೆ — ಇದೇ ಈ ಮಾಡೆಲ್ ಇರುವ ಕೆಲಸದ ಪ್ರೊಫೈಲ್.

3-ಬಿಟ್ ವೈಟ್ಸ್: ಅತಿ ದೊಡ್ಡ ಫೌಂಡೇಶನ್‌ಗಳಿಗೆ ಸಂಕುಚನ ಶ್ರೇಣಿ

ಉಳಿಯುವುದನ್ನು ನಂತರ 3-ಬಿಟ್ ವೈಟ್ಸ್ಗೆ ಕ್ವಾಂಟೈಸ್ ಮಾಡಲಾಗುತ್ತದೆ. ಮೂರು ಬಿಟ್ ಆಕ್ರಮಣಕಾರಿ, ಮತ್ತು ನಾವು ಬೇರೆ ರೀತಿ ನಟಿಸುವುದಿಲ್ಲ: ಪಟ್ಟಿಯಾದ್ಯಂತ ಫೌಂಡೇಶನ್ ಒತ್ತಡ ಬೇಕಾಗದಷ್ಟು ಚಿಕ್ಕದಿರುವಲ್ಲಿ W8A16, ಮಧ್ಯದಲ್ಲಿ W4A16-AUTOROUND-REAP, ಮತ್ತು ಅತಿ ದೊಡ್ಡ ಫೌಂಡೇಶನ್‌ಗಳಲ್ಲಿ ಮಾತ್ರ 3BIT-REAP ಬಳಸುತ್ತೇವೆ, ಅಲ್ಲಿ ಇದು ಮಾಡೆಲ್ ಸೇವೆ ನೀಡುವುದು ಮತ್ತು ನೀಡದಿರುವುದರ ನಡುವಿನ ವ್ಯತ್ಯಾಸ.

ಟ್ರೇಡ್‌ಆಫ್ ಅನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಹೇಳುವುದು ಯೋಗ್ಯ: 3-ಬಿಟ್ 1.6T MoE ಉಲ್ಲೇಖ ಬಿಡುಗಡೆಗೆ ಬಿಟ್-ಒಂದೇ ಅಲ್ಲ, ಮತ್ತು ಸಣ್ಣ ಗುಣಮಟ್ಟ ವೆಚ್ಚ ನಿಜ. ಇದಕ್ಕಾಗಿ ನಿಮಗೆ ಸಿಗುವುದು ಸಂಕುಚಿತವಲ್ಲದ ಸೀಲಿಂಗ್ ಹೆಚ್ಚಿನ ನಿಖರತೆಯಲ್ಲಿ ಆರಾಮವಾಗಿ ಹೊಂದುವ ಯಾವುದಕ್ಕಿಂತಲೂ ಬಹಳ ಎತ್ತರದಲ್ಲಿ ಕುಳಿತಿರುವ ಫೌಂಡೇಶನ್ — ಮತ್ತು V4 ಯ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳು ಆರಂಭದಲ್ಲೇ FP4 ನಲ್ಲಿ ತರಬೇತಿ ಪಡೆದ ಕಾರಣ, ಮಾಡೆಲ್ ಮತ್ತಷ್ಟು ವೈಟ್ ಸಂಕುಚನದ ಅಡಿಯಲ್ಲಿ ಅಸಾಮಾನ್ಯವಾಗಿ ಚೆನ್ನಾಗಿ ವರ್ತಿಸುತ್ತದೆ. ನಿಖರತೆಯ ಮೇಲೆ ಹಗುರ ಸ್ಪರ್ಶ ಇರುವ DeepSeek ಬಿಲ್ಡ್ ಬೇಕಿದ್ದರೆ, DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP ಅದೇ 262K ಸಂದರ್ಭದಲ್ಲಿ $0.50 ಇನ್ / $2.00 ಔಟ್ ಗೆ AutoRound ನ ಕಲಿತ ರೌಂಡಿಂಗ್ ಜೊತೆ 16-ಬಿಟ್ ಆಕ್ಟಿವೇಶನ್‌ಗಳೊಂದಿಗೆ 4-ಬಿಟ್ ವೈಟ್ಸ್ ಬಳಸುತ್ತದೆ.

05ರೀಸನಿಂಗ್, ಮತ್ತು reasoning_effort ಡಯಲ್

V4 ಯ ಪೋಸ್ಟ್-ಟ್ರೇನಿಂಗ್ ಡೊಮೇನ್ ವಿಶೇಷಜ್ಞರನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ತರಬೇತಿ ನೀಡುತ್ತದೆ — ಗಣಿತ, ಕೋಡಿಂಗ್, ಏಜೆಂಟ್‌ಗಳು, ಸೂಚನೆ ಅನುಸರಣೆ — SFT ನಂತರ DeepSeek R1 ಜೊತೆ ಪರಿಚಯಿಸಿದ Group Relative Policy Optimization ವಿಧಾನ GRPO ಜೊತೆ. ಆ ವಿಶೇಷಜ್ಞರನ್ನು ನಂತರ ರಿವರ್ಸ್-KL ಉದ್ದೇಶದ ಅಡಿಯಲ್ಲಿ ಆನ್-ಪಾಲಿಸಿ ಡಿಸ್ಟಿಲೇಶನ್ ಮೂಲಕ ಒಂದೇ ಮಾಡೆಲ್‌ಗೆ ಒಗ್ಗೂಡಿಸಲಾಗುತ್ತದೆ, ಆದ್ದರಿಂದ ಒಂದೇ ಚೆಕ್‌ಪಾಯಿಂಟ್ ಎಲ್ಲದರಲ್ಲೂ ಸಾಧಾರಣವಾಗಿರುವ ಸಾಮಾನ್ಯವಾದಿಯ ಬದಲು ಒಟ್ಟಿಗೇ ಹಲವು ಡೊಮೇನ್‌ಗಳಲ್ಲಿ ವಿಶೇಷಜ್ಞ-ಮಟ್ಟದ ವರ್ತನೆ ಒಯ್ಯುತ್ತದೆ.

ಬಿಡುಗಡೆಯಾದ ಮಾಡೆಲ್ ದ್ವಿಮಾನ ಸ್ವಿಚ್‌ಗಿಂತ ಹಂತ ಹಂತದ ಚಿಂತನಾ ಮೋಡ್‌ಗಳನ್ನು ತೋರಿಸುತ್ತದೆ. ನಮ್ಮ ಗೇಟ್‌ವೇಯಲ್ಲಿ ಅದು ಪ್ರಮಾಣಿತ reasoning_effort ಪ್ಯಾರಾಮೀಟರ್, ಈ ಮಾಡೆಲ್‌ನಲ್ಲಿ ಅತಿ ಉಪಯುಕ್ತ ಒಂದೇ ಗುಂಡಿ:

• Low — ಬಹುತೇಕ-ನೇರ ಉತ್ತರ: ವರ್ಗೀಕರಣ, ಹೊರತೆಗೆಯುವಿಕೆ, ಮರುಬರಹ, ಮಾಡೆಲ್‌ನ ಆಲೋಚನೆಗಿಂತ ಅದರ ಜ್ಞಾನಕ್ಕೆ ನೀವು ಪಾವತಿಸುವ ಯಾವುದೇ ಕೆಲಸ.
• Medium — ಕೋಡ್ ರಿವ್ಯೂ, ಡೀಬಗ್ಗಿಂಗ್ ಮತ್ತು ಬಹು-ಹಂತದ ವಿಶ್ಲೇಷಣೆಗೆ ಡೀಫಾಲ್ಟ್ ಕೆಲಸ ಮಾಡುವ ಮೋಡ್.
• High — ಉತ್ತರಿಸುವ ಮೊದಲು ದೀರ್ಘ ಆಲೋಚನೆ. ಕಷ್ಟದ ಸಮಸ್ಯೆಗಳು ಬಗೆಹರಿಯುವ ಸ್ಥಳ, ಮತ್ತು ನಿಮ್ಮ ಔಟ್‌ಪುಟ್-ಟೋಕನ್ ಬಿಲ್ ಇರುವ ಸ್ಥಳ, ಏಕೆಂದರೆ ರೀಸನಿಂಗ್ ಟೋಕನ್‌ಗಳಿಗೆ ಔಟ್‌ಪುಟ್ ಆಗಿ ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ.

ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲದ ಕಾರಣ, ಸೂಕ್ಷ್ಮ ವಿಷಯದ ಮೇಲೆ ರೀಸನಿಂಗ್ ಟ್ರೇಸ್ ಕುಗ್ಗಿಸಲ್ಪಡುವುದಿಲ್ಲ — ಪ್ರಥಮ-ಪಕ್ಷ ಸೇವೆಯಲ್ಲಿ ದಾಖಲಿತ thought-suppression ಮಾದರಿಗೆ ಇಲ್ಲಿ ಸಂಭವಿಸಲು ಯಾವುದೇ ಕಾರ್ಯವಿಧಾನ ಇಲ್ಲ.

06ಕೋಡ್ ಮತ್ತು ಏಜೆಂಟಿಕ್ ಕೆಲಸ: ಫೌಂಡೇಶನ್ ಗಳಿಸುವ ಅಂಕಗಳು

ಇವು V4-Pro ಬಿಡುಗಡೆಗಾಗಿ DeepSeek-AI ಯ ಸ್ವಂತ ಪ್ರಕಟಿತ ಅಂಕಿಅಂಶಗಳು — ನಮ್ಮದಲ್ಲ, ಮತ್ತು ನಮ್ಮ ಕ್ವಾಂಟೈಸ್ ಮಾಡಿದ ಬಿಲ್ಡ್‌ನಲ್ಲಿ ಅಳೆದದ್ದಲ್ಲ. ಈ ಫೌಂಡೇಶನ್ ಆಯ್ಕೆ ಮಾಡಲು ಪ್ರಾಮಾಣಿಕ ಕಾರಣವಾದ್ದರಿಂದ ನಾವು ಅವನ್ನು ತೋರಿಸುತ್ತೇವೆ, ಮತ್ತು ನೀವು ಅವನ್ನು ಅದಕ್ಕೆ ತಕ್ಕಂತೆ ತೂಗಿಸಬಹುದೆಂದು ಪ್ರಥಮ-ಪಕ್ಷ ಎಂದು ಗುರುತಿಸುತ್ತೇವೆ.

ಎರಡು ಕಾಮೆಂಟ್ ಅರ್ಹ. SWE-bench Verified ನಲ್ಲಿ 80.6% ಎಂಬುದು ನಿಜ-ರೆಪೊಸಿಟರಿ ಸಮಸ್ಯೆ ಪರಿಹಾರ — ಅಪರಿಚಿತ ಕೋಡ್‌ಬೇಸ್ ಓದುವುದು, ದೋಷ ಪತ್ತೆ ಮಾಡುವುದು, ಪ್ರಾಜೆಕ್ಟ್‌ನ ಸ್ವಂತ ಪರೀಕ್ಷೆಗಳನ್ನು ಪಾಸ್ ಮಾಡುವ ಪ್ಯಾಚ್ ಉತ್ಪಾದಿಸುವುದು. ಒಂದು ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಲ್ಲಿ MRCR (83.5) ಎಂಬುದು ಪೂರ್ಣ ಉದ್ದದಲ್ಲಿ ಬಹು-ಸುತ್ತಿನ ಕೊರೆಫರೆನ್ಸ್ ಮರುಪಡೆಯುವಿಕೆ, ದೀರ್ಘ-ಸಂದರ್ಭ ಹಕ್ಕು ಅಲಂಕಾರಿಕವಲ್ಲ ಎಂದು ಹೇಳುವ ಸಂಖ್ಯೆ. DeepSeek ಮಾಡೆಲ್‌ಗೆ Codeforces ರೇಟಿಂಗ್ 3206 ಮತ್ತು 1M ಸಂದರ್ಭದಲ್ಲಿ CorpusQA ನಲ್ಲಿ 62.0 ಅನ್ನೂ ವರದಿ ಮಾಡುತ್ತದೆ.

ಮೇಲಿನ ಅಂಕಿಅಂಶಗಳು DeepSeek-V4-Pro ಉಲ್ಲೇಖ ಬಿಡುಗಡೆಗಾಗಿ DeepSeek-AI-ವರದಿ ಮಾಡಿದವು. ನಮ್ಮ 3BIT-REAP ಬಿಲ್ಡ್ ಆ ವೈಟ್ಸ್‌ನ ಸಂಕುಚಿತ ರೂಪಾಂತರ ಮತ್ತು ಈ ಕಾರ್ಯಗಳಲ್ಲಿ ಸ್ವತಂತ್ರವಾಗಿ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಮಾಡಲಾಗಿಲ್ಲ; ಉಲ್ಲೇಖ ಅಂಕಗಳನ್ನು ಈ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ನ ಅಳತೆಯಾಗಿ ಅಲ್ಲ, ಫೌಂಡೇಶನ್‌ನ ಸೀಲಿಂಗ್ ಆಗಿ ಪರಿಗಣಿಸಿ.

07262K ಸಂದರ್ಭ: ನಿಜವಾಗಿ ಏನು ಹೊಂದುತ್ತದೆ

ಉಲ್ಲೇಖ ಮಾಡೆಲ್ ಒಂದು ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಿಗೆ ತರಬೇತಿ ಪಡೆದಿದೆ. ನಾವು 262,144 ಸೇವೆ ನೀಡುತ್ತೇವೆ — ಗೇಟ್‌ವೇಯಲ್ಲಿನ ಪ್ರತಿ ಮಾಡೆಲ್ ಹಂಚಿಕೊಳ್ಳುವ ವಿಂಡೋ, ಆದ್ದರಿಂದ ಮಾಡೆಲ್ ಬದಲಿಸುವುದು ಒಂದೇ-ಸಾಲಿನ ಬದಲಾವಣೆ ಮತ್ತು ಎಂದಿಗೂ ಸಂದರ್ಭ ಹಿಂಜರಿತ ಅಲ್ಲ. ಪ್ರಾಯೋಗಿಕವಾಗಿ 262K ಬಹುತೇಕ ನಿಜವಾದ ಕೆಲಸಕ್ಕೆ ಸಂದರ್ಭ ಬಂಧಿಸುವ ಬಿಂದುವನ್ನು ದಾಟಿದೆ:

ಕೆಲಸದ ಭಾರ	ಅಂದಾಜು ಟೋಕನ್‌ಗಳು	262K ನಲ್ಲಿ ಹೊಂದುತ್ತದೆಯೇ?
ಮಧ್ಯಮ-ಗಾತ್ರದ ಸೇವಾ ರೆಪೊ (~50k ಸಾಲುಗಳು)	~600K	ಇಲ್ಲ — ಆಯ್ದ ಮಾಡ್ಯೂಲ್‌ಗಳು
ಒಂಟಿ ಉಪವ್ಯವಸ್ಥೆ + ಅದರ ಪರೀಕ್ಷೆಗಳು	~60–120K	ಹೌದು, ಆರಾಮವಾಗಿ
ಒಂದು ಪ್ರೊಟೊಕಾಲ್‌ಗೆ ಪೂರ್ಣ RFC ಸೆಟ್	~150K	ಹೌದು
700-ಪುಟದ ತಾಂತ್ರಿಕ ಪುಸ್ತಕ	~250K	ಹೌದು, ಮಿತಿಯ ಸಮೀಪ
ದೀರ್ಘ ಏಜೆಂಟ್ ರನ್, 40+ ಟೂಲ್ ಸುತ್ತುಗಳು	~80–200K	ಹೌದು

ಯೋಜನೆ ಮಾಡಬೇಕಾದ ಮಿತಿ ಔಟ್‌ಪುಟ್: ಪ್ರತಿಕ್ರಿಯೆಗೆ ಗರಿಷ್ಠ 16,384 ಟೋಕನ್‌ಗಳು. ಅದು ಉದ್ದ ದಾಖಲೆ ಅಥವಾ ಗಣನೀಯ ಬಹು-ಫೈಲ್ ಪ್ಯಾಚ್, ಆದರೆ ಕೋಡ್‌ಬೇಸ್ ಅಲ್ಲ. ಒಂದು ಬೃಹತ್ ಪೂರ್ಣಗೊಳಿಕೆ ಕೇಳುವ ಬದಲು — 262K ವಿಂಡೋ ಅಗ್ಗವಾಗಿಸುವ — ಹಿಂದಿನ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಸಂದರ್ಭಕ್ಕೆ ಹಿಂತಿರುಗಿಸಿ ವಿನಂತಿಗಳನ್ನು ಸರಪಳಿ ಮಾಡುವ ಮೂಲಕ ದೊಡ್ಡ ರಚನಾ ಕೆಲಸಗಳನ್ನು ಮಾಡಲಾಗುತ್ತದೆ.

08ಬೆಲೆ, ಮತ್ತು ಪಟ್ಟಿಯಲ್ಲಿ V4-Pro ಎಲ್ಲಿ ಕುಳಿತಿದೆ

ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗೆ $1.95 ಇನ್ / $3.90 ಔಟ್ ನಲ್ಲಿ, V4-Pro ಎಂಬುದು ಫ್ಲ್ಯಾಗ್‌ಶಿಪ್ ರೀಸನಿಂಗ್ ಶ್ರೇಣಿ — ಸಮಸ್ಯೆ ಕಷ್ಟ ಆಗಿರುವಾಗ ನೀವು ತಲುಪುವ ಮಾಡೆಲ್. ಅದು ಕೇವಲ ದೊಡ್ಡದಾಗಿರುವಾಗ, ಅದೇ 262K ವಿಂಡೋದಲ್ಲಿನ ಅಗ್ಗದ ಮಾಡೆಲ್‌ಗಳು ಕಾಲು ಬೆಲೆಗೆ ಅದನ್ನು ಮಾಡುತ್ತವೆ.

ಸೆನ್ಸಾರ್ ರಹಿತ ಮಾಡೆಲ್	ಇನ್ / 1M	ಔಟ್ / 1M	ದೃಷ್ಟಿ	ಯಾವುದಕ್ಕೆ ಉತ್ತಮ
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	ಇಲ್ಲ	ಕಷ್ಟದ ರೀಸನಿಂಗ್, ಕೋಡ್, ಏಜೆಂಟ್‌ಗಳು
DeepSeek-V4-Flash · W4A16	$0.50	$2.00	ಇಲ್ಲ	ಅದೇ ಮೂಲ, ಹೆಚ್ಚಿನ ಪ್ರಮಾಣ
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	ಇಲ್ಲ	ಸಾಮಾನ್ಯ-ಉದ್ದೇಶದ ಕಾರ್ಯಕುದುರೆ
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	ಹೌದು	ಟಾಪ್-ಎಂಡ್ ಮಲ್ಟಿಮೋಡಲ್ ಏಜೆಂಟ್‌ಗಳು
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	ಹೌದು	ಅಗ್ಗದ ದೃಷ್ಟಿ

ಜನರು ನಿಜವಾಗಿ ಮಾಡುವ ಹೋಲಿಕೆ ಬಗ್ಗೆ ನೇರವಾಗಿ ಹೇಳುವುದಾದರೆ: DeepSeek ನ ಸ್ವಂತ API ಇದಕ್ಕಿಂತ ಅಗ್ಗ — ಪ್ರಥಮ-ಪಕ್ಷ V4-Pro ಸುಮಾರು $0.435 ಇನ್ / $0.87 ಔಟ್ ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ, ಮತ್ತು ಅವರ ಕ್ಯಾಶ್-ಹಿಟ್ ಇನ್‌ಪುಟ್ ಬೆಲೆ ಇನ್ನೂ ಕಡಿಮೆ. ಟೋಕನ್‌ಗೆ ಬೆಲೆಯೇ ನಿಮ್ಮ ಏಕೈಕ ಮಾನದಂಡವಾಗಿದ್ದು ಮಾಡರೇಶನ್ ವರ್ತನೆ ನಿಮ್ಮ ಕೆಲಸಕ್ಕೆ ಪರಿಣಾಮ ಬೀರದಿದ್ದರೆ, ಪ್ರಥಮ-ಪಕ್ಷ API ಬಳಸಿ; ನೀವು ನಂತರ ಕಂಡುಕೊಳ್ಳುವುದಕ್ಕಿಂತ ಈಗಲೇ ಅದನ್ನು ಹೇಳುವುದನ್ನು ನಾವು ಬಯಸುತ್ತೇವೆ. ಪ್ರೀಮಿಯಂ ಬೇರೆ ಗುಣಲಕ್ಷಣಗಳ ಸೆಟ್ ಖರೀದಿಸುತ್ತದೆ: ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರ್ ಇಲ್ಲ, Shannon Lab LLC ಅಡಿಯಲ್ಲಿ US ನಿರ್ವಾಹಕ, ಪಿನ್ ಮಾಡಿದ ದಿನಾಂಕದ ಚೆಕ್‌ಪಾಯಿಂಟ್ (0813) ಆದ್ದರಿಂದ ಮೌನ ಅಪ್‌ಸ್ಟ್ರೀಮ್ ಅಪ್‌ಗ್ರೇಡ್ ಎಂದಿಗೂ ನಿಮ್ಮ ಪ್ರಾಜೆಕ್ಟ್ ಮಧ್ಯದಲ್ಲಿ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಬದಲಾಯಿಸುವುದಿಲ್ಲ, ಒಂದೇ ಮಾಡೆಲ್ ವಿರುದ್ಧ ಮೂರು API ಶೈಲಿಗಳು, ಮತ್ತು ಪಟ್ಟಿಯ ಎಲ್ಲಾ ಹನ್ನೆರಡು ಮಾಡೆಲ್‌ಗಳಾದ್ಯಂತ ಅದೇ 262K ವಿಂಡೋ ಮತ್ತು ಪ್ಯಾರಾಮೀಟರ್ ಮೇಲ್ಮೈ.

09ಕರೆ ಮಾಡುವುದು: ಮೂರು ಶೈಲಿಗಳು, ಒಂದು ಮಾಡೆಲ್

ಗೇಟ್‌ವೇಯಲ್ಲಿನ ಪ್ರತಿ ಮಾಡೆಲ್ ಎಲ್ಲಾ ಮೂರು ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಲ್ಲಿ ಉತ್ತರಿಸುತ್ತದೆ, ಪ್ರತಿಯೊಂದರಲ್ಲೂ ಸ್ಟ್ರೀಮಿಂಗ್‌ನೊಂದಿಗೆ. ನೀವು ಹೊಸ SDK ಅಳವಡಿಸಿಕೊಳ್ಳುವುದಿಲ್ಲ — ನೀವು ಬೇಸ್ URL ಮತ್ತು ಮಾಡೆಲ್ id ಬದಲಿಸುತ್ತೀರಿ.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
    "reasoning_effort": "high",
    "stream": true,
    "messages": [
      {"role": "system", "content": "You are a systems programmer. Be direct."},
      {"role": "user", "content": "Audit this parser for memory-safety bugs."}
    ]
  }'

• /v1/chat/completions — OpenAI ಶೈಲಿ; OpenAI SDK ಗಳು ಮತ್ತು ಅವುಗಳ ಮೇಲೆ ಕಟ್ಟಿದ ಯಾವುದಾದರೂ ಜೊತೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ.
• /v1/messages — Anthropic ಶೈಲಿ, ಈಗಾಗಲೇ ಆ ಆಕಾರದ ವಿರುದ್ಧ ಬರೆದ ಕೋಡ್‌ಬೇಸ್‌ಗಳಿಗೆ.
• /v1/responses — Responses-ಶೈಲಿಯ ಇಂಟರ್‌ಫೇಸ್.

ಈ ಮಾಡೆಲ್‌ನಲ್ಲಿ ಬೆಂಬಲಿತ: ಸ್ಟ್ರೀಮಿಂಗ್, ಸ್ಥಳೀಯ ಟೂಲ್ ಕಾಲಿಂಗ್, ಕಠಿಣ json_schema ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್, response_format, ಮತ್ತು reasoning_effort. ಪೂರ್ಣ ಪ್ಯಾರಾಮೀಟರ್ ಉಲ್ಲೇಖ ಮತ್ತು ಲೈವ್ ಪ್ಲೇಗ್ರೌಂಡ್ API ದಾಖಲಾತಿಯಲ್ಲಿ ಇವೆ.

10ಪ್ರಾಮಾಣಿಕ ಮಿತಿಗಳು

ಇದರ ಮೇಲೆ ಕಟ್ಟುವ ಮೊದಲು ತಿಳಿಯಬೇಕಾದ ನಾಲ್ಕು ವಿಷಯಗಳು:

• ದೃಷ್ಟಿ ಇಲ್ಲ. ಪಠ್ಯ-ಮಾತ್ರ; ಇದು ಯಾವುದೇ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ನಲ್ಲಿ ಚಿತ್ರ ಇನ್‌ಪುಟ್ ಸ್ವೀಕರಿಸುವುದಿಲ್ಲ. ನೋಡುವ ಸೆನ್ಸಾರ್ ರಹಿತ ಮಾಡೆಲ್ ಬೇಕಿದ್ದರೆ, Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 ಅಥವಾ inkling ಬಳಸಿ.
• 16,384-ಟೋಕನ್ ಔಟ್‌ಪುಟ್ ಸೀಲಿಂಗ್. ಹೆಚ್ಚಿನ ಎಫರ್ಟ್‌ನಲ್ಲಿ ರೀಸನಿಂಗ್ ಟೋಕನ್‌ಗಳು ಅದರ ವಿರುದ್ಧ ಎಣಿಕೆಯಾಗುತ್ತವೆ, ಆದ್ದರಿಂದ ದೀರ್ಘ ಆಲೋಚನೆ ಉತ್ತರಕ್ಕೆ ಕಡಿಮೆ ಜಾಗ ಬಿಡುತ್ತದೆ. ದೊಡ್ಡ ರಚನಾ ಕೆಲಸಗಳಿಗೆ ವಿನಂತಿಗಳನ್ನು ಸರಪಳಿ ಮಾಡಿ.
• 3-ಬಿಟ್ ನಿಜವಾದ ಸಂಕುಚನ. ಉಲ್ಲೇಖ ಅಂಕಗಳು ಫೌಂಡೇಶನ್ ಅನ್ನು ವಿವರಿಸುತ್ತವೆ, ಈ ಬಿಲ್ಡ್ ಅಲ್ಲ. ಅತಿ ಹೆಚ್ಚು ನಿಷ್ಠೆಯ ಶ್ರೇಣಿಗೆ, W8A16 ಮಾಡೆಲ್‌ಗಳು (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) ಅತಿ ಕಡಿಮೆ ಕ್ವಾಂಟೈಸೇಶನ್ ಹೊಂದಿವೆ.
• ಸೆನ್ಸಾರ್ ರಹಿತ ಎಂದರೆ ಪರಿಣಾಮ-ರಹಿತ ಎಂದಲ್ಲ. ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ ಎಂದರೆ ನೀವು ಕೇಳುವುದಕ್ಕೆ, ಮತ್ತು ಉತ್ತರದೊಂದಿಗೆ ನೀವು ಏನು ಮಾಡುತ್ತೀರಿ ಎಂಬುದಕ್ಕೆ ಜವಾಬ್ದಾರಿ ನಿಮ್ಮದೇ — ನಮ್ಮ ಸೇವಾ ನಿಯಮಗಳು ಮತ್ತು ನೀವು ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಸ್ಥಳದ ಕಾನೂನಿನ ಅಡಿಯಲ್ಲಿ.

11ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

---

ಮೂಲಗಳು: DeepSeek-AI — DeepSeek-V4-Pro ಮಾಡೆಲ್ ಕಾರ್ಡ್ · DeepSeek-V4 ತಾಂತ್ರಿಕ ವರದಿ (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · DeepSeek-V3 ತಾಂತ್ರಿಕ ವರದಿ · REAP the Experts (Cerebras Research) · Promptfoo ಸೆನ್ಸಾರ್‌ಶಿಪ್ ಆಡಿಟ್ · Discovering Forbidden Topics in Language Models. ಬೆಂಚ್‌ಮಾರ್ಕ್ ಅಂಕಿಗಳು ಉಲ್ಲೇಖ ಬಿಡುಗಡೆಗಾಗಿ DeepSeek-AI-ವರದಿ ಮಾಡಿದವು; ಸಂಕುಚಿತ ಬಿಲ್ಡ್‌ನ ಸ್ವತಂತ್ರ ಮೂರನೇ-ಪಕ್ಷ ಪರಿಶೀಲನೆ ಬಾಕಿ ಇದೆ. ಬೆಲೆಗಳು ಸೆಪ್ಟೆಂಬರ್ 5, 2026 ರ ಪ್ರಕಾರ Shannon AI ಪಟ್ಟಿ ಬೆಲೆಗಳು.