ਬਿਨਾਂ ਸੈਂਸਰ DeepSeek API
1.6 ਖਰਬ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲਾ DeepSeek ਮਾਹਰਾਂ-ਦਾ-ਮਿਸ਼ਰਣ, ਬਿਨਾਂ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਦੇ ਪਰੋਸਿਆ ਗਿਆ: 262K ਸੰਦਰਭ, ਮੂਲ ਤਰਕ ਦੀ ਮਿਹਨਤ, ਟੂਲ ਕਾਲਿੰਗ, ਅਤੇ ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਤਿੰਨ API ਬੋਲੀਆਂ।
ਸੰਖੇਪ
DeepSeek-V4-Pro-0813-3BIT-REAP Shannon AI ਦੀ ਬਿਨਾਂ ਸੈਂਸਰ ਕਤਾਰ ਦਾ ਮੋਹਰੀ ਤਰਕ-ਅਤੇ-ਕੋਡ ਮਾਡਲ ਹੈ। ਬੁਨਿਆਦ DeepSeek-AI ਦਾ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲਾ V4-Pro ਹੈ — ਕੁੱਲ 1.6T ਪੈਰਾਮੀਟਰ, ਪ੍ਰਤੀ ਟੋਕਨ 49B ਸਰਗਰਮ, MIT ਲਾਇਸੰਸ ਹੇਠ, ਮੂਲ ਰੂਪ ਵਿੱਚ ਦਸ ਲੱਖ ਟੋਕਨ ਸੰਦਰਭ ਲਈ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ। ਅਸੀਂ ਇਸਨੂੰ ਆਪਣੇ ਹੀ GPU ਕਲੱਸਟਰ ਉੱਤੇ 3-ਬਿੱਟ ਵਜ਼ਨਾਂ ਵਿੱਚ REAP ਮਾਹਰ ਛਾਂਗਣ ਨਾਲ ਪਰੋਸਦੇ ਹਾਂ, 262,144 ਟੋਕਨ ਵਿੰਡੋ, 16,384 ਟੋਕਨ ਵੱਧ ਤੋਂ ਵੱਧ ਆਊਟਪੁੱਟ, ਸਟ੍ਰੀਮਿੰਗ, ਮੂਲ ਟੂਲ ਕਾਲਿੰਗ, ਸਖ਼ਤ json_schema ਆਊਟਪੁੱਟ ਅਤੇ reasoning_effort ਦੇ ਹੱਥੇ ਨਾਲ। ਪ੍ਰਤੀ 1M ਇਨਪੁੱਟ $1.95, ਪ੍ਰਤੀ 1M ਆਊਟਪੁੱਟ $3.90। ਕੋਈ ਵਿਜ਼ਨ ਨਹੀਂ। ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ, ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰ ਨਹੀਂ।
“ਬਿਨਾਂ ਸੈਂਸਰ DeepSeek API” ਵਾਕੰਸ਼ ਰਾਹੀਂ ਪਹੁੰਚਣ ਵਾਲਿਆਂ ਨੂੰ ਇੱਕ ਖ਼ਾਸ ਚੀਜ਼ ਚਾਹੀਦੀ ਹੁੰਦੀ ਹੈ: ਅਜਿਹਾ ਮਾਡਲ ਜਿਸ ਵਿੱਚ DeepSeek ਵਾਲੀ ਤਰਕ ਅਤੇ ਕੋਡਿੰਗ ਦੀ ਸਮਰੱਥਾ ਹੋਵੇ ਅਤੇ ਜੋ ਉਸੇ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦੇਵੇ ਜੋ ਸੱਚਮੁੱਚ ਪੁੱਛਿਆ ਗਿਆ ਸੀ। ਸਮਰੱਥਾ ਵਾਲਾ ਅੱਧ ਚੰਗੀ ਤਰ੍ਹਾਂ ਦਰਜ ਹੈ — DeepSeek-AI ਨੇ ਢਾਂਚਾ ਅਤੇ ਅੰਕੜੇ ਛਾਪੇ ਹਨ, ਅਤੇ ਵਜ਼ਨ Hugging Face ਉੱਤੇ MIT ਹੇਠ ਮੌਜੂਦ ਹਨ। ਦੂਜਾ ਅੱਧ ਚਲਾਉਣ ਵਾਲੇ ਦਾ ਫ਼ੈਸਲਾ ਹੈ, ਅਤੇ ਉਹ ਆਮ ਤੌਰ ਉੱਤੇ ਤੁਹਾਡੀ ਥਾਂ ਕੋਈ ਹੋਰ ਕਰ ਦਿੰਦਾ ਹੈ। ਇਹ ਸਫ਼ਾ ਦੋਵੇਂ ਗੱਲਾਂ ਦੱਸਦਾ ਹੈ: V4-Pro ਬੁਨਿਆਦ ਕੀ ਹੈ, ਸਾਡਾ 3BIT-REAP ਬਿਲਡ ਉਸ ਨਾਲ ਕੀ ਕਰਦਾ ਹੈ, ਅਤੇ ਜਦੋਂ ਅਸੀਂ “ਬਿਨਾਂ ਸੈਂਸਰ” ਕਹਿੰਦੇ ਹਾਂ ਤਾਂ ਉਸਦਾ ਬਿਲਕੁਲ ਕੀ ਮਤਲਬ ਹੈ।
01“ਬਿਨਾਂ ਸੈਂਸਰ DeepSeek API” ਦਾ ਅਸਲ ਮਤਲਬ
ਦੋ ਵੱਖੋ-ਵੱਖਰੇ ਢੰਗ ਇੱਕੋ ਸ਼ਬਦ ਹੇਠ ਰੱਖ ਦਿੱਤੇ ਜਾਂਦੇ ਹਨ। ਪਹਿਲਾ ਹੈ ਵਜ਼ਨਾਂ ਵਿੱਚ ਹੀ ਪੱਕੀ ਕੀਤੀ ਅਲਾਈਨਮੈਂਟ — ਇਨਕਾਰ ਵਾਲਾ ਵਿਹਾਰ ਜੋ ਸਿਖਲਾਈ ਤੋਂ ਬਾਅਦ ਵਾਲੇ ਪੜਾਅ ਵਿੱਚ ਸਿੱਖਿਆ ਜਾਂਦਾ ਹੈ। ਦੂਜਾ ਹੈ ਸੇਵਾ ਵਾਲੇ ਪਾਸੇ ਦੀ ਨਿਗਰਾਨੀ ਪਰਤ: ਇੱਕ ਵੱਖਰਾ ਵਰਗੀਕਾਰ ਜੋ ਮਾਡਲ ਦੇ ਵੇਖਣ ਤੋਂ ਪਹਿਲਾਂ ਤੁਹਾਡਾ ਪ੍ਰੌਂਪਟ ਅਤੇ ਤੁਹਾਡੇ ਵੇਖਣ ਤੋਂ ਪਹਿਲਾਂ ਜਵਾਬ ਪਰਖਦਾ ਹੈ, ਅਤੇ ਮਾਡਲ ਜੋ ਵੀ ਕਹਿਣਾ ਚਾਹੁੰਦਾ ਸੀ, ਉਸਦੀ ਪਰਵਾਹ ਕੀਤੇ ਬਿਨਾਂ ਜਵਾਬ ਵਿਚਾਲੇ ਕੱਟ ਸਕਦਾ ਹੈ।
ਦੋਵੇਂ ਮਾਪੇ ਜਾ ਸਕਦੇ ਹਨ, ਅਤੇ DeepSeek ਦੀ ਆਪਣੀ ਸੇਵਾ ਮਾਪੀ ਜਾ ਚੁੱਕੀ ਹੈ। Promptfoo ਨੇ ਸਿਆਸੀ ਤੌਰ ਉੱਤੇ ਸੰਵੇਦਨਸ਼ੀਲ ਸਵਾਲਾਂ ਦਾ 1,360 ਪ੍ਰੌਂਪਟਾਂ ਵਾਲਾ ਸੈੱਟ ਬਣਾਇਆ ਅਤੇ ਦੱਸਿਆ ਕਿ DeepSeek ਦੇ ਹੋਸਟ ਕੀਤੇ R1 ਨੇ ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ 1,156 ਤੋਂ ਇਨਕਾਰ ਕੀਤਾ ਜਾਂ ਗੱਲ ਟਾਲੀ — ਲਗਭਗ 85%। ਇਸੇ ਪਰਿਵਾਰ ਉੱਤੇ ਹੋਏ ਅਕਾਦਮਿਕ ਕੰਮ ਵਿੱਚ ਇੱਕ ਵੱਖਰਾ ਨੁਕਸ ਮਿਲਿਆ ਜਿਸਨੂੰ ਲੇਖਕਾਂ ਨੇ ਸੋਚ ਦਾ ਦਬਾਅ ਕਿਹਾ, ਜਿੱਥੇ ਸੰਵੇਦਨਸ਼ੀਲ ਵਿਸ਼ੇ ਉੱਤੇ ਮਾਡਲ ਦੀ ਤਰਕ ਦੀ ਲੜੀ ਸ਼ੁਰੂ ਹੁੰਦੇ ਸਾਰ ਹੀ ਖ਼ਤਮ ਹੋ ਜਾਂਦੀ ਹੈ। Information Sciences ਵਿੱਚ ਛਪੀ ਇੱਕ ਵੱਖਰੀ ਪੜਤਾਲ ਨੇ ਅਰਥ-ਪੱਧਰੀ ਦਬਾਅ ਦਰਜ ਕੀਤਾ: ਉਹ ਸਮੱਗਰੀ ਜੋ ਮਾਡਲ ਦੇ ਅੰਦਰਲੇ ਤਰਕ ਵਿੱਚ ਮੌਜੂਦ ਹੈ ਪਰ ਵਰਤੋਂਕਾਰ ਤੱਕ ਪਹੁੰਚਣ ਤੋਂ ਪਹਿਲਾਂ ਚੁੱਪ-ਚਾਪ ਕੱਢ ਜਾਂ ਬਦਲ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ। ਇਹ ਸਿੱਧੇ ਇਨਕਾਰ ਨਾਲੋਂ ਔਖੀ ਸਮੱਸਿਆ ਹੈ, ਕਿਉਂਕਿ ਕੱਟਿਆ ਹੋਇਆ ਜਵਾਬ ਵੀ ਜਵਾਬ ਵਰਗਾ ਹੀ ਲੱਗਦਾ ਹੈ।
ਅਸੀਂ ਜੋ ਚਲਾਉਂਦੇ ਹਾਂ ਉਹ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲੀ ਰਿਲੀਜ਼ ਹੈ, ਉਸ ਹਾਰਡਵੇਅਰ ਉੱਤੇ ਜੋ ਅਸੀਂ ਚਲਾਉਂਦੇ ਹਾਂ, ਸੰਯੁਕਤ ਰਾਜ ਵਿੱਚ, Shannon Lab LLC ਦੇ ਅਧੀਨ। ਮਾਡਲ ਦੇ ਅੱਗੇ ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ ਅਤੇ ਜੋ ਵਾਪਸ ਆਉਂਦਾ ਹੈ ਉਸ ਉੱਤੇ ਕੋਈ ਫਿਲਟਰ ਨਹੀਂ: ਪਰੋਸਣ ਤੋਂ ਪਹਿਲਾਂ ਤੁਹਾਡੇ ਪ੍ਰੌਂਪਟ ਨੂੰ ਨੀਤੀ ਲਈ ਵਰਗੀਕ੍ਰਿਤ ਨਹੀਂ ਕੀਤਾ ਜਾਂਦਾ, ਅਤੇ ਬਾਹਰ ਜਾਂਦੀ ਸਟ੍ਰੀਮ ਦੀ ਜਾਂਚ ਨਹੀਂ ਹੁੰਦੀ। ਕਿਉਂਕਿ ਬੁਨਿਆਦ MIT ਲਾਇਸੰਸ ਵਾਲੀ ਅਤੇ ਜਨਤਕ ਹੈ, ਤੁਸੀਂ ਸਾਡੀ ਗੱਲ ਉੱਤੇ ਯਕੀਨ ਕਰਨ ਦੀ ਥਾਂ ਸਾਡੇ ਨਤੀਜੇ ਹਵਾਲੇ ਵਾਲੇ ਵਜ਼ਨਾਂ ਨਾਲ ਖ਼ੁਦ ਮਿਲਾ ਕੇ ਵੇਖ ਸਕਦੇ ਹੋ।
02ਬੁਨਿਆਦ: DeepSeek-V4-Pro, ਇੱਕ 1.6T MoE
DeepSeek-V4, DeepSeek-AI ਦਾ ਮੌਜੂਦਾ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲਾ ਪਰਿਵਾਰ ਹੈ, ਜਿਸਦੀ ਝਲਕ ਅਪ੍ਰੈਲ 2026 ਵਿੱਚ ਦਿੱਤੀ ਗਈ ਅਤੇ ਜੋ MIT ਹੇਠ ਦੋ ਆਕਾਰਾਂ ਵਿੱਚ ਆਇਆ: V4-Flash (ਕੁੱਲ 284B, ਸਰਗਰਮ 13B) ਅਤੇ V4-Pro (ਕੁੱਲ 1.6T, ਸਰਗਰਮ 49B)। ਇਹ ਲੇਖ Pro ਦਰਜੇ ਬਾਰੇ ਹੈ। ਦੋਵਾਂ ਦੀ ਪੂਰਵ-ਸਿਖਲਾਈ ਲਗਭਗ 33 ਖਰਬ ਟੋਕਨਾਂ ਉੱਤੇ ਹੋਈ ਅਤੇ ਦੋਵੇਂ ਮੂਲ ਰੂਪ ਵਿੱਚ ਦਸ ਲੱਖ ਟੋਕਨ ਸੰਦਰਭ ਸਮਰਥਿਤ ਕਰਦੇ ਹਨ।
ਧਿਆਨ ਦੇਣ ਵਾਲੀ ਗੱਲ ਵਿਰਲੇਪਣ ਦਾ ਅਨੁਪਾਤ ਹੈ: ਕਿਸੇ ਵੀ ਟੋਕਨ ਉੱਤੇ ਸਿਰਫ਼ ਲਗਭਗ 3% ਪੈਰਾਮੀਟਰ ਹੀ ਚੱਲਦੇ ਹਨ, ਅਤੇ ਇਹੀ ਗੱਲ ਏਨੇ ਵੱਡੇ ਮਾਡਲ ਨੂੰ ਪਰੋਸਣਯੋਗ ਬਣਾਉਂਦੀ ਹੈ। MoE ਬਲਾਕ ਹਾਲੇ ਵੀ DeepSeekMoE ਹੀ ਹੈ — V2 ਵਿੱਚ ਪੇਸ਼ ਕੀਤੇ ਬਰੀਕ ਰਾਊਟ ਕੀਤੇ ਮਾਹਰ ਨਾਲੇ ਹਮੇਸ਼ਾ ਚਾਲੂ ਸਾਂਝੇ ਮਾਹਰ — V4 ਵਿੱਚ ਸਿਰਫ਼ ਛੋਟੇ ਬਦਲਾਵਾਂ ਨਾਲ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਸਭ ਤੋਂ ਸਾਫ਼ ਦਿਸਦਾ ਹੈ ਸ਼ੁਰੂਆਤੀ ਪਰਤਾਂ ਵਿੱਚ ਹੈਸ਼ ਰਾਊਟਿੰਗ। Multi-Token Prediction, ਯਾਨੀ V3 ਵਾਲਾ ਸਹਾਇਕ ਉਦੇਸ਼ ਜੋ ਸਪੈਕੁਲੇਟਿਵ ਡੀਕੋਡਿੰਗ ਵੀ ਸੰਭਵ ਬਣਾਉਂਦਾ ਹੈ, ਬਿਨਾਂ ਬਦਲਾਅ ਕਾਇਮ ਹੈ।
V4 ਦੇ ਨਵੇਂ ਹਿੱਸੇ ਢਾਂਚਾਗਤ ਹਨ। Manifold-Constrained Hyper-Connections (mHC) ਸਾਦੇ ਰੈਜ਼ੀਡਿਊਅਲ ਰਾਹ ਦੀ ਥਾਂ ਇੱਕ ਸਿੱਖੀ ਹੋਈ ਮਿਸ਼ਰਣ ਮੈਟ੍ਰਿਕਸ ਰੱਖਦੇ ਹਨ, ਜੋ Sinkhorn–Knopp ਪ੍ਰੋਜੈਕਸ਼ਨ ਰਾਹੀਂ ਦੋਹਰੇ ਸਟੋਕੈਸਟਿਕ ਮੈਟ੍ਰਿਕਸਾਂ ਦੇ ਮੈਨੀਫ਼ੋਲਡ ਉੱਤੇ ਬੰਨ੍ਹੀ ਜਾਂਦੀ ਹੈ — ਇੱਕ ਅਜਿਹੀ ਰੈਜ਼ੀਡਿਊਅਲ ਧਾਰਾ ਜੋ ਹਰ ਇਨਪੁੱਟ ਮੁਤਾਬਕ ਵਜ਼ਨ ਬਦਲਦੀ ਹੈ ਪਰ ਉਸ ਸੰਖਿਆਤਮਕ ਖਿਸਕਾਅ ਤੋਂ ਬਿਨਾਂ ਜੋ ਬਹੁਤ ਡੂੰਘੇ ਢੇਰਾਂ ਨੂੰ ਮਾਰ ਦਿੰਦਾ ਹੈ। ਸਿਖਲਾਈ ਬਹੁਤੇ ਮੌਡਿਊਲਾਂ ਲਈ AdamW ਤੋਂ ਹਟ ਕੇ Muon ਉੱਤੇ ਚਲੀ ਗਈ, ਜੋ Newton–Schulz ਆਰਥੋਗਨਲਾਈਜ਼ੇਸ਼ਨ ਵਰਤਦਾ ਹੈ, ਜਦਕਿ AdamW ਸਿਰਫ਼ ਐਂਬੈਡਿੰਗਾਂ, ਪੂਰਵ-ਅਨੁਮਾਨ ਹੈੱਡਾਂ, ਨੌਰਮਲਾਈਜ਼ੇਸ਼ਨ ਅਤੇ ਸਥਿਰ mHC ਪੈਰਾਮੀਟਰਾਂ ਲਈ ਰੱਖਿਆ ਗਿਆ। ਅਤੇ ਮਾਹਰਾਂ ਦੇ ਵਜ਼ਨ FP4 ਵਿੱਚ ਸਿਖਾਏ ਗਏ ਹਨ ਜਦਕਿ ਬਾਕੀ ਬਹੁਤੇ ਪੈਰਾਮੀਟਰ FP8 ਵਿੱਚ — ਭਾਵ ਸ਼ੁਰੂ ਤੋਂ ਹੀ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਦਾ ਧਿਆਨ, ਜੋ ਇਸ ਪੱਖੋਂ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ ਕਿ ਮਾਡਲ ਅੱਗੇ ਹੋਰ ਸੰਕੁਚਨ ਕਿੰਨੀ ਸੌਖ ਨਾਲ ਝੱਲਦਾ ਹੈ।
03MLA ਤੋਂ CSA + HCA ਤੱਕ: DeepSeek ਲੰਮਾ ਸੰਦਰਭ ਸਸਤਾ ਕਿਵੇਂ ਰੱਖਦਾ ਹੈ
ਚਾਰ ਪੀੜ੍ਹੀਆਂ ਵਿੱਚ DeepSeek ਦੀ ਲਗਾਤਾਰ ਧਾਰਾ ਆਕਾਰ ਨਹੀਂ, ਧਿਆਨ ਦੀ ਅਰਥ-ਵਿਵਸਥਾ ਹੈ। ਹਰ ਰੂਪ ਨੇ KV ਕੈਸ਼ ਉੱਤੇ ਹਮਲਾ ਕੀਤਾ ਹੈ, ਜੋ ਸੰਦਰਭ ਨਾਲ ਸਿੱਧੇ ਅਨੁਪਾਤ ਵਿੱਚ ਵਧਦਾ ਹੈ ਅਤੇ ਲੰਮੀਆਂ ਲੰਬਾਈਆਂ ਉੱਤੇ ਮੈਮਰੀ ਉੱਤੇ ਭਾਰੂ ਹੋ ਜਾਂਦਾ ਹੈ।
- V2 ਨੇ Multi-head Latent Attention (MLA) ਪੇਸ਼ ਕੀਤਾ — ਕੁੰਜੀਆਂ ਅਤੇ ਮੁੱਲਾਂ ਦਾ ਸਾਂਝਾ ਨਿਮਨ-ਦਰਜਾ ਸੰਕੁਚਨ ਇੱਕ ਗੁਪਤ ਵੈਕਟਰ ਵਿੱਚ, ਸੋ ਜਨਰੇਸ਼ਨ ਪ੍ਰਤੀ ਹੈੱਡ ਪੂਰੇ K ਤੇ V ਦੀ ਥਾਂ ਉਹ ਵੈਕਟਰ ਨਾਲੇ ਇੱਕ ਵੱਖ ਕੀਤੀ RoPE ਕੁੰਜੀ ਕੈਸ਼ ਕਰਦੀ ਹੈ। DeepSeek ਨੇ ਦੱਸਿਆ ਕਿ KV ਕੈਸ਼ ਆਮ ਬਹੁ-ਹੈੱਡ ਧਿਆਨ ਦੇ ਲਗਭਗ 4–14% ਤੱਕ ਡਿੱਗ ਗਿਆ, ਗੁਣਵੱਤਾ ਕਾਇਮ ਰਹੀ ਜਾਂ ਸੁਧਰੀ।
- V3 ਨੇ ਇਸਨੂੰ 671B ਤੱਕ ਵਧਾਇਆ, ਜਿਸ ਨਾਲ MLA ਖੁੱਲ੍ਹੇ ਮਾਡਲਾਂ ਵਿੱਚ ਸਸਤੇ ਲੰਮੇ ਸੰਦਰਭ ਦੀ ਮੂਲ ਮਾਨਤਾ ਬਣ ਗਿਆ।
- V3.2 ਨੇ DeepSeek Sparse Attention (DSA) ਜੋੜਿਆ, ਜੋ ਹਰ ਚੀਜ਼ ਵੱਲ ਧਿਆਨ ਦੇਣ ਦੀ ਥਾਂ ਇੱਕ ਹਲਕੇ ਇੰਡੈਕਸਰ ਰਾਹੀਂ ਪ੍ਰਤੀ ਸਵਾਲ ਇਤਿਹਾਸ ਦਾ ਸਿਖਰਲਾ-k ਹਿੱਸਾ ਚੁਣਦਾ ਹੈ।
- V4 ਦੋਵੇਂ ਮਿਲਾ ਦਿੰਦਾ ਹੈ। Compressed Sparse Attention (CSA) ਪਹਿਲਾਂ ਹਰ m ਟੋਕਨਾਂ ਦੀਆਂ KV ਐਂਟਰੀਆਂ ਨੂੰ ਸਿੱਖੇ ਹੋਏ ਵਜ਼ਨਾਂ ਨਾਲ ਇੱਕ ਐਂਟਰੀ ਵਿੱਚ ਸੰਕੁਚਿਤ ਕਰਦਾ ਹੈ, ਫਿਰ ਉਨ੍ਹਾਂ ਸੰਕੁਚਿਤ ਐਂਟਰੀਆਂ ਉੱਤੇ ਵਿਰਲੀ ਸਿਖਰਲੀ-k ਚੋਣ ਚਲਾਉਂਦਾ ਹੈ। Heavily Compressed Attention (HCA) ਕਿਤੇ ਵੱਧ ਜ਼ੋਰ ਨਾਲ ਸੰਕੁਚਿਤ ਕਰਦਾ ਹੈ ਪਰ ਨਤੀਜੇ ਉੱਤੇ ਸੰਘਣਾ ਰਹਿੰਦਾ ਹੈ। ਦੋਵੇਂ ਕਿਸਮਾਂ ਦੀਆਂ ਪਰਤਾਂ ਢੇਰ ਵਿੱਚ ਵਾਰੋ-ਵਾਰੀ ਲਾਈਆਂ ਗਈਆਂ ਹਨ, ਸੋ ਸਸਤਾ ਸਮੁੱਚਾ ਸਾਰ ਅਤੇ ਸਹੀ ਸਥਾਨਕ ਖੋਜ ਨਾਲੋ-ਨਾਲ ਚੱਲਦੇ ਹਨ।
ਦਸ ਲੱਖ ਟੋਕਨ ਸੰਦਰਭ ਉੱਤੇ ਦੱਸਿਆ ਗਿਆ ਫ਼ਾਇਦਾ ਹੈਰਾਨ ਕਰਨ ਵਾਲਾ ਹੈ: V4-Pro ਨੂੰ V3.2 ਦੇ ਮੁਕਾਬਲੇ ਪ੍ਰਤੀ ਟੋਕਨ ਲਗਭਗ 27% ਇਨਫ਼ਰੈਂਸ FLOP ਅਤੇ 10% KV ਕੈਸ਼ ਚਾਹੀਦਾ ਹੈ। ਇਸੇ ਕਰਕੇ 262K ਵਾਲੀ ਬੇਨਤੀ ਮੈਮਰੀ ਦੀ ਘਟਨਾ ਨਹੀਂ ਸਗੋਂ ਆਮ ਬੇਨਤੀ ਵਾਂਗ ਵਿਹਾਰ ਕਰਦੀ ਹੈ, ਅਤੇ ਇਸੇ ਕਰਕੇ ਲੰਮੇ ਸੰਦਰਭ ਦੀ ਖੋਜ ਵਾਲੇ ਅੰਕੜੇ ਕੁਝ ਦਸ ਹਜ਼ਾਰ ਟੋਕਨਾਂ ਤੋਂ ਬਾਅਦ ਢਹਿਣ ਦੀ ਥਾਂ ਟਿਕੇ ਰਹਿੰਦੇ ਹਨ।
043BIT-REAP ਪਿਛੇਤਰ ਦਾ ਕੀ ਮਤਲਬ ਹੈ
ਸਾਡੀ ਸੂਚੀ ਵਿਚਲਾ id 3BIT-REAP ਉੱਤੇ ਮੁੱਕਦਾ ਹੈ, ਅਤੇ ਇਹ ਕ੍ਰਮ ਨਾਲ ਲਾਏ ਗਏ ਦੋ ਵੱਖਰੇ ਸੰਕੁਚਨ ਕਦਮ ਦੱਸਦਾ ਹੈ।
REAP: ਮਾਹਰਾਂ ਨੂੰ ਮਿਲਾਉਣਾ ਨਹੀਂ, ਛਾਂਗਣਾ
REAP ਦਾ ਮਤਲਬ ਹੈ Router-weighted Expert Activation Pruning, Cerebras Research ਤੋਂ — “REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression”, ICLR 2026 ਵਿੱਚ ਸਵੀਕਾਰ ਹੋਇਆ। ਵਿਰਲੇ MoE ਵਿੱਚ ਰਾਊਟਰ ਆਪਣੇ ਮਾਹਰਾਂ ਨੂੰ ਬਰਾਬਰ ਨਹੀਂ ਵਰਤਦਾ: ਇੱਕ ਲੰਮੀ ਪੂਛ ਘੱਟ ਵਾਰੀ, ਕਮਜ਼ੋਰ ਢੰਗ ਨਾਲ, ਜਾਂ ਦੋਵੇਂ ਤਰ੍ਹਾਂ ਚੁਣੀ ਜਾਂਦੀ ਹੈ। REAP ਹਰ ਮਾਹਰ ਨੂੰ ਰਾਊਟਰ ਗੇਟ ਮੁੱਲਾਂ (ਕਿੰਨੀ ਵਾਰੀ ਤੇ ਕਿੰਨੇ ਜ਼ੋਰ ਨਾਲ ਚੁਣਿਆ ਜਾਂਦਾ ਹੈ) ਅਤੇ ਮਾਹਰ ਦੇ ਐਕਟੀਵੇਸ਼ਨ ਨੌਰਮਾਂ (ਉਸਦਾ ਨਤੀਜਾ ਕਿੰਨਾ ਯੋਗਦਾਨ ਪਾਉਂਦਾ ਹੈ) ਨੂੰ ਜੋੜ ਕੇ ਅੰਕ ਦਿੰਦਾ ਹੈ, ਫਿਰ ਹਾਰਨ ਵਾਲਿਆਂ ਨੂੰ ਸਿੱਧਾ ਮਿਟਾ ਦਿੰਦਾ ਹੈ।
ਪੇਪਰ ਦੀ ਦਲੀਲ ਇਹ ਹੈ ਕਿ ਛਾਂਗਣਾ ਮਿਲਾਉਣ ਨੂੰ ਹਰਾ ਦਿੰਦਾ ਹੈ: ਮਿਲਾਉਣ ਨਾਲ ਉਹੀ ਕਾਰਜੀ ਵਿਸ਼ੇਸ਼ਤਾ ਔਸਤ ਵਿੱਚ ਰੁੜ੍ਹ ਜਾਂਦੀ ਹੈ ਜਿਸ ਕਰਕੇ MoE ਬਣਾਉਣ ਦੀ ਲੋੜ ਪਈ ਸੀ, ਜਦਕਿ ਜਿਨ੍ਹਾਂ ਮਾਹਰਾਂ ਤੱਕ ਰਾਊਟਰ ਮਸਾਂ ਹੀ ਪਹੁੰਚਦਾ ਹੈ ਉਨ੍ਹਾਂ ਨੂੰ ਮਿਟਾਉਣ ਨਾਲ ਉਹ ਬਚੀ ਰਹਿੰਦੀ ਹੈ। 20B ਤੋਂ 1T ਤੱਕ ਦੇ ਮਾਡਲਾਂ ਉੱਤੇ REAP ਨੇ ਜਨਰੇਟਿਵ ਬੈਂਚਮਾਰਕਾਂ ਵਿੱਚ ਮਿਲਾਉਣ ਅਤੇ ਮੁਕਾਬਲੇ ਦੇ ਹੋਰ ਛਾਂਗਣ ਤਰੀਕਿਆਂ ਨੂੰ ਪਛਾੜਿਆ, ਅਤੇ ਲੇਖਕ Qwen3-Coder-480B ਤੇ Kimi-K2 ਉੱਤੇ 50% ਮਾਹਰ ਛਾਂਗਣ ਉੱਤੇ ਕੋਡ ਜਨਰੇਸ਼ਨ ਤੇ ਟੂਲ ਕਾਲਿੰਗ ਵਿੱਚ ਲਗਭਗ ਬਿਨਾਂ ਨੁਕਸਾਨ ਦੇ ਨਤੀਜੇ ਦੱਸਦੇ ਹਨ — ਅਤੇ ਇਹੀ ਉਹ ਕੰਮ ਦਾ ਖ਼ਾਕਾ ਹੈ ਜਿਸ ਲਈ ਇਹ ਮਾਡਲ ਇੱਥੇ ਹੈ।
3-ਬਿੱਟ ਵਜ਼ਨ: ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਬੁਨਿਆਦਾਂ ਲਈ ਸੰਕੁਚਨ ਦਾ ਦਰਜਾ
ਜੋ ਬਚਦਾ ਹੈ ਉਸਨੂੰ ਫਿਰ 3-ਬਿੱਟ ਵਜ਼ਨਾਂ ਵਿੱਚ ਕੁਆਂਟਾਈਜ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਤਿੰਨ ਬਿੱਟ ਸਖ਼ਤ ਕਦਮ ਹੈ, ਅਤੇ ਅਸੀਂ ਇਸਨੂੰ ਲੁਕਾਉਂਦੇ ਨਹੀਂ: ਪੂਰੀ ਕਤਾਰ ਵਿੱਚ ਅਸੀਂ W8A16 ਉੱਥੇ ਵਰਤਦੇ ਹਾਂ ਜਿੱਥੇ ਬੁਨਿਆਦ ਏਨੀ ਛੋਟੀ ਹੈ ਕਿ ਨਿਚੋੜਨ ਦੀ ਲੋੜ ਨਹੀਂ, ਵਿਚਕਾਰ W4A16-AUTOROUND-REAP, ਅਤੇ 3BIT-REAP ਸਿਰਫ਼ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਬੁਨਿਆਦਾਂ ਉੱਤੇ, ਜਿੱਥੇ ਇਹੀ ਮਾਡਲ ਪਰੋਸਣ ਅਤੇ ਨਾ ਪਰੋਸਣ ਵਿਚਲਾ ਫ਼ਰਕ ਹੁੰਦਾ ਹੈ।
ਸੌਦਾ ਸਾਫ਼ ਦੱਸਣ ਵਾਲਾ ਹੈ: 3-ਬਿੱਟ ਵਾਲਾ 1.6T MoE ਹਵਾਲੇ ਵਾਲੀ ਰਿਲੀਜ਼ ਨਾਲ ਬਿੱਟ-ਦਰ-ਬਿੱਟ ਇੱਕੋ ਜਿਹਾ ਨਹੀਂ, ਅਤੇ ਗੁਣਵੱਤਾ ਦੀ ਥੋੜ੍ਹੀ ਕੀਮਤ ਅਸਲੀ ਹੈ। ਬਦਲੇ ਵਿੱਚ ਤੁਹਾਨੂੰ ਅਜਿਹੀ ਬੁਨਿਆਦ ਮਿਲਦੀ ਹੈ ਜਿਸਦੀ ਬਿਨਾਂ ਸੰਕੁਚਨ ਵਾਲੀ ਛੱਤ ਹਰ ਉਸ ਚੀਜ਼ ਤੋਂ ਕਿਤੇ ਉੱਪਰ ਹੈ ਜੋ ਵੱਧ ਸ਼ੁੱਧਤਾ ਉੱਤੇ ਆਰਾਮ ਨਾਲ ਸਮਾ ਸਕਦੀ ਹੈ — ਅਤੇ ਕਿਉਂਕਿ V4 ਦੇ ਮਾਹਰ ਸ਼ੁਰੂ ਤੋਂ ਹੀ FP4 ਵਿੱਚ ਸਿਖਾਏ ਗਏ ਸਨ, ਇਹ ਮਾਡਲ ਹੋਰ ਵਜ਼ਨ ਸੰਕੁਚਨ ਹੇਠ ਅਸਾਧਾਰਨ ਤੌਰ ਉੱਤੇ ਚੰਗਾ ਵਿਹਾਰ ਕਰਦਾ ਹੈ। ਜੇ ਤੁਹਾਨੂੰ ਸ਼ੁੱਧਤਾ ਉੱਤੇ ਹਲਕੇ ਹੱਥ ਵਾਲਾ DeepSeek ਬਿਲਡ ਚਾਹੀਦਾ ਹੈ, ਤਾਂ DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP 4-ਬਿੱਟ ਵਜ਼ਨ ਅਤੇ 16-ਬਿੱਟ ਐਕਟੀਵੇਸ਼ਨਾਂ ਨਾਲ AutoRound ਦੀ ਸਿੱਖੀ ਹੋਈ ਗੋਲਾਈ ਵਰਤਦਾ ਹੈ, ਉਸੇ 262K ਸੰਦਰਭ ਉੱਤੇ $0.50 ਅੰਦਰ / $2.00 ਬਾਹਰ।
05ਤਰਕ, ਅਤੇ reasoning_effort ਦਾ ਹੱਥਾ
V4 ਦੀ ਸਿਖਲਾਈ ਤੋਂ ਬਾਅਦ ਵਾਲੀ ਪ੍ਰਕਿਰਿਆ ਖੇਤਰ ਦੇ ਮਾਹਰ ਵੱਖ-ਵੱਖ ਸਿਖਾਉਂਦੀ ਹੈ — ਗਣਿਤ, ਕੋਡਿੰਗ, ਏਜੰਟ, ਹਦਾਇਤ ਪਾਲਣਾ — SFT ਤੋਂ ਬਾਅਦ GRPO, ਯਾਨੀ Group Relative Policy Optimization, ਜੋ DeepSeek ਨੇ R1 ਨਾਲ ਪੇਸ਼ ਕੀਤਾ ਸੀ। ਫਿਰ ਇਹ ਮਾਹਰ ਉਲਟੇ-KL ਉਦੇਸ਼ ਹੇਠ ਆਨ-ਪਾਲਿਸੀ ਡਿਸਟਿਲੇਸ਼ਨ ਰਾਹੀਂ ਇੱਕੋ ਮਾਡਲ ਵਿੱਚ ਸਮੇਟੇ ਜਾਂਦੇ ਹਨ, ਸੋ ਇੱਕੋ ਚੈੱਕਪੁਆਇੰਟ ਕਈ ਖੇਤਰਾਂ ਵਿੱਚ ਮਾਹਰ ਦਰਜੇ ਦਾ ਵਿਹਾਰ ਇਕੱਠਾ ਲੈ ਕੇ ਚੱਲਦਾ ਹੈ, ਨਾ ਕਿ ਹਰ ਥਾਂ ਦਰਮਿਆਨਾ ਰਹਿਣ ਵਾਲਾ ਸਧਾਰਨ ਮਾਡਲ ਬਣ ਜਾਂਦਾ ਹੈ।
ਜਾਰੀ ਕੀਤਾ ਮਾਡਲ ਦੋ-ਪਾਸੜ ਸਵਿੱਚ ਦੀ ਥਾਂ ਦਰਜਾਬੰਦ ਸੋਚਣ ਵਾਲੇ ਢੰਗ ਦਿੰਦਾ ਹੈ। ਸਾਡੇ ਗੇਟਵੇ ਉੱਤੇ ਇਹ ਮਿਆਰੀ reasoning_effort ਪੈਰਾਮੀਟਰ ਹੈ, ਜੋ ਇਸ ਮਾਡਲ ਦਾ ਸਭ ਤੋਂ ਕੰਮ ਦਾ ਹੱਥਾ ਹੈ:
- Low — ਲਗਭਗ ਸਿੱਧਾ ਜਵਾਬ: ਵਰਗੀਕਰਨ, ਕੱਢਣਾ, ਮੁੜ-ਲਿਖਣਾ, ਹਰ ਉਹ ਕੰਮ ਜਿੱਥੇ ਤੁਸੀਂ ਮਾਡਲ ਦੀ ਸੋਚ-ਵਿਚਾਰ ਦੀ ਥਾਂ ਉਸਦੇ ਗਿਆਨ ਦੇ ਪੈਸੇ ਦੇ ਰਹੇ ਹੋ।
- Medium — ਕੋਡ ਸਮੀਖਿਆ, ਡੀਬੱਗਿੰਗ ਅਤੇ ਬਹੁ-ਪੜਾਵੀ ਵਿਸ਼ਲੇਸ਼ਣ ਲਈ ਮੂਲ ਕੰਮਕਾਜੀ ਢੰਗ।
- High — ਜਵਾਬ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ ਲੰਮੀ ਸੋਚ-ਵਿਚਾਰ। ਇੱਥੇ ਔਖੀਆਂ ਸਮੱਸਿਆਵਾਂ ਹੱਲ ਹੁੰਦੀਆਂ ਹਨ, ਅਤੇ ਇੱਥੇ ਹੀ ਤੁਹਾਡਾ ਆਊਟਪੁੱਟ-ਟੋਕਨ ਬਿਲ ਵੱਸਦਾ ਹੈ, ਕਿਉਂਕਿ ਤਰਕ ਵਾਲੇ ਟੋਕਨ ਆਊਟਪੁੱਟ ਵਜੋਂ ਬਿਲ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।
ਕਿਉਂਕਿ ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ, ਸੰਵੇਦਨਸ਼ੀਲ ਵਿਸ਼ਿਆਂ ਉੱਤੇ ਤਰਕ ਦੀ ਲੜੀ ਕੱਟੀ ਨਹੀਂ ਜਾਂਦੀ — ਪਹਿਲੀ-ਧਿਰ ਸੇਵਾ ਉੱਤੇ ਦਰਜ ਹੋਏ ਸੋਚ-ਦਬਾਅ ਵਾਲੇ ਨਮੂਨੇ ਲਈ ਇੱਥੇ ਕੋਈ ਢੰਗ ਮੌਜੂਦ ਹੀ ਨਹੀਂ।
06ਕੋਡ ਅਤੇ ਏਜੰਟ ਵਾਲਾ ਕੰਮ: ਬੁਨਿਆਦ ਦੇ ਅੰਕ
ਇਹ V4-Pro ਰਿਲੀਜ਼ ਲਈ DeepSeek-AI ਦੇ ਆਪਣੇ ਪ੍ਰਕਾਸ਼ਿਤ ਅੰਕੜੇ ਹਨ — ਸਾਡੇ ਨਹੀਂ, ਅਤੇ ਸਾਡੇ ਕੁਆਂਟਾਈਜ਼ ਕੀਤੇ ਬਿਲਡ ਉੱਤੇ ਮਾਪੇ ਹੋਏ ਨਹੀਂ। ਅਸੀਂ ਇਹ ਇਸ ਲਈ ਦਿਖਾਉਂਦੇ ਹਾਂ ਕਿਉਂਕਿ ਇਹ ਬੁਨਿਆਦ ਚੁਣਨ ਦਾ ਈਮਾਨਦਾਰ ਕਾਰਨ ਹਨ, ਅਤੇ ਇਨ੍ਹਾਂ ਨੂੰ ਪਹਿਲੀ-ਧਿਰ ਵਜੋਂ ਦੱਸਦੇ ਹਾਂ ਤਾਂ ਜੋ ਤੁਸੀਂ ਇਨ੍ਹਾਂ ਨੂੰ ਉਸੇ ਹਿਸਾਬ ਨਾਲ ਤੋਲ ਸਕੋ।
ਦੋ ਗੱਲਾਂ ਟਿੱਪਣੀ ਮੰਗਦੀਆਂ ਹਨ। SWE-bench Verified ਉੱਤੇ 80.6% ਅਸਲੀ ਰਿਪੌਜ਼ਟਰੀ ਵਿੱਚ ਮਸਲਾ ਹੱਲ ਕਰਨਾ ਹੈ — ਓਪਰਾ ਕੋਡਬੇਸ ਪੜ੍ਹਨਾ, ਨੁਕਸ ਲੱਭਣਾ, ਅਤੇ ਅਜਿਹਾ ਪੈਚ ਬਣਾਉਣਾ ਜੋ ਪ੍ਰੋਜੈਕਟ ਦੇ ਆਪਣੇ ਟੈਸਟ ਪਾਸ ਕਰੇ। ਦਸ ਲੱਖ ਟੋਕਨ ਉੱਤੇ MRCR (83.5) ਪੂਰੀ ਲੰਬਾਈ ਉੱਤੇ ਬਹੁ-ਗੇੜ ਸਹਿ-ਹਵਾਲਾ ਖੋਜ ਹੈ, ਯਾਨੀ ਉਹ ਅੰਕ ਜੋ ਦੱਸਦਾ ਹੈ ਕਿ ਲੰਮੇ ਸੰਦਰਭ ਦਾ ਦਾਅਵਾ ਸਜਾਵਟੀ ਨਹੀਂ। DeepSeek ਇਸ ਮਾਡਲ ਲਈ 3206 ਦੀ Codeforces ਰੇਟਿੰਗ ਅਤੇ 1M ਸੰਦਰਭ ਉੱਤੇ CorpusQA ਵਿੱਚ 62.0 ਵੀ ਦੱਸਦਾ ਹੈ।
ਉੱਪਰਲੇ ਅੰਕੜੇ DeepSeek-V4-Pro ਹਵਾਲਾ ਰਿਲੀਜ਼ ਲਈ DeepSeek-AI ਵੱਲੋਂ ਦੱਸੇ ਗਏ ਹਨ। ਸਾਡਾ 3BIT-REAP ਬਿਲਡ ਉਨ੍ਹਾਂ ਵਜ਼ਨਾਂ ਦਾ ਸੰਕੁਚਿਤ ਰੂਪ ਹੈ ਅਤੇ ਇਨ੍ਹਾਂ ਕੰਮਾਂ ਉੱਤੇ ਸੁਤੰਤਰ ਤੌਰ ਉੱਤੇ ਬੈਂਚਮਾਰਕ ਨਹੀਂ ਕੀਤਾ ਗਿਆ; ਹਵਾਲੇ ਵਾਲੇ ਅੰਕਾਂ ਨੂੰ ਬੁਨਿਆਦ ਦੀ ਛੱਤ ਸਮਝੋ, ਇਸ ਐਂਡਪੁਆਇੰਟ ਦੀ ਮਾਪ ਨਹੀਂ।
07262K ਸੰਦਰਭ: ਅਸਲ ਵਿੱਚ ਕੀ ਸਮਾਉਂਦਾ ਹੈ
ਹਵਾਲਾ ਮਾਡਲ ਦਸ ਲੱਖ ਟੋਕਨਾਂ ਲਈ ਸਿਖਾਇਆ ਗਿਆ ਹੈ। ਅਸੀਂ 262,144 ਪਰੋਸਦੇ ਹਾਂ — ਉਹੀ ਵਿੰਡੋ ਜੋ ਗੇਟਵੇ ਦਾ ਹਰ ਮਾਡਲ ਸਾਂਝੀ ਕਰਦਾ ਹੈ, ਸੋ ਮਾਡਲ ਬਦਲਣਾ ਇੱਕ ਸਤਰ ਦਾ ਬਦਲਾਅ ਹੈ ਅਤੇ ਕਦੇ ਸੰਦਰਭ ਦੀ ਗਿਰਾਵਟ ਨਹੀਂ ਹੁੰਦੀ। ਅਮਲ ਵਿੱਚ 262K ਉਸ ਹੱਦ ਤੋਂ ਅੱਗੇ ਹੈ ਜਿੱਥੇ ਬਹੁਤੇ ਅਸਲੀ ਕੰਮਾਂ ਲਈ ਸੰਦਰਭ ਰੁਕਾਵਟ ਬਣਦਾ ਹੈ:
| ਕੰਮ | ਲਗਭਗ ਟੋਕਨ | 262K ਵਿੱਚ ਸਮਾਉਂਦਾ ਹੈ? |
|---|---|---|
| ਦਰਮਿਆਨੀ ਸੇਵਾ ਰਿਪੌਜ਼ਟਰੀ (~50 ਹਜ਼ਾਰ ਸਤਰਾਂ) | ~600K | ਨਹੀਂ — ਮੌਡਿਊਲ ਚੁਣੋ |
| ਇੱਕ ਸਬ-ਸਿਸਟਮ ਅਤੇ ਉਸਦੇ ਟੈਸਟ | ~60–120K | ਹਾਂ, ਆਰਾਮ ਨਾਲ |
| ਕਿਸੇ ਪ੍ਰੋਟੋਕੋਲ ਦਾ ਪੂਰਾ RFC ਸੈੱਟ | ~150K | ਹਾਂ |
| 700 ਸਫ਼ਿਆਂ ਦੀ ਤਕਨੀਕੀ ਕਿਤਾਬ | ~250K | ਹਾਂ, ਹੱਦ ਦੇ ਨੇੜੇ |
| ਲੰਮਾ ਏਜੰਟ ਗੇੜ, 40+ ਟੂਲ ਵਾਰੀਆਂ | ~80–200K | ਹਾਂ |
ਜਿਸ ਹੱਦ ਦਾ ਹਿਸਾਬ ਰੱਖਣਾ ਪੈਂਦਾ ਹੈ ਉਹ ਆਊਟਪੁੱਟ ਹੈ: ਪ੍ਰਤੀ ਜਵਾਬ ਵੱਧ ਤੋਂ ਵੱਧ 16,384 ਟੋਕਨ। ਇਹ ਇੱਕ ਲੰਮਾ ਦਸਤਾਵੇਜ਼ ਜਾਂ ਵੱਡਾ ਬਹੁ-ਫ਼ਾਈਲ ਪੈਚ ਤਾਂ ਹੈ, ਪਰ ਪੂਰਾ ਕੋਡਬੇਸ ਨਹੀਂ। ਵੱਡੇ ਜਨਰੇਸ਼ਨ ਦੇ ਕੰਮ ਇੱਕੋ ਵਿਸ਼ਾਲ ਜਵਾਬ ਮੰਗਣ ਦੀ ਥਾਂ ਪਿਛਲੇ ਨਤੀਜੇ ਨੂੰ ਦੁਬਾਰਾ ਸੰਦਰਭ ਵਿੱਚ ਪਾ ਕੇ ਬੇਨਤੀਆਂ ਦੀ ਲੜੀ ਬਣਾ ਕੇ ਕੀਤੇ ਜਾਂਦੇ ਹਨ — ਜਿਸਨੂੰ 262K ਵਿੰਡੋ ਸਸਤਾ ਬਣਾ ਦਿੰਦੀ ਹੈ।
08ਕੀਮਤ, ਅਤੇ ਕਤਾਰ ਵਿੱਚ V4-Pro ਦੀ ਥਾਂ
ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਟੋਕਨ $1.95 ਅੰਦਰ / $3.90 ਬਾਹਰ ਉੱਤੇ, V4-Pro ਮੋਹਰੀ ਤਰਕ ਦਰਜਾ ਹੈ — ਉਹ ਮਾਡਲ ਜਿਸ ਵੱਲ ਤੁਸੀਂ ਉਦੋਂ ਹੱਥ ਵਧਾਉਂਦੇ ਹੋ ਜਦੋਂ ਸਮੱਸਿਆ ਔਖੀ ਹੋਵੇ। ਜਦੋਂ ਉਹ ਸਿਰਫ਼ ਵੱਡੀ ਹੋਵੇ, ਤਾਂ ਉਸੇ 262K ਵਿੰਡੋ ਵਾਲੇ ਸਸਤੇ ਮਾਡਲ ਇਹੀ ਕੰਮ ਚੌਥੇ ਹਿੱਸੇ ਕੀਮਤ ਉੱਤੇ ਕਰ ਦੇਣਗੇ।
| ਬਿਨਾਂ ਸੈਂਸਰ ਮਾਡਲ | ਅੰਦਰ / 1M | ਬਾਹਰ / 1M | ਵਿਜ਼ਨ | ਕਿਸ ਲਈ ਵਧੀਆ |
|---|---|---|---|---|
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | ਨਹੀਂ | ਔਖਾ ਤਰਕ, ਕੋਡ, ਏਜੰਟ |
| DeepSeek-V4-Flash · W4A16 | $0.50 | $2.00 | ਨਹੀਂ | ਉਹੀ ਵੰਸ਼, ਵੱਡੀ ਮਾਤਰਾ |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | ਨਹੀਂ | ਹਰ ਕੰਮ ਦਾ ਭਰੋਸੇਯੋਗ ਘੋੜਾ |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | ਹਾਂ | ਸਿਖਰਲੇ ਦਰਜੇ ਦੇ ਬਹੁ-ਮਾਧਿਅਮ ਏਜੰਟ |
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | ਹਾਂ | ਸਭ ਤੋਂ ਸਸਤਾ ਵਿਜ਼ਨ |
ਜਿਹੜੀ ਤੁਲਨਾ ਲੋਕ ਸੱਚਮੁੱਚ ਕਰਨਗੇ, ਉਸ ਬਾਰੇ ਸਿੱਧੀ ਗੱਲ: DeepSeek ਦਾ ਆਪਣਾ API ਇਸ ਤੋਂ ਸਸਤਾ ਹੈ — ਪਹਿਲੀ-ਧਿਰ V4-Pro ਦੀ ਸੂਚੀ ਲਗਭਗ $0.435 ਅੰਦਰ / $0.87 ਬਾਹਰ ਹੈ, ਅਤੇ ਉਨ੍ਹਾਂ ਦੀ ਕੈਸ਼-ਹਿੱਟ ਇਨਪੁੱਟ ਕੀਮਤ ਹੋਰ ਵੀ ਘੱਟ ਹੈ। ਜੇ ਪ੍ਰਤੀ ਟੋਕਨ ਕੀਮਤ ਹੀ ਤੁਹਾਡਾ ਇੱਕੋ ਪੈਮਾਨਾ ਹੈ ਅਤੇ ਨਿਗਰਾਨੀ ਵਾਲਾ ਵਿਹਾਰ ਤੁਹਾਡੇ ਕੰਮ ਉੱਤੇ ਅਸਰ ਨਹੀਂ ਪਾਉਂਦਾ, ਤਾਂ ਪਹਿਲੀ-ਧਿਰ API ਵਰਤੋ; ਅਸੀਂ ਇਹ ਹੁਣੇ ਦੱਸ ਦੇਣਾ ਬਿਹਤਰ ਸਮਝਦੇ ਹਾਂ ਬਜਾਏ ਇਸਦੇ ਕਿ ਤੁਹਾਨੂੰ ਬਾਅਦ ਵਿੱਚ ਪਤਾ ਲੱਗੇ। ਵਾਧੂ ਕੀਮਤ ਵੱਖਰੇ ਗੁਣ ਖ਼ਰੀਦਦੀ ਹੈ: ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ ਅਤੇ ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰ ਨਹੀਂ, Shannon Lab LLC ਹੇਠ ਅਮਰੀਕੀ ਸੰਚਾਲਕ, ਪਿੰਨ ਕੀਤਾ ਮਿਤੀ ਵਾਲਾ ਚੈੱਕਪੁਆਇੰਟ (0813) ਤਾਂ ਜੋ ਉੱਪਰੋਂ ਹੋਇਆ ਚੁੱਪ-ਚਾਪ ਅੱਪਗ੍ਰੇਡ ਪ੍ਰੋਜੈਕਟ ਦੇ ਵਿਚਾਲੇ ਤੁਹਾਡੇ ਨਤੀਜੇ ਕਦੇ ਨਾ ਬਦਲੇ, ਇੱਕੋ ਮਾਡਲ ਲਈ ਤਿੰਨ API ਬੋਲੀਆਂ, ਅਤੇ ਕਤਾਰ ਦੇ ਸਾਰੇ ਬਾਰਾਂ ਮਾਡਲਾਂ ਵਿੱਚ ਉਹੀ 262K ਵਿੰਡੋ ਤੇ ਉਹੀ ਪੈਰਾਮੀਟਰ ਸਤ੍ਹਾ।
09ਇਸਨੂੰ ਸੱਦਣਾ: ਤਿੰਨ ਬੋਲੀਆਂ, ਇੱਕ ਮਾਡਲ
ਗੇਟਵੇ ਦਾ ਹਰ ਮਾਡਲ ਤਿੰਨੋ ਐਂਡਪੁਆਇੰਟਾਂ ਉੱਤੇ ਜਵਾਬ ਦਿੰਦਾ ਹੈ, ਹਰ ਇੱਕ ਉੱਤੇ ਸਟ੍ਰੀਮਿੰਗ ਸਮੇਤ। ਤੁਸੀਂ ਨਵਾਂ SDK ਨਹੀਂ ਅਪਣਾਉਂਦੇ — ਤੁਸੀਂ ਇੱਕ ਬੇਸ URL ਅਤੇ ਇੱਕ ਮਾਡਲ id ਬਦਲਦੇ ਹੋ।
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
"reasoning_effort": "high",
"stream": true,
"messages": [
{"role": "system", "content": "You are a systems programmer. Be direct."},
{"role": "user", "content": "Audit this parser for memory-safety bugs."}
]
}'
/v1/chat/completions— OpenAI ਬੋਲੀ; OpenAI SDK ਅਤੇ ਉਨ੍ਹਾਂ ਉੱਤੇ ਬਣੀ ਹਰ ਚੀਜ਼ ਨਾਲ ਚੱਲਦੀ ਹੈ।/v1/messages— Anthropic ਬੋਲੀ, ਉਨ੍ਹਾਂ ਕੋਡਬੇਸਾਂ ਲਈ ਜੋ ਪਹਿਲਾਂ ਹੀ ਉਸ ਸ਼ਕਲ ਲਈ ਲਿਖੇ ਗਏ ਹਨ।/v1/responses— Responses-ਸ਼ੈਲੀ ਵਾਲਾ ਇੰਟਰਫ਼ੇਸ।
ਇਸ ਮਾਡਲ ਉੱਤੇ ਸਮਰਥਿਤ: ਸਟ੍ਰੀਮਿੰਗ, ਮੂਲ ਟੂਲ ਕਾਲਿੰਗ, ਸਖ਼ਤ json_schema ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ, response_format, ਅਤੇ reasoning_effort। ਪੂਰਾ ਪੈਰਾਮੀਟਰ ਹਵਾਲਾ ਅਤੇ ਲਾਈਵ ਪਲੇਗਰਾਊਂਡ API ਦਸਤਾਵੇਜ਼ ਵਿੱਚ ਹਨ।
10ਈਮਾਨਦਾਰ ਹੱਦਾਂ
ਇਸ ਉੱਤੇ ਕੁਝ ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਚਾਰ ਗੱਲਾਂ ਜਾਣ ਲਓ:
- ਕੋਈ ਵਿਜ਼ਨ ਨਹੀਂ। ਸਿਰਫ਼ ਲਿਖਤ; ਇਹ ਕਿਸੇ ਵੀ ਐਂਡਪੁਆਇੰਟ ਉੱਤੇ ਚਿੱਤਰ ਇਨਪੁੱਟ ਨਹੀਂ ਲਵੇਗਾ। ਜੇ ਤੁਹਾਨੂੰ ਵੇਖਣ ਵਾਲਾ ਬਿਨਾਂ ਸੈਂਸਰ ਮਾਡਲ ਚਾਹੀਦਾ ਹੈ ਤਾਂ Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 ਜਾਂ inkling ਵਰਤੋ।
- 16,384 ਟੋਕਨ ਦੀ ਆਊਟਪੁੱਟ ਛੱਤ। ਵੱਧ ਮਿਹਨਤ ਉੱਤੇ ਤਰਕ ਵਾਲੇ ਟੋਕਨ ਵੀ ਇਸੇ ਵਿੱਚ ਗਿਣੇ ਜਾਂਦੇ ਹਨ, ਸੋ ਲੰਮੀ ਸੋਚ-ਵਿਚਾਰ ਜਵਾਬ ਲਈ ਘੱਟ ਥਾਂ ਛੱਡਦੀ ਹੈ। ਵੱਡੇ ਜਨਰੇਸ਼ਨ ਕੰਮਾਂ ਲਈ ਬੇਨਤੀਆਂ ਦੀ ਲੜੀ ਬਣਾਓ।
- 3-ਬਿੱਟ ਅਸਲੀ ਸੰਕੁਚਨ ਹੈ। ਹਵਾਲੇ ਵਾਲੇ ਅੰਕ ਬੁਨਿਆਦ ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਨ, ਇਸ ਬਿਲਡ ਦਾ ਨਹੀਂ। ਸਭ ਤੋਂ ਉੱਚੀ ਵਫ਼ਾਦਾਰੀ ਵਾਲੇ ਦਰਜੇ ਲਈ,
W8A16ਮਾਡਲਾਂ (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) ਵਿੱਚ ਸਭ ਤੋਂ ਘੱਟ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਹੈ। - ਬਿਨਾਂ ਸੈਂਸਰ ਦਾ ਮਤਲਬ ਬਿਨਾਂ ਨਤੀਜੇ ਨਹੀਂ। ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਾ ਹੋਣ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਸੀਂ ਕੀ ਪੁੱਛਦੇ ਹੋ ਅਤੇ ਜਵਾਬ ਦਾ ਕੀ ਕਰਦੇ ਹੋ, ਉਸਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਤੁਹਾਡੀ ਹੈ — ਸਾਡੀਆਂ ਸੇਵਾ ਸ਼ਰਤਾਂ ਅਤੇ ਜਿੱਥੇ ਤੁਸੀਂ ਕੰਮ ਕਰਦੇ ਹੋ ਉੱਥੋਂ ਦੇ ਕਾਨੂੰਨ ਹੇਠ।
ਇਸ ਸਫ਼ੇ ਉੱਤੇ ਹਰ ਢਾਂਚਾਗਤ ਦਾਅਵਾ ਅਤੇ ਬੈਂਚਮਾਰਕ ਅੰਕੜਾ ਕਿਸੇ ਜਨਤਕ ਮੂਲ ਸਰੋਤ ਤੋਂ ਆਇਆ ਹੈ। ਇਨ੍ਹਾਂ ਨੂੰ ਖ਼ੁਦ ਪੜ੍ਹੋ।
11ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਬਿਨਾਂ ਸੈਂਸਰ DeepSeek API ਕੀ ਹੈ?
ਇਹ DeepSeek-V4-Pro ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲਾ ਮਾਡਲ ਹੈ ਜੋ Shannon AI ਦੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਇਸ ਤਰ੍ਹਾਂ ਪਰੋਸਿਆ ਜਾਂਦਾ ਹੈ ਕਿ ਉਸਦੇ ਅੱਗੇ ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ ਅਤੇ ਜੋ ਉਹ ਵਾਪਸ ਦਿੰਦਾ ਹੈ ਉਸ ਉੱਤੇ ਕੋਈ ਫਿਲਟਰ ਨਹੀਂ ਲਾਇਆ ਜਾਂਦਾ। ਤੁਸੀਂ ਇਸਨੂੰ 262,144 ਟੋਕਨ ਦੀ ਸੰਦਰਭ ਵਿੰਡੋ ਨਾਲ /v1/chat/completions, /v1/messages ਜਾਂ /v1/responses ਉੱਤੇ ਸੱਦਦੇ ਹੋ, ਅਤੇ ਐਂਡਪੁਆਇੰਟ ਨਿਗਰਾਨੀ ਕਰਨ ਦੀ ਥਾਂ ਜਵਾਬ ਦਿੰਦਾ ਹੈ।
ਇਹ DeepSeek ਦੇ ਅਧਿਕਾਰਤ API ਤੋਂ ਕਿਵੇਂ ਵੱਖਰਾ ਹੈ?
ਖੁੱਲ੍ਹੇ ਵਜ਼ਨਾਂ ਦੀ ਵੰਸ਼ਾਵਲੀ ਉਹੀ, ਚਲਾਉਣ ਵਾਲਾ ਅਤੇ ਨੀਤੀ ਵੱਖਰੀ। DeepSeek ਦੀ ਆਪਣੀ ਸੇਵਾ ਪ੍ਰਤੀ ਟੋਕਨ ਸਸਤੀ ਹੈ ਅਤੇ ਆਪਣੀ ਨਿਗਰਾਨੀ ਚਲਾਉਂਦੀ ਹੈ; Promptfoo ਅਤੇ ਅਕਾਦਮਿਕ ਸਮੂਹਾਂ ਵੱਲੋਂ ਪ੍ਰਕਾਸ਼ਿਤ ਪੜਤਾਲਾਂ ਨੇ ਉੱਥੇ ਸਿਆਸੀ ਤੌਰ ਉੱਤੇ ਸੰਵੇਦਨਸ਼ੀਲ ਪ੍ਰੌਂਪਟਾਂ ਉੱਤੇ ਇਨਕਾਰ ਅਤੇ ਅਰਥ-ਪੱਧਰੀ ਦਬਾਅ ਦਰਜ ਕੀਤਾ ਹੈ। Shannon AI ਇਹ ਵਜ਼ਨ ਸੰਯੁਕਤ ਰਾਜ ਵਿੱਚ ਬਿਨਾਂ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਦੇ ਚਲਾਉਂਦਾ ਹੈ, ਤਿੰਨ API ਬੋਲੀਆਂ ਉੱਤੇ ਤਰਕ ਦੀ ਮਿਹਨਤ ਅਤੇ ਟੂਲ ਕਾਲਿੰਗ ਦਿੰਦਾ ਹੈ, ਅਤੇ ਮਿਤੀ ਵਾਲਾ ਚੈੱਕਪੁਆਇੰਟ ਪਿੰਨ ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਤੁਹਾਡੇ ਹੇਠੋਂ ਨਤੀਜੇ ਨਾ ਖਿਸਕਣ।
3BIT-REAP ਦਾ ਕੀ ਮਤਲਬ ਹੈ?
ਦੋ ਸੰਕੁਚਨ ਕਦਮ। REAP ਦਾ ਮਤਲਬ ਹੈ Router-weighted Expert Activation Pruning, Cerebras Research ਦਾ ਇੱਕ ਤਰੀਕਾ ਜੋ ਮਾਹਰਾਂ-ਦੇ-ਮਿਸ਼ਰਣ ਵਾਲੇ ਮਾਡਲ ਵਿੱਚੋਂ ਉਹ ਮਾਹਰ ਕੱਢ ਦਿੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਵੱਲ ਰਾਊਟਰ ਘੱਟ ਜਾਂ ਕਮਜ਼ੋਰ ਢੰਗ ਨਾਲ ਭੇਜਦਾ ਹੈ, ਅਤੇ ਹਰ ਮਾਹਰ ਨੂੰ ਉਸਦੇ ਰਾਊਟਰ ਗੇਟ ਮੁੱਲਾਂ ਤੇ ਐਕਟੀਵੇਸ਼ਨ ਨੌਰਮਾਂ ਨਾਲ ਅੰਕ ਦਿੰਦਾ ਹੈ। ਜੋ ਬਚਦਾ ਹੈ ਉਸਨੂੰ ਫਿਰ 3-ਬਿੱਟ ਵਜ਼ਨਾਂ ਵਿੱਚ ਕੁਆਂਟਾਈਜ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਦੋਵੇਂ ਮਿਲ ਕੇ 1.6 ਖਰਬ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲੀ ਬੁਨਿਆਦ ਨੂੰ ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਸਮਾ ਦਿੰਦੇ ਹਨ ਅਤੇ ਤੇਜ਼ ਰੱਖਦੇ ਹਨ।
ਸੰਦਰਭ ਵਿੰਡੋ ਅਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਆਊਟਪੁੱਟ ਕਿੰਨੀ ਵੱਡੀ ਹੈ?
262,144 ਟੋਕਨ ਸੰਦਰਭ ਅਤੇ ਪ੍ਰਤੀ ਬੇਨਤੀ 16,384 ਟੋਕਨ ਤੱਕ ਆਊਟਪੁੱਟ। ਇਹ ਅੰਦਰ ਜਾਣ ਵਾਲੀ ਮੋਟੇ ਤੌਰ ਉੱਤੇ 600 ਤੋਂ 800 ਸਫ਼ਿਆਂ ਦੀ ਲਿਖਤ ਹੈ, ਅਤੇ ਬਾਹਰ ਆਉਣ ਵਾਲਾ ਇੱਕ ਲੰਮਾ ਤਕਨੀਕੀ ਦਸਤਾਵੇਜ਼ ਜਾਂ ਵੱਡਾ ਬਹੁ-ਫ਼ਾਈਲ ਪੈਚ। ਲੰਮੇ ਕੰਮ ਆਊਟਪੁੱਟ ਦੀ ਹੱਦ ਵਧਾ ਕੇ ਨਹੀਂ, ਬੇਨਤੀਆਂ ਨੂੰ ਲੜੀ ਵਿੱਚ ਜੋੜ ਕੇ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।
ਕੀ DeepSeek V4 Pro ਟੂਲ ਕਾਲਿੰਗ ਅਤੇ JSON ਸਕੀਮਾ ਆਊਟਪੁੱਟ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ?
ਦੋਵਾਂ ਲਈ ਹਾਂ। ਮੂਲ ਟੂਲ ਕਾਲਿੰਗ, ਸਖ਼ਤ json_schema ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਅਤੇ response_format, ਸਭ ਸਮਰਥਿਤ ਹਨ, ਨਾਲੇ ਸਟ੍ਰੀਮਿੰਗ ਅਤੇ reasoning_effort ਪੈਰਾਮੀਟਰ ਵੀ। ਇਹ ਚਿੱਤਰ ਇਨਪੁੱਟ ਨਹੀਂ ਲੈਂਦਾ; ਜੇ ਤੁਹਾਨੂੰ ਬਿਨਾਂ ਸੈਂਸਰ ਮਾਡਲ ਉੱਤੇ ਵਿਜ਼ਨ ਚਾਹੀਦਾ ਹੈ ਤਾਂ ਇਸਦੀ ਥਾਂ Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 ਜਾਂ inkling ਵਰਤੋ।
ਬਿਨਾਂ ਸੈਂਸਰ DeepSeek API ਦੀ ਕੀਮਤ ਕੀ ਹੈ?
ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $1.95 ਅਤੇ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਆਊਟਪੁੱਟ ਟੋਕਨ $3.90। ਇਸੇ ਬਿਨਾਂ ਸੈਂਸਰ ਕਤਾਰ ਵਿੱਚ, DeepSeek-V4-Flash ਦੀ ਕੀਮਤ ਉਸੇ 262K ਸੰਦਰਭ ਲਈ $0.50 ਅੰਦਰ ਅਤੇ $2.00 ਬਾਹਰ ਹੈ, ਅਤੇ GLM-5.2 ਦੀ $0.73 ਅੰਦਰ ਤੇ $2.34 ਬਾਹਰ, ਸੋ V4-Pro ਉਹ ਦਰਜਾ ਹੈ ਜਿਸ ਵੱਲ ਤੁਸੀਂ ਉਦੋਂ ਹੱਥ ਵਧਾਉਂਦੇ ਹੋ ਜਦੋਂ ਸਮੱਸਿਆ ਵੱਡੀ ਨਹੀਂ ਸਗੋਂ ਔਖੀ ਹੋਵੇ।
DeepSeek V4 Pro ਨੂੰ ਬਿਨਾਂ ਸੈਂਸਰ ਸੱਦੋ
262K ਸੰਦਰਭ, ਤਰਕ ਦੀ ਮਿਹਨਤ, ਟੂਲ ਕਾਲਿੰਗ। ਇੱਕੋ ਕੁੰਜੀ ਉੱਤੇ OpenAI, Anthropic ਅਤੇ Responses ਬੋਲੀਆਂ।
API ਦਸਤਾਵੇਜ਼ ਪੜ੍ਹੋ ਸਾਰੇ ਮਾਡਲ ਕਾਰਡShannon Lab LLC · New Mexico, USA · ਮਾਡਲ ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਪਰੋਸੇ ਜਾਂਦੇ ਹਨ
ਸਰੋਤ: DeepSeek-AI — DeepSeek-V4-Pro ਮਾਡਲ ਕਾਰਡ · DeepSeek-V4 ਤਕਨੀਕੀ ਰਿਪੋਰਟ (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · DeepSeek-V3 ਤਕਨੀਕੀ ਰਿਪੋਰਟ · REAP the Experts (Cerebras Research) · Promptfoo ਸੈਂਸਰਸ਼ਿਪ ਪੜਤਾਲ · Discovering Forbidden Topics in Language Models। ਬੈਂਚਮਾਰਕ ਅੰਕੜੇ ਹਵਾਲਾ ਰਿਲੀਜ਼ ਲਈ DeepSeek-AI ਵੱਲੋਂ ਦੱਸੇ ਗਏ ਹਨ; ਸੰਕੁਚਿਤ ਬਿਲਡ ਦੀ ਸੁਤੰਤਰ ਤੀਜੀ-ਧਿਰ ਪੁਸ਼ਟੀ ਬਾਕੀ ਹੈ। ਕੀਮਤਾਂ 5 ਸਤੰਬਰ 2026 ਤੱਕ ਦੀਆਂ Shannon AI ਸੂਚੀ ਕੀਮਤਾਂ ਹਨ।