ਬਿਨਾਂ ਸੈਂਸਰ GLM API: ਪ੍ਰਤੀ ਟੋਕਨ ਸਭ ਤੋਂ ਵਧੀਆ ਮੁੱਲ
Z.ai ਦੀ ਏਜੰਟ ਵਾਲੀ GLM ਬੁਨਿਆਦ, ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਬਿਨਾਂ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਦੇ ਪਰੋਸੀ ਗਈ — 262K ਸੰਦਰਭ, ਟੂਲ ਕਾਲਿੰਗ, ਅਤੇ ਰਲੀ-ਮਿਲੀ ਕੀਮਤ ਜੋ ਇਸੇ ਵੰਸ਼ਾਵਲੀ ਦੀ ਪਹਿਲੀ-ਧਿਰ ਕੀਮਤ ਦੇ ਅੱਧ ਤੋਂ ਵੀ ਘੱਟ ਹੈ।
ਸੰਖੇਪ
GLM-5.2-3BIT-REAP Shannon AI ਗੇਟਵੇ ਉੱਤੇ ਉਹ ਮਾਡਲ ਹੈ ਜਿਸਦੀ ਅਸੀਂ ਮੂਲ ਰੂਪ ਵਿੱਚ ਸਿਫ਼ਾਰਸ਼ ਕਰਦੇ ਹਾਂ। ਇਹ GLM ਵੰਸ਼ਾਵਲੀ ਦੀ 744 ਅਰਬ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲੀ ਵਿਰਲੀ ਮਾਹਰਾਂ-ਦੇ-ਮਿਸ਼ਰਣ ਵਾਲੀ ਬੁਨਿਆਦ ਚਲਾਉਂਦਾ ਹੈ — GLM-4.5 ਤੋਂ ਹੀ ਏਜੰਟ ਵਾਲੀ ਟੂਲ ਵਰਤੋਂ ਲਈ ਖ਼ਾਸ ਤੌਰ ਉੱਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ — ਜਿਸਨੂੰ 3-ਬਿੱਟ ਵਜ਼ਨਾਂ ਅਤੇ REAP ਮਾਹਰ ਛਾਂਗਣ ਨਾਲ ਸੰਕੁਚਿਤ ਕੀਤਾ ਗਿਆ ਹੈ ਤਾਂ ਜੋ ਇਹ ਸਮਾ ਜਾਵੇ ਅਤੇ ਤੇਜ਼ ਰਹੇ। ਤੁਹਾਨੂੰ 262,144 ਟੋਕਨ ਸੰਦਰਭ, 16,384 ਟੋਕਨ ਆਊਟਪੁੱਟ, ਟੂਲ ਕਾਲਿੰਗ, ਵਿਵਸਥਿਤ ਕੀਤੀ ਜਾ ਸਕਣ ਵਾਲੀ reasoning_effort ਨਾਲ ਤਰਕ, ਅਤੇ JSON ਸਕੀਮਾ ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਮਿਲਦਾ ਹੈ, ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਟੋਕਨ $0.73 / $2.34 ਉੱਤੇ। ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ ਅਤੇ ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰ ਨਹੀਂ। ਸਿਰਫ਼ ਲਿਖਤ — ਕੋਈ ਵਿਜ਼ਨ ਨਹੀਂ।
“ਸਭ ਤੋਂ ਸਸਤਾ ਮਾਡਲ” ਵਾਲੀਆਂ ਬਹੁਤੀਆਂ ਤੁਲਨਾਵਾਂ ਬੇਈਮਾਨ ਹੁੰਦੀਆਂ ਹਨ, ਕਿਉਂਕਿ ਸਸਤਾ ਵਿਕਲਪ ਆਮ ਤੌਰ ਉੱਤੇ ਵੱਡੇ ਮਾਡਲ ਦੀ ਮਸ਼ਹੂਰੀ ਪਹਿਨਿਆ ਛੋਟਾ ਮਾਡਲ ਹੁੰਦਾ ਹੈ। ਇੱਥੇ ਅਜਿਹਾ ਨਹੀਂ ਹੋ ਰਿਹਾ। GLM-5.2 ਹੁਣ ਤੱਕ ਜਾਰੀ ਹੋਈਆਂ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲੀਆਂ ਬੁਨਿਆਦਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ, ਅਤੇ $0.73 ਅੰਦਰ / $2.34 ਬਾਹਰ ਉੱਤੇ ਇਹ ਸਾਡੀ ਸੂਚੀ ਦੇ ਫ਼ਰਸ਼ ਤੋਂ ਸਿਰਫ਼ ਇੱਕ ਪੌੜੀ ਉੱਤੇ ਬੈਠਦਾ ਹੈ, ਜਦਕਿ ਇਸ ਵਿੱਚ ਉਸ ਬੁਨਿਆਦ ਨਾਲੋਂ ਕਈ ਗੁਣਾ ਵੱਡੀ ਬੁਨਿਆਦ ਹੈ ਜੋ ਉਹ ਫ਼ਰਸ਼ ਆਮ ਤੌਰ ਉੱਤੇ ਖ਼ਰੀਦਦਾ ਹੈ। ਇਹੀ ਪਾੜਾ — ਵੱਡਾ ਮਾਡਲ, ਫ਼ਰਸ਼ ਦੇ ਨੇੜੇ ਕੀਮਤ — ਇਸ ਸਫ਼ੇ ਦੇ ਹੋਣ ਦਾ ਕਾਰਨ ਹੈ।
01GLM ਕਿੱਥੋਂ ਆਉਂਦਾ ਹੈ: ਸਿੰਘੂਆ, ਖਾਲੀ ਥਾਂ ਭਰਨਾ, ਅਤੇ ਏਜੰਟਾਂ ਵੱਲ ਤਿੱਖਾ ਮੋੜ
GLM ਕੋਈ ਨਵਾਂ ਲੇਬਲ ਲਾਇਆ Llama ਵਿਉਤਪੰਨ ਨਹੀਂ ਹੈ। ਇਹ ਉਨ੍ਹਾਂ ਗਿਣਵੇਂ ਮਾਡਲ ਪਰਿਵਾਰਾਂ ਵਿੱਚੋਂ ਹੈ ਜਿਨ੍ਹਾਂ ਦਾ ਆਪਣਾ ਪੂਰਵ-ਸਿਖਲਾਈ ਮਕਸਦ ਹੈ, ਜਿਸਨੂੰ ਉਸੇ ਖੋਜ ਸਮੂਹ ਨੇ ਪੰਜ ਸਾਲ ਤੱਕ ਲਗਾਤਾਰ ਸੁਧਾਰਿਆ। ਨਾਂ ਦਾ ਮਤਲਬ ਹੈ General Language Model, ਅਤੇ ਬੁਨਿਆਦੀ ਪਰਚੇ — GLM: General Language Model Pretraining with Autoregressive Blank Infilling, ACL 2022 — ਨੇ BERT ਦੇ ਮਾਸਕ ਕੀਤੇ ਭਾਸ਼ਾ ਮਾਡਲਿੰਗ ਅਤੇ GPT ਦੀ ਸਖ਼ਤ ਖੱਬੇ-ਤੋਂ-ਸੱਜੇ ਆਟੋਰਿਗ੍ਰੈਸ਼ਨ ਦੇ ਨਾਲ ਤੀਜਾ ਰਾਹ ਪੇਸ਼ ਕੀਤਾ। GLM ਲਗਾਤਾਰ ਟੁਕੜਿਆਂ ਨੂੰ ਖਾਲੀ ਕਰ ਦਿੰਦਾ ਹੈ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਰਲੇ ਹੋਏ ਕ੍ਰਮ ਵਿੱਚ ਆਟੋਰਿਗ੍ਰੈਸਿਵ ਢੰਗ ਨਾਲ ਮੁੜ ਪੈਦਾ ਕਰਦਾ ਹੈ, ਅਤੇ ਦੋ-ਪਾਸੀ ਸਥਿਤੀ ਏਨਕੋਡਿੰਗ ਟੋਕਨ ਦੀ ਵਿਗੜੇ ਦਸਤਾਵੇਜ਼ ਵਿਚਲੀ ਥਾਂ ਅਤੇ ਭਰੇ ਜਾ ਰਹੇ ਟੁਕੜੇ ਅੰਦਰਲੀ ਥਾਂ, ਦੋਵਾਂ ਦਾ ਹਿਸਾਬ ਰੱਖਦੀ ਹੈ: ਇੱਕੋ ਢਾਂਚਾ ਜੋ ਸਮਝ ਅਤੇ ਪੈਦਾਵਾਰ, ਦੋਵੇਂ ਬਰਾਬਰ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸੰਭਾਲਦਾ ਹੈ।
ਇਸਦੇ ਪਿੱਛੇ ਵਾਲਾ ਸਮੂਹ ਸਿੰਘੂਆ ਯੂਨੀਵਰਸਿਟੀ ਦਾ Knowledge Engineering Group ਸੀ, ਜਿਸ ਵਿੱਚੋਂ ਉਹ ਕੰਪਨੀ ਨਿਕਲੀ ਜਿਸਨੂੰ ਹੁਣ Z.ai ਕਿਹਾ ਜਾਂਦਾ ਹੈ (ਪਹਿਲਾਂ Zhipu AI)। ਇਸਦੀ ਪਹਿਲੀ ਵੱਡੀ ਪੇਸ਼ਕਸ਼ ਅਕਤੂਬਰ 2022 ਵਿੱਚ GLM-130B ਸੀ — 130 ਅਰਬ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲਾ ਦੋਭਾਸ਼ੀ ਅੰਗਰੇਜ਼ੀ/ਚੀਨੀ ਸੰਘਣਾ ਮਾਡਲ, ਜਿਸਦੇ ਵਜ਼ਨ ਅਤੇ ਕੋਡ ਪ੍ਰਕਾਸ਼ਨ ਵੇਲੇ ਹੀ ਜਨਤਕ ਕਰ ਦਿੱਤੇ ਗਏ। ਉਦੋਂ ਤੋਂ ਖੁੱਲ੍ਹੀ ਰਿਲੀਜ਼ ਹੀ ਘਰ ਦਾ ਢੰਗ ਰਿਹਾ ਹੈ।
MoE ਦਾ ਦੌਰ, ਅਤੇ ਏਜੰਟਾਂ ਵੱਲ ਮੋੜ
ਕਿਸੇ ਇੱਕ ਰਿਲੀਜ਼ ਨਾਲੋਂ ਇਸ ਵਿੱਚੋਂ ਲੰਘਦੀ ਲਕੀਰ ਵੱਧ ਮਾਅਨੇ ਰੱਖਦੀ ਹੈ। GLM-4.5 ਤੋਂ ਲੈ ਕੇ ਹਰ ਸੰਸਕਰਨ ਇੱਕੋ ਚੀਜ਼ ਲਈ ਸੁਧਾਰਿਆ ਗਿਆ ਹੈ: ਦਰਜਨਾਂ ਟੂਲ ਕਾਲਾਂ ਦੇ ਦੌਰਾਨ ਜੁੜੇ ਰਹਿਣਾ। ਇਹ ਇੱਕ-ਵਾਰੀ ਬੈਂਚਮਾਰਕ ਅੰਕ ਵਧਾਉਣ ਨਾਲੋਂ ਵੱਖਰਾ ਮਕਸਦ ਹੈ, ਅਤੇ ਇਹ ਘੱਟ ਵਿਗੜੀਆਂ ਟੂਲ ਦਲੀਲਾਂ, ਲੰਮੀ ਯੋਜਨਾ ਵਿੱਚ ਘੱਟ ਭਟਕਣ, ਅਤੇ “ਵਾਰੀ 14 ਉੱਤੇ ਪੂਰੇ ਭਰੋਸੇ ਨਾਲ ਕੰਮ ਮੁੜ ਸ਼ੁਰੂ ਕਰ ਦੇਣ” ਵਾਲੇ ਉਸ ਵਿਹਾਰ ਦੇ ਘਟਣ ਵਿੱਚ ਦਿਸਦਾ ਹੈ ਜੋ ਏਜੰਟ ਢਾਂਚਿਆਂ ਨੂੰ ਮਹਿੰਗਾ ਬਣਾਉਂਦਾ ਹੈ।
02GLM-5.2 ਕੀ ਹੈ, ਅਤੇ ਇਸਨੂੰ ਕਿਸ ਉੱਤੇ ਮਾਪਿਆ ਗਿਆ
Z.ai GLM-5 ਰਿਪੌਜ਼ਟਰੀ ਵਿੱਚ GLM-5.2 ਲਈ ਬੈਂਚਮਾਰਕ ਅੰਕੜੇ ਛਾਪਦਾ ਹੈ। ਦੋ ਅੰਕੜੇ ਮਾਮੂਲੀ ਯਾਦਦਾਸ਼ਤ ਦੀ ਥਾਂ ਅਸਲ ਏਜੰਟ ਕੰਮ ਨਾਲ ਮੇਲ ਖਾਂਦੇ ਹਨ:
Terminal-Bench 2.1 — ਲੰਮੇ-ਦਾਇਰੇ ਵਾਲੇ ਕਮਾਂਡ-ਲਾਈਨ ਏਜੰਟ ਕੰਮ। Z.ai ਵੱਲੋਂ ਦੱਸੇ ਗਏ।
SWE-bench Pro — ਅਸਲ ਰਿਪੌਜ਼ਟਰੀ ਦੇ ਮਸਲੇ ਹੱਲ ਕਰਨਾ। Z.ai ਵੱਲੋਂ ਦੱਸੇ ਗਏ; ਇਸੇ ਪਰਖ ਉੱਤੇ GLM-5.1 ਨੇ 58.4 ਅੰਕ ਲਏ ਸਨ।
ਇਹ ਲੈਬ ਦੇ ਅੰਕੜੇ ਹਨ, ਸਾਡੇ ਨਹੀਂ, ਅਤੇ ਇਹ ਬਿਨਾਂ ਸੰਕੁਚਿਤ ਬੁਨਿਆਦ ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਨ। ਇਹ ਦੱਸਦੇ ਹਨ ਕਿ ਤੁਸੀਂ ਕਿਸ ਦਰਜੇ ਦੇ ਮਾਡਲ ਨਾਲ ਵਾਹ ਪਾ ਰਹੇ ਹੋ, ਕੋਈ ਵਾਰੰਟੀ ਨਹੀਂ ਦਿੰਦੇ।
ਇੱਕ ਅੰਕੜਾ ਕਿਸੇ ਵੀ ਬੈਂਚਮਾਰਕ ਨਾਲੋਂ ਵੱਧ ਕੀਮਤੀ ਹੈ, ਕਿਉਂਕਿ ਇਹ ਉਸ ਪਰਖਣ ਵਾਲੇ ਤੋਂ ਆਉਂਦਾ ਹੈ ਜਿਸਨੂੰ ਮਾਡਲ ਦੀ ਖ਼ੁਸ਼ਾਮਦ ਕਰਨ ਦਾ ਕੋਈ ਲਾਲਚ ਨਹੀਂ। ਜੁਲਾਈ 2026 ਵਿੱਚ ਅਮਰੀਕਾ ਦੇ National Institute of Standards and Technology ਦੇ Center for AI Standards and Innovation ਨੇ GLM-5.2 ਦੀ ਪਰਖ ਕੀਤੀ ਅਤੇ ਨਤੀਜਾ ਕੱਢਿਆ ਕਿ ਜਾਰੀ ਹੋਣ ਵੇਲੇ ਇਹ ਸ਼ਾਇਦ ਉਪਲਬਧ ਸਭ ਤੋਂ ਸਮਰੱਥ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲਾ AI ਮਾਡਲ ਸੀ, ਜਿਸਦੀ ਸਮੁੱਚੀ ਸਮਰੱਥਾ GPT-5.2 ਦੇ ਬਰਾਬਰ ਅਤੇ ਸਾਈਬਰ ਸਮਰੱਥਾ Claude Opus 4.6 ਦੇ ਬਰਾਬਰ ਸੀ। ਉਸੇ ਪਰਖ ਨੇ ਇਹ ਵੀ ਵੇਖਿਆ ਕਿ GLM-5.2 ਅਮਰੀਕੀ ਹਵਾਲਾ ਮਾਡਲਾਂ ਨਾਲੋਂ ਘੱਟ ਸੰਵੇਦਨਸ਼ੀਲ ਬੇਨਤੀਆਂ ਰੋਕਦਾ ਹੈ, ਅਤੇ ਖੁੱਲ੍ਹੇ ਵਜ਼ਨਾਂ ਵਿੱਚ ਪਾਈਆਂ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਵਜ਼ਨ ਖ਼ੁਦ ਹੋਸਟ ਕਰ ਲੈਣ ਮਗਰੋਂ ਪਾਸੇ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਭਾਗ 05 ਇਸ ਗੱਲ ਉੱਤੇ ਵਾਪਸ ਆਉਂਦਾ ਹੈ।
03“3BIT-REAP” ਦਾ ਕੀ ਮਤਲਬ ਹੈ, ਅਤੇ ਇਸਦੀ ਕੀਮਤ ਕੀ ਹੈ
REAP: ਮਾਹਰਾਂ ਨੂੰ ਰਲਾਉਣ ਦੀ ਥਾਂ ਛਾਂਗਣਾ
744B ਪੈਰਾਮੀਟਰਾਂ ਵਾਲੇ MoE ਮਾਡਲ ਦੀ ਹਰ ਪਰਤ ਵਿੱਚ 256 ਮਾਹਰ ਹੁੰਦੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕਿਸੇ ਵੀ ਟੋਕਨ ਉੱਤੇ 8 ਚੱਲਦੇ ਹਨ। ਰਾਊਟਰ ਕੰਮ ਬਰਾਬਰ ਨਹੀਂ ਵੰਡਦਾ — ਕੁਝ ਮਾਹਰ ਲਗਾਤਾਰ ਵਰਤੇ ਜਾਂਦੇ ਹਨ, ਅਤੇ ਇੱਕ ਲੰਮੀ ਪੂਛ ਕਦੇ-ਕਦਾਈਂ ਹੀ ਵਰਤੀ ਜਾਂਦੀ ਹੈ ਅਤੇ ਵਰਤੇ ਜਾਣ ਉੱਤੇ ਵੀ ਥੋੜ੍ਹਾ ਹੀ ਦਿੰਦੀ ਹੈ। REAP (Router-weighted Expert Activation Pruning), Cerebras Research ਵੱਲੋਂ ਅਤੇ ICLR 2026 ਵਿੱਚ ਪ੍ਰਵਾਨਿਆ, ਇਸੇ ਗੱਲ ਦਾ ਲਾਹਾ ਲੈਂਦਾ ਹੈ: ਇਹ ਹਰ ਮਾਹਰ ਨੂੰ ਇੱਕ ਅਹਿਮੀਅਤ ਦੇ ਮਾਪਦੰਡ ਨਾਲ ਅੰਕ ਦਿੰਦਾ ਹੈ ਜੋ ਰਾਊਟਰ ਉਸਨੂੰ ਕਿੰਨੀ ਜ਼ੋਰ ਨਾਲ ਅਤੇ ਕਿੰਨੀ ਵਾਰ ਗੇਟ ਕਰਦਾ ਹੈ ਅਤੇ ਉਸਦੇ ਆਊਟਪੁੱਟ ਯੋਗਦਾਨ ਦੀ ਮਾਤਰਾ, ਦੋਵਾਂ ਨੂੰ ਜੋੜਦਾ ਹੈ, ਫਿਰ ਘੱਟ ਅੰਕ ਵਾਲਿਆਂ ਨੂੰ ਪੱਕੇ ਤੌਰ ਉੱਤੇ ਕੱਢ ਦਿੰਦਾ ਹੈ।
ਦਿਲਚਸਪ ਗੱਲ ਉਹ ਤੁਲਨਾ ਹੈ ਜੋ REAP ਜਿੱਤਦਾ ਹੈ। ਮਾਹਰ ਨੂੰ ਕੱਢਣ ਦਾ ਸਪੱਸ਼ਟ ਬਦਲ ਹੈ ਉਸਨੂੰ ਕਿਸੇ ਬਚੇ ਹੋਏ ਮਾਹਰ ਵਿੱਚ ਰਲਾ ਦੇਣਾ, ਜੋ ਸੁਣਨ ਵਿੱਚ ਵੱਧ ਸੁਰੱਖਿਅਤ ਲੱਗਦਾ ਹੈ। 20B ਤੋਂ 1T ਪੈਰਾਮੀਟਰਾਂ ਤੱਕ ਦੇ MoE ਮਾਡਲਾਂ ਉੱਤੇ ਪਰਚੇ ਦੀ ਖੋਜ ਇਹ ਹੈ ਕਿ ਰਲਾਉਣਾ ਪੈਦਾਵਾਰੀ ਕੰਮ ਲਈ ਅਸਲ ਵਿੱਚ ਮਾੜਾ ਹੈ, ਅਤੇ ਛਾਂਗਣਾ ਹੈਰਾਨੀਜਨਕ ਢੰਗ ਨਾਲ ਟਿਕਦਾ ਹੈ: ਅੱਧੇ ਮਾਹਰ ਹਟਾਉਣ ਮਗਰੋਂ ਵੀ ਕੋਡ ਪੈਦਾਵਾਰ ਅਤੇ ਟੂਲ ਕਾਲਿੰਗ ਦੇ ਬੈਂਚਮਾਰਕਾਂ ਉੱਤੇ ਲਗਭਗ ਬਿਨਾਂ ਨੁਕਸਾਨ, ਉਨ੍ਹਾਂ ਬੁਨਿਆਦਾਂ ਉੱਤੇ ਵੀ ਜਿਨ੍ਹਾਂ ਵਿੱਚ Qwen3-Coder-480B ਅਤੇ Kimi-K2 ਸ਼ਾਮਲ ਹਨ। ਕੋਡ ਅਤੇ ਟੂਲ ਕਾਲਿੰਗ ਦਾ ਸਹੀ-ਸਲਾਮਤ ਬਚਣਾ ਬਿਲਕੁਲ ਉਹੀ ਹੈ ਜੋ ਤੁਸੀਂ ਉਸ ਮਾਡਲ ਉੱਤੇ ਬਚਿਆ ਵੇਖਣਾ ਚਾਹੁੰਦੇ ਹੋ ਜਿਸਦੇ ਹੋਣ ਦਾ ਕਾਰਨ ਹੀ ਏਜੰਟ ਇੰਜੀਨੀਅਰਿੰਗ ਹੈ।
3-ਬਿੱਟ ਵਜ਼ਨ, ਅਤੇ ਈਮਾਨਦਾਰ ਸੌਦਾ
ਛਾਂਗਣ ਤੋਂ ਇਲਾਵਾ, ਬਚੇ ਹੋਏ ਵਜ਼ਨ 3 ਬਿੱਟਾਂ ਉੱਤੇ ਰੱਖੇ ਜਾਂਦੇ ਹਨ — ਸਾਡੀ ਸੂਚੀ ਵਿੱਚ ਹੋਰ ਥਾਈਂ ਵਰਤੇ W4A16-AUTOROUND-REAP ਅਤੇ W8A16 ਦਰਜਿਆਂ ਨਾਲੋਂ ਵੱਧ ਸਖ਼ਤ, ਅਤੇ ਸਿਰਫ਼ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਬੁਨਿਆਦਾਂ ਲਈ ਰਾਖਵਾਂ, ਜਿੱਥੇ ਪੌਣੇ ਖਰਬ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲੇ ਮਾਡਲ ਨੂੰ ਸੇਵਾ ਵਾਲੇ ਨੋਡ ਉੱਤੇ ਲਿਆ ਕੇ ਟੋਕਨ ਵਰਤੋਂਯੋਗ ਰਫ਼ਤਾਰ ਉੱਤੇ ਵਹਾਉਂਦੇ ਰੱਖਣ ਦਾ ਹੋਰ ਕੋਈ ਰਾਹ ਨਹੀਂ।
ਸੰਕੁਚਨ ਮੁਫ਼ਤ ਨਹੀਂ ਹੁੰਦਾ। ਸਹੀ ਸੋਚ ਇਹ ਹੈ: ਛਾਂਗਣਾ ਅਤੇ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਪਹਿਲਾਂ ਲੰਮੀ ਪੂਛ ਨੂੰ ਖ਼ਰਾਬ ਕਰਦੇ ਹਨ। ਸੰਘਣੇ, ਅਕਸਰ ਵਰਤੇ ਜਾਂਦੇ ਵਿਹਾਰ — ਹਦਾਇਤਾਂ ਦੀ ਪਾਲਣਾ, ਕੋਡ ਦੀ ਬਣਤਰ, ਟੂਲ-ਕਾਲ ਦੀ ਸ਼ਕਲ, ਬਹੁ-ਪੜਾਵੀ ਯੋਜਨਾਬੰਦੀ — ਚੰਗੀ ਤਰ੍ਹਾਂ ਬਚ ਜਾਂਦੇ ਹਨ, ਅਤੇ REAP ਦੇ ਨਤੀਜੇ ਬਿਲਕੁਲ ਇਹੀ ਦਿਖਾਉਂਦੇ ਹਨ। ਅਣਜਾਣ ਤੱਥਾਂ ਦੀ ਯਾਦ, ਵਿਰਲੀਆਂ ਭਾਸ਼ਾਵਾਂ ਅਤੇ ਗੁੱਠੇ ਦੇ ਖੇਤਰਾਂ ਦੀ ਜਾਣਕਾਰੀ — ਇੱਥੇ ਤੁਹਾਨੂੰ ਬਿਨਾਂ ਸੰਕੁਚਿਤ GLM-5.2 ਦੇ ਮੁਕਾਬਲੇ ਫ਼ਰਕ ਦੀ ਆਸ ਰੱਖਣੀ ਚਾਹੀਦੀ ਹੈ। ਜੇ ਤੁਹਾਡਾ ਕੰਮ “ਕਿਸੇ ਅਸਾਧਾਰਨ ਤੱਥ ਨੂੰ ਪੱਕਾ ਜਾਣਨਾ” ਹੈ, ਤਾਂ ਵੱਧ ਵਫ਼ਾਦਾਰੀ ਵਾਲੇ ਦਰਜੇ ਦੀ ਕੀਮਤ ਦਿਓ। ਜੇ ਇਹ “ਚਾਲੀ ਟੂਲ ਕਾਲਾਂ ਵਿੱਚ ਬਿਨਾਂ ਪਟੜੀ ਤੋਂ ਲਹੇ ਯੋਜਨਾ ਚਲਾਉਣਾ” ਹੈ, ਤਾਂ ਇਹੀ ਉਹ ਦਰਜਾ ਹੈ ਜਿਸ ਲਈ ਇਹ ਤਰੀਕਾ ਬਣਾਇਆ ਗਿਆ ਸੀ।
04ਮੁੱਲ ਦਾ ਹਿਸਾਬ: ਸਸਤਾ ਬਿਨਾਂ ਸੈਂਸਰ LLM API ਚਲਾਉਣ ਦਾ ਅਸਲ ਖ਼ਰਚਾ
GLM-5.2 ਲਈ Z.ai ਦੀ ਆਪਣੀ ਛਾਪੀ ਹੋਈ API ਸੂਚੀ ਕੀਮਤ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $1.40 ਅਤੇ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਆਊਟਪੁੱਟ $4.40 ਹੈ। ਉਸੇ ਬੁਨਿਆਦ ਉੱਤੇ ਸਾਡੀ ਕੀਮਤ $0.73 / $2.34 ਹੈ — ਮੋਟੇ ਤੌਰ ਉੱਤੇ ਇਨਪੁੱਟ ਉੱਤੇ 48% ਅਤੇ ਆਊਟਪੁੱਟ ਉੱਤੇ 47% ਘੱਟ। ਇਹ ਛੋਟ ਸੰਕੁਚਨ ਖ਼ਰੀਦ ਕੇ ਦਿੰਦਾ ਹੈ, ਅਤੇ ਇਸਦੇ ਨਾਲ ਇੱਕ ਦੂਜੀ ਚੀਜ਼ ਆਉਂਦੀ ਹੈ ਜੋ ਪਹਿਲੀ-ਧਿਰ ਤੋਂ ਕਿਸੇ ਵੀ ਕੀਮਤ ਉੱਤੇ ਨਹੀਂ ਖ਼ਰੀਦੀ ਜਾ ਸਕਦੀ: ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ।
ਸਾਡੀ ਆਪਣੀ ਸੂਚੀ ਦੇ ਅੰਦਰ, ਰਲੀ-ਮਿਲੀ ਲਾਗਤ ਹੀ ਉਹ ਅੰਕੜਾ ਹੈ ਜੋ ਮਾਅਨੇ ਰੱਖਦਾ ਹੈ। ਇੱਥੇ ਇਹ 3:1 ਦੇ ਇਨਪੁੱਟ-ਤੋਂ-ਆਊਟਪੁੱਟ ਅਨੁਪਾਤ ਉੱਤੇ ਹੈ, ਜੋ ਅਮਲ ਵਿੱਚ ਟੂਲ ਕਾਲ ਕਰਨ ਵਾਲੇ ਏਜੰਟ ਵਰਗਾ ਹੀ ਹੁੰਦਾ ਹੈ — ਬਹੁਤ ਸਾਰਾ ਸੰਦਰਭ ਅਤੇ ਟੂਲ ਦੇ ਨਤੀਜੇ ਅੰਦਰ ਜਾਂਦੇ ਹਨ, ਮੁਕਾਬਲਤਨ ਥੋੜ੍ਹੇ ਟੋਕਨ ਬਾਹਰ ਆਉਂਦੇ ਹਨ।
| ਮਾਡਲ | ਅੰਦਰ / 1M | ਬਾਹਰ / 1M | ਰਲੀ-ਮਿਲੀ 3:1 | ਵਿਜ਼ਨ |
|---|---|---|---|---|
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | $1.13 | ਨਹੀਂ |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | $1.39 | ਨਹੀਂ |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | $1.50 | ਹਾਂ |
| DeepSeek-V4-Pro-0813 · 3BIT-REAP | $1.95 | $3.90 | $2.44 | ਨਹੀਂ |
| inkling · W4A16-AUTOROUND-REAP | $1.42 | $6.07 | $2.58 | ਹਾਂ |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | $7.65 | ਹਾਂ |
ਛੇ ਮਾਡਲ $0.50 / $2.00 ਵਾਲੇ ਫ਼ਰਸ਼ ਉੱਤੇ ਬੈਠੇ ਹਨ — MiniMax-M3, DeepSeek-V4-Flash, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro ਅਤੇ Hy3 — ਯਾਨੀ $0.875 ਦੀ ਰਲੀ-ਮਿਲੀ ਦਰ। GLM-5.2 ਉਸ ਫ਼ਰਸ਼ ਤੋਂ 29% ਉੱਤੇ ਹੈ ਅਤੇ ਤੁਹਾਨੂੰ 744B ਦਰਜੇ ਦੀ ਬੁਨਿਆਦ ਦਿੰਦਾ ਹੈ ਜਿਸਦੇ ਪਿੱਛੇ ਏਜੰਟ ਵਿਹਾਰ ਵਿੱਚ ਲਗਾਤਾਰ ਨਿਵੇਸ਼ ਹੈ। ਇਸ ਤੋਂ ਉੱਤੇ ਕੀਮਤ ਵਾਲੀ ਹਰ ਚੀਜ਼ ਰਲੀ-ਮਿਲੀ ਗਿਣਤੀ ਵਿੱਚ ਘੱਟੋ-ਘੱਟ 23% ਮਹਿੰਗੀ ਹੈ, ਅਤੇ Kimi-K3 6.8× ਮਹਿੰਗਾ ਹੈ। ਇੱਕੋ ਕਤਾਰ ਵਿੱਚ ਮੁੱਲ ਦੀ ਦਲੀਲ ਇਹੀ ਹੈ: ਸੂਚੀ ਵਿੱਚ ਸਭ ਤੋਂ ਸਸਤੀ ਥਾਂ ਜਿੱਥੋਂ ਸਿਖਰਲੇ ਦਰਜੇ ਦੀ ਏਜੰਟ ਬੁਨਿਆਦ ਖ਼ਰੀਦੀ ਜਾ ਸਕਦੀ ਹੈ।
ਕੰਮ ਵਿੱਚ ਬਦਲ ਕੇ
- ਇੱਕ ਪੂਰੀ ਸੰਦਰਭ ਭਰਾਈ — 262,144 ਇਨਪੁੱਟ ਟੋਕਨ: $0.19। ਪੂਰੀ ਵੱਡੀ ਰਿਪੌਜ਼ਟਰੀ ਵੀਹ ਸੈਂਟ ਤੋਂ ਘੱਟ ਵਿੱਚ ਵਿੰਡੋ ਅੰਦਰ ਪੜ੍ਹ ਲਈ ਗਈ।
- ਇੱਕ ਵੱਧ ਤੋਂ ਵੱਧ ਲੰਬਾਈ ਵਾਲਾ ਜਵਾਬ — 16,384 ਆਊਟਪੁੱਟ ਟੋਕਨ: $0.038।
- ਇੱਕ ਏਜੰਟ ਵਾਰੀ — 20K ਅੰਦਰ, 2K ਬਾਹਰ: $0.019। ਇਹੀ ਵਾਰੀ Kimi-K3 ਉੱਤੇ $0.115 ਅਤੇ DeepSeek-V4-Pro ਉੱਤੇ $0.047 ਪੈਂਦੀ ਹੈ।
- ਸੌ ਏਜੰਟ ਵਾਰੀਆਂ: $1.93, ਜਦਕਿ ਸੂਚੀ ਦੇ ਸਭ ਤੋਂ ਮਹਿੰਗੇ ਮਾਡਲ ਉੱਤੇ $11.48।
ਏਜੰਟ ਵਾਲੇ ਕੰਮ ਇਨਪੁੱਟ-ਭਾਰੀ ਹੁੰਦੇ ਹਨ, ਅਤੇ GLM ਦਾ ਲਾਭ ਬਿਲਕੁਲ ਉੱਥੇ ਹੀ ਸਭ ਤੋਂ ਵੱਡਾ ਹੈ: ਇਸਦੀ ਇਨਪੁੱਟ ਕੀਮਤ Kimi-K3 ਨਾਲੋਂ 5.2× ਅਤੇ DeepSeek-V4-Pro ਨਾਲੋਂ 2.7× ਘੱਟ ਹੈ। ਜੇ ਤੁਹਾਡਾ ਏਜੰਟ ਹਰ ਵਾਰੀ ਵਧਦੀ ਹੋਈ ਗੱਲਬਾਤ ਮੁੜ ਭੇਜਦਾ ਹੈ — ਅਤੇ ਲਗਭਗ ਹਰ ਏਜੰਟ ਭੇਜਦਾ ਹੈ — ਤਾਂ ਇਹੀ ਗੁਣਾਂਕ ਤੁਹਾਡੇ ਬਿੱਲ ਉੱਤੇ ਆ ਪੈਂਦਾ ਹੈ।
05ਇਸ ਐਂਡਪੁਆਇੰਟ ਉੱਤੇ “ਬਿਨਾਂ ਸੈਂਸਰ” ਦਾ ਕੀ ਮਤਲਬ ਹੈ
ਠੀਕ ਦੋ ਗੱਲਾਂ: ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ — ਕੋਈ ਵਰਗੀਕਾਰ ਇਹ ਫ਼ੈਸਲਾ ਨਹੀਂ ਕਰਦਾ ਕਿ ਮਾਡਲ ਨੂੰ ਕਿਹੜੀਆਂ ਬੇਨਤੀਆਂ ਵੇਖਣ ਦੀ ਇਜਾਜ਼ਤ ਹੈ, ਅਤੇ ਕੋਈ ਨੀਤੀ ਮਾਡਲ ਤੁਹਾਡੇ ਪ੍ਰੌਂਪਟ ਨੂੰ ਪਹੁੰਚਣ ਤੋਂ ਪਹਿਲਾਂ ਦੁਬਾਰਾ ਨਹੀਂ ਲਿਖਦਾ — ਅਤੇ ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਨਹੀਂ, ਯਾਨੀ ਜੋ ਟੋਕਨ ਮਾਡਲ ਪੈਦਾ ਕਰਦਾ ਹੈ ਉਹੀ ਟੋਕਨ ਤੁਹਾਨੂੰ ਮਿਲਦੇ ਹਨ, ਬਿਨਾਂ ਕੱਟੇ ਅਤੇ ਬਿਨਾਂ ਬਦਲੇ।
ਇਹ ਉਸ ਵਪਾਰਕ API ਨਾਲੋਂ ਵੱਖਰੀ ਪੇਸ਼ਕਸ਼ ਹੈ ਜੋ “ਢਿੱਲਾ” ਜਾਂ “ਡਿਵੈਲਪਰ” ਢੰਗ ਦੀ ਮਸ਼ਹੂਰੀ ਕਰਦਾ ਹੈ। ਉਹ ਫਿਰ ਵੀ ਟ੍ਰੈਫ਼ਿਕ ਨੂੰ ਵਿਕਰੇਤਾ ਦੀ ਨੀਤੀ ਵਾਲੀ ਤਹਿ ਵਿੱਚੋਂ ਲੰਘਾਉਂਦੇ ਹਨ; ਬਦਲਦੀ ਸਿਰਫ਼ ਹੱਦ ਹੈ, ਦਰਵਾਜ਼ੇ ਦੀ ਹੋਂਦ ਨਹੀਂ। ਇੱਥੇ ਵਿਵਸਥਿਤ ਕਰਨ ਲਈ ਕੋਈ ਦਰਵਾਜ਼ਾ ਹੀ ਨਹੀਂ — ਮਾਡਲ ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਚੱਲਦਾ ਹੈ, ਅਤੇ ਇਸਦਾ ਵਿਹਾਰ ਬੁਨਿਆਦ ਦਾ ਵਿਹਾਰ ਹੈ। ਭਾਗ 02 ਵਾਲੀ NIST CAISI ਦੀ ਲੱਭਤ ਨੂੰ ਚੇਤਾਵਨੀ ਦੀ ਥਾਂ ਤਕਨੀਕੀ ਬਿਆਨ ਵਜੋਂ ਪੜ੍ਹੋ ਤਾਂ ਉਹ ਉਤਪਾਦ ਸਮਝਾ ਦਿੰਦੀ ਹੈ: ਜਿਸ ਮਾਡਲ ਦੀ ਅਲਾਈਨਮੈਂਟ ਉਸਦੇ ਵਜ਼ਨਾਂ ਵਿੱਚ ਵੱਸਦੀ ਹੈ, ਉਹ ਬਾਹਰੀ ਨੀਤੀ ਪਰਤ ਤੋਂ ਬਿਨਾਂ ਪਰੋਸੇ ਜਾਣ ਉੱਤੇ ਆਪਣੇ ਵਜ਼ਨਾਂ ਮੁਤਾਬਕ ਹੀ ਵਰਤਦਾ ਹੈ।
ਇਹ ਖ਼ਾਸ ਕਰਕੇ ਏਜੰਟਾਂ ਲਈ ਕਿਉਂ ਮਾਅਨੇ ਰੱਖਦਾ ਹੈ
ਇਨਕਾਰਾਂ ਦੀ ਗੱਲ ਆਮ ਤੌਰ ਉੱਤੇ ਸਮੱਗਰੀ ਦੇ ਸਵਾਲ ਵਜੋਂ ਹੁੰਦੀ ਹੈ। ਏਜੰਟ ਵਾਲੇ ਕੰਮ ਵਿੱਚ ਇਹ ਜ਼ਿਆਦਾਤਰ ਭਰੋਸੇਯੋਗਤਾ ਦਾ ਸਵਾਲ ਹੈ। 40 ਵਾਰੀਆਂ ਵਾਲੇ ਦੌਰ ਦੀ 31ਵੀਂ ਵਾਰੀ ਉੱਤੇ ਆਇਆ ਇਨਕਾਰ ਕੋਈ ਸ਼ਿਸ਼ਟ ਨਾਂਹ ਨਹੀਂ ਜਿਸਨੂੰ ਪੜ੍ਹ ਕੇ ਤੁਸੀਂ ਅੱਗੇ ਲੰਘ ਜਾਓ — ਇਹ ਇੱਕ ਵਿਗੜਿਆ ਪੜਾਅ ਹੈ, ਇੱਕ ਅਜਿਹਾ ਆਰਕੈਸਟਰੇਟਰ ਜਿਸਨੂੰ ਪਤਾ ਨਹੀਂ ਅੱਗੇ ਕੀ ਕਰਨਾ ਹੈ, ਇੱਕ ਟੁੱਟੀ ਯੋਜਨਾ, ਅਤੇ 30 ਵਾਰੀਆਂ ਦੇ ਖ਼ਰਚੇ ਟੋਕਨ ਜਿਨ੍ਹਾਂ ਬਦਲੇ ਕੁਝ ਵੀ ਨਹੀਂ। ਸੁਰੱਖਿਆ ਖੋਜ, ਮਾਲਵੇਅਰ ਵਿਸ਼ਲੇਸ਼ਣ, ਪੈਨੇਟ੍ਰੇਸ਼ਨ ਟੈਸਟਿੰਗ, ਰੈੱਡ-ਟੀਮਿੰਗ, ਬਾਲਗ ਗਲਪ, ਡਾਕਟਰੀ ਤੇ ਕਾਨੂੰਨੀ ਖਰੜੇ, ਅਤੇ ਸੁਰੱਖਿਆ ਸਿਖਲਾਈ ਲਈ ਡੇਟਾਸੈੱਟ ਬਣਾਉਣਾ — ਸਭ ਇਸ ਨਾਲ ਲਗਾਤਾਰ ਟਕਰਾਉਂਦੇ ਹਨ, ਅਤੇ ਨੁਕਸਾਨ ਇਸੇ ਕਰਕੇ ਮਹਿੰਗਾ ਹੈ ਕਿਉਂਕਿ ਇਹ ਦੇਰ ਨਾਲ ਪੈਂਦਾ ਹੈ।
ਦੂਜਾ ਪਾਸਾ ਇਹ ਹੈ ਕਿ ਨੀਤੀ ਵਾਲੀ ਪਰਤ ਹੁਣ ਤੁਹਾਡੀ ਹੈ। Shannon AI ਗੇਟਵੇ ਦੀ ਵਰਤੋਂ ਸਾਡੀ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਅਧੀਨ ਹੈ; ਲੂਪ ਵਿੱਚੋਂ ਵਿਕਰੇਤਾ ਦਾ ਫ਼ੈਸਲਾ ਹਟਾਉਣ ਦਾ ਮਤਲਬ ਹੈ ਆਪਣਾ ਫ਼ੈਸਲਾ ਦੇਣਾ।
06ਐਂਡਪੁਆਇੰਟ ਅਸਲ ਵਿੱਚ ਤੁਹਾਨੂੰ ਕੀ ਦਿੰਦਾ ਹੈ
| ਸਮਰੱਥਾ | GLM-5.2 · 3BIT-REAP |
|---|---|
| ਮਾਡਲ id | GLM-5.2-3BIT-REAP |
| ਸੰਦਰਭ ਵਿੰਡੋ | 262,144 ਟੋਕਨ |
| ਪ੍ਰਤੀ ਬੇਨਤੀ ਵੱਧ ਤੋਂ ਵੱਧ ਆਊਟਪੁੱਟ | 16,384 ਟੋਕਨ |
| ਸਟ੍ਰੀਮਿੰਗ | ਹਾਂ |
| ਟੂਲ ਕਾਲਿੰਗ | ਹਾਂ |
ਤਰਕ / reasoning_effort | ਹਾਂ |
JSON ਸਕੀਮਾ (json_schema) | ਹਾਂ |
response_format | ਹਾਂ |
| ਵਿਜ਼ਨ / ਚਿੱਤਰ ਇਨਪੁੱਟ | ਨਹੀਂ — ਸਿਰਫ਼ ਲਿਖਤ |
| ਇਨਕਾਰ ਪਰਤ / ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ | ਕੋਈ ਨਹੀਂ |
ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਵਿਜ਼ਨ ਵਾਲੀ ਕਤਾਰ ਧਿਆਨ ਨਾਲ ਪੜ੍ਹੋ। ਸਾਡੇ ਗੇਟਵੇ ਉੱਤੇ GLM-5.2 ਸਿਰਫ਼ ਲਿਖਤ ਲਈ ਹੈ। ਜੇ ਤੁਹਾਨੂੰ ਚਿੱਤਰ ਇਨਪੁੱਟ ਚਾਹੀਦਾ ਹੈ, ਤਾਂ ਸੂਚੀ ਵਿੱਚ ਵਿਜ਼ਨ ਵਾਲੇ ਪੰਜ ਵਿਕਲਪ ਹਨ — $0.50 / $2.00 ਫ਼ਰਸ਼ ਉੱਤੇ MiniMax-M3 ਅਤੇ MiMo-V2.5, $0.78 / $3.67 ਉੱਤੇ Kimi-K2.6, $1.42 / $6.07 ਉੱਤੇ inkling, ਅਤੇ $3.83 / $19.12 ਉੱਤੇ Kimi-K3। ਇੱਕ ਸਿਆਣਾ ਢੰਗ ਇਹ ਹੈ ਕਿ ਚਿੱਤਰ ਸਮਝਣ ਦਾ ਕੰਮ MiniMax-M3 ਵੱਲ ਭੇਜੋ ਅਤੇ ਬਾਕੀ ਸਭ GLM-5.2 ਵੱਲ, ਜਿਸ ਵਿੱਚ ਇੱਕ ਮਾਡਲ ਸਤਰ ਤੋਂ ਵੱਧ ਕੁਝ ਨਹੀਂ ਲੱਗਦਾ।
ਤਿੰਨ ਬੋਲੀਆਂ, ਇੱਕੋ ਮਾਡਲ
ਇਹੀ ਮਾਡਲ ਤਿੰਨ ਬੇਨਤੀ ਰੂਪਾਂ ਰਾਹੀਂ ਪਹੁੰਚਯੋਗ ਹੈ, ਸਭ ਸਟ੍ਰੀਮਿੰਗ ਨਾਲ: /v1/chat/completions (OpenAI ਬੋਲੀ), /v1/messages (Anthropic ਬੋਲੀ), ਅਤੇ /v1/responses। ਇਨ੍ਹਾਂ ਵਿਚਾਲੇ ਮਾਡਲ ਬਾਰੇ ਕੁਝ ਨਹੀਂ ਬਦਲਦਾ — ਜੋ ਵੀ ਤੁਹਾਡਾ SDK ਪਹਿਲਾਂ ਹੀ ਬੋਲਦਾ ਹੈ ਉਹੀ ਚੁਣੋ, ਅਤੇ ਤੁਸੀਂ ਆਮ ਤੌਰ ਉੱਤੇ ਇੱਕ ਬੇਸ-URL ਬਦਲਣ ਦੀ ਦੂਰੀ ਉੱਤੇ ਹੁੰਦੇ ਹੋ।
# OpenAI ਬੋਲੀ — ਆਪਣੇ ਮੌਜੂਦਾ ਕਲਾਇੰਟ ਨੂੰ ਗੇਟਵੇ ਵੱਲ ਮੋੜੋ from openai import OpenAI client = OpenAI( base_url="https://api.shannon-ai.com/v1", api_key="sk-...", ) resp = client.chat.completions.create( model="GLM-5.2-3BIT-REAP", messages=[{"role": "user", "content": "..."}], tools=tools, # ਟੂਲ ਕਾਲਿੰਗ ਸਮਰਥਿਤ reasoning_effort="medium", # low | medium | high stream=True, )
ਤਿੰਨਾਂ ਬੋਲੀਆਂ ਲਈ ਪੂਰੇ ਬੇਨਤੀ ਤੇ ਜਵਾਬ ਸਕੀਮੇ, ਟੂਲ-ਕਾਲਿੰਗ ਦਾ ਰੂਪ, ਸਟ੍ਰੀਮਿੰਗ ਘਟਨਾਵਾਂ ਦੀ ਸ਼ਕਲ, ਅਤੇ ਇੱਕ ਪਰਸਪਰ ਪਲੇਅਗਰਾਊਂਡ Shannon AI API ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚ ਹਨ।
07GLM-5.2 ਕਦੋਂ ਚੁਣੋ — ਅਤੇ ਕਦੋਂ ਨਾ ਚੁਣੋ
ਇਸ ਵੱਲ ਹੱਥ ਵਧਾਓ ਜਦੋਂ
- ਤੁਸੀਂ ਏਜੰਟ ਚਲਾ ਰਹੇ ਹੋ। ਲੰਮੇ ਟੂਲ-ਕਾਲਿੰਗ ਲੂਪ ਹੀ ਉਹ ਚੀਜ਼ ਹਨ ਜਿਸ ਲਈ ਇਹ ਵੰਸ਼ਾਵਲੀ ਬਣਾਈ ਅਤੇ ਵਾਰ-ਵਾਰ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ, ਅਤੇ ਇਨਪੁੱਟ ਕੀਮਤ ਹਰ ਵਾਰੀ ਵਧਦੀ ਗੱਲਬਾਤ ਮੁੜ ਭੇਜਣਾ ਸਸਤਾ ਬਣਾ ਦਿੰਦੀ ਹੈ।
- ਤੁਸੀਂ ਵੱਡੇ ਕੋਡਬੇਸ ਉੱਤੇ ਕੰਮ ਕਰ ਰਹੇ ਹੋ। 262K ਸੰਦਰਭ, ਭਰੋਸੇਯੋਗ ਟੂਲ-ਕਾਲ ਰੂਪ, ਅਤੇ ਪੂਰੀ ਵਿੰਡੋ ਪੜ੍ਹਨ ਲਈ $0.19।
- ਤੁਹਾਡੀ ਹੱਦ ਮਾਤਰਾ ਹੈ। ਵਰਗੀਕਰਨ, ਕੱਢਣਾ, ਬਣਾਵਟੀ ਡੇਟਾ ਪੈਦਾ ਕਰਨਾ, ਥੋਕ ਵਿੱਚ ਦੁਬਾਰਾ ਲਿਖਣਾ — ਜਿੱਥੇ ਵੀ ਪ੍ਰਤੀ ਕਾਲ ਲਾਗਤ ਨੂੰ ਵੱਡੀ ਗਿਣਤੀ ਨਾਲ ਗੁਣਾ ਕਰਕੇ ਇਹ ਤੈਅ ਹੁੰਦਾ ਹੈ ਕਿ ਪ੍ਰੋਜੈਕਟ ਚੱਲ ਸਕਦਾ ਹੈ ਜਾਂ ਨਹੀਂ।
- ਇਨਕਾਰ ਤੁਹਾਡੀ ਪਾਈਪਲਾਈਨ ਤੋੜ ਰਹੇ ਹਨ। ਸੁਰੱਖਿਆ ਖੋਜ, ਵਿਰੋਧੀ ਪਰਖ, ਬਿਨਾਂ ਸੈਂਸਰ ਗਲਪ, ਸੰਵੇਦਨਸ਼ੀਲ ਖਰੜੇ — ਇਹ ਨੁਕਸ ਇੱਥੇ ਮੌਜੂਦ ਨਹੀਂ।
ਕੁਝ ਹੋਰ ਵੱਲ ਹੱਥ ਵਧਾਓ ਜਦੋਂ
- ਤੁਹਾਨੂੰ ਵਿਜ਼ਨ ਚਾਹੀਦਾ ਹੈ। ਸਿਰਫ਼ ਲਿਖਤ। ਉੱਪਰ ਦਿੱਤੇ ਵਿਜ਼ਨ ਵਾਲੇ ਵਿਕਲਪ ਵੇਖੋ।
- ਤੁਹਾਨੂੰ ਸਭ ਤੋਂ ਡੂੰਘਾ ਇੱਕ-ਵਾਰੀ ਤਰਕ ਚਾਹੀਦਾ ਹੈ। ਸਭ ਤੋਂ ਔਖੀਆਂ ਇੱਕ-ਸ਼ਾਟ ਵਿਸ਼ਲੇਸ਼ਣੀ ਸਮੱਸਿਆਵਾਂ ਲਈ, DeepSeek-V4-Pro-0813 · 3BIT-REAP ਰਲੀ-ਮਿਲੀ ਲਾਗਤ ਦੇ 2.2× ਉੱਤੇ ਭਾਰਾ ਸੰਦ ਹੈ — ਜਿਨ੍ਹਾਂ ਕਾਲਾਂ ਵਿੱਚ ਹੱਦ ਹੀ ਰੁਕਾਵਟ ਹੋਵੇ, ਉੱਥੇ ਇਹੀ ਸਹੀ ਸੌਦਾ ਹੈ।
- ਤੁਹਾਨੂੰ ਅਣਜਾਣ ਗਿਆਨ ਉੱਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਵਫ਼ਾਦਾਰੀ ਚਾਹੀਦੀ ਹੈ।
W8A16ਦਰਜਾ — MiMo-V2.5-Pro ਅਤੇ Hy3 — ਕਿਤੇ ਘੱਟ ਸਖ਼ਤੀ ਨਾਲ ਸੰਕੁਚਿਤ ਹੈ ਅਤੇ ਛੋਟੀਆਂ ਬੁਨਿਆਦਾਂ ਉੱਤੇ $0.50 / $2.00 ਫ਼ਰਸ਼ ਉੱਤੇ ਬੈਠਦਾ ਹੈ।
ਇਸ ਸਫ਼ੇ ਉੱਤੇ ਬੁਨਿਆਦ ਬਾਰੇ ਹਰ ਅੰਕੜਾ ਸਾਡੇ ਤੋਂ ਇਲਾਵਾ ਕਿਸੇ ਹੋਰ ਵੱਲੋਂ ਛਾਪਿਆ ਗਿਆ ਹੈ। ਕੀਮਤਾਂ ਅਤੇ ਸਮਰੱਥਾ ਦੇ ਅੰਕੜੇ ਸਾਡੀ ਆਪਣੀ ਚਾਲੂ ਸੂਚੀ ਦੇ ਮੁੱਲ ਹਨ, ਜਿਨ੍ਹਾਂ ਦੀ ਪੁਸ਼ਟੀ ਤੁਸੀਂ ਆਪਣੀ ਕੁੰਜੀ ਉੱਤੇ /v1/models ਨਾਲ ਕਰ ਸਕਦੇ ਹੋ। ਮੂਲ ਸਰੋਤ ਖ਼ੁਦ ਵੇਖੋ।
GLM-5.2 ਦੇ ਬੈਂਚਮਾਰਕ ਅੰਕੜੇ (Terminal-Bench 2.1, SWE-bench Pro) Z.ai ਵੱਲੋਂ ਬਿਨਾਂ ਸੰਕੁਚਿਤ ਬੁਨਿਆਦ ਲਈ ਦੱਸੇ ਗਏ ਹਨ; ਸੁਤੰਤਰ ਦੁਹਰਾਓ ਬਾਕੀ ਹੈ। Claude Opus 4.8 ਅਤੇ GPT-5.5 ਦੇ ਅੰਕੜੇ ਸਿਰਫ਼ ਹਵਾਲੇ ਲਈ ਦਿਖਾਏ ਗਏ ਹਨ। GLM-5.2 ਦੀ ਪਹਿਲੀ-ਧਿਰ API ਸੂਚੀ ਕੀਮਤ Z.ai ਵੱਲੋਂ ਛਾਪੀ ਗਈ, ਸਤੰਬਰ 2026।
08ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
Shannon AI ਉੱਤੇ ਬਿਨਾਂ ਸੈਂਸਰ GLM API ਕੀ ਹੈ?
ਇਹ Shannon AI ਗੇਟਵੇ ਉੱਤੇ ਮਾਡਲ id GLM-5.2-3BIT-REAP ਹੈ: Z.ai ਦੀ GLM-5.2 ਏਜੰਟ ਵਾਲੀ ਬੁਨਿਆਦ ਦਾ ਸੰਕੁਚਿਤ ਬਿਲਡ, ਜੋ ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਬਿਨਾਂ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਅਤੇ ਬਿਨਾਂ ਕਿਸੇ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਦੇ ਪਰੋਸਿਆ ਜਾਂਦਾ ਹੈ। ਇਸਦੀ ਕੀਮਤ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $0.73 ਅਤੇ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਆਊਟਪੁੱਟ ਟੋਕਨ $2.34 ਹੈ, ਇਸ ਵਿੱਚ 262,144 ਟੋਕਨ ਦੀ ਸੰਦਰਭ ਵਿੰਡੋ ਹੈ, ਅਤੇ ਇਹ /v1/chat/completions, /v1/messages ਅਤੇ /v1/responses ਉੱਤੇ ਪਹੁੰਚਯੋਗ ਹੈ।
ਬਿਨਾਂ ਸੈਂਸਰ GLM 5.2 ਸੂਚੀ ਦੇ ਹੋਰ ਵੱਡੇ ਮਾਡਲਾਂ ਨਾਲੋਂ ਸਸਤਾ ਕਿਉਂ ਹੈ?
ਕਿਉਂਕਿ ਇਸਨੂੰ ਸੰਕੁਚਿਤ ਕਰਨ ਦਾ ਢੰਗ ਵੱਖਰਾ ਹੈ। 3BIT-REAP 3-ਬਿੱਟ ਵਜ਼ਨਾਂ ਨੂੰ REAP ਨਾਲ ਜੋੜਦਾ ਹੈ, ਜੋ ਮਾਹਰਾਂ-ਦੇ-ਮਿਸ਼ਰਣ ਵਾਲੇ ਮਾਡਲਾਂ ਲਈ ਇੱਕ ਮਾਹਰ-ਛਾਂਗਣ ਦਾ ਤਰੀਕਾ ਹੈ ਅਤੇ ਕੁਆਂਟਾਈਜ਼ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਘੱਟ ਵਰਤੇ ਜਾਂਦੇ ਮਾਹਰ ਕੱਢ ਦਿੰਦਾ ਹੈ। ਪ੍ਰਤੀ ਟੋਕਨ ਲਗਭਗ 40B ਸਰਗਰਮ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲੀ ਵਿਰਲੀ MoE ਬੁਨਿਆਦ, ਇਸ ਤਰ੍ਹਾਂ ਛਾਂਗੀ ਅਤੇ ਕੁਆਂਟਾਈਜ਼ ਕੀਤੀ ਹੋਈ, ਬਰਾਬਰ ਗੁਣਵੱਤਾ ਵਾਲੇ ਸੰਘਣੇ ਮਾਡਲ ਨਾਲੋਂ ਕਿਤੇ ਘੱਟ ਮੈਮੋਰੀ ਅਤੇ ਪ੍ਰਤੀ ਟੋਕਨ ਕਿਤੇ ਘੱਟ GPU-ਸਕਿੰਟ ਲੈਂਦੀ ਹੈ, ਅਤੇ ਕੀਮਤ ਇਹੀ ਦਰਸਾਉਂਦੀ ਹੈ।
ਕੀ ਬਿਨਾਂ ਇਨਕਾਰ ਵਾਲੇ GLM ਦਾ ਮਤਲਬ ਇਹ ਹੈ ਕਿ ਮਾਡਲ ਉੱਤੇ ਕੋਈ ਵੀ ਰੋਕ ਨਹੀਂ?
ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ Shannon ਕੋਈ ਨਹੀਂ ਜੋੜਦਾ। ਮਾਡਲ ਦੇ ਅੱਗੇ ਕੋਈ ਇਨਕਾਰ ਵਰਗੀਕਾਰ ਨਹੀਂ ਅਤੇ ਉਸ ਵਿੱਚੋਂ ਨਿਕਲਦੇ ਟੋਕਨਾਂ ਉੱਤੇ ਕੋਈ ਫਿਲਟਰ ਨਹੀਂ। ਬੁਨਿਆਦ ਵਿੱਚ ਉਹੀ ਰੁਝਾਨ ਬਣੇ ਰਹਿੰਦੇ ਹਨ ਜੋ ਉਸਦੀ ਆਪਣੀ ਸਿਖਲਾਈ ਨੇ ਦਿੱਤੇ, ਪਰ ਬਾਹਰੋਂ ਕੁਝ ਵੀ ਉਨ੍ਹਾਂ ਉੱਤੇ ਹਾਵੀ ਨਹੀਂ ਹੁੰਦਾ। ਨੀਤੀ ਵਾਲੀ ਪਰਤ ਤੁਹਾਡੀ ਹੈ, ਅਤੇ ਵਰਤੋਂ Shannon AI ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਅਧੀਨ ਹੈ।
ਕੀ GLM-5.2 3BIT-REAP ਵਿਜ਼ਨ ਜਾਂ ਚਿੱਤਰ ਇਨਪੁੱਟ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ?
ਨਹੀਂ। ਇਹ ਮਾਡਲ ਸਿਰਫ਼ ਲਿਖਤ ਲਈ ਹੈ। ਜੇ ਤੁਹਾਨੂੰ ਬਿਨਾਂ ਸੈਂਸਰ ਐਂਡਪੁਆਇੰਟ ਉੱਤੇ ਚਿੱਤਰ ਇਨਪੁੱਟ ਚਾਹੀਦਾ ਹੈ, ਤਾਂ ਸੂਚੀ ਦੇ ਵਿਜ਼ਨ ਵਾਲੇ ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵਰਤੋ, ਜਿਵੇਂ MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 ਜਾਂ inkling। GLM-5.2 ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਜ਼ਰੂਰ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ — json_schema ਅਤੇ response_format, ਦੋਵੇਂ — ਨਾਲੇ ਟੂਲ ਕਾਲਿੰਗ ਵੀ।
ਸੰਦਰਭ ਵਿੰਡੋ ਅਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਆਊਟਪੁੱਟ ਲੰਬਾਈ ਕਿੰਨੀ ਹੈ?
262,144 ਟੋਕਨ ਸੰਦਰਭ ਅਤੇ ਪ੍ਰਤੀ ਬੇਨਤੀ 16,384 ਟੋਕਨ ਆਊਟਪੁੱਟ। ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $0.73 ਦੇ ਹਿਸਾਬ ਨਾਲ ਪੂਰੀ ਸੰਦਰਭ ਵਿੰਡੋ ਇੱਕ ਵਾਰ ਭਰਨ ਦਾ ਖ਼ਰਚਾ ਲਗਭਗ 19 ਸੈਂਟ ਹੈ, ਅਤੇ ਵੱਧ ਤੋਂ ਵੱਧ ਲੰਬਾਈ ਵਾਲਾ ਜਵਾਬ 4 ਸੈਂਟ ਤੋਂ ਵੀ ਘੱਟ ਵਿੱਚ ਪੈਂਦਾ ਹੈ।
ਕੀ ਲੰਮੇ ਟੂਲ-ਕਾਲਿੰਗ ਲੂਪਾਂ ਲਈ ਇਹ ਵਧੀਆ ਏਜੰਟ ਵਾਲਾ ਬਿਨਾਂ ਸੈਂਸਰ ਮਾਡਲ ਹੈ?
ਅਸੀਂ ਸਭ ਤੋਂ ਪਹਿਲਾਂ ਇਸੇ ਵੱਲ ਹੱਥ ਵਧਾਉਂਦੇ ਹਾਂ। GLM ਵੰਸ਼ਾਵਲੀ ਨੂੰ GLM-4.5 ਤੋਂ ਹੀ ਏਜੰਟ ਵਾਲੇ ਕੰਮ ਲਈ ਖ਼ਾਸ ਤੌਰ ਉੱਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਹੈ, ਟੂਲ ਕਾਲਿੰਗ ਅਤੇ reasoning_effort ਦੋਵੇਂ ਸਮਰਥਿਤ ਹਨ, ਅਤੇ ਕੀਮਤ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਸੌ ਵੀਹ-ਹਜ਼ਾਰ-ਟੋਕਨ ਵਾਲੀਆਂ ਏਜੰਟ ਵਾਰੀਆਂ ਗਿਆਰਾਂ ਦੀ ਥਾਂ ਲਗਭਗ ਦੋ ਡਾਲਰ ਵਿੱਚ ਪੈਂਦੀਆਂ ਹਨ। ਏਜੰਟ ਲੂਪਾਂ ਵਿੱਚ ਇਨਕਾਰ ਵੀ ਇੱਕ ਅਸਲ ਨੁਕਸ ਹੈ, ਅਤੇ ਇੱਥੇ ਉਸਨੂੰ ਚਲਾਉਣ ਵਾਲੀ ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਹੀ ਨਹੀਂ।
ਬਿਨਾਂ ਸੈਂਸਰ GLM API ਅਜ਼ਮਾਓ
$0.73 ਅੰਦਰ · $2.34 ਬਾਹਰ · 262K ਸੰਦਰਭ · ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ।
API ਦਸਤਾਵੇਜ਼ ਪੜ੍ਹੋ ਸਾਰੇ ਮਾਡਲ ਵੇਖੋShannon Lab LLC, New Mexico, USA · ਵਰਤੋਂ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਅਧੀਨ
ਸਰੋਤ: Z.ai GLM-5 ਰਿਪੌਜ਼ਟਰੀ · Du et al., GLM: General Language Model Pretraining with Autoregressive Blank Infilling, ACL 2022 · Zeng et al., GLM-130B: An Open Bilingual Pre-trained Model · Lasby et al., REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression, ICLR 2026 · NIST CAISI Assessment of Z.ai's GLM-5.2, ਜੁਲਾਈ 2026। ਬੁਨਿਆਦ ਦੇ ਬੈਂਚਮਾਰਕ ਅੰਕ ਲੈਬ ਵੱਲੋਂ ਦੱਸੇ ਗਏ ਅਤੇ ਆਰਜ਼ੀ ਹਨ; ਉਹ ਬਿਨਾਂ ਸੰਕੁਚਿਤ GLM-5.2 ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਨ, ਇਸ ਸੰਕੁਚਿਤ ਬਿਲਡ ਦਾ ਨਹੀਂ। ਕੀਮਤ, ਸੰਦਰਭ ਅਤੇ ਸਮਰੱਥਾ ਦੇ ਅੰਕੜੇ 5 ਸਤੰਬਰ 2026 ਤੱਕ ਦੇ Shannon AI ਸੂਚੀ ਮੁੱਲ ਹਨ।