ਬਿਨਾਂ ਸੈਂਸਰ Laguna API
Laguna S 2.1 — 118B ਮਾਹਰਾਂ-ਦੇ-ਮਿਸ਼ਰਣ ਵਾਲੀ ਬੁਨਿਆਦ, ਜੋ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਤੋਂ ਬਿਨਾਂ, 262K ਸੰਦਰਭ ਵਿੰਡੋ ਅਤੇ ਟੂਲ ਕਾਲਿੰਗ ਨਾਲ ਪਰੋਸੀ ਜਾਂਦੀ ਹੈ — ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਟੋਕਨ $0.50 ਅੰਦਰ / $2.00 ਬਾਹਰ ਦੀ ਫ਼ਰਸ਼ ਕੀਮਤ ਉੱਤੇ।
ਸਾਰ
ਬਿਨਾਂ ਸੈਂਸਰ Laguna API Poolside ਦਾ Laguna S 2.1 ਚਲਾਉਂਦੀ ਹੈ — ਕੁੱਲ 118B ਪੈਰਾਮੀਟਰ, ਪ੍ਰਤੀ ਟੋਕਨ ਲਗਭਗ 8B ਸਰਗਰਮ, OpenMDW-1.1 ਹੇਠ ਖੁੱਲ੍ਹੇ ਵਜ਼ਨ — ਜੋ AutoRound ਅਤੇ REAP ਨਾਲ W4A16 ਉੱਤੇ ਕੁਆਂਟਾਈਜ਼ ਕਰਕੇ ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਪਰੋਸਿਆ ਜਾਂਦਾ ਹੈ। ਤੁਹਾਨੂੰ 262,144-ਟੋਕਨ ਸੰਦਰਭ, ਪ੍ਰਤੀ ਬੇਨਤੀ 16,384 ਆਊਟਪੁੱਟ ਟੋਕਨ, ਸਟ੍ਰੀਮਿੰਗ, ਟੂਲ ਕਾਲਿੰਗ, reasoning_effort, ਅਤੇ ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਨਹੀਂ ਮਿਲਦੀ। ਇੱਕ ਸ਼ਰਤ, ਪਹਿਲਾਂ ਹੀ ਦੱਸ ਦਿੰਦੇ ਹਾਂ: ਇਹ ਸਾਡੀ ਸੂਚੀ ਦਾ ਇਕੱਲਾ ਮਾਡਲ ਹੈ ਜੋ ਨਾ json_schema ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ ਨਾ response_format। ਜੇ ਤੁਹਾਨੂੰ ਪੱਕਾ JSON ਚਾਹੀਦਾ ਹੈ, ਤਾਂ ਕੋਈ ਭਰਾ ਮਾਡਲ ਲਵੋ — MiMo-V2.5 ਦਾ Pro ਬਿਲਡ ਇਹੀ ਕੰਮ ਇੱਕੋ ਕੀਮਤ ਉੱਤੇ ਕਰਦਾ ਹੈ।
ਬਹੁਤੇ "ਸਸਤੇ ਮਾਡਲ" ਵਾਲੇ ਸਫ਼ੇ ਤੁਹਾਨੂੰ ਘੱਟ ਅੰਕ ਦੇ ਬਦਲੇ ਕੋਈ ਛੋਟੀ, ਥੱਕੀ ਹੋਈ ਬੁਨਿਆਦ ਮੰਨਣ ਲਈ ਕਹਿੰਦੇ ਹਨ। ਇਹ ਸਫ਼ਾ ਨਹੀਂ ਕਹਿੰਦਾ। Laguna S 2.1 ਮੌਜੂਦਾ ਪੀੜ੍ਹੀ ਦੀ ਵਿਰਲੀ ਮਾਹਰਾਂ-ਦੇ-ਮਿਸ਼ਰਣ ਵਾਲੀ ਰਿਲੀਜ਼ ਹੈ, ਜਿਸਨੂੰ 4,096 H200 ਉੱਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਅਤੇ ਨੌਂ ਹਫ਼ਤਿਆਂ ਤੋਂ ਵੀ ਘੱਟ ਵਿੱਚ ਭੇਜਿਆ ਗਿਆ, ਅਤੇ ਇਹ ਉਸੇ $0.50 / $2.00 ਫ਼ਰਸ਼ ਉੱਤੇ ਬੈਠਦੀ ਹੈ ਜਿੱਥੇ ਸਾਡਾ ਹਰ ਹੋਰ ਸ਼ੁਰੂਆਤੀ ਦਰਜੇ ਵਾਲਾ ਮਾਡਲ ਬੈਠਦਾ ਹੈ। ਸੌਦਾ ਤੰਗ ਹੈ ਤੇ ਸੌਖਾ ਸਮਝ ਆਉਂਦਾ ਹੈ: ਤੁਸੀਂ ਸਰਵਰ ਵੱਲੋਂ ਲਾਗੂ ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਛੱਡਦੇ ਹੋ ਅਤੇ ਬਾਕੀ ਸਭ ਕੁਝ ਰੱਖਦੇ ਹੋ।
01Laguna S 2.1 ਹੈ ਕੀ?
Laguna S 2.1 ਉਹ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲਾ ਮਾਡਲ ਹੈ ਜੋ Poolside ਨੇ 21 ਜੁਲਾਈ 2026 ਨੂੰ ਖੁੱਲ੍ਹੇ OpenMDW-1.1 ਲਾਇਸੰਸ ਹੇਠ ਜਾਰੀ ਕੀਤਾ — Laguna ਪਰਿਵਾਰ ਦਾ ਦਰਮਿਆਨਾ ਜੀਅ, Laguna XS 2.1 (33B/3B ਸਰਗਰਮ) ਅਤੇ Laguna M.1 (225B/23B ਸਰਗਰਮ) ਵਿਚਕਾਰ।
ਛਾਪਿਆ ਢਾਂਚਾ ਇੱਕ ਟੋਕਨ-ਚੋਣ ਵਾਲਾ ਰਾਊਟਰ ਹੈ ਜਿਸ ਵਿੱਚ 256 ਰਾਊਟ ਕੀਤੇ ਮਾਹਰ ਅਤੇ ਇੱਕ ਸਾਂਝਾ ਮਾਹਰ ਉੱਤੇ softplus ਗੇਟਿੰਗ ਹੈ, ਪ੍ਰਤੀ ਟੋਕਨ ਦਸ ਚੁਣੇ ਜਾਂਦੇ ਹਨ, ਅਤੇ ਇਹ ਸਭ 48 ਪਰਤਾਂ ਵਿੱਚ ਹੈ — ਬਾਰਾਂ ਗਲੋਬਲ-ਧਿਆਨ ਵਾਲੀਆਂ, ਛੱਤੀ 512-ਟੋਕਨ ਵਿੰਡੋ ਵਾਲੀਆਂ ਸਲਾਈਡਿੰਗ-ਵਿੰਡੋ ਵਾਲੀਆਂ, ਅਤੇ ਇਹ ਵਾਰੀ-ਵਾਰੀ ਵਾਲੀ ਤਰਤੀਬ ਬਹੁਤ ਲੰਮੇ ਇਨਪੁੱਟ ਉੱਤੇ ਧਿਆਨ ਦੀ ਲਾਗਤ ਵਰਗ-ਦਰ ਦੀ ਥਾਂ ਲਗਭਗ ਰੇਖਿਕ ਰੱਖਦੀ ਹੈ। ਧਿਆਨ grouped-query ਹੈ ਜਿਸ ਵਿੱਚ ਹੈੱਡ ਆਯਾਮ 128 ਉੱਤੇ 8 ਕੁੰਜੀ-ਮੁੱਲ ਹੈੱਡ ਹਨ।
API ਵਰਤਣ ਵਾਲੇ ਲਈ ਦੋ ਨਤੀਜੇ ਮਾਅਨੇ ਰੱਖਦੇ ਹਨ। ਵਿਰਲੀ ਸਰਗਰਮੀ ਹੀ ਉਹ ਕਾਰਨ ਹੈ ਕਿ 118B ਮਾਡਲ ਫ਼ਰਸ਼ ਕੀਮਤ ਉੱਤੇ ਬੈਠ ਸਕਦਾ ਹੈ — ਪ੍ਰਤੀ ਟੋਕਨ ਸਿਰਫ਼ ਲਗਭਗ 8B ਪੈਰਾਮੀਟਰ ਕੰਮ ਕਰਦੇ ਹਨ, ਸੋ ਪ੍ਰਤੀ ਟੋਕਨ ਗਣਨਾ ਪੈਰਾਮੀਟਰਾਂ ਦੀ ਗਿਣਤੀ ਦੇ ਸੁਝਾਅ ਨਾਲੋਂ ਕਿਸੇ ਛੋਟੇ ਸੰਘਣੇ ਮਾਡਲ ਦੇ ਨੇੜੇ ਹੈ। ਅਤੇ ਸਲਾਈਡਿੰਗ-ਵਿੰਡੋ ਵਾਲੀ ਤਰਤੀਬ ਹੀ ਉਹ ਕਾਰਨ ਹੈ ਕਿ ਲੰਮੀ ਵਿੰਡੋ ਸਿਰਫ਼ ਨਾਂ ਦੀ ਨਹੀਂ ਸਗੋਂ ਸੱਚਮੁੱਚ ਵਰਤਣਯੋਗ ਹੈ। Poolside ਦੀ ਰਿਲੀਜ਼ 1,048,576 ਟੋਕਨ ਸਮਰਥਿਤ ਕਰਦੀ ਹੈ; ਅਸੀਂ 262,144 ਪਰੋਸਦੇ ਹਾਂ, ਜੋ ਗੇਟਵੇ ਦੇ ਹਰ ਹੋਰ ਮਾਡਲ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ।
02ਇੱਕੋ ਸ਼ਰਤ: ਕੋਈ ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਨਹੀਂ
Shannon AI ਉੱਤੇ Laguna S 2.1 ਨਾ json_schema ਲੈਂਦਾ ਹੈ ਨਾ response_format। ਸਾਡੀ ਬਾਰਾਂ ਮਾਡਲਾਂ ਵਾਲੀ ਸੂਚੀ ਵਿੱਚ ਇਹ ਇਕੱਲਾ ਹੈ ਜਿਸ ਕੋਲ ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਦਾ ਸਮਰਥਨ ਨਹੀਂ; ਇਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਪੈਰਾਮੀਟਰ ਭੇਜਣ ਨਾਲ ਤੁਹਾਨੂੰ ਸਕੀਮਾ-ਬੱਧ ਜਵਾਬ ਨਹੀਂ ਮਿਲੇਗਾ। ਟੂਲ ਕਾਲਿੰਗ ਚੱਲਦੀ ਹੈ। ਸਟ੍ਰੀਮਿੰਗ ਚੱਲਦੀ ਹੈ। ਤਰਕ ਚੱਲਦਾ ਹੈ। ਸਿਰਫ਼ ਸਰਵਰ ਵੱਲੋਂ ਲਾਗੂ ਆਊਟਪੁੱਟ ਦੀ ਸ਼ਕਲ ਗ਼ੈਰ-ਹਾਜ਼ਰ ਹੈ।
ਜੋ ਹਾਲੇ ਵੀ ਚੱਲਦਾ ਹੈ। ਟੂਲ ਕਾਲਿੰਗ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਮਰਥਿਤ ਹੈ, ਅਤੇ ਟੂਲ-ਕਾਲ ਦੀਆਂ ਦਲੀਲਾਂ ਹਾਲੇ ਵੀ ਬਿਲਕੁਲ ਓਵੇਂ ਹੀ JSON ਆਬਜੈਕਟ ਵਜੋਂ ਆਉਂਦੀਆਂ ਹਨ ਜਿਵੇਂ ਇੱਥੋਂ ਦੇ ਕਿਸੇ ਵੀ ਹੋਰ ਮਾਡਲ ਉੱਤੇ। ਜੇ ਤੁਹਾਡੀ ਐਪਲੀਕੇਸ਼ਨ ਦੀ "ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ" ਅਸਲ ਵਿੱਚ ਟੂਲ ਦਲੀਲਾਂ ਹੀ ਹਨ — ਜੋ ਬਹੁਤੇ ਏਜੰਟ ਢਾਂਚਿਆਂ, MCP ਸਰਵਰਾਂ ਅਤੇ ਡੇਟਾਬੇਸ ਫ਼ਰੰਟ-ਐਂਡਾਂ ਲਈ ਸੱਚ ਹੈ — ਤਾਂ Laguna S 2.1 ਤੁਹਾਡਾ ਕੰਮ ਠੀਕ ਚਲਾਉਂਦਾ ਹੈ। ਸਟ੍ਰੀਮਿੰਗ ਤਿੰਨਾਂ ਬੋਲੀਆਂ ਉੱਤੇ ਚੱਲਦੀ ਹੈ; reasoning_effort ਚੱਲਦਾ ਹੈ।
ਜੋ ਨਹੀਂ ਚੱਲਦਾ। ਤੁਸੀਂ ਐਂਡਪੁਆਇੰਟ ਨੂੰ JSON ਸਕੀਮਾ ਫੜਾ ਕੇ ਇਹ ਪੱਕਾ ਨਹੀਂ ਕਰ ਸਕਦੇ ਕਿ ਸਹਾਇਕ ਦਾ ਲਿਖਤੀ ਜਵਾਬ ਉਸ ਉੱਤੇ ਖ਼ਰਾ ਉਤਰੇਗਾ, ਅਤੇ response_format: {"type": "json_object"} ਤੁਹਾਨੂੰ ਕੁਝ ਨਹੀਂ ਦਿੰਦਾ। JSON ਲਈ ਪ੍ਰੌਂਪਟ ਦੇਣ ਉੱਤੇ ਆਮ ਤੌਰ ਉੱਤੇ JSON ਹੀ ਬਣਦਾ ਹੈ — ਇਹ ਯੋਗ ਮਾਡਲ ਹੈ — ਪਰ "ਆਮ ਤੌਰ ਉੱਤੇ" ਕੋਈ ਇਕਰਾਰਨਾਮਾ ਨਹੀਂ। Poolside ਖ਼ੁਦ ਡੂੰਘੀਆਂ ਨੱਥੀ ਟੂਲ ਕਾਲਾਂ ਵਿੱਚ ਗ਼ਲਤ JSON ਐਸਕੇਪਿੰਗ ਨੂੰ ਜਾਣੀ-ਪਛਾਣੀ ਹੱਦ ਵਜੋਂ ਦਰਜ ਕਰਦਾ ਹੈ, ਜੋ ਯਾਦ ਦਿਵਾਉਂਦਾ ਹੈ ਕਿ ਗਾਰੰਟੀ, ਜਿੱਥੇ ਸਾਡੀ ਸੂਚੀ ਵਿੱਚ ਹੋਰ ਥਾਈਂ ਮੌਜੂਦ ਹੈ, ਮਾਡਲ ਦੀ ਨੇਕ ਨੀਅਤ ਤੋਂ ਨਹੀਂ ਸਗੋਂ ਪਰੋਸਣ ਵਾਲੀ ਪਰਤ ਤੋਂ ਆਉਂਦੀ ਹੈ।
ਇਸਦੀ ਥਾਂ ਕਿਹੜਾ ਭਰਾ ਮਾਡਲ ਵਰਤਣਾ ਹੈ
ਜੇ ਤੁਹਾਡੇ ਕੰਮ ਨੂੰ ਪੱਕਾ JSON ਚਾਹੀਦਾ ਹੈ, ਤਾਂ ਇਸ ਮਾਡਲ ਨਾਲ ਨਾ ਲੜੋ — ਮਾਡਲ id ਬਦਲ ਦਿਓ। ਚਾਰ ਭਰਾ ਮਾਡਲ ਬਿਲਕੁਲ ਇਸੇ $0.50 / $2.00 ਕੀਮਤ ਉੱਤੇ ਬੈਠਦੇ ਹਨ ਅਤੇ ਪੂਰਾ json_schema ਤੇ response_format ਸਮਰਥਨ ਦਿੰਦੇ ਹਨ:
| ਮਾਡਲ id | json_schema | ਵਿਜ਼ਨ | ਤੁਸੀਂ ਇਹ ਕਿਉਂ ਚੁਣੋਗੇ |
|---|---|---|---|
| MiMo-V2.5-Pro-W8A16 | ਹਾਂ | ਨਹੀਂ | ਸਿੱਧਾ ਬਦਲ — 8-ਬਿੱਟ ਵਜ਼ਨ, ਸਭ ਤੋਂ ਵੱਧ ਵਫ਼ਾਦਾਰੀ ਵਾਲਾ ਦਰਜਾ, ਉਹੀ ਕੀਮਤ |
| MiMo-V2.5-W8A16 | ਹਾਂ | ਹਾਂ | ਉਹੀ, ਨਾਲ ਚਿੱਤਰ ਇਨਪੁੱਟ ਵੀ |
| Hy3-W8A16 | ਹਾਂ | ਨਹੀਂ | ਫ਼ਰਸ਼ ਕੀਮਤ ਉੱਤੇ ਇੱਕ ਹੋਰ 8-ਬਿੱਟ ਲਿਖਤ ਮਾਡਲ |
| DeepSeek-V4-Flash-0731 | ਹਾਂ | ਨਹੀਂ | Laguna ਵਾਂਗ W4A16-AutoRound-REAP, ਪਰ ਸਕੀਮਾ ਸਮਰਥਨ ਸਲਾਮਤ |
ਕੁਦਰਤੀ ਮੂਲ ਚੋਣ MiMo-V2.5-Pro (W8A16) ਹੈ: ਸਿਰਫ਼ ਲਿਖਤ, ਫ਼ਰਸ਼ ਕੀਮਤ ਉੱਤੇ, ਅਤੇ ਸਾਡੇ ਸਭ ਤੋਂ ਨਰਮ ਦਰਜੇ ਉੱਤੇ ਕੁਆਂਟਾਈਜ਼ ਕੀਤਾ — ਵੇਰਵੇ MiMo-V2.5 ਮਾਡਲ ਕਾਰਡ ਉੱਤੇ ਹਨ। ਕਿਉਂਕਿ ਬਾਰਾਂਵਾਂ ਮਾਡਲ ਐਂਡਪੁਆਇੰਟ, ਸੰਦਰਭ ਵਿੰਡੋ ਅਤੇ ਆਊਟਪੁੱਟ ਦੀ ਹੱਦ ਸਾਂਝੀ ਕਰਦੇ ਹਨ, ਬਦਲਣਾ model ਖਾਨੇ ਵਿੱਚ ਇੱਕ ਸਤਰ ਦਾ ਕੰਮ ਹੈ।
03W4A16-AUTOROUND-REAP ਦਾ ਕੀ ਮਤਲਬ ਹੈ?
ਮਾਡਲ id ਉੱਤੇ ਲੱਗਾ ਪਿਛੇਤਰ ਸਜਾਵਟ ਨਹੀਂ — ਇਹ ਸਹੀ-ਸਹੀ ਦੱਸਦਾ ਹੈ ਕਿ ਸਾਡੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਲੱਦਣ ਤੋਂ ਪਹਿਲਾਂ ਵਜ਼ਨ ਕਿਵੇਂ ਸੰਕੁਚਿਤ ਕੀਤੇ ਗਏ। ਤਿੰਨ ਹਿੱਸੇ।
W4A16 — 4-ਬਿੱਟ ਵਜ਼ਨ, 16-ਬਿੱਟ ਐਕਟੀਵੇਸ਼ਨ
ਵਜ਼ਨ 4 ਬਿੱਟ ਉੱਤੇ ਸਾਂਭੇ ਜਾਂਦੇ ਹਨ; ਐਕਟੀਵੇਸ਼ਨ — ਯਾਨੀ ਇਨਫ਼ਰੈਂਸ ਵੇਲੇ ਪਰਤਾਂ ਵਿਚਕਾਰ ਵਗਦੇ ਮੁੱਲ — 16 ਉੱਤੇ ਰਹਿੰਦੀਆਂ ਹਨ। ਵਜ਼ਨਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੇ BF16 ਪੈਰ-ਨਿਸ਼ਾਨ ਦੇ ਚੌਥੇ ਹਿੱਸੇ ਤੱਕ ਘਟਾਉਣਾ ਹੀ 118B ਮਾਡਲ ਨੂੰ ਸਮਾਉਣ ਤੇ ਤੇਜ਼ ਰੱਖਣ ਦਾ ਕਾਰਨ ਹੈ, ਜਦਕਿ ਐਕਟੀਵੇਸ਼ਨ ਚੌੜੀਆਂ ਰੱਖਣਾ ਫ਼ਾਰਵਰਡ ਪਾਸ ਦੇ ਗਿਣਤੀ ਪੱਖੋਂ ਸੰਵੇਦਨਸ਼ੀਲ ਹਿੱਸੇ ਦੀ ਰਾਖੀ ਕਰਦਾ ਹੈ। ਜੋ ਵੱਡਾ ਤੇ ਸਥਿਰ ਹੈ ਉਸਨੂੰ ਸੰਕੁਚਿਤ ਕਰੋ, ਜੋ ਛੋਟਾ ਤੇ ਗਤੀਸ਼ੀਲ ਹੈ ਉਸਨੂੰ ਛੱਡ ਦਿਓ।
AutoRound — ਸਿੱਖੀ ਹੋਈ ਰਾਊਂਡਿੰਗ, ਨੇੜਲੇ ਮੁੱਲ ਵਾਲੀ ਨਹੀਂ
ਕੁਆਂਟਾਈਜ਼ ਕਰਨ ਦਾ ਸਾਦਾ ਤਰੀਕਾ ਨੇੜਲੇ-ਮੁੱਲ ਵਾਲੀ ਰਾਊਂਡਿੰਗ ਹੈ: ਹਰ ਵਜ਼ਨ ਨੂੰ ਸਭ ਤੋਂ ਨੇੜਲੇ 4-ਬਿੱਟ ਮੁੱਲ ਉੱਤੇ ਲਾ ਦਿਓ ਅਤੇ ਗ਼ਲਤੀ ਮੰਨ ਲਵੋ। Intel ਦੀ ਖੁੱਲ੍ਹੀ ਸਿਖਲਾਈ-ਤੋਂ-ਬਾਅਦ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਕਿੱਟ AutoRound ਇਸ ਤੋਂ ਬਿਹਤਰ ਕਰਦੀ ਹੈ — ਇਸਦਾ SignRound ਤਰੀਕਾ ਕੁਝ ਸੌ ਕਦਮਾਂ ਵਿੱਚ ਸਾਈਨਡ ਗਰੇਡੀਐਂਟ ਡਿਸੈਂਟ ਨਾਲ ਰਾਊਂਡਿੰਗ ਦੇ ਫ਼ੈਸਲੇ ਅਤੇ ਕਲਿੱਪਿੰਗ ਹੱਦਾਂ ਇਕੱਠੀਆਂ ਅਨੁਕੂਲ ਬਣਾਉਂਦਾ ਹੈ, ਅਤੇ ਹਰ ਵਜ਼ਨ ਲਈ ਤੈਅ ਕਰਦਾ ਹੈ ਕਿ ਉੱਪਰ ਗੋਲ ਕਰਨਾ ਜਾਂ ਹੇਠਾਂ, ਕਿਹੜਾ ਉਸ ਪਰਤ ਦੀ ਅਸਲ ਆਊਟਪੁੱਟ ਨੂੰ ਘੱਟ ਨੁਕਸਾਨ ਦਿੰਦਾ ਹੈ। ਇਹ ਵਿਚਾਰ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ-ਜਾਣੂ ਸਿਖਲਾਈ ਤੋਂ ਲੈਂਦਾ ਹੈ ਪਰ ਮੁੜ-ਸਿਖਲਾਈ ਦੀ ਲਾਗਤ ਤੋਂ ਬਿਨਾਂ, ਅਤੇ ਇਸੇ ਕਰਕੇ W4A16 ਬਿਲਡ ਕੋਈ ਹਾਨੀਕਾਰਕ ਤਮਾਸ਼ਾ ਨਹੀਂ ਸਗੋਂ ਸੰਜੀਦਾ ਮਾਡਲ ਬਣ ਸਕਦਾ ਹੈ।
REAP — ਮਾਹਰਾਂ ਨੂੰ ਰਲਾਉਣ ਦੀ ਥਾਂ ਛਾਂਗਣਾ
REAP ਯਾਨੀ Router-weighted Expert Activation Pruning, ਜੋ Cerebras Research ਨੇ ਛਾਪਿਆ। MoE ਮਾਡਲ ਵਿੱਚ ਸਾਰੇ ਮਾਹਰ ਆਪਣਾ ਭਾਰ ਨਹੀਂ ਚੁੱਕਦੇ: ਰਾਊਟਰ ਕਈਆਂ ਵੱਲ ਥੋੜ੍ਹੇ ਟੋਕਨ ਭੇਜਦਾ ਹੈ, ਅਤੇ ਕਈ ਚੱਲਣ ਵੇਲੇ ਵੀ ਥੋੜ੍ਹਾ ਹੀ ਪਰਿਮਾਣ ਪਾਉਂਦੇ ਹਨ। REAP ਹਰ ਮਾਹਰ ਨੂੰ ਦੋਵੇਂ ਸੰਕੇਤਾਂ ਉੱਤੇ ਅੰਕ ਦਿੰਦਾ ਹੈ — ਰਾਊਟਰ ਗੇਟ ਮੁੱਲ ਅਤੇ ਮਾਹਰ ਦੇ ਐਕਟੀਵੇਸ਼ਨ ਨੌਰਮ — ਅਤੇ ਘੱਟ ਅਹਿਮੀਅਤ ਵਾਲੇ ਮਾਹਰ ਇੱਕੋ ਵਾਰੀ ਵਿੱਚ, ਕੁਆਂਟਾਈਜ਼ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ, ਹਟਾ ਦਿੰਦਾ ਹੈ। ਅਹਿਮ ਗੱਲ ਇਹ ਹੈ ਕਿ ਇਹ ਰਲਾਉਣ ਦੀ ਥਾਂ ਛਾਂਗਦਾ ਹੈ: ਰਲਾਉਣਾ ਕਈ ਮਾਹਰਾਂ ਨੂੰ ਇੱਕ ਵਿੱਚ ਸਮੇਟ ਦਿੰਦਾ ਹੈ, ਰਾਊਟਰ ਦਾ ਬਰੀਕ, ਇਨਪੁੱਟ-ਅਧਾਰਿਤ ਕੰਟਰੋਲ ਤਬਾਹ ਕਰ ਦਿੰਦਾ ਹੈ ਅਤੇ ਗ਼ਲਤੀ ਦਾ ਅਜਿਹਾ ਫ਼ਰਸ਼ ਪਾ ਦਿੰਦਾ ਹੈ ਜੋ ਕੋਈ ਸੁਧਾਈ ਨਹੀਂ ਹਟਾ ਸਕਦੀ (ਲੇਖਕ ਇਸਨੂੰ ਕਾਰਜਸ਼ੀਲ ਉਪ-ਥਾਂ ਦਾ ਢਹਿ ਜਾਣਾ ਕਹਿੰਦੇ ਹਨ), ਜਦਕਿ ਛਾਂਗਣਾ ਬਚਣ ਵਾਲੇ ਮਾਹਰ ਅਤੇ ਉਨ੍ਹਾਂ ਉੱਤੇ ਰਾਊਟਰ ਦਾ ਕੰਟਰੋਲ, ਦੋਵੇਂ ਸਲਾਮਤ ਛੱਡ ਦਿੰਦਾ ਹੈ। Cerebras ਦੱਸਦਾ ਹੈ ਕਿ ਖਰਬ-ਪੈਰਾਮੀਟਰ ਮਾਡਲਾਂ ਵਿੱਚੋਂ 50% ਤੱਕ ਮਾਹਰ ਹਟਾਉਣ ਦੇ ਬਾਵਜੂਦ ਬੁਨਿਆਦੀ ਗੁਣਵੱਤਾ ਵੱਡੇ ਪੱਧਰ ਉੱਤੇ ਕਾਇਮ ਰਹਿੰਦੀ ਹੈ — 480B ਕੋਡਰ ਮਾਡਲ ਉੱਤੇ 50% ਛਾਂਗਣ ਨਾਲ, ਗ਼ੈਰ-ਏਜੰਟ ਕੋਡਿੰਗ ਸਮਰੱਥਾ ਦਾ 97.6% ਅਤੇ ਏਜੰਟ SWE-Bench ਉੱਤੇ 96.7%। ਇਹ ਅੰਕੜੇ Cerebras ਦੇ ਆਪਣੇ ਮਾਡਲਾਂ ਲਈ ਹਨ, ਸਾਡੇ ਬਿਲਡ ਦੀਆਂ ਮਿਣਤੀਆਂ ਨਹੀਂ, ਪਰ ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ ਅਸੀਂ ਇਹ ਸਟੈਕ ਅਜਿਹੀ ਬੁਨਿਆਦ ਉੱਤੇ ਚਲਾਉਂਦੇ ਹਾਂ ਜਿਸਦੀ ਮੁੱਖ ਤਾਕਤ ਕੋਡ ਹੈ।
ਸਾਰਾ ਪਿਛੇਤਰ ਮਿਲਾ ਕੇ ਇੱਕ ਵਾਕ ਵਾਂਗ ਪੜ੍ਹਿਆ ਜਾਂਦਾ ਹੈ: ਜਿਹੜੇ ਮਾਹਰ ਮਸਾਂ ਹੀ ਵਰਤੇ ਜਾਂਦੇ ਸਨ ਉਹ ਛਾਂਗ ਦਿਓ, 4-ਬਿੱਟ ਰਾਊਂਡਿੰਗ ਅੰਦਾਜ਼ੇ ਦੀ ਥਾਂ ਸਿੱਖੋ, ਅਤੇ ਐਕਟੀਵੇਸ਼ਨ ਪੂਰੀ ਚੌੜਾਈ ਉੱਤੇ ਰੱਖੋ।
04ਇਹ ਮਾਡਲ ਅਸਲ ਵਿੱਚ ਕਿਸ ਗੱਲ ਵਿੱਚ ਚੰਗਾ ਹੈ?
ਪਹਿਲਾਂ ਈਮਾਨਦਾਰੀ: Laguna S 2.1 ਸਿਰਫ਼ ਲਿਖਤ ਵਾਲਾ ਗੱਲਬਾਤੀ ਮਾਡਲ ਹੈ — ਇਸ ਮਾਡਲ id ਉੱਤੇ ਕੋਈ ਚਿੱਤਰ ਇਨਪੁੱਟ ਨਹੀਂ — ਅਤੇ Poolside ਨੇ ਇਸਨੂੰ ਏਜੰਟ ਕੋਡਿੰਗ ਅਤੇ ਲੰਮੇ ਦਾਇਰੇ ਵਾਲੇ ਕੰਮ ਲਈ ਬਣਾਇਆ ਸੀ, ਵਾਰਤਕ ਲਈ ਨਹੀਂ। ਸਿਖਲਾਈ ਤੋਂ ਬਾਅਦ ਦਾ ਪੜਾਅ 409,000 ਤੋਂ ਵੱਧ ਵਾਤਾਵਰਨਾਂ ਉੱਤੇ ਚੱਲਿਆ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ 83,000 ਟਰਮੀਨਲ ਅਤੇ 168,000 ਸਾਫ਼ਟਵੇਅਰ-ਇੰਜੀਨੀਅਰਿੰਗ ਕੰਮ ਸ਼ਾਮਲ ਸਨ, ਅਤੇ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ FP8 ਵਿੱਚ ਹੋਈ। ਬਿਨਾਂ ਕੁਆਂਟਾਈਜ਼ ਕੀਤੀ ਰਿਲੀਜ਼ ਲਈ Poolside ਦੇ ਦੱਸੇ ਨਤੀਜੇ:
| ਬੈਂਚਮਾਰਕ | ਸੋਚ ਨਾਲ | ਸੋਚ ਤੋਂ ਬਿਨਾਂ | ਇਹ ਕੀ ਮਾਪਦਾ ਹੈ |
|---|---|---|---|
| SWE-Bench Multilingual | 78.5% | — | ਕਈ ਭਾਸ਼ਾਵਾਂ ਵਿੱਚ ਅਸਲੀ ਬੱਗ ਸੁਧਾਰ |
| Terminal-Bench 2.1 | 70.2% | 60.4% | ਬਹੁ-ਕਦਮੀ ਸ਼ੈੱਲ ਅਤੇ ਸੰਦਾਂ ਵਾਲਾ ਕੰਮ |
| SWE-Bench Pro | 59.4% | — | ਔਖੇ, ਗੰਦਗੀ-ਰੋਧੀ ਰਿਪੌਜ਼ਟਰੀ ਕੰਮ |
| Toolathlon Verified | 49.7% | — | ਕਈ API ਵਿੱਚ ਟੂਲ-ਵਰਤੋਂ ਦੀ ਚੌੜਾਈ |
| SWE Atlas | 46.2% | — | ਲੰਮੇ ਦਾਇਰੇ ਵਾਲੀ ਰਿਪੌਜ਼ਟਰੀ ਘੁੰਮ-ਫਿਰ |
| DeepSWE v1.1 | 40.4% | 16.5% | ਏਜੰਟ ਸਾਫ਼ਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ |
ਇੱਥੇ ਸਭ ਤੋਂ ਕੰਮ ਦਾ ਅੰਕ ਦੋਵਾਂ ਕਾਲਮਾਂ ਵਿਚਲਾ ਪਾੜਾ ਹੈ: DeepSWE ਉੱਤੇ ਤਰਕ ਚਾਲੂ ਕਰਨ ਨਾਲ ਅੰਕ ਦੁੱਗਣੇ ਤੋਂ ਵੀ ਵੱਧ ਹੋ ਜਾਂਦੇ ਹਨ, ਅਤੇ Terminal-Bench ਉੱਤੇ ਲਗਭਗ ਦਸ ਅੰਕ ਵਧਦੇ ਹਨ।
ਬਿਨਾਂ ਕੁਆਂਟਾਈਜ਼ ਕੀਤੀ Laguna S 2.1 ਰਿਲੀਜ਼ ਲਈ Poolside ਵੱਲੋਂ ਦੱਸੇ ਅੰਕੜੇ, ਜੁਲਾਈ 2026। ਇਹ ਸਾਡੇ W4A16-AutoRound-REAP ਬਿਲਡ ਦੀਆਂ ਮਿਣਤੀਆਂ ਨਹੀਂ, ਅਤੇ ਅਸੀਂ ਉਸ ਲਈ ਆਪਣੇ ਕੋਈ ਬੈਂਚਮਾਰਕ ਅੰਕ ਨਹੀਂ ਛਾਪਦੇ। ਸਾਡੀ API ਉੱਤੇ ਸੋਚ ਦਾ ਬਜਟ ਕੰਟਰੋਲ ਕਰਨ ਲਈ reasoning_effort ਵਰਤੋ।
ਗੱਲਬਾਤ ਅਤੇ ਰਚਨਾਤਮਕ ਕੰਮ ਬਾਰੇ ਈਮਾਨਦਾਰ ਗੱਲ ਇਹ ਹੈ: ਲੰਮੀਆਂ ਏਜੰਟ ਦੌੜਾਂ ਪਿੱਛੇ ਜੋ ਗੁਣ ਹਨ — ਬਹੁਤ ਸਾਰੀ ਹਾਲਤ ਜੁੜਵੇਂ ਢੰਗ ਨਾਲ ਚੁੱਕੀ ਰੱਖਣਾ, ਕੰਮ ਉੱਤੇ ਟਿਕੇ ਰਹਿਣਾ, ਨਾ ਖਿਸਕਣਾ — ਉਹੀ ਗੁਣ ਲੰਮੇ ਕਿਰਦਾਰ ਵਾਲੇ ਕੰਮ ਪਿੱਛੇ ਵੀ ਹਨ, ਅਤੇ ਅਮਲ ਵਿੱਚ ਇਹ ਬਹੁਤ ਲੰਮੀ ਵਿੰਡੋ ਵਿੱਚ ਆਵਾਜ਼ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸੰਭਾਲਦਾ ਹੈ। ਕੋਈ ਛਪਿਆ ਬੈਂਚਮਾਰਕ ਇਹ ਨਹੀਂ ਕਹਿੰਦਾ, ਅਤੇ ਅਸੀਂ ਕੋਈ ਘੜਾਂਗੇ ਨਹੀਂ। ਆਪਣੇ ਪ੍ਰੌਂਪਟਾਂ ਉੱਤੇ ਪਰਖੋ; ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $0.50 ਉੱਤੇ ਇਹ ਲਗਭਗ ਮੁਫ਼ਤ ਹੈ।
05ਫ਼ਰਸ਼ ਕੀਮਤ ਅਸਲ ਵਿੱਚ ਕੀ ਖ਼ਰੀਦਦੀ ਹੈ?
ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਟੋਕਨ $0.50 ਅੰਦਰ / $2.00 ਬਾਹਰ Shannon AI Gateway ਦਾ ਸ਼ੁਰੂਆਤੀ ਦਰਜਾ ਹੈ, ਜੋ MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro ਅਤੇ Hy3 ਨਾਲ ਸਾਂਝਾ ਹੈ। ਠੋਸ ਰੂਪ ਵਿੱਚ:
| ਕੰਮ ਦਾ ਬੋਝ | ਇਨਪੁੱਟ | ਆਊਟਪੁੱਟ | ਖ਼ਰਚਾ |
|---|---|---|---|
| 100K ਇਤਿਹਾਸ ਨਾਲ ਇੱਕ ਚੈਟ ਵਾਰੀ | 100,000 | 2,000 | $0.054 |
| ਲੰਮੇ ਖਾਕੇ ਤੋਂ 5,000 ਸ਼ਬਦਾਂ ਦਾ ਅਧਿਆਇ | 30,000 | 7,000 | $0.029 |
| 1,000 ਛੋਟੀਆਂ ਗੱਲਬਾਤ ਵਾਰੀਆਂ | 4,000,000 | 500,000 | $3.00 |
| ਪੂਰੇ 262K-ਟੋਕਨ ਸੰਦਰਭ ਦੀ ਇੱਕ ਪੜ੍ਹਤ | 262,144 | 16,384 | $0.164 |
ਅਖ਼ੀਰਲੀ ਕਤਾਰ ਹੀ ਮਨ ਵਿੱਚ ਬਿਠਾਉਣ ਵਾਲੀ ਹੈ: ਪੂਰੀ ਸੰਦਰਭ ਵਿੰਡੋ ਭਰਨ ਅਤੇ ਵੱਧ ਤੋਂ ਵੱਧ 16,384-ਟੋਕਨ ਜਵਾਬ ਬਣਾਉਣ ਦਾ ਖ਼ਰਚਾ ਲਗਭਗ ਸੋਲਾਂ ਸੈਂਟ ਹੈ। ਪੂਰਾ ਖਰੜਾ, ਸੈਸ਼ਨ ਦਾ ਰਿਕਾਰਡ, ਜਾਂ ਦਸਤਾਵੇਜ਼ਾਂ ਦਾ ਸੈੱਟ ਇੱਕੋ ਕਾਲ ਵਿੱਚ ਖੁਆਉਣਾ ਬਜਟ ਦਾ ਫ਼ੈਸਲਾ ਰਹਿ ਹੀ ਨਹੀਂ ਜਾਂਦਾ, ਲੇਟੈਂਸੀ ਦਾ ਫ਼ੈਸਲਾ ਬਣ ਜਾਂਦਾ ਹੈ। ਇਹੀ ਹਿਸਾਬ ਫ਼ਰਸ਼ ਕੀਮਤ ਦੇ ਦੂਜੇ ਵਰਤੋਂ ਦੇ ਢੰਗ ਨੂੰ ਵੀ ਚਲਾਉਂਦਾ ਹੈ — ਮਾਤਰਾ: ਥੋਕ ਵਰਗੀਕਰਨ, ਥੋਕ ਵਿੱਚ ਦੁਬਾਰਾ ਲਿਖਣਾ, ਬਣਾਵਟੀ ਸੰਵਾਦ, ਪਹਿਲਾ ਖਰੜਾ ਜਿਸਨੂੰ ਬਾਅਦ ਵਿੱਚ ਕੋਈ ਤਕੜਾ ਮਾਡਲ ਸੁਧਾਰਦਾ ਹੈ। ਕੀਮਤ ਵਾਲਾ ਸਫ਼ਾ ਅਤੇ ਖੋਜ ਸੂਚੀ ਵੇਖੋ।
06ਇੱਥੇ "ਬਿਨਾਂ ਸੈਂਸਰ" ਦਾ ਕੀ ਮਤਲਬ ਹੈ
ਮਤਲਬ ਉਹੀ ਹੈ ਜੋ ਕਿਹਾ ਗਿਆ ਹੈ: ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ ਅਤੇ ਆਊਟਪੁੱਟ ਉੱਤੇ ਕੋਈ ਸਮੱਗਰੀ ਫਿਲਟਰਿੰਗ ਨਹੀਂ। ਮਾਡਲ ਅਤੇ ਤੁਹਾਡੇ ਜਵਾਬ ਵਿਚਕਾਰ ਕੋਈ ਵਰਗੀਕਾਰ ਨਹੀਂ ਬੈਠਦਾ ਜੋ ਤੈਅ ਕਰੇ ਕਿ ਤੁਹਾਨੂੰ ਪੁੱਛਣ ਦੀ ਇਜਾਜ਼ਤ ਸੀ ਜਾਂ ਨਹੀਂ; ਮਾਡਲ ਉਸੇ ਸੁਰ ਵਿੱਚ ਜਵਾਬ ਦਿੰਦਾ ਹੈ ਜੋ ਤੁਸੀਂ ਮੰਗੀ ਸੀ ਅਤੇ ਪਹਿਲਾਂ ਤੁਹਾਨੂੰ ਸਵਾਲ ਦੀ ਬੁਨਿਆਦ ਬਾਰੇ ਲੈਕਚਰ ਨਹੀਂ ਦਿੰਦਾ।
ਰਚਨਾਤਮਕ ਕੰਮ ਲਈ ਇਹੀ ਵਰਤਣਯੋਗ ਅਤੇ ਨਾ-ਵਰਤਣਯੋਗ ਸੰਦ ਵਿਚਲਾ ਫ਼ਰਕ ਹੈ। ਗਲਪ ਵਿੱਚ ਡਰਾਉਣੇ ਖਲਨਾਇਕ ਹੁੰਦੇ ਹਨ, ਅਜਿਹੇ ਕਿਰਦਾਰ ਜੋ ਯਕੀਨ ਦਿਵਾਉਣ ਵਾਲਾ ਝੂਠ ਬੋਲਦੇ ਹਨ, ਨਤੀਜਿਆਂ ਵਾਲੀ ਹਿੰਸਾ, ਨੈਤਿਕ ਤੌਰ ਉੱਤੇ ਦਾਗ਼ੀ ਬਿਰਤਾਂਤਕਾਰ — ਜੋ ਮਾਡਲ ਕਿਰਦਾਰ ਤੋੜ ਕੇ ਬੇਦਾਵਾ ਜੋੜ ਦਿੰਦਾ ਹੈ ਉਹ ਕੰਮ ਵਿੱਚ ਫ਼ੇਲ੍ਹ ਹੋਇਆ ਹੈ, ਸੁਰੱਖਿਆ ਵਿੱਚ ਕਾਮਯਾਬ ਨਹੀਂ। ਇਹੀ ਗੱਲ ਸੁਰੱਖਿਆ ਖੋਜ, ਰੈੱਡ-ਟੀਮ ਦਸਤਾਵੇਜ਼ਾਂ, ਮੈਡੀਕਲ ਤੇ ਕਾਨੂੰਨੀ ਖਰੜਿਆਂ, ਅਤੇ ਉਸ ਅਨੁਵਾਦ ਲਈ ਸੱਚ ਹੈ ਜਿੱਥੇ ਮੂਲ ਸਿੱਧਾ-ਸਾਦਾ ਕਰੜਾ ਹੈ: ਇਹ ਉਹ ਵੰਨਗੀਆਂ ਹਨ ਜਿੱਥੇ ਇਨਕਾਰ ਸਿੱਧਾ ਗ਼ਲਤ ਜਵਾਬ ਹੈ। ਇਸਦਾ ਇਹ ਮਤਲਬ ਨਹੀਂ ਕਿ ਸਮਝਦਾਰੀ ਹੁਣ ਤੁਹਾਡੀ ਨਹੀਂ ਰਹੀ — ਜੋ ਤੁਸੀਂ ਬਣਾਉਂਦੇ ਹੋ ਉਸਦੇ ਤੁਸੀਂ ਹੀ ਜ਼ਿੰਮੇਵਾਰ ਹੋ, ਸਾਡੀ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਅਤੇ ਲਾਗੂ ਕਾਨੂੰਨ ਅਧੀਨ।
07ਬਿਨਾਂ ਸੈਂਸਰ Laguna API ਨੂੰ ਕਿਵੇਂ ਸੱਦਣਾ ਹੈ
ਤਿੰਨ ਬੋਲੀਆਂ, ਇੱਕੋ ਮਾਡਲ: /v1/chat/completions (OpenAI), /v1/messages (Anthropic), /v1/responses। ਸਟ੍ਰੀਮਿੰਗ ਤਿੰਨਾਂ ਉੱਤੇ ਚੱਲਦੀ ਹੈ, ਸੋ ਮੌਜੂਦਾ ਏਕੀਕਰਨ ਸਿਰਫ਼ ਬੇਸ URL ਅਤੇ ਮਾਡਲ id ਬਦਲ ਕੇ ਇੱਧਰ ਆ ਜਾਂਦਾ ਹੈ — ਨਾ SDK ਬਦਲਣਾ, ਨਾ ਸੁਨੇਹੇ ਸੰਭਾਲਣ ਵਾਲਾ ਕੋਡ ਦੁਬਾਰਾ ਲਿਖਣਾ।
POST https://api.shannon-ai.com/v1/chat/completions
{
"model": "Laguna-S-2.1-W4A16-AUTOROUND-REAP",
"messages": [
{ "role": "system", "content": "You are a hardboiled narrator. Stay in voice." },
{ "role": "user", "content": "Open chapter nine." }
],
"stream": true,
"max_tokens": 4096,
"reasoning_effort": "low"
}
ਕੁਝ ਅਮਲੀ ਗੱਲਾਂ:
- ਇਸ ਮਾਡਲ id ਨੂੰ
response_formatਜਾਂjson_schemaਨਾ ਭੇਜੋ — ਜੇ ਤੁਹਾਡੀ ਕਲਾਇੰਟ ਲਾਇਬ੍ਰੇਰੀ ਮੂਲ ਰੂਪ ਵਿੱਚ ਕੋਈ ਸੈੱਟ ਕਰਦੀ ਹੈ, ਤਾਂ ਉਸਨੂੰ ਹਟਾਓ ਜਾਂ ਅਜਿਹੇ ਭਰਾ ਮਾਡਲ ਉੱਤੇ ਚਲੇ ਜਾਓ ਜੋ ਇਹ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ। - ਟੂਲ ਆਮ ਵਾਂਗ
toolsਐਰੇ ਵਿੱਚ ਜਾਂਦੇ ਹਨ — ਟੂਲ ਕਾਲਿੰਗ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਮਰਥਿਤ ਹੈ; ਸਿਰਫ਼ ਖੁੱਲ੍ਹੀ ਲਿਖਤ ਉੱਤੇ ਸਕੀਮਾ ਲਾਗੂ ਕਰਨਾ ਨਹੀਂ। - ਤਰਕ ਦਾ ਬਜਟ ਬੰਨ੍ਹੋ।
reasoning_effortਮੰਨਿਆ ਜਾਂਦਾ ਹੈ — ਘੱਟ ਜਾਂ ਬੰਦ ਰੱਖਣ ਨਾਲ ਗੱਲਬਾਤ ਦੀ ਲੇਟੈਂਸੀ ਥੱਲੇ ਰਹਿੰਦੀ ਹੈ ਅਤੇ ਆਊਟਪੁੱਟ ਟੋਕਨ ਸਸਤੇ; ਬਹੁ-ਕਦਮੀ ਟੂਲ ਕੰਮ ਲਈ ਇਸਨੂੰ ਵਧਾਓ, ਜਿੱਥੇ ਉੱਪਰਲਾ ਬੈਂਚਮਾਰਕ ਪਾੜਾ ਦੱਸਦਾ ਹੈ ਕਿ ਇਹ ਕੀ ਖ਼ਰੀਦਦਾ ਹੈ। - ਆਊਟਪੁੱਟ ਦੀ ਹੱਦ ਪ੍ਰਤੀ ਬੇਨਤੀ 16,384 ਟੋਕਨ ਹੈ। ਕਿਤਾਬ ਜਿੰਨੀ ਲੰਮੀ ਪੈਦਾਵਾਰ ਲਈ ਇਸਨੂੰ ਅਧਿਆਵਾਂ ਵਿੱਚ ਵੰਡੋ ਅਤੇ ਸਟ੍ਰੀਮ ਕਰੋ।
- ਸਿਰਫ਼ ਲਿਖਤ। ਇਸ ਮਾਡਲ id ਉੱਤੇ ਕੋਈ ਚਿੱਤਰ ਇਨਪੁੱਟ ਨਹੀਂ — ਵਿਜ਼ਨ ਲਈ MiMo-V2.5, Kimi-K2.6, Kimi-K3, MiniMax-M3 ਜਾਂ inkling ਵਰਤੋ।
ਪੂਰਾ ਪੈਰਾਮੀਟਰ ਹਵਾਲਾ, ਪ੍ਰਮਾਣੀਕਰਨ, ਗ਼ਲਤੀਆਂ ਦੇ ਅਰਥ ਅਤੇ ਇੱਕ ਚੱਲਦਾ ਪਲੇਅਗਰਾਊਂਡ: API ਦਸਤਾਵੇਜ਼।
08ਇਸਨੂੰ ਕਦੋਂ ਚੁਣੋ, ਅਤੇ ਕਦੋਂ ਨਾ ਚੁਣੋ
ਇਸਨੂੰ ਉਦੋਂ ਚੁਣੋ ਜਦੋਂ ਤੁਹਾਡੀ ਆਊਟਪੁੱਟ ਵਾਰਤਕ, ਸੰਵਾਦ ਜਾਂ ਕੋਈ ਬੰਦਾ ਪੜ੍ਹਨ ਵਾਲਾ ਕੋਡ ਹੈ; ਤੁਹਾਨੂੰ ਟੂਲ ਕਾਲਿੰਗ ਚਾਹੀਦੀ ਹੈ ਪਰ ਸਕੀਮਾ-ਬੱਧ ਲਿਖਤ ਨਹੀਂ; ਲੰਮੇ ਸੰਦਰਭ ਉੱਤੇ ਪ੍ਰਤੀ ਟੋਕਨ ਲਾਗਤ ਹੀ ਭਾਰੂ ਹੈ; ਜਾਂ ਤੁਸੀਂ ਉਸ ਵੰਸ਼ਾਵਲੀ ਤੋਂ ਦੂਜੀ ਰਾਇ ਚਾਹੁੰਦੇ ਹੋ ਜੋ ਬਾਕੀ ਸੂਚੀ ਭਰਨ ਵਾਲੇ DeepSeek, Kimi ਅਤੇ MiMo ਪਰਿਵਾਰਾਂ ਤੋਂ ਵੱਖਰੀ ਹੈ।
ਕੁਝ ਹੋਰ ਉਦੋਂ ਚੁਣੋ ਜਦੋਂ ਤੁਹਾਨੂੰ ਪੱਕਾ JSON ਚਾਹੀਦਾ ਹੈ (MiMo-V2.5-Pro), ਚਿੱਤਰ ਸਮਝ ਚਾਹੀਦੀ ਹੈ (Kimi-K2.6 ਜਾਂ MiMo-V2.5), ਜਾਂ ਔਖ ਦਾ ਉਹ ਮੋਹਰਲਾ ਸਿਰਾ ਚਾਹੀਦਾ ਹੈ ਜਿੱਥੇ ਸਹੀ ਜਵਾਬ ਮਿਲਣ ਦੇ ਸਾਹਮਣੇ ਕੀਮਤ ਦਾ ਫ਼ਰਕ ਬੇਮਾਅਨੇ ਹੈ (DeepSeek-V4-Pro, Kimi-K3)।
json_schema ਤੇ response_format, ਦੋਵਾਂ ਨਾਲ। MiMo-V2.5 ਮਾਡਲ ਕਾਰਡ ਪੜ੍ਹੋ, ਜਾਂ ਖੋਜ ਸੂਚੀ ਵਿੱਚ ਬਾਰਾਂਵਾਂ ਵੇਖੋ।
ਇੱਥੇ ਹਰ ਢਾਂਚਾਗਤ ਅਤੇ ਬੈਂਚਮਾਰਕ ਦਾਅਵਾ ਮਾਡਲ ਦੇ ਪ੍ਰਕਾਸ਼ਕ ਜਾਂ ਸੰਕੁਚਨ ਤਰੀਕਿਆਂ ਦੇ ਲੇਖਕਾਂ ਵੱਲੋਂ ਆਉਂਦਾ ਹੈ। ਇਨ੍ਹਾਂ ਨੂੰ ਖ਼ੁਦ ਜਾਂਚੋ।
09ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
ਬਿਨਾਂ ਸੈਂਸਰ Laguna API ਕੀ ਹੈ?
ਇਹ Poolside ਦਾ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲਾ Laguna S 2.1 ਹੈ — 118 ਅਰਬ ਪੈਰਾਮੀਟਰ, ਪ੍ਰਤੀ ਟੋਕਨ ਲਗਭਗ 8 ਅਰਬ ਸਰਗਰਮ — ਜੋ Shannon ਦੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਬਿਨਾਂ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਅਤੇ ਬਿਨਾਂ ਕਿਸੇ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਦੇ ਪਰੋਸਿਆ ਜਾਂਦਾ ਹੈ। ਮਾਡਲ id Laguna-S-2.1-W4A16-AUTOROUND-REAP ਹੈ, ਸੰਦਰਭ ਵਿੰਡੋ 262,144 ਟੋਕਨ ਹੈ, ਅਤੇ ਕੀਮਤ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $0.50 ਅਤੇ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਆਊਟਪੁੱਟ ਟੋਕਨ $2.00 ਹੈ।
ਕੀ Shannon AI ਉੱਤੇ Laguna S 2.1 json_schema ਜਾਂ response_format ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ?
ਨਹੀਂ। ਇਹ Shannon ਦੀ ਸੂਚੀ ਦਾ ਇਕੱਲਾ ਮਾਡਲ ਹੈ ਜੋ ਇਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਨਹੀਂ ਲੈਂਦਾ। ਟੂਲ ਕਾਲਿੰਗ ਅਤੇ ਸਟ੍ਰੀਮਿੰਗ ਆਮ ਵਾਂਗ ਚੱਲਦੀਆਂ ਹਨ ਅਤੇ ਟੂਲ-ਕਾਲ ਦੀਆਂ ਦਲੀਲਾਂ ਹਾਲੇ ਵੀ JSON ਵਜੋਂ ਆਉਂਦੀਆਂ ਹਨ, ਪਰ ਸਹਾਇਕ ਦੀ ਲਿਖਤ ਆਊਟਪੁੱਟ ਉੱਤੇ ਸਰਵਰ ਵੱਲੋਂ ਲਾਗੂ ਕੀਤਾ ਕੋਈ ਸਕੀਮਾ ਨਹੀਂ ਹੈ। ਇਸੇ $0.50 / $2.00 ਕੀਮਤ ਉੱਤੇ ਪੱਕੇ JSON ਲਈ MiMo-V2.5-Pro (W8A16) ਵਰਤੋ।
W4A16-AUTOROUND-REAP ਦਾ ਕੀ ਮਤਲਬ ਹੈ?
W4A16 ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਵਜ਼ਨ 4 ਬਿੱਟ ਉੱਤੇ ਸਾਂਭੇ ਜਾਂਦੇ ਹਨ ਜਦਕਿ ਐਕਟੀਵੇਸ਼ਨ 16 ਬਿੱਟ ਉੱਤੇ ਰਹਿੰਦੀਆਂ ਹਨ। AutoRound, Intel ਦਾ ਸਿਖਲਾਈ-ਤੋਂ-ਬਾਅਦ ਵਾਲਾ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਤਰੀਕਾ ਹੈ, ਜੋ ਨੇੜਲੇ ਮੁੱਲ ਉੱਤੇ ਗੋਲ ਕਰਨ ਦੀ ਥਾਂ ਸਾਈਨਡ ਗਰੇਡੀਐਂਟ ਡਿਸੈਂਟ ਨਾਲ ਰਾਊਂਡਿੰਗ ਅਤੇ ਕਲਿੱਪਿੰਗ ਦੇ ਫ਼ੈਸਲੇ ਸਿੱਖਦਾ ਹੈ। REAP, Cerebras Research ਦਾ Router-weighted Expert Activation Pruning ਹੈ, ਜੋ ਮਾਹਰਾਂ-ਦੇ-ਮਿਸ਼ਰਣ ਵਾਲੇ ਮਾਡਲ ਵਿੱਚੋਂ ਵਿਰਲੇ ਅਤੇ ਕਮਜ਼ੋਰ ਰਾਊਟ ਹੋਣ ਵਾਲੇ ਮਾਹਰ ਕੁਆਂਟਾਈਜ਼ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਰਲਾਉਣ ਦੀ ਥਾਂ ਕੱਢ ਦਿੰਦਾ ਹੈ।
ਕੀ Laguna S 2.1 ਰਚਨਾਤਮਕ ਲਿਖਤ ਅਤੇ ਗੱਲਬਾਤ ਲਈ ਵਧੀਆ ਹੈ?
ਇਹ ਸਿਰਫ਼ ਲਿਖਤ ਵਾਲਾ ਗੱਲਬਾਤੀ ਮਾਡਲ ਹੈ — ਕੋਈ ਚਿੱਤਰ ਇਨਪੁੱਟ ਨਹੀਂ — ਅਤੇ ਇਹ 262K ਵਿੰਡੋ ਵਿੱਚ ਲੰਮੀ, ਜੁੜਵੀਂ, ਕਿਰਦਾਰ ਵਿੱਚ ਰਹਿਣ ਵਾਲੀ ਵਾਰਤਕ ਕਾਇਮ ਰੱਖਦਾ ਹੈ, ਵਿਚਾਲੇ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਤੋਂ ਬਿਨਾਂ। Poolside ਦਾ ਛਾਪਿਆ ਬੈਂਚਮਾਰਕ ਰਿਕਾਰਡ ਏਜੰਟ ਕੋਡਿੰਗ ਵਿੱਚ ਹੈ, ਵਾਰਤਕ ਵਿੱਚ ਨਹੀਂ, ਸੋ ਕਿਸੇ ਸੂਚੀ ਉੱਤੇ ਯਕੀਨ ਕਰਨ ਦੀ ਥਾਂ ਰਚਨਾਤਮਕ ਗੁਣਵੱਤਾ ਆਪਣੇ ਪ੍ਰੌਂਪਟਾਂ ਉੱਤੇ ਪਰਖੋ।
ਬਿਨਾਂ ਸੈਂਸਰ Laguna API ਦੀ ਕੀਮਤ ਕਿੰਨੀ ਹੈ?
ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $0.50 ਅਤੇ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਆਊਟਪੁੱਟ ਟੋਕਨ $2.00 — Shannon AI Gateway ਉੱਤੇ ਫ਼ਰਸ਼ ਕੀਮਤ, ਜੋ MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro ਅਤੇ Hy3 ਨਾਲ ਸਾਂਝੀ ਹੈ। 100,000 ਟੋਕਨਾਂ ਵਾਲੀ ਗੱਲਬਾਤ ਜੋ 2,000 ਟੋਕਨਾਂ ਦਾ ਜਵਾਬ ਬਣਾਉਂਦੀ ਹੈ, ਲਗਭਗ 5.4 ਸੈਂਟ ਵਿੱਚ ਪੈਂਦੀ ਹੈ।
ਬਿਨਾਂ ਸੈਂਸਰ Laguna API ਅਜ਼ਮਾਓ
118B MoE · 262K ਸੰਦਰਭ · ਟੂਲ ਅਤੇ ਸਟ੍ਰੀਮਿੰਗ · ਪ੍ਰਤੀ 1M ਟੋਕਨ $0.50 / $2.00।
API ਦਸਤਾਵੇਜ਼ ਪੜ੍ਹੋ ਗੱਲਬਾਤ ਸ਼ੁਰੂ ਕਰੋਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ · ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਨਹੀਂ · ਤੁਹਾਡੀ ਸਮਝ, ਤੁਹਾਡੀ ਜ਼ਿੰਮੇਵਾਰੀ
ਸਰੋਤ: Poolside — Laguna S 2.1 ਮਾਡਲ ਕਾਰਡ · Introducing Laguna S 2.1 · REAP the Experts (Cerebras Research) · Intel AutoRound। ਢਾਂਚੇ ਅਤੇ ਬੈਂਚਮਾਰਕ ਦੇ ਅੰਕੜੇ ਬਿਨਾਂ ਕੁਆਂਟਾਈਜ਼ ਕੀਤੀ ਰਿਲੀਜ਼ ਲਈ ਪ੍ਰਕਾਸ਼ਕ ਵੱਲੋਂ ਦੱਸੇ ਗਏ ਹਨ, ਜੋ ਬਿਲਡ ਅਸੀਂ ਪਰੋਸਦੇ ਹਾਂ ਉਸਦੀਆਂ ਮਿਣਤੀਆਂ ਨਹੀਂ। Shannon AI ਨੂੰ Shannon Lab LLC, New Mexico, USA ਚਲਾਉਂਦੀ ਹੈ।