ਅਸੀਂ ਕਿਸੇ ਵੀ ਯੂਜ਼ਰ ਦਾ ਡਾਟਾ ਨਾ ਰੱਖਦੇ ਹਾਂ ਨਾ ਉਸ ਤੱਕ ਪਹੁੰਚ ਕਰਦੇ ਹਾਂ, ਅਤੇ ਨਾ ਹੀ ਖਾਤੇ suspend ਕਰਦੇ ਹਾਂ ਜਦ ਤੱਕ ਕੋਈ ਕਾਨੂੰਨੀ ਅਥਾਰਟੀ enforcement action ਦੀ ਮੰਗ ਨਾ ਕਰੇ।
ਬਿਨਾਂ ਸੈਂਸਰ ਮਾਡਲ · Hy3 · W8A16

ਬਿਨਾਂ ਸੈਂਸਰ Hy3 ਮਾਡਲ API

Tencent ਦੀ 295B Hy3 ਬੁਨਿਆਦ 8-ਬਿੱਟ ਵਜ਼ਨ ਵਫ਼ਾਦਾਰੀ ਉੱਤੇ, ਸਖ਼ਤ json_schema ਆਊਟਪੁੱਟ, 262,144-ਟੋਕਨ ਵਿੰਡੋ ਅਤੇ ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ — ਸੂਚੀ ਦੀ ਸਭ ਤੋਂ ਹੇਠਲੀ ਕੀਮਤ ਉੱਤੇ।

5 ਸਤੰਬਰ 2026 ਨੂੰ ਅੱਪਡੇਟਮਾਡਲ ਗਾਈਡਬੁਨਿਆਦ: Tencent Hy3ਸਿਰਫ਼-ਲਿਖਤ

ਸੰਖੇਪ

Hy3-W8A16 ਸਾਡੇ ਤਿੰਨ W8A16 ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਤੀਜਾ ਹੈ — 8-ਬਿੱਟ ਵਜ਼ਨ, 16-ਬਿੱਟ ਐਕਟੀਵੇਸ਼ਨਾਂ, ਅਸੀਂ ਜੋ ਪਰੋਸਦੇ ਹਾਂ ਉਸ ਵਿੱਚੋਂ ਸਭ ਤੋਂ ਵੱਧ ਵਫ਼ਾਦਾਰੀ ਵਾਲਾ ਦਰਜਾ। ਇਹ ਸਿਰਫ਼-ਲਿਖਤ ਹੈ, json_schema ਅਤੇ response_format ਦੋਵੇਂ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ, ਸੂਚੀ-ਭਰ ਦੀ 262,144-ਟੋਕਨ ਸੰਦਰਭ ਅਤੇ 16,384-ਟੋਕਨ ਆਊਟਪੁੱਟ ਹੱਦ ਰੱਖਦਾ ਹੈ, ਅਤੇ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਟੋਕਨ $0.50 / $2.00 — ਸਭ ਤੋਂ ਹੇਠਲੀ ਕੀਮਤ — ਲੈਂਦਾ ਹੈ। ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ, ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਨਹੀਂ। ਇਸਨੂੰ ਉਨ੍ਹਾਂ ਵੱਡੇ-ਪੱਧਰ ਦੀਆਂ ਲਿਖਤ ਪਾਈਪਲਾਈਨਾਂ ਲਈ ਚੁਣੋ ਜਿਨ੍ਹਾਂ ਨੂੰ ਹਰ ਕਾਲ ਉੱਤੇ ਪਾਰਸ ਹੋਣ ਯੋਗ, ਟਾਈਪ ਕੀਤਾ ਆਊਟਪੁੱਟ ਮੋੜਨਾ ਹੀ ਪੈਂਦਾ ਹੈ, ਉਸ ਸਮੱਗਰੀ ਉੱਤੇ ਵੀ ਜਿਸਨੂੰ ਫਿਲਟਰ ਵਾਲਾ ਮਾਡਲ ਹੱਥ ਲਾਉਣ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦੇਵੇ।

ਬਹੁਤੀਆਂ “ਕਿਹੜਾ ਮਾਡਲ ਵਰਤਾਂ” ਬਹਿਸਾਂ ਸਭ ਤੋਂ ਉੱਚੇ ਪੱਧਰ ਬਾਰੇ ਹੁੰਦੀਆਂ ਹਨ: ਕਿਹੜਾ ਸਭ ਤੋਂ ਵਧੀਆ ਕੋਡ ਲਿਖਦਾ ਹੈ, ਸਭ ਤੋਂ ਔਖਾ ਗਣਿਤ ਹੱਲ ਕਰਦਾ ਹੈ, ਸਭ ਤੋਂ ਲੰਮੀ ਏਜੰਟ ਦੌੜ ਜਿੱਤਦਾ ਹੈ। ਢਾਂਚਾਗਤ ਪਾਈਪਲਾਈਨਾਂ ਇਸ ਤਰ੍ਹਾਂ ਕੰਮ ਨਹੀਂ ਕਰਦੀਆਂ। ਦਿਨ ਵਿੱਚ ਇੱਕ ਲੱਖ ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚੋਂ ਖੇਤਰ ਕੱਢਣ ਵਾਲੇ ਕੰਮ ਨੂੰ ਇੱਕ ਵਾਰ ਲਾਸਾਨੀ ਹੋਣ ਵਾਲੇ ਮਾਡਲ ਦੀ ਲੋੜ ਨਹੀਂ — ਉਸਨੂੰ ਅਜਿਹਾ ਮਾਡਲ ਚਾਹੀਦਾ ਹੈ ਜੋ ਹਰ ਵਾਰ ਇੱਕੋ ਸ਼ਕਲ ਵਿੱਚ ਸਹੀ ਹੋਵੇ, ਅਤੇ ਜੋ ਕਦੇ ਵੀ ਉੱਥੇ ਪੈਰਾ ਨਾ ਮੋੜੇ ਜਿੱਥੇ JSON ਆਬਜੈਕਟ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਇਹੀ ਉਹ ਗੁਣ ਹੈ ਜਿਸ ਲਈ Hy3-W8A16 ਇੱਥੇ ਹੈ।

01Hy3 ਕੀ ਹੈ, ਅਤੇ ਇਹ ਕਿੱਥੋਂ ਆਉਂਦਾ ਹੈ

Hy3 Tencent ਦੀ Hunyuan ਟੀਮ ਦਾ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲਾ ਤਰਕ ਅਤੇ ਏਜੰਟ ਮਾਡਲ ਹੈ, ਜੋ 6 ਜੁਲਾਈ 2026 ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖੁੱਲ੍ਹੇ ਲਾਇਸੰਸ ਹੇਠ ਜਾਰੀ ਕੀਤਾ ਗਿਆ, ਵਜ਼ਨ Hugging Face ਉੱਤੇ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ ਗਏ। ਇਹ Tencent ਦੇ ਪਹਿਲੇ Hunyuan-Large ਮਾਹਰਾਂ-ਦੇ-ਮਿਸ਼ਰਣ ਵਾਲੇ ਕੰਮ ਦੀ ਵੰਸ਼ਾਵਲੀ ਅੱਗੇ ਵਧਾਉਂਦਾ ਹੈ। ਢਾਂਚੇ ਦੇ ਹਿਸਾਬ ਨਾਲ ਇਹ ਇੱਕ ਵਿਰਲਾ MoE ਹੈ: 295 ਅਰਬ ਕੁੱਲ ਪੈਰਾਮੀਟਰ, ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਲਗਭਗ 21 ਅਰਬ ਪ੍ਰਤੀ ਟੋਕਨ 192 ਮਾਹਰਾਂ ਉੱਤੇ ਟਾਪ-8 ਰਾਊਟਿੰਗ ਰਾਹੀਂ ਸਰਗਰਮ ਹੁੰਦੇ ਹਨ, 80-ਪਰਤਾਂ ਵਾਲੇ ਟ੍ਰਾਂਸਫ਼ਾਰਮਰ ਉੱਤੇ ਗਰੁੱਪਡ-ਕਵੇਰੀ ਧਿਆਨ ਨਾਲ, ਨਾਲੇ ਸਪੈਕੁਲੇਟਿਵ ਡੀਕੋਡਿੰਗ ਲਈ ਇੱਕ ਵੱਖਰੀ 3.8B ਮਲਟੀ-ਟੋਕਨ-ਪ੍ਰੈਡਿਕਸ਼ਨ ਪਰਤ। ਮੂਲ ਸੰਦਰਭ 256K ਹੈ — ਬਿਲਕੁਲ ਓਹੀ 262,144 ਟੋਕਨ ਜੋ ਅਸੀਂ ਦਿੰਦੇ ਹਾਂ, ਕਿਸੇ ਵੱਡੀ ਚੀਜ਼ ਦੀ ਕਟੌਤੀ ਨਹੀਂ ਜਾਂ ਕਿਸੇ ਛੋਟੀ ਚੀਜ਼ ਦਾ rope-ਖਿੱਚਿਆ ਵਿਸਥਾਰ ਨਹੀਂ।

295B
ਕੁੱਲ ਪੈਰਾਮੀਟਰ
21B
ਸਰਗਰਮ / ਟੋਕਨ
192
ਮਾਹਰ (ਟਾਪ-8)
262K
ਸੰਦਰਭ ਵਿੰਡੋ

ਪ੍ਰਤੀ ਟੋਕਨ ਭੁਗਤਾਨ ਕਰਨ ਵਾਲੇ ਹਰ ਕਿਸੇ ਲਈ ਇਹੀ ਵਿਰਲੇਪਣ ਅਨੁਪਾਤ ਅਹਿਮ ਅੰਕ ਹੈ: Hy3 295B ਮਾਡਲ ਦਾ ਗਿਆਨ ਚੁੱਕਦਾ ਹੈ ਜਦਕਿ ਹਰ ਫਾਰਵਰਡ-ਪਾਸ ਉੱਤੇ ਲਗਭਗ 21B ਦੇ ਬਰਾਬਰ ਹੀ ਹਿਸਾਬ ਕਰਦਾ ਹੈ। ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ ਅਸੀਂ ਇਸਨੂੰ ਹੋਰ ਸਖ਼ਤ ਸੰਕੁਚਿਤ ਕਰਨ ਦੀ ਥਾਂ 8 ਬਿੱਟਾਂ ਉੱਤੇ ਪਰੋਸਣ ਦੀ ਸਮਰੱਥਾ ਰੱਖਦੇ ਹਾਂ — ਏਨੇ ਵਿਰਲੇ ਮਾਡਲ ਦਾ 8-ਬਿੱਟ ਬਿਲਡ ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਫਿਰ ਵੀ ਸਮਾ ਜਾਂਦਾ ਹੈ ਅਤੇ ਤੇਜ਼ ਚੱਲਦਾ ਹੈ।

Tencent ਦੱਸਦਾ ਹੈ ਕਿ ਇਹ ਕਿਸ ਵਿੱਚ ਵਧੀਆ ਹੈ

Tencent ਦੀਆਂ ਪ੍ਰਕਾਸ਼ਿਤ ਮੁਲਾਂਕਣ ਸਾਰਣੀਆਂ Hy3 ਦੀਆਂ ਖ਼ੂਬੀਆਂ ਸਿੱਧੀਆਂ ਏਜੰਟ ਖੋਜ, ਟੂਲ ਤਾਲਮੇਲ, ਅਤੇ ਲੰਮੇ-ਸੰਦਰਭ ਪੁਨਰ-ਪ੍ਰਾਪਤੀ ਵਿੱਚ ਰੱਖਦੀਆਂ ਹਨ, ਨਾ ਕਿ ਸਿੱਧੇ ਕੋਡਿੰਗ ਵਿੱਚ। ਉਨ੍ਹਾਂ ਦੇ ਦੱਸੇ ਅੰਕੜੇ:

DeepSearchQA91.0
BrowseComp84.2
MCP-Atlas (ਟੂਲ)79.1
SWE-bench Verified78.0
AA-LCR (ਲੰਮਾ ਸੰਦਰਭ)73.4
DeepSWE28.0

ਅਸੀਂ ਕਮਜ਼ੋਰ ਬਾਰਾਂ ਨੂੰ ਜਾਣ-ਬੁੱਝ ਕੇ ਵਿਖਾਉਂਦੇ ਹਾਂ। Tencent ਦੀ ਆਪਣੀ ਤੁਲਨਾ ਵਿੱਚ Hy3 ਕੋਡਿੰਗ ਉੱਤੇ GLM-5.2 ਤੋਂ ਪਿੱਛੇ ਹੈ — SWE-bench Verified ਉੱਤੇ 78.0 ਬਨਾਮ 84.2, DeepSWE ਉੱਤੇ 28.0 ਬਨਾਮ 46.2। ਜੇ ਤੁਹਾਡਾ ਕੰਮ ਖ਼ੁਦਮੁਖ਼ਤਿਆਰ ਬਹੁ-ਫ਼ਾਈਲ ਸੌਫ਼ਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ ਹੈ, ਤਾਂ ਪਹਿਲਾਂ ਬਾਕੀ ਮਾਡਲ ਖੋਜ ਸੂਚੀ ਪੜ੍ਹੋ। ਜੇ ਇਹ ਲਿਖਤ ਪੜ੍ਹਨ ਅਤੇ ਢਾਂਚਾ ਬਣਾਉਣ ਵਾਲਾ ਹੈ, ਤਾਂ ਖ਼ਾਕਾ ਲਗਭਗ ਆਦਰਸ਼ ਹੈ।

ਪਾਈਪਲਾਈਨ ਵਾਲੇ ਕੰਮ ਲਈ ਸਭ ਤੋਂ ਵੱਧ ਮਾਇਨੇ ਰੱਖਣ ਵਾਲਾ ਅੰਕੜਾ ਭਰੋਸੇਯੋਗਤਾ ਦਾ ਹੈ: Tencent Hy3 ਦੀ ਭਰਮ ਦੀ ਦਰ 5.4% ਦੱਸਦਾ ਹੈ, ਪਿਛਲੀ ਪੀੜ੍ਹੀ ਦੇ 12.5% ਤੋਂ ਹੇਠਾਂ, ਆਮ-ਸਮਝ ਦੀਆਂ ਗ਼ਲਤੀਆਂ 25.4% ਤੋਂ ਘਟ ਕੇ 12.7% ਹੋ ਗਈਆਂ। ਉਨ੍ਹਾਂ ਦਾ ਦੱਸਿਆ ਸਿਖਲਾਈ ਸਿਧਾਂਤ — ਜਦੋਂ ਸਬੂਤ ਹੋਵੇ ਤਾਂ ਜਵਾਬ ਦਿਓ, ਜਦੋਂ ਨਾ ਹੋਵੇ ਤਾਂ ਸਾਫ਼ ਕਹੋ — ਬਿਲਕੁਲ ਉਹੀ ਸੁਭਾਅ ਹੈ ਜੋ ਤੁਸੀਂ ਕੱਢਣ ਵਾਲੇ ਮਾਡਲ ਵਿੱਚ ਚਾਹੁੰਦੇ ਹੋ, ਨਹੀਂ ਤਾਂ ਇਹ ਉਸ ਖੇਤਰ ਲਈ ਸੰਭਵ ਦਿਸਦਾ ਮੁੱਲ ਘੜ ਲੈਂਦਾ ਜਿਸਦਾ ਸਰੋਤ ਵਿੱਚ ਕਿਤੇ ਜ਼ਿਕਰ ਹੀ ਨਹੀਂ।

ਇਸ ਭਾਗ ਦੇ ਸਾਰੇ ਅੰਕੜੇ Tencent ਦੇ ਆਪਣੇ ਟੈਸਟ ਦੌਰਿਆਂ ਤੋਂ ਦੱਸੇ ਗਏ ਹਨ; ਲਿਖਣ ਵੇਲੇ ਸੁਤੰਤਰ ਤੀਜੀ-ਧਿਰ ਪੁਸ਼ਟੀ ਹਾਲੇ ਬਾਕੀ ਸੀ। ਇਨ੍ਹਾਂ ਨੂੰ ਦਿਸ਼ਾ-ਸੂਚਕ ਸਮਝੋ, ਤੈਅ-ਸ਼ੁਦਾ ਨਹੀਂ।

02W8A16 ਦਾ ਮਤਲਬ ਕੀ ਹੈ, ਅਤੇ ਇਹ ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਲਈ ਕਿਉਂ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ

ਗੇਟਵੇ ਦੇ ਹਰ ਮਾਡਲ ਦੇ ਨਾਂ ਪਿੱਛੇ ਇੱਕ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਪਿਛੇਤਰ ਲੱਗਿਆ ਹੁੰਦਾ ਹੈ। ਇਹ ਸਜਾਵਟ ਨਹੀਂ — ਇਹ ਦੱਸਦਾ ਹੈ ਕਿ ਪਰੋਸੇ ਗਏ ਵਜ਼ਨ ਲੈਬ ਵੱਲੋਂ ਜਾਰੀ ਕੀਤੇ ਚੈੱਕਪੁਆਇੰਟ ਤੋਂ ਕਿੰਨੀ ਦੂਰ ਹਨ।

ਦਰਜਾਇਹ ਕੀ ਕਰਦਾ ਹੈਵਫ਼ਾਦਾਰੀ
3BIT-REAP3-ਬਿੱਟ ਵਜ਼ਨ ਨਾਲੇ REAP, ਇੱਕ ਮਾਹਰ-ਛਾਂਗਣ ਵਿਧੀ ਜੋ ਕੁਆਂਟਾਈਜ਼ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਘੱਟ-ਵਾਰ ਰਾਊਟ ਹੋਏ MoE ਮਾਹਰ ਹਟਾਉਂਦੀ ਹੈਸਭ ਤੋਂ ਵੱਧ ਸੰਕੁਚਿਤ
W4A16-AUTOROUND-REAP4-ਬਿੱਟ ਵਜ਼ਨ / 16-ਬਿੱਟ ਐਕਟੀਵੇਸ਼ਨਾਂ, AutoRound ਰਾਹੀਂ — ਸਿੱਖੀ ਹੋਈ ਗੋਲਾਈ ਜੋ ਸਾਦੇ ਨੇੜਲੇ-ਪੂਰਨ ਅੰਕ ਵੱਲ ਗੋਲ ਕਰਨ ਨਾਲੋਂ ਸ਼ੁੱਧਤਾ ਵਾਪਸ ਲਿਆਉਂਦੀ ਹੈ — ਨਾਲੇ REAP ਛਾਂਗਣਵਿਚਕਾਰਲਾ
W8A168-ਬਿੱਟ ਵਜ਼ਨ / 16-ਬਿੱਟ ਐਕਟੀਵੇਸ਼ਨਾਂ। ਕੋਈ ਛਾਂਗਣ ਨਹੀਂ, ਕੋਈ ਸਿੱਖੀ-ਗੋਲਾਈ ਮੁਰੰਮਤ ਨਹੀਂ — ਵਜ਼ਨ ਸਿਰਫ਼ ਦੁੱਗਣੀ ਸ਼ੁੱਧਤਾ ਉੱਤੇ ਲੈ ਕੇ ਜਾਏ ਗਏਸਭ ਤੋਂ ਵੱਧ

ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਖਿਸਕਾਅ ਅਸਲ ਵਿੱਚ ਕਿੱਥੇ ਨੁਕਸਾਨ ਕਰਦਾ ਹੈ

REAP ਅਤੇ AutoRound ਸਾਦੇ ਸੰਕੁਚਨ ਨਾਲ ਗੁਆਚੇ ਬਹੁਤੇ ਹਿੱਸੇ ਵਾਪਸ ਲਿਆਉਂਦੇ ਹਨ — ਪਰ ਇਸ ਵਾਕ ਵਿੱਚ “ਬਹੁਤੇ” ਸ਼ਬਦ ਦਾ ਬਹੁਤ ਭਾਰ ਹੈ, ਅਤੇ ਬਚਿਆ ਹੋਇਆ ਹਿੱਸਾ ਬਰਾਬਰ ਨਹੀਂ ਵੰਡਿਆ ਜਾਂਦਾ। ਘੱਟ-ਬਿੱਟ ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ ਪੂਛਾਂ ਨੂੰ ਵਿਗਾੜਦਾ ਹੈ: ਘੱਟ-ਸੰਭਾਵਨਾ, ਵੱਧ-ਖ਼ਾਸ ਫ਼ੈਸਲੇ। ਵਾਰਤਕ ਵਿੱਚ ਇਹ ਲਗਭਗ ਅਦਿੱਖ ਹੈ; ਵੱਖਰਾ ਵਿਸ਼ੇਸ਼ਣ ਵੀ ਵਧੀਆ ਵਾਕ ਹੀ ਰਹਿੰਦਾ ਹੈ। ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਵਿੱਚ ਇਹੀ ਸਾਰੀ ਖੇਡ ਹੈ, ਕਿਉਂਕਿ ਸਕੀਮਾ ਘੱਟ-ਸੰਭਾਵਨਾ ਵਾਲੇ ਫ਼ੈਸਲਿਆਂ ਦੀ ਲੰਮੀ ਲੜੀ ਹੈ ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਹਰ ਇੱਕ ਬਿਲਕੁਲ ਸਹੀ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ:

  • ਟੋਕਨ-ਪੱਧਰੀ ਸੰਟੈਕਸ। ਬੰਦ ਹੋਣ ਵਾਲਾ ਬ੍ਰੇਸ, ਕੌਮਾ, ਕੋਟ ਅੱਖਰ। ਹਰ ਇੱਕ ਇੱਕ ਟੋਕਨ ਹੈ, ਅਤੇ ਇੱਕ ਗ਼ਲਤ ਟੋਕਨ ਪੂਰੇ ਜਵਾਬ ਨੂੰ ਅਵੈਧ ਕਰ ਦਿੰਦਾ ਹੈ।
  • Enum ਅਨੁਸ਼ਾਸਨ। ਤੁਹਾਡੀ ਸਕੀਮਾ ਕਹਿੰਦੀ ਹੈ ਕਿ "status", "open" | "closed" | "pending" ਵਿੱਚੋਂ ਇੱਕ ਹੈ; ਖਿਸਕਿਆ ਮਾਡਲ "Open" ਜਾਂ "pending review" ਮੋੜਦਾ ਹੈ — ਅਰਥ ਪੱਖੋਂ ਨੇੜੇ, ਪਰ ਦੋਵਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਵੈਧ ਨਹੀਂ।
  • ਕਿਸਮ ਅਨੁਸ਼ਾਸਨ। number ਖੇਤਰ "1,240" ਵਜੋਂ ਵਾਪਸ ਆਉਂਦਾ ਹੈ, boolean "yes" ਵਜੋਂ। ਦੋਵੇਂ ਸਟਰਿੰਗ ਵਜੋਂ ਪਾਰਸ ਹੁੰਦੇ ਹਨ ਅਤੇ ਸਕੀਮਾ ਫੇਲ੍ਹ ਕਰ ਦਿੰਦੇ ਹਨ।
  • ਲੰਮੀ-ਪੂਛ ਵਾਲੇ ਲਿਟਰਲ। ਦੁਰਲੱਭ ਖ਼ਾਸ ਨਾਂ, ਪੁਰਜ਼ੇ ਨੰਬਰ, ਰਸਾਇਣਕ ਨਾਂ, ਗ਼ੈਰ-ਲਾਤੀਨੀ ਲਿਪੀਆਂ, ਸਟੀਕ ਮਿਤੀਆਂ — ਬਿਲਕੁਲ ਉਹੀ ਘੱਟ-ਸੰਭਾਵਨਾ ਵਾਲਾ ਖੇਤਰ ਜਿਸਨੂੰ ਘੱਟ-ਬਿੱਟ ਵਜ਼ਨ ਧੁੰਦਲਾ ਕਰ ਦਿੰਦੇ ਹਨ।

ਇਸ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਗੱਲ 4-ਬਿੱਟ ਜਾਂ 3-ਬਿੱਟ ਮਾਡਲਾਂ ਨੂੰ ਮਾੜਾ ਨਹੀਂ ਬਣਾਉਂਦੀ; ਗੱਲਬਾਤ ਵਾਲੇ ਕੰਮ ਲਈ ਵਫ਼ਾਦਾਰੀ ਦਾ ਫ਼ਰਕ ਅਕਸਰ ਕੀਮਤ ਦੇ ਫ਼ਰਕ ਜਿੰਨਾ ਮਹੱਤਵਪੂਰਨ ਨਹੀਂ ਹੁੰਦਾ। ਪਰ ਜਦੋਂ ਆਊਟਪੁੱਟ ਦਾ ਖਪਤਕਾਰ ਮਨੁੱਖ ਦੀ ਥਾਂ ਵੈਲੀਡੇਟਰ ਹੋਵੇ, ਤਾਂ ਪੂਛਾਂ ਉੱਤੇ ਸ਼ੁੱਧਤਾ ਸਿੱਧਾ ਪਾਰਸ ਦਰ ਵਿੱਚ ਬਦਲਦੀ ਹੈ — ਅਤੇ ਪਾਰਸ ਦਰ ਮੁੜ-ਕੋਸ਼ਿਸ਼ ਦੇ ਬਜਟ ਅਤੇ p99 ਲੇਟੈਂਸੀ ਵਿੱਚ। W8A16 ਉਹ ਦਰਜਾ ਹੈ ਜਿੱਥੇ ਤੁਸੀਂ ਇਹ ਟੈਕਸ ਦੇਣਾ ਬੰਦ ਕਰਦੇ ਹੋ।

03ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ: json_schema ਅਤੇ response_format

Hy3 ਢਾਂਚਾਗਤ-ਆਊਟਪੁੱਟ ਸਤ੍ਹਾ ਦੇ ਦੋਵੇਂ ਅੱਧ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ — ਇਹ ਸਾਫ਼ ਕਹਿਣਾ ਬਣਦਾ ਹੈ, ਕਿਉਂਕਿ ਇਹ ਸੂਚੀ ਭਰ ਵਿੱਚ ਸਰਬ-ਸਾਂਝਾ ਨਹੀਂ:

ਮਾਡਲresponse_formatjson_schema
Hy3 · W8A16ਹਾਂਹਾਂ
MiMo-V2.5-Pro · W8A16ਹਾਂਹਾਂ
inkling · W4A16-AUTOROUND-REAPਹਾਂਨਹੀਂ
Laguna-S-2.1 · W4A16-AUTOROUND-REAPਨਹੀਂਨਹੀਂ

ਦੋਵਾਂ ਵਿਧੀਆਂ ਵਿਚਲਾ ਫ਼ਰਕ ਲੋਕਾਂ ਦੇ ਸੋਚਣ ਨਾਲੋਂ ਵੱਧ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। response_format: {"type": "json_object"} ਸਿਰਫ਼ ਵੈਧ JSON ਮੰਗਦਾ ਹੈ, ਹੋਰ ਕੁਝ ਨਹੀਂ — ਸ਼ਕਲ ਮਾਡਲ ਹੀ ਚੁਣਦਾ ਹੈ, ਸੋ ਦੋ ਕਾਲਾਂ {"name": ...} ਅਤੇ {"full_name": ...} ਮੋੜ ਸਕਦੀਆਂ ਹਨ ਅਤੇ ਦੋਵੇਂ ਸਹੀ ਹਨ। json_schema ਪਹਿਲਾਂ ਹੀ ਸ਼ਕਲ ਦਿੰਦਾ ਹੈ: ਨਾਮਵਰ ਖੇਤਰ, ਕਿਸਮਾਂ, enum, ਲਾਜ਼ਮੀ ਸੂਚੀਆਂ, ਨੈਸਟਿੰਗ। ਇਹ ਅਜਿਹਾ ਇਕਰਾਰਨਾਮਾ ਹੈ ਜਿਸਦੇ ਖ਼ਿਲਾਫ਼ ਤੁਸੀਂ ਕੋਡ ਲਿਖ ਸਕਦੇ ਹੋ।

OpenAI-ਅਨੁਕੂਲ ਬੋਲੀ ਉੱਤੇ ਇੱਕ ਘੱਟੋ-ਘੱਟ ਕਾਲ:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

ਵਿਹਾਰਕ ਟਿੱਪਣੀਆਂ

  • ਹਰ ਖੇਤਰ ਲਾਜ਼ਮੀ ਬਣਾਓ ਅਤੇ null ਦੀ ਇਜਾਜ਼ਤ ਦਿਓ। ਵਿਕਲਪਿਕ ਖੇਤਰ ਚੁੱਪ-ਚਾਪ ਛੱਡੇ ਜਾਣ ਨੂੰ ਸੱਦਾ ਦਿੰਦੇ ਹਨ; ਲਾਜ਼ਮੀ ਪਰ null-ਯੋਗ ਖੇਤਰ ਸਾਫ਼ “ਮੌਜੂਦ ਨਹੀਂ” ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ, ਜੋ ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਹੈ ਜਿਸ ਉੱਤੇ ਤੁਸੀਂ ਕਾਰਵਾਈ ਕਰ ਸਕਦੇ ਹੋ।
  • Enum ਖੁੱਲ੍ਹੀਆਂ ਸਟਰਿੰਗਾਂ ਨੂੰ ਪਛਾੜਦੇ ਹਨ। ਜਿੱਥੇ ਵੀ ਤੁਸੀਂ ਮੁੱਲਾਂ ਦਾ ਸੈੱਟ ਬੰਦ ਕਰ ਸਕਦੇ ਹੋ, ਬੰਦ ਕਰੋ — ਸਕੀਮਾ ਦੀ ਅਸਲੀ-ਸੰਸਾਰ ਪਾਸ ਦਰ ਉੱਤੇ ਸਭ ਤੋਂ ਵੱਧ ਅਸਰ ਪਾਉਣ ਵਾਲਾ ਬਦਲਾਅ।
  • 16,384-ਟੋਕਨ ਆਊਟਪੁੱਟ ਹੱਦ ਦੇ ਹੇਠਾਂ ਰਹੋ। ਬਿਨਾਂ ਹੱਦ ਵਾਲੀ ਐਰੇ ਆਬਜੈਕਟ ਵਿਚਾਲੇ ਹੀ ਟੁੱਟ ਜਾਵੇਗੀ। ਐਰੇ ਦੀ ਲੰਬਾਈ ਸੀਮਿਤ ਕਰੋ, ਜਾਂ ਇਨਪੁੱਟ ਨੂੰ ਟੁਕੜਿਆਂ ਵਿੱਚ ਵੰਡੋ।
  • ਸਿਸਟਮ ਸੁਨੇਹਾ ਰੱਖੋ। ਸਕੀਮਾ ਸ਼ਕਲ ਬੰਨ੍ਹਦੀ ਹੈ; ਪ੍ਰੌਂਪਟ ਹਾਲੇ ਵੀ ਅਰਥ ਤੈਅ ਕਰਦਾ ਹੈ — ਕੀ “critical” ਗਿਣਿਆ ਜਾਂਦਾ ਹੈ, ਦੋ ਮਿਤੀਆਂ ਆਉਣ ਤੇ ਕਿਹੜੀ ਜਿੱਤਦੀ ਹੈ, ਇਕਾਈਆਂ ਨੂੰ ਨੌਰਮਲਾਈਜ਼ ਕਰਨਾ ਹੈ ਜਾਂ ਨਹੀਂ।
  • ਫਿਰ ਵੀ ਪਰਖੋ। ਸਕੀਮਾ ਸਮਰਥਨ ਪਾਸ ਦਰ ਵਧਾਉਂਦਾ ਹੈ; ਇਹ ਵੈਲੀਡੇਟਰ ਅਤੇ dead-letter ਕਤਾਰ ਦੀ ਥਾਂ ਨਹੀਂ ਲੈਂਦਾ।

04“ਬਿਨਾਂ ਸੈਂਸਰ” ਸਿਰਫ਼ ਸਮੱਗਰੀ ਦੀ ਨਹੀਂ, ਭਰੋਸੇਯੋਗਤਾ ਦੀ ਵੀ ਵਿਸ਼ੇਸ਼ਤਾ ਕਿਉਂ ਹੈ

ਗੇਟਵੇ ਉੱਤੇ Hy3 ਦੇ ਅੱਗੇ ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਅਤੇ ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਨਹੀਂ। ਆਮ ਢਾਂਚਾ ਸਮੱਗਰੀ ਬਾਰੇ ਹੁੰਦਾ ਹੈ: ਤੁਸੀਂ ਸੁਰੱਖਿਆ ਖੋਜ, ਮਾਲਵੇਅਰ ਵਿਸ਼ਲੇਸ਼ਣ, ਐਕਸਪਲੌਇਟ ਲਿਖਤਾਂ, ਮੈਡੀਕਲ ਅਤੇ ਕਾਨੂੰਨੀ ਕਾਰਪਸ, ਬਾਲਗ ਸਮੱਗਰੀ, ਨੁਕਸਾਨ-ਘਟਾਊ ਦਸਤਾਵੇਜ਼, ਜਾਂ ਵਿਰੋਧੀ-ਵਰਤੋਂਕਾਰ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟ ਪ੍ਰੋਸੈੱਸ ਕਰ ਸਕਦੇ ਹੋ, ਬਿਨਾਂ ਮਾਡਲ ਦੇ ਤੁਹਾਡੀ ਥਾਂ ਇਹ ਫ਼ੈਸਲਾ ਲਏ ਕਿ ਉਹ ਨਾ ਹੀ ਕਰੇ ਤਾਂ ਚੰਗਾ।

ਇੱਕ ਦੂਜਾ, ਵੱਧ ਮਸ਼ੀਨੀ ਕਾਰਨ ਵੀ ਹੈ ਕਿ ਇਹ ਮਾਇਨੇ ਕਿਉਂ ਰੱਖਦਾ ਹੈ। ਇਨਕਾਰ ਇੱਕ ਸਕੀਮਾ ਉਲੰਘਣਾ ਹੈ। ਇਨਕਾਰ ਕਰਨ ਵਾਲਾ ਫਿਲਟਰ ਕੀਤਾ ਮਾਡਲ ਤੁਹਾਡਾ ਆਬਜੈਕਟ "unavailable" ਫਲੈਗ ਨਾਲ ਵਾਪਸ ਨਹੀਂ ਦਿੰਦਾ — ਇਹ ਪੈਰਾ ਮੋੜਦਾ ਹੈ। “ਮੈਂ ਇਸ ਬੇਨਤੀ ਵਿੱਚ ਮਦਦ ਨਹੀਂ ਕਰ ਸਕਦਾ।” ਇਹ ਸਤਰ incident ਆਬਜੈਕਟ ਨਹੀਂ; ਇਹ ਤੁਹਾਡੇ ਵੈਲੀਡੇਟਰ ਵਿੱਚ ਫੇਲ੍ਹ ਹੁੰਦੀ ਹੈ ਅਤੇ ਅਸਲੀ ਪਾਰਸ ਗ਼ਲਤੀਆਂ ਦੇ ਨਾਲ dead-letter ਕਤਾਰ ਵਿੱਚ ਜਾ ਪੈਂਦੀ ਹੈ, ਜਿੱਥੇ ਹੁਣ ਤੁਹਾਨੂੰ ਨੀਤੀ ਵਾਲੇ ਇਨਕਾਰਾਂ ਨੂੰ ਅਸਲੀ ਵਿਗਾੜਾਂ ਤੋਂ ਵੱਖ ਕਰਨਾ ਪੈਂਦਾ ਹੈ।

ਹੋਰ ਵੀ ਮਾੜੀ ਗੱਲ, ਇਨਕਾਰ ਬੇਤਰਤੀਬੇ ਨਹੀਂ ਵੰਡੇ ਜਾਂਦੇ, ਸਮੱਗਰੀ ਨਾਲ ਸਬੰਧਿਤ ਹੁੰਦੇ ਹਨ। ਜੇ ਤੁਹਾਡੇ ਕਾਰਪਸ ਦਾ 4% ਸੁਰੱਖਿਆ ਘਟਨਾ ਰਿਪੋਰਟਾਂ ਹੈ ਅਤੇ ਮਾਡਲ ਬਹੁਤੀਆਂ ਤੋਂ ਇਨਕਾਰ ਕਰਦਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ 4% ਥ੍ਰੋਅਪੁੱਟ ਬਰਾਬਰ ਨਹੀਂ ਗੁਆਈ — ਤੁਸੀਂ ਇੱਕ ਪੂਰੀ ਸ਼੍ਰੇਣੀ ਗੁਆ ਲਈ, ਅਤੇ ਉਸ ਡਾਟੇ ਉੱਤੇ ਬਣਿਆ ਡੈਸ਼ਬੋਰਡ ਚੁੱਪ-ਚਾਪ ਬਿਲਕੁਲ ਓਹੀ ਚੀਜ਼ ਘੱਟ ਦੱਸਦਾ ਹੈ ਜਿਸ ਲਈ ਉਹ ਬਣਿਆ ਸੀ। ਸ਼੍ਰੇਣੀ-ਸ਼ਕਲ ਵਾਲੇ ਖੱਪੇ ਬਰਾਬਰ ਸ਼ੋਰ ਨਾਲੋਂ ਵੱਧ ਮਹਿੰਗੇ ਪੈਂਦੇ ਹਨ ਕਿਉਂਕਿ ਇਨ੍ਹਾਂ ਉੱਤੇ ਕੁਝ ਵੀ ਚੇਤਾਵਨੀ ਨਹੀਂ ਦਿੰਦਾ। ਇਨਕਾਰ ਵਾਲਾ ਰਾਹ ਹਟਾ ਦਿਓ ਤਾਂ ਜੋ ਬਚਦਾ ਹੈ — ਵਿਗਾੜ, ਕਟੌਤੀਆਂ, ਅਸਪਸ਼ਟ ਲਿਖਤ — ਉਹ ਵਿਸ਼ੇ ਨਾਲ ਗ਼ੈਰ-ਸਬੰਧਿਤ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਇਸ ਲਈ ਮਾਪਣਯੋਗ।

ਬਿਨਾਂ ਸੈਂਸਰ ਹੋਣ ਦਾ ਮਤਲਬ ਬੇ-ਜ਼ਿੰਮੇਵਾਰ ਹੋਣਾ ਨਹੀਂ

ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਾ ਹੋਣ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਮਾਡਲ ਤੁਹਾਡੇ ਇਨਪੁੱਟ ਉੱਤੇ ਆਪਣੀ ਰਾਏ ਨਹੀਂ ਥੋਪਦਾ। ਇਸਦਾ ਮਤਲਬ ਇਹ ਨਹੀਂ ਕਿ ਖਾਤੇ ਦੀ ਕੋਈ ਨਿਗਰਾਨੀ ਨਹੀਂ। ਵਰਤੋਂ ਸਾਡੀ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਅਤੇ ਲਾਗੂ ਕਾਨੂੰਨ ਅਧੀਨ ਹੈ, ਅਤੇ ਦੁਰਵਰਤੋਂ ਨਾਲ ਪਹੁੰਚ ਖ਼ਤਮ ਹੋ ਜਾਂਦੀ ਹੈ। ਫਿਲਟਰ ਹਟਾਉਣ ਨਾਲ ਮਾਡਲ ਦਸਤਾਵੇਜ਼ ਦੇ ਟੁਕੜੇ ਤੋਂ ਤੁਹਾਡੀ ਨੀਅਤ ਦਾ ਅੰਦਾਜ਼ਾ ਲਾਉਣਾ ਬੰਦ ਕਰਦਾ ਹੈ; ਇਹ ਤੁਹਾਡੇ ਬਣਾਏ ਹੋਏ ਲਈ ਤੁਹਾਡੀ ਜ਼ਿੰਮੇਵਾਰੀ ਨਹੀਂ ਹਟਾਉਂਦਾ।

05ਸੰਦਰਭ, ਆਊਟਪੁੱਟ ਹੱਦ, ਅਤੇ ਇਨ੍ਹਾਂ ਦਾ ਬਜਟ ਕਿਵੇਂ ਬਣਾਈਏ

ਗੇਟਵੇ ਦੇ ਸਾਰੇ ਮਾਡਲ ਇੱਕੋ ਹੱਦਾਂ ਸਾਂਝੀਆਂ ਕਰਦੇ ਹਨ:

262,144
ਸੰਦਰਭ ਟੋਕਨ
16,384
ਵੱਧ ਤੋਂ ਵੱਧ ਆਊਟਪੁੱਟ ਟੋਕਨ
3
API ਬੋਲੀਆਂ
ਹਾਂ
ਸਟ੍ਰੀਮਿੰਗ

ਸੰਦਰਭ ਸਾਂਝਾ ਬਜਟ ਹੈ: ਪ੍ਰੌਂਪਟ ਅਤੇ ਆਊਟਪੁੱਟ ਦੋਵਾਂ ਨੂੰ ਮਿਲ ਕੇ 262,144 ਦੇ ਅੰਦਰ ਸਮਾਉਣਾ ਪੈਂਦਾ ਹੈ, ਸੋ ਇੱਕ ਕਾਲ ਵਿੱਚ ਵਿਹਾਰਕ ਇਨਪੁੱਟ ਹੱਦ ਲਗਭਗ 245,000 ਟੋਕਨ ਹੈ, ਬਹੁਤ ਮੋਟੇ ਤੌਰ ਉੱਤੇ 180,000 ਅੰਗਰੇਜ਼ੀ ਸ਼ਬਦ। ਢਾਂਚਾਗਤ ਕੰਮ ਲਈ 16,384-ਟੋਕਨ ਆਊਟਪੁੱਟ ਹੱਦ ਸਖ਼ਤ ਹੱਦ ਹੈ ਅਤੇ ਉਹੀ ਹੈ ਜੋ ਲੋਕਾਂ ਨੂੰ ਹੈਰਾਨ ਕਰਦੀ ਹੈ — ਪ੍ਰਤੀ ਰਿਕਾਰਡ ਇੱਕ ਆਬਜੈਕਟ ਬਣਾਉਣ ਵਾਲੀ ਸਕੀਮਾ ਵਿੰਡੋ ਭਰਨ ਤੋਂ ਬਹੁਤ ਪਹਿਲਾਂ ਹੀ ਇਸ ਤੱਕ ਪਹੁੰਚ ਜਾਂਦੀ ਹੈ। ਇਸ ਖ਼ਿਲਾਫ਼ ਦੋ ਨਮੂਨੇ ਕੰਮ ਕਰਦੇ ਹਨ:

  • ਚੌੜਾ ਇਨਪੁੱਟ, ਤੰਗ ਆਊਟਪੁੱਟ। ਪੂਰਾ ਇਕਰਾਰਨਾਮਾ, ਫ਼ਾਈਲਿੰਗ ਜਾਂ ਲੌਗ ਵਿੰਡੋ ਸੰਦਰਭ ਵਿੱਚ ਪਾਓ ਅਤੇ ਇੱਕ ਸੰਖੇਪ ਆਬਜੈਕਟ ਮੰਗੋ। ਇਨਪੁੱਟ ਟੋਕਨ ਆਊਟਪੁੱਟ ਟੋਕਨਾਂ ਦਾ ਚੌਥਾ ਹਿੱਸਾ ਖ਼ਰਚ ਲੈਂਦੇ ਹਨ, ਸੋ ਕੀਮਤ ਵਧੇਰੇ ਪੜ੍ਹਨ ਅਤੇ ਘੱਟ ਲਿਖਣ ਦਾ ਇਨਾਮ ਦਿੰਦੀ ਹੈ।
  • ਬਾਈਟ ਗਿਣਤੀ ਨਹੀਂ, ਰਿਕਾਰਡ ਹੱਦਾਂ ਉੱਤੇ ਟੁਕੜੇ ਬਣਾਓ। ਉੱਥੇ ਵੰਡੋ ਜਿੱਥੇ ਮਾਡਲ ਜੋੜ ਵੇਖ ਸਕੇ। ਵਾਕ ਵਿਚਾਲੇ ਕੱਟਿਆ ਰਿਕਾਰਡ ਸਾਫ਼ ਫੇਲ੍ਹ ਹੋਣ ਦੀ ਥਾਂ ਭਰੋਸੇ ਨਾਲ ਗ਼ਲਤ ਆਬਜੈਕਟ ਬਣਾਉਂਦਾ ਹੈ।

Hy3 ਦੀ ਦੱਸੀ ਗਈ ਲੰਮੇ-ਸੰਦਰਭ ਪੁਨਰ-ਪ੍ਰਾਪਤੀ ਸ਼ਕਤੀ — AA-LCR ਉੱਤੇ 73.4, ਅਤੇ MRCR ਲੰਮੀ-ਗੱਲਬਾਤ ਯਾਦ ਵਿੱਚ 42.9% ਤੋਂ 75.1% ਦੀ ਛਾਲ — ਬਿਲਕੁਲ ਉਹੀ ਸਮਰੱਥਾ ਹੈ ਜਿਸ ਉੱਤੇ ਪਹਿਲਾ ਨਮੂਨਾ ਨਿਰਭਰ ਕਰਦਾ ਹੈ, ਅਤੇ ਵਧੀਆ ਲਿਖਣ ਨਾਲੋਂ ਵੱਖਰਾ ਹੁਨਰ ਹੈ।

06ਸਭ ਤੋਂ ਹੇਠਲੀ ਕੀਮਤ, ਅਤੇ ਅਸਲੀ ਪਾਈਪਲਾਈਨ ਦਾ ਹਿਸਾਬ

Hy3 ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $0.50 ਅਤੇ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਆਊਟਪੁੱਟ ਟੋਕਨ $2.00 ਉੱਤੇ ਬੈਠਦਾ ਹੈ — ਸੂਚੀ ਦੀ ਸਭ ਤੋਂ ਹੇਠਲੀ ਕੀਮਤ, ਜੋ MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 ਅਤੇ MiniMax-M3 ਨਾਲ ਸਾਂਝੀ ਹੈ। ਖ਼ਾਸ ਬੋਝਾਂ ਉੱਤੇ ਹਿਸਾਬ:

ਕੰਮ ਦਾ ਬੋਝਇਨਪੁੱਟ / ਕਾਲਆਊਟਪੁੱਟ / ਕਾਲਲਾਗਤ / ਕਾਲਪ੍ਰਤੀ 1M ਕਾਲਾਂ
ਖੇਤਰ ਕੱਢਣਾ1,200300$0.0012$1,200
ਦਸਤਾਵੇਜ਼ ਵਰਗੀਕਰਨ3,000120$0.0018$1,800
ਲੰਮੇ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਸਕੀਮੇ ਵਿੱਚ ਸਾਰ-ਰੂਪ ਦੇਣਾ40,000900$0.0218$21,800
ਪੂਰੀ-ਵਿੰਡੋ ਵਿਸ਼ਲੇਸ਼ਣ240,0002,000$0.1240$124,000

ਫ਼ੈਸਲੇ ਬਦਲਣ ਵਾਲਾ ਅੰਕੜਾ ਸਿਰਲੇਖ ਵਾਲੀ ਦਰ ਨਹੀਂ, ਸਗੋਂ ਮੁੜ-ਕੋਸ਼ਿਸ਼ਾਂ ਤੋਂ ਬਾਅਦ ਅਸਲੀ ਦਰ ਹੈ। ਜੇ ਦੋ ਮਾਡਲਾਂ ਦੀ ਕੀਮਤ ਬਰਾਬਰ ਹੈ ਅਤੇ ਇੱਕ 6% ਕਾਲਾਂ ਉੱਤੇ ਪਰਖ ਵਿੱਚ ਫੇਲ੍ਹ ਹੁੰਦਾ ਹੈ ਜਦਕਿ ਦੂਜਾ 1.5% ਉੱਤੇ, ਤਾਂ ਵੱਧ-ਖਿਸਕਾਅ ਵਾਲਾ ਮਾਡਲ ਲਗਭਗ 4.5% ਵੱਧ ਕਾਲਾਂ ਚਲਾਉਂਦਾ ਹੈ — ਇਹ ਝੱਲਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਅਸਲੀ ਨੁਕਸਾਨ ਪੂਛ ਉੱਤੇ ਹੁੰਦਾ ਹੈ: ਮੁੜ-ਕੋਸ਼ਿਸ਼ ਵਾਲੀਆਂ ਕਾਲਾਂ ਦੁੱਗਣਾ ਸਮਾਂ ਲੈਂਦੀਆਂ ਹਨ, ਸੋ ਟ੍ਰੈਫ਼ਿਕ ਦੇ ਇੱਕ ਦਿਸਦੇ ਹਿੱਸੇ ਲਈ p99 ਲੇਟੈਂਸੀ ਲਗਭਗ ਦੁੱਗਣੀ ਹੋ ਜਾਂਦੀ ਹੈ, ਅਤੇ ਜੋ ਵੀ ਦੋ ਵਾਰ ਫੇਲ੍ਹ ਹੁੰਦਾ ਹੈ ਉਹ ਹੱਥੀਂ ਕੰਮ ਬਣ ਜਾਂਦਾ ਹੈ। ਦਿਨ ਵਿੱਚ ਦਸ ਲੱਖ ਕਾਲਾਂ ਉੱਤੇ ਇਹ ਹਜ਼ਾਰਾਂ ਰਿਕਾਰਡ ਬਣਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਕਿਸੇ ਨੂੰ ਪੜ੍ਹਨਾ ਪੈਂਦਾ ਹੈ।

ਇਸੇ ਕਰਕੇ ਸਭ ਤੋਂ ਹੇਠਲੀ ਕੀਮਤ ਉੱਤੇ 8-ਬਿੱਟ ਦਰਜੇ ਦੀ ਦਲੀਲ ਬਣਦੀ ਹੈ: ਇੱਥੇ ਤੁਸੀਂ ਵਫ਼ਾਦਾਰੀ ਲਈ ਕੋਈ ਵਾਧੂ ਕੀਮਤ ਨਹੀਂ ਦੇ ਰਹੇ, ਸੋ ਮੁੜ-ਕੋਸ਼ਿਸ਼ ਦਾ ਹਿਸਾਬ ਮੁਫ਼ਤ ਪੈਸਾ ਹੈ। ਜੇ ਕੋਈ 3-ਬਿੱਟ ਮਾਡਲ ਸਸਤਾ ਹੁੰਦਾ ਤਾਂ ਤੋਲਣ ਲਈ ਅਸਲੀ ਸੌਦਾ ਹੁੰਦਾ — Hy3 ਦੀ ਕੀਮਤ ਸੂਚੀ ਦੀ ਸਭ ਤੋਂ ਸਸਤੀ ਚੀਜ਼ ਜਿੰਨੀ ਹੀ ਹੈ।

07ਤਿੰਨ API ਬੋਲੀਆਂ, ਇੱਕ ਮਾਡਲ

Hy3 ਗੇਟਵੇ ਦੀਆਂ ਤਿੰਨੋ ਬੋਲੀਆਂ ਉੱਤੇ ਪਹੁੰਚਯੋਗ ਹੈ, ਹਰ ਇੱਕ ਉੱਤੇ ਸਟ੍ਰੀਮਿੰਗ ਸਮੇਤ। ਇੱਕੋ ਮਾਡਲ, ਇੱਕੋ ਵਜ਼ਨ, ਇੱਕੋ ਹੱਦਾਂ — ਜੋ ਵੀ ਤੁਹਾਡੇ ਮੌਜੂਦਾ SDK ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ ਉਹ ਚੁਣੋ।

ਐਂਡਪੁਆਇੰਟਬੋਲੀਕਦੋਂ ਵਰਤੋ
/v1/chat/completionsOpenAIਤੁਹਾਡੇ ਕੋਲ OpenAI SDK, LangChain ਜਾਂ LlamaIndex ਹੈ। ਬੇਸ URL ਇੱਥੇ ਲਾਓ, ਮਾਡਲ id ਬਦਲੋ।
/v1/messagesAnthropicਤੁਸੀਂ Anthropic SDK ਉੱਤੇ ਹੋ ਅਤੇ ਬਿਨਾਂ ਅਨੁਵਾਦ ਪਰਤ ਦੇ ਸਮੱਗਰੀ ਬਲਾਕ ਚਾਹੁੰਦੇ ਹੋ।
/v1/responsesResponsesਤੁਹਾਨੂੰ ਟਾਈਪ ਕੀਤੇ ਆਊਟਪੁੱਟ ਅਤੇ ਸਰਵਰ-ਸਾਈਡ ਸਟੇਟ ਵਾਲੀ ਨਵੀਂ ਬੇਨਤੀ ਸ਼ਕਲ ਚਾਹੀਦੀ ਹੈ।

Hy3 ਟੂਲ ਕਾਲਿੰਗ ਅਤੇ ਤਰਕ ਵੀ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ, reasoning_effort ਸਮੇਤ। ਕੱਢਣ ਵਾਲੇ ਕੰਮ ਲਈ ਆਮ ਤੌਰ ਉੱਤੇ ਲਾਭਦਾਇਕ ਚਾਲ ਹੈ ਤਰਕ ਘਟਾਉਣਾ: ਸਾਫ਼ ਲਿਖਤ ਉੱਤੇ ਚੰਗੀ ਤਰ੍ਹਾਂ ਦੱਸੀ ਸਕੀਮਾ ਲਈ, ਸੋਚ ਵਾਲੇ ਟੋਕਨ ਉਹ ਆਊਟਪੁੱਟ ਟੋਕਨ ਹਨ ਜਿਨ੍ਹਾਂ ਲਈ ਤੁਸੀਂ ਭੁਗਤਾਨ ਕਰਦੇ ਹੋ ਅਤੇ ਜਿਨ੍ਹਾਂ ਲਈ ਲੇਟੈਂਸੀ ਝੱਲਦੇ ਹੋ, ਮਾਮੂਲੀ ਫ਼ਾਇਦੇ ਲਈ। ਇਸਦੀ ਥਾਂ ਮਿਹਨਤ ਦਾ ਬਜਟ ਸੱਚਮੁੱਚ ਅਸਪਸ਼ਟ ਇਨਪੁੱਟ ਉੱਤੇ ਖ਼ਰਚ ਕਰੋ।

ਪੂਰਾ ਬੇਨਤੀ ਅਤੇ ਜਵਾਬ ਹਵਾਲਾ, ਪੈਰਾਮੀਟਰ ਸੂਚੀਆਂ, ਸਟ੍ਰੀਮਿੰਗ ਦੇ ਅਰਥ ਅਤੇ ਇੱਕ ਇੰਟਰੈਕਟਿਵ ਪਲੇਗਰਾਊਂਡ API ਦਸਤਾਵੇਜ਼ ਵਿੱਚ ਹਨ।

08ਤਿੰਨ W8A16 ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਚੋਣ ਕਰਨੀ

ਤਿੰਨ ਮਾਡਲ ਸਭ ਤੋਂ ਵੱਧ ਵਫ਼ਾਦਾਰੀ ਵਾਲੇ ਦਰਜੇ ਉੱਤੇ ਹਨ, ਸਾਰੇ ਸਭ ਤੋਂ ਹੇਠਲੀ ਕੀਮਤ ਉੱਤੇ। ਚੋਣ ਜ਼ਿਆਦਾਤਰ ਮੋਡੈਲਿਟੀ ਬਾਰੇ ਹੈ:

ਮਾਡਲਵਿਜ਼ਨjson_schemaਕੀਮਤ ਅੰਦਰ / ਬਾਹਰਇਸਨੂੰ ਇਸ ਲਈ ਚੁਣੋ
Hy3 · W8A16ਨਹੀਂਹਾਂ$0.50 / $2.00ਸਿਰਫ਼-ਲਿਖਤ ਢਾਂਚਾਗਤ ਪਾਈਪਲਾਈਨਾਂ, ਟੂਲ ਤਾਲਮੇਲ, ਲੰਮੇ-ਸੰਦਰਭ ਪੁਨਰ-ਪ੍ਰਾਪਤੀ
MiMo-V2.5-Pro · W8A16ਨਹੀਂਹਾਂ$0.50 / $2.00ਸਿਰਫ਼-ਲਿਖਤ ਕੰਮ ਜਿੱਥੇ ਤੁਹਾਨੂੰ MiMo ਲੜੀ ਦੀ Pro ਟਿਊਨਿੰਗ ਚਾਹੀਦੀ ਹੈ
MiMo-V2.5 · W8A16ਹਾਂਹਾਂ$0.50 / $2.00ਚਿੱਤਰ ਵਾਲੀ ਕੋਈ ਵੀ ਚੀਜ਼ — ਸਕੈਨ ਕੀਤੇ ਦਸਤਾਵੇਜ਼, ਸਕ੍ਰੀਨਸ਼ਾਟ, ਫੋਟੋਆਂ

ਜੇ ਤੁਹਾਡੇ ਇਨਪੁੱਟ ਦਾ ਕੋਈ ਵੀ ਹਿੱਸਾ ਚਿੱਤਰ ਹੈ ਤਾਂ ਫ਼ੈਸਲਾ ਤੁਹਾਡੀ ਥਾਂ ਹੋ ਚੁੱਕਾ ਹੈ: Hy3 ਸਿਰਫ਼-ਲਿਖਤ ਹੈ — ਸਕੈਨ ਕੀਤੀਆਂ PDF, ਸਕ੍ਰੀਨਸ਼ਾਟ ਅਤੇ ਫੋਟੋਆਂ MiMo-V2.5 ਨੂੰ ਭੇਜੋ। ਜਿੱਥੇ ਇਨਪੁੱਟ ਸੱਚਮੁੱਚ ਲਿਖਤ ਹੈ, ਉੱਥੇ Hy3 ਦਾ ਏਜੰਟ ਟੂਲ ਵਰਤੋਂ, ਲੰਮੀ-ਸੰਦਰਭ ਯਾਦ, ਅਤੇ ਘੱਟ ਭਰਮ ਦੀ ਦੱਸੀ ਦਰ ਵਾਲਾ ਖ਼ਾਕਾ ਪਾਈਪਲਾਈਨ ਵਾਲੇ ਕੰਮ ਉੱਤੇ ਸਭ ਤੋਂ ਸਿੱਧਾ ਢੁੱਕਦਾ ਹੈ। ਕਿਉਂਕਿ ਤਿੰਨਾਂ ਦੀ ਕੀਮਤ ਬਰਾਬਰ ਹੈ, ਆਪਣੀ ਸਕੀਮਾ ਸੈਂਕੜੇ ਅਸਲੀ ਰਿਕਾਰਡਾਂ ਉੱਤੇ ਦੋ ਮਾਡਲਾਂ ਖ਼ਿਲਾਫ਼ ਚਲਾਓ ਅਤੇ ਪਾਰਸ ਦਰਾਂ ਦੀ ਤੁਲਨਾ ਕਰੋ; ਇਹ ਗੱਲ ਕਿਸੇ ਵੀ ਸਾਰਣੀ, ਇਸ ਸਮੇਤ, ਨਾਲੋਂ ਬਿਹਤਰ ਤੈਅ ਕਰ ਦੇਵੇਗੀ।

09Hy3 ਆਪਣੀ ਥਾਂ ਕਿੱਥੇ ਕਮਾਉਂਦਾ ਹੈ

  • ਵੱਡੇ-ਪੱਧਰ ਦੀ ਖੇਤਰ ਕੱਢਣੀ। ਇਕਰਾਰਨਾਮੇ, ਫ਼ਾਈਲਿੰਗਾਂ, ਘਟਨਾ ਰਿਪੋਰਟਾਂ, ਟ੍ਰਾਂਸਕ੍ਰਿਪਟ, ਕਲੀਨਿਕਲ ਨੋਟ, ਅਦਾਲਤੀ ਰਿਕਾਰਡ — ਹਰ ਥਾਂ ਜਿੱਥੇ ਪ੍ਰਤੀ ਦਸਤਾਵੇਜ਼ ਟਾਈਪ ਕੀਤਾ ਆਬਜੈਕਟ ਹੀ ਡਿਲੀਵਰੇਬਲ ਹੈ ਅਤੇ ਮਾਤਰਾ ਮੁੜ-ਕੋਸ਼ਿਸ਼ਾਂ ਨੂੰ ਮਹਿੰਗਾ ਬਣਾ ਦਿੰਦੀ ਹੈ।
  • ਵੱਡੇ ਪੈਮਾਨੇ ਉੱਤੇ ਵਰਗੀਕਰਨ ਅਤੇ ਰਾਊਟਿੰਗ। ਬੰਦ enum ਆਊਟਪੁੱਟ, ਜਿੱਥੇ ਮਾਡਲ ਦਾ ਸਾਰਾ ਮੁੱਲ ਇਹੀ ਹੈ ਕਿ ਉਹ ਕਦੇ ਵੀ ਉਨ੍ਹੀਵੀਂ ਸ਼੍ਰੇਣੀ ਨਾ ਘੜੇ।
  • ਸੁਰੱਖਿਆ ਅਤੇ ਖ਼ਤਰਾ-ਜਾਣਕਾਰੀ ਕਾਰਪਸ। ਮਾਲਵੇਅਰ ਲਿਖਤਾਂ, ਐਕਸਪਲੌਇਟ ਖੁਲਾਸੇ ਅਤੇ ਫਿਸ਼ਿੰਗ ਨਮੂਨੇ — ਉਹ ਸਮੱਗਰੀ ਜੋ ਫਿਲਟਰ ਕੀਤੇ ਮਾਡਲਾਂ ਨੂੰ ਇਨਕਾਰ ਵੱਲ ਧੱਕ ਦਿੰਦੀ ਹੈ, ਅਤੇ ਜਿੱਥੇ ਸ਼੍ਰੇਣੀ-ਸ਼ਕਲ ਵਾਲਾ ਖੱਪਾ ਮਕਸਦ ਹੀ ਹਰਾ ਦਿੰਦਾ ਹੈ।
  • ਟੂਲ-ਕਾਲਿੰਗ ਏਜੰਟ ਜਿਨ੍ਹਾਂ ਨੂੰ ਰੁਕਣਾ ਨਹੀਂ ਚਾਹੀਦਾ। 8-ਬਿੱਟ ਆਰਗੂਮੈਂਟ ਵਫ਼ਾਦਾਰੀ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਹਾਡੇ ਫੰਕਸ਼ਨਾਂ ਨੂੰ ਦਿੱਤਾ JSON ਪਾਰਸ ਹੁੰਦਾ ਹੈ; ਵਿਗੜਿਆ ਟੂਲ ਕਾਲ ਰੁਕਿਆ ਹੋਇਆ ਏਜੰਟ ਹੈ, ਥੋੜ੍ਹਾ ਮਾੜਾ ਜਵਾਬ ਨਹੀਂ।
  • ਢਾਂਚੇ ਵਿੱਚ ਲੰਮੇ-ਦਸਤਾਵੇਜ਼ ਵਿਸ਼ਲੇਸ਼ਣ। ਪੂਰੀ ਫ਼ਾਈਲਿੰਗ ਅੰਦਰ, ਇੱਕ ਸੰਖੇਪ ਆਬਜੈਕਟ ਬਾਹਰ।
  • ਸਮੱਗਰੀ ਸੰਚਾਲਨ ਅਤੇ ਨੀਤੀ ਖੋਜ। ਉਸ ਸਮੱਗਰੀ ਨੂੰ ਲੇਬਲ ਕਰਨਾ ਜਿਸਨੂੰ ਪੜ੍ਹਨ ਤੋਂ ਫਿਲਟਰ ਕੀਤਾ ਮਾਡਲ ਇਨਕਾਰ ਕਰਦਾ ਹੈ, ਇੱਕ ਸਥਾਈ ਭਰੋਸਾ-ਤੇ-ਸੁਰੱਖਿਆ ਸਮੱਸਿਆ ਹੈ; ਸਖ਼ਤ ਸਕੀਮੇ ਵਾਲਾ ਬਿਨਾਂ-ਫਿਲਟਰ ਮਾਡਲ ਇਸਨੂੰ ਸਿੱਧਾ ਹੱਲ ਕਰਦਾ ਹੈ।

ਅਤੇ ਜਿੱਥੇ ਇਹ ਢੁੱਕਦਾ ਨਹੀਂ: ਚਿੱਤਰ ਵਾਲੀ ਕੋਈ ਵੀ ਚੀਜ਼ (MiMo-V2.5 ਵਰਤੋ), ਅਤੇ ਖ਼ੁਦਮੁਖ਼ਤਿਆਰ ਬਹੁ-ਫ਼ਾਈਲ ਸੌਫ਼ਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ, ਜਿੱਥੇ Tencent ਦੀਆਂ ਆਪਣੀਆਂ ਸਾਰਣੀਆਂ Hy3 ਨੂੰ SWE-bench Verified ਉੱਤੇ GLM-5.2 ਤੋਂ ਪਿੱਛੇ ਅਤੇ DeepSWE ਉੱਤੇ ਕਾਫ਼ੀ ਪਿੱਛੇ ਰੱਖਦੀਆਂ ਹਨ।

ਸਰੋਤ ਜਾਂਚੋ

Hy3 ਬੁਨਿਆਦ ਬਾਰੇ ਹਰ ਢਾਂਚਾਗਤ ਅਤੇ ਬੈਂਚਮਾਰਕ ਦਾਅਵਾ Tencent ਦੀ ਜਨਤਕ ਰਿਲੀਜ਼ ਸਮੱਗਰੀ ਜਾਂ ਉਸ ਬਾਰੇ ਪ੍ਰੈਸ ਕਵਰੇਜ ਤੋਂ ਆਉਂਦਾ ਹੈ; ਸੂਚੀ ਦੇ ਤੱਥ ਸਾਡੇ ਆਪਣੇ ਲਾਈਵ /v1/models ਤੋਂ ਆਉਂਦੇ ਹਨ। ਦੋਵੇਂ ਖ਼ੁਦ ਜਾਂਚੋ।

ਬੈਂਚਮਾਰਕ ਅੰਕੜੇ Tencent ਵੱਲੋਂ ਦੱਸੇ ਗਏ ਹਨ, ਮੁਕਾਬਲੇਦਾਰ ਅੰਕ ਸਮੇਤ; ਲਿਖਣ ਵੇਲੇ ਸੁਤੰਤਰ ਪੁਸ਼ਟੀ ਬਾਕੀ ਸੀ। ਲਾਗਤ ਦੇ ਅੰਕੜੇ ਸਾਡੀਆਂ ਪ੍ਰਕਾਸ਼ਿਤ $0.50 / $2.00 ਦਰਾਂ ਤੋਂ ਹਿਸਾਬ ਕੀਤੇ ਗਏ ਹਨ। ਇਸ ਸਫ਼ੇ ਉੱਤੇ ਕੋਈ ਵੀ ਅੰਕ Shannon ਦਾ ਚਲਾਇਆ ਬੈਂਚਮਾਰਕ ਜਾਂ ਅੰਦਾਜ਼ਾ ਨਹੀਂ।

10ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ

ਬਿਨਾਂ ਸੈਂਸਰ Hy3 ਮਾਡਲ API ਕੀ ਹੈ?

ਇਹ ਮਾਡਲ id Hy3-W8A16 ਲਈ Shannon AI ਗੇਟਵੇ ਐਂਡਪੁਆਇੰਟ ਹੈ — Tencent ਦੀ ਖੁੱਲ੍ਹੇ-ਵਜ਼ਨ ਵਾਲੀ Hy3 ਬੁਨਿਆਦ, ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ 8-ਬਿੱਟ ਵਜ਼ਨ ਸ਼ੁੱਧਤਾ ਉੱਤੇ ਪਰੋਸੀ ਗਈ, ਬਿਨਾਂ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਜਾਂ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਦੇ। ਇਹ 262,144-ਟੋਕਨ ਸੰਦਰਭ ਵਿੰਡੋ, ਪ੍ਰਤੀ ਬੇਨਤੀ 16,384 ਆਊਟਪੁੱਟ ਟੋਕਨ, ਟੂਲ ਕਾਲਿੰਗ, reasoning_effort ਨਾਲ ਤਰਕ, ਅਤੇ json_schema ਅਤੇ response_format ਦੋਵਾਂ ਰਾਹੀਂ ਪੂਰਾ ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਦਿੰਦਾ ਹੈ, /v1/chat/completions, /v1/messages ਅਤੇ /v1/responses ਉੱਤੇ ਸਟ੍ਰੀਮਿੰਗ ਸਮੇਤ।

ਕੀ Hy3 JSON ਸਕੀਮਾ ਅਤੇ ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ?

ਹਾਂ। Hy3-W8A16 JSON-ਆਬਜੈਕਟ ਮੋਡ ਲਈ response_format ਅਤੇ ਸਖ਼ਤ, ਟਾਈਪ ਕੀਤੀਆਂ ਸਕੀਮਾਂ ਲਈ json_schema, ਦੋਵੇਂ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ — ਪੂਰੀ ਢਾਂਚਾਗਤ-ਆਊਟਪੁੱਟ ਸਤ੍ਹਾ, ਅੱਧੀ ਨਹੀਂ। ਇਹ ਸੂਚੀ ਦੇ ਹਰ ਮਾਡਲ ਲਈ ਸੱਚ ਨਹੀਂ: Laguna-S-2.1 ਕੋਈ ਵੀ ਸਮਰਥਿਤ ਨਹੀਂ ਕਰਦਾ, ਅਤੇ inkling response_format ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ ਪਰ json_schema ਨਹੀਂ। ਜੇ ਤੁਹਾਡੀ ਪਾਈਪਲਾਈਨ ਟਾਈਪ ਕੀਤੇ ਇਕਰਾਰਨਾਮੇ ਉੱਤੇ ਨਿਰਭਰ ਹੈ, ਤਾਂ Hy3 ਉਨ੍ਹਾਂ ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਹੈ ਜੋ ਇਸਨੂੰ ਨਿਭਾ ਸਕਦੇ ਹਨ।

W8A16 ਦਾ ਮਤਲਬ ਕੀ ਹੈ, ਅਤੇ ਕੀ ਇਹ 4-ਬਿੱਟ ਜਾਂ 3-ਬਿੱਟ ਨਾਲੋਂ ਬਿਹਤਰ ਹੈ?

W8A16 ਦਾ ਮਤਲਬ ਹੈ 8-ਬਿੱਟ ਵਜ਼ਨ ਅਤੇ 16-ਬਿੱਟ ਐਕਟੀਵੇਸ਼ਨਾਂ — ਅਸੀਂ ਜੋ ਪਰੋਸਦੇ ਹਾਂ ਉਸ ਵਿੱਚੋਂ ਸਭ ਤੋਂ ਵੱਧ ਵਫ਼ਾਦਾਰੀ ਵਾਲਾ ਦਰਜਾ। W4A16-AUTOROUND-REAP (4-ਬਿੱਟ ਵਜ਼ਨ, ਸਿੱਖੀ ਹੋਈ ਗੋਲਾਈ, ਮਾਹਰ ਛਾਂਗਣ) ਅਤੇ 3BIT-REAP (3-ਬਿੱਟ ਵਜ਼ਨ ਨਾਲੇ ਮਾਹਰ ਛਾਂਗਣ) ਦੇ ਮੁਕਾਬਲੇ, ਇਹ ਜਾਰੀ ਕੀਤੇ ਵਜ਼ਨਾਂ ਨੂੰ ਸਭ ਤੋਂ ਘੱਟ ਬਦਲਦਾ ਹੈ, ਸੋ ਵਿਹਾਰ ਮੂਲ ਚੈੱਕਪੁਆਇੰਟ ਦੇ ਸਭ ਤੋਂ ਨੇੜੇ ਰਹਿੰਦਾ ਹੈ। ਸਖ਼ਤ ਦਰਜੇ ਇਸ ਲਈ ਹਨ ਕਿਉਂਕਿ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਬੁਨਿਆਦਾਂ ਨੂੰ ਰਫ਼ਤਾਰ ਉੱਤੇ ਪਰੋਸਣਾ ਇਨ੍ਹਾਂ ਬਿਨਾਂ ਅਵਿਵਹਾਰਕ ਹੁੰਦਾ।

ਕੀ Hy3 ਚਿੱਤਰ ਜਾਂ ਵਿਜ਼ਨ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ?

ਨਹੀਂ। Hy3-W8A16 ਸਿਰਫ਼-ਲਿਖਤ ਹੈ। ਇਸਨੂੰ ਚਿੱਤਰ ਵਾਲੇ ਹਿੱਸੇ ਭੇਜਣੇ ਕੰਮ ਨਹੀਂ ਕਰਨਗੇ। ਜੇ ਤੁਹਾਨੂੰ ਉਸੇ 8-ਬਿੱਟ ਦਰਜੇ ਉੱਤੇ ਵਿਜ਼ਨ ਨਾਲੇ ਢਾਂਚਾਗਤ ਆਊਟਪੁੱਟ ਚਾਹੀਦਾ ਹੈ, ਤਾਂ MiMo-V2.5-W8A16 ਵਰਤੋ, ਜੋ ਉਸੇ $0.50 / $2.00 ਕੀਮਤ ਉੱਤੇ json_schema ਅਤੇ response_format ਦੇ ਨਾਲ ਚਿੱਤਰ ਇਨਪੁੱਟ ਵੀ ਸਮਰਥਿਤ ਕਰਦਾ ਹੈ।

Hy3 API ਦੀ ਕੀਮਤ ਕੀ ਹੈ?

ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਇਨਪੁੱਟ ਟੋਕਨ $0.50 ਅਤੇ ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਆਊਟਪੁੱਟ ਟੋਕਨ $2.00 — ਸਾਡੀ ਸੂਚੀ ਦੀ ਸਭ ਤੋਂ ਹੇਠਲੀ ਕੀਮਤ, ਜੋ MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 ਅਤੇ MiniMax-M3 ਨਾਲ ਸਾਂਝੀ ਹੈ। ਪ੍ਰਤੀ ਕਾਲ 1,200 ਇਨਪੁੱਟ ਅਤੇ 300 ਆਊਟਪੁੱਟ ਟੋਕਨਾਂ ਵਾਲੀ ਖ਼ਾਸ ਕੱਢਣ ਪਾਈਪਲਾਈਨ ਦਾ ਖ਼ਰਚਾ ਲਗਭਗ $0.0012 ਪ੍ਰਤੀ ਕਾਲ ਹੈ, ਯਾਨੀ ਲਗਭਗ $1,200 ਪ੍ਰਤੀ ਦਸ ਲੱਖ ਕਾਲਾਂ।

ਕੀ Hy3 ਕਿਸੇ ਬੇਨਤੀ ਤੋਂ ਇਨਕਾਰ ਕਰੇਗਾ?

ਮਾਡਲ ਦੇ ਅੱਗੇ ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਅਤੇ ਕੋਈ ਆਊਟਪੁੱਟ ਫਿਲਟਰਿੰਗ ਨਹੀਂ। ਢਾਂਚਾਗਤ ਪਾਈਪਲਾਈਨ ਲਈ ਇਹ ਸਮੱਗਰੀ ਜਿੰਨੀ ਹੀ ਭਰੋਸੇਯੋਗਤਾ ਦੀ ਵੀ ਵਿਸ਼ੇਸ਼ਤਾ ਹੈ: ਇਨਕਾਰ ਇੱਕ ਸਕੀਮਾ ਉਲੰਘਣਾ ਹੈ, ਕਿਉਂਕਿ ਮਾਡਲ ਜਵਾਬ ਕਿਉਂ ਨਹੀਂ ਦੇਵੇਗਾ ਇਹ ਸਮਝਾਉਣ ਵਾਲਾ ਪੈਰਾ ਤੁਹਾਡੇ ਵੈਲੀਡੇਟਰ ਦੀ ਉਮੀਦ ਵਾਲੇ ਆਬਜੈਕਟ ਵਜੋਂ ਪਾਰਸ ਨਹੀਂ ਹੁੰਦਾ। ਇਨਕਾਰ ਵਾਲਾ ਰਾਹ ਹਟਾਉਣ ਨਾਲ ਸੁਰੱਖਿਆ, ਮੈਡੀਕਲ, ਕਾਨੂੰਨੀ ਅਤੇ ਬਾਲਗ-ਸਮੱਗਰੀ ਵਾਲੇ ਕਾਰਪਸਾਂ ਉੱਤੇ ਪਾਰਸ ਫੇਲ੍ਹ ਹੋਣ ਦੀ ਪੂਰੀ ਸ਼੍ਰੇਣੀ ਹਟ ਜਾਂਦੀ ਹੈ।

Hy3 ਨੂੰ ਆਪਣੀ ਸਕੀਮੇ ਉੱਤੇ ਚਲਾਓ

8-ਬਿੱਟ ਵਫ਼ਾਦਾਰੀ, ਸਖ਼ਤ json_schema, 262K ਸੰਦਰਭ, ਕੋਈ ਇਨਕਾਰ ਨਹੀਂ — ਸਭ ਤੋਂ ਹੇਠਲੀ ਕੀਮਤ ਉੱਤੇ।

API ਦਸਤਾਵੇਜ਼ ਪੜ੍ਹੋ ਸਾਰੀ ਮਾਡਲ ਖੋਜ

ਮਾਡਲ id Hy3-W8A16 · ਸਿਰਫ਼-ਲਿਖਤ · ਪ੍ਰਤੀ 1M ਟੋਕਨ $0.50 ਅੰਦਰ / $2.00 ਬਾਹਰ


ਸਰੋਤ: Tencent Hunyuan ਮਾਡਲ ਕਾਰਡ · Hy3 ਰਿਪੌਜ਼ਟਰੀ · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Hy3 ਰਿਲੀਜ਼ ਦੀ VentureBeat ਕਵਰੇਜ। ਬੁਨਿਆਦ ਦੇ ਬੈਂਚਮਾਰਕ Tencent ਵੱਲੋਂ ਦੱਸੇ ਗਏ ਹਨ ਅਤੇ ਸੁਤੰਤਰ ਪੁਸ਼ਟੀ ਤੱਕ ਆਰਜ਼ੀ ਹਨ। Shannon AI ਨੂੰ Shannon Lab LLC, New Mexico, USA ਵੱਲੋਂ ਚਲਾਇਆ ਜਾਂਦਾ ਹੈ।

ਸਾਰੇ research links