ನಾವು ಯಾವುದೇ ಬಳಕೆದಾರರ ಡೇಟಾವನ್ನು ಸಂಗ್ರಹಿಸುವುದಿಲ್ಲ ಅಥವಾ ಪ್ರವೇಶಿಸುವುದಿಲ್ಲ, ಮತ್ತು ಕಾನೂನು ಜಾರಿಯ ಸಂಸ್ಥೆ ಕ್ರಮಕ್ಕೆ ಬಲಾತ್ಕರಿಸದ ಹೊರತು ಖಾತೆಗಳನ್ನು suspend ಮಾಡುವುದಿಲ್ಲ.
ಸೆನ್ಸಾರ್ ರಹಿತ ಮಾಡೆಲ್‌ಗಳು · Hy3 · W8A16

ಸೆನ್ಸಾರ್ ರಹಿತ Hy3 ಮಾಡೆಲ್ API

Tencent ನ 295B Hy3 ಫೌಂಡೇಶನ್ 8-ಬಿಟ್ ವೈಟ್ ನಿಷ್ಠೆಯಲ್ಲಿ, ಕಠಿಣ json_schema ಔಟ್‌ಪುಟ್, 262,144-ಟೋಕನ್ ವಿಂಡೋ ಮತ್ತು ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲದೆ — ಕ್ಯಾಟಲಾಗ್‌ನ ನೆಲಮಟ್ಟದ ಬೆಲೆಯಲ್ಲಿ.

ಸೆಪ್ಟೆಂಬರ್ 5, 2026 ರಂದು ನವೀಕರಿಸಲಾಗಿದೆಮಾಡೆಲ್ ಗೈಡ್ಫೌಂಡೇಶನ್: Tencent Hy3ಪಠ್ಯ-ಮಾತ್ರ

ಸಂಕ್ಷಿಪ್ತವಾಗಿ

Hy3-W8A16 ಎಂಬುದು ನಮ್ಮ ಮೂರು W8A16 ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಮೂರನೆಯದು — 8-ಬಿಟ್ ವೈಟ್ಸ್, 16-ಬಿಟ್ ಆಕ್ಟಿವೇಶನ್‌ಗಳು, ನಾವು ಸೇವೆ ನೀಡುವ ಅತ್ಯುನ್ನತ-ನಿಷ್ಠೆಯ ಶ್ರೇಣಿ. ಇದು ಪಠ್ಯ-ಮಾತ್ರ, json_schema ಮತ್ತು response_format ಎರಡನ್ನೂ ಬೆಂಬಲಿಸುತ್ತದೆ, ಕ್ಯಾಟಲಾಗ್‌ನಾದ್ಯಂತದ 262,144-ಟೋಕನ್ ಸಂದರ್ಭ ಮತ್ತು 16,384-ಟೋಕನ್ ಔಟ್‌ಪುಟ್ ಮಿತಿ ಹೊಂದಿದೆ, ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗೆ $0.50 / $2.00 ವೆಚ್ಚವಾಗುತ್ತದೆ — ನೆಲಮಟ್ಟ. ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ, ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲ. ಫಿಲ್ಟರ್ ಮಾಡಿದ ಮಾಡೆಲ್ ಮುಟ್ಟಲು ನಿರಾಕರಿಸುವ ವಸ್ತುವಿನ ಮೇಲೆಯೂ ಸೇರಿದಂತೆ, ಪ್ರತಿ ಕರೆಯಲ್ಲಿಯೂ ಪಾರ್ಸ್ ಮಾಡಬಹುದಾದ, ಟೈಪ್ಡ್ ಔಟ್‌ಪುಟ್ ಹಿಂದಿರುಗಿಸಬೇಕಾದ ಹೆಚ್ಚಿನ-ವಾಲ್ಯೂಮ್ ಪಠ್ಯ ಪೈಪ್‌ಲೈನ್‌ಗಳಿಗೆ ಇದನ್ನು ಆರಿಸಿ.

ಬಹುತೇಕ "ನಾನು ಯಾವ ಮಾಡೆಲ್ ಬಳಸಬೇಕು" ಚರ್ಚೆಗಳು ಮಿತಿಯ ಬಗ್ಗೆ: ಯಾವುದು ಅತ್ಯುತ್ತಮ ಕೋಡ್ ಬರೆಯುತ್ತದೆ, ಕಠಿಣ ಗಣಿತ ಬಿಡಿಸುತ್ತದೆ, ಅತಿ ಉದ್ದದ ಏಜೆಂಟ್ ರನ್ ಗೆಲ್ಲುತ್ತದೆ. ರಚನಾತ್ಮಕ ಪೈಪ್‌ಲೈನ್‌ಗಳು ಹಾಗೆ ಕೆಲಸ ಮಾಡುವುದಿಲ್ಲ. ದಿನಕ್ಕೆ ಒಂದು ಲಕ್ಷ ದಾಖಲೆಗಳಿಂದ ಫೀಲ್ಡ್‌ಗಳನ್ನು ಹೊರತೆಗೆಯುವ ಕೆಲಸಕ್ಕೆ ಒಮ್ಮೆ ಪ್ರತಿಭಾವಂತವಾದ ಮಾಡೆಲ್ ಬೇಕಿಲ್ಲ — ಪ್ರತಿ ಬಾರಿಯೂ ಅದೇ ರೂಪದಲ್ಲಿ ಸರಿಯಾಗಿರುವ, ಮತ್ತು JSON ಆಬ್ಜೆಕ್ಟ್ ಇರಬೇಕಾದಲ್ಲಿ ಎಂದಿಗೂ ಪ್ಯಾರಾಗ್ರಾಫ್ ಹಿಂದಿರುಗಿಸದ ಮಾಡೆಲ್ ಬೇಕು. ಅದೇ ಗುಣ Hy3-W8A16 ಇಲ್ಲಿರುವ ಕಾರಣ.

01Hy3 ಎಂಬುದೇನು, ಮತ್ತು ಅದು ಎಲ್ಲಿಂದ ಬರುತ್ತದೆ

Hy3 ಎಂಬುದು Tencent ನ Hunyuan ತಂಡದಿಂದ ಬಂದ ಓಪನ್-ವೈಟ್ಸ್ ರೀಸನಿಂಗ್ ಮತ್ತು ಏಜೆಂಟಿಕ್ ಮಾಡೆಲ್, ಜುಲೈ 6, 2026 ರಂದು ಅನುಮತಿಸೂಚಕ ಪರವಾನಗಿ ಅಡಿಯಲ್ಲಿ ಸಂಪೂರ್ಣವಾಗಿ ಬಿಡುಗಡೆಯಾಗಿದೆ, ವೈಟ್ಸ್ Hugging Face ನಲ್ಲಿ ಪ್ರಕಟಿಸಲಾಗಿದೆ. ಇದು Tencent ನ ಹಿಂದಿನ Hunyuan-Large ಮಿಶ್ರಣ-ಆಫ್-ಎಕ್ಸ್‌ಪರ್ಟ್ಸ್ ಕೆಲಸದ ವಂಶಾವಳಿಯನ್ನು ಮುಂದುವರಿಸುತ್ತದೆ. ವಾಸ್ತುಶಿಲ್ಪದ ಪ್ರಕಾರ ಇದು ಸ್ಪಾರ್ಸ್ MoE: 295 ಬಿಲಿಯನ್ ಒಟ್ಟು ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು, ಅವುಗಳಲ್ಲಿ ಸುಮಾರು 21 ಬಿಲಿಯನ್ ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಸಕ್ರಿಯವಾಗುತ್ತವೆ 192 ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳಾದ್ಯಂತ ಟಾಪ್-8 ರೂಟಿಂಗ್ ಮೂಲಕ, 80-ಲೇಯರ್ ಟ್ರಾನ್ಸ್‌ಫಾರ್ಮರ್‌ನಲ್ಲಿ ಗ್ರೂಪ್ಡ್-ಕ್ವೆರಿ ಅಟೆನ್ಷನ್ ಜೊತೆ, ಜೊತೆಗೆ ಊಹಾತ್ಮಕ ಡಿಕೋಡಿಂಗ್‌ಗಾಗಿ ಪ್ರತ್ಯೇಕ 3.8B ಮಲ್ಟಿ-ಟೋಕನ್-ಪ್ರಿಡಿಕ್ಷನ್ ಲೇಯರ್. ಸ್ಥಳೀಯ ಸಂದರ್ಭ 256K — ನಾವು ಒದಗಿಸುವ ನಿಖರವಾಗಿ 262,144 ಟೋಕನ್‌ಗಳು, ದೊಡ್ಡದೊಂದರ ಕಡಿತವಲ್ಲ ಅಥವಾ ಚಿಕ್ಕದೊಂದರ rope-stretched ವಿಸ್ತರಣೆಯೂ ಅಲ್ಲ.

295B
ಒಟ್ಟು ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು
21B
ಸಕ್ರಿಯ / ಟೋಕನ್
192
ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳು (ಟಾಪ್-8)
262K
ಸಂದರ್ಭ ವಿಂಡೋ

ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಪಾವತಿಸುವ ಯಾರಿಗಾದರೂ ಆ ಸ್ಪಾರ್ಸಿಟಿ ಅನುಪಾತವೇ ಮುಖ್ಯ ಸಂಖ್ಯೆ: Hy3 295B ಮಾಡೆಲ್‌ನ ಜ್ಞಾನವನ್ನು ಒಯ್ಯುತ್ತದೆ, ಪ್ರತಿ ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ಗೆ ಸುಮಾರು 21B ಒಂದರ ಅಂಕಗಣಿತ ಮಾಡುತ್ತಲೇ. ಅದಕ್ಕಾಗಿಯೇ ನಾವು ಅದನ್ನು ಇನ್ನಷ್ಟು ಬಿಗಿಯಾಗಿ ಸಂಕುಚಿಸುವ ಬದಲು 8 ಬಿಟ್‌ಗಳಲ್ಲಿ ಸೇವೆ ನೀಡಲು ಶಕ್ತರಾಗಿದ್ದೇವೆ — ಇಷ್ಟು ಸ್ಪಾರ್ಸ್ ಆಗಿರುವ ಮಾಡೆಲ್‌ನ 8-ಬಿಟ್ ಬಿಲ್ಡ್ ಇನ್ನೂ ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು ನಮ್ಮದೇ GPU ಕ್ಲಸ್ಟರ್‌ನಲ್ಲಿ ಇನ್ನೂ ವೇಗವಾಗಿ ಚಲಾಯಿಸುತ್ತದೆ.

Tencent ಇದು ಯಾವುದರಲ್ಲಿ ಉತ್ತಮ ಎಂದು ವರದಿ ಮಾಡುತ್ತದೆ

Tencent ನ ಪ್ರಕಟಿತ ಮೌಲ್ಯಮಾಪನ ಟೇಬಲ್‌ಗಳು Hy3 ಯ ಬಲವನ್ನು ಶುದ್ಧ ಕೋಡಿಂಗ್‌ಗಿಂತ ಏಜೆಂಟಿಕ್ ಸರ್ಚ್, ಟೂಲ್ ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ ಮತ್ತು ದೀರ್ಘ-ಸಂದರ್ಭ ರಿಟ್ರೀವಲ್ನಲ್ಲಿ ನೇರವಾಗಿ ಇರಿಸುತ್ತವೆ. ಅವರ ವರದಿ ಮಾಡಿದ ಅಂಕಿಅಂಶಗಳು:

DeepSearchQA91.0
BrowseComp84.2
MCP-Atlas (tools)79.1
SWE-bench Verified78.0
AA-LCR (long ctx)73.4
DeepSWE28.0

ದುರ್ಬಲ ಬಾರ್‌ಗಳನ್ನು ನಾವು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ತೋರಿಸುತ್ತೇವೆ. Tencent ನ ಸ್ವಂತ ಹೋಲಿಕೆಯಲ್ಲಿ Hy3 ಕೋಡಿಂಗ್‌ನಲ್ಲಿ GLM-5.2 ಗಿಂತ ಹಿಂದೆ — SWE-bench Verified ನಲ್ಲಿ 84.2 ಗೆ ಎದುರಾಗಿ 78.0, DeepSWE ನಲ್ಲಿ 46.2 ಗೆ ಎದುರಾಗಿ 28.0. ನಿಮ್ಮ ಕೆಲಸ ಸ್ವಾಯತ್ತ ಬಹು-ಫೈಲ್ ಸಾಫ್ಟ್‌ವೇರ್ ಇಂಜಿನಿಯರಿಂಗ್ ಆಗಿದ್ದರೆ, ಮೊದಲು ಉಳಿದ ಮಾಡೆಲ್ ಸಂಶೋಧನಾ ಸೂಚಿ ಓದಿ. ಅದು ಪಠ್ಯ ಓದಿ ರಚನೆಯನ್ನು ಹೊರಸೂಸುವುದಾಗಿದ್ದರೆ, ಪ್ರೊಫೈಲ್ ಬಹುತೇಕ ಆದರ್ಶವಾಗಿದೆ.

ಪೈಪ್‌ಲೈನ್ ಕೆಲಸಕ್ಕೆ ಅತಿ ಮುಖ್ಯವಾದ ಅಂಕಿಅಂಶ ವಿಶ್ವಾಸಾರ್ಹತೆಯದ್ದು: Tencent Hy3 ಯ ಭ್ರಮೆಯ ದರ 5.4% ಎಂದು ವರದಿ ಮಾಡುತ್ತದೆ, ಹಿಂದಿನ ತಲೆಮಾರಿನ 12.5% ಇಂದ ಇಳಿದಿದೆ, ಸಾಮಾನ್ಯಜ್ಞಾನ ದೋಷಗಳು 25.4% ಇಂದ 12.7% ಗೆ ಇಳಿದಿವೆ. ಅವರ ಹೇಳಿಕೊಂಡ ತರಬೇತಿ ತತ್ವ — ಪುರಾವೆ ಇದ್ದಾಗ ಉತ್ತರಿಸಿ, ಇಲ್ಲದಿದ್ದಾಗ ಸ್ಪಷ್ಟವಾಗಿ ಹೇಳಿ — ಮೂಲ ಎಂದಿಗೂ ಉಲ್ಲೇಖಿಸದ ಫೀಲ್ಡ್‌ಗೆ ತೋರಿಕೆಯ ಮೌಲ್ಯವನ್ನು ಬೇರೆ ರೀತಿ ಕಲ್ಪಿಸಿಕೊಳ್ಳುವ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್ ಮಾಡೆಲ್‌ನಲ್ಲಿ ನಿಮಗೆ ಬೇಕಾದ ನಿಖರವಾದ ಗುಣಲಕ್ಷಣವಾಗಿದೆ.

ಈ ವಿಭಾಗದ ಎಲ್ಲಾ ಅಂಕಿಅಂಶಗಳು Tencent ತಮ್ಮ ಸ್ವಂತ ಟೆಸ್ಟ್ ರನ್‌ಗಳಿಂದ ವರದಿ ಮಾಡಿದ್ದು; ಬರೆಯುವ ಸಮಯದಲ್ಲಿ ಸ್ವತಂತ್ರ ಮೂರನೇ-ಪಕ್ಷದ ಪರಿಶೀಲನೆ ಇನ್ನೂ ಬಾಕಿ ಇತ್ತು. ಅವುಗಳನ್ನು ದಿಕ್ಸೂಚಿಯಾಗಿ ಪರಿಗಣಿಸಿ, ಇತ್ಯರ್ಥವಾದಂತೆ ಅಲ್ಲ.

02W8A16 ಎಂದರೆ ಏನು, ಮತ್ತು ಇದು ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್‌ಗೆ ಏಕೆ ಮುಖ್ಯ

ಗೇಟ್‌ವೇಯ ಪ್ರತಿ ಮಾಡೆಲ್ ಒಂದು ಕ್ವಾಂಟೈಸೇಶನ್ ಪ್ರತ್ಯಯ ಹೊಂದಿದೆ. ಇದು ಅಲಂಕಾರವಲ್ಲ — ಸೇವೆ ನೀಡುವ ವೈಟ್ಸ್ ಲ್ಯಾಬ್ ಬಿಡುಗಡೆ ಮಾಡಿದ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ನಿಂದ ಎಷ್ಟು ದೂರ ಕುಳಿತಿದೆ ಎಂದು ಅದು ಹೇಳುತ್ತದೆ.

ಶ್ರೇಣಿಅದು ಏನು ಮಾಡುತ್ತದೆನಿಷ್ಠೆ
3BIT-REAP3-ಬಿಟ್ ವೈಟ್ಸ್ ಜೊತೆ REAP, ಕ್ವಾಂಟೈಸ್ ಮಾಡುವ ಮೊದಲು ಅಪರೂಪವಾಗಿ-ರೂಟ್ ಆಗುವ MoE ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಬಿಡುವ ಎಕ್ಸ್‌ಪರ್ಟ್-ಪ್ರೂನಿಂಗ್ ವಿಧಾನಅತ್ಯಂತ ಸಂಕುಚಿತ
W4A16-AUTOROUND-REAPAutoRound ಮೂಲಕ 4-ಬಿಟ್ ವೈಟ್ಸ್ / 16-ಬಿಟ್ ಆಕ್ಟಿವೇಶನ್‌ಗಳು — ಸಾಮಾನ್ಯ ಹತ್ತಿರದ-ಮೌಲ್ಯಕ್ಕೆ-ರೌಂಡಿಂಗ್‌ಗಿಂತ ಅಕ್ಯುರಸಿ ಮರುಪಡೆಯುವ ಕಲಿತ ರೌಂಡಿಂಗ್ — ಜೊತೆಗೆ REAP ಪ್ರೂನಿಂಗ್ಮಧ್ಯಮ
W8A168-ಬಿಟ್ ವೈಟ್ಸ್ / 16-ಬಿಟ್ ಆಕ್ಟಿವೇಶನ್‌ಗಳು. ಪ್ರೂನಿಂಗ್ ಇಲ್ಲ, ಕಲಿತ-ರೌಂಡಿಂಗ್ ದುರಸ್ತಿ ಇಲ್ಲ — ವೈಟ್ಸ್ ಅನ್ನು ಸರಳವಾಗಿ ಎರಡು ಪಟ್ಟು ಪ್ರಿಸಿಷನ್‌ನಲ್ಲಿ ಒಯ್ಯಲಾಗಿದೆಅತ್ಯಧಿಕ

ಕ್ವಾಂಟೈಸೇಶನ್ ಡ್ರಿಫ್ಟ್ ನಿಜವಾಗಿ ಎಲ್ಲಿ ನೋವುಂಟುಮಾಡುತ್ತದೆ

REAP ಮತ್ತು AutoRound ಸಾಮಾನ್ಯ ಸಂಕುಚನ ಕಳೆದುಕೊಳ್ಳುವುದರಲ್ಲಿ ಬಹುತೇಕವನ್ನು ಮರುಪಡೆಯುತ್ತವೆ — ಆದರೆ ಆ ವಾಕ್ಯದಲ್ಲಿ "ಬಹುತೇಕ" ಎಂಬುದೇ ಕೆಲಸ ಮಾಡುತ್ತಿದೆ, ಮತ್ತು ಉಳಿಕೆ ಸಮಾನವಾಗಿ ಬೀಳುವುದಿಲ್ಲ. ಕಡಿಮೆ-ಬಿಟ್ ಕ್ವಾಂಟೈಸೇಶನ್ ಟೈಲ್‌ಗಳನ್ನು ಕುಗ್ಗಿಸುತ್ತದೆ: ಕಡಿಮೆ-ಸಂಭವನೀಯತೆಯ, ಹೆಚ್ಚಿನ-ನಿರ್ದಿಷ್ಟತೆಯ ನಿರ್ಧಾರಗಳು. ಗದ್ಯದಲ್ಲಿ ಇದು ಬಹುತೇಕ ಅಗೋಚರ; ಬೇರೊಂದು ವಿಶೇಷಣ ಇನ್ನೂ ಚೆನ್ನಾಗಿಯೇ ಇರುವ ವಾಕ್ಯ. ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್‌ನಲ್ಲಿ ಅದೇ ಇಡೀ ಆಟ, ಏಕೆಂದರೆ ಸ್ಕೀಮಾ ಎಂಬುದು ಪ್ರತಿಯೊಂದೂ ನಿಖರವಾಗಿ ಸರಿಯಾಗಿರಬೇಕಾದ ಕಡಿಮೆ-ಸಂಭವನೀಯತೆಯ ನಿರ್ಧಾರಗಳ ದೀರ್ಘ ಸರಪಳಿ:

  • ಟೋಕನ್-ಮಟ್ಟದ ಸಿಂಟ್ಯಾಕ್ಸ್. ಮುಚ್ಚುವ ಬ್ರೇಸ್, ಕಾಮಾ, ಒಂದು ಕೋಟ್ ಅಕ್ಷರ. ಪ್ರತಿಯೊಂದೂ ಒಂದು ಟೋಕನ್, ಮತ್ತು ಒಂದು ತಪ್ಪಾದ ಟೋಕನ್ ಇಡೀ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಅಮಾನ್ಯಗೊಳಿಸುತ್ತದೆ.
  • ಎನಮ್ ಶಿಸ್ತು. ನಿಮ್ಮ ಸ್ಕೀಮಾ "status" ಅನ್ನು "open" | "closed" | "pending" ಗಳಲ್ಲಿ ಒಂದೆಂದು ಹೇಳುತ್ತದೆ; ಡ್ರಿಫ್ಟ್ ಆದ ಮಾಡೆಲ್ "Open" ಅಥವಾ "pending review" ಹಿಂದಿರುಗಿಸುತ್ತದೆ — ಅರ್ಥದಲ್ಲಿ ಹತ್ತಿರ, ಆದರೆ ಎರಡೂ ಅಮಾನ್ಯ.
  • ಟೈಪ್ ಶಿಸ್ತು. number ಫೀಲ್ಡ್ "1,240" ಆಗಿ ಹಿಂತಿರುಗುತ್ತದೆ, boolean "yes" ಆಗಿ. ಎರಡೂ ಸ್ಟ್ರಿಂಗ್‌ಗಳಾಗಿ ಪಾರ್ಸ್ ಆಗಿ ಸ್ಕೀಮಾ ವಿಫಲವಾಗುತ್ತವೆ.
  • ಲಾಂಗ್-ಟೈಲ್ ಲಿಟರಲ್‌ಗಳು. ಅಪರೂಪದ ಸೂಕ್ತ ನಾಮಪದಗಳು, ಭಾಗ ಸಂಖ್ಯೆಗಳು, ರಾಸಾಯನಿಕ ಹೆಸರುಗಳು, ಲ್ಯಾಟಿನ್ ಅಲ್ಲದ ಲಿಪಿಗಳು, ನಿಖರವಾದ ದಿನಾಂಕಗಳು — ಕಡಿಮೆ-ಬಿಟ್ ವೈಟ್ಸ್ ಮಸುಕುಗೊಳಿಸುವ ನಿಖರವಾದ ಕಡಿಮೆ-ಸಂಭವನೀಯತೆಯ ಪ್ರದೇಶ.

ಇದ್ಯಾವುದೂ 4-ಬಿಟ್ ಅಥವಾ 3-ಬಿಟ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ಕೆಟ್ಟದಾಗಿಸುವುದಿಲ್ಲ; ಸಂಭಾಷಣಾ ಕೆಲಸಕ್ಕೆ ನಿಷ್ಠೆಯ ವ್ಯತ್ಯಾಸ ಸಾಮಾನ್ಯವಾಗಿ ಬೆಲೆಯ ವ್ಯತ್ಯಾಸಕ್ಕೆ ಯೋಗ್ಯವಲ್ಲ. ಆದರೆ ಔಟ್‌ಪುಟ್‌ನ ಗ್ರಾಹಕ ಮನುಷ್ಯನಲ್ಲ ಬದಲಿಗೆ ವ್ಯಾಲಿಡೇಟರ್ ಆಗಿದ್ದಾಗ, ಟೈಲ್‌ಗಳಲ್ಲಿನ ನಿಖರತೆ ನೇರವಾಗಿ ಪಾರ್ಸ್ ದರವಾಗಿ ಪರಿವರ್ತನೆಯಾಗುತ್ತದೆ — ಮತ್ತು ಪಾರ್ಸ್ ದರ ರೀಟ್ರೈ ಬಜೆಟ್ ಮತ್ತು p99 ಲೇಟೆನ್ಸಿಯಾಗಿ. W8A16 ಎಂಬುದು ನೀವು ಆ ತೆರಿಗೆ ಪಾವತಿಸುವುದನ್ನು ನಿಲ್ಲಿಸುವ ಶ್ರೇಣಿ.

03ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್: json_schema ಮತ್ತು response_format

Hy3 ರಚನಾತ್ಮಕ-ಔಟ್‌ಪುಟ್ ಮೇಲ್ಮೈಯ ಎರಡೂ ಅರ್ಧಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ — ಸ್ಪಷ್ಟವಾಗಿ ಹೇಳಲು ಯೋಗ್ಯ, ಏಕೆಂದರೆ ಇದು ಕ್ಯಾಟಲಾಗ್‌ನಾದ್ಯಂತ ಸಾರ್ವತ್ರಿಕವಲ್ಲ:

ಮಾಡೆಲ್response_formatjson_schema
Hy3 · W8A16ಹೌದುಹೌದು
MiMo-V2.5-Pro · W8A16ಹೌದುಹೌದು
inkling · W4A16-AUTOROUND-REAPಹೌದುಇಲ್ಲ
Laguna-S-2.1 · W4A16-AUTOROUND-REAPಇಲ್ಲಇಲ್ಲ

ಎರಡು ಯಾಂತ್ರಿಕತೆಗಳ ನಡುವಿನ ವ್ಯತ್ಯಾಸ ಜನರು ಭಾವಿಸುವುದಕ್ಕಿಂತ ಹೆಚ್ಚು ಮುಖ್ಯ. response_format: {"type": "json_object"} ಮಾನ್ಯ JSON ಮಾತ್ರ ಕೇಳುತ್ತದೆ, ಇನ್ನೇನೂ ಇಲ್ಲ — ಮಾಡೆಲ್ ರೂಪವನ್ನು ಆಯ್ಕೆಮಾಡುತ್ತದೆ, ಆದ್ದರಿಂದ ಎರಡು ಕರೆಗಳು {"name": ...} ಮತ್ತು {"full_name": ...} ಹಿಂದಿರುಗಿಸಬಹುದು ಮತ್ತು ಎರಡೂ ಸರಿಯೇ. json_schema ಮೊದಲೇ ರೂಪವನ್ನು ಒದಗಿಸುತ್ತದೆ: ಹೆಸರಿಸಲಾದ ಫೀಲ್ಡ್‌ಗಳು, ಟೈಪ್‌ಗಳು, ಎನಮ್‌ಗಳು, ಅಗತ್ಯ ಪಟ್ಟಿಗಳು, ನೆಸ್ಟಿಂಗ್. ಅದು ನೀವು ಕೋಡ್ ಬರೆಯಬಹುದಾದ ಒಪ್ಪಂದ.

OpenAI-ಹೊಂದಾಣಿಕೆ ಶೈಲಿಯಲ್ಲಿ ಒಂದು ಕನಿಷ್ಠ ಕರೆ:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

ಪ್ರಾಯೋಗಿಕ ಟಿಪ್ಪಣಿಗಳು

  • ಪ್ರತಿ ಫೀಲ್ಡ್ ಅನ್ನು ಅಗತ್ಯಗೊಳಿಸಿ ಮತ್ತು null ಅನುಮತಿಸಿ. ಐಚ್ಛಿಕ ಫೀಲ್ಡ್‌ಗಳು ಮೌನ ಡ್ರಾಪ್‌ಗಳನ್ನು ಆಹ್ವಾನಿಸುತ್ತವೆ; ಅಗತ್ಯ ಮತ್ತು nullable ಫೀಲ್ಡ್ ಸ್ಪಷ್ಟವಾದ "ಇಲ್ಲ" ಅನ್ನು ಒತ್ತಾಯಿಸುತ್ತದೆ, ಇದು ನೀವು ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಬಹುದಾದ ಮಾಹಿತಿ.
  • ಎನಮ್‌ಗಳು ಮುಕ್ತ ಸ್ಟ್ರಿಂಗ್‌ಗಳನ್ನು ಸೋಲಿಸುತ್ತವೆ. ಮೌಲ್ಯ ಗುಂಪನ್ನು ಮುಚ್ಚಬಹುದಾದಲ್ಲೆಲ್ಲಾ ಮುಚ್ಚಿ — ಸ್ಕೀಮಾದ ನೈಜ-ಜಗತ್ತಿನ ಪಾಸ್ ದರಕ್ಕೆ ಅತಿ ಹೆಚ್ಚಿನ-ಪ್ರಭಾವದ ಬದಲಾವಣೆ.
  • 16,384-ಟೋಕನ್ ಔಟ್‌ಪುಟ್ ಮಿತಿಯ ಒಳಗೆ ಇರಿ. ಮಿತಿಯಿಲ್ಲದ ಅರೇ ಆಬ್ಜೆಕ್ಟ್‌ನ ಮಧ್ಯದಲ್ಲಿ ಕತ್ತರಿಸಲ್ಪಡುತ್ತದೆ. ಅರೇ ಉದ್ದವನ್ನು ಮಿತಿಗೊಳಿಸಿ, ಅಥವಾ ಇನ್‌ಪುಟ್ ಅನ್ನು ಶಾರ್ಡ್ ಮಾಡಿ.
  • ಸಿಸ್ಟಂ ಸಂದೇಶವನ್ನು ಇಟ್ಟುಕೊಳ್ಳಿ. ಸ್ಕೀಮಾ ರೂಪವನ್ನು ನಿರ್ಬಂಧಿಸುತ್ತದೆ; ಪ್ರಾಂಪ್ಟ್ ಇನ್ನೂ ಅರ್ಥವನ್ನು ನಿಯಂತ್ರಿಸುತ್ತದೆ — ಏನನ್ನು "critical" ಎಂದು ಪರಿಗಣಿಸಬೇಕು, ಎರಡು ದಿನಾಂಕಗಳು ಕಂಡುಬಂದಾಗ ಯಾವುದು ಗೆಲ್ಲುತ್ತದೆ, ಘಟಕಗಳನ್ನು ಸಾಮಾನ್ಯಗೊಳಿಸಬೇಕೇ.
  • ಹೇಗಿದ್ದರೂ ವ್ಯಾಲಿಡೇಟ್ ಮಾಡಿ. ಸ್ಕೀಮಾ ಬೆಂಬಲ ಪಾಸ್ ದರವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ; ಇದು ವ್ಯಾಲಿಡೇಟರ್ ಮತ್ತು ಡೆಡ್-ಲೆಟರ್ ಕ್ಯೂ ಅನ್ನು ಬದಲಿಸುವುದಿಲ್ಲ.

04"ಸೆನ್ಸಾರ್ ರಹಿತ" ಎಂಬುದು ಕೇವಲ ವಿಷಯದ ಗುಣವಲ್ಲ, ವಿಶ್ವಾಸಾರ್ಹತೆಯ ಗುಣ ಏಕೆ

ಗೇಟ್‌ವೇಯಲ್ಲಿ Hy3 ಗೆ ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲ. ಸಾಮಾನ್ಯ ಚೌಕಟ್ಟು ವಿಷಯದ ಬಗ್ಗೆ: ಮಾಡೆಲ್ ನಿಮ್ಮ ಪರವಾಗಿ ಬೇಡ ಎಂದು ನಿರ್ಧರಿಸದೆ ನೀವು ಭದ್ರತಾ ಸಂಶೋಧನೆ, ಮಾಲ್‌ವೇರ್ ವಿಶ್ಲೇಷಣೆ, ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್ ಬರಹಗಳು, ವೈದ್ಯಕೀಯ ಮತ್ತು ಕಾನೂನು ಕಾರ್ಪಸ್‌ಗಳು, ವಯಸ್ಕ ವಸ್ತು, ಹಾನಿ-ಕಡಿತ ದಾಖಲಾತಿ ಅಥವಾ ಪ್ರತಿಕೂಲ-ಬಳಕೆದಾರ ಪ್ರತಿಲೇಖನಗಳನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಬಹುದು.

ಇದು ಮುಖ್ಯವಾಗಲು ಎರಡನೇ, ಹೆಚ್ಚು ಯಾಂತ್ರಿಕ ಕಾರಣವಿದೆ. ನಿರಾಕರಣೆ ಎಂಬುದು ಸ್ಕೀಮಾ ಉಲ್ಲಂಘನೆ. ನಿರಾಕರಿಸುವ ಫಿಲ್ಟರ್ ಮಾಡಿದ ಮಾಡೆಲ್ ನಿಮ್ಮ ಆಬ್ಜೆಕ್ಟ್ ಅನ್ನು "unavailable" ಫ್ಲ್ಯಾಗ್ ಜೊತೆ ಹಿಂದಿರುಗಿಸುವುದಿಲ್ಲ — ಅದು ಗದ್ಯವನ್ನು ಹಿಂದಿರುಗಿಸುತ್ತದೆ. "ಆ ವಿನಂತಿಗೆ ಸಹಾಯ ಮಾಡಲು ನನಗೆ ಸಾಧ್ಯವಿಲ್ಲ." ಆ ಸ್ಟ್ರಿಂಗ್ incident ಆಬ್ಜೆಕ್ಟ್ ಅಲ್ಲ; ಅದು ನಿಮ್ಮ ವ್ಯಾಲಿಡೇಟರ್‌ನಲ್ಲಿ ವಿಫಲವಾಗಿ ನಿಜವಾದ ಪಾರ್ಸ್ ದೋಷಗಳ ಪಕ್ಕದಲ್ಲಿ ಡೆಡ್-ಲೆಟರ್ ಕ್ಯೂನಲ್ಲಿ ಇಳಿಯುತ್ತದೆ, ಅಲ್ಲಿ ಈಗ ನೀವು ನೀತಿ ನಿರಾಕರಣೆಗಳನ್ನು ನಿಜವಾದ ವಿರೂಪಗಳಿಂದ ಬೇರ್ಪಡಿಸಬೇಕಾಗುತ್ತದೆ.

ಇನ್ನೂ ಕೆಟ್ಟದೆಂದರೆ, ನಿರಾಕರಣೆಗಳು ಯಾದೃಚ್ಛಿಕವಾಗಿ ಹಂಚಿಕೆಯಾಗುವ ಬದಲು ವಿಷಯದೊಂದಿಗೆ ಸಂಬಂಧ ಹೊಂದಿರುತ್ತವೆ. ನಿಮ್ಮ ಕಾರ್ಪಸ್‌ನ 4% ಭದ್ರತಾ ಘಟನೆ ವರದಿಗಳಾಗಿದ್ದು ಮಾಡೆಲ್ ಬಹುತೇಕವನ್ನು ನಿರಾಕರಿಸಿದರೆ, ನೀವು ಥ್ರೂಪುಟ್‌ನ 4% ಅನ್ನು ಸಮನಾಗಿ ಕಳೆದುಕೊಂಡಿಲ್ಲ — ನೀವು ಒಂದು ವರ್ಗವನ್ನೇ ಕಳೆದುಕೊಂಡಿದ್ದೀರಿ, ಮತ್ತು ಆ ಡೇಟಾ ಮೇಲೆ ಕಟ್ಟಿದ ಡ್ಯಾಶ್‌ಬೋರ್ಡ್ ಅದು ಇರುವ ಉದ್ದೇಶವಾದ ವಿಷಯವನ್ನೇ ಮೌನವಾಗಿ ಕಡಿಮೆ-ವರದಿ ಮಾಡುತ್ತದೆ. ವರ್ಗ-ಆಕಾರದ ರಂಧ್ರಗಳು ಏಕರೂಪದ ಶಬ್ದಕ್ಕಿಂತ ಹೆಚ್ಚು ವೆಚ್ಚ ಮಾಡುತ್ತವೆ ಏಕೆಂದರೆ ಅವುಗಳ ಬಗ್ಗೆ ಏನೂ ಎಚ್ಚರಿಸುವುದಿಲ್ಲ. ನಿರಾಕರಣೆ ಪಥವನ್ನು ತೆಗೆದುಹಾಕಿ, ಉಳಿಯುವುದು — ವಿರೂಪಗಳು, ಕಡಿತಗಳು, ಅಸ್ಪಷ್ಟ ಪಠ್ಯ — ವಿಷಯದೊಂದಿಗೆ ಸಂಬಂಧ ಹೊಂದಿಲ್ಲ, ಆದ್ದರಿಂದ ಅಳೆಯಬಹುದಾದದ್ದು.

ಸೆನ್ಸಾರ್ ರಹಿತ ಎಂದರೆ ಹೊಣೆಗಾರಿಕೆ ಇಲ್ಲ ಎಂದಲ್ಲ

ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ ಎಂದರೆ ಮಾಡೆಲ್ ನಿಮ್ಮ ಇನ್‌ಪುಟ್ ಬಗ್ಗೆ ಸಂಪಾದಕೀಯ ಅಭಿಪ್ರಾಯ ವ್ಯಕ್ತಪಡಿಸುವುದಿಲ್ಲ ಎಂದರ್ಥ. ಖಾತೆಯನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವುದಿಲ್ಲ ಎಂದರ್ಥವಲ್ಲ. ಬಳಕೆಯನ್ನು ನಮ್ಮ Responsible Use Policy ಮತ್ತು ಅನ್ವಯಿಸುವ ಕಾನೂನು ನಿಯಂತ್ರಿಸುತ್ತವೆ, ಮತ್ತು ದುರುಪಯೋಗ ಆಕ್ಸೆಸ್ ಅನ್ನು ಕೊನೆಗೊಳಿಸುತ್ತದೆ. ಫಿಲ್ಟರ್ ತೆಗೆದುಹಾಕುವುದು ಡಾಕ್ಯುಮೆಂಟ್ ತುಣುಕಿನಿಂದ ನಿಮ್ಮ ಉದ್ದೇಶವನ್ನು ಊಹಿಸುವ ಮಾಡೆಲ್ ಅನ್ನು ನಿಲ್ಲಿಸುತ್ತದೆ; ನೀವು ಕಟ್ಟುವುದಕ್ಕೆ ನಿಮ್ಮ ಜವಾಬ್ದಾರಿಯನ್ನು ಅದು ತೆಗೆದುಹಾಕುವುದಿಲ್ಲ.

05ಸಂದರ್ಭ, ಔಟ್‌ಪುಟ್ ಮಿತಿ, ಮತ್ತು ಅವುಗಳನ್ನು ಬಜೆಟ್ ಮಾಡುವುದು ಹೇಗೆ

ಗೇಟ್‌ವೇಯ ಪ್ರತಿ ಮಾಡೆಲ್ ಅದೇ ಮಿತಿಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತದೆ:

262,144
ಸಂದರ್ಭ ಟೋಕನ್‌ಗಳು
16,384
ಗರಿಷ್ಠ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳು
3
API ಶೈಲಿಗಳು
ಹೌದು
ಸ್ಟ್ರೀಮಿಂಗ್

ಸಂದರ್ಭ ಎಂಬುದು ಹಂಚಿದ ಬಜೆಟ್: ಪ್ರಾಂಪ್ಟ್ ಜೊತೆಗೆ ಔಟ್‌ಪುಟ್ ಎರಡೂ ಸೇರಿ 262,144 ರೊಳಗೆ ಹೊಂದಬೇಕು, ಆದ್ದರಿಂದ ಒಂದೇ ಕರೆಯಲ್ಲಿ ಪ್ರಾಯೋಗಿಕ ಇನ್‌ಪುಟ್ ಮಿತಿ ಸುಮಾರು 245,000 ಟೋಕನ್‌ಗಳು, ಸ್ಥೂಲವಾಗಿ 180,000 ಇಂಗ್ಲಿಷ್ ಪದಗಳು. ರಚನಾತ್ಮಕ ಕೆಲಸಕ್ಕೆ 16,384-ಟೋಕನ್ ಔಟ್‌ಪುಟ್ ಮಿತಿ ಕಠಿಣವಾದ ಮಿತಿ ಮತ್ತು ಜನರನ್ನು ಆಶ್ಚರ್ಯಗೊಳಿಸುವಂತಹದ್ದು — ಪ್ರತಿ ದಾಖಲೆಗೆ ಒಂದು ಆಬ್ಜೆಕ್ಟ್ ಹೊರಸೂಸುವ ಸ್ಕೀಮಾ ವಿಂಡೋ ತುಂಬುವ ಮೊದಲೇ ಅದನ್ನು ತಲುಪುತ್ತದೆ. ಎರಡು ಮಾದರಿಗಳು ಅದರ ವಿರುದ್ಧ ಕೆಲಸ ಮಾಡುತ್ತವೆ:

  • ವಿಶಾಲ ಇನ್‌ಪುಟ್, ಸಂಕುಚಿತ ಔಟ್‌ಪುಟ್. ಇಡೀ ಒಪ್ಪಂದ, ಫೈಲಿಂಗ್ ಅಥವಾ ಲಾಗ್ ವಿಂಡೋವನ್ನು ಸಂದರ್ಭಕ್ಕೆ ತಳ್ಳಿ ಒಂದು ಸಂಕ್ಷಿಪ್ತ ಆಬ್ಜೆಕ್ಟ್ ಕೇಳಿ. ಇನ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳು ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳ ಕಾಲುಭಾಗ ವೆಚ್ಚವಾಗುತ್ತವೆ, ಆದ್ದರಿಂದ ಬೆಲೆ ಬಹಳಷ್ಟು ಓದಿ ಸ್ವಲ್ಪ ಬರೆಯುವುದನ್ನು ಪುರಸ್ಕರಿಸುತ್ತದೆ.
  • ಬೈಟ್ ಎಣಿಕೆಗಳಲ್ಲಿ ಅಲ್ಲ, ದಾಖಲೆ ಗಡಿಗಳ ಮೇಲೆ ಚಂಕ್ ಮಾಡಿ. ಮಾಡೆಲ್‌ಗೆ ಸೀಮ್ ಕಾಣಿಸುವಲ್ಲಿ ವಿಭಜಿಸಿ. ವಾಕ್ಯದ ಮಧ್ಯದಲ್ಲಿ ಕತ್ತರಿಸಿದ ದಾಖಲೆ ಸ್ಪಷ್ಟ ವೈಫಲ್ಯಕ್ಕಿಂತ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ತಪ್ಪಾದ ಆಬ್ಜೆಕ್ಟ್ ಉತ್ಪಾದಿಸುತ್ತದೆ.

Hy3 ಯ ವರದಿ ಮಾಡಲಾದ ದೀರ್ಘ-ಸಂದರ್ಭ ರಿಟ್ರೀವಲ್ ಬಲ — AA-LCR ನಲ್ಲಿ 73.4, ಮತ್ತು MRCR ದೀರ್ಘ-ಸಂಭಾಷಣೆ ರೀಕಾಲ್‌ನಲ್ಲಿ 42.9% ಇಂದ 75.1% ಗೆ ಜಿಗಿತ — ಮೊದಲ ಮಾದರಿ ಅವಲಂಬಿಸಿರುವ ನಿಖರ ಸಾಮರ್ಥ್ಯ, ಮತ್ತು ಚೆನ್ನಾಗಿ ಬರೆಯುವುದಕ್ಕಿಂತ ಬೇರೆ ಕೌಶಲ.

06ನೆಲಮಟ್ಟದ ಬೆಲೆ, ಮತ್ತು ನಿಜವಾದ ಪೈಪ್‌ಲೈನ್‌ನ ಗಣಿತ

Hy3 ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್‌ಪುಟ್ ಟೋಕನ್‌ಗೆ $0.50 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗೆ $2.00 ದರದಲ್ಲಿ ಕುಳಿತಿದೆ — ಕ್ಯಾಟಲಾಗ್‌ನ ನೆಲಮಟ್ಟ, MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 ಮತ್ತು MiniMax-M3 ಜೊತೆ ಹಂಚಿಕೆ. ಪ್ರಾತಿನಿಧಿಕ ಲೋಡ್‌ಗಳ ಮೂಲಕ ಲೆಕ್ಕ ಹಾಕಿದರೆ:

ವರ್ಕ್‌ಲೋಡ್ಇನ್‌ಪುಟ್ / ಕರೆಔಟ್‌ಪುಟ್ / ಕರೆವೆಚ್ಚ / ಕರೆಪ್ರತಿ 1M ಕರೆಗಳಿಗೆ
ಫೀಲ್ಡ್ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್1,200300$0.0012$1,200
ಡಾಕ್ಯುಮೆಂಟ್ ವರ್ಗೀಕರಣ3,000120$0.0018$1,800
ದೀರ್ಘ-ದಾಖಲೆಯನ್ನು ಸ್ಕೀಮಾಗೆ ಸಾರಾಂಶ40,000900$0.0218$21,800
ಪೂರ್ಣ-ವಿಂಡೋ ವಿಶ್ಲೇಷಣೆ240,0002,000$0.1240$124,000

ನಿರ್ಧಾರಗಳನ್ನು ಬದಲಿಸುವ ಸಂಖ್ಯೆ ಮುಖ್ಯ ದರ ಅಲ್ಲ ಬದಲಿಗೆ ರೀಟ್ರೈಗಳ ನಂತರದ ಪರಿಣಾಮಕಾರಿ ದರ. ಎರಡು ಮಾಡೆಲ್‌ಗಳ ವೆಚ್ಚ ಒಂದೇ ಆಗಿದ್ದು ಒಂದು 6% ಕರೆಗಳಲ್ಲಿ ವ್ಯಾಲಿಡೇಶನ್ ವಿಫಲವಾದರೆ ಇನ್ನೊಂದು 1.5% ನಲ್ಲಿ ವಿಫಲವಾದರೆ, ಹೆಚ್ಚಿನ-ಡ್ರಿಫ್ಟ್ ಮಾಡೆಲ್ ಸುಮಾರು 4.5% ಹೆಚ್ಚು ಕರೆಗಳನ್ನು ಚಲಾಯಿಸುತ್ತದೆ — ಸಹಿಸಬಹುದಾದದ್ದು. ಹಾನಿ ಟೈಲ್‌ನಲ್ಲಿದೆ: ರೀಟ್ರೈ ಮಾಡಿದ ಕರೆಗಳು ಎರಡು ಪಟ್ಟು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತವೆ, ಆದ್ದರಿಂದ ಟ್ರಾಫಿಕ್‌ನ ಗೋಚರ ಭಾಗಕ್ಕೆ p99 ಲೇಟೆನ್ಸಿ ಸ್ಥೂಲವಾಗಿ ದ್ವಿಗುಣಗೊಳ್ಳುತ್ತದೆ, ಮತ್ತು ಎರಡು ಬಾರಿ ವಿಫಲವಾದದ್ದು ಮ್ಯಾನ್ಯುವಲ್ ಕೆಲಸವಾಗುತ್ತದೆ. ದಿನಕ್ಕೆ ಒಂದು ಮಿಲಿಯನ್ ಕರೆಗಳಲ್ಲಿ ಅದು ಸಾವಿರಾರು ದಾಖಲೆಗಳು ಯಾರಾದರೂ ಓದಬೇಕಾದದ್ದು.

ಆದ್ದರಿಂದ ನೆಲಮಟ್ಟದ ಬೆಲೆಯಲ್ಲಿ 8-ಬಿಟ್ ಶ್ರೇಣಿಗೆ ವಾದ: ಇಲ್ಲಿ ನೀವು ನಿಷ್ಠೆಗಾಗಿ ಪ್ರೀಮಿಯಂ ಪಾವತಿಸುತ್ತಿಲ್ಲ, ಆದ್ದರಿಂದ ರೀಟ್ರೈ ಗಣಿತ ಉಚಿತ ಹಣ. 3-ಬಿಟ್ ಮಾಡೆಲ್ ಅಗ್ಗವಾಗಿದ್ದರೆ ತೂಗಬೇಕಾದ ನಿಜವಾದ ವ್ಯಾಪಾರ ಇರುತ್ತಿತ್ತು — Hy3 ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿ ಅಗ್ಗದ ವಸ್ತುವಿನಷ್ಟೇ ವೆಚ್ಚವಾಗುತ್ತದೆ.

07ಮೂರು API ಶೈಲಿಗಳು, ಒಂದೇ ಮಾಡೆಲ್

Hy3 ಮೂರೂ ಗೇಟ್‌ವೇ ಶೈಲಿಗಳಲ್ಲಿ ತಲುಪಬಹುದು, ಪ್ರತಿಯೊಂದರಲ್ಲೂ ಸ್ಟ್ರೀಮಿಂಗ್ ಜೊತೆ. ಅದೇ ಮಾಡೆಲ್, ಅದೇ ವೈಟ್ಸ್, ಅದೇ ಮಿತಿಗಳು — ನಿಮ್ಮ ಬಳಿ ಈಗಾಗಲೇ ಇರುವ SDK ಗೆ ಹೊಂದುವುದನ್ನು ಆರಿಸಿ.

ಎಂಡ್‌ಪಾಯಿಂಟ್ಶೈಲಿಯಾವಾಗ ಬಳಸಬೇಕು
/v1/chat/completionsOpenAIನಿಮ್ಮ ಬಳಿ OpenAI SDK, LangChain ಅಥವಾ LlamaIndex ಇದೆ. ಬೇಸ್ URL ಅನ್ನು ಇಲ್ಲಿಗೆ ತೋರಿಸಿ, ಮಾಡೆಲ್ id ಬದಲಾಯಿಸಿ.
/v1/messagesAnthropicನೀವು Anthropic SDK ಮೇಲಿದ್ದೀರಿ ಮತ್ತು ಅನುವಾದ ಪದರವಿಲ್ಲದೆ ಕಂಟೆಂಟ್ ಬ್ಲಾಕ್‌ಗಳು ಬೇಕು.
/v1/responsesResponsesಟೈಪ್ಡ್ ಔಟ್‌ಪುಟ್ ಮತ್ತು ಸರ್ವರ್-ಸೈಡ್ ಸ್ಥಿತಿಯೊಂದಿಗೆ ಹೊಸ ವಿನಂತಿ ರೂಪ ಬೇಕು.

Hy3 ಟೂಲ್ ಕಾಲಿಂಗ್ ಮತ್ತು reasoning_effort ಸೇರಿದಂತೆ ರೀಸನಿಂಗ್ ಅನ್ನೂ ಬೆಂಬಲಿಸುತ್ತದೆ. ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್ ಕೆಲಸಕ್ಕೆ ಸಾಮಾನ್ಯವಾಗಿ ಉಪಯುಕ್ತ ನಡೆ ರೀಸನಿಂಗ್ ಅನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು: ಸ್ವಚ್ಛ ಪಠ್ಯದ ಮೇಲೆ ಚೆನ್ನಾಗಿ-ನಿರ್ದಿಷ್ಟಪಡಿಸಿದ ಸ್ಕೀಮಾದಲ್ಲಿ, ಚಿಂತನೆಯ ಟೋಕನ್‌ಗಳು ನೀವು ಪಾವತಿಸುವ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳು ಮತ್ತು ಸ್ವಲ್ಪ ಲಾಭಕ್ಕಾಗಿ ನೀವು ಕಾಯುವ ಲೇಟೆನ್ಸಿ. ಬದಲಿಗೆ ನಿಜವಾಗಿಯೂ ಅಸ್ಪಷ್ಟವಾದ ಇನ್‌ಪುಟ್‌ನ ಮೇಲೆ ಎಫರ್ಟ್ ಬಜೆಟ್ ಖರ್ಚು ಮಾಡಿ.

ಸಂಪೂರ್ಣ ವಿನಂತಿ ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆ ಉಲ್ಲೇಖ, ಪ್ಯಾರಾಮೀಟರ್ ಪಟ್ಟಿಗಳು, ಸ್ಟ್ರೀಮಿಂಗ್ ಸೆಮ್ಯಾಂಟಿಕ್ಸ್ ಮತ್ತು ಸಂವಾದಾತ್ಮಕ ಪ್ಲೇಗ್ರೌಂಡ್ API ದಾಖಲೀಕರಣದಲ್ಲಿ ಇವೆ.

08ಮೂರು W8A16 ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಆಯ್ಕೆ ಮಾಡುವುದು

ಮೂರು ಮಾಡೆಲ್‌ಗಳು ಅತ್ಯುನ್ನತ-ನಿಷ್ಠೆಯ ಶ್ರೇಣಿಯಲ್ಲಿ ಕುಳಿತಿವೆ, ಎಲ್ಲವೂ ನೆಲಮಟ್ಟದ ಬೆಲೆಯಲ್ಲಿ. ಆಯ್ಕೆ ಬಹುತೇಕ ಮೋಡಾಲಿಟಿಯ ಬಗ್ಗೆ:

ಮಾಡೆಲ್ದೃಷ್ಟಿjson_schemaಬೆಲೆ ಇನ್ / ಔಟ್ಇದನ್ನು ಯಾವುದಕ್ಕೆ ಆರಿಸಬೇಕು
Hy3 · W8A16ಇಲ್ಲಹೌದು$0.50 / $2.00ಪಠ್ಯ-ಮಾತ್ರ ರಚನಾತ್ಮಕ ಪೈಪ್‌ಲೈನ್‌ಗಳು, ಟೂಲ್ ಆರ್ಕೆಸ್ಟ್ರೇಶನ್, ದೀರ್ಘ-ಸಂದರ್ಭ ರಿಟ್ರೀವಲ್
MiMo-V2.5-Pro · W8A16ಇಲ್ಲಹೌದು$0.50 / $2.00MiMo ಸಾಲಿನ Pro ಟ್ಯೂನಿಂಗ್ ಬೇಕಾದ ಪಠ್ಯ-ಮಾತ್ರ ಕೆಲಸ
MiMo-V2.5 · W8A16ಹೌದುಹೌದು$0.50 / $2.00ಚಿತ್ರಗಳಿರುವ ಯಾವುದೇ ಕೆಲಸ — ಸ್ಕ್ಯಾನ್ ಮಾಡಿದ ದಾಖಲೆಗಳು, ಸ್ಕ್ರೀನ್‌ಶಾಟ್‌ಗಳು, ಫೋಟೋಗಳು

ನಿಮ್ಮ ಇನ್‌ಪುಟ್‌ನ ಯಾವುದೇ ಭಾಗ ಚಿತ್ರವಾಗಿದ್ದರೆ ನಿರ್ಧಾರ ನಿಮಗಾಗಿ ಮಾಡಲಾಗಿದೆ: Hy3 ಪಠ್ಯ-ಮಾತ್ರ — ಸ್ಕ್ಯಾನ್ ಮಾಡಿದ PDF ಗಳು, ಸ್ಕ್ರೀನ್‌ಶಾಟ್‌ಗಳು ಮತ್ತು ಫೋಟೋಗ್ರಾಫ್‌ಗಳನ್ನು MiMo-V2.5 ಗೆ ಕಳುಹಿಸಿ. ಇನ್‌ಪುಟ್ ನಿಜವಾಗಿಯೂ ಪಠ್ಯವಾಗಿದ್ದಲ್ಲಿ, Hy3 ಯ ಏಜೆಂಟಿಕ್ ಟೂಲ್ ಬಳಕೆ, ದೀರ್ಘ-ಸಂದರ್ಭ ರೀಕಾಲ್ ಮತ್ತು ಕಡಿಮೆ ವರದಿ ಮಾಡಿದ ಭ್ರಮೆಯ ಪ್ರೊಫೈಲ್ ಪೈಪ್‌ಲೈನ್ ಕೆಲಸಕ್ಕೆ ಅತ್ಯಂತ ನೇರವಾಗಿ ಹೊಂದುತ್ತದೆ. ಮೂರೂ ಒಂದೇ ವೆಚ್ಚವಾಗುವುದರಿಂದ, ನಿಮ್ಮ ಸ್ಕೀಮಾವನ್ನು ಕೆಲವು ನೂರು ನಿಜವಾದ ದಾಖಲೆಗಳ ಮೇಲೆ ಅವುಗಳಲ್ಲಿ ಎರಡರ ವಿರುದ್ಧ ಚಲಾಯಿಸಿ ಪಾರ್ಸ್ ದರಗಳನ್ನು ಹೋಲಿಸಿ; ಇದೇ ಸೇರಿದಂತೆ ಯಾವುದೇ ಟೇಬಲ್‌ಗಿಂತ ಅದೇ ಚೆನ್ನಾಗಿ ಇತ್ಯರ್ಥಗೊಳಿಸುತ್ತದೆ.

09Hy3 ಎಲ್ಲಿ ತನ್ನ ಸ್ಥಾನವನ್ನು ಗಳಿಸುತ್ತದೆ

  • ಹೆಚ್ಚಿನ-ವಾಲ್ಯೂಮ್ ಫೀಲ್ಡ್ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್. ಒಪ್ಪಂದಗಳು, ಫೈಲಿಂಗ್‌ಗಳು, ಘಟನೆ ವರದಿಗಳು, ಪ್ರತಿಲೇಖನಗಳು, ಕ್ಲಿನಿಕಲ್ ಟಿಪ್ಪಣಿಗಳು, ನ್ಯಾಯಾಲಯದ ದಾಖಲೆಗಳು — ಪ್ರತಿ ದಾಖಲೆಗೆ ಟೈಪ್ಡ್ ಆಬ್ಜೆಕ್ಟ್ ಎಂಬುದೇ ಡೆಲಿವರೇಬಲ್ ಮತ್ತು ವಾಲ್ಯೂಮ್ ರೀಟ್ರೈಗಳನ್ನು ದುಬಾರಿಯಾಗಿಸುವ ಎಲ್ಲೆಡೆ.
  • ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ವರ್ಗೀಕರಣ ಮತ್ತು ರೂಟಿಂಗ್. ಮುಚ್ಚಿದ ಎನಮ್ ಔಟ್‌ಪುಟ್‌ಗಳು, ಅಲ್ಲಿ ಮಾಡೆಲ್‌ನ ಇಡೀ ಮೌಲ್ಯ ಎಂದಿಗೂ ಹತ್ತೊಂಬತ್ತನೇ ವರ್ಗವನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳದಿರುವುದು.
  • ಭದ್ರತಾ ಮತ್ತು ಥ್ರೆಟ್-ಇಂಟೆಲ್ ಕಾರ್ಪಸ್‌ಗಳು. ಮಾಲ್‌ವೇರ್ ಬರಹಗಳು, ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್ ಬಹಿರಂಗಪಡಿಸುವಿಕೆಗಳು ಮತ್ತು ಫಿಶಿಂಗ್ ಮಾದರಿಗಳು — ಫಿಲ್ಟರ್ ಮಾಡಿದ ಮಾಡೆಲ್‌ಗಳನ್ನು ನಿರಾಕರಣೆಗೆ ಎಡವಿಸುವ ವಸ್ತು, ಮತ್ತು ವರ್ಗ-ಆಕಾರದ ರಂಧ್ರ ಉದ್ದೇಶವನ್ನೇ ಸೋಲಿಸುವ ಸ್ಥಳ.
  • ನಿಲ್ಲದೇ ಇರಬೇಕಾದ ಟೂಲ್-ಕಾಲಿಂಗ್ ಏಜೆಂಟ್‌ಗಳು. 8-ಬಿಟ್ ಆರ್ಗ್ಯುಮೆಂಟ್ ನಿಷ್ಠೆ ಎಂದರೆ ನಿಮ್ಮ ಫಂಕ್ಷನ್‌ಗಳಿಗೆ ಹಸ್ತಾಂತರಿಸಿದ JSON ಪಾರ್ಸ್ ಆಗುತ್ತದೆ; ವಿರೂಪಗೊಂಡ ಟೂಲ್ ಕಾಲ್ ಎಂದರೆ ಸ್ವಲ್ಪ ಕೆಟ್ಟ ಉತ್ತರವಲ್ಲ, ನಿಂತ ಏಜೆಂಟ್.
  • ರಚನೆಗೆ ದೀರ್ಘ-ಡಾಕ್ಯುಮೆಂಟ್ ವಿಶ್ಲೇಷಣೆ. ಇಡೀ ಫೈಲಿಂಗ್ ಒಳಗೆ, ಒಂದು ಸಂಕ್ಷಿಪ್ತ ಆಬ್ಜೆಕ್ಟ್ ಹೊರಗೆ.
  • ವಿಷಯ ಮಾಡರೇಶನ್ ಮತ್ತು ನೀತಿ ಸಂಶೋಧನೆ. ಫಿಲ್ಟರ್ ಮಾಡಿದ ಮಾಡೆಲ್ ಓದಲು ನಿರಾಕರಿಸುವ ವಸ್ತುವನ್ನು ಲೇಬಲ್ ಮಾಡುವುದು ಸ್ಥಾಯಿ ಟ್ರಸ್ಟ್-ಅಂಡ್-ಸೇಫ್ಟಿ ಸಮಸ್ಯೆ; ಕಠಿಣ ಸ್ಕೀಮಾ ಜೊತೆಗಿನ ಅನ್‌ಫಿಲ್ಟರ್ಡ್ ಮಾಡೆಲ್ ಅದನ್ನು ನೇರವಾಗಿ ಬಗೆಹರಿಸುತ್ತದೆ.

ಮತ್ತು ಎಲ್ಲಿ ಅಲ್ಲ: ಚಿತ್ರಗಳಿರುವ ಯಾವುದೇ ಕೆಲಸ (MiMo-V2.5 ಬಳಸಿ), ಮತ್ತು ಸ್ವಾಯತ್ತ ಬಹು-ಫೈಲ್ ಸಾಫ್ಟ್‌ವೇರ್ ಇಂಜಿನಿಯರಿಂಗ್, ಅಲ್ಲಿ Tencent ನ ಸ್ವಂತ ಟೇಬಲ್‌ಗಳು SWE-bench Verified ನಲ್ಲಿ Hy3 ಅನ್ನು GLM-5.2 ಗಿಂತ ಹಿಂದೆ ಮತ್ತು DeepSWE ನಲ್ಲಿ ಬಹಳ ಹಿಂದೆ ಇರಿಸುತ್ತವೆ.

ಮೂಲಗಳನ್ನು ಪರಿಶೀಲಿಸಿ

Hy3 ಫೌಂಡೇಶನ್ ಕುರಿತ ಪ್ರತಿಯೊಂದು ವಾಸ್ತುಶಿಲ್ಪ ಮತ್ತು ಬೆಂಚ್‌ಮಾರ್ಕ್ ಹಕ್ಕು Tencent ನ ಸಾರ್ವಜನಿಕ ಬಿಡುಗಡೆ ವಸ್ತುಗಳಿಂದ ಅಥವಾ ಅವುಗಳ ಪತ್ರಿಕಾ ವರದಿಯಿಂದ ಬರುತ್ತದೆ; ಕ್ಯಾಟಲಾಗ್ ಸತ್ಯಗಳು ನಮ್ಮ ಸ್ವಂತ ಲೈವ್ /v1/models ಇಂದ ಬರುತ್ತವೆ. ಎರಡನ್ನೂ ಪರಿಶೀಲಿಸಿ.

ಸ್ಪರ್ಧಿಗಳ ಸಂಖ್ಯೆಗಳು ಸೇರಿದಂತೆ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಅಂಕಿಅಂಶಗಳು Tencent ವರದಿ ಮಾಡಿದ್ದು; ಬರೆಯುವ ಸಮಯದಲ್ಲಿ ಸ್ವತಂತ್ರ ಪರಿಶೀಲನೆ ಬಾಕಿ ಇತ್ತು. ವೆಚ್ಚದ ಅಂಕಿಅಂಶಗಳನ್ನು ನಮ್ಮ ಪ್ರಕಟಿತ $0.50 / $2.00 ದರಗಳಿಂದ ಲೆಕ್ಕ ಹಾಕಲಾಗಿದೆ. ಈ ಪುಟದಲ್ಲಿನ ಯಾವುದೇ ಸಂಖ್ಯೆ Shannon ಚಲಾಯಿಸಿದ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಅಥವಾ ಅಂದಾಜು ಅಲ್ಲ.

10ಪದೇ ಪದೇ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು

ಸೆನ್ಸಾರ್ ರಹಿತ Hy3 ಮಾಡೆಲ್ API ಎಂದರೇನು?

ಇದು ಮಾಡೆಲ್ id Hy3-W8A16 ಗಾಗಿ Shannon AI ಗೇಟ್‌ವೇ ಎಂಡ್‌ಪಾಯಿಂಟ್ — Tencent ನ ಓಪನ್-ವೈಟ್ಸ್ Hy3 ಫೌಂಡೇಶನ್, ನಮ್ಮದೇ GPU ಕ್ಲಸ್ಟರ್‌ನಲ್ಲಿ 8-ಬಿಟ್ ವೈಟ್ ಪ್ರಿಸಿಷನ್‌ನಲ್ಲಿ ಸೇವೆ ನೀಡಲಾಗಿದೆ, ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲದೆ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲದೆ. ಇದು 262,144-ಟೋಕನ್ ಸಂದರ್ಭ ವಿಂಡೋ, ಪ್ರತಿ ವಿನಂತಿಗೆ 16,384 ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳು, ಟೂಲ್ ಕಾಲಿಂಗ್, ರೀಸನಿಂಗ್ reasoning_effort ಜೊತೆ, ಮತ್ತು json_schema ಮತ್ತು response_format ಎರಡರ ಮೂಲಕ ಪೂರ್ಣ ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ, /v1/chat/completions, /v1/messages ಮತ್ತು /v1/responses ಮೇಲೆ ಸ್ಟ್ರೀಮಿಂಗ್ ಜೊತೆ.

Hy3 JSON schema ಮತ್ತು ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್ ಬೆಂಬಲಿಸುತ್ತದೆಯೇ?

ಹೌದು. Hy3-W8A16 JSON-object ಮೋಡ್‌ಗಾಗಿ response_format ಮತ್ತು ಕಠಿಣ, ಟೈಪ್ಡ್ ಸ್ಕೀಮಾಗಳಿಗಾಗಿ json_schema ಎರಡನ್ನೂ ಬೆಂಬಲಿಸುತ್ತದೆ — ಪೂರ್ಣ ರಚನಾತ್ಮಕ-ಔಟ್‌ಪುಟ್ ಮೇಲ್ಮೈ, ಭಾಗಶಃ ಅಲ್ಲ. ಇದು ಕ್ಯಾಟಲಾಗ್‌ನ ಪ್ರತಿ ಮಾಡೆಲ್‌ಗೆ ನಿಜವಲ್ಲ: Laguna-S-2.1 ಎರಡನ್ನೂ ಬೆಂಬಲಿಸುವುದಿಲ್ಲ, ಮತ್ತು inkling response_format ಬೆಂಬಲಿಸುತ್ತದೆ ಆದರೆ json_schema ಅಲ್ಲ. ನಿಮ್ಮ ಪೈಪ್‌ಲೈನ್ ಟೈಪ್ಡ್ ಒಪ್ಪಂದದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದ್ದರೆ, Hy3 ಅದನ್ನು ಗೌರವಿಸಬಲ್ಲ ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಒಂದು.

W8A16 ಎಂದರೆ ಏನು, ಮತ್ತು ಇದು 4-ಬಿಟ್ ಅಥವಾ 3-ಬಿಟ್‌ಗಿಂತ ಉತ್ತಮವೇ?

W8A16 ಎಂದರೆ 8-ಬಿಟ್ ವೈಟ್ಸ್ ಮತ್ತು 16-ಬಿಟ್ ಆಕ್ಟಿವೇಶನ್‌ಗಳು — ನಾವು ಸೇವೆ ನೀಡುವ ಅತ್ಯುನ್ನತ-ನಿಷ್ಠೆಯ ಶ್ರೇಣಿ. W4A16-AUTOROUND-REAP (4-ಬಿಟ್ ವೈಟ್ಸ್, ಕಲಿತ ರೌಂಡಿಂಗ್, ಎಕ್ಸ್‌ಪರ್ಟ್ ಪ್ರೂನಿಂಗ್) ಮತ್ತು 3BIT-REAP (3-ಬಿಟ್ ವೈಟ್ಸ್ ಜೊತೆ ಎಕ್ಸ್‌ಪರ್ಟ್ ಪ್ರೂನಿಂಗ್) ಗೆ ಹೋಲಿಸಿದರೆ, ಇದು ಬಿಡುಗಡೆಯಾದ ವೈಟ್ಸ್ ಅನ್ನು ಅತಿ ಕಡಿಮೆ ಬದಲಿಸುತ್ತದೆ, ಆದ್ದರಿಂದ ವರ್ತನೆ ಮೂಲ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗೆ ಅತ್ಯಂತ ಹತ್ತಿರ ಉಳಿಯುತ್ತದೆ. ಆಕ್ರಮಣಕಾರಿ ಶ್ರೇಣಿಗಳು ಇರುವುದೇಕೆಂದರೆ ಅವಿಲ್ಲದಿದ್ದರೆ ಅತಿ ದೊಡ್ಡ ಫೌಂಡೇಶನ್‌ಗಳನ್ನು ವೇಗವಾಗಿ ಸೇವೆ ನೀಡುವುದು ಅಪ್ರಾಯೋಗಿಕವಾಗುತ್ತಿತ್ತು.

Hy3 ಚಿತ್ರಗಳನ್ನು ಅಥವಾ ದೃಷ್ಟಿಯನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆಯೇ?

ಇಲ್ಲ. Hy3-W8A16 ಪಠ್ಯ-ಮಾತ್ರ. ಅದಕ್ಕೆ ಚಿತ್ರ ಭಾಗಗಳನ್ನು ಕಳುಹಿಸುವುದು ಕೆಲಸ ಮಾಡುವುದಿಲ್ಲ. ಅದೇ 8-ಬಿಟ್ ಶ್ರೇಣಿಯಲ್ಲಿ ದೃಷ್ಟಿ ಜೊತೆಗೆ ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್ ಬೇಕಿದ್ದರೆ, MiMo-V2.5-W8A16 ಬಳಸಿ, ಇದು ಅದೇ $0.50 / $2.00 ಬೆಲೆಯಲ್ಲಿ json_schema ಮತ್ತು response_format ಜೊತೆಗೆ ಚಿತ್ರ ಇನ್‌ಪುಟ್ ಅನ್ನೂ ಬೆಂಬಲಿಸುತ್ತದೆ.

Hy3 API ಎಷ್ಟು ವೆಚ್ಚವಾಗುತ್ತದೆ?

ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್‌ಪುಟ್ ಟೋಕನ್‌ಗೆ $0.50 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗೆ $2.00 — ನಮ್ಮ ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿ ನೆಲಮಟ್ಟದ ಬೆಲೆ, MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 ಮತ್ತು MiniMax-M3 ಜೊತೆ ಹಂಚಿಕೆ. ಪ್ರತಿ ಕರೆಗೆ 1,200 ಇನ್‌ಪುಟ್ ಮತ್ತು 300 ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳ ಪ್ರಾತಿನಿಧಿಕ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್ ಪೈಪ್‌ಲೈನ್ ಪ್ರತಿ ಕರೆಗೆ ಸುಮಾರು $0.0012, ಅಥವಾ ಪ್ರತಿ ಮಿಲಿಯನ್ ಕರೆಗಳಿಗೆ ಸುಮಾರು $1,200 ವೆಚ್ಚವಾಗುತ್ತದೆ.

Hy3 ಒಂದು ವಿನಂತಿಯನ್ನು ನಿರಾಕರಿಸುತ್ತದೆಯೇ?

ಮಾಡೆಲ್‌ನ ಮುಂದೆ ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲ. ರಚನಾತ್ಮಕ ಪೈಪ್‌ಲೈನ್‌ಗೆ ಇದು ವಿಷಯದ ಗುಣದಷ್ಟೇ ವಿಶ್ವಾಸಾರ್ಹತೆಯ ಗುಣ: ನಿರಾಕರಣೆ ಎಂಬುದು ಸ್ಕೀಮಾ ಉಲ್ಲಂಘನೆ, ಏಕೆಂದರೆ ಮಾಡೆಲ್ ಏಕೆ ಉತ್ತರಿಸುವುದಿಲ್ಲ ಎಂದು ವಿವರಿಸುವ ಗದ್ಯ ನಿಮ್ಮ ವ್ಯಾಲಿಡೇಟರ್ ನಿರೀಕ್ಷಿಸುವ ಆಬ್ಜೆಕ್ಟ್ ಆಗಿ ಪಾರ್ಸ್ ಆಗುವುದಿಲ್ಲ. ನಿರಾಕರಣೆ ಪಥವನ್ನು ತೆಗೆದುಹಾಕುವುದು ಭದ್ರತೆ, ವೈದ್ಯಕೀಯ, ಕಾನೂನು ಮತ್ತು ವಯಸ್ಕ-ವಿಷಯ ಕಾರ್ಪಸ್‌ಗಳಲ್ಲಿನ ಇಡೀ ವರ್ಗದ ಪಾರ್ಸ್ ವೈಫಲ್ಯಗಳನ್ನು ತೆಗೆದುಹಾಕುತ್ತದೆ.

ನಿಮ್ಮ ಸ್ವಂತ ಸ್ಕೀಮಾದ ಮೇಲೆ Hy3 ಚಲಾಯಿಸಿ

8-ಬಿಟ್ ನಿಷ್ಠೆ, ಕಠಿಣ json_schema, 262K ಸಂದರ್ಭ, ನಿರಾಕರಣೆಗಳಿಲ್ಲ — ನೆಲಮಟ್ಟದ ಬೆಲೆಯಲ್ಲಿ.

API ದಾಖಲೀಕರಣ ಓದಿ ಎಲ್ಲಾ ಮಾಡೆಲ್ ಸಂಶೋಧನೆ

ಮಾಡೆಲ್ id Hy3-W8A16 · ಪಠ್ಯ-ಮಾತ್ರ · ಪ್ರತಿ 1M ಟೋಕನ್‌ಗೆ $0.50 ಇನ್ / $2.00 ಔಟ್


ಮೂಲಗಳು: Tencent Hunyuan ಮಾಡೆಲ್ ಕಾರ್ಡ್‌ಗಳು · Hy3 ರೆಪೊಸಿಟರಿ · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Hy3 ಬಿಡುಗಡೆಯ VentureBeat ವರದಿ. ಫೌಂಡೇಶನ್ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳು Tencent ವರದಿ ಮಾಡಿದ್ದು ಮತ್ತು ಸ್ವತಂತ್ರ ಪರಿಶೀಲನೆ ಬಾಕಿ ಇರುವ ತಾತ್ಕಾಲಿಕ. Shannon AI ಅನ್ನು Shannon Lab LLC, New Mexico, USA ನಿರ್ವಹಿಸುತ್ತದೆ.

ಎಲ್ಲ research links