ಸೆನ್ಸಾರ್ ರಹಿತ Inkling ಮಾಡೆಲ್ API

ನಮ್ಮ ಗೇಟ್‌ವೇಯ ಹನ್ನೆರಡು ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಹೆಚ್ಚಿನವು ಪಠ್ಯ-ಮಾತ್ರ. ನಾಲ್ಕು ಅಲ್ಲ, ಮತ್ತು ಆ ನಾಲ್ಕರಲ್ಲಿ Inkling ಒಂದು ನಿರ್ದಿಷ್ಟ ಸ್ಥಾನ ಹೊಂದಿದೆ: ಚಿತ್ರವೇ ಸಮಸ್ಯೆಯ ಕಠಿಣ ಭಾಗವಾಗಿದ್ದರೂ ಬಜೆಟ್ ಫ್ಲ್ಯಾಗ್‌ಶಿಪ್‌ಗೆ ಎಟುಕದಿದ್ದಾಗ ನೀವು ಕೈಗೆತ್ತಿಕೊಳ್ಳುವ ದೃಷ್ಟಿ ಮಾಡೆಲ್. ಈ ಕಾರ್ಡ್ ಫೌಂಡೇಶನ್ ಎಲ್ಲಿಂದ ಬಂತು, W4A16-AUTOROUND-REAP ಪ್ರತ್ಯಯ ಅದಕ್ಕೆ ಏನು ಮಾಡಿತು, API ಮಟ್ಟದಲ್ಲಿ ಅದು ಏನು ಮಾಡುತ್ತದೆ ಮತ್ತು ಏನು ಮಾಡುವುದಿಲ್ಲ, ಮತ್ತು — ಪ್ರಾಮಾಣಿಕವಾಗಿ ಹೇಳುವುದಾದರೆ — ಅದೇ ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿನ ಅಗ್ಗದ ಮಾಡೆಲ್ ಯಾವಾಗ ಉತ್ತಮ ಆಯ್ಕೆ ಎಂಬುದನ್ನು ಒಳಗೊಂಡಿದೆ.

01Inkling ಎಂದರೇನು, ಮತ್ತು ಅದನ್ನು ಯಾರು ನಿರ್ಮಿಸಿದರು?

Inkling ಎಂಬುದು Thinking Machines Lab ನಿಂದ ಬಂದ ಮೊದಲ ಓಪನ್-ವೈಟ್ಸ್ ಮಾಡೆಲ್, ಜುಲೈ 15, 2026 ರಂದು ಪ್ರಕಟಿಸಲಾಗಿದೆ. "ಓಪನ್" ಎಂದು ಬಿಂಬಿಸಿಕೊಳ್ಳುವ ಹೆಚ್ಚಿನ ಬಿಡುಗಡೆಗಳಿಗಿಂತ ಭಿನ್ನವಾಗಿ, ಇದು Hugging Face ನಲ್ಲಿ ಪೂರ್ಣ ಡೌನ್‌ಲೋಡ್ ಮಾಡಬಹುದಾದ ವೈಟ್ಸ್ ಮತ್ತು transformers, SGLang, vLLM ಮತ್ತು llama.cpp ನಲ್ಲಿ ದಿನ-ಸೊನ್ನೆ ಬೆಂಬಲದೊಂದಿಗೆ ಬಿಡುಗಡೆಯಾಯಿತು — ಇದೇ ಕಾರಣಕ್ಕೆ ಅದು ನಮ್ಮಂತಹ ಇನ್‌ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್‌ನಲ್ಲಿ ಚಲಾಯಿಸಬಹುದಾಗಿ ಆಯಿತು. Thinking Machines ನ ಸ್ವಂತ ಬಿಡುಗಡೆ ಸಾಮಗ್ರಿಗಳಿಂದ, ಮುಖ್ಯಾಂಶ ಸಂಖ್ಯೆಗಳು:

ಇದು ಸ್ಪಾರ್ಸ್ ಮಿಶ್ರಣ-ಆಫ್-ಎಕ್ಸ್‌ಪರ್ಟ್ಸ್ ವಿನ್ಯಾಸ: 6,144 ಹಿಡನ್ ಸೈಸ್‌ನಲ್ಲಿ 66 ಡಿಕೋಡರ್ ಲೇಯರ್‌ಗಳು, ಮೊದಲ ಎರಡು ಡೆನ್ಸ್, ಉಳಿದ 64 256 ರೂಟ್ ಆದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳು ಮತ್ತು 2 ಹಂಚಿಕೊಂಡ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಒಯ್ಯುತ್ತವೆ, ಪ್ರತಿ ಟೋಕನ್‌ಗೆ 6 ರೂಟ್ ಆದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳು ಸಕ್ರಿಯ. ಯಾವುದೇ ಟೋಕನ್‌ನಲ್ಲಿ ಸುಮಾರು 4% ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು ಮಾತ್ರ ಕೆಲಸ ಮಾಡುತ್ತವೆ — ಇದೇ ಟ್ರಿಲಿಯನ್‌ಗೆ ಸಮೀಪದ-ಪ್ಯಾರಾಮೀಟರ್ ಮಾಡೆಲ್ ಅನ್ನು ಸೇವೆ ನೀಡಲು ಸಾಧ್ಯವಾಗಿಸುವ ಅಂಶ.

ಎರಡು ವಾಸ್ತುಶಿಲ್ಪ ಆಯ್ಕೆಗಳು ಹೆಸರಿಸುವಷ್ಟು ಅಸಾಮಾನ್ಯ. ಅಟೆನ್ಶನ್ ಇಂಟರ್‌ಲೀವ್ ಆಗಿದೆ — 512-ಟೋಕನ್ ವಿಂಡೋ ಮೇಲೆ 55 ಸ್ಲೈಡಿಂಗ್-ವಿಂಡೋ ಅಟೆನ್ಶನ್ ಲೇಯರ್‌ಗಳು 11 ಗ್ಲೋಬಲ್ ಲೇಯರ್‌ಗಳ ವಿರುದ್ಧ, 5:1 ಪುನರಾವರ್ತಿತ ಮಾದರಿಯಲ್ಲಿ. ಮತ್ತು Inkling RoPE ಬಳಸುವುದಿಲ್ಲ: ಇದು key/value ಪ್ರೊಜೆಕ್ಷನ್‌ಗಳು ಮತ್ತು ರೆಸಿಡ್ಯುಯಲ್ ಶಾಖೆಗಳ ಮೇಲೆ ಚಿಕ್ಕ ಕಾಸಲ್ ಕನ್ವಲ್ಯೂಶನ್‌ಗಳ ಜೊತೆಗೆ, ಕಲಿತ, ಇನ್‌ಪುಟ್-ಅವಲಂಬಿತ ಸಾಪೇಕ್ಷ-ಸ್ಥಾನ ಬಯಾಸ್ ಬಳಸುತ್ತದೆ. Sebastian Raschka ಯ ವಾಸ್ತುಶಿಲ್ಪ ಟಿಪ್ಪಣಿಗಳು ಇವೆರಡನ್ನೂ ಪ್ರಮಾಣಿತ 2026 ಪಾಕವಿಧಾನದಿಂದ ನಿಜವಾದ ವಿಚಲನೆಗಳೆಂದು ಗುರುತಿಸುತ್ತವೆ. ತರಬೇತಿ ದೊಡ್ಡ ಮ್ಯಾಟ್ರಿಕ್ಸ್ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳಿಗೆ Muon ಮತ್ತು ಉಳಿದವುಗಳಿಗೆ Adam ಬಳಸಿತು, ನಂತರ ಪೋಸ್ಟ್-ಟ್ರೇನಿಂಗ್‌ನಲ್ಲಿ 30 ಮಿಲಿಯನ್‌ಗಿಂತ ಹೆಚ್ಚು ಅಸಿಂಕ್ರೊನಸ್ RL ರೋಲ್‌ಔಟ್‌ಗಳು.

API ಬಳಕೆದಾರರಿಗೆ ಮುಖ್ಯವಾದದ್ದು ಈ ಕೌತುಕ ಸಂಗತಿಗಳಲ್ಲ. ಮುಖ್ಯವಾದದ್ದು ಇದು ಪಠ್ಯ, ಚಿತ್ರಗಳು, ಆಡಿಯೋ ಮತ್ತು ವೀಡಿಯೋ ವ್ಯಾಪಿಸಿದ 45 ಟ್ರಿಲಿಯನ್ ಟೋಕನ್‌ಗಳ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದ ಫ್ರಂಟಿಯರ್-ಪ್ರಮಾಣದ, ಸ್ಥಳೀಯವಾಗಿ ಮಲ್ಟಿಮೋಡಲ್ ಫೌಂಡೇಶನ್ ಎಂಬುದು — ನಂತರ ದೃಷ್ಟಿ ಅಡಾಪ್ಟರ್ ಜೋಡಿಸಿದ ಪಠ್ಯ ಮಾಡೆಲ್ ಅಲ್ಲ. ಚಿತ್ರಗಳನ್ನು ನಾಲ್ಕು-ಲೇಯರ್ ಹೈರಾರ್ಕಿಕಲ್ MLP ಪ್ಯಾಚಿಫೈಯರ್ ಮೂಲಕ 40×40 ಪಿಕ್ಸೆಲ್ ಪ್ಯಾಚ್‌ಗಳಾಗಿ ಎನ್‌ಕೋಡ್ ಮಾಡಲಾಗುತ್ತದೆ ಮತ್ತು ಅದೇ ಡಿಕೋಡರ್‌ನಲ್ಲಿ ಪಠ್ಯದೊಂದಿಗೆ ಜಂಟಿಯಾಗಿ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲಾಗುತ್ತದೆ. ದೃಶ್ಯ ಗ್ರಹಿಕೆ ಪೂರ್ವ-ತರಬೇತಿ ಗುರಿಯಲ್ಲಿಯೇ ಇತ್ತು.

02W4A16-AUTOROUND-REAP ಎಂದರೆ ಏನು?

ಆ ಪ್ರತ್ಯಯದಲ್ಲಿ ಮೂರು ಪ್ರತ್ಯೇಕ ತಂತ್ರಗಳನ್ನು ಜೋಡಿಸಲಾಗಿದೆ, ಮತ್ತು ಅವು ಬೇರೆ ಬೇರೆ ಕೆಲಸ ಮಾಡುತ್ತವೆ. ಇದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು ಯೋಗ್ಯ, ಏಕೆಂದರೆ ನೀವು ನಮ್ಮ API ನಲ್ಲಿ ಕರೆಯುವ ಮಾಡೆಲ್ ಮತ್ತು Thinking Machines ಪ್ರಕಟಿಸಿದ ಚೆಕ್‌ಪಾಯಿಂಟ್ ನಡುವಿನ ಒಂದೇ ಅತಿ ದೊಡ್ಡ ವ್ಯತ್ಯಾಸ ಈ ಪ್ರತ್ಯಯ.

REAP — ಯಾರೂ ರೂಟ್ ಮಾಡದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಪ್ರೂನ್ ಮಾಡುವುದು

REAP ಎಂದರೆ Router-weighted Expert Activation Pruning, Cerebras Research ನಿಂದ (arXiv 2510.13999, ICLR 2026 ಗೆ ಅಂಗೀಕರಿಸಲಾಗಿದೆ). ಪ್ರತಿ ಲೇಯರ್‌ಗೆ 256 ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳಿರುವ MoE ನಲ್ಲಿ ರೂಟರ್ ಕೆಲಸವನ್ನು ಸಮಾನವಾಗಿ ಹಂಚುವುದಿಲ್ಲ: ಕೆಲವು ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ನಿರಂತರವಾಗಿ ತಲುಪಲಾಗುತ್ತದೆ, ಇತರವು ಅಪರೂಪವಾಗಿ ಸಕ್ರಿಯವಾಗುತ್ತವೆ ಮತ್ತು ಸಕ್ರಿಯವಾದಾಗಲೂ ಕಡಿಮೆ ಕೊಡುಗೆ ನೀಡುತ್ತವೆ. REAP ಪ್ರತಿ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗೆ ರೂಟರ್‌ನ ಗೇಟ್ ಮೌಲ್ಯಗಳು ಮತ್ತು ಎಕ್ಸ್‌ಪರ್ಟ್‌ನ ಆಕ್ಟಿವೇಶನ್ ನಾರ್ಮ್‌ಗಳು ಎರಡರ ಆಧಾರದ ಮೇಲೆ ಅಂಕ ನೀಡುತ್ತದೆ — ಆಗಾಗ್ಗೆ ಆಯ್ಕೆಯಾದರೂ ಸಣ್ಣ-ಪ್ರಮಾಣದ ಅಪ್‌ಡೇಟ್‌ಗಳನ್ನು ಕೊಡುಗೆ ನೀಡುವ ಎಕ್ಸ್‌ಪರ್ಟ್ ಅದರ ಆಯ್ಕೆ ಎಣಿಕೆ ಸೂಚಿಸುವುದಕ್ಕಿಂತ ಕಡಿಮೆ ಮುಖ್ಯ — ಮತ್ತು ಕ್ವಾಂಟೈಸೇಶನ್‌ಗೂ ಮೊದಲು ಕಡಿಮೆ-ಪ್ರಾಮುಖ್ಯತೆಯ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಒಂದೇ ಬಾರಿಗೆ ಬಿಡುತ್ತದೆ.

ಹೆಚ್ಚು ಫ್ಯಾಶನ್ ಎಕ್ಸ್‌ಪರ್ಟ್ ಮರ್ಜಿಂಗ್ ಬದಲು ನಾವು ಪ್ರೂನಿಂಗ್ ಬಳಸಲು ಕಾರಣ ಎಂದರೆ ಈ ಎರಡೂ ಕೆಲಸದ ಪ್ರಕಾರಕ್ಕೆ ಅನುಗುಣವಾಗಿ ಭಿನ್ನವಾಗುತ್ತವೆ. ಡಿಸ್ಕ್ರಿಮಿನೇಟಿವ್ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳಲ್ಲಿ ಮರ್ಜಿಂಗ್ ಸ್ಪರ್ಧಾತ್ಮಕವಾಗಿ ಕಾಣುತ್ತದೆ ಮತ್ತು ಜನರೇಟಿವ್‌ಗಳಲ್ಲಿ ಕುಸಿಯುತ್ತದೆ. REAP ಲೇಖಕರು ವರದಿ ಮಾಡುವಂತೆ, ಜನರು API ಗಾಗಿ ಖರೀದಿಸುವ ಕೆಲಸಗಳಿಗೆ ನಿಖರವಾಗಿ — ಕೋಡ್ ಸಿಂಥೆಸಿಸ್, ಟೂಲ್ ಕಾಲಿಂಗ್, ಬಹು-ಸುತ್ತಿನ ರೀಸನಿಂಗ್ — ಪ್ರೂನಿಂಗ್ 50% ಮೀರಿದ ಸಂಕುಚನ ಅನುಪಾತಗಳಲ್ಲಿ, 20B ಇಂದ 1T ಪ್ಯಾರಾಮೀಟರ್‌ವರೆಗಿನ ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ, ಗುಣಮಟ್ಟವನ್ನು ಉತ್ತಮವಾಗಿ ಕಾಪಾಡುತ್ತದೆ. ಮರ್ಜಿಂಗ್ ರೂಟರ್‌ನ ವಿಶೇಷತೆಯನ್ನು ನಾಶಪಡಿಸುತ್ತದೆ; ಪ್ರೂನಿಂಗ್ ಉಳಿದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಮತ್ತು ಅವುಗಳ ನಡುವಿನ ರೂಟಿಂಗ್ ಅನ್ನು ಹಾಗೇ ಬಿಡುತ್ತದೆ.

AutoRound — ಎಲ್ಲಿ ರೌಂಡ್ ಮಾಡಬೇಕೆಂದು ಕಲಿಯುವುದು

AutoRound ಎಂಬುದು Intel ನ ಪೋಸ್ಟ್-ಟ್ರೇನಿಂಗ್ ಕ್ವಾಂಟೈಸೇಶನ್ ವಿಧಾನ (arXiv 2309.05516, SignRound ಎಂದು ಪ್ರಕಟಿಸಲಾಗಿದೆ). ಸರಳ ಕ್ವಾಂಟೈಸೇಶನ್ ಪ್ರತಿ ವೈಟ್ ಅನ್ನು ಹತ್ತಿರದ ಪ್ರತಿನಿಧಿಸಬಹುದಾದ 4-ಬಿಟ್ ಮೌಲ್ಯಕ್ಕೆ ರೌಂಡ್ ಮಾಡುತ್ತದೆ — ಒಂದು ಸಮಂಜಸ ಡೀಫಾಲ್ಟ್ ಆದರೆ ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಕೆಟ್ಟದ್ದು, ಏಕೆಂದರೆ ರೌಂಡಿಂಗ್ ದೋಷಗಳು ಸ್ವತಂತ್ರವಾಗಿಲ್ಲ ಮತ್ತು 66-ಲೇಯರ್ ಸ್ಟ್ಯಾಕ್‌ನಲ್ಲಿ ಸಂಗ್ರಹವಾಗುತ್ತವೆ. AutoRound ರೌಂಡಿಂಗ್ ನಿರ್ಧಾರವನ್ನು ಆಪ್ಟಿಮೈಸ್ ಮಾಡಬೇಕಾದ ಸಂಗತಿಯಂತೆ ಪರಿಗಣಿಸುತ್ತದೆ: ಸೈನ್ಡ್ ಗ್ರೇಡಿಯಂಟ್ ಡಿಸೆಂಟ್ ಒಂದೆರಡು ನೂರು ಹಂತಗಳಲ್ಲಿ ರೌಂಡಿಂಗ್ ದಿಕ್ಕು ಮತ್ತು ವೈಟ್ ಕ್ಲಿಪಿಂಗ್ ವ್ಯಾಪ್ತಿಗಳನ್ನು ಜಂಟಿಯಾಗಿ ಟ್ಯೂನ್ ಮಾಡುತ್ತದೆ, ಮರುತರಬೇತಿ ಇಲ್ಲದೆ ಕ್ವಾಂಟೈಸೇಶನ್-ಅವೇರ್ ತರಬೇತಿಯ ನಿಖರತೆಯನ್ನು ಎರವಲು ಪಡೆಯುತ್ತದೆ. Intel ಅತ್ಯಂತ ಕಡಿಮೆ-ಬಿಟ್ ಸೆಟ್ಟಿಂಗ್‌ಗಳಲ್ಲಿ ಅತಿ ದೊಡ್ಡ ಲಾಭ ಮತ್ತು INT4 ನಲ್ಲಿ ಸ್ಪರ್ಧಾತ್ಮಕ ಅಂಚು ವರದಿ ಮಾಡುತ್ತದೆ.

W4A16 — ಬಿಟ್‌ಗಳು ಎಲ್ಲಿ ಹೋಗುತ್ತವೆ

W4A16 ಎಂಬುದು ಸಂಖ್ಯಾತ್ಮಕ ಫಾರ್ಮ್ಯಾಟ್: 4-ಬಿಟ್ ವೈಟ್ಸ್, 16-ಬಿಟ್ ಆಕ್ಟಿವೇಶನ್‌ಗಳು. 975B ಮಾಡೆಲ್‌ನಲ್ಲಿ ಮೆಮೊರಿಯನ್ನು ಪ್ರಾಬಲ್ಯ ಸಾಧಿಸುವ ವೈಟ್ಸ್ BF16 ಫುಟ್‌ಪ್ರಿಂಟ್‌ನ ಸುಮಾರು ಕಾಲುಭಾಗಕ್ಕೆ ಕುಗ್ಗುತ್ತವೆ, ಆದರೆ ಗಣಿತಶಾಸ್ತ್ರ 16 ಬಿಟ್‌ಗಳಲ್ಲೇ ಉಳಿಯುತ್ತದೆ. ಆ ವಿಭಜನೆ ದೃಷ್ಟಿ ಮಾಡೆಲ್‌ಗೆ ವಿಶೇಷವಾಗಿ ಮುಖ್ಯ: ಆಕ್ಟಿವೇಶನ್-ಕ್ವಾಂಟೈಸ್ ಮಾಡಿದ ಸ್ಕೀಮ್‌ಗಳು ಚಿತ್ರ ಗ್ರಹಿಕೆ ಅವಲಂಬಿಸಿರುವ ಸೂಕ್ಷ್ಮ ಸಂಖ್ಯಾತ್ಮಕ ಕೆಲಸಕ್ಕೆ ನಿಖರವಾಗಿ ಹಾನಿ ಮಾಡುತ್ತವೆ — ಸಣ್ಣ ಆಕ್ಸಿಸ್ ಲೇಬಲ್ ಓದುವುದು, ಡಯಗ್ರಾಮ್‌ನಲ್ಲಿ ತೆಳುವಾದ ಗೆರೆ ಗುರುತಿಸುವುದು, ಎರಡು ಒಂದೇ ರೀತಿಯ ಛಾಯೆಗಳನ್ನು ಬೇರ್ಪಡಿಸುವುದು. ಆಕ್ಟಿವೇಶನ್‌ಗಳನ್ನು 16 ಬಿಟ್‌ಗಳಲ್ಲಿ ಇಡುವುದು ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ವೆಚ್ಚ ಮಾಡುತ್ತದೆ ಮತ್ತು ದೃಷ್ಟಿ ಕೆಲಸ ಗಮನಿಸುವಲ್ಲಿ ನಿಖರತೆಯನ್ನು ಮರಳಿ ಗಳಿಸುತ್ತದೆ.

ಒಟ್ಟಾಗಿ, ಈ ಮೂರೂ ನಾವು ಅತಿ ದೊಡ್ಡ ಫೌಂಡೇಶನ್‌ಗಳಲ್ಲಿ ಬಳಸುವ ಆಕ್ರಮಣಕಾರಿ 3BIT-REAP ಟಯರ್‌ನ ಗುಣಮಟ್ಟದ ಕಡಿದಾದ ಕುಸಿತವಿಲ್ಲದೆ ಹೊಂದುವ ಮತ್ತು ವೇಗವಾಗಿ ಇರುವ ಮಾಡೆಲ್ ನೀಡುತ್ತವೆ. ಬೆಲೆ ಪ್ರತಿಬಿಂಬಿಸುವುದು ಆ ವಿನಿಮಯವನ್ನೇ.

03ದೃಷ್ಟಿ: ನಿರಾಕರಣೆ-ಇಲ್ಲದ ಚಿತ್ರ ವಿಶ್ಲೇಷಣೆ API

Inkling ಎಂಬುದು Kimi-K3, Kimi-K2.6, ಮತ್ತು MiniMax-M3 ಜೊತೆಗೆ ನಮ್ಮ ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿನ ನಾಲ್ಕು ದೃಷ್ಟಿ-ಸಮರ್ಥ ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಒಂದು. Thinking Machines ನ ಬಿಡುಗಡೆಯಿಂದ, ಬೇಸ್ ಮಾಡೆಲ್‌ನ ಪ್ರಕಟಿತ ದೃಷ್ಟಿ ಫಲಿತಾಂಶಗಳು MMMU Pro (Standard 10) ನಲ್ಲಿ 73.3% ಮತ್ತು CharXiv ರೀಸನಿಂಗ್ ಪ್ರಶ್ನೆಗಳಲ್ಲಿ 78.1% — ಮಾಡೆಲ್ ಚಾರ್ಟ್ ವಿರುದ್ಧ Python ಚಲಾಯಿಸಲು ಅನುಮತಿಸಿದಾಗ 82.0% ಗೆ ಏರುತ್ತದೆ. ಇವು ಅನ್‌ಕ್ವಾಂಟೈಸ್ಡ್ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗೆ ಲ್ಯಾಬ್‌ನ ಸ್ವಂತ ಅಂಕಿಅಂಶಗಳು; ಅವನ್ನು ಕುಟುಂಬದ ಮಿತಿಯಾಗಿ ಪರಿಗಣಿಸಿ, ನಮ್ಮ ಬಿಲ್ಡ್‌ನ ಅಳತೆಯಾಗಿ ಅಲ್ಲ.

CharXiv ಬಗ್ಗೆ ಗಮನ ಕೊಡಬೇಕಾದ ಒಂದು, ಏಕೆಂದರೆ ಜನರು OCR ಸೇವೆಗಿಂತ ದೃಷ್ಟಿ API ಏಕೆ ಖರೀದಿಸುತ್ತಾರೆ ಎಂಬುದಕ್ಕೆ ಇದು ಹೊಂದಿಕೆಯಾಗುತ್ತದೆ. ಇದು ವೈಜ್ಞಾನಿಕ ಚಾರ್ಟ್‌ಗಳ ಮೇಲಿನ ರೀಸನಿಂಗ್ ಪರೀಕ್ಷಿಸುತ್ತದೆ — ಆಕ್ಸಿಸ್‌ನಿಂದ ಮೌಲ್ಯ ಓದುವುದು, ಎರಡು ಸರಣಿಗಳನ್ನು ಹೋಲಿಸುವುದು, ಒಂದು ಟ್ರೆಂಡ್ ಹಿಮ್ಮುಖವಾಗುವುದನ್ನು ಗಮನಿಸುವುದು. "ಈ ಚಿತ್ರದಲ್ಲಿ ಯಾವ ಪಠ್ಯ ಇದೆ" ಎಂಬುದಲ್ಲ, ಬದಲಿಗೆ "ಈ ಫಿಗರ್ ಏನು ಹೇಳಿಕೊಳ್ಳುತ್ತದೆ, ಮತ್ತು ಆ ಹೇಳಿಕೆ ನಿಜವೇ." ಸಣ್ಣ ಕ್ಯಾಪ್ಷನರ್ ಬದಲು 975B ರೀಸನಿಂಗ್ ಮಾಡೆಲ್‌ಗೆ ಚಿತ್ರ ಕಳುಹಿಸುವುದನ್ನು ಸಮರ್ಥಿಸುವುದು ಇದೇ.

ಚಿತ್ರ ಕಳುಹಿಸುವುದು ಸಾಮಾನ್ಯ OpenAI-ಹೊಂದಾಣಿಕೆ ಕೆಲಸ — /v1/chat/completions ನಲ್ಲಿ image_url ಕಂಟೆಂಟ್ ಪಾರ್ಟ್, /v1/messages ನಲ್ಲಿ Anthropic-ಶೈಲಿಯ image ಬ್ಲಾಕ್, ಅಥವಾ /v1/responses ನಲ್ಲಿ ಸಮಾನ. ಎಲ್ಲಾ ಮೂರು ಶೈಲಿಗಳು ಅದೇ ವೈಟ್ಸ್ ಅನ್ನು ತಲುಪುತ್ತವೆ ಮತ್ತು ಎಲ್ಲಾ ಮೂರೂ ಸ್ಟ್ರೀಮ್ ಆಗುತ್ತವೆ; ನಿಮ್ಮ ಈಗಿನ SDK ಈಗಾಗಲೇ ಮಾತನಾಡುವ ಯಾವುದನ್ನಾದರೂ ಆಯ್ಕೆಮಾಡಿ. ಒಂದು ಕೆಲಸ ಮಾಡಿದ ಉದಾಹರಣೆ ವಿಭಾಗ 09 ರಲ್ಲಿದೆ.

ಸೆನ್ಸಾರ್ ರಹಿತ ಭಾಗ ಪಠ್ಯಕ್ಕಿಂತ ದೃಷ್ಟಿಗೆ ಹೆಚ್ಚು ಮುಖ್ಯ. ದೃಷ್ಟಿ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ನಲ್ಲಿ ನಿರಾಕರಣೆ ಪದರ ಅಸಾಮಾನ್ಯವಾಗಿ ಒರಟು, ಏಕೆಂದರೆ ಮಾಡೆಲ್ ವಿನಂತಿಯ ಬಗ್ಗೆ ರೀಸನ್ ಮಾಡುವ ಮೊದಲೇ ಅದು ಸಾಮಾನ್ಯವಾಗಿ ಚಿತ್ರವನ್ನು ವರ್ಗೀಕರಿಸುತ್ತದೆ. ನ್ಯಾಯಸಮ್ಮತ ಕೆಲಸ ನಿರಂತರವಾಗಿ ಸಿಕ್ಕಿಬೀಳುತ್ತದೆ: ಕ್ಲಿನಿಕಲ್-ನೋಟ್ಸ್ ಪೈಪ್‌ಲೈನ್‌ನಲ್ಲಿ ಗಾಯದ ಫೋಟೋ, ಘಟನಾ ವರದಿಯಲ್ಲಿ ಫೊರೆನ್ಸಿಕ್ ಸ್ಕ್ರೀನ್‌ಶಾಟ್, ವಿಮರ್ಶೆ ಬರಹಕ್ಕಾಗಿ ವಿಶ್ಲೇಷಿಸಲಾಗುತ್ತಿರುವ ಚಲನಚಿತ್ರದ ಫ್ರೇಮ್, ವೈದ್ಯಕೀಯ ಸ್ಕ್ಯಾನ್, ಆಕಸ್ಮಿಕವಾಗಿ ಹೆಸರೊಂದನ್ನು ಒಳಗೊಂಡ ದಾಖಲೆಯ ಚಿತ್ರ. ನಮ್ಮ ಗೇಟ್‌ವೇಯಲ್ಲಿ Inkling ಮುಂದೆ ಅಂತಹ ಯಾವುದೇ ವರ್ಗೀಕಾರಕ ಇಲ್ಲ. ಇದು ನೀವು ಕಳುಹಿಸಿದ್ದನ್ನು ನೋಡುತ್ತದೆ ಮತ್ತು ನೀವು ಕೇಳಿದ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುತ್ತದೆ. ಅದೇ ಈ ಉತ್ಪನ್ನ.

04ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್: response_format ಹೌದು, json_schema ಇಲ್ಲ

ಇದೊಂದು ಜಾಗ ಅಲ್ಲಿ Inkling ಕ್ಯಾಟಲಾಗ್‌ನ ಬಹುತೇಕ ಮಾಡೆಲ್‌ಗಳಿಗಿಂತ ಕಡಿಮೆ ಸಮರ್ಥ, ಮತ್ತು ಪ್ರೊಡಕ್ಷನ್‌ನಲ್ಲಿ ಕಂಡುಹಿಡಿಯುವುದಕ್ಕಿಂತ ಅದಕ್ಕಾಗಿ ಯೋಜಿಸುವುದು ಉತ್ತಮ.

ಸಾಮರ್ಥ್ಯ	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
ದೃಷ್ಟಿ (ಚಿತ್ರ ಇನ್‌ಪುಟ್)	ಹೌದು	ಹೌದು	ಹೌದು	ಇಲ್ಲ
response_format	ಹೌದು	ಹೌದು	ಹೌದು	ಇಲ್ಲ
json_schema	ಇಲ್ಲ	ಹೌದು	ಹೌದು	ಇಲ್ಲ
ಟೂಲ್ ಕಾಲಿಂಗ್	ಹೌದು	ಹೌದು	ಹೌದು	ಹೌದು
ರೀಸನಿಂಗ್ ಎಫರ್ಟ್	ಹೌದು	ಹೌದು	ಹೌದು	ಹೌದು

response_format: {"type": "json_object"} ಕೆಲಸ ಮಾಡುತ್ತದೆ — ನಿಮಗೆ ಸಿಂಟ್ಯಾಕ್ಟಿಕಲಿ ಸಿಂಧುವಾದ JSON ಸಿಗುತ್ತದೆ. ನಿಮಗೆ ಸಿಗದಿರುವುದು ನೀವು ಒದಗಿಸಿದ ಸ್ಕೀಮಾ ವಿರುದ್ಧ ಗ್ರಾಮರ್-ನಿಯಂತ್ರಿತ ಡಿಕೋಡಿಂಗ್, ಅಲ್ಲಿ ನಿಮ್ಮ ರಚನೆಯನ್ನು ಉಲ್ಲಂಘಿಸುವ ಟೋಕನ್ ಹೊರಸೂಸುವುದನ್ನು ಸ್ಯಾಂಪ್ಲರ್ ಭೌತಿಕವಾಗಿ ತಡೆಯುತ್ತದೆ. ಫೀಲ್ಡ್ ಹೆಸರುಗಳು, ಎನಮ್ ಸದಸ್ಯತ್ವ, ಮತ್ತು ಅಗತ್ಯ-ಕೀ ಇರುವಿಕೆ ಮಾಡೆಲ್‌ನ ಆಯ್ಕೆ, ಖಾತ್ರಿಯಲ್ಲ.

ಅದರ ಜೊತೆ ಬದುಕುವ ಮೂರು ವಿಧಾನಗಳು, ವಿಶ್ವಾಸಾರ್ಹತೆಯ ಆರೋಹಣ ಕ್ರಮದಲ್ಲಿ:

1. ಸ್ಕೀಮಾ ಪ್ರಾಂಪ್ಟ್ ಮಾಡಿ ಮತ್ತು ಮೌಲ್ಯೀಕರಿಸಿ. ಸ್ಕೀಮಾವನ್ನು ಸಿಸ್ಟಂ ಪ್ರಾಂಪ್ಟ್‌ನಲ್ಲಿ ಅಕ್ಷರಶಃ JSON ಆಗಿ ಇಡಿ, response_format ಅನ್ನು json_object ಗೆ ಸೆಟ್ ಮಾಡಿ, ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ನಿಮ್ಮ ಕಡೆ ಮೌಲ್ಯೀಕರಿಸಿ. ಮೌಲ್ಯೀಕರಣ ವಿಫಲವಾದಾಗ ವ್ಯಾಲಿಡೇಟರ್‌ನ ದೋಷ ಸಂದೇಶ ಸೇರಿಸಿ ಮರುಪ್ರಯತ್ನಿಸಿ. ಅಗ್ಗ, ಕೆಲಸ ಮಾಡುತ್ತದೆ, ಮರುಪ್ರಯತ್ನ ಬಜೆಟ್ ಬೇಕು.
2. ಸ್ಕೀಮಾವಾಗಿ ಟೂಲ್ ವ್ಯಾಖ್ಯಾನ ಬಳಸಿ. ಟೂಲ್ ಕಾಲಿಂಗ್ ಬೆಂಬಲಿತ, ಮತ್ತು ಫಂಕ್ಷನ್‌ನ ಪ್ಯಾರಾಮೀಟರ್ ವ್ಯಾಖ್ಯಾನವೇ ಒಂದು JSON Schema. ನಿಮಗೆ ಬೇಕಾದ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್‌ಗಾಗಿ ಹೆಸರಿಸಿದ ಒಂದೇ ಟೂಲ್ ಘೋಷಿಸಿ, ಅದನ್ನು ಫೋರ್ಸ್ ಮಾಡಿ, ಮತ್ತು ಆರ್ಗ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಓದಿ. ಇದು ಸಾಮಾನ್ಯವಾಗಿ Inkling ನಲ್ಲಿ ಅತ್ಯಂತ ಬಲಿಷ್ಠ ಆಯ್ಕೆ ಮತ್ತು ಇದಕ್ಕೆ ನಿಮಗೆ ಹೆಚ್ಚುವರಿ ವೆಚ್ಚವಿಲ್ಲ.
3. ಎರಡು ಮಾಡೆಲ್‌ಗಳ ನಡುವೆ ಕೆಲಸ ವಿಭಜಿಸಿ. Inkling ದೃಷ್ಟಿ ಮತ್ತು ರೀಸನಿಂಗ್ ಅನ್ನು ಗದ್ಯದಲ್ಲಿ ಮಾಡಲಿ, ನಂತರ ಆ ಗದ್ಯವನ್ನು ರಚನಾ ಹಂತಕ್ಕಾಗಿ ನೈಜ json_schema ಜೊತೆ $0.50 / $2.00 ದರದ MiMo-V2.5-W8A16 ಗೆ ಕೈಗೊಡಿ. ಎರಡು ಕರೆಗಳು, ಆದರೆ ಎರಡನೆಯದು ಅಗ್ಗ, ಆಕಾರದಲ್ಲಿ ನಿರ್ಣಾಯಕ, ಮತ್ತು ಜಾಣನಾಗಿರಬೇಕಾದ ಮಾಡೆಲ್ ಚಿತ್ರ ನೋಡಿದ ಮಾಡೆಲ್.

ಯಾವುದೇ ಹೆಚ್ಚಿನ-ಪ್ರಮಾಣದ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್ ಪೈಪ್‌ಲೈನ್‌ಗೆ ನಾವು ಶಿಫಾರಸು ಮಾಡುವ ಮಾದರಿ ಆಯ್ಕೆ 3. ಅಗತ್ಯವಿರುವ ಹಂತಕ್ಕೆ ಮಾತ್ರ ಪ್ರೀಮಿಯಂ ಪಾವತಿಸಿ.

05ಬೆಲೆ ಪ್ರೀಮಿಯಂ ಏನನ್ನು ಖರೀದಿಸುತ್ತದೆ?

ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗೆ $1.42 ಇನ್ / $6.07 ಔಟ್ ದರದಲ್ಲಿ, Inkling ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ನಮ್ಮ ಕ್ಯಾಟಲಾಗ್‌ನ ಮಧ್ಯದಲ್ಲಿ ಕುಳಿತಿದೆ. ಹನ್ನೆರಡು ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಆರು $0.50 / $2.00 ನೆಲಮಟ್ಟದಲ್ಲಿವೆ. Kimi-K3 — ಫ್ಲ್ಯಾಗ್‌ಶಿಪ್, ಅದೂ ದೃಷ್ಟಿ-ಸಮರ್ಥ — $3.83 / $19.12. Inkling ಔಟ್‌ಪುಟ್‌ನಲ್ಲಿ ನೆಲಮಟ್ಟದ ಸುಮಾರು ಮೂರು ಪಟ್ಟು ಮತ್ತು ಫ್ಲ್ಯಾಗ್‌ಶಿಪ್‌ನ ಸುಮಾರು ಮೂರನೇ ಒಂದು ಭಾಗ.

ಔಟ್‌ಪುಟ್ ಬೆಲೆ, USD ಪ್ರತಿ 1M ಟೋಕನ್‌ಗೆ, Shannon AI ಗೇಟ್‌ವೇ ಪಟ್ಟಿ ದರಗಳು, ಸೆಪ್ಟೆಂಬರ್ 2026. ಬಾರ್ ಅಗಲ ಬೆಲೆಗೆ ಅನುಪಾತದಲ್ಲಿದೆ; ಉದ್ದವಾದಷ್ಟೂ ದುಬಾರಿ.

ಆ ಪ್ರೀಮಿಯಂ ಎಲ್ಲಿ ತನ್ನ ಬೆಲೆ ತೆರುತ್ತದೆ — ಮತ್ತು ಎಲ್ಲಿ ಇಲ್ಲ ಎಂಬುದರ ಪ್ರಾಮಾಣಿಕ ಓದು ಇಲ್ಲಿದೆ.

ಕೆಲಸದ ಹೊರೆ	Inkling ಬಳಸುವುದೇ?	ಏಕೆ
ಚಾರ್ಟ್ / ಡಯಗ್ರಾಮ್ ರೀಸನಿಂಗ್	ಹೌದು	ಪ್ರಕಟಿತ CharXiv ಮತ್ತು MMMU Pro ಅಂಕಿಅಂಶಗಳೇ ಈ ಫೌಂಡೇಶನ್ ಅತ್ಯಂತ ಬಲಿಷ್ಠವಾಗಿರುವುದು.
ಸ್ಕ್ರೀನ್‌ಶಾಟ್-ಚಾಲಿತ ಏಜೆಂಟ್‌ಗಳು	ಹೌದು	ಒಂದೇ ಮಾಡೆಲ್‌ನಲ್ಲಿ ದೃಷ್ಟಿ ಜೊತೆಗೆ ಟೂಲ್ ಕಾಲಿಂಗ್ ಜೊತೆಗೆ 262K ಇತಿಹಾಸ, ಯಾವುದೇ ಹ್ಯಾಂಡಾಫ್ ಇಲ್ಲ.
ಫಿಗರ್‌ಗಳಿರುವ ಉದ್ದ ದಾಖಲೆಗಳು	ಹೌದು	ಪಠ್ಯ ಮತ್ತು ಚಿತ್ರಗಳು ಒಂದೇ ಡಿಕೋಡರ್ ಮತ್ತು ಒಂದೇ ಸಂದರ್ಭ ವಿಂಡೋ ಹಂಚಿಕೊಳ್ಳುತ್ತವೆ.
ಸರಳ ಪಠ್ಯ ಜನರೇಶನ್	ಇಲ್ಲ	$0.50 / $2.00 ದರದ ಆರು ಮಾಡೆಲ್‌ಗಳು ಇದನ್ನು ಮಾಡುತ್ತವೆ. ನೀವು ಎಂದೂ ಕರೆಯದ ದೃಷ್ಟಿ ಪಥಕ್ಕೆ ಪಾವತಿಸುತ್ತಿದ್ದೀರಿ.
ಬೃಹತ್ ಸ್ಕೀಮಾ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್	ಇಲ್ಲ	json_schema ಇಲ್ಲ. MiMo-V2.5 ಅಗ್ಗ ಮತ್ತು ನಿರ್ಬಂಧಿತ.
ಸಂಪೂರ್ಣ ಫ್ರಂಟಿಯರ್ ಮಿತಿ	ಇಲ್ಲ	Kimi-K3 ಫ್ಲ್ಯಾಗ್‌ಶಿಪ್. ಮಿತಿಯೇ ನಿರ್ಬಂಧವಾಗಿದ್ದರೆ 3.1× ಪಾವತಿಸಿ.
ಅಗ್ಗದ ಸಾಧ್ಯ ದೃಷ್ಟಿ	ಇಲ್ಲ	MiniMax-M3 ಗೆ $0.50 / $2.00 ದರದಲ್ಲಿ ದೃಷ್ಟಿ ಇದೆ. ಅಲ್ಲಿಂದ ಆರಂಭಿಸಿ, ಗುಣಮಟ್ಟ ಒತ್ತಾಯಿಸಿದರೆ ಏರಿಸಿ.

ಅದನ್ನು ಒಂದು ರೂಟಿಂಗ್ ನಿಯಮವಾಗಿ ಓದಿ, ಶ್ರೇಣಿಯಾಗಿ ಅಲ್ಲ. ಮಾರುಕಟ್ಟೆ ಪುಟ ಹೇಳಿಕೊಳ್ಳುವುದಕ್ಕಿಂತ ಕಿರಿದಾದ ಕೆಲಸದ ವ್ಯಾಪ್ತಿಗೆ Inkling ಸೂಕ್ತ, ಮತ್ತು ಆ ವ್ಯಾಪ್ತಿಯೊಳಗೆ ಬೆಲೆಯಲ್ಲಿ ಅದನ್ನು ಸೋಲಿಸುವುದು ಕಷ್ಟ. ಅದರಾಚೆ, ನಿಮಗೆ ಅಗ್ಗದ ಮಾಡೆಲ್ ಮಾರಿ ನಿಮ್ಮನ್ನು ಉಳಿಸಿಕೊಳ್ಳುವುದನ್ನೇ ನಾವು ಬಯಸುತ್ತೇವೆ.

06262K ಸಂದರ್ಭ ವಿಂಡೋ, ಮತ್ತು ನಿಜವಾಗಿ ಏನು ಹೊಂದುತ್ತದೆ

ಗೇಟ್‌ವೇಯ ಎಲ್ಲಾ ಹನ್ನೆರಡು ಮಾಡೆಲ್‌ಗಳನ್ನು 262,144-ಟೋಕನ್ ಇನ್‌ಪುಟ್ ಸಂದರ್ಭ ಮತ್ತು ಪ್ರತಿ ವಿನಂತಿಗೆ 16,384-ಟೋಕನ್ ಗರಿಷ್ಠ ಔಟ್‌ಪುಟ್ ಜೊತೆ ಸೇವೆ ನೀಡಲಾಗುತ್ತದೆ. ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಏಕರೂಪ: ಸಂದರ್ಭ ನಿರ್ವಹಣೆ ನಿಮ್ಮ ಕೋಡ್‌ನಲ್ಲಿ ಎಂದಿಗೂ ಪ್ರತಿ-ಮಾಡೆಲ್ ಶಾಖೆಯಾಗಬಾರದು, ಮತ್ತು ಕಾನ್ಫಿಗ್ ಫೈಲ್‌ನಲ್ಲಿ inkling ಬದಲು MiniMax-M3 ಹಾಕುವುದು ಏನು ಹೊಂದುತ್ತದೆ ಎಂಬುದನ್ನು ಮೌನವಾಗಿ ಬದಲಿಸಬಾರದು.

ಪ್ರಕಟಿತ ಫೌಂಡೇಶನ್ ವಿರುದ್ಧ ಅಂತರ ಗಮನಿಸಿ: Thinking Machines Inkling ಅನ್ನು 1,048,576 ಟೋಕನ್‌ಗಳಲ್ಲಿ ದಾಖಲಿಸುತ್ತದೆ, ಮತ್ತು ನಾವು ಅದರ 262K ಸ್ಲೈಸ್ ಸೇವೆ ನೀಡುತ್ತೇವೆ. ನಿಮಗೆ ನಿಜವಾದ ಮಿಲಿಯನ್-ಟೋಕನ್ ಒಂದೇ-ವಿನಂತಿ ಕೆಲಸದ ಹೊರೆ ಇದ್ದರೆ, ಅದಕ್ಕೆ ನಾವು ಎಂಡ್‌ಪಾಯಿಂಟ್ ಅಲ್ಲ, ಮತ್ತು ನಿರ್ಮಿಸುವ ಮೊದಲೇ ಅದನ್ನು ತಿಳಿಯುವುದು ಉತ್ತಮ.

262K ಪ್ರಮಾಣಕ್ಕೆ: ಅದರ ಫಿಗರ್‌ಗಳಿರುವ 400-ಪುಟದ ತಾಂತ್ರಿಕ PDF, ಮಧ್ಯಮ-ಗಾತ್ರದ ಕೋಡ್‌ಬೇಸ್, ಹಲವಾರು ಗಂಟೆಗಳ ಟ್ರಾನ್ಸ್‌ಕ್ರಿಪ್ಟ್, ಅಥವಾ ಡಜನ್‌ಗಟ್ಟಲೆ ಟೂಲ್ ಫಲಿತಾಂಶಗಳು ಮತ್ತು ಒಂದಷ್ಟು ಸ್ಕ್ರೀನ್‌ಶಾಟ್‌ಗಳನ್ನು ಒಯ್ಯುವ ಉದ್ದ ಏಜೆಂಟಿಕ್ ಸೆಶನ್ — ಪ್ರತಿಯೊಂದೂ ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಹೊಂದುತ್ತದೆ. ದೃಷ್ಟಿ ಮಾಡೆಲ್‌ನಲ್ಲಿ, ಚಿತ್ರಗಳೂ ಸಂದರ್ಭ ಬಳಸುತ್ತವೆ ಎಂಬುದನ್ನು ನೆನಪಿಡಿ; ದಟ್ಟವಾದ ಸ್ಕ್ರೀನ್‌ಶಾಟ್ ಉಚಿತವಲ್ಲ, ಮತ್ತು ಫ್ರೇಮ್‌ಗಳನ್ನು ಸ್ಟ್ರೀಮ್ ಮಾಡುವ ಸೆಶನ್ ಪಠ್ಯ-ಮಾತ್ರ ಸೆಶನ್‌ಗಿಂತ ವಿಂಡೋವನ್ನು ವೇಗವಾಗಿ ತುಂಬಿಸುತ್ತದೆ. ವಾಸ್ತುಶಿಲ್ಪ ಇದಕ್ಕೆ ಚೆನ್ನಾಗಿ ಹೊಂದುತ್ತದೆ: 5:1 ಸ್ಲೈಡಿಂಗ್-ವಿಂಡೋ-ಇಂದ-ಗ್ಲೋಬಲ್ ಮಾದರಿ ಎಂದರೆ ಹೆಚ್ಚಿನ ಲೇಯರ್‌ಗಳು 512-ಟೋಕನ್ ನೆರೆಹೊರೆಯೊಳಗೆ ಗಮನ ಹರಿಸುತ್ತವೆ, ಗ್ಲೋಬಲ್ ಲೇಯರ್‌ಗಳು ಆವರ್ತಕವಾಗಿ ದೀರ್ಘ-ವ್ಯಾಪ್ತಿಯ ರಚನೆಯನ್ನು ಮರಳಿ ಎಳೆದುಕೊಳ್ಳುತ್ತವೆ.

07ರೀಸನಿಂಗ್ ಎಫರ್ಟ್: ಬೇಕಾದಾಗ ಮಾತ್ರ ಚಿಂತನೆಗೆ ಪಾವತಿಸುವುದು

Inkling ನಿಯಂತ್ರಿಸಬಹುದಾದ ರೀಸನಿಂಗ್ ಎಫರ್ಟ್ ಒದಗಿಸುತ್ತದೆ — ಕ್ಯಾಟಲಾಗ್‌ನ ಹೆಚ್ಚು ಉಪಯುಕ್ತ ನಾಬ್‌ಗಳಲ್ಲಿ ಒಂದು. ಮೂಲ ಮಾಡೆಲ್ none ಮತ್ತು minimal ಇಂದ low, medium, high, xhigh, max ವರೆಗಿನ ಮಟ್ಟಗಳನ್ನು ಸ್ವೀಕರಿಸುತ್ತದೆ, ಪ್ರಮಾಣಿತ reasoning_effort ಪ್ಯಾರಾಮೀಟರ್ ಮೂಲಕ ಎಲ್ಲಾ ಮೂರು ಶೈಲಿಗಳಲ್ಲಿ ಒದಗಿಸಲಾಗಿದೆ.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

ಇದೊಂದು ಹಲ್ಲುಳ್ಳ ವೆಚ್ಚ ಲಿವರ್, ಏಕೆಂದರೆ ರೀಸನಿಂಗ್ ಟೋಕನ್‌ಗಳಿಗೆ ಪ್ರತಿ ಮಿಲಿಯನ್‌ಗೆ $6.07 ದರದಲ್ಲಿ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳಂತೆ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ. Terminal Bench 2.1 ನಲ್ಲಿ Inkling ಸುಮಾರು ಮೂರನೇ ಒಂದು ಭಾಗ ಟೋಕನ್‌ಗಳಲ್ಲಿ Nemotron 3 Ultra ಗೆ ಹೋಲಿಸಬಹುದಾದ ಅಂಕಗಳನ್ನು ತಲುಪುತ್ತದೆ ಎಂದು Thinking Machines ವರದಿ ಮಾಡುತ್ತದೆ — ಟೋಕನ್ ದಕ್ಷತೆ ಎಫರ್ಟ್ ವ್ಯವಸ್ಥೆಯ ಹೇಳಲಾದ ವಿನ್ಯಾಸ ಗುರಿ, ಆಕಸ್ಮಿಕವಲ್ಲ.

ಪ್ರಾಯೋಗಿಕವಾಗಿ: ಕ್ಯಾಪ್ಷನಿಂಗ್, ವರ್ಗೀಕರಣ, ಮತ್ತು ನೇರ ಎಕ್ಸ್‌ಟ್ರಾಕ್ಷನ್‌ಗೆ low ಅಥವಾ minimal ಚಲಾಯಿಸಿ, ಅಲ್ಲಿ ಉತ್ತರ ಚಿತ್ರದಲ್ಲೇ ಇದ್ದು ಯಾವುದೇ ಅನುಮಾನ ಸರಪಳಿ ಬೇಕಿಲ್ಲ. ಚಾರ್ಟ್ ರೀಸನಿಂಗ್, ಬಹು-ಹಂತದ ದೃಶ್ಯ ಹೋಲಿಕೆ, ಮತ್ತು ತಪ್ಪಾದ ಮಧ್ಯಂತರ ಹಂತ ದುಬಾರಿಯಾಗುವ ಏಜೆಂಟಿಕ್ ಸುತ್ತುಗಳಿಗೆ high ಮತ್ತು ಅದಕ್ಕಿಂತ ಮೇಲಿನದನ್ನು ಕಾಯ್ದಿರಿಸಿ. ಹೆಚ್ಚಿನ ತಂಡಗಳು ಈ ಪ್ಯಾರಾಮೀಟರ್ ಅನ್ನು ಎಂದೂ ಸೆಟ್ ಮಾಡುವುದಿಲ್ಲ, ಮತ್ತು ಹಲವು ಪಟ್ಟು ಔಟ್‌ಪುಟ್-ವೆಚ್ಚ ವ್ಯತ್ಯಾಸವನ್ನು ಟೇಬಲ್‌ನಲ್ಲೇ ಬಿಡುತ್ತಾರೆ.

08ಇಲ್ಲಿ "ಸೆನ್ಸಾರ್ ರಹಿತ" ಎಂದರೆ ಏನು — ಮತ್ತು ಏನಲ್ಲ

ನಿರ್ದಿಷ್ಟವಾಗಿ: ನಾವು ಈ ಮಾಡೆಲ್ ಅನ್ನು ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲದೆ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಮೇಲೆ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲದೆ ಚಲಾಯಿಸುತ್ತೇವೆ. ಯಾವುದೇ ವರ್ಗೀಕಾರಕ ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಓದಿ ಮಾಡೆಲ್ ಉತ್ತರಿಸಬಹುದೇ ಎಂದು ನಿರ್ಧರಿಸುವುದಿಲ್ಲ, ಮತ್ತು ಸ್ಟ್ರೀಮ್ ಆಗುವ ಮೊದಲು ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಯಾವುದೂ ಓದುವುದಿಲ್ಲ. ಮಾಡೆಲ್‌ಗೆ ಅನಿಶ್ಚಿತತೆ ಇದ್ದಾಗ ಅಥವಾ ಜ್ಞಾನ ಕೊರತೆ ಇದ್ದಾಗ, ಅದು ಹಾಗೆಂದು ಹೇಳುತ್ತದೆ — ಅದು ಮಾಡೆಲ್, ನೀತಿಯಲ್ಲ. ಸಾಮಾನ್ಯ-ಗ್ರಾಹಕ ಉತ್ಪನ್ನವು ಮಿತಿಮೀರಿದ್ದೆಂದು ಪರಿಗಣಿಸುವ ವಿಷಯದ ಮೇಲೆ ಪ್ರತಿಫಲಿತ ನಿರಾಕರಣೆ ನಿಮಗೆ ಸಿಗುವುದಿಲ್ಲ.

ದೃಷ್ಟಿಗೆ ಇದೇ ಸಂಪೂರ್ಣ ಮೌಲ್ಯ ಪ್ರಸ್ತಾಪ. ದೃಷ್ಟಿ API ಗಳ ಮುಂದಿನ ಚಿತ್ರ ವರ್ಗೀಕಾರಕಗಳು ನಿಖರವಲ್ಲ, ಮತ್ತು ತಪ್ಪು-ಧನಾತ್ಮಕ ದರ ಆ ಸಾಮರ್ಥ್ಯ ಅತಿ ಹೆಚ್ಚು ಬೇಕಾದ ವೃತ್ತಿಪರ ಕೆಲಸದ ಮೇಲೆ ಅತ್ಯಂತ ಕಠಿಣವಾಗಿ ಬೀಳುತ್ತದೆ: ಭದ್ರತಾ ಸಂಶೋಧನೆ, ಕ್ಲಿನಿಕಲ್ ಸಂದರ್ಭಗಳು, ಪತ್ರಿಕೋದ್ಯಮ ಮತ್ತು ಫೊರೆನ್ಸಿಕ್ಸ್, ಚಲನಚಿತ್ರ ಮತ್ತು ಕಲಾ ವಿಮರ್ಶೆ, ತಾನು ಮಾಡರೇಟ್ ಮಾಡುವ ವಿಷಯವನ್ನೇ ನೋಡಬೇಕಾದ ಮಾಡರೇಶನ್ ಟೂಲಿಂಗ್. ವರ್ಗದ ಆಧಾರದ ಮೇಲೆ ನಿರಾಕರಿಸುವ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಇವುಗಳಲ್ಲಿ ಯಾವುದನ್ನೂ ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ಸೇವೆ ಮಾಡಲಾರದು.

ಎರಡು ಪ್ರಾಮಾಣಿಕ ಎಚ್ಚರಿಕೆಗಳು. ಮೊದಲನೆಯದು, Thinking Machines ತಮ್ಮ ಉಲ್ಲೇಖ ನಿಯೋಜನೆಗಾಗಿ ಸುರಕ್ಷತಾ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ಪ್ರಕಟಿಸುತ್ತದೆ — FORTRESS adversarial ನಲ್ಲಿ 78.0%, FORTRESS benign ನಲ್ಲಿ 95.9%, StrongREJECT ನಲ್ಲಿ 98.6%. ಆ ಅಂಕಿಅಂಶಗಳು ಅವರ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳಿರುವ ಅವರ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ವಿವರಿಸುತ್ತವೆ. ಅವು ನಮ್ಮದನ್ನು ವಿವರಿಸುವುದಿಲ್ಲ, ಮತ್ತು ಅವು ಹಾಗೆ ಮಾಡುವಂತೆ ನಾವು ಅವನ್ನು ಉಲ್ಲೇಖಿಸುವುದಿಲ್ಲ. ಆ ಸಂಖ್ಯೆಗಳು ಭಾಗಶಃ ಅಳೆಯುವ ಪದರವನ್ನು ನಾವು ತೆಗೆದುಹಾಕಿದ್ದೇವೆ; ಅದೇ ಉತ್ಪನ್ನ, ಮತ್ತು ಜವಾಬ್ದಾರಿ.

ಎರಡನೆಯದು, "ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ" ಎಂದರೆ "ನಿಯಮಗಳಿಲ್ಲ" ಎಂದಲ್ಲ. Shannon Lab LLC ಜವಾಬ್ದಾರಿಯುತ ಬಳಕೆ ನೀತಿ ಮತ್ತು ಅನ್ವಯವಾಗುವ US ಕಾನೂನಿನ ಅಡಿಯಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ವರ್ಗೀಕಾರಕ ತೆಗೆದುಹಾಕುವುದು ತೀರ್ಪನ್ನು ನಿಮಗೆ ವರ್ಗಾಯಿಸುತ್ತದೆ, ಅದನ್ನು ಅಳಿಸುವುದಿಲ್ಲ. ಇದರ ಮೇಲೆ ನೀವು ನಿರ್ಮಿಸುತ್ತಿದ್ದರೆ, ಪ್ರಮಾಣ ಹೆಚ್ಚಿಸುವ ಮೊದಲು ನೀತಿ ಓದಿ.

09ಪ್ರಾರಂಭಿಸುವುದು

ಅದೇ ಬೇಸ್ URL, ಅದೇ ಕೀ, ಮೂರು ಶೈಲಿಗಳು. ನಿಮ್ಮ ಕೋಡ್ ಈಗಾಗಲೇ OpenAI, Anthropic, ಅಥವಾ Responses API ಕರೆಯುತ್ತಿದ್ದರೆ, ಮಾಡೆಲ್ ಸ್ಟ್ರಿಂಗ್ ಬದಲಿಸುವುದೇ ಸಾಮಾನ್ಯವಾಗಿ ಸಂಪೂರ್ಣ ವಲಸೆ.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

ಪೂರ್ಣ ಪ್ಯಾರಾಮೀಟರ್ ಉಲ್ಲೇಖ, /v1/messages ಮತ್ತು /v1/responses ಆಕಾರಗಳು, ಸ್ಟ್ರೀಮಿಂಗ್ ಇವೆಂಟ್ ಫಾರ್ಮ್ಯಾಟ್‌ಗಳು, ಮತ್ತು ಲೈವ್ ಪ್ಲೇಗ್ರೌಂಡ್ API ದಾಖಲೆಯಲ್ಲಿವೆ. ಇತರ ಹನ್ನೊಂದು ಮಾಡೆಲ್‌ಗಳ ಮಾಡೆಲ್ ಕಾರ್ಡ್‌ಗಳು Shannon ಸಂಶೋಧನೆಯಲ್ಲಿವೆ.

ಫೌಂಡೇಶನ್ ಅಂಕಿಅಂಶಗಳು ಅನ್‌ಕ್ವಾಂಟೈಸ್ಡ್ Inkling ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗೆ Thinking Machines Lab ಪ್ರಕಟಿಸಿದ ಸಂಖ್ಯೆಗಳು ಮತ್ತು ಕುಟುಂಬದ ಮಿತಿಯನ್ನು ವಿವರಿಸುತ್ತವೆ, ನಮ್ಮ ಸಂಕುಚಿತ ಬಿಲ್ಡ್ ಅಲ್ಲ. ಬೆಲೆಗಳು ಮತ್ತು ಸಾಮರ್ಥ್ಯ ಫ್ಲ್ಯಾಗ್‌ಗಳು ಸೆಪ್ಟೆಂಬರ್ 2026 ರ ಪ್ರಕಾರ Shannon AI ಗೇಟ್‌ವೇ ಪಟ್ಟಿ ಮೌಲ್ಯಗಳು.

10ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

---

ಮೂಲಗಳು: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling ವಾಸ್ತುಶಿಲ್ಪ ಮತ್ತು ಬೆಂಚ್‌ಮಾರ್ಕ್ ಟಿಪ್ಪಣಿಗಳು. ಫೌಂಡೇಶನ್ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳು ಅನ್‌ಕ್ವಾಂಟೈಸ್ಡ್ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗೆ ಲ್ಯಾಬ್-ವರದಿ ಮಾಡಲಾಗಿವೆ.