ನಾವು ಯಾವುದೇ ಬಳಕೆದಾರರ ಡೇಟಾವನ್ನು ಸಂಗ್ರಹಿಸುವುದಿಲ್ಲ ಅಥವಾ ಪ್ರವೇಶಿಸುವುದಿಲ್ಲ, ಮತ್ತು ಕಾನೂನು ಜಾರಿಯ ಸಂಸ್ಥೆ ಕ್ರಮಕ್ಕೆ ಬಲಾತ್ಕರಿಸದ ಹೊರತು ಖಾತೆಗಳನ್ನು suspend ಮಾಡುವುದಿಲ್ಲ.

ಮಾಡೆಲ್ ಕಾರ್ಡ್ · Laguna S 2.1 · W4A16-AUTOROUND-REAP

ಸೆನ್ಸಾರ್ ರಹಿತ Laguna API

Laguna S 2.1 — ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲದೆ, 262K ಸಂದರ್ಭ ವಿಂಡೋ ಮತ್ತು ಟೂಲ್ ಕಾಲಿಂಗ್ ಜೊತೆ ಸೇವೆ ನೀಡಲಾದ 118B ಮಿಶ್ರಣ-ಆಫ್-ಎಕ್ಸ್‌ಪರ್ಟ್ಸ್ ಫೌಂಡೇಶನ್ — ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗೆ $0.50 ಇನ್ / $2.00 ಔಟ್‌ನ ನೆಲಮಟ್ಟದ ಬೆಲೆಯಲ್ಲಿ.

ಸೆಪ್ಟೆಂಬರ್ 5, 2026 ರಂದು ನವೀಕರಿಸಲಾಗಿದೆಮಾಡೆಲ್ ಕಾರ್ಡ್ಫೌಂಡೇಶನ್: Poolside Laguna S 2.1

ಸಂಕ್ಷಿಪ್ತವಾಗಿ

ಸೆನ್ಸಾರ್ ರಹಿತ Laguna API Poolside ನ Laguna S 2.1 ಅನ್ನು ಚಲಾಯಿಸುತ್ತದೆ — 118B ಒಟ್ಟು ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು, ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ~8B ಸಕ್ರಿಯ, OpenMDW-1.1 ಅಡಿಯಲ್ಲಿ ಓಪನ್-ವೈಟ್ಸ್ — AutoRound ಮತ್ತು REAP ಜೊತೆ W4A16 ಗೆ ಕ್ವಾಂಟೈಸ್ ಮಾಡಿ ನಮ್ಮದೇ GPU ಕ್ಲಸ್ಟರ್‌ನಲ್ಲಿ ಸೇವೆ ನೀಡಲಾಗಿದೆ. ನಿಮಗೆ 262,144-ಟೋಕನ್ ಸಂದರ್ಭ, ಪ್ರತಿ ವಿನಂತಿಗೆ 16,384 ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳು, ಸ್ಟ್ರೀಮಿಂಗ್, ಟೂಲ್ ಕಾಲಿಂಗ್, reasoning_effort, ಮತ್ತು ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲದಿರುವುದು ಸಿಗುತ್ತದೆ. ಒಂದು ಎಚ್ಚರಿಕೆ, ಮೊದಲೇ ಹೇಳುವುದಾದರೆ: ಇದು ನಮ್ಮ ಪಟ್ಟಿಯಲ್ಲಿ json_schema ಅಥವಾ response_format ಎರಡನ್ನೂ ಬೆಂಬಲಿಸದ ಏಕೈಕ ಮಾಡೆಲ್. ನಿಮಗೆ ಖಚಿತ JSON ಬೇಕಿದ್ದರೆ, ಒಂದು ಸೋದರ ಮಾಡೆಲ್ ತೆಗೆದುಕೊಳ್ಳಿ — MiMo-V2.5 ಯ Pro ಬಿಲ್ಡ್ ಅದೇ ಬೆಲೆಯಲ್ಲಿ ಅದನ್ನು ಮಾಡುತ್ತದೆ.

ಬಹುತೇಕ "ಅಗ್ಗದ ಮಾಡೆಲ್" ಪುಟಗಳು ಕಡಿಮೆ ಸಂಖ್ಯೆಗೆ ಬದಲಾಗಿ ಚಿಕ್ಕ, ಸುಸ್ತಾದ ಫೌಂಡೇಶನ್ ಒಪ್ಪಿಕೊಳ್ಳಲು ಕೇಳುತ್ತವೆ. ಇದು ಹಾಗಲ್ಲ. Laguna S 2.1 ಪ್ರಸ್ತುತ-ತಲೆಮಾರಿನ ಸ್ಪಾರ್ಸ್ ಮಿಶ್ರಣ-ಆಫ್-ಎಕ್ಸ್‌ಪರ್ಟ್ಸ್ ಬಿಡುಗಡೆ, 4,096 H200 ಗಳ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದು ಒಂಬತ್ತು ವಾರಗಳಿಗಿಂತ ಕಡಿಮೆ ಅವಧಿಯಲ್ಲಿ ಬಿಡುಗಡೆಯಾಗಿದೆ, ಮತ್ತು ನಾವು ಸೇವೆ ನೀಡುವ ಪ್ರತಿಯೊಂದು ಇತರ ಎಂಟ್ರಿ-ಶ್ರೇಣಿಯ ಮಾಡೆಲ್‌ನಂತೆಯೇ ಅದೇ $0.50 / $2.00 ನೆಲಮಟ್ಟದಲ್ಲಿ ಕೂರುತ್ತದೆ. ಟ್ರೇಡ್ ಸಂಕುಚಿತ ಮತ್ತು ಸುಲಭವಾಗಿ ಗ್ರಹಿಸಬಹುದಾದದ್ದು: ನೀವು ಸರ್ವರ್-ಜಾರಿಗೊಳಿಸಿದ ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಬಿಟ್ಟುಕೊಡುತ್ತೀರಿ ಮತ್ತು ಉಳಿದೆಲ್ಲವನ್ನೂ ಉಳಿಸಿಕೊಳ್ಳುತ್ತೀರಿ.

01Laguna S 2.1 ಎಂದರೇನು?

Laguna S 2.1 ಎಂಬುದು Poolside ಜುಲೈ 21, 2026 ರಂದು ಅನುಮತಿಪೂರ್ಣ OpenMDW-1.1 ಪರವಾನಗಿ ಅಡಿಯಲ್ಲಿ ಬಿಡುಗಡೆ ಮಾಡಿದ ಓಪನ್-ವೈಟ್ಸ್ ಮಾಡೆಲ್ — Laguna XS 2.1 (33B/3B ಸಕ್ರಿಯ) ಮತ್ತು Laguna M.1 (225B/23B ಸಕ್ರಿಯ) ನಡುವಿನ Laguna ಕುಟುಂಬದ ಮಧ್ಯಮ-ಗಾತ್ರದ ಸದಸ್ಯ.

118B

ಒಟ್ಟು ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು

~8B

ಸಕ್ರಿಯ / ಟೋಕನ್

256+1

ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳು (ಟಾಪ್-10)

262K

Shannon ನಲ್ಲಿ ಸಂದರ್ಭ

ಪ್ರಕಟಿತ ವಾಸ್ತುಶಿಲ್ಪ 256 ರೂಟ್ ಮಾಡಿದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳು ಮತ್ತು ಒಂದು ಹಂಚಿದ ಎಕ್ಸ್‌ಪರ್ಟ್ ಮೇಲೆ softplus ಗೇಟಿಂಗ್ ಹೊಂದಿರುವ ಟೋಕನ್-ಆಯ್ಕೆ ರೂಟರ್, ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಹತ್ತು ಆಯ್ಕೆ ಮಾಡಲ್ಪಟ್ಟಿದೆ, 48 ಪದರಗಳಾದ್ಯಂತ — ಹನ್ನೆರಡು ಗ್ಲೋಬಲ್-ಅಟೆನ್ಷನ್, ಮೂವತ್ತಾರು 512-ಟೋಕನ್ ವಿಂಡೋದಲ್ಲಿ ಸ್ಲೈಡಿಂಗ್-ವಿಂಡೋ, ಈ ಇಂಟರ್ಲೀವಿಂಗ್ ಬಹಳ ದೀರ್ಘ ಇನ್‌ಪುಟ್‌ಗಳ ಅಟೆನ್ಷನ್ ವೆಚ್ಚವನ್ನು ಚತುರ್ಭುಜದ ಬದಲು ಬಹುತೇಕ-ರೇಖೀಯವಾಗಿ ಇರಿಸುತ್ತದೆ. ಅಟೆನ್ಷನ್ ಹೆಡ್ ಡೈಮೆನ್ಷನ್ 128 ರಲ್ಲಿ 8 ಕೀ-ವ್ಯಾಲ್ಯೂ ಹೆಡ್‌ಗಳ ಜೊತೆ ಗ್ರೂಪ್ಡ್-ಕ್ವೆರಿ.

API ಬಳಕೆದಾರರಿಗೆ ಎರಡು ಪರಿಣಾಮಗಳು ಮುಖ್ಯ. 118B ಮಾಡೆಲ್ ನೆಲಮಟ್ಟದ ಬೆಲೆಯಲ್ಲಿ ಕೂರಲು ಸಾಧ್ಯವಾಗುವುದೇ ಸ್ಪಾರ್ಸ್ ಸಕ್ರಿಯಗೊಳಿಕೆಯ ಕಾರಣ — ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಕೇವಲ ~8B ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು ಕೆಲಸ ಮಾಡುತ್ತವೆ, ಆದ್ದರಿಂದ ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಕಂಪ್ಯೂಟ್ ಪ್ಯಾರಾಮೀಟರ್ ಎಣಿಕೆ ಸೂಚಿಸುವುದಕ್ಕಿಂತ ಚಿಕ್ಕ ಡೆನ್ಸ್ ಮಾಡೆಲ್‌ಗೆ ಹತ್ತಿರವಾಗಿದೆ. ಮತ್ತು ಸ್ಲೈಡಿಂಗ್-ವಿಂಡೋ ಇಂಟರ್ಲೀವಿಂಗ್ ಎಂದರೆ ದೀರ್ಘ ವಿಂಡೋ ಕೇವಲ ನಾಮಮಾತ್ರವಲ್ಲದೆ ನಿಜವಾಗಿಯೂ ಬಳಸಬಹುದಾದದ್ದು ಎಂಬುದೇ ಕಾರಣ. Poolside ನ ಬಿಡುಗಡೆ 1,048,576 ಟೋಕನ್‌ಗಳನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ; ನಾವು 262,144 ಸೇವೆ ನೀಡುತ್ತೇವೆ, ಗೇಟ್‌ವೇಯ ಪ್ರತಿಯೊಂದು ಇತರ ಮಾಡೆಲ್‌ಗೆ ಹೊಂದುತ್ತಾ.

02ಒಂದೇ ಎಚ್ಚರಿಕೆ: ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್ ಇಲ್ಲ

ಇಂಟಿಗ್ರೇಟ್ ಮಾಡುವ ಮೊದಲು ಇದನ್ನು ಓದಿ

Shannon AI ನಲ್ಲಿ Laguna S 2.1 json_schema ಅಥವಾ response_format ಎರಡನ್ನೂ ಸ್ವೀಕರಿಸುವುದಿಲ್ಲ. ಇದು ನಮ್ಮ ಹನ್ನೆರಡು-ಮಾಡೆಲ್ ಪಟ್ಟಿಯಲ್ಲಿ ರಚನಾತ್ಮಕ-ಔಟ್‌ಪುಟ್ ಬೆಂಬಲ ಇಲ್ಲದ ಏಕೈಕ ಮಾಡೆಲ್; ಎರಡರಲ್ಲಿ ಯಾವುದೇ ಪ್ಯಾರಾಮೀಟರ್ ಕಳುಹಿಸಿದರೂ ಸ್ಕೀಮಾ-ನಿರ್ಬಂಧಿತ ಪ್ರತ್ಯುತ್ತರ ಸಿಗುವುದಿಲ್ಲ. ಟೂಲ್ ಕಾಲಿಂಗ್ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಸ್ಟ್ರೀಮಿಂಗ್ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ರೀಸನಿಂಗ್ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಸರ್ವರ್-ಜಾರಿಗೊಳಿಸಿದ ಔಟ್‌ಪುಟ್ ಆಕಾರ ಮಾತ್ರ ಇಲ್ಲ.

ಇನ್ನೂ ಏನು ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಟೂಲ್ ಕಾಲಿಂಗ್ ಸಂಪೂರ್ಣವಾಗಿ ಬೆಂಬಲಿತವಾಗಿದೆ, ಮತ್ತು ಟೂಲ್-ಕಾಲ್ ಆರ್ಗ್ಯುಮೆಂಟ್‌ಗಳು ಇಲ್ಲಿನ ಯಾವುದೇ ಇತರ ಮಾಡೆಲ್‌ನಲ್ಲಿರುವಂತೆಯೇ ನಿಖರವಾಗಿ JSON ಆಬ್ಜೆಕ್ಟ್ ಆಗಿ ಬರುತ್ತಲೇ ಇರುತ್ತವೆ. ನಿಮ್ಮ ಅಪ್ಲಿಕೇಶನ್‌ನ "ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್" ನಿಜವಾಗಿಯೂ ಟೂಲ್ ಆರ್ಗ್ಯುಮೆಂಟ್‌ಗಳು ಆಗಿದ್ದರೆ — ಬಹುತೇಕ ಏಜೆಂಟ್ ಫ್ರೇಮ್‌ವರ್ಕ್‌ಗಳು, MCP ಸರ್ವರ್‌ಗಳು ಮತ್ತು ಡೇಟಾಬೇಸ್ ಫ್ರಂಟ್-ಎಂಡ್‌ಗಳಿಗೆ ಇದು ನಿಜ — Laguna S 2.1 ನಿಮಗೆ ಚೆನ್ನಾಗಿ ಸೇವೆ ನೀಡುತ್ತದೆ. ಎಲ್ಲಾ ಮೂರು ಶೈಲಿಗಳಲ್ಲೂ ಸ್ಟ್ರೀಮಿಂಗ್ ಕೆಲಸ ಮಾಡುತ್ತದೆ; reasoning_effort ಕೆಲಸ ಮಾಡುತ್ತದೆ.

ಏನು ಕೆಲಸ ಮಾಡುವುದಿಲ್ಲ. ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗೆ JSON Schema ಕೊಟ್ಟು ಅಸಿಸ್ಟೆಂಟ್‌ನ ಪಠ್ಯ ಪ್ರತ್ಯುತ್ತರ ಅದರ ವಿರುದ್ಧ ಮೌಲ್ಯೀಕರಿಸುತ್ತದೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ನಿಮಗೆ ಸಾಧ್ಯವಿಲ್ಲ, ಮತ್ತು response_format: {"type": "json_object"} ನಿಮಗೆ ಏನನ್ನೂ ಕೊಡುವುದಿಲ್ಲ. JSON ಗಾಗಿ ಪ್ರಾಂಪ್ಟ್ ಮಾಡುವುದು ಸಾಮಾನ್ಯವಾಗಿ JSON ಉತ್ಪಾದಿಸುತ್ತದೆ — ಇದು ಸಮರ್ಥ ಮಾಡೆಲ್ — ಆದರೆ "ಸಾಮಾನ್ಯವಾಗಿ" ಎಂಬುದು ಒಪ್ಪಂದವಲ್ಲ. Poolside ಸ್ವತಃ ಆಳವಾಗಿ ನೆಸ್ಟ್ ಮಾಡಿದ ಟೂಲ್ ಕಾಲ್‌ಗಳಲ್ಲಿ ತಪ್ಪಾದ JSON ಎಸ್ಕೇಪಿಂಗ್ ಅನ್ನು ತಿಳಿದಿರುವ ಮಿತಿಯಾಗಿ ದಾಖಲಿಸುತ್ತದೆ, ನಮ್ಮ ಪಟ್ಟಿಯ ಬೇರೆಡೆ ಖಾತರಿ ಇರುವಲ್ಲಿ, ಅದು ಮಾಡೆಲ್‌ನ ಒಳ್ಳೆಯ ಉದ್ದೇಶಗಳಿಗಿಂತ ಸೇವಾ ಪದರದಿಂದ ಬರುತ್ತದೆ ಎಂಬುದರ ಜ್ಞಾಪನೆ.

ಬದಲಿಗೆ ಯಾವ ಸೋದರ ಮಾಡೆಲ್ ಬಳಸಬೇಕು

ನಿಮ್ಮ ಕೆಲಸದ ಭಾರಕ್ಕೆ ಖಚಿತ JSON ಬೇಕಿದ್ದರೆ, ಈ ಮಾಡೆಲ್ ಜೊತೆ ಹೋರಾಡಬೇಡಿ — ಮಾಡೆಲ್ id ಬದಲಾಯಿಸಿ. ಪೂರ್ಣ json_schema ಮತ್ತು response_format ಬೆಂಬಲದೊಂದಿಗೆ ನಾಲ್ಕು ಸೋದರ ಮಾಡೆಲ್‌ಗಳು ಅದೇ $0.50 / $2.00 ಬೆಲೆಯಲ್ಲಿ ಕೂರುತ್ತವೆ:

ಮಾಡೆಲ್ id	json_schema	ದೃಷ್ಟಿ	ಏಕೆ ಇದನ್ನು ಆಯ್ಕೆ ಮಾಡುತ್ತೀರಿ
MiMo-V2.5-Pro-W8A16	ಹೌದು	ಇಲ್ಲ	ನೇರ ಬದಲಿ — 8-ಬಿಟ್ ವೈಟ್ಸ್, ಅತ್ಯುನ್ನತ-ನಿಷ್ಠೆಯ ಶ್ರೇಣಿ, ಅದೇ ಬೆಲೆ
MiMo-V2.5-W8A16	ಹೌದು	ಹೌದು	ಅದೇ, ಜೊತೆಗೆ ಚಿತ್ರ ಇನ್‌ಪುಟ್
Hy3-W8A16	ಹೌದು	ಇಲ್ಲ	ನೆಲಮಟ್ಟದ ಬೆಲೆಯಲ್ಲಿ ಇನ್ನೊಂದು 8-ಬಿಟ್ ಪಠ್ಯ ಮಾಡೆಲ್
DeepSeek-V4-Flash-0731	ಹೌದು	ಇಲ್ಲ	Laguna ನಂತೆ W4A16-AutoRound-REAP, ಸ್ಕೀಮಾ ಬೆಂಬಲ ಹಾಗೆಯೇ ಇದೆ

ಸಹಜ ಡೀಫಾಲ್ಟ್ MiMo-V2.5-Pro (W8A16): ಪಠ್ಯ-ಮಾತ್ರ, ನೆಲಮಟ್ಟದ-ಬೆಲೆಯದ್ದು, ನಾವು ಚಲಾಯಿಸುವ ಅತ್ಯಂತ ಸೌಮ್ಯ ಶ್ರೇಣಿಯಲ್ಲಿ ಕ್ವಾಂಟೈಸ್ ಮಾಡಲಾಗಿದೆ — ವಿವರಗಳು MiMo-V2.5 ಮಾಡೆಲ್ ಕಾರ್ಡ್ನಲ್ಲಿ. ಎಲ್ಲಾ ಹನ್ನೆರಡು ಮಾಡೆಲ್‌ಗಳು ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳು, ಸಂದರ್ಭ ವಿಂಡೋ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಮಿತಿಯನ್ನು ಹಂಚಿಕೊಳ್ಳುವುದರಿಂದ, ಬದಲಾಯಿಸುವುದು model ಫೀಲ್ಡ್‌ಗೆ ಒಂದು-ಸಾಲಿನ ಬದಲಾವಣೆ.

03W4A16-AUTOROUND-REAP ಎಂದರೆ ಏನು?

ಮಾಡೆಲ್ id ಯ ಸಫಿಕ್ಸ್ ಅಲಂಕಾರವಲ್ಲ — ವೈಟ್ಸ್ ಅನ್ನು ನಮ್ಮ GPU ಕ್ಲಸ್ಟರ್‌ಗೆ ಲೋಡ್ ಮಾಡುವ ಮೊದಲು ಅವುಗಳನ್ನು ಹೇಗೆ ಸಂಕುಚಿಸಲಾಗಿದೆ ಎಂಬುದನ್ನು ಅದು ನಿಖರವಾಗಿ ಹೇಳುತ್ತದೆ. ಮೂರು ಭಾಗಗಳು.

W4A16 — 4-ಬಿಟ್ ವೈಟ್ಸ್, 16-ಬಿಟ್ ಆಕ್ಟಿವೇಶನ್‌ಗಳು

ವೈಟ್ಸ್ 4 ಬಿಟ್‌ನಲ್ಲಿ ಸಂಗ್ರಹಿಸಲಾಗಿದೆ; ಆಕ್ಟಿವೇಶನ್‌ಗಳು — ಇನ್‌ಫರೆನ್ಸ್ ಸಮಯದಲ್ಲಿ ಪದರಗಳ ನಡುವೆ ಹರಿಯುವ ಮೌಲ್ಯಗಳು — 16 ರಲ್ಲೇ ಉಳಿಯುತ್ತವೆ. ವೈಟ್ಸ್ ಅನ್ನು ಅವುಗಳ BF16 ಫುಟ್‌ಪ್ರಿಂಟ್‌ನ ಕಾಲುಭಾಗಕ್ಕೆ ಕಡಿಮೆ ಮಾಡುವುದೇ 118B ಮಾಡೆಲ್ ಹೊಂದಿಕೊಳ್ಳಲು ಮತ್ತು ವೇಗವಾಗಿ ಉಳಿಯಲು ಕಾರಣ, ಆಕ್ಟಿವೇಶನ್‌ಗಳನ್ನು ವಿಶಾಲವಾಗಿ ಇಟ್ಟುಕೊಳ್ಳುವುದು ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ನ ಸಂಖ್ಯಾತ್ಮಕವಾಗಿ ಸೂಕ್ಷ್ಮ ಭಾಗವನ್ನು ರಕ್ಷಿಸುತ್ತದೆ. ದೊಡ್ಡದು ಮತ್ತು ಸ್ಥಿರವಾಗಿರುವುದನ್ನು ಸಂಕುಚಿಸಿ, ಚಿಕ್ಕದು ಮತ್ತು ಚಲನಶೀಲವಾಗಿರುವುದನ್ನು ಹಾಗೆಯೇ ಬಿಡಿ.

AutoRound — ಕಲಿತ ರೌಂಡಿಂಗ್, ಹತ್ತಿರದ ರೌಂಡಿಂಗ್ ಅಲ್ಲ

ಕ್ವಾಂಟೈಸ್ ಮಾಡುವ ನಿಷ್ಕಪಟ ವಿಧಾನ ರೌಂಡ್-ಟು-ನಿಯರೆಸ್ಟ್: ಪ್ರತಿ ವೈಟ್ ಅನ್ನು ಹತ್ತಿರದ 4-ಬಿಟ್ ಮೌಲ್ಯಕ್ಕೆ ಸ್ನ್ಯಾಪ್ ಮಾಡಿ, ದೋಷವನ್ನು ಒಪ್ಪಿಕೊಳ್ಳಿ. Intel ನ ಓಪನ್ ಪೋಸ್ಟ್-ಟ್ರೈನಿಂಗ್ ಕ್ವಾಂಟೈಸೇಶನ್ ಟೂಲ್‌ಕಿಟ್ AutoRound ಉತ್ತಮವಾಗಿ ಮಾಡುತ್ತದೆ — ಇದರ SignRound ವಿಧಾನ ಪ್ರತಿ ವೈಟ್‌ಗೆ ಮೇಲಕ್ಕೆ ಅಥವಾ ಕೆಳಕ್ಕೆ ರೌಂಡ್ ಮಾಡುವುದು ಪದರದ ನಿಜವಾದ ಔಟ್‌ಪುಟ್‌ಗೆ ಕಡಿಮೆ ಹಾನಿ ಮಾಡುತ್ತದೆಯೇ ಎಂದು ನಿರ್ಧರಿಸುತ್ತಾ, ಸುಮಾರು ಎರಡು ನೂರು ಹಂತಗಳಲ್ಲಿ ರೌಂಡಿಂಗ್ ನಿರ್ಧಾರಗಳು ಮತ್ತು ಕ್ಲಿಪಿಂಗ್ ವ್ಯಾಪ್ತಿಗಳನ್ನು ಜಂಟಿಯಾಗಿ ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲು ಸೈನ್ಡ್ ಗ್ರೇಡಿಯಂಟ್ ಡಿಸೆಂಟ್ ಬಳಸುತ್ತದೆ. ಇದು ಮರುತರಬೇತಿಯ ವೆಚ್ಚವಿಲ್ಲದೆ ಕ್ವಾಂಟೈಸೇಶನ್-ಜಾಗೃತ ತರಬೇತಿಯಿಂದ ಕಲ್ಪನೆಯನ್ನು ಎರವಲು ಪಡೆಯುತ್ತದೆ, ಮತ್ತು W4A16 ಬಿಲ್ಡ್ ನಷ್ಟಕಾರಿ ಕುತೂಹಲಕ್ಕಿಂತ ಗಂಭೀರ ಮಾಡೆಲ್ ಆಗಬಹುದಾದದ್ದೇ ಇದಕ್ಕೆ ಕಾರಣ.

REAP — ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ವಿಲೀನಗೊಳಿಸುವ ಬದಲು ಪ್ರೂನ್ ಮಾಡುವುದು

REAP ಎಂಬುದು Cerebras Research ಪ್ರಕಟಿಸಿದ Router-weighted Expert Activation Pruning. MoE ಮಾಡೆಲ್‌ನಲ್ಲಿ ಎಲ್ಲಾ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳೂ ತಮ್ಮ ಪಾಲನ್ನು ನಿಭಾಯಿಸುವುದಿಲ್ಲ: ರೂಟರ್ ಕೆಲವಕ್ಕೆ ಕಡಿಮೆ ಟೋಕನ್‌ಗಳನ್ನು ಕಳುಹಿಸುತ್ತದೆ, ಮತ್ತು ಕೆಲವು ಪ್ರಚೋದನೆಗೊಂಡಾಗ ಕಡಿಮೆ ಪ್ರಮಾಣ ಕೊಡುಗೆ ನೀಡುತ್ತವೆ. REAP ಪ್ರತಿ ಎಕ್ಸ್‌ಪರ್ಟ್ ಅನ್ನು ಎರಡೂ ಸಂಕೇತಗಳ ಮೇಲೆ ಸ್ಕೋರ್ ಮಾಡುತ್ತದೆ — ರೂಟರ್ ಗೇಟ್ ಮೌಲ್ಯಗಳು ಮತ್ತು ಎಕ್ಸ್‌ಪರ್ಟ್ ಆಕ್ಟಿವೇಶನ್ ನಾರ್ಮ್‌ಗಳು — ಮತ್ತು ಕ್ವಾಂಟೈಸೇಶನ್‌ಗಿಂತ ಮೊದಲೇ, ಕಡಿಮೆ-ಮಹತ್ವದವುಗಳನ್ನು ಒಂದೇ ಬಾರಿಗೆ ತೆಗೆದುಹಾಕುತ್ತದೆ. ಮುಖ್ಯವಾಗಿ ಇದು ವಿಲೀನಗೊಳಿಸುವ ಬದಲು ಪ್ರೂನ್ ಮಾಡುತ್ತದೆ: ವಿಲೀನಗೊಳಿಸುವುದು ಹಲವು ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಒಂದರೊಳಗೆ ಮಡಚುತ್ತದೆ, ರೂಟರ್‌ನ ಸೂಕ್ಷ್ಮ-ಕಣ, ಇನ್‌ಪುಟ್-ಅವಲಂಬಿತ ನಿಯಂತ್ರಣವನ್ನು ನಾಶಪಡಿಸುತ್ತದೆ ಮತ್ತು ಯಾವುದೇ ಟ್ಯೂನಿಂಗ್ ತೆಗೆದುಹಾಕಲಾಗದ ದೋಷ-ನೆಲಮಟ್ಟವನ್ನು ಪರಿಚಯಿಸುತ್ತದೆ (ಲೇಖಕರು ಇದನ್ನು ಫಂಕ್ಷನಲ್ ಸಬ್‌ಸ್ಪೇಸ್ ಕುಸಿತ ಎಂದು ಕರೆಯುತ್ತಾರೆ), ಆದರೆ ಪ್ರೂನಿಂಗ್ ಉಳಿದವರನ್ನು ಮತ್ತು ಅವರ ಮೇಲಿನ ರೂಟರ್‌ನ ನಿಯಂತ್ರಣವನ್ನು ಹಾಗೆಯೇ ಬಿಡುತ್ತದೆ. Cerebras ಟ್ರಿಲಿಯನ್-ಪ್ಯಾರಾಮೀಟರ್ ಮಾಡೆಲ್‌ಗಳಿಂದ 50% ವರೆಗೆ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ತೆಗೆದುಹಾಕುತ್ತಾ ಬಹುಮಟ್ಟಿಗೆ ಬೇಸ್‌ಲೈನ್ ಗುಣಮಟ್ಟವನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳುವುದಾಗಿ ವರದಿ ಮಾಡುತ್ತದೆ — 480B ಕೋಡರ್ ಮಾಡೆಲ್‌ನಲ್ಲಿ 50% ಪ್ರೂನಿಂಗ್‌ನಲ್ಲಿ, ಬೇಸ್‌ಲೈನ್ ನಾನ್-ಏಜೆಂಟಿಕ್ ಕೋಡಿಂಗ್ ಸಾಮರ್ಥ್ಯದ 97.6% ಮತ್ತು ಏಜೆಂಟಿಕ್ SWE-Bench ನಲ್ಲಿ 96.7%. ಅವು Cerebras ಸ್ವಂತ ಮಾಡೆಲ್‌ಗಳಿಗಾಗಿ ಇರುವ ಅಂಕಿಗಳು, ನಮ್ಮ ಬಿಲ್ಡ್‌ನ ಅಳತೆಗಳಲ್ಲ, ಆದರೆ ಪ್ರಾಥಮಿಕ ಶಕ್ತಿ ಕೋಡ್ ಆಗಿರುವ ಫೌಂಡೇಶನ್ ಮೇಲೆ ನಾವು ಈ ಸ್ಟ್ಯಾಕ್ ಚಲಾಯಿಸುವುದಕ್ಕೆ ಅವೇ ಕಾರಣ.

ಒಟ್ಟಾಗಿ ಸಫಿಕ್ಸ್ ಒಂದು ವಾಕ್ಯದಂತೆ ಓದುತ್ತದೆ: ಬಹುತೇಕ ಬಳಕೆಯಾಗದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಪ್ರೂನ್ ಮಾಡಿ, 4-ಬಿಟ್ ರೌಂಡಿಂಗ್ ಅನ್ನು ಊಹಿಸುವ ಬದಲು ಕಲಿಯಿರಿ, ಆಕ್ಟಿವೇಶನ್‌ಗಳನ್ನು ಪೂರ್ಣ ಅಗಲದಲ್ಲಿ ಇರಿಸಿ.

04ಈ ಮಾಡೆಲ್ ನಿಜವಾಗಿಯೂ ಯಾವುದರಲ್ಲಿ ಉತ್ತಮ?

ಮೊದಲು ಪ್ರಾಮಾಣಿಕತೆ: Laguna S 2.1 ಪಠ್ಯ-ಮಾತ್ರ ಸಂಭಾಷಣಾ ಮಾಡೆಲ್ — ಈ ಮಾಡೆಲ್ id ಯಲ್ಲಿ ದೃಷ್ಟಿ ಇನ್‌ಪುಟ್ ಇಲ್ಲ — ಮತ್ತು Poolside ಇದನ್ನು ಗದ್ಯಕ್ಕಾಗಿ ಅಲ್ಲ, ಏಜೆಂಟಿಕ್ ಕೋಡಿಂಗ್ ಮತ್ತು ದೀರ್ಘ-ಕ್ಷಿತಿಜ ಕೆಲಸಕ್ಕಾಗಿ ಕಟ್ಟಿತು. ಪೋಸ್ಟ್-ಟ್ರೈನಿಂಗ್ 409,000 ಪರಿಸರಗಳ ಮೇಲೆ ನಡೆಯಿತು, 83,000 ಟರ್ಮಿನಲ್ ಮತ್ತು 168,000 ಸಾಫ್ಟ್‌ವೇರ್-ಇಂಜಿನಿಯರಿಂಗ್ ಕಾರ್ಯಗಳು ಸೇರಿ, FP8 ನಲ್ಲಿ ರೀಇನ್‌ಫೋರ್ಸ್‌ಮೆಂಟ್ ಲರ್ನಿಂಗ್ ಜೊತೆ. ಕ್ವಾಂಟೈಸ್ ಮಾಡದ ಬಿಡುಗಡೆಗಾಗಿ Poolside ನ ವರದಿ ಮಾಡಿದ ಫಲಿತಾಂಶಗಳು:

ಬೆಂಚ್‌ಮಾರ್ಕ್	ಥಿಂಕಿಂಗ್	ನೋ-ಥಿಂಕಿಂಗ್	ಇದು ಏನನ್ನು ಅಳೆಯುತ್ತದೆ
SWE-Bench Multilingual	78.5%	—	ಹಲವು ಭಾಷೆಗಳಾದ್ಯಂತ ನಿಜವಾದ ಬಗ್ ಫಿಕ್ಸ್‌ಗಳು
Terminal-Bench 2.1	70.2%	60.4%	ಬಹು-ಹಂತದ ಶೆಲ್ ಮತ್ತು ಟೂಲಿಂಗ್ ಕೆಲಸ
SWE-Bench Pro	59.4%	—	ಕಠಿಣ, ಕಲುಷಿತ-ನಿರೋಧಕ ರೆಪೊ ಕಾರ್ಯಗಳು
Toolathlon Verified	49.7%	—	ಹಲವು API ಗಳಾದ್ಯಂತ ಟೂಲ್-ಬಳಕೆಯ ವ್ಯಾಪ್ತಿ
SWE Atlas	46.2%	—	ದೀರ್ಘ-ಕ್ಷಿತಿಜ ರೆಪೊಸಿಟರಿ ನ್ಯಾವಿಗೇಶನ್
DeepSWE v1.1	40.4%	16.5%	ಏಜೆಂಟಿಕ್ ಸಾಫ್ಟ್‌ವೇರ್ ಇಂಜಿನಿಯರಿಂಗ್

ಎರಡು ಕಾಲಮ್‌ಗಳ ನಡುವಿನ ಅಂತರವೇ ಇಲ್ಲಿ ಅತಿ ಕಾರ್ಯಸಾಧ್ಯ ಸಂಖ್ಯೆ: DeepSWE ನಲ್ಲಿ ರೀಸನಿಂಗ್ ಸಕ್ರಿಯಗೊಳಿಸಿದಾಗ ಸ್ಕೋರ್ ಎರಡು ಪಟ್ಟಿಗಿಂತ ಹೆಚ್ಚಾಗುತ್ತದೆ, ಮತ್ತು Terminal-Bench ನಲ್ಲಿ ಇದು ಸುಮಾರು ಹತ್ತು ಪಾಯಿಂಟ್‌ಗಳನ್ನು ಗಳಿಸುತ್ತದೆ.

Terminal-Bench · ಥಿಂಕ್70.2

Terminal-Bench · ಡೈರೆಕ್ಟ್60.4

DeepSWE · ಥಿಂಕ್40.4

DeepSWE · ಡೈರೆಕ್ಟ್16.5

ಜುಲೈ 2026 ರ ಕ್ವಾಂಟೈಸ್ ಮಾಡದ Laguna S 2.1 ಬಿಡುಗಡೆಗಾಗಿ Poolside-ವರದಿ ಮಾಡಿದ ಅಂಕಿಗಳು. ಅವು ನಮ್ಮ W4A16-AutoRound-REAP ಬಿಲ್ಡ್‌ನ ಅಳತೆಗಳಲ್ಲ, ಮತ್ತು ನಾವು ಅದಕ್ಕಾಗಿ ನಮ್ಮ ಸ್ವಂತ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಸಂಖ್ಯೆಗಳನ್ನು ಪ್ರಕಟಿಸುವುದಿಲ್ಲ. ನಮ್ಮ API ಯಲ್ಲಿ ಥಿಂಕಿಂಗ್ ಬಜೆಟ್ ನಿಯಂತ್ರಿಸಲು reasoning_effort ಬಳಸಿ.

ಸಂಭಾಷಣಾ ಮತ್ತು ಸೃಜನಶೀಲ ಕೆಲಸಕ್ಕೆ ಪ್ರಾಮಾಣಿಕ ನಿಲುವು ಇದು: ದೀರ್ಘ ಏಜೆಂಟಿಕ್ ರನ್‌ಗಳ ಹಿಂದಿನ ಗುಣಗಳು — ಸಾಕಷ್ಟು ಸ್ಥಿತಿಯನ್ನು ಸುಸಂಬದ್ಧವಾಗಿ ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುವುದು, ಕೆಲಸದ ಮೇಲೆ ಉಳಿಯುವುದು, ಚಲಿಸದಿರುವುದು — ದೀರ್ಘ-ರೂಪದ ಪಾತ್ರ ಕೆಲಸದ ಹಿಂದಿನ ಅದೇ ಗುಣಗಳು, ಮತ್ತು ಪ್ರಾಯೋಗಿಕವಾಗಿ ಇದು ಬಹಳ ದೀರ್ಘ ವಿಂಡೋದಾದ್ಯಂತ ಧ್ವನಿಯನ್ನು ಚೆನ್ನಾಗಿ ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುತ್ತದೆ. ಯಾವುದೇ ಪ್ರಕಟಿತ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಹಾಗೆ ಹೇಳುವುದಿಲ್ಲ, ಮತ್ತು ನಾವು ಒಂದನ್ನು ಕಂಡುಹಿಡಿಯುವುದಿಲ್ಲ. ನಿಮ್ಮ ಸ್ವಂತ ಪ್ರಾಂಪ್ಟ್‌ಗಳಲ್ಲಿ ಅದನ್ನು ಪರೀಕ್ಷಿಸಿ; ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್‌ಪುಟ್ ಟೋಕನ್‌ಗೆ $0.50 ರಲ್ಲಿ ಅದು ಬಹುತೇಕ ಉಚಿತ.

05ನೆಲಮಟ್ಟದ ಬೆಲೆ ನಿಜವಾಗಿಯೂ ಏನನ್ನು ಕೊಡುತ್ತದೆ?

ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗೆ $0.50 ಇನ್ / $2.00 ಔಟ್ ಎಂಬುದು Shannon AI ಗೇಟ್‌ವೇಯ ಎಂಟ್ರಿ ಶ್ರೇಣಿ, MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro ಮತ್ತು Hy3 ಜೊತೆ ಹಂಚಿಕೊಂಡಿದೆ. ನಿಖರವಾಗಿ:

ಕೆಲಸದ ಭಾರ	ಇನ್‌ಪುಟ್	ಔಟ್‌ಪುಟ್	ವೆಚ್ಚ
100K ಇತಿಹಾಸದ ಜೊತೆ ಒಂದು ಚಾಟ್ ಸುತ್ತು	100,000	2,000	$0.054
ದೀರ್ಘ ಬ್ರೀಫ್‌ನಿಂದ 5,000-ಪದದ ಅಧ್ಯಾಯ	30,000	7,000	$0.029
1,000 ಚಿಕ್ಕ ಸಂಭಾಷಣಾ ಸುತ್ತುಗಳು	4,000,000	500,000	$3.00
ಪೂರ್ಣ 262K-ಟೋಕನ್ ಸಂದರ್ಭ ಓದುವಿಕೆ	262,144	16,384	$0.164

ಒಳಗೊಳ್ಳಬೇಕಾದ ಸಾಲು ಕೊನೆಯದು: ಇಡೀ ಸಂದರ್ಭ ವಿಂಡೋ ಅನ್ನು ತುಂಬಿಸಿ ಗರಿಷ್ಠ 16,384-ಟೋಕನ್ ಪ್ರತ್ಯುತ್ತರ ಉತ್ಪಾದಿಸುವುದು ಸುಮಾರು ಹದಿನಾರು ಸೆಂಟ್ಸ್ ವೆಚ್ಚವಾಗುತ್ತದೆ. ಇಡೀ ಹಸ್ತಪ್ರತಿ, ಸೆಷನ್ ಟ್ರಾನ್‌ಸ್ಕ್ರಿಪ್ಟ್ ಅಥವಾ ಡಾಕ್ಯುಮೆಂಟ್ ಸೆಟ್ ಅನ್ನು ಒಂದೇ ಕರೆಯಲ್ಲಿ ಫೀಡ್ ಮಾಡುವುದು ಬಜೆಟ್ ನಿರ್ಧಾರವಾಗುವುದನ್ನು ನಿಲ್ಲಿಸಿ ಲೇಟೆನ್ಸಿ ನಿರ್ಧಾರವಾಗುತ್ತದೆ. ಅದೇ ಗಣಿತ ಇತರ ನೆಲಮಟ್ಟದ-ಬೆಲೆಯ ಬಳಕೆ-ಪ್ರಕರಣವನ್ನೂ ಚಾಲನೆ ಮಾಡುತ್ತದೆ — ಪ್ರಮಾಣ: ಬ್ಯಾಚ್ ವರ್ಗೀಕರಣ, ಬೃಹತ್ ಮರುಬರವಣಿಗೆ, ಸಿಂಥೆಟಿಕ್ ಸಂಭಾಷಣೆ, ಬಲಿಷ್ಠ ಮಾಡೆಲ್ ನಂತರ ಪರಿಷ್ಕರಿಸುವ ಮೊದಲ-ಪಾಸ್ ಡ್ರಾಫ್ಟಿಂಗ್. ಬೆಲೆ ಪುಟ ಮತ್ತು ಸಂಶೋಧನಾ ಸೂಚ್ಯಂಕ ನೋಡಿ.

06ಇಲ್ಲಿ "ಸೆನ್ಸಾರ್ ರಹಿತ" ಎಂದರೆ ಏನು

ಇದು ಹೇಳುವುದನ್ನೇ ಅರ್ಥೈಸುತ್ತದೆ: ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಮೇಲೆ ವಿಷಯ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲ. ನೀವು ಕೇಳಲು ಅನುಮತಿ ಇತ್ತೇ ಎಂದು ನಿರ್ಧರಿಸುವ ಯಾವುದೇ ವರ್ಗೀಕಾರಕ ಮಾಡೆಲ್ ಮತ್ತು ನಿಮ್ಮ ಪ್ರತ್ಯುತ್ತರದ ನಡುವೆ ಕೂರುವುದಿಲ್ಲ; ಮಾಡೆಲ್ ನೀವು ಕೇಳಿದ ಧಾಟಿಯಲ್ಲಿ ಉತ್ತರಿಸುತ್ತದೆ ಮತ್ತು ಮೊದಲು ಪ್ರಮೇಯದ ಬಗ್ಗೆ ನಿಮಗೆ ಉಪದೇಶ ಕೊಡುವುದಿಲ್ಲ.

ಸೃಜನಶೀಲ ಕೆಲಸಕ್ಕೆ ಅದು ಬಳಸಬಹುದಾದ ಟೂಲ್ ಮತ್ತು ಬಳಸಲಾಗದ ಟೂಲ್ ನಡುವಿನ ವ್ಯತ್ಯಾಸ. ಕಥಾಸಾಹಿತ್ಯದಲ್ಲಿ ಬೆದರಿಕೆಯೊಡ್ಡುವ ವಿರೋಧಿಗಳು, ಮನವರಿಕೆಯಾಗುವಂತೆ ಸುಳ್ಳು ಹೇಳುವ ಪಾತ್ರಗಳು, ಪರಿಣಾಮಗಳಿರುವ ಹಿಂಸೆ, ನೈತಿಕವಾಗಿ ರಾಜಿಯಾದ ನಿರೂಪಕರು ಇರುತ್ತಾರೆ — ಪಾತ್ರವನ್ನು ಮುರಿದು ಡಿಸ್‌ಕ್ಲೈಮರ್ ಸೇರಿಸುವ ಮಾಡೆಲ್ ಕಾರ್ಯದಲ್ಲಿ ವಿಫಲವಾಗಿದೆ, ಸುರಕ್ಷತೆಯಲ್ಲಿ ಯಶಸ್ವಿಯಾಗಿಲ್ಲ. ಭದ್ರತಾ ಸಂಶೋಧನೆ, ರೆಡ್-ಟೀಮ್ ದಾಖಲಾತಿ, ವೈದ್ಯಕೀಯ ಮತ್ತು ಕಾನೂನು ಡ್ರಾಫ್ಟಿಂಗ್, ಮತ್ತು ಮೂಲ ನೇರವಾಗಿರುವ ಅನುವಾದಕ್ಕೂ ಅದೇ ಅನ್ವಯಿಸುತ್ತದೆ: ನಿರಾಕರಣೆ ಕೇವಲ ತಪ್ಪು ಉತ್ತರವಾಗಿರುವ ವರ್ಗಗಳು. ಇದರ ಅರ್ಥ ತೀರ್ಪು ಇನ್ನು ನಿಮ್ಮದಲ್ಲ ಎಂದಲ್ಲ — ನೀವು ಉತ್ಪಾದಿಸುವುದಕ್ಕೆ ನೀವೇ ಜವಾಬ್ದಾರರಾಗಿರುತ್ತೀರಿ, ನಮ್ಮ ಜವಾಬ್ದಾರಿಯುತ ಬಳಕೆ ನೀತಿ ಮತ್ತು ಅನ್ವಯಿಸುವ ಕಾನೂನಿನ ಅಡಿಯಲ್ಲಿ.

07ಸೆನ್ಸಾರ್ ರಹಿತ Laguna API ಅನ್ನು ಹೇಗೆ ಕರೆಯುವುದು

ಮೂರು ಶೈಲಿಗಳು, ಒಂದು ಮಾಡೆಲ್: /v1/chat/completions (OpenAI), /v1/messages (Anthropic), /v1/responses. ಎಲ್ಲಾ ಮೂರರಲ್ಲೂ ಸ್ಟ್ರೀಮಿಂಗ್ ಕೆಲಸ ಮಾಡುತ್ತದೆ, ಆದ್ದರಿಂದ ಬೇಸ್ URL ಮತ್ತು ಮಾಡೆಲ್ id ಬದಲಾಯಿಸುವ ಮೂಲಕ ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಇಂಟಿಗ್ರೇಶನ್ ವರ್ಗಾವಣೆಯಾಗುತ್ತದೆ — SDK ಬದಲಾವಣೆ ಇಲ್ಲ, ನಿಮ್ಮ ಮೆಸೇಜ್ ಹ್ಯಾಂಡ್ಲಿಂಗ್‌ನ ಮರುಬರವಣಿಗೆ ಇಲ್ಲ.

POST https://api.shannon-ai.com/v1/chat/completions

{
  "model": "Laguna-S-2.1-W4A16-AUTOROUND-REAP",
  "messages": [
    { "role": "system", "content": "You are a hardboiled narrator. Stay in voice." },
    { "role": "user",   "content": "Open chapter nine." }
  ],
  "stream": true,
  "max_tokens": 4096,
  "reasoning_effort": "low"
}

ಕೆಲವು ಪ್ರಾಯೋಗಿಕ ಟಿಪ್ಪಣಿಗಳು:

ಈ ಮಾಡೆಲ್ id ಗೆ response_format ಅಥವಾ json_schema ಕಳುಹಿಸಬೇಡಿ — ನಿಮ್ಮ ಕ್ಲೈಂಟ್ ಲೈಬ್ರರಿ ಡೀಫಾಲ್ಟ್ ಆಗಿ ಒಂದನ್ನು ಸೆಟ್ ಮಾಡಿದರೆ, ಅದನ್ನು ಅನ್‌ಸೆಟ್ ಮಾಡಿ ಅಥವಾ ಅದನ್ನು ಬೆಂಬಲಿಸುವ ಸೋದರ ಮಾಡೆಲ್‌ಗೆ ಸ್ಥಳಾಂತರಿಸಿ.
ಟೂಲ್‌ಗಳು ಎಂದಿನ tools ಅರೇಯಲ್ಲಿ ಹೋಗುತ್ತವೆ — ಟೂಲ್ ಕಾಲಿಂಗ್ ಸಂಪೂರ್ಣವಾಗಿ ಬೆಂಬಲಿತ; ಫ್ರೀ-ಟೆಕ್ಸ್ಟ್ ಸ್ಕೀಮಾ ಜಾರಿ ಮಾತ್ರ ಇಲ್ಲ.
ನಿಮ್ಮ ರೀಸನಿಂಗ್ ಅನ್ನು ಬಜೆಟ್ ಮಾಡಿ. reasoning_effort ಗೌರವಿಸಲಾಗುತ್ತದೆ — low ಅಥವಾ off ಸಂಭಾಷಣಾ ಲೇಟೆನ್ಸಿಯನ್ನು ಕಡಿಮೆ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳನ್ನು ಅಗ್ಗವಾಗಿ ಇಡುತ್ತದೆ; ಬಹು-ಹಂತದ ಟೂಲ್ ಕೆಲಸಕ್ಕೆ ಅದನ್ನು ಹೆಚ್ಚಿಸಿ, ಅಲ್ಲಿ ಮೇಲಿನ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಅಂತರ ಅದು ಏನನ್ನು ಕೊಡುತ್ತದೆ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತದೆ.
ಔಟ್‌ಪುಟ್ ಮಿತಿ ಪ್ರತಿ ವಿನಂತಿಗೆ 16,384 ಟೋಕನ್‌ಗಳು. ಪುಸ್ತಕ-ಉದ್ದದ ಉತ್ಪಾದನೆಗೆ, ಅಧ್ಯಾಯಗಳಾಗಿ ವಿಂಗಡಿಸಿ ಮತ್ತು ಸ್ಟ್ರೀಮ್ ಮಾಡಿ.
ಪಠ್ಯ ಮಾತ್ರ. ಈ ಮಾಡೆಲ್ id ಯಲ್ಲಿ ಚಿತ್ರ ಇನ್‌ಪುಟ್ ಇಲ್ಲ — ದೃಷ್ಟಿಗಾಗಿ MiMo-V2.5, Kimi-K2.6, Kimi-K3, MiniMax-M3 ಅಥವಾ inkling ಬಳಸಿ.

ಪೂರ್ಣ ಪ್ಯಾರಾಮೀಟರ್ ರೆಫರೆನ್ಸ್, ಅಥೆಂಟಿಕೇಶನ್, ಎರರ್ ಸೆಮ್ಯಾಂಟಿಕ್ಸ್ ಮತ್ತು ಲೈವ್ ಪ್ಲೇಗ್ರೌಂಡ್: API ದಾಖಲಾತಿ.

08ಇದನ್ನು ಯಾವಾಗ ಆಯ್ಕೆ ಮಾಡಬೇಕು, ಮತ್ತು ಯಾವಾಗ ಬೇಡ

ಇದನ್ನು ಆಯ್ಕೆ ಮಾಡಿ, ಯಾವಾಗ ನಿಮ್ಮ ಔಟ್‌ಪುಟ್ ಮನುಷ್ಯ ಓದುವ ಗದ್ಯ, ಸಂಭಾಷಣೆ ಅಥವಾ ಕೋಡ್ ಆಗಿದ್ದಾಗ; ನಿಮಗೆ ಟೂಲ್ ಕಾಲಿಂಗ್ ಬೇಕಿದ್ದು ಸ್ಕೀಮಾ-ನಿರ್ಬಂಧಿತ ಪಠ್ಯ ಬೇಡವಾಗಿದ್ದಾಗ; ದೀರ್ಘ ಸಂದರ್ಭಕ್ಕಿಂತ ಪ್ರತಿ-ಟೋಕನ್ ವೆಚ್ಚ ಪ್ರಬಲವಾಗಿದ್ದಾಗ; ಅಥವಾ ಪಟ್ಟಿಯ ಉಳಿದ ಭಾಗವನ್ನು ತುಂಬುವ DeepSeek, Kimi ಮತ್ತು MiMo ಕುಟುಂಬಗಳ ಹೊರತಾದ ವಂಶಾವಳಿಯಿಂದ ಎರಡನೇ ಅಭಿಪ್ರಾಯ ಬೇಕಿದ್ದಾಗ.

ಬೇರೆ ಏನನ್ನಾದರೂ ಆಯ್ಕೆ ಮಾಡಿ, ಯಾವಾಗ ನಿಮಗೆ ಖಚಿತ JSON ಬೇಕಿದ್ದಾಗ (MiMo-V2.5-Pro), ಚಿತ್ರ ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವಿಕೆ ಬೇಕಿದ್ದಾಗ (Kimi-K2.6 ಅಥವಾ MiMo-V2.5), ಅಥವಾ ಉತ್ತರ ಸರಿಯಾಗಿ ಪಡೆಯುವುದರ ಮುಂದೆ ಬೆಲೆ ಅಂತರ ಅಪ್ರಸ್ತುತವಾಗಿರುವ ಫ್ರಂಟಿಯರ್ ಕಷ್ಟದ ತುದಿಯಲ್ಲಿದ್ದಾಗ (DeepSeek-V4-Pro, Kimi-K3).

ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್ ಜೊತೆ ಅದೇ ಬೆಲೆ ಬೇಕೇ? MiMo-V2.5-Pro W8A16 ನಲ್ಲಿ ಚಲಾಯಿಸುತ್ತದೆ — ನಮ್ಮ ಅತ್ಯುನ್ನತ-ನಿಷ್ಠೆಯ ಶ್ರೇಣಿ — ಅದೇ $0.50 / $2.00 ರಲ್ಲಿ, json_schema ಮತ್ತು response_format ಎರಡರ ಜೊತೆ. MiMo-V2.5 ಮಾಡೆಲ್ ಕಾರ್ಡ್ ಓದಿ, ಅಥವಾ ಸಂಶೋಧನಾ ಸೂಚ್ಯಂಕದಲ್ಲಿ ಎಲ್ಲಾ ಹನ್ನೆರಡನ್ನೂ ಬ್ರೌಸ್ ಮಾಡಿ.

ವಿನ್ಯಾಸದಿಂದಲೇ ಪಾರದರ್ಶಕ

ಇಲ್ಲಿನ ಪ್ರತಿಯೊಂದು ವಾಸ್ತುಶಿಲ್ಪ ಮತ್ತು ಬೆಂಚ್‌ಮಾರ್ಕ್ ಹಕ್ಕು ಮಾಡೆಲ್‌ನ ಪ್ರಕಾಶಕರಿಂದ ಅಥವಾ ಸಂಕುಚನ ವಿಧಾನಗಳ ಲೇಖಕರಿಂದ ಬರುತ್ತದೆ. ಅವುಗಳನ್ನು ನೀವೇ ಪರಿಶೀಲಿಸಿ.

Poolside — Laguna S 2.1 ಮಾಡೆಲ್ ಕಾರ್ಡ್ Laguna S 2.1 ಪರಿಚಯ REAP — Cerebras Research AutoRound — Intel

09ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

ಸೆನ್ಸಾರ್ ರಹಿತ Laguna API ಎಂದರೇನು?

ಇದು Poolside ನ ಓಪನ್-ವೈಟ್ಸ್ Laguna S 2.1 — 118 ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು, ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಸುಮಾರು 8 ಬಿಲಿಯನ್ ಸಕ್ರಿಯ — Shannon ನ ಸ್ವಂತ GPU ಕ್ಲಸ್ಟರ್‌ನಲ್ಲಿ ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲದೆ ಮತ್ತು ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲದೆ ಸೇವೆ ನೀಡಲಾಗಿದೆ. ಮಾಡೆಲ್ id Laguna-S-2.1-W4A16-AUTOROUND-REAP, ಸಂದರ್ಭ ವಿಂಡೋ 262,144 ಟೋಕನ್‌ಗಳು, ಮತ್ತು ಇದು ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್‌ಪುಟ್‌ಗೆ $0.50 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $2.00 ವೆಚ್ಚವಾಗುತ್ತದೆ.

Shannon AI ನಲ್ಲಿ Laguna S 2.1 json_schema ಅಥವಾ response_format ಬೆಂಬಲಿಸುತ್ತದೆಯೇ?

ಇಲ್ಲ. ಎರಡನ್ನೂ ಸ್ವೀಕರಿಸದ Shannon ಪಟ್ಟಿಯ ಏಕೈಕ ಮಾಡೆಲ್ ಇದು. ಟೂಲ್ ಕಾಲಿಂಗ್ ಮತ್ತು ಸ್ಟ್ರೀಮಿಂಗ್ ಸಾಮಾನ್ಯವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತವೆ ಮತ್ತು ಟೂಲ್-ಕಾಲ್ ಆರ್ಗ್ಯುಮೆಂಟ್‌ಗಳು ಇನ್ನೂ JSON ಆಗಿ ಬರುತ್ತವೆ, ಆದರೆ ಅಸಿಸ್ಟೆಂಟ್‌ನ ಪಠ್ಯ ಔಟ್‌ಪುಟ್ ಮೇಲೆ ಸರ್ವರ್-ಜಾರಿಗೊಳಿಸಿದ ಸ್ಕೀಮಾ ಇಲ್ಲ. ಅದೇ $0.50 / $2.00 ಬೆಲೆಯಲ್ಲಿ ಖಚಿತ JSON ಗಾಗಿ, MiMo-V2.5-Pro (W8A16) ಬಳಸಿ.

W4A16-AUTOROUND-REAP ಎಂದರೆ ಏನು?

W4A16 ಎಂದರೆ ವೈಟ್ಸ್ 4 ಬಿಟ್‌ನಲ್ಲಿ ಸಂಗ್ರಹಿಸಲ್ಪಟ್ಟಿದ್ದು ಆಕ್ಟಿವೇಶನ್‌ಗಳು 16 ಬಿಟ್‌ನಲ್ಲಿ ಉಳಿಯುತ್ತವೆ ಎಂದರ್ಥ. AutoRound ಎಂಬುದು Intel ನ ಪೋಸ್ಟ್-ಟ್ರೈನಿಂಗ್ ಕ್ವಾಂಟೈಸೇಶನ್ ವಿಧಾನ, ಇದು ಹತ್ತಿರಕ್ಕೆ ರೌಂಡ್ ಮಾಡುವ ಬದಲು ರೌಂಡಿಂಗ್ ಮತ್ತು ಕ್ಲಿಪಿಂಗ್ ನಿರ್ಧಾರಗಳನ್ನು ಕಲಿಯಲು ಸೈನ್ಡ್ ಗ್ರೇಡಿಯಂಟ್ ಡಿಸೆಂಟ್ ಬಳಸುತ್ತದೆ. REAP ಎಂಬುದು Cerebras Research ನ Router-weighted Expert Activation Pruning, ಇದು ವಿಲೀನಗೊಳಿಸುವ ಬದಲು, ಮಿಶ್ರಣ-ಆಫ್-ಎಕ್ಸ್‌ಪರ್ಟ್ಸ್ ಮಾಡೆಲ್‌ನಿಂದ ಅಪರೂಪವಾಗಿ ಮತ್ತು ದುರ್ಬಲವಾಗಿ ರೂಟ್ ಆದ ಎಕ್ಸ್‌ಪರ್ಟ್‌ಗಳನ್ನು ಕ್ವಾಂಟೈಸೇಶನ್‌ಗಿಂತ ಮೊದಲೇ ಬಿಡುತ್ತದೆ.

Laguna S 2.1 ಸೃಜನಶೀಲ ಬರವಣಿಗೆ ಮತ್ತು ಸಂಭಾಷಣೆಗೆ ಉತ್ತಮವೇ?

ಇದು ಪಠ್ಯ-ಮಾತ್ರ ಸಂಭಾಷಣಾ ಮಾಡೆಲ್ — ದೃಷ್ಟಿ ಇನ್‌ಪುಟ್ ಇಲ್ಲ — ಮತ್ತು ದಾರಿಯಲ್ಲಿ ಯಾವುದೇ ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲದೆ 262K ವಿಂಡೋದಾದ್ಯಂತ ದೀರ್ಘ, ಸುಸಂಬದ್ಧ, ಪಾತ್ರ-ಆಧಾರಿತ ಗದ್ಯವನ್ನು ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುತ್ತದೆ. Poolside ನ ಪ್ರಕಟಿತ ಬೆಂಚ್‌ಮಾರ್ಕ್ ದಾಖಲೆ ಗದ್ಯದಲ್ಲಿ ಅಲ್ಲ, ಏಜೆಂಟಿಕ್ ಕೋಡಿಂಗ್‌ನಲ್ಲಿದೆ, ಆದ್ದರಿಂದ ಲೀಡರ್‌ಬೋರ್ಡ್ ನಂಬುವ ಬದಲು ನಿಮ್ಮ ಸ್ವಂತ ಪ್ರಾಂಪ್ಟ್‌ಗಳಲ್ಲಿ ಸೃಜನಶೀಲ ಗುಣಮಟ್ಟವನ್ನು ಪರೀಕ್ಷಿಸಿ.

ಸೆನ್ಸಾರ್ ರಹಿತ Laguna API ವೆಚ್ಚ ಎಷ್ಟು?

ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್‌ಪುಟ್ ಟೋಕನ್‌ಗೆ $0.50 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗೆ $2.00 — MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro ಮತ್ತು Hy3 ಜೊತೆ ಹಂಚಿಕೊಂಡ Shannon AI ಗೇಟ್‌ವೇಯ ನೆಲಮಟ್ಟದ ಬೆಲೆ. 2,000 ಟೋಕನ್‌ಗಳ ಪ್ರತ್ಯುತ್ತರ ಉತ್ಪಾದಿಸುವ 100,000-ಟೋಕನ್ ಸಂಭಾಷಣೆ ಸುಮಾರು 5.4 ಸೆಂಟ್ಸ್ ವೆಚ್ಚವಾಗುತ್ತದೆ.

ಸೆನ್ಸಾರ್ ರಹಿತ Laguna API ಪ್ರಯತ್ನಿಸಿ

118B MoE · 262K ಸಂದರ್ಭ · ಟೂಲ್ಸ್ ಮತ್ತು ಸ್ಟ್ರೀಮಿಂಗ್ · ಪ್ರತಿ 1M ಟೋಕನ್‌ಗೆ $0.50 / $2.00.

API ದಾಖಲಾತಿ ಓದಿ ಚಾಟಿಂಗ್ ಪ್ರಾರಂಭಿಸಿ

ನಿರಾಕರಣೆ ಪದರ ಇಲ್ಲ · ಔಟ್‌ಪುಟ್ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲ · ನಿಮ್ಮ ತೀರ್ಪು, ನಿಮ್ಮ ಜವಾಬ್ದಾರಿ

ಮೂಲಗಳು: Poolside — Laguna S 2.1 ಮಾಡೆಲ್ ಕಾರ್ಡ್ · Laguna S 2.1 ಪರಿಚಯ · REAP the Experts (Cerebras Research) · Intel AutoRound. ವಾಸ್ತುಶಿಲ್ಪ ಮತ್ತು ಬೆಂಚ್‌ಮಾರ್ಕ್ ಅಂಕಿಗಳು ಕ್ವಾಂಟೈಸ್ ಮಾಡದ ಬಿಡುಗಡೆಗಾಗಿ ಪ್ರಕಾಶಕ-ವರದಿ ಮಾಡಿದವು, ನಾವು ಸೇವೆ ನೀಡುವ ಬಿಲ್ಡ್‌ನ ಅಳತೆಗಳಲ್ಲ. Shannon AI ಅನ್ನು Shannon Lab LLC, New Mexico, USA ನಿರ್ವಹಿಸುತ್ತದೆ.

ಎಲ್ಲ research links