Shannon 3.1

ಬಹುತೇಕ ಮಾಡೆಲ್ ಬಿಡುಗಡೆಗಳು ಸಾಮರ್ಥ್ಯದ ಹಕ್ಕನ್ನು ನಂಬಿಕೆಯ ಮೇಲೆ ಒಪ್ಪಿಕೊಳ್ಳಲು ಮತ್ತು ವಾದವನ್ನು ಇತ್ಯರ್ಥಗೊಳಿಸಲು ಬೆಂಚ್‌ಮಾರ್ಕ್ ಕೋಷ್ಟಕಕ್ಕಾಗಿ ಕಾಯಲು ಕೇಳುತ್ತವೆ. ಇದನ್ನು ಪರಿಶೀಲಿಸುವುದು ಸುಲಭ: ಎರಡು ಟ್ಯಾಬ್‌ಗಳನ್ನು ತೆರೆಯಿರಿ, ಅದೇ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು shannon-3 ಮತ್ತು shannon-3.1 ಗೆ ಹಾಕಿ, ಮತ್ತು ನೋಡಿ. ಉತ್ತರ ಎಷ್ಟು ವೇಗವಾಗಿ ಬರುತ್ತದೆ ಎಂಬುದರಲ್ಲಿನ ವ್ಯತ್ಯಾಸ ಸೂಕ್ಷ್ಮವಲ್ಲ, ಮತ್ತು ಅದು ರೆಂಡರಿಂಗ್ ತಂತ್ರವೂ ಅಲ್ಲ. Shannon 3.0 ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ನಿಯಂತ್ರಿಸಲ್ಪಟ್ಟಿತ್ತು. Shannon 3.1 ಅಲ್ಲ.

01Shannon 3.1 ನಲ್ಲಿ ನಿಜವಾಗಿ ಏನು ಬದಲಾಯಿತು

ಈ ಕುಟುಂಬವನ್ನು ವ್ಯಾಖ್ಯಾನಿಸುವ ಅಂಶವನ್ನು Shannon 3.0 ಪರಿಚಯಿಸಿತು: ಪುನರಾವರ್ತಿತ ತರ್ಕ ಲೂಪ್. ಮಾಡೆಲ್ ತನ್ನ ಮೊದಲ ಆಲೋಚನೆಯಲ್ಲೇ ಉತ್ತರಿಸುವುದಿಲ್ಲ. ಅದು ಚಿಂತಿಸುತ್ತದೆ, ಕರಡು ಬರೆಯುತ್ತದೆ, ಪ್ರಶ್ನೆಯ ವಿರುದ್ಧ ತನ್ನದೇ ಕರಡನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ, ಮತ್ತು ಅದನ್ನು ಸುಧಾರಿಸುತ್ತದೆ. Lite ಆ ಲೂಪ್‌ನ ಒಂದು ಸುತ್ತು ಚಲಾಯಿಸುತ್ತದೆ; Pro ಪೂರ್ಣ ಲೂಪ್ ಚಲಾಯಿಸುತ್ತದೆ, ಕರಡು ಬರೆಯುವ ಮೊದಲಿನ ಜ್ಞಾನ ಸಂಗ್ರಹ ಹಂತ ಸೇರಿದಂತೆ. ಆ ವಿನ್ಯಾಸವನ್ನು Shannon 3 ಸಂಶೋಧನಾ ಲೇಖನದಲ್ಲಿ ವಿವರವಾಗಿ ವಿವರಿಸಲಾಗಿದೆ, ಮತ್ತು 3.1 ನಲ್ಲಿ ಅದರಲ್ಲಿ ಯಾವುದೂ ಬದಲಾಗಿಲ್ಲ.

ಬದಲಾದದ್ದು ಕೆಳಗಿನ ಯಂತ್ರೋಪಕರಣ. Shannon 3.0 ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಇನ್ಫರೆನ್ಸ್ ಹೋಸ್ಟ್ ಮೂಲಕ ಸೇವೆ ಪಡೆಯುತ್ತಿತ್ತು — ಮಾಡೆಲ್ ಬಿಡುಗಡೆ ಮಾಡಲು ಒಂದು ವಿವೇಕಯುತ ಮಾರ್ಗ, ಮತ್ತು ಅದನ್ನು ಚಲಾಯಿಸಲು ಒಂದು ಸಂಕುಚಿತ ಮಾರ್ಗ. ನೀವು ಬೇರೊಬ್ಬರ ಸೇವಾ ಸಂರಚನೆಯನ್ನು, ಬೇರೊಬ್ಬರ ಸರತಿಯನ್ನು, ಬೇರೊಬ್ಬರ ಸಂದರ್ಭದ ಮಿತಿಯನ್ನು, ಮತ್ತು ಪ್ರತಿ ಸೆಕೆಂಡಿಗೆ ಎಷ್ಟು ಟೋಕನ್‌ಗಳು ನಿಮಗೆ ಅನುಮತಿ ಎಂಬ ಬೇರೊಬ್ಬರ ಕಲ್ಪನೆಯನ್ನು ಆನುವಂಶಿಕವಾಗಿ ಪಡೆಯುತ್ತೀರಿ. Shannon 3.1 ನಮ್ಮದೇ GPU ಕ್ಲಸ್ಟರ್‌ನಲ್ಲಿ, ನಾವು ಸಂರಚಿಸುವ ಸೇವಾ ಸ್ಟ್ಯಾಕ್‌ನಲ್ಲಿ ಚಲಿಸುತ್ತದೆ, ಮತ್ತು ಈ ಲೇಖನದ ಪ್ರತಿಯೊಂದು ಮುಖ್ಯ ಸಂಖ್ಯೆಯೂ ಆ ಒಂದೇ ನಿರ್ಧಾರದ ಪರಿಣಾಮ.

	Shannon 3.0	Shannon 3.1
ಎಲ್ಲಿ ಚಲಿಸುತ್ತದೆ	ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಹೋಸ್ಟ್	ನಮ್ಮದೇ GPU ಕ್ಲಸ್ಟರ್
ಸಂದರ್ಭ ವಿಂಡೋ	32,768	196,608
ಔಟ್‌ಪುಟ್ ಸ್ಟ್ರೀಮಿಂಗ್	ಪೇಸ್ಡ್ / ದರ-ನಿಯಂತ್ರಿತ	ಪೂರ್ಣ ಎಂಜಿನ್ ವೇಗ
ವೇಟ್‌ಗಳು	ಹೋಸ್ಟ್ ಡೀಫಾಲ್ಟ್	4-ಬಿಟ್ NVFP4
ಡೀಕೋಡಿಂಗ್	ಪ್ರಮಾಣಿತ	ಸ್ಪೆಕ್ಯುಲೇಟಿವ್
ತರ್ಕ ಲೂಪ್	ಚಿಂತಿಸು → ಕರಡು → ಪರಿಶೀಲನೆ → ಸುಧಾರಣೆ	ಬದಲಾಗಿಲ್ಲ
ನಿರಾಕರಣೆ ಪದರ	ಇಲ್ಲ	ಇಲ್ಲ
ಮಾಡೆಲ್ id ಗಳು	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Shannon 3.1 ಏಕೆ 10-15 ಪಟ್ಟು ವೇಗವಾಗಿ ಅನಿಸುತ್ತದೆ

ವೇಗದ ಸಂಖ್ಯೆಯೇ ಜನರು ಮೊದಲು ಕೇಳುವುದು, ಆದ್ದರಿಂದ ಅದು ಎಲ್ಲಿಂದ ಬರುತ್ತದೆ ಎಂಬುದರ ಬಗ್ಗೆ ನಿಖರವಾಗಿರುವುದು ಯೋಗ್ಯ. ಎರಡು ಸ್ವತಂತ್ರ ಕೊಡುಗೆಗಳಿವೆ, ಮತ್ತು ದೊಡ್ಡದು ಎರಡರಲ್ಲಿ ಕಡಿಮೆ ಆಕರ್ಷಕವಾದದ್ದು.

ನಾವು ವೇಗದ ಗೇಟ್ ಅನ್ನು ತೆಗೆದೆವು

Shannon 3.0 ನ ಔಟ್‌ಪುಟ್ ಒಂದು ಪೇಸಿಂಗ್ ಪದರದ ಮೂಲಕ ಹಾದುಹೋಗುತ್ತಿತ್ತು. ಟೋಕನ್‌ಗಳು ಎಂಜಿನ್‌ನಿಂದ ಹೊರಬಂದು, ಹಿಡಿದಿಡಲ್ಪಟ್ಟು, ವೇಳಾಪಟ್ಟಿಯ ಪ್ರಕಾರ ನಿಮ್ಮ ಸಂಪರ್ಕಕ್ಕೆ ಬಿಡುಗಡೆಯಾಗುತ್ತಿದ್ದವು. ಇದು ಆಕಸ್ಮಿಕವೂ ಅಲ್ಲ, ದೋಷವೂ ಅಲ್ಲ. ಹಂಚಿಕೊಂಡ ಇನ್ಫರೆನ್ಸ್ ಹೋಸ್ಟ್ ಅಡಚಣೆಯಾದಾಗ, ಔಟ್‌ಪುಟ್ ಅನ್ನು ಪೇಸ್ ಮಾಡುವುದು ಲೋಡ್ ಅನ್ನು ಸುಗಮಗೊಳಿಸುತ್ತದೆ, ದೀರ್ಘ ಜನರೇಶನ್ ಒಂದು ಸ್ಲಾಟ್ ಅನ್ನು ಏಕಸ್ವಾಮ್ಯವಾಗಿಸದಂತೆ ತಡೆಯುತ್ತದೆ, ಮತ್ತು ಸ್ಟ್ರೀಮ್ ಸಿಡಿತಗಳಲ್ಲಿ ಬರುವ ಬದಲು ಊಹಿಸಬಹುದಾದ, ಓದಬಹುದಾದ ಲಯದಲ್ಲಿ ಬರುವಂತೆ ಮಾಡುತ್ತದೆ. ಇದೊಂದು ಸಮರ್ಥನೀಯ ಎಂಜಿನಿಯರಿಂಗ್ ಆಯ್ಕೆ, ಮತ್ತು ಪ್ರತಿ ಉತ್ತರದಲ್ಲೂ ಪ್ರತಿ ಬಳಕೆದಾರರಿಗೂ ಅದು ನಿಜವಾದ ಗಡಿಯಾರದ ಸಮಯವನ್ನು ಬೆಲೆಯಾಗಿ ವಿಧಿಸಿತು.

Shannon 3.1 ನಲ್ಲಿ ವೇಗದ ಗೇಟ್ ಇಲ್ಲ ಮತ್ತು ಪ್ರಕಟಣೆಯ ಪೇಸಿಂಗ್ ಇಲ್ಲ. ಎಂಜಿನ್ ಉತ್ಪಾದಿಸಿದಂತೆ ಟೋಕನ್‌ಗಳು ನಿಮ್ಮ ಸ್ಟ್ರೀಮ್‌ಗೆ ಬರೆಯಲ್ಪಡುತ್ತವೆ. ಎಂಜಿನ್ ವೇಗವಾಗಿ ಉತ್ಪಾದಿಸುತ್ತಿದ್ದರೆ, ಅದು ವೇಗವಾಗಿ ಉತ್ಪಾದಿಸುವುದನ್ನು ನೀವು ನೋಡುತ್ತೀರಿ. ಮಾಡೆಲ್ ಮತ್ತು ನಿಮ್ಮ ಟರ್ಮಿನಲ್, ನಿಮ್ಮ ಚಾಟ್ ವಿಂಡೋ, ಅಥವಾ ನಿಮ್ಮ SSE ರೀಡರ್ ನಡುವೆ ಯಾವುದೇ ಸುಗಮಗೊಳಿಸುವ ಬಫರ್ ಇಲ್ಲ. ದೀರ್ಘ ಉತ್ತರಕ್ಕೆ — 2,000-ಟೋಕನ್ ವಿಶ್ಲೇಷಣೆ, ಉತ್ಪಾದಿತ ಕೋಡ್‌ನ ಫೈಲ್ — ನೀವು ಗಮನಿಸುವ ಸುಧಾರಣೆಯ ಬಹುಪಾಲಿಗೆ ಇದೊಂದೇ ಕಾರಣ.

ಒಂದು ಪ್ರಾಮಾಣಿಕ ಪರಿಣಾಮ: ಸ್ಟ್ರೀಮ್ ಈಗ ಸಿಡಿತದಂತೆ ಇದೆ. ಸ್ಪೆಕ್ಯುಲೇಟಿವ್ ಡೀಕೋಡಿಂಗ್ (ಕೆಳಗೆ) ಸ್ವೀಕರಿಸಿದ ಟೋಕನ್‌ಗಳನ್ನು ಸಣ್ಣ ಸರಣಿಗಳಲ್ಲಿ ಹೊರಹಾಕುತ್ತದೆ, ಆದ್ದರಿಂದ ಪಠ್ಯವು ಒಂದೇ ಲಯದ ಒಂದೊಂದೇ ಪದದ ವೇಗದ ಬದಲು ಗೋಚರ ತುಂಡುಗಳಲ್ಲಿ ಬರಬಹುದು. ನೀವು 3.0 ನ ಸುಗಮ ಲಯದ ಸುತ್ತ UI ಕಟ್ಟಿದ್ದರೆ ಅದು ಈಗಲೂ ಕೆಲಸ ಮಾಡುತ್ತದೆ — ಟೋಕನ್ ಕ್ರಮ ಮತ್ತು ವಿಷಯ ಬಾಧಿತವಾಗಿಲ್ಲ — ಆದರೆ ಟೈಪ್‌ರೈಟರ್ ನೋಟ ನಿಮಗೆ ಇಷ್ಟವಾಗಿದ್ದರೆ ನಿಮ್ಮದೇ ಕ್ಲೈಂಟ್-ಸೈಡ್ ಈಸಿಂಗ್ ಅನ್ನು ಮತ್ತೆ ಸೇರಿಸಬಹುದು. ಬಹುತೇಕ ಜನರು ಆ ಸೆಕೆಂಡುಗಳನ್ನು ಮರಳಿ ಪಡೆಯಲು ಬಯಸುತ್ತಾರೆ ಎಂದು ನಾವು ಭಾವಿಸುತ್ತೇವೆ.

ಎಂಜಿನ್ ಸ್ವತಃ ವೇಗವಾಯಿತು

ಗೇಟ್‌ನ ಹಿಂದೆ ಇರುವುದು ವೇಗವಾಗಿದ್ದರೆ ಮಾತ್ರ ಗೇಟ್ ತೆಗೆಯುವುದು ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಎರಡನೇ ಕೊಡುಗೆ ವಿಭಾಗ 03 ರಲ್ಲಿ ವಿವರಿಸಿದ ಸೇವಾ ಸ್ಟ್ಯಾಕ್: ನಮ್ಮದೇ ಕ್ಲಸ್ಟರ್‌ನಲ್ಲಿ ಪ್ರಸ್ತುತ ತಲೆಮಾರಿನ, FP4-ಸ್ಥಳೀಯ ವೇಗವರ್ಧಕಗಳ ಮೇಲೆ 4-ಬಿಟ್ NVFP4 ವೇಟ್‌ಗಳು ಮತ್ತು ಸ್ಪೆಕ್ಯುಲೇಟಿವ್ ಡೀಕೋಡಿಂಗ್. ಜೊತೆಯಾಗಿ ಇವು ಗೇಟ್ ತೆಗೆಯುವುದರಿಂದ ತೆರೆದುಕೊಳ್ಳುವ ಮಿತಿಯನ್ನು ಎತ್ತರಿಸುತ್ತವೆ.

ಸಾಪೇಕ್ಷ ಆದ್ಯಂತ ಉತ್ತರ ವಿಳಂಬ, Shannon Lab ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನ, ಸೆಪ್ಟೆಂಬರ್ 2026. ಶ್ರೇಣಿಯು ಪ್ರಾಂಪ್ಟ್ ಉದ್ದ ಮತ್ತು ಶ್ರೇಣಿಯನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ: Lite ನಲ್ಲಿ ಸಣ್ಣ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಕೆಳ ತುದಿಗೆ ಹತ್ತಿರ, Pro ನಲ್ಲಿ ದೀರ್ಘ ಜನರೇಶನ್‌ಗಳು ಮೇಲಿನ ತುದಿಗೆ ಹತ್ತಿರ.

03ಸ್ಪೆಕ್ಯುಲೇಟಿವ್ ಡೀಕೋಡಿಂಗ್ ನಿಜವಾಗಿ ಏನು ಮಾಡುತ್ತದೆ

"ಸ್ಪೆಕ್ಯುಲೇಟಿವ್ ಡೀಕೋಡಿಂಗ್ ಇನ್ಫರೆನ್ಸ್" ಒಂದು ಮಾರ್ಕೆಟಿಂಗ್ ಪದವಾಗಿ ಬಳಕೆಯಾಗುತ್ತದೆ, ಆದ್ದರಿಂದ ಇಲ್ಲಿ ಆ ಕಾರ್ಯವಿಧಾನವನ್ನು ಸರಳವಾಗಿ ಹೇಳುತ್ತೇವೆ.

ಭಾಷಾ ಮಾಡೆಲ್ ಸಾಮಾನ್ಯವಾಗಿ ಪ್ರತಿ ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ಗೆ ಒಂದು ಟೋಕನ್ ಉತ್ಪಾದಿಸುತ್ತದೆ. ಆ ಪಾಸ್ ಅನ್ನು ಗಣಿತವಲ್ಲ, ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಆವರಿಸಿಕೊಳ್ಳುತ್ತದೆ — ಏನನ್ನಾದರೂ ಲೆಕ್ಕಹಾಕಲು ವೇಟ್‌ಗಳನ್ನು ಓದಬೇಕು, ಮತ್ತು ಅವನ್ನು ಓದುವುದು ಗಣಿತಕ್ಕಿಂತ ಬಹಳ ಹೆಚ್ಚು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. GPU ತನ್ನ ಗಣನಾ ಘಟಕಗಳನ್ನು ನಿಷ್ಕ್ರಿಯವಾಗಿಟ್ಟುಕೊಂಡು ತನ್ನ ಬಹುಪಾಲು ಸಮಯವನ್ನು ಮೆಮೊರಿಗಾಗಿ ಕಾಯುತ್ತಾ ಕಳೆಯುತ್ತದೆ. 500 ಟೋಕನ್‌ಗಳನ್ನು ಉತ್ಪಾದಿಸುವುದೆಂದರೆ ಆ ವಿಳಂಬವನ್ನು ಸತತವಾಗಿ 500 ಬಾರಿ ಪಾವತಿಸುವುದು.

ಸ್ಪೆಕ್ಯುಲೇಟಿವ್ ಡೀಕೋಡಿಂಗ್ ಈ ಸತತತೆಯ ಭಾಗದ ಮೇಲೆ ದಾಳಿ ಮಾಡುತ್ತದೆ. ಒಂದು ಸಣ್ಣ, ಅಗ್ಗದ ಕರಡು ಮಾಡೆಲ್ ಸಂಭವನೀಯ ಮುಂದಿನ ಟೋಕನ್‌ಗಳ ಸಣ್ಣ ಸರಣಿಯನ್ನು — ಹೇಳಿ ನಾಲ್ಕು ಅಥವಾ ಎಂಟು — ಸೂಚಿಸುತ್ತದೆ. ನಂತರ ಮುಖ್ಯ ಮಾಡೆಲ್ ಆ ಇಡೀ ಸರಣಿಯನ್ನು ಒಂದೇ ಬ್ಯಾಚ್ ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ನಲ್ಲಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತದೆ, ಅದು ಒಂದೇ ಟೋಕನ್ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದಕ್ಕಿಂತ ಸ್ವಲ್ಪವೇ ಹೆಚ್ಚು ವೆಚ್ಚವಾಗುತ್ತದೆ, ಏಕೆಂದರೆ ದುಬಾರಿ ಭಾಗ (ವೇಟ್‌ಗಳನ್ನು ಓದುವುದು) ಎರಡೂ ರೀತಿಯಲ್ಲಿ ಒಮ್ಮೆ ಮಾತ್ರ ನಡೆಯುತ್ತದೆ. ಮುಖ್ಯ ಮಾಡೆಲ್ ಒಪ್ಪುವ ಪ್ರತಿಯೊಂದು ಸೂಚಿತ ಟೋಕನ್ ಸ್ವೀಕರಿಸಲ್ಪಟ್ಟು ತಕ್ಷಣ ಹೊರಹೋಗುತ್ತದೆ. ಮೊದಲ ಭಿನ್ನಾಭಿಪ್ರಾಯದಲ್ಲಿ ಸರಣಿಯನ್ನು ಕತ್ತರಿಸಲಾಗುತ್ತದೆ ಮತ್ತು ಅಲ್ಲಿಂದ ಸಾಮಾನ್ಯ ಡೀಕೋಡಿಂಗ್ ಪುನರಾರಂಭವಾಗುತ್ತದೆ.

ಸ್ವೀಕಾರ ದರವೇ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಊಹಿಸಬಹುದಾದ ಪಠ್ಯದಲ್ಲಿ — ಬಾಯ್ಲರ್‌ಪ್ಲೇಟ್, ಕೋಡ್ ರಚನೆ, ವಾದವನ್ನು ಜೋಡಿಸುವ ಸಂಪರ್ಕ ಅಂಗಾಂಶ — ಕರಡು ಮಾಡೆಲ್ ಚೆನ್ನಾಗಿ ಊಹಿಸುತ್ತದೆ ಮತ್ತು ದೀರ್ಘ ಸರಣಿಗಳು ಒಟ್ಟಿಗೆ ಬರುತ್ತವೆ. ನಿಜವಾಗಿ ಕಠಿಣ ಟೋಕನ್‌ಗಳಲ್ಲಿ ಸ್ವೀಕಾರ ಕುಸಿಯುತ್ತದೆ ಮತ್ತು ವ್ಯವಸ್ಥೆ ಸಾಮಾನ್ಯ ಒಂದೊಂದೇ ಟೋಕನ್ ಡೀಕೋಡಿಂಗ್‌ಗೆ ಸೊಗಸಾಗಿ ಇಳಿಯುತ್ತದೆ. ಆ ಅಸಮಾನತೆಯೇ ನಿಮಗೆ ಬೇಕಾದದ್ದು: ಅದು ಸುಲಭ ಭಾಗಗಳನ್ನು ವೇಗಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಕಠಿಣವಾದವನ್ನು ಮುಟ್ಟುವುದಿಲ್ಲ.

4-ಬಿಟ್ ವೇಟ್‌ಗಳು ಏಕೆ ಅದೇ ಪ್ಯಾರಾಗ್ರಾಫ್‌ಗೆ ಸೇರುತ್ತವೆ

ಅಡಚಣೆ ಮೆಮೊರಿ ಬ್ಯಾಂಡ್‌ವಿಡ್ತ್ ಆಗಿರುವುದರಿಂದ, ವೇಟ್‌ಗಳನ್ನು ಕುಗ್ಗಿಸುವುದು ಕೇವಲ ಮೆಮೊರಿ ಜಾಗದ ವಿಷಯವಲ್ಲ, ನೇರವಾದ ವೇಗದ ಲಿವರ್. NVFP4 ಎಂಬುದು ಸೂಕ್ಷ್ಮ ಮಟ್ಟದ ಪ್ರತಿ-ಬ್ಲಾಕ್ ಸ್ಕೇಲಿಂಗ್ ಹೊಂದಿರುವ 4-ಬಿಟ್ ಫ್ಲೋಟಿಂಗ್-ಪಾಯಿಂಟ್ ಸ್ವರೂಪ, ಹಳೆಯ 4-ಬಿಟ್ ಪೂರ್ಣಾಂಕ ಕ್ವಾಂಟೈಸೇಶನ್ ಯೋಜನೆಗಳು ಕಳೆದುಕೊಂಡ ನಿಖರತೆಯನ್ನು ಅದು ಉಳಿಸಿಕೊಳ್ಳಲು ಇದೇ ಕಾರಣ. ಪ್ರತಿ ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ಗೆ ಸುಮಾರು ಕಾಲು ಭಾಗದಷ್ಟು ಬೈಟ್‌ಗಳನ್ನು ಓದುವುದೆಂದರೆ ಅನುಪಾತಶಃ ಕಡಿಮೆ ಸಮಯ ಮೆಮೊರಿಗಾಗಿ ಕಾಯುವುದು, ಮತ್ತು 196K ವಿಂಡೋ ಬೇಡುವ ದೀರ್ಘ-ಸಂದರ್ಭ KV ಕ್ಯಾಶ್‌ಗೆ ಅದು ಹೆಚ್ಚು ಜಾಗ ಬಿಡುತ್ತದೆ.

ಈ ಎರಡೂ ಕೇವಲ ಕೂಡುವುದಿಲ್ಲ, ಗುಣಿಸುತ್ತವೆ: ಪ್ರತಿ ಪಾಸ್‌ಗೆ ಕಡಿಮೆ ಬೈಟ್‌ಗಳು, ಮತ್ತು ಹೊರಬರುವ ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಕಡಿಮೆ ಪಾಸ್‌ಗಳು. ಗೇಟ್ ಇಲ್ಲದ, ಪೂರ್ಣ ವೇಗದ ಸ್ಟ್ರೀಮಿಂಗ್ ಅನ್ನು ಪೇಸಿಂಗ್ ಮೂಲಕ ಮರಳಿ ಪಡೆಯಬೇಕಾದ ವೆಚ್ಚದ ಬದಲು ಸೇವೆ ನೀಡಲು ಕೈಗೆಟುಕುವಂತೆ ಮಾಡುವುದು ಇದೇ — ಮತ್ತು 3.0 ನಲ್ಲಿ ಪೇಸಿಂಗ್ ಪದರ ಮಾಡುತ್ತಿದ್ದದ್ದು ನಿಖರವಾಗಿ ಅದನ್ನೇ.

04196,608 ಟೋಕನ್‌ಗಳು: 6 ಪಟ್ಟು ವಿಂಡೋ ಏನನ್ನು ತೆರೆಯುತ್ತದೆ

Shannon 3.0 ಗೆ 32,768-ಟೋಕನ್ ವಿಂಡೋ ಇತ್ತು: ಒಂದು ಕೆಲಸದ ಅವಧಿ, ದಾಖಲೆಯಲ್ಲ. ಸುಮಾರು 70-80 ಪುಟಗಳ ಗದ್ಯ, ಅದರಿಂದ ತರ್ಕ ಲೂಪ್ ತನ್ನ ಸ್ವಂತ ಚಿಂತನೆಗೆ ಬಳಸುವಷ್ಟನ್ನು ಕಳೆದು, ನಿಮ್ಮ ಸಿಸ್ಟಂ ಪ್ರಾಂಪ್ಟ್ ಕಳೆದು, ಇಲ್ಲಿಯವರೆಗಿನ ಸಂಭಾಷಣೆ ಕಳೆದು. ನಿಜವಾದ ಕೆಲಸ ಆ ಗೋಡೆಗೆ ನಿರಂತರವಾಗಿ ಡಿಕ್ಕಿ ಹೊಡೆಯುತ್ತಿತ್ತು, ಮತ್ತು ಪರಿಹಾರಗಳು — ಚಂಕಿಂಗ್, ಸಾರಾಂಶ, ನಿಮ್ಮದೇ ಸಾಮಗ್ರಿಯ ಮೇಲೆ ರಿಟ್ರೀವಲ್ — ಎಲ್ಲವೂ ನೀವು ಉಳಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದದ್ದನ್ನೇ ಹಾಳುಮಾಡುತ್ತವೆ. 196,608 ಟೋಕನ್‌ಗಳು ಬೇರೆಯದೇ ವರ್ಗದ ಸಮಸ್ಯೆ.

ನಿರ್ದಿಷ್ಟವಾಗಿ, ಅದು ಸುಮಾರು 400-500 ಪುಟಗಳ ಇಂಗ್ಲಿಷ್ ಪಠ್ಯ, ಅಥವಾ ತನ್ನ ಪರೀಕ್ಷೆಗಳು ಮತ್ತು README ಸಹಿತ ಮಧ್ಯಮ ಗಾತ್ರದ ಕೋಡ್‌ಬೇಸ್, ಅಥವಾ ಒಂದು ಯೋಜನೆಯ ಒಂದು ವರ್ಷದ ಸಭೆಯ ಟಿಪ್ಪಣಿಗಳು, ಅಥವಾ ಎಲ್ಲಾ ಅನುಬಂಧಗಳೊಂದಿಗೆ ಪೂರ್ಣ ಒಪ್ಪಂದ ಸಂಚಯ — ಒಂದೇ ಸಂಭಾಷಣೆಯಲ್ಲಿ ಹಿಡಿದಿಟ್ಟು, ಒಂದೇ ಪ್ರಶ್ನೆಯಲ್ಲಿ ಸಂಬೋಧಿಸಬಹುದು, ನಿಮಗೂ ಸಾಮಗ್ರಿಗೂ ನಡುವೆ ಚಂಕಿಂಗ್ ಪದರವಿಲ್ಲದೆ.

• ಇಡೀ ರೆಪೊಸಿಟರಿಯ ಪ್ರಶ್ನೆಗಳು. ನೀವು ಈಗಾಗಲೇ ಸಂಶಯಿಸಿದ ಮೂರು ಫೈಲ್‌ಗಳನ್ನು ಅಂಟಿಸುವ ಬದಲು ಕೋಡ್ ಅನ್ನು ಲೋಡ್ ಮಾಡಿ ಒಂದು ದೋಷ ಉತ್ಪಾದನೆಗೆ ಏಕೆ ತಲುಪುತ್ತದೆ ಎಂದು ಕೇಳಿ. ನೀವು ಸೇರಿಸಲು ಯೋಚಿಸದ ಫೈಲ್ ಅನ್ನು ಮಾಡೆಲ್ ಕಂಡುಹಿಡಿಯಬಲ್ಲದು.
• ರಿಟ್ರೀವಲ್ ಇಲ್ಲದೆ ದೀರ್ಘ-ದಾಖಲೆ ವಿಶ್ಲೇಷಣೆ. ರಿಟ್ರೀವಲ್ ಎಂಬುದು ಮಾಡೆಲ್ ಏನನ್ನು ನೋಡಬಹುದು ಎಂದು ನಿರ್ಧರಿಸುವ ನಷ್ಟಕಾರಿ ಪೂರ್ವ-ಫಿಲ್ಟರ್. 196K ನಲ್ಲಿ ನೀವು ಅದನ್ನು ಬಿಟ್ಟು ಮಾಡೆಲ್ ಎಲ್ಲವನ್ನೂ ಓದಲು ಬಿಡಬಹುದು, ಇದು ಸರಿಯಾದ ಭಾಗ ಎಂದಿಗೂ ಹಿಂಪಡೆಯಲ್ಪಡದ ಇಡೀ ವರ್ಗದ ವೈಫಲ್ಯವನ್ನು ತೆಗೆದುಹಾಕುತ್ತದೆ.
• ಸುಸಂಬದ್ಧವಾಗಿ ಉಳಿಯುವ ಸಂಭಾಷಣೆಗಳು. ದೀರ್ಘ ಕೆಲಸದ ಅವಧಿ ಇನ್ನು ಮುಂದೆ ತನ್ನದೇ ಆರಂಭವನ್ನು ಮೌನವಾಗಿ ಬಿಟ್ಟುಬಿಡುವುದಿಲ್ಲ. ಸಂದೇಶ ಮೂರರಲ್ಲಿ ನೀವು ಹಾಕಿದ ನಿರ್ಬಂಧಗಳು ಸಂದೇಶ ಎಂಬತ್ತರಲ್ಲೂ ಅನ್ವಯಿಸುತ್ತವೆ.
• ತರ್ಕ ಲೂಪ್‌ಗೆ ಜಾಗ. ಲೂಪ್‌ನ ಸ್ವಂತ ಚಿಂತನೆ, ಕರಡು ಮತ್ತು ಪರಿಶೀಲನೆ ಸಂದರ್ಭವನ್ನು ಬಳಸುತ್ತವೆ. 3.0 ನಲ್ಲಿ ಆ ಹಂತಗಳು ವಿರಳ ಬಜೆಟ್‌ಗಾಗಿ ನಿಮ್ಮ ಸಾಮಗ್ರಿಯೊಂದಿಗೆ ಸ್ಪರ್ಧಿಸುತ್ತಿದ್ದವು. 3.1 ನಲ್ಲಿ ಅವು ಆರಾಮವಾಗಿ ಹೊಂದಿಕೊಳ್ಳುತ್ತವೆ, ಗುಣಮಟ್ಟದ ಹೆಚ್ಚಳ ಮತ್ತು ವಿಂಡೋ ಹೆಚ್ಚಳ ಒಟ್ಟಿಗೆ ಬಂದದ್ದಕ್ಕೆ ಇದೂ ಒಂದು ಕಾರಣ.
• ದೊಡ್ಡ ಮಿಶ್ರ ಇನ್‌ಪುಟ್‌ಗಳು. ಚಿತ್ರಗಳು, ಹೊರತೆಗೆದ ದಾಖಲೆ ಪಠ್ಯ ಮತ್ತು ಕೋಡ್ ಒಂದೇ ಸರದಿಯಲ್ಲಿ, ಅವುಗಳಲ್ಲಿ ಯಾವುದನ್ನು ಸೇರಿಸಲು ನಿಮಗೆ ಶಕ್ಯ ಎಂದು ವಿಂಗಡಿಸದೆ.

ನಮ್ಮದೂ ಸೇರಿದಂತೆ ಪ್ರತಿ ದೀರ್ಘ-ಸಂದರ್ಭ ಮಾಡೆಲ್‌ಗೂ ಅನ್ವಯಿಸುವ ಒಂದು ಪ್ರಾಮಾಣಿಕ ಎಚ್ಚರಿಕೆ: ದೊಡ್ಡ ವಿಂಡೋ ಎಂಬುದು ಸಾಮರ್ಥ್ಯ, ಅದರುದ್ದಕ್ಕೂ ಏಕರೂಪ ಗಮನದ ಖಾತರಿಯಲ್ಲ. ರಚನೆ ಈಗಲೂ ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಪ್ರಶ್ನೆಯನ್ನು ಕೊನೆಯ ಬಳಿ ಇಡುವುದು, ನಿಮ್ಮ ದಾಖಲೆಗಳಿಗೆ ಲೇಬಲ್ ಹಾಕುವುದು, ಮತ್ತು ಏನನ್ನು ಹುಡುಕಬೇಕೆಂದು ಮಾಡೆಲ್‌ಗೆ ಹೇಳುವುದು — ಇವೆಲ್ಲವೂ 150K ಟೋಕನ್‌ಗಳಲ್ಲಿ ಫಲಿತಾಂಶಗಳನ್ನು ಅಳೆಯಬಹುದಾದಷ್ಟು ಸುಧಾರಿಸುತ್ತವೆ, 5K ನಲ್ಲಿ ಹಾಗಲ್ಲ.

05Lite ಮತ್ತು Pro: shannon-3.1 ಮತ್ತು shannon-3.1-pro

ಎರಡು ಶ್ರೇಣಿಗಳು ತರ್ಕ ಲೂಪ್‌ನ ಎಷ್ಟು ಭಾಗವನ್ನು ಚಲಾಯಿಸುತ್ತವೆ ಎಂಬುದರಲ್ಲಿ ಭಿನ್ನವಾಗಿವೆ, ಮತ್ತು ಅವುಗಳ ನಡುವೆ ಆಯ್ಕೆ ಮಾಡಲು ಮುಖ್ಯವಾದ ಏಕೈಕ ವ್ಯತ್ಯಾಸ ಅದೇ.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
ತರ್ಕ	ಒಂದೇ ಸುತ್ತು	ಪೂರ್ಣ ಲೂಪ್ + ಜ್ಞಾನ ಸಂಗ್ರಹ
ಸ್ವಯಂ-ಪರಿಶೀಲನೆ	ಇಲ್ಲ	ಹೌದು
ಸಂದರ್ಭ ವಿಂಡೋ	196,608	196,608
ಸ್ಟ್ರೀಮಿಂಗ್	ಪೂರ್ಣ ವೇಗ, ಗೇಟ್ ಇಲ್ಲ	ಪೂರ್ಣ ವೇಗ, ಗೇಟ್ ಇಲ್ಲ
ದೃಷ್ಟಿ ಮತ್ತು ದಾಖಲೆಗಳು	ಹೌದು	ಹೌದು
ಚಿತ್ರ ರಚನೆ ಸಾಧನ	ಹೌದು	ಹೌದು
ಯಾವುದಕ್ಕೆ ಸೂಕ್ತ	ಬಹುತೇಕ ಕೆಲಸ, ಹೆಚ್ಚಿನ ಪ್ರಮಾಣ	ಕಠಿಣ ಪ್ರಶ್ನೆಗಳು, ಮೊದಲ ಕರಡು ಸಾಲದು

ಡೀಫಾಲ್ಟ್ ಆಗಿ Lite ಬಳಸಿ. ಒಳ್ಳೆಯ ತರ್ಕ ಮಾಡೆಲ್‌ನ ಒಂದು ಸುತ್ತು ನಿಜವಾದ ವಿನಂತಿಗಳ ದೊಡ್ಡ ಬಹುಪಾಲನ್ನು ನಿಭಾಯಿಸುತ್ತದೆ, ಮತ್ತು 3.1 ನಲ್ಲಿ ಅದು ಸಾಕಷ್ಟು ವೇಗವಾಗಿದ್ದು ಲೂಪ್‌ಗಾಗಿ ಕಾಯುತ್ತಿರುವ ಅನುಭವವೇ ಇಲ್ಲ. ಮೊದಲ ಉತ್ತರ ಸಾಮಾನ್ಯವಾಗಿ ಬೋಧಪ್ರದವಾಗಿ ತಪ್ಪಾಗಿರುವ ಪ್ರಶ್ನೆಗಳಿಗೆ Pro ಗೆ ಕೈಹಾಕಿ: ವಾಸ್ತುಶಿಲ್ಪದ ವ್ಯಾಪಾರ-ವಿನಿಮಯಗಳು, ವಿರೋಧಾತ್ಮಕ ವಿಶ್ಲೇಷಣೆ, ಸಮರ್ಥ ಸಹೋದ್ಯೋಗಿಯೊಬ್ಬರು ರಾತ್ರಿ ಯೋಚಿಸಿ ಬರಲಿ ಎಂದು ನೀವು ಬಯಸುವ ಯಾವುದೇ ವಿಷಯ. Pro ನ ಸ್ವಯಂ-ಪರಿಶೀಲನಾ ಹಂತ ಅಲಂಕಾರವಲ್ಲ — ನೀವು ಕಂಡುಹಿಡಿಯುವ ಮೊದಲೇ ಮಾಡೆಲ್ ತನ್ನದೇ ದೋಷಗಳನ್ನು ಹುಡುಕುವುದು ಅದು.

0632% ಬುದ್ಧಿಮತ್ತೆ ಹೆಚ್ಚಳ, ಮತ್ತು ಅದನ್ನು ಹೇಗೆ ಓದಬೇಕು

Shannon Lab ನ ಸ್ವಂತ ಮೌಲ್ಯಮಾಪನವು Shannon 3.1 ಅನ್ನು Shannon 3.0 ಗಿಂತ ಬುದ್ಧಿಮತ್ತೆಯಲ್ಲಿ 32% ಸುಧಾರಣೆ ಎಂದು ಇರಿಸುತ್ತದೆ. ಅದು ಏನು ಮತ್ತು ಏನಲ್ಲ ಎಂಬುದರ ಬಗ್ಗೆ ನಾವು ಸ್ಪಷ್ಟವಾಗಿರಲು ಬಯಸುತ್ತೇವೆ.

ಅದು ನಮ್ಮ ಅಂಕಿ, ನಮ್ಮ ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನ ಸೂಟ್‌ನಿಂದ, ಜನರು ನಿಜವಾಗಿ ಈ ಮಾಡೆಲ್‌ಗಳಿಗೆ ತರುವುದನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತವೆ ಎಂದು ನಾವು ಭಾವಿಸುವ ಕಾರ್ಯಗಳ ಮೇಲೆ ಅಳೆದದ್ದು. ಅದು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಅಲ್ಲ, ಮತ್ತು ಒಂದೇ ಆಂತರಿಕ ಒಟ್ಟುಮೊತ್ತದ ಸುತ್ತ ಲೀಡರ್‌ಬೋರ್ಡ್ ಕೋಷ್ಟಕವನ್ನು ನಾವು ಕಟ್ಟುತ್ತಿಲ್ಲ ಅಥವಾ ಪ್ರತಿ-ಬೆಂಚ್‌ಮಾರ್ಕ್ ವಿಭಜನೆಯನ್ನು ಪ್ರಕಟಿಸುತ್ತಿಲ್ಲ — ವಿಭಜನೆಯು ಆಂತರಿಕ ಸೂಟ್‌ಗೆ ಇಲ್ಲದ ಬಾಹ್ಯ ಹೋಲಿಕೆಯ ಮಟ್ಟವನ್ನು ಸೂಚಿಸುತ್ತದೆ.

ಆದರೆ ಹೆಚ್ಚಳ ಎಲ್ಲಿಂದ ಬರುತ್ತದೆ ಎಂದು ನಾವು ಹೇಳುತ್ತೇವೆ, ಏಕೆಂದರೆ ಆ ಭಾಗ ನಿಗೂಢವಲ್ಲ. ದೊಡ್ಡ ಸಂದರ್ಭ ವಿಂಡೋ ಎಂದರೆ ಮಾಡೆಲ್ ತರ್ಕಿಸುವ ಮೊದಲು ಕಡಿಮೆ ಸಾಮಗ್ರಿಯನ್ನು ಬಿಸಾಡಬೇಕು, ಮತ್ತು ದೀರ್ಘ ಅವಧಿಗಳಲ್ಲಿ ಕಾಣುವ ಬಹಳಷ್ಟು ಅಬುದ್ಧಿಮತ್ತೆ ನಿಜವಾಗಿ ಕೇವಲ ಮರೆವು. ನಾವು ನಿಯಂತ್ರಿಸುವ ಸೇವಾ ಸ್ಟ್ಯಾಕ್ ಎಂದರೆ ಹೋಸ್ಟ್ ಡೀಫಾಲ್ಟ್ ಬದಲು ನಾವು ಉದ್ದೇಶಿಸಿದ ಸಂರಚನೆಯೊಂದಿಗೆ ಮಾಡೆಲ್ ಚಲಿಸುತ್ತದೆ. ಮತ್ತು ವಿನ್ಯಾಸದಲ್ಲಿ ಬದಲಾಗದ ತರ್ಕ ಲೂಪ್‌ಗೆ ಈಗ ನಿಮ್ಮ ಇನ್‌ಪುಟ್‌ನೊಂದಿಗೆ ಹಂಚಿಕೊಂಡಿದ್ದ 32K ಮಿತಿಗೆ ಒತ್ತಲ್ಪಡುವ ಬದಲು ವಿಂಡೋದೊಳಗೆ ನಿಜವಾಗಿ ಚಲಿಸಲು ಜಾಗವಿದೆ.

07ದೃಷ್ಟಿ, ದಾಖಲೆಗಳು ಮತ್ತು ಚಿತ್ರ ರಚನೆ

Shannon 3.1 ಚಿತ್ರಗಳನ್ನು ಮತ್ತು ದಾಖಲೆಗಳನ್ನು ಓದುತ್ತದೆ. ಸ್ಕ್ರೀನ್‌ಶಾಟ್‌ಗಳು, ರೇಖಾಚಿತ್ರಗಳು, ಛಾಯಾಚಿತ್ರಗಳು, ಸ್ಕ್ಯಾನ್ ಮಾಡಿದ ಪುಟಗಳು, PDF ಗಳು ಮತ್ತು ಪಠ್ಯ ದಾಖಲೆಗಳು ಸಂಭಾಷಣೆಗೆ ಸೇರಬಹುದು ಮತ್ತು ಉಳಿದೆಲ್ಲದರ ಜೊತೆಗೆ ತರ್ಕಿಸಲ್ಪಡಬಹುದು. 196K ವಿಂಡೋದೊಂದಿಗೆ ಸೇರಿ, ಇಡೀ-ದಾಖಲೆ ಕೆಲಸದ ಹರಿವುಗಳನ್ನು ಪ್ರಾಯೋಗಿಕವಾಗಿಸುವುದು ಇದೇ: ಮಾಡೆಲ್ ಯಾವ ಪುಟಗಳನ್ನು ನೋಡಬಹುದೆಂದು ಮೊದಲೇ ನಿರ್ಧರಿಸದೆ, ದೀರ್ಘ ವರದಿ ಮತ್ತು ಅದರ ಚಾರ್ಟ್‌ಗಳು ಒಂದೇ ಸರದಿಯಲ್ಲಿ.

ಚಿತ್ರ ರಚನೆ ಮತ್ತು ಸಂಪಾದನೆ ಚಾಟ್‌ನಲ್ಲಿ ಒಂದು ಸಾಧನವಾಗಿ ಲಭ್ಯ. ಚಿತ್ರವನ್ನು ಕೇಳಿ ಮತ್ತು ಮಾಡೆಲ್ ಅದೇ ಸಂಭಾಷಣೆಯಲ್ಲಿ, ಇಲ್ಲಿಯವರೆಗೆ ಚರ್ಚಿಸಿದ ಎಲ್ಲದರ ಸಂದರ್ಭದೊಂದಿಗೆ, ಸಾಧನವನ್ನು ಇನ್‌ಲೈನ್ ಕರೆಯುತ್ತದೆ. ಸಂಪಾದನೆಯೂ ಹಾಗೆಯೇ ಕೆಲಸ ಮಾಡುತ್ತದೆ — ಅದಕ್ಕೊಂದು ಚಿತ್ರ ಕೊಡಿ, ಬದಲಾವಣೆಯನ್ನು ವಿವರಿಸಿ. ಬದಲಾಯಿಸಿಕೊಳ್ಳಬೇಕಾದ ಪ್ರತ್ಯೇಕ ಮೋಡ್ ಇಲ್ಲ, ಕಲಿಯಬೇಕಾದ ಪ್ರತ್ಯೇಕ ಇಂಟರ್ಫೇಸ್ ಇಲ್ಲ.

08API ಯಿಂದ Shannon 3.1 ಅನ್ನು ಕರೆಯುವುದು

Shannon 3.1 ಎಲ್ಲಾ ಮೂರು API ಶೈಲಿಗಳಲ್ಲಿ ಲಭ್ಯ, ಪ್ರತಿಯೊಂದರಲ್ಲೂ ಸ್ಟ್ರೀಮಿಂಗ್ ಸಹಿತ. ಒಂದೇ ಮಾಡೆಲ್‌ಗಳು, ಮೂರು ವಿನಂತಿ ಆಕಾರಗಳು — ನಿಮ್ಮ ಬಳಿ ಈಗಾಗಲೇ ಇರುವ SDK ಗೆ ಹೊಂದುವುದನ್ನು ಆರಿಸಿ.

ಎಂಡ್‌ಪಾಯಿಂಟ್	ಆಕಾರ	ಸ್ಟ್ರೀಮಿಂಗ್
/v1/chat/completions	OpenAI-ಹೊಂದಾಣಿಕೆ	ಹೌದು
/v1/messages	Anthropic-ಹೊಂದಾಣಿಕೆ	ಹೌದು
/v1/responses	Responses	ಹೌದು

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

ಪೂರ್ಣ ತರ್ಕ ಲೂಪ್ ಚಲಾಯಿಸಲು "shannon-3.1" ಬದಲಿಗೆ "shannon-3.1-pro" ಹಾಕಿ. ನೀವು ಈಗಾಗಲೇ shannon-3 ಅನ್ನು ಕರೆಯುತ್ತಿದ್ದರೆ, ಮೈಗ್ರೇಶನ್ ಎಂದರೆ ಮಾಡೆಲ್ id ಮಾತ್ರ, ಬೇರೇನೂ ಅಲ್ಲ: ವಿನಂತಿ ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆ ಆಕಾರಗಳು ಬದಲಾಗಿಲ್ಲ, ಮತ್ತು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಸ್ಟ್ರೀಮಿಂಗ್ ಕ್ಲೈಂಟ್‌ಗಳು ಕೆಲಸ ಮಾಡುತ್ತಲೇ ಇರುತ್ತವೆ. ನಿರೀಕ್ಷಿಸಬೇಕಾದ ಒಂದೇ ವರ್ತನೆಯ ವ್ಯತ್ಯಾಸವೆಂದರೆ ವಿಭಾಗ 02 ರಲ್ಲಿ ವಿವರಿಸಿದ ಸಿಡಿತದ ಸ್ಟ್ರೀಮ್ — ಅದೇ ಟೋಕನ್‌ಗಳು, ಅದೇ ಕ್ರಮ, ಬೇಗ ಮತ್ತು ಕಡಿಮೆ ಸಮನಾದ ತುಂಡುಗಳಲ್ಲಿ ಬರುತ್ತವೆ.

ಪೂರ್ಣ ಪ್ಯಾರಾಮೀಟರ್ ಉಲ್ಲೇಖ, ದೃಢೀಕರಣ, ದೋಷ ಶಬ್ದಾರ್ಥ ಮತ್ತು ಸಂವಾದಾತ್ಮಕ ಪ್ಲೇಗ್ರೌಂಡ್ API ದಾಖಲಾತಿಯಲ್ಲಿ ಇವೆ. ಇತರ ಮಾಡೆಲ್ ಕಾರ್ಡ್‌ಗಳು ಮತ್ತು ತಾಂತ್ರಿಕ ಬರಹಗಳು Shannon ಸಂಶೋಧನೆಯಲ್ಲಿ ಇವೆ.

09ಈಗಲೂ ಸೆನ್ಸಾರ್ ರಹಿತ, ಆ ವಿಷಯದಲ್ಲಿ ಬದಲಾಗಿಲ್ಲ

Shannon 3.1 ಗೆ ನಿರಾಕರಣೆ ಪದರವಿಲ್ಲ ಮತ್ತು ಔಟ್‌ಪುಟ್‌ನ ಮೇಲೆ ವಿಷಯ ಫಿಲ್ಟರಿಂಗ್ ಇಲ್ಲ. ಇದು Shannon ಸಾಲಿನ ಉಳಿದವುಗಳ ಅದೇ ನಿಲುವು ಮತ್ತು ನಮ್ಮದೇ ಕ್ಲಸ್ಟರ್‌ಗೆ ಸ್ಥಳಾಂತರದೊಂದಿಗೆ ಅದು ಬದಲಾಗಲಿಲ್ಲ — ಬದಲಾಗಿ, ಸೇವಾ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ನಿಯಂತ್ರಿಸುವುದು ಅದನ್ನು ಖಾತರಿಪಡಿಸುವುದನ್ನು ಸುಲಭಗೊಳಿಸುತ್ತದೆ, ಏಕೆಂದರೆ ಮಾಡೆಲ್ ಮತ್ತು ನಿಮ್ಮ ನಡುವೆ ತನ್ನದೇ ನೀತಿ ಹೊಂದಿರುವ ಮಧ್ಯವರ್ತಿ ಹೋಸ್ಟ್ ಇಲ್ಲ.

ಇಡೀ ಔಟ್‌ಪುಟ್ ಮಾರ್ಗವನ್ನು ಬದಲಾಯಿಸಿದ ಬಿಡುಗಡೆಯ ಬಗ್ಗೆ ಸಹಜವಾಗಿ ಬರುವ ಪ್ರಶ್ನೆಯಾದ್ದರಿಂದ ಇದನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಹೇಳುವುದು ಯೋಗ್ಯ: ಪೇಸಿಂಗ್ ಪದರವನ್ನು ತೆಗೆದದ್ದು ಅದರ ಜಾಗದಲ್ಲಿ ಮಾಡರೇಶನ್ ಪದರವನ್ನು ಸೇರಿಸುವುದೆಂದಲ್ಲ. ಯಾವುದೂ ಸ್ಟ್ರೀಮ್ ಅನ್ನು ಪರಿಶೀಲಿಸುವುದಿಲ್ಲ, ಪುನಃ ಬರೆಯುವುದಿಲ್ಲ, ಅಥವಾ ತಡೆಯುವುದಿಲ್ಲ. ಮಾಡೆಲ್ ಉತ್ಪಾದಿಸುವುದೇ ಬಂದು ತಲುಪುತ್ತದೆ. ನಮಗೆ ತಿಳಿದ ಮಟ್ಟಿಗೆ, ಈ ಗಾತ್ರದ ಸಂದರ್ಭ ವಿಂಡೋದೊಂದಿಗೆ ಲಭ್ಯವಿರುವ ಅತಿ ವೇಗದ ಸೆನ್ಸಾರ್ ರಹಿತ AI ಮಾಡೆಲ್ Shannon 3.1 — ಮತ್ತು ಈ ಎರಡು ಗುಣಗಳು ಸಂಬಂಧಿಸಿವೆ, ಏಕೆಂದರೆ ಎರಡೂ ಬೇರೊಬ್ಬರಿಂದ ಅನುಸರಣೆ-ಆಕಾರದ ಸಾಮರ್ಥ್ಯವನ್ನು ಬಾಡಿಗೆಗೆ ಪಡೆಯುವ ಬದಲು ನಮ್ಮದೇ ಮೂಲಸೌಕರ್ಯವನ್ನು ಚಲಾಯಿಸುವುದರಿಂದ ಬರುತ್ತವೆ.

ಸೆನ್ಸಾರ್ ರಹಿತ ಎಂದರೆ ಹೊಣೆಗಾರಿಕೆ ಇಲ್ಲದ್ದು ಎಂದಲ್ಲ. ಬಳಕೆಯನ್ನು ನಮ್ಮ ಜವಾಬ್ದಾರಿಯುತ ಬಳಕೆ ನೀತಿ ನಿಯಂತ್ರಿಸುತ್ತದೆ, ಮತ್ತು ಕಠಿಣ ಸಾಮಗ್ರಿಯೊಂದಿಗೆ ತೊಡಗುವ ಮಾಡೆಲ್‌ನೊಂದಿಗೆ ಬರುವ ಬಾಧ್ಯತೆ ಎಂದರೆ ನೀವು ಅದರೊಂದಿಗೆ ಜವಾಬ್ದಾರಿಯಿಂದ ತೊಡಗುವುದು.

10ಹೋಲಿಕೆಯನ್ನು ನೀವೇ ಚಲಾಯಿಸಿ

ಇಲ್ಲಿನ ಪ್ರತಿಯೊಂದು ಹಕ್ಕನ್ನೂ ಸುಮಾರು ಎರಡು ನಿಮಿಷಗಳಲ್ಲಿ ಪರಿಶೀಲಿಸಬಹುದು, ಮತ್ತು ನೀವು ನಮ್ಮನ್ನು ನಂಬುವುದಕ್ಕಿಂತ ಪರಿಶೀಲಿಸುವುದನ್ನೇ ನಾವು ಬಯಸುತ್ತೇವೆ.

1. ನೀವು ನಿಜವಾಗಿ ಮಾಡುವ ಕೆಲಸದಿಂದ ಒಂದು ಪ್ರಾಂಪ್ಟ್ ಆರಿಸಿ. ದೀರ್ಘವಾದದ್ದು ಉತ್ತಮ — ಅದು ವಿಂಡೋ ಮತ್ತು ಸ್ಟ್ರೀಮಿಂಗ್ ಎರಡನ್ನೂ ಪರೀಕ್ಷಿಸುತ್ತದೆ.
2. ಅದನ್ನು shannon-3 ಮೇಲೆ ಚಲಾಯಿಸಿ. ಮೊದಲ ಟೋಕನ್ ಬರಲು ಎಷ್ಟು ಸಮಯ, ಮತ್ತು ಉತ್ತರ ಪೂರ್ಣಗೊಳ್ಳಲು ಎಷ್ಟು ಸಮಯ ಎಂದು ಗಮನಿಸಿ.
3. ಅದೇ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು shannon-3.1 ಮೇಲೆ ಚಲಾಯಿಸಿ. ಅದೇ ಎರಡು ಸಂಖ್ಯೆಗಳನ್ನು ಗಮನಿಸಿ.
4. ನಂತರ ಗಡಿಯಾರವನ್ನು ಕಡೆಗಣಿಸಿ ಎರಡೂ ಉತ್ತರಗಳನ್ನು ಓದಿ, ಮತ್ತು ನಿಮಗೆ ಯಾವುದು ಬೇಕಾಗಿತ್ತು ಎಂದು ನಿರ್ಧರಿಸಿ.

ವೇಗದ ವ್ಯತ್ಯಾಸ ತಕ್ಷಣ ಮತ್ತು ಸ್ಪಷ್ಟವಾಗಿರುತ್ತದೆ. ಗುಣಮಟ್ಟದ ವ್ಯತ್ಯಾಸವೇ ಗಮನ ಕೊಡಲು ಯೋಗ್ಯವಾದದ್ದು — ಅದು ದೀರ್ಘ ಇನ್‌ಪುಟ್‌ಗಳಲ್ಲಿ ಅತ್ಯಂತ ಸ್ಪಷ್ಟವಾಗಿ ಕಾಣುತ್ತದೆ, ಅಲ್ಲಿ 3.0 ನೀವು ಅಂದುಕೊಂಡದ್ದಕ್ಕಿಂತ ಕಡಿಮೆ ಸಾಮಗ್ರಿಯೊಂದಿಗೆ ಮೌನವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತಿತ್ತು.

11ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

---

ಈ ಲೇಖನದಲ್ಲಿನ ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಬುದ್ಧಿಮತ್ತೆ ಅಂಕಿಗಳು ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನದಿಂದ ಬಂದ Shannon Lab ನ ಸ್ವಂತ ಅಳತೆಗಳು, ಸೆಪ್ಟೆಂಬರ್ 2026, ಮತ್ತು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಫಲಿತಾಂಶಗಳಾಗಿ ಅಲ್ಲ, ಉತ್ಪನ್ನದ ಅಂಕಿಗಳಾಗಿ ಹೇಳಲಾಗಿದೆ. ಸಂದರ್ಭ ವಿಂಡೋ, ಮಾಡೆಲ್ id ಗಳು ಮತ್ತು API ಲಭ್ಯತೆ ಉತ್ಪನ್ನದ ವಿವರಣೆಗಳು. Shannon AI ಅನ್ನು Shannon Lab LLC, ನ್ಯೂ ಮೆಕ್ಸಿಕೊ, USA ನಿರ್ವಹಿಸುತ್ತದೆ. ಸಂಬಂಧಿತ ಓದು: Shannon 3 · Shannon ಸಂಶೋಧನಾ ಸೂಚಿ · API ದಾಖಲಾತಿ.