Shannon 3.1
அதே தர்க்க வளையம், எங்கள் சொந்த GPU கிளஸ்டருக்கு நகர்த்தப்பட்டது: 32% அதிக நுண்ணறிவு, 10-15x வேகம், மற்றும் 196,608-டோக்கன் சூழல் சாளரம்.
TL;DR
Shannon 3.1, Shannon 3 ஐப் பயன்படுத்தத் தகுதியானதாக ஆக்கிய அனைத்தையும் — மறுசுழற்சி தர்க்க வளையம், மறுப்பு அடுக்கு இல்லை, வெளியீட்டு வடிகட்டல் இல்லை — தக்க வைத்துக்கொண்டு, அது எங்கே எப்படி இயங்குகிறது என்பதை மாற்றுகிறது. மாதிரி இப்போது மூன்றாம் தரப்பு இன்ஃபரன்ஸ் ஹோஸ்ட்டுக்குப் பதிலாக எங்கள் சொந்த GPU கிளஸ்டரிலிருந்து சேவை செய்யப்படுகிறது. Shannon Lab இன் மதிப்பீடு, Shannon 3.0 உடன் ஒப்பிடும்போது நுண்ணறிவில் 32% முன்னேற்றத்தையும் 10-15x வேகமான பதில்களையும் அளவிடுகிறது. சூழல் சாளரம் 32,768 இலிருந்து 196,608 டோக்கன்களாக உயர்கிறது. 3.0 இன் வெளியீட்டை வேண்டுமென்றே மெதுவாக்கிய வேகக் கட்டுப்பாட்டு அடுக்கு அகற்றப்பட்டுவிட்டது: 3.1 இயந்திரத்தின் முழு வேகத்தில் ஸ்ட்ரீம் செய்கிறது. மாதிரி ஐடிகள் shannon-3.1 மற்றும் shannon-3.1-pro — அரட்டையிலும் மூன்று API வடிவங்களிலும்.
பெரும்பாலான மாதிரி வெளியீடுகள், ஒரு திறன் உரிமைகோரலை நம்பிக்கையின் பேரில் ஏற்றுக்கொள்ளச் சொல்லி, விவாதத்தை முடிவுக்குக் கொண்டுவர ஒரு தரவரிசை அட்டவணைக்காகக் காத்திருக்கச் சொல்கின்றன. இதைச் சரிபார்ப்பது எளிது: இரண்டு தாவல்களைத் திறந்து, அதே வினவலை shannon-3 மற்றும் shannon-3.1 இல் இட்டுப் பாருங்கள். பதில் எவ்வளவு வேகமாக வருகிறது என்பதில் உள்ள வேறுபாடு நுட்பமானதல்ல, அது ஒரு காட்சித் தந்திரமும் அல்ல. Shannon 3.0 வேண்டுமென்றே கட்டுப்படுத்தப்பட்டிருந்தது. Shannon 3.1 அப்படி இல்லை.
01Shannon 3.1 இல் உண்மையில் என்ன மாறியது
இந்தக் குடும்பத்தை வரையறுக்கும் விஷயத்தை Shannon 3.0 அறிமுகப்படுத்தியது: ஒரு மறுசுழற்சி தர்க்க வளையம். மாதிரி தனது முதல் எண்ணத்திலேயே பதிலளிப்பதில்லை. அது சிந்திக்கிறது, வரைவு எழுதுகிறது, கேள்விக்கு எதிராகத் தனது சொந்த வரைவை மதிப்பாய்வு செய்கிறது, பிறகு அதை மேம்படுத்துகிறது. Lite அந்த வளையத்தை ஒரு முறை இயக்குகிறது; Pro முழு வளையத்தையும் இயக்குகிறது, வரைவுக்கு முன் ஒரு அறிவு அறுவடைப் படியும் அடங்கும். அந்த வடிவமைப்பு Shannon 3 ஆராய்ச்சிக் கட்டுரையில் விரிவாக விவரிக்கப்பட்டுள்ளது, மேலும் அதில் எதுவும் 3.1 இல் மாறவில்லை.
மாறியது அடியில் உள்ள இயந்திரம். Shannon 3.0 ஒரு மூன்றாம் தரப்பு இன்ஃபரன்ஸ் ஹோஸ்ட் வழியாகச் சேவை செய்யப்பட்டது — ஒரு மாதிரியை அறிமுகப்படுத்த அது நியாயமான வழி, ஆனால் அதை இயக்க ஒரு கட்டுப்பாடான வழி. நீங்கள் வேறொருவரின் சேவை உள்ளமைவையும், வேறொருவரின் வரிசையையும், வேறொருவரின் சூழல் உச்சவரம்பையும், வினாடிக்கு எத்தனை டோக்கன்கள் உங்களுக்கு அனுமதிக்கப்படுகின்றன என்ற வேறொருவரின் கருத்தையும் மரபுரிமையாகப் பெறுகிறீர்கள். Shannon 3.1 எங்கள் சொந்த GPU கிளஸ்டரில், நாங்களே உள்ளமைக்கும் ஒரு சேவை அடுக்கில் இயங்குகிறது, மேலும் இந்தக் கட்டுரையில் உள்ள ஒவ்வொரு தலைப்புச் செய்தி எண்ணும் அந்த ஒரே முடிவின் விளைவே.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| எங்கே இயங்குகிறது | மூன்றாம் தரப்பு ஹோஸ்ட் | எங்கள் சொந்த GPU கிளஸ்டர் |
| சூழல் சாளரம் | 32,768 | 196,608 |
| வெளியீட்டு ஸ்ட்ரீமிங் | வேகக் கட்டுப்பாடு / வரம்பிடப்பட்டது | முழு இயந்திர வேகம் |
| எடைகள் | ஹோஸ்ட் இயல்புநிலை | 4-பிட் NVFP4 |
| குறிவிலக்கம் | நிலையானது | ஊகமுறை |
| தர்க்க வளையம் | சிந்தி → வரைவு → மதிப்பாய்வு → மேம்படுத்து | மாறவில்லை |
| மறுப்பு அடுக்கு | இல்லை | இல்லை |
| மாதிரி ஐடிகள் | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Shannon 3.1 ஏன் 10-15x வேகமாகத் தெரிகிறது
வேக எண்ணைத்தான் மக்கள் முதலில் வினவுகிறார்கள், எனவே அது எங்கிருந்து வருகிறது என்பதில் துல்லியமாக இருப்பது மதிப்புடையது. இரண்டு தனித்தனிப் பங்களிப்புகள் உள்ளன, அவற்றில் பெரியது கவர்ச்சி குறைந்தது.
வேகத் தடையை நாங்கள் நீக்கினோம்
Shannon 3.0 இன் வெளியீடு ஒரு வேகக் கட்டுப்பாட்டு அடுக்கின் வழியாகச் சென்றது. டோக்கன்கள் இயந்திரத்தை விட்டு வெளியேறி, பிடித்து வைக்கப்பட்டு, ஒரு அட்டவணையின்படி உங்கள் இணைப்புக்கு விடுவிக்கப்பட்டன. இது ஒரு தவறோ பிழையோ அல்ல. ஒரு பகிரப்பட்ட இன்ஃபரன்ஸ் ஹோஸ்ட் தடையாக இருக்கும்போது, வெளியீட்டை வேகக் கட்டுப்பாட்டுக்கு உட்படுத்துவது சுமையைச் சமன் செய்கிறது, ஒரு நீண்ட உற்பத்தி ஒரு இடத்தை ஏகபோகமாக்குவதைத் தடுக்கிறது, மேலும் ஸ்ட்ரீம் திடீர் வெடிப்புகளாக இல்லாமல் கணிக்கக்கூடிய, படிக்கக்கூடிய தாளத்தில் வந்து சேரச் செய்கிறது. இது ஒரு நியாயமான பொறியியல் தேர்வு, ஆனால் அது ஒவ்வொரு பயனருக்கும் ஒவ்வொரு பதிலிலும் உண்மையான கடிகார நேரத்தைச் செலவழித்தது.
Shannon 3.1 இல் வேகத் தடையும் இல்லை, வெளிப்படுத்தல் தாமதமும் இல்லை. இயந்திரம் உற்பத்தி செய்யும்போதே டோக்கன்கள் உங்கள் ஸ்ட்ரீமுக்கு எழுதப்படுகின்றன. இயந்திரம் வேகமாக உற்பத்தி செய்தால், அது வேகமாக உற்பத்தி செய்வதை நீங்கள் பார்க்கிறீர்கள். மாதிரிக்கும் உங்கள் முனையத்திற்கும், உங்கள் அரட்டைச் சாளரத்திற்கும், அல்லது உங்கள் SSE வாசகருக்கும் இடையே எந்தச் சமன்படுத்தும் இடையகமும் இல்லை. ஒரு நீண்ட பதிலுக்கு — 2,000-டோக்கன் பகுப்பாய்வு, உருவாக்கப்பட்ட நிரலின் ஒரு கோப்பு — நீங்கள் கவனிக்கும் முன்னேற்றத்தின் பெரும்பகுதிக்கு இது மட்டுமே காரணம்.
ஒரு நேர்மையான விளைவு: ஸ்ட்ரீம் இப்போது வெடிப்பு வடிவமானது. ஊகக் குறிவிலக்கம் (கீழே) ஏற்கப்பட்ட டோக்கன்களைச் சிறு வரிசைகளாக வெளியிடுகிறது, எனவே உரை ஒரு சீரான ஒரு-வார்த்தை-ஒரு-முறை தாளத்தில் இல்லாமல், தெரியும் துண்டுகளாக வரலாம். 3.0 இன் மென்மையான தாளத்தைச் சுற்றி நீங்கள் UI ஐக் கட்டியிருந்தால், அது இன்னும் வேலை செய்யும் — டோக்கன் வரிசையும் உள்ளடக்கமும் பாதிக்கப்படவில்லை — ஆனால் தட்டச்சு இயந்திரத் தோற்றத்தை நீங்கள் விரும்பியிருந்தால், உங்கள் சொந்த கிளையண்ட்-பக்க மென்மையாக்கலை மீண்டும் அறிமுகப்படுத்த விரும்பலாம். பெரும்பாலானோர் அந்த வினாடிகளைத் திரும்பப் பெற விரும்புவார்கள் என்று நாங்கள் நினைக்கிறோம்.
இயந்திரமே வேகமானது
தடைக்குப் பின்னால் இருப்பது வேகமாக இருந்தால் மட்டுமே தடையை நீக்குவது உதவும். இரண்டாவது பங்களிப்பு பிரிவு 03 இல் விவரிக்கப்பட்டுள்ள சேவை அடுக்கு: எங்கள் சொந்த கிளஸ்டரில் உள்ள தற்போதைய தலைமுறை, FP4-சொந்த முடுக்கிகளில் 4-பிட் NVFP4 எடைகள் மற்றும் ஊகக் குறிவிலக்கம். இவை சேர்ந்து, தடையை நீக்கியதால் வெளிப்படும் உச்சவரம்பை உயர்த்துகின்றன.
ஒப்பீட்டு முனை-முதல்-முனை பதில் தாமதம், Shannon Lab உள்ளக மதிப்பீடு, செப்டம்பர் 2026. இந்த வரம்பு வினவல் நீளத்தையும் அடுக்கையும் பிரதிபலிக்கிறது: Lite இல் குறுகிய வினவல்கள் குறைந்த முனையில், Pro இல் நீண்ட உற்பத்திகள் உயர்ந்த முனையில் அமைகின்றன.
03ஊகக் குறிவிலக்கம் உண்மையில் என்ன செய்கிறது
ஊகக் குறிவிலக்க இன்ஃபரன்ஸ் என்பது ஒரு சந்தைப்படுத்தல் சொல்லாகப் பயன்படுத்தப்படுகிறது, எனவே இங்கே அதன் இயங்கு முறை, எளிமையாக.
ஒரு மொழி மாதிரி பொதுவாக ஒரு முன்னோக்குச் செலுத்தலுக்கு ஒரு டோக்கனை உற்பத்தி செய்கிறது. அந்தச் செலுத்தலில் ஆதிக்கம் செலுத்துவது கணக்கீடு அல்ல, நினைவக அலைவரிசை — எதையும் கணக்கிட எடைகளைப் படிக்க வேண்டும், அவற்றைப் படிப்பது கணிதத்தை விட மிக நீண்ட நேரம் எடுக்கிறது. GPU தனது கணக்கீட்டு அலகுகள் செயலற்று இருக்க, தனது நேரத்தின் பெரும்பகுதியை நினைவகத்திற்காகக் காத்திருந்து செலவழிக்கிறது. 500 டோக்கன்களை உற்பத்தி செய்வது என்றால் அந்தத் தாமதத்தை 500 முறை, வரிசையாகச் செலுத்துவது.
ஊகக் குறிவிலக்கம் அந்த வரிசை முறையான பகுதியைத் தாக்குகிறது. ஒரு சிறிய, மலிவான வரைவு மாதிரி அடுத்து வரக்கூடிய டோக்கன்களின் ஒரு குறுகிய வரிசையை — சொல்லுங்கள் நான்கு அல்லது எட்டு — முன்மொழிகிறது. பிறகு முதன்மை மாதிரி அந்த முழு வரிசையையும் ஒரே தொகுப்பு முன்னோக்குச் செலுத்தலில் மதிப்பிடுகிறது, அது ஒரு டோக்கனை மதிப்பிடுவதை விட சற்றே அதிகச் செலவு மட்டுமே — ஏனெனில் விலையுயர்ந்த பகுதி (எடைகளைப் படிப்பது) இரண்டு வழிகளிலும் ஒரு முறை மட்டுமே நடக்கிறது. முதன்மை மாதிரி ஏற்றுக்கொள்ளும் ஒவ்வொரு முன்மொழியப்பட்ட டோக்கனும் ஏற்கப்பட்டு உடனடியாக வெளியிடப்படுகிறது. முதல் கருத்து வேறுபாட்டில், வரிசை துண்டிக்கப்பட்டு அங்கிருந்து சாதாரணக் குறிவிலக்கம் தொடர்கிறது.
முக்கியமான பண்பு
ஊகக் குறிவிலக்கம் வெளியீட்டைப் பாதுகாக்கிறது. ஏற்கப்பட்ட வரிசை, முதன்மை மாதிரியின் சொந்த மாதிரியெடுப்பு எப்படி விநியோகிக்கப்பட்டிருக்குமோ அப்படியே அமையும் வகையில் சரிபார்ப்புப் படி கட்டமைக்கப்பட்டுள்ளது. நீங்கள் வரைவு மாதிரியின் பதிலைப் பெறவில்லை, பெரிய மாதிரியின் பதிலின் தோராயத்தையும் பெறவில்லை. நீங்கள் முதன்மை மாதிரியின் வெளியீட்டையே பெறுகிறீர்கள், குறைவான வரிசைப் படிகளில் அடையப்பட்டது. வரைவு மாதிரியால் வேகத்தை மட்டுமே பாதிக்க முடியும், ஒருபோதும் உள்ளடக்கத்தை அல்ல.
ஏற்பு விகிதமே வேலையைச் செய்கிறது. கணிக்கக்கூடிய உரையில் — வார்ப்புரு உரை, நிரல் அமைப்பு, ஒரு வாதத்தை இணைக்கும் திசுக்கள் — வரைவு மாதிரி நன்றாக ஊகிக்கிறது, நீண்ட வரிசைகள் ஒரே சமயத்தில் வந்து சேர்கின்றன. உண்மையிலேயே கடினமான டோக்கன்களில் ஏற்பு குறைகிறது, அமைப்பு சாதாரண ஒரு-டோக்கன்-ஒரு-முறை குறிவிலக்கத்திற்கு நேர்த்தியாகத் திரும்புகிறது. நீங்கள் விரும்பும் சமச்சீரின்மை இதுவே: இது எளிய பகுதிகளை முடுக்கிவிடுகிறது, கடினமான பகுதிகளைத் தொடுவதில்லை.
4-பிட் எடைகள் ஏன் அதே பத்தியில் இடம்பெறுகின்றன
தடை நினைவக அலைவரிசை என்பதால், எடைகளைச் சுருக்குவது நினைவகச் சுவட்டுக்கு மட்டுமல்ல, வேகத்திற்கும் ஒரு நேரடி நெம்புகோல். NVFP4 என்பது ஒரு 4-பிட் மிதவைப் புள்ளி வடிவம், நுணுக்கமான ஒவ்வொரு-தொகுதி அளவிடலுடன் — பழைய 4-பிட் முழு எண் அளவீட்டு முறைகள் இழந்த துல்லியத்தை அது தக்க வைக்க இதுவே காரணம். ஒரு முன்னோக்குச் செலுத்தலுக்குப் படிக்க வேண்டிய பைட்டுகளில் தோராயமாக நான்கில் ஒரு பங்கு என்றால், நினைவகத்திற்காகக் காத்திருக்கும் நேரமும் விகிதாசாரமாகக் குறைகிறது, மேலும் 196K சாளரம் கோரும் நீண்ட-சூழல் KV தேக்ககத்திற்கு அது மிக அதிக இடம் விட்டு வைக்கிறது.
இவை இரண்டும் வெறுமனே கூடுவதை விட ஒன்றையொன்று பெருக்குகின்றன: ஒரு செலுத்தலுக்குக் குறைவான பைட்டுகள், வெளியிடப்படும் ஒரு டோக்கனுக்குக் குறைவான செலுத்தல்கள். தடையற்ற, முழு-வேக ஸ்ட்ரீமிங்கை, வேகக் கட்டுப்பாட்டின் மூலம் மீட்டெடுக்க வேண்டிய செலவாக இல்லாமல் சேவை செய்யத் தகுந்த மலிவானதாக ஆக்குவது இதுவே — 3.0 இல் வேகக் கட்டுப்பாட்டு அடுக்கு செய்துகொண்டிருந்தது சரியாக அதைத்தான்.
04196,608 டோக்கன்கள்: 6x சாளரம் எதைத் திறக்கிறது
Shannon 3.0 இல் 32,768-டோக்கன் சாளரம் இருந்தது: ஒரு வேலை அமர்வு, ஒரு ஆவணம் அல்ல. தோராயமாக 70-80 பக்க உரைநடை — தர்க்க வளையம் தனது சொந்தச் சிந்தனைக்குப் பயன்படுத்துவதைக் கழித்து, உங்கள் அமைப்பு வினவலைக் கழித்து, இதுவரையிலான உரையாடலைக் கழித்து. உண்மையான வேலை அந்தச் சுவரில் தொடர்ந்து மோதியது, மேலும் மாற்று வழிகள் — துண்டாக்கல், சுருக்கல், உங்கள் சொந்தப் பொருள் மீது மீட்டெடுப்பு — அனைத்தும் நீங்கள் பாதுகாக்க முயன்றதையே சிதைக்கின்றன. 196,608 டோக்கன்கள் என்பது வேறு வகையான பிரச்சினை.
உறுதியாகச் சொன்னால், அது சுமார் 400-500 பக்க ஆங்கில உரை, அல்லது சோதனைகளுடனும் README உடனும் ஒரு நடுத்தர அளவு நிரல் தளம், அல்லது ஒரு திட்டத்தின் ஒரு வருடக் கூட்டக் குறிப்புகள், அல்லது அனைத்து இணைப்புகளுடனும் ஒரு முழு ஒப்பந்தத் தொகுப்பு — ஒரே உரையாடலில் வைத்திருக்கப்பட்டு, ஒரே கேள்வியில் அணுகக்கூடியதாக, உங்களுக்கும் பொருளுக்கும் இடையே எந்தத் துண்டாக்கல் அடுக்கும் இல்லாமல்.
- முழு-களஞ்சியக் கேள்விகள். நீங்கள் ஏற்கனவே சந்தேகித்த மூன்று கோப்புகளை ஒட்டுவதற்குப் பதிலாக, நிரலை ஏற்றி ஒரு பிழை ஏன் உற்பத்திக்கு வந்து சேர்கிறது என்று கேளுங்கள். நீங்கள் சேர்க்க நினைக்காத கோப்பை மாதிரி கண்டுபிடிக்க முடியும்.
- மீட்டெடுப்பு இல்லாத நீண்ட-ஆவணப் பகுப்பாய்வு. மீட்டெடுப்பு என்பது மாதிரி எதைப் பார்க்க அனுமதிக்கப்படுகிறது என்பதைத் தீர்மானிக்கும் ஒரு இழப்புள்ள முன்-வடிகட்டி. 196K இல் நீங்கள் அதை அடிக்கடி தவிர்த்துவிட்டு, மாதிரியை எல்லாவற்றையும் படிக்க விடலாம் — சரியான பத்தி ஒருபோதும் மீட்டெடுக்கப்படாத ஒரு முழு வகைத் தோல்வியை இது நீக்குகிறது.
- ஒத்திசைவாக நீடிக்கும் உரையாடல்கள். ஒரு நீண்ட வேலை அமர்வு இனி தனது சொந்த ஆரம்பத்தை அமைதியாகக் கைவிடாது. மூன்றாவது செய்தியில் நீங்கள் அமைத்த கட்டுப்பாடுகள் எண்பதாவது செய்தியிலும் பொருந்தும்.
- தர்க்க வளையத்திற்கு இடம். வளையத்தின் சொந்தச் சிந்தனை, வரைவு, மதிப்பாய்வு ஆகியவை சூழலைப் பயன்படுத்துகின்றன. 3.0 இல் அந்தப் படிகள் அரிதான நிதியுதவிக்காக உங்கள் பொருளுடன் போட்டியிட்டன. 3.1 இல் அவை வசதியாகப் பொருந்துகின்றன — தரமான ஆதாயமும் சாளர அதிகரிப்பும் ஒன்றாக வந்ததற்கு இதுவும் ஒரு காரணம்.
- பெரிய கலப்பு உள்ளீடுகள். படங்கள், பிரித்தெடுக்கப்பட்ட ஆவண உரை, நிரல் ஆகியவை ஒரே முறையில் — அவற்றில் எதைச் சேர்க்க முடியும் என்று வரிசைப்படுத்தாமல்.
எங்களுடையது உட்பட ஒவ்வொரு நீண்ட-சூழல் மாதிரிக்கும் பொருந்தும் ஒரு நேர்மையான எச்சரிக்கை: ஒரு பெரிய சாளரம் என்பது ஒரு கொள்ளளவு, அதன் முழுவதிலும் சீரான கவனத்திற்கான உத்தரவாதம் அல்ல. அமைப்பு இன்னும் உதவுகிறது. கேள்வியை இறுதிக்கு அருகில் வைப்பது, உங்கள் ஆவணங்களுக்குப் பெயரிடுவது, எதைத் தேட வேண்டும் என்று மாதிரிக்குச் சொல்வது — இவை அனைத்தும் 150K டோக்கன்களில் முடிவுகளை அளவிடத்தக்க வகையில் மேம்படுத்துகின்றன, 5K இல் அவை அப்படிச் செய்வதில்லை.
05Lite மற்றும் Pro: shannon-3.1 மற்றும் shannon-3.1-pro
இரண்டு அடுக்குகளும் தர்க்க வளையத்தில் எவ்வளவு பகுதியை இயக்குகின்றன என்பதில் வேறுபடுகின்றன, அவற்றுக்கு இடையே தேர்ந்தெடுப்பதற்கு முக்கியமான ஒரே வேறுபாடு அதுதான்.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| தர்க்கம் | ஒரே ஒரு முறை | முழு வளையம் + அறிவு அறுவடை |
| சுய-மதிப்பாய்வு | இல்லை | ஆம் |
| சூழல் சாளரம் | 196,608 | 196,608 |
| ஸ்ட்ரீமிங் | முழு வேகம், தடையற்றது | முழு வேகம், தடையற்றது |
| பார்வை & ஆவணங்கள் | ஆம் | ஆம் |
| படம் உருவாக்கும் கருவி | ஆம் | ஆம் |
| எதற்குச் சிறந்தது | பெரும்பாலான வேலை, அதிக அளவு | கடினமான கேள்விகள், முதல் வரைவு போதாதவை |
இயல்பாக Lite ஐப் பயன்படுத்துங்கள். ஒரு நல்ல தர்க்க மாதிரியின் ஒரு முறை இயக்கம் உண்மையான கோரிக்கைகளில் பெரும்பான்மையைக் கையாளுகிறது, மேலும் 3.1 இல் அது போதுமான வேகமானது, வளையம் இனி நீங்கள் காத்திருப்பதாக உணரும் ஒன்றல்ல. முதல் பதில் பொதுவாகப் பயனுள்ள வகையில் தவறாக இருக்கும் கேள்விகளுக்கு Pro ஐ நாடுங்கள்: கட்டமைப்புச் சமரசங்கள், எதிர்-பகுப்பாய்வு, ஒரு திறமையான சகா ஒரு இரவு யோசிக்க வேண்டும் என்று நீங்கள் விரும்பும் எதுவும். Pro இன் சுய-மதிப்பாய்வுப் படி அலங்காரம் அல்ல — நீங்கள் கண்டுபிடிக்க வேண்டியதற்கு முன்பே மாதிரி தனது சொந்தப் பிழைகளைக் கண்டுபிடிப்பதுதான் அது.
0632% நுண்ணறிவு ஆதாயம், அதை எப்படிப் படிப்பது
Shannon Lab இன் சொந்த மதிப்பீடு, Shannon 3.0 ஐ விட Shannon 3.1 ஐ நுண்ணறிவில் 32% முன்னேற்றத்தில் வைக்கிறது. அது என்ன, என்ன இல்லை என்பதில் நாங்கள் தெளிவாக இருக்க விரும்புகிறோம்.
இது எங்கள் புள்ளிவிவரம், எங்கள் உள்ளக மதிப்பீட்டுத் தொகுப்பிலிருந்து, இந்த மாதிரிகளிடம் மக்கள் உண்மையில் கொண்டு வருவதைப் பிரதிநிதித்துவப்படுத்துவதாக நாங்கள் கருதும் பணிகளில் அளவிடப்பட்டது. இது ஒரு மூன்றாம் தரப்பு அளவுகோல் அல்ல, மேலும் ஒரே ஒரு உள்ளக மொத்தத்தைச் சுற்றி ஒரு தரவரிசை அட்டவணையை நாங்கள் கட்டவில்லை, ஒவ்வொரு அளவுகோலுக்குமான பிரிவையும் வெளியிடவில்லை — ஒரு பிரிவு என்பது, ஒரு உள்ளகத் தொகுப்புக்கு இல்லாத ஒரு அளவிலான வெளிப்புற ஒப்பீட்டுத் தன்மையைக் குறிக்கும்.
ஆதாயம் எங்கிருந்து வருகிறது என்பதை நாங்கள் சொல்வோம், ஏனெனில் அந்தப் பகுதி மர்மமானது அல்ல. ஒரு பெரிய சூழல் சாளரம் என்றால், மாதிரி தர்க்கம் செய்வதற்கு முன் குறைவான பொருளையே நீக்க வேண்டியிருக்கும், மேலும் நீண்ட அமர்வுகளில் தோன்றும் அறிவின்மையில் பெரும்பகுதி உண்மையில் வெறும் மறதிதான். நாங்கள் கட்டுப்படுத்தும் ஒரு சேவை அடுக்கு என்றால், ஒரு ஹோஸ்ட் இயல்புநிலைக்குப் பதிலாக நாங்கள் நோக்கிய உள்ளமைவுடன் மாதிரி இயங்குகிறது. மேலும் தர்க்க வளையம் — வடிவமைப்பில் மாறாதது — உங்கள் உள்ளீட்டுடன் பகிர்ந்துகொண்ட 32K உச்சவரம்புக்கு எதிராக நெருக்கப்படுவதற்குப் பதிலாக, இப்போது சாளரத்திற்குள் உண்மையில் இயங்க இடம் பெற்றுள்ளது.
உங்களுக்கு மிகவும் பயனுள்ள அளவுகோல் உங்களுடையதே. உங்கள் உண்மையான வேலைச் சுமையிலிருந்து ஒரு வினவலை எடுங்கள் — ஒரு புதிர் அல்ல, ஒரு உண்மையானது — அதை shannon-3 இலும் பிறகு shannon-3.1 இலும் இயக்குங்கள். பதில்களை ஒப்பிட்டு, அவற்றுக்கு நேரம் பிடியுங்கள். எங்கள் எண்கள் ஒரு தொகுப்பு முழுவதும் ஒரு சராசரியை விவரிக்கின்றன; மேம்பட வேண்டியது உங்கள் வினவல்தான்.
07பார்வை, ஆவணங்கள், மற்றும் படம் உருவாக்கம்
Shannon 3.1 படங்களையும் ஆவணங்களையும் படிக்கிறது. திரைப்பிடிப்புகள், வரைபடங்கள், புகைப்படங்கள், ஸ்கேன் செய்யப்பட்ட பக்கங்கள், PDF மற்றும் உரை ஆவணங்கள் உரையாடலுக்குள் சென்று, மற்ற எல்லாவற்றுடனும் சேர்ந்து தர்க்கம் செய்யப்படலாம். 196K சாளரத்துடன் இணைந்து, முழு-ஆவண பணிப்பாய்வுகளைச் செயல்படுத்தக்கூடியதாக ஆக்குவது இதுவே: ஒரு நீண்ட அறிக்கையும் அதன் விளக்கப்படங்களும் ஒரே முறையில், எந்தப் பக்கங்களை மாதிரி பார்க்க அனுமதிக்கப்படுகிறது என்று முன்கூட்டியே தீர்மானிக்காமல்.
படம் உருவாக்கமும் திருத்தமும் அரட்டையில் ஒரு கருவியாகக் கிடைக்கின்றன. ஒரு படத்தைக் கேளுங்கள், மாதிரி அதே உரையாடலில், இதுவரை விவாதிக்கப்பட்ட எல்லாவற்றின் சூழலுடன், கருவியை உள்ளேயே அழைக்கிறது. திருத்தமும் அப்படியே வேலை செய்கிறது — ஒரு படத்தைக் கொடுத்து, மாற்றத்தை விவரியுங்கள். மாற வேண்டிய தனி பயன்முறையும் இல்லை, கற்க வேண்டிய தனி இடைமுகமும் இல்லை.
08API இலிருந்து Shannon 3.1 ஐ அழைப்பது
Shannon 3.1 மூன்று API வடிவங்களிலும் கிடைக்கிறது, ஒவ்வொன்றிலும் ஸ்ட்ரீமிங்குடன். ஒரே மாதிரிகள், மூன்று கோரிக்கை வடிவங்கள் — உங்களிடம் ஏற்கனவே உள்ள SDK உடன் பொருந்துவதைத் தேர்ந்தெடுங்கள்.
| இறுதிப்புள்ளி | வடிவம் | ஸ்ட்ரீமிங் |
|---|---|---|
| /v1/chat/completions | OpenAI-இணக்கமானது | ஆம் |
| /v1/messages | Anthropic-இணக்கமானது | ஆம் |
| /v1/responses | Responses | ஆம் |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}
முழுத் தர்க்க வளையத்தையும் இயக்க "shannon-3.1" ஐ "shannon-3.1-pro" ஆக மாற்றுங்கள். நீங்கள் ஏற்கனவே shannon-3 ஐ அழைத்துக்கொண்டிருந்தால், இடம்பெயர்வு என்பது மாதிரி ஐடி மட்டுமே, வேறொன்றும் இல்லை: கோரிக்கை மற்றும் பதில் வடிவங்கள் மாறவில்லை, ஏற்கனவே உள்ள ஸ்ட்ரீமிங் கிளையண்டுகள் தொடர்ந்து வேலை செய்யும். எதிர்பார்க்க வேண்டிய ஒரே நடத்தை வேறுபாடு, பிரிவு 02 இல் விவரிக்கப்பட்ட வெடிப்பு வடிவ ஸ்ட்ரீம் — அதே டோக்கன்கள், அதே வரிசை, விரைவாகவும் குறைவான சீரான துண்டுகளாகவும் வந்து சேர்கின்றன.
முழு அளவுரு குறிப்பு, அங்கீகாரம், பிழைச் சொற்பொருள் மற்றும் ஒரு ஊடாடும் விளையாட்டுத் தளம் ஆகியவை API ஆவணங்களில் உள்ளன. மற்ற மாதிரி அட்டைகளும் தொழில்நுட்பக் கட்டுரைகளும் Shannon ஆராய்ச்சியில் உள்ளன.
09இன்னும் தணிக்கையற்றது, அந்த விஷயத்தில் மாறாதது
Shannon 3.1 இல் மறுப்பு அடுக்கு இல்லை, வெளியீட்டில் உள்ளடக்க வடிகட்டலும் இல்லை. இது Shannon வரிசையின் மற்ற மாதிரிகளின் அதே நிலைப்பாடு, எங்கள் சொந்தக் கிளஸ்டருக்கு நகர்ந்ததால் அது மாறவில்லை — மாறாக, சேவை அடுக்கைக் கட்டுப்படுத்துவது அதை உறுதிப்படுத்துவதை எளிதாக்குகிறது, ஏனெனில் மாதிரிக்கும் உங்களுக்கும் இடையே தனது சொந்தக் கொள்கையுடன் அமர்ந்திருக்கும் இடைநிலை ஹோஸ்ட் எதுவும் இல்லை.
முழு வெளியீட்டுப் பாதையையும் மாற்றிய ஒரு வெளியீட்டைப் பற்றி வெளிப்படையாக ஐயம் எழும் விஷயம் என்பதால் இதைத் தெளிவாகச் சொல்வது மதிப்புடையது: வேகக் கட்டுப்பாட்டு அடுக்கை நீக்கியது, அதன் இடத்தில் ஒரு மிதப்படுத்தல் அடுக்கைச் செருகுவதைக் குறிக்கவில்லை. எதுவும் ஸ்ட்ரீமை ஆய்வு செய்யவில்லை, மீண்டும் எழுதவில்லை, தடுக்கவில்லை. மாதிரி உற்பத்தி செய்வதே வந்து சேர்கிறது. எங்களுக்குத் தெரிந்தவரை, இந்த அளவு சூழல் சாளரத்துடன் கிடைக்கும் மிக வேகமான தணிக்கையற்ற AI மாதிரி Shannon 3.1 தான் — இந்த இரண்டு பண்புகளும் தொடர்புடையவை, ஏனெனில் இரண்டும் வேறொருவரிடமிருந்து இணக்க-வடிவக் கொள்ளளவை வாடகைக்கு எடுப்பதற்குப் பதிலாக எங்கள் சொந்த உள்கட்டமைப்பை இயக்குவதிலிருந்து வருகின்றன.
தணிக்கையற்றது என்பது பொறுப்பற்றது என்பதல்ல. பயன்பாடு எங்கள் பொறுப்பான பயன்பாட்டுக் கொள்கையால் நிர்வகிக்கப்படுகிறது, மேலும் கடினமான பொருளுடன் ஈடுபடும் ஒரு மாதிரியுடன் வரும் கடமை என்னவென்றால், நீங்கள் அதனுடன் பொறுப்புடன் ஈடுபட வேண்டும்.
10ஒப்பீட்டை நீங்களே இயக்குங்கள்
இங்குள்ள ஒவ்வொரு உரிமைகோரலையும் சுமார் இரண்டு நிமிடங்களில் சரிபார்க்க முடியும், நீங்கள் எங்களை நம்புவதை விட சரிபார்க்க வேண்டும் என்றே நாங்கள் விரும்புகிறோம்.
- நீங்கள் உண்மையில் செய்யும் வேலையிலிருந்து ஒரு வினவலைத் தேர்ந்தெடுங்கள். நீளமானது சிறந்தது — அது சாளரத்தையும் ஸ்ட்ரீமிங்கையும் சோதிக்கிறது.
- அதை
shannon-3இல் இயக்குங்கள். முதல் டோக்கன் வரும் வரை எவ்வளவு நேரம், பதில் முடிவடையும் வரை எவ்வளவு நேரம் என்று குறித்துக்கொள்ளுங்கள். - அதே வினவலை
shannon-3.1இல் இயக்குங்கள். அதே இரண்டு எண்களைக் குறித்துக்கொள்ளுங்கள். - பிறகு கடிகாரத்தைப் புறக்கணித்து இரண்டு பதில்களையும் படித்து, எதை நீங்கள் விரும்பியிருப்பீர்கள் என்று முடிவு செய்யுங்கள்.
வேக வேறுபாடு உடனடியாகவும் வெளிப்படையாகவும் இருக்கும். உட்கார்ந்து யோசிக்கத் தகுந்தது தர வேறுபாடுதான் — அது நீண்ட உள்ளீடுகளில் மிகத் தெளிவாகத் தெரிகிறது, அங்கே 3.0 நீங்கள் நினைத்ததை விடக் குறைவான உங்கள் பொருளுடன் அமைதியாக வேலை செய்துகொண்டிருந்தது.
11அடிக்கடி கேட்கப்படும் கேள்விகள்
Shannon 3.1 என்றால் என்ன?
Shannon 3.1 என்பது Shannon 3 குடும்பத்தின் தற்போதைய வெளியீடு. அதே மறுசுழற்சி தர்க்க வளையத்தை — சிந்தி, வரைவு எழுது, சுய-மதிப்பாய்வு செய், மேம்படுத்து — அது தக்க வைத்துக்கொள்கிறது, ஆனால் மூன்றாம் தரப்பு இன்ஃபரன்ஸ் ஹோஸ்ட்டுக்குப் பதிலாக எங்கள் சொந்த GPU கிளஸ்டரில் நேரடியாக இயங்குகிறது. Shannon Lab இன் சொந்த மதிப்பீடு, Shannon 3.0 உடன் ஒப்பிடும்போது நுண்ணறிவில் 32% முன்னேற்றத்தையும் 10-15x வேகமான பதில்களையும் அளவிடுகிறது, சூழல் சாளரம் 32,768 இலிருந்து 196,608 டோக்கன்களாக உயர்த்தப்பட்டுள்ளது.
Shannon 3.0 ஐ விட Shannon 3.1 எவ்வளவு வேகமானது?
Shannon Lab இன் சொந்த மதிப்பீட்டின்படி, முனை-முதல்-முனை பதில்களில் 10x முதல் 15x வரை வேகமானது. இதற்கு இரண்டு காரணங்கள் உள்ளன. Shannon 3.0 இன் வெளியீடு, ஸ்ட்ரீமை வேண்டுமென்றே வேக-வரம்பிட்ட ஒரு வேகக் கட்டுப்பாட்டு அடுக்கின் வழியாகச் சென்றது; Shannon 3.1 இல் வேகத் தடையோ வெளிப்படுத்தல் தாமதமோ இல்லை, எனவே இயந்திரம் உற்பத்தி செய்யும் அதே வேகத்தில் டோக்கன்கள் உங்களை வந்தடைகின்றன. இயந்திரமும் வேகமானது: எங்கள் சொந்த GPU கிளஸ்டரில் 4-பிட் NVFP4 எடைகளுடன் ஊகக் குறிவிலக்கம்.
Shannon 3.1 இன் சூழல் சாளரம் எவ்வளவு பெரியது?
196,608 டோக்கன்கள் — Shannon 3.0 இல் கிடைத்த 32,768 டோக்கன்களை விட 6x அதிகம். அது தோராயமாக 400-500 பக்க உரை, அல்லது ஒரு நடுத்தர அளவு நிரல் தளம், துண்டாக்கலோ மீட்டெடுப்போ இல்லாமல் ஒரே உரையாடலில் வைத்திருக்கப்படுகிறது.
ஊகக் குறிவிலக்கம் என்றால் என்ன, இங்கே அது ஏன் முக்கியம்?
ஒரு சிறிய, வேகமான வரைவு மாதிரி அடுத்து வரக்கூடிய டோக்கன்களின் ஒரு வரிசையை முன்மொழிகிறது, முதன்மை மாதிரி அவற்றை ஒரே தொகுப்புச் செலுத்தலில் சரிபார்க்கிறது. ஏற்கப்பட்ட டோக்கன்கள் உடனடியாக வெளியிடப்படுகின்றன; நிராகரிக்கப்பட்டவை சாதாரண குறிவிலக்கத்திற்குத் திரும்புகின்றன. வெளியீடு, முதன்மை மாதிரி தானாகவே உருவாக்கியிருக்கும் அதே தான், ஆனால் ஒவ்வொரு சரிபார்ப்புப் படியிலும் ஒன்றுக்குப் பதிலாக பல டோக்கன்கள் வந்து சேரலாம். முழு வேகத்தில் ஸ்ட்ரீமிங் செய்வதை ஒரு செலவுப் பிரச்சினையாக இல்லாமல் மலிவானதாக ஆக்குவது இதுவே.
Shannon 3.1 தணிக்கையற்றதா?
ஆம். Shannon வரிசையின் மற்ற மாதிரிகளைப் போலவே, Shannon 3.1 இல் மறுப்பு அடுக்கு இல்லை, அதன் வெளியீட்டில் உள்ளடக்க வடிகட்டலும் இல்லை. வேகக் கட்டுப்பாட்டு அடுக்கை நீக்கியது, அதன் இடத்தில் ஒரு மிதப்படுத்தல் அடுக்கைச் சேர்க்கவில்லை — நீங்கள் பெறும் ஸ்ட்ரீம் மாதிரியின் வெளியீடே.
மாதிரி ஐடிகள் என்ன, Shannon 3.1 ஐ நான் எங்கே பயன்படுத்தலாம்?
shannon-3.1 என்பது Lite அடுக்கு, shannon-3.1-pro என்பது Pro அடுக்கு. இரண்டும் அரட்டையிலும் மூன்று API வடிவங்களிலும் கிடைக்கின்றன: /v1/chat/completions (OpenAI வடிவம்), /v1/messages (Anthropic வடிவம்), மற்றும் /v1/responses. மூன்றிலும் ஸ்ட்ரீமிங் வேலை செய்கிறது.
shannon-3.1 க்கும் shannon-3.1-pro க்கும் என்ன வித்தியாசம்?
Lite தர்க்க வளையத்தை ஒரே ஒரு முறை இயக்குகிறது: அது சிந்திக்கிறது, பிறகு பதிலளிக்கிறது. Pro முழு வளையத்தையும் இயக்குகிறது — சிந்தி, வரைவு எழுது, சுய-மதிப்பாய்வு செய், மேம்படுத்து — வரைவுக்கு முன் ஒரு அறிவு அறுவடைப் படியுடன். பெரும்பாலான வேலைகளுக்கு Lite தான் சரியான இயல்புநிலை; முதல் பதில் பொதுவாகச் சிறந்ததாக இருக்காத கேள்விகளுக்கு Pro.
Shannon 3.1 ஐ முயற்சியுங்கள்
அதே தர்க்க வளையம். ஆறு மடங்கு சாளரம். வேகத் தடை இல்லை.
அரட்டையைத் தொடங்குங்கள் API ஆவணங்களைப் படியுங்கள்shannon-3.1 · shannon-3.1-pro · மூன்று வடிவங்களிலும் ஸ்ட்ரீமிங்
இந்தக் கட்டுரையில் உள்ள செயல்திறன் மற்றும் நுண்ணறிவுப் புள்ளிவிவரங்கள் Shannon Lab இன் சொந்த உள்ளக மதிப்பீட்டு அளவீடுகள், செப்டம்பர் 2026, மேலும் அவை மூன்றாம் தரப்பு அளவுகோல் முடிவுகளாக அல்லாமல் தயாரிப்புப் புள்ளிவிவரங்களாகக் கூறப்படுகின்றன. சூழல் சாளரம், மாதிரி ஐடிகள், மற்றும் API கிடைக்கும் தன்மை ஆகியவை தயாரிப்பு விவரக்குறிப்புகள். Shannon AI ஆனது Shannon Lab LLC, New Mexico, USA ஆல் இயக்கப்படுகிறது. தொடர்புடைய வாசிப்பு: Shannon 3 · Shannon ஆராய்ச்சிக் குறியீடு · API ஆவணங்கள்.