தணிக்கையற்ற Inkling மாதிரி API

எங்கள் நுழைவாயிலில் உள்ள பன்னிரண்டு மாதிரிகளில் பெரும்பாலானவை உரை மட்டுமே. நான்கு அப்படி அல்ல, அந்த நான்கிற்குள் Inkling ஒரு குறிப்பிட்ட இடத்தைப் பிடிக்கிறது: படமே பிரச்சினையின் கடினமான பகுதியாக இருக்கும், ஆனால் பட்ஜெட் ஒரு முதன்மை மாதிரி வரை நீளாத போது நீங்கள் எட்டிப்பிடிக்கும் பார்வை மாதிரி. அடித்தளம் எங்கிருந்து வருகிறது, W4A16-AUTOROUND-REAP பின்னொட்டு அதற்கு என்ன செய்தது, API மேற்பரப்பில் அது எதைச் செய்யும் எதைச் செய்யாது, மேலும் — நேர்மையாக — அதே பட்டியலில் உள்ள ஒரு மலிவான மாதிரி எப்போது சிறந்த தேர்வு என்பதை இந்த வழிகாட்டி உள்ளடக்குகிறது.

01Inkling என்றால் என்ன, யார் கட்டியது?

Inkling என்பது Thinking Machines Lab இன் முதல் திறந்த-எடை மாதிரி, ஜூலை 15, 2026 அன்று வெளியிடப்பட்டது. “திறந்தது” என நிலைநிறுத்தப்படும் பெரும்பாலான வெளியீடுகளைப் போலல்லாமல், இது Hugging Face இல் முழுமையாகப் பதிவிறக்கக்கூடிய எடைகளுடனும், transformers, SGLang, vLLM, llama.cpp ஆகியவற்றில் முதல் நாள் ஆதரவுடனும் வெளியானது — அதனால்தான் இது எங்களுடையது போன்ற உள்கட்டமைப்பில் இயக்கக்கூடியதாகவே ஆனது. Thinking Machines இன் சொந்த வெளியீட்டுப் பொருள்களிலிருந்து தலைப்பு எண்கள்:

அது ஒரு சிதறிய Mixture-of-Experts அமைப்பு: 6,144 மறைநிலை அளவில் 66 டிகோடர் அடுக்குகள், முதல் இரண்டு அடர்த்தியானவை, எஞ்சிய 64 இல் 256 திசைதிருப்பப்பட்ட நிபுணர்களும் 2 பகிரப்பட்ட நிபுணர்களும், ஒரு டோக்கனுக்கு 6 திசைதிருப்பப்பட்ட நிபுணர்கள் செயல்பாட்டில். கொடுக்கப்பட்ட எந்த ஒரு டோக்கனிலும் அளபுருக்களில் தோராயமாக 4% மட்டுமே இயங்குகிறது — கிட்டத்தட்ட ஒரு டிரில்லியன் அளபுரு மாதிரியை வழங்கவே கூடியதாக்குவது அதுவே.

இரண்டு கட்டமைப்புத் தேர்வுகள் பெயரிடத்தக்க அளவு அசாதாரணமானவை. கவனம் இடையிடையே பின்னப்பட்டது — 512 டோக்கன் சாளரத்தில் 55 அடுக்கு சறுக்கு-சாளரக் கவனம், 11 உலகளாவிய அடுக்குகளுக்கு எதிராக, ஒரு 5:1 மீளும் முறையில். மேலும் Inkling RoPE ஐப் பயன்படுத்துவதில்லை: அது ஒரு கற்றுக்கொள்ளப்பட்ட, உள்ளீட்டைச் சார்ந்த சார்பு-நிலைச் சார்பைப் பயன்படுத்துகிறது, அத்துடன் விசை/மதிப்பு திட்டமிடல்களிலும் எஞ்சிய கிளைகளிலும் குறுகிய காரண சுருள்களையும். Sebastian Raschka இன் கட்டமைப்புக் குறிப்புகள் இரண்டையும் நிலையான 2026 செய்முறையிலிருந்து உண்மையான விலகல்களாகக் குறிக்கின்றன. பயிற்சி பெரிய அணி அளபுருக்களுக்கு Muon ஐயும் மற்றவற்றுக்கு Adam ஐயும் பயன்படுத்தியது, பின்னர் பயிற்சிக்குப் பிந்தைய கட்டத்தில் 30 மில்லியனுக்கும் மேற்பட்ட ஒத்திசைவற்ற RL உருட்டல்கள்.

ஒரு API நுகர்வோருக்கு முக்கியம் இந்தத் தகவல் துணுக்குகள் அல்ல. இது ஒரு எல்லை-அளவு, இயல்பாகவே பலவகை ஊடக அடித்தளம், உரை, படங்கள், ஒலி, காணொளி ஆகியவற்றைப் பரவிய 45 டிரில்லியன் டோக்கன்களில் பயிற்றுவிக்கப்பட்டது என்பதே — பின்னால் ஒரு பார்வை இணைப்பு ஒட்டப்பட்ட ஒரு உரை மாதிரி அல்ல. படங்கள் நான்கு அடுக்கு படிநிலை MLP திட்டாக்கி வழியாக 40×40 பிக்சல் திட்டுகளாகக் குறியாக்கப்பட்டு, அதே டிகோடரில் உரையுடன் இணைந்து செயலாக்கப்படுகின்றன. காட்சிப் புரிதல் முன்பயிற்சி நோக்கத்திலேயே இருந்தது.

02W4A16-AUTOROUND-REAP என்றால் என்ன?

அந்தப் பின்னொட்டில் மூன்று தனித்தனி நுட்பங்கள் அடுக்கப்பட்டுள்ளன, அவை வெவ்வேறு வேலைகளைச் செய்கின்றன. புரிந்துகொள்வது மதிப்புடையது, ஏனெனில் எங்கள் API இல் நீங்கள் அழைக்கும் மாதிரிக்கும் Thinking Machines வெளியிட்ட சோதனைப்புள்ளிக்கும் இடையிலான மிகப் பெரிய ஒற்றை வித்தியாசம் அந்தப் பின்னொட்டே.

REAP — யாரும் திசைதிருப்பாத நிபுணர்களைக் கத்தரித்தல்

REAP என்பது Router-weighted Expert Activation Pruning, Cerebras Research இலிருந்து (arXiv 2510.13999, ICLR 2026 இல் ஏற்கப்பட்டது). ஒரு அடுக்குக்கு 256 நிபுணர்கள் கொண்ட ஒரு MoE இல் ரவுட்டர் வேலையைச் சமமாகப் பகிர்வதில்லை: சிலர் தொடர்ந்து தாக்கப்படுகிறார்கள், மற்றவர்கள் அரிதாகவே இயங்குகிறார்கள், இயங்கும்போதும் குறைவாகவே பங்களிக்கிறார்கள். REAP ஒவ்வொரு நிபுணருக்கும் ரவுட்டரின் கேட் மதிப்புகளிலும் அந்த நிபுணரின் செயல்பாட்டு நெறிகளிலும் இரண்டிலும் மதிப்பெண் அளிக்கிறது — அடிக்கடி தேர்ந்தெடுக்கப்பட்டாலும் சிறிய அளவு புதுப்பிப்புகளையே பங்களிக்கும் ஒரு நிபுணர், தன் தேர்வு எண்ணிக்கை குறிப்பதை விட குறைவாகவே முக்கியம் — மேலும் குறைந்த முக்கியத்துவம் உள்ளவர்களை ஒரே தாக்குதலில், குவாண்டைசேஷனுக்கு முன் நீக்குகிறது.

மிகவும் நாகரிகமான நிபுணர் இணைப்புக்குப் பதிலாக கத்தரிப்பை நாங்கள் பயன்படுத்துவதற்குக் காரணம், அந்த இரண்டும் பணி வகையால் விலகிச் செல்கின்றன என்பதே. இணைப்பு பாகுபடுத்தும் அளவீடுகளில் போட்டியிடுவது போலத் தோன்றி, உருவாக்கும் அளவீடுகளில் சிதறிவிடுகிறது. 20B முதல் 1T அளபுருக்கள் வரையிலான மாதிரிகள் முழுவதும், 50% ஐத் தாண்டிய சுருக்க விகிதங்களில் — நிரல் தொகுப்பு, கருவி அழைப்பு, பல-முறை சிந்தனை என, மக்கள் ஒரு API ஐ வாங்கும் வேலைச்சுமைகளில் சரியாக — கத்தரிப்பு தரத்தைச் சிறப்பாகப் பாதுகாக்கிறது என்று REAP இன் ஆசிரியர்கள் அறிவிக்கின்றனர். இணைப்பு ரவுட்டரின் சிறப்புத்தன்மையை அழிக்கிறது; கத்தரிப்பு தப்பிப்பிழைத்த நிபுணர்களையும் அவர்களுக்கு இடையிலான திசைதிருப்பலையும் அப்படியே விட்டுவைக்கிறது.

AutoRound — எங்கே வட்டமிடுவது என்பதைக் கற்றல்

AutoRound என்பது Intel இன் பயிற்சிக்குப் பிந்தைய குவாண்டைசேஷன் முறை (arXiv 2309.05516, SignRound ஆக வெளியிடப்பட்டது). அப்பாவியான குவாண்டைசேஷன் ஒவ்வொரு எடையையும் அருகிலுள்ள குறிக்கக்கூடிய 4-பிட் மதிப்புக்கு வட்டமிடுகிறது — ஒரு நியாயமான இயல்புநிலை, ஆனால் அளவில் ஒரு மோசமான ஒன்று, ஏனெனில் வட்டமிடல் பிழைகள் சுயேச்சையானவை அல்ல, ஒரு 66 அடுக்கு அடுக்கின் வழியே குவிகின்றன. AutoRound வட்டமிடல் முடிவையே உகந்ததாக்க வேண்டிய ஒன்றாக நடத்துகிறது: குறியிடப்பட்ட சாய்வு இறக்கம் இருநூறு படிகள் அளவில் வட்டமிடல் திசையையும் எடை வெட்டு வரம்புகளையும் ஒன்றாகச் சரிசெய்கிறது, மறுபயிற்சி இல்லாமல் குவாண்டைசேஷன் விழிப்புள்ள பயிற்சியின் துல்லியத்தைக் கடன் வாங்குகிறது. மிகக் குறைந்த பிட் அமைப்புகளில் மிகப் பெரிய ஆதாயங்களையும், INT4 இல் ஒரு போட்டித்திறன் விளிம்பையும் Intel அறிவிக்கிறது.

W4A16 — பிட்டுகள் எங்கே செல்கின்றன

W4A16 என்பது எண் வடிவம்: 4-பிட் எடைகள், 16-பிட் செயல்படுத்தல்கள். ஒரு 975B மாதிரியில் நினைவகத்தை ஆளும் எடைகள், ஒரு BF16 தடத்தின் தோராயமாக கால் பங்காகச் சுருங்குகின்றன, அதே நேரம் கணிதம் 16 பிட்டுகளிலேயே இருக்கிறது. அந்தப் பிரிவு ஒரு பார்வை மாதிரிக்குக் குறிப்பாக முக்கியம்: செயல்படுத்தல்-குவாண்டைஸ் செய்யப்பட்ட திட்டங்கள், பட புரிதல் சார்ந்திருக்கும் நுண்ணிய எண் வேலையையே பாதிக்கின்றன — ஒரு சிறிய அச்சு அடையாளத்தைப் படித்தல், ஒரு வரைபடத்தில் ஒரு மெல்லிய கோட்டைத் தீர்த்தல், ஒத்த இரு நிழல்களைப் பிரித்தல். செயல்படுத்தல்களை 16 பிட்டுகளில் வைத்திருப்பது அலைவரிசையைச் செலவழித்து, ஒரு பார்வை வேலைச்சுமை கவனிக்கும் இடத்தில் துல்லியத்தை மீட்டுத் தருகிறது.

அடுக்கப்பட்டு, அந்த மூன்றும் சேர்ந்து, மிகப் பெரிய அடித்தளங்களில் நாங்கள் பயன்படுத்தும் ஆக்ரோஷமான 3BIT-REAP அடுக்கின் தரப் பள்ளம் இல்லாமல், பொருந்தி வேகமாக இருக்கும் ஒரு மாதிரியைத் தருகின்றன. விலை பிரதிபலிக்கும் பரிமாற்றம் அதுவே.

03பார்வை: ஒரு மறுப்பில்லாத பட பகுப்பாய்வு API

Kimi-K3, Kimi-K2.6, MiniMax-M3 ஆகியவற்றுடன் சேர்த்து, எங்கள் பட்டியலில் உள்ள பார்வைத் திறன் கொண்ட நான்கு மாதிரிகளில் Inkling ஒன்று. Thinking Machines இன் வெளியீட்டிலிருந்து, அடிப்படை மாதிரியின் வெளியிடப்பட்ட பார்வை முடிவுகள் MMMU Pro (Standard 10) இல் 73.3% ம் CharXiv சிந்தனைக் கேள்விகளில் 78.1% ம் — மாதிரி விளக்கப்படத்துக்கு எதிராக Python ஐ இயக்க அனுமதிக்கப்படும்போது 82.0% ஆக உயர்கிறது. அவை குவாண்டைஸ் செய்யப்படாத சோதனைப்புள்ளிக்கான அந்த ஆய்வகத்தின் சொந்த எண்கள்; அவற்றை எங்கள் கட்டமைப்பின் அளவீடாக அல்ல, குடும்பத்தின் உச்சவரம்பாகவே கருதுங்கள்.

CharXiv தான் நின்று யோசிக்கத் தகுந்தது, ஏனெனில் ஒரு OCR சேவைக்குப் பதிலாக மக்கள் ஏன் ஒரு பார்வை API ஐ வாங்குகிறார்கள் என்பதற்கு அது பொருந்துகிறது. அது அறிவியல் விளக்கப்படங்கள் மீதான சிந்தனையைச் சோதிக்கிறது — ஒரு அச்சிலிருந்து ஒரு மதிப்பைப் படித்தல், இரு தொடர்களை ஒப்பிடுதல், ஒரு போக்கு தலைகீழாவதைக் கவனித்தல். “இந்தப் படத்தில் என்ன உரை உள்ளது” அல்ல, “இந்த வரைபடம் என்ன கூறுகிறது, அந்தக் கூற்று நிற்குமா” என்பதே. ஒரு சிறிய தலைப்பிடுநருக்குப் பதிலாக ஒரு 975B சிந்தனை மாதிரிக்கு ஒரு படத்தை அனுப்புவதை நியாயப்படுத்துவது அதுவே.

ஒரு படத்தை அனுப்புவது சாதாரண OpenAI இணக்க வேலை — /v1/chat/completions இல் ஒரு image_url உள்ளடக்கப் பகுதி, /v1/messages இல் ஒரு Anthropic பாணி image தொகுதி, அல்லது /v1/responses இல் அதற்கு இணையானது. மூன்று வகைகளும் அதே எடைகளையே தாக்குகின்றன, மூன்றுமே ஸ்ட்ரீம் செய்கின்றன; உங்கள் ஏற்கெனவே உள்ள SDK எதைப் பேசுகிறதோ அதைத் தேர்ந்தெடுங்கள். ஒரு செய்து காட்டப்பட்ட எடுத்துக்காட்டு பிரிவு 09 இல் உள்ளது.

தணிக்கையற்ற பகுதி உரையை விட பார்வைக்கே அதிகம் முக்கியம். ஒரு பார்வை இறுதிப்புள்ளியில் ஒரு மறுப்புப் படை அசாதாரணமாக மழுங்கியது, ஏனெனில் மாதிரி கோரிக்கையைப் பற்றிச் சிந்திப்பதற்கு முன்பே அது பொதுவாக படத்தை வகைப்படுத்துகிறது. முறையான வேலை தொடர்ந்து சிக்கிக்கொள்கிறது: ஒரு மருத்துவக் குறிப்புக் குழாயில் ஒரு காயப் புகைப்படம், ஒரு சம்பவ விவரணையில் ஒரு தடய திரைப்பிடிப்பு, ஒரு விமர்சனக் கட்டுரைக்காகப் பகுப்பாய்வு செய்யப்படும் ஒரு திரைப்படச் சட்டகம், ஒரு மருத்துவ ஸ்கேன், ஒரு பெயரைக் கொண்டிருக்கும் ஒரு ஆவணத்தின் படம். எங்கள் நுழைவாயிலில் உள்ள Inkling க்கு முன்னால் அத்தகைய வகைப்படுத்தி எதுவும் இல்லை. நீங்கள் அனுப்பியதைப் பார்த்து, நீங்கள் கேட்ட கேள்விக்குப் பதிலளிக்கிறது. அதுவே தயாரிப்பு.

04கட்டமைக்கப்பட்ட வெளியீடு: response_format ஆம், json_schema இல்லை

பட்டியலின் பெரும்பாலான மாதிரிகளை விட Inkling குறைவான திறன் கொண்டதாக இருக்கும் ஒரே இடம் இதுவே, மேலும் இதை உற்பத்தியில் கண்டறிவதை விட முன்கூட்டியே திட்டமிடுவதே சிறந்தது.

திறன்	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
பார்வை (பட உள்ளீடு)	ஆம்	ஆம்	ஆம்	இல்லை
response_format	ஆம்	ஆம்	ஆம்	இல்லை
json_schema	இல்லை	ஆம்	ஆம்	இல்லை
கருவி அழைப்பு	ஆம்	ஆம்	ஆம்	ஆம்
சிந்தனை முயற்சி	ஆம்	ஆம்	ஆம்	ஆம்

response_format: {"type": "json_object"} வேலை செய்கிறது — தொடரியல் ரீதியாகச் செல்லுபடியாகும் JSON ஐப் பெறுகிறீர்கள். நீங்கள் பெறாதது என்னவென்றால், நீங்கள் வழங்கும் ஒரு schema க்கு எதிராக இலக்கணக் கட்டுப்பாட்டுடன் கூடிய டிகோடிங், அங்கே உங்கள் கட்டமைப்பை மீறும் ஒரு டோக்கனை வெளியிடுவதிலிருந்து மாதிரிச் சாம்பிளர் இயற்பியல் ரீதியாகவே தடுக்கப்படுகிறது. புலப் பெயர்கள், enum உறுப்புத்தன்மை, தேவையான விசைகளின் இருப்பு ஆகியவை ஒரு உத்தரவாதம் அல்ல, மாதிரியின் தேர்வே.

அதனுடன் வாழ மூன்று வழிகள், நம்பகத்தன்மையின் ஏறுவரிசையில்:

1. schema ஐத் தூண்டுதலில் வைத்துச் சரிபாருங்கள். schema ஐ அமைப்புத் தூண்டுதலில் நேரடி JSON ஆக வையுங்கள், response_format ஐ json_object ஆக அமையுங்கள், பதிலை உங்கள் பக்கத்தில் சரிபாருங்கள். சரிபார்ப்பான் தோல்வியில், சரிபார்ப்பானின் பிழைச் செய்தியை இணைத்து மீண்டும் முயற்சியுங்கள். மலிவானது, வேலை செய்கிறது, ஒரு மறுமுயற்சி வரவுசெலவு தேவை.
2. ஒரு கருவி வரையறையையே schema ஆகப் பயன்படுத்துங்கள். கருவி அழைப்பு ஆதரிக்கப்படுகிறதே, மேலும் ஒரு செயலியின் அளபுரு வரையறை ஒரு JSON Schema தான். நீங்கள் விரும்பும் பிரித்தெடுத்தலுக்குப் பெயரிடப்பட்ட ஒரே ஒரு கருவியை அறிவித்து, அதைக் கட்டாயமாக்கி, வாதங்களைப் படியுங்கள். Inkling இல் இதுவே பொதுவாக வலிமையான தேர்வு, மேலும் இதற்குக் கூடுதலாக ஒன்றும் செலவாகாது.
3. வேலையை இரண்டு மாதிரிகளுக்கு இடையே பிரியுங்கள். பார்வையையும் சிந்தனையையும் Inkling உரைநடையில் செய்யட்டும், பின்னர் அந்த உரைநடையை $0.50 / $2.00 இல் உள்ள MiMo-V2.5-W8A16 க்கு ஒரு உண்மையான json_schema உடன் கட்டமைப்பு நகர்வுக்காகக் கொடுங்கள். இரண்டு அழைப்புகள், ஆனால் இரண்டாவது மலிவானது, வடிவத்தில் உறுதியானது, மேலும் புத்திசாலியாக இருக்க வேண்டிய மாதிரியே படத்தைப் பார்த்தது.

அதிக அளவு பிரித்தெடுப்புக் குழாய் எதற்கும் நாங்கள் பரிந்துரைக்கும் முறை தேர்வு 3. அதற்குத் தேவைப்படும் படிக்கு மட்டுமே கூடுதல் விலையைச் செலுத்துங்கள்.

05கூடுதல் விலை என்ன வாங்கித் தருகிறது?

ஒரு மில்லியன் டோக்கனுக்கு உள்ளே $1.42 / வெளியே $6.07 என்ற நிலையில், Inkling வேண்டுமென்றே எங்கள் பட்டியலின் நடுவில் அமர்கிறது. பன்னிரண்டு மாதிரிகளில் ஆறு $0.50 / $2.00 தரையில் உள்ளன. முதன்மை மாதிரியான, பார்வைத் திறன் கொண்ட Kimi-K3 இன் விலை $3.83 / $19.12. Inkling வெளியீட்டில் தரையை விட தோராயமாக மூன்று மடங்கு, முதன்மை மாதிரியில் தோராயமாக மூன்றில் ஒரு பங்கு.

வெளியீட்டு விலை, 1M டோக்கனுக்கு USD, Shannon AI நுழைவாயில் பட்டியல் விகிதங்கள், செப்டம்பர் 2026. பட்டியின் அகலம் விலைக்கு விகிதாசாரமானது; நீளமானது அதிக விலையுயர்ந்தது.

அந்தக் கூடுதல் விலை எங்கே தன் இடத்தைச் சம்பாதிக்கிறது — எங்கே இல்லை — என்பதற்கான நேர்மையான வாசிப்பு இதோ.

வேலைச்சுமை	Inkling ஐப் பயன்படுத்துவதா?	ஏன்
விளக்கப்படம் / வரைபடச் சிந்தனை	ஆம்	வெளியிடப்பட்ட CharXiv, MMMU Pro எண்களே இந்த அடித்தளம் மிக வலிமையாக இருக்கும் இடம்.
திரைப்பிடிப்பு சார்ந்த முகவர்கள்	ஆம்	ஒரே மாதிரியில் பார்வை, கருவி அழைப்பு, 262K வரலாறு — கையளிப்பு இல்லை.
வரைபடங்கள் கொண்ட நீண்ட ஆவணங்கள்	ஆம்	உரையும் படங்களும் ஒரே டிகோடரையும் ஒரே சூழல் சாளரத்தையும் பகிர்ந்துகொள்கின்றன.
சாதாரண உரை உருவாக்கம்	இல்லை	$0.50 / $2.00 இல் ஆறு மாதிரிகள் இதைச் செய்கின்றன. நீங்கள் ஒருபோதும் அழைக்காத ஒரு பார்வைப் பாதைக்குப் பணம் செலுத்துகிறீர்கள்.
மொத்த schema பிரித்தெடுத்தல்	இல்லை	json_schema இல்லை. MiMo-V2.5 மலிவானது, கட்டுப்படுத்தப்பட்டதும் கூட.
முழுமையான எல்லை உச்சவரம்பு	இல்லை	Kimi-K3 தான் முதன்மை மாதிரி. உச்சவரம்பே கட்டுப்பாடு என்றால் அந்த 3.1× ஐச் செலுத்துங்கள்.
சாத்தியமான மலிவான பார்வை	இல்லை	MiniMax-M3 இல் $0.50 / $2.00 இல் பார்வை உண்டு. அங்கே தொடங்கி, தரம் கட்டாயப்படுத்தினால் உயருங்கள்.

அதை ஒரு தரவரிசையாக அல்ல, ஒரு திசைதிருப்பல் விதியாகப் படியுங்கள். ஒரு விளம்பரப் பக்கம் கூறுவதை விட, Inkling ஒரு குறுகிய வேலைப் பட்டைக்கே சரியானது, அந்தப் பட்டைக்குள் விலையில் அதை வெல்வது கடினம். அதற்கு வெளியே, மலிவான மாதிரியை உங்களுக்கு விற்று உங்களைத் தக்கவைத்துக்கொள்ளவே நாங்கள் விரும்புவோம்.

06262K சூழல் சாளரம், உண்மையில் என்ன பொருந்துகிறது

நுழைவாயிலில் உள்ள பன்னிரண்டு மாதிரிகளும் ஒரு 262,144 டோக்கன் உள்ளீட்டுச் சூழலுடனும், ஒரு கோரிக்கைக்கு ஒரு 16,384 டோக்கன் அதிகபட்ச வெளியீட்டுடனும் வழங்கப்படுகின்றன. வேண்டுமென்றே ஒரே சீராக: சூழல் கையாளுதல் உங்கள் நிரலில் ஒரு மாதிரிக்கான கிளையாக ஒருபோதும் ஆகக் கூடாது, மேலும் ஒரு கட்டமைப்புக் கோப்பில் inkling ஐ MiniMax-M3 ஆக மாற்றுவது எது பொருந்தும் என்பதை அமைதியாக மாற்றக் கூடாது.

வெளியிடப்பட்ட அடித்தளத்துக்கு எதிரான இடைவெளியைக் கவனியுங்கள்: Thinking Machines, Inkling ஐ 1,048,576 டோக்கன்களில் ஆவணப்படுத்துகிறது, நாங்கள் அதன் ஒரு 262K துண்டையே வழங்குகிறோம். உங்களிடம் உண்மையிலேயே ஒரு மில்லியன் டோக்கன் ஒற்றைக் கோரிக்கை வேலைச்சுமை இருந்தால், அதற்கு நாங்கள் சரியான இறுதிப்புள்ளி அல்ல, நீங்கள் கட்டுவதற்கு முன் அதை அறிவதே சிறந்தது.

262K இல் அளவுக்கு: அதன் வரைபடங்களுடன் ஒரு 400 பக்கத் தொழில்நுட்ப PDF, ஒரு நடுத்தர அளவு நிரல் தளம், பல மணி நேரப் படியெடுப்பு, அல்லது டஜன் கணக்கான கருவி முடிவுகளையும் ஒரு கைப்பிடி திரைப்பிடிப்புகளையும் சுமக்கும் ஒரு நீண்ட முகவர் அமர்வு — ஒவ்வொன்றும் ஒரே கோரிக்கையில் பொருந்தும். ஒரு பார்வை மாதிரியில், படங்களும் சூழலை உட்கொள்கின்றன என்பதை நினைவில் கொள்ளுங்கள்; ஒரு அடர்த்தியான திரைப்பிடிப்பு இலவசம் அல்ல, மேலும் சட்டகங்களை ஸ்ட்ரீம் செய்யும் ஒரு அமர்வு, உரை மட்டுமான ஒன்றை விட வேகமாகச் சாளரத்தை நிரப்புகிறது. கட்டமைப்பு இதற்கு நன்றாகவே பொருந்துகிறது: 5:1 சறுக்கு-சாளரம்-முதல்-உலகளாவியம் என்ற முறை, பெரும்பாலான அடுக்குகள் ஒரு 512 டோக்கன் அண்மைக்குள்ளேயே கவனிக்கின்றன, உலகளாவிய அடுக்குகள் அவ்வப்போது நீண்ட தூரக் கட்டமைப்பை மீண்டும் இழுத்து வருகின்றன என்பதைக் குறிக்கிறது.

07சிந்தனை முயற்சி: தேவைப்படும்போது மட்டுமே சிந்தனைக்குப் பணம் செலுத்துதல்

Inkling கட்டுப்படுத்தக்கூடிய சிந்தனை முயற்சியை வெளிப்படுத்துகிறது — பட்டியலில் உள்ள மிகப் பயனுள்ள சுழற்சிகளில் ஒன்று. மேல்நிலை மாதிரி none ம் minimal ம் தொடங்கி low, medium, high, xhigh வழியாக max வரையிலான நிலைகளை ஏற்கிறது, நிலையான reasoning_effort அளபுரு வழியாக மூன்று வகைகளிலும் வெளிப்படுத்தப்படுகிறது.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

இது பற்களுள்ள ஒரு செலவுச் சுழற்சி, ஏனெனில் சிந்தனை டோக்கன்கள் ஒரு மில்லியனுக்கு $6.07 என்ற விகிதத்தில் வெளியீட்டு டோக்கன்களாகவே கட்டணமிடப்படுகின்றன. Terminal Bench 2.1 இல் Nemotron 3 Ultra உடன் ஒப்பிடத்தக்க மதிப்பெண்களை Inkling தோராயமாக மூன்றில் ஒரு பங்கு டோக்கன்களில் அடைவதாக Thinking Machines அறிவிக்கிறது — டோக்கன் திறன் ஒரு தற்செயல் அல்ல, அந்த முயற்சி அமைப்பின் ஒரு அறிவிக்கப்பட்ட வடிவமைப்பு இலக்கு.

நடைமுறையில்: தலைப்பிடல், வகைப்படுத்தல், நேரடியான பிரித்தெடுத்தல் ஆகியவற்றுக்கு low அல்லது minimal ஐ இயக்குங்கள், அங்கே பதில் படத்திலேயே இருக்கிறது, எந்த ஊகச் சங்கிலியும் தேவையில்லை. விளக்கப்படச் சிந்தனை, பல-படி காட்சி ஒப்பீடு, ஒரு தவறான இடைநிலைப் படி விலையுயர்ந்ததாக இருக்கும் முகவர் முறைகள் ஆகியவற்றுக்கு high ஐயும் அதற்கு மேலும் ஒதுக்குங்கள். பெரும்பாலான குழுக்கள் அந்த அளபுருவை ஒருபோதும் அமைப்பதே இல்லை, பல மடங்கு வெளியீட்டுச் செலவு வித்தியாசத்தை மேசையிலேயே விட்டுவிடுகிறார்கள்.

08இங்கே “தணிக்கையற்றது” என்றால் என்ன — என்ன அல்ல

உறுதியாக: இந்த மாதிரியை மறுப்புப் படை இல்லாமல், வெளியீட்டில் வடிகட்டல் இல்லாமல் நாங்கள் இயக்குகிறோம். மாதிரி பதிலளிக்கலாமா என்று உங்கள் தூண்டுதலைப் படித்து முடிவு செய்யும் வகைப்படுத்தி எதுவும் இல்லை, மேலும் பதில் ஸ்ட்ரீம் ஆகும் முன் அதைப் படிப்பதும் எதுவும் இல்லை. மாதிரிக்கு உறுதியில்லாமலோ அறிவு இல்லாமலோ இருக்கும்போது, அது அப்படியே சொல்கிறது — அது ஒரு கொள்கை அல்ல, மாதிரியே. ஒரு பொது நுகர்வோர் தயாரிப்பு எல்லைக்கு வெளியே என்று கருதும் ஒரு தலைப்பில் ஒரு பிரதிபலிப்பு மறுப்பையே நீங்கள் பெறமாட்டீர்கள்.

பார்வைக்கு இதுவே முழு மதிப்புக் கூற்று. பார்வை API களுக்கு முன்னால் உள்ள பட வகைப்படுத்திகள் துல்லியமற்றவை, மேலும் பொய் நேர்மறை விகிதம் மிகக் கடுமையாக விழுவது, அந்தத் திறனை மிக அதிகம் தேவைப்படும் தொழில்முறை வேலையின் மீதே: பாதுகாப்பு ஆய்வு, மருத்துவச் சூழல்கள், பத்திரிகை மற்றும் தடயவியல், திரைப்படம் மற்றும் கலை விமர்சனம், தான் மட்டுறுத்தும் விஷயத்தையே பார்க்க வேண்டிய மட்டுறுத்தல் கருவிகள். வகையின் அடிப்படையில் மறுக்கும் ஒரு இறுதிப்புள்ளியால் அவற்றில் எதற்கும் நம்பகமாகச் சேவை செய்ய முடியாது.

இரண்டு நேர்மையான எச்சரிக்கைகள். முதலாவதாக, Thinking Machines தங்கள் குறிப்பு நிறுவலுக்குப் பாதுகாப்பு மதிப்பீடுகளை வெளியிடுகிறது — FORTRESS adversarial இல் 78.0%, FORTRESS benign இல் 95.9%, StrongREJECT இல் 98.6%. அந்த எண்கள் அவர்களின் பாதுகாப்புத் தடுப்புகள் இடத்தில் இருக்கும் அவர்களின் அடுக்கையே விவரிக்கின்றன. அவை எங்களுடையதை விவரிக்கவில்லை, அவை விவரிப்பதைப் போல அவற்றை நாங்கள் மேற்கோள் காட்டவும் மாட்டோம். அந்த எண்கள் ஓரளவு அளக்கும் அந்தப் படையையே நாங்கள் நீக்கினோம்; அதுவே தயாரிப்பு, அதுவே பொறுப்பும்.

இரண்டாவதாக, “மறுப்புப் படை இல்லை” என்பது “விதிகள் இல்லை” அல்ல. Shannon Lab LLC ஒரு பொறுப்பான பயன்பாட்டுக் கொள்கையின் கீழும் பொருந்தும் அமெரிக்கச் சட்டத்தின் கீழும் இயங்குகிறது. ஒரு வகைப்படுத்தியை நீக்குவது தீர்ப்பை உங்களுக்கு நகர்த்துகிறது, அதை அழிப்பதில்லை. இதன் மீது நீங்கள் கட்டுகிறீர்கள் என்றால், அளவை உயர்த்துவதற்கு முன் அந்தக் கொள்கையைப் படியுங்கள்.

09தொடங்குதல்

அதே அடிப்படை URL, அதே சாவி, மூன்று வகைகள். உங்கள் நிரல் ஏற்கெனவே OpenAI, Anthropic, அல்லது Responses API ஐ அழைக்கிறது என்றால், மாதிரிச் சரத்தை மாற்றுவதே பொதுவாக முழு இடம்பெயர்வும்.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

முழு அளபுரு விவரம், /v1/messages மற்றும் /v1/responses வடிவங்கள், ஸ்ட்ரீமிங் நிகழ்வு வடிவங்கள், ஒரு நேரடி விளையாட்டுத் திடல் ஆகியவை API ஆவணங்களில் உள்ளன. மற்ற பதினொரு மாதிரிகளுக்கான மாதிரி வழிகாட்டிகள் Shannon Research இல் உள்ளன.

அடித்தள எண்கள், குவாண்டைஸ் செய்யப்படாத Inkling சோதனைப்புள்ளிக்கு Thinking Machines Lab வெளியிட்டவை, மேலும் எங்கள் குவாண்டைஸ் செய்யப்பட்ட கட்டமைப்பை அல்ல, குடும்ப உச்சவரம்பையே விவரிக்கின்றன. விலைகளும் திறன் கொடிகளும் செப்டம்பர் 2026 நிலவரப்படி Shannon AI நுழைவாயில் பட்டியல் மதிப்புகள்.

10அடிக்கடி கேட்கப்படும் கேள்விகள்

---

மூலங்கள்: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling கட்டமைப்பு மற்றும் அளவீட்டுக் குறிப்புகள். அடித்தள அளவீடுகள் குவாண்டைஸ் செய்யப்படாத சோதனைப்புள்ளிக்கு ஆய்வகம் அறிவித்தவை.