தணிக்கையற்ற DeepSeek Flash API

ஒரு LLM API ஐ மதிப்பிடும் பெரும்பாலான குழுக்கள் தவறான மாறியையே உகந்ததாக்குகின்றன. அவர்கள் நினைத்துப் பார்க்கக்கூடிய மிகக் கடினமான இருபது தூண்டுதல்களில் அளவிட்டு, வெற்றியாளரைத் தேர்ந்தெடுத்து, ஆறு வாரங்களுக்குப் பிறகு தங்கள் போக்குவரத்தில் தொண்ணூற்றைந்து சதவீதம் குறுகிய, கட்டமைக்கப்பட்ட, மீண்டும் மீண்டும் வரும் வேலை என்பதையும், கால் பங்கு விலையுள்ள ஒரு மாதிரி அதை ஒரே மாதிரியாகக் கையாண்டிருக்கும் என்பதையும் கண்டறிகிறார்கள். அந்தத் தொண்ணூற்றைந்து சதவீதத்துக்காகவே DeepSeek-V4-Flash இருக்கிறது. நீங்கள் எப்போது அதற்குள் இருக்கிறீர்கள் — எப்போது இல்லை — என்பதை அறிவதைப் பற்றியது இந்தப் பக்கம்.

01நீங்கள் உண்மையில் என்ன பெறுகிறீர்கள்

பண்பு	DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP
மாதிரி அடையாளம்	DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP
சூழல் / அதிகபட்ச வெளியீடு	262,144 டோக்கன்கள் / 16,384 டோக்கன்கள்
1M க்கு விலை (உள்ளீடு / வெளியீடு)	$0.50 / $2.00
ஸ்ட்ரீமிங் · கருவி அழைப்பு · சிந்தனை	ஆம் — மூன்று வகைகளிலும்
கட்டமைக்கப்பட்ட வெளியீடு	json_schema மற்றும் response_format
பட உள்ளீடு (பார்வை)	இல்லை — உரை மட்டும்
மறுப்புப் படை / வெளியீட்டு வடிகட்டி	இல்லை
வழங்கப்படுவது	Shannon இன் சொந்த GPU கிளஸ்டர்

மூன்று API வகைகள் அதே எடைகளை அடைகின்றன: /v1/chat/completions (OpenAI வடிவம்), /v1/messages (Anthropic வடிவம்), /v1/responses. மூன்றிலும் ஸ்ட்ரீமிங் வேலை செய்கிறது. முழு அளபுரு விவரம் API ஆவணங்களில் உள்ளது.

02இது எங்கிருந்து வருகிறது: DeepSeek வம்சாவளி

DeepSeek-AI ஐந்து மாதிரித் தலைமுறைகளை ஒரே வெறியில் செலவிட்டுள்ளது: பயிற்றுவிக்க மட்டும் மலிவாக அல்ல, வழங்க மலிவான ஒரு மாதிரியிலிருந்து எல்லைத் தர நடத்தையைப் பெறுவது எப்படி. இந்த வரிசையில் உள்ள கிட்டத்தட்ட ஒவ்வொரு கட்டமைப்பு முடிவும் அதற்கே திரும்பிச் செல்கிறது, முக்கியமானவை வெளியிடப்பட்டுள்ளன. இந்த இறுதிப்புள்ளியைத் தொடும்போது நீங்கள் எதை அழைக்கிறீர்கள் என்பதை மூன்று விஷயங்கள் விளக்குகின்றன.

DeepSeekMoE — நுண்ணிய நிபுணர்களும் ஒரு பகிரப்பட்டவரும்

ஒரு Mixture-of-Experts அடுக்கு, ஒரு பெரிய ஊட்ட-முன்னோக்கு வலைப்பின்னலை, ஒரு டோக்கனுக்கு ஒரு சிலவற்றைத் தேர்ந்தெடுக்கும் ஒரு ரவுட்டருடன் கூடிய பல சிறியவற்றால் மாற்றுகிறது. DeepSeek இன் வகை, வழக்கமான எட்டு-நிபுணர் அமைப்பை விட நிபுணர்களை நுண்ணியமாக வெட்டுகிறது, எனவே அதே செயல்பாட்டு FLOPs மிக அதிக சேர்க்கை ரீதியாகக் குறிப்பிட்ட ஒரு கலவையை வாங்குகிறது, மேலும் ஒவ்வொரு டோக்கனும் கடந்து செல்லும் ஒரு பகிரப்பட்ட நிபுணரைத் தனிமைப்படுத்துகிறது, அதனால் பொது அறிவு ஒவ்வொரு சிறப்பாளருக்குள்ளும் மீண்டும் மீண்டும் கற்கப்படுவதில்லை. DeepSeek-V3 அதை 256 திசைதிருப்பப்பட்ட நிபுணர்கள் மற்றும் 1 பகிரப்பட்ட நிபுணர், ஒரு டோக்கனுக்கு 8 திசைதிருப்பப்பட்டவை செயல்பாட்டில் என வழங்கியது — மொத்தம் 671B அளபுருக்கள், 37B செயல்பாட்டில் — அத்துடன் துணை-இழப்பு இல்லாத சுமை சமநிலைப்படுத்தலும்: தரத்தைத் தேய்க்கும் ஒரு அபராதச் சொல்லுக்குப் பதிலாக, ஒரு நிபுணருக்கான சார்பு, அந்த நிபுணர் குறைவாகவோ அதிகமாகவோ சுமை ஏற்றியிருக்கும்போது ஒவ்வொரு படியிலும் திசைதிருப்பல் மதிப்பெண்களை மேலேயோ கீழேயோ தள்ளுகிறது.

MLA — நினைவகத்தில் பொருந்தும் கவனம்

வழங்கும் செலவுச் சிக்கலின் மறுபாதி KV தேக்ககம், அது சூழலுடன் நேரியலாக வளர்ந்து, நீண்ட வரிசை நீளங்களில் நினைவகத்தை ஆளுகிறது. DeepSeek-V2 இல் அறிமுகப்படுத்தப்பட்ட Multi-head Latent Attention, விசைகளையும் மதிப்புகளையும் ஒன்றாக ஒரு தாழ்-தரவரிசை மறைநிலை வெக்டராகச் சுருக்கி அதையே தேக்ககப்படுத்துகிறது, பயன்படுத்தக்கூடிய K/V ஐ உடனுக்குடன் மீளுருவாக்குகிறது. அவர்களின் முந்தைய அடர்த்தியான DeepSeek 67B க்கு எதிராக DeepSeek வெளியிட்ட V2 எண்கள், KV தேக்ககத்தில் 93.3% குறைப்பையும் 5.76× அதிக அதிகபட்ச உருவாக்க ஆற்றலையும் அறிவிக்கின்றன. அதனால்தான் இந்தக் குடும்பத்தில் ஒரு 262K டோக்கன் சாளரம் ஒரு கூடுதல் சலுகையாக அல்ல, அடிப்படையாகவே இருக்கிறது.

சிதறிய கவனம் — மேலும் மலிவான டோக்கன்களுக்கான முன்னுதாரணம்

V3.2-Exp DeepSeek Sparse Attention ஐச் சேர்த்தது: ஒரு இலகுவான குறியீட்டாக்கி வினவலுக்கு எதிராகச் சூழல் டோக்கன்களுக்கு மதிப்பெண் அளிக்கிறது, ஒரு தேர்வாளர் அதிக மதிப்பெண் பெற்றவற்றை மட்டுமே வைத்துக்கொள்கிறது. சுவாரஸ்யமான பகுதி அந்த வழிமுறை அல்ல, அதன் ரசீதே. V3.1-Terminus உடன் ஒரு பக்கவாட்டு ஒப்பீட்டை DeepSeek வெளியிட்டது: MMLU-Pro 85.0 இல் ஒரே மாதிரி, AIME 2025 உயர்ந்தது (88.4 → 89.3), SWE-bench Verified சிறிது குறைந்தது (68.4 → 67.8) — அடிப்படையில் தட்டையான தரம் — அதே நாளில் அவர்கள் தங்கள் API விலைகளை 50% க்கும் மேல் குறைத்தார்கள். நேர்மையாக அறிவிக்கப்பட்ட கட்டமைப்பு, நேரடியாக விலையாக மாறியது. Flash என்பது அந்த வாதத்தை மேலும் ஒரு படி எடுத்துச் சென்றது.

V4 தலைமுறை

ஏப்ரல் 2026 இல் ஒரு MIT உரிமத்தின் கீழ் முன்னோட்டமாகக் காட்டப்பட்ட V4, கவன அடுக்கை மீண்டும் Compressed Sparse Attention உம் Heavily Compressed Attention உம் கலந்த ஒரு கலவையால் மாற்றுகிறது, 32T க்கும் மேற்பட்ட டோக்கன்களில் Muon உகப்பாக்கியுடன் பயிற்சி பெறுகிறது, மேலும் V3 இன் பல-டோக்கன்-முன்கணிப்பு நோக்கத்தைத் தக்கவைக்கிறது — அது ஊகிக்கும் டிகோடிங்காகவும் இரட்டிப்பாகச் செயல்படுகிறது, V3 இல் தோராயமாக 1.8× டிகோடிங் விரைவுக்கு 85–90% இரண்டாம் டோக்கன் ஏற்பு விகிதத்தை DeepSeek அளந்தது. V4 சுருக்கம், V4-Pro V3.2 இன் ஒற்றை டோக்கன் அனுமான FLOPs இல் 27% ம், அதன் KV தேக்ககத்தில் 10% ம் ஆக இயங்குவதாக அறிவிக்கிறது. இந்தக் குடும்பம் மூன்று சிந்தனை-முயற்சி நிலைகளை வெளிப்படுத்துகிறது, எங்கள் reasoning_effort அளபுரு அதன் மீதே பொருந்துகிறது.

மூலங்கள்: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 தொழில்நுட்ப அறிக்கை (arXiv 2412.19437) · DeepSeek-V3.2-Exp மாதிரி அட்டை · DeepSeek-V4 (arXiv 2606.19348). அனைத்து எண்களும் DeepSeek அறிவித்தவை.

03“Flash” என்றால் உண்மையில் என்ன

பெரும்பாலான ஒப்பீடுகள் தவறாகப் புரிந்துகொள்ளும் இடம் இதுவே, எனவே இதை நேரடியாகச் சொல்வது மதிப்புடையது: DeepSeek இன் Flash என்பது குவாண்டைஸ் செய்யப்பட்ட, கத்தரிக்கப்பட்ட அல்லது வடிகட்டப்பட்ட ஒரு Pro அல்ல. அது தனியாகப் பயிற்றுவிக்கப்பட்ட, தனது சொந்த முன்பயிற்சி இயக்கத்துடன் கூடிய ஒரு சிறிய Mixture-of-Experts மாதிரி. V4 முன்னோட்ட ஆய்வுக்கட்டுரை இரண்டு அளவுகளையும் தருகிறது:

DeepSeek-V4 முன்னோட்ட ஆய்வுக்கட்டுரையிலிருந்து வரும் எண்கள். நாங்கள் வழங்கும் அதிகாரப்பூர்வ சோதனைப்புள்ளிகள் — V4-Flash-0731 மற்றும் V4-Pro-0813 — தங்கள் மாதிரி அட்டைகளில் சற்றே பெரிய 304B, 1.7T மொத்தங்களைப் பட்டியலிடுகின்றன; அந்தக் கட்டமைப்புகளுக்குச் செயல்பாட்டு அளபுருக்களை DeepSeek மீண்டும் குறிப்பிடவில்லை.

இங்கே இரண்டு எண்கள் வேலை செய்கின்றன. மொத்த அளபுருக்கள் நினைவகத் தடத்தை நிர்ணயிக்கின்றன, அது மாதிரியின் ஒரு நகல் எவ்வளவு வன்பொருளை ஆக்கிரமிக்கிறது என்பதை முடிவு செய்கிறது. செயல்பாட்டு அளபுருக்கள் ஒரு டோக்கனுக்கான கணிதத்தை நிர்ணயிக்கின்றன, அது ஆற்றலை முடிவு செய்கிறது. முதலாவதில் Flash தோராயமாக 5.6× சிறியது, இரண்டாவதில் 3.8× சிறியது — மேலும் அந்த இடைவெளியில் கவனிக்கத்தக்க ஒரு நுட்பம் உள்ளது: Flash 284 பில்லியனில் 13 ஐச் செயல்படுத்துகிறது, சுமார் 4.6%, Pro வோ 1,600 பில்லியனில் 49 ஐச் செயல்படுத்துகிறது, சுமார் 3.1%. Flash தான் குறைவாகச் சிதறிய மாதிரி. அது வெறுமனே குறைவான நிபுணர்கள் இயக்கப்பட்ட Pro அல்ல; அது ஒரு அடர்த்தியான, வேறுவிதமாகச் சமநிலைப்படுத்தப்பட்ட வடிவமைப்பு, தான் உருவாக்கும் ஒவ்வொரு டோக்கனிலும் தன்னில் ஒரு பெரிய பங்கைச் செலவிடுகிறது. அது ஒரு உண்மையான பொறியியல் தேர்வு, ஒரு தரக்குறைப்பு அல்ல.

DeepSeek இன் சொந்த எண்கள் சொல்வது

இரண்டு அதிகாரப்பூர்வ மாதிரி அட்டைகளும் அதே முகவர் மற்றும் மென்பொருள் பொறியியல் அளவீடுகளில் மதிப்பெண்களை வெளியிடுகின்றன, அது இதை அசாதாரணமாகத் தெளிவான ஒரு ஒப்பீடாக ஆக்குகிறது — அதே ஆய்வகம், அதே மதிப்பீட்டுச் சட்டகம், இரண்டு அளவுகள்:

அளவீடு (DeepSeek அறிவித்தது)	V4-Flash-0731	V4-Pro-0813
Terminal Bench 2.1	82.7	87.9
Toolathlon-Verified	70.3	74.1
DeepSWE	54.4	62.7
NL2Repo	54.2	61.5
DSBench-FullStack	68.7	71.1

ஒவ்வொரு வரிசையிலும் Pro வெல்கிறது. அதுவே நேர்மையான தலைப்புச் செய்தி, அதை நீங்கள் உற்பத்தியில் கண்டறிவதை விட இங்கே படிப்பதையே நாங்கள் விரும்புகிறோம். ஆனால் வித்தியாசங்களைப் படியுங்கள், ஏனெனில் நீங்கள் உண்மையில் வாங்குவது அவற்றையே. இருபத்தைந்தில் ஒரு பங்கு அளபுருக்கள் கொண்ட ஒரு மாதிரியில், Terminal Bench 2.1 இல் இடைவெளி 5.2 புள்ளிகள்; கருவிப் பயன்பாட்டில் 3.8 புள்ளிகள். வேலை ஆழமாகும் இடத்தில் இடைவெளி அகலமாகிறது — DeepSWE இல் 8.3 புள்ளிகள், NL2Repo இல் 7.3, இரண்டுமே நீடித்த பல-படி நிரல் சிந்தனைக்கு வெகுமதி அளிக்கின்றன. ஒரே அட்டவணையில் அந்தப் பரிமாற்றத்தின் வடிவம் அதுவே: வரையறுக்கப்பட்ட பணிகளில் Flash பெரும்பாலான தூரத்தை மூடுகிறது, திறந்தமுனைப் பணிகளில் இடம் விட்டுக்கொடுக்கிறது.

DeepSeek இன் சொந்த Flash அட்டை இந்தக் கருத்தை இன்னும் கூர்மையாகச் சொல்கிறது: மிகக் குறைவான செயல்பாட்டு அளபுரு எண்ணிக்கை இருந்தும், பட்டியலிடப்பட்ட அளவீடுகளில் Flash-0731 V4-Pro முன்னோட்டத்தை விஞ்சுகிறது. ஒரு புதிய சிறிய மாதிரி ஒரு பழைய பெரிய மாதிரியை வெல்வது இந்தத் துறையில் இயல்பான நிலை, மேலும் “பெரிய அடுக்கு” ஒருபோதும் உங்கள் இயல்புநிலைப் பதிலாக இருக்கக் கூடாது என்பதற்கான காரணமும் அதுவே.

04பின்னொட்டைப் படித்தல்: W4A16-AUTOROUND-REAP

எங்கள் மாதிரி அடையாளங்கள் தங்கள் சுருக்கத் திட்டத்தை உரக்கச் சொல்கின்றன, ஏனெனில் வெளியீட்டுத் தரத்தை மிக அதிகம் பாதிப்பதும், கிட்டத்தட்ட யாரும் வெளிப்படுத்தாததும் அதுவே. இது மூன்று கூற்றுகளாகப் பிரிகிறது.

W4A16 — 4-பிட் எடைகள், 16-பிட் செயல்படுத்தல்கள்

எடைகள் ஒவ்வொன்றும் 4 பிட்டுகளில் சேமிக்கப்படுகின்றன; செயல்படுத்தல்கள் 16-பிட் துல்லியத்தில் பாய்கின்றன. இது எடை மட்டும் குவாண்டைசேஷன், டோக்கன் உருவாக்கத்தில் உள்ள உண்மையான தடையை — கணிதத்தை அல்ல, நினைவக அலைவரிசையை — இது இலக்காகக் கொள்கிறது. செயல்படுத்தல்களையும் குவாண்டைஸ் செய்வது சிறிது கூடுதல் வேகத்தை வாங்கும், ஆனால் மிகப் பெரிய ஒரு துல்லியப் பள்ளத்தை அபாயப்படுத்தும்; அவற்றை 16 பிட்டுகளில் விடுவதே பழமைவாத, அதிக நம்பகத்தன்மை தேர்வு. அந்தக் குறியீடு வழங்கல் சூழல் அமைப்பின் சுருக்கெழுத்து — குவாண்டைசேஷன் இலக்கியம் அதே விஷயத்தை ஒரு குழு அளவுடன் W4 என்று எழுதுகிறது.

AUTOROUND — அருகில் வட்டமிடல் அல்ல, கற்றுக்கொள்ளப்பட்ட வட்டமிடல்

அப்பாவியான குவாண்டைசேஷன் ஒவ்வொரு எடையையும் அருகில் குறிக்கக்கூடிய மதிப்புக்கு வட்டமிடுகிறது. அது நிரூபிக்கக்கூடிய வகையில் உகந்தது அல்ல: ஒரு எடையை “தவறான” திசையில் வட்டமிடுவது அதன் அண்டைகள் அறிமுகப்படுத்திய பிழையை ரத்து செய்யலாம், மேலும் பில்லியன் கணக்கான எடைகளுடன் அந்த இடைவினைகளே ஆளுகின்றன. Intel இன் AutoRound, வட்டமிடல் முடிவையே கற்றுக்கொள்ள வேண்டிய ஒன்றாக நடத்துகிறது — ±0.5 க்குக் கட்டுப்படுத்தப்பட்ட, ஒரு எடைக்கான பயிற்றுவிக்கக்கூடிய இடையீடு, எந்த ஒற்றை வட்டமிடல் முடிவையும் திருப்பச் சரியாகப் போதுமானது, அதற்கு மேல் இல்லை, அத்துடன் கற்கக்கூடிய வெட்டு வரம்புகளும், ஒரு சிறிய அளவீட்டுத் தொகுப்பின் மீது ஒரு தொகுதி வாரியான வெளியீட்டு-மீளுருவாக்க நோக்கத்துக்கு எதிராக குறியிடப்பட்ட சாய்வு இறக்கத்தால் உகந்ததாக்கப்படுகின்றன. இருநூறு படிகள், பின்னர் முடிந்தது.

4-பிட் எடை-மட்டும் அமைப்புகளில், 32 சோதிக்கப்பட்ட சூழ்நிலைகளில் 30 இல் GPTQ ஐயும், 32 இல் 27 இல் AWQ ஐயும், 32 இல் 29 இல் OmniQuant ஐயும் AutoRound வெல்வதாக Intel வெளியிட்ட ஒப்பீடுகள் காட்டுகின்றன, 2 பிட்டுகளில் அப்பாவியான அருகில்-வட்டமிடலை விட 6.9 முதல் 33.2 துல்லியப் புள்ளிகள் வரை ஆதாயத்துடன். அனுமான நேரத்தில் அதில் எதுவும் ஒன்றும் செலவாகாது: இது எண்களின் சிறந்த ஒரு தேர்வு, ஒரு முறை, இணைப்பில்லாமல் செய்யப்பட்டது.

REAP — யாரும் திசைதிருப்பாத நிபுணர்களை நீக்குதல்

Cerebras Systems உம் கால்கரி பல்கலைக்கழகமும் உருவாக்கிய REAP (Router-weighted Expert Activation Pruning), MoE மாதிரிகளுக்கான ஒற்றைத் தாக்குதல் சுருக்கம். ரவுட்டர் ஒவ்வொரு நிபுணருக்கும் எவ்வளவு வலுவாக, எவ்வளவு அடிக்கடி கேட் செய்கிறது என்பதை, அந்த நிபுணரின் வெளியீட்டின் அளவால் பெருக்கி மதிப்பெண் அளித்து, மிகக் குறைந்த முக்கியத்துவம் உள்ள நிபுணர்களை நேரடியாக நீக்குகிறது — பின்னர் மறுபயிற்சி எதுவும் இல்லை.

அந்த ஆய்வுக்கட்டுரையின் மையக் கண்டுபிடிப்பே பயனுள்ளது: அதிக சுருக்க விகிதங்களில், நிபுணர்களைக் கத்தரிப்பது அவர்களை இணைப்பதை விட மேலானது. செயல்பாட்டில் வேறுபட்ட நிபுணர்களை இணைப்பது, ஆசிரியர்கள் செயல்பாட்டு துணைவெளிச் சரிவு என்று அழைப்பதை ஏற்படுத்துகிறது — MoE ஐக் கட்டுவதற்கு மதிப்புத் தந்த நுண்ணிய, உள்ளீட்டைச் சார்ந்த கட்டுப்பாட்டை ரவுட்டர் இழந்து, நிலையான சராசரிகளுக்கு இடையே திசைதிருப்பும் நிலைக்குத் தள்ளப்படுகிறது. 20B முதல் 1T அளபுருக்கள் வரையிலான மாதிரிகள் முழுவதும் அவர்களின் எண்கள்: நிரலாக்கப் பணிகளில் 25% நிபுணர் சுருக்கத்தில், இணைப்பு அடிப்படைகள் 5% க்கும் மேல் இழக்கும் இடத்தில் REAP 2.8% சராசரித் துல்லியத்தையே இழக்கிறது; 50% இல், இணைப்பு 20% க்கும் மேல் இழக்கும் இடத்தில் REAP 8.0% இழக்கிறது. Qwen3-Coder-480B இல் 50% கத்தரிப்பில், அப்பாவியான அதிர்வெண் அடிப்படையிலான கத்தரிப்புக்கான 39.3% க்கு எதிராக வீழ்ச்சி 1.4%. மற்றவற்றுக்கிடையே DeepSeek வரிசைக்கும் REAP சோதனைப்புள்ளிகளை Cerebras வெளியிட்டுள்ளது.

ஏன் இங்கே 4-பிட், Pro வில் 3-பிட்

இரண்டு அடுக்குகளும் ஒரே வகை வன்பொருளில் பொருந்தி வேகமாகவும் இருக்க வேண்டும். Pro 1.7 டிரில்லியன் அளபுருக்களைச் சுமக்கிறது, எனவே அது பொருந்துவதற்கே மிக ஆக்ரோஷமான 3-பிட் சிகிச்சை தேவை. Flash தோராயமாக 300 பில்லியனைச் சுமக்கிறது, எனவே அதற்குத் தேவையில்லை — மேலும் அது சேமிக்கும் அந்தப் பிட், பொருந்துவதற்குப் பதிலாக நம்பகத்தன்மைக்கே செலவிடப்படுகிறது.

அந்தக் கூடுதல் பிட், அதன் கணிதம் குறிப்பதை விட அதிகம் முக்கியம், ஏனெனில் குவாண்டைசேஷன் சேதம் நேரியலானது அல்ல. AWQ ஆய்வுக்கட்டுரையின் WikiText-2 அளவீடுகளில், Llama-2-7B FP16 இல் 5.47 குழப்பநிலையிலிருந்து 4-பிட்டில் 5.60 க்குச் செல்கிறது — 2.4% அபராதம் — ஆனால் 3-பிட்டில் 6.24 க்கு, அதாவது 14% அபராதம். அது தோராயமாக 25% அதிக சுருக்கத்துக்கு ஆறு மடங்கு தேய்மானம், மேலும் 70B இலும் அதே முறையே பொருந்துகிறது. GPTQ ஆய்வுக்கட்டுரை இன்னும் நேரடியானது: 3 பிட்டுகளில், 175B வகை மாதிரிகளில் அப்பாவியான அருகில்-வட்டமிடல் சரிந்துவிடுகிறது, ஆயிரக்கணக்கான குழப்பநிலைக்குள், அதே நேரம் 4 பிட்டுகளில் முற்றிலும் பயன்படுத்தக்கூடியதாகவே இருக்கிறது. நான்கு பிட்டுகளுக்குக் கீழே, ஒரு நல்ல குவாண்டைசேஷன் வழிமுறை ஒரு நளினமாக இருப்பது நின்று, மாதிரியை ஒன்றாகப் பிடித்திருக்கும் ஒரே விஷயமாக ஆகிறது.

எனவே இந்த இரண்டு பின்னொட்டுகளின் நேர்மையான வாசிப்பு இதுவே: Pro தன் சொந்தச் சுருக்கப்படாத நிலைக்கு அருகில் இருப்பதை விட, Flash தன் சொந்தச் சுருக்கப்படாத நிலைக்கு அருகிலேயே இருக்கிறது. Pro இன்னும் வலிமையான மாதிரிதான் — மேலே உள்ள அளவீட்டு அட்டவணை அதைத் தீர்த்துவைக்கிறது. இங்கே வருவதற்கு அது வெறுமனே அதிகம் விட்டுக்கொடுத்தது, அந்தச் சலுகைக்கு நீங்கள் பணம் செலுத்துகிறீர்கள்.

மூலங்கள்: AutoRound — “Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs” (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — “REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression” (arXiv 2510.13999), Cerebras Systems. குழப்பநிலை எண்கள் AWQ (arXiv 2306.00978) மற்றும் GPTQ (arXiv 2210.17323) இலிருந்து.

05இறுதிப்புள்ளியில் Flash எதிராக Pro

பிரிவு 03 அடித்தளங்களை உள்ளடக்கியது. எங்கள் நுழைவாயிலில் தயாரிப்புகளாக இரண்டு அடுக்குகளும் எப்படித் தோன்றுகின்றன என்பது இதோ:

	DeepSeek-V4-Flash-0731	DeepSeek-V4-Pro-0813
குவாண்டைசேஷன்	W4A16-AUTOROUND-REAP	3BIT-REAP
எடைத் துல்லியம்	4-பிட், கற்றுக்கொள்ளப்பட்ட வட்டமிடல்	3-பிட்
அடித்தளம் (மொத்தம் / செயல்பாட்டில்)	~304B / 13B	~1.7T / 49B
1M டோக்கனுக்கு உள்ளீடு	$0.50	$1.95
1M டோக்கனுக்கு வெளியீடு	$2.00	$3.90
சூழல் / அதிகபட்ச வெளியீடு	262,144 / 16,384	262,144 / 16,384
கருவிகள் · கட்டமைக்கப்பட்ட வெளியீடு · ஸ்ட்ரீமிங்	ஆம்	ஆம்
பார்வை	இல்லை	இல்லை
மறுப்புப் படை	இல்லை	இல்லை

எது மாறவில்லை என்பதைக் கவனியுங்கள்: சூழல், வெளியீட்டு உச்சவரம்பு, கருவி அழைப்பு, கட்டமைக்கப்பட்ட வெளியீடு, மறுப்புப் படை இல்லாமை ஆகியவை ஒரே மாதிரி. நகர்வது அடித்தளம், குவாண்டைசேஷன், விலை மட்டுமே. அது இரண்டுக்கும் இடையே மாறுவதை உங்கள் நிரலில் ஒரு சரம் மாற்றமாகவும், உங்கள் கட்டமைப்பில் முற்றிலும் பொருளாதார முடிவாகவும் ஆக்குகிறது.

ஒரு அதிகபட்ச அளவு அழைப்புக்கு என்ன செலவு

முழு 262,144 டோக்கன் சூழலையும் நிரப்பி, முழு 16,384 டோக்கன் வெளியீட்டையும் எடுங்கள்:

பட்டியல் விலையில். Flash: $0.131 உள்ளீடு + $0.033 வெளியீடு. Pro: $0.511 + $0.064. விகிதம் 3.51×. MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro, Hy3 ஆகியவற்றுடன் $0.50 / $2.00 தரையையும் Flash பகிர்ந்துகொள்கிறது — பார்வையிலும் கட்டமைக்கப்பட்ட வெளியீட்டிலும் அவை எப்படி வேறுபடுகின்றன என்பதற்கு முழுப் பட்டியலைப் பாருங்கள்.

06அளவுக் கணக்கு, செய்து காட்டப்பட்டது

“3.9× மலிவானது” என்பது உள்ளீட்டில் மட்டுமே உண்மை. வெளியீட்டில் Flash 1.95× மலிவானது. எனவே உங்கள் உண்மையான சேமிப்பு உங்கள் உள்ளீடு-வெளியீடு விகிதத்தைச் சார்ந்தது, மேலும் அந்த விரிவு வடிவமைப்பு முடிவுகளை மாற்றும் அளவுக்கு அகலமானது. நான்கு யதார்த்தமான வேலைச்சுமைகள், ஒவ்வொன்றும் 100,000 கோரிக்கைகளில்:

வேலைச்சுமை	அழைப்புக்கு உள்ளே / வெளியே	Flash	Pro	சேமிப்பு
டிக்கெட் வகைப்படுத்தல்	1,200 / 120	$84	$281	3.3×
RAG கேள்விக்குப் பதிலளித்தல்	8,000 / 600	$520	$1,794	3.4×
நீண்ட ஆவணச் சுருக்கம்	60,000 / 1,500	$3,300	$12,285	3.7×
செயற்கைத் தரவு உருவாக்கம்	500 / 2,000	$425	$878	2.1×

அந்த முறை: நீங்கள் எவ்வளவு அதிக சூழலைத் தள்ளி, எவ்வளவு குறைவான உரையை உருவாக்குகிறீர்களோ, அவ்வளவு அதிகம் Flash உங்களுக்குச் சேமிக்கிறது. மீட்டெடுப்புக் குழாய்கள், ஆவண வகைப்படுத்தல், பதிவு மற்றும் படியெடுப்புப் பகுப்பாய்வு, நீண்ட சூழல் பிரித்தெடுத்தல் ஆகியவையே இனிமையான இடம் — அவை ஒரு அளவுக்கு உள்ளீடு ஆதிக்கம் செலுத்துபவை, மேலும் 3.9× தள்ளுபடி வாழ்வது உள்ளீட்டிலேயே. மாறாக உங்கள் வேலைச்சுமை ஆயிரக்கணக்கான டோக்கன் உரைநடையை உருவாக்கும் ஒரு குறுகிய தூண்டுதலாக இருந்தால், இடைவெளி தோராயமாக 2× ஆகச் சுருங்குகிறது, Pro க்கான திறன் வாதம் அதற்கேற்ப வலுவாகிறது.

உள்வாங்கிக்கொள்ளத் தகுந்த மேலும் ஒரு கணக்கு: ஒரு மில்லியன் உள்ளீட்டு டோக்கனுக்கு $0.50 என்ற நிலையில், முழு 262,144 டோக்கன் சாளரத்தையும் நிரப்ப 13.1 சென்ட் ஆகிறது. அந்த விலையில் நீண்ட சூழல் தூண்டுதல் ஒரு பட்ஜெட் கேள்வியாக இருப்பது நின்றுவிடுகிறது, அதாவது சில நேரங்களில் ஒரு மீட்டெடுப்பு அடுக்கைக் கட்டுவதையே தவிர்த்து, சூழல் சாளரமே வேலையைச் செய்யட்டும் என விடலாம் — டோக்கன் சேமிப்புக்கு மேல் ஒரு பொறியியல் சேமிப்பு.

07இங்கே “தணிக்கையற்றது” என்றால் என்ன, துல்லியமாக

அந்தச் சொல் தளர்வாகப் பயன்படுத்தப்படுகிறது, எனவே இறுதிப்புள்ளியின் ஒரு பண்பாகக் கூறப்பட்ட எங்கள் வரையறை இதோ: மாதிரியின் முன்னால் மறுப்பு வகைப்படுத்தி எதுவும் இல்லை, அதன் வெளியீட்டுக்கு உள்ளடக்க வடிகட்டல் எதுவும் பயன்படுத்தப்படவில்லை. எதுவும் ஒரு தூண்டுதலை இடைமறித்து ஒரு தயாரிக்கப்பட்ட மறுப்பைத் திருப்பித் தருவதில்லை; எதுவும் நிறைவை ஆய்வு செய்து மறைப்பதில்லை. அதிக அளவு உற்பத்தி வேலைக்கு, அந்தச் சொல் குறிப்பதை விட விளைவுகள் குறைவாக நாடகத்தனமானவை, அதிகம் பயனுள்ளவை:

• பாதிப்பில்லாத போக்குவரத்தில் பொய் நேர்மறைகள் இல்லை. வடிகட்டப்பட்ட இறுதிப்புள்ளிகள் மருத்துவச் சுருக்கங்கள், பாதுகாப்பு விவரணைகள், சட்ட ஆவணச் சேகரிப்பு, புனைவு, தீங்கு குறைப்புப் பொருள், மட்டுறுத்தல் வேலை ஆகியவற்றையே வழக்கமாக மறுக்கின்றன — சரியாக ஒரு தொகுதிப் பணி, தீங்கானது எதையும் உருவாக்காமல், ஒரு உணர்திறன் மிக்க தலைப்பைப் பற்றிய உரையைச் செயலாக்கும் வகைகள் அவை. ஒரு லட்சம் கோரிக்கைகளில், ஒரு சதவீதப் பொய் மறுப்பு விகிதம் என்பது ஆயிரம் உடைந்த வரிசைகள்.
• உறுதியான ஒப்பந்தங்கள். ஒரு json_schema பதிலைக் கேளுங்கள், ஒரு பொருள் இருக்க வேண்டிய இடத்தில் ஒரு மன்னிப்புப் பத்தி அல்ல, schema உடன் பொருந்தும் JSON ஐயே பெறுவீர்கள். உங்கள் பாகுபடுத்திக்கு எந்த மறுப்புக் கிளையும் தேவையில்லை, மேலும் உங்கள் மறுமுயற்சி தர்க்கம் ஒரு போக்குவரத்துத் தோல்வியையும் ஒரு கொள்கைத் தோல்வியையும் வேறுபடுத்த வேண்டியதில்லை.
• கொள்கை உங்களுடையது. அதுவே பரிமாற்றம். உங்கள் இறுதிப் பயனர்களுக்கு உங்கள் தயாரிப்புக்குப் பாதுகாப்புத் தடுப்புகள் தேவை என்றால், ஒரு வழங்குநரின் ஊகங்களை மரபுரிமையாகப் பெறுவதற்குப் பதிலாக, உங்கள் பயனர்களையும் உங்கள் அதிகார எல்லையையும் நீங்கள் அறிந்த உங்கள் அடுக்கிலேயே அவற்றைக் கட்டுகிறீர்கள். உங்கள் கணக்கு எங்கள் பொறுப்பான பயன்பாட்டுக் கொள்கையால் ஆளப்படுவதாகவே இருக்கிறது.

தணிக்கையற்றது என்பது சீரமைக்கப்படாதது அல்லது உதவாதது என்பதற்குச் சமமல்ல. மாதிரி இன்னும் அறிவுறுத்தல்களைப் பின்பற்றுகிறது, ஒரு அமைப்புத் தூண்டுதலை இன்னும் மதிக்கிறது. உங்கள் பயனர்களுக்குச் சில வகைகளை அது மறுக்க வேண்டும் என்று நீங்கள் விரும்பினால், அங்கே அதைச் சொல்லுங்கள் — அந்த அறிவுறுத்தல் இப்போது நாங்கள் திணிப்பது அல்ல, நீங்கள் எழுதுவது.

08திறன்களும் நேர்மையான வரம்புகளும்

அளவு வேலைக்கு இரண்டு திறன்களே பெரும்பாலான எடையைச் சுமக்கின்றன. கடுமையான json_schema வெளியீடு ஒரு நிறைவை, பாகுபடுத்தல் அடுக்கும் மறுப்புக் கிளையும் இல்லாமல் ஒரு தரவுத்தள வரிசையாக ஆக்குகிறது. மூன்று வகைகளிலும் கருவி அழைப்பு, மேல்நிலைத் திட்டமிடுபவர் ஒரு வலிமையான மாதிரியில் இயங்கும் ஒரு முகவரின் மலிவான துணைப் படிகளுக்கு Flash ஐ ஒரு நியாயமான இயந்திரமாக ஆக்குகிறது. அத்துடன் reasoning_effort ஐச் சேர்க்கவும், அது கூடுதல் டோக்கன்களைத் தேவைப்படும் போக்குவரத்தின் பகுதிக்கு மட்டுமே செலவிட அனுமதிக்கிறது, மேலும் Pro வுடையதற்குச் சமமான 262,144 டோக்கன் சூழல் — மலிவான அடுக்கைத் தேர்ந்தெடுப்பதால் நீங்கள் சூழலை இழக்கவில்லை, அது அசாதாரணமானது.

வரம்புகளும் அதே அளவு உறுதியானவை:

• பார்வை இல்லை. Flash உரை மட்டுமே, ஒரு செய்தியில் உள்ள பட பகுதிகளை நிராகரிக்கும். அதே $0.50 / $2.00 தரையில் ஒரு தணிக்கையற்ற மாதிரியில் படங்களுக்கு, MiniMax-M3 உம் MiMo-V2.5 உம் பார்வைத் திறன் கொண்ட தேர்வுகள்; அந்த அடுக்குக்கு மேலே Kimi-K2.6 உம் Kimi-K3 உம் வலிமையான பார்வை மாதிரிகள்.
• ஏணியின் உச்சி அல்ல. DeepSeek இன் சொந்த எண்கள், வெளியிடப்பட்ட ஒவ்வொரு முகவர் அளவீட்டிலும் Pro ஐ முன்னால் வைக்கின்றன, நீடித்த பல-படி நிரல் சிந்தனையில் இடைவெளி மிக அகலமானது. ஒரு தவறான பதில் ஆயிரம் மலிவானவற்றை விட அதிகம் செலவாகும் இடத்தில், ஒரு மில்லியனுக்குக் கூடுதலான $1.45 ஐ DeepSeek-V4-Pro மீது செலவிடுங்கள்.
• ஒரு கோரிக்கைக்கு 16,384 வெளியீட்டு டோக்கன்கள். நீண்ட உருவாக்கங்களை அழைப்புகள் முழுவதும் துண்டாக்க வேண்டும். நாங்கள் வழங்கும் ஒவ்வொரு மாதிரியிலும் இதுவே அதே உச்சவரம்பு, மேலும் சூழல் சாளரம் கட்டுப்படுத்துவதற்கு நன்கு முன்பே இது கட்டுப்படுத்துகிறது.

09அதை அழைப்பது

எந்த OpenAI இணக்க கிளையண்டையும் நுழைவாயிலை நோக்கித் திருப்பி, மாதிரிச் சரத்தை மாற்றுங்கள். உங்கள் அடுக்கில் வேறு எதுவும் நகர வேண்டியதில்லை.

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "Label the ticket. Reply only with the schema."},
      {"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
    ],
    "response_format": {
      "type": "json_schema",
      "json_schema": {
        "name": "ticket_label",
        "schema": {
          "type": "object",
          "properties": {
            "category": {"type": "string"},
            "severity": {"type": "integer"},
            "needs_human": {"type": "boolean"}
          },
          "required": ["category", "severity", "needs_human"],
          "additionalProperties": false
        }
      }
    }
  }'

அதே மாதிரி அடையாளம் /v1/messages இலும் /v1/responses இலும் மாற்றமின்றி வேலை செய்கிறது, உங்கள் கிளையண்டை மீண்டும் எழுதாமல் ஏற்கெனவே உள்ள ஒரு ஒருங்கிணைப்புக்குக் கீழே ஒரு மலிவான மாதிரியை A/B சோதிக்க அதுவே வேகமான வழி. அளபுருக்கள், ஸ்ட்ரீமிங் நிகழ்வு வடிவங்கள், கருவி அழைப்பு schema க்கள், விகித வரம்புகள் ஆகியவை API குறிப்பில் ஆவணப்படுத்தப்பட்டுள்ளன; பட்டியலில் உள்ள ஒவ்வொரு மாதிரியும் Shannon Research இல் பட்டியலிடப்பட்டுள்ளது.

10அடிக்கடி கேட்கப்படும் கேள்விகள்

---

மூலங்கள்: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 தொழில்நுட்ப அறிக்கை (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 மற்றும் DeepSeek-V4-Pro-0813 மாதிரி அட்டைகள் · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). அனைத்து அடித்தள, அளவீட்டு எண்களும் அவரவர் ஆசிரியர்களால் வெளியிடப்பட்டபடியே; Shannon AI விலைகளும் வழங்கப்படும் சூழலும் செப்டம்பர் 2026 நிலவரப்படி எங்கள் சொந்தப் பட்டியல் மதிப்புகள்.