වාරණයෙන් තොර GLM API: ටෝකනයකට හොඳම වටිනාකම
Z.ai හි ඒජන්ටික් GLM පදනම, ප්රතික්ෂේප ස්තරයක් නොමැතිව අපගේම GPU පොකුරේ සේවා කරන ලද — 262K සන්දර්භය, මෙවලම් ඇමතුම්, සහ එකම පෙළපත මුල් පාර්ශවීයව අය කරන මිලෙන් අඩකටත් වඩා අඩු මිශ්ර මිලක්.
කෙටියෙන්
GLM-5.2-3BIT-REAP යනු Shannon AI Gateway හි අප පෙරනිමියෙන් නිර්දේශ කරන ආකෘතියයි. එය GLM පෙළපතේ පරාමිති බිලියන 744ක විරල Mixture-of-Experts පදනමක් ධාවනය කරයි — GLM-4.5 සිට ඒජන්ටික් මෙවලම් භාවිතය සඳහාම පුහුණු කරන ලද — එය හැඩගැසී වේගවත්ව පවතින පරිදි 3-bit බර සහ REAP විශේෂඥ කප්පාදුව සමඟ ප්රමාණකරණය කර ඇත. ඔබට ලැබෙන්නේ ටෝකන 262,144ක සන්දර්භයක්, ටෝකන 16,384ක ප්රතිදානයක්, මෙවලම් ඇමතුම්, සකසිය හැකි reasoning_effort සමඟ තර්කනය, සහ JSON Schema ව්යුහගත ප්රතිදානය, මිලියනයකට $0.73 / $2.34 මිලකට. ප්රතික්ෂේප ස්තරයක් හෝ ප්රතිදාන පෙරහනක් නැත. පෙළ-පමණි — දෘශ්ය හැකියාවක් නැත.
බොහෝ "ලාභම ආකෘතිය" සංසන්දන අවංක නොවේ, මන්ද ලාභ විකල්පය සාමාන්යයෙන් විශාල ආකෘතියක අලෙවිකරණය පැළඳ සිටින කුඩා ආකෘතියක් වන බැවිනි. මෙහි සිදුවන්නේ එය නොවේ. GLM-5.2 යනු කිසිවකු නිකුත් කර ඇති විශාලතම open-weight පදනම් අතරින් එකකි, එය $0.73 ආදාන / $2.34 ප්රතිදාන මිලෙහි අපගේ නාමාවලියේ අවම මට්ටමට එක් පියවරක් ඉහළින් සිටින අතරම, එම අවම මට්ටම සාමාන්යයෙන් මිලදී ගන්නා පදනමට වඩා ගුණයක් කිහිපයකින් විශාල පදනමක් ගෙන එයි. එම පරතරය — විශාල ආකෘතිය, අවම මට්ටමට ආසන්න මිල — මෙම පිටුව පවතින්නේ එබැවිනි.
01GLM පැමිණෙන්නේ කොහෙන්ද: Tsinghua, blank infilling, සහ ඒජන්ට් දෙසට තියුණු හැරීමක්
GLM යනු නැවත-සන්නාම කරන ලද Llama ව්යුත්පන්නයක් නොවේ. එය තමන්ගේම පූර්ව-පුහුණු ඉලක්කයක් ඇති, එකම පර්යේෂණ කණ්ඩායම විසින් වසර පහක් තිස්සේ පුනරාවර්තනය කරන ලද ස්වල්ප ආකෘති පවුල් අතරින් එකකි. එහි නම නිරූපණය කරන්නේ General Language Model යන්නයි, ආරම්භක පත්රිකාව — GLM: General Language Model Pretraining with Autoregressive Blank Infilling, ACL 2022 — BERT හි masked language modeling සහ GPT හි දැඩි වම්-සිට-දකුණ autoregression යන දෙකට අමතරව තුන්වන විකල්පයක් යෝජනා කළේය. GLM අඛණ්ඩ කොටස් හිස් කර, ඒවා අහඹු පිළිවෙළකින් autoregressive ලෙස නැවත උත්පාදනය කරයි; ටෝකනයක දූෂිත ලේඛනය තුළ එහි ස්ථානය සහ පුරවනු ලබන කොටස තුළ එහි ස්ථානය යන දෙකම එකවර සටහන් කරන ද්විමාන ස්ථානීය කේතනයන් සමඟින්: වටහාගැනීම හා උත්පාදනය එකසේ හසුරුවන එක් ගෘහනිර්මාණයක්.
එහි පිටුපස කණ්ඩායම වූයේ Tsinghua විශ්ව විද්යාලයේ Knowledge Engineering Group එකයි, එය දැන් Z.ai (කලින් Zhipu AI) ලෙස හැඳින්වෙන සමාගම බෙදී ගොස් ඇත. එහි පළමු ප්රධාන නිර්මාණය 2022 ඔක්තෝබර් මාසයේ GLM-130B විය — පරාමිති බිලියන 130ක ද්විභාෂා ඉංග්රීසි/චීන dense ආකෘතියක්, ප්රකාශනය කළ මොහොතේම බර සහ කේත ප්රසිද්ධියේ නිකුත් කරන ලදී. විවෘත නිකුතුව එදා පටන් අද දක්වා ආයතනික විලාසිතාවයි.
MoE යුගය, සහ ඒජන්ට් වෙත හැරීම
එක් නිකුතුවකට වඩා වැදගත් වන්නේ අඛණ්ඩ ප්රවණතාවයයි. GLM-4.5 සිට, සෑම අනුවාදයක්ම එකම දෙය සඳහා ප්රශස්ත කර ඇත: මෙවලම් ඇමතුම් දුසිම් ගණනාවක් පුරා අනුකූලව සිටීම. එය තනි-වාරයක ප්රමිති ලකුණු උපරිම කිරීමට වඩා වෙනස් ඉලක්කයකි, එය පෙනී යන්නේ අඩු විකෘති මෙවලම් තර්ක ලෙසත්, දිගු සැලැස්මක අඩු අපගමනයක් ලෙසත්, සහ ඒජන්ට් රාමු මිල අධික කරන "වාරය 14 හිදී ස්වයංක්රීයව යළි ආරම්භ කිරීමේ" හැසිරීම අඩුවීමක් ලෙසත්ය.
02GLM-5.2 යනු කුමක්ද, සහ එය මනින ලද්දේ කුමකින්ද
Z.ai GLM-5.2 සඳහා ප්රමිති අගයන් GLM-5 ගබඩාවේ ප්රකාශයට පත් කරයි. ඉන් දෙකක් සුළු කරුණු මතකයට වඩා සැබෑ ඒජන්ටික් වැඩකට සම්බන්ධ වේ:
Terminal-Bench 2.1 — දිගු-විෂය විධාන-රේඛා ඒජන්ට් කාර්යයන්. Z.ai විසින් වාර්තා කරන ලදී.
SWE-bench Pro — සැබෑ ගබඩා ගැටලු විසඳීම. Z.ai විසින් වාර්තා කරන ලදී; GLM-5.1 එකම පරීක්ෂණයේදී 58.4 ලකුණු ලබා ගත්තේය.
ඒවා අපගේ නොව රසායනාගාරයේ අගයන් වන අතර, ඒවා විස්තර කරන්නේ සම්පීඩනය නොකළ පදනමයි. ඒවා ස්ථාපිත කරන්නේ ඔබ කටයුතු කරන ආකෘති පංතියයි, වගකීමක් නොවේ.
එක් දත්ත ලක්ෂ්යයක් ප්රමිතියකට වඩා වටී, මන්ද එය ආකෘතියට ප්රසාදය කිරීමට කිසිදු පෙළඹවීමක් නැති ඇගයුම්කරුවෙකුගෙන් පැමිණෙන බැවිනි. 2026 ජූලි මාසයේදී එක්සත් ජනපදයේ National Institute of Standards and Technology හි Center for AI Standards and Innovation විසින් GLM-5.2 ඇගයීමට ලක් කර, එය නිකුත් කරන අවස්ථාවේ බොහෝදුරට ලබාගත හැකි වූ වඩාත්ම ශක්තිමත් open-weight AI ආකෘතිය බව නිගමනය කළේය, සමස්ත හැකියාවන් GPT-5.2 හා සමාන අතර සයිබර් හැකියාවන් Claude Opus 4.6 හා සමාන බව සඳහන් කරමින්. එම ඇගයීමම නිරීක්ෂණය කළේ GLM-5.2 එක්සත් ජනපද යොමු ආකෘති වලට වඩා අඩු සංවේදී ඉල්ලීම් අවහිර කරන බවත්, open weights තුළ තැන්පත් කර ඇති ආරක්ෂණ ක්රියාමාර්ග ඒවා ස්වයං-සත්කාරකත්වයට ගත් පසු මඟහරවා ගත හැකි බවත්ය. අංශය 05 එයට නැවත හැරී එනු ඇත.
03"3BIT-REAP" යනු කුමක්ද, එය ඔබට වැය කරන්නේ කුමක්ද
REAP: විශේෂඥයන් ඒකාබද්ධ කරනවා වෙනුවට කප්පාදු කිරීම
පරාමිති 744B MoE ආකෘතියකට ස්තරයකට විශේෂඥයන් 256ක් ඇති අතර, ඕනෑම ටෝකනයක් සඳහා ඉන් 8ක් ක්රියාත්මක වේ. router එක වැඩ සමානව බෙදා නොහරියි — සමහර විශේෂඥයන් නිරන්තරයෙන් භාවිත වන අතර, දිගු වලිගයක් කලාතුරකින් භාවිත වී, එසේ වූ විටද සුළු දායකත්වයක් සපයයි. Cerebras Research විසින් සකස් කර ICLR 2026 සඳහා පිළිගත් REAP (Router-weighted Expert Activation Pruning), මෙය ප්රයෝජනයට ගනී: එය සෑම විශේෂඥයෙකුම router එක එය කොපමණ ප්රබලව සහ නිතර දොරටු කරයිද යන්න සහ එහි ප්රතිදාන දායකත්වයේ විශාලත්වය යන්න ඒකාබද්ධ කරන ප්රමුඛත්ව නිර්ණායකයකින් ලකුණු කර, පසුව අඩු ලකුණු ලබන ඒවා ස්ථිරවම ඉවත් කරයි.
රසවත්ම කොටස නම් REAP ජයගන්නා සංසන්දනයයි. විශේෂඥයෙකු ඉවත් කිරීමට පැහැදිලි විකල්පය නම් එය දිවි ගලවා ගත් එකකට ඒකාබද්ධ කිරීමයි, එය වඩා ආරක්ෂිත බවක් පෙනේ. පරාමිති 20B සිට 1T දක්වා MoE ආකෘති හරහා පත්රිකාවේ සොයාගැනීම වන්නේ ඒකාබද්ධ කිරීම ජනන කාර්යය සඳහා ඇත්තෙන්ම වඩා නරක බවත්, කප්පාදුව කැපී පෙනෙන ලෙස පවතින බවත්ය: විශේෂඥයන්ගෙන් අඩක් ඉවත් කළ පසුවත්, Qwen3-Coder-480B සහ Kimi-K2 ඇතුළු පදනම් මත, කේත ජනනය සහ මෙවලම්-ඇමතුම් ප්රමිතිවල පාහේ-අලාභ රහිතව. කේතය සහ මෙවලම් ඇමතුම් නොවෙනස්ව නොනැසී පැවතීම, ඒජන්ටික් ඉංජිනේරු විද්යාව පැවැත්මට හේතුව වන ආකෘතියක ආරක්ෂා විය යුතු හරියටම දෙයයි.
3-bit බර, සහ අවංක හුවමාරුව
කප්පාදුවට අමතරව, දිවි ගලවා ගත් බර bits 3කින් ගබඩා කර ඇත — අපගේ නාමාවලියේ වෙනත් තැන්වල ඇති W4A16-AUTOROUND-REAP සහ W8A16 මට්ටම්වලට වඩා තදබල, සහ trillion හතරෙන් තුනක පරාමිති ආකෘතියක් සේවා නෝඩයකට ගෙන ගොස් භාවිත කළ හැකි වේගයකින් ටෝකන ගලායාම පවත්වා ගැනීමට වෙනත් ක්රමයක් නොමැති, විශාලතම පදනම් සඳහා වෙන් කර ඇත.
සම්පීඩනය නොමිලේ නොවේ. නිවැරදි මානසික ආකෘතිය: කප්පාදුව සහ ප්රමාණකරණය මුලින්ම දිගු වලිගය පිරිහෙළයි. Dense, නිතර භාවිත වන හැසිරීම් — උපදෙස් අනුගමනය, කේත ව්යුහය, මෙවලම්-ඇමතුම් ආකෘතිකරණය, බහු-පියවර සැලසුම්කරණය — හොඳින් නොනැසී පවතී, එය හරියටම REAP ප්රතිඵල පෙන්වන දෙයයි. අපැහැදිලි කරුණු මතකය, දුර්ලභ භාෂා සහ විශේෂිත ක්ෂේත්ර සුළු කරුණු යනු සම්පීඩනය නොකළ GLM-5.2 හා සසඳන විට වෙනසක් අපේක්ෂා කළ යුතු තැන්ය. ඔබේ වැඩබර "අසාමාන්ය කරුණක් හරියටම දන්නවා" නම්, ඉහළ විශ්වසනීයත්වයේ මට්ටමකට ගෙවන්න. එය "මෙවලම් ඇමතුම් හතළිහක් හරහා මාර්ගයෙන් නොවැටී සැලැස්මක් ධාවනය කරන්න" නම්, මෙය එම ක්රමය නිර්මාණය කරන ලද මට්ටමයි.
04වටිනාකම් සිද්ධිය: ලාභ වාරණයෙන් තොර LLM API එකක් ධාවනය කිරීමට සැබවින්ම වැය වන්නේ කුමක්ද
Z.ai විසින්ම ප්රකාශයට පත් කළ GLM-5.2 සඳහා API ලැයිස්තු මිල මිලියනයකට ආදාන ටෝකන $1.40 සහ ප්රතිදාන $4.40කි. එකම පදනම මත අපගේ මිල $0.73 / $2.34 කි — ආදානයේ ආසන්න වශයෙන් 48%ක් අඩුයි සහ ප්රතිදානයේ 47%ක් අඩුයි. එම වට්ටම සම්පීඩනය මිලදී ගන්නා දෙයයි, සහ එය ඕනෑම මිලකට මුල් පාර්ශවීයව මිලදී ගත නොහැකි දෙවන දෙයක් සමඟින් පැමිණේ: ප්රතික්ෂේප ස්තරයක් නොමැති බව.
අපගේම නාමාවලිය තුළ, වැදගත් වන්නේ මිශ්ර වියදමයි. මෙන්න එය 3:1 ආදාන-ප්රතිදාන අනුපාතයකදී, ප්රායෝගිකව මෙවලම්-ඇමතුම් ඒජන්ටයෙකු පෙනෙන ආකාරයට ආසන්නව — විශාල සන්දර්භයක් සහ මෙවලම් ප්රතිඵල ඇතුළු වෙමින්, සාපේක්ෂව ටෝකන ස්වල්පයක් පිටතට යමින්.
| ආකෘතිය | ආදාන / 1M | ප්රතිදාන / 1M | මිශ්ර 3:1 | දෘශ්ය |
|---|---|---|---|---|
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | $1.13 | නැත |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | $1.39 | නැත |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | $1.50 | ඔව් |
| DeepSeek-V4-Pro-0813 · 3BIT-REAP | $1.95 | $3.90 | $2.44 | නැත |
| inkling · W4A16-AUTOROUND-REAP | $1.42 | $6.07 | $2.58 | ඔව් |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | $7.65 | ඔව් |
ආකෘති හයක් $0.50 / $2.00 අවම මට්ටමේ පවතී — MiniMax-M3, DeepSeek-V4-Flash, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro සහ Hy3 — $0.875 ක මිශ්ර අනුපාතයකි. GLM-5.2 එම අවම මට්ටමට 29%කින් ඉහළින් පවතින අතර, ඒජන්ටික් හැසිරීම සඳහා අඛණ්ඩ ආයෝජනයක් පිටුපස ඇති 744B-පන්තියේ පදනමක් ඔබට ලබා දෙයි. ඊට ඉහළින් මිල් කරන ලද සියල්ල මිශ්රව අවම වශයෙන් 23%ක් වැඩිපුර වැය වන අතර, Kimi-K3 6.8× ක් වැඩිපුර වැය වේ. එය එක් පේළියකින් වටිනාකම් තර්කයයි: ඉහළම-මට්ටමේ ඒජන්ටික් පදනමක් මිලදී ගැනීමට නාමාවලියේ ඇති ලාභතම ස්ථානය.
වැඩ බවට පරිවර්තනය කළ විට
- සම්පූර්ණ සන්දර්භ පිරවීමක් — ආදාන ටෝකන 262,144: $0.19. සම්පූර්ණ විශාල ගබඩාවක් සත් විස්සකට අඩුවෙන් කවුළුවට කියවීම.
- එක් උපරිම-දිග සම්පූර්ණ කිරීමක් — ප්රතිදාන ටෝකන 16,384: $0.038.
- එක් ඒජන්ට් වාරයක් — 20K ආදාන, 2K ප්රතිදාන: $0.019. එම වාරයම Kimi-K3 හිදී $0.115ක් සහ DeepSeek-V4-Pro හිදී $0.047ක් වැය කරයි.
- ඒජන්ට් වාර සියයක්: $1.93, නාමාවලියේ මිල අධිකම ආකෘතියේ $11.48 හා සසඳන විට.
ඒජන්ටික් වැඩබර ආදාන-බහුලයි, සහ GLM හි වාසිය විශාලතම වන්නේ හරියටම එතැනයි: එහි ආදාන මිල Kimi-K3 ට වඩා 5.2× පහළින් සහ DeepSeek-V4-Pro ට වඩා 2.7× පහළින් පවතී. ඔබේ ඒජන්ට් වර්ධනය වන සංවාදයක් සෑම වාරයකදීම නැවත යවනවා නම් — සහ පාහේ සෑම ඒජන්ටයක්ම එසේ කරයි — එම ගුණකයයි ඔබේ ඉන්වොයිසියේ අවසානයේ පෙනෙන්නේ.
05"වාරණයෙන් තොර" යනු මෙම endpoint එකෙහි අදහස් කරන්නේ කුමක්ද
නිශ්චිතවම දේවල් දෙකක්: ප්රතික්ෂේප ස්තරයක් නොමැති බව — ආකෘතියට බැලීමට ඉඩ දෙන ඉල්ලීම් තීරණය කරන classifier එකක් නැති බවත්, ඔබේ prompt එය පැමිණීමට පෙර නැවත ලියන policy ආකෘතියක් නැති බවත් — සහ ප්රතිදාන පෙරහන් නොකිරීම, එනම් ආකෘතිය නිපදවන ටෝකන ම ඔබ ලබා ගන්නා ටෝකන වන අතර, සංස්කරණය නොකළ සහ මාරු නොකළ ඒවා.
"relaxed" හෝ "developer" ප්රකාරයක් ප්රචාරණය කරන වාණිජ API එකකට වඩා එය වෙනස් යෝජනාවකි. ඒවා තවමත් ගමනාගමනය විකුණුම්කරුවෙකුගේ policy stack එකක් හරහා යවයි; වෙනස් වන්නේ threshold එකයි, ගේට්ටුවේ පැවැත්ම නොවේ. මෙහි සකස් කිරීමට ගේට්ටුවක් නැත — ආකෘතිය ධාවනය වන්නේ අපගේම GPU පොකුරේය, එහි හැසිරීම පදනමේම හැසිරීමයි. අංශය 02 හි ඇති NIST CAISI සොයාගැනීම අනතුරු ඇඟවීමකට වඩා තාක්ෂණික ප්රකාශයක් ලෙස කියවන්න, එවිට එය නිෂ්පාදනය පැහැදිලි කරයි: alignment එහි බරෙහිම ජීවත් වන ආකෘතියක්, බාහිර policy ස්තරයක් නොමැතිව සේවා කරන විට, එහි බර අනුව හැසිරෙයි.
මෙය විශේෂයෙන් ඒජන්ට් සඳහා වැදගත් වන්නේ ඇයි
ප්රතික්ෂේප සාමාන්යයෙන් සාකච්ඡා කරනු ලබන්නේ අන්තර්ගත ප්රශ්නයක් ලෙසයි. ඒජන්ටික් වැඩකදී ඒවා බොහෝදුරට විශ්වසනීයත්ව ප්රශ්නයකි. වාර 40ක ධාවනයක වාරය 31 හිදී ප්රතික්ෂේපයක් ඔබ කියවා ඉදිරියට යන සුහද ප්රතික්ෂේපයක් නොවේ — එය විකෘති පියවරකි, කෙසේ ඉදිරියට යා යුතුදැයි නොදන්නා orchestrator එකකි, කැඩුණු සැලැස්මකි, සහ පෙන්වීමට කිසිවක් නොමැතිව වැය කළ ටෝකන සහිත වාර 30කි. ආරක්ෂක පර්යේෂණ, malware විශ්ලේෂණය, penetration testing, red-teaming, වැඩිහිටි ප්රබන්ධ, වෛද්ය සහ නීති කෙටුම්පත් කිරීම, සහ ආරක්ෂිත පුහුණුව සඳහා දත්ත කට්ට උත්පාදනය යන සියල්ලම මෙයට නිරන්තරයෙන් මුහුණ දෙයි, එම අසමත්වීම මිල අධික වන්නේ එය පසුව සිදුවන නිසාමය.
අනෙක් පැත්ත නම් policy ස්තරය දැන් ඔබේම බවයි. Shannon AI Gateway භාවිතය අපගේ වගකීම් සහගත භාවිත ප්රතිපත්තිය මගින් පාලනය වේ; විකුණුම්කරුවෙකුගේ තීන්දුව ලූපයෙන් ඉවත් කිරීම යන්නෙන් අදහස් වන්නේ ඔබේම එකක් සැපයීමයි.
06endpoint එක සැබවින්ම ඔබට ලබා දෙන්නේ කුමක්ද
| හැකියාව | GLM-5.2 · 3BIT-REAP |
|---|---|
| ආකෘති හැඳුනුම | GLM-5.2-3BIT-REAP |
| සන්දර්භ කවුළුව | ටෝකන 262,144 |
| ඉල්ලීමකට උපරිම ප්රතිදානය | ටෝකන 16,384 |
| ප්රවාහනය | ඔව් |
| මෙවලම් ඇමතුම් | ඔව් |
තර්කනය / reasoning_effort | ඔව් |
JSON Schema (json_schema) | ඔව් |
response_format | ඔව් |
| දෘශ්ය හැකියාව / රූප ආදානය | නැත — පෙළ පමණි |
| ප්රතික්ෂේප ස්තරය / ප්රතිදාන පෙරහන් කිරීම | නැත |
ඔබ ගොඩනැගීමට පෙර දෘශ්ය පේළිය හොඳින් කියවන්න. GLM-5.2 අපගේ gateway එකේ පෙළ-පමණි ය. ඔබට රූප ආදානය අවශ්ය නම්, නාමාවලියේ දෘශ්ය-හැකියා විකල්ප පහක් ඇත — $0.50 / $2.00 අවම මට්ටමේ MiniMax-M3 සහ MiMo-V2.5, $0.78 / $3.67 හි Kimi-K2.6, $1.42 / $6.07 හි inkling, සහ $3.83 / $19.12 හි Kimi-K3. සාධාරණ රටාවක් නම් රූප වටහාගැනීම MiniMax-M3 වෙත සහ අනෙකුත් සියල්ල GLM-5.2 වෙත මාර්ගගත කිරීමයි, එය ආකෘති නාමයකට වඩා කිසිවක් වැය නොකරයි.
උපභාෂා තුනක්, එක් ආකෘතියක්
එකම ආකෘතියට ඉල්ලීම් ආකෘති තුනක් හරහා ළඟාවිය හැක, සියල්ලම ප්රවාහන හැකියාවෙන් යුතුව: /v1/chat/completions (OpenAI උපභාෂාව), /v1/messages (Anthropic උපභාෂාව), සහ /v1/responses. ඒවා අතර ආකෘතිය ගැන කිසිවක් වෙනස් නොවේ — ඔබේ SDK එක දැනටමත් කතා කරන ඕනෑම එකක් තෝරන්න, සාමාන්යයෙන් base-URL එකක් වෙනස් කිරීමෙන් පමණක් ඔබ ධාවනය කිරීමට සූදානම්.
# OpenAI dialect — point your existing client at the gateway from openai import OpenAI client = OpenAI( base_url="https://api.shannon-ai.com/v1", api_key="sk-...", ) resp = client.chat.completions.create( model="GLM-5.2-3BIT-REAP", messages=[{"role": "user", "content": "..."}], tools=tools, # tool calling supported reasoning_effort="medium", # low | medium | high stream=True, )
උපභාෂා තුනටම සම්පූර්ණ ඉල්ලීම් සහ ප්රතිචාර schema, මෙවලම්-ඇමතුම් ආකෘතිය, ප්රවාහන සිදුවීම් හැඩතල, සහ අන්තර්ක්රියාකාරී playground එකක් Shannon AI API ලේඛනයේ ඇත.
07GLM-5.2 තෝරන්නේ කවදාද — සහ තෝරන්නේ නැත්තේ කවදාද
මෙය තෝරාගන්න මෙවැනි විටෙක
- ඔබ ඒජන්ට් ධාවනය කරනවා නම්. දිගු මෙවලම්-ඇමතුම් ලූප යනු මෙම පෙළපත ගොඩනගා පුනරාවර්තිතව පශ්චාත්-පුහුණු කරන ලද්දේ කුමකටදැයි කියන දෙයයි, සහ ආදාන මිල සෑම වාරයකදීම වර්ධනය වන සංවාදයක් නැවත යැවීම දැරිය හැකි කරයි.
- ඔබ විශාල codebase එකක් හරහා වැඩ කරනවා නම්. 262K සන්දර්භය, විශ්වසනීය මෙවලම්-ඇමතුම් ආකෘතිකරණය, සහ මුළු කවුළුවම කියවීමට $0.19.
- ප්රමාණය ඔබේ සීමාව නම්. වර්ගීකරණය, උපුටාගැනීම, කෘත්රිම දත්ත උත්පාදනය, තොග ලෙස නැවත ලිවීම — විශාල සංඛ්යාවකින් ගුණ කළ එක්-ඇමතුමක වියදම ව්යාපෘතිය ප්රායෝගිකද යන්න තීරණය කරන ඕනෑම දෙයක්.
- ප්රතික්ෂේප ඔබේ pipeline එක කඩාකප්පල් කරනවා නම්. ආරක්ෂක පර්යේෂණ, adversarial testing, වාරණයෙන් තොර ප්රබන්ධ, සංවේදී කෙටුම්පත් කිරීම — එම අසමත්වීමේ ආකාරය මෙහි නොපවතී.
වෙනත් දෙයක් තෝරාගන්න මෙවැනි විටෙක
- ඔබට දෘශ්ය හැකියාව අවශ්ය නම්. පෙළ-පමණි. ඉහත දෘශ්ය-හැකියා විකල්ප බලන්න.
- ඔබට වඩාත්ම ගැඹුරු තනි-වාර තර්කනය අවශ්ය නම්. දුෂ්කරම එක්-වර විශ්ලේෂණාත්මක ගැටලු සඳහා, DeepSeek-V4-Pro-0813 · 3BIT-REAP මිශ්ර වියදමින් 2.2× ක බර උපකරණයයි — ඉහළ සීමාවම බාධකය වන ඇමතුම්වලදී, එය නිවැරදි හුවමාරුවයි.
- ඔබට අපැහැදිලි දැනුම මත උපරිම විශ්වසනීයත්වය අවශ්ය නම්.
W8A16මට්ටම — MiMo-V2.5-Pro සහ Hy3 — වඩා අඩුවෙන් තදබල ලෙස සම්පීඩනය කර ඇති අතර, කුඩා පදනම් මත $0.50 / $2.00 අවම මට්ටමේ පවතී.
මෙම පිටුවේ ඇති සෑම පදනම් අගයක්ම අප නොවන වෙනත් අයෙකු විසින් ප්රකාශයට පත් කරන ලද්දකි. මිල හා හැකියා අගයන් යනු අපගේම සජීවී නාමාවලි අගයන් වන අතර, ඔබේම යතුරෙන් /v1/models ට එරෙහිව සත්යාපනය කළ හැක. මූලික මූලාශ්ර ඔබම පරීක්ෂා කරන්න.
GLM-5.2 ප්රමිති අගයන් (Terminal-Bench 2.1, SWE-bench Pro) Z.ai විසින් සම්පීඩනය නොකළ පදනම සඳහා වාර්තා කර ඇත; ස්වාධීන පුනරාවර්තනය සිදුවෙමින් පවතී. Claude Opus 4.8 සහ GPT-5.5 අගයන් යොමු කිරීම සඳහා පමණක් පෙන්වා ඇත. මුල් පාර්ශවීය GLM-5.2 API ලැයිස්තු මිල Z.ai විසින් 2026 සැප්තැම්බර් මාසයේ ප්රකාශයට පත් කළ පරිදිය.
08නිතර අසන පැන
Shannon AI හි වාරණයෙන් තොර GLM API යනු කුමක්ද?
එය Shannon AI Gateway හි GLM-5.2-3BIT-REAP ආකෘති හැඳුනුමයි: Z.ai හි GLM-5.2 ඒජන්ටික් පදනමේ සම්පීඩිත නිමැවුමක්, අපගේම GPU පොකුරේ ප්රතික්ෂේප ස්තරයක් හෝ ප්රතිදාන පෙරහනක් නොමැතිව සේවා කරන ලද. එය මිලියනයකට ආදාන ටෝකන $0.73ක් සහ ප්රතිදාන ටෝකන $2.34ක් වැය කරන අතර, ටෝකන 262,144ක සන්දර්භ කවුළුවක් රැගෙන යන අතර, /v1/chat/completions, /v1/messages සහ /v1/responses මත ළඟාවිය හැක.
GLM 5.2 වාරණයෙන් තොර නාමාවලියේ අනෙකුත් විශාල ආකෘතිවලට වඩා ලාභ වන්නේ ඇයි?
එය සම්පීඩනය කර ඇති ආකාරය නිසාය. 3BIT-REAP 3-bit බර, ප්රමාණකරණයට පෙර කලාතුරකින් මාර්ගගත කරන ලද විශේෂඥයන් ඉවත් කරන Mixture-of-Experts ආකෘති සඳහා විශේෂඥ-කප්පාදු ක්රමයක් වන REAP සමඟ ඒකාබද්ධ කරයි. මේ ආකාරයෙන් කප්පාදු කර ප්රමාණකරණය කළ, ටෝකනයකට ආසන්න වශයෙන් 40B ක් සක්රීය පරාමිතීන් සහිත විරල MoE පදනමක්, සමාන ගුණාත්මක භාවයකින් යුත් dense ආකෘතියකට වඩා ටෝකනයකට බෙහෙවින් අඩු මතකයක් සහ බෙහෙවින් අඩු GPU-තත්පර ප්රමාණයක් උපයෝගී කර ගනී, මිල පිළිබිඹු කරන්නේ එයයි.
ප්රතික්ෂේප රහිත GLM යනු ආකෘතියට කිසිදු ආරක්ෂණ මායිමක් නැති බවද?
එයින් අදහස් වන්නේ Shannon කිසිවක් එකතු නොකරන බවයි. ආකෘතිය ඉදිරිපිට ප්රතික්ෂේප classifier එකක් නැති අතර, එයින් පිටතට එන ටෝකන මත පෙරහනක්ද නැත. පදනම එහිම පුහුණුව එයට ලබා දුන් ඕනෑම ස්වභාවයක් රඳවා ගනී, නමුත් බාහිර කිසිවක් ඒවා අභිබවා නොයයි. ඔබ policy ස්තරය හිමිකරගනී, භාවිතය Shannon AI වගකීම් සහගත භාවිත ප්රතිපත්තියට යටත් වේ.
GLM-5.2 3BIT-REAP දෘශ්ය හෝ රූප ආදානය සඳහා සහාය දක්වයිද?
නැත. මෙම ආකෘතිය පෙළ-පමණි. ඔබට වාරණයෙන් තොර endpoint එකක රූප ආදානය අවශ්ය නම්, MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 හෝ inkling වැනි නාමාවලියේ දෘශ්ය-හැකියා ආකෘතියක් භාවිත කරන්න. GLM-5.2 ව්යුහගත ප්රතිදානයට — json_schema සහ response_format යන දෙකටම — සහ මෙවලම් ඇමතුම්වලට සහාය දක්වයි.
සන්දර්භ කවුළුව සහ උපරිම ප්රතිදාන දිග කුමක්ද?
ඉල්ලීමකට ටෝකන 262,144ක සන්දර්භයක් සහ ටෝකන 16,384ක ප්රතිදානයකි. මිලියනයකට $0.73 මිලකදී මුළු සන්දර්භ කවුළුවම වරක් පිරවීමට ආසන්න වශයෙන් සත් 19ක් වැය වන අතර, උපරිම-දිග සම්පූර්ණ කිරීමකට සත් 4කට අඩුවෙන් වැය වේ.
දිගු මෙවලම්-ඇමතුම් ලූප සඳහා මෙය හොඳ ඒජන්ටික් වාරණයෙන් තොර ආකෘතියක්ද?
අප මුලින්ම තෝරාගන්නා එකයි. GLM පෙළපත GLM-4.5 සිට ඒජන්ටික් වැඩ සඳහාම පුහුණු කර ඇත, මෙවලම් ඇමතුම් සහ reasoning_effort යන දෙකටම සහාය දක්වයි, මිල යන්නෙන් අදහස් වන්නේ ටෝකන විසිදහසක ඒජන්ට් වාර සියයක් එකොළහ ඩොලරයක් වෙනුවට ආසන්න වශයෙන් ඩොලර දෙකක් වැය වන බවයි. ප්රතික්ෂේප ඒජන්ට් ලූපවල සැබෑ අසමත්වීමේ ආකාරයක්ද වන අතර, එකක් අවුලුවාලීමට මෙහි ප්රතික්ෂේප ස්තරයක් නැත.
වාරණයෙන් තොර GLM API එක උත්සාහ කරන්න
$0.73 ආදාන · $2.34 ප්රතිදාන · 262K සන්දර්භය · ප්රතික්ෂේප ස්තරයක් නැත.
API ලේඛන කියවන්න සියලුම ආකෘති බලන්නShannon Lab LLC, New Mexico, USA · භාවිතය වගකීම් සහගත භාවිත ප්රතිපත්තිය මගින් පාලනය වේ
මූලාශ්ර: Z.ai GLM-5 ගබඩාව · Du et al., GLM: General Language Model Pretraining with Autoregressive Blank Infilling, ACL 2022 · Zeng et al., GLM-130B: An Open Bilingual Pre-trained Model · Lasby et al., REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression, ICLR 2026 · NIST CAISI Assessment of Z.ai's GLM-5.2, July 2026. ප්රමිති ලකුණු රසායනාගාරය විසින් වාර්තා කර ඇති අතර, තාවකාලිකයි; ඒවා විස්තර කරන්නේ සම්පීඩනය නොකළ GLM-5.2 මිස මෙම සම්පීඩිත නිමැවුම නොවේ. මිල, සන්දර්භය සහ හැකියා අගයන් 2026 සැප්තැම්බර් 5 වන දින වන විට Shannon AI නාමාවලි අගයන්ය.