సెన్సార్ లేని GLM API: ఒక్కో టోకెన్కు ఉత్తమ విలువ
Z.ai ఏజెంటిక్ GLM పునాది, మా స్వంత GPU క్లస్టర్పై తిరస్కరణ పొర లేకుండా అందించబడుతుంది — 262K సందర్భం, టూల్ కాలింగ్, మరియు అదే వంశం మొదటి-పక్షంలో ఖరీదయ్యే దానిలో సగం కంటే తక్కువ మిశ్రమ ధర.
క్లుప్తంగా
GLM-5.2-3BIT-REAP అనేది Shannon AI గేట్వేలో మేము డిఫాల్ట్గా సిఫారసు చేసే మోడల్. ఇది GLM వంశం నుండి వచ్చిన 744-బిలియన్ పారామీటర్ల విరళ నిపుణుల-మిశ్రమ పునాదిని నడుపుతుంది — GLM-4.5 నుండి ఏజెంటిక్ టూల్ వాడకం కోసం స్పష్టంగా శిక్షణ పొందినది — 3-బిట్ వెయిట్లు మరియు REAP నిపుణుల కత్తిరింపుతో కుదించబడింది, తద్వారా అది ఇమిడి వేగంగా ఉంటుంది. మీకు 262,144-టోకెన్ సందర్భం, 16,384 టోకెన్ల అవుట్పుట్, టూల్ కాలింగ్, సర్దుబాటు చేయగల reasoning_effortతో తర్కం, మరియు JSON స్కీమా నిర్మాణాత్మక అవుట్పుట్ లభిస్తాయి — మిలియన్ టోకెన్లకు $0.73 / $2.34కు. ఇక్కడ తిరస్కరణ పొర లేదు, అవుట్పుట్ ఫిల్టర్ లేదు. కేవలం టెక్స్ట్ — విజన్ లేదు.
చాలా "అత్యంత చౌక మోడల్" పోలికలు నిజాయితీ లేనివి, ఎందుకంటే చౌక ఎంపిక సాధారణంగా పెద్ద మోడల్ మార్కెటింగ్ను ధరించిన చిన్న మోడల్ అయి ఉంటుంది. ఇక్కడ జరుగుతున్నది అది కాదు. GLM-5.2 ఎవరైనా విడుదల చేసిన అతిపెద్ద ఓపెన్-వెయిట్ పునాదులలో ఒకటి, మరియు $0.73 ఇన్ / $2.34 అవుట్ వద్ద అది మా శ్రేణి అట్టడుగు స్థాయికి ఒక మెట్టు పైన కూర్చుంటుంది — ఆ అట్టడుగు స్థాయి సాధారణంగా కొనగలిగే దాని కంటే అనేక రెట్లు పెద్ద పునాదిని మోస్తూ. ఆ అంతరమే — పెద్ద మోడల్, అట్టడుగుకు దగ్గరి ధర — ఈ పేజీ ఉనికిలో ఉండటానికి కారణం.
01GLM ఎక్కడి నుండి వచ్చింది: సింఘువా, ఖాళీ పూరణ, మరియు ఏజెంట్ల వైపు గట్టి మలుపు
GLM అనేది పేరు మార్చిన Llama ఉత్పన్నం కాదు. ఇది తనదైన సొంత ప్రీట్రైనింగ్ లక్ష్యం కలిగిన కొద్ది మోడల్ కుటుంబాలలో ఒకటి, ఐదు సంవత్సరాలుగా అదే పరిశోధన బృందం చేత మెరుగుపరచబడింది. ఈ పేరు General Language Model అనే దానికి సంక్షిప్తం, మరియు స్థాపక పత్రం — GLM: General Language Model Pretraining with Autoregressive Blank Infilling, ACL 2022 — BERT ముసుగు భాషా మోడలింగ్కు మరియు GPT కఠిన ఎడమ-నుండి-కుడి ఆటోరిగ్రెషన్కు పక్కన మూడవ ఎంపికను ప్రతిపాదించింది. GLM ఆనుకుని ఉన్న భాగాలను ఖాళీ చేసి, వాటిని కలగలిపిన క్రమంలో ఆటోరిగ్రెసివ్గా తిరిగి ఉత్పత్తి చేస్తుంది, ద్విమితీయ స్థాన ఎన్కోడింగ్లు ఒక టోకెన్ యొక్క పాడైన పత్రంలోని స్థానాన్ని మరియు పూరించబడుతున్న భాగంలోని దాని స్థానాన్ని రెంటినీ ట్రాక్ చేస్తూ: ఒకే ఆర్కిటెక్చర్ అవగాహనను మరియు ఉత్పత్తిని సమానంగా బాగా నిర్వహిస్తుంది.
దీని వెనుక ఉన్న బృందం సింఘువా విశ్వవిద్యాలయం నాలెడ్జ్ ఇంజనీరింగ్ గ్రూప్, ఇది ఇప్పుడు Z.ai (గతంలో Zhipu AI) అని పిలవబడే కంపెనీని ఆవిర్భవింపజేసింది. దాని మొదటి ముఖ్య కళాఖండం అక్టోబర్ 2022లో వచ్చిన GLM-130B — 130-బిలియన్ పారామీటర్ల ద్విభాషా ఇంగ్లీష్/చైనీస్ దట్టమైన మోడల్, ప్రచురణ సమయంలోనే వెయిట్లు మరియు కోడ్ బహిరంగంగా విడుదల చేయబడ్డాయి. అప్పటి నుండి బహిరంగ విడుదలే ఇంటి శైలిగా ఉంది.
MoE యుగం, మరియు ఏజెంట్ల వైపు మలుపు
ఏ ఒక్క విడుదల కంటే ఈ నిరంతర దారం ఎక్కువ ముఖ్యం. GLM-4.5 నుండి, ప్రతి వెర్షన్ ఒకే విషయం కోసం ఆప్టిమైజ్ చేయబడింది: డజన్ల కొద్దీ టూల్ కాల్ల మధ్య పొందికగా ఉండటం. ఇది ఒక్క-మలుపు బెంచ్మార్క్ స్కోర్లను గరిష్ఠీకరించడం కంటే వేరే లక్ష్యం, మరియు అది తక్కువ తప్పుగా రూపొందిన టూల్ ఆర్గ్యుమెంట్లుగా, పొడవైన ప్రణాళికలో తక్కువ కదలికగా, మరియు ఏజెంట్ ఫ్రేమ్వర్క్లను ఖరీదైనవిగా చేసే "31వ మలుపులో ధైర్యంగా పనిని మళ్ళీ మొదలుపెట్టడం" ప్రవర్తన తగ్గడంగా కనిపిస్తుంది.
02GLM-5.2 ఏమిటి, మరియు అది దేనిపై కొలవబడింది
Z.ai GLM-5 రిపాజిటరీలో GLM-5.2 కోసం బెంచ్మార్క్ గణాంకాలను ప్రచురిస్తుంది. వాటిలో రెండు చిల్లర జ్ఞాపకశక్తి కంటే వాస్తవ ఏజెంటిక్ పనితో సరిపోతాయి:
Terminal-Bench 2.1 — దీర్ఘ-పరిధి కమాండ్-లైన్ ఏజెంట్ పనులు. Z.ai నివేదించినది.
SWE-bench Pro — వాస్తవ రిపాజిటరీ సమస్య పరిష్కారం. Z.ai నివేదించినది; అదే పరీక్షలో GLM-5.1 58.4 స్కోర్ చేసింది.
అవి ఆ ల్యాబ్ సంఖ్యలు, మావి కావు, మరియు అవి కుదించని పునాదిని వర్ణిస్తాయి. అవి మీరు వ్యవహరిస్తున్న మోడల్ తరగతిని స్థాపిస్తాయి, హామీని కాదు.
ఒక్క డేటా బిందువు ఒక బెంచ్మార్క్ కంటే ఎక్కువ విలువైనది, ఎందుకంటే అది మోడల్ను పొగడటానికి ఎలాంటి ప్రోత్సాహం లేని మూల్యాంకనకర్త నుండి వచ్చింది. జూలై 2026లో అమెరికా జాతీయ ప్రమాణాలు మరియు సాంకేతిక సంస్థ (NIST) యొక్క సెంటర్ ఫర్ AI స్టాండర్డ్స్ అండ్ ఇన్నోవేషన్ GLM-5.2ని అంచనా వేసి, అది విడుదలైనప్పుడు అందుబాటులో ఉన్న అత్యంత సమర్థవంతమైన ఓపెన్-వెయిట్ AI మోడల్ కావచ్చు అని ముగించింది, మొత్తం సామర్థ్యాలు GPT-5.2తో పోల్చదగినవి మరియు సైబర్ సామర్థ్యాలు Claude Opus 4.6తో పోల్చదగినవి. అదే అంచనా GLM-5.2 అమెరికా సూచన మోడల్ల కంటే తక్కువ సున్నితమైన అభ్యర్థనలను నిరోధిస్తుందని, మరియు ఓపెన్ వెయిట్లలో కాల్చిన రక్షణలను ఆ వెయిట్లు స్వయం-హోస్ట్ చేయబడిన తర్వాత తప్పించుకోవచ్చని గమనించింది. విభాగం 05 దానికి తిరిగి వస్తుంది.
03"3BIT-REAP" అంటే ఏమిటి, మరియు అది మీకు ఏమి ఖర్చు పెడుతుంది
REAP: నిపుణులను విలీనం చేయడానికి బదులుగా కత్తిరించడం
744B-పారామీటర్ల MoE మోడల్కు ఒక్కో పొరలో 256 నిపుణులు ఉంటారు, వారిలో 8 మంది ఏదైనా ఇచ్చిన టోకెన్పై పేలుతారు. రౌటర్ పనిని సమానంగా పంచదు — కొందరు నిపుణులు నిరంతరం తాకబడతారు, మరియు పొడవైన తోక అరుదుగా తాకబడుతుంది మరియు తాకినప్పుడు తక్కువ దోహదం చేస్తుంది. Cerebras Research నుండి వచ్చిన మరియు ICLR 2026కి ఆమోదించబడిన REAP (Router-weighted Expert Activation Pruning) దాన్ని ఉపయోగించుకుంటుంది: ఇది రౌటర్ ఒక నిపుణుడిని ఎంత బలంగా మరియు ఎంత తరచుగా గేట్ చేస్తుందో అనేదాన్ని అతని అవుట్పుట్ దోహదపు పరిమాణంతో కలిపే ఒక ప్రాముఖ్యతా ప్రమాణం ద్వారా ప్రతి నిపుణుడినీ స్కోర్ చేస్తుంది, ఆపై తక్కువ స్కోర్ ఉన్నవారిని శాశ్వతంగా తొలగిస్తుంది.
ఆసక్తికరమైన భాగం REAP గెలిచే పోలిక. ఒక నిపుణుడిని తొలగించడానికి స్పష్టమైన ప్రత్యామ్నాయం అతన్ని మిగిలిన ఒకరిలో విలీనం చేయడం, ఇది సురక్షితంగా అనిపిస్తుంది. 20B నుండి 1T పారామీటర్ల వరకూ MoE మోడల్లపై ఆ పత్రం కనుగొన్నది ఏమిటంటే విలీనం ఉత్పాదక పనికి నిజానికి అధ్వానం, మరియు కత్తిరింపు గమనార్హంగా బాగా నిలుస్తుంది: Qwen3-Coder-480B మరియు Kimi-K2తో సహా పునాదులపై, సగం నిపుణులను తొలగించిన తర్వాత కూడా కోడ్ ఉత్పత్తి మరియు టూల్-కాలింగ్ బెంచ్మార్క్లపై దాదాపు నష్టరహితం. కోడ్ మరియు టూల్ కాలింగ్ చెక్కుచెదరకుండా మిగలడమే — ఉనికికి కారణమే ఏజెంటిక్ ఇంజనీరింగ్ అయిన ఒక మోడల్పై మీరు సరిగ్గా కాపాడుకోవాలనుకునేది.
3-బిట్ వెయిట్లు, మరియు నిజాయితీ గల రాజీ
కత్తిరింపుకు అదనంగా, మిగిలిన వెయిట్లు 3 బిట్ల వద్ద నిల్వ చేయబడతాయి — మా శ్రేణిలో మరెక్కడో ఉన్న W4A16-AUTOROUND-REAP మరియు W8A16 శ్రేణుల కంటే మరింత దూకుడు, మరియు అతిపెద్ద పునాదులకు మాత్రమే కేటాయించబడింది — అక్కడ ముప్పావు-ట్రిలియన్-పారామీటర్ల మోడల్ను ఒక సర్వింగ్ నోడ్పైకి తెచ్చి, టోకెన్లు వాడదగిన వేగంతో ప్రవహించేలా చేయడానికి వేరే మార్గం లేదు.
కుదింపు ఉచితం కాదు. సరైన మానసిక నమూనా: కత్తిరింపు మరియు క్వాంటైజేషన్ ముందుగా పొడవైన తోకను క్షీణింపజేస్తాయి. దట్టమైన, తరచుగా వాడబడే ప్రవర్తనలు — సూచనలు పాటించడం, కోడ్ నిర్మాణం, టూల్-కాల్ ఫార్మాటింగ్, బహుళ-దశల ప్రణాళిక — బాగా బతుకుతాయి, REAP ఫలితాలు చూపేది సరిగ్గా అదే. అస్పష్టమైన వాస్తవ జ్ఞాపకం, అరుదైన భాషలు మరియు సందు-ప్రాంత చిల్లర జ్ఞానం — కుదించని GLM-5.2తో పోలిస్తే మీరు తేడాను ఆశించాల్సినది అక్కడే. మీ పనిభారం "ఒక అసాధారణ వాస్తవాన్ని కచ్చితంగా తెలుసుకోవడం" అయితే, ఎక్కువ విశ్వసనీయత శ్రేణికి చెల్లించండి. అది "నలభై టూల్ కాల్ల మధ్య దారి తప్పకుండా ఒక ప్రణాళికను నడపడం" అయితే, ఈ పద్ధతి రూపొందించబడిన శ్రేణి ఇదే.
04విలువ వాదన: ఒక చౌక సెన్సార్ లేని LLM APIని నడపడానికి నిజంగా ఎంత ఖర్చవుతుంది
GLM-5.2 కోసం Z.ai తన సొంత ప్రచురిత API జాబితా ధర మిలియన్ ఇన్పుట్ టోకెన్లకు $1.40 మరియు మిలియన్ అవుట్పుట్కు $4.40. అదే పునాదిపై మా ధర $0.73 / $2.34 — ఇన్పుట్పై సుమారు 48% తక్కువ మరియు అవుట్పుట్పై 47% తక్కువ. ఆ తగ్గింపు కుదింపు కొనిపెట్టేది, మరియు దానితో పాటు మీరు మొదటి-పక్షంలో ఏ ధరకూ కొనలేని రెండో విషయం వస్తుంది: తిరస్కరణ పొర లేకపోవడం.
మా సొంత శ్రేణిలో, మిశ్రమ ఖర్చే ముఖ్యమైన సంఖ్య. ఇక్కడ అది 3:1 ఇన్పుట్-నుండి-అవుట్పుట్ నిష్పత్తిలో ఉంది, ఆచరణలో ఒక టూల్-కాలింగ్ ఏజెంట్ కనిపించే తీరు దాదాపు అదే — లోపలికి చాలా సందర్భం మరియు టూల్ ఫలితాలు, బయటికి తులనాత్మకంగా కొన్ని టోకెన్లు.
| మోడల్ | ఇన్ / 1M | అవుట్ / 1M | మిశ్రమం 3:1 | విజన్ |
|---|---|---|---|---|
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | $1.13 | లేదు |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | $1.39 | లేదు |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | $1.50 | ఉంది |
| DeepSeek-V4-Pro-0813 · 3BIT-REAP | $1.95 | $3.90 | $2.44 | లేదు |
| inkling · W4A16-AUTOROUND-REAP | $1.42 | $6.07 | $2.58 | ఉంది |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | $7.65 | ఉంది |
ఆరు మోడల్లు $0.50 / $2.00 అట్టడుగు స్థాయిలో కూర్చుంటాయి — MiniMax-M3, DeepSeek-V4-Flash, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro మరియు Hy3 — $0.875 మిశ్రమ రేటు. GLM-5.2 ఆ అట్టడుగు కంటే 29% పైన ఉంది మరియు దాని వెనుక ఏజెంటిక్ ప్రవర్తనలో నిలకడైన పెట్టుబడి ఉన్న 744B-తరగతి పునాదిని మీకు కొనిపెడుతుంది. దాని పైన ధర ఉన్న ప్రతిదీ మిశ్రమంగా కనీసం 23% ఎక్కువ ఖర్చవుతుంది, మరియు Kimi-K3 6.8× ఎక్కువ ఖర్చవుతుంది. అదే ఒక్క వరుసలో విలువ వాదన: శ్రేణిలో అగ్రశ్రేణి ఏజెంటిక్ పునాదిని కొనడానికి అత్యంత చౌక చోటు.
పనిగా మార్చినప్పుడు
- ఒక పూర్తి సందర్భ నింపు — 262,144 ఇన్పుట్ టోకెన్లు: $0.19. ఇరవై సెంట్ల లోపే ఒక పూర్తి పెద్ద రిపాజిటరీ విండోలోకి చదవబడుతుంది.
- ఒక గరిష్ఠ-పొడవు పూర్తి — 16,384 అవుట్పుట్ టోకెన్లు: $0.038.
- ఒక ఏజెంట్ మలుపు — 20K ఇన్, 2K అవుట్: $0.019. అదే మలుపు Kimi-K3పై $0.115 మరియు DeepSeek-V4-Proపై $0.047 ఖర్చవుతుంది.
- వంద ఏజెంట్ మలుపులు: $1.93, శ్రేణిలో అత్యంత ఖరీదైన మోడల్పై $11.48తో పోలిస్తే.
ఏజెంటిక్ పనిభారాలు ఇన్పుట్-భారమైనవి, మరియు GLM ఆధిక్యం సరిగ్గా అక్కడే అతిపెద్దది: దాని ఇన్పుట్ ధర Kimi-K3 కంటే 5.2× తక్కువ మరియు DeepSeek-V4-Pro కంటే 2.7× తక్కువ. మీ ఏజెంట్ ప్రతి మలుపులో పెరుగుతున్న సంభాషణను తిరిగి పంపితే — మరియు దాదాపు ప్రతి ఏజెంట్ అలాగే చేస్తుంది — ఆ గుణకమే మీ ఇన్వాయిస్పై చేరుతుంది.
05ఈ ఎండ్పాయింట్పై "సెన్సార్ లేనిది" అంటే ఏమిటి
కచ్చితంగా రెండు విషయాలు: తిరస్కరణ పొర లేదు — మోడల్ ఏ అభ్యర్థనలను చూడటానికి అనుమతించబడిందో నిర్ణయించే వర్గీకరణి లేదు, మరియు మీ ప్రాంప్ట్ చేరుకోకముందే దాన్ని తిరగరాసే విధాన మోడల్ లేదు — మరియు అవుట్పుట్ ఫిల్టరింగ్ లేదు, అంటే మోడల్ ఉత్పత్తి చేసే టోకెన్లే మీరు అందుకునే టోకెన్లు, మార్పు చేయబడకుండా, మార్చబడకుండా.
"సడలించిన" లేదా "డెవలపర్" మోడ్ను ప్రకటించే వాణిజ్య API నుండి ఇది వేరే ప్రతిపాదన. అవి ఇప్పటికీ ట్రాఫిక్ను ఒక విక్రేత విధాన స్టాక్ ద్వారా మళ్ళిస్తాయి; మారేది గడువు స్థాయి, గేటు ఉనికి కాదు. ఇక్కడ ట్యూన్ చేయడానికి గేటే లేదు — మోడల్ మా స్వంత GPU క్లస్టర్పై నడుస్తుంది, మరియు దాని ప్రవర్తన పునాది ప్రవర్తనే. విభాగం 02లోని NIST CAISI ఫలితాన్ని హెచ్చరికగా కాక సాంకేతిక ప్రకటనగా చదవండి, అది ఉత్పత్తిని వివరిస్తుంది: తన సమలేఖనం తన వెయిట్లలో నివసించే మోడల్, బాహ్య విధాన పొర లేకుండా అందించబడితే, తన వెయిట్ల ప్రకారం ప్రవర్తిస్తుంది.
ఇది ప్రత్యేకంగా ఏజెంట్లకు ఎందుకు ముఖ్యం
తిరస్కరణలు సాధారణంగా ఒక కంటెంట్ ప్రశ్నగా చర్చించబడతాయి. ఏజెంటిక్ పనిలో అవి ప్రధానంగా ఒక విశ్వసనీయత ప్రశ్న. 40-మలుపుల పరుగులో 31వ మలుపులో వచ్చే తిరస్కరణ అంటే మీరు చదివి ముందుకు సాగే మర్యాదపూర్వక నిరాకరణ కాదు — అది తప్పుగా రూపొందిన దశ, ఎలా ముందుకు సాగాలో తెలియని ఆర్కెస్ట్రేటర్, విరిగిన ప్రణాళిక, మరియు చూపడానికి ఏమీ లేకుండా ఖర్చైన 30 మలుపులు. భద్రతా పరిశోధన, మాల్వేర్ విశ్లేషణ, పెనెట్రేషన్ టెస్టింగ్, రెడ్-టీమింగ్, వయోజన కల్పన, వైద్య మరియు న్యాయ ముసాయిదా రచన, మరియు భద్రతా శిక్షణ కోసం డేటాసెట్ ఉత్పత్తి — ఇవన్నీ దీన్ని నిరంతరం ఎదుర్కొంటాయి, మరియు ఆ వైఫల్యం ఖరీదైనది సరిగ్గా అది ఆలస్యంగా వచ్చిపడటం వల్లే.
మరో వైపు ఏమిటంటే విధాన పొర ఇప్పుడు మీది. Shannon AI గేట్వే వాడకం మా బాధ్యతాయుత వినియోగ విధానం ద్వారా నియంత్రించబడుతుంది; ఒక విక్రేత తీర్పును లూప్ నుండి తొలగించడం అంటే మీ సొంతదాన్ని సమకూర్చడం.
06ఈ ఎండ్పాయింట్ నిజంగా మీకు ఏమి ఇస్తుంది
| సామర్థ్యం | GLM-5.2 · 3BIT-REAP |
|---|---|
| మోడల్ id | GLM-5.2-3BIT-REAP |
| సందర్భ విండో | 262,144 టోకెన్లు |
| ఒక్కో అభ్యర్థనకు గరిష్ఠ అవుట్పుట్ | 16,384 టోకెన్లు |
| స్ట్రీమింగ్ | ఉంది |
| టూల్ కాలింగ్ | ఉంది |
తర్కం / reasoning_effort | ఉంది |
JSON స్కీమా (json_schema) | ఉంది |
response_format | ఉంది |
| విజన్ / చిత్ర ఇన్పుట్ | లేదు — కేవలం టెక్స్ట్ |
| తిరస్కరణ పొర / అవుట్పుట్ ఫిల్టరింగ్ | ఏదీ లేదు |
మీరు నిర్మించడం మొదలుపెట్టే ముందు విజన్ వరుసను జాగ్రత్తగా చదవండి. మా గేట్వేపై GLM-5.2 కేవలం టెక్స్ట్ మాత్రమే. మీకు చిత్ర ఇన్పుట్ కావాలంటే, శ్రేణిలో ఐదు విజన్-సామర్థ్య ఎంపికలు ఉన్నాయి — $0.50 / $2.00 అట్టడుగు వద్ద MiniMax-M3 మరియు MiMo-V2.5, $0.78 / $3.67 వద్ద Kimi-K2.6, $1.42 / $6.07 వద్ద inkling, మరియు $3.83 / $19.12 వద్ద Kimi-K3. చిత్ర అవగాహనను MiniMax-M3కి మరియు మిగతా అంతటినీ GLM-5.2కి మళ్ళించడం ఒక తెలివైన నమూనా, మరియు దానికి ఒక మోడల్ స్ట్రింగ్ కంటే ఎక్కువ ఏమీ ఖర్చు కాదు.
మూడు మాండలికాలు, ఒకే మోడల్
అదే మోడల్ మూడు అభ్యర్థన ఫార్మాట్ల ద్వారా అందుబాటులో ఉంది, అన్నీ స్ట్రీమింగ్: /v1/chat/completions (OpenAI మాండలికం), /v1/messages (Anthropic మాండలికం), మరియు /v1/responses. వాటి మధ్య మోడల్ గురించి ఏదీ మారదు — మీ SDK ఇప్పటికే మాట్లాడేదాన్ని ఎంచుకోండి, మరియు మీరు సాధారణంగా ఒక బేస్-URL మార్పు దూరంలోనే నడపగలుగుతారు.
# OpenAI మాండలికం — మీ ప్రస్తుత క్లయింట్ను గేట్వే వైపు చూపండి from openai import OpenAI client = OpenAI( base_url="https://api.shannon-ai.com/v1", api_key="sk-...", ) resp = client.chat.completions.create( model="GLM-5.2-3BIT-REAP", messages=[{"role": "user", "content": "..."}], tools=tools, # టూల్ కాలింగ్కు మద్దతు ఉంది reasoning_effort="medium", # low | medium | high stream=True, )
మూడు మాండలికాలకూ పూర్తి అభ్యర్థన మరియు ప్రతిస్పందన స్కీమాలు, టూల్-కాలింగ్ ఫార్మాట్, స్ట్రీమింగ్ ఈవెంట్ ఆకారాలు, మరియు ఒక ఇంటరాక్టివ్ ప్లేగ్రౌండ్ Shannon AI API డాక్యుమెంటేషన్లో ఉన్నాయి.
07GLM-5.2ని ఎప్పుడు ఎంచుకోవాలి — మరియు ఎప్పుడు వద్దు
దీన్ని ఎంచుకోండి ఎప్పుడంటే
- మీరు ఏజెంట్లను నడుపుతున్నప్పుడు. పొడవైన టూల్-కాలింగ్ లూప్ల కోసమే ఈ వంశం నిర్మించబడింది మరియు పదేపదే పోస్ట్-ట్రైన్ చేయబడింది, మరియు ఇన్పుట్ ధర పెరుగుతున్న సంభాషణను ప్రతి మలుపులో తిరిగి పంపడాన్ని భరించదగినదిగా చేస్తుంది.
- మీరు పెద్ద కోడ్బేస్ అంతటా పని చేస్తున్నప్పుడు. 262K సందర్భం, నమ్మదగిన టూల్-కాల్ ఫార్మాటింగ్, మరియు మొత్తం విండోను చదవడానికి $0.19.
- పరిమాణమే మీ పరిమితి అయినప్పుడు. వర్గీకరణ, వెలికితీత, కృత్రిమ డేటా ఉత్పత్తి, భారీ తిరగరాత — ఒక్కో కాల్ ఖర్చు పెద్ద సంఖ్యతో గుణించబడి ప్రాజెక్ట్ సాధ్యమా కాదా అనేది నిర్ణయించే ఏదైనా.
- తిరస్కరణలు మీ పైప్లైన్ను విరుస్తున్నప్పుడు. భద్రతా పరిశోధన, ప్రతికూల పరీక్ష, సెన్సార్ లేని కల్పన, సున్నితమైన ముసాయిదా రచన — ఇక్కడ ఆ వైఫల్య రూపం లేదు.
వేరేదాన్ని ఎంచుకోండి ఎప్పుడంటే
- మీకు విజన్ కావాలి. కేవలం టెక్స్ట్. పైన ఉన్న విజన్-సామర్థ్య ఎంపికలు చూడండి.
- మీకు అత్యంత లోతైన ఒక్క-మలుపు తర్కం కావాలి. అత్యంత కఠినమైన ఒక్క-షాట్ విశ్లేషణాత్మక సమస్యలకు, DeepSeek-V4-Pro-0813 · 3BIT-REAP అనేది 2.2× మిశ్రమ ఖర్చుకు బరువైన పరికరం — గరిష్ఠ స్థాయే పరిమితిగా ఉన్న కాల్లపై, అదే సరైన రాజీ.
- మీకు అస్పష్టమైన జ్ఞానంపై గరిష్ఠ విశ్వసనీయత కావాలి.
W8A16శ్రేణి — MiMo-V2.5-Pro మరియు Hy3 — చాలా తక్కువ దూకుడుగా కుదించబడింది మరియు చిన్న పునాదులపై $0.50 / $2.00 అట్టడుగు వద్ద కూర్చుంటుంది.
ఈ పేజీలోని ప్రతి పునాది గణాంకమూ మేము కాక వేరొకరు ప్రచురించినది. ధర మరియు సామర్థ్య గణాంకాలు మా సొంత ప్రత్యక్ష శ్రేణి విలువలు, మీ సొంత కీపై /v1/modelsకు వ్యతిరేకంగా ధృవీకరించదగినవి. ప్రాథమిక మూలాలను మీరే తనిఖీ చేయండి.
GLM-5.2 బెంచ్మార్క్ గణాంకాలు (Terminal-Bench 2.1, SWE-bench Pro) కుదించని పునాది కోసం Z.ai నివేదించినవి; స్వతంత్ర పునరుత్పత్తి ఇంకా రాలేదు. Claude Opus 4.8 మరియు GPT-5.5 గణాంకాలు కేవలం సూచన కోసం చూపబడ్డాయి. మొదటి-పక్ష GLM-5.2 API జాబితా ధర Z.ai ప్రచురించినట్లు, సెప్టెంబర్ 2026.
08తరచుగా అడిగే ప్రశ్నలు
Shannon AIలో సెన్సార్ లేని GLM API అంటే ఏమిటి?
ఇది Shannon AI గేట్వేలోని మోడల్ id GLM-5.2-3BIT-REAP: Z.ai GLM-5.2 ఏజెంటిక్ పునాది కుదించిన బిల్డ్, మా స్వంత GPU క్లస్టర్పై తిరస్కరణ పొర లేకుండా మరియు అవుట్పుట్ ఫిల్టరింగ్ లేకుండా అందించబడుతుంది. దీని ఖరీదు మిలియన్ ఇన్పుట్ టోకెన్లకు $0.73 మరియు మిలియన్ అవుట్పుట్ టోకెన్లకు $2.34, ఇది 262,144-టోకెన్ సందర్భ విండోను మోస్తుంది, మరియు /v1/chat/completions, /v1/messages మరియు /v1/responsesపై అందుబాటులో ఉంటుంది.
శ్రేణిలోని ఇతర పెద్ద మోడల్ల కంటే సెన్సార్ లేని GLM 5.2 ఎందుకు చౌక?
అది ఎలా కుదించబడిందో దాని వల్ల. 3BIT-REAP అనేది 3-బిట్ వెయిట్లను REAPతో కలుపుతుంది — REAP అంటే నిపుణుల-మిశ్రమ మోడల్ల కోసం ఒక నిపుణుల-కత్తిరింపు పద్ధతి, ఇది క్వాంటైజ్ చేయడానికి ముందు అరుదుగా రూట్ చేయబడిన నిపుణులను తొలగిస్తుంది. ఒక్కో టోకెన్కు సుమారు 40B క్రియాశీల పారామీటర్లు ఉన్న ఒక విరళ MoE పునాది, ఈ విధంగా కత్తిరించి క్వాంటైజ్ చేసినప్పుడు, సమాన నాణ్యత గల దట్టమైన మోడల్ కంటే ఎంతో తక్కువ మెమరీని మరియు ఒక్కో టోకెన్కు ఎంతో తక్కువ GPU-సెకన్లను ఆక్రమిస్తుంది, మరియు ధర దాన్ని ప్రతిబింబిస్తుంది.
తిరస్కరణ లేని GLM అంటే మోడల్కు అసలు ఎలాంటి రక్షణ కంచెలూ లేవని అర్థమా?
అంటే Shannon ఏవీ జోడించదని అర్థం. మోడల్ ముందు తిరస్కరణ వర్గీకరణి లేదు మరియు దాని నుండి బయటకు వచ్చే టోకెన్లపై ఫిల్టర్ లేదు. దాని సొంత శిక్షణ ఇచ్చిన స్వభావాలు ఏవైనా పునాది వాటిని నిలుపుకుంటుంది, కానీ బాహ్యంగా ఏదీ వాటిని అధిగమించదు. విధాన పొర మీది, మరియు వినియోగం Shannon AI బాధ్యతాయుత వినియోగ విధానానికి లోబడి ఉంటుంది.
GLM-5.2 3BIT-REAP విజన్కు లేదా చిత్ర ఇన్పుట్కు మద్దతు ఇస్తుందా?
లేదు. ఈ మోడల్ కేవలం టెక్స్ట్ మాత్రమే. సెన్సార్ లేని ఎండ్పాయింట్పై మీకు చిత్ర ఇన్పుట్ కావాలంటే, శ్రేణిలోని విజన్-సామర్థ్య మోడల్లలో ఒకదాన్ని వాడండి — MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 లేదా inkling వంటివి. GLM-5.2 నిర్మాణాత్మక అవుట్పుట్కు మద్దతు ఇస్తుంది — json_schema మరియు response_format రెండింటికీ — మరియు టూల్ కాలింగ్కు కూడా.
సందర్భ విండో మరియు గరిష్ఠ అవుట్పుట్ పొడవు ఎంత?
262,144 టోకెన్ల సందర్భం మరియు ఒక్కో అభ్యర్థనకు 16,384 టోకెన్ల అవుట్పుట్. మిలియన్ ఇన్పుట్ టోకెన్లకు $0.73 చొప్పున మొత్తం సందర్భ విండోను ఒకసారి నింపడానికి సుమారు 19 సెంట్లు ఖర్చవుతుంది, మరియు గరిష్ఠ-పొడవు పూర్తికి 4 సెంట్ల లోపే ఖర్చవుతుంది.
పొడవైన టూల్-కాలింగ్ లూప్లకు ఇది మంచి ఏజెంటిక్ సెన్సార్ లేని మోడలా?
మేము మొదట చేతికి తీసుకునేది ఇదే. GLM వంశం GLM-4.5 నుండి ఏజెంటిక్ పని కోసం స్పష్టంగా శిక్షణ పొందింది, టూల్ కాలింగ్ మరియు reasoning_effort రెండింటికీ మద్దతు ఉంది, మరియు ఈ ధర అంటే వంద ఇరవై-వేల-టోకెన్ ఏజెంట్ మలుపులకు పదకొండు డాలర్లకు బదులు సుమారు రెండు డాలర్లు ఖర్చవుతుంది. ఏజెంట్ లూప్లలో తిరస్కరణలు కూడా ఒక నిజమైన వైఫల్య రూపం, మరియు ఇక్కడ దాన్ని ప్రేరేపించడానికి తిరస్కరణ పొరే లేదు.
సెన్సార్ లేని GLM APIని ప్రయత్నించండి
$0.73 ఇన్ · $2.34 అవుట్ · 262K సందర్భం · తిరస్కరణ పొర లేదు.
API డాక్స్ చదవండి అన్ని మోడల్లను బ్రౌజ్ చేయండిShannon Lab LLC, న్యూ మెక్సికో, USA · వినియోగం బాధ్యతాయుత వినియోగ విధానం ద్వారా నియంత్రించబడుతుంది
మూలాలు: Z.ai GLM-5 రిపాజిటరీ · Du et al., GLM: General Language Model Pretraining with Autoregressive Blank Infilling, ACL 2022 · Zeng et al., GLM-130B: An Open Bilingual Pre-trained Model · Lasby et al., REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression, ICLR 2026 · NIST CAISI Assessment of Z.ai's GLM-5.2, జూలై 2026. పునాది బెంచ్మార్క్ స్కోర్లు ల్యాబ్ నివేదించినవి మరియు తాత్కాలికమైనవి; అవి కుదించని GLM-5.2ని వర్ణిస్తాయి, ఈ కుదించిన బిల్డ్ను కాదు. ధర, సందర్భం మరియు సామర్థ్య గణాంకాలు సెప్టెంబర్ 5, 2026 నాటి Shannon AI శ్రేణి విలువలు.