Onzenséiert GLM-API: déi bescht Leeschtung pro Token
Dem Z.ai seng agentesch GLM-Basis, servéiert ouni Refus-Schicht op eisem eegene GPU-Cluster — 262K Kontext, Tool-Calling, an e Mëschpräis ënner der Hallschent vun deem, wat déiselwecht Ofstamung beim Ubidder selwer kascht.
Kuerz gesot
GLM-5.2-3BIT-REAP ass de Modell um Shannon-AI-Gateway deen mir standardméisseg recommandéieren. Et leeft eng spuersam Mixture-of-Experts-Basis mat 744 Milliarde Parameter aus der GLM-Ofstamung — zënter GLM-4.5 ausdrécklech fir d'agentescht Benotze vun Tools trainéiert — komprimméiert mat 3-Bit-Gewiichter a REAP-Pruning vun Experten, sou datt et passt a séier bleift. Du kriss e Kontext vun 262,144 Token, 16,384 Token Output, Tool-Calling, Raisonnéierung mat verstellbarem reasoning_effort, a strukturéierten Output mat JSON Schema, fir $0.73 / $2.34 pro Millioun Token. Et gëtt keng Refus-Schicht a kee Outputfilter. Nëmmen Text — keng Vision.
Déi meescht Verglach vum „bëllegste Modell“ sinn oneierlech, well déi bëlleg Optioun normalerweis e klenge Modell ass deen d'Marketing vun engem groussen undréit. Dat ass hei net de Fall. GLM-5.2 ass eng vun de gréissten Open-Weights-Basen déi iwwerhaapt jee verëffentlecht gouf, a mat $0.73 eran / $2.34 eraus sëtzt et eng Spross iwwer dem Buedem vun eisem Katalog, wärend et eng Basis dréit déi e Vilfacht vun deem ass, wat dee Buedem soss kritt. Déi Lück — grousse Modell, bal Buedempräis — ass de Grond firwat dës Säit existéiert.
01Wou GLM hierkënnt: Tsinghua, Blank Infilling, an eng haart Wendung Richtung Agenten
GLM ass keng ëmetikettéiert Llama-Ofleedung. Et ass eng vun de wéinege Modellfamillje mat engem eegene Virtrainingsziel, dat vun der selwechter Fuerschungsgrupp fënnef Joer laang weiderentwéckelt gouf. Den Numm steet fir General Language Model, an de Grënnungspabeier — GLM: General Language Model Pretraining with Autoregressive Blank Infilling, ACL 2022 — huet eng drëtt Optioun nieft dem BERT senger maskéierter Sproochmodelléierung an dem GPT senger strikter Autoregressioun vu lénks no riets virgeschloen. GLM streicht zesummenhänkend Ofschnëtter eraus a generéiert se autoregressiv an enger gemëschter Reiefolleg nei, mat zweedimensionale Positiounskodéierungen déi souwuel d'Positioun vun engem Token am verfälschten Dokument wéi och seng Positioun am Ofschnëtt deen gefëllt gëtt verfollegen: eng eenzeg Architektur déi Verständnis a Generatioun gläich gutt beherrscht.
D'Grupp dohannert war d'Knowledge Engineering Group vun der Tsinghua-Universitéit, aus där d'Firma ervirgaangen ass déi haut als Z.ai bekannt ass (fréier Zhipu AI). Hiert éischt opfällegt Artefakt war GLM-130B am Oktober 2022 — en zweesproochegt englesch-chinesescht dicht Modell mat 130 Milliarde Parameter, Gewiichter a Code ëffentlech verëffentlecht zum Zäitpunkt vun der Publikatioun. Offen Verëffentlechung ass zënterhier den Hausstil.
D'MoE-Ära, an den Dréi Richtung Agenten
De roude Fuedem zielt méi wéi eng eenzel Verëffentlechung. Zënter GLM-4.5 gouf all Versioun op dat selwecht optimiséiert: iwwer Dutzende vun Tool-Calls hi kohärent bleiwen. Dat ass en anert Zil wéi d'Maximéiere vu Benchmarkpunkte bei enger eenzeger Ronn, an et weist sech an manner falsch geformten Toolargumenter, manner Ofdrëft an engem laange Plang, a manner vun deem Verhalen wou de Modell „an der Ronn 14 selbstbewosst d'Aufgab vu vir ufänkt“, dat Agentframeworken deier mécht.
02Wat GLM-5.2 ass, a wourop et gemooss gouf
Z.ai publizéiert Benchmarkzuele fir GLM-5.2 am GLM-5-Repository. Zwou dovun entspriechen richteger agentescher Aarbecht an net dem Ofruff vu Faktewëssen:
Terminal-Bench 2.1 — Agenteaufgaben op der Kommandozeil iwwer laang Horizonter. Vum Z.ai bericht.
SWE-bench Pro — d'Léise vun Issuen a richtege Repositoiren. Vum Z.ai bericht; GLM-5.1 huet um selwechten Test 58.4 erreecht.
Dat sinn dem Labo seng Zuelen, net eis, a si beschreiwen déi onkomprimméiert Basis. Si leeë fest, mat wéi enger Klass vu Modell s du et ze dinn hues, a si si keng Garantie.
Ee Datepunkt ass méi wäert wéi e Benchmark, well en vun engem Evaluateur kënnt deen kee Grond huet, de Modell ze schmeechelen. Am Juli 2026 huet d'Center for AI Standards and Innovation vum US-amerikaneschen National Institute of Standards and Technology GLM-5.2 bewäert an ass zum Schluss komm, datt et wahrscheinlech dee fäegsten Open-Weights-AI-Modell war deen zum Zäitpunkt vu senger Verëffentlechung verfügbar war, mat Gesamtfäegkeete vergläichbar mat GPT-5.2 a Cyberfäegkeete vergläichbar mat Claude Opus 4.6. Déiselwecht Bewäertung huet festgestallt, datt GLM-5.2 manner sensibel Ufroe spärt wéi US-Referenzmodeller, an datt Schutzmoossnamen déi an offe Gewiichter agebak sinn ëmgaange ka ginn, wann déi Gewiichter selwer gehost ginn. D'Sektioun 05 kënnt dorop zréck.
03Wat „3BIT-REAP“ heescht, a wat et dech kascht
REAP: Experte pruningen amplaz se ze fusionéieren
E MoE-Modell mat 744B Parameter huet 256 Experte pro Schicht, vun deenen 8 bei engem gegebene Token feieren. De Router deelt d'Aarbecht net gläichméisseg op — e puer Experte ginn dauernd getraff, an e laange Schwanz gëtt selten getraff a steiert wéineg bäi, wann e getraff gëtt. REAP (Router-weighted Expert Activation Pruning), vu Cerebras Research an ugeholl fir ICLR 2026, notzt dat aus: et bewäert all Expert no engem Salienzkrittär dat wéi staark a wéi dacks de Router en usteiert mat der Gréisst vu sengem Bäitrag zum Output kombinéiert, a läscht dann déi mat déifen Wäerter definitiv.
Dee spannenden Deel ass de Verglach deen REAP gewënnt. Déi offensichtlech Alternativ zum Läsche vun engem Expert ass et an en Iwwerliewenden ze fusionéieren, wat méi sécher kléngt. D'Erkenntnes vum Pabeier iwwer MoE-Modeller vun 20B bis 1T Parameter ass, datt d'Fusionéiere fir generativ Aarbecht tatsächlech méi schlecht ass, an datt d'Pruning bemierkenswäert gutt hält: bal verloschtfräi op Benchmarke fir Codegeneratioun an Tool-Calling, souguer nodeems d'Hallschent vun den Experten ewechgeholl gouf, op Basen dorënner Qwen3-Coder-480B a Kimi-K2. Datt Code an Tool-Calling onversiert iwwerliewen ass genee dat wat s du op engem Modell erhale wëlls, deem säi Grond fir ze existéieren agentescht Ingenieurswiesen ass.
3-Bit-Gewiichter, an den éierlechen Ofstrich
Uewendrop op d'Pruning ginn déi iwwreg Gewiichter mat 3 Bit gespäichert — méi aggressiv wéi d'Stufe W4A16-AUTOROUND-REAP a W8A16 soss an eisem Katalog, a reservéiert fir déi gréisste Basen, wou et keen anere Wee gëtt fir e Modell mat dräi Véierel vun enger Billioun Parameter op e Servernoud ze kréien an d'Token an engem brauchbaren Tempo fléisse ze loossen.
Kompressioun ass net gratis. Dat richtegt mentaalt Modell: Pruning a Quantiséierung degradéieren als éischt de laange Schwanz. Dicht, dacks benotzte Verhalen — Instruktiounsfollegen, Codestruktur, d'Formatéiere vun Tool-Calls, Planung iwwer méi Schrëtt — iwwerliewe gutt, an dat ass genee wat d'REAP-Resultater weisen. Bei obskurem Faktewëssen, seltene Sprooche a Fachtrivia solls du en Ënnerscheed zu engem onkomprimméierte GLM-5.2 erwaarden. Wann deng Aarbechtslaascht „en ongewéinleche Fakt aus dem Kapp wëssen“ ass, dann bezuel fir eng Stuf mat méi héijer Tréischtheet. Wann se „e Plang iwwer véierzeg Tool-Calls duerchzéien ouni aus der Bunn ze kommen“ ass, dann ass dat d'Stuf fir déi d'Method entwéckelt gouf.
04De Wäertfall: wat eng bëlleg onzenséiert LLM-API wierklech am Betrib kascht
Dem Z.ai säin eegene publizéierte API-Lëschtepräis fir GLM-5.2 ass $1.40 pro Millioun Input-Token an $4.40 pro Millioun Output. Eise Präis op der selwechter Basis ass $0.73 / $2.34 — ronn 48 % manner um Input a 47 % manner um Output. Dee Rabatt ass dat wat d'Kompressioun kaaft, an et kënnt mat enger zweeter Saach déi s du beim Ubidder selwer zu kengem Präis kanns kafen: keng Refus-Schicht.
Bannent eisem eegene Katalog ass de Mëschpräis déi Zuel déi zielt. Hei ass en op engem Verhältnis vun 3:1 tëscht Input an Output, ongeféier esou wéi en Agent mat Tool-Calling an der Praxis ausgesäit — vill Kontext an Toolresultater eran, vergläichsweis wéineg Token eraus.
| Modell | Eran / 1M | Eraus / 1M | Mësch 3:1 | Vision |
|---|---|---|---|---|
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | $1.13 | Nee |
| Nemotron3Ultra · 3BIT-REAP | $0.75 | $3.30 | $1.39 | Nee |
| Kimi-K2.6 · W4A16-AUTOROUND-REAP | $0.78 | $3.67 | $1.50 | Jo |
| DeepSeek-V4-Pro-0813 · 3BIT-REAP | $1.95 | $3.90 | $2.44 | Nee |
| inkling · W4A16-AUTOROUND-REAP | $1.42 | $6.07 | $2.58 | Jo |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | $7.65 | Jo |
Sechs Modeller sëtzen um Buedem vu $0.50 / $2.00 — MiniMax-M3, DeepSeek-V4-Flash, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro an Hy3 — e Mëschpräis vun $0.875. GLM-5.2 läit 29 % iwwer deem Buedem a kritt dir eng Basis vun der 744B-Klass mat enger nohalteger Investitioun an agentescht Verhalen dohannert. Alles wat iwwer him läit kascht am Mësch mindestens 23 % méi, a Kimi-K3 kascht 6.8× méi. Dat ass d'Wäertargument an enger Zeil: déi bëllegst Plaz am Katalog fir eng agentesch Spëtzebasis ze kafen.
An Aarbecht ëmgerechent
- Eng komplett Kontextfëllung — 262,144 Input-Token: $0.19. E ganze grousse Repository an d'Fënster gelies fir ënner zwanzeg Cent.
- Eng Vervollstännegung a maximaler Längt — 16,384 Output-Token: $0.038.
- Eng Agenteronn — 20K eran, 2K eraus: $0.019. Déiselwecht Ronn kascht $0.115 op Kimi-K3 an $0.047 op DeepSeek-V4-Pro.
- Honnert Agenteronnen: $1.93, géint $11.48 um deiersten Modell am Katalog.
Agentesch Aarbechtslaaschte si input-schwéier, an dem GLM säi Virdeel ass genee do am gréissten: säin Input-Präis läit 5.2× ënner deem vu Kimi-K3 an 2.7× ënner deem vu DeepSeek-V4-Pro. Wann däin Agent all Ronn eng wuessend Konversatioun nei schéckt — a bal all Agent mécht dat — ass dee Faktor dat wat um Enn op denger Rechnung steet.
05Wat „onzenséiert“ op dësem Endpunkt heescht
Zwou Saachen, präzis: keng Refus-Schicht — kee Klassifikateur dee entscheet, wéi eng Ufroen de Modell dierf gesinn, a kee Politikmodell dat däi Prompt ëmschreift ier en ukënnt — a keng Filterung vum Output, dat heescht, d'Token déi de Modell produzéiert sinn d'Token déi s du kriss, ongeschwäerzt an ongetauscht.
Dat ass eppes anescht wéi eng kommerziell API déi e „relaxten“ oder „Entwéckler“-Modus bewäert. Déi leeden den Trafic ëmmer nach duerch d'Politikstack vun engem Ubidder; wat sech ännert ass d'Schwell an net d'Existenz vun der Paart. Hei gëtt et keng Paart déi ee justéiere kéint — de Modell leeft op eisem eegene GPU-Cluster, a säi Verhalen ass d'Verhalen vun der Basis. Lies d'Feststellung vun NIST CAISI aus der Sektioun 02 als technesch Ausso an net als Warnung an et erkläert d'Produkt: e Modell deem säin Alignment a senge Gewiichter lieft, servéiert ouni extern Politikschicht, behuelt sech no senge Gewiichter.
Firwat dat speziell fir Agenten zielt
Refuse ginn normalerweis als Inhaltsfro diskutéiert. An der agentescher Aarbecht si se meeschtens eng Fro vun der Zouverlässegkeet. E Refus an der Ronn 31 vun engem Laf mat 40 Ronnen ass keng héiflech Ofso déi s du liess an dann hannert dir léiss — et ass e falsch geformte Schrëtt, en Orchestrateur deen net weess wéi virugoen, e futtise Plang, an 30 Ronnen u verbrauchten Token ouni Resultat. Sécherheetsfuerschung, Malwareanalys, Penetratiounstester, Red-Teaming, Fiktioun fir Erwuessener, medizinesch a juristesch Entwërf an d'Generéiere vun Datesätz fir Sécherheetstraining stoussen dauernd dorop, an de Feeler ass genee dofir deier, well en spéit ukënnt.
D'Kéiersäit ass, datt d'Politikschicht elo deng ass. D'Notzung vum Shannon-AI-Gateway ass duerch eis Politik fir verantwortlech Notzung geregelt; dem Ubidder säi Beurteelen aus der Schleef ze huelen heescht, datt s du däint eegent liwwers.
06Wat den Endpunkt dir wierklech gëtt
| Fäegkeet | GLM-5.2 · 3BIT-REAP |
|---|---|
| Modell-Id | GLM-5.2-3BIT-REAP |
| Kontextfenster | 262,144 Token |
| Max. Output pro Ufro | 16,384 Token |
| Streaming | Jo |
| Tool-Calling | Jo |
Raisonnéierung / reasoning_effort | Jo |
JSON Schema (json_schema) | Jo |
response_format | Jo |
| Vision / Billerinput | Nee — nëmmen Text |
| Refus-Schicht / Outputfilterung | Keng |
Lies d'Vision-Zeil genee, ier s du baus. GLM-5.2 ass op eisem Gateway nëmmen Text. Wann s du Billerinput brauchs, huet de Katalog fënnef visiounsfäeg Optiounen — MiniMax-M3 a MiMo-V2.5 um Buedem vu $0.50 / $2.00, Kimi-K2.6 fir $0.78 / $3.67, inkling fir $1.42 / $6.07, a Kimi-K3 fir $3.83 / $19.12. E sënnvollt Muster ass, d'Billerverständnis op MiniMax-M3 ze leeden an alles anescht op GLM-5.2, wat näischt méi kascht wéi en anere Modellstring.
Dräi Dialekter, ee Modell
De selwechte Modell ass iwwer dräi Ufroformater erreechbar, all mat Streaming: /v1/chat/completions (OpenAI-Dialekt), /v1/messages (Anthropic-Dialekt), an /v1/responses. Um Modell selwer ännert sech tëscht hinnen näischt — wiel dee vun deem däi SDK scho schwätzt, an du bass meeschtens eng Ännerung vun der Basis-URL vum Lafen ewech.
# OpenAI-Dialekt — riicht däi bestehende Client op de Gateway from openai import OpenAI client = OpenAI( base_url="https://api.shannon-ai.com/v1", api_key="sk-...", ) resp = client.chat.completions.create( model="GLM-5.2-3BIT-REAP", messages=[{"role": "user", "content": "..."}], tools=tools, # Tool-Calling ënnerstëtzt reasoning_effort="medium", # low | medium | high stream=True, )
Déi voll Ufro- an Äntwertschemae fir all dräi Dialekter, d'Format vum Tool-Calling, d'Forme vun de Streaming-Evenementer an en interaktive Playground sinn an der API-Dokumentatioun vu Shannon AI.
07Wéini GLM-5.2 wielen — a wéini net
Gräif dono wann
- Du Agenten leefs. Laang Tool-Calling-Schleefe si genee dat, wofir dës Ofstamung gebaut a widderholl nachtrainéiert gouf, an den Input-Präis mécht et bezuelbar, all Ronn eng wuessend Konversatioun nei ze schécken.
- Du iwwer eng grouss Codebasis schaffs. 262K Kontext, zouverlässeg Formatéierung vun Tool-Calls, an $0.19 fir dat ganzt Fënster ze liesen.
- D'Volumen deng Grenz ass. Klassifikatioun, Extraktioun, Generéiere vu synthetesche Daten, Massenëmschreiwen — alles wou d'Käschte pro Opruff mol eng grouss Zuel entscheeden, ob de Projet machbar ass.
- Refuse deng Pipeline futti maachen. Sécherheetsfuerschung, adversariell Tester, onzenséiert Fiktioun, sensibel Entwërf — dee Feelermodus gëtt et hei net.
Gräif no eppes anerem wann
- Du Vision brauchs. Nëmmen Text. Kuck déi visiounsfäeg Optiounen hei uewen.
- Du déi déifste Raisonnéierung an enger eenzeger Ronn brauchs. Fir déi schwéierst analytesch Problemer op een Aacht ass DeepSeek-V4-Pro-0813 · 3BIT-REAP dat méi schwéiert Instrument fir dat 2.2-facht vun de Mëschkäschten — bei Opruffe wou d'Ubierstgrenz d'Aschränkung ass, ass dat de richtege Kompromëss.
- Du maximal Tréischtheet bei obskurem Wësse brauchs. D'Stuf
W8A16— MiMo-V2.5-Pro an Hy3 — ass vill manner aggressiv komprimméiert a sëtzt um Buedem vu $0.50 / $2.00, op méi klenge Basen.
All Zuel iwwer d'Basis op dëser Säit gouf vun engem anere wéi eis publizéiert. D'Zuelen zu Präis a Fäegkeete sinn eis eege Live-Katalogwäerter, iwwerpréifbar géint /v1/models op dengem eegene Schlëssel. Kontrolléier d'Primärquelle selwer.
D'Benchmarkzuele fir GLM-5.2 (Terminal-Bench 2.1, SWE-bench Pro) si vum Z.ai fir déi onkomprimméiert Basis bericht; eng onofhängeg Reproduktioun steet nach aus. D'Zuele fir Claude Opus 4.8 a GPT-5.5 sinn nëmmen als Referenz gewisen. D'API-Lëschtepräisser fir GLM-5.2 beim Ubidder selwer esou wéi vum Z.ai publizéiert, September 2026.
08Dacks gestallte Froen
Wat ass déi onzenséiert GLM-API op Shannon AI?
Et ass d'Modell-Id GLM-5.2-3BIT-REAP um Shannon-AI-Gateway: e komprimméierte Build vum Z.ai senger agentescher Basis GLM-5.2, servéiert op eisem eegene GPU-Cluster ouni Refus-Schicht an ouni Filterung vum Output. Et kascht $0.73 pro Millioun Input-Token an $2.34 pro Millioun Output-Token, dréit e Kontextfenster vun 262,144 Token, an ass op /v1/chat/completions, /v1/messages an /v1/responses erreechbar.
Firwat ass GLM 5.2 onzenséiert méi bëlleg wéi déi aner grouss Modeller am Katalog?
Wéinst der Aart a Weis wéi et komprimméiert ass. 3BIT-REAP kombinéiert 3-Bit-Gewiichter mat REAP, enger Method fir d'Pruning vun Experten a Mixture-of-Experts-Modeller, déi selten ugesteiert Experten erausgeheit ier quantiséiert gëtt. Eng spuersam MoE-Basis mat ronn 40B aktive Parameter pro Token, esou gepruned a quantiséiert, brauch vill manner Späicher a vill manner GPU-Sekonne pro Token wéi en dichte Modell vu gläichwäerteger Qualitéit, an de Präis spigelt dat.
Heescht GLM ouni Refus, datt de Modell guer keng Leitplanke huet?
Et heescht, datt Shannon der keng derbäisetzt. Et gëtt kee Refus-Klassifikateur virum Modell a kee Filter op den Token déi erauskommen. D'Basis behält all Neigungen déi hiert eegent Training hir ginn huet, mä näischt Externes iwwerschreift se. D'Politikschicht gehéiert dir, an d'Notzung ënnerläit der Politik fir verantwortlech Notzung vu Shannon AI.
Ënnerstëtzt GLM-5.2 3BIT-REAP Vision oder Billerinput?
Nee. Dëse Modell ass nëmmen Text. Wann s du Billerinput op engem onzenséierten Endpunkt brauchs, benotz ee vun de visiounsfäege Modeller am Katalog wéi MiniMax-M3, Kimi-K2.6, Kimi-K3, MiMo-V2.5 oder inkling. GLM-5.2 ënnerstëtzt wuel strukturéierten Output — souwuel json_schema wéi response_format — an Tool-Calling.
Wéi grouss sinn d'Kontextfenster an d'maximal Outputlängt?
262,144 Token Kontext an 16,384 Token Output pro Ufro. Dat ganzt Kontextfenster eemol ze fëllen kascht ronn 19 Cent bei $0.73 pro Millioun Input-Token, an eng Vervollstännegung a maximaler Längt kascht ënner 4 Cent.
Ass dat en gudden agenteschen onzenséierte Modell fir laang Tool-Calling-Schleefen?
Et ass deen no deem mir als éischt gräifen. D'GLM-Ofstamung gëtt zënter GLM-4.5 ausdrécklech fir agentesch Aarbecht trainéiert, Tool-Calling a reasoning_effort gi béid ënnerstëtzt, an de Präis heescht, datt honnert Agenteronne mat zwanzegdausend Token ronn zwee Dollar kaschten amplaz eelef. Refuse sinn an Agenteschleefen ausserdeem e richtege Feelermodus, an hei gëtt et keng Refus-Schicht déi ee auslése kéint.
Probéier déi onzenséiert GLM-API
$0.73 eran · $2.34 eraus · 262K Kontext · keng Refus-Schicht.
D'API-Dokumentatioun liesen All Modeller kuckenShannon Lab LLC, New Mexico, USA · d'Notzung ass duerch d'Politik fir verantwortlech Notzung geregelt
Quellen: Z.ai GLM-5-Repository · Du et al., GLM: General Language Model Pretraining with Autoregressive Blank Infilling, ACL 2022 · Zeng et al., GLM-130B: An Open Bilingual Pre-trained Model · Lasby et al., REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression, ICLR 2026 · NIST-CAISI-Bewäertung vum Z.ai sengem GLM-5.2, Juli 2026. D'Benchmarkwäerter vun der Basis si vum Labo bericht a provisoresch; si beschreiwen dat onkomprimméiert GLM-5.2 an net dëse komprimméierte Build. D'Zuelen zu Präis, Kontext a Fäegkeete sinn d'Katalogwäerter vu Shannon AI mam Stand vum 5. September 2026.