Onzenséiert Laguna-API

Déi meescht Säiten iwwer „bëlleg Modeller“ verlaangen datt s du eng kleng, midd Basis akzeptéiers am Tosch fir eng niddreg Zuel. Dës hei net. Laguna S 2.1 ass eng spuersam Mixture-of-Experts-Verëffentlechung vun der aktueller Generatioun, op 4,096 H200 trainéiert an a manner wéi néng Wochen geliwwert, an et sëtzt um selwechte Buedem vun $0.50 / $2.00 wéi all aneren Aschtéigsmodell dee mir servéieren. Den Tosch ass schmuel a liicht ze duerchdenken: du gëss de servergaranteierte strukturéierten Output op a behäls alles anescht.

01Wat ass Laguna S 2.1?

Laguna S 2.1 ass en Open-Weights-Modell dat vu Poolside den 21. Juli 2026 ënner der zouloossender Lizenz OpenMDW-1.1 erauskomm ass — dat mëttelgrousst Member vun der Laguna-Famill, tëscht Laguna XS 2.1 (33B/3B aktiv) a Laguna M.1 (225B/23B aktiv).

Déi publizéiert Architektur ass en Token-Choice-Router mat Softplus-Gating iwwer 256 geroutet Experte plus ee gedeelten Expert, mat zéng gewielte pro Token, iwwer 48 Schichten — zwielef mat globaler Attention, sechsandrësseg mat Gläitfënster bei engem Fënster vu 512 Token, eng Verschachtelung déi d'Attention-Käschte vu ganz laangen Inputen no bei linear hält amplaz quadratesch. D'Attention ass Grouped-Query mat 8 Schlëssel-Wäert-Käpp bei enger Kappdimensioun vun 128.

Zwou Konsequenzen zielen fir een deen d'API benotzt. Déi spuersam Aktivéierung ass de Grond firwat e Modell mat 118B um Buedempräis ka sëtzen — nëmmen ~8B Parameter schaffe pro Token, an domat läit d'Rechnerei pro Token méi no bei engem klengen dichte Modell wéi d'Parameterzuel suggeréiert. An d'Verschachtelung mat Gläitfënsteren ass de Grond firwat dat laangt Fënster wierklech benotzbar ass an net nëmme nominell. Dem Poolside seng Verëffentlechung ënnerstëtzt 1,048,576 Token; mir servéieren 262,144, passend zu all anere Modell um Gateway.

02Deen ee Virbehalt: kee strukturéierten Output

Wat weiderhi funktionéiert. Tool-Calling gëtt voll ënnerstëtzt, an d'Argumenter vun den Tool-Calls kommen ëmmer nach als JSON-Objet un, genee wéi bei all anere Modell hei. Wann dat wat deng Applikatioun „strukturéierten Output“ nennt a Wierklechkeet Toolargumenter sinn — wat op déi meescht Agent-Frameworken, MCP-Server a Datebankfrontendën zoutrëfft — da bedéngt Laguna S 2.1 dech gutt. Streaming funktionéiert op allen dräi Dialekter; reasoning_effort funktionéiert.

Wat net. Du kanns dem Endpunkt kee JSON-Schema ginn a garantéiert kréien, datt dem Assistent seng Textäntwert dergéint validéiert, an response_format: {"type": "json_object"} bréngt dir näischt. No JSON ze frooe produzéiert meeschtens JSON — dat ass e kompetente Modell — mä „meeschtens“ ass kee Kontrakt. Poolside selwer dokumentéiert falsch JSON-Escapéierung a bis déif verschachtelten Tool-Calls als bekannte Limit, wat drun erënnert, datt d'Garantie, wou et se soss an eiser Lëscht gëtt, aus der Servéierschicht kënnt an net aus de gudden Absichte vum Modell.

Wéi ee Geschwëster ee stattdessen huele soll

Wann deng Aarbechtslaascht garantéiert JSON brauch, da streit net mat dësem Modell — wiessel d'Modell-Id. Véier Geschwëster sëtzen um identesche Präis vun $0.50 / $2.00 mat voller Ënnerstëtzung fir json_schema an response_format:

Modell-Id	json_schema	Vision	Firwat s du en huels
MiMo-V2.5-Pro-W8A16	Jo	Nee	Den direkten Tosch — 8-Bit-Gewiichter, Stuf mat der héchster Tréischtheet, selwechte Präis
MiMo-V2.5-W8A16	Jo	Jo	Datselwecht, plus Billerinput
Hy3-W8A16	Jo	Nee	Nach en 8-Bit-Textmodell zum Buedempräis
DeepSeek-V4-Flash-0731	Jo	Nee	W4A16-AutoRound-REAP wéi Laguna, mat intakter Schemaënnerstëtzung

De natierleche Standard ass MiMo-V2.5-Pro (W8A16): nëmmen Text, zum Buedempräis, op der mëllster Stuf déi mir lafe loossen quantiséiert — d'Detailer stinn op der Modellkaart zu MiMo-V2.5. Well all zwielef Modeller d'Endpunkten, de Kontextfenster an d'Outputubierstgrenz deelen, ass d'Wiessele eng Ännerung vun enger Zeil um Feld model.

03Wat heescht W4A16-AUTOROUND-REAP?

De Suffix un der Modell-Id ass keng Dekoratioun — en seet genee, wéi d'Gewiichter kompriméiert goufen ier se op eise GPU-Cluster gelueden goufen. Dräi Deeler.

W4A16 — 4-Bit-Gewiichter, 16-Bit-Aktivéierungen

D'Gewiichter gi mat 4 Bit gespäichert; d'Aktivéierungen — d'Wäerter déi zum Zäitpunkt vun der Inferenz tëscht de Schichte lafen — bleiwen op 16. D'Gewiichter op e Véierel vun hirem BF16-Bedarf ze kierze mécht, datt e Modell mat 118B passt a séier bleift, wärend déi breet Aktivéierungen deen numeresch empfindlechen Deel vum Virwäertspass schützen. Komprinéier wat grouss a statesch ass, a looss wat kleng an dynamesch ass a Rou.

AutoRound — geléiert Rondung, net Ronne op de nächste Wäert

De naiive Wee ze quantiséieren ass d'Ronne op de nächste Wäert: knips all Gewiicht op de nooste 4-Bit-Wäert a huel de Feeler an de Kaf. AutoRound, dem Intel säin offene Wierkzeugkëscht fir Quantiséierung nom Training, mécht et besser — seng SignRound-Method benotzt virzeechenbehaftete Gradientofstig, fir d'Rondungsentscheedungen an d'Ofschneidberäicher iwwer e puer honnert Schrëtt gemeinsam ze optiméieren, a fir all Gewiicht ze entscheeden, ob no uewen oder no ënne ronnen dem tatsächlechen Output vun der Schicht manner schued. Et léint d'Iddi aus dem quantiséierungsbewosste Training ouni d'Käschte vun engem Nachtraining, an et ass de Grond firwat e W4A16-Build e seriéise Modell ka sinn an net eng verléisteg Kuriositéit.

REAP — Experte prunen amplaz se zesummenzeleeën

REAP ass Router-weighted Expert Activation Pruning, vu Cerebras Research publizéiert. An engem MoE-Modell zéien net all Experten hire Gewiicht: de Router schéckt e puer nëmme wéineg Token, an e puer steieren nëmme kleng Gréissten bäi wa se dann emol feieren. REAP bewäert all Expert op béide Signaler — d'Router-Gate-Wäerter an d'Aktivéierungsnorme vum Expert — an huelt déi mat klenger Salienz an engem Schoss eraus, virum Quantiséieren. Entscheedend ass, datt et prunet an net zesummeleet: d'Zesummeleeë klappt méi Experten an een, zerstéiert dem Router seng feinkäreg, inputofhängeg Kontroll a féiert e Feelerbuedem an deen och keng Ofstëmmung ewechhëlt (d'Auteure nennen et funktionelle Subraumkollaps), wärend d'Prunen déi Iwwerliewend an dem Router seng Kontroll iwwer si intakt léisst. Cerebras bericht, bis zu 50 % vun den Experten aus Modeller mat enger Billioun Parameter erauszehuelen an dobäi d'Basisqualitéit gréisstendeels ze halen — op engem Programméiermodell mat 480B bei 50 % Pruning 97.6 % vun der net-agentescher Programméierfäegkeet vun der Basislinn an 96.7 % um agenteschen SWE-Bench. Dat sinn dem Cerebras seng Zuele fir hir eege Modeller a keng Miessunge vun eisem Build, mä si sinn de Grond firwat mir dëse Stack op enger Basis lafe loossen där hir Haaptstäerkt de Code ass.

Zesumme liest de Suffix sech wéi e Saz: prune d'Experte déi kaum benotzt goufen, léier d'4-Bit-Rondung amplaz se ze roden, a behal d'Aktivéierungen op voller Breet.

04Wourann ass dëse Modell tatsächlech gutt?

Als éischt d'Éierlechkeet: Laguna S 2.1 ass e Konversatiounsmodell nëmme mat Text — kee Billerinput op dëser Modell-Id — a Poolside huet en fir agentescht Programméieren an Aarbecht iwwer laang Horizonter gebaut a net fir Prosa. D'Nachtraining ass iwwer 409,000 Ëmfeld gelaf, dorënner 83,000 Terminal- an 168,000 softwaretechnesch Aufgaben, mat Verstäerkungsléieren an FP8. Dem Poolside seng berichte Resultater fir déi onquantiséiert Verëffentlechung:

Benchmark	Mat Denken	Ouni Denken	Wat et misst
SWE-Bench Multilingual	78.5%	—	Richteg Feelerbehiewungen iwwer vill Sproochen
Terminal-Bench 2.1	70.2%	60.4%	Shell- an Tooling-Aarbecht iwwer méi Schrëtt
SWE-Bench Pro	59.4%	—	Méi schwéier, kontaminatiounsbestänneg Repository-Aufgaben
Toolathlon Verified	49.7%	—	Breet vun der Tool-Notzung iwwer vill APIen
SWE Atlas	46.2%	—	Navigatioun an engem Repository iwwer laang Horizonter
DeepSWE v1.1	40.4%	16.5%	Agentesch Softwaretechnik

D'Lück tëscht deenen zwou Kolonnen ass hei déi Zuel mat deem meeschte Wäert fir d'Praxis: op DeepSWE méi wéi verduebelt sech d'Punktzuel wann d'Raisonnéieren ugeschalt ass, an op Terminal-Bench gewënnt se bal zéng Punkten.

Vum Poolside berichte Zuele fir déi onquantiséiert Verëffentlechung vu Laguna S 2.1, Juli 2026. Si si keng Miessunge vun eisem W4A16-AutoRound-REAP-Build, a mir publizéiere keng eege Benchmarkzuele fir en. Benotz reasoning_effort, fir den Denkbudget op eiser API ze steieren.

Fir Konversatiouns- a kreativ Aarbecht ass déi éierlech Positioun dës: d'Eegeschaften hannert laangen agenteschen Leef — vill Zoustand kohärent halen, bei der Aufgab bleiwen, net ofdreiwen — sinn déiselwecht wéi déi hannert laanger Aarbecht mat Personnagen, an an der Praxis hält en d'Stëmm iwwer e ganz laangt Fënster gutt. Kee publizéierte Benchmark seet dat, a mir erfannen keen. Test en op dengen eegene Prompten; bei $0.50 pro Millioun Input-Token ass dat bal gratis.

05Wat kaaft de Buedempräis tatsächlech?

$0.50 eran / $2.00 eraus pro Millioun Token ass d'Aschtéigsstuf um Shannon-AI-Gateway, gedeelt mat MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro an Hy3. Konkret:

Aarbechtslaascht	Input	Output	Käschten
Eng Chatronn mat 100K Geschicht	100,000	2,000	$0.054
E Kapitel vu 5,000 Wierder aus engem laange Briefing	30,000	7,000	$0.029
1,000 kuerz Chatronnen	4,000,000	500,000	$3.00
Eng voll Liesung vun 262K Token Kontext	262,144	16,384	$0.164

Déi lescht Zeil ass déi déi ee sech verinnerleche soll: de ganze Kontextfenster ze fëllen an déi maximal Äntwert vun 16,384 Token ze generéiere kascht ronn siechzéng Cent. E ganzt Manuskript, eng Sessiounstranskriptioun oder e Set vun Dokumenter an een eenzegen Opruff ze fidderen ass keng Budgetsentscheedung méi, mä eng Latenzentscheedung. Déiselwecht Rechnung dreift deen aneren Notzungsfall vum Buedempräis — de Volumen: Batch-Klassifikatioun, Massenëmschreiwen, syntetesch Dialogen, éischt Entworf déi e stäerkere Modell duerno verfeinert. Kuck d'Präissäit an de Fuerschungsindex.

06Wat „onzenséiert“ hei heescht

Et heescht wat et seet: keng Refus-Schicht a keng Inhaltsfilterung um Output. Kee Klassifikateur sëtzt tëscht dem Modell an denger Äntwert an entscheet, ob s du froe kruuts; de Modell äntwert am Register no deem s du gefrot hues a belehrt dech net als éischt iwwer d'Prämiss.

Fir kreativ Aarbecht ass dat den Ënnerscheed tëscht engem benotzbaren an engem onbenotzbare Wierkzeug. Fiktioun enthält bedrohlech Antagonisten, Personnagen déi iwwerzeegend léien, Gewalt mat Konsequenzen, moralesch kompromittéiert Erzieler — e Modell dee säi Charakter briecht fir e Warnhiweis unzehänken huet d'Aufgab verhaut a keng Sécherheet erreecht. Datselwecht gëllt fir Sécherheetsfuerschung, Red-Team-Dokumentatioun, medizinesch a juristesch Entworf, an Iwwersetzunge wou d'Quell direkt ass: Kategorien wou e Refus einfach eng falsch Äntwert ass. Wat et net heescht ass, datt d'Urteel ophält deengt ze sinn — du bleifs fir dat verantwortlech wat s du generéiers, ënner eiser Politik fir verantwortlech Notzung an dem uwendbare Recht.

07Wéi ee déi onzenséiert Laguna-API opruft

Dräi Dialekter, ee Modell: /v1/chat/completions (OpenAI), /v1/messages (Anthropic), /v1/responses. Streaming funktionéiert op allen dräi, sou datt eng bestoend Integratioun ëmzitt andeems een eng Basis-URL an eng Modell-Id ännert — kee SDK-Tosch, keng Neischreiwung vun denger Noriichteveraarbechtung.

POST https://api.shannon-ai.com/v1/chat/completions

{
  "model": "Laguna-S-2.1-W4A16-AUTOROUND-REAP",
  "messages": [
    { "role": "system", "content": "You are a hardboiled narrator. Stay in voice." },
    { "role": "user",   "content": "Open chapter nine." }
  ],
  "stream": true,
  "max_tokens": 4096,
  "reasoning_effort": "low"
}

E puer praktesch Notizen:

• Schéck response_format oder json_schema net op dës Modell-Id — wann deng Clientbibliothéik ee vun hinne standardméisseg setzt, da schalt en aus oder gank op e Geschwëster dat en ënnerstëtzt.
• D'Tools kommen an dat gewinnt Array tools — d'Tool-Calling gëtt voll ënnerstëtzt; nëmmen d'Duerchsetzung vun engem Schema um fräien Text net.
• Plang däi Raisonnéieren. reasoning_effort gëtt respektéiert — niddreg oder aus hält d'Konversatiounslatenz kleng an d'Output-Token bëlleg; dréi et erop fir Toolaarbecht iwwer méi Schrëtt, wou d'Benchmarklück hei uewen weist wat et bréngt.
• D'Outputubierstgrenz sinn 16,384 Token pro Ufro. Fir Generatioun a Bichlängt deel et a Kapitelen op a streame.
• Nëmmen Text. Kee Billerinput op dëser Modell-Id — benotz MiMo-V2.5, Kimi-K2.6, Kimi-K3, MiniMax-M3 oder inkling fir Vision.

Déi voll Parameterreferenz, d'Authentifikatioun, d'Feelersemantik an e Live-Playground: API-Dokumentatioun.

08Wéini een e wielt, a wéini net

Wiel en, wann däin Output Prosa, Dialog oder Code ass deen e Mënsch liest; wann s du Tool-Calling brauchs mä kee schemagebonnen Text; wann d'Käschte pro Token bei laangem Kontext dominéieren; oder wann s du eng zweet Meenung vun enger anerer Ofstamung wëlls wéi de Familljen DeepSeek, Kimi a MiMo déi de Rescht vun der Lëscht fëllen.

Wiel eppes anescht, wann s du garantéiert JSON brauchs (MiMo-V2.5-Pro), Billerverständnis (Kimi-K2.6 oder MiMo-V2.5), oder dat baussenzegt Enn vun der Schwieregkeet wou d'Präislück irrelevant ass niewent deem, d'Äntwert richteg ze kréien (DeepSeek-V4-Pro, Kimi-K3).

09Dacks gestallte Froen

---

Quellen: Poolside — Modellkaart Laguna S 2.1 · Introducing Laguna S 2.1 · REAP the Experts (Cerebras Research) · Intel AutoRound. D'Architektur- a Benchmarkzuele si vum Erausginn fir déi onquantiséiert Verëffentlechung bericht a si keng Miessunge vum Build dee mir servéieren. Shannon AI gëtt vun Shannon Lab LLC, New Mexico, USA, bedriwwen.