സെൻസർ ചെയ്യാത്ത Laguna API
Laguna S 2.1 — നിരസന പാളിയില്ലാതെ, 262K സന്ദർഭ ജാലക, ടൂൾ കോളിംഗ് എന്നിവയോടെ നൽകുന്ന 118B Mixture-of-Experts അടിത്തറ — ദശലക്ഷം ടോക്കണിന് $0.50 ഇൻ / $2.00 ഔട്ട് എന്ന തറനിരക്കിൽ.
TL;DR
സെൻസർ ചെയ്യാത്ത Laguna API Poolside-ന്റെ Laguna S 2.1 പ്രവർത്തിപ്പിക്കുന്നു — 118B ആകെ പാരാമീറ്റർ, ടോക്കണിന് ~8B സജീവം, OpenMDW-1.1-ന് കീഴിലുള്ള ഓപ്പൺ വെയ്റ്റുകൾ — AutoRound-ഉം REAP-ഉം ചേർത്ത W4A16-ലേക്ക് ക്വാണ്ടൈസ് ചെയ്ത്, ഞങ്ങളുടെ സ്വന്തം GPU ക്ലസ്റ്ററിൽ നൽകുന്നത്. 262,144 ടോക്കൺ സന്ദർഭം, അഭ്യർത്ഥനയ്ക്ക് 16,384 ഔട്ട്പുട്ട് ടോക്കൺ, സ്ട്രീമിംഗ്, ടൂൾ കോളിംഗ്, reasoning_effort, ഔട്ട്പുട്ട് ഫിൽട്ടറിംഗില്ല എന്നിവ നിങ്ങൾക്ക് ലഭിക്കുന്നു. മുൻകൂട്ടി പറഞ്ഞ ഒരു മുന്നറിയിപ്പ്: json_schema-യോ response_format-ഓ പിന്തുണയ്ക്കാത്ത ഞങ്ങളുടെ നിരയിലെ ഒരേയൊരു മോഡലാണ് ഇത്. ഗ്യാരണ്ടിയുള്ള JSON വേണമെങ്കിൽ, ഒരു സഹോദര മോഡൽ എടുക്കുക — MiMo-V2.5-യുടെ Pro ബിൽഡ് അതേ വിലയിൽ അത് ചെയ്യുന്നു.
മിക്ക "വിലകുറഞ്ഞ മോഡൽ" പേജുകളും ഒരു കുറഞ്ഞ സംഖ്യയ്ക്ക് പകരമായി ചെറുതും തളർന്നതുമായ ഒരു അടിത്തറ സ്വീകരിക്കാൻ നിങ്ങളോട് ആവശ്യപ്പെടുന്നു. ഇത് അതല്ല. Laguna S 2.1 ഒരു നിലവിലെ-തലമുറ സ്പാഴ്സ് Mixture-of-Experts റിലീസാണ്, 4,096 H200-കളിൽ പരിശീലിപ്പിച്ചത്, ഒൻപത് ആഴ്ചയിൽ താഴെ സമയത്തിനുള്ളിൽ അയച്ചത്, ഞങ്ങൾ നൽകുന്ന മറ്റെല്ലാ എൻട്രി-തട്ട് മോഡലുകളുടെയും അതേ $0.50 / $2.00 തറയിലാണ് ഇത് നിലകൊള്ളുന്നത്. വ്യാപാരം ഇടുങ്ങിയതും യുക്തിസഹമായി എളുപ്പം മനസ്സിലാക്കാവുന്നതുമാണ്: സെർവർ-നിർബന്ധിത ഘടനാപരമായ ഔട്ട്പുട്ട് നിങ്ങൾ ഉപേക്ഷിക്കുന്നു, ബാക്കിയെല്ലാം നിലനിർത്തുന്നു.
01എന്താണ് Laguna S 2.1?
Poolside 2026 ജൂലൈ 21-ന് അനുവാദപ്രദമായ OpenMDW-1.1 ലൈസൻസിന് കീഴിൽ പുറത്തിറക്കിയ ഓപ്പൺ-വെയ്റ്റ്സ് മോഡലാണ് Laguna S 2.1 — Laguna XS 2.1-നും (33B/3B സജീവം) Laguna M.1-നും (225B/23B സജീവം) ഇടയിലുള്ള Laguna കുടുംബത്തിലെ ഇടത്തരം അംഗം.
പ്രസിദ്ധീകരിച്ച ആർക്കിടെക്ചർ 256 റൂട്ട് ചെയ്യപ്പെട്ട എക്സ്പെർട്ടുകളും ഒരു പങ്കിട്ട എക്സ്പെർട്ടും ഉള്ള softplus ഗേറ്റിംഗോടെയുള്ള ഒരു token-choice റൂട്ടറാണ്, ടോക്കണിന് പത്ത് തിരഞ്ഞെടുക്കുന്നു, 48 ലെയറുകളിലുടനീളം — പന്ത്രണ്ട് ഗ്ലോബൽ-അറ്റൻഷൻ, മുപ്പത്തിയാറ് 512-ടോക്കൺ ജാലകത്തിൽ സ്ലൈഡിംഗ്-വിൻഡോ, വളരെ നീണ്ട ഇൻപുട്ടുകളുടെ അറ്റൻഷൻ ചെലവ് ക്വാഡ്രാറ്റിക്കിന് പകരം ഏകദേശം ലീനിയറായി നിലനിർത്തുന്ന ഒരു ഇടകലരൽ. അറ്റൻഷൻ 128 ഹെഡ് ഡൈമൻഷനിൽ 8 കീ-വാല്യൂ ഹെഡുകളുള്ള grouped-query ആണ്.
ഒരു API ഉപഭോക്താവിന് രണ്ട് അനന്തരഫലങ്ങൾ പ്രധാനമാണ്. ഒരു 118B മോഡലിന് തറനിരക്കിൽ നിൽക്കാൻ കഴിയുന്നത് സ്പാഴ്സ് ആക്ടിവേഷൻ കൊണ്ടാണ് — ടോക്കണിന് ~8B പാരാമീറ്ററുകൾ മാത്രമേ പ്രവർത്തിക്കുന്നുള്ളൂ, അതിനാൽ ടോക്കണിന് കണക്കുകൂട്ടൽ പാരാമീറ്റർ എണ്ണം സൂചിപ്പിക്കുന്നതിനെക്കാൾ ഒരു ചെറിയ ഡെൻസ് മോഡലിനോട് അടുത്താണ്. സ്ലൈഡിംഗ്-വിൻഡോ ഇടകലരൽ കൊണ്ടാണ് നീണ്ട ജാലക നാമമാത്രമല്ലാതെ യഥാർത്ഥത്തിൽ ഉപയോഗക്ഷമമാകുന്നത്. Poolside-ന്റെ റിലീസ് 1,048,576 ടോക്കൺ പിന്തുണയ്ക്കുന്നു; ഞങ്ങൾ 262,144 നൽകുന്നു, ഗേറ്റ്വേയിലെ മറ്റെല്ലാ മോഡലിനോടും യോജിച്ച്.
02ഒരു മുന്നറിയിപ്പ്: ഘടനാപരമായ ഔട്ട്പുട്ട് ഇല്ല
Shannon AI-യിലെ Laguna S 2.1 json_schema-യോ response_format-ഓ സ്വീകരിക്കുന്നില്ല. ഘടനാപരമായ-ഔട്ട്പുട്ട് പിന്തുണയില്ലാത്ത ഞങ്ങളുടെ പന്ത്രണ്ട്-മോഡൽ നിരയിലെ ഒരേയൊരു മോഡലാണ് ഇത്; രണ്ടിലേതെങ്കിലും പാരാമീറ്റർ അയയ്ക്കുന്നത് നിങ്ങൾക്ക് സ്കീമ-നിയന്ത്രിത മറുപടി തരില്ല. ടൂൾ കോളിംഗ് പ്രവർത്തിക്കുന്നു. സ്ട്രീമിംഗ് പ്രവർത്തിക്കുന്നു. യുക്തിചിന്ത പ്രവർത്തിക്കുന്നു. സെർവർ-നിർബന്ധിത ഔട്ട്പുട്ട് രൂപീകരണം മാത്രമേ ഇല്ലാത്തുള്ളൂ.
എന്ത് ഇപ്പോഴും പ്രവർത്തിക്കുന്നു. ടൂൾ കോളിംഗ് പൂർണ്ണമായി പിന്തുണയ്ക്കുന്നു, ടൂൾ-കോൾ ആർഗ്യുമെന്റുകൾ ഇവിടത്തെ മറ്റേതൊരു മോഡലിലുമെന്നപോലെ ഇപ്പോഴും ഒരു JSON ഒബ്ജക്റ്റായി എത്തുന്നു. നിങ്ങളുടെ ആപ്ലിക്കേഷന്റെ "ഘടനാപരമായ ഔട്ട്പുട്ട്" യഥാർത്ഥത്തിൽ ടൂൾ ആർഗ്യുമെന്റുകൾ ആണെങ്കിൽ — മിക്ക ഏജന്റ് ഫ്രെയിംവർക്കുകൾക്കും MCP സെർവറുകൾക്കും ഡാറ്റാബേസ് ഫ്രണ്ട്-എൻഡുകൾക്കും ശരിയാണ് ഇത് — Laguna S 2.1 നിങ്ങൾക്ക് നന്നായി സേവിക്കുന്നു. മൂന്ന് ഭാഷാഭേദങ്ങളിലും സ്ട്രീമിംഗ് പ്രവർത്തിക്കുന്നു; reasoning_effort പ്രവർത്തിക്കുന്നു.
എന്ത് പ്രവർത്തിക്കുന്നില്ല. ഒരു JSON സ്കീമ എൻഡ്പോയിന്റിന് കൈമാറി അസിസ്റ്റന്റിന്റെ ടെക്സ്റ്റ് മറുപടി അതിനെതിരെ സാധൂകരിക്കും എന്ന് ഗ്യാരണ്ടി ചെയ്യാൻ നിങ്ങൾക്ക് കഴിയില്ല, response_format: {"type": "json_object"} നിങ്ങൾക്ക് ഒന്നും വാങ്ങിത്തരുന്നില്ല. JSON-നായി പ്രോംപ്റ്റ് ചെയ്യുന്നത് സാധാരണയായി JSON ഉണ്ടാക്കുന്നു — ഇതൊരു കഴിവുള്ള മോഡലാണ് — പക്ഷേ "സാധാരണയായി" ഒരു കരാറല്ല. ആഴത്തിൽ കൂടുകൂട്ടിയ ടൂൾ കോളുകളിലെ തെറ്റായ JSON എസ്കേപ്പിംഗ് Poolside തന്നെ ഒരു അറിയപ്പെടുന്ന പരിമിതിയായി രേഖപ്പെടുത്തുന്നു, ഞങ്ങളുടെ നിരയിൽ മറ്റെവിടെയെങ്കിലും നിലനിൽക്കുന്നിടത്ത് ഗ്യാരണ്ടി മോഡലിന്റെ നല്ല ഉദ്ദേശ്യങ്ങളിൽ നിന്നല്ല, സേവന പാളിയിൽ നിന്നാണ് വരുന്നത് എന്ന ഓർമ്മപ്പെടുത്തൽ.
പകരം ഏത് സഹോദരനെ ഉപയോഗിക്കണം
നിങ്ങളുടെ ജോലിഭാരത്തിന് ഗ്യാരണ്ടിയുള്ള JSON വേണമെങ്കിൽ, ഈ മോഡലിനോട് പോരാടരുത് — മോഡൽ ഐഡി മാറ്റുക. പൂർണ്ണ json_schema-യും response_format-ഉം പിന്തുണയോടെ അതേ $0.50 / $2.00 വിലയിൽ നാല് സഹോദരന്മാർ നിലകൊള്ളുന്നു:
| മോഡൽ ഐഡി | json_schema | വിഷൻ | എന്തുകൊണ്ട് തിരഞ്ഞെടുക്കണം |
|---|---|---|---|
| MiMo-V2.5-Pro-W8A16 | ഉവ്വ് | ഇല്ല | നേരിട്ടുള്ള മാറ്റം — 8-ബിറ്റ് വെയ്റ്റുകൾ, ഏറ്റവും ഉയർന്ന-കൃത്യതാ തട്ട്, അതേ വില |
| MiMo-V2.5-W8A16 | ഉവ്വ് | ഉവ്വ് | അതേ, പുറമേ ഇമേജ് ഇൻപുട്ടും |
| Hy3-W8A16 | ഉവ്വ് | ഇല്ല | തറനിരക്കിലെ മറ്റൊരു 8-ബിറ്റ് ടെക്സ്റ്റ് മോഡൽ |
| DeepSeek-V4-Flash-0731 | ഉവ്വ് | ഇല്ല | Laguna പോലെ W4A16-AutoRound-REAP, സ്കീമ പിന്തുണ കേടുകൂടാതെ |
സ്വാഭാവിക സ്ഥിരസ്ഥിതി MiMo-V2.5-Pro (W8A16) ആണ്: ടെക്സ്റ്റ്-മാത്രം, തറ-വിലയുള്ളത്, ഞങ്ങൾ പ്രവർത്തിപ്പിക്കുന്ന ഏറ്റവും മൃദുവായ തട്ടിൽ ക്വാണ്ടൈസ് ചെയ്തത് — വിശദാംശങ്ങൾ MiMo-V2.5 മോഡൽ കാർഡിൽ. പന്ത്രണ്ട് മോഡലുകളും എൻഡ്പോയിന്റുകൾ, സന്ദർഭ ജാലക, ഔട്ട്പുട്ട് പരിധി എന്നിവ പങ്കിടുന്നതിനാൽ, മാറൽ model ഫീൽഡിലേക്കുള്ള ഒരു വരി മാറ്റം മാത്രമാണ്.
03W4A16-AUTOROUND-REAP എന്നാൽ എന്താണ്?
മോഡൽ ഐഡിയിലെ ഉപസർഗ്ഗം അലങ്കാരമല്ല — ഞങ്ങളുടെ GPU ക്ലസ്റ്ററിലേക്ക് ലോഡ് ചെയ്യുന്നതിന് മുമ്പ് വെയ്റ്റുകൾ എങ്ങനെ കംപ്രസ് ചെയ്തുവെന്ന് അത് കൃത്യമായി പറയുന്നു. മൂന്ന് ഭാഗങ്ങൾ.
W4A16 — 4-ബിറ്റ് വെയ്റ്റുകൾ, 16-ബിറ്റ് ആക്ടിവേഷനുകൾ
വെയ്റ്റുകൾ 4 ബിറ്റിലാണ് സൂക്ഷിക്കുന്നത്; ആക്ടിവേഷനുകൾ — അനുമാന സമയത്ത് ലെയറുകൾക്കിടയിൽ ഒഴുകുന്ന മൂല്യങ്ങൾ — 16-ൽ തുടരുന്നു. വെയ്റ്റുകളെ അവയുടെ BF16 ഫുട്പ്രിന്റിന്റെ കാൽ ഭാഗമാക്കി വെട്ടിക്കുറയ്ക്കുന്നത് ഒരു 118B മോഡലിന് ഒതുങ്ങാനും വേഗതയോടെ നിൽക്കാനും കാരണമാകുന്നു, ആക്ടിവേഷനുകൾ വിശാലമായി നിലനിർത്തുന്നത് ഫോർവേഡ് പാസിന്റെ സംഖ്യാപരമായി സെൻസിറ്റീവ് ഭാഗത്തെ സംരക്ഷിക്കുന്നു. വലുതും സ്ഥിരവുമായത് കംപ്രസ് ചെയ്യുക, ചെറുതും ചലനാത്മകവുമായത് തൊടാതെ വിടുക.
AutoRound — ഏറ്റവും അടുത്ത റൗണ്ടിംഗല്ല, പഠിച്ചെടുത്ത റൗണ്ടിംഗ്
ക്വാണ്ടൈസ് ചെയ്യാനുള്ള നിഷ്കളങ്കമായ വഴി round-to-nearest ആണ്: ഓരോ വെയ്റ്റും ഏറ്റവും അടുത്ത 4-ബിറ്റ് മൂല്യത്തിലേക്ക് സ്നാപ്പ് ചെയ്ത്, പിശക് സ്വീകരിക്കുക. Intel-ന്റെ ഓപ്പൺ പോസ്റ്റ്-ട്രെയിനിംഗ് ക്വാണ്ടൈസേഷൻ ടൂൾകിറ്റായ AutoRound, മെച്ചമായി ചെയ്യുന്നു — അതിന്റെ SignRound രീതി റൗണ്ടിംഗ് തീരുമാനങ്ങളും ക്ലിപ്പിംഗ് പരിധികളും ഒരു ഇരുനൂറോളം സ്റ്റെപ്പുകളിലുടനീളം സംയുക്തമായി ഒപ്റ്റിമൈസ് ചെയ്യാൻ സൈൻഡ് ഗ്രേഡിയന്റ് ഡിസെന്റ് ഉപയോഗിക്കുന്നു, മുകളിലേക്കോ താഴേക്കോ റൗണ്ട് ചെയ്യുന്നത് ലെയറിന്റെ യഥാർത്ഥ ഔട്ട്പുട്ടിന് കുറച്ച് കേട് വരുത്തുന്നത് എന്നത് ഓരോ വെയ്റ്റിനും തീരുമാനിക്കുന്നു. പുനഃപരിശീലനത്തിന്റെ ചെലവില്ലാതെ ക്വാണ്ടൈസേഷൻ-അവെയർ ട്രെയിനിംഗിൽ നിന്ന് ആശയം കടം വാങ്ങുന്നു, ഒരു W4A16 ബിൽഡ് ഒരു ലോസി കൗതുകമല്ല, ഗൗരവമുള്ള ഒരു മോഡലാകാൻ കഴിയുന്നത് അതുകൊണ്ടാണ്.
REAP — ലയിപ്പിക്കുന്നതിന് പകരം എക്സ്പെർട്ടുകളെ പ്രൂൺ ചെയ്യൽ
Cerebras Research പ്രസിദ്ധീകരിച്ച Router-weighted Expert Activation Pruning ആണ് REAP. ഒരു MoE മോഡലിൽ എല്ലാ എക്സ്പെർട്ടുകളും അവരുടെ ഭാരം വലിക്കുന്നില്ല: റൂട്ടർ ചിലതിന് കുറച്ച് ടോക്കണുകൾ മാത്രം അയയ്ക്കുന്നു, ചിലത് വെടിവയ്ക്കുമ്പോൾ കുറച്ച് വ്യാപ്തി മാത്രം സംഭാവന ചെയ്യുന്നു. റൂട്ടർ ഗേറ്റ് മൂല്യങ്ങൾ, എക്സ്പെർട്ട് ആക്ടിവേഷൻ നോമുകൾ എന്നീ രണ്ട് സിഗ്നലുകളിലും REAP ഓരോ എക്സ്പെർട്ടിനെയും സ്കോർ ചെയ്യുന്നു, ക്വാണ്ടൈസേഷന് മുമ്പ് ഒറ്റ ഷോട്ടിൽ കുറഞ്ഞ-പ്രാധാന്യമുള്ളവയെ നീക്കം ചെയ്യുന്നു. നിർണ്ണായകമായി ഇത് ലയിപ്പിക്കുന്നതിന് പകരം പ്രൂൺ ചെയ്യുന്നു: ലയനം പല എക്സ്പെർട്ടുകളെയും ഒന്നിലേക്ക് മടക്കുന്നു, റൂട്ടറിന്റെ സൂക്ഷ്മവും ഇൻപുട്ട്-ആശ്രിതവുമായ നിയന്ത്രണം നശിപ്പിക്കുകയും ട്യൂണിംഗ് കൊണ്ട് നീക്കാനാവാത്ത ഒരു പിശക് തറ അവതരിപ്പിക്കുകയും ചെയ്യുന്നു (രചയിതാക്കൾ അതിനെ ഫങ്ഷണൽ സബ്സ്പേസ് കൊളാപ്സ് എന്ന് വിളിക്കുന്നു), പ്രൂണിംഗ് അതിജീവിക്കുന്നവയെയും അവയ്ക്ക് മേലുള്ള റൂട്ടറിന്റെ നിയന്ത്രണവും കേടില്ലാതെ വിടുന്നു. ട്രില്യൺ-പാരാമീറ്റർ മോഡലുകളിൽ നിന്ന് 50% വരെ എക്സ്പെർട്ടുകൾ, ബേസ്ലൈൻ ഗുണനിലവാരം ഏറെക്കുറെ നിലനിർത്തിക്കൊണ്ട് നീക്കം ചെയ്യുന്നതായി Cerebras റിപ്പോർട്ട് ചെയ്യുന്നു — 50% പ്രൂണിംഗിൽ ഒരു 480B കോഡർ മോഡലിൽ, ബേസ്ലൈൻ നോൺ-ഏജന്റിക് കോഡിംഗ് ശേഷിയുടെ 97.6%-ഉം ഏജന്റിക് SWE-Bench-ൽ 96.7%-ഉം. ഇവ Cerebras-ന്റെ സ്വന്തം മോഡലുകൾക്കുള്ള കണക്കുകളാണ്, ഞങ്ങളുടെ ബിൽഡിന്റെ അളവുകളല്ല, പക്ഷേ കോഡ് ആണ് പ്രാഥമിക ശക്തിയായ ഒരു അടിത്തറയിൽ ഞങ്ങൾ ഈ സ്റ്റാക്ക് പ്രവർത്തിപ്പിക്കുന്നത് അതുകൊണ്ടാണ്.
ഉപസർഗ്ഗം ഒരുമിച്ച് ഒരു വാക്യമായി വായിക്കാം: കുറച്ചുപയോഗിക്കപ്പെട്ട എക്സ്പെർട്ടുകളെ പ്രൂൺ ചെയ്യുക, 4-ബിറ്റ് റൗണ്ടിംഗ് ഊഹിക്കുന്നതിന് പകരം പഠിക്കുക, ആക്ടിവേഷനുകൾ പൂർണ്ണ വീതിയിൽ നിലനിർത്തുക.
04ഈ മോഡൽ യഥാർത്ഥത്തിൽ എന്തിന് നല്ലതാണ്?
ആദ്യം സത്യസന്ധത: Laguna S 2.1 ഒരു ടെക്സ്റ്റ്-മാത്രം സംഭാഷണ മോഡലാണ് — ഈ മോഡൽ ഐഡിയിൽ വിഷൻ ഇൻപുട്ട് ഇല്ല — ഗദ്യത്തിനല്ല, ഏജന്റിക് കോഡിംഗിനും ദീർഘകാല ജോലിക്കുമായി Poolside ഇത് നിർമ്മിച്ചു. FP8-ൽ റൈൻഫോഴ്സ്മെന്റ് ലേണിംഗോടെ, 83,000 ടെർമിനലും 168,000 സോഫ്റ്റ്വെയർ-എഞ്ചിനീയറിംഗ് ജോലികളും ഉൾപ്പെടെ 409,000-ത്തിലധികം എൻവയോൺമെന്റുകളിലാണ് പോസ്റ്റ്-ട്രെയിനിംഗ് നടന്നത്. ക്വാണ്ടൈസ് ചെയ്യാത്ത റിലീസിന് Poolside റിപ്പോർട്ട് ചെയ്ത ഫലങ്ങൾ:
| ബെഞ്ച്മാർക്ക് | Thinking | No-thinking | അളക്കുന്നത് എന്ത് |
|---|---|---|---|
| SWE-Bench Multilingual | 78.5% | — | പല ഭാഷകളിലുടനീളമുള്ള യഥാർത്ഥ ബഗ് തിരുത്തലുകൾ |
| Terminal-Bench 2.1 | 70.2% | 60.4% | ബഹുഘട്ട ഷെല്ലും ടൂളിംഗ് ജോലിയും |
| SWE-Bench Pro | 59.4% | — | കടുപ്പമുള്ള, മലിനീകരണ-പ്രതിരോധിയായ റെപ്പോ ജോലികൾ |
| Toolathlon Verified | 49.7% | — | പല API-കളിലുടനീളമുള്ള ടൂൾ-ഉപയോഗ വ്യാപ്തി |
| SWE Atlas | 46.2% | — | ദീർഘകാല റെപ്പോസിറ്ററി നാവിഗേഷൻ |
| DeepSWE v1.1 | 40.4% | 16.5% | ഏജന്റിക് സോഫ്റ്റ്വെയർ എഞ്ചിനീയറിംഗ് |
രണ്ട് കോളങ്ങൾക്കിടയിലെ വിടവ് ഇവിടെ ഏറ്റവും പ്രവർത്തനക്ഷമമായ സംഖ്യയാണ്: യുക്തിചിന്ത ഓണാക്കിയാൽ DeepSWE-യിൽ സ്കോർ ഇരട്ടിയിലധികമാകുന്നു, Terminal-Bench-ൽ ഏകദേശം പത്ത് പോയിന്റ് നേടുന്നു.
2026 ജൂലൈയിലെ ക്വാണ്ടൈസ് ചെയ്യാത്ത Laguna S 2.1 റിലീസിന് Poolside-റിപ്പോർട്ട് ചെയ്ത കണക്കുകൾ. ഇവ ഞങ്ങളുടെ W4A16-AutoRound-REAP ബിൽഡിന്റെ അളവുകളല്ല, ഞങ്ങൾ അതിന് ഞങ്ങളുടെ സ്വന്തം ബെഞ്ച്മാർക്ക് സംഖ്യകൾ ഒന്നും പ്രസിദ്ധീകരിക്കുന്നില്ല. ഞങ്ങളുടെ API-യിൽ ചിന്താ ബജറ്റ് നിയന്ത്രിക്കാൻ reasoning_effort ഉപയോഗിക്കുക.
സംഭാഷണ, ക്രിയേറ്റീവ് ജോലിക്ക് സത്യസന്ധമായ നിലപാട് ഇതാണ്: നീണ്ട ഏജന്റിക് ഓട്ടങ്ങൾക്ക് പിന്നിലെ ഗുണങ്ങൾ — ധാരാളം അവസ്ഥ യോജിപ്പോടെ പിടിക്കൽ, ജോലിയിൽ തുടരൽ, വ്യതിചലിക്കാതിരിക്കൽ — നീണ്ട-രൂപ കഥാപാത്ര പ്രവർത്തനത്തിന് പിന്നിലെ അതേ ഗുണങ്ങളാണ്, പ്രായോഗികമായി വളരെ നീണ്ട ഒരു ജാലകത്തിലുടനീളം അത് ശബ്ദം നന്നായി പിടിക്കുന്നു. ഒരു പ്രസിദ്ധീകരിച്ച ബെഞ്ച്മാർക്കും അത് പറയുന്നില്ല, ഞങ്ങൾ ഒന്ന് കണ്ടുപിടിക്കുകയുമില്ല. നിങ്ങളുടെ സ്വന്തം പ്രോംപ്റ്റുകളിൽ പരീക്ഷിക്കുക; ദശലക്ഷം ഇൻപുട്ട് ടോക്കണിന് $0.50-ൽ അത് ഏകദേശം സൗജന്യമാണ്.
05തറനിരക്ക് യഥാർത്ഥത്തിൽ എന്താണ് വാങ്ങിത്തരുന്നത്?
ദശലക്ഷം ടോക്കണിന് $0.50 ഇൻ / $2.00 ഔട്ട് ആണ് Shannon AI ഗേറ്റ്വേയിലെ എൻട്രി തട്ട്, MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro, Hy3 എന്നിവയുമായി പങ്കിടുന്നത്. കൃത്യമായി പറഞ്ഞാൽ:
| ജോലിഭാരം | ഇൻപുട്ട് | ഔട്ട്പുട്ട് | ചെലവ് |
|---|---|---|---|
| 100K ചരിത്രമുള്ള ഒരു ചാറ്റ് ടേൺ | 100,000 | 2,000 | $0.054 |
| ഒരു നീണ്ട ബ്രീഫിൽ നിന്നുള്ള 5,000-വാക്ക് അധ്യായം | 30,000 | 7,000 | $0.029 |
| 1,000 ഹ്രസ്വ സംഭാഷണ ടേണുകൾ | 4,000,000 | 500,000 | $3.00 |
| പൂർണ്ണ 262K-ടോക്കൺ സന്ദർഭ വായന | 262,144 | 16,384 | $0.164 |
ഉൾക്കൊള്ളേണ്ട വരി അവസാനത്തേതാണ്: മുഴുവൻ സന്ദർഭ ജാലക നിറയ്ക്കാനും പരമാവധി 16,384-ടോക്കൺ പ്രതികരണം ഉണ്ടാക്കാനും ഏകദേശം പതിനാറ് സെന്റ് ചെലവാകും. ഒരു മുഴുവൻ കൈയെഴുത്തുപ്രതിയോ സെഷൻ ട്രാൻസ്ക്രിപ്റ്റോ ഡോക്യുമെന്റ് സെറ്റോ ഒരു കോളിലേക്ക് നൽകുന്നത് ഒരു ബജറ്റ് തീരുമാനമായി നിർത്തി ഒരു ലേറ്റൻസി തീരുമാനമാകുന്നു. അതേ കണക്ക് മറ്റേ തറ-വില ഉപയോഗ കേസും നയിക്കുന്നു — അളവ്: ബാച്ച് വർഗ്ഗീകരണം, ബൾക്ക് പുനർലേഖനം, സിന്തറ്റിക് ഡയലോഗ്, ശക്തമായ ഒരു മോഡൽ പിന്നീട് പരിഷ്കരിക്കുന്ന ആദ്യ-പാസ് ഡ്രാഫ്റ്റിംഗ്. വില പേജ്ഉം ഗവേഷണ സൂചികയും കാണുക.
06ഇവിടെ "സെൻസർ ചെയ്യാത്തത്" എന്നാൽ എന്താണ്
അത് പറയുന്നത് അതേ അർത്ഥമാക്കുന്നു: നിരസന പാളിയില്ല, ഔട്ട്പുട്ടിൽ ഉള്ളടക്ക ഫിൽട്ടറിംഗുമില്ല. നിങ്ങൾക്ക് ചോദിക്കാൻ അനുവാദമുണ്ടോ എന്ന് തീരുമാനിക്കുന്ന ഒരു ക്ലാസിഫയർ മോഡലിനും നിങ്ങളുടെ പ്രതികരണത്തിനും ഇടയിൽ ഇരിക്കുന്നില്ല; നിങ്ങൾ ചോദിച്ച രജിസ്റ്ററിൽ മോഡൽ ഉത്തരം നൽകുന്നു, ആദ്യം മുൻധാരണയെക്കുറിച്ച് നിങ്ങളോട് പ്രഭാഷണം നടത്തുന്നില്ല.
ക്രിയേറ്റീവ് ജോലിക്ക് അതാണ് ഉപയോഗക്ഷമമായ ഒരു ഉപകരണവും ഉപയോഗക്ഷമമല്ലാത്ത ഒന്നും തമ്മിലുള്ള വ്യത്യാസം. ഫിക്ഷനിൽ ഭീഷണിപ്പെടുത്തുന്ന എതിരാളികൾ, ബോധ്യപ്പെടുത്തുന്ന രീതിയിൽ കള്ളം പറയുന്ന കഥാപാത്രങ്ങൾ, അനന്തരഫലങ്ങളുള്ള അക്രമം, ധാർമ്മികമായി വിട്ടുവീഴ്ച ചെയ്ത ആഖ്യാതാക്കൾ എന്നിവ അടങ്ങിയിരിക്കുന്നു — ഒരു അസ്വീകാര്യത ചേർക്കാൻ കഥാപാത്രത്തിൽ നിന്ന് പുറത്തുവരുന്ന ഒരു മോഡൽ, സുരക്ഷയിൽ വിജയിച്ചതല്ല, ജോലിയിൽ പരാജയപ്പെട്ടതാണ്. സുരക്ഷാ ഗവേഷണം, റെഡ്-ടീം ഡോക്യുമെന്റേഷൻ, മെഡിക്കൽ, നിയമ ഡ്രാഫ്റ്റിംഗ്, ഉറവിടം നേരിട്ടുള്ളതായ വിവർത്തനം എന്നിവയ്ക്കും ഇത് ബാധകമാണ് — ഒരു നിരസനം വെറും ഒരു തെറ്റായ ഉത്തരമായ വിഭാഗങ്ങൾ. അതിനർത്ഥം വിവേചനം നിങ്ങളുടേതല്ലാതാകുന്നു എന്നല്ല — ഞങ്ങളുടെ ഉത്തരവാദിത്ത ഉപയോഗ നയത്തിനും ബാധകമായ നിയമത്തിനും കീഴിൽ, നിങ്ങൾ ഉണ്ടാക്കുന്നതിന് നിങ്ങൾ ഉത്തരവാദിയായി തുടരും.
07സെൻസർ ചെയ്യാത്ത Laguna API എങ്ങനെ വിളിക്കാം
മൂന്ന് ഭാഷാഭേദങ്ങൾ, ഒരു മോഡൽ: /v1/chat/completions (OpenAI), /v1/messages (Anthropic), /v1/responses. മൂന്നിലും സ്ട്രീമിംഗ് പ്രവർത്തിക്കുന്നു, അതിനാൽ ഒരു ബേസ് URL-ഉം മോഡൽ ഐഡിയും മാറ്റുന്നതിലൂടെ നിലവിലുള്ള ഒരു ഇന്റഗ്രേഷൻ മാറുന്നു — SDK മാറ്റമില്ല, നിങ്ങളുടെ സന്ദേശ കൈകാര്യത്തിന്റെ പുനർലേഖനവുമില്ല.
POST https://api.shannon-ai.com/v1/chat/completions
{
"model": "Laguna-S-2.1-W4A16-AUTOROUND-REAP",
"messages": [
{ "role": "system", "content": "You are a hardboiled narrator. Stay in voice." },
{ "role": "user", "content": "Open chapter nine." }
],
"stream": true,
"max_tokens": 4096,
"reasoning_effort": "low"
}
ചില പ്രായോഗിക കുറിപ്പുകൾ:
- ഈ മോഡൽ ഐഡിയിലേക്ക്
response_format-ഓjson_schema-യോ അയയ്ക്കരുത് — നിങ്ങളുടെ ക്ലയന്റ് ലൈബ്രറി ഒന്ന് സ്ഥിരസ്ഥിതിയായി സെറ്റ് ചെയ്യുന്നുവെങ്കിൽ, അത് അൺസെറ്റ് ചെയ്യുക അല്ലെങ്കിൽ അത് പിന്തുണയ്ക്കുന്ന ഒരു സഹോദരനിലേക്ക് മാറുക. - ടൂളുകൾ പതിവ്
toolsഅറേയിൽ പോകുന്നു — ടൂൾ കോളിംഗ് പൂർണ്ണമായി പിന്തുണയ്ക്കുന്നു; ഫ്രീ-ടെക്സ്റ്റ് സ്കീമ നിർബന്ധം മാത്രമേ ഇല്ലാത്തുള്ളൂ. - നിങ്ങളുടെ യുക്തിചിന്ത ബജറ്റ് ചെയ്യുക.
reasoning_effortമാനിക്കുന്നു — low അല്ലെങ്കിൽ off സംഭാഷണ ലേറ്റൻസി കുറച്ചും ഔട്ട്പുട്ട് ടോക്കണുകൾ വിലകുറഞ്ഞതുമായി നിലനിർത്തുന്നു; ബഹുഘട്ട ടൂൾ ജോലിക്ക് അത് ഉയർത്തുക, മുകളിലെ ബെഞ്ച്മാർക്ക് വിടവ് അത് എന്ത് വാങ്ങിത്തരുന്നു എന്ന് കാണിക്കുന്നു. - ഔട്ട്പുട്ട് പരിധി അഭ്യർത്ഥനയ്ക്ക് 16,384 ടോക്കൺ ആണ്. പുസ്തക-നീളമുള്ള ജനറേഷന്, അതിനെ അധ്യായങ്ങളാക്കി സ്ട്രീം ചെയ്യുക.
- ടെക്സ്റ്റ് മാത്രം. ഈ മോഡൽ ഐഡിയിൽ ഇമേജ് ഇൻപുട്ട് ഇല്ല — വിഷനുവേണ്ടി MiMo-V2.5, Kimi-K2.6, Kimi-K3, MiniMax-M3 അല്ലെങ്കിൽ inkling ഉപയോഗിക്കുക.
പൂർണ്ണ പാരാമീറ്റർ റഫറൻസ്, പ്രാമാണീകരണം, പിശക് സെമാന്റിക്സ്, ഒരു ലൈവ് പ്ലേഗ്രൗണ്ട്: API ഡോക്യുമെന്റേഷൻ.
08എപ്പോൾ തിരഞ്ഞെടുക്കണം, എപ്പോൾ വേണ്ട
നിങ്ങളുടെ ഔട്ട്പുട്ട് ഒരു മനുഷ്യൻ വായിക്കുന്ന ഗദ്യമോ സംഭാഷണമോ കോഡോ ആണെങ്കിൽ; ടൂൾ കോളിംഗ് വേണം പക്ഷേ സ്കീമ-നിയന്ത്രിത ടെക്സ്റ്റ് വേണ്ട എങ്കിൽ; ദീർഘ സന്ദർഭത്തെക്കാൾ ടോക്കണിന്റെ ചെലവ് ആധിപത്യം സ്ഥാപിക്കുന്നുവെങ്കിൽ; അല്ലെങ്കിൽ ബാക്കി നിരയിൽ നിറയുന്ന DeepSeek, Kimi, MiMo കുടുംബങ്ങളല്ലാത്ത ഒരു പരമ്പരയിൽ നിന്ന് രണ്ടാമതൊരു അഭിപ്രായം വേണമെങ്കിൽ ഇത് തിരഞ്ഞെടുക്കുക.
ഗ്യാരണ്ടിയുള്ള JSON വേണമെങ്കിൽ (MiMo-V2.5-Pro), ഇമേജ് ഗ്രഹണം വേണമെങ്കിൽ (Kimi-K2.6 അല്ലെങ്കിൽ MiMo-V2.5), അല്ലെങ്കിൽ ഉത്തരം ശരിയാക്കുന്നതിന് അടുത്ത് വില വ്യത്യാസം അപ്രസക്തമായ കടുപ്പത്തിന്റെ ഫ്രോണ്ടിയർ അറ്റം വേണമെങ്കിൽ (DeepSeek-V4-Pro, Kimi-K3) മറ്റെന്തെങ്കിലും തിരഞ്ഞെടുക്കുക.
json_schema-യും response_format-ഉം രണ്ടും സഹിതം. MiMo-V2.5 മോഡൽ കാർഡ് വായിക്കുക, അല്ലെങ്കിൽ ഗവേഷണ സൂചികയിൽ പന്ത്രണ്ടും ബ്രൗസ് ചെയ്യുക.
ഇവിടത്തെ എല്ലാ ആർക്കിടെക്ചർ, ബെഞ്ച്മാർക്ക് അവകാശവാദവും മോഡലിന്റെ പ്രസാധകനിൽ നിന്നോ കംപ്രഷൻ രീതികളുടെ രചയിതാക്കളിൽ നിന്നോ ആണ്. നിങ്ങൾ തന്നെ അവ പരിശോധിക്കുക.
09പതിവ് ചോദ്യങ്ങൾ
എന്താണ് സെൻസർ ചെയ്യാത്ത Laguna API?
Poolside-ന്റെ ഓപ്പൺ-വെയ്റ്റ്സ് Laguna S 2.1 ആണ് അത് — 118 ബില്യൺ പാരാമീറ്റർ, ടോക്കണിന് ഏകദേശം 8 ബില്യൺ സജീവം — നിരസന പാളിയോ ഔട്ട്പുട്ട് ഫിൽട്ടറിംഗോ ഇല്ലാതെ Shannon-ന്റെ സ്വന്തം GPU ക്ലസ്റ്ററിൽ നൽകുന്നു. മോഡൽ ഐഡി Laguna-S-2.1-W4A16-AUTOROUND-REAP ആണ്, സന്ദർഭ ജാലക 262,144 ടോക്കണാണ്, ദശലക്ഷം ഇൻപുട്ടിന് $0.50-ഉം ദശലക്ഷം ഔട്ട്പുട്ട് ടോക്കണിന് $2.00-ഉം ചെലവാകും.
Shannon AI-യിൽ Laguna S 2.1 json_schema-യോ response_format-ഓ പിന്തുണയ്ക്കുന്നുണ്ടോ?
ഇല്ല. രണ്ടും സ്വീകരിക്കാത്ത Shannon നിരയിലെ ഒരേയൊരു മോഡലാണ് ഇത്. ടൂൾ കോളിംഗും സ്ട്രീമിംഗും സാധാരണപോലെ പ്രവർത്തിക്കുന്നു, ടൂൾ-കോൾ ആർഗ്യുമെന്റുകൾ ഇപ്പോഴും JSON ആയി എത്തുന്നു, പക്ഷേ അസിസ്റ്റന്റിന്റെ ടെക്സ്റ്റ് ഔട്ട്പുട്ടിന് സെർവർ-നിർബന്ധിത സ്കീമയില്ല. അതേ $0.50 / $2.00 വിലയിൽ ഗ്യാരണ്ടിയുള്ള JSON വേണമെങ്കിൽ MiMo-V2.5-Pro (W8A16) ഉപയോഗിക്കുക.
W4A16-AUTOROUND-REAP എന്നാൽ എന്താണ്?
വെയ്റ്റുകൾ 4 ബിറ്റിലും ആക്ടിവേഷനുകൾ 16 ബിറ്റിലും സൂക്ഷിക്കുന്നു എന്നാണ് W4A16 അർത്ഥമാക്കുന്നത്. AutoRound Intel-ന്റെ പോസ്റ്റ്-ട്രെയിനിംഗ് ക്വാണ്ടൈസേഷൻ രീതിയാണ്, ഏറ്റവും അടുത്തതിലേക്ക് റൗണ്ട് ചെയ്യുന്നതിന് പകരം റൗണ്ടിംഗ്, ക്ലിപ്പിംഗ് തീരുമാനങ്ങൾ പഠിക്കാൻ സൈൻഡ് ഗ്രേഡിയന്റ് ഡിസെന്റ് ഉപയോഗിക്കുന്നു. REAP Cerebras Research-ന്റെ Router-weighted Expert Activation Pruning ആണ്, ക്വാണ്ടൈസേഷന് മുമ്പ് ഒരു Mixture-of-Experts മോഡലിൽ നിന്ന് അപൂർവ്വമായും ദുർബലമായും റൂട്ട് ചെയ്യപ്പെടുന്ന എക്സ്പെർട്ടുകളെ, ലയിപ്പിക്കുന്നതിന് പകരം ഒഴിവാക്കുന്നു.
ക്രിയേറ്റീവ് റൈറ്റിംഗിനും സംഭാഷണത്തിനും Laguna S 2.1 നല്ലതാണോ?
ഇത് ടെക്സ്റ്റ്-മാത്രം സംഭാഷണ മോഡലാണ് — വിഷൻ ഇൻപുട്ട് ഇല്ല — 262K ജാലകത്തിലുടനീളം ഒരു നിരസന പാളിയും തടസ്സമില്ലാതെ നീണ്ടതും യോജിപ്പുള്ളതും കഥാപാത്ര-സ്ഥിരതയുള്ളതുമായ ഗദ്യം നിലനിർത്തുന്നു. Poolside-ന്റെ പ്രസിദ്ധീകരിച്ച ബെഞ്ച്മാർക്ക് റെക്കോർഡ് ഗദ്യത്തിലല്ല, ഏജന്റിക് കോഡിംഗിലാണ്, അതിനാൽ ഒരു ലീഡർബോർഡിനെ വിശ്വസിക്കുന്നതിന് പകരം നിങ്ങളുടെ സ്വന്തം പ്രോംപ്റ്റുകളിൽ ക്രിയേറ്റീവ് ഗുണനിലവാരം പരീക്ഷിക്കുക.
സെൻസർ ചെയ്യാത്ത Laguna API-ക്ക് എത്ര ചെലവാകും?
ദശലക്ഷം ഇൻപുട്ട് ടോക്കണിന് $0.50-ഉം ദശലക്ഷം ഔട്ട്പുട്ട് ടോക്കണിന് $2.00-ഉം — MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro, Hy3 എന്നിവയുമായി പങ്കിടുന്ന Shannon AI ഗേറ്റ്വേയിലെ തറനിരക്ക്. 2,000 ടോക്കൺ മറുപടി ഉണ്ടാക്കുന്ന 100,000-ടോക്കൺ സംഭാഷണത്തിന് ഏകദേശം 5.4 സെന്റ് ചെലവാകും.
സെൻസർ ചെയ്യാത്ത Laguna API പരീക്ഷിക്കുക
118B MoE · 262K സന്ദർഭം · ടൂളുകളും സ്ട്രീമിംഗും · ദശലക്ഷം ടോക്കണിന് $0.50 / $2.00.
API ഡോക്യുമെന്റേഷൻ വായിക്കുക ചാറ്റ് ചെയ്യാൻ തുടങ്ങുകനിരസന പാളിയില്ല · ഔട്ട്പുട്ട് ഫിൽട്ടറിംഗില്ല · നിങ്ങളുടെ വിവേചനം, നിങ്ങളുടെ ഉത്തരവാദിത്തം
സ്രോതസ്സുകൾ: Poolside — Laguna S 2.1 മോഡൽ കാർഡ് · Introducing Laguna S 2.1 · REAP the Experts (Cerebras Research) · Intel AutoRound. ആർക്കിടെക്ചറും ബെഞ്ച്മാർക്ക് കണക്കുകളും ക്വാണ്ടൈസ് ചെയ്യാത്ത റിലീസിന് പ്രസാധകൻ-റിപ്പോർട്ട് ചെയ്തതാണ്, ഞങ്ങൾ നൽകുന്ന ബിൽഡിന്റെ അളവുകളല്ല. Shannon AI പ്രവർത്തിപ്പിക്കുന്നത് Shannon Lab LLC, ന്യൂ മെക്സിക്കോ, യുഎസ്എ ആണ്.