Kufijtë dhe bilanci

Kjo faqe shpjegon nga çfarë përbëhet bilanci juaj, çfarë rezervon dhe çfarë kushton një kërkesë, sa kërkesa mund të dërgoni dhe kufijtë e paktë që mund të has një kërkesë e vetme.

vlera e 1M tokens bilanc

$5.00

kuota ditore rinovohet

00:00 UTC

mbrojtja nga vërshimi i kërkesave, për llogari

120 kërkesa / min

Si shërbehen kërkesat

• Pa nivele shpejtësie — Një rregull kufizon sa shpejt mund të arrijnë kërkesat, dhe është i njëjtë për çdo llogari dhe çdo plan: 120 kërkesa në minutë. Nuk ka kufi tokens-ash në minutë.
• Pa kuotë të veçantë API — API-ja shpenzon të njëjtin bilanc si biseda. Një plan cakton madhësinë e kuotës së sotme. Nuk cakton shpejtësi kërkesash.
• Sa shpejt të doni — Kërkesat e dërguara paralelisht pranohen dhe presin në radhë. Nuk refuzohen për shkak se janë paralele.

Bilanci juaj

Bilanci juaj numërohet në tokens. 1,000,000 tokens bilanc vlejnë $5.00, dhe çdo çmim në faqen Modelet dhe çmimet është një tarifë ndaj kësaj vlere.

Në çdo çast bilanci është shuma e dy pjesëve.

• Kuota e planit për sot — Një numër tokens i caktuar nga plani juaj. Rinovohet çdo ditë në 00:00 UTC. Ajo që mbetet në fund të ditës nuk bartet.
• Kredi e blerë — Tokens që blini si pako. Krediti nuk skadon dhe vlen në çdo plan, përfshirë Free.

• Radha e shpenzimit — Çdo kërkesë shpenzon fillimisht kuotën e planit për sot. Krediti i blerë përdoret vetëm për atë që tejkalon kuotën atë ditë.
• Biseda dhe API e ndajnë — Ka një bilanc për llogari. Një çelës API shpenzon nga bilanci i llogarisë që e zotëron, me të njëjtat çmime si biseda.
• Pakot — Krediti shitet në pako me 1,000,000 ($5.00), 2,000,000 ($10.00) dhe 5,000,000 ($25.00) tokens, ose si një shumë sipas dëshirës nga 1,000,000 deri në 100,000,000 tokens me $5.00 për 1,000,000.

Shto kredi Ndrysho planin

Çfarë rezervon dhe çfarë kushton një kërkesë

• Rezervimi — Kur arrin një kërkesë, ajo rezervon buxhetin e saj të daljes nga bilanci juaj: max_tokens në /v1/chat/completions dhe /v1/messages, max_output_tokens në /v1/responses. /v1/chat/completions lexon edhe max_completion_tokens. Parazgjedhja është 4,096 dhe intervali është 1 deri 65,536.
• Pranimi — Kërkesa pranohet vetëm nëse rezervimi ngjit në atë që ka mbetur nga bilanci juaj. Një bilanc mbi zero por më i vogël se buxheti i daljes merr përgjigjen Quota exceeded. Dërgoni një max_tokens më të vogël për të përdorur pjesën tjetër.
• Rregullimi — Kur përgjigjja është e plotë, rezervimi zëvendësohet me faturimin e vërtetë. Faturimi mund të jetë më i ulët ose më i lartë se rezervimi.
• Kthimi — Një kërkesë që mbaron me status gabimi ia kthen rezervimin plotësisht.

Faturimi i vërtetë varet nga familja e modelit.

Shuma në USD merret nga bilanci juaj në tokens me $5.00 për 1,000,000, e rrumbullakosur në një token të plotë.

Numërimi i tokens-ave me POST /v1/tokenize ose POST /v1/messages/count_tokens është falas dhe nuk rezervon asgjë. Numërimi i tokens-ave

Ku të shihni bilancin dhe përdorimin

Faqja Çelësat dhe përdorimi tregon çfarë mund të shpenzoni tani, kuotën e planit për sot, kreditin tuaj të blerë dhe shpenzimet API të 30 ditëve të fundit. Më poshtë liston çdo kërkesë që ka bërë çelësi juaj: kohën, endpoint-in, modelin, hyrjen e ruajtur në cache, tokens-at e faturuar dhe koston. Çelësat dhe përdorimi

Çdo përgjigje mban edhe një objekt usage me numërimet e tokens-ave të asaj thirrjeje.

• usage mban numërimet e tokens-ave të modelit. Shuma e marrë nga bilanci juaj nuk është në përgjigje: është kolona Tokens të faturuar e listës së kërkesave te Çelësat dhe përdorimi.
• Në /v1/messages me një model open-weight të hostuar, input_tokens është pjesa e hyrjes pa cache, cache_read_input_tokens është pjesa e ruajtur në cache dhe cache_creation_input_tokens është gjithmonë 0.
• Një stream në /v1/chat/completions e mban usage në pjesën e fundit para [DONE]. Transmetim

Kur bilanci mbaron

Një kërkesë, rezervimi i së cilës nuk ngjit në bilancin tuaj, merr përgjigje me status 429, llojin rate_limit_error dhe mesazhin më poshtë. Nuk faturohet asgjë. E njëjta përgjigje dërgohet kur bilanci është mbi zero por më i vogël se buxheti i daljes së kërkesës.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

Në /v1/responses objekti error mund të mbajë edhe code dhe param, të dyja null.

Çfarë mund të bëni:

• Prisni kuotën e radhës të planit në 00:00 UTC.
• Shtoni kredi. Krediti shpenzohet pas kuotës së planit dhe nuk skadon. Shto kredi
• Kaloni në një plan me kuotë ditore më të madhe. Ndrysho planin
• Dërgoni një max_tokens më të vogël, nëse ka mbetur ndonjë bilanc: rezervimi atëherë është më i vogël.

Kuota e thirrjeve Shannon Coder

shannon-coder-1 në /v1/chat/completions dhe /v1/messages numërohet në thirrje, jo në tokens. Çdo plan përfshin një numër thirrjesh për dritare 4-orëshe. Një kërkesë është një thirrje.

• Dritaret fillojnë në 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. Thirrjet që mbeten në fund të një dritareje nuk bartën.
• Një thirrje numërohet kur kërkesa pranohet, para se modeli të përgjigjet. Një kërkesë që dështon pas kësaj prapë numërohet si thirrje.
• Këto thirrje nuk rezervojnë tokens dhe nuk marrin asgjë nga bilanci juaj. Lista e kërkesave te Çelësat dhe përdorimi tregon numrin e tyre të tokens-ave dhe vlerën e tij me çmimin e listuar.
• max_tokens i parazgjedhur i shannon-coder-1 në këto dy endpoint-e është 65,536.
• Kur nuk ka më thirrje, përgjigjja është status 429, lloji rate_limit_error, mesazhi Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• Në /v1/responses, shannon-coder-1 nuk ka kuotë thirrjesh: faturohet në tokens nga bilanci juaj me $8.00 për 1M, si çdo model tjetër.

Mbrojtja nga vërshimi i kërkesave

Një llogari mund të dërgojë 120 kërkesa në minutë. Ky është kufiri i vetëm për shpejtësinë e kërkesave dhe është i njëjtë në çdo plan. Ekziston për të ndaluar vërshimet, jo për ta ngadalësuar përdorimin normal.

• Minuta është një dritare fikse prej 60 sekondash që hapet me kërkesën tuaj të parë. Kur mbaron, numërimi fillon përsëri nga zero.
• Numërimi është për llogari, jo për çelës dhe jo për adresë IP. Rrotullimi i çelësit nuk hap dritare të re.
• Kërkesa e 121-të brenda një dritareje merr përgjigje me status 429, llojin rate_limit_error dhe mesazhin Too many requests. Retry in <N>s. N është numri i sekondave deri në fund të dritares, nga 1 deri 60.
• Mbrojtja nga vërshimi i kërkesave kontrollohet para bilancit. Një kërkesë që ajo e refuzon nuk rezervon asgjë dhe nuk kushton asgjë.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Kërkesat paralele

Nuk ka kufi për sa kërkesa ka të hapura një llogari në të njëjtën kohë, dhe nuk ka gabim për dërgimin e kërkesave paralelisht. Kërkesat që nuk mund të nisin menjëherë presin në radhë dhe marrin përgjigje me radhë.

• Çdo kërkesë numërohet te 120 në minutë kur arrin, pavarësisht nëse kërkesat e mëparshme kanë mbaruar.
• Çdo kërkesë e mban rezervimin e vet derisa mbaron. Njëzet kërkesa të hapura me buxhetin e parazgjedhur të daljes mbajnë 20 × 4,096 = 81,920 tokens bilanc. Nëse rezervimet së bashku janë më të mëdha se bilanci juaj, kërkesa tjetër merr përgjigjen Quota exceeded, megjithëse thirrjet e mbaruara do të kishin kushtuar më pak. Një max_tokens më i vogël mban më pak.
• Një kërkesë pa streaming nuk dërgon asgjë derisa përgjigjja të jetë e plotë, prandaj jepini klientit tuaj një timeout që e mbulon pritjen. Një stream e mban lidhjen e hapur ndërsa pret. Transmetim

Kufijtë e një kërkese të vetme

Gabimet

Përgjigjet e kësaj faqeje. Në /v1/messages i njëjti objekt error mbështillet si {"type": "error", "error": {…}}.