Limite și sold

Această pagină explică din ce este format soldul tău, ce rezervă și cât costă o cerere, câte cereri poți trimite și puținele limite pe care le poate întâlni o singură cerere.

valoarea a 1M token-uri de sold

$5.00

cota zilnică se reînnoiește

00:00 UTC

protecție anti-flood, per cont

120 cereri / min

Cum sunt servite cererile

• Fără niveluri de rată — O singură regulă limitează cât de repede pot sosi cererile și este aceeași pentru fiecare cont și fiecare plan: 120 de cereri pe minut. Nu există nicio limită de token-uri pe minut.
• Fără cotă API separată — API-ul consumă același sold ca și chatul. Un plan stabilește mărimea cotei de astăzi. Nu stabilește o rată a cererilor.
• Cât de repede vrei — Cererile trimise în paralel sunt acceptate și așteaptă la coadă. Nu sunt refuzate pentru că sunt paralele.

Soldul tău

Soldul tău este numărat în token-uri. 1,000,000 de token-uri de sold valorează $5.00, iar fiecare preț de pe pagina Models & pricing este un tarif raportat la această valoare.

În orice moment, soldul este suma a două părți.

• Cota planului de astăzi — Un număr de token-uri stabilit de planul tău. Se reînnoiește în fiecare zi la 00:00 UTC. Ce rămâne la sfârșitul zilei nu se reportează.
• Credit achiziționat — Token-uri pe care le-ai cumpărat ca pachet. Creditul nu expiră și funcționează pe orice plan, inclusiv Free.

• Ordinea consumului — Fiecare cerere consumă mai întâi cota planului de astăzi. Creditul achiziționat se folosește doar pentru ce depășește cota din ziua respectivă.
• Chatul și API-ul îl folosesc împreună — Există un singur sold per cont. O cheie API consumă din soldul contului căruia îi aparține, la aceleași prețuri ca în chat.
• Pachete — Creditul se vinde în pachete de 1,000,000 ($5.00), 2,000,000 ($10.00) și 5,000,000 ($25.00) token-uri sau ca o sumă la alegere, de la 1,000,000 la 100,000,000 token-uri, la $5.00 per 1,000,000.

Reîncărcare credit Schimbare plan

Ce rezervă o cerere și cât costă

• Rezervare — Când sosește o cerere, ea rezervă din soldul tău bugetul de ieșire: max_tokens pe /v1/chat/completions și /v1/messages, max_output_tokens pe /v1/responses. /v1/chat/completions citește și max_completion_tokens. Valoarea implicită este 4,096, iar intervalul este de la 1 la 65,536.
• Admitere — Cererea este acceptată doar dacă rezervarea încape în ce a rămas din soldul tău. Un sold mai mare ca zero, dar mai mic decât bugetul de ieșire, primește răspunsul Quota exceeded. Trimite un max_tokens mai mic pentru a folosi restul.
• Decontare — Când răspunsul este complet, rezervarea este înlocuită cu taxa reală. Taxa poate fi mai mică sau mai mare decât rezervarea.
• Returnare — O cerere care se termină cu un status de eroare își returnează rezervarea integral.

Taxarea reală depinde de familia modelului.

Suma în USD este scăzută din soldul tău în token-uri la $5.00 per 1,000,000, rotunjită la un token întreg.

Numărarea token-urilor cu POST /v1/tokenize sau POST /v1/messages/count_tokens este gratuită și nu rezervă nimic. Numărarea token-urilor

Unde vezi soldul și utilizarea

Pagina Keys & usage arată ce poți cheltui chiar acum, cota planului de astăzi, creditul tău achiziționat și cheltuielile API din ultimele 30 de zile. Mai jos listează fiecare cerere făcută de cheia ta: ora, endpoint-ul, modelul, intrarea din cache, token-urile taxate și costul. Chei și utilizare

Fiecare răspuns conține și un obiect usage cu numărul de token-uri al apelului respectiv.

• usage conține numărul de token-uri al modelului. Suma scăzută din soldul tău nu apare în răspuns: este coloana Billed tokens din lista de cereri din Keys & usage.
• Pe /v1/messages cu un model open-weight găzduit, input_tokens este partea necache-uită a intrării, cache_read_input_tokens este partea din cache, iar cache_creation_input_tokens este întotdeauna 0.
• Un stream pe /v1/chat/completions conține usage în ultimul chunk, înainte de [DONE]. Streaming

Când soldul se epuizează

O cerere a cărei rezervare nu încape în soldul tău primește răspuns cu statusul 429, tipul rate_limit_error și mesajul de mai jos. Nu se taxează nimic. Același răspuns se trimite și când soldul este mai mare ca zero, dar mai mic decât bugetul de ieșire al cererii.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

Pe /v1/responses, obiectul error poate conține și code și param, ambele null.

Ce poți face:

• Așteaptă următoarea cotă a planului, la 00:00 UTC.
• Reîncarcă creditul. Creditul se consumă după cota planului și nu expiră. Reîncărcare credit
• Treci la un plan cu o cotă zilnică mai mare. Schimbare plan
• Trimite un max_tokens mai mic, dacă a mai rămas ceva sold: rezervarea va fi atunci mai mică.

Cota de apeluri Shannon Coder

shannon-coder-1 pe /v1/chat/completions și /v1/messages se numără în apeluri, nu în token-uri. Fiecare plan include un număr de apeluri pe fereastră de 4 ore. O cerere este un apel.

• Ferestrele încep la 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. Apelurile rămase la sfârșitul unei ferestre nu se reportează.
• Un apel este numărat când cererea este acceptată, înainte ca modelul să răspundă. O cerere care eșuează ulterior se numără tot ca apel.
• Aceste apeluri nu rezervă token-uri și nu iau nimic din soldul tău. Lista de cereri din Keys & usage arată numărul lor de token-uri și valoarea acestuia la prețul listat.
• Valoarea implicită a max_tokens pentru shannon-coder-1 pe aceste două endpoint-uri este 65,536.
• Când nu mai ai apeluri, răspunsul are statusul 429, tipul rate_limit_error și mesajul Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• Pe /v1/responses, shannon-coder-1 nu are cotă de apeluri: este taxat în token-uri din soldul tău la $8.00 per 1M, ca orice alt model.

Protecție anti-flood

Un cont poate trimite 120 de cereri pe minut. Aceasta este singura limită a ratei cererilor și este aceeași pe orice plan. Există pentru a opri inundările de cereri, nu pentru a încetini folosirea normală.

• Minutul este o fereastră fixă de 60 de secunde, care se deschide cu prima ta cerere. Când se termină, numărătoarea pornește din nou de la zero.
• Numărătoarea este per cont, nu per cheie și nu per adresă IP. Schimbarea cheii nu deschide o fereastră nouă.
• A 121-a cerere dintr-o fereastră primește răspuns cu statusul 429, tipul rate_limit_error și mesajul Too many requests. Retry in <N>s. N este numărul de secunde până la sfârșitul ferestrei, de la 1 la 60.
• Protecția anti-flood se verifică înaintea soldului. O cerere refuzată de ea nu rezervă nimic și nu costă nimic.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Cereri în paralel

Nu există nicio limită pentru câte cereri poate avea un cont deschise simultan și nicio eroare pentru trimiterea cererilor în paralel. Cererile care nu pot porni imediat așteaptă la coadă și primesc răspuns pe rând.

• Fiecare cerere se numără în cele 120 pe minut în momentul sosirii, indiferent dacă cererile anterioare s-au terminat sau nu.
• Fiecare cerere își ține propria rezervare până se termină. Douăzeci de cereri deschise cu bugetul de ieșire implicit rețin 20 × 4,096 = 81,920 token-uri din sold. Dacă rezervările împreună depășesc soldul tău, următoarea cerere primește răspunsul Quota exceeded, chiar dacă apelurile terminate ar fi costat mai puțin. Un max_tokens mai mic reține mai puțin.
• O cerere fără streaming nu trimite nimic până când răspunsul este complet, așa că setează clientului un timeout care acoperă așteptarea. Un stream își ține conexiunea deschisă cât așteaptă. Streaming

Limitele unei singure cereri

Erori

Răspunsurile acestei pagini. Pe /v1/messages, același obiect error este învelit ca {"type": "error", "error": {…}}.