Limity i saldo

Ta strona wyjaśnia, z czego składa się Twoje saldo, co jedno zapytanie rezerwuje i ile kosztuje, ile zapytań możesz wysyłać oraz kilka limitów, na które może trafić pojedyncze zapytanie.

wartość 1M tokenów salda

$5.00

dzienny limit się odnawia

00:00 UTC

ochrona przed floodem, na konto

120 zapytań / min

Jak obsługiwane są zapytania

• Bez poziomów szybkości — Jedna reguła ogranicza, jak szybko mogą nadchodzić zapytania, i jest taka sama dla każdego konta i każdego planu: 120 zapytań na minutę. Nie ma limitu tokenów na minutę.
• Bez osobnego limitu API — API wydaje to samo saldo co czat. Plan ustala wielkość dzisiejszego limitu. Nie ustala tempa zapytań.
• Tak szybko, jak chcesz — Zapytania wysłane równolegle są przyjmowane i czekają w kolejce. Nie są odrzucane za to, że są równoległe.

Twoje saldo

Twoje saldo jest liczone w tokenach. 1,000,000 tokenów salda jest warte $5.00, a każda cena na stronie Models & pricing jest stawką względem tej wartości.

W każdej chwili saldo jest sumą dwóch części.

• Dzisiejszy limit planu — Liczba tokenów ustalona przez Twój plan. Co dzień o 00:00 UTC jest odnawiana. To, co zostanie na koniec dnia, nie przechodzi na następny.
• Zakupione środki — Tokeny kupione w pakiecie. Środki nie wygasają i działają w każdym planie, także w Free.

• Kolejność wydawania — Każde zapytanie najpierw zużywa dzisiejszy limit planu. Zakupione środki są używane tylko na to, co przekracza limit tego dnia.
• Czat i API dzielą je — Na konto przypada jedno saldo. Klucz API wydaje z salda konta, do którego należy, po tych samych cenach co czat.
• Pakiety — Środki są sprzedawane w pakietach po 1,000,000 ($5.00), 2,000,000 ($10.00) i 5,000,000 ($25.00) tokenów albo w dowolnej wybranej ilości od 1,000,000 do 100,000,000 tokenów po $5.00 za 1,000,000.

Doładuj środki Zmień plan

Co zapytanie rezerwuje i ile kosztuje

• Rezerwacja — Gdy zapytanie nadchodzi, rezerwuje swój budżet wyjścia z Twojego salda: max_tokens w /v1/chat/completions i /v1/messages, max_output_tokens w /v1/responses. /v1/chat/completions czyta też max_completion_tokens. Wartość domyślna to 4,096, a zakres od 1 do 65,536.
• Przyjęcie — Zapytanie jest przyjmowane tylko wtedy, gdy rezerwacja mieści się w tym, co zostało z Twojego salda. Saldo większe od zera, ale mniejsze niż budżet wyjścia, dostaje odpowiedź Quota exceeded. Wyślij mniejsze max_tokens, aby wykorzystać resztę.
• Rozliczenie — Gdy odpowiedź jest kompletna, rezerwacja zostaje zastąpiona rzeczywistym kosztem. Koszt może być niższy lub wyższy niż rezerwacja.
• Zwrot — Zapytanie, które kończy się statusem błędu, zwraca całą rezerwację.

Rzeczywisty koszt zależy od rodziny modelu.

Kwota w USD jest pobierana z Twojego salda w tokenach po $5.00 za 1,000,000, zaokrąglona do pełnego tokenu.

Liczenie tokenów przez POST /v1/tokenize lub POST /v1/messages/count_tokens jest bezpłatne i niczego nie rezerwuje. Liczenie tokenów

Gdzie zobaczyć saldo i użycie

Strona Keys & usage pokazuje, ile możesz wydać teraz, dzisiejszy limit planu, zakupione środki i wydatki API z ostatnich 30 dni. Poniżej wymienia każde zapytanie wykonane Twoim kluczem: czas, endpoint, model, wejście z cache, rozliczone tokeny i koszt. Keys & usage

Każda odpowiedź zawiera też obiekt usage z liczbą tokenów danego wywołania.

• usage zawiera liczbę tokenów modelu. Kwoty pobranej z Twojego salda nie ma w odpowiedzi: to kolumna Rozliczone tokeny na liście zapytań w Keys & usage.
• W /v1/messages z hostowanym modelem open-weight input_tokens to niecache'owana część wejścia, cache_read_input_tokens to część z cache, a cache_creation_input_tokens zawsze wynosi 0.
• Stream w /v1/chat/completions przekazuje usage w ostatnim chunku przed [DONE]. Streaming

Gdy saldo się skończy

Zapytanie, którego rezerwacja nie mieści się w Twoim saldzie, dostaje odpowiedź ze statusem 429, typem rate_limit_error i komunikatem poniżej. Nic nie jest naliczane. Ta sama odpowiedź jest wysyłana, gdy saldo jest większe od zera, ale mniejsze niż budżet wyjścia zapytania.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

W /v1/responses obiekt error może zawierać także code i param, oba równe null.

Co możesz zrobić:

• Poczekaj na kolejny limit planu o 00:00 UTC.
• Doładuj środki. Środki są wydawane po limicie planu i nie wygasają. Doładuj środki
• Przejdź na plan z większym dziennym limitem. Zmień plan
• Wyślij mniejsze max_tokens, jeśli zostało jakieś saldo: rezerwacja będzie wtedy mniejsza.

Limit wywołań Shannon Coder

shannon-coder-1 w /v1/chat/completions i /v1/messages jest liczony w wywołaniach, nie w tokenach. Każdy plan zawiera pewną liczbę wywołań na 4-godzinne okno. Jedno zapytanie to jedno wywołanie.

• Okna zaczynają się o 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. Wywołania, które zostaną na koniec okna, nie przechodzą dalej.
• Wywołanie jest liczone w chwili przyjęcia zapytania, zanim model odpowie. Zapytanie, które potem zakończy się błędem, nadal liczy się jako wywołanie.
• Te wywołania nie rezerwują tokenów i nic nie pobierają z Twojego salda. Lista zapytań w Keys & usage pokazuje ich liczbę tokenów i wartość po cenie z cennika.
• Domyślne max_tokens dla shannon-coder-1 w tych dwóch endpointach wynosi 65,536.
• Gdy nie zostało żadne wywołanie, odpowiedź ma status 429, typ rate_limit_error i komunikat Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• W /v1/responses model shannon-coder-1 nie ma limitu wywołań: jest rozliczany w tokenach z Twojego salda po $8.00 za 1M, jak każdy inny model.

Ochrona przed floodem

Konto może wysłać 120 zapytań na minutę. To jedyny limit tempa zapytań i jest taki sam w każdym planie. Służy do powstrzymywania floodu, nie do spowalniania normalnego użycia.

• Minuta to stałe okno 60 sekund, które otwiera się wraz z Twoim pierwszym zapytaniem. Gdy się kończy, licznik zaczyna od zera.
• Licznik dotyczy konta, nie klucza ani adresu IP. Rotacja klucza nie otwiera nowego okna.
• 121. zapytanie w oknie dostaje odpowiedź ze statusem 429, typem rate_limit_error i komunikatem Too many requests. Retry in <N>s. N to liczba sekund do końca okna, od 1 do 60.
• Ochrona przed floodem jest sprawdzana przed saldem. Zapytanie, które odrzuci, nic nie rezerwuje i nic nie kosztuje.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Zapytania równoległe

Nie ma limitu liczby zapytań, które konto ma otwarte w tym samym czasie, ani błędu za wysyłanie zapytań równolegle. Zapytania, które nie mogą ruszyć od razu, czekają w kolejce i są obsługiwane po kolei.

• Każde zapytanie wlicza się do 120 na minutę w chwili nadejścia, niezależnie od tego, czy wcześniejsze zapytania się zakończyły.
• Każde zapytanie trzyma własną rezerwację do swojego końca. Dwadzieścia otwartych zapytań z domyślnym budżetem wyjścia trzyma 20 × 4,096 = 81,920 tokenów salda. Jeśli rezerwacje razem są większe niż Twoje saldo, następne zapytanie dostaje odpowiedź Quota exceeded, mimo że zakończone wywołania kosztowałyby mniej. Mniejsze max_tokens trzyma mniej.
• Zapytanie bez streamingu niczego nie wysyła, dopóki odpowiedź nie jest kompletna, więc ustaw w kliencie timeout obejmujący to oczekiwanie. Stream utrzymuje otwarte połączenie, gdy czeka. Streaming

Limity pojedynczego zapytania

Błędy

Odpowiedzi tej strony. W /v1/messages ten sam obiekt error jest opakowany jako {"type": "error", "error": {…}}.