Шектеулер және баланс

Бұл бетте балансыңыз неден тұратыны, бір сұрау нені резервтейтіні және қанша тұратыны, қанша сұрау жібере алатыныңыз және жеке сұрау кездестіре алатын бірнеше шектеу түсіндіріледі.

1M баланс токенінің құны

$5.00

күнделікті лимит жаңарады

00:00 UTC

flood protection, аккаунт бойынша

120 сұрау / мин

Сұраулар қалай қызмет көрсетіледі

• Жиілік деңгейлері жоқ — Бір ереже сұраулардың келу жылдамдығын шектейді, және ол әр аккаунт пен әр жоспар үшін бірдей: минутына 120 сұрау. Минутына токенге шектеу жоқ.
• Жеке API квотасы жоқ — API чатпен бірдей балансты жұмсайды. Жоспар бүгінгі лимиттің мөлшерін белгілейді. Ол сұрау жиілігін белгілемейді.
• Қалағаныңызша жылдам — Параллель жіберілген сұраулар қабылданып, кезекте тұрады. Олар параллель болғаны үшін қабылданбай қалмайды.

Сіздің балансыңыз

Балансыңыз токенмен есептеледі. 1,000,000 баланс токені $5.00 тұрады, ал «Модельдер және бағалар» бетіндегі әр баға сол мәнге қатысты тариф.

Кез келген сәтте баланс екі бөліктің қосындысы болады.

• Бүгінгі жоспар лимиті — Жоспарыңыз белгілейтін токен саны. Ол күн сайын 00:00 UTC уақытында жаңарады. Күн соңында қалғаны келесі күнге ауыспайды.
• Сатып алынған кредит — Пакет ретінде сатып алған токендеріңіз. Кредиттің мерзімі өтпейді және ол Free қоса, әр жоспарда жұмыс істейді.

• Жұмсау реті — Әр сұрау алдымен бүгінгі жоспар лимитін жұмсайды. Сатып алынған кредит сол күні лимиттен асатын бөлікке ғана қолданылады.
• Чат пен API оны бірге пайдаланады — Аккаунтқа бір баланс бар. API кілті өзіне иелік ететін аккаунттың балансынан чатпен бірдей бағамен жұмсайды.
• Пакеттер — Кредит 1,000,000 ($5.00), 2,000,000 ($10.00) және 5,000,000 ($25.00) токендік пакеттермен, немесе 1,000,000-ден 100,000,000 токенге дейінгі өзіңіз таңдаған көлеммен, 1,000,000 үшін $5.00 бағасымен сатылады.

Кредитті толтыру Жоспарды өзгерту

Сұрау нені резервтейді және қанша тұрады

• Резерв — Сұрау келгенде ол балансыңыздан өзінің шығыс бюджетін резервтейді: /v1/chat/completions және /v1/messages бойынша max_tokens, /v1/responses бойынша max_output_tokens. /v1/chat/completions max_completion_tokens мәнін де оқиды. Әдепкі мән 4,096, ал аралық 1-ден 65,536-ға дейін.
• Қабылдау — Сұрау тек резерв балансыңыздың қалдығына сыйған жағдайда ғана қабылданады. Нөлден жоғары, бірақ шығыс бюджетінен аз баланс Quota exceeded жауабын алады. Қалғанын пайдалану үшін кішірек max_tokens жіберіңіз.
• Есептесу — Жауап толық болғанда резерв нақты ақымен ауыстырылады. Ақы резервтен төмен немесе жоғары болуы мүмкін.
• Қайтару — Қате мәртебесімен аяқталған сұрау резервін толық қайтарады.

Нақты ақы модель отбасына байланысты.

USD сомасы балансыңыздан токенмен, 1,000,000 үшін $5.00 бағамымен, бүтін токенге дейін дөңгелектеліп алынады.

POST /v1/tokenize немесе POST /v1/messages/count_tokens арқылы токендерді санау тегін және ештеңе резервтемейді. Токендерді санау

Баланс пен қолдануды қайдан көру керек

Keys & usage беті қазір жұмсай алатын соманы, бүгінгі жоспар лимитін, сатып алынған кредитті және соңғы 30 күндегі API шығынын көрсетеді. Одан төменде кілтіңіз жасаған әр сұрау тізімделген: уақыты, endpoint, модель, кэштелген кіріс, есептелген токендер және құны. Keys & usage

Әр жауап сондай-ақ сол шақырудың токен саны бар usage нысанын алып жүреді.

• usage модельдің токен санын қамтиды. Балансыңыздан алынған сома жауапта жоқ: ол Keys & usage ішіндегі сұраулар тізімінің Billed tokens бағанында.
• Hosted open-weight модельмен /v1/messages бойынша input_tokens — кірістің кэштелмеген бөлігі, cache_read_input_tokens — кэштелген бөлігі, ал cache_creation_input_tokens әрқашан 0.
• /v1/chat/completions бойынша стрим usage мәнін [DONE] алдындағы соңғы бөлікте алып жүреді. Стриминг

Баланс таусылғанда

Резерві балансыңызға сыймайтын сұраудың жауабы 429 мәртебесімен, rate_limit_error түрімен және төмендегі хабарламамен беріледі. Ештеңе алынбайды. Баланс нөлден жоғары, бірақ сұраудың шығыс бюджетінен аз болғанда да сол жауап жіберіледі.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

/v1/responses бойынша error нысанында code және param да болуы мүмкін, екеуі де null.

Не істей аласыз:

• 00:00 UTC уақытындағы келесі жоспар лимитін күтіңіз.
• Кредитті толықтырыңыз. Кредит жоспар лимитінен кейін жұмсалады және мерзімі өтпейді. Кредитті толтыру
• Күнделікті лимиті үлкенірек жоспарға ауысыңыз. Жоспарды өзгерту
• Баланстың бір бөлігі қалса, кішірек max_tokens жіберіңіз: сонда резерв кішірек болады.

Shannon Coder шақыру лимиті

/v1/chat/completions және /v1/messages бойынша shannon-coder-1 токенмен емес, шақырумен есептеледі. Әр жоспарға 4 сағаттық терезеге белгілі бір шақыру саны кіреді. Бір сұрау — бір шақыру.

• Терезелер 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC уақытында басталады. Терезе соңында қалған шақырулар келесіге ауыспайды.
• Шақыру сұрау қабылданғанда, модель жауап бермей тұрып есептеледі. Кейін сәтсіз аяқталған сұрау да шақыру болып есептеледі.
• Бұл шақырулар токенді резервтемейді және балансыңыздан ештеңе алмайды. Keys & usage ішіндегі сұраулар тізімі олардың токен санын және оның көрсетілген бағадағы құнын көрсетеді.
• Осы екі endpoint-те shannon-coder-1 үшін әдепкі max_tokens мәні — 65,536.
• Шақырулар қалмағанда жауап 429 мәртебесімен, rate_limit_error түрімен және Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan хабарламасымен беріледі.
• /v1/responses бойынша shannon-coder-1 үшін шақыру лимиті жоқ: ол кез келген басқа модель сияқты балансыңыздан токенмен, 1M үшін $8.00 бағасымен алынады.

Flood protection

Аккаунт минутына 120 сұрау жібере алады. Бұл сұрау жиілігінің жалғыз шегі, және ол әр жоспарда бірдей. Ол ағынды тоқтату үшін бар, қалыпты қолдануды баяулату үшін емес.

• Минут — алғашқы сұрауыңыздан ашылатын 60 секундтық тұрақты терезе. Ол біткенде санау қайтадан нөлден басталады.
• Санау аккаунт бойынша, кілт бойынша да, IP мекенжайы бойынша да емес. Кілтті ауыстыру жаңа терезе ашпайды.
• Терезедегі 121-сұрауға 429 мәртебесімен, rate_limit_error түрімен және Too many requests. Retry in <N>s. хабарламасымен жауап беріледі. N — терезе біткенге дейінгі секунд саны, 1-ден 60-қа дейін.
• Flood protection баланстан бұрын тексеріледі. Ол қабылдамаған сұрау ештеңе резервтемейді және ештеңе тұрмайды.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Параллель сұраулар

Аккаунттың бір мезгілде ашық ұстайтын сұрауларының санына шектеу жоқ, және параллель сұрау жібергені үшін қате жоқ. Бірден басталмайтын сұраулар кезекте тұрып, ретімен жауап алады.

• Әр сұрау келген кезде алдыңғы сұраулар аяқталған-аяқталмағанына қарамастан, минутына 120-ға есептеледі.
• Әр сұрау аяқталғанша өз резервін ұстайды. Әдепкі шығыс бюджетімен жиырма ашық сұрау 20 × 4,096 = 81,920 баланс токенін ұстайды. Резервтер жиынтығы балансыңыздан үлкен болса, аяқталған шақырулар арзанырақ тұратын болса да, келесі сұрау Quota exceeded жауабын алады. Кішірек max_tokens азырақ ұстайды.
• Streaming-сіз сұрау жауабы толық болғанша ештеңе жібермейді, сондықтан клиентіңізге күтуді қамтитын timeout беріңіз. Стрим күту кезінде байланысын ашық ұстайды. Стриминг

Жеке сұрау шектеулері

Қателер

Осы беттің жауаптары. /v1/messages бойынша сол error нысаны {"type": "error", "error": {…}} ішіне оралады.