Ribos ir balansas

Šiame puslapyje paaiškinama, iš ko sudarytas jūsų balansas, ką viena užklausa rezervuoja ir kiek kainuoja, kiek užklausų galite siųsti ir kelios ribos, su kuriomis gali susidurti pavienė užklausa.

1M balanso tokenų vertė

$5.00

dienos limitas atsinaujina

00:00 UTC

apsauga nuo užplūdimo, vienai paskyrai

120 užklausų / min.

Kaip aptarnaujamos užklausos

• Jokių dažnio pakopų — Viena taisyklė riboja, kaip greitai gali atvykti užklausos, ir ji vienoda kiekvienai paskyrai bei planui: 120 užklausų per minutę. Tokenų per minutę ribos nėra.
• Jokios atskiros API kvotos — API leidžia tą patį balansą kaip pokalbis. Planas nustato šiandienos limito dydį. Užklausų dažnio jis nenustato.
• Tokiu greičiu, kokiu norite — Lygiagrečiai siunčiamos užklausos priimamos ir laukia eilėje. Jos neatmetamos dėl to, kad yra lygiagrečios.

Jūsų balansas

Jūsų balansas skaičiuojamas tokenais. 1,000,000 balanso tokenų vertas $5.00, o kiekviena puslapio Modeliai ir kainos kaina yra tarifas pagal šią vertę.

Bet kuriuo metu balansas yra dviejų dalių suma.

• Šiandienos plano limitas — Jūsų plano nustatytas tokenų skaičius. Jis atsinaujina kasdien 00:00 UTC. Kas lieka dienos pabaigoje, nepersikelia.
• Nupirktas kreditas — Tokenai, kuriuos nusipirkote paketu. Kreditas nesuyra ir veikia kiekviename plane, įskaitant Free.

• Išleidimo tvarka — Kiekviena užklausa pirmiausia leidžia šiandienos plano limitą. Nupirktas kreditas naudojamas tik tam, kas tą dieną viršija limitą.
• Pokalbis ir API dalijasi juo — Kiekviena paskyra turi vieną balansą. API raktas leidžia jį turinčios paskyros balansą tomis pačiomis kainomis kaip pokalbis.
• Paketai — Kreditas parduodamas paketais po 1,000,000 ($5.00), 2,000,000 ($10.00) ir 5,000,000 ($25.00) tokenų arba jūsų pasirinkta suma nuo 1,000,000 iki 100,000,000 tokenų po $5.00 už 1,000,000.

Papildyti kreditus Keisti planą

Ką užklausa rezervuoja ir kiek kainuoja

• Rezervavimas — Kai užklausa atvyksta, ji iš jūsų balanso rezervuoja savo išvesties biudžetą: max_tokens kelyje /v1/chat/completions ir /v1/messages, max_output_tokens kelyje /v1/responses. /v1/chat/completions taip pat skaito max_completion_tokens. Numatytoji reikšmė yra 4,096, o intervalas nuo 1 iki 65,536.
• Priėmimas — Užklausa priimama tik tada, kai rezervacija telpa į jūsų balanso likutį. Jei balansas didesnis už nulį, bet mažesnis už išvesties biudžetą, gaunamas atsakymas Quota exceeded. Siųskite mažesnį max_tokens, kad išnaudotumėte likutį.
• Sureguliavimas — Kai atsakymas baigtas, rezervacija pakeičiama tikruoju mokesčiu. Mokestis gali būti mažesnis arba didesnis už rezervaciją.
• Grąžinimas — Užklausa, pasibaigusi klaidos būsena, savo rezervaciją grąžina visą.

Tikrasis apmokestinimas priklauso nuo modelio šeimos.

Suma USD iš jūsų balanso tokenais imama po $5.00 už 1,000,000, apvalinant iki sveiko tokeno.

Tokenų skaičiavimas su POST /v1/tokenize arba POST /v1/messages/count_tokens nemokamas ir nieko nerezervuoja. Tokenų skaičiavimas

Kur matyti balansą ir naudojimą

Puslapyje Raktai ir naudojimas matyti, kiek galite išleisti dabar, šiandienos plano limitas, nupirktas kreditas ir API išlaidos per pastarąsias 30 dienų. Žemiau pateikiama kiekviena jūsų rakto atlikta užklausa: laikas, galinis taškas, modelis, kešuota įvestis, apmokestinti tokenai ir kaina. Raktai ir naudojimas

Kiekviename atsakyme taip pat yra objektas usage su to kreipinio tokenų skaičiumi.

• usage rodo modelio tokenų skaičių. Iš jūsų balanso nuskaičiuota suma atsakyme nepateikiama: ji yra puslapio Raktai ir naudojimas užklausų sąrašo stulpelyje Apmokestinti tokenai.
• Kelyje /v1/messages su talpinamu atvirų svorių modeliu input_tokens yra nekešuota įvesties dalis, cache_read_input_tokens yra kešuota dalis, o cache_creation_input_tokens visada yra 0.
• Kelyje /v1/chat/completions srautas usage pateikia paskutiniame gabale prieš [DONE]. Srautinė transliacija

Kai balansas baigiasi

Užklausa, kurios rezervacija netelpa į jūsų balansą, atsakoma būsena 429, tipu rate_limit_error ir toliau pateiktu pranešimu. Nieko neapmokestinama. Tas pats atsakymas siunčiamas, kai balansas didesnis už nulį, bet mažesnis už užklausos išvesties biudžetą.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

Kelyje /v1/responses objekte error gali būti ir code bei param, abu null.

Ką galite daryti:

• Palaukite kito plano limito 00:00 UTC.
• Papildykite kreditą. Kreditas leidžiamas po plano limito ir nesuyra. Papildyti kreditus
• Pereikite į planą su didesniu dienos limitu. Keisti planą
• Jei dar liko šiek tiek balanso, siųskite mažesnį max_tokens: tada rezervacija bus mažesnė.

Shannon Coder kreipinių limitas

shannon-coder-1 kelyje /v1/chat/completions ir /v1/messages skaičiuojamas kreipiniais, o ne tokenais. Kiekvienas planas apima tam tikrą kreipinių skaičių per 4 valandų langą. Viena užklausa yra vienas kreipinys.

• Langai prasideda 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. Kreipiniai, likę lango pabaigoje, nepersikelia.
• Kreipinys įskaičiuojamas, kai užklausa priimama, prieš modeliui atsakant. Užklausa, kuri vėliau nepavyksta, vis tiek skaičiuojama kaip kreipinys.
• Šie kreipiniai tokenų nerezervuoja ir iš jūsų balanso nieko neima. Puslapio Raktai ir naudojimas užklausų sąraše rodomas jų tokenų skaičius ir vertė nurodyta kaina.
• Numatytasis shannon-coder-1 max_tokens šiuose dvejuose galiniuose taškuose yra 65,536.
• Kai kreipinių neliko, atsakymas yra būsena 429, tipas rate_limit_error, pranešimas Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• Kelyje /v1/responses shannon-coder-1 kreipinių limito neturi: jis apmokestinamas tokenais iš jūsų balanso po $8.00 už 1M, kaip ir kiekvienas kitas modelis.

Apsauga nuo užplūdimo

Paskyra gali siųsti 120 užklausų per minutę. Tai vienintelė užklausų dažnio riba, ir ji vienoda kiekviename plane. Ji skirta užplūdimui sustabdyti, o ne įprastam naudojimui lėtinti.

• Minutė yra fiksuotas 60 sekundžių langas, kuris atsidaro su jūsų pirmąja užklausa. Jam pasibaigus, skaičiavimas vėl prasideda nuo nulio.
• Skaičiuojama pagal paskyrą, o ne pagal raktą ar IP adresą. Rakto keitimas naujo lango neatidaro.
• 121-oji užklausa lango viduje atsakoma būsena 429, tipu rate_limit_error ir pranešimu Too many requests. Retry in <N>s. N yra sekundžių iki lango pabaigos skaičius, nuo 1 iki 60.
• Apsauga nuo užplūdimo tikrinama prieš balansą. Ji atmesta užklausa nieko nerezervuoja ir nieko nekainuoja.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Lygiagrečios užklausos

Nėra jokios ribos, kiek užklausų paskyra gali turėti atvirų vienu metu, ir nėra klaidos už lygiagrečių užklausų siuntimą. Užklausos, kurios negali prasidėti iš karto, laukia eilėje ir atsakomos paeiliui.

• Kiekviena užklausa įskaičiuojama į 120 per minutę, kai tik atvyksta, nesvarbu, ar ankstesnės jau baigėsi.
• Kiekviena užklausa laiko savo rezervaciją, kol baigiasi. Dvidešimt atvirų užklausų su numatytuoju išvesties biudžetu laiko 20 × 4,096 = 81,920 balanso tokenų. Jei rezervacijos kartu didesnės už jūsų balansą, kita užklausa gauna atsakymą Quota exceeded, nors baigti kreipiniai būtų kainavę mažiau. Mažesnis max_tokens laiko mažiau.
• Užklausa be srautinio perdavimo nieko nesiunčia, kol atsakymas nebaigtas, todėl klientui nustatykite laiko ribą, apimančią laukimą. Srautas laukdamas palaiko ryšį atvirą. Srautinė transliacija

Pavienės užklausos ribos

Klaidos

Šio puslapio atsakymai. Kelyje /v1/messages tas pats objektas error apgaubiamas kaip {"type": "error", "error": {…}}.