Piirangud ja saldo

See leht selgitab, millest sinu saldo koosneb, mida üks päring reserveerib ja mis see maksab, mitu päringut võid saata ja mõnda piirangut, millega üksik päring kokku puutuda võib.

1M saldo tokeni väärtus

$5.00

päevalimiit uueneb

00:00 UTC

kiirusepiirang, konto kohta

120 päringut / min

Kuidas päringuid teenindatakse

• Kiirusetasemeid ei ole — Üks reegel piirab, kui kiiresti päringud võivad saabuda, ja see on igal kontol ja igal paketil sama: 120 päringut minutis. Tokenite piirangut minutis ei ole.
• Eraldi API kvooti ei ole — API kulutab sama saldot nagu vestlus. Pakett määrab tänase päevalimiidi suuruse. See ei määra päringute sagedust.
• Nii kiiresti, kui soovid — Paralleelselt saadetud päringud võetakse vastu ja nad ootavad järjekorras. Neid ei lükata tagasi paralleelsuse pärast.

Sinu saldo

Sinu saldot loetakse tokenites. 1,000,000 saldo tokeni väärtus on $5.00 ja iga hind lehel Mudelid ja hinnad on määr selle väärtuse suhtes.

Igal hetkel on saldo kahe osa summa.

• Tänane paketi päevalimiit — Sinu paketiga määratud tokenite arv. See on uus iga päev kell 00:00 UTC. Mis päeva lõpus üle jääb, ei kandu edasi.
• Ostetud krediit — Tokenid, mille ostsid paketina. Krediit ei aegu ja töötab igal paketil, ka Free.

• Kulutamise järjekord — Iga päring kulutab kõigepealt tänast paketi päevalimiiti. Ostetud krediiti kasutatakse ainult selle jaoks, mis ületab sel päeval päevalimiidi.
• Vestlus ja API jagavad seda — Konto kohta on üks saldo. API võti kulutab seda omava konto saldot samade hindadega nagu vestlus.
• Paketid — Krediiti müüakse pakettidena 1,000,000 ($5.00), 2,000,000 ($10.00) ja 5,000,000 ($25.00) tokenit või sinu valitud summana vahemikus 1,000,000 kuni 100,000,000 tokenit hinnaga $5.00 1,000,000 kohta.

Täida krediiti Vahenda plaani

Mida päring reserveerib ja mis see maksab

• Reserveering — Kui päring saabub, reserveerib see sinu saldost oma väljundi eelarve: max_tokens lõpp-punktides /v1/chat/completions ja /v1/messages, max_output_tokens lõpp-punktis /v1/responses. /v1/chat/completions loeb ka max_completion_tokens. Vaikeväärtus on 4,096 ja vahemik on 1 kuni 65,536.
• Vastuvõtt — Päring võetakse vastu ainult siis, kui reserveering mahub sinu saldo jääki. Saldo, mis on suurem kui null, kuid väiksem kui väljundi eelarve, saab vastuseks Quota exceeded. Saada väiksem max_tokens, et ülejäänut kasutada.
• Arveldus — Kui vastus on valmis, asendatakse reserveering tegeliku hinnaga. Hind võib olla reserveeringust madalam või kõrgem.
• Tagastus — Päring, mis lõpeb veaolekuga, annab oma reserveeringu täielikult tagasi.

Tegelik hind sõltub mudeliperekonnast.

USD summa võetakse sinu saldost tokenites hinnaga $5.00 1,000,000 kohta, ümardatuna täistokenini.

Tokenite lugemine päringutega POST /v1/tokenize või POST /v1/messages/count_tokens on tasuta ja ei reserveeri midagi. Tokenite lugemine

Kust näha saldot ja kasutust

Leht Võtmed ja kasutus näitab, mida saad praegu kulutada, tänast paketi päevalimiiti, sinu ostetud krediiti ja viimase 30 päeva API kulu. Selle all loetleb see iga päringu, mille sinu võti on teinud: aeg, lõpp-punkt, mudel, vahemälus sisend, arveldatud tokenid ja hind. Võtmed ja kasutus

Iga vastus kannab ka usage-objekti selle kõne tokenite arvuga.

• usage sisaldab mudeli tokenite arvu. Sinu saldost võetud summat vastuses ei ole: see on veerg Arveldatud tokenid päringute loendis lehel Võtmed ja kasutus.
• Lõpp-punktis /v1/messages hostitud avatud kaaludega mudeliga on input_tokens sisendi vahemäluta osa, cache_read_input_tokens on vahemälus olev osa ja cache_creation_input_tokens on alati 0.
• Voog lõpp-punktis /v1/chat/completions kannab usage oma viimases chunkis enne [DONE]. Voogedastus

Kui saldo saab otsa

Päring, mille reserveering ei mahu sinu saldosse, saab vastuseks oleku 429, tüübi rate_limit_error ja alloleva teatega. Midagi ei arveldata. Sama vastus saadetakse, kui saldo on suurem kui null, kuid väiksem kui päringu väljundi eelarve.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

Lõpp-punktis /v1/responses võib error-objekt sisaldada ka code ja param, mõlemad null.

Mida saad teha:

• Oota järgmist paketi päevalimiiti kell 00:00 UTC.
• Täienda krediiti. Krediiti kulutatakse pärast paketi päevalimiiti ja see ei aegu. Täida krediiti
• Mine üle paketile, mille päevalimiit on suurem. Vahenda plaani
• Saada väiksem max_tokens, kui saldot on veel alles: siis on reserveering väiksem.

Shannon Coderi kõnelimiit

shannon-coder-1 lõpp-punktides /v1/chat/completions ja /v1/messages loetakse kõnedes, mitte tokenites. Iga pakett sisaldab teatud arvu kõnesid 4-tunnise akna kohta. Üks päring on üks kõne.

• Aknad algavad 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. Kõned, mis akna lõpus üle jäävad, ei kandu edasi.
• Kõne loetakse, kui päring vastu võetakse, enne mudeli vastust. Päring, mis hiljem ebaõnnestub, loetakse ikkagi kõneks.
• Need kõned ei reserveeri tokeneid ega võta sinu saldost midagi. Päringute loend lehel Võtmed ja kasutus näitab nende tokenite arvu ja selle väärtust loetletud hinnaga.
• Mudeli shannon-coder-1 vaike-max_tokens nendes kahes lõpp-punktis on 65,536.
• Kui kõnesid ei ole jäänud, on vastuseks olek 429, tüüp rate_limit_error, teade Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• Lõpp-punktis /v1/responses ei ole mudelil shannon-coder-1 kõnelimiiti: selle eest arveldatakse tokenites sinu saldost hinnaga $8.00 1M kohta, nagu iga teise mudeli eest.

Kiirusepiirang

Konto võib saata 120 päringut minutis. See on ainus päringute sageduse piirang ja see on igal paketil sama. See on olemas üleujutuste peatamiseks, mitte tavakasutuse aeglustamiseks.

• Minut on 60 sekundi fikseeritud aken, mis avaneb sinu esimese päringuga. Kui see lõpeb, algab lugemine uuesti nullist.
• Lugemine käib konto, mitte võtme ega IP-aadressi kohta. Võtme vahetamine ei ava uut akent.
• Akna 121. päringule vastatakse olekuga 429, tüübiga rate_limit_error ja teatega Too many requests. Retry in <N>s. N on sekundite arv akna lõpuni, vahemikus 1 kuni 60.
• Kiirusepiirangut kontrollitakse enne saldot. Päring, mille see tagasi lükkab, ei reserveeri midagi ega maksa midagi.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Paralleelsed päringud

Piirangut selle kohta, mitu päringut konto korraga avatuna hoida võib, ei ole, ja paralleelselt saatmise eest viga ei anta. Päringud, mis ei saa kohe alata, ootavad järjekorras ja neile vastatakse kordamööda.

• Iga päring loeb 120 päringu hulka minutis, kui see saabub, olenemata sellest, kas varasemad päringud on lõppenud.
• Iga päring hoiab oma reserveeringut, kuni see lõpeb. Kakskümmend avatud päringut vaikimisi väljundi eelarvega hoiavad 20 × 4,096 = 81,920 saldo tokenit. Kui reserveeringud kokku on suuremad kui sinu saldo, saab järgmine päring vastuseks Quota exceeded, kuigi lõppenud kõned oleksid maksnud vähem. Väiksem max_tokens hoiab vähem.
• Voogedastuseta päring ei saada midagi, kuni selle vastus on valmis, seega anna oma kliendile ootamist katva timeouti. Voog hoiab oma ühenduse ootamise ajal avatuna. Voogedastus

Üksiku päringu piirangud

Vead

Selle lehe vastused. Lõpp-punktis /v1/messages on sama error-objekt mähitud kujul {"type": "error", "error": {…}}.