Terfynau a balans

Mae'r dudalen hon yn egluro beth mae eich balans wedi'i wneud ohono, beth mae un cais yn ei neilltuo ac yn ei gostio, faint o geisiadau y caiff eu hanfon, a'r ychydig derfynau y gall un cais eu cyfarfod.

gwerth 1M o docenau o falans

$5.00

mae'r lwfans dyddiol yn adnewyddu

00:00 UTC

amddiffyniad rhag llifogydd, fesul cyfrif

120 ceisiadau / mun

Sut mae ceisiadau'n cael eu gwasanaethu

• Dim haenau cyfradd — Mae un rheol yn cyfyngu pa mor gyflym y caiff ceisiadau gyrraedd, ac mae'r un peth i bob cyfrif a phob cynllun: 120 cais y funud. Nid oes terfyn ar docenau y funud.
• Dim cwota API ar wahân — Mae'r API yn gwario'r un balans â sgwrs. Mae cynllun yn gosod maint lwfans heddiw. Nid yw'n gosod cyfradd ceisiadau.
• Mor gyflym ag y dymunwch — Derbynnir ceisiadau a anfonir yn gyfochrog ac maent yn aros yn y rhes. Ni chânt eu gwrthod am eu bod yn gyfochrog.

Eich balans

Cyfrifir eich balans mewn tokenau. Mae 1,000,000 o docenau o falans yn werth $5.00, ac mae pob pris ar y dudalen Models & pricing yn gyfradd yn erbyn y gwerth hwnnw.

Ar unrhyw adeg mae'r balans yn swm dwy ran.

• Lwfans y cynllun heddiw — Nifer o docenau a osodir gan eich cynllun. Mae'n newydd bob dydd am 00:00 UTC. Nid yw'r hyn sy'n weddill ar ddiwedd diwrnod yn cario drosodd.
• Credyd a brynwyd — Tokenau a brynoch fel pecyn. Nid yw credyd yn dod i ben ac mae'n gweithio ar bob cynllun, gan gynnwys Free.

• Trefn gwario — Mae pob cais yn gwario lwfans y cynllun heddiw yn gyntaf. Defnyddir credyd a brynwyd yn unig ar gyfer yr hyn sy'n mynd y tu hwnt i'r lwfans ar y diwrnod hwnnw.
• Mae sgwrs a'r API yn ei rannu — Mae un balans i bob cyfrif. Mae allwedd API yn gwario o falans y cyfrif sy'n berchen arni, am yr un prisiau â sgwrs.
• Pecynnau — Gwerthir credyd mewn pecynnau o 1,000,000 ($5.00), 2,000,000 ($10.00) a 5,000,000 ($25.00) o docenau, neu fel swm o'ch dewis o 1,000,000 i 100,000,000 o docenau ar $5.00 am bob 1,000,000.

Hefydych crêdyd Newid cynning

Beth mae cais yn ei neilltuo a beth mae'n ei gostio

• Neilltuo — Pan fydd cais yn cyrraedd mae'n neilltuo ei gyllideb allbwn o'ch balans: max_tokens ar /v1/chat/completions a /v1/messages, max_output_tokens ar /v1/responses. Mae /v1/chat/completions hefyd yn darllen max_completion_tokens. Y rhagosodiad yw 4,096 a'r ystod yw 1 i 65,536.
• Derbyn — Derbynnir y cais dim ond os yw'r neilltuad yn ffitio i'r hyn sy'n weddill o'ch balans. Mae balans sydd uwchlaw sero ond yn llai na'r gyllideb allbwn yn cael yr ateb Quota exceeded. Anfonwch max_tokens llai i ddefnyddio'r gweddill.
• Setlo — Pan fo'r ateb yn gyflawn, disodlir y neilltuad gan y tâl gwirioneddol. Gall y tâl fod yn is neu'n uwch na'r neilltuad.
• Dychwelyd — Mae cais sy'n gorffen â statws gwall yn rhoi ei neilltuad yn ôl yn llawn.

Mae'r tâl gwirioneddol yn dibynnu ar deulu'r model.

Cymerir y swm mewn USD o'ch balans mewn tokenau ar $5.00 am bob 1,000,000, wedi'i dalgrynnu i docen cyfan.

Mae cyfrif tokenau gyda POST /v1/tokenize neu POST /v1/messages/count_tokens yn rhad ac am ddim ac nid yw'n neilltuo dim. Cyfrif tokenau

Ble i weld balans a defnydd

Mae'r dudalen Keys & usage yn dangos beth allwch ei wario ar hyn o bryd, lwfans y cynllun heddiw, eich credyd a brynwyd a gwariant API y 30 diwrnod diwethaf. O dan hynny mae'n rhestru pob cais a wnaeth eich allwedd: amser, pwynt terfyn, model, mewnbwn cached, tokenau a godwyd a chost. Allweddi a defnydd

Mae pob ateb hefyd yn cario gwrthrych usage gyda chyfrifon tokenau'r alwad honno.

• Mae usage yn dal cyfrifon tokenau'r model. Nid yw'r swm a gymerir o'ch balans yn yr ateb: mae yng ngholofn Billed tokens y rhestr ceisiadau ar Keys & usage.
• Ar /v1/messages gyda model pwysau agored a gynhelir, input_tokens yw rhan heb cache y mewnbwn, cache_read_input_tokens yw'r rhan cached ac mae cache_creation_input_tokens bob amser yn 0.
• Mae ffrwd ar /v1/chat/completions yn cario usage yn ei darn olaf cyn [DONE]. Ffrydio

Pan fo'r balans yn dod i ben

Atebir cais nad yw ei neilltuad yn ffitio i'ch balans â statws 429, math rate_limit_error a'r neges isod. Ni chodir dim. Anfonir yr un ateb pan fo'r balans uwchlaw sero ond yn llai na chyllideb allbwn y cais.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

Ar /v1/responses gall y gwrthrych error hefyd gynnwys code a param, y ddau yn null.

Beth allwch chi ei wneud:

• Arhoswch am lwfans nesaf y cynllun am 00:00 UTC.
• Ychwanegwch gredyd. Gwerir credyd ar ôl lwfans y cynllun ac nid yw'n dod i ben. Hefydych crêdyd
• Newidiwch i gynllun gyda lwfans dyddiol mwy. Newid cynning
• Anfonwch max_tokens llai, os oes rhywfaint o falans ar ôl: mae'r neilltuad wedyn yn llai.

Lwfans galwadau Shannon Coder

Cyfrifir shannon-coder-1 ar /v1/chat/completions a /v1/messages mewn galwadau, nid mewn tokenau. Mae pob cynllun yn cynnwys nifer o alwadau fesul ffenestr 4 awr. Un alwad yw un cais.

• Mae ffenestri'n dechrau am 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. Nid yw galwadau sy'n weddill ar ddiwedd ffenestr yn cario drosodd.
• Cyfrifir galwad pan dderbynnir y cais, cyn i'r model ateb. Mae cais sy'n methu wedyn yn dal i gyfrif fel galwad.
• Nid yw'r galwadau hyn yn neilltuo tokenau ac nid ydynt yn cymryd dim o'ch balans. Mae'r rhestr ceisiadau ar Keys & usage yn dangos eu nifer o docenau a'i werth am y pris a restrir.
• max_tokens rhagosodedig shannon-coder-1 ar y ddau bwynt terfyn hyn yw 65,536.
• Heb alwadau ar ôl, yr ateb yw statws 429, math rate_limit_error, neges Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• Ar /v1/responses, nid oes lwfans galwadau i shannon-coder-1: fe'i codir mewn tokenau o'ch balans ar $8.00 am bob 1M, fel pob model arall.

Amddiffyniad rhag llifogydd

Gall cyfrif anfon 120 cais y funud. Dyna'r unig derfyn ar gyfradd ceisiadau, ac mae'r un peth ar bob cynllun. Mae'n bodoli i atal llifogydd, nid i arafu defnydd arferol.

• Mae'r funud yn ffenestr sefydlog o 60 eiliad sy'n agor gyda'ch cais cyntaf. Pan ddaw i ben, mae'r cyfrif yn dechrau eto o sero.
• Cyfrifir fesul cyfrif, nid fesul allwedd na fesul cyfeiriad IP. Nid yw cylchdroi'r allwedd yn agor ffenestr newydd.
• Atebir y 121fed cais o fewn ffenestr â statws 429, math rate_limit_error a'r neges Too many requests. Retry in <N>s. N yw nifer yr eiliadau nes bod y ffenestr yn dod i ben, o 1 i 60.
• Gwirir amddiffyniad rhag llifogydd cyn y balans. Nid yw cais y mae'n ei wrthod yn neilltuo dim ac nid yw'n costio dim.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Ceisiadau cyfochrog

Nid oes terfyn ar faint o geisiadau y mae cyfrif yn eu cael ar agor ar yr un pryd, ac nid oes gwall am anfon ceisiadau yn gyfochrog. Mae ceisiadau na allant ddechrau ar unwaith yn aros yn y rhes ac yn cael eu hateb bob yn ail.

• Mae pob cais yn cyfrif tuag at y 120 y funud pan fydd yn cyrraedd, pa un a yw ceisiadau cynharach wedi gorffen ai peidio.
• Mae pob cais yn dal ei neilltuad ei hun nes iddo orffen. Mae ugain cais agored gyda'r gyllideb allbwn ragosodedig yn dal 20 × 4,096 = 81,920 o docenau o falans. Os yw'r neilltuadau gyda'i gilydd yn fwy na'ch balans, mae'r cais nesaf yn cael yr ateb Quota exceeded, er y byddai'r galwadau gorffenedig wedi costio llai. Mae max_tokens llai yn dal llai.
• Nid yw cais heb ffrydio yn anfon dim nes bod ei ateb yn gyflawn, felly rhowch derfyn amser i'ch cleient sy'n cwmpasu'r aros. Mae ffrwd yn cadw ei chysylltiad ar agor tra bydd yn aros. Ffrydio

Terfynau un cais

Gwallau

Atebion y dudalen hon. Ar /v1/messages caiff yr un gwrthrych error ei lapio fel {"type": "error", "error": {…}}.