Límites y saldo

Esta página explica de qué se compone tu saldo, qué reserva y cuánto cuesta una solicitud, cuántas solicitudes puedes enviar y los pocos límites que puede encontrar una sola solicitud.

valor de 1M de tokens de saldo

$5.00

la cuota diaria se renueva

00:00 UTC

protección contra flood, por cuenta

120 solicitudes / min

Cómo se atienden las solicitudes

• Sin niveles de límite de tasa — Una regla limita la rapidez con que pueden llegar las solicitudes, y es la misma para todas las cuentas y todos los planes: 120 solicitudes por minuto. No hay límite de tokens por minuto.
• Sin cuota de API aparte — La API gasta el mismo saldo que el chat. Un plan fija el tamaño de la cuota de hoy. No fija una tasa de solicitudes.
• Tan rápido como quieras — Las solicitudes enviadas en paralelo se aceptan y esperan en cola. No se rechazan por ser paralelas.

Tu saldo

Tu saldo se cuenta en tokens. 1,000,000 de tokens de saldo valen $5.00, y cada precio de la página Modelos y precios es una tarifa respecto a ese valor.

En cualquier momento el saldo es la suma de dos partes.

• Cuota del plan de hoy — Un número de tokens fijado por tu plan. Se renueva cada día a las 00:00 UTC. Lo que sobra al final de un día no se acumula.
• Crédito comprado — Tokens que compraste como paquete. El crédito no caduca y sirve en todos los planes, incluido Free.

• Orden de gasto — Cada solicitud gasta primero la cuota del plan de hoy. El crédito comprado se usa solo para lo que exceda la cuota de ese día.
• El chat y la API lo comparten — Hay un saldo por cuenta. Una clave API gasta del saldo de la cuenta a la que pertenece, a los mismos precios que el chat.
• Paquetes — El crédito se vende en paquetes de 1,000,000 ($5.00), 2,000,000 ($10.00) y 5,000,000 ($25.00) tokens, o como una cantidad a tu elección de 1,000,000 a 100,000,000 tokens a $5.00 por 1,000,000.

Recargar crédito Cambiar plan

Qué reserva una solicitud y cuánto cuesta

• Reservar — Cuando llega una solicitud, reserva de tu saldo su presupuesto de salida: max_tokens en /v1/chat/completions y /v1/messages, max_output_tokens en /v1/responses. /v1/chat/completions también lee max_completion_tokens. El valor predeterminado es 4,096 y el rango va de 1 a 65,536.
• Admitir — La solicitud se acepta solo si la reserva cabe en lo que queda de tu saldo. Un saldo superior a cero pero menor que el presupuesto de salida recibe la respuesta Quota exceeded. Envía un max_tokens menor para usar el resto.
• Liquidar — Cuando la respuesta está completa, la reserva se sustituye por el cobro real. El cobro puede ser menor o mayor que la reserva.
• Devolver — Una solicitud que termina con un estado de error devuelve su reserva completa.

El cobro real depende de la familia del modelo.

El importe en USD se descuenta de tu saldo en tokens a $5.00 por 1,000,000, redondeado a un token entero.

Contar tokens con POST /v1/tokenize o POST /v1/messages/count_tokens es gratis y no reserva nada. Conteo de tokens

Dónde ver el saldo y el uso

La página Claves y uso muestra lo que puedes gastar ahora mismo, la cuota del plan de hoy, tu crédito comprado y el gasto de API de los últimos 30 días. Debajo lista cada solicitud que hizo tu clave: hora, endpoint, modelo, entrada en caché, tokens facturados y costo. Claves y uso

Cada respuesta lleva además un objeto usage con los recuentos de tokens de esa llamada.

• usage contiene los recuentos de tokens del modelo. La cantidad descontada de tu saldo no está en la respuesta: es la columna Tokens facturados de la lista de solicitudes en Claves y uso.
• En /v1/messages con un modelo de pesos abiertos alojado, input_tokens es la parte de la entrada sin caché, cache_read_input_tokens es la parte en caché y cache_creation_input_tokens es siempre 0.
• Un stream en /v1/chat/completions lleva usage en su último fragmento antes de [DONE]. Streaming

Cuando se acaba el saldo

Una solicitud cuya reserva no cabe en tu saldo se responde con el estado 429, tipo rate_limit_error y el mensaje siguiente. No se cobra nada. Se envía la misma respuesta cuando el saldo es superior a cero pero menor que el presupuesto de salida de la solicitud.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

En /v1/responses el objeto error también puede contener code y param, ambos null.

Qué puedes hacer:

• Espera a la siguiente cuota del plan a las 00:00 UTC.
• Recarga crédito. El crédito se gasta después de la cuota del plan y no caduca. Recargar crédito
• Cambia a un plan con una cuota diaria mayor. Cambiar plan
• Envía un max_tokens menor, si queda algo de saldo: la reserva será entonces menor.

Cuota de llamadas de Shannon Coder

shannon-coder-1 en /v1/chat/completions y /v1/messages se cuenta en llamadas, no en tokens. Cada plan incluye un número de llamadas por ventana de 4 horas. Una solicitud es una llamada.

• Las ventanas empiezan a las 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. Las llamadas que sobran al final de una ventana no se acumulan.
• Una llamada se cuenta cuando se acepta la solicitud, antes de que el modelo responda. Una solicitud que falla después sigue contando como llamada.
• Estas llamadas no reservan tokens ni toman nada de tu saldo. La lista de solicitudes en Claves y uso muestra su número de tokens y su valor al precio indicado.
• El max_tokens predeterminado de shannon-coder-1 en estos dos endpoints es 65,536.
• Sin llamadas restantes, la respuesta tiene el estado 429, tipo rate_limit_error, mensaje Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• En /v1/responses, shannon-coder-1 no tiene cuota de llamadas: se cobra en tokens de tu saldo a $8.00 por 1M, como cualquier otro modelo.

Protección contra flood

Una cuenta puede enviar 120 solicitudes por minuto. Es el único límite de tasa de solicitudes y es el mismo en todos los planes. Existe para frenar los flood, no para ralentizar el uso normal.

• El minuto es una ventana fija de 60 segundos que se abre con tu primera solicitud. Cuando termina, el conteo vuelve a empezar desde cero.
• El conteo es por cuenta, no por clave ni por dirección IP. Rotar la clave no abre una ventana nueva.
• La solicitud 121 dentro de una ventana se responde con el estado 429, tipo rate_limit_error y el mensaje Too many requests. Retry in <N>s. N es el número de segundos hasta que termina la ventana, de 1 a 60.
• La protección contra flood se comprueba antes que el saldo. Una solicitud que rechaza no reserva nada y no cuesta nada.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Solicitudes en paralelo

No hay límite de cuántas solicitudes puede tener abiertas a la vez una cuenta, ni un error por enviar solicitudes en paralelo. Las solicitudes que no pueden empezar de inmediato esperan en cola y se responden por turno.

• Cada solicitud cuenta para las 120 por minuto cuando llega, hayan terminado o no las solicitudes anteriores.
• Cada solicitud mantiene su propia reserva hasta que termina. Veinte solicitudes abiertas con el presupuesto de salida predeterminado retienen 20 × 4,096 = 81,920 tokens de saldo. Si las reservas juntas son mayores que tu saldo, la siguiente solicitud recibe la respuesta Quota exceeded, aunque las llamadas terminadas habrían costado menos. Un max_tokens menor retiene menos.
• Una solicitud sin streaming no envía nada hasta que su respuesta está completa, así que da a tu cliente un timeout que cubra la espera. Un stream mantiene su conexión abierta mientras espera. Streaming

Límites de una sola solicitud

Errores

Las respuestas de esta página. En /v1/messages el mismo objeto error se envuelve como {"type": "error", "error": {…}}.