Limites et solde

Cette page explique de quoi se compose votre solde, ce qu'une requête réserve et coûte, combien de requêtes vous pouvez envoyer et les quelques limites qu'une requête seule peut rencontrer.

valeur de 1M de tokens de solde

$5.00

le quota quotidien se renouvelle

00:00 UTC

protection anti-flood, par compte

120 requêtes / min

Comment les requêtes sont servies

• Pas de niveaux de débit — Une seule règle limite la vitesse d'arrivée des requêtes, et elle est la même pour chaque compte et chaque forfait : 120 requêtes par minute. Il n'y a pas de limite de tokens par minute.
• Pas de quota API distinct — L'API consomme le même solde que le chat. Un forfait fixe la taille du quota du jour. Il ne fixe pas de rythme de requêtes.
• Aussi vite que vous voulez — Les requêtes envoyées en parallèle sont acceptées et attendent en file. Elles ne sont pas refusées parce qu'elles sont parallèles.

Votre solde

Votre solde est compté en tokens. 1,000,000 de tokens de solde valent $5.00, et chaque prix de la page Modèles et tarifs est un tarif par rapport à cette valeur.

À tout moment, le solde est la somme de deux parties.

• Forfait du jour — Un nombre de tokens fixé par votre forfait. Il est renouvelé chaque jour à 00:00 UTC. Ce qui reste à la fin d'une journée n'est pas reporté.
• Crédits achetés — Des tokens que vous avez achetés sous forme de pack. Les crédits n'expirent pas et fonctionnent sur tous les forfaits, y compris Free.

• Ordre de consommation — Chaque requête consomme d'abord le forfait du jour. Les crédits achetés ne servent que pour ce qui dépasse le forfait ce jour-là.
• Le chat et l'API le partagent — Il y a un solde par compte. Une clé API consomme le solde du compte qui la possède, aux mêmes prix que le chat.
• Packs — Les crédits sont vendus en packs de 1,000,000 ($5.00), 2,000,000 ($10.00) et 5,000,000 ($25.00) tokens, ou pour un montant de votre choix de 1,000,000 à 100,000,000 tokens à $5.00 par 1,000,000.

Recharger les crédits Changer de forfait

Ce qu'une requête réserve et ce qu'elle coûte

• Réservation — Quand une requête arrive, elle réserve son budget de sortie sur votre solde : max_tokens sur /v1/chat/completions et /v1/messages, max_output_tokens sur /v1/responses. /v1/chat/completions lit aussi max_completion_tokens. La valeur par défaut est 4,096 et la plage va de 1 à 65,536.
• Admission — La requête n'est acceptée que si la réservation tient dans ce qui reste de votre solde. Un solde supérieur à zéro mais inférieur au budget de sortie reçoit la réponse Quota exceeded. Envoyez un max_tokens plus petit pour utiliser le reste.
• Règlement — Quand la réponse est terminée, la réservation est remplacée par le coût réel. Le coût peut être inférieur ou supérieur à la réservation.
• Restitution — Une requête qui se termine par un statut d'erreur restitue sa réservation en totalité.

Le coût réel dépend de la famille du modèle.

Le montant en USD est prélevé sur votre solde en tokens à $5.00 par 1,000,000, arrondi à un token entier.

Compter des tokens avec POST /v1/tokenize ou POST /v1/messages/count_tokens est gratuit et ne réserve rien. Décompte de tokens

Où voir le solde et l'utilisation

La page Clés et utilisation montre ce que vous pouvez dépenser maintenant, le forfait du jour, vos crédits achetés et les dépenses API des 30 derniers jours. En dessous, elle liste chaque requête effectuée par votre clé : heure, point de terminaison, modèle, entrée en cache, tokens facturés et coût. Clés et utilisation

Chaque réponse porte aussi un objet usage avec les nombres de tokens de cet appel.

• usage contient les nombres de tokens du modèle. Le montant prélevé sur votre solde n'est pas dans la réponse : c'est la colonne Tokens facturés de la liste des requêtes dans Clés et utilisation.
• Sur /v1/messages avec un modèle open-weight hébergé, input_tokens est la partie de l'entrée hors cache, cache_read_input_tokens est la partie en cache et cache_creation_input_tokens vaut toujours 0.
• Un flux sur /v1/chat/completions porte usage dans son dernier chunk avant [DONE]. Diffusion en continu

Quand le solde est épuisé

Une requête dont la réservation ne tient pas dans votre solde reçoit le statut 429, le type rate_limit_error et le message ci-dessous. Rien n'est facturé. La même réponse est envoyée quand le solde est supérieur à zéro mais inférieur au budget de sortie de la requête.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

Sur /v1/responses, l'objet error peut aussi contenir code et param, tous deux null.

Ce que vous pouvez faire :

• Attendez le prochain forfait du jour à 00:00 UTC.
• Rechargez des crédits. Les crédits sont consommés après le forfait du jour et n'expirent pas. Recharger les crédits
• Passez à un forfait avec un quota quotidien plus élevé. Changer de forfait
• Envoyez un max_tokens plus petit, s'il reste un peu de solde : la réservation est alors plus petite.

Quota d'appels Shannon Coder

shannon-coder-1 sur /v1/chat/completions et /v1/messages est compté en appels, pas en tokens. Chaque forfait inclut un nombre d'appels par fenêtre de 4 heures. Une requête est un appel.

• Les fenêtres démarrent à 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. Les appels restants à la fin d'une fenêtre ne sont pas reportés.
• Un appel est compté quand la requête est acceptée, avant que le modèle réponde. Une requête qui échoue ensuite compte quand même comme un appel.
• Ces appels ne réservent aucun token et ne prélèvent rien sur votre solde. La liste des requêtes dans Clés et utilisation montre leur nombre de tokens et sa valeur au prix indiqué.
• Le max_tokens par défaut de shannon-coder-1 sur ces deux points de terminaison est 65,536.
• Quand il ne reste plus d'appels, la réponse a le statut 429, le type rate_limit_error et le message Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• Sur /v1/responses, shannon-coder-1 n'a pas de quota d'appels : il est facturé en tokens sur votre solde à $8.00 par 1M, comme tout autre modèle.

Protection anti-flood

Un compte peut envoyer 120 requêtes par minute. C'est la seule limite sur le rythme des requêtes, et elle est la même sur tous les forfaits. Elle existe pour arrêter les floods, pas pour ralentir un usage normal.

• La minute est une fenêtre fixe de 60 secondes qui s'ouvre avec votre première requête. Quand elle se termine, le décompte repart à zéro.
• Le décompte est par compte, pas par clé ni par adresse IP. Renouveler la clé n'ouvre pas une nouvelle fenêtre.
• La 121e requête dans une fenêtre reçoit le statut 429, le type rate_limit_error et le message Too many requests. Retry in <N>s. N est le nombre de secondes jusqu'à la fin de la fenêtre, de 1 à 60.
• La protection anti-flood est vérifiée avant le solde. Une requête qu'elle refuse ne réserve rien et ne coûte rien.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Requêtes parallèles

Il n'y a aucune limite au nombre de requêtes qu'un compte a ouvertes en même temps, et aucune erreur pour l'envoi de requêtes en parallèle. Les requêtes qui ne peuvent pas démarrer immédiatement attendent en file et reçoivent une réponse à tour de rôle.

• Chaque requête compte dans les 120 par minute à son arrivée, que les requêtes précédentes soient terminées ou non.
• Chaque requête garde sa propre réservation jusqu'à sa fin. Vingt requêtes ouvertes avec le budget de sortie par défaut retiennent 20 × 4,096 = 81,920 tokens de solde. Si les réservations ensemble dépassent votre solde, la requête suivante reçoit la réponse Quota exceeded, même si les appels terminés auraient coûté moins. Un max_tokens plus petit retient moins.
• Une requête sans streaming n'envoie rien tant que sa réponse n'est pas complète : donnez donc à votre client un délai d'expiration qui couvre l'attente. Un flux garde sa connexion ouverte pendant qu'il attend. Diffusion en continu

Limites d'une requête seule

Erreurs

Les réponses de cette page. Sur /v1/messages, le même objet error est encapsulé sous la forme {"type": "error", "error": {…}}.