מגבלות ויתרה

הדף הזה מסביר ממה מורכבת היתרה שלכם, מה בקשה אחת מפרישה ומה היא עולה, כמה בקשות מותר לשלוח, ואת המגבלות המעטות שבקשה בודדת יכולה להיתקל בהן.

שווי של 1M טוקנים של יתרה

$5.00

המכסה היומית מתחדשת

00:00 UTC

הגנת הצפה, לכל חשבון

120 בקשות / דקה

איך בקשות מטופלות

• בלי דרגות קצב — כלל אחד מגביל באיזה קצב בקשות רשאיות להגיע, והוא זהה לכל חשבון ולכל תוכנית: 120 בקשות בדקה. אין מגבלה על טוקנים לדקה.
• בלי מכסת API נפרדת — ה-API מוציא את אותה יתרה כמו הצ'אט. תוכנית קובעת את גודל המכסה של היום. היא אינה קובעת קצב בקשות.
• מהר כמו שתרצו — בקשות שנשלחות במקביל מתקבלות וממתינות בתור. הן אינן נדחות בגלל שהן במקביל.

היתרה שלכם

היתרה שלכם נספרת בטוקנים. 1,000,000 טוקנים של יתרה שווים $5.00, וכל מחיר בדף מודלים ותמחור הוא שיעור ביחס לערך הזה.

בכל רגע היתרה היא סכום של שני חלקים.

• מכסת התוכנית להיום — מספר טוקנים שנקבע לפי התוכנית שלכם. הוא מתחדש מדי יום ב-00:00 UTC. מה שנשאר בסוף יום אינו עובר הלאה.
• קרדיט שנרכש — טוקנים שקניתם כחבילה. קרדיט אינו פג ופועל בכל תוכנית, כולל Free.

• סדר ההוצאה — כל בקשה מוציאה קודם את מכסת התוכנית להיום. קרדיט שנרכש משמש רק למה שחורג מהמכסה באותו יום.
• הצ'אט וה-API חולקים אותה — לכל חשבון יש יתרה אחת. מפתח API מוציא מיתרת החשבון שהוא שייך לו, באותם מחירים כמו בצ'אט.
• חבילות — קרדיט נמכר בחבילות של 1,000,000 ($5.00), 2,000,000 ($10.00) ו-5,000,000 ($25.00) טוקנים, או בסכום לבחירתכם מ-1,000,000 עד 100,000,000 טוקנים ב-$5.00 לכל 1,000,000.

טעינת קרדיט שינוי תוכנית

מה בקשה מפרישה ומה היא עולה

• הפרשה — כשבקשה מגיעה היא מפרישה את תקציב הפלט שלה מהיתרה שלכם: max_tokens ב-/v1/chat/completions וב-/v1/messages, max_output_tokens ב-/v1/responses. /v1/chat/completions קורא גם את max_completion_tokens. ברירת המחדל היא 4,096 והטווח הוא 1 עד 65,536.
• קבלה — הבקשה מתקבלת רק אם ההפרשה נכנסת במה שנותר מהיתרה שלכם. יתרה שגדולה מאפס אך קטנה מתקציב הפלט מקבלת את התשובה Quota exceeded. שלחו max_tokens קטן יותר כדי להשתמש בשאר.
• סגירת חשבון — כשהתשובה שלמה, ההפרשה מוחלפת בחיוב האמיתי. החיוב יכול להיות נמוך או גבוה מההפרשה.
• החזרה — בקשה שמסתיימת בסטטוס שגיאה מחזירה את ההפרשה שלה במלואה.

החיוב האמיתי תלוי במשפחת המודל.

הסכום ב-USD נלקח מהיתרה שלכם בטוקנים ב-$5.00 לכל 1,000,000, מעוגל לטוקן שלם.

ספירת טוקנים עם POST /v1/tokenize או POST /v1/messages/count_tokens היא חינמית ואינה מפרישה דבר. ספירת טוקנים

איפה רואים יתרה ושימוש

הדף מפתחות ושימוש מראה מה אפשר להוציא עכשיו, את מכסת התוכנית להיום, את הקרדיט שנרכש ואת הוצאות ה-API של 30 הימים האחרונים. מתחת לזה הוא מפרט כל בקשה שהמפתח שלכם ביצע: זמן, endpoint, מודל, קלט במטמון, טוקנים מחויבים ועלות. מפתחות ושימוש

כל תשובה נושאת גם אובייקט usage עם ספירות הטוקנים של אותה קריאה.

• usage מכיל את ספירות הטוקנים של המודל. הסכום שנלקח מהיתרה שלכם אינו בתשובה: הוא בעמודה טוקנים מחויבים ברשימת הבקשות בדף מפתחות ושימוש.
• ב-/v1/messages עם מודל open-weight מתארח, input_tokens הוא החלק של הקלט שאינו במטמון, cache_read_input_tokens הוא החלק שבמטמון ו-cache_creation_input_tokens הוא תמיד 0.
• stream ב-/v1/chat/completions נושא usage ב-chunk האחרון שלו, לפני [DONE]. הזרמה

כשהיתרה נגמרת

בקשה שההפרשה שלה אינה נכנסת ביתרה שלכם נענית בסטטוס 429, בסוג rate_limit_error ובהודעה שלהלן. דבר אינו מחויב. אותה תשובה נשלחת כשהיתרה גדולה מאפס אך קטנה מתקציב הפלט של הבקשה.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

ב-/v1/responses האובייקט error יכול להכיל גם code ו-param, שניהם null.

מה אפשר לעשות:

• המתינו למכסת התוכנית הבאה ב-00:00 UTC.
• טענו קרדיט. קרדיט מוצא אחרי מכסת התוכנית ואינו פג. טעינת קרדיט
• עברו לתוכנית עם מכסה יומית גדולה יותר. שינוי תוכנית
• שלחו max_tokens קטן יותר, אם נשארה יתרה: ההפרשה אז קטנה יותר.

מכסת קריאות Shannon Coder

shannon-coder-1 ב-/v1/chat/completions וב-/v1/messages נספר בקריאות, לא בטוקנים. כל תוכנית כוללת מספר קריאות לכל חלון של 4 שעות. בקשה אחת היא קריאה אחת.

• החלונות מתחילים ב-00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC. קריאות שנותרו בסוף חלון אינן עוברות הלאה.
• קריאה נספרת כשהבקשה מתקבלת, לפני שהמודל עונה. בקשה שנכשלת אחר כך עדיין נספרת כקריאה.
• הקריאות האלה אינן מפרישות טוקנים ואינן לוקחות דבר מהיתרה שלכם. רשימת הבקשות בדף מפתחות ושימוש מראה את מספר הטוקנים שלהן ואת ערכם במחיר המפורסם.
• ברירת המחדל של max_tokens ב-shannon-coder-1 בשני ה-endpoints האלה היא 65,536.
• כשלא נותרו קריאות התשובה היא סטטוס 429, סוג rate_limit_error, הודעה Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• ב-/v1/responses אין ל-shannon-coder-1 מכסת קריאות: הוא מחויב בטוקנים מהיתרה שלכם ב-$8.00 לכל 1M, כמו כל מודל אחר.

הגנת הצפה

חשבון רשאי לשלוח 120 בקשות בדקה. זו המגבלה היחידה על קצב הבקשות, והיא זהה בכל תוכנית. היא קיימת כדי לעצור הצפות, לא כדי להאט שימוש רגיל.

• הדקה היא חלון קבוע של 60 שניות שנפתח עם הבקשה הראשונה שלכם. כשהוא מסתיים, הספירה מתחילה שוב מאפס.
• הספירה היא לפי חשבון, לא לפי מפתח ולא לפי כתובת IP. החלפת המפתח אינה פותחת חלון חדש.
• הבקשה ה-121 בתוך חלון נענית בסטטוס 429, בסוג rate_limit_error ובהודעה Too many requests. Retry in <N>s. ‏N הוא מספר השניות עד סוף החלון, מ-1 עד 60.
• הגנת ההצפה נבדקת לפני היתרה. בקשה שהיא דוחה אינה מפרישה דבר ואינה עולה דבר.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

בקשות במקביל

אין מגבלה על מספר הבקשות שחשבון מחזיק פתוחות בו-זמנית, ואין שגיאה על שליחת בקשות במקביל. בקשות שאינן יכולות להתחיל מיד ממתינות בתור ונענות לפי הסדר.

• כל בקשה נספרת ב-120 לדקה כשהיא מגיעה, בין אם בקשות קודמות הסתיימו ובין אם לא.
• כל בקשה מחזיקה הפרשה משלה עד שהיא מסתיימת. עשרים בקשות פתוחות עם תקציב הפלט המוגדר כברירת מחדל מחזיקות 20 × 4,096 = 81,920 טוקנים של יתרה. אם ההפרשות יחד גדולות מהיתרה שלכם, הבקשה הבאה מקבלת את התשובה Quota exceeded, אף על פי שהקריאות שהסתיימו היו עולות פחות. max_tokens קטן יותר מחזיק פחות.
• בקשה בלי streaming אינה שולחת דבר עד שהתשובה שלמה, ולכן הגדירו ללקוח שלכם timeout שמכסה את ההמתנה. stream שומר את החיבור פתוח בזמן שהוא ממתין. הזרמה

מגבלות של בקשה בודדת

שגיאות

התשובות של הדף הזה. ב-/v1/messages אותו אובייקט error עטוף כ-{"type": "error", "error": {…}}.