Мүмкіндіктер

Әр модельге бір кілтпен сол үш endpoint арқылы қол жеткізіледі. Екі кестеде модельдердің айырмашылығы көрсетілген. Сызықша модельдің бұл мүмкіндіксіз жауап беретінін білдіреді.

Shannon модельдері

Hosted open-weight модельдер

Hosted модельдің id-і — оның атауы мен нұсқасының дефиспен қосылуы, мысалы DeepSeek-V4-Pro-0813-3BIT-REAP.

Әр бағанның мағынасы

• Құралдар. Функцияларды tools ішінде сипаттайсыз, модель орындалуын қалайтын шақыруларымен жауап береді, ал кодыңыз оларды орындайды. Әр модель құралдарды қабылдайды. Мәжбүрлі tool_choice мәнін hosted open-weight модельдер қолданады. Функция шақыру
• Сурет кірісі. Модель пайдаланушы хабарламасының ішінде data URL ретінде немесе мекенжай ретінде жіберілген суреттерді оқиды. shannon-2-lite және shannon-2-pro tools немесе response_format да жіберетін сұрауларда суреттерді оқиды. Shannon 3 отбасы құжаттарды да оқиды. Суреттер және файлдар
• Пайымдау. Жауап жауаптың жанында модельдің пайымдау мәтінін жеке өрісте алып жүре алады. Пайымдау күші
• Пайымдау күші. Сұрау өрісі модельдің қаншалықты терең пайымдайтынын орнатады: off, low, medium немесе high. Shannon модельдері тереңдікті өздері орнатады. Пайымдау күші
• JSON нысаны. response_format: {"type": "json_object"} болғанда жауап алдын ала белгіленген пішінсіз JSON болады. /v1/chat/completions және /v1/responses бойынша. Құрылымдалған нәтижелер
• JSON схемасы. json_schema түріндегі response_format болғанда жауап өзіңіз жіберген схемаға сай болады. /v1/chat/completions және /v1/responses бойынша. Құрылымдалған нәтижелер
• Промпт кэштеу. Сол модельдегі жуырдағы промптпен бірдей басталатын промпт кэштен оқылады, ал кэштелген бөлігі кіріс бағасының 25%-ымен есептеледі. Ол үшін сұрау өрісі қажет емес. Промпт кэштеу
• Веб іздеу. web_search: true болғанда API вебте іздеп, нәтижелерді жауап бермес бұрын модельге береді. /v1/chat/completions және /v1/messages бойынша. Бұл сұрау өрісі, оның GET /v1/models ішінде белгісі жоқ. Кіріктірілген веб іздеу
• Streaming. stream: true болғанда жауап модель жазып жатқанда server-sent events ретінде келеді. Әр модель барлық үш endpoint-те стримдейді. Стриминг

GET /v1/models арқылы сол деректер

GET https://api.shannon-ai.com/v1/models

GET /v1/models әр модельді capabilities нысанымен тізімдейді, сондықтан бағдарлама осы беттің орнына осы деректерді оқи алады. Endpoint кілтті қажет етпейді.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

import OpenAI from "openai";

const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });

for await (const model of client.models.list()) {
  console.log(model.id, model.capabilities);
}

curl https://api.shannon-ai.com/v1/models

data ішіндегі екі жазбаның id және capabilities мәндері:

[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]

• response_format және prompt_caching — hosted open-weight жазбаларының белгілері. Shannon жазбасы JSON шығысын тек json_schema арқылы көрсетеді, ол екі JSON режимін де білдіреді.
• vision мәні shannon-2-lite және shannon-2-pro үшін true: олар tools немесе response_format да жіберетін сұрауларда суреттерді оқиды.

Модель жолынан тыс

Hosted open-weight модель өз жолынан тыс сурет немесе JSON режимінен бас тартады. Бас тарту балансыңыздан ештеңе алынбай тұрып жүреді:

Shannon моделі мұндай сұранысқа 200 мәртебесімен жауап береді: өз жолынан тыс мүмкіндік жауапқа қатыспайды. Қателерді өңдеу