Мүмкүнчүлүктөр

Ар бир моделге бир эле үч endpoint аркылуу бир эле ачкыч менен жетесиз. Эки таблица моделдердин айырмасын көрсөтөт. Сызыкча модель ал мүмкүнчүлүксүз жооп берерин билдирет.

Shannon моделдери

Хостингдеги ачык салмактуу моделдер

Хостингдеги модельдин id'си — анын аты менен варианты дефис аркылуу бириктирилген, мисалы DeepSeek-V4-Pro-0813-3BIT-REAP.

Ар бир мамыча эмнени билдирет

• Куралдар. Функцияларды tools ичинде сүрөттөйсүз, модель аткарылышын каалаган чалууларды жооп кылып берет, ал эми кодуңуз аларды аткарат. Ар бир модель куралдарды кабыл алат. Мажбурланган tool_choice'ту хостингдеги ачык салмактуу моделдер колдонот. Функция чакыруу
• Сүрөт кириши. Модель колдонуучу билдирүүсүнүн ичинде data URL же дарек түрүндө жөнөтүлгөн сүрөттөрдү окуйт. shannon-2-lite жана shannon-2-pro tools же response_format да жөнөтүлгөн сурамдардагы сүрөттөрдү окуйт. Shannon 3 үй-бүлөсү документтерди да окуйт. Сүрөттөр жана файлдар
• Reasoning. Жоопто модельдин reasoning тексти жооптун жанында, өз талаасында болушу мүмкүн. Reasoning аракет деңгээли
• Reasoning аракет деңгээли. Сурам талаасы модель канчалык терең reasoning жүргүзөрүн коёт: off, low, medium же high. Shannon моделдери тереңдигин өзү коёт. Reasoning аракет деңгээли
• JSON объект. response_format: {"type": "json_object"} менен жооп белгиленген формасыз JSON болот. /v1/chat/completions жана /v1/responses боюнча. Түзүмдүү чыгыштар
• JSON схема. json_schema түрүндөгү response_format менен жооп өзүңүз жөнөткөн схемага ылайык келет. /v1/chat/completions жана /v1/responses боюнча. Түзүмдүү чыгыштар
• Промпт кэштөө. Ошол эле моделдеги жакынкы промпт сыяктуу башталган промпт кэштен окулат, ал эми кэштелген бөлүгү кириш баасынын 25%'ине эсептелет. Ал үчүн сурам талаасы керек эмес. Промпт-кэштөө
• Веб-издөө. web_search: true менен API вебден издейт жана жооп берерден мурун натыйжаларды моделге берет. /v1/chat/completions жана /v1/messages боюнча. Бул сурамдын талаасы, GET /v1/models'те желеги жок. Веб издөө
• Стриминг. stream: true менен жооп модель жазып жатканда server-sent events катары келет. Ар бир модель үч endpoint'те тең стримдейт. Стриминг

GET /v1/models'тен ошол эле фактылар

GET https://api.shannon-ai.com/v1/models

GET /v1/models ар бир моделди capabilities объекти менен тизмелейт, ошондуктан программа бул фактыларды ушул беттин ордуна өзү окуй алат. Endpoint ачкычты талап кылбайт.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

import OpenAI from "openai";

const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });

for await (const model of client.models.list()) {
  console.log(model.id, model.capabilities);
}

curl https://api.shannon-ai.com/v1/models

data ичиндеги эки жазуунун id жана capabilities:

[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]

• response_format жана prompt_caching — хостингдеги ачык салмактуу жазуулардын желектери. Shannon жазуусу JSON чыгышын жалгыз json_schema менен билдирет, ал эки JSON режимин тең билдирет.
• vision shannon-2-lite жана shannon-2-pro үчүн true: алар tools же response_format да жөнөтүлгөн сурамдардагы сүрөттөрдү окуйт.

Модельдин сабынан тышкары

Хостингдеги ачык салмактуу модель өз сабынан тышкаркы сүрөттү же JSON режимин четке кагат. Баш тартуу балансыңыздан бир нерсе алынганга чейин болот:

Shannon модели мындай сурамга 200 статусу менен жооп берет: өз сабынан тышкаркы мүмкүнчүлүк жоопко катышпайт. Ката иштетүү