Možnosti

Ke každému modelu se přistupuje přes stejné tři endpointy se stejným klíčem. Dvě tabulky ukazují, v čem se modely liší. Pomlčka znamená, že model odpovídá bez této schopnosti.

Modely Shannon

Hostované modely s otevřenými váhami

Id hostovaného modelu je jeho název a varianta spojené pomlčkou, například DeepSeek-V4-Pro-0813-3BIT-REAP.

Co každý sloupec znamená

• Nástroje. Funkce popíšete v tools, model odpoví voláními, která chce provést, a váš kód je spustí. Každý model přijímá nástroje. Vynucený tool_choice uplatňují hostované modely s otevřenými váhami. Volání funkcí
• Obrázkový vstup. Model čte obrázky poslané ve zprávě uživatele, jako data URL nebo jako adresu. shannon-2-lite a shannon-2-pro čtou obrázky i v požadavcích, které posílají také tools nebo response_format. Rodina Shannon 3 čte i dokumenty. Obrázky a soubory
• Uvažování. Odpověď může vedle odpovědi nést text uvažování modelu, v samostatném poli. Úsilí uvažování
• Úsilí uvažování. Pole požadavku určuje, jak hluboce model uvažuje: off, low, medium nebo high. Modely Shannon si hloubku nastavují samy. Úsilí uvažování
• Objekt JSON. S response_format: {"type": "json_object"} je odpověď JSON bez předepsaného tvaru. Na /v1/chat/completions a /v1/responses. Strukturované výstupy
• Schéma JSON. S response_format typu json_schema odpověď sleduje schéma, které pošlete. Na /v1/chat/completions a /v1/responses. Strukturované výstupy
• Caching promptů. Prompt, který začíná jako nedávný prompt na stejném modelu, se čte z cache a cachovaná část se účtuje za 25 % ceny vstupu. Nepotřebuje žádné pole požadavku. Caching promptů
• Vyhledávání na webu. S web_search: true API vyhledá na webu a předá výsledky modelu dřív, než odpoví. Na /v1/chat/completions a /v1/messages. Je to pole požadavku a nemá příznak v GET /v1/models. Vestavěné webové vyhledávání
• Streamování. S stream: true odpověď přichází jako server-sent events, zatímco model píše. Každý model streamuje na všech třech endpointech. Streamování

Stejné údaje z GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models vypisuje každý model s objektem capabilities, takže tyto údaje může program číst místo této stránky. Endpoint nepotřebuje klíč.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

import OpenAI from "openai";

const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });

for await (const model of client.models.list()) {
  console.log(model.id, model.capabilities);
}

curl https://api.shannon-ai.com/v1/models

id a capabilities dvou položek v data:

[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]

• response_format a prompt_caching jsou příznaky položek hostovaných modelů s otevřenými váhami. Položka Shannon hlásí výstup JSON samotným json_schema, které zastupuje oba režimy JSON.
• vision je true pro shannon-2-lite a shannon-2-pro: čtou obrázky i v požadavcích, které posílají také tools nebo response_format.

Mimo řádek modelu

Hostovaný model s otevřenými váhami odmítne obrázek nebo režim JSON, který je mimo jeho řádek. Odmítnutí přijde dřív, než se cokoli odečte z vašeho zůstatku:

Model Shannon na takový požadavek odpoví stavem 200: schopnost mimo jeho řádek se na odpovědi nepodílí. Zpracování chyb