Preskoči na sadržaj
Mogućnosti

Mogućnosti

Što svaki model može preko API-ja, model po model: alati, ulaz slike, rezoniranje, JSON izlaz, keširanje promptova, web pretraga i streaming.

Svakom modelu pristupa se preko ista tri endpointa s istim ključem. Dvije tablice pokazuju gdje se modeli razlikuju. Crtica znači da model odgovara bez te mogućnosti.

Shannon modeli

Model AlatiSlikeRezoniranjeNaporJSON objektJSON shemaKeširanjePretragaStreaming
shannon-1.6-lite DaDa——DaDa—DaDa
shannon-1.6-pro DaDaDa—DaDa—DaDa
shannon-2-lite Da—Da—DaDa—DaDa
shannon-2-pro Da—Da—DaDa—DaDa
shannon-3 DaDaDa—DaDa—DaDa
shannon-3-pro DaDaDa—DaDa—DaDa
shannon-3.1 DaDaDa—DaDa—DaDa
shannon-3.1-pro DaDaDa—DaDa—DaDa
shannon-3.5 Da———DaDa——Da
shannon-coder-1 Da—Da—DaDa——Da

Hostirani open-weight modeli

Id hostiranog modela je njegovo ime i njegova varijanta spojeni crticom, na primjer DeepSeek-V4-Pro-0813-3BIT-REAP.

Model AlatiSlikeRezoniranjeNaporJSON objektJSON shemaKeširanjePretragaStreaming
DeepSeek-V4-Pro-0813 3BIT-REAP Da—DaDaDaDaDa—Da
GLM-5.2 3BIT-REAP Da—DaDaDaDaDa—Da
Kimi-K3 3BIT-REAP DaDaDaDaDaDaDa—Da
Nemotron3Ultra 3BIT-REAP Da—DaDaDaDaDa—Da
MiniMax-M3 3BIT-REAP DaDaDaDaDaDaDa—Da
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP Da—DaDaDaDaDa—Da
Kimi-K2.6 W4A16-AUTOROUND-REAP DaDaDaDaDaDaDa—Da
Laguna-S-2.1 W4A16-AUTOROUND-REAP Da—DaDa——Da—Da
inkling W4A16-AUTOROUND-REAP DaDaDaDaDa—Da—Da
MiMo-V2.5-Pro W8A16 Da—DaDaDaDaDa—Da
MiMo-V2.5 W8A16 DaDaDaDaDaDaDa—Da
Hy3 W8A16 Da—DaDaDaDaDa—Da

Što znači svaki stupac

  • Alati. Funkcije opisujete u tools, model odgovara pozivima koje želi izvršiti, a vaš kod ih izvršava. Svaki model prima alate. Prisilni tool_choice primjenjuju hostirani open-weight modeli. Pozivanje funkcija
  • Ulaz slike. Model čita slike poslane unutar korisničke poruke, kao data URL ili kao adresu. shannon-2-lite i shannon-2-pro čitaju slike u zahtjevima koji također šalju tools ili response_format. Obitelj Shannon 3 čita i dokumente. Slike i datoteke
  • Rezoniranje. Odgovor može uz sam odgovor nositi tekst rezoniranja modela, u zasebnom polju. Razina napora rezoniranja
  • Razina napora rezoniranja. Polje zahtjeva određuje koliko duboko model rezonira: off, low, medium ili high. Shannon modeli sami određuju svoju dubinu. Razina napora rezoniranja
  • JSON objekt. S response_format: {"type": "json_object"} odgovor je JSON bez propisanog oblika. Na /v1/chat/completions i /v1/responses. Strukturirani izlazi
  • JSON shema. S response_format tipa json_schema odgovor prati shemu koju pošaljete. Na /v1/chat/completions i /v1/responses. Strukturirani izlazi
  • Keširanje promptova. Prompt koji počinje kao nedavni na istom modelu čita se iz cachea, a cacheirani dio naplaćuje se po 25% cijene ulaza. Ne treba nikakvo polje zahtjeva. Keširanje promptova
  • Web pretraga. S web_search: true API pretražuje web i daje rezultate modelu prije odgovora. Na /v1/chat/completions i /v1/messages. To je polje zahtjeva i nema oznaku u GET /v1/models. Ugrađena web pretraga
  • Streaming. S stream: true odgovor stiže kao server-sent events dok model piše. Svaki model streama na sva tri endpointa. Streaming

Iste činjenice iz GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models navodi svaki model s objektom capabilities, pa program može čitati te činjenice umjesto ove stranice. Endpoint ne treba ključ.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

id i capabilities dvaju unosa u data:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
Stupac Oznaka u capabilities
Alati tools
Ulaz slike vision
Rezoniranje reasoning
Razina napora rezoniranja reasoning_effort
JSON objekt response_format
JSON shema json_schema
Keširanje promptova prompt_caching
Web pretraga Nije oznaka: polje zahtjeva web_search.
Streaming streaming
  • response_format i prompt_caching su oznake unosa hostiranih open-weight modela. Shannon unos prijavljuje JSON izlaz samo s json_schema, što stoji za oba JSON načina.
  • vision je true za shannon-2-lite i shannon-2-pro: čitaju slike u zahtjevima koji također šalju tools ili response_format.

Izvan retka modela

Hostirani open-weight model odbija sliku ili JSON način koji je izvan njegova retka. Odbijanje dolazi prije nego što se išta skine s vašeg stanja:

Status Tip Poruka Kada
400 invalid_request_error <id> does not accept image input Slika je poslana hostiranom open-weight modelu bez ulaza slike.
400 invalid_request_error <id> does not accept response_format JSON izlaz zatražen je od hostiranog open-weight modela koji nema nijedan JSON način.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object Shema je poslana hostiranom open-weight modelu koji ima samo način JSON objekta.

Shannon model na takav zahtjev odgovara statusom 200: mogućnost izvan njegova retka ne sudjeluje u odgovoru. Upravljanje greškama