Preskoči na sadržaj
Mogućnosti

Mogućnosti

Šta svaki model može kroz API, model po model: alati, ulaz slike, reasoning, JSON izlaz, keširanje promptova, web pretraga i streaming.

Svakom modelu se pristupa preko ista tri endpointa s istim ključem. Dvije tabele pokazuju gdje se modeli razlikuju. Crtica znači da model odgovara bez te mogućnosti.

Shannon modeli

Model AlatiSlikeReasoningEffortJSON objekatJSON šemaKeširanjePretragaStreaming
shannon-1.6-lite DaDa——DaDa—DaDa
shannon-1.6-pro DaDaDa—DaDa—DaDa
shannon-2-lite Da—Da—DaDa—DaDa
shannon-2-pro Da—Da—DaDa—DaDa
shannon-3 DaDaDa—DaDa—DaDa
shannon-3-pro DaDaDa—DaDa—DaDa
shannon-3.1 DaDaDa—DaDa—DaDa
shannon-3.1-pro DaDaDa—DaDa—DaDa
shannon-3.5 Da———DaDa——Da
shannon-coder-1 Da—Da—DaDa——Da

Hostirani open-weight modeli

Id hostiranog modela je njegovo ime i varijanta spojeni crticom, na primjer DeepSeek-V4-Pro-0813-3BIT-REAP.

Model AlatiSlikeReasoningEffortJSON objekatJSON šemaKeširanjePretragaStreaming
DeepSeek-V4-Pro-0813 3BIT-REAP Da—DaDaDaDaDa—Da
GLM-5.2 3BIT-REAP Da—DaDaDaDaDa—Da
Kimi-K3 3BIT-REAP DaDaDaDaDaDaDa—Da
Nemotron3Ultra 3BIT-REAP Da—DaDaDaDaDa—Da
MiniMax-M3 3BIT-REAP DaDaDaDaDaDaDa—Da
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP Da—DaDaDaDaDa—Da
Kimi-K2.6 W4A16-AUTOROUND-REAP DaDaDaDaDaDaDa—Da
Laguna-S-2.1 W4A16-AUTOROUND-REAP Da—DaDa——Da—Da
inkling W4A16-AUTOROUND-REAP DaDaDaDaDa—Da—Da
MiMo-V2.5-Pro W8A16 Da—DaDaDaDaDa—Da
MiMo-V2.5 W8A16 DaDaDaDaDaDaDa—Da
Hy3 W8A16 Da—DaDaDaDaDa—Da

Šta znači svaka kolona

  • Alati. Funkcije opisujete u tools, model odgovara pozivima koje želi napraviti, a vaš kod ih izvršava. Svaki model prihvata alate. Forsirani tool_choice primjenjuju hostirani open-weight modeli. Pozivanje funkcija
  • Ulaz slike. Model čita slike poslane unutar korisničke poruke, kao data URL ili kao adresu. shannon-2-lite i shannon-2-pro čitaju slike u zahtjevima koji šalju i tools ili response_format. Porodica Shannon 3 čita i dokumente. Slike i datoteke
  • Reasoning. Odgovor može nositi tekst reasoninga modela uz odgovor, u zasebnom polju. Reasoning effort
  • Reasoning effort. Polje zahtjeva određuje koliko duboko model rezonuje: off, low, medium ili high. Shannon modeli sami određuju dubinu. Reasoning effort
  • JSON objekat. Uz response_format: {"type": "json_object"} odgovor je JSON bez propisanog oblika. Na /v1/chat/completions i /v1/responses. Strukturirani izlazi
  • JSON šema. Uz response_format tipa json_schema odgovor slijedi šemu koju pošaljete. Na /v1/chat/completions i /v1/responses. Strukturirani izlazi
  • Keširanje promptova. Prompt koji počinje kao nedavni na istom modelu čita se iz keša, a keširani dio se naplaćuje po 25% cijene ulaza. Ne treba polje zahtjeva. Keširanje promptova
  • Web pretraga. Uz web_search: true API pretražuje web i daje rezultate modelu prije nego što odgovori. Na /v1/chat/completions i /v1/messages. To je polje zahtjeva i nema flag u GET /v1/models. Ugrađena web pretraga
  • Streaming. Uz stream: true odgovor stiže kao server-sent events dok model piše. Svaki model streamuje na sva tri endpointa. Streaming

Iste činjenice iz GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models navodi svaki model s objektom capabilities, pa program može čitati ove činjenice umjesto ove stranice. Endpoint ne treba ključ.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

id i capabilities dvaju unosa u data:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
Kolona Flag u capabilities
Alati tools
Ulaz slike vision
Reasoning reasoning
Reasoning effort reasoning_effort
JSON objekat response_format
JSON šema json_schema
Keširanje promptova prompt_caching
Web pretraga Nije flag: polje zahtjeva web_search.
Streaming streaming
  • response_format i prompt_caching su flagovi unosa hostiranih open-weight modela. Shannon unos prijavljuje JSON izlaz samo s json_schema, što stoji za oba JSON moda.
  • vision je true za shannon-2-lite i shannon-2-pro: čitaju slike u zahtjevima koji šalju i tools ili response_format.

Izvan reda modela

Hostirani open-weight model odbija sliku ili JSON mod koji je izvan njegovog reda. Odbijanje dolazi prije nego što se išta skine s vašeg stanja:

Status Tip Poruka Kada
400 invalid_request_error <id> does not accept image input Slika je poslana hostiranom open-weight modelu bez ulaza slike.
400 invalid_request_error <id> does not accept response_format JSON izlaz je zatražen od hostiranog open-weight modela koji nema nijedan JSON mod.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object Šema je poslana hostiranom open-weight modelu koji ima samo mod JSON objekta.

Shannon model odgovara na takav zahtjev statusom 200: mogućnost izvan njegovog reda ne učestvuje u odgovoru. Upravljanje greškama