Preskoči na sadržaj
Mogućnosti

Mogućnosti

Šta svaki model može preko API-ja, model po model: alati, slika na ulazu, reasoning, JSON izlaz, keširanje promptova, web pretraga i streaming.

Svakom modelu se pristupa preko ista tri endpointa sa istim ključem. Dve tabele pokazuju gde se modeli razlikuju. Crtica znači da model odgovara bez te mogućnosti.

Shannon modeli

Model AlatiSlikeReasoningNaporJSON objekatJSON šemaKeširanjePretragaStreaming
shannon-1.6-lite DaDa——DaDa—DaDa
shannon-1.6-pro DaDaDa—DaDa—DaDa
shannon-2-lite Da—Da—DaDa—DaDa
shannon-2-pro Da—Da—DaDa—DaDa
shannon-3 DaDaDa—DaDa—DaDa
shannon-3-pro DaDaDa—DaDa—DaDa
shannon-3.1 DaDaDa—DaDa—DaDa
shannon-3.1-pro DaDaDa—DaDa—DaDa
shannon-3.5 Da———DaDa——Da
shannon-coder-1 Da—Da—DaDa——Da

Hostovani open-weight modeli

Id hostovanog modela je njegovo ime i varijanta spojeni crticom, na primer DeepSeek-V4-Pro-0813-3BIT-REAP.

Model AlatiSlikeReasoningNaporJSON objekatJSON šemaKeširanjePretragaStreaming
DeepSeek-V4-Pro-0813 3BIT-REAP Da—DaDaDaDaDa—Da
GLM-5.2 3BIT-REAP Da—DaDaDaDaDa—Da
Kimi-K3 3BIT-REAP DaDaDaDaDaDaDa—Da
Nemotron3Ultra 3BIT-REAP Da—DaDaDaDaDa—Da
MiniMax-M3 3BIT-REAP DaDaDaDaDaDaDa—Da
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP Da—DaDaDaDaDa—Da
Kimi-K2.6 W4A16-AUTOROUND-REAP DaDaDaDaDaDaDa—Da
Laguna-S-2.1 W4A16-AUTOROUND-REAP Da—DaDa——Da—Da
inkling W4A16-AUTOROUND-REAP DaDaDaDaDa—Da—Da
MiMo-V2.5-Pro W8A16 Da—DaDaDaDaDa—Da
MiMo-V2.5 W8A16 DaDaDaDaDaDaDa—Da
Hy3 W8A16 Da—DaDaDaDaDa—Da

Šta znači svaka kolona

  • Alati. Funkcije opisujete u tools, model odgovara pozivima koje želi da izvrši, a vaš kod ih pokreće. Svaki model prihvata alate. Prisilni tool_choice primenjuju hostovani open-weight modeli. Pozivanje funkcija
  • Slika na ulazu. Model čita slike poslate unutar korisničke poruke, kao data URL ili kao adresu. shannon-2-lite i shannon-2-pro čitaju slike u zahtevima koji šalju i tools ili response_format. Porodica Shannon 3 čita i dokumente. Slike i fajlovi
  • Reasoning. Odgovor može da nosi tekst rezonovanja modela pored odgovora, u posebnom polju. Napor pri zaključivanju
  • Napor pri zaključivanju. Polje zahteva određuje koliko duboko model rezonuje: off, low, medium ili high. Shannon modeli sami određuju dubinu. Napor pri zaključivanju
  • JSON objekat. Sa response_format: {"type": "json_object"} odgovor je JSON bez propisanog oblika. Na /v1/chat/completions i /v1/responses. Strukturirani izlazi
  • JSON šema. Sa response_format tipa json_schema odgovor prati šemu koju pošaljete. Na /v1/chat/completions i /v1/responses. Strukturirani izlazi
  • Keširanje promptova. Prompt koji počinje kao nedavni prompt na istom modelu čita se iz keša, a keširani deo se naplaćuje po 25% cene ulaza. Ne treba mu nikakvo polje zahteva. Keširanje promptova
  • Web pretraga. Sa web_search: true API pretražuje web i daje rezultate modelu pre nego što odgovori. Na /v1/chat/completions i /v1/messages. To je polje zahteva i nema flag u GET /v1/models. Ugrađena web pretraga
  • Streaming. Sa stream: true odgovor stiže kao server-sent events dok model piše. Svaki model strimuje na sva tri endpointa. Streaming

Iste činjenice iz GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models navodi svaki model sa objektom capabilities, pa program može da pročita ove činjenice umesto ove stranice. Endpoint ne traži ključ.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

id i capabilities dva unosa u data:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
Kolona Flag u capabilities
Alati tools
Slika na ulazu vision
Reasoning reasoning
Napor pri zaključivanju reasoning_effort
JSON objekat response_format
JSON šema json_schema
Keširanje promptova prompt_caching
Web pretraga Nije flag: polje zahteva web_search.
Streaming streaming
  • response_format i prompt_caching su flagovi unosa hostovanih open-weight modela. Shannon unos prijavljuje JSON izlaz samo pomoću json_schema, što stoji za oba JSON režima.
  • vision je true za shannon-2-lite i shannon-2-pro: čitaju slike u zahtevima koji šalju i tools ili response_format.

Izvan reda modela

Hostovani open-weight model odbija sliku ili JSON režim koji je izvan njegovog reda. Odbijanje dolazi pre nego što se bilo šta skine sa vašeg stanja:

Status Tip Poruka Kada
400 invalid_request_error <id> does not accept image input Slika je poslata hostovanom open-weight modelu bez podrške za sliku na ulazu.
400 invalid_request_error <id> does not accept response_format JSON izlaz je zatražen od hostovanog open-weight modela koji nema nijedan JSON režim.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object Šema je poslata hostovanom open-weight modelu koji ima samo režim JSON objekta.

Shannon model odgovara na takav zahtev statusom 200: mogućnost izvan njegovog reda ne učestvuje u odgovoru. Upravljanje greškama