Comasan

Gheibhear gach modail tro na h-aon trì endpoints leis an aon iuchair. Seallaidh an dà chlàr càit a bheil na modailean eadar-dhealaichte. Tha dash a’ ciallachadh gum freagair am modail às aonais a’ chomais sin.

Modailean Shannon

Modailean open-weight hosted

Is e id modail hosted ainm agus caochladh ceangailte le tàthan, mar eisimpleir DeepSeek-V4-Pro-0813-3BIT-REAP.

Dè as ciall do gach colbh

• Innealan. Mìnichidh tu functions ann an tools, freagraidh am modail leis na gairmean a tha e ag iarraidh a dhèanamh, agus ruithidh an còd agad iad. Gabhaidh gach modail ri innealan. Thèid tool_choice èigneachail a chur an sàs leis na modailean open-weight hosted. Call gnìomh
• Input dealbh. Leughaidh am modail dealbhan a thèid a chur am broinn teachdaireachd neach-cleachdaidh, mar data URL no mar sheòladh. Leughaidh shannon-2-lite agus shannon-2-pro dealbhan ann an iarrtasan a chuireas tools no response_format cuideachd. Leughaidh teaghlach Shannon 3 sgrìobhainnean cuideachd. Dealbhan agus faidhlichean
• Reusanachadh. Faodaidh am freagairt teacsa reusanachaidh a’ mhodail a bhith ann ri taobh a’ fhreagairt, ann an raon fa leth. Oidhirp reusanachaidh
• Oidhirp reusanachaidh. Suidhichidh raon iarrtais dè cho domhainn ‘s a nì am modail reusanachadh: off, low, medium no high. Suidhichidh na modailean Shannon an doimhne fhèin. Oidhirp reusanachaidh
• Nì JSON. Le response_format: {"type": "json_object"} tha am freagairt na JSON gun chruth òrdaichte. Air /v1/chat/completions agus /v1/responses. Toraidhean structarail
• JSON schema. Le response_format den t-seòrsa json_schema leanaidh am freagairt schema a chuireas tu. Air /v1/chat/completions agus /v1/responses. Toraidhean structarail
• Prompt caching. Thèid prompt a thòisicheas coltach ri fear o chionn ghoirid air an aon mhodail a leughadh on cache, agus thèid a’ phàirt chached a bhilleadh aig 25% de phrìs an input. Chan eil feum air raon iarrtais. Caching prompt
• Rannsachadh lìn. Le web_search: true rannsaichidh an API an lìon agus bheir e na toraidhean dhan mhodail mus freagair e. Air /v1/chat/completions agus /v1/messages. Is e raon dhen iarrtas a th’ ann agus chan eil flag aige ann an GET /v1/models. Rannsachadh Lìn air a thoirt a-steach
• Streaming. Le stream: true thig am freagairt mar server-sent events fhad ‘s a tha am modail a’ sgrìobhadh. Bidh gach modail a’ dèanamh streaming air na trì endpoints. Sruthadh

Na h-aon fhìrinnean o GET /v1/models

GET https://api.shannon-ai.com/v1/models

Liostaidh GET /v1/models gach modail le nì capabilities, agus mar sin faodaidh prògram na fìrinnean seo a leughadh an àite na duilleige seo. Chan eil feum air iuchair aig an endpoint.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

import OpenAI from "openai";

const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });

for await (const model of client.models.list()) {
  console.log(model.id, model.capabilities);
}

curl https://api.shannon-ai.com/v1/models

An id agus capabilities aig dà inntrigeadh de data:

[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]

• Is e response_format agus prompt_caching flagaichean aig na h-inntrigidhean open-weight hosted. Bheir inntrigeadh Shannon cunntas air output JSON le json_schema a-mhàin, a tha na àite an dà dhòigh JSON.
• Tha vision true airson shannon-2-lite agus shannon-2-pro: leughaidh iad dealbhan ann an iarrtasan a chuireas tools no response_format cuideachd.

Taobh a-muigh rèide modail

Diùltaidh modail open-weight hosted dealbh no dòigh JSON a tha taobh a-muigh a rèide. Thig an diùltadh mus tèid dad a thoirt às do bhalance:

Freagraidh modail Shannon iarrtas mar sin le staid 200: chan eil comas a tha taobh a-muigh a rèide a’ gabhail pàirt sa fhreagairt. Làimhseachadh mearachd