సామర్థ్యాలు

ప్రతి మోడల్‌ను అదే కీతో అవే మూడు ఎండ్‌పాయింట్‌ల ద్వారా చేరుకోవచ్చు. రెండు పట్టికలు మోడల్స్ ఎక్కడ భిన్నంగా ఉన్నాయో చూపిస్తాయి. డాష్ అంటే ఆ మోడల్ ఆ సామర్థ్యం లేకుండా సమాధానం ఇస్తుంది.

Shannon మోడల్స్

హోస్ట్ చేసిన ఓపెన్-వెయిట్ మోడల్స్

హోస్ట్ చేసిన మోడల్ యొక్క id అనేది దాని పేరు మరియు వేరియంట్‌ను హైఫన్‌తో కలిపినది, ఉదాహరణకు DeepSeek-V4-Pro-0813-3BIT-REAP.

ప్రతి కాలమ్ అర్థం ఏమిటి

• Tools. మీరు tools లో ఫంక్షన్‌లను వివరిస్తారు, మోడల్ తాను చేయించాలనుకున్న కాల్స్‌తో సమాధానం ఇస్తుంది, మీ కోడ్ వాటిని నడుపుతుంది. ప్రతి మోడల్ టూల్స్‌ను తీసుకుంటుంది. బలవంతపు tool_choice ను హోస్ట్ చేసిన ఓపెన్-వెయిట్ మోడల్స్ వర్తింపజేస్తాయి. ఫంక్షన్ కాలింగ్
• చిత్ర ఇన్‌పుట్. మోడల్ user మెసేజ్‌లో పంపిన చిత్రాలను చదువుతుంది, data URL గా లేదా చిరునామాగా. shannon-2-lite మరియు shannon-2-pro కూడా tools లేదా response_format పంపే రిక్వెస్ట్‌లలో చిత్రాలను చదువుతాయి. Shannon 3 ఫ్యామిలీ డాక్యుమెంట్‌లను కూడా చదువుతుంది. చిత్రాలు మరియు ఫైళ్లు
• రీజనింగ్. సమాధానంతో పాటు మోడల్ యొక్క రీజనింగ్ టెక్స్ట్‌ను సమాధానం ప్రత్యేక ఫీల్డ్‌లో కలిగి ఉండవచ్చు. రీజనింగ్ effort
• రీజనింగ్ effort. మోడల్ ఎంత లోతుగా రీజనింగ్ చేయాలో రిక్వెస్ట్ ఫీల్డ్ సెట్ చేస్తుంది: off, low, medium లేదా high. Shannon మోడల్స్ తమ లోతును తామే నిర్ణయించుకుంటాయి. రీజనింగ్ effort
• JSON ఆబ్జెక్ట్. response_format: {"type": "json_object"} తో సమాధానం నిర్దిష్ట ఆకృతి లేని JSON అవుతుంది. /v1/chat/completions మరియు /v1/responses లో. నిర్మిత అవుట్‌పుట్‌లు
• JSON schema. json_schema రకం response_format తో సమాధానం మీరు పంపే schema ను అనుసరిస్తుంది. /v1/chat/completions మరియు /v1/responses లో. నిర్మిత అవుట్‌పుట్‌లు
• ప్రాంప్ట్ క్యాషింగ్. అదే మోడల్‌లో ఇటీవలి ప్రాంప్ట్‌లా మొదలయ్యే ప్రాంప్ట్ క్యాష్ నుండి చదవబడుతుంది, మరియు క్యాష్ చేసిన భాగం ఇన్‌పుట్ ధరలో 25% కి బిల్ చేయబడుతుంది. దీనికి రిక్వెస్ట్ ఫీల్డ్ అవసరం లేదు. ప్రాంప్ట్ క్యాషింగ్
• వెబ్ శోధన. web_search: true తో API వెబ్‌లో వెతికి, మోడల్ సమాధానం ఇచ్చే ముందు ఫలితాలను దానికి ఇస్తుంది. /v1/chat/completions మరియు /v1/messages లో. ఇది రిక్వెస్ట్ ఫీల్డ్, GET /v1/models లో దీనికి ఫ్లాగ్ లేదు. వెబ్ శోధన
• స్ట్రీమింగ్. stream: true తో, మోడల్ రాస్తున్నప్పుడే సమాధానం server-sent events గా వస్తుంది. ప్రతి మోడల్ మూడు ఎండ్‌పాయింట్‌లలోనూ స్ట్రీమ్ చేస్తుంది. స్ట్రీమింగ్

GET /v1/models నుండి అవే వాస్తవాలు

GET https://api.shannon-ai.com/v1/models

GET /v1/models ప్రతి మోడల్‌ను capabilities ఆబ్జెక్ట్‌తో జాబితా చేస్తుంది, కాబట్టి ప్రోగ్రామ్ ఈ పేజీకి బదులు ఈ వాస్తవాలను చదవవచ్చు. ఈ ఎండ్‌పాయింట్‌కు కీ అవసరం లేదు.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

import OpenAI from "openai";

const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });

for await (const model of client.models.list()) {
  console.log(model.id, model.capabilities);
}

curl https://api.shannon-ai.com/v1/models

data లోని రెండు ఎంట్రీల id మరియు capabilities:

[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]

• response_format మరియు prompt_caching హోస్ట్ చేసిన ఓపెన్-వెయిట్ ఎంట్రీల ఫ్లాగ్‌లు. Shannon ఎంట్రీ JSON అవుట్‌పుట్‌ను json_schema తో మాత్రమే నివేదిస్తుంది, అది రెండు JSON మోడ్‌లకు ప్రతినిధి.
• shannon-2-lite మరియు shannon-2-pro కోసం vision అనేది true: అవి tools లేదా response_format కూడా పంపే రిక్వెస్ట్‌లలో చిత్రాలను చదువుతాయి.

మోడల్ వరుసకు వెలుపల

హోస్ట్ చేసిన ఓపెన్-వెయిట్ మోడల్ తన వరుసకు వెలుపల ఉన్న చిత్రాన్ని లేదా JSON మోడ్‌ను తిరస్కరిస్తుంది. మీ బ్యాలెన్స్ నుండి ఏదైనా తీసుకునే ముందే తిరస్కరణ వస్తుంది:

Shannon మోడల్ అలాంటి రిక్వెస్ట్‌కు స్టేటస్ 200 తో సమాధానం ఇస్తుంది: దాని వరుసకు వెలుపల ఉన్న సామర్థ్యం సమాధానంలో పాల్గొనదు. ఎరర్ హ్యాండ్లింగ్