Tính năng

Mọi model đều được truy cập qua cùng ba endpoint với cùng một key. Hai bảng cho thấy các model khác nhau ở đâu. Dấu gạch ngang nghĩa là model trả lời mà không có khả năng đó.

Các model Shannon

Các model open-weight hosted

Id của một model hosted là tên của nó và biến thể của nó nối bằng dấu gạch nối, ví dụ DeepSeek-V4-Pro-0813-3BIT-REAP.

Ý nghĩa của từng cột

• Tools. Bạn mô tả các hàm trong tools, model trả lời với những lần gọi nó muốn thực hiện, và mã của bạn chạy chúng. Mọi model đều nhận tools. tool_choice bắt buộc được các model open-weight hosted áp dụng. Gọi hàm
• Đầu vào hình ảnh. Model đọc hình ảnh được gửi trong tin nhắn của người dùng, dưới dạng data URL hoặc địa chỉ. shannon-2-lite và shannon-2-pro đọc hình ảnh trong các yêu cầu cũng gửi tools hoặc response_format. Dòng Shannon 3 còn đọc được cả tài liệu. Hình ảnh và tệp
• Suy luận. Phản hồi có thể mang văn bản suy luận của model bên cạnh câu trả lời, trong một trường riêng. Mức độ suy luận
• Mức độ suy luận. Một trường yêu cầu đặt mức độ model suy luận sâu đến đâu: off, low, medium hoặc high. Các model Shannon tự đặt độ sâu của mình. Mức độ suy luận
• Đối tượng JSON. Với response_format: {"type": "json_object"}, câu trả lời là JSON không có cấu trúc định sẵn. Trên /v1/chat/completions và /v1/responses. Đầu ra có cấu trúc
• JSON schema. Với response_format thuộc loại json_schema, câu trả lời theo schema bạn gửi. Trên /v1/chat/completions và /v1/responses. Đầu ra có cấu trúc
• Prompt caching. Prompt bắt đầu giống một prompt gần đây trên cùng model sẽ được đọc từ cache, và phần cached được tính phí bằng 25% giá input. Không cần trường nào trong yêu cầu. Caching prompt
• Tìm kiếm web. Với web_search: true, API tìm kiếm trên web và đưa kết quả cho model trước khi nó trả lời. Trên /v1/chat/completions và /v1/messages. Đây là một trường của yêu cầu và không có cờ nào trong GET /v1/models. Tìm kiếm web tích hợp
• Streaming. Với stream: true, phản hồi đến dưới dạng server-sent events trong khi model viết. Mọi model đều hỗ trợ streaming trên cả ba endpoint. Truyền phát

Cùng thông tin đó từ GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models liệt kê mọi model cùng một đối tượng capabilities, nên chương trình có thể đọc các thông tin này thay vì đọc trang này. Endpoint không cần key.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

import OpenAI from "openai";

const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });

for await (const model of client.models.list()) {
  console.log(model.id, model.capabilities);
}

curl https://api.shannon-ai.com/v1/models

id và capabilities của hai phần tử trong data:

[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]

• response_format và prompt_caching là các cờ của những phần tử open-weight hosted. Phần tử Shannon báo đầu ra JSON chỉ bằng json_schema, đại diện cho cả hai chế độ JSON.
• vision là true với shannon-2-lite và shannon-2-pro: chúng đọc được hình ảnh trong các yêu cầu cũng gửi tools hoặc response_format.

Ngoài hàng của một model

Model open-weight hosted từ chối hình ảnh hoặc chế độ JSON nằm ngoài hàng của nó. Việc từ chối diễn ra trước khi bất kỳ khoản nào bị trừ khỏi số dư của bạn:

Model Shannon trả lời yêu cầu như vậy với trạng thái 200: khả năng nằm ngoài hàng của nó không tham gia vào câu trả lời. Xử lý lỗi