Các endpoint được mã hóa, Tor và I2P

Các base URL

Bốn địa chỉ dẫn đến cùng một API. Hãy dùng địa chỉ phù hợp với mạng của bạn, với cùng API key và cùng các yêu cầu.

• SDK của OpenAI nhận base URL như được hiển thị, có /v1. SDK của Anthropic nhận nó không có /v1.
• Để kiểm tra một địa chỉ, hãy đọc các header phản hồi của https://api.shannon-ai.com: Onion-Location mang địa chỉ onion và X-I2P-Location mang địa chỉ I2P. Địa chỉ onion bắt đầu bằng shannon.

Những route nào hoạt động

Mọi route /v1 đều trả lời trên cả bốn địa chỉ:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models không cần key, nên là cách thử nhanh xem proxy của bạn có truy cập được API hay không.

Điều gì giống nhau và điều gì khác nhau

Số dư và giới hạn được mô tả ở trang riêng. Giới hạn và số dư

cURL qua Tor

Hãy chạy một client Tor trên máy của bạn. Nó cung cấp một SOCKS5 proxy tại 127.0.0.1:9050. --socks5-hostname chuyển tên .onion cho proxy đó.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL qua I2P

Hãy chạy một router I2P trên máy của bạn. Nó cung cấp một HTTP proxy tại 127.0.0.1:4444, nhận tên .b32.i2p nguyên trạng.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

Base URL của SDK

SDK cần hai thay đổi: base URL của mạng, và một HTTP client đi qua proxy. Trong Python, cả hai SDK chính thức đều nhận một client httpx. Với SOCKS proxy, hãy cài httpx[socks].

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streaming và keep-alive trên đường truyền chậm

Streaming hoạt động trên cả hai mạng. Trong khi một stream đang mở và model chưa có gì để gửi, API gửi một keep-alive, để kết nối không trông như đã chết đối với proxy hay client của bạn.

• Hãy gửi "stream": true. Phản hồi streaming bắt đầu đến ngay khi model viết, và keep-alive cho thấy yêu cầu vẫn đang được xử lý. Phản hồi không streaming không gửi gì cho đến khi toàn bộ câu trả lời sẵn sàng.
• Hãy đặt cho client một read timeout dài. Các ví dụ dùng 600 giây. Timeout ngắn hơn 15 giây có thể làm stream kết thúc giữa hai keep-alive.
• Hãy để trình đọc SSE của bạn bỏ qua các dòng chú thích và sự kiện ping. Các SDK đã làm điều này.
• Đừng gửi lại yêu cầu ngay khi kết nối bị ngắt. Yêu cầu đã đến API sẽ chạy đến hết và được tính phí, kể cả khi kết nối đã mất.
• Hãy thử đường truyền bằng GET /v1/models trước. Nó không cần key và trả về một danh sách JSON ngắn.

Sự cố kết nối

Mọi lỗi khác giống như trên web thông thường. Xử lý lỗi

Key của bạn không cần JavaScript

Shannon cũng có một website không cần JavaScript, truy cập được trên web thông thường, dưới dạng onion service và dưới dạng eepsite. Trang /keys của nó hiển thị API key của bạn và cho phép bạn xoay vòng nó, nên bạn có thể lấy key mà không phải rời Tor hay I2P. encrypted.shannon-ai.com/keys

Địa chỉ của website đó trên cả ba mạng được liệt kê ở đây: Truy cập được mã hóa