Endpoints מוצפנים, Tor ו-I2P

Base URLs

ארבע כתובות מובילות לאותו API. השתמשו באחת שמתאימה לרשת שלכם, עם אותו מפתח API ואותן בקשות.

• SDK של OpenAI לוקח את ה-base URL כפי שמוצג, עם /v1. SDK של Anthropic לוקח אותו בלי /v1.
• כדי לאמת כתובת, קראו את כותרות התשובה של https://api.shannon-ai.com: Onion-Location נושאת את כתובת ה-onion ו-X-I2P-Location את כתובת ה-I2P. כתובת ה-onion מתחילה ב-shannon.

אילו נתיבים עובדים

כל נתיב /v1 עונה בכל ארבע הכתובות:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models אינו צריך מפתח, ולכן הוא בדיקה מהירה שה-proxy שלכם מגיע ל-API.

מה זהה ומה שונה

יתרה ומגבלות מתוארות בדף משלהן. מגבלות ויתרה

cURL דרך Tor

הריצו לקוח Tor במכונה שלכם. הוא מציע proxy של SOCKS5 ב-127.0.0.1:9050. --socks5-hostname מוסר את השם .onion ל-proxy הזה.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL דרך I2P

הריצו נתב I2P במכונה שלכם. הוא מציע proxy של HTTP ב-127.0.0.1:4444, שמקבל את השם .b32.i2p כמות שהוא.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK base URL

SDK צריך שני שינויים: ה-base URL של הרשת, ולקוח HTTP שעובר דרך ה-proxy. ב-Python שני ה-SDK הרשמיים מקבלים לקוח httpx. עבור proxy של SOCKS התקינו httpx[socks].

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streaming ו-keep-alive בקישורים איטיים

Streaming עובד בשתי הרשתות. כל עוד stream פתוח ואין למודל עדיין מה לשלוח, ה-API שולח keep-alive, כך שהחיבור לא נראה מת ל-proxy או ללקוח שלכם.

• שלחו "stream": true. תשובה ב-streaming מתחילה להגיע ברגע שהמודל כותב, וה-keep-alive מראה שהבקשה עדיין בעבודה. תשובה בלי streaming אינה שולחת דבר עד שכל התשובה מוכנה.
• תנו ללקוח timeout קריאה ארוך. הדוגמאות משתמשות ב-600 שניות. timeout קצר מ-15 שניות יכול לסיים stream בין שני keep-alive.
• תנו לקורא ה-SSE שלכם לדלג על שורות הערה ועל אירועי ping. ה-SDK כבר עושים זאת.
• אל תשלחו שוב בקשה ברגע שחיבור נופל. בקשה שהגיעה ל-API רצה עד סופה ונספרת, גם כשהחיבור כבר איננו.
• בדקו קודם את הנתיב עם GET /v1/models. הוא אינו צריך מפתח ומחזיר רשימת JSON קצרה.

בעיות חיבור

כל שגיאה אחרת זהה לזו שברשת הרגילה. טיפול בשגיאות

המפתח שלכם בלי JavaScript

ל-Shannon יש גם אתר בלי JavaScript, שאפשר להגיע אליו ברשת הרגילה, כשירות onion וכ-eepsite. דף ה-/keys שלו מראה את מפתח ה-API שלכם ומאפשר להחליף אותו, כך שאפשר לקבל מפתח בלי לעזוב את Tor או את I2P. encrypted.shannon-ai.com/keys

הכתובות של האתר הזה בשלוש הרשתות מפורטות כאן: גישה מוצפנת