Şifrələnmiş, Tor & I2P endpoint-ləri

Əsas URL-lər

Dörd ünvan eyni API-yə aparır. Şəbəkənizə uyğun olanı istifadə edin, eyni API açarı və eyni sorğularla.

• OpenAI SDK əsas URL-i göstərildiyi kimi, /v1 ilə qəbul edir. Anthropic SDK onu /v1-siz qəbul edir.
• Ünvanı yoxlamaq üçün https://api.shannon-ai.com cavab başlıqlarını oxuyun: Onion-Location onion ünvanını, X-I2P-Location isə I2P ünvanını daşıyır. Onion ünvanı shannon ilə başlayır.

Hansı yollar işləyir

Hər /v1 yolu dörd ünvanın hamısında cavab verir:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models açar tələb etmir, bu da onu proxy-nizin API-yə çatdığının sürətli testi edir.

Nə eynidir və nə fərqlidir

Balans və limitlər ayrıca səhifədə təsvir olunub. Limitlər və balans

Tor üzərindən cURL

Maşınınızda Tor klienti işlədin. O, 127.0.0.1:9050-də SOCKS5 proxy təklif edir. --socks5-hostname .onion adını həmin proxy-yə verir.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

I2P üzərindən cURL

Maşınınızda I2P router işlədin. O, .b32.i2p adını olduğu kimi qəbul edən 127.0.0.1:4444-də HTTP proxy təklif edir.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK əsas URL-i

SDK iki dəyişiklik tələb edir: şəbəkənin əsas URL-i və proxy-dən keçən HTTP klienti. Python-da hər iki rəsmi SDK httpx klienti qəbul edir. SOCKS proxy üçün httpx[socks] quraşdırın.

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Yavaş bağlantılarda streaming və keep-alive

Streaming hər iki şəbəkədə işləyir. Axın açıq olarkən və modelin göndəriləsi bir şeyi hələ olmadıqda API keep-alive göndərir, beləliklə bağlantı proxy-yə və ya klientinizə ölü görünmür.

• "stream": true göndərin. Axınlı cavab model yazan kimi gəlməyə başlayır və keep-alive sorğu üzərində işlənildiyini göstərir. Axınsız cavab bütün cavab hazır olana qədər heç nə göndərmir.
• Klientə uzun read timeout verin. Nümunələr 600 saniyə istifadə edir. 15 saniyədən qısa timeout axını iki keep-alive arasında bitirə bilər.
• SSE oxuyucunuzun şərh sətirlərini və ping hadisələrini keçməsinə icazə verin. SDK-lar bunu artıq edir.
• Bağlantı kəsilən kimi sorğunu yenidən göndərməyin. API-yə çatan sorğu sonuna qədər işləyir və sayılır, bağlantı getsə belə.
• Yolu əvvəlcə GET /v1/models ilə yoxlayın. O, açar tələb etmir və qısa JSON siyahısı qaytarır.

Bağlantı problemləri

Hər digər xəta açıq veb-dəki ilə eynidir. Xəta idarəetməsi

JavaScript-siz açarınız

Shannon-un həmçinin açıq veb-də, onion xidməti kimi və eepsite kimi əlçatan olan JavaScript-siz veb-sayt var. Onun /keys səhifəsi API açarınızı göstərir və yeniləməyə imkan verir, beləliklə Tor və ya I2P-dən çıxmadan açar ala bilərsiniz. encrypted.shannon-ai.com/keys

Həmin veb-saytın üç şəbəkədəki ünvanları burada siyahıya alınıb: Şifrələnmiş giriş