Verschlësselt, Tor- an I2P-Endpoints

Basis-URLen

Véier Adressen féieren zu där selwechter API. Benotzt déi, déi zu Ärem Netzwierk passt, mat deem selwechten API-Schlëssel an deene selwechten Ufroen.

• En OpenAI-SDK hëlt d'Basis-URL esou, wéi se steet, mat /v1. En Anthropic-SDK hëlt se ouni /v1.
• Fir eng Adress ze kontrolléieren, liest d'Äntwert-Header vun https://api.shannon-ai.com: Onion-Location enthält d'Onion-Adress an X-I2P-Location d'I2P-Adress. D'Onion-Adress fänkt mat shannon un.

Wéi eng Routen funktionéieren

All /v1-Route äntwert op allen dräi Adressen:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models brauch kee Schlëssel, dofir ass et e séieren Test, ob Äre Proxy d'API erreecht.

Wat d'selwecht ass a wat anescht ass

Solde a Limiten si op hirer eegener Säit beschriwwen. Limiten a Solde

cURL duerch Tor

Lasst e Tor-Client op Ärer Maschinn lafen. Hie bitt e SOCKS5-Proxy op 127.0.0.1:9050 un. --socks5-hostname gëtt dem Proxy den .onion-Numm weider.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL duerch I2P

Lasst e I2P-Router op Ärer Maschinn lafen. Hie bitt en HTTP-Proxy op 127.0.0.1:4444 un, dee mam .b32.i2p-Numm esou, wéi e ass, ëmgeet.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

Basis-URL vun der SDK

Eng SDK brauch zwou Ännerungen: d'Basis-URL vum Netzwierk, an en HTTP-Client, dee duerch de Proxy geet. A Python huelen déi zwou offiziell SDKs en httpx-Client. Fir e SOCKS-Proxy installéiert httpx[socks].

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streaming a Keep-alive op luesse Verbindungen

Streaming funktionéiert iwwer béid Netzwierker. Wärend e Stream op ass an de Modell nach näischt ze schécken huet, schéckt d'API e Keep-alive, sou datt d'Verbindung fir e Proxy oder Äre Client net tot ausgesäit.

• Schéckt "stream": true. Eng gestreamt Äntwert fänkt un ukommen, soubal de Modell schreift, an d'Keep-alive weist, datt un der Ufro nach geschafft gëtt. Eng Äntwert ouni Streaming schéckt näischt, bis déi ganz Äntwert prett ass.
• Gitt dem Client en laangen Read-Timeout. D'Beispiller benotzen 600 Sekonnen. En Timeout ënner 15 Sekonne ka e Stream tëscht zwee Keep-alives ofbriechen.
• Looss Äre SSE-Reader Kommentar-Zeilen a ping-Events iwwerspréngen. D'SDKs maachen dat schonn.
• Schéckt eng Ufro net nach eng Kéier, soubal eng Verbindung ofbrécht. Eng Ufro, déi d'API erreecht huet, leeft bis zum Enn a gëtt gezielt, och wann d'Verbindung fort ass.
• Test de Wee fir d'éischt mat GET /v1/models. Et brauch kee Schlëssel a gëtt eng kuerz JSON-Lëscht zréck.

Verbindungsproblemer

All anere Feeler ass d'selwecht wéi am Clearnet. Feelerbehandlung

Äre Schlëssel ouni JavaScript

Shannon huet och eng Websäit ouni JavaScript, erreechbar am Clearnet, als Onion-Service an als Eepsite. Hir /keys-Säit weist Äre API-Schlëssel an léisst Iech en erneieren, sou datt Dir e Schlëssel kritt, ouni Tor oder I2P ze verloossen. encrypted.shannon-ai.com/keys

D'Adresse vun där Websäit op allen dräi Netzwierker stinn hei: Verschlësselten Zougang