Versleutelde, Tor- en I2P-endpoints

Basis-URL's

Vier adressen leiden naar dezelfde API. Gebruik het adres dat bij je netwerk past, met dezelfde API-sleutel en dezelfde aanvragen.

• Een OpenAI-SDK neemt de basis-URL zoals getoond, met /v1. Een Anthropic-SDK neemt hem zonder /v1.
• Om een adres te controleren, lees je de antwoordheaders van https://api.shannon-ai.com: Onion-Location bevat het onion-adres en X-I2P-Location het I2P-adres. Het onion-adres begint met shannon.

Welke routes werken

Elke /v1-route antwoordt op alle vier de adressen:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models heeft geen sleutel nodig, waardoor het een snelle test is of je proxy de API bereikt.

Wat hetzelfde is en wat verschilt

Saldo en limieten worden op hun eigen pagina beschreven. Limieten en saldo

cURL via Tor

Draai een Tor-client op je machine. Die biedt een SOCKS5-proxy op 127.0.0.1:9050. --socks5-hostname geeft de .onion-naam door aan die proxy.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL via I2P

Draai een I2P-router op je machine. Die biedt een HTTP-proxy op 127.0.0.1:4444, die de .b32.i2p-naam accepteert zoals hij is.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

Basis-URL voor de SDK

Een SDK heeft twee wijzigingen nodig: de basis-URL van het netwerk, en een HTTP-client die via de proxy gaat. In Python accepteren beide officiële SDK's een httpx-client. Installeer voor een SOCKS-proxy httpx[socks].

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streaming en keep-alive op trage verbindingen

Streaming werkt over beide netwerken. Zolang een stream open is en het model nog niets te sturen heeft, stuurt de API een keep-alive, zodat de verbinding voor een proxy of voor je client niet dood lijkt.

• Stuur "stream": true. Een antwoord met streaming begint binnen te komen zodra het model schrijft, en de keep-alive laat zien dat de aanvraag nog in behandeling is. Een antwoord zonder streaming stuurt niets tot het hele antwoord klaar is.
• Geef de client een lange leestimeout. De voorbeelden gebruiken 600 seconden. Een timeout korter dan 15 seconden kan een stream tussen twee keep-alives beëindigen.
• Laat je SSE-lezer commentaarregels en ping-events overslaan. De SDK's doen dit al.
• Verstuur een aanvraag niet opnieuw op het moment dat een verbinding wegvalt. Een aanvraag die de API heeft bereikt, loopt tot het einde door en wordt geteld, ook als de verbinding weg is.
• Test het pad eerst met GET /v1/models. Dat heeft geen sleutel nodig en geeft een korte JSON-lijst terug.

Verbindingsproblemen

Elke andere fout is dezelfde als op het gewone web. Foutafhandeling

Je sleutel zonder JavaScript

Shannon heeft ook een website zonder JavaScript, bereikbaar op het gewone web, als onion-service en als eepsite. De pagina /keys toont je API-sleutel en laat je hem vernieuwen, zodat je een sleutel kunt krijgen zonder Tor of I2P te verlaten. encrypted.shannon-ai.com/keys

De adressen van die website op alle drie de netwerken staan hier: Versleutelde toegang