Dulkóðaðir, Tor og I2P endapunktar

Base URL

Fjögur vistföng leiða að sama API. Notaðu það sem hentar netinu þínu, með sama API lykli og sömu beiðnum.

• OpenAI SDK tekur base URL eins og það er sýnt, með /v1. Anthropic SDK tekur það án /v1.
• Til að sannreyna vistfang skaltu lesa svarhausa https://api.shannon-ai.com: Onion-Location ber onion vistfangið og X-I2P-Location I2P vistfangið. Onion vistfangið byrjar á shannon.

Hvaða slóðir virka

Hver /v1 slóð svarar á öllum fjórum vistföngunum:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models þarf engan lykil, sem gerir það að skjótu prófi á því hvort proxy-inn þinn nær til API.

Hvað er eins og hvað er ólíkt

Staða og mörk eru lýst á sinni eigin síðu. Mörk og staða

cURL í gegnum Tor

Keyrðu Tor biðlara á vélinni þinni. Hann býður upp á SOCKS5 proxy á 127.0.0.1:9050. --socks5-hostname réttir þeim proxy .onion nafnið.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL í gegnum I2P

Keyrðu I2P router á vélinni þinni. Hann býður upp á HTTP proxy á 127.0.0.1:4444, sem tekur .b32.i2p nafnið eins og það er.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

Base URL fyrir SDK

SDK þarf tvær breytingar: base URL netsins og HTTP biðlara sem fer í gegnum proxy. Í Python taka bæði opinberu SDK httpx biðlara. Fyrir SOCKS proxy skaltu setja upp httpx[socks].

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streymi og keep-alive á hægum tengingum

Streymi virkar yfir bæði netin. Meðan streymi er opið og líkanið hefur enn ekkert að senda sendir API keep-alive, svo tengingin líti ekki út fyrir að vera dauð fyrir proxy eða biðlarann þinn.

• Sendu "stream": true. Streymt svar byrjar að berast um leið og líkanið skrifar, og keep-alive sýnir að beiðnin er enn í vinnslu. Svar sem er ekki streymt sendir ekkert fyrr en allt svarið er tilbúið.
• Gefðu biðlaranum langan lestrartíma (read timeout). Dæmin nota 600 sekúndur. Tímamörk styttri en 15 sekúndur geta slitið streymi milli tveggja keep-alive.
• Láttu SSE-lesarann þinn sleppa athugasemdarlínum og ping atburðum. SDK gera þetta nú þegar.
• Sendu beiðni ekki aftur um leið og tenging rofnar. Beiðni sem náði til API keyrir til enda og er talin, líka þegar tengingin er horfin.
• Prófaðu leiðina fyrst með GET /v1/models. Það þarf engan lykil og skilar stuttum JSON lista.

Tengingarvandamál

Allar aðrar villur eru eins og á opna vefnum. Villumeðhöndlun

Lykillinn þinn án JavaScript

Shannon hefur líka vef án JavaScript, aðgengilegan á opna vefnum, sem onion þjónustu og sem eepsite. /keys síða hans sýnir API lykilinn þinn og leyfir þér að skipta um hann, svo þú getur fengið lykil án þess að yfirgefa Tor eða I2P. encrypted.shannon-ai.com/keys

Vistföng þess vefs á öllum þremur netunum eru talin upp hér: Dulkóðaður aðgangur