Šifrovani, Tor i I2P endpointi

Osnovni URL-ovi

Četiri adrese vode do istog API-ja. Koristite onu koja odgovara vašoj mreži, sa istim API ključem i istim zahtevima.

• OpenAI SDK prima osnovni URL kako je prikazan, sa /v1. Anthropic SDK ga prima bez /v1.
• Da proverite adresu, pročitajte zaglavlja odgovora sa https://api.shannon-ai.com: Onion-Location nosi onion adresu, a X-I2P-Location I2P adresu. Onion adresa počinje sa shannon.

Koje rute rade

Svaka /v1 ruta odgovara na sve četiri adrese:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models ne traži ključ, pa je brz test da li vaš proksi dopire do API-ja.

Šta je isto, a šta se razlikuje

Stanje i ograničenja opisani su na svojoj stranici. Ograničenja i stanje

cURL preko Tora

Pokrenite Tor klijent na svom računaru. On nudi SOCKS5 proksi na 127.0.0.1:9050. --socks5-hostname predaje ime .onion tom proksiju.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL preko I2P-a

Pokrenite I2P ruter na svom računaru. On nudi HTTP proksi na 127.0.0.1:4444, koji prima ime .b32.i2p takvo kakvo jeste.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

Osnovni URL za SDK

SDK-u trebaju dve promene: osnovni URL mreže i HTTP klijent koji ide preko proksija. U Pythonu oba zvanična SDK-a primaju httpx klijent. Za SOCKS proksi instalirajte httpx[socks].

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streaming i keep-alive na sporim vezama

Streaming radi preko obe mreže. Dok je stream otvoren, a model još nema šta da pošalje, API šalje keep-alive, da veza ne izgleda mrtva proksiju ni vašem klijentu.

• Pošaljite "stream": true. Strimovani odgovor počinje da stiže čim model piše, a keep-alive pokazuje da se na zahtevu i dalje radi. Odgovor bez streama ne šalje ništa dok ceo odgovor nije spreman.
• Dajte klijentu dug read timeout. Primeri koriste 600 sekundi. Timeout kraći od 15 sekundi može prekinuti stream između dva keep-alive-a.
• Pustite svoj SSE čitač da preskače komentarske linije i ping događaje. SDK-ovi to već rade.
• Ne šaljite zahtev ponovo čim se veza prekine. Zahtev koji je stigao do API-ja izvršava se do kraja i računa se, i kada veze više nema.
• Prvo testirajte putanju pomoću GET /v1/models. Ne traži ključ i vraća kratku JSON listu.

Problemi sa vezom

Svaka druga greška ista je kao na običnom webu. Upravljanje greškama

Vaš ključ bez JavaScripta

Shannon ima i veb sajt bez JavaScripta, dostupan na običnom webu, kao onion servis i kao eepsite. Njegova stranica /keys prikazuje vaš API ključ i dozvoljava da ga rotirate, pa možete dobiti ključ bez napuštanja Tora ili I2P-a. encrypted.shannon-ai.com/keys

Adrese tog veb sajta na sve tri mreže navedene su ovde: Šifrovani pristup