የተመሰጠሩ፣ Tor & I2P endpoints

Base URLs

አራት አድራሻዎች ወደ ተመሳሳዩ API ይመራሉ። ለኔትወርክዎ የሚስማማውን ይጠቀሙ፣ በተመሳሳይ API ቁልፍ እና በተመሳሳይ ጥያቄዎች።

• የOpenAI SDK base URL ን እንደተመለከተው ከ/v1 ጋር ይቀበላል። የAnthropic SDK ያለ /v1 ይቀበላል።
• አድራሻን ለማረጋገጥ የhttps://api.shannon-ai.com የምላሽ headers ያንብቡ፦ Onion-Location የonion አድራሻውን ይይዛል እና X-I2P-Location የI2P አድራሻውን። የonion አድራሻ በshannon ይጀምራል።

የትኞቹ መንገዶች ይሰራሉ

እያንዳንዱ /v1 መንገድ በአራቱም አድራሻዎች ይመልሳል፦

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models ቁልፍ አያስፈልገውም፣ ስለዚህ proxy ዎ ወደ API መድረሱን ለመፈተሽ ፈጣን መንገድ ነው።

ተመሳሳይ የሆነው እና የሚለያየው

ቀሪ ሂሳብ እና ገደቦች በራሳቸው ገጽ ላይ ተብራርተዋል። ገደቦች እና ቀሪ ሂሳብ

cURL በTor በኩል

በማሽንዎ ላይ Tor client ያስኪዱ። በ127.0.0.1:9050 SOCKS5 proxy ያቀርባል። --socks5-hostname የ.onion ስሙን ለዚያ proxy ያስረክባል።

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL በI2P በኩል

በማሽንዎ ላይ I2P router ያስኪዱ። በ127.0.0.1:4444 HTTP proxy ያቀርባል፣ እሱም የ.b32.i2p ስሙን እንዳለ ይቀበላል።

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK base URL

SDK ሁለት ለውጦች ያስፈልጉታል፦ የኔትወርኩ base URL፣ እና በproxy የሚያልፍ HTTP client። በPython ሁለቱም ኦፊሴላዊ SDKs httpx client ይቀበላሉ። ለSOCKS proxy httpx[socks] ይጫኑ።

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

በዝግተኛ ግንኙነቶች ላይ Streaming እና keep-alive

Streaming በሁለቱም ኔትወርኮች ላይ ይሰራል። stream ክፍት ሲሆን እና ሞዴሉ ገና የሚልከው ነገር ሳይኖረው API keep-alive ይልካል፣ ስለዚህ ግንኙነቱ ለproxy ወይም ለclient ዎ የሞተ አይመስልም።

• "stream": true ይላኩ። የstream ምላሽ ሞዴሉ እንደጻፈ መድረስ ይጀምራል፣ እና keep-alive ጥያቄው አሁንም እየተሰራ መሆኑን ያሳያል። stream ያልሆነ ምላሽ ሙሉው መልስ እስኪዘጋጅ ምንም አይልክም።
• ለclient ረጅም የንባብ timeout ይስጡት። ናሙናዎቹ 600 ሰከንድ ይጠቀማሉ። ከ15 ሰከንድ ያነሰ timeout በሁለት keep-alives መካከል stream ሊያቋርጥ ይችላል።
• SSE አንባቢዎ የcomment መስመሮችን እና ping events ን እንዲዘል ያድርጉ። SDKs ይህን አስቀድመው ያደርጋሉ።
• ግንኙነት በተቋረጠ ቅጽበት ጥያቄን እንደገና አይላኩ። ወደ API የደረሰ ጥያቄ እስከ መጨረሻው ይሄዳል እና ይቆጠራል፣ ግንኙነቱ ቢጠፋም።
• መንገዱን መጀመሪያ በGET /v1/models ይሞክሩ። ቁልፍ አያስፈልገውም እና አጭር የJSON ዝርዝር ይመልሳል።

የግንኙነት ችግሮች

ሌላ ማንኛውም ስህተት በግልጹ ድር ላይ ካለው ጋር ተመሳሳይ ነው። ስህተት አስተዳደር

ቁልፍዎ ያለ JavaScript

Shannon ያለ JavaScript የሚሰራ ድር ጣቢያም አለው፣ በግልጹ ድር ላይ፣ እንደ onion አገልግሎት እና እንደ eepsite ይገኛል። የ/keys ገጹ የAPI ቁልፍዎን ያሳያል እና እንዲቀይሩት ያስችልዎታል፣ ስለዚህ Tor ወይም I2P ሳይለቁ ቁልፍ ማግኘት ይችላሉ። encrypted.shannon-ai.com/keys

የዚያ ድር ጣቢያ አድራሻዎች በሦስቱም ኔትወርኮች እዚህ ተዘርዝረዋል፦ የተመሰጠረ መዳረሻ