एन्क्रिप्टेड, Tor आणि I2P एंडपॉइंट्स

बेस URL

चार पत्ते त्याच API कडे नेतात. तुमच्या नेटवर्कला योग्य असलेला वापरा, त्याच API कीसह आणि त्याच रिक्वेस्ट्ससह.

• OpenAI SDK बेस URL दाखवल्याप्रमाणे /v1 सह घेतो. Anthropic SDK तो /v1 शिवाय घेतो.
• पत्ता तपासण्यासाठी https://api.shannon-ai.com चे उत्तर हेडर वाचा: Onion-Location मध्ये onion पत्ता आणि X-I2P-Location मध्ये I2P पत्ता असतो. onion पत्ता shannon ने सुरू होतो.

कोणते रूट्स चालतात

प्रत्येक /v1 रूट चारही पत्त्यांवर उत्तर देतो:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models ला की लागत नाही, त्यामुळे तुमची प्रॉक्सी API पर्यंत पोहोचते का हे तपासण्याची ती झटपट चाचणी आहे.

काय सारखे आहे आणि काय वेगळे

बॅलन्स आणि मर्यादा स्वतःच्या पानावर वर्णन केल्या आहेत. मर्यादा आणि बॅलन्स

Tor द्वारे cURL

तुमच्या मशीनवर Tor क्लायंट चालवा. तो 127.0.0.1:9050 वर SOCKS5 प्रॉक्सी देतो. --socks5-hostname .onion नाव त्या प्रॉक्सीकडे सोपवते.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

I2P द्वारे cURL

तुमच्या मशीनवर I2P राउटर चालवा. तो 127.0.0.1:4444 वर HTTP प्रॉक्सी देतो, जी .b32.i2p नाव जसेच्या तसे घेते.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK बेस URL

SDK ला दोन बदल लागतात: नेटवर्कचा बेस URL, आणि प्रॉक्सीमधून जाणारा HTTP क्लायंट. Python मध्ये दोन्ही अधिकृत SDK httpx क्लायंट घेतात. SOCKS प्रॉक्सीसाठी httpx[socks] इन्स्टॉल करा.

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

संथ लिंकवर स्ट्रीमिंग आणि keep-alive

स्ट्रीमिंग दोन्ही नेटवर्क्सवर चालते. स्ट्रीम उघडा असताना आणि मॉडेलकडे अजून पाठवण्यासारखे काही नसताना API keep-alive पाठवते, त्यामुळे कनेक्शन प्रॉक्सीला किंवा तुमच्या क्लायंटला मृत वाटत नाही.

• "stream": true पाठवा. मॉडेल लिहू लागताच स्ट्रीम केलेले उत्तर येऊ लागते, आणि keep-alive रिक्वेस्टवर अजून काम चालू असल्याचे दाखवतो. स्ट्रीम नसलेले उत्तर पूर्ण उत्तर तयार होईपर्यंत काहीही पाठवत नाही.
• क्लायंटला मोठा रीड टाइमआउट द्या. नमुने 600 सेकंद वापरतात. 15 सेकंदांपेक्षा कमी टाइमआउट दोन keep-alive च्या मध्ये स्ट्रीम संपवू शकतो.
• तुमच्या SSE रीडरला कमेंट ओळी आणि ping इव्हेंट्स वगळू द्या. SDK हे आधीच करतात.
• कनेक्शन तुटताच रिक्वेस्ट पुन्हा पाठवू नका. API पर्यंत पोहोचलेली रिक्वेस्ट शेवटपर्यंत चालते आणि मोजली जाते, कनेक्शन गेले तरीही.
• आधी GET /v1/models ने मार्ग तपासा. त्याला की लागत नाही आणि ते लहान JSON यादी परत करते.

कनेक्शन समस्या

इतर प्रत्येक त्रुटी क्लिअर वेबवर जशी आहे तशीच आहे. त्रुटी हाताळणी

JavaScript शिवाय तुमची की

Shannon ची JavaScript शिवायची वेबसाइटही आहे, जी क्लिअर वेबवर, onion सेवा म्हणून आणि eepsite म्हणून पोहोचता येते. तिचे /keys पान तुमची API की दाखवते आणि बदलू देते, त्यामुळे Tor किंवा I2P सोडल्याशिवाय तुम्हाला की मिळवता येते. encrypted.shannon-ai.com/keys

त्या वेबसाइटचे तिन्ही नेटवर्क्सवरील पत्ते येथे दिले आहेत: एन्क्रिप्टेड अॅक्सेस