इन्क्रिप्टेड, Tor र I2P इन्डपोइन्टहरू

बेस URL हरू

चारवटा ठेगानाले उही API मा पुर्‍याउँछन्। उही API की र उही अनुरोधसहित, आफ्नो नेटवर्कलाई मिल्ने ठेगाना प्रयोग गर्नुहोस्।

• OpenAI SDK ले बेस URL देखाइएझैं, /v1 सहित लिन्छ। Anthropic SDK ले /v1 बिना लिन्छ।
• ठेगाना जाँच्न https://api.shannon-ai.com का जवाफ हेडरहरू पढ्नुहोस्: Onion-Location ले onion ठेगाना र X-I2P-Location ले I2P ठेगाना बोक्छ। onion ठेगाना shannon बाट सुरु हुन्छ।

कुन रुटहरू काम गर्छन्

हरेक /v1 रुटले चारवटै ठेगानामा जवाफ दिन्छ:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models लाई की चाहिँदैन, जसले यसलाई तपाईंको प्रोक्सी API सम्म पुग्छ भन्ने छिटो परीक्षण बनाउँछ।

के उस्तै छ र के फरक छ

ब्यालेन्स र सीमाहरू आफ्नै पेजमा वर्णन गरिएका छन्। सीमा र ब्यालेन्स

Tor मार्फत cURL

आफ्नो मेसिनमा Tor क्लाइन्ट चलाउनुहोस्। यसले 127.0.0.1:9050 मा SOCKS5 प्रोक्सी दिन्छ। --socks5-hostname ले .onion नाम त्यो प्रोक्सीलाई दिन्छ।

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

I2P मार्फत cURL

आफ्नो मेसिनमा I2P राउटर चलाउनुहोस्। यसले 127.0.0.1:4444 मा HTTP प्रोक्सी दिन्छ, जसले .b32.i2p नाम जस्ताको तस्तै लिन्छ।

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK बेस URL

SDK लाई दुई परिवर्तन चाहिन्छ: नेटवर्कको बेस URL, र प्रोक्सी हुँदै जाने HTTP क्लाइन्ट। Python मा दुवै आधिकारिक SDK ले httpx क्लाइन्ट लिन्छन्। SOCKS प्रोक्सीका लागि httpx[socks] इन्स्टल गर्नुहोस्।

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

ढिला लिङ्कमा स्ट्रिमिङ र कीप-अलाइभ

स्ट्रिमिङ दुवै नेटवर्कमा काम गर्छ। स्ट्रिम खुला हुँदा र मोडलसँग पठाउन केही नहुँदा API ले कीप-अलाइभ पठाउँछ, ताकि कनेक्सन प्रोक्सी वा तपाईंको क्लाइन्टलाई मृत जस्तो नदेखियोस्।

• "stream": true पठाउनुहोस्। स्ट्रिम गरिएको जवाफ मोडलले लेख्ने बित्तिकै आउन थाल्छ, र कीप-अलाइभले अनुरोधमा अझै काम भइरहेको देखाउँछ। स्ट्रिम नगरिएको जवाफ पूरा उत्तर तयार नभएसम्म केही पठाउँदैन।
• क्लाइन्टलाई लामो रिड टाइमआउट दिनुहोस्। नमूनाहरूले 600 सेकेन्ड प्रयोग गर्छन्। 15 सेकेन्डभन्दा छोटो टाइमआउटले दुई कीप-अलाइभबीच स्ट्रिम अन्त्य गर्न सक्छ।
• आफ्नो SSE रिडरलाई कमेन्ट लाइन र ping इभेन्टहरू छोड्न दिनुहोस्। SDK हरूले यो पहिल्यै गर्छन्।
• कनेक्सन छुट्ने बित्तिकै अनुरोध फेरि नपठाउनुहोस्। API सम्म पुगेको अनुरोध अन्त्यसम्म चल्छ र गनिन्छ, कनेक्सन गएको भए पनि।
• पहिले GET /v1/models ले बाटो परीक्षण गर्नुहोस्। यसलाई की चाहिँदैन र यसले छोटो JSON सूची फर्काउँछ।

कनेक्सन समस्याहरू

अरू हरेक त्रुटि सामान्य वेबमा जस्तै हो। त्रुटि व्यवस्थापन

JavaScript बिना तपाईंको की

Shannon को JavaScript बिनाको वेबसाइट पनि छ, जुन सामान्य वेबमा, onion सेवाका रूपमा र eepsite का रूपमा पुग्न सकिन्छ। यसको /keys पेजले तपाईंको API की देखाउँछ र बदल्न दिन्छ, त्यसैले तपाईं Tor वा I2P नछोडी की पाउन सक्नुहुन्छ। encrypted.shannon-ai.com/keys

त्यो वेबसाइटका तीनवटै नेटवर्कका ठेगानाहरू यहाँ सूचीबद्ध छन्: इन्क्रिप्टेड पहुँच