ਐਨਕ੍ਰਿਪਟਡ, Tor ਅਤੇ I2P endpoints

Base URLs

ਚਾਰ ਪਤੇ ਇੱਕੋ API ਤੱਕ ਲੈ ਜਾਂਦੇ ਹਨ। ਉਹ ਵਰਤੋ ਜੋ ਤੁਹਾਡੇ ਨੈੱਟਵਰਕ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੋਵੇ, ਉਹੀ API key ਅਤੇ ਉਹੀ ਰਿਕੁਐਸਟਾਂ ਨਾਲ।

• OpenAI SDK base URL ਨੂੰ /v1 ਸਮੇਤ, ਜਿਵੇਂ ਦਿਖਾਇਆ ਹੈ ਉਵੇਂ ਲੈਂਦਾ ਹੈ। Anthropic SDK ਇਸਨੂੰ /v1 ਤੋਂ ਬਿਨਾਂ ਲੈਂਦਾ ਹੈ।
• ਪਤੇ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ https://api.shannon-ai.com ਦੇ ਜਵਾਬ headers ਪੜ੍ਹੋ: Onion-Location ਵਿੱਚ onion ਪਤਾ ਹੁੰਦਾ ਹੈ ਅਤੇ X-I2P-Location ਵਿੱਚ I2P ਪਤਾ। onion ਪਤਾ shannon ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ।

ਕਿਹੜੇ routes ਕੰਮ ਕਰਦੇ ਹਨ

ਹਰ /v1 route ਚਾਰੇ ਪਤਿਆਂ ਉੱਤੇ ਜਵਾਬ ਦਿੰਦਾ ਹੈ:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models ਨੂੰ key ਦੀ ਲੋੜ ਨਹੀਂ, ਇਸ ਲਈ ਇਹ ਇਹ ਪਰਖਣ ਦਾ ਤੇਜ਼ ਤਰੀਕਾ ਹੈ ਕਿ ਤੁਹਾਡਾ proxy API ਤੱਕ ਪਹੁੰਚਦਾ ਹੈ।

ਕੀ ਇੱਕੋ ਜਿਹਾ ਹੈ ਅਤੇ ਕੀ ਵੱਖਰਾ

ਬੈਲੇਂਸ ਅਤੇ ਸੀਮਾਵਾਂ ਦਾ ਵੇਰਵਾ ਉਨ੍ਹਾਂ ਦੇ ਆਪਣੇ ਪੰਨੇ ਉੱਤੇ ਹੈ। ਸੀਮਾਵਾਂ ਅਤੇ ਬੈਲੇਂਸ

Tor ਰਾਹੀਂ cURL

ਆਪਣੀ ਮਸ਼ੀਨ ਉੱਤੇ Tor ਕਲਾਇੰਟ ਚਲਾਓ। ਇਹ 127.0.0.1:9050 ਉੱਤੇ SOCKS5 proxy ਦਿੰਦਾ ਹੈ। --socks5-hostname .onion ਨਾਮ ਨੂੰ ਉਸ proxy ਦੇ ਹਵਾਲੇ ਕਰਦਾ ਹੈ।

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

I2P ਰਾਹੀਂ cURL

ਆਪਣੀ ਮਸ਼ੀਨ ਉੱਤੇ I2P router ਚਲਾਓ। ਇਹ 127.0.0.1:4444 ਉੱਤੇ HTTP proxy ਦਿੰਦਾ ਹੈ, ਜੋ .b32.i2p ਨਾਮ ਨੂੰ ਜਿਵੇਂ ਹੈ ਉਵੇਂ ਲੈਂਦਾ ਹੈ।

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK base URL

SDK ਨੂੰ ਦੋ ਬਦਲਾਅ ਚਾਹੀਦੇ ਹਨ: ਨੈੱਟਵਰਕ ਦਾ base URL, ਅਤੇ ਇੱਕ HTTP ਕਲਾਇੰਟ ਜੋ proxy ਰਾਹੀਂ ਜਾਵੇ। Python ਵਿੱਚ ਦੋਵੇਂ ਅਧਿਕਾਰਤ SDK httpx ਕਲਾਇੰਟ ਲੈਂਦੇ ਹਨ। SOCKS proxy ਲਈ httpx[socks] ਇੰਸਟਾਲ ਕਰੋ।

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

ਹੌਲੀ ਲਿੰਕਾਂ ਉੱਤੇ ਸਟ੍ਰੀਮਿੰਗ ਅਤੇ keep-alive

ਸਟ੍ਰੀਮਿੰਗ ਦੋਵਾਂ ਨੈੱਟਵਰਕਾਂ ਉੱਤੇ ਕੰਮ ਕਰਦੀ ਹੈ। ਜਦੋਂ ਸਟ੍ਰੀਮ ਖੁੱਲ੍ਹੀ ਹੋਵੇ ਅਤੇ ਮਾਡਲ ਕੋਲ ਅਜੇ ਭੇਜਣ ਲਈ ਕੁਝ ਨਾ ਹੋਵੇ, ਤਾਂ API ਇੱਕ keep-alive ਭੇਜਦਾ ਹੈ, ਤਾਂ ਜੋ ਕਨੈਕਸ਼ਨ proxy ਜਾਂ ਤੁਹਾਡੇ ਕਲਾਇੰਟ ਨੂੰ ਮਰਿਆ ਹੋਇਆ ਨਾ ਲੱਗੇ।

• "stream": true ਭੇਜੋ। ਸਟ੍ਰੀਮ ਹੋਇਆ ਜਵਾਬ ਮਾਡਲ ਦੇ ਲਿਖਦੇ ਹੀ ਆਉਣਾ ਸ਼ੁਰੂ ਹੋ ਜਾਂਦਾ ਹੈ, ਅਤੇ keep-alive ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਰਿਕੁਐਸਟ ਉੱਤੇ ਅਜੇ ਕੰਮ ਹੋ ਰਿਹਾ ਹੈ। ਬਿਨਾਂ ਸਟ੍ਰੀਮ ਵਾਲਾ ਜਵਾਬ ਪੂਰਾ ਜਵਾਬ ਤਿਆਰ ਹੋਣ ਤੱਕ ਕੁਝ ਨਹੀਂ ਭੇਜਦਾ।
• ਕਲਾਇੰਟ ਨੂੰ ਲੰਬਾ read timeout ਦਿਓ। ਨਮੂਨੇ 600 ਸਕਿੰਟ ਵਰਤਦੇ ਹਨ। 15 ਸਕਿੰਟ ਤੋਂ ਛੋਟਾ timeout ਦੋ keep-alive ਵਿਚਕਾਰ ਸਟ੍ਰੀਮ ਨੂੰ ਖਤਮ ਕਰ ਸਕਦਾ ਹੈ।
• ਆਪਣੇ SSE ਰੀਡਰ ਨੂੰ ਕੁਮੈਂਟ ਲਾਈਨਾਂ ਅਤੇ ping ਇਵੈਂਟ ਛੱਡਣ ਦਿਓ। SDK ਇਹ ਪਹਿਲਾਂ ਹੀ ਕਰਦੇ ਹਨ।
• ਕਨੈਕਸ਼ਨ ਟੁੱਟਦੇ ਹੀ ਰਿਕੁਐਸਟ ਦੁਬਾਰਾ ਨਾ ਭੇਜੋ। ਜੋ ਰਿਕੁਐਸਟ API ਤੱਕ ਪਹੁੰਚ ਗਈ, ਉਹ ਅੰਤ ਤੱਕ ਚੱਲਦੀ ਹੈ ਅਤੇ ਗਿਣੀ ਜਾਂਦੀ ਹੈ, ਕਨੈਕਸ਼ਨ ਚਲੇ ਜਾਣ ਉੱਤੇ ਵੀ।
• ਪਹਿਲਾਂ ਰਸਤੇ ਨੂੰ GET /v1/models ਨਾਲ ਪਰਖੋ। ਇਸਨੂੰ key ਦੀ ਲੋੜ ਨਹੀਂ ਅਤੇ ਇਹ ਛੋਟੀ JSON ਸੂਚੀ ਵਾਪਸ ਕਰਦਾ ਹੈ।

ਕਨੈਕਸ਼ਨ ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ

ਹਰ ਹੋਰ ਗਲਤੀ ਸਾਧਾਰਨ ਵੈੱਬ ਵਾਂਗ ਹੀ ਹੈ। ਗਲਤੀਆਂ

JavaScript ਤੋਂ ਬਿਨਾਂ ਤੁਹਾਡੀ key

Shannon ਦੀ JavaScript ਤੋਂ ਬਿਨਾਂ ਵੈੱਬਸਾਈਟ ਵੀ ਹੈ, ਜੋ ਸਾਧਾਰਨ ਵੈੱਬ ਉੱਤੇ, onion ਸੇਵਾ ਵਜੋਂ ਅਤੇ eepsite ਵਜੋਂ ਪਹੁੰਚਯੋਗ ਹੈ। ਇਸਦਾ /keys ਪੰਨਾ ਤੁਹਾਡੀ API key ਦਿਖਾਉਂਦਾ ਹੈ ਅਤੇ ਤੁਹਾਨੂੰ ਇਸਨੂੰ ਬਦਲਣ ਦਿੰਦਾ ਹੈ, ਇਸ ਲਈ ਤੁਸੀਂ Tor ਜਾਂ I2P ਛੱਡੇ ਬਿਨਾਂ key ਲੈ ਸਕਦੇ ਹੋ। encrypted.shannon-ai.com/keys

ਉਸ ਵੈੱਬਸਾਈਟ ਦੇ ਤਿੰਨਾਂ ਨੈੱਟਵਰਕਾਂ ਉੱਤੇ ਪਤੇ ਇੱਥੇ ਦਿੱਤੇ ਹਨ: ਐਨਕ੍ਰਿਪਟਡ ਪਹੁੰਚ