සංකේතනය කළ, Tor සහ I2P endpoints

Base URLs

ලිපින හතරක් එම API එකටම යොමු කරයි. ඔබේ network එකට ගැළපෙන එක, එම API key එකම සහ එම ඉල්ලීම්ම සමඟ භාවිතා කරන්න.

• OpenAI SDK එකක් base URL එක /v1 සමඟ පෙන්වා ඇති ආකාරයටම ගනී. Anthropic SDK එකක් එය /v1 නොමැතිව ගනී.
• ලිපිනයක් පරීක්ෂා කිරීමට, https://api.shannon-ai.com හි පිළිතුරු headers කියවන්න: Onion-Location onion ලිපිනය රැගෙන යන අතර X-I2P-Location I2P ලිපිනය රැගෙන යයි. Onion ලිපිනය shannon වලින් ආරම්භ වේ.

ක්‍රියා කරන routes මොනවාද

සෑම /v1 route එකක්ම ලිපින හතරේම පිළිතුරු දෙයි:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models ට key එකක් අවශ්‍ය නැත, එබැවින් ඔබේ proxy එක API එකට ළඟා වන්නේදැයි බැලීමට එය ඉක්මන් පරීක්ෂණයකි.

එකම දේ සහ වෙනස් වන දේ

ශේෂය සහ සීමා ඒවායේම පිටුවේ විස්තර කර ඇත. සීමා සහ ශේෂය

Tor හරහා cURL

ඔබේ යන්ත්‍රයේ Tor client එකක් ධාවනය කරන්න. එය 127.0.0.1:9050 හි SOCKS5 proxy එකක් ලබා දෙයි. --socks5-hostname මගින් .onion නම එම proxy එකට භාර දෙයි.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

I2P හරහා cURL

ඔබේ යන්ත්‍රයේ I2P router එකක් ධාවනය කරන්න. එය 127.0.0.1:4444 හි HTTP proxy එකක් ලබා දෙන අතර, එය .b32.i2p නම එලෙසම ගනී.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK base URL

SDK එකකට වෙනස්කම් දෙකක් අවශ්‍ය වේ: network එකේ base URL එක, සහ proxy එක හරහා යන HTTP client එකක්. Python හි නිල SDKs දෙකම httpx client එකක් ගනී. SOCKS proxy එකක් සඳහා httpx[socks] ස්ථාපනය කරන්න.

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

මන්දගාමී සම්බන්ධතා මත streaming සහ keep-alive

Streaming networks දෙකෙහිම ක්‍රියා කරයි. Stream එකක් විවෘතව ඇති අතර model එකට තවමත් යැවීමට කිසිවක් නැති විට, API එක keep-alive එකක් යවයි, එබැවින් සම්බන්ධතාව proxy එකකට හෝ ඔබේ client එකට මියගිය එකක් ලෙස නොපෙනේ.

• "stream": true යවන්න. Stream කළ පිළිතුරක් model එක ලියන විටම පැමිණීමට පටන් ගන්නා අතර, keep-alive මගින් ඉල්ලීම තවමත් සකසමින් පවතින බව පෙන්වයි. Stream නොකළ පිළිතුරක් සම්පූර්ණ පිළිතුර සූදානම් වන තෙක් කිසිවක් නොයවයි.
• Client එකට දිගු read timeout එකක් දෙන්න. නියැදි තත්පර 600ක් භාවිතා කරයි. තත්පර 15ට වඩා කෙටි timeout එකකට keep-alives දෙකක් අතර stream එකක් අවසන් කළ හැක.
• ඔබේ SSE reader එක comment පේළි සහ ping events මඟ හරින්න ඉඩ දෙන්න. SDKs දැනටමත් මෙය කරයි.
• සම්බන්ධතාවක් බිඳුණු මොහොතේම ඉල්ලීමක් නැවත නොයවන්න. API එකට ළඟා වූ ඉල්ලීමක් අවසානය දක්වා ධාවනය වී ගණන් ගැනේ, සම්බන්ධතාව නැති වූ විටත්.
• මුලින් GET /v1/models සමඟ මාර්ගය පරීක්ෂා කරන්න. එයට key එකක් අවශ්‍ය නැති අතර කෙටි JSON ලැයිස්තුවක් ආපසු දෙයි.

සම්බන්ධතා ගැටලු

අනෙක් සෑම දෝෂයක්ම clear web හි මෙන්ම වේ. දෝෂ

JavaScript නොමැතිව ඔබේ key එක

Shannon ට JavaScript නොමැති වෙබ් අඩවියක් ද ඇත, එයට clear web හි, onion service එකක් ලෙස සහ eepsite එකක් ලෙස ළඟා විය හැක. එහි /keys පිටුවේ ඔබේ API key එක පෙන්වා එය මාරු කිරීමට ඉඩ දෙයි, එබැවින් ඔබට Tor හෝ I2P හැර නොයා key එකක් ලබා ගත හැක. encrypted.shannon-ai.com/keys

networks තුනේම එම වෙබ් අඩවියේ ලිපින මෙහි ලැයිස්තුගත කර ඇත: සංකේතනය කළ ප්‍රවේශය