Endpointҳои рамзгузоришуда, Tor ва I2P

Base URL-ҳо

Чор суроға ба ҳамон як API мебаранд. Он суроғаро истифода баред, ки ба шабакаи шумо мувофиқ аст, бо ҳамон калиди API ва ҳамон дархостҳо.

• SDK-и OpenAI base URL-ро ҳамон тавр, ки нишон дода шудааст, бо /v1 мегирад. SDK-и Anthropic онро бе /v1 мегирад.
• Барои санҷиши суроға, сарлавҳаҳои ҷавоби https://api.shannon-ai.com-ро бихонед: Onion-Location суроғаи onion-ро ва X-I2P-Location суроғаи I2P-ро дорад. Суроғаи onion бо shannon оғоз мешавад.

Кадом масирҳо кор мекунанд

Ҳар масири /v1 дар ҳар чор суроға ҷавоб медиҳад:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models калид талаб намекунад, ки онро санҷиши зуд месозад, ки проксии шумо ба API мерасад.

Чӣ якхела аст ва чӣ фарқ мекунад

Баланс ва ҳадҳо дар саҳифаи худашон тавсиф шудаанд. Маҳдудиятҳо ва баланс

cURL тавассути Tor

Клиенти Tor-ро дар мошини худ ба кор андозед. Он прокси-и SOCKS5-ро дар 127.0.0.1:9050 пешниҳод мекунад. --socks5-hostname номи .onion-ро ба ҳамин прокси месупорад.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL тавассути I2P

Роутери I2P-ро дар мошини худ ба кор андозед. Он прокси-и HTTP-ро дар 127.0.0.1:4444 пешниҳод мекунад, ки номи .b32.i2p-ро ҳамон тавр мегирад.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

Base URL-и SDK

SDK ду тағйирот талаб мекунад: base URL-и шабака ва клиенти HTTP, ки аз прокси мегузарад. Дар Python ҳарду SDK-и расмӣ клиенти httpx-ро мегиранд. Барои прокси-и SOCKS httpx[socks]-ро насб кунед.

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streaming ва keep-alive дар пайвандҳои суст

Streaming дар ҳарду шабака кор мекунад. То даме ки ҷараён кушода аст ва модел ҳанӯз чизе барои фиристодан надорад, API keep-alive мефиристад, то пайвастшавӣ барои прокси ё клиенти шумо мурда нанамояд.

• "stream": true-ро фиристед. Ҷавоби бо streaming ҳамон вақте ки модел менависад, ба омадан сар мекунад ва keep-alive нишон медиҳад, ки дархост ҳанӯз коркард мешавад. Ҷавоби бе streaming то омодагии тамоми ҷавоб чизе намефиристад.
• Ба клиент timeout-и дарозмуддати хондан диҳед. Намунаҳо 600 сонияро истифода мебаранд. Timeout-и аз 15 сония кӯтоҳтар метавонад ҷараёнро дар байни ду keep-alive қатъ кунад.
• Бигзор хонандаи SSE-и шумо хатҳои эзоҳӣ ва рӯйдодҳои ping-ро гузаронад. SDK-ҳо инро аллакай мекунанд.
• Дархостро дарҳол пас аз қатъ шудани пайвастшавӣ дубора нафиристед. Дархосте, ки ба API расидааст, то охир иҷро мешавад ва ҳисоб карда мешавад, ҳатто вақте ки пайвастшавӣ намондааст.
• Аввал роҳро бо GET /v1/models санҷед. Он калид талаб намекунад ва рӯйхати кӯтоҳи JSON бармегардонад.

Мушкилоти пайвастшавӣ

Ҳар хатогии дигар мисли веби оддӣ аст. Идораи хатогиҳо

Калиди шумо бе JavaScript

Shannon ҳамчунин вебсайти бе JavaScript дорад, ки дар веби оддӣ, ҳамчун хидмати onion ва ҳамчун eepsite дастрас аст. Саҳифаи /keys-и он калиди API-и шуморо нишон медиҳад ва ба шумо имкон медиҳад онро иваз кунед, бинобар ин шумо метавонед калид гиред бе тарк кардани Tor ё I2P. encrypted.shannon-ai.com/keys

Суроғаҳои он вебсайт дар ҳар се шабака дар ин ҷо номбар шудаанд: Дастрасии рамзгузоришуда