Endpoint ແບບເຂົ້າລະຫັດ, Tor ແລະ I2P

Base URL

ສີ່ທີ່ຢູ່ນຳໄປສູ່ API ດຽວກັນ. ໃຊ້ອັນທີ່ເໝາະກັບເຄືອຂ່າຍຂອງທ່ານ, ດ້ວຍ API key ດຽວກັນ ແລະ ຄຳຮ້ອງຂໍດຽວກັນ.

• SDK ຂອງ OpenAI ຮັບ base URL ຕາມທີ່ສະແດງ, ພ້ອມ /v1. SDK ຂອງ Anthropic ຮັບມັນໂດຍບໍ່ມີ /v1.
• ເພື່ອກວດທີ່ຢູ່, ໃຫ້ອ່ານ header ຄຳຕອບຂອງ https://api.shannon-ai.com: Onion-Location ມີທີ່ຢູ່ onion ແລະ X-I2P-Location ມີທີ່ຢູ່ I2P. ທີ່ຢູ່ onion ເລີ່ມດ້ວຍ shannon.

route ໃດໃຊ້ໄດ້

ທຸກ route /v1 ຕອບໃນທັງສີ່ທີ່ຢູ່:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models ບໍ່ຕ້ອງໃຊ້ key, ເຊິ່ງເຮັດໃຫ້ມັນເປັນການທົດສອບດ່ວນວ່າ proxy ຂອງທ່ານເຂົ້າເຖິງ API.

ສິ່ງທີ່ຄືກັນ ແລະ ສິ່ງທີ່ຕ່າງກັນ

ຍອດເງິນ ແລະ ຂີດຈຳກັດຖືກອະທິບາຍໃນໜ້າຂອງຕົນເອງ. ຂີດຈຳກັດ ແລະ ຍອດເງິນ

cURL ຜ່ານ Tor

ຮັນ client ຂອງ Tor ໃນເຄື່ອງຂອງທ່ານ. ມັນສະເໜີ SOCKS5 proxy ທີ່ 127.0.0.1:9050. --socks5-hostname ສົ່ງຊື່ .onion ໃຫ້ proxy ນັ້ນ.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL ຜ່ານ I2P

ຮັນ I2P router ໃນເຄື່ອງຂອງທ່ານ. ມັນສະເໜີ HTTP proxy ທີ່ 127.0.0.1:4444, ເຊິ່ງຮັບຊື່ .b32.i2p ຕາມທີ່ມັນເປັນ.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

Base URL ຂອງ SDK

SDK ຕ້ອງການສອງການປ່ຽນແປງ: base URL ຂອງເຄືອຂ່າຍ, ແລະ HTTP client ທີ່ຜ່ານ proxy. ໃນ Python SDK ທາງການທັງສອງຮັບ client httpx. ສຳລັບ SOCKS proxy ໃຫ້ຕິດຕັ້ງ httpx[socks].

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streaming ແລະ keep-alive ໃນການເຊື່ອມຕໍ່ທີ່ຊ້າ

Streaming ໃຊ້ໄດ້ໃນທັງສອງເຄືອຂ່າຍ. ໃນຂະນະທີ່ stream ເປີດຢູ່ແລະ model ຍັງບໍ່ມີຫຍັງຈະສົ່ງ, API ສົ່ງ keep-alive, ເພື່ອໃຫ້ການເຊື່ອມຕໍ່ບໍ່ເບິ່ງຄືຕາຍສຳລັບ proxy ຫຼື client ຂອງທ່ານ.

• ສົ່ງ "stream": true. ຄຳຕອບແບບ stream ເລີ່ມມາທັນທີທີ່ model ຂຽນ, ແລະ keep-alive ສະແດງວ່າຄຳຮ້ອງຂໍຍັງຖືກປະມວນຜົນຢູ່. ຄຳຕອບທີ່ບໍ່ stream ບໍ່ສົ່ງຫຍັງຈົນກວ່າຄຳຕອບທັງໝົດພ້ອມ.
• ໃຫ້ client ມີ read timeout ທີ່ຍາວ. ຕົວຢ່າງໃຊ້ 600 ວິນາທີ. timeout ທີ່ສັ້ນກວ່າ 15 ວິນາທີອາດຕັດ stream ລະຫວ່າງສອງ keep-alive.
• ໃຫ້ຕົວອ່ານ SSE ຂອງທ່ານຂ້າມແຖວ comment ແລະ event ping. SDK ເຮັດສິ່ງນີ້ຢູ່ແລ້ວ.
• ຢ່າສົ່ງຄຳຮ້ອງຂໍອີກທັນທີທີ່ການເຊື່ອມຕໍ່ຂາດ. ຄຳຮ້ອງຂໍທີ່ຮອດ API ແລ້ວຈະເຮັດວຽກຈົນຈົບ ແລະ ຖືກນັບ, ເຖິງແມ່ນການເຊື່ອມຕໍ່ຈະຫາຍໄປແລ້ວກໍຕາມ.
• ທົດສອບເສັ້ນທາງດ້ວຍ GET /v1/models ກ່ອນ. ມັນບໍ່ຕ້ອງໃຊ້ key ແລະ ສົ່ງລາຍຊື່ JSON ສັ້ນໆກັບຄືນ.

ບັນຫາການເຊື່ອມຕໍ່

ຂໍ້ຜິດພາດອື່ນທັງໝົດຄືກັນກັບໃນເວັບທົ່ວໄປ. ການຈັດການຂໍ້ຜິດພາດ

key ຂອງທ່ານໂດຍບໍ່ມີ JavaScript

Shannon ຍັງມີເວັບໄຊທ໌ທີ່ບໍ່ມີ JavaScript, ເຂົ້າເຖິງໄດ້ໃນເວັບທົ່ວໄປ, ເປັນ onion service ແລະ ເປັນ eepsite. ໜ້າ /keys ຂອງມັນສະແດງ API key ຂອງທ່ານ ແລະ ໃຫ້ທ່ານປ່ຽນ key ໄດ້, ດັ່ງນັ້ນທ່ານຈຶ່ງຮັບ key ໄດ້ໂດຍບໍ່ຕ້ອງອອກຈາກ Tor ຫຼື I2P. encrypted.shannon-ai.com/keys

ທີ່ຢູ່ຂອງເວັບໄຊທ໌ນັ້ນໃນທັງສາມເຄືອຂ່າຍຖືກລາຍຊື່ຢູ່ນີ້: ການເຂົ້າເຖິງແບບເຂົ້າລະຫັດ