Endpoint แบบเข้ารหัส, Tor และ I2P

Base URL

มีสี่ที่อยู่ที่นำไปสู่ API เดียวกัน ใช้อันที่เหมาะกับเครือข่ายของคุณ ด้วย API key เดียวกันและคำขอเดียวกัน

• OpenAI SDK ใช้ base URL ตามที่แสดง พร้อม /v1 ส่วน Anthropic SDK ใช้โดยไม่มี /v1
• หากต้องการตรวจสอบที่อยู่ ให้อ่านเฮดเดอร์คำตอบของ https://api.shannon-ai.com: Onion-Location มีที่อยู่ onion และ X-I2P-Location มีที่อยู่ I2P ที่อยู่ onion ขึ้นต้นด้วย shannon

เส้นทางใดใช้ได้

ทุกเส้นทาง /v1 ตอบบนทั้งสี่ที่อยู่:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models ไม่ต้องใช้คีย์ จึงเป็นการทดสอบอย่างรวดเร็วว่า proxy ของคุณเข้าถึง API ได้

อะไรเหมือนและอะไรต่าง

ยอดคงเหลือและขีดจำกัดอธิบายไว้ในหน้าของตัวเอง ขีดจำกัดและยอดคงเหลือ

cURL ผ่าน Tor

รันไคลเอนต์ Tor บนเครื่องของคุณ ซึ่งให้ SOCKS5 proxy ที่ 127.0.0.1:9050 --socks5-hostname ส่งชื่อ .onion ให้ proxy นั้น

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL ผ่าน I2P

รัน I2P router บนเครื่องของคุณ ซึ่งให้ HTTP proxy ที่ 127.0.0.1:4444 และรับชื่อ .b32.i2p ตามที่เป็น

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK base URL

SDK ต้องเปลี่ยนสองอย่าง: base URL ของเครือข่าย และ HTTP ไคลเอนต์ที่ส่งผ่าน proxy ใน Python SDK อย่างเป็นทางการทั้งสองรับไคลเอนต์ httpx สำหรับ SOCKS proxy ให้ติดตั้ง httpx[socks]

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

การสตรีมและ keep-alive บนลิงก์ที่ช้า

การสตรีมทำงานได้บนทั้งสองเครือข่าย ขณะที่สตรีมเปิดอยู่และโมเดลยังไม่มีอะไรจะส่ง API จะส่ง keep-alive เพื่อให้การเชื่อมต่อไม่ดูเหมือนตายสำหรับ proxy หรือไคลเอนต์ของคุณ

• ส่ง "stream": true คำตอบแบบสตรีมเริ่มมาถึงทันทีที่โมเดลเขียน และ keep-alive แสดงว่าคำขอยังคงถูกประมวลผลอยู่ คำตอบที่ไม่สตรีมจะไม่ส่งอะไรจนกว่าคำตอบทั้งหมดจะพร้อม
• ตั้ง read timeout ของไคลเอนต์ให้นาน ตัวอย่างใช้ 600 วินาที timeout ที่สั้นกว่า 15 วินาทีอาจทำให้สตรีมจบระหว่างสอง keep-alive
• ให้ตัวอ่าน SSE ของคุณข้ามบรรทัดคอมเมนต์และ event ping SDK ทำเช่นนี้อยู่แล้ว
• อย่าส่งคำขอซ้ำทันทีที่การเชื่อมต่อหลุด คำขอที่ไปถึง API แล้วจะทำงานจนจบและถูกนับ แม้การเชื่อมต่อจะหายไป
• ทดสอบเส้นทางด้วย GET /v1/models ก่อน ไม่ต้องใช้คีย์และส่งคืนรายการ JSON สั้นๆ

ปัญหาการเชื่อมต่อ

ข้อผิดพลาดอื่นทุกอย่างเหมือนกับบน clear web การจัดการข้อผิดพลาด

คีย์ของคุณโดยไม่ใช้ JavaScript

Shannon ยังมีเว็บไซต์ที่ไม่ใช้ JavaScript เข้าถึงได้บน clear web เป็น onion service และเป็น eepsite หน้า /keys ของเว็บไซต์นั้นแสดง API key ของคุณและให้หมุนเวียนคีย์ (rotate) ได้ คุณจึงรับคีย์ได้โดยไม่ต้องออกจาก Tor หรือ I2P encrypted.shannon-ai.com/keys

ที่อยู่ของเว็บไซต์นั้นบนทั้งสามเครือข่ายแสดงไว้ที่นี่: การเข้าถึงแบบเข้ารหัส