암호화, Tor, I2P 엔드포인트

기본 URL 목록

네 개의 주소가 같은 API로 연결됩니다. 네트워크에 맞는 것을 사용하세요. API 키와 요청은 동일합니다.

• OpenAI SDK에는 표시된 대로 /v1이 붙은 기본 URL을 지정합니다. Anthropic SDK에는 /v1 없이 지정합니다.
• 주소를 확인하려면 https://api.shannon-ai.com의 응답 헤더를 읽어 보세요. Onion-Location에 onion 주소가, X-I2P-Location에 I2P 주소가 들어 있습니다. onion 주소는 shannon으로 시작합니다.

작동하는 경로

모든 /v1 경로가 네 개의 주소 모두에서 응답합니다.

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

GET /v1/models에는 키가 필요 없으므로 프록시가 API에 도달하는지 빠르게 시험해 볼 수 있습니다.

같은 점과 다른 점

잔액과 한도는 별도 페이지에 설명되어 있습니다. 한도 및 잔액

Tor를 통한 cURL

기기에서 Tor 클라이언트를 실행하세요. 127.0.0.1:9050에서 SOCKS5 프록시를 제공합니다. --socks5-hostname은 .onion 이름을 그 프록시에 넘깁니다.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

I2P를 통한 cURL

기기에서 I2P 라우터를 실행하세요. 127.0.0.1:4444에서 HTTP 프록시를 제공하며, 이 프록시는 .b32.i2p 이름을 그대로 받습니다.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

SDK 기본 URL

SDK에는 두 가지 변경이 필요합니다. 해당 네트워크의 기본 URL, 그리고 프록시를 거치는 HTTP 클라이언트입니다. Python에서는 두 공식 SDK 모두 httpx 클라이언트를 받습니다. SOCKS 프록시에는 httpx[socks]를 설치하세요.

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

느린 연결에서의 스트리밍과 keep-alive

스트리밍은 두 네트워크 모두에서 작동합니다. 스트림이 열려 있고 모델이 아직 보낼 내용이 없는 동안 API가 keep-alive를 보내므로, 프록시나 클라이언트에 연결이 끊어진 것처럼 보이지 않습니다.

• "stream": true를 보내세요. 스트리밍 응답은 모델이 작성하는 즉시 도착하기 시작하고, keep-alive는 요청이 아직 처리 중임을 보여 줍니다. 스트리밍이 아닌 응답은 답변 전체가 준비될 때까지 아무것도 보내지 않습니다.
• 클라이언트에 긴 읽기 타임아웃을 설정하세요. 샘플은 600초를 사용합니다. 15초보다 짧은 타임아웃은 두 keep-alive 사이에서 스트림을 끊을 수 있습니다.
• SSE 리더가 주석 줄과 ping 이벤트를 건너뛰게 하세요. SDK는 이미 그렇게 합니다.
• 연결이 끊어지자마자 요청을 다시 보내지 마세요. API에 도달한 요청은 끝까지 실행되고 연결이 끊어졌더라도 집계됩니다.
• 먼저 GET /v1/models로 경로를 시험해 보세요. 키가 필요 없고 짧은 JSON 목록을 반환합니다.

연결 문제

그 밖의 모든 오류는 일반 웹과 같습니다. 오류 처리

JavaScript 없이 키 받기

Shannon에는 JavaScript가 필요 없는 웹사이트도 있으며, 일반 웹, onion 서비스, eepsite로 접속할 수 있습니다. 이 사이트의 /keys 페이지에서 API 키를 확인하고 교체할 수 있으므로 Tor나 I2P를 벗어나지 않고 키를 받을 수 있습니다. encrypted.shannon-ai.com/keys

해당 웹사이트의 세 네트워크 주소는 여기에 나열되어 있습니다. 암호화된 접속