Endpoint voafantina, Tor & I2P

Base URL

Adiresy efatra no mitondra mankany amin'ny API iray ihany. Ampiasao izay mifanaraka amin'ny tamba-jotranao, miaraka amin'ny API key sy fangatahana mitovy.

• Ny SDK OpenAI dia maka ny base URL araka ny aseho, miaraka amin'ny /v1. Ny SDK Anthropic kosa maka azy tsy misy /v1.
• Hanamarinana adiresy, vakio ny header valiny an'ny https://api.shannon-ai.com: ny Onion-Location dia mitondra ny adiresy onion ary ny X-I2P-Location ny adiresy I2P. Ny adiresy onion dia manomboka amin'ny shannon.

Iza amin'ny lalana no mandeha

Ny lalana /v1 rehetra dia mamaly amin'ny adiresy efatra rehetra:

• POST /v1/chat/completions
• POST /v1/responses
• POST /v1/messages
• POST /v1/messages/count_tokens
• POST /v1/tokenize
• GET /v1/models

Ny GET /v1/models dia tsy mila key, ka fanandramana haingana hijerena raha tonga any amin'ny API ny proxy-nao.

Izay mitovy sy izay tsy mitovy

Ny balance sy ny fetra dia voasoratra ao amin'ny pejiny manokana. Fetra sy balance

cURL amin'ny Tor

Ampandehano ny client Tor ao amin'ny milina-nao. Manolotra SOCKS5 proxy amin'ny 127.0.0.1:9050 izy. Ny --socks5-hostname dia manome ny anarana .onion amin'io proxy io.

# 1. Is the onion service reachable? No key needed.
curl --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/models

# 2. A streamed chat call. -N prints the stream as it arrives.
curl -N --socks5-hostname 127.0.0.1:9050 http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over Tor"}]
  }'

cURL amin'ny I2P

Ampandehano ny router I2P ao amin'ny milina-nao. Manolotra HTTP proxy amin'ny 127.0.0.1:4444 izy, izay mandray araka izy ny anarana .b32.i2p.

# 1. Is the eepsite reachable? No key needed.
curl --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/models

# 2. A streamed chat call.
curl -N --proxy http://127.0.0.1:4444 http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello over I2P"}]
  }'

Base URL an'ny SDK

Ny SDK dia mila fanovana roa: ny base URL an'ny tamba-jotra, sy client HTTP mandalo amin'ny proxy. Amin'ny Python, ny SDK ofisialy roa dia mandray client httpx. Ho an'ny SOCKS proxy, apetraho ny httpx[socks].

# pip install openai "httpx[socks]"
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion/v1",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over Tor"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install openai
import httpx
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="http://acvnvkdea4xaczzjap7chysqqi4kkvp2eorfwkasindzmjpa47da.b32.i2p/v1",
    http_client=httpx.Client(proxy="http://127.0.0.1:4444", timeout=600),
)

stream = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Hello over I2P"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

# pip install anthropic "httpx[socks]"
import anthropic
import httpx

client = anthropic.Anthropic(
    api_key="YOUR_API_KEY",
    base_url="http://shannonmd773o5vxz75byha5rkea7nzr3srotw46uwythq3pjl6y4cad.onion",
    http_client=httpx.Client(proxy="socks5h://127.0.0.1:9050", timeout=600),
)

with client.messages.stream(
    model="shannon-1.6-lite",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello over Tor"}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Streaming sy keep-alive amin'ny fifandraisana malemy

Mandeha amin'ireo tamba-jotra roa ny streaming. Raha mbola misokatra ny stream ary tsy mbola manana zavatra halefa ny model, ny API dia mandefa keep-alive, ka tsy toa maty ny fifandraisana amin'ny proxy na ny client-nao.

• Alefaso ny "stream": true. Ny valiny streamed dia manomboka tonga raha vao manoratra ny model, ary ny keep-alive dia mampiseho fa mbola tohizana ny fangatahana. Ny valiny tsy streamed dia tsy mandefa na inona na inona mandra-pahavitan'ny valiny manontolo.
• Omeo read timeout lava ny client. Ny ohatra dia mampiasa segondra 600. Ny timeout ambanin'ny segondra 15 dia mety hamarana stream eo anelanelan'ny keep-alive roa.
• Avelao hamoy ny andalana fanamarihana sy ny event ping ny mpamaky SSE-nao. Ny SDK dia efa manao izany.
• Aza alefa indray ny fangatahana raha vao mitsaha ny fifandraisana. Ny fangatahana tonga tamin'ny API dia mandeha hatramin'ny farany ary kajina, na dia tapaka aza ny fifandraisana.
• Andramo aloha ny lalana amin'ny GET /v1/models. Tsy mila key izy ary mamerina lisitra JSON fohy.

Olana amin'ny fifandraisana

Ny hadisoana hafa rehetra dia mitovy amin'ny an'ny web mazava. Fitantanana hadisoana

Ny key-nao tsy misy JavaScript

Shannon koa dia manana tranonkala tsy misy JavaScript, azo tratrarina amin'ny web mazava, ho onion service ary ho eepsite. Ny pejiny /keys dia mampiseho ny API key-nao ary avela hosoloina izany, ka afaka mahazo key ianao tsy mivoaka ny Tor na I2P. encrypted.shannon-ai.com/keys

Ny adiresin'io tranonkala io amin'ny tamba-jotra telo rehetra dia voatanisa eto: Fidirana voafantina