SDKಗಳು
ಯಾವುದೇ OpenAI ಅಥವಾ Anthropic SDK ಹಾಗೆಯೇ ಕೆಲಸ ಮಾಡುತ್ತದೆ.
Shannon OpenAI ಮತ್ತು Anthropic ವೈರ್ ಫಾರ್ಮ್ಯಾಟ್ಗಳನ್ನು ಮಾತನಾಡುತ್ತದೆ, ಆದ್ದರಿಂದ ಎರಡರ ಅಧಿಕೃತ SDK ಗಳನ್ನು ಇದ್ದಂತೆಯೇ ಬಳಸುತ್ತೀರಿ. ಕ್ಲೈಂಟ್ನಲ್ಲಿ ಮೂರು ಮೌಲ್ಯಗಳನ್ನು ಬದಲಾಯಿಸುತ್ತೀರಿ: ಬೇಸ್ URL, API ಕೀ ಮತ್ತು ಮಾಡೆಲ್ id. ನಿಮ್ಮ ಕೋಡ್ನ ಉಳಿದದ್ದು ಹಾಗೆಯೇ ಇರುತ್ತದೆ.
ಏನನ್ನು ಹೊಂದಿಸಬೇಕು
| ಸೆಟ್ಟಿಂಗ್ | OpenAI SDK ಗಳು | Anthropic SDK ಗಳು |
|---|---|---|
| ಬೇಸ್ URL | https://api.shannon-ai.com/v1 | https://api.shannon-ai.com |
| API ಕೀ | ನಿಮ್ಮ Shannon ಕೀ. SDK ಅದನ್ನು Authorization: Bearer ಆಗಿ ಕಳುಹಿಸುತ್ತದೆ. | ನಿಮ್ಮ Shannon ಕೀ. SDK ಅದನ್ನು x-api-key ಆಗಿ ಕಳುಹಿಸುತ್ತದೆ. |
| ಮಾಡೆಲ್ | ಪ್ರಕಟಿತ ಮಾಡೆಲ್ id, ಉದಾಹರಣೆಗೆ shannon-3. | ಪ್ರಕಟಿತ ಮಾಡೆಲ್ id, ಉದಾಹರಣೆಗೆ shannon-1.6-lite. |
| ಅದು ತಲುಪುವ ಎಂಡ್ಪಾಯಿಂಟ್ಗಳು | /v1/chat/completions, /v1/responses, /v1/models | /v1/messages, /v1/messages/count_tokens |
| ಪರಿಸರ ವೇರಿಯಬಲ್ಗಳು | OPENAI_API_KEY ಮತ್ತು OPENAI_BASE_URL, ನೀವು ಮೌಲ್ಯ ನೀಡದಿದ್ದಾಗ Python ಮತ್ತು JavaScript SDK ಗಳು ಓದುತ್ತವೆ. | ANTHROPIC_API_KEY ಮತ್ತು ANTHROPIC_BASE_URL, ನೀವು ಮೌಲ್ಯ ನೀಡದಿದ್ದಾಗ Python ಮತ್ತು TypeScript SDK ಗಳು ಓದುತ್ತವೆ. |
ಎರಡು ಬೇಸ್ URL ಗಳು /v1 ನಿಂದ ಭಿನ್ನವಾಗಿವೆ: OpenAI SDK ತನ್ನ ಬೇಸ್ URL ಗೆ /chat/completions ಸೇರಿಸುತ್ತದೆ, Anthropic SDK /v1/messages ಸೇರಿಸುತ್ತದೆ. Shannon ಪ್ರಕಟಿಸದ ಮಾಡೆಲ್ ಹೆಸರಿಗೆ 400 ಮತ್ತು unknown model ನೊಂದಿಗೆ ಉತ್ತರಿಸಲಾಗುತ್ತದೆ. ಮಾಡೆಲ್ಗಳು ಮತ್ತು ಬೆಲೆ
ನಿಮ್ಮ ಕೀ Keys & usage ಪುಟದಲ್ಲಿದೆ. ಕೀಗಳು ಮತ್ತು ಬಳಕೆ
OpenAI SDK ಗಳು
ಅಧಿಕೃತ OpenAI SDK ಗಳು POST /v1/chat/completions ಮತ್ತು POST /v1/responses ಅನ್ನು ಕರೆಯುತ್ತವೆ. ಪ್ರತಿ ಮಾದರಿ ಒಂದು user ಸಂದೇಶವನ್ನು ಕಳುಹಿಸಿ ಉತ್ತರವನ್ನು ಮುದ್ರಿಸುತ್ತದೆ.
# pip install openai
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.shannon-ai.com/v1",
)
response = client.chat.completions.create(
model="shannon-3",
messages=[{"role": "user", "content": "Hello, Shannon!"}],
)
print(response.choices[0].message.content) // npm install openai
import OpenAI from "openai";
const client = new OpenAI({
apiKey: "YOUR_API_KEY",
baseURL: "https://api.shannon-ai.com/v1",
});
const response = await client.chat.completions.create({
model: "shannon-3",
messages: [{ role: "user", content: "Hello, Shannon!" }],
});
console.log(response.choices[0].message.content); // go get github.com/openai/openai-go/v3
package main
import (
"context"
"fmt"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithAPIKey("YOUR_API_KEY"),
option.WithBaseURL("https://api.shannon-ai.com/v1/"),
)
completion, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "shannon-3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.UserMessage("Hello, Shannon!"),
},
})
if err != nil {
panic(err)
}
fmt.Println(completion.Choices[0].Message.Content)
} // Gradle: implementation("com.openai:openai-java:<version>")
import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.ChatCompletion;
import com.openai.models.chat.completions.ChatCompletionCreateParams;
OpenAIClient client = OpenAIOkHttpClient.builder()
.apiKey("YOUR_API_KEY")
.baseUrl("https://api.shannon-ai.com/v1")
.build();
ChatCompletionCreateParams params = ChatCompletionCreateParams.builder()
.model("shannon-3")
.addUserMessage("Hello, Shannon!")
.build();
ChatCompletion completion = client.chat().completions().create(params);
completion.choices().get(0).message().content().ifPresent(System.out::println); // dotnet add package OpenAI
using System.ClientModel;
using OpenAI;
using OpenAI.Chat;
ChatClient client = new(
model: "shannon-3",
credential: new ApiKeyCredential("YOUR_API_KEY"),
options: new OpenAIClientOptions()
{
Endpoint = new Uri("https://api.shannon-ai.com/v1")
});
ChatCompletion completion = client.CompleteChat("Hello, Shannon!");
Console.WriteLine(completion.Content[0].Text); | ಭಾಷೆ | ಸ್ಥಾಪನೆ | ಬೇಸ್ URL ಆಯ್ಕೆ | ಮೂಲ |
|---|---|---|---|
| Python | pip install openai | base_url | openai/openai-python |
| JavaScript / TypeScript | npm install openai | baseURL | openai/openai-node |
| Go | go get github.com/openai/openai-go/v3 | option.WithBaseURL | openai/openai-go |
| Java | com.openai:openai-java | baseUrl | openai/openai-java |
| .NET | dotnet add package OpenAI | OpenAIClientOptions.Endpoint | openai/openai-dotnet |
ಎರಡೂ ಎಂಡ್ಪಾಯಿಂಟ್ಗಳ ಪ್ರತಿ ಫೀಲ್ಡ್ ಅನ್ನು ಅವುಗಳ ಸ್ವಂತ ಪುಟಗಳಲ್ಲಿ ವಿವರಿಸಲಾಗಿದೆ. Chat Completions Responses API
Anthropic SDK ಗಳು
ಅಧಿಕೃತ Anthropic SDK ಗಳು POST /v1/messages ಅನ್ನು ಕರೆಯುತ್ತವೆ. ಅವು ಪ್ರತಿ ಕರೆಯಲ್ಲೂ max_tokens ಅನ್ನು ಬಯಸುತ್ತವೆ, ಆದ್ದರಿಂದ ಮಾದರಿಗಳು ಅದನ್ನು ಅನ್ವಯಿಸುವ shannon-1.6-lite ಅನ್ನು ಬಳಸುತ್ತವೆ. ಪ್ರತಿ ಮಾದರಿ ಉತ್ತರದ ಪಠ್ಯ ಬ್ಲಾಕ್ಗಳನ್ನು ಮುದ್ರಿಸುತ್ತದೆ.
# pip install anthropic
import anthropic
client = anthropic.Anthropic(
api_key="YOUR_API_KEY",
base_url="https://api.shannon-ai.com",
)
message = client.messages.create(
model="shannon-1.6-lite",
max_tokens=1024,
messages=[{"role": "user", "content": "Hello, Shannon!"}],
)
for block in message.content:
if block.type == "text":
print(block.text) // npm install @anthropic-ai/sdk
import Anthropic from "@anthropic-ai/sdk";
const client = new Anthropic({
apiKey: "YOUR_API_KEY",
baseURL: "https://api.shannon-ai.com",
});
const message = await client.messages.create({
model: "shannon-1.6-lite",
max_tokens: 1024,
messages: [{ role: "user", content: "Hello, Shannon!" }],
});
for (const block of message.content) {
if (block.type === "text") console.log(block.text);
} // go get github.com/anthropics/anthropic-sdk-go
package main
import (
"context"
"fmt"
"github.com/anthropics/anthropic-sdk-go"
"github.com/anthropics/anthropic-sdk-go/option"
)
func main() {
client := anthropic.NewClient(
option.WithAPIKey("YOUR_API_KEY"),
option.WithBaseURL("https://api.shannon-ai.com/"),
)
message, err := client.Messages.New(context.TODO(), anthropic.MessageNewParams{
Model: "shannon-1.6-lite",
MaxTokens: 1024,
Messages: []anthropic.MessageParam{
anthropic.NewUserMessage(anthropic.NewTextBlock("Hello, Shannon!")),
},
})
if err != nil {
panic(err)
}
for _, block := range message.Content {
if block.Type == "text" {
fmt.Println(block.Text)
}
}
} // Gradle: implementation("com.anthropic:anthropic-java:<version>")
import com.anthropic.client.AnthropicClient;
import com.anthropic.client.okhttp.AnthropicOkHttpClient;
import com.anthropic.models.messages.Message;
import com.anthropic.models.messages.MessageCreateParams;
AnthropicClient client = AnthropicOkHttpClient.builder()
.apiKey("YOUR_API_KEY")
.baseUrl("https://api.shannon-ai.com")
.build();
MessageCreateParams params = MessageCreateParams.builder()
.model("shannon-1.6-lite")
.maxTokens(1024L)
.addUserMessage("Hello, Shannon!")
.build();
Message message = client.messages().create(params);
message.content().stream()
.flatMap(block -> block.text().stream())
.forEach(text -> System.out.println(text.text())); | ಭಾಷೆ | ಸ್ಥಾಪನೆ | ಬೇಸ್ URL ಆಯ್ಕೆ | ಮೂಲ |
|---|---|---|---|
| Python | pip install anthropic | base_url | anthropics/anthropic-sdk-python |
| TypeScript | npm install @anthropic-ai/sdk | baseURL | anthropics/anthropic-sdk-typescript |
| Go | go get github.com/anthropics/anthropic-sdk-go | option.WithBaseURL | anthropics/anthropic-sdk-go |
| Java | com.anthropic:anthropic-java | baseUrl | anthropics/anthropic-sdk-java |
Messages ಫಾರ್ಮ್ಯಾಟ್ ಮತ್ತು ಅದರ ವ್ಯತ್ಯಾಸಗಳು Anthropic ಹೊಂದಾಣಿಕೆ ಪುಟದಲ್ಲಿವೆ. Anthropic ಫಾರ್ಮ್ಯಾಟ್
SDK ಗಳು ಏನನ್ನು ಅವಲಂಬಿಸಬಹುದು
- API ಬಳಸದ ವಿನಂತಿ ಫೀಲ್ಡ್ ಅನ್ನು ಸ್ವೀಕರಿಸಲಾಗುತ್ತದೆ. API ಗೆ ತಿಳಿದಿರುವ ಫೀಲ್ಡ್ ಅನ್ನು ತಪ್ಪಾದ ವಿಧದೊಂದಿಗೆ ಕಳುಹಿಸಿದರೆ
422ನೊಂದಿಗೆ ಉತ್ತರಿಸಲಾಗುತ್ತದೆ. - SDK ಗಳು ಸೇರಿಸುವ ಆವೃತ್ತಿ ಮತ್ತು beta ಹೆಡರ್ಗಳನ್ನು (
anthropic-version,anthropic-beta,openai-beta) ಸ್ವೀಕರಿಸಲಾಗುತ್ತದೆ. ಅವುಗಳಲ್ಲಿ ಯಾವುದೂ ಕಡ್ಡಾಯವಲ್ಲ. - ಉತ್ತರದ
modelಪ್ರಕಟಿತ id ಆಗಿದೆ, ಆದ್ದರಿಂದ ಅದನ್ನು ಇದ್ದಂತೆಯೇ ಹಿಂತಿರುಗಿಸಬಹುದು. /v1/messagesನಲ್ಲಿ ಉತ್ತರthinkingಬ್ಲಾಕ್ನಿಂದ ಆರಂಭವಾಗಬಹುದು. ಮೊದಲ ಬ್ಲಾಕ್ ಅನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಬದಲುtextವಿಧದ ಬ್ಲಾಕ್ಗಳನ್ನು ಓದಿ.- Streaming SDK ಯ ಸ್ವಂತ stream ಹೆಲ್ಪರ್ಗಳ ಮೂಲಕ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಬಳಕೆ ಪ್ರತಿ stream ನ ಕೊನೆಯಲ್ಲಿ ಬರುತ್ತದೆ.
- ಪ್ರತಿ ಉತ್ತರವೂ
x-request-idಹೆಡರ್ ಹೊತ್ತಿರುತ್ತದೆ. ನಿಮ್ಮದೇx-request-idಕಳುಹಿಸಿದರೆ ಅದೇ ಮೌಲ್ಯ ಹಿಂತಿರುಗುತ್ತದೆ.
ಸಮುದಾಯ SDK ಗಳು
ಇತರ ಲೇಖಕರು OpenAI API ಗಾಗಿ ಬರೆದ ಕ್ಲೈಂಟ್ಗಳು ಅದೇ ರೀತಿ ಕೆಲಸ ಮಾಡುತ್ತವೆ: ಕ್ಲೈಂಟ್ಗೆ /v1 ಸಹಿತ ಬೇಸ್ URL, ನಿಮ್ಮ ಕೀ ಮತ್ತು Shannon ಮಾಡೆಲ್ id ನೀಡಿ. ಇವನ್ನು ಅವುಗಳ ಲೇಖಕರು ನಿರ್ವಹಿಸುತ್ತಾರೆ, Shannon ಅಲ್ಲ.
| ಭಾಷೆ | ಸ್ಥಾಪನೆ | ಕ್ಲೈಂಟ್ |
|---|---|---|
| Go | go get github.com/sashabaranov/go-openai | sashabaranov/go-openai |
| Ruby | gem install ruby-openai | alexrudall/ruby-openai |
| PHP | composer require openai-php/client | openai-php/client |
| Rust | cargo add async-openai | 64bit/async-openai |
SDK ಇಲ್ಲದೆ
ನಿಮಗೆ SDK ಬೇಕಿಲ್ಲ. JSON ಕಳುಹಿಸಬಲ್ಲ ಯಾವುದೇ HTTP ಕ್ಲೈಂಟ್ ಕೆಲಸ ಮಾಡುತ್ತದೆ:
- JSON ಬಾಡಿ ಮತ್ತು
Content-Type: application/jsonಹೆಡರ್ನೊಂದಿಗೆPOST. ಅದಿಲ್ಲದಿದ್ದರೆ ವಿನಂತಿಗೆ415ನೊಂದಿಗೆ ಉತ್ತರಿಸಲಾಗುತ್ತದೆ. - ನಿಮ್ಮ ಕೀ
Authorization: Bearer <key>ನಲ್ಲಿ ಅಥವಾx-api-key: <key>ನಲ್ಲಿ. ಎರಡೂ ಪ್ರತಿ ಎಂಡ್ಪಾಯಿಂಟ್ನಲ್ಲಿ ಕೆಲಸ ಮಾಡುತ್ತವೆ. - 32 MiB ವರೆಗಿನ ಬಾಡಿ.
"stream": trueಜೊತೆ ಉತ್ತರ server-sent event stream (text/event-stream). ಅದನ್ನು ಸಾಲು ಸಾಲಾಗಿ ಓದಿ ಮತ್ತು ಬಫರ್ ಮಾಡಬೇಡಿ.- ದೋಷ ಎಂದರೆ HTTP ಸ್ಥಿತಿಯ ಪಕ್ಕದಲ್ಲಿ
error.typeಮತ್ತುerror.messageಇರುವ JSON ಬಾಡಿ.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "shannon-3",
"messages": [{"role": "user", "content": "Hello, Shannon!"}]
}' import requests
response = requests.post(
"https://api.shannon-ai.com/v1/chat/completions",
headers={"Authorization": "Bearer YOUR_API_KEY"},
json={
"model": "shannon-3",
"messages": [{"role": "user", "content": "Hello, Shannon!"}],
},
)
response.raise_for_status()
print(response.json()["choices"][0]["message"]["content"]) const response = await fetch("https://api.shannon-ai.com/v1/chat/completions", {
method: "POST",
headers: {
Authorization: "Bearer YOUR_API_KEY",
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "shannon-3",
messages: [{ role: "user", content: "Hello, Shannon!" }],
}),
});
if (!response.ok) throw new Error(`HTTP ${response.status}`);
const data = await response.json();
console.log(data.choices[0].message.content); stream ನ ಈವೆಂಟ್ಗಳು ಮತ್ತು ದೋಷ ವಿಧಗಳಿಗೆ, ನೋಡಿ: ಸ್ಟ್ರೀಮಿಂಗ್ ದೋಷ ನಿರ್ವಹಣೆ