Tích hợp API LLM không kiểm duyệt

Thiết lập URL cơ sở và khóa API của bạn

Điểm client của bạn đến điểm cuối cụ thể của chúng tôi. Sử dụng https://api.openaicompatibleserver.com/v1 làm URL cơ sở. Tạo khóa qua bảng điều khiển. Khóa này xác thực tất cả các yêu cầu.

Gửi lần hoàn tất hội thoại đầu tiên của bạn

POST đến điểm cuối hoàn tất trò chuyện. Gửi prompt của bạn và nhận văn bản. ID mô hình là uncensored. Nó xử lý ngữ cảnh lên đến 100.000 token.

Bật phát trực tiếp và nhận token theo thời gian thực

Đặt stream: true trong yêu cầu của bạn. Nhận các Sự kiện gửi từ máy chủ. Việc sử dụng token xuất hiện trong chunk cuối cùng. Điều này làm giảm độ trễ cảm nhận đối với các đầu ra dài.

Sử dụng gọi hàm và chế độ JSON

Định nghĩa công cụ trong thân yêu cầu. Mô hình tuân thủ các lược đồ JSON nghiêm ngặt. Đặt response_format để {"type": "json_object"} cho việc phân tích đáng tin cậy. Điều này đảm bảo dữ liệu có cấu trúc cho các ứng dụng của bạn.

Xử lý lỗi và giới hạn mức sử dụng

Kiểm tra các mã trạng thái HTTP để xử lý sự cố. Mã 401 có nghĩa là khóa của bạn không hợp lệ. Mã 402 cho biết không đủ tín dụng. Mã 429 báo hiệu giới hạn tốc độ. Bạn được 300 yêu cầu mỗi phút. Cửa sổ ngữ cảnh 100k bao gồm lệnh gọi và kết quả.

Tích hợp với các khách hàng máy chủ tương thích OpenAI

Thay thế URL cơ sở của bạn trong bất kỳ SDK nào. Sử dụng cùng các thư viện Python hoặc Node. Giao thức vẫn giống hệt nhau. Điều này hoạt động với các công cụ như Cline hoặc Roo Code. Chuyển đổi nền tảng mà không cần viết lại mã.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)