Інтегруйте uncensored LLM API

Встановіть вашу базову URL-адресу та API-ключ

Направте клієнта на наш специфічний кінцевий пункт. Використовуйте https://api.openaicompatibleserver.com/v1 як вашу базову URL-адресу. Згенеруйте ключ через панель керування. Ключ аутентифікує всі запити.

Надішліть своє перше завершення чату

POST до ендпоінту chat completions. Надішліть свій запит і отримайте текст. Ідентифікатор моделі uncensored. Він обробляє контекст до 100,000 токенів.

Увімкніть потокову передачу та отримання токенів у реальному часі

Встановити stream: true у вашому запиті. Отримуйте Server-Sent Events. Використання токенів відображається у фінальному чанку. Це знижує сприйняту затримку для довгих виводів.

Використовуйте виклик функцій та режим JSON

Передайте інструменти в тілі запиту. Модель дотримується суворих схем JSON. Встановіть response_format до {"type": "json_object"} для надійного парсингу. Це забезпечує структуровані дані для ваших додатків.

Обробляйте помилки та ліміти використання

Перевірка кодів стану HTTP для виявлення проблем. 401 означає, що ваш ключ недійсний. 402 вказує на недостатній кредит. 429 сигналізує про ліміти швидкості. Ви отримуєте 300 запитів на хвилину. Контекстне вікно 100k включає промпт та завершення.

Інтегруйте з клієнтами серверів, сумісних з OpenAI

Замініть базову URL у будь-якому SDK. Використовуйте ті ж бібліотеки Python або Node. Протокол залишається ідентичним. Це працює з такими інструментами, як Cline або Roo Code. Змінюйте бекенд без переписування коду.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)