Integrálja az uncensored LLM API-t

Állítsd be a base URL-t és az API-kulcsot

Irányítsd a kliensedet a saját végpontra. Használd https://api.openaicompatibleserver.com/v1 alap URL-ként. Generálj egy kulcsot az irányítópulton. A kulcs hitelesíti az összes kérést.

Küldje el első chat-lezárás

POST a chat completions végpontra. Küldd el a promptodat, és kapj szöveget. A modell azonosítója uncensored.Kezeli a 100 000 tokenes kontextust.

Engedélyezze a streamelést és szerezzen valós idejű tokeneket

Beállítás stream: true a kérésben. Fogadja a Szerver által küldött eseményeket. A token-felhasználás az utolsó darabban jelenik meg. Ez csökkenti a hosszú kimenetek érzékelt késleltetését.

Használjon függvényhívást és JSON módot

Adjon át tools értékeket a kérés törzsében. A modell szigorú JSON sémákat követ. Állítsa be response_format a {"type": "json_object"} a megbízható elemzéshez. Ez biztosítja a strukturált adatokat az alkalmazásai számára.

Hibák és használati korlátok kezelése

HTTP státuskódok ellenőrzése a hibák kereséséhez. A 401 azt jelenti, hogy az érvénytelen kulcs. A 402 elégtelen hitelt jelez. A 429 sebességkorlátot jelez. 300 kérést kap percenként. A 100k kontextus ablak tartalmazza a promptot és a kiegészítést.

Integráljon OpenAI kompatibilis szerverkliensekkel

Cserélje ki az alap URL-t bármelyik SDK-ban. Használja ugyanazt a Python vagy Node könyvtárat. A protokoll azonos marad. Ez működik olyan eszközökkel, mint a Cline vagy a Roo Code. Váltson háttérrendszereket kód átírása nélkül.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)