Integrasikan API LLM tanpa sensor

Atur URL dasar dan kunci API Anda

Arahkan klien Anda ke endpoint khusus kami. Gunakan https://api.openaicompatibleserver.com/v1 sebagai URL dasar Anda. Hasilkan kunci melalui dasbor. Kunci tersebut mengautentikasi semua permintaan.

Kirim penyelesaian chat pertama Anda

POST ke endpoint penyelesaian chat. Kirim prompt Anda dan terima teks. ID modelnya adalah uncensored. Ini menangani konteks hingga 100.000 token.

Aktifkan streaming dan dapatkan token secara real-time

Atur stream: true dalam permintaan Anda. Terima Server-Sent Events. Penggunaan token muncul di potongan terakhir. Ini mengurangi latensi yang dirasakan untuk output panjang.

Gunakan pemanggilan fungsi dan mode JSON

Kirimkan tools dalam body permintaan. Model mengikuti skema JSON yang ketat. Atur response_format ke {"type": "json_object"} untuk parsing yang andal. Ini memastikan data terstruktur untuk aplikasi Anda.

Tangani kesalahan dan batas penggunaan

Periksa kode status HTTP untuk masalah. 401 berarti kunci Anda tidak valid. 402 menunjukkan kredit tidak cukup. 429 menandakan batas laju. Anda mendapatkan 300 permintaan per menit. Jendela konteks 100k mencakup prompt dan penyelesaian.

Integrasikan dengan klien server kompatibel OpenAI

Ganti URL dasar Anda di SDK mana pun. Gunakan pustaka Python atau Node yang sama. Protokolnya tetap identik. Ini berfungsi dengan alat seperti Cline atau Roo Code. Alihkan backend tanpa menulis ulang kode.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)