Integrează API-ul LLM fără cenzură

Configurați URL-ul de bază și cheia API

Indreptați clientul către punctul nostru specific de endpoint. Utilizați https://api.openaicompatibleserver.com/v1 ca URL-ul tău de bază. Generează o cheie prin panoul de control. Cheia autentifică toate cererile.

Trimite prima ta completare de chat

POST către endpoint-ul de completări chat. Trimite-ți promptul și primește text. ID-ul modelului este uncensored. It handles context up to 100,000 tokens.

Activați streaming-ul și obțineți tokenii în timp real

Setează stream: true în cererea dumneavoastră. Primiți Evenimente trimise de server (SSE). Utilizarea tokenilor apare în ultimul fragment. Acest lucru reduce latența percepută pentru ieșiri lungi.

Utilizează apelarea de funcții și modul JSON

Pasați tools în corpul cererii. Modelul respectă schemele JSON stricte. Setează response_format pentru {"type": "json_object"} pentru analizarea fiabilă. Acest lucru asigură date structurate pentru aplicațiile tale.

Gestionați erorile și limitele de utilizare

Verifică codurile de status HTTP pentru probleme. Un 401 înseamnă că cheia ta este invalidă. Un 402 indică credit insuficient. Un 429 semnalează limite de rată. Ai 300 de cereri pe minut. Fereastra de context de 100k include promptul și completarea.

Integrează-te în clienții server compatibili cu OpenAI

Înlocuiți URL-ul de bază în orice SDK. Utilizați aceleași biblioteci Python sau Node. Protocolul rămâne identic. Acest lucru funcționează cu instrumente precum Cline sau Roo Code. Trecerea la backend-uri diferite fără a rescrie codul.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)