Integrera den obegränsade LLM API:t

Ställ in din bas-URL och API-nyckel

Peka din klient mot vår specifika slutpunkt. Använd https://api.openaicompatibleserver.com/v1 som din bas-URL. Generera en nyckel via kontrollpanelen. Nyckeln autentiserar alla begäranden.

Skicka din första chattkomplettering

POST till chattkompletteringsslutpunkten. Skicka din prompt och ta emot text. Modell-ID:t är uncensored. Det hanterar kontext upp till 100,000 tokens.

Aktivera strömning och få realtids-tokens

Ställ in stream: true i ditt begäran. Ta emot Server-Sent Events. Tokenanvändning visas i den sista chunken. Detta minskar den upplevda latensen för långa utdata.

Använd funktionsanrop och JSON-läge

Skicka tools i begäranskroppen. Modellen följer strikta JSON-scheman. Ställ response_format för {"type": "json_object"} för pålitlig parsing. Detta säkerställer strukturerad data för dina applikationer.

Hantera fel och användningsbegränsningar

Kontrollera HTTP-statuskoder för problem. En 401 betyder att din nyckel är ogiltig. En 402 indikerar otillräckligt kredit. En 429 signalerar hastighetsbegränsningar. Du får 300 begäranden per minut. Kontextfönstret på 100k inkluderar prompt och slutförande.

Integrera med OpenAI-kompatibla serverklienter

Ersätt din bas-URL i vilket SDK som helst. Använd samma Python- eller Node-bibliotek. Protokollet förblir identiskt. Detta fungerar med verktyg som Cline eller Roo Code. Byt backend utan att skriva om kod.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strömning

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)