Ενσωματώστε την API LLM χωρίς λογοκρισία

Ορίστε το base URL και το API key σας

Κατευθύνετε τον πελάτη σας στο συγκεκριμένο endpoint. Χρησιμοποιήστε https://api.openaicompatibleserver.com/v1 ως τη βάση URL. Δημιουργήστε ένα κλειδί μέσω του dashboard. Το κλειδί πιστοποιεί όλες τις αιτήσεις.

Στείλτε την πρώτη ολοκλήρωση συνομιλίας

POST στο endpoint chat completions. Στείλτε το prompt σας και λάβετε κείμενο. Το model id είναι uncensored. Διαχειρίζεται πλαίσιο έως 100,000 tokens.

Ενεργοποιήστε streaming και λάβετε real-time tokens

Ορίστε stream: true στην αίτησή σας. Λάβετε Server-Sent Events. Η χρήση tokens εμφανίζεται στο τελευταίο chunk. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για μεγάλα αποτελέσματα.

Χρησιμοποιήστε κλήση συναρτήσεων και λειτουργία JSON

Περάστε tools στο σώμα της αίτησης. Το μοντέλο ακολουθεί αυστηρά σχήματα JSON. Ρυθμίστε response_format για {"type": "json_object"} για αξιόπιστη ανάλυση. Αυτό διασφαλίζει δομημένα δεδομένα για τις εφαρμογές σας.

Διαχειριστείτε σφάλματα και όρια χρήσης

Έλεγχος κωδικών HTTP status για προβλήματα. Ένα 401 σημαίνει ότι το key σας είναι άκυρο. Ένα 402 υποδηλώνει ανεπαρκές υπόλοιπο. Ένα 429 σηματοδοτεί όρια ρυθμού. Έχετε 300 αιτήσεις ανά λεπτό. Το context window 100k περιλαμβάνει prompt και completion.

Ενσωματώστε με πελάτες διακομιστή συμβατού με OpenAI

Αντικαταστήστε τη βάση URL σε οποιοδήποτε SDK. Χρησιμοποιήστε τις ίδιες βιβλιοθήκες Python ή Node. Το πρωτόκολλο παραμένει πανομοιότυπο. Αυτό λειτουργεί με εργαλεία όπως Cline ή Roo Code. Αλλάξτε backends χωρίς να ξαναγράψετε κώδικα.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ροή

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)