שלב את ה-API של LLM ללא צנזורה

הגדר את כתובת ה-URL הבסיסית שלך ואת מפתח ה-API

כוון את הלקוח שלך לנקודת הקצה הספציפית שלנו. השתמש https://api.openaicompatibleserver.com/v1 ככתובת הבסיס שלך. צור מפתח דרך לוח הבקרה. המפתח מאמת את כל הבקשות.

שלח את בקשת השלמת הצ'אט הראשונה שלך

POST לנקודת הקצה להשלחת צ'אט. שלח את הפקודה שלך וקבל טקסט. מזהה המודל הוא uncensored. הוא מטפל בהקשר של עד 100,000 טוקנים.

אפשרו זרימה וקבלת אסימונים בזמן אמת

הגדר stream: true בבקשה שלך. קבל אירועים שנשלחים מהשרת (SSE). שימוש בטוקנים מופיע בקטע הסופי. זה מפחית את תחושת השהייה עבור פלט ארוך.

השתמש ב-calling פונקציות ובמצב JSON

העבר כלים בגוף הבקשה. המודל עוקב אחר סכמות JSON קפדניות. הגדר response_format אל {"type": "json_object"} לניתוח אמין. זה מבטיח נתונים מבניים ליישומים שלך.

טפול בשגיאות וגבולי שימוש

בדוק קודי סטטוס HTTP לזיהוי בעיות. 401 אומר שהמפתח שלך לא תקין. 402 מציין אשראי לא מספיק. 429 מציין מגבלות קצב. יש לך 300 בקשות לדקות. חלון ההקשר של 100k כולל prompt ו-completion.

שילוב עם לקוחות שרת תואמי OpenAI

החליף את כתובת הבסיס שלך בכל SDK. השתמש בספריות Python או Node זהות. הפרוטוקול נשאר זהה. זה עובד עם כלים כמו Cline או Roo Code. החלף backend ללא כתיבת קוד מחדש.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)