uncensored LLM API 통합

기본 URL과 API 키를 설정하세요

클라이언트를 저희 특정 엔드포인트로 연결하세요. Use https://api.openaicompatibleserver.com/v1 베이스 URL로 사용합니다. 대시보드에서 키를 생성합니다. 이 키는 모든 요청을 인증합니다.

첫 번째 채팅 완성 보내기

채팅 완성 엔드포인트로 POST 요청. 프롬프트를 보내고 텍스트를 받습니다. 모델 ID는 uncensored100,000개의 토큰 컨텍스트를 처리합니다.

스트리밍 활성화 및 실시간 토큰 받기

設定 stream: true 요청에 포함됩니다. 서버 전송 이벤트(SSE)를 수신합니다. 토큰 사용량은 마지막 청크에 표시됩니다. 이는 긴 출력의 지각된 지연 시간을 줄여줍니다.

함수 호출과 JSON 모드를 사용하고

요청 본문에 도구를 전달합니다. 모델은 엄격한 JSON 스키마를 따릅니다. 설정 response_format 수신하여 {"type": "json_object"} 신뢰할 수 있는 파싱을 위해. 이는 애플리케이션을 위한 구조화된 데이터를 보장합니다.

오류 및 사용량 제한 처리

문제 발생 시 HTTP 상태 코드 확인. 401은 키가 무효함을 의미합니다. 402는 잔액 부족을 나타냅니다. 429는 속도 제한 도달을 의미합니다. 분당 300회 요청이 허용됩니다. 100k 컨텍스트 윈도우에는 프롬프트와 완료가 모두 포함됩니다.

OpenAI 호환 서버 클라이언트와 통합하세요

모든 SDK의 베이스 URL을 교체하세요. 동일한 Python 또는 Node 라이브러리를 사용하세요. 프로토콜은 동일하게 유지됩니다. Cline 또는 Roo Code와 같은 도구와 함께 작동합니다. 코드 재작성 없이 백엔드를 전환하세요.

cURL

Copycurl https://api.openaicompatibleserver.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set the server timeout to 30 seconds"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleserver.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleserver.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)