vi ▾
Máy chủ Tương thích OpenAIAPI LLM không kiểm duyệt, tiền điện tử trả trướcLấy khóa của bạn
trên 1M token đầu vào
$0.15
Token đầu ra / 1M
$0.50
ngữ cảnh token
100,000
số dư dùng thử
$0.50
yêu cầu mỗi phút
300
openaicompatibleserver.com

Hướng dẫn giá API OpenAI dành cho các mô hình không kiểm duyệt

Hiểu về Giá API OpenAI cho các Mô hình Không kiểm duyệt cho thấy rằng số lượng token quyết định chi phí nhiều hơn tên mô hình. Hướng dẫn này phân tích các phép tính giữa token đầu vào và đầu ra cho các LLM không kiểm duyệt, giúp bạn dự đoán chi phí chính xác. Chúng tôi so sánh giá mô hình tiêu chuẩn với các mô hình trả trước bằng crypto để làm nổi bật nơi bạn tiết kiệm tiền.

Cập nhật lần cuối

Tóm tắt

  1. Token đầu ra tốn nhiều hơn đáng kể so với token đầu vào trong hầu hết các mô hình.
  2. Thanh toán crypto trả trước loại bỏ hoàn toàn phí đăng ký hàng tháng.
  3. Các phản hồi streaming cho phép theo dõi thời gian thực việc sử dụng token.
  4. Giới hạn cửa sổ ngữ cảnh ảnh hưởng đến sự đánh đổi giữa chi phí và hiệu suất.

Hiểu số lượng token trong ngữ cảnh

Số lượng token xác định mức sử dụng có thể tính phí cho bất kỳ máy chủ tương thích OpenAI nào. Các nhà phát triển thường đánh giá thấp số lượng token mà một prompt tiêu thụ. Một đoạn văn đơn giản có thể được chia thành hàng chục token. Cửa sổ ngữ cảnh bao gồm cả đầu vào của bạn và đầu ra của mô hình. Bạn phải tính toán toàn bộ vòng lặp. Nhiều dịch vụ tính phí dựa trên tổng số token đã xử lý. Điều này bao gồm hướng dẫn hệ thống và lịch sử hội thoại. Bạn nên theo dõi mức sử dụng token chặt chẽ để tránh các khoản phí bất ngờ. API của chúng tôi sử dụng cửa sổ ngữ cảnh 100,000 token. Điều này cho phép các cuộc hội thoại mở rộng mà không bị cắt ngắn. Bạn chỉ trả tiền cho những gì bạn thực sự sử dụng. Lỗi trong yêu cầu của bạn không phát sinh chi phí. Sự minh bạch này giúp bạn lập ngân sách hiệu quả cho các dự án chạy dài.

Giá token Đầu vào so với Đầu ra

Token đầu vào thường rẻ hơn token đầu ra. Bạn trả $0.15 cho mỗi triệu token đầu vào. Token đầu ra tốn $0.50 cho mỗi triệu token. Sự khác biệt về giá này phản ánh chi phí tính toán của việc tạo văn bản. Viết một phản hồi dài yêu cầu nhiều sức mạnh xử lý hơn. Bạn nên cấu trúc lời nhắc để giảm thiểu đầu ra không cần thiết. Sử dụng chế độ JSON có thể giảm đáng kể việc sử dụng token. Gọi hàm cũng giúp giữ phản hồi ngắn gọn. Bạn có thể kiểm soát độ dài đầu ra bằng tham số max_tokens. Đặt giới hạn thấp hơn ngăn chặn chi phí tạo không kiểm soát. Phản hồi phát trực tiếp cho phép bạn dừng sớm nếu cần. Kiểm soát này rất quan trọng để giữ chi phí có thể dự đoán. Luôn kiểm tra số lượng token trong nhật ký của bạn.

Ví dụ thực tế: Cuộc hội thoại 10.000 token

Hãy cùng tính toán chi phí cho một cuộc hội thoại điển hình. Giả sử prompt có 2.000 token và phản hồi có 800 token. Chi phí đầu vào là 0,002 token nhân với $0,15. Điều này tương đương $0,0003 cho phần đầu vào. Chi phí đầu ra là 0,0008 token nhân với $0,50. Điều này tương đương $0,0004 cho phần đầu ra. Tổng chi phí cho lần trao đổi này là $0,0007. Bạn có thể thực hiện hơn 1.400 lần trao đổi như vậy với một đô la. Mô hình này hoạt động dựa trên tiền điện tử trả trước. Bạn nhận được tín dụng bổ sung khi nạp tiền. Phép tính vẫn đơn giản và minh bạch. Không có phí ẩn áp dụng cho các giao dịch này. Bạn biết chính xác chi phí cho mỗi yêu cầu. Sự rõ ràng này giúp bạn mở rộng ứng dụng của mình một cách hiệu quả.

Ví dụ thực tế: Tác vụ mã hóa ngữ cảnh dài

Các nhiệm vụ lập trình thường yêu cầu cửa sổ ngữ cảnh lớn. Bạn có thể gửi cửa sổ ngữ cảnh 50.000 token. Mô hình tạo một khối mã 1.000 token. Chi phí đầu vào là 50.000 token với giá $0.15 mỗi triệu. Điều này dẫn đến $0.0075 cho đầu vào. Chi phí đầu ra là 1.000 token với giá $0.50 mỗi triệu. Điều này dẫn đến $0.0005 cho đầu ra. Tổng chi phí là $0.008 cho mỗi yêu cầu. Bạn có thể khớp yêu cầu này với các giới hạn của chúng tôi. Cửa sổ 100.000 token xử lý điều này dễ dàng. Streaming cho phép bạn xem mã khi nó được tạo. Bạn có thể dừng tạo nếu nó đi chệch hướng. Điều này tiết kiệm tiền cho các phản hồi dài, không hữu ích. Tín dụng trả trước đảm bảo bạn không bao giờ hết bất ngờ.

Theo dõi chi phí và mức sử dụng streaming

Các phản hồi dạng stream cung cấp dữ liệu sử dụng token theo thời gian thực. Bạn nhận được tổng số token cuối cùng trong chunk cuối cùng. Điều này cho phép bạn theo dõi chi phí khi chúng phát sinh. Bạn có thể triển khai logic để dừng nếu chi phí vượt quá giới hạn. SDK của OpenAI hỗ trợ stream native. Bạn có thể tích hợp điều này vào mã Python hoặc Node.js của mình. Theo dõi mức sử dụng giúp bạn xác định các mẫu tốn kém. Bạn có thể nhận thấy rằng một số prompt tạo ra các đầu ra dài hơn. Điều chỉnh hướng dẫn hệ thống của bạn có thể giảm thiểu điều này. Bạn cũng có thể đặt giới hạn max_tokens. Điều này ngăn mô hình chạy quá lâu. Stream cũng cải thiện trải nghiệm người dùng bằng cách hiển thị văn bản ngay lập tức. Bạn nhận được phản hồi tức thì mà không cần chờ phản hồi đầy đủ.

So sánh với các mô hình OpenAI tiêu chuẩn

Các mô hình OpenAI Tiêu chuẩn có cấu trúc giá khác nhau. GPT-4o và GPT-4o mini có chi phí khác nhau. Bạn nên kiểm tra tài liệu chính thức của họ để biết mức giá hiện tại. Mô hình của chúng tôi cung cấp mức giá cố định trả trước. Bạn chỉ trả tiền cho những gì bạn sử dụng. Không có đăng ký hàng tháng hoặc khóa gói. Bạn có thể nạp tiền bằng tiền điện tử khi cần. Mô hình này không kiểm duyệt và hoạt động với bất kỳ khách hàng tương thích OpenAI nào. Bạn có thể sử dụng cùng mã SDK. URL cơ sở thay đổi thành điểm cuối của chúng tôi. Sự linh hoạt này cho phép bạn chuyển đổi mô hình dễ dàng. Bạn tránh bị khóa nhà cung cấp bằng cách sử dụng các giao thức tiêu chuẩn. Giá của chúng tôi rõ ràng và dễ dự đoán.

Tại sao tín dụng trả trước tiết kiệm chi phí

Tín dụng trả trước loại bỏ phí đăng ký không sử dụng. Bạn không phải trả phí cho thời gian chờ. Bạn chỉ trả cho các yêu cầu hoạt động. Tín dụng bonus tăng giá trị của bạn. Bạn nhận +5% bonus khi nạp tối đa $50. Bạn nhận +10% bonus khi nạp tối đa $100. Bạn nhận +15% bonus khi nạp tối đa $200. Bonus này áp dụng cho số dư tín dụng của bạn. Lỗi và từ chối đều miễn phí. Bạn không bao giờ mất tín dụng cho các yêu cầu thất bại. Tín dụng của bạn không bao giờ hết hạn. Đây là giải pháp lý tưởng cho các mô hình sử dụng không liên tục. Bạn có thể nạp thêm chính xác khi cần. Thanh toán bằng tiền điện tử nhanh chóng và bảo mật. Không có phí ngân hàng hay chậm trễ giao dịch. Bạn kiểm soát chi tiêu của mình một cách chính xác.

Chi phí ẩn trong các API LLM khác

Nhiều API tính phí cho embedding riêng biệt. Một số tính phí tải lên tệp hoặc tinh chỉnh. Những người khác có phí tối thiểu hàng tháng. API của chúng tôi tập trung vào hoàn thành trò chuyện. Bạn chỉ trả tiền cho token đầu vào và đầu ra. Không có phí bổ sung cho streaming hoặc công cụ. Gọi hàm được bao gồm mà không tốn thêm chi phí. Chế độ JSON cũng miễn phí sử dụng. Bạn tránh phải trả tiền cho các tính năng không sử dụng. Sự đơn giản này giảm tổng chi phí sở hữu của bạn. Bạn có thể dự đoán ngân sách của mình một cách chính xác. Các nhà cung cấp khác có thể tính phí theo ghế hoặc theo dự án. Chúng tôi tính phí theo token. Điều này mở rộng theo mức sử dụng thực tế của bạn. Bạn trả tiền cho giá trị, không phải cho quyền truy cập.

Tính toán chi phí cuối cùng cho dự án của bạn

Để tính chi phí dự án của bạn, hãy ước tính việc sử dụng token của bạn. Nhân token đầu vào dự kiến của bạn với $0.15 trên một triệu. Nhân token đầu ra dự kiến của bạn với $0.50 trên một triệu. Cộng hai giá trị này lại. Điều này cho bạn chi phí cơ sở. Thêm tín dụng bonus nếu bạn nạp tiền. Điều này giảm chi phí hiệu dụng trên mỗi token. Bạn cũng có thể tính đến chi phí truyền trực tiếp. Truyền trực tiếp có thể thêm độ trễ nhẹ nhưng tiết kiệm tính toán. Sử dụng khóa API của chúng tôi để bắt đầu kiểm tra. Bạn nhận được $0.50 tín dụng dùng thử. Điều này cho phép bạn xác minh các tính toán của mình. Bạn có thể mở rộng với thanh toán crypto. Mô hình này hoàn hảo cho các nhà phát triển muốn kiểm soát.

Các câu hỏi thường gặp

Máy chủ tương thích OpenAI có miễn phí để sử dụng không?

Không, máy chủ tương thích openai sử dụng mô hình trả trước. Bạn chỉ trả tiền cho các token bạn sử dụng. Bạn nhận được $0.50 tín dụng dùng thử khi đăng ký. Điều này cho phép bạn kiểm tra API mà không cần trả tiền. Tín dụng của bạn không bao giờ hết hạn. Bạn có thể nạp tiền bằng tiền điện tử bất cứ khi nào bạn cần thêm.

Làm thế nào để theo dõi việc sử dụng token ở chế độ phát trực tuyến?

Các phản hồi dạng stream bao gồm thông tin sử dụng token trong chunk cuối cùng. Bạn có thể phân tích dữ liệu này để theo dõi chi phí theo thời gian thực. Điều này giúp bạn giám sát chi tiêu khi ứng dụng của bạn đang chạy. Bạn có thể triển khai logic để dừng quá trình tạo nếu chi phí vượt quá giới hạn. Điều này đảm bảo bạn luôn nằm trong ngân sách.

Điều gì xảy ra nếu tôi vượt quá cửa sổ ngữ cảnh của mình?

Nếu prompt vượt quá giới hạn 100.000 token, yêu cầu sẽ bị lỗi. Bạn có thể kiểm tra số lượng token trước khi gửi. Bạn cũng có thể cắt ngắn ngữ cảnh để phù hợp với giới hạn. Điều này đảm bảo yêu cầu của bạn được xử lý chính xác. Bạn chỉ trả tiền cho các yêu cầu thành công.

Tôi có thể sử dụng API này với SDK chính thức của OpenAI không?

Có, API này hoàn toàn tương thích với SDK OpenAI chính thức. Bạn chỉ cần thay đổi URL cơ sở và khóa API. Tất cả các tham số tiêu chuẩn như nhiệt độ và top_p hoạt động như mong đợi. Bạn có thể sử dụng phát trực tiếp, gọi hàm và chế độ JSON. Điều này làm cho việc tích hợp trở nên đơn giản cho các dự án hiện có.

Bảo vệ khóa API của bạn

Đăng ký, lấy khóa của bạn và cập nhật URL cơ sở của bạn. Chỉ cần vậy thôi.

Lấy khóa của bạn