Panduan harga API OpenAI untuk model tanpa sensor

Memahami jumlah token dalam konteks

Jumlah token menentukan penggunaan yang dapat ditagih untuk server kompatibel OpenAI apa pun. Pengembang sering meremehkan berapa banyak token yang dikonsumsi oleh sebuah prompt. Satu paragraf mungkin terpecah menjadi puluhan token. Jendela konteks mencakup input Anda dan output model. Anda harus memperhitungkan seluruh perjalanan bolak-balik. Banyak layanan membebankan biaya berdasarkan total token yang diproses. Ini termasuk instruksi sistem dan riwayat percakapan. Anda harus memantau penggunaan token dengan ketat untuk menghindari biaya kejutan. API kami menggunakan jendela konteks 100,000 token. Ini memungkinkan percakapan ekstensif tanpa pemotongan. Anda hanya membayar untuk apa yang sebenarnya Anda gunakan. Kesalahan dalam permintaan Anda tidak dikenakan biaya. Transparansi ini membantu Anda membuat anggaran secara efektif untuk proyek jangka panjang.

Penetapan harga token input vs output

Token input biasanya lebih murah daripada token output. Anda membayar $0.15 per juta token input. Token output berharga $0.50 per juta token. Perbedaan harga ini mencerminkan biaya komputasi generasi. Menulis respons panjang membutuhkan lebih banyak daya pemrosesan. Anda harus menyusun prompt untuk meminimalkan output yang tidak perlu. Menggunakan mode JSON dapat mengurangi penggunaan token secara signifikan. Pemanggilan fungsi juga membantu menjaga respons agar ringkas. Anda dapat mengontrol panjang output dengan parameter max_tokens. Menetapkan batas lebih rendah mencegah biaya generasi yang melonjak. Respons streaming memungkinkan Anda berhenti lebih awal jika diperlukan. Kontrol ini sangat penting untuk menjaga biaya tetap dapat diprediksi. Selalu periksa jumlah token di log Anda.

Contoh: Percakapan 10.000 token

Mari kita hitung biaya untuk percakapan biasa. Asumsikan prompt sepanjang 2.000 token dan respons sepanjang 800 token. Biaya input adalah 0,002 token dikalikan $0,15. Ini sama dengan $0,0003 untuk input. Biaya output adalah 0,0008 token dikalikan $0,50. Ini sama dengan $0,0004 untuk output. Total biaya untuk pertukaran ini adalah $0,0007. Anda dapat menjalankan lebih dari 1.400 pertukaran seperti itu dengan satu dolar. Model ini berjalan dengan kripto prabayar. Anda mendapatkan kredit bonus saat melakukan isi ulang. Perhitungannya tetap sederhana dan transparan. Tidak ada biaya tersembunyi yang berlaku untuk transaksi ini. Anda tahu persis berapa biaya setiap permintaan. Kejelasan ini membantu Anda mengembangkan aplikasi secara efisien.

Contoh: Tugas coding konteks panjang

Tugas koding sering memerlukan jendela konteks panjang. Anda mungkin mengirim jendela konteks 50.000 token. Model menghasilkan blok kode 1.000 token. Biaya input adalah 50.000 token pada $0.15 per juta. Ini menghasilkan $0.0075 untuk input. Biaya output adalah 1.000 token pada $0.50 per juta. Ini menghasilkan $0.0005 untuk output. Total biaya adalah $0.008 per permintaan. Anda dapat memuat permintaan ini dalam batas kami. Jendela 100.000 token menangani ini dengan mudah. Streaming memungkinkan Anda melihat kode saat dihasilkan. Anda dapat menghentikan generasi jika menyimpang. Ini menghemat uang untuk respons panjang yang tidak membantu. Kredit prabayar memastikan Anda tidak pernah kehabisan secara tidak terduga.

Biaya streaming dan pelacakan penggunaan

Respons streaming memberikan data penggunaan token real-time. Anda menerima jumlah token terakhir dalam potongan terakhir. Ini memungkinkan Anda melacak biaya saat terjadi. Anda dapat menerapkan logika untuk berhenti jika biaya melebihi batas. SDK OpenAI mendukung streaming secara native. Anda dapat mengintegrasikannya ke dalam kode Python atau Node.js Anda. Melacak penggunaan membantu Anda mengidentifikasi pola mahal. Anda mungkin memperhatikan bahwa beberapa prompt menghasilkan output yang lebih panjang. Menyesuaikan instruksi sistem Anda dapat mengurangi hal ini. Anda juga dapat menetapkan batas max_tokens. Ini mencegah model berjalan terlalu lama. Streaming juga meningkatkan pengalaman pengguna dengan menampilkan teks secara instan. Anda mendapatkan umpan balik segera tanpa menunggu respons penuh.

Perbandingan dengan model OpenAI standar

Model OpenAI Standar memiliki struktur harga yang berbeda. GPT-4o dan GPT-4o mini memiliki biaya yang bervariasi. Anda harus memeriksa dokumentasi resmi mereka untuk tarif saat ini. Model kami menawarkan tarif tetap pra-dibayar. Anda hanya membayar apa yang Anda gunakan. Tidak ada langganan bulanan atau kunci tier. Anda dapat mengisi ulang dengan kripto saat diperlukan. Model ini tanpa sensor dan berfungsi dengan klien kompatibel OpenAI apa pun. Anda dapat menggunakan kode SDK yang sama. URL dasar berubah ke endpoint kami. Fleksibilitas ini memungkinkan Anda mengganti model dengan mudah. Anda menghindari vendor lock-in dengan menggunakan protokol standar. Harga kami jelas dan mudah diprediksi.

Mengapa kredit prabayar menghemat uang

Kredit prabayar menghilangkan biaya langganan yang terbuang. Anda tidak membayar untuk waktu menganggur. Anda hanya membayar untuk permintaan aktif. Kredit bonus meningkatkan nilai Anda. Anda mendapatkan bonus +5% untuk top-up $50. Anda mendapatkan bonus +10% untuk top-up $100. Anda mendapatkan bonus +15% untuk top-up $200. Bonus ini berlaku pada saldo kredit Anda. Kesalahan dan penolakan gratis. Anda tidak pernah kehilangan kredit untuk permintaan yang gagal. Kredit Anda tidak pernah kedaluwarsa. Ini ideal untuk pola penggunaan sporadis. Anda dapat mengisi ulang tepat saat Anda membutuhkannya. Pembayaran kripto cepat dan aman. Tidak ada biaya bank atau penundaan transaksi. Anda mengontrol pengeluaran Anda dengan tepat.

Biaya tersembunyi di API LLM lain

Banyak API mengenakan biaya untuk embedding secara terpisah. Beberapa mengenakan biaya untuk unggahan file atau fine-tuning. Yang lain memiliki biaya bulanan minimum. API kami fokus hanya pada penyelesaian chat. Anda membayar untuk token input dan output. Tidak ada biaya tambahan untuk streaming atau alat. Pemanggilan fungsi termasuk tanpa biaya tambahan. Mode JSON juga gratis digunakan. Anda menghindari membayar untuk fitur yang tidak digunakan. Kesederhanaan ini mengurangi total biaya kepemilikan Anda. Anda dapat memprediksi anggaran Anda dengan akurat. Vendor lain mungkin mengenakan biaya per pengguna atau per proyek. Kami mengenakan biaya per token. Ini diskalakan sesuai dengan penggunaan aktual Anda. Anda membayar untuk nilai, bukan untuk akses.

Perhitungan biaya final untuk proyek Anda

Untuk menghitung biaya proyek Anda, perkirakan penggunaan token Anda. Kalikan token input yang diharapkan Anda dengan $0.15 per juta. Kalikan token output yang diharapkan Anda dengan $0.50 per juta. Jumlahkan kedua nilai ini. Ini memberikan biaya dasar. Tambahkan kredit bonus jika Anda mengisi ulang. Ini mengurangi biaya efektif per token. Anda juga dapat memperhitungkan overhead streaming. Streaming mungkin menambah sedikit latensi tetapi menghemat komputasi. Gunakan kunci API kami untuk mulai menguji. Anda mendapatkan kredit percobaan $0.50. Ini memungkinkan Anda memverifikasi perhitungan Anda. Anda dapat skala up dengan pembayaran kripto. Model ini sempurna untuk pengembang yang menginginkan kontrol.