Panduan harga API OpenAI untuk model tanpa sensor

Memahami kiraan token dalam konteks

Bilangan token menentukan penggunaan yang boleh ditagih untuk mana-mana pelayan serasi OpenAI. Pembangun sering meremehkan berapa banyak token yang dimakan oleh prompt. Satu perenggan tunggal mungkin terpecah kepada puluhan token. Tetingkap konteks termasuk input anda dan output model. Anda mesti mengambil kira keseluruhan perjalanan pusingan. Banyak perkhidmatan mengenakan caj berdasarkan jumlah token yang diproses. Ini termasuk arahan sistem dan sejarah perbualan. Anda harus memantau penggunaan token dengan rapat untuk mengelakkan caj terkejut. API kami menggunakan tetingkap konteks 100,000 token. Ini membolehkan perbualan yang meluas tanpa pemotongan. Anda hanya membayar untuk apa yang anda gunakan sebenarnya. Kesilapan dalam permintaan anda tidak menjejaki caj. Ketelarian ini membantu anda bajet dengan berkesan untuk projek jangka panjang.

Pricing token input vs output

Token input biasanya lebih murah daripada token output. Anda membayar $0.15 bagi setiap juta token input. Token output berharga $0.50 bagi setiap juta token. Perbezaan harga ini mencerminkan kos pengiraan penjanaan. Menulis respons panjang memerlukan lebih banyak kuasa pemprosesan. Anda harus menyusun prompt untuk meminimumkan output yang tidak perlu. Menggunakan mod JSON boleh mengurangkan penggunaan token dengan ketara. Panggilan fungsi juga membantu mengekalkan respons yang ringkas. Anda boleh mengawal panjang output dengan parameter max_tokens. Menetapkan had yang lebih rendah menghalang kos penjanaan yang tidak terkawal. Respons penstriman membolehkan anda berhenti awal jika diperlukan. Kawalan ini penting untuk mengekalkan kos yang boleh diramal. Sentiasa semak bilangan token dalam log anda.

Contoh kerja: Perbualan 10,000 token

Mari kita kira kos untuk perbualan biasa. Anggapkan prompt sebanyak 2,000 token dan respons sebanyak 800 token. Kos input ialah 0.002 token didarabkan dengan $0.15. Ini bersamaan $0.0003 untuk input. Kos output ialah 0.0008 token didarabkan dengan $0.50. Ini bersamaan $0.0004 untuk output. Jumlah kos untuk pertukaran ini ialah $0.0007. Anda boleh menjalankan lebih 1,400 pertukaran sedemikian untuk satu dolar. Model ini berjalan dengan crypto pra-dibayar. Anda mendapat kredit bonus apabila anda menambah baki. Matematik kekal mudah dan telus. Tiada yuran tersembunyi dikenakan pada transaksi ini. Anda tahu tepat berapa kos setiap permintaan. Kejelasan ini membantu anda mengembangkan aplikasi anda dengan cekap.

Contoh kerja: Tugas pengekodan konteks panjang

Tugas pengekodan sering memerlukan tetingkap konteks yang besar. Anda mungkin menghantar tetingkap konteks 50,000 token. Model menjana blok kod 1,000 token. Kos input ialah 50,000 token pada $0.15 per juta. Ini menghasilkan $0.0075 untuk input. Kos output ialah 1,000 token pada $0.50 per juta. Ini menghasilkan $0.0005 untuk output. Jumlah kos ialah $0.008 per permintaan. Anda boleh memuatkan permintaan ini dalam had kami. Tetingkap 100,000 token mengendalikan ini dengan mudah. Penstriman membolehkan anda melihat kod semasa ia dijana. Anda boleh menghentikan penjanaan jika ia menyimpang. Ini menjimatkan wang pada respons panjang yang tidak membantu. Kredit prabayar memastikan anda tidak kehabisan secara tidak dijangka.

Penstriman kos dan penjejakan penggunaan

Respons aliran memberikan data penggunaan token masa nyata. Anda menerima kiraan token terakhir dalam segmen terakhir. Ini membolehkan anda menjejak kos apabila ia berlaku. Anda boleh melaksanakan logik untuk berhenti jika kos melebihi had. SDK OpenAI menyokong aliran secara asli. Anda boleh mengintegrasikan ini ke dalam kod Python atau Node.js anda. Menjejak penggunaan membantu anda mengenal pasti corak mahal. Anda mungkin perhatikan bahawa sesetengah prompt menjana output yang lebih panjang. Melaraskan arahan sistem anda boleh mengurangkan ini. Anda juga boleh menetapkan had max_tokens. Ini menghalang model daripada berjalan terlalu lama. Aliran juga meningkatkan pengalaman pengguna dengan memaparkan teks serta-merta. Anda mendapat maklum balas segera tanpa menunggu respons penuh.

Perbandingan dengan model OpenAI standard

Model OpenAI Standard mempunyai struktur harga yang berbeza. GPT-4o dan GPT-4o mini mempunyai kos yang berbeza. Anda harus menyemak dokumentasi rasmi mereka untuk kadar semasa. Model kami menawarkan kadar pra-dibayar tetap. Anda hanya membayar untuk apa yang anda gunakan. Tiada langganan bulanan atau kunci tier. Anda boleh menambah baki dengan kripto apabila diperlukan. Model ini tanpa sensor dan berfungsi dengan mana-mana pelanggan serasi OpenAI. Anda boleh menggunakan kod SDK yang sama. URL asas berubah ke hujung kami. Fleksibiliti ini membolehkan anda menukar model dengan mudah. Anda mengelakkan kunci vendor dengan menggunakan protokol standard. Harga kami mudah dan mudah diramal.

Mengapakah kredit pra-bayar menjimatkan wang

Kredit prabayar menghapus yuran langganan yang tidak digunakan. Anda tidak membayar untuk masa tidak aktif. Anda hanya membayar untuk permintaan aktif. Kredit bonus meningkatkan nilai anda. Anda mendapat bonus +5% untuk pucukan $50. Anda mendapat bonus +10% untuk pucukan $100. Anda mendapat bonus +15% untuk pucukan $200. Bonus ini terpakai pada baki kredit anda. Kesilapan dan penolakan adalah percuma. Anda tidak pernah kehilangan kredit untuk permintaan yang gagal. Kredit anda tidak luput tarikh luput. Ini sesuai untuk corak penggunaan sporadik. Anda boleh menambah baki tepat apabila anda memerlukannya. Pembayaran kripto adalah pantas dan selamat. Tiada yuran bank atau kelewatan transaksi. Anda mengawal perbelanjaan anda dengan tepat.

Kos tersembunyi dalam API LLM lain

Ramai API mengenakan bayaran untuk embedding secara berasingan. Sesetengah mengenakan bayaran untuk muat naik fail atau penalaan halus. Yang lain mempunyai yuran bulanan minimum. API kami fokus pada penyelesaian chat sahaja. Anda membayar untuk token input dan output. Tiada yuran tambahan untuk penstriman atau alat. Pemanggilan fungsi disertakan tanpa kos tambahan. Mod JSON juga percuma untuk digunakan. Anda mengelakkan membayar untuk ciri yang tidak digunakan. Kesederhanaan ini mengurangkan jumlah kos kepemilikan anda. Anda boleh meramalkan bajet anda dengan tepat. Pembekal lain mungkin mengenakan bayaran setiap kerusi atau setiap projek. Kami mengenakan bayaran setiap token. Ini berskala mengikut penggunaan sebenar anda. Anda membayar untuk nilai, bukan untuk akses.

Pengiraan kos akhir untuk projek anda

Untuk mengira kos projek anda, anggaran penggunaan token anda. Darabkan token input yang dijangka anda dengan $0.15 per juta. Darabkan token output yang dijangka anda dengan $0.50 per juta. Tambahkan kedua-dua nilai ini. Ini memberikan kos asas. Tambahkan kredit bonus jika anda menambah baki. Ini mengurangkan kos efektif per token. Anda juga boleh mengambil kira overhead aliran. Aliran mungkin menambah sedikit latensi tetapi menjimatkan pengiraan. Gunakan kunci API kami untuk mula menguji. Anda mendapat kredit percuma $0.50. Ini membolehkan anda mengesahkan pengiraan anda. Anda boleh skala naik dengan pembayaran kripto. Model ini sempurna untuk pembangun yang mahu kawalan.