अनसेंसर्ड मॉडल के लिए OpenAI API मूल्य निर्धार गाइड
OpenAI API प्राइसिंग से पता चलता है कि टोकन गणना मॉडल नामों की तुलना में लागत को अधिक प्रभावित करती है। यह गाइड अनसेंसर्ड LLMs के लिए इनपुट बनाम आउटपुट टोकन के अंकगणित को समझाती है, जिससे आपको खर्चों की सटीक भविष्यवाणी करने में मदद मिलती है। हम तुलना करते हैं कि मानक मॉडल प्राइसिंग के मुकाबले प्रीपेड क्रिप्टो मॉडल्स में आप कहाँ पैसे बचाते हैं।
अंतिम अद्यतन
सारांश
- आधिकांश मॉडल में आउटपुट टोकन इनपुट टोकन की तुलना में काफी अधिक महंगे होते हैं।
- प्रीपेड क्रिप्टो बिलिंग मासिक सदस्यता शुल्क को पूरी तरह से हटा देता है।
- स्ट्रीमिंग रिस्पॉन्स टोकन उपयोग की रियल-टाइम ट्रैकिंग की अनुमति देते हैं।
- संदर्भ विंडो सीमाएँ लागत और प्रदर्शन के ट्रेड-ऑफ़ को प्रभावित करती हैं।
संदर्भ में टोकन गणना को समझना
टोकन गिनती किसी भी OpenAI compatible सर्वर के लिए आपके बिलेबल उपयोग को निर्धारित करती है। डेवलपर्स अक्सर यह कम आंकलन करते हैं कि एक प्रॉम्प्ट कितने टोकन खपित करता है। एक अकेला पैराग्राफ डजनों टोकन में विभाजित हो सकता है। संदर्भ विंडो में आपका इनपुट और मॉडल का आउटपुट दोनों शामिल हैं। आपको पूरे राउंड ट्रिप को ध्यान में रखना होगा। कई सेवाएं प्रोसेस किए गए कुल टोकन के आधार पर शुल्क लेती हैं। इसमें सिस्टम निर्देश और बातचीत का इतिहास शामिल है। आपको अप्रत्याशित शुल्क से बचने के लिए टोकन उपयोग की निकट से निगरानी करनी चाहिए। हमारी API 100,000 टोकन की संदर्भ विंडो का उपयोग करती है। यह बिना ट्रंकेशन के व्यापक बातचीत की अनुमति देती है। आप केवल वही भुगतान करते हैं जो आप वास्तव में उपयोग करते हैं। आपके अनुरोध में त्रुटियों के लिए कोई शुल्क नहीं लगता है। यह पारदर्शिता आपको लंबे चलने वाले प्रोजेक्टों के लिए प्रभावी ढंग से बजट बनाने में मदद करती है।
इनपुट बनाम आउटपुट टोकन मूल्य निर्धारण
इनपुट टोकन आमतौर पर आउटपुट टोकन से सस्ते होते हैं। आप इनपुट टोकन के लिए प्रति मिलियन $0.15 भुगतान करते हैं। आउटपुट टोकन की लागत प्रति मिलियन टोकन पर $0.50 है। यह कीमत अंतर जनरेट करने की कंप्यूट लागत को दर्शाता है। एक लंबी प्रतिक्रिया लिखने में अधिक प्रोसेसिंग पावर की आवश्यकता होती है। आपको प्रॉम्प्ट को इस तरह से संरचित करना चाहिए कि अनावश्यक आउटपुट कम हो। JSON मोड का उपयोग करने से टोकन उपयोग काफी कम हो सकता है। फंक्शन कॉलिंग भी प्रतिक्रियाओं को संक्षिप्त रखने में मदद करती है। आप max_tokens पैरामीटर के साथ आउटपुट लंबाई को नियंत्रित कर सकते हैं। एक निचली सीमा सेट करने से रनअवे जनरेशन लागत से बचा जा सकता है। स्ट्रीमिंग प्रतिक्रियाएं आपको जरूरत पड़ने पर जल्दी रोकने की अनुमति देती हैं। यह नियंत्रण लागत को पूर्वानुमानित रखने के लिए महत्वपूर्ण है। हमेशा अपने लॉग में टोकन गिनती जांचें।
उदाहरण: 10,000 टोकन संवाद
आइए एक सामान्य बातचीत के लिए लागत की गणना करें। मान लें कि प्रॉम्प्ट में 2,000 टोकन हैं और प्रतिक्रिया में 800 टोकन हैं। इनपुट लागत 0.002 टोकन गुणा $0.15 है। यह इनपुट के लिए $0.0003 के बराबर है। आउटपुट लागत 0.0008 टोकन गुणा $0.50 है। यह आउटपुट के लिए $0.0004 के बराबर है। इस आदान-प्रदान के लिए कुल लागत $0.0007 है। आप एक डॉलर के लिए 1,400 से अधिक ऐसे आदान-प्रदान चला सकते हैं। यह मॉडल पूर्वभुगतान क्रिप्टो पर चलता है। जब आप टॉप-अप करते हैं, तो आपको बोनस क्रेडिट मिलता है। गणना सरल और पारदर्शी रहती है। इन लेनदेनों पर कोई छिपी हुई फीस लागू नहीं होती है। आपको पता चलता है कि प्रत्येक अनुरोध की लागत कितनी है। यह स्पष्टता आपको अपनी एप्लिकेशन को कुशलता से स्केल करने में मदद करती है।
उदाहरण: लंबे संदर्भ वाले कोडिंग कार्य
कोडिंग कार्य अक्सर लंबे संदर्भ विंडो की आवश्यकता करते हैं। आप 50,000 टोकन संदर्भ विंडो भेज सकते हैं। मॉडल 1,000 टोकन कोड ब्लॉक जनरेट करता है। इनपुट लागत 50,000 टोकन पर $0.15 प्रति मिलियन है। इसका परिणाम इनपुट के लिए $0.0075 होता है। आउटपुट लागत 1,000 टोकन पर $0.50 प्रति मिलियन है। इसका परिणाम आउटपुट के लिए $0.0005 होता है। कुल लागत प्रति अनुरोध $0.008 है। आप इस अनुरोध को हमारी सीमाओं में फिट कर सकते हैं। 100,000 टोकन विंडो इसे आसानी से संभालती है। स्ट्रीमिंग आपको कोड को जनरेट होते हुए देखने की अनुमति देती है। यदि यह गलत दिशा में जाता है तो आप जनरेशन रोक सकते हैं। यह लंबे, अवांछित प्रतिक्रियाओं पर पैसे बचाता है। पूर्वभुगतान क्रेडिट सुनिश्चित करता है कि आप अचानक खत्म न हों।
स्ट्रीमिंग लागतें और उपयोग ट्रैकिंग
स्ट्रीमिंग रिस्पॉन्स रियल-टाइम टोकन उपयोग डेटा प्रदान करते हैं। आपको अंतिम चंक में अंतिम टोकन गणना मिलती है। इससे आपको लागत को ट्रैक करने की सुविधा मिलती है। आप लॉजिक लागू कर सकते हैं कि यदि लागत एक सीमा से अधिक हो जाए तो स्ट्रीमिंग बंद कर दें। OpenAI SDK स्ट्रीमिंग को नेटिवली सपोर्ट करता है। आप इसे अपने Python या Node.js कोड में इंटीग्रेट कर सकते हैं। उपयोग ट्रैकिंग से आपको महंगे पैटर्न की पहचान करने में मदद मिलती है। आप नोटिस कर सकते हैं कि कुछ प्रॉम्प्ट लंबे आउटपुट जनरेट करते हैं। अपने सिस्टम इन्स्ट्रक्शन्स को एडजस्ट करके इसे कम किया जा सकता है। आप max_tokens लिमिट भी सेट कर सकते हैं। यह मॉडल को बहुत देर तक चलने से रोकता है। स्ट्रीमिंग यूज़र एक्सपीरियंस को भी बेहतर बनाती है क्योंकि यह तुरंत टेक्स्ट दिखाती है। आपको पूरे रिस्पॉन्स का इंतज़ार किए बिना तुरंत फीडबैक मिलता है।
मानक OpenAI मॉडल्स के साथ तुलना
मानक OpenAI मॉडल की अलग-अलग मूल्य निर्धारण संरचनाएं हैं। GPT-4o और GPT-4o mini की लागत अलग-अलग होती है। आपको वर्तमान दरों के लिए उनकी आधिकारिक दस्तावेज़ीकरण देखनी चाहिए। हमारा मॉडल एक निश्चित प्रीपेड दर प्रदान करता है। आप केवल उसी के लिए भुगतान करते हैं जिसका आप उपयोग करते हैं। कोई मासिक सब्सक्रिप्शन या टियर लॉक-इन नहीं है। आप जब चाहें क्रिप्टो के साथ टॉप-अप कर सकते हैं। यह मॉडल अनसेंसर्ड है और किसी भी OpenAI संगत क्लाइंट के साथ काम करता है। आप वही SDK कोड उपयोग कर सकते हैं। बेस यूआरएल हमारे एंडपॉइंट पर बदल जाता है। यह लचीलापन आपको आसानी से मॉडल बदलने की अनुमति देता है। मानक प्रोटोकॉल का उपयोग करके आप वेंडर लॉक-इन से बचते हैं। हमारा मूल्य निर्धारण सरल और भविष्यवाणी योग्य है।
प्रीपेड क्रेडिट पैसे क्यों बचाता है
प्रीपेड क्रेडिट अप्रयुक्त सब्सक्रिप्शन शुल्क को समाप्त करता है। आप आइडल टाइम के लिए नहीं भुगतते। आप केवल सक्रिय अनुरोधों के लिए भुगतान करते हैं। बोनस क्रेडिट आपकी कीमत बढ़ाता है। $50 टॉप-अप पर आपको +5% बोनस मिलता है। $100 टॉप-अप पर आपको +10% बोनस मिलता है। $200 टॉप-अप पर आपको +15% बोनस मिलता है। यह बोनस आपके क्रेडिट बैलेंस पर लागू होता है। त्रुटियां और अस्वीकृतियां मुफ्त हैं। विफल अनुरोधों के लिए आप क्रेडिट नहीं खोते। आपका क्रेडिट कभी समाप्त नहीं होता। यह स्पॉराडिक उपयोग पैटर्न के लिए आदर्श है। आप तभी टॉप-अप कर सकते हैं जब आपको आवश्यकता हो। क्रिप्टो भुगतान तेज और सुरक्षित हैं। कोई बैंक शुल्क या लेनदेन विलंब नहीं है। आप अपनी खर्च पर सटीक नियंत्रण रखते हैं।
अन्य LLM APIs में गुप्त लागतें
अक्सर API एम्बेडिंग्स के लिए अलग से शुल्क लेते हैं। कुछ फ़ाइल अपलोड या फाइन-ट्यूनिंग के लिए शुल्क लेते हैं। अन्य की मासिक न्यूनतम फीस होती है। हमारी API केवल चैट कंप्लीशन पर केंद्रित है। आप इनपुट और आउटपुट टोकन के लिए भुगतान करते हैं। स्ट्रीमिंग या टूल्स के लिए कोई अतिरिक्त शुल्क नहीं। फंक्शन कॉलिंग बिना किसी अतिरिक्त लागत के शामिल है। JSON मोड का उपयोग करने के लिए भी कोई शुल्क नहीं है। आप उपयोग न की गई सुविधाओं के लिए भुगतान करने से बचते हैं। यह सरलता आपके कुल स्वामित्व लागत को कम करती है। आप अपने बजट की सटीक भविष्यवाणी कर सकते हैं। अन्य विक्रेता प्रति सीट या प्रति प्रोजेक्ट शुल्क ले सकते हैं। हम प्रति टोकन शुल्क लेते हैं। यह आपके वास्तविक उपयोग के साथ स्केल होता है। आप मूल्य के लिए भुगतान करते हैं, एक्सेस के लिए नहीं।
अपने प्रोजेक्ट के लिए अंतिम लागत गणना
अपने प्रोजेक्ट लागत की गणना करने के लिए, अपने टोकन उपयोग का अनुमान लगाएं। अपने अपेक्षित इनपुट टोकन को प्रति मिलियन $0.15 से गुणा करें। अपने अपेक्षित आउटपुट टोकन को प्रति मिलियन $0.50 से गुणा करें। इन दो मानों को एक साथ जोड़ें। यह आपको आधार लागत देता है। यदि आप टॉप-अप करते हैं तो बोनस क्रेडिट जोड़ें। यह प्रति टोकन प्रभावी लागत को कम करता है। आप स्ट्रीमिंग ओवरहेड को भी शामिल कर सकते हैं। स्ट्रीमिंग थोड़ी लेटेंसी जोड़ सकता है लेकिन कंप्यूट बचाता है। परीक्षण शुरू करने के लिए हमारी API कुंजी का उपयोग करें। आपको $0.50 ट्रायल क्रेडिट मिलता है। यह आपको अपनी गणनाओं की पुष्टि करने की अनुमति देता है। आप क्रिप्टो भुगतान के साथ स्केल कर सकते हैं। यह मॉडल उन डेवलपर्स के लिए पूर्णतः उपयुक्त है जो नियंत्रण चाहते हैं।
सामान्य प्रश्न
क्या OpenAI कम्पेटिबल सर्वर उपयोग के लिए मुफ्त है?
नहीं, openai compatible सर्वर एक पूर्वभुगतान मॉडल का उपयोग करता है। आप केवल उन टोकन के लिए भुगतान करते हैं जिन्हें आप उपयोग करते हैं। साइन अप करते समय आपको $0.50 का ट्रायल क्रेडिट मिलता है। इससे आपको बिना भुगतान किए API का परीक्षण करने की अनुमति मिलती है। आपका क्रेडिट कभी समाप्त नहीं होता है। जब आपको अधिक की आवश्यकता हो तो आप क्रिप्टो के साथ टॉप अप कर सकते हैं।
स्ट्रीमिंग मोड में टोकन उपयोग को ट्रैक कैसे करें?
स्ट्रीमिंग प्रतिक्रियाओं में अंतिम चंक में टोकन उपयोग शामिल होता है। आप इस डेटा को पार्स करके वास्तविक समय में लागत को ट्रैक कर सकते हैं। यह आपको अपनी एप्लिकेशन चलते हुए खर्च की निगरानी करने में मदद करता है। आप तर्क लागू कर सकते हैं कि यदि लागत एक सीमा से अधिक हो जाए तो जनरेशन रोक दिया जाए। यह सुनिश्चित करता है कि आप अपने बजट के भीतर रहें।
यदि मैं अपने संदर्भ विंडो से अधिक हो जाता हूं तो क्या होगा?
यदि आपका प्रॉम्प्ट 100,000 टोकन की सीमा से अधिक हो जाता है, तो अनुरोध विफल हो जाएगा। आप भेजने से पहले टोकन गिनती जांच सकते हैं। आप संदर्भ को सीमा के भीतर फिट करने के लिए ट्रंकेट भी कर सकते हैं। यह सुनिश्चित करता है कि आपके अनुरोध सही ढंग से प्रसंस्कृत हों। आप केवल सफल अनुरोधों के लिए भुगतान करते हैं।
क्या मैं आधिकारिक OpenAI SDK के साथ इस API का उपयोग कर सकता हूँ?
हाँ, यह API आधिकारिक OpenAI SDK के साथ पूरी तरह संगत है। आपको बस बेस URL और API कुंजी बदलनी है। तापमान और top_p जैसे मानक पैरामीटर अपेक्षित रूप से काम करते हैं। आप स्ट्रीमिंग, फ़ंक्शन कॉलिंग और JSON मोड का उपयोग कर सकते हैं। यह मौजूदा प्रोजेक्ट्स के लिए एकीकरण को सरल बनाता है।
अपनी API कुंजी सुरक्षित करें
रजिस्टर करें, अपनी कुंजी प्राप्त करें, और अपना बेस यूआरएल अपडेट करें। बस यही है।