संक्षेप (टीएल;डीआर)

  • मुख्य घटना: २२ सितंबर से १३ अक्टूबर के बीच एंथ्रोपिक ने ओपस ५.५, सॉनेट ५.५ और हाइकू ५.५ जारी किए, ओपनएआई ने चैटजीपीटी को जीपीटी-६ पर पहुंचाया और अपने एपीआई में जीपीटी-६.१ सोल को सूचीबद्ध किया, और गूगल ने जेमिनी ४ आर्गन सबके लिए उपलब्ध कर दिया। रोजमर्रा के काम वाले मॉडलों का स्तर लगभग $२ प्रति १० लाख इनपुट टोकन और $१० प्रति १० लाख आउटपुट टोकन पर आकर टिक गया।
  • असली तंत्र: जब सूची मूल्य एक जैसे हों, तो कंपनियां बिल के उन हिस्सों पर होड़ करती हैं जिनकी तुलना कठिन है: प्रति काम टोकन, मेहनत की सेटिंग, टोकनाइजर में बदलाव, लंबे संदर्भ पर अतिरिक्त शुल्क, कैश की कीमत और खत्म होने वाली शुरुआती दरें। जेमिनी ४ आर्गन की कीमत ३० नवंबर के बाद दोगुनी हो जाएगी। हाइकू ५.५ की कीमत १ लाख टोकन से ऊपर ५ गुना हो जाती है।
  • आगे की तस्वीर: प्रति टोकन कीमत अब तुलना का काम का पैमाना नहीं है। जो टीमें दर सूची देखकर मॉडल चुनेंगी, वे ज्यादा पैसे देंगी। जो अपने ही काम पर प्रति पूरा हुआ काम लागत मापेंगी, और हर मॉडल अपडेट के बाद फिर से मापेंगी, वे नहीं देंगी।

इस हफ्ते मैंने कीमतों के चार पन्ने खोले, और अजीब बात यह हुई कि उनमें से तीन पर वही दो संख्याएं दिखीं।

$२ प्रति १० लाख इनपुट टोकन। $१० प्रति १० लाख आउटपुट टोकन।

क्लॉड सॉनेट ५.५। जेमिनी ४ आर्गन, अपनी शुरुआती कीमत पर। और कीमतों पर नजर रखने वाली साइटों के अनुसार ओपनएआई का जीपीटी-६.१ सोल। दो साल तक एक-दूसरे से कम दाम लगाने वाली तीन प्रयोगशालाएं अपने मुख्य कामकाजी मॉडलों के लिए एक ही दर सूची पर आ पहुंची हैं।

इसका मतलब यह नहीं कि कीमतों की जंग खत्म हो गई। इसका मतलब है कि वह कहीं और चली गई।

दर सूचियां, आमने-सामने

मॉडल जारी इनपुट / आउटपुट (प्रति १० लाख टोकन) टिप्पणी
क्लॉड फेबल ५.१ २०२६ में पहले $१० / $५० एंथ्रोपिक का सबसे ऊंचा स्तर
जीपीटी-६ एस्ट्रा ३ सितंबर $१० / $५० साइबर में पहला "क्रिटिकल" मॉडल; हमलावर काम सीमित
क्लॉड ओपस ५.५ २२ सितंबर $४ / $२० $५ / $२५ से घटा; कैश पढ़ना $०.२० (पहले $०.५०); तेज मोड $८ / $४०
क्लॉड सॉनेट ५.५ २८ सितंबर $२ / $१० सॉनेट ५ जैसा ही सूची मूल्य; एंथ्रोपिक का दावा प्रति काम ३०% तक कम
जीपीटी-६.१ सोल सितंबर के अंत में $२ / $१० (कीमत ट्रैकरों के अनुसार) ११ लाख टोकन संदर्भ बताया गया
जेमिनी ४ आर्गन १३ अक्टूबर से सबके लिए शुरुआती $२ / $१०, फिर १ दिसंबर से $४ / $२० कैश इनपुट ९५% सस्ता; १० लाख टोकन तक
जेमिनी ३.८ फ्लैश ३ सितंबर $०.७५ / $३.७५ ३१ दिसंबर तक शुरुआती कीमत
क्लॉड हाइकू ५.५ ७ अक्टूबर १ लाख टोकन से कम पर $०.१० / $०.५०; उससे ऊपर $०.५० / $२.५० १० लाख संदर्भ, १.२८ लाख आउटपुट; उसी दिन सॉनेट ५.५ का कैश पढ़ना आधा

स्तर अब साफ हैं। $१० / $५० का प्रीमियम स्तर, जिसकी सबसे संवेदनशील क्षमताएं पहचान के आधार पर ज्यादा से ज्यादा सीमित की जा रही हैं। लगभग $२ / $१० का कामकाजी स्तर। $०.१० से $०.७५ इनपुट वाला सस्ता स्तर। एंथ्रोपिक का ओपस पहले दो के बीच बैठता है, और यह सोचा-समझा फैसला है: कामकाजी कीमत के इतना करीब कि भारी उपयोगकर्ता उससे बचकर रास्ता बनाना बंद कर दें।

असली कीमत अब कहां रहती है

अगर लेबल एक है, तो बिल एक नहीं है। अंतर यहां पहुंच गए हैं।

१. प्रति काम टोकन

सॉनेट ५.५ के लिए एंथ्रोपिक का तर्क कम दर नहीं है। तर्क यह है कि मॉडल वही काम कम टोकन में पूरा करता है, इसलिए प्रति काम ३०% तक कम खर्च होता है। जब यह सच होता है, तो असर असली है। लेकिन स्वतंत्र मूल्यांकनकर्ताओं ने दूसरा पहलू दिखाया: सबसे ऊंची मेहनत की सेटिंग पर मॉडल बहुत ज्यादा टोकन खर्च करके शीर्ष अंक पाता है, और बिल घटने के बजाय बढ़ सकता है। एक विश्लेषण के मुताबिक सिर्फ मेहनत का यह बटन लागत को बीस गुना तक ऊपर-नीचे कर सकता है।

२. मेहनत की सेटिंग और डिफॉल्ट

ओपस ५.५ के "ओपस ५ से लगभग ४०% सस्ता चलने" का दावा दोनों मॉडलों की डिफॉल्ट मेहनत पर तुलना करता है, जो ओपस ५.५ के लिए मध्यम है और ओपस ५ के लिए ऊंची थी। वहीं, बेंचमार्क में जीत अधिकतम मेहनत पर बताई गई। दोनों बातें सच हो सकती हैं। बस वे अलग-अलग उत्पादों का वर्णन करती हैं।

३. टोकनाइजर

हाइकू ५.५ के एक विश्लेषण में पाया गया कि उसका नया टोकनाइजर उसी पाठ को हाइकू ४.५ के मुकाबले लगभग ३०% ज्यादा टोकन गिनता है। ३०% ज्यादा टोकन पर ७५% कम कीमत फिर भी बड़ी कटौती है, लेकिन सुर्खी वाली कटौती नहीं। जब भी कोई कंपनी टोकनाइजर बदलती है, आपकी प्रति टोकन तुलना चुपचाप टूट जाती है।

४. सीमाएं और छलांगें

  • १ लाख टोकन से बड़े प्रॉम्प्ट पर हाइकू ५.५ प्रति टोकन ५ गुना महंगा है।
  • जेमिनी ४ आर्गन का $२ / $१० शुरुआती दाम है। ३० नवंबर के बाद सार्वजनिक मॉडल के लिए यह $४ / $२० हो जाएगा।
  • जेमिनी ३.८ फ्लैश की कीमत ३१ दिसंबर तक शुरुआती है।

अगर आप अक्टूबर में जनवरी में चलने वाले सिस्टम के लिए बेंचमार्क कर रहे हैं, तो आप ऐसी कीमत परख रहे हैं जो तब मौजूद ही नहीं होगी।

५. कैश की कीमत

जो एजेंट बार-बार वही कोडबेस या दस्तावेज पढ़ते हैं, उनके लिए कैश पढ़ने की कीमत इनपुट की कीमत से ज्यादा मायने रखती है। एंथ्रोपिक ने ओपस ५.५ का कैश पढ़ना ६०% सस्ता किया और सॉनेट ५.५ का आधा किया। गूगल आर्गन के कैश इनपुट को नए इनपुट से ९५% कम पर बेचता है। लंबे चलने वाले कोडिंग एजेंट के लिए यही संख्याएं बिल पर हावी रहती हैं।

कीमतें एक जगह क्यों आ मिलीं

कुछ ताकतों ने कामकाजी स्तर को एक ही समय में एक ही जगह धकेला:

  • साझा हार्डवेयर अर्थशास्त्र। प्रयोगशालाएं मिलते-जुलते एक्सेलरेटर खरीद रही हैं, एनवीडिया से या ब्रॉडकॉम की बनाई कस्टम चिप, मिलती-जुलती कीमतों पर और एचबीएम की एक जैसी कमी के साथ। सेवा की लागत एक जैसी होती है, तो दाम भी।
  • बड़ी कंपनियों की खरीद। बड़े खरीदार अब कई मॉडलों वाले राउटर चलाते हैं। समान गुणवत्ता पर साथियों से ३०% महंगा मॉडल सीधे ट्रैफिक खो देता है।
  • मुनाफा प्रीमियम स्तर से आता है। सबसे ऊंची क्षमताएं सीमित हैं (ओपनएआई का डेब्रेक, गूगल का फेयरविंड, और एंथ्रोपिक का मिथोस ५.१, जिसे ६ अक्टूबर को सिर्फ जांचे-परखे साइबर रक्षकों और जीवन विज्ञान शोधकर्ताओं के लिए जारी किया गया), इसलिए सबसे कीमती पहुंच प्रति टोकन कीमत पर नहीं, भरोसे और पहचान पर बिकती है।
  • उपभोक्ता पैमाना। चैटजीपीटी के अब हर हफ्ते १.२ अरब से ज्यादा उपयोगकर्ता हैं, और जीपीटी-६ सोल और लूना अक्टूबर के पहले हफ्ते में मुफ्त और भुगतान वाले, दोनों उपयोगकर्ताओं तक पहुंचे। जब उपभोक्ता उत्पाद ही वितरण है, तो एपीआई की कीमत मुनाफे का केंद्र कम और संदर्भ बिंदु ज्यादा बन जाती है।

इस तिमाही मैं मॉडल कैसे चुनूंगा

सवाल यह दर सूची से ज्यादा क्यों मायने रखता है
मेरे मूल्यांकन सेट पर प्रति पूरा हुआ काम लागत क्या है? प्रति काम टोकन, दोबारा कोशिशें और विफलताएं एक ही संख्या में आ जाती हैं
किस मेहनत स्तर पर? इस बटन के हिसाब से एक ही मॉडल सबसे सस्ता या सबसे महंगा विकल्प हो सकता है
मेरे कितने प्रॉम्प्ट १ लाख टोकन पार करते हैं? लंबे संदर्भ का अतिरिक्त शुल्क किसी आरएजी या एजेंट वाले काम पर हावी हो सकता है
मेरी कैश हिट दर क्या है? एजेंटों के लिए कैश पढ़ने की कीमत अक्सर इनपुट कीमत से ज्यादा अहम होती है
शुरुआती कीमत कब खत्म होती है? उस कीमत का बजट बनाएं जो आप देंगे, उसका नहीं जो आपने परखी
क्या टोकनाइजर बदला? हर मॉडल अपडेट के बाद, एक ही परिवार के भीतर भी, नया आधार मापें

राउटर वाला तरीका सही डिफॉल्ट है। ज्यादातर ट्रैफिक सस्ते मॉडल को भेजें, जब सस्ता मॉडल गुणवत्ता जांच में फेल हो तो कामकाजी मॉडल पर ले जाएं, और प्रीमियम स्तर उन थोड़े से कामों के लिए रखें जहां वह नतीजा बदलता है। फिर हर महीने मापें, क्योंकि कंपनियां तो जरूर मापेंगी।

जो बचा रह गया

तीन प्रतिद्वंद्वियों का $२ और $१० पर आ टिकना लगभग मजेदार है। यह शांति जैसा दिखता है।

है नहीं। लड़ाई बस फुटनोट में चली गई है: एक टोकनाइजर, एक डिफॉल्ट मेहनत स्तर, १ लाख टोकन की एक सीमा, ३० नवंबर की एक आखिरी तारीख। सबसे सस्ता मॉडल अब वह है जिसके फुटनोट आप सच में पढ़ते हैं।

स्रोत