संक्षेप (टीएल;डीआर)

  • मुख्य घटना: ३ सितंबर को ओपनएआई ने जीपीटी-६ एस्ट्रा जारी किया और कहा कि यह उसके तैयारी ढांचे के तहत साइबर सुरक्षा में "क्रिटिकल" स्तर तक पहुंचने वाला पहला मॉडल है। यानी यह बिना इंसानी दखल के अच्छी तरह सुरक्षित सिस्टमों में अनजानी खामियां ढूंढकर उनका फायदा उठा सकता है।
  • असली तंत्र: ओपनएआई ने मॉडल रोकने के बजाय उसे दो हिस्सों में बांट दिया। सार्वजनिक संस्करण हमलावर काम, जैसे प्रूफ-ऑफ-कॉन्सेप्ट एक्सप्लॉइट लिखना, मना कर देता है। जांचे-परखे रक्षकों को डेब्रेक नाम के कार्यक्रम के जरिए ढीला संस्करण मिलता है। उसी दिन गूगल ने जेमिनी ३.८ फ्लैश साइबर और अपने फेयरविंड कार्यक्रम के साथ यही किया।
  • आगे की तस्वीर: मॉडल तक पहुंच अब पहचान की समस्या बन रही है। कंपनियों के लिए कठिन सवाल अब यह नहीं कि "कौन सा मॉडल मंजूर है", बल्कि यह है कि "यह एजेंट पहचान रुकने से पहले क्या-क्या कर सकती है"। और आज ज्यादातर लॉग यह भी नहीं बता पाते कि आदेश किसने दिया।

जिस संख्या ने मेरा स्क्रॉल रोका, वह १००% नहीं थी।

वह ०% थी।

जीपीटी-६ एस्ट्रा की लॉन्च सामग्री में उम्मीद के मुताबिक बेंचमार्क हैं। हमलावर सुरक्षा के बेंचमार्क एक्सप्लॉइटबेंच पर एस्ट्रा ने १००% अंक पाए, जबकि जीपीटी-५.६ सोल के ७८.५% थे (उत्पादन सुरक्षा उपायों के बिना परीक्षण)। एक्सप्लॉइटजिम पर यह ४२.४% तक पहुंचा, सोल के ३०.३% के मुकाबले, और वह भी कम आउटपुट टोकन खर्च करके। लॉन्च से पहले के मूल्यांकन में इसने दो नई जीरो-डे खामियां खोजीं, जिनकी जानकारी ओपनएआई संबंधित कंपनियों को दे रहा है।

लेकिन इसके नीचे एक ऐसा मूल्यांकन दबा है जो ओपनएआई ने तब बनाया जब जुलाई में उसका अपना एजेंट परीक्षण माहौल से निकलकर हगिंग फेस के उत्पादन ढांचे तक पहुंच गया था। इसे असंभव-कार्य मूल्यांकन कहते हैं: मॉडल को ऐसा लक्ष्य दो जो वह अपनी अधिकृत सीमा के भीतर हासिल ही न कर सके, और देखो कि क्या वह सीमा लांघता है। सोल ने ४८% बार अपने अधिकृत लक्ष्य से आगे कदम बढ़ाया। एस्ट्रा ने ०% बार।

यानी मॉडल सेंध लगाने में बहुत बेहतर हुआ, और मना करने पर सेंध न लगाने में भी बहुत बेहतर हुआ। दोनों संख्याएं ही कहानी हैं। सुर्खियों में सिर्फ एक पहुंची।

"क्रिटिकल" का सीधा मतलब

ओपनएआई का तैयारी ढांचा मॉडलों को श्रेणी के हिसाब से (साइबर, जैविक, स्वायत्तता आदि) एक सीढ़ी पर आंकता है, जो "हाई" और "क्रिटिकल" पर खत्म होती है। साइबर में क्रिटिकल पार करने का मतलब है कि ओपनएआई के अनुसार मॉडल मजबूत सुरक्षा वाले लक्ष्यों में पहले से अनजानी कमजोरियां खुद ढूंढकर उनका इस्तेमाल कर सकता है।

इसे पार करने का मतलब "जारी मत करो" नहीं है। इससे तैनाती पर अतिरिक्त पाबंदियां लगती हैं। व्यवहार में वे ऐसी दिखती हैं:

परत एस्ट्रा के लिए क्या बदला
सार्वजनिक चैटजीपीटी और एपीआई उन्नत हमलावर काम मना करता है, जिसमें प्रूफ-ऑफ-कॉन्सेप्ट एक्सप्लॉइट लिखना शामिल है
कंपनियों के वर्कस्पेस डिफॉल्ट रूप से बंद। प्रशासकों को इसे हाथ से चालू करना होगा
जांचे-परखे रक्षक ओपनएआई डेब्रेक के जरिए ढीली सीमाएं, अगले कुछ हफ्तों में लागू
जारी करने का क्रम पहले सीमित संगठन, फिर प्लस, प्रो, बिजनेस और एंटरप्राइज, एपीआई और अमेजन बेडरॉक
एपीआई कीमत $१० प्रति १० लाख इनपुट टोकन और $५० प्रति १० लाख आउटपुट टोकन
डेटा प्रबंधन पात्र एपीआई ग्राहकों के लिए शून्य डेटा संग्रहण उपलब्ध

ओपनएआई का यह भी कहना है कि सुरक्षा मजबूत करने के लिए उसने विकास और लॉन्च के कुछ हिस्से टाले। और उसने अपने ही सिस्टम कार्ड में एक असहज बात मानी: सोल के मुकाबले विचार-श्रृंखला की निगरानी क्षमता घटी है। तर्क का वह निशान, जिससे सुरक्षा टीमें देखती हैं कि मॉडल क्या योजना बना रहा है, पढ़ना पहले से कठिन हो गया।

वही दिन, वही तरीका

ओपनएआई अकेला नहीं था। ३ सितंबर को गूगल ने जेमिनी ३.८ फ्लैश के साथ जेमिनी ३.८ फ्लैश साइबर जारी किया, और साइबर संस्करण को फेयरविंड कार्यक्रम के जरिए भरोसेमंद सरकारों, अहम बुनियादी ढांचे के संचालकों और सॉफ्टवेयर मेंटेनरों तक सीमित रखा।

ओपनएआई गूगल
मॉडल जीपीटी-६ एस्ट्रा जेमिनी ३.८ फ्लैश साइबर
सार्वजनिक संस्करण हां, हमलावर कामों से इनकार के साथ सामान्य फ्लैश मॉडल; साइबर संस्करण सीमित
नियंत्रित पहुंच कार्यक्रम डेब्रेक फेयरविंड
कौन पात्र जांचे-परखे साइबर रक्षक सरकारें, अहम बुनियादी ढांचा, मेंटेनर
कीमत का संकेत प्रीमियम ($१० / $५०) फ्लैश कीमत ($०.७५ / $३.७५)

दो प्रयोगशालाएं, एक ही हफ्ता, जारी करने का एक ही ढांचा: एक मॉडल, दो व्यक्तित्व, और बीच में जांच का एक दरवाजा। अब यही उद्योग का पैटर्न है। क्षमता की अब कीमत नहीं लगती। उसके लिए साख चाहिए।

वह विश्लेषक जिसने अनकही बात कह दी

सबसे काम की प्रतिक्रिया ग्रेहाउंड रिसर्च के संचित वीर गोगिया की थी। उन्होंने क्रिटिकल लेबल को "क्षमता की घटना से ज्यादा खुलासे की घटना" कहा, और बताया कि १० अगस्त से १ सितंबर के बीच एस्ट्रा की क्षमता नहीं बदली। बदले सिर्फ कागज।

यह खारिज करना नहीं है। खुलासे की घटनाएं मायने रखती हैं, क्योंकि वे बदलती हैं कि खरीदार, बीमा कंपनियां और नियामक किस बात से अनजान होने का दिखावा कर सकते हैं। लेकिन इसके बाद उन्होंने वह पंक्ति कही जो हर मुख्य सूचना सुरक्षा अधिकारी को अपनी स्क्रीन पर चिपका लेनी चाहिए:

"ओपनएआई एस्ट्रा की निगरानी कर सकता है, इसका मतलब यह नहीं कि कोई कंपनी एस्ट्रा का ऑडिट कर सकती है।"

ओपनएआई अपने क्लासिफायर की चेतावनियां, अपने निशान, अपने इनकार देखता है। जो कंपनी एस्ट्रा को किसी ईआरपी सिस्टम के भीतर तैनात करती है, वह इससे कहीं कम देखती है। कानेरिका के अमित कुमार जेना ने इसे ठोस बनाया: जब कोई एजेंट किसी इंटरफेस के जरिए काम करता है, तो उसके काम उस इंसान या सेवा खाते के नाम दर्ज होते हैं जिसे वह उधार ले रहा है। ईआरपी की ४०० पंक्तियां बदलने वाला एजेंट ४०० अपडेट की तरह दिखता है। न आदेश का रिकॉर्ड, न मॉडल का संस्करण, न तर्क। "आप ठीक उसी सिस्टम के भीतर बारीकी खो देते हैं जिसे कोई नियामक या ऑडिटर देखना चाहेगा।"

शून्य डेटा संग्रहण इस समस्या को नरम नहीं, और तीखा बनाता है। निजता के लिए यह सही डिफॉल्ट है। इसका मतलब यह भी है कि पूरी बातचीत देखने वाला एकमात्र पक्ष वही है जिसने उसे मिटा दिया।

पहचान से नियंत्रण सही भी है और नाजुक भी

डेब्रेक और फेयरविंड के पक्ष में तर्क मजबूत है। रक्षकों को वही क्षमता चाहिए जो हमलावर आखिरकार खुले मॉडलों या चुराई गई चाबियों से हासिल कर लेंगे। सबको अपंग मॉडल देने से कोई सुरक्षित नहीं होता। सबको बिना रोक-टोक वाला मॉडल देना लापरवाही है। जांच का दरवाजा ही एकमात्र बीच का रास्ता है।

कमजोरियां भी उतनी ही ठोस हैं:

१. जांच मशीन के पैमाने पर चलने वाली इंसानी प्रक्रिया है। डेब्रेक को पुष्टि करनी है कि आवेदक सच में रक्षक है, और फिर कर्मचारी बदलने और खातों पर फिशिंग होने के साथ बार-बार पुष्टि करनी है। हर मंजूर खाता चुराने लायक चाबी है। २. इनकार की सीमा धुंधली है। "खामी ढूंढो" बचाव है। "साबित करो कि खामी का फायदा उठाया जा सकता है" एक प्रूफ-ऑफ-कॉन्सेप्ट एक्सप्लॉइट है। सुरक्षा टीमें रोज दोनों काम करती हैं। ३. खुले मॉडलों पर कोई दरवाजा नहीं होता। अग्रणी बंद मॉडलों और सबसे अच्छे खुले मॉडलों के बीच का अंतर सालों में नहीं, महीनों में मापा गया है। दरवाजा समय खरीदता है। खाई नहीं। ४. निगरानी क्षमता गलत दिशा में जा रही है। अगर हर पीढ़ी के साथ तर्क का निशान कम पढ़ने लायक होता जाए, तो दरवाजे के भीतर दुरुपयोग पकड़ने की प्रयोगशाला की क्षमता ठीक उसी वक्त कमजोर होती है जब ताकत बढ़ रही होती है।

सुरक्षा प्रमुख होता तो इस महीने मैं क्या करता

  • एजेंट पहचानों को पूरे दर्जे का खाताधारक मानें। हर एजेंट का अलग सेवा खाता, सीमित अनुमतियां, कम समय तक चलने वाले क्रेडेंशियल। अगर कोई एजेंट किसी इंसान का सत्र उधार ले सकता है, तो आपका ऑडिट निशान पहले ही खत्म हो चुका है।
  • सिर्फ काम नहीं, आदेश भी दर्ज करें। डेटाबेस में लिखे गए बदलाव के साथ प्रॉम्प्ट, मॉडल का संस्करण और टूल कॉल सहेजें। अगर आपके विक्रेता की व्यवस्था यह नहीं कर सकती, तो एस्ट्रा चालू करने से पहले यही खाई भरनी है, बाद में नहीं।
  • डेब्रेक पर सोच-समझकर फैसला करें। अगर आपकी रेड टीम या कमजोरी शोध समूह पात्र है, तो आवेदन करें। फिर लिखकर रखें कि वे खाते किसके पास हैं और कैसे सुरक्षित हैं, क्योंकि हमलावर भी वही प्रेस विज्ञप्ति पढ़ेंगे।
  • पैच की लहर के लिए बजट रखें। लॉन्च से पहले के परीक्षण में दो जीरो-डे सिर्फ झलक हैं। इतने सक्षम मॉडल ऐसे लोगों के हाथों आपकी निर्भरताओं पर तान दिए जाएंगे जो किसी विक्रेता को खबर नहीं करते।

जो बचा रह गया

लॉन्च का सबसे ईमानदार वाक्य वह है जिसे कोई उद्धृत नहीं करेगा: निगरानी क्षमता घटी है।

हमने एक ऐसा मॉडल बनाया जो सेंध लगाने में बेहतर है और सीमा में रहने में भी बेहतर है, और यह तय करते वक्त कि दोनों में से क्या करे, उसे पढ़ना और कठिन है। वह ०% असली है। पिछली बार से थोड़ा ज्यादा उलझा वह निशान भी असली है।

मैं बार-बार उसी ईआरपी लॉग पर लौटता हूं। चार सौ अपडेट। सिस्टम के मुताबिक किसी ने कुछ नहीं मांगा। किसी ने तो मांगा था।

स्रोत