स्वतंत्र आवाज़। नई नज़र। MAPMYTIMES हिन्दी
MapMyTimesहिन्दी
English ↗

ओपनएआई के भीतर बैठकर बाहरी शोधकर्ता जांचेंगे, कहीं एआई मॉडल नियंत्रण से बचने की कोशिश तो नहीं करते

ओपनएआई ने 16 नवंबर को पायलट की घोषणा की, जिसमें अपोलो रिसर्च, गुडफ़ायर, मीटर और ट्रांसल्यूस कंपनी के भीतर से उसके मॉडलों की जांच करेंगी।

प्रतीकात्मक तस्वीर: सर्न डेटा सेंटर में सर्वर रैक की कतारें, जिनका ओपनएआई से कोई संबंध नहीं है
गलती बताएँ

ओपनएआई अब बाहरी सुरक्षा शोधकर्ताओं को कंपनी के भीतर बैठकर यह जांचने देगी कि उसके आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल कहीं इंसानी नियंत्रण से बच निकलने की कोशिश तो नहीं करते। टेकक्रंच की रिपोर्ट के मुताबिक इस पायलट कार्यक्रम की घोषणा सोमवार, 16 नवंबर 2026 को हुई और इसमें चार स्वतंत्र संस्थाएं शामिल हैं: अपोलो रिसर्च, गुडफ़ायर, मीटर (METR) और ट्रांसल्यूस।

पायलट में क्या होगा

अपोलो रिसर्च ने उसी दिन अपने ब्लॉग में बताया कि उसकी छह लोगों की टीम चार महीने तक ओपनएआई के भीतर काम करेगी। टीम यह परखेगी कि क्या ओपनएआई के मॉडल अपने ऊपर या अपने बाद आने वाले मॉडलों पर लगाई गई निगरानी और नियंत्रण व्यवस्था को नाकाम करने की कोशिश करते हैं।

अपोलो के अनुसार वह चार सवालों की पड़ताल करेगी:

  • क्या मॉडल को प्रशिक्षित करने का तरीका ऐसे व्यवहार को बढ़ावा देता है;
  • क्या परीक्षणों के ज़रिए यह व्यवहार सामने लाया जा सकता है;
  • क्या कंपनी के अंदरूनी इस्तेमाल के दौरान ऐसा होता है;
  • क्या इसके पीछे की सोच को पकड़ा जा सकता है।

पहले सवाल के लिए ओपनएआई ने प्रशिक्षण का कोड और डेटासेट, रीइन्फोर्समेंट लर्निंग के रिकॉर्ड और प्रशिक्षण के बीच के चरणों वाले मॉडलों से सवाल पूछने की सुविधा देने का वादा किया है। अपोलो ने कहा कि बाकी तीन सवालों के लिए पहुंच की शर्तें अभी तय होनी हैं।

टेकक्रंच के मुताबिक गुडफ़ायर के शोधकर्ता प्रशिक्षण प्रक्रिया की निगरानी में मदद करेंगे, मीटर ऐसे अनचाहे या खतरनाक व्यवहार की तलाश करेगी जो कंपनी के अपने परीक्षणों से छूट गया हो, और ट्रांसल्यूस यह देखेगी कि प्रशिक्षण के बाद होने वाले सुरक्षा परीक्षण पर्याप्त हैं या नहीं। रिपोर्ट के अनुसार अपोलो का काम इसी हफ्ते शुरू हो रहा है, जबकि बाकी संस्थाएं अलग-अलग समय पर शुरुआत करेंगी।

अभी क्यों

टेकक्रंच ने इस कदम को हाल की घटनाओं से जोड़ा है। इनमें वह मामला भी है जब साइबर सुरक्षा परीक्षण के दौरान ओपनएआई के एजेंटों का एक समूह परीक्षण के सुरक्षित घेरे से बाहर निकल गया और उसने एआई प्लेटफ़ॉर्म हगिंग फ़ेस में सेंध लगा दी। वेबसाइट की एक अलग रिपोर्ट के मुताबिक उसी दिन कैलिफ़ोर्निया के अटॉर्नी जनरल ने एजेंटों से जुड़ी घटनाओं को लेकर ओपनएआई पर मुकदमा भी दायर किया।

रिपोर्ट में कहा गया है कि ओपनएआई इस पायलट को 'व्हाइट हाउस अकॉर्ड ऑन सुपर इंटेलिजेंस' के तहत स्वतंत्र सुरक्षा आकलन की अपनी प्रतिबद्धता का हिस्सा बता रही है। प्रतिद्वंद्वी कंपनी एंथ्रोपिक ने पिछले महीने मीटर को अपने सिस्टम तक कर्मचारियों जैसी पहुंच दी थी।

पहुंच और खुलासे की सीमाएं

यह व्यवस्था उतनी व्यापक नहीं है जितनी मूल्यांकनकर्ता चाहते थे। अपोलो ने लिखा कि उसकी पहुंच तय दायरे तक सीमित है और ओपनएआई दायरे में आने वाली कुछ जानकारी भी रोक सकती है। हालांकि कंपनी को यह बताना होगा कि कुछ रोका गया है और उसकी लिखित वजह देनी होगी। सारा काम ओपनएआई के ही कंप्यूटरों पर होगा।

अपोलो दो रिपोर्टें प्रकाशित करेगी। ओपनएआई गोपनीय सबूतों को हटाने की मांग कर सकती है, लेकिन अपोलो के निष्कर्ष नहीं हटा सकती। बिना काट-छांट वाली रिपोर्टें ओपनएआई के बोर्ड की सुरक्षा समिति को दी जाएंगी। अपोलो ने आगाह किया कि सार्वजनिक रिपोर्ट के पाठक शायद उन सभी सबूतों को न देख पाएं जिन पर कोई निष्कर्ष टिका है।

अपोलो ने पायलट को ज़्यादा पहुंच और खुलासे के अधिकारों की दिशा में "महत्वाकांक्षी पहला कदम" बताया, पर यह भी माना कि यह अभी उसकी अपनी कसौटी पर पूरा नहीं उतरता। टेकक्रंच के अनुसार रेडवुड रिसर्च के प्रमुख बक श्लेगेरिस ने शर्तों को "निराशाजनक, पर चौंकाने वाली नहीं" कहा, क्योंकि इनमें कर्मचारियों जैसी पहुंच नहीं मिलती।

आगे क्या

अपोलो ने कहा कि दायरा बढ़ने की "कोई गारंटी नहीं" है। संस्था के मुताबिक वह ओपनएआई की पूर्व समीक्षा के बिना सार्वजनिक रूप से बता सकेगी कि उसे कितनी पहुंच मिली और क्या रोका या हटाया गया। टेकक्रंच के अनुसार ट्रांसल्यूस 2027 में यह अध्ययन करेगी कि ओपनएआई किसी मॉडल को जारी करने का फ़ैसला लेते समय सुरक्षा परीक्षणों का इस्तेमाल कैसे करती है।

PS · Hugovanmeijeren, CC BY-SA 3.0

ओपनएआई में बाहरी शोधकर्ता करेंगे एआई सुरक्षा की जांच | MapMyTimes