ओपनएआई ने सोमवार, 16 नवंबर को बाल यौन शोषण सामग्री (सीएसएएम) के खिलाफ कई कदमों की घोषणा की। इनमें एक नया इमेज क्लासिफायर शामिल है, जिसे कंपनी जांची-परखी संस्थाओं को मुफ्त देगी, और चैटजीपीटी में चेतावनी की ऐसी व्यवस्था भी, जिसमें बच्चों से जुड़ी यौन सामग्री मांगने की कोशिश पर खाता 24 घंटे के लिए रोक दिया जाएगा।
टेकक्रंच और डिजिट की रिपोर्टों के अनुसार कंपनी ने अपने मॉडल पर ऐप बनाने वाले डेवलपरों के लिए दिशानिर्देश और बाल सुरक्षा से जुड़े जांचकर्ताओं के लिए टूल भी जारी किए हैं।
क्लासिफायर क्या करता है
यह क्लासिफायर शोषण वाली तस्वीरों की पहचान के लिए बनाया गया है, जिनमें आर्टिफिशियल इंटेलिजेंस से बनी तस्वीरें भी शामिल हैं। टेकक्रंच के मुताबिक यह केवल उन तस्वीरों का मिलान नहीं करता जो जांच एजेंसियों के पास पहले से दर्ज हैं, बल्कि नई तस्वीरों में भी शोषण के दृश्य संकेत खोजता है और एक स्कोर देता है, जिससे समीक्षा करने वाले लोग तय कर पाते हैं कि किस तस्वीर को पहले देखना है।
ओपनएआई ने यह टूल अमेरिका की संस्था नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (एनसीएमईसी) के साथ मिलकर तैयार किया है। चुनी हुई संस्थाएं इसे ओपनएआई के एपीआई के जरिए बिना किसी शुल्क के इस्तेमाल कर सकती हैं। पहुंच बढ़ाने के लिए कंपनी उद्योग संगठनों टेक कोएलिशन और रूस्ट के साथ काम कर रही है।
कंपनी ने शुरुआती परीक्षण के जो आंकड़े साझा किए, उनके अनुसार क्लासिफायर ने समीक्षा के लिए 48 प्रतिशत कम तस्वीरें चिह्नित कीं, जबकि शोषण वाली तस्वीरें लगभग उतनी ही पकड़ी गईं। जिन तस्वीरों को इसने चिह्नित किया, उनके शोषण सामग्री होने की संभावना दोगुनी थी। ये आंकड़े कंपनी के अपने हैं और स्वतंत्र रूप से प्रकाशित नहीं हुए हैं।
डिजिट के अनुसार ओपनएआई का दावा है कि यह व्यापक रूप से उपलब्ध पहला सीएसएएम क्लासिफायर है, जो यह भी बता सकता है कि तस्वीर एआई से बनी हो सकती है या नहीं।
चैटजीपीटी में चेतावनी और 24 घंटे की रोक
चैटजीपीटी ऐसी सामग्री और उससे जुड़े अनुरोधों को पहले से रोकता है। नई व्यवस्था में बच्चों को यौन रूप में दिखाने वाले प्रॉम्प्ट की कोशिश करने पर उपयोगकर्ता को चेतावनी दिखाई जाएगी और उसे ऐसी विशेषज्ञ सहायता की ओर भेजा जाएगा जो इस व्यवहार को छोड़ने में मदद करती है। चिह्नित चैट हटा दी जाएंगी और खाता 24 घंटे के लिए रोक दिया जाएगा।
डिजिट ने ओपनएआई के हवाले से लिखा कि चेतावनी में साफ बताया जाता है कि बच्चों का यौन चित्रण नुकसान पहुंचाता है, भले ही मांगी गई सामग्री एआई से बनी हो।
दोनों रिपोर्टों के अनुसार बार-बार उल्लंघन करने पर लंबी पाबंदी लग सकती है, खाता स्थायी रूप से हटाया जा सकता है या मामले की सूचना अधिकारियों को दी जा सकती है।
टेकक्रंच के मुताबिक चेतावनी संदेश बाल संरक्षण संस्थाओं प्रोटेक्ट चिल्ड्रन और लूसी फेथफुल फाउंडेशन तथा यूनिवर्सिटी ऑफ तस्मानिया के जोएल स्कैनलन के साथ मिलकर तैयार किए गए। स्कैनलन ने ऐसे निवारक संदेशों के एक परीक्षण का स्वतंत्र मूल्यांकन किया था।
डेवलपर और जांचकर्ता
ओपनएआई डेवलपरों के लिए दिशानिर्देश प्रकाशित कर रही है, जिनमें ऐसी सामग्री को रोकने, पहचानने और उपयोगकर्ताओं को शिकायत में मदद करने के तरीके बताए गए हैं। टेकक्रंच के अनुसार शुरुआती परीक्षण में इन दिशानिर्देशों की मदद से कुछ डेवलपरों ने बाल सुरक्षा टूल अपनाए और एनसीएमईसी को रिपोर्ट भेजने के लिए पंजीकरण कराया।
कानून प्रवर्तन एजेंसियों के लिए कंपनी एआई आधारित सुविधाएं दे रही है, जिनमें विशेष प्लग-इन, जांच के टूल और डेटा विश्लेषण शामिल हैं। इन तक पहुंच कार्यक्रम के प्रशासक नियंत्रित करेंगे। जांचकर्ताओं के लिए प्रशिक्षण और एक फील्ड गाइड भी दी जाएगी।
पृष्ठभूमि
टेकक्रंच ने लिखा कि यह घोषणा ऐसे समय हुई है जब ओपनएआई पर कई मुकदमे चल रहे हैं, जिनमें आरोप है कि उसकी तकनीक ने उपयोगकर्ताओं, खासकर बच्चों, को नुकसान पहुंचाया। रिपोर्ट के अनुसार संस्था कॉमन सेंस मीडिया ने कंपनी की तकनीक को किशोरों के लिए "अस्वीकार्य जोखिम" बताया है और दूसरे चैटबॉट का इस्तेमाल बिना सहमति की यौन तस्वीरें बनाने में हुआ है।
रिपोर्ट के मुताबिक पिछले 12 महीनों में ओपनएआई ने बाल सुरक्षा ब्लूप्रिंट जारी किया, सामग्री संबंधी दिशानिर्देश बदले और किशोरों के लिए चैटजीपीटी का अलग संस्करण शुरू किया। चुनी हुई संस्थाओं के अलावा क्लासिफायर सबके लिए कब उपलब्ध होगा, इसकी तारीख कंपनी ने नहीं बताई है।




