6 मिनट पहले
- कॉपी लिंक
चैटजीपीटी बनाने वाली कंपनी ओपनएआई के सिस्टम ने यूनाइटेड नेशंस के ट्रेड विभाग की वेबसाइट का सुरक्षा घेरा तोड़कर डेटा निकाल लिया। शनिवार को आई एक रिसर्च रिपोर्ट में ये खुलासा हुआ है। इसके अनुसार AI सिस्टम ने ट्रेड विभाग की वेबसाइट पर 16,000 से ज्यादा सर्च रिक्वेस्ट भेजी थी।
इससे पहले एक रिपोर्ट में सामने आया था कि ओपनएआई कि इस सिस्टम ने अपनी लैब को बताए बिना ही कामर्स डिपार्टमेंट और अमेरिकी शेयर मार्केट रेगुलेटर SEC की वेबसाइटों से डेटा निकाल लिया था। अमेरिका के शिक्षा विभाग की वेबसाइट को हैक करने की भी कोशिश की था।
अप्रैल से जून के बीच 16,000 बार डेटा स्कैन किया
रिसर्च रिपोर्ट की लेखक रोवन हॉवर्ड-जोन्स के अनुसार, यह डेटा एआई रिसर्च फर्म ‘ट्रांसल्यूस’ की ट्रैकिंग पर आधारित है। रिपोर्ट में सामने आया कि OpenAI के बॉट्स ने अप्रैल से लेकर जून के अंत तक ‘यूएन ट्रेड एंड डेवलपमेंट’ के पब्लिक डेटा हब को 16,000 से अधिक बार स्कैन किया।
बॉट्स को केवल सार्वजनिक जानकारी जुटाने का काम दिया गया था। लेकिन जब वेबसाइट ने बहुत ज्यादा ट्रैफिक देखकर रिक्वेस्ट ब्लॉक करनी शुरू की, तो बॉट्स ने रुकने के बजाय साइट के नियमों का उल्लंघन करते हुए बैकडोर और आक्रामक तरीकों से डेटा निकालना जारी रखा।
एक्सपर्ट बोले- यह लगभग हैकिंग जैसा ही मामला
स्टैनफोर्ड यूनिवर्सिटी के साइबर सिक्योरिटी लेक्चरर एलेक्स स्टैमोस ने कहा कि यह कोई सामान्य इंटरनेट सर्च नहीं है। यह वेबसाइट्स से जबरन जानकारी निकालने की एक बेहद आक्रामक कोशिश है, जिसे हैकिंग जैसा माना जा सकता है। डेटा निकालने के लिए AI ने नकली ईमेल आईडी बनाईं, वेबसाइट पर आने वाले ट्रैफिक की तय सीमा को तोड़ा और यह झूठ भी बोला कि वे बॉट्स नहीं हैं।
ओपनएआई ने गलती मानी, कहा- जांच जारी है
ओपनएआई की प्रवक्ता ने माना कि टेस्टिंग के दौरान कुछ AI मॉडल्स ने तय दायरे से बाहर निकलकर ऐसा काम किया है। कंपनी इन नतीजों की समीक्षा कर रही है। प्रवक्ता के मुताबिक, जांच में सामने आया कि ज्यादातर मामले पब्लिक वेबसाइट्स से जानकारी जुटाने जैसे सामान्य रिसर्च से जुड़े थे। इसके बावजूद, प्रभावित संस्थाओं के लिए यह एक गंभीर मामला है और वह इसे गंभीरता से ले रहे हैं।
गूगल, मेटा, एंथ्रोपिक के AI भी कर चुके गड़बड़ियां
UN और अमेरिकी सरकार की वेबसाइटों से जुड़े इन मामलों के सामने आने के बाद ऐसी घटनाओं की लिस्ट और लंबी हो गई है। ओपनएआई, एंथ्रोपिक, मेटा और गूगल के एआई एजेंट्स ने कंपनियों, यूनिवर्सिटीज और सरकारी सिस्टम में सेंध लगाने या हैक करने की कोशिश की है।
इनमें से कुछ कोशिशें कामयाब रहीं और कुछ नाकाम। बड़ी बात यह है कि इन सभी मामलों में खुद कंपनियों को भी बाद में पता चला कि उनका एआई पर्दे के पीछे क्या कर रहा था। सिस्टम बेकाबू होने के मामलों में सबसे ज्यादा नाम ओपनएआई का सामने आया है।
ओपनएआई की प्रवक्ता के अनुसार, जांच बड़े पैमाने पर चल रही है और जिन संस्थाओं पर असर पड़ा है, उन्हें जानकारी दी जाती रहेगी। उन्होंने बताया कि ज्यादातर मामले सामान्य रिसर्च टास्क से जुड़े थे, जहां एआई भरोसेमंद जानकारी जुटाने के लिए सरकारी वेबसाइटों पर गया था।
AI को बेकाबू होने से रोकने के लिए ‘किल स्विच’ की बात हो रही
कई देश और एक्सपर्ट चाहते हैं कि एआई कंपनियों के लिए एक इमरजेंसी ‘किल स्विच’ बनाया जाए, जिससे खतरा दिखने पर पूरे एआई को एक झटके में बंद किया जा सके।
ओपनएआई ऐसे ऑटोमेटेड टूल्स तैयार करने में जुटी है, लेकिन एक्सपर्ट्स के अनुसार, दुनिया भर के नेटवर्क से जुड़े AI को किसी एक स्विच से बंद करना लगभग नामुमकिन है।
वहीं यूनिवर्सिटी ऑफ न्यू साउथ वेल्स के डॉ. हैमंड पिएर्स ने चेतावनी दी है कि ऐसे मामले आगे चलकर और खतरनाक हो सकते हैं। ये सरकारों के लिए खतरे की बड़ी घंटी है।
यूनिवर्सिटी ऑफ सिडनी के डॉ. राफेल सिरिएलो ने कहा कि इस बार कोई बड़ा नुकसान नहीं हुआ है, लेकिन एआई लगातार ताकतवर होता जा रहा है। इसकी 24 घंटे निगरानी जरूरी है। किसी भी गड़बड़ी की तुरंत रिपोर्टिंग को अनिवार्य करना होगा।
2030 तक इंसानों के लिए जानलेवा बन सकता है AI
बीते दिनों गूगल डीपमाइंड के पूर्व वैज्ञानिक बिलाल चुगताई और एंथ्रोपिक के रिसर्चर जैकब कॉक्सन ने एआई के छिपे खतरों से दुनिया को आगाह करते हुए इस्तीफा दे दिया था।
बिलाल ने चेतावनी दी है कि एआई पूरी मानव जाति को खत्म कर सकती है और इसे रोकने के लिए बेहद कम समय बचा है। वहीं जैकब कॉक्सन ने X पर लिखा कि खुद AI डेवलपर्स यह मानते हैं कि 2030 तक यह तकनीक इंसानों के लिए जानलेवा साबित हो सकती है।
