5 मिनट पहले
- कॉपी लिंक
न्यूयॉर्क में बुधवार को संयुक्त राष्ट्र सुरक्षा परिषद की बैठक में ओपनएआई के सीईओ सैम ऑल्टमैन।
चैटजीपीटी बनाने वाली कंपनी ओपनएआई के AI एजेंट्स ने अमेरिकी सरकार की वेबसाइट में छेड़छाड़ की। साथ ही शिक्षा विभाग की वेबसाइट में घुसने की कोशिश की और सरकारी डेटा भी एक्सेस किया।
दो दिन दिन पहले खुलासा हुआ था इन AI एजेंट्स ने ऑस्ट्रेलिया की सरकारी वेबसाइट का भी एक्सेस हासिल कर लिया था।
AI एजेंट ने डेटा की कॉपी बनाकर इंटरनेट पर पोस्ट की
AI एजेंट्स ने अमेरिकी शेयर बाजार नियामक SEC के डेटा की कॉपी बनाई और उसे इंटरनेट पर पोस्ट कर दिया, जबकि उन्हें ऐसा न करने के साफ निर्देश दिए गए थे।
कॉमर्स डिपार्टमेंट के मामले में एआई एजेंट ने यूएस सेन्सस डेटा वेबसाइट को ऐसे प्रोग्रामिंग इंटरफेस से एक्सेस किया, जो उस काम के लिए नहीं बनाया गया था। AI एजेंट ने शिक्षा मंत्रालय की वेबसाइट में भी घुसने का प्रयास किया। हालांकि, वो इसमें कामयाब नहीं हो सके।
सरकारी एजेंसियां बोलीं- कोई संवेदनशील डेटा लीक नहीं
मामला सामने आने के बाद अमेरिकी एजेंसियों ने सफाई दी है। शेयर बाजार नियामक SEC के प्रवक्ता ने कहा कि एआई एजेंट्स ने किसी भी नॉन-पब्लिक या गोपनीय डेटा को एक्सेस नहीं किया।
एजुकेशन डिपार्टमेंट के प्रवक्ता ने बताया कि डेटाबेस को कोई नुकसान नहीं हुआ हैं। वहीं, कॉमर्स डिपार्टमेंट की ओर से इस पर तुरंत कोई बयान नहीं आया है।
कंपनी बोली- भरोसेमंद जानकारी के लिए सरकारी साइट्स पर गए थे
ओपनएआई ने बताया कि यह गड़बड़ी तब हुई जब उनके एआई सिस्टम की ट्रेनिंग चल रही थी। ट्रेनिंग के दौरान एआई से कई सवाल पूछे गए थे। एआई मॉडल भरोसेमंद जानकारी के लिए सरकारी वेबसाइटों पर ही जाते हैं, इसलिए वह खुद-ब-खुद उन साइट्स पर गए।
कंपनी का कहना है कि एआई का मकसद कोई गड़बड़ करना नहीं, बल्कि सरकारी साइट्स से आम जानकारी जुटाना ही था। ये एक सामान्य रिसर्च का काम है।
एआई को बेकाबू होने से रोकने के लिए ‘किल स्विच’ की बात हो रही
कई देश और एक्सपर्ट चाहते हैं कि एआई कंपनियों के लिए एक इमरजेंसी ‘किल स्विच’ बनाया जाए, जिससे खतरा दिखने पर पूरे एआई को एक झटके में बंद किया जा सके।
ओपनएआई ऐसे ऑटोमेटेड टूल्स तैयार करने में जुटी है, लेकिन एक्सपर्ट्स के अनुसार, दुनिया भर के नेटवर्क से जुड़े AI को किसी एक स्विच से बंद करना लगभग नामुमकिन है।
भविष्य के खतरों पर एआई विशेषज्ञों का क्या कहना है?
यूनिवर्सिटी ऑफ न्यू साउथ वेल्स के डॉ. हैमंड पिएर्स ने चेतावनी दी है कि ऐसे मामले आगे चलकर और खतरनाक हो सकते हैं। ये सरकारों के लिए खतरे की बड़ी घंटी है।
वहीं यूनिवर्सिटी ऑफ सिडनी के डॉ. राफेल सिरिएलो ने कहा कि इस बार कोई बड़ा नुकसान नहीं हुआ है, लेकिन एआई लगातार ताकतवर होता जा रहा है। इसकी 24 घंटे निगरानी जरूरी है। किसी भी गड़बड़ी की तुरंत रिपोर्टिंग को अनिवार्य करना होगा।
———————————–
AI से जुड़ी ये खबर भी पढ़ें…
गेट्स बोले-AI के गलत इस्तेमाल से 100 करोड़ मौतें संभव:अमेरिकी सरकार इस पर कानून बनाए; ऑस्ट्रेलिया में AI सरकारी पोर्टल हैक कर चुका
माइक्रोसॉफ्ट के सह-संस्थापक बिल गेट्स ने चेतावनी दी है कि गलत हाथों में आर्टिफिशियल इंटेलिजेंस यानी AI इतना ताकतवर हो सकता है कि इससे 100 करोड़ लोगों की मौत तक हो सकती है।
एक इंटरव्यू में गेट्स ने कहा कि बुरे इरादे वाले लोगों के साथ AI टूल्स का मेल अब तक के किसी भी हथियार से ज्यादा खतरनाक हो सकता है। उन्होंने खतरे को गंभीरता से लेने को कहा है। पूरी खबर पढ़ें…
