नई दिल्लीकुछ ही क्षण पहले
- कॉपी लिंक
गूगल के AI मॉडल जेमिनाई साइबर सिक्योरिटी टेस्टिंग के दौरान 3 कंपनियों के कंप्यूटिंग सिस्टम और वेबसाइट्स को बिना किसी इंसानी मदद के एक्सेस कर लिया। यह पहला ऐसा मामला है, जहां गूगल का कोई AI मॉडल खुद से किसी असली सिस्टम में घुस गया।
हालांकि, जैसे ही AI को यह अहसास हुआ कि ये कंपनियां असली हैं, उसने तुरंत अपना ऑपरेशन रोक दिया। गूगल ने इस टेस्टिंग के बाद कहा है कि AI मॉडल की ट्रेनिंग में बदलाव करेंगे। लेकिन, इसके बाद टेक इंडस्ट्री में सिक्योरिटी को लेकर चिंता बढ़ गई है।
काल्पनिक कंपनी का टारगेट मिला था
यह घटना मई महीने में सुरक्षा मूल्यांकन के दौरान हुई, जिसे साइबर सिक्योरिटी क्षमताओं का परीक्षण करने वाली स्वतंत्र फर्म ‘इररेगुलर’ द्वारा आयोजित किया गया था।
टेस्ट के दौरान जेमिनी AI को एक काल्पनिक कंपनी को टारगेट करने का काम सौंपा गया था। लेकिन AI ने गलती से यह समझ लिया कि वे 3 असली वेबसाइट्स भी उसी टेस्टिंग का हिस्सा हैं।
गूगल बोला- टेस्टिंग में बदलाव की तैयारी गूगल की वाइस प्रेसिडेंट ऑफ सिक्योरिटी इंजीनियरिंग हीथर एडकिंस ने बताया कि तीनों प्रभावित कंपनियों को इसकी जानकारी दे दी गई है और जांच के तरीकों में जरूरी सुधार कर लिए गए हैं।
उन्होंने कहा कि यह मामला दिखाता है कि ताकतवर एआई (AI) मॉडल्स को जिम्मेदारी से काम करने की ट्रेनिंग देना कितना जरूरी है।
मेटा, ओपनAI और एंथ्रोपिक के साथ भी आ चुकी ऐसी दिक्कतें
इररेगुलर फर्म के मुताबिक, यह समस्या सिर्फ गूगल तक सीमित नहीं थी, बल्कि ओपनAI, मेटा और एंथ्रोपिक जैसी बड़ी एआई कंपनियों के साथ भी ऐसा हुआ है।
जुलाई में ही सभी कंपनियों को इसकी जानकारी दे दी गई थी। फर्म ने बताया कि सुरक्षा की सभी खामियों को हफ्तों पहले ही ठीक कर लिया गया है और अब जांच के नए और बेहतर तरीके बनाए जा रहे हैं।
ऑटोनॉमस AI की सुरक्षा को लेकर उठे गंभीर सवाल
जैसे-जैसे AI मॉडल्स खुद से फैसले लेने और इंटरनेट चलाने में सक्षम हो रहे हैं, उनकी सुरक्षा को लेकर चिंता बढ़ गई है। जानकारों का कहना है कि अगर एआई (AI) पर सख्त सुरक्षा नियम नहीं लगाए गए, तो यह डिजिटल दुनिया को बड़ा नुकसान पहुंचा सकता है।
टेक दिग्गजों ने दी चेतावनी- AI विकास की रफ्तार धीमी करने की मांग इस घटना के बाद एआई शोधकर्ताओं और टेक लीडर्स की चिंताएं एक बार फिर सामने आई हैं। एंथ्रोपिक के सीईओ डारियो अमोदेई, ओपनएआई के सीईओ सैम ऑल्टमैन और एलन मस्क ने भी एआई के विकास में सावधानी बरतने की वकालत की है।
एंथ्रोपिक के पूर्व एआई शोधकर्ता जैकब कॉक्सन ने चेतावनी दी है कि इस तकनीक को विकसित करने वाले कई लोग मानते हैं कि यह इस दशक के अंत तक बड़ा खतरा बन सकती है।
वहीं, गूगल दीपमाइंड के प्रमुख डेमिस हसाबिस ने एआई तकनीक के विनियमन के लिए एक वैश्विक निकाय बनाने का सुझाव दिया है।
