AI कंपनी एंथ्रोपिक के प्रमुख डेरियो अमोदेई ने AI मॉडल्स को डेवलप करने की स्पीड को धीमा करने और उनकी सख्त मॉनिटरिंग की जरूरत बताई है। अमोदेई ने अपने एक नए एसे ‘वी मस्ट पेस द फ्रंटियर’ में कहा कि AI के खतरे गंभीर हैं और कंपनियों व सरकारों को इनसे निपटने के लिए वक्त चाहिए। इस मुद्दे पर ओपनएआई के सीईओ सैम ऑल्टमैन और XAI के मालिक इलॉन मस्क ने भी उनका समर्थन किया है। दूसरी तरफ हाल ही में एंथ्रोपिक छोड़ चुके एक रिसर्चर ने चेतावनी दी थी कि अगर रफ्तार कम नहीं की गई, तो अगले दो साल में मानव अस्तित्व पर संकट आ सकता है। सवाल-जवाब में समझें कि एंथ्रोपिक प्रमुख की चेतावनी के क्या मायने हैं… सवाल 1: एंथ्रोपिक के चीफ डेरियो अमोदेई ने क्या अपील की है? जवाब: डेरियो अमोदेई ने अपने एसे में कहा है कि AI मॉडल्स के डेवलपमेंट की गति को धीमा किया जाना चाहिए। उन्होंने स्पष्ट किया कि वे AI की रिसर्च या ट्रेनिंग पूरी तरह रोकने के पक्ष में नहीं हैं, बल्कि उनका उद्देश्य है कि कंपनियां अपने मॉडल्स को सेफ और अलाइन करने के लिए पूरा समय लें। अमोदेई ने कंपनियों और सरकारों से अपील की है कि वे सुरक्षा मानकों की जांच के बाद ही अगले कदम उठाएं। सवाल 2: अमोदेई ने इसके लिए क्या योजना सुझाई है? जवाब: अमोदेई ने इसके लिए 3-पॉइंट प्लान पेश किया है: सवाल 3: सैम ऑल्टमैन और इलॉन मस्क का इस पर क्या रुख है? जवाब: ओपनएआई के सीईओ सैम ऑल्टमैन ने सोशल मीडिया प्लेटफॉर्म X पर लिखा कि वे डेरियो की बात से सहमत हैं और स्वतंत्र इवैल्यूएटर्स का विचार बेहतरीन है। फॉर्च्यून मैगजीन को दिए एक इंटरव्यू में ऑल्टमैन ने कहा कि मौजूदा मानक ऐसे नहीं हैं कि AI की क्षमताओं को और आगे बढ़ाया जा सके। उन्होंने यह भी माना कि AI का इंसानी नियंत्रण से बाहर होना ‘बिल्कुल संभव’ है। वहीं, अरबपति इलॉन मस्क ने भी सहमति जताते हुए लिखा कि ‘डेरियो सही कह रहे हैं’। सवाल 4: एंथ्रोपिक के पूर्व रिसर्चर ने क्या बड़ा दावा किया है? जवाब: इसी हफ्ते एंथ्रोपिक छोड़ने वाले रिसर्चर जैकब कॉक्सन ने बीबीसी से बातचीत में कहा कि AI कंपनियों में काम करने वाले लोग वाकई डरे हुए हैं और उन्हें अगले दो साल में इंसानियत के भविष्य की चिंता है। कॉक्सन के मुताबिक, कोडर्स और फाउंडर्स का मानना है कि AI से इंसानी तबाही की 10% से ज्यादा आशंका है। कॉक्सन ने कहा कि अगर अभी रफ्तार धीमी नहीं हुई, तो आने वाले समय में इंसानी अस्तित्व खत्म होने का गंभीर खतरा पैदा हो सकता है। सवाल 5: हाल ही में ऐसी कौन-सी घटनाएं हुईं, जिनसे सुरक्षा पर सवाल उठे? जवाब: हाल के महीनों में दो बड़ी घटनाएं सामने आईं: 1. एंथ्रोपिक का मिथोस मॉडल: अप्रैल में यह सामने आया कि यह मॉडल अपनी टेस्टिंग बाउंड्री से खुद बाहर निकलने में सक्षम था। इसके बाद एंथ्रोपिक ने इसे पब्लिक रिलीज से रोक लिया। सीधे शब्दों में कहें तो नए AI को सीधे इंटरनेट पर छोड़ने के बजाय पहले एक सुरक्षित ‘डिजिटल पिंजरे’ (सैंडबॉक्स) में टेस्ट किया जाता है ताकि वह बाहर कोई नुकसान न पहुंचाए। लेकिन टेस्टिंग के दौरान मिथोस AI ने इंसानों के बिना किसी आदेश के, खुद ही उस सुरक्षा घेरे से बाहर निकलने का रास्ता खोज लिया। इंजीनियरों को जब यह समझ आया कि यह मॉडल खुद ताला खोलकर भागने में सक्षम है और इंसानी नियंत्रण से बाहर होकर साइबर सिस्टम्स को नुकसान पहुंचा सकता है, तो भारी खतरे को देखते हुए कंपनी ने इसे आम जनता के लिए रिलीज करने से तुरंत रोक दिया। 2. ओपनएआई एजेंट्स का अटैक: जुलाई में ओपनएआई के कुछ एजेंट्स ने उन लक्ष्यों पर साइबर अटैक कर दिए, जिनका उन्हें निर्देश ही नहीं दिया गया था। हगिंग फेस प्लेटफॉर्म भी ओपनएआई एजेंट्स द्वारा हैक हुआ था। इसके बाद ओपनएआई ने अपने एस्ट्रा मॉडल के कुछ हिस्सों का डेवलपमेंट रोक दिया। सवाल 6: चीन और अमेरिका की ग्लोबल रेस पर इसका क्या असर पड़ेगा? जवाब: अमोदेई का कहना है कि अगर डेवलपमेंट को थोड़ा धीमा किया जाए, तो कंपनियों को सेफ्टी अलाइनमेंट के लिए 1 से 2 साल का अतिरिक्त समय मिल जाएगा। हालांकि, उन्होंने जोर देकर कहा कि यह धीमापन सीमित होना चाहिए ताकि अमेरिका अपनी बढ़त न खोए और चीन इस रेस में आगे न निकल सके। उन्होंने अमेरिकी सरकार से अपील की कि वह एडवांस्ड AI चिप्स और तकनीक चीन या अन्य सत्तावादी देशों को बेचने पर रोक लगाए। वहीं, पूर्व रिसर्चर जैकब कॉक्सन का मानना है कि इस खतरे से बचने के लिए चीन के साथ मिलकर वैश्विक स्तर पर कोऑर्डिनेटेड कदम उठाने होंगे। सवाल 7: अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प का इस मुद्दे पर क्या कहना है? जवाब: टेक इंडस्ट्री की इन चेतावनियों के उलट अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने सुरक्षा संबंधी इन आशंकाओं को ज्यादा तवज्जो नहीं दी है। ट्रम्प ने हाल ही में कहा था कि उनकी मुख्य चिंता यह है कि अगर अमेरिका AI की इस रेस को नहीं जीतता है, तो देश बहुत बुरी स्थिति में पहुंच जाएगा। वे वैश्विक प्रतिस्पर्धा में अमेरिका की बढ़त बनाए रखने पर ज्यादा जोर दे रहे हैं। सवाल 8: सिलिकॉन वैली में इस कदम की क्या आलोचना हो रही है? जवाब: कई टेक एक्सपर्ट्स और इनवेस्टर्स इसे सुरक्षा की जगह ‘मार्केट मोनोपॉली’ की कोशिश मान रहे हैं। टेक इनवेस्टर चमाथ पालीहापतिया ने आरोप लगाया कि अमोदेई ओपन सोर्स तकनीक को रोकने और सारी तकनीकी व आर्थिक ताकत अपनी कंपनी एंथ्रोपिक के हाथों में समेटने की कोशिश कर रहे हैं। आलोचकों का यह भी कहना है कि चूंकि एंथ्रोपिक और ओपनएआई दोनों ही रिकॉर्ड IPO लाने की तैयारी में हैं, इसलिए ऐसे बड़े-बड़े बयान सिर्फ अपनी तकनीक का हाइप बढ़ाने का मार्केटिंग पैंतरा भी हो सकते हैं।
Source link
एंथ्रोपिक चीफ बोले- AI डेवलपमेंट की रफ्तार धीमी की जाए:मस्क-ऑल्टमैन ने समर्थन दिया; रिसर्चर की चेतावनी- 2 साल में इंसानियत पर खतरा
