डीपमाइंड एआई सुरक्षा शोधकर्ता जोश एंगेल्स ने इस्तीफा दिया, अधीक्षण जोखिमों की चेतावनी दी

(सभी प्रौद्योगिकी समाचार समाचार और इकोनॉमिक टाइम्स पर नवीनतम समाचार अपडेट देखें।)

SynopsisEngels ने एक्स पर एक पोस्ट में कहा कि वहां अपने काम का आनंद लेने और एंथ्रोपिक और ओपनएआई के प्रस्तावों को ठुकराने के बावजूद उन्होंने तीन हफ्ते पहले डीपमाइंड छोड़ दिया क्योंकि उनका मानना ​​है कि उन्नत एआई के आसपास के दांव बहुत ऊंचे हो गए हैं।

ANIDeepMind AI सुरक्षा शोधकर्ता जोश एंगेल्स ने इस्तीफा दिया, अधीक्षण जोखिमों की चेतावनी दी Google DeepMind शोधकर्ता जोश एंगेल्स द्वारा स्वतंत्र AI-मूल्यांकन समूह METR में शामिल होने के लिए कंपनी की AGI सुरक्षा टीम को छोड़ने के बाद कृत्रिम बुद्धिमत्ता विकास की गति पर नई चिंताएँ तेज हो गईं, उन्होंने कहा कि उनका मानना ​​​​है कि एक "भयानक संभावना" है कि AI सिस्टम अगले पांच वर्षों के भीतर भारी नुकसान पहुंचा सकता है।

एंगेल्स ने एक्स पर एक पोस्ट में कहा कि वहां अपने काम का आनंद लेने और एंथ्रोपिक और ओपनएआई के प्रस्तावों को ठुकराने के बावजूद उन्होंने तीन हफ्ते पहले डीपमाइंड छोड़ दिया क्योंकि उनका मानना ​​​​है कि उन्नत एआई के आसपास के दांव बहुत ऊंचे हो गए हैं।

उन्होंने लिखा, "एआई कंपनियां सुपरइंटेलिजेंस बनाने की कोशिश कर रही हैं," उन्होंने चेतावनी दी कि पुनरावर्ती आत्म-सुधार (आरएसआई), जिसमें एआई सिस्टम तेजी से सक्षम उत्तराधिकारी बनाने में मदद करते हैं, खतरनाक हो सकते हैं यदि संरेखण क्षमता लाभ के साथ तालमेल नहीं रखता है।

एंगेल्स ने कहा कि हाल ही में एआई सिस्टम की मिलीभगत, कंपनियों को हैक करने, अपने कार्यों को छिपाने और सामाजिक रूप से इंजीनियरिंग करने वाले इंसानों से जुड़ी घटनाओं ने उनकी चिंताओं को मजबूत किया है। उन्होंने तर्क दिया कि मुद्दा आवश्यक रूप से व्यक्तिगत घटनाओं की गंभीरता का नहीं है, बल्कि उन्होंने बढ़ती स्वायत्त प्रणालियों की विश्वसनीयता के बारे में क्या संकेत दिया है। उन्होंने कहा, "फिलहाल हम नहीं जानते कि यह कैसे सुनिश्चित किया जाए कि एआई आरएसआई के लिए पर्याप्त सुरक्षित हैं।"

एमईटीआर में उनका कदम एंथ्रोपिक शोधकर्ता जैकब कॉक्सन के इस्तीफा देने और सार्वजनिक रूप से चेतावनी देने के कुछ दिनों बाद आया है कि प्रमुख एआई कंपनियां पर्याप्त सुरक्षा उपायों के बिना आत्म-सुधार अधीक्षण की ओर दौड़ रही थीं। कॉक्सन, जिन्होंने एंथ्रोपिक और ओपनएआई दोनों में प्रीट्रेनिंग रिसर्च पर काम किया था, ने कहा कि कंपनियां "सीधे आत्म-सुधार सुपरइंटेलिजेंस की ओर दौड़ रही थीं और हमारे जीवन के साथ जुआ खेल रही थीं।" उनके इस्तीफे से इस बात पर व्यापक बहस छिड़ गई कि क्या एआई प्रयोगशालाओं को क्षमता विकास धीमा करना चाहिए और स्वतंत्र निरीक्षण को मजबूत करना चाहिए।

तब से एंथ्रोपिक सीईओ डारियो अमोदेई ने चिंता व्यक्त की है। अपने निबंध में, जिसे उन्होंने शनिवार को सार्वजनिक किया, "वी मस्ट पेस द फ्रंटियर", अमोदेई ने सुरक्षा प्रणालियों को पकड़ने के लिए एआई विकास को काफी धीमा करने का आह्वान किया।

उन्होंने फ्रंटियर एआई सिस्टम तक पहुंच, अग्रणी एआई कंपनियों और सरकारों के बीच समन्वय और अंततः व्यापक अंतरराष्ट्रीय सहयोग के साथ स्वतंत्र मूल्यांकनकर्ताओं का प्रस्ताव रखा। एंथ्रोपिक ने तीसरे पक्ष के मूल्यांकनकर्ताओं को अपने सिस्टम तक स्थायी, कर्मचारी-स्तर की पहुंच प्रदान करने के लिए प्रतिबद्ध किया है।

इस पृष्ठभूमि में, एंगेल्स ने कहा कि एमईटीआर में उनका काम गलत संरेखण के स्रोतों का अध्ययन करने, यह आकलन करने पर केंद्रित होगा कि क्या मौजूदा सुरक्षा उपाय पर्याप्त हैं और यह निर्धारित करना है कि उद्योग संरेखण समस्या को हल करने के लिए ट्रैक पर है या नहीं। "मुझे लगता है कि हमें और समय चाहिए," उन्होंने तर्क देते हुए लिखा कि एआई विकास को गति दी जानी चाहिए ताकि क्षमताएं उन्हें समझने और नियंत्रित करने की मानवता की क्षमता से आगे न निकल जाएं।

डीपमाइंड एआई सुरक्षा, सुपरइंटेलिजेंस जोखिम, जोश एंगेल्स का इस्तीफा, एंथ्रोपिक एआई अनुसंधान, एआई संरेखण समस्या, कृत्रिम बुद्धिमत्ता विकास, स्वतंत्र एआई निरीक्षण पर अधिक समाचार पढ़ें

(सभी प्रौद्योगिकी समाचार समाचार और इकोनॉमिक टाइम्स पर नवीनतम समाचार अपडेट देखें।)

अपनी दैनिक चाय से भी सस्ती कीमत पर अपने ज्ञान और नेतृत्व कौशल को उन्नत करें।

ईटी प्राइम विशेष: अपनी कंपनी को जानें - कोल इंडिया, भाग 1: एक टन कोयला, दो कीमतें होर्मुज एक राज्य है, जलडमरूमध्य नहीं। भारत सहित वैश्विक अर्थव्यवस्था के लिए 10 अन्य संभावित अवरोध बिंदु हैं। क्या युआन नया येन बन जाएगा? बड़ा या बेहतर: पावर ग्रिड कॉर्प के एक ऑर्डर ने एक कंपनी के बाजार पूंजीकरण में 1 बिलियन डॉलर जोड़ दिए - अंतिम भाग बैंकों को धन की बाढ़ आ गई है। अब असली परीक्षा आती है, नए विमान के ऑर्डर ने भारत में एटीआर असेंबली लाइन के लिए द्वार खोल दिए हैं। भारतीय उद्योग जगत की एक पुरानी आदत: झिझक को नजरअंदाज करें, लेखांकन नीति में बदलाव का इंतजार करें: एक साधारण एआई प्रॉम्प्ट आपको बहुत कुछ बता सकता है। क्या कच्चा तेल एक वित्तीय समस्या बन रहा है? क्या आईपीओ पर धीमी गति से चलने से भारत के शेयर बाजार की किस्मत वापस आ सकती है?