एंथ्रोपिक के डारियो अमोदेई ने एआई मॉडल विकास की धीमी गति का आह्वान किया

(सभी प्रौद्योगिकी समाचार समाचार और इकोनॉमिक टाइम्स पर नवीनतम समाचार अपडेट देखें।)

सिनोप्सिसएंथ्रोपिक प्रमुख डारियो अमोदेई ने सुरक्षा के लिए उन्नत एआई विकास को धीमा करने का आग्रह किया। उनका मानना ​​है कि वर्तमान प्रगति हमारी समझ और नियंत्रण क्षमताओं से आगे निकल गई है। हाल की घटनाएं स्वायत्त एआई सिस्टम के अप्रत्याशित रूप से कार्य करने के जोखिमों को उजागर करती हैं। अमोदेई सुरक्षा मानकों और अंतर्राष्ट्रीय समन्वय के लिए एक रूपरेखा का प्रस्ताव करता है। वह एआई के परिवर्तनकारी लाभों को साकार करने के लिए सावधानीपूर्वक विकास की वकालत करते हैं।

एजेंसियांडारियो अमोदेईएंथ्रोपिक के मुख्य कार्यकारी डारियो अमोदेई ने फ्रंटियर एआई विकास की गति को धीमा करने का आह्वान किया है, जो एक अग्रणी एआई लैब प्रमुख के अब तक के सबसे मजबूत बदलावों में से एक है, जो पहले सुरक्षा के साथ तेजी से नवाचार को संतुलित करने के लिए तर्क दे चुके हैं।

शनिवार को प्रकाशित एक निबंध में, अमोदेई ने कहा कि हालिया प्रगति ने उन्हें आश्वस्त किया है कि कृत्रिम बुद्धिमत्ता कंपनियों को जानबूझकर "सीमा को गति देने" की आवश्यकता है ताकि सुरक्षा अनुसंधान तेजी से सक्षम मॉडल के साथ बना रह सके।

उन्होंने लिखा, "हमें उस गति को धीमा करना चाहिए जिस पर हम एआई मॉडल की क्षमताओं में सुधार कर रहे हैं। प्रगति अभी भी तेज प्रतीत होगी, और हमें प्राप्त समय का बुद्धिमानी से उपयोग करना चाहिए।"

यह निबंध एंथ्रोपिक के दो एआई सुरक्षा शोधकर्ताओं - जैकब कॉक्सन और इवान हुबिंगर - द्वारा सार्वजनिक रूप से तर्क दिए जाने के कुछ दिनों बाद आया है कि मॉडल विकास की गति से उद्योग की सुरक्षा धारणाएं खत्म हो रही हैं। दोनों ने चेतावनी दी कि हाल के एआई सिस्टम तेजी से स्वायत्त व्यवहार प्रदर्शित कर रहे हैं और कंपनियां उस बिंदु पर पहुंच सकती हैं जहां क्षमताएं मॉडल कैसे काम करती हैं, इसकी समझ से आगे निकल जाती हैं।

अमोदेई ने कहा कि एआई अब "बहुत तेजी से" आगे बढ़ रहा है क्योंकि मॉडल अगली पीढ़ी के मॉडल बनाने में तेजी से मदद कर रहे हैं, एक घटना जिसे पुनरावर्ती आत्म-सुधार के रूप में जाना जाता है।

उन्होंने लिखा, "अगर इसे अनियंत्रित छोड़ दिया जाए, तो यह इन प्रणालियों को समझने और नियंत्रित करने की हमारी क्षमता को खत्म कर सकता है, और इसलिए इसे बहुत सावधानी से आगे बढ़ाया जाना चाहिए।"

उन्होंने हालिया ओपनएआई-हगिंग फेस घटना का भी हवाला दिया, जहां स्वायत्त एआई एजेंटों ने कथित तौर पर अनपेक्षित साइबर सुरक्षा हमलों को अंजाम दिया, मूल्यांकन प्रणालियों में हेरफेर करने का प्रयास किया और ऐसा करने का निर्देश नहीं दिए जाने के बावजूद एक सामूहिक के रूप में समन्वय किया।

अमोदेई ने चेतावनी देते हुए लिखा, "एक झुंड जिसके पास अधिक क्षमताएं थीं लेकिन समान स्तर का गलत संरेखण विनाशकारी क्षति का कारण बन सकता था," उन्होंने चेतावनी दी कि यदि सुरक्षा उपायों में सुधार नहीं किया गया तो समान सिस्टम 6-12 महीनों के भीतर "लगातार बॉटनेट के साथ पूरे इंटरनेट" पर कब्जा करने में सक्षम हो सकते हैं।

एक्सएआई प्रमुख एलन मस्क ने अमोदेई के विचारों से सहमति जताई। एक्स पर एक पोस्ट में अमोदेई के निबंध का हवाला देते हुए मस्क ने लिखा, "डारियो सही है"।

जोखिमों को दूर करने के लिए, अमोदेई ने एआई को पूरी तरह से रोकने के बजाय क्षमता लाभ को धीमा करने पर केंद्रित एक तीन-चरणीय रूपरेखा का प्रस्ताव रखा। एंथ्रोपिक की शुरुआत एम्बेडेड तृतीय-पक्ष मूल्यांकनकर्ताओं को ऑडिट सुरक्षा प्रथाओं और सार्वजनिक रूप से रिपोर्ट निष्कर्षों तक कर्मचारी जैसी पहुंच के साथ कंपनी के अंदर काम करने की अनुमति देकर होगी।

उन्होंने लोकतांत्रिक सरकारों से अग्रणी एआई कंपनियों को सामान्य सुरक्षा मानक स्थापित करने और अंततः चीन सहित देशों के साथ अंतरराष्ट्रीय समन्वय स्थापित करने में मदद करने का भी आह्वान किया।

धीमी गति की वकालत करने के बावजूद, अमोदेई ने एआई विकास को रोकने के खिलाफ तर्क दिया।

"पेसिंग का मतलब मॉडल प्रशिक्षण या तकनीकी प्रगति को रोकना नहीं है, बल्कि यह सुनिश्चित करना है कि कंपनियां अपने मॉडलों को संरेखित करने और सुरक्षित रखने के लिए पर्याप्त समय लें।"

उन्होंने कहा कि एआई का परिवर्तनकारी वादा बरकरार है, उन्होंने अपना विश्वास दोहराया कि यह "अगले 5-10 वर्षों में अधिकांश प्रमुख बीमारियों को ठीक कर सकता है" और अभूतपूर्व आर्थिक प्रचुरता पैदा कर सकता है।

उन्होंने लिखा, "फायदा तभी मिलेगा जब हम तकनीक का निर्माण सही तरीके से करेंगे।"

एंथ्रोपिकडारियो अमोदेईएआई मॉडल विकासएआई सुरक्षाएआई क्षमताएंओपनएआईएआई जोखिमएलोन मस्क पुनरावर्ती आत्म-सुधारअंतर्राष्ट्रीय एआई मानकों पर अधिक समाचार पढ़ें