मेघा प्रसाद के साथ कोई टोपी नहीं | एआई तेजी से आगे बढ़ रहा है, लेकिन क्या इंसान अब भी इसे नियंत्रित कर सकता है?

लगभग 90 वर्षों तक, गणित की सबसे विकट समस्याओं में से एक ने कुछ बेहतरीन मानव मस्तिष्कों का विरोध किया। फिर, इस महीने की शुरुआत में, ओपनएआई ने घोषणा की कि एक प्रायोगिक प्रणाली ने नेवियर-स्टोक्स मिलेनियम पुरस्कार समस्या का समाधान तैयार किया है।

लगभग 10,000 AI एजेंटों ने इस पर काम किया था। वे करीब 88 घंटे में नतीजे पर पहुंचे. फिर एक अलग एआई प्रणाली ने प्रमाण को औपचारिक रूप से सत्यापित करने में मदद की। यह एक आश्चर्यजनक वैज्ञानिक उपलब्धि है। यह बहुत कम आरामदायक प्रश्न पूछने का भी एक उपयोगी क्षण है: क्या होता है जब दशकों के बौद्धिक प्रयास को दिनों में संपीड़ित करने में सक्षम मशीनें न केवल सवालों का जवाब दे रही हैं, बल्कि बढ़ी हुई स्वायत्तता के साथ योजना बना रही हैं, सहयोग कर रही हैं, प्रयोग कर रही हैं और कार्य कर रही हैं?

क्योंकि एआई बहस अब यहीं आगे बढ़ गई है। वास्तविक चिंता अब यह नहीं है कि कोई चैटबॉट आपको ख़राब उत्तर दे सकता है। यह वह क्षमता है जो इसकी निगरानी करने की हमारी अपनी क्षमता से कहीं अधिक तेजी से आगे बढ़ रही है। और जो बात इस क्षण को विशेष रूप से असामान्य बनाती है वह यह है कि चेतावनी कहां से आ रही है - टेक्नोफोब से नहीं, सिलिकॉन वैली के बाहर खड़े लोगों से नहीं जो नवाचार को रोकने की मांग कर रहे हैं।

पृथ्वी पर सबसे शक्तिशाली सिस्टम बनाने वाले लोगों द्वारा अलार्म तेजी से बजाया जा रहा है। एंथ्रोपिक के मुख्य कार्यकारी डारियो अमोदेई ने सार्वजनिक रूप से फ्रंटियर एआई विकास को और अधिक सावधानी से आगे बढ़ाने का आह्वान किया है।

सैम ऑल्टमैन ने मजबूत बाहरी जांच की आवश्यकता का समर्थन किया है। एलोन मस्क ने अधिक संयम के आह्वान का समर्थन किया है। और नोबेल पुरस्कार विजेता और आधुनिक एआई के अग्रदूतों में से एक जेफ्री हिंटन ने हाल ही में कहा था कि एआई के अंततः मानव विलुप्त होने की लगभग 10% संभावना का अनुमान लगाना कोई अनुचित स्थिति नहीं थी।

अब, इनमें से कोई भी व्यक्ति हमें गणितीय निश्चितता के साथ नहीं बता सकता कि आपदा आने वाली है। वे समय-सीमा पर असहमत हैं, वे विनियमन पर असहमत हैं, और महत्वपूर्ण बात यह है कि इन कंपनियों के अपने व्यावसायिक हित हैं। लेकिन जब किसी तकनीक के वास्तुकार इस बारे में बहस करना शुरू कर देते हैं कि क्या यह सार्थक मानव नियंत्रण से बच सकता है, तो विज्ञान कथा के रूप में बहस को खारिज करना बौद्धिक रूप से आलसी हो जाता है - खासकर जो शोधकर्ताओं ने पहले ही देखा है।

जुलाई में, OpenAI एक प्रयोग कर रहा था जिसमें बड़ी संख्या में AI एजेंट शामिल थे जिन्हें अलग से काम करना था। वे अलग नहीं रहे, यही हुआ. लगभग 1,200 एजेंटों ने एक दूसरे के साथ संवाद करने का अनधिकृत तरीका ढूंढ लिया। उन्होंने 70,000 से अधिक संदेशों और फ़ाइलों का आदान-प्रदान किया।

इसके बाद सैकड़ों लोगों ने हगिंग फेस पर एक अनधिकृत हमले में भाग लिया। यह एक मूल्यांकन प्रयोग के अंदर हुआ. यह हॉलीवुड के अर्थ में एआई विद्रोह नहीं था, लेकिन उस भेद को हमें अधिक विचारशील बनाना चाहिए, न कि अधिक आराम से। सिस्टम को एक बाधा का सामना करना पड़ा, उसके चारों ओर एक मार्ग की खोज की, एक तात्कालिक संचार नेटवर्क बनाया, और समन्वित व्यवहार किया जो उनके मूल्यांकनकर्ताओं का इरादा नहीं था।

स्वतंत्र शोधकर्ताओं ने बाद में घटना की जांच की। यह महत्वपूर्ण बिंदु है: किसी मशीन को खतरनाक बनने के लिए आपको चेतना की आवश्यकता नहीं है। आपको क्षमता की आवश्यकता है, आपको एजेंसी की आवश्यकता है, आपको पहुंच की आवश्यकता है, और एक उद्देश्य की आवश्यकता है जो हमारे उद्देश्य से पूरी तरह मेल नहीं खाता है।

एक और खतरा है, और इसके लिए किसी भी प्रकार की अटकल की आवश्यकता नहीं है: मनुष्य एआई को हथियार बना सकते हैं। एंथ्रोपिक ने इस महीने खुलासा किया कि उत्तरी यमन में अभिनेताओं ने उन्नत मिसाइल प्रणालियों से संबंधित काम में क्लाउड का उपयोग करने का प्रयास किया था।

इस प्रयास के परिणामस्वरूप सफलतापूर्वक तैनात किए गए परिचालन हथियार का सबूत नहीं मिला, लेकिन उपयोगकर्ताओं ने पहले ही एक ऑफ़लाइन सिमुलेशन टूलकिट बना लिया था। उसी कंपनी ने संभावित रूप से खतरनाक दोहरे उपयोग वाले अनुप्रयोगों के साथ साइबर संचालन, निगरानी और जैविक अनुसंधान में एआई का उपयोग करने के प्रयासों का दस्तावेजीकरण किया है।

यहीं पर यह बहस इससे भी बड़ी हो जाती है कि क्या एआई खुद एक दिन मानवता के खिलाफ हो जाएगा। एक पर्याप्त रूप से सक्षम प्रणाली को दुर्भावनापूर्ण बनने की आवश्यकता नहीं है; एक दुर्भावनापूर्ण इंसान को बस इसके माध्यम से पर्याप्त रूप से सक्षम बनना है।

एआई विशेषज्ञता की कीमत को नाटकीय रूप से कम कर सकता है। यह शानदार है जब विशेषज्ञता का उपयोग दवा खोजने के लिए किया जा रहा है। यह तब और अधिक भयावह होता है जब विशेषज्ञता में मैलवेयर, मिसाइल मार्गदर्शन, या रोगज़नक़ इंजीनियरिंग शामिल होती है।

और यहीं विरोधाभास है: जिस कारण से हम एआई को त्यागने का जोखिम नहीं उठा सकते, वही कारण यह भी है कि हम इसके साथ लापरवाही से व्यवहार नहीं कर सकते। यह दवा की खोज में तेजी ला सकता है, यह उन समस्याओं का समाधान कर सकता है जिन्होंने पीढ़ियों से वैज्ञानिकों को पराजित किया है, यह शिक्षा, उत्पादकता और चिकित्सा निदान को बदल सकता है।

अमोदेई खुद मानते हैं कि उन्नत एआई अगले दशक के भीतर कई बड़ी बीमारियों को ठीक करने में मदद कर सकता है। इसलिए समझदारी भरा उत्तर मशीनों को तोड़ना नहीं है। यह स्वीकार करना है कि मानवता एक ऐसी दौड़ में प्रवेश कर चुकी है जिसमें शासन के बिना गति बढ़ाना प्रगति नहीं है; यह एक्सपोज़र है.

दुर्भाग्य से, ठीक उसी समय एक दूसरी दौड़ चल रही है: अमेरिका बनाम चीन, कंपनी बनाम कंपनी, मॉडल बनाम मॉडल, पूंजी बनाम पूंजी। हर प्रयोगशाला जानती है कि एकतरफा धीमी गति का मतलब प्रतिस्पर्धी से हारना हो सकता है। हर सरकार को डर है कि संयम बरतने से दूसरे देश को रणनीतिक लाभ मिल सकता है।

राष्ट्रपति ट्रम्प ने नवीनतम सुरक्षा चेतावनियों को खारिज कर दिया है और वास्तव में तर्क दिया है कि अत्यधिक संयम अमेरिका को चीन के खिलाफ कमजोर कर देगा। इस बीच, चीनी राज्य मीडिया ने अमेरिकी तकनीकी वर्चस्व को बनाए रखने के प्रयास के रूप में सीमांत विकास को धीमा करने के प्रस्तावों पर हमला किया है।

यह इतिहास की सबसे खतरनाक रणनीतिक दुविधाओं में से एक जैसा लगने लगा है। हर कोई जोखिम देख सकता है, लेकिन कोई भी एक्सीलेटर बंद करने वाला पहला व्यक्ति नहीं बनना चाहता। इसीलिए एआई सुरक्षा को पूरी तरह से व्यक्तिगत कंपनियों की सद्भावना पर छोड़ना अब पर्याप्त नहीं है।

फ्रंटियर सिस्टम को तैनाती से पहले स्वतंत्र परीक्षण की आवश्यकता होती है। गंभीर सुरक्षा घटनाओं की अनिवार्य रिपोर्टिंग होनी चाहिए। उन्नत साइबर, जैविक या हथियार सहायता में सक्षम मॉडलों को अधिक सख्त पहुंच नियंत्रण की आवश्यकता होती है।

और सबसे ऊपर, वाशिंगटन और बीजिंग को एक संकीर्ण एआई सुरक्षा बातचीत की आवश्यकता है, भले ही वे लगभग किसी और बात पर सहमत न हों। शीत युद्ध के दौरान, संयुक्त राज्य अमेरिका और...