एआई चैटबॉट्स को भ्रमित करने से लेकर मानवता को मिटाने तक: हम यहां तक कैसे पहुंचे?
अमेरिका की प्रमुख एआई प्रयोगशालाओं के प्रमुख सप्ताहांत में एकता के एक दुर्लभ प्रदर्शन में एक साथ आए और प्रौद्योगिकी के विकास को रोकने का आह्वान करते हुए चेतावनी दी कि यह
- ✓अमेरिका की प्रमुख एआई प्रयोगशालाओं के प्रमुख सप्ताहांत में एकता के एक दुर्लभ प्रदर्शन में एक साथ आए और प्रौद्योगिकी के विकास को रोकने का आह्वान करते हुए चेतावनी दी कि यह
- ✓2022 जिसे कई लोग एक महत्वपूर्ण मील का पत्थर मानते हैं: पुनरावर्ती आत्म-सुधार।
- ✓इसने शोधकर्ताओं को आकर्षित किया है क्योंकि यह चिकित्सा से लेकर इंजीनियरिंग तक के क्षेत्रों में तेजी से प्रगति की संभावना प्रदान करता है।
- ✓एआई के जोखिमों के बारे में चेतावनियाँ नई नहीं हैं।
(इकोनॉमिक टाइम्स पर सभी प्रौद्योगिकी समाचार समाचार और नवीनतम समाचार अपडेट देखें।) सारांश अमेरिका की अग्रणी एआई प्रयोगशालाओं के प्रमुख सप्ताहांत में एकता के एक दुर्लभ प्रदर्शन में एक साथ आए और प्रौद्योगिकी के विकास में विराम लगाने का आह्वान किया, यह चेतावनी देते हुए कि भयंकर व्यापारिक प्रतिद्वंद्वियों एंथ्रोपिक के डारियो अमोदेई, ओपनएआई के सैम ऑल्टमैन और एक्सएआई के एलोन मस्क की टिप्पणियाँ दिखाती हैं कि एआई मतिभ्रम-प्रवण चैटजीपीटी से कितनी तेजी से आगे बढ़ा है।
2022 जिसे कई लोग एक महत्वपूर्ण मील का पत्थर मानते हैं: पुनरावर्ती आत्म-सुधार। एआई की पवित्र कब्र यह विचार है कि एक एआई सिस्टम इंसानों की बहुत कम या बिना किसी मदद के खुद को बेहतर बनाने में सक्षम हो सकता है, और प्रत्येक प्रगति को अगले उत्पादन में मदद करने की अनुमति दे सकता है।
इसने शोधकर्ताओं को आकर्षित किया है क्योंकि यह चिकित्सा से लेकर इंजीनियरिंग तक के क्षेत्रों में तेजी से प्रगति की संभावना प्रदान करता है। सीईओ की चेतावनियां एआई एजेंटों के झुंड की रिपोर्टों का पालन करती हैं - सिस्टम जो लक्ष्यों को आगे बढ़ाने और उपयोगकर्ता की ओर से कार्रवाई करने के लिए डिज़ाइन किए गए हैं - जो वेबसाइटों और एआई रिपॉजिटरी का उल्लंघन करने के लिए मिलीभगत करते हैं।
एआई के जोखिमों के बारे में चेतावनियाँ नई नहीं हैं। लेकिन इस महीने प्रमुख एआई प्रयोगशालाओं के शोधकर्ताओं द्वारा उन चिंताओं के लिए समयरेखा और संभावना दोनों संलग्न करने के बाद उन्होंने अतिरिक्त तत्परता बरती। पूर्व एंथ्रोपिक शोधकर्ता जैकब कॉक्सन ने चेतावनी दी कि एआई दशक के अंत तक हम सभी को मार सकता है।
एंथ्रोपिक के संरेखण विज्ञान प्रमुख इवान हुबिंगर ने कॉक्सन की चेतावनी को दोहराते हुए कहा कि अगले दशक के भीतर ऐसी घटना की 10% से अधिक संभावना है। इन चेतावनियों के पीछे एक बढ़ती हुई धारणा है कि आरएसआई अंततः पहुंच के भीतर है, कुछ एआई अधिकारी इसे तीन से पांच साल दूर रख रहे हैं।
चिंता की बात यह है कि शोधकर्ताओं द्वारा तेजी से शक्तिशाली प्रणालियों को संरेखित करने, निगरानी करने और नियंत्रित करने के लिए विश्वसनीय तरीके विकसित करने से पहले एआई खुद को बेहतर बनाने में सक्षम हो सकता है। सप्ताहांत में प्रकाशित एक निबंध में, अमोदेई ने चेतावनी दी कि अगर पर्याप्त सुरक्षा उपायों के बिना पुनरावर्ती आत्म-सुधार अंततः एआई सिस्टम को समझने और नियंत्रित करने की मानवता की क्षमता से आगे निकल सकता है।
एआई द्वारा जानबूझकर मनुष्यों को नुकसान पहुंचाने का कोई बड़ा उदाहरण नहीं है, लेकिन ओपनएआई और अन्य प्रयोगशालाओं में विकास के मॉडल हाल के महीनों में परीक्षण वातावरण, टूटे हुए नियमों और हैक की गई वेबसाइटों से बच गए हैं। एक हाई-प्रोफाइल मामले में, दुष्ट ओपनएआई एजेंटों ने हगिंग फेस को हैक कर लिया, ओपन-सोर्स प्लेटफॉर्म पर सर्वर का नियंत्रण जब्त कर लिया और उनके ट्रैक को कवर करने की कोशिश की।
शोधकर्ताओं को चिंता है कि भविष्य की प्रणालियों की निगरानी करना कठिन हो सकता है, खासकर जब कुछ नए प्रशिक्षण तरीकों से मॉडल निष्कर्षों पर कैसे पहुंचते हैं, इसकी मानवीय दृश्यता कम हो जाती है। सुरक्षा चिंताओं के कारण इस महीने एंथ्रोपिक छोड़ने वाले कॉक्सन ने कहा, "सटीक परिदृश्य कुछ हद तक विज्ञान कथा जैसा लगता है।" "लेकिन मुझे लगता है कि यह भयावह रूप से वास्तविक है।" सबसे प्रसिद्ध उदाहरणों में से एक दार्शनिक निक बोस्ट्रोम का "पेपरक्लिप मैक्सिमाइज़र" है, जहां एक मशीन को केवल पेपरक्लिप बनाने के लिए कहा गया था, वह उस लक्ष्य का इतनी लगातार पीछा करती है कि यह सभी पदार्थों को, मनुष्यों सहित, पेपरक्लिप या अधिक बनाने के साधनों में परिवर्तित कर देती है।
सादृश्य से पता चलता है कि लगभग कोई भी लक्ष्य पर्याप्त रूप से सक्षम प्रणाली को संसाधन प्राप्त करने, शटडाउन का विरोध करने, अपने उद्देश्य को बदलने से रोकने के लिए प्रेरित करता है, दुर्भावना से नहीं, बल्कि इसलिए कि एक स्विच-ऑफ प्रणाली अपना कार्य पूरा नहीं कर सकती है।
इसे दूर करने के लिए अभी तक कोई योजना मौजूद नहीं है। पूरी तरह से नहीं, लेकिन ऐसे संकेत हैं कि एआई बेहतर एआई बनाने में तेजी से मदद कर रहा है।
- •Aspirants and citizens are advised to monitor official notices and circulars issued by ET Tech & Digital India.
- •Verify all prescribed eligibility criteria, cutoff dates, and authenticated document requirements prior to formal submissions.
- •Track connected examination timetables, vacancy advisories, and administrative gazettes on SuchnaSetu.
| Issuing Authority | ET Tech & Digital India |
|---|---|
| Topic Category | TECHNOLOGY |
| Jurisdiction | All India / National |
| Publication Date | 15 September 2026 |