शोधकर्ताओं का कहना है कि हगिंग फेस घटना से पहले ओपनएआई एजेंटों ने रूबीजेम्स पर हमला किया था

(सभी प्रौद्योगिकी समाचार समाचार और इकोनॉमिक टाइम्स पर नवीनतम समाचार अपडेट देखें।)

सारांश कई घटनाएं जहां ओपनएआई और प्रतिद्वंद्वी एंथ्रोपिक जैसे डेवलपर्स के एआई एजेंटों ने हैक किया है या बाहरी सिस्टम तक पहुंचने का प्रयास किया है, उन्होंने एआई मॉडल की बढ़ती क्षमता और डेवलपर्स की उन्हें नियंत्रित करने की क्षमता पर चिंताएं बढ़ा दी हैं।

शोधकर्ताओं ने कहा कि ओपनएआई द्वारा परीक्षण किए जा रहे रॉयटर्सएआई एजेंटों ने ओपन-सोर्स प्लेटफॉर्म हगिंग फेस को हैक करने से दो महीने पहले सॉफ्टवेयर सेवा रूबीजेम्स पर हमला किया था, प्रमुख एआई डेवलपर्स से जुड़े साइबर हमलों का नवीनतम खुलासा जिसने जनता को डरा दिया है और सख्त विनियमन के लिए कॉल को प्रेरित किया है।

कई घटनाएं जहां ओपनएआई और प्रतिद्वंद्वी एंथ्रोपिक जैसे डेवलपर्स के एआई एजेंटों ने हैक किया है या बाहरी सिस्टम तक पहुंचने का प्रयास किया है, उन्होंने एआई मॉडल की बढ़ती क्षमता और डेवलपर्स की उन्हें नियंत्रित करने की क्षमता पर चिंताएं बढ़ा दी हैं।

नवीनतम रहस्योद्घाटन तब भी हुआ है जब दो मानवविज्ञानी शोधकर्ताओं की सख्त चेतावनी के बाद अमेरिकी सांसदों की बढ़ती संख्या एआई सिस्टम को नियंत्रित करने के लिए नए नियमों की मांग कर रही है कि एआई की तेजी से प्रगति निकट भविष्य में मानव जाति के विलुप्त होने का कारण बन सकती है।

शोधकर्ताओं के एक समूह के अनुसार, एआई एजेंटों ने 11 मई को रूबीजेम्स पर सैकड़ों दुर्भावनापूर्ण पैकेज अपलोड किए, जिन्होंने शुक्रवार को अपने निष्कर्ष ऑनलाइन पोस्ट किए और कहा कि उनका मानना ​​​​है कि "ये आंतरिक ओपनएआई एजेंटों द्वारा लिखे गए थे।"

ओपनएआई के एक प्रवक्ता ने एक बयान में कहा, "हमारी समीक्षा के आधार पर, हमारे एजेंटों ने सौम्य कार्यों को करने और सार्वजनिक जानकारी प्राप्त करने के लिए इंटरनेट तक पहुंचने के लिए रूबीजेम्स प्लेटफॉर्म का उपयोग किया। हम प्रशिक्षण और मूल्यांकन के दौरान एजेंट गतिविधि की हमारी व्यापक समीक्षा के हिस्से के रूप में जांच करना जारी रखेंगे।"

ओपनएआई ने कहा कि एजेंट, जिन्हें आम तौर पर रिपोर्ट बनाने या स्प्रेडशीट भरने जैसे कार्य सौंपे जाते हैं, उन्होंने प्रशिक्षण के हिस्से के रूप में सार्वजनिक रूप से उपलब्ध डेटा तक पहुंचने के लिए रूबीजेम्स का उपयोग किया है, उन्होंने कहा कि वे घटना की समीक्षा करने के लिए रूबीजेम्स के संपर्क में हैं।

आईपीओ-बाउंड प्रतिद्वंद्वी एंथ्रोपिक ने भी अपने एजेंटों द्वारा हमलों की एक श्रृंखला की सूचना दी है। बुधवार को, इसने परीक्षण के दौरान एआई मॉडल द्वारा बाहरी सिस्टम को हैक करने की चौथी घटना का खुलासा किया।

ओपनएआई के लिए, जो आईपीओ के लिए भी तैयारी कर रहा है, रूबीजेम्स हमला कम से कम तीसरा बड़ा उदाहरण होगा जहां इसके एजेंटों ने किसी अन्य कंपनी के बुनियादी ढांचे पर हमला किया है।

OpenAI एजेंटों के एक झुंड ने पहले एक जर्मन-भाषा विकी साइट को हाईजैक कर लिया था और इसे परीक्षणों में धोखाधड़ी के लिए एक तात्कालिक मैसेजिंग प्लेटफ़ॉर्म में बदल दिया था, एक ऐसी घटना जिसे OpenAI ने गुप्त रखा क्योंकि यह ओपन-सोर्स रिपॉजिटरी हगिंग फेस के जुलाई हैक के नतीजों से निपट रहा था।

मई में एआई एजेंटों ने साइट के सर्वर में पहले से अज्ञात भेद्यता का फायदा उठाकर रूबीजेम्स उपयोगकर्ता क्रेडेंशियल्स चुराने की कोशिश की, हालांकि यह स्पष्ट नहीं है कि प्रयास सफल हुआ या नहीं, शोधकर्ताओं ने शुक्रवार को कहा।

उन्होंने कहा कि एजेंटों ने अपने सर्वर पर अपना कोड चलाने के लिए कोड दस्तावेज तैयार करने वाली साइट RubyDoc.info का भी फायदा उठाया।

एआई शोधकर्ता स्पेंसर किट्स, थॉमस लार्सन और सिडनी वॉन आर्क्स ने कहा कि यह स्पष्ट नहीं है कि एआई एजेंटों ने यह रणनीति क्यों चुनी या क्या यह सफल रही क्योंकि उनके पास एआई व्यवहार के बाकी हिस्सों तक पहुंच नहीं है।

शुक्रवार को एक ब्लॉग पोस्ट में, रूबीजेम्स ने कहा कि उसकी अपनी जांच में कोई सबूत नहीं मिला कि प्रयास सफल हुए। इसमें कहा गया है कि कंपनी यह निर्धारित नहीं कर सकी कि "स्पैम-प्रकाशन अभियान" में पैकेज एआई एजेंटों द्वारा बनाए गए थे या प्रकाशित किए गए थे।

रूबीजेम्स की सुरक्षा टीम के एक सदस्य ने मई में इस घटना का वर्णन किया - जिसने कंपनी को नए खाता पंजीकरण को अस्थायी रूप से रोकने के लिए मजबूर किया - इसे "बड़ा दुर्भावनापूर्ण हमला" बताया।

वॉल स्ट्रीट जर्नल ने सबसे पहले शुक्रवार को रूबीजेम्स घटना की रिपोर्ट दी।

ओपनएआई साइबर हमले, एआई एजेंट सुरक्षा घटना, रूबीजेम्स अटैक, एआई विकास के नियम, हगिंग फेस हैक, एआई मॉडल कमजोरियों पर अधिक समाचार पढ़ें