ओपनएआई ने मंगलवार को कहा कि उसके उन्नत एआई मॉडल द्वारा संचालित एक स्वायत्त एजेंट सुरक्षा परीक्षण के दौरान अनियंत्रित हो गया और उसने एक हैक को अंजाम दिया, जिससे पिछले सप्ताह एआई स्टार्टअप हगिंग फेस के बुनियादी ढांचे से समझौता हो गया।

एक ब्लॉग पोस्ट में, ओपनएआई ने कहा कि वह एक नियंत्रित वातावरण में अपने कुछ सबसे उन्नत मॉडलों की क्षमताओं का परीक्षण कर रहा था, लेकिन एजेंट नियंत्रण से बाहर निकलने, इंटरनेट तक पहुंचने और अपने परीक्षण लक्ष्य को पूरा करने के प्रयास में हगिंग फेस में घुसपैठ करने में कामयाब रहा।

ओपनएआई ने कहा कि यह घटना "अत्याधुनिक साइबर क्षमताओं से जुड़ी एक अभूतपूर्व साइबर घटना" थी और कंपनी अपनी सुरक्षा व्यवस्था को मजबूत कर रही है।

ओपन-सोर्स बड़े भाषा मॉडल और डेटासेट को होस्ट करने के लिए इस्तेमाल किया जाने वाला प्लेटफॉर्म हगिंग फेस, ने पिछले हफ्ते एक ब्लॉग पोस्ट में कहा कि वह एक ऐसे हैक का निशाना बना था जो "हमारे द्वारा पहले संभाले गए किसी भी मामले से अलग था" क्योंकि "यह पूरी तरह से एक स्वायत्त एआई एजेंट सिस्टम द्वारा संचालित था", जिससे साइबर सुरक्षा समुदाय में हलचल मच गई।

X पर एक पोस्ट में, हगिंग फेस के सह-संस्थापक क्लेमेंट डेलैंग्यू ने कहा कि कंपनी को संदेह था कि यह हैकिंग "किसी अत्याधुनिक प्रयोगशाला से हुई होगी, क्योंकि एजेंट की तकनीक बहुत परिष्कृत थी। और यह सच साबित हुआ!" उन्होंने आगे कहा: "यह वाकई चौंकाने वाला है कि यह सब कुछ स्वचालित रूप से हुआ!"

ओपनएआई द्वारा यह खुलासा कि उसके उन्नत मॉडल ही इस उल्लंघन के लिए जिम्मेदार थे, जबकि उसने उन्हें "अत्यधिक पृथक वातावरण" में रखा था, सीमांत मॉडलों की शक्ति और जोखिम को लेकर चिंता को और बढ़ा सकता है।

टेक्सास के डेमोक्रेट प्रतिनिधि ग्रेग कैसर ने कहा कि यह घटना चिंताजनक है।

उन्होंने एक बयान में कहा, "एआई बेहद तेजी से विकसित हो रहा है और हमें सुरक्षित रखने के लिए कोई ठोस नियम नहीं हैं।" उन्होंने अनिवार्य स्वतंत्र सुरक्षा परीक्षण, सुरक्षा घटनाओं का अनिवार्य खुलासा और अंतरराष्ट्रीय सहयोग की मांग की ताकि "लोगों को पूर्ण विनाश से बचाया जा सके।"

राष्ट्रीय साइबर निदेशक कार्यालय, अमेरिकी साइबर रक्षा एजेंसी सीआईएसए और अमेरिकी राष्ट्रीय सुरक्षा एजेंसी ने टिप्पणी के लिए भेजे गए संदेशों का तुरंत जवाब नहीं दिया।

लूटा सिक्योरिटी की मुख्य कार्यकारी अधिकारी केटी मौसोरिस ने कहा कि यह घटना आने वाले समय में होने वाले सुरक्षा उल्लंघनों का संकेत है, और कहा कि आज के मॉडल "दुनिया के सबसे चतुर ऑक्टोपस की तरह हैं, जिनके पास असीमित पकड़ने वाली भुजाएं हैं और वे कहीं से भी निकलने की क्षमता रखते हैं।"

उन्होंने कहा कि “प्रयोगशालाओं और सरकारी मूल्यांकनकर्ताओं को ऐसी क्षमता विकसित करने की आवश्यकता है जिससे कृत्रिम बुद्धिमत्ता द्वारा किसी तीसरे पक्ष को नुकसान पहुँचाने से पहले ही, उसे नियंत्रित किया जा सके, उसकी निगरानी की जा सके और प्रभावित पक्षों को इसकी जानकारी दी जा सके। आज ऐसी कोई क्षमता मौजूद नहीं है।”

एजेंटिक एआई साइबर सुरक्षा कंपनी टोल्मो के इंजीनियर मैट सुइचे ने कहा कि इस घटना से पता चलता है कि अत्याधुनिक मॉडल "अत्याधुनिक हमलावरों के साथ अंतर को कम कर रहे हैं।" लेकिन उन्होंने कहा कि ओपनएआई के ब्लॉग पोस्ट में वर्णित प्रकार के उल्लंघन उन तकनीकों से भी संभव हैं जो अत्याधुनिक अनुसंधान प्रयोगशालाओं की सीमाओं से परे आसानी से उपलब्ध हैं।

सुइचे ने कहा, "हमने आंतरिक रूप से यही देखा है, हमारे एजेंटों के साथ हमें पहले से ही इस तरह के परिणाम मिल रहे हैं। हमें नवीनतम मॉडल का उपयोग करने की भी आवश्यकता नहीं है।"