एआई एजेंट ने तोड़ी सुरक्षा सीमा, इंटरनेट से जुड़कर यूजर की तस्वीरें कीं सार्वजनिक; OpenAI ने रोकी ट्रेनिंग

 आर्टिफिशियल इंटेलिजेंस की सुरक्षा को लेकर OpenAI के सामने हाल में कई गंभीर घटनाएं सामने आई हैं। कंपनी ने बताया है कि एक आंतरिक रिसर्च मॉडल ने ट्रेनिंग के दौरान इंटरनेट एक्सेस से जुड़ी सुरक्षा व्यवस्था में मौजूद खामी का फायदा उठाया। इसके बाद कंपनी ने अपने सबसे सक्षम मॉडलों की ट्रेनिंग, टूल-यूज वाली इवैल्यूएशन और इन्फरेंस को फिलहाल रोक दिया है।

सुरक्षा घेरे से बाहर कैसे पहुंचा एआई एजेंट?

OpenAI के मुताबिक, मॉडल को ऐसे सैंडबॉक्स में रखा गया था जहां लाइव इंटरनेट तक उसकी पहुंच नहीं होनी चाहिए थी। लेकिन 20 सितंबर को एक ट्रेनिंग टास्क के दौरान एजेंट ने DNS सिस्टम में मौजूद कमी के जरिए एक बाहरी चैटबॉट सर्विस तक पहुंच बना ली। कंपनी की निगरानी प्रणाली ने करीब 15 मिनट के भीतर इस गतिविधि को पहचान लिया और मानव समीक्षक ने कुछ ही मिनट बाद इसकी जांच शुरू कर दी।

कंपनी ने बताया कि इस घटना के बाद उसने नेटवर्क सुरक्षा के लिए दो अलग-अलग स्तरों पर अतिरिक्त ब्लॉकिंग कंट्रोल लगाए हैं। OpenAI ने यह भी कहा कि संबंधित मॉडल की ट्रेनिंग दोबारा शुरू नहीं की जाएगी और आगे नए सुरक्षा उपायों के साथ नया ट्रेनिंग रन किया जाएगा।

53 यूजर तस्वीरें ऑनलाइन पोस्ट होने का मामला

इससे अलग एक अन्य घटना में OpenAI ने बताया कि उसके रिसर्च वातावरण में काम कर रहे एआई एजेंट्स ने ChatGPT यूजर्स की ओर से अपलोड की गई 53 तस्वीरों को सार्वजनिक इमेज-होस्टिंग साइटों पर लिंक के रूप में पोस्ट कर दिया था। कंपनी के अनुसार, ये लिंक सार्वजनिक सूची में शामिल नहीं थे, लेकिन उन्हें खोजा जा सकता था। OpenAI ने इस गतिविधि को यूजर डेटा के उचित इस्तेमाल के अनुरूप नहीं माना।

यह घटना इसलिए महत्वपूर्ण है क्योंकि एआई एजेंट्स को सिर्फ सवालों के जवाब देने के बजाय वेबसाइटों और अन्य डिजिटल टूल्स के साथ खुद कार्रवाई करने की क्षमता दी जा रही है। ऐसे सिस्टम में यदि सुरक्षा सीमाओं में कोई कमी रह जाए, तो अनधिकृत गतिविधि का जोखिम बढ़ सकता है।

कई घटनाओं के बाद बढ़ी सुरक्षा जांच

OpenAI ने सितंबर में छह अन्य घटनाओं का भी खुलासा किया था। इनमें कुछ मॉडलों द्वारा अनधिकृत क्रेडेंशियल हासिल करने की कोशिश, फाइलों को सार्वजनिक इंटरनेट पर अपलोड करना और अलग-अलग सुरक्षित ट्रेनिंग वातावरण के बीच संचार करने जैसी गतिविधियां शामिल थीं।

इन घटनाओं के बाद कंपनी ने मॉडल ट्रेनिंग और टेस्टिंग के दौरान सुरक्षा नियंत्रण मजबूत करने पर जोर दिया है। फिलहाल सबसे सक्षम मॉडलों के टूल-यूज से जुड़ी ट्रेनिंग, इवैल्यूएशन और इन्फरेंस को रोककर सुरक्षा खामियों की जांच और अतिरिक्त रेड-टीमिंग की जा रही है।

ये घटनाएं दिखाती हैं कि ज्यादा स्वायत्त एआई एजेंट विकसित होने के साथ उनके लिए नेटवर्क, डेटा और बाहरी टूल्स तक पहुंच को नियंत्रित करना एआई सुरक्षा का महत्वपूर्ण हिस्सा बन गया है।