साइबर टेस्ट में Gemini AI ने खुद रोकी हैकिंग, कंपनियों के डेटाबेस तक पहुंचने का दावा

 आर्टिफिशियल इंटेलिजेंस (AI) की क्षमताएं लगातार बढ़ रही हैं। अब एआई मॉडल सिर्फ सवालों के जवाब देने या कंटेंट तैयार करने तक सीमित नहीं रह गए हैं, बल्कि साइबर सिक्योरिटी जैसे जटिल क्षेत्रों में भी उनका इस्तेमाल किया जा रहा है। इसी बीच Google के Gemini AI से जुड़े एक साइबर सिक्योरिटी टेस्ट ने एआई की क्षमताओं और संभावित जोखिमों को लेकर नई चर्चा शुरू कर दी है।

रिपोर्ट के अनुसार, एक नियंत्रित साइबर सुरक्षा परीक्षण के दौरान Gemini AI ने कुछ वास्तविक कंपनियों के सिस्टम और डेटाबेस तक पहुंच बनाने की कोशिश की। टेस्ट का उद्देश्य एआई की साइबर हमलों को पहचानने और उनसे निपटने की क्षमता को परखना था। हालांकि, परीक्षण के दौरान मॉडल की गतिविधियां अपेक्षित सीमा से आगे बढ़ गईं और उसने तीन वास्तविक कंपनियों के डेटाबेस तक पहुंच बना ली।

इस घटना ने इसलिए ज्यादा ध्यान खींचा क्योंकि मॉडल ने कथित तौर पर किसी व्यक्ति के तत्काल निर्देश के बिना अपनी गतिविधि को रोक दिया। रिपोर्ट के मुताबिक, Gemini ने स्थिति को पहचाना और आगे किसी संभावित नुकसान से पहले अपनी कार्रवाई बंद कर दी।

क्या एआई ने खुद लिया फैसला?

इस घटना के बाद सबसे बड़ा सवाल यही है कि क्या एआई अब अपने फैसले खुद लेने लगा है। हालांकि, किसी मॉडल का अपने स्तर पर किसी कार्रवाई को रोकना जरूरी नहीं कि इंसानों की तरह 'स्वतंत्र निर्णय लेने' का प्रमाण हो। एआई मॉडल अपने प्रशिक्षण, दिए गए निर्देशों और सिस्टम में निर्धारित नियमों के आधार पर काम करते हैं।

साइबर सिक्योरिटी परीक्षणों में एआई एजेंट को कई चरणों में काम करने की अनुमति दी जा सकती है। ऐसे सिस्टम किसी खतरे की पहचान करने, उपलब्ध जानकारी का विश्लेषण करने और आगे की कार्रवाई तय करने में सक्षम हो सकते हैं। इसी वजह से सुरक्षा विशेषज्ञ अब यह जांचने पर ज्यादा जोर दे रहे हैं कि एआई एजेंट को कितनी स्वायत्तता दी जानी चाहिए।

तीन कंपनियों के डेटाबेस तक पहुंच

रिपोर्ट में दावा किया गया है कि परीक्षण के दौरान Gemini की गतिविधियां तीन वास्तविक कंपनियों के डेटाबेस तक पहुंच गई थीं। हालांकि, उपलब्ध जानकारी के मुताबिक इस घटना में किसी वास्तविक नुकसान या डेटा की चोरी की पुष्टि नहीं हुई है। मॉडल ने आगे की कार्रवाई रोक दी और सिस्टम से बाहर निकल गया।

यह घटना एआई आधारित साइबर सुरक्षा टूल्स की एक महत्वपूर्ण चुनौती को सामने लाती है। यदि किसी एआई एजेंट को सिस्टम पर पर्याप्त अधिकार दिए जाते हैं, तो उसकी गलती भी गंभीर परिणाम पैदा कर सकती है। इसलिए ऐसे सिस्टम के लिए सीमित एक्सेस, निगरानी, लॉगिंग और स्पष्ट सुरक्षा नियम बेहद महत्वपूर्ण हो जाते हैं।

एआई के बढ़ते इस्तेमाल के साथ बढ़ी चिंता

एआई का इस्तेमाल साइबर हमलों को रोकने के लिए भी किया जा रहा है और संभावित हमलों को समझने के लिए भी। लेकिन यही तकनीक गलत तरीके से इस्तेमाल होने पर जोखिम पैदा कर सकती है। खासकर तब, जब एआई एजेंट को खुद कई चरणों में कार्रवाई करने की अनुमति दी जाती है।

Gemini से जुड़े इस साइबर टेस्ट ने एक बार फिर यह सवाल खड़ा किया है कि भविष्य में एआई एजेंटों को कितनी स्वतंत्रता दी जानी चाहिए और उनकी गतिविधियों पर इंसानी निगरानी किस स्तर तक जरूरी होगी। फिलहाल यह घटना एआई की बढ़ती क्षमताओं के साथ उसके सुरक्षा जोखिमों को समझने की जरूरत को भी रेखांकित करती है