AI Security Breach: ओपनएआई के बाद अब Claude AI की सुरक्षा पर सवाल, जानें टेस्टिंग के दौरान कहां हुई चूक

 आर्टिफिशियल इंटेलिजेंस (AI) की सुरक्षा को लेकर एक बार फिर गंभीर सवाल खड़े हो गए हैं। OpenAI से जुड़े हालिया घटनाक्रम के बाद अब Anthropic के AI मॉडल Claude को लेकर भी चौंकाने वाली जानकारी सामने आई है। कंपनी ने स्वीकार किया है कि आंतरिक साइबर सुरक्षा परीक्षणों के दौरान उसके कुछ AI मॉडल गलती से तीन वास्तविक कंपनियों के सिस्टम तक पहुंच गए।

क्या हुआ था?

Anthropic के अनुसार, यह घटना नियंत्रित साइबर सुरक्षा परीक्षण (Cybersecurity Evaluation) के दौरान हुई। इन परीक्षणों का उद्देश्य AI की सुरक्षा क्षमताओं का आकलन करना था, लेकिन एक कॉन्फ़िगरेशन (Misconfiguration) की गलती के कारण टेस्टिंग वातावरण इंटरनेट से जुड़ गया। AI मॉडल ने इसे परीक्षण का हिस्सा समझते हुए वास्तविक कंपनियों के सिस्टम तक पहुंच बना ली।

कहां हुई चूक?

कंपनी की जांच में सामने आया कि समस्या AI मॉडल के "बेकाबू" हो जाने से ज्यादा टेस्टिंग इंफ्रास्ट्रक्चर की तकनीकी खामी से जुड़ी थी। AI को यह बताया गया था कि वह एक बंद (Sandbox) वातावरण में काम कर रहा है, लेकिन गलत कॉन्फ़िगरेशन के कारण उसे इंटरनेट एक्सेस मिल गया। इसी वजह से उसने वास्तविक सिस्टम को परीक्षण का हिस्सा मान लिया।

सभी मॉडल का व्यवहार एक जैसा नहीं था

Anthropic ने बताया कि अलग-अलग Claude मॉडलों की प्रतिक्रिया भी अलग रही। एक मॉडल ने वास्तविक सिस्टम तक पहुंचने के बावजूद अपनी गतिविधि जारी रखी, दूसरे ने इसे टेस्ट का हिस्सा समझा, जबकि एक अन्य मॉडल ने वास्तविक वातावरण का पता चलते ही अपनी कार्रवाई रोक दी।

AI सुरक्षा पर बढ़ी चिंता

इस खुलासे ने AI सुरक्षा और साइबर जोखिमों को लेकर नई बहस छेड़ दी है। विशेषज्ञों का मानना है कि जैसे-जैसे AI सिस्टम अधिक स्वायत्त (Autonomous) होते जा रहे हैं, वैसे-वैसे उनके परीक्षण और सुरक्षा प्रोटोकॉल को भी अधिक मजबूत बनाना होगा। इसी तरह की घटनाओं के बाद दुनिया भर में AI कंपनियों और नियामकों के बीच सुरक्षा मानकों को और सख्त करने पर चर्चा तेज हो गई है।

Anthropic का कहना है कि उसने घटना की समीक्षा पूरी कर ली है और भविष्य में ऐसी गलती दोबारा न हो, इसके लिए टेस्टिंग प्रक्रिया और सुरक्षा उपायों को और मजबूत किया जा रहा है।