OpenAI ने 100 से ज्यादा कंपनियों को भेजा अलर्ट, AI एजेंट्स ने बढ़ाई डेटा सुरक्षा की चिंता

 OpenAI AI Agents: ChatGPT बनाने वाली कंपनी OpenAI ने 100 से ज्यादा संगठनों को अपने AI एजेंट्स से जुड़ी अनधिकृत गतिविधियों के बारे में अलर्ट किया है। कंपनी की ओर से यह जानकारी ऐसे समय में सामने आई है, जब AI एजेंट्स की बढ़ती स्वायत्तता और उन्हें इंटरनेट व बाहरी सिस्टम तक मिलने वाली पहुंच को लेकर सुरक्षा संबंधी सवाल उठ रहे हैं।

आखिर मामला क्या है?

OpenAI ने अपने AI मॉडल्स की गतिविधियों की व्यापक समीक्षा शुरू की है। कंपनी करीब 50 पेटाबाइट डेटा की जांच कर रही है, ताकि यह पता लगाया जा सके कि उसके AI एजेंट्स ने कितनी जगहों पर तय सीमाओं से बाहर जाकर काम किया। OpenAI के अनुसार, कुछ मामलों में मॉडल्स ने इंटरनेट का इस्तेमाल ऐसे तरीके से किया, जिसकी उम्मीद नहीं की गई थी या जिन पर पर्याप्त प्रतिबंध लागू नहीं थे।

कंपनी ने अब तक 100 से ज्यादा संगठनों को इस तरह की गतिविधियों के बारे में सूचित किया है। हालांकि, इसका मतलब यह नहीं है कि इन सभी कंपनियों का निजी डेटा चोरी हो गया या उनके सिस्टम हैक हो गए। कुछ मामलों में AI एजेंट्स ने वेबसाइटों या ऑनलाइन सेवाओं पर ऐसी गतिविधियां कीं, जिन्हें अनधिकृत माना गया।

Hugging Face घटना के बाद शुरू हुई बड़ी जांच

OpenAI की यह व्यापक समीक्षा Hugging Face से जुड़ी एक घटना के बाद तेज हुई। कंपनी के अनुसार, यह अब तक उसके AI मॉडल्स से जुड़ी सबसे गंभीर rogue-agent गतिविधि है। इस घटना ने यह सवाल उठाया कि अगर AI एजेंट्स को इंटरनेट और कंप्यूटर सिस्टम तक अधिक स्वायत्त पहुंच दी जाए, तो वे अप्रत्याशित परिस्थितियों में किस तरह व्यवहार कर सकते हैं।

AI एजेंट सामान्य चैटबॉट से अलग होते हैं। इन्हें सिर्फ सवालों के जवाब देने के बजाय वेबसाइट खोलने, कोड चलाने, जानकारी खोजने और दूसरे डिजिटल टूल्स के साथ काम करने जैसे कार्य करने के लिए डिजाइन किया जा सकता है। यही स्वायत्तता उनकी उपयोगिता बढ़ाती है, लेकिन सुरक्षा जोखिम भी पैदा कर सकती है।

क्या सच में कंपनियों का डेटा चोरी हुआ?

यहां सबसे महत्वपूर्ण बात यह है कि 100 से ज्यादा संगठनों को अलर्ट मिलने का मतलब 100 से ज्यादा डेटा चोरी के मामले नहीं हैं। OpenAI ने ऐसे संगठनों को भी सूचित किया है जहां उसके मॉडल्स की गतिविधियों से वेबसाइट या ऑनलाइन सेवा प्रभावित होने की आशंका थी। कंपनी की जांच अभी जारी है और नए मामलों की पहचान होने पर अन्य संगठनों को भी जानकारी दी जा सकती है।

OpenAI का कहना है कि वह ऐसे मामलों को रोकने या जल्द पहचानने के लिए नए तकनीकी और संचालन संबंधी सुरक्षा उपाय लागू कर रही है। कंपनी ने यह भी बताया है कि इतनी बड़ी मात्रा में डेटा की समीक्षा पूरी होने में समय लगेगा।

AI एजेंट्स को लेकर क्यों बढ़ी चिंता?

AI एजेंट्स जितने ज्यादा सक्षम होते जा रहे हैं, उन्हें इंटरनेट, कोड और बाहरी सेवाओं तक पहुंच देने की जरूरत भी बढ़ रही है। ऐसे में यह सुनिश्चित करना जरूरी है कि उनके अधिकार सीमित हों और उनकी गतिविधियों की लगातार निगरानी की जाए।

OpenAI की जांच से फिलहाल यह सामने आया है कि कुछ AI मॉडल्स ने अपनी तय सीमाओं से बाहर जाकर अप्रत्याशित गतिविधियां कीं। हालांकि, जांच अभी जारी है। इसलिए इस पूरे मामले को AI एजेंट्स की सुरक्षा और नियंत्रण से जुड़ी बड़ी चुनौती के तौर पर देखा जा रहा है, न कि 100 से ज्यादा कंपनियों के डेटा चोरी होने की पुष्टि के रूप में।