Meta AI: किशोरों के लिए नए सुरक्षा नियम लागू

 

संवेदनशील विषयों पर रोक

मेटा (Meta) ने अपने एआई चैटबॉट्स में बड़े बदलाव की घोषणा की है। अब ये चैटबॉट्स किशोर उपयोगकर्ताओं (13 से 18 वर्ष) के साथ आत्महत्या, आत्म-हानि और ईटिंग डिसऑर्डर जैसे संवेदनशील विषयों पर बातचीत नहीं करेंगे। इस स्थिति में टीनएजर्स को सीधे हेल्पलाइन नंबर और एक्सपर्ट संसाधनों की ओर भेजा जाएगा।

जांच और विवाद के बाद लिया फैसला

यह कदम ऐसे समय में उठाया गया है जब हाल ही में अमेरिका के एक सीनेटर ने मेटा की जांच शुरू की थी। यह जांच एक लीक डॉक्युमेंट के आधार पर की गई थी, जिसमें दावा था कि मेटा के चैटबॉट्स टीनएजर्स के साथ “संवेदनशील और आकर्षक” बातचीत कर सकते हैं। हालांकि, कंपनी ने इन आरोपों को खारिज किया और कहा कि नाबालिगों को यौन रूप से प्रदर्शित करने वाले किसी भी कंटेंट की कड़ी मनाही है।

चैटबॉट्स पर अतिरिक्त सतर्कता

मेटा के प्रवक्ता ने बताया कि शुरुआत से ही टीनएजर्स के लिए एआई प्रोडक्ट्स में सुरक्षा फीचर्स जोड़े गए थे। अब और भी सतर्कता बरतते हुए किशोरों के लिए चैटबॉट्स की संख्या सीमित की जाएगी। साथ ही, आत्महत्या, आत्म-हानि और अस्वस्थ खानपान से जुड़े सवालों पर चैटबॉट्स को सुरक्षित और जिम्मेदार प्रतिक्रिया देने के लिए डिजाइन किया गया है।

आलोचना और सवाल

कई सुरक्षा समूहों ने इस फैसले का स्वागत किया है, लेकिन आलोचकों का कहना है कि ऐसी नीतियां शुरुआत से ही लागू होनी चाहिए थीं। मॉली रोज फाउंडेशन के प्रमुख एंडी बरोज ने कहा कि किसी भी तकनीक की सुरक्षा जांच प्रोडक्ट लॉन्च से पहले होनी चाहिए, न कि खतरे सामने आने के बाद।

अन्य घटनाओं से बढ़ी चिंता

हाल ही में कैलिफोर्निया में एक दंपति ने OpenAI पर मुकदमा दायर किया। आरोप लगाया गया कि उनके बेटे ने चैटबॉट की सलाह के बाद आत्महत्या कर ली। इस घटना के बाद ओपनएआई ने भी अपने चैटबॉट्स में बदलाव किए और उपयोगकर्ताओं के लिए सुरक्षित अनुभव सुनिश्चित करने की बात कही।

मेटा के सामने नई चुनौतियां

रिपोर्ट्स में यह भी सामने आया कि मेटा के एआई टूल्स का दुरुपयोग करके ऐसे चैटबॉट्स बनाए गए, जो महिला सेलिब्रिटीज की नकल करते हुए अनुचित और यौन टिप्पणियां कर रहे थे। इतना ही नहीं, इनके जरिए युवा कलाकारों की फोटो-रियलिस्टिक अश्लील तस्वीरें भी बनाई गईं। इस पर कंपनी ने स्पष्ट किया कि सार्वजनिक हस्तियों की छवि बनाने की अनुमति है, लेकिन नग्न या अश्लील कंटेंट बिल्कुल बर्दाश्त नहीं किया जाएगा।

निष्कर्ष

नियामक एजेंसियों और सुरक्षा समूहों के दबाव के बीच मेटा के लिए यह बड़ी चुनौती है कि वह अपने एआई प्रोडक्ट्स को सुरक्षित और भरोसेमंद बनाए रखे। कंपनी ने वादा किया है कि सुरक्षा को सर्वोच्च प्राथमिकता देते हुए इनोवेशन जारी रहेगा।