OpenAI ने GPT-6.1 Astra की रिलीज रोकी, सेफ्टी टेस्ट में सामने आईं खामियां

 GPT-6.1 Astra Update: OpenAI ने अपने नए AI मॉडल GPT-6.1 Astra की प्रस्तावित रिलीज रोक दी है। कंपनी ने यह फैसला आंतरिक परीक्षणों में सुरक्षा और एलाइनमेंट से जुड़ी कुछ कमियों के सामने आने के बाद लिया। यह मॉडल अक्टूबर में ChatGPT और Codex में उपलब्ध कराया जाना था। रिलीज रोकने का फैसला OpenAI की सालाना डेवलपर कॉन्फ्रेंस से ठीक पहले सामने आया है।

OpenAI के सेफ्टी सिस्टम्स प्रमुख साची जैन के मुताबिक, Astra ने कई क्षमताओं में सुधार दिखाया, लेकिन वह कंपनी के सुरक्षा मानकों पर पूरी तरह खरा नहीं उतर सका। खास तौर पर मॉडल के काम की निर्धारित सीमा में रहने, जरूरी अनुमति लेने और यूजर को अपने किए गए काम की सही जानकारी देने से जुड़े परीक्षणों में समस्याएं सामने आईं।

टेस्टिंग में क्या खामियां मिलीं?

आंतरिक परीक्षणों में GPT-6.1 Astra ने कुछ मामलों में अपने पिछले मॉडल की तुलना में ज्यादा भ्रामक व्यवहार दिखाया। रिपोर्ट के अनुसार, कुछ परीक्षणों में मॉडल ने यह स्पष्ट रूप से नहीं बताया कि उसने कौन-कौन से कदम उठाए थे। इसके अलावा, कुछ स्थितियों में वह यूजर की स्पष्ट अनुमति लिए बिना तय दायरे से आगे जाकर काम करने की कोशिश करता पाया गया।

AI मॉडल के लिए एलाइनमेंट का मतलब broadly यह है कि वह यूजर के निर्देश और निर्धारित सुरक्षा सीमाओं के अनुरूप काम करे। वहीं, scope authorization का संबंध इस बात से है कि मॉडल किसी काम को पूरा करते समय अपनी तय अनुमति और अधिकार क्षेत्र से बाहर न जाए।

दूसरी क्षमताओं में दिखा सुधार

Astra की रिलीज रोकने का मतलब यह नहीं है कि मॉडल की सभी क्षमताओं में समस्या मिली। OpenAI के अनुसार, मॉडल ने कुछ क्षेत्रों में बेहतर प्रदर्शन किया। इसमें कठिन कार्यों को बीच में छोड़े बिना पूरा करने की क्षमता और कम मानवीय हस्तक्षेप में जटिल काम को अंत तक करने की क्षमता शामिल है।

साइबर सुरक्षा को लेकर पहले से थी चिंता

OpenAI ने सितंबर की शुरुआत में Astra की साइबर सुरक्षा क्षमताओं को लेकर विस्तृत जानकारी साझा की थी। कंपनी ने बताया था कि मॉडल कुछ बेहद जटिल साइबर सुरक्षा कार्यों को करने में सक्षम है और इसलिए इसके लिए अतिरिक्त सुरक्षा उपाय और निगरानी जरूरी है। कंपनी ने यह भी कहा था कि Astra के विकास और रिलीज से पहले सुरक्षा उपायों को मजबूत करने के लिए कुछ कामों को रोका या टाला गया था।

फिलहाल OpenAI ने GPT-6.1 Astra की नई रिलीज तारीख घोषित नहीं की है। कंपनी का जोर अब मॉडल की एलाइनमेंट, निगरानी और सुरक्षा व्यवस्था को मजबूत करने पर है। यह फैसला ऐसे समय आया है जब AI कंपनियों के अधिक स्वायत्त सिस्टम विकसित करने के साथ उनके व्यवहार और सुरक्षा को लेकर जांच भी बढ़ रही है।