OpenAI का बड़ा खुलासा: ChatGPT पर आंख मूंदकर भरोसा न करें

 

GPT-5 का लॉन्च

ओपनएआई ने हाल ही में अपना नया और उन्नत लैंग्वेज मॉडल GPT-5 लॉन्च किया है। कंपनी का दावा है कि यह मॉडल पहले से अधिक सटीक, बेहतर रीजनिंग क्षमता वाला और हेल्थ व मल्टीमॉडल फीचर्स में सक्षम है।

निक टर्ली की चेतावनी

हालांकि, ChatGPT प्रमुख निक टर्ली ने साफ कहा कि AI को केवल सहायक टूल के रूप में इस्तेमाल किया जाना चाहिए। उन्होंने बताया कि GPT-5 की सटीकता पहले से बेहतर है, लेकिन अब भी करीब 10% मामलों में यह गलत जानकारी दे देता है। इसे तकनीकी भाषा में AI हैलुसिनेशन कहा जाता है, यानी मशीन तथ्य की जगह काल्पनिक जानकारी बना देती है।

क्यों करता है गलती?

बड़े भाषा मॉडल (LLMs) प्रशिक्षण डेटा पर आधारित होते हैं और अगले शब्द का अनुमान लगाते हैं। जब इन्हें डेटा से बाहर के सवाल मिलते हैं, तो ये कई बार सही दिखने वाले लेकिन गलत जवाब दे देते हैं।

समाधान और भविष्य की योजना

टर्ली का मानना है कि ChatGPT को सत्यापित स्रोतों जैसे सर्च इंजन के साथ जोड़कर इस्तेमाल करना सबसे सुरक्षित है। इसी वजह से चैटजीपीटी में सर्च फीचर जोड़ा गया है। उन्होंने कहा कि भविष्य में हैलुसिनेशन की समस्या खत्म हो जाएगी, लेकिन अभी यह संभव नहीं है। इसके साथ ही खबर है कि ओपनएआई अपना खुद का ब्राउज़र लाने पर भी काम कर रहा है।