ChatGPT के AI टेक्स्ट में लगेगा अदृश्य वॉटरमार्क, जानें OpenAI का textGrain कैसे करेगा काम

 आर्टिफिशियल इंटेलिजेंस से तैयार किए गए टेक्स्ट की पहचान आसान बनाने की दिशा में OpenAI ने एक नई तकनीक पेश की है। कंपनी ने textGrain नाम का एक अदृश्य टेक्स्ट वॉटरमार्किंग सिस्टम विकसित किया है। इसके जरिए ChatGPT और Codex से तैयार किए गए टेक्स्ट में ऐसा सांख्यिकीय संकेत शामिल किया जाएगा, जिसे आम व्यक्ति अपनी आंखों से नहीं देख सकेगा, लेकिन विशेष डिटेक्टर इसकी पहचान कर सकेगा।

क्या है textGrain?

textGrain OpenAI की टेक्स्ट वॉटरमार्किंग तकनीक है। यह टेक्स्ट में कोई अलग निशान, छिपे हुए अक्षर, अतिरिक्त स्पेस या विशेष विराम चिह्न नहीं जोड़ती। इसके बजाय मॉडल के शब्दों और शब्दों के हिस्सों यानी टोकन को चुनने के तरीके में बहुत हल्का सांख्यिकीय बदलाव किया जाता है। कई शब्दों के चुनाव मिलकर एक ऐसा पैटर्न बनाते हैं, जिसे OpenAI का डिटेक्टर पहचान सकता है।

कॉपी-पेस्ट करने पर भी रहेगा संकेत

इस वॉटरमार्क की खासियत यह है कि यह टेक्स्ट की शब्द-चयन प्रक्रिया में मौजूद रहता है। इसलिए सामान्य तरीके से टेक्स्ट को कॉपी और पेस्ट करने पर भी यह संकेत बना रह सकता है। हालांकि, OpenAI का कहना है कि टेक्स्ट में बड़े स्तर पर बदलाव करने पर वॉटरमार्क की पहचान कमजोर हो सकती है।

अभी कहां लागू होगा?

OpenAI आने वाले हफ्तों में यूरोपीय संघ में पात्र ChatGPT और Codex यूजर्स के लिए टेक्स्ट वॉटरमार्किंग शुरू करेगा। यह व्यवस्था फिलहाल EU तक सीमित रहेगी और कंपनी इसे शुरुआत में वैश्विक डिफॉल्ट नहीं बना रही है। वहीं, दुनियाभर के API ग्राहक चुनिंदा मॉडलों के लिए टेक्स्ट वॉटरमार्किंग को अपनी इच्छा से चालू कर सकेंगे।

क्या हर AI टेक्स्ट पकड़ा जा सकेगा?

ऐसा जरूरी नहीं है। OpenAI खुद मानता है कि textGrain की पहचान क्षमता टेक्स्ट की लंबाई और उसके प्रकार पर निर्भर करती है। छोटे टेक्स्ट में वॉटरमार्क पकड़ना मुश्किल हो सकता है। इसी तरह टेक्स्ट को दोबारा लिखने या शब्दों के पर्यायवाची इस्तेमाल करने से भी संकेत कमजोर हो सकता है। कंपनी के परीक्षण में 400-टोकन वाले टेक्स्ट में करीब 10 प्रतिशत शब्द बदलने पर डिटेक्शन लगभग 92 प्रतिशत से घटकर 66 प्रतिशत रह गया, जबकि 25 प्रतिशत शब्द बदलने पर यह करीब 17 प्रतिशत रह गया।

यूजर की पहचान नहीं बताएगा

textGrain का मकसद यह बताना है कि किसी टेक्स्ट में OpenAI के मॉडल का वॉटरमार्क मौजूद है या नहीं। यह यूजर की पहचान, उसके प्रॉम्प्ट या बातचीत की जानकारी सामने नहीं करता। साथ ही, वॉटरमार्क मिलने से यह भी साबित नहीं होता कि टेक्स्ट का पूरा हिस्सा AI ने लिखा है या उसमें इंसान ने कितना योगदान दिया।

इस तकनीक का मुख्य उद्देश्य AI-जनरेटेड कंटेंट की पहचान और पारदर्शिता बढ़ाना है। हालांकि, इसकी सीमाओं को देखते हुए किसी टेक्स्ट में वॉटरमार्क न मिलना अपने आप में यह साबित नहीं करता कि वह टेक्स्ट इंसान ने ही लिखा है।