OpenAI यूरोपीय संघ (EU; 유럽연합) में ChatGPT और Codex द्वारा तैयार किए गए टेक्स्ट पर अदृश्य वॉटरमार्क लागू करेगा। कंपनी ने सोमवार को एक ब्लॉग पोस्ट में कहा कि वह आने वाले कुछ हफ्तों में EU के पात्र उपयोगकर्ताओं के लिए इसे शुरू करेगी। यह सभी मूल्य-योजनाओं के पात्र उपयोगकर्ताओं पर लागू होगा, लेकिन पात्रता के सटीक मानदंड सार्वजनिक रूप से उपलब्ध जानकारी में नहीं दिए गए हैं।

पृष्ठभूमि और संदर्भ

EU के AI अधिनियम (EU AI Act; EU AI Act) के पारदर्शिता नियम 2 अगस्त को लागू हुए। ये AI कंपनियों से ऐसी व्यवस्था करने की मांग करते हैं जिससे दूसरे सिस्टम AI-जनित सामग्री की पहचान कर सकें। OpenAI ने कहा कि वह इन नियमों के जवाब में EU में वॉटरमार्क लागू करेगा।

वॉटरमार्क का तरीका लेख में कोई दिखाई देने वाला चिह्न जोड़ना नहीं है। इसके बजाय, मॉडल के शब्द चुनने के तरीके में थोड़ा बदलाव किया जाता है, जिससे ऐसा पैटर्न बनता है जिसे डिटेक्टर पहचान सके। चूंकि निशान टेक्स्ट में ही रहता है, इसलिए कॉपी-पेस्ट करने पर भी वह उसके साथ जाता है। हालांकि, OpenAI का कहना है कि इस तरीके से उपयोगकर्ता की पहचान नहीं की जाती।

घोषणा के साथ OpenAI ने टेक्स्टग्रेन तकनीकी रिपोर्ट (textGrain 기술 보고서) जारी की। पेनसिल्वेनिया विश्वविद्यालय (펜실베이니아대학교) और येल विश्वविद्यालय (예일대학교) के शोधकर्ताओं द्वारा सह-लिखी गई रिपोर्ट में गुप्त कुंजी का इस्तेमाल करके अगले शब्द की भविष्यवाणी को संरेखित करने का उदाहरण दिया गया है। रिपोर्ट के अनुसार, जब इस तरह के समायोजन सैकड़ों बार किए जाते हैं, तो टेक्स्ट और कुंजी का उपयोग करके AI-जनित सामग्री का पता लगाया जा सकता है। OpenAI ने कहा कि वॉटरमार्क चालू करने पर मॉडल के प्रदर्शन में कोई उल्लेखनीय बदलाव नहीं आया।

यह कदम दूसरी कंपनियों के तरीकों से भी अलग है। Anthropic ने दो महीने पहले घोषणा की थी कि वह Claude द्वारा तैयार टेक्स्ट पर दुनिया भर में वॉटरमार्क लागू करेगा। बताया गया कि कुछ उपयोगकर्ताओं ने इस पर आपत्ति जताई और कहा कि निर्देश, संदर्भ और फैसले उन्होंने दिए थे। 2024 में खबर आई थी कि OpenAI ने टेक्स्ट वॉटरमार्क विकसित करने के बावजूद इसे जारी करना रोक दिया था—एक वजह यह चिंता थी कि उपयोगकर्ता वॉटरमार्क न लगाने वाली प्रतिस्पर्धी सेवाओं पर जा सकते हैं। Anthropic, Google, Meta, Microsoft और OpenAI उन कंपनियों में शामिल हैं जिन्होंने AI-जनित सामग्री के संबंध में EU की आचार संहिता का पालन करने का वादा किया है।

इस खबर का मतलब

EU के उपयोगकर्ताओं के पास AI द्वारा तैयार टेक्स्ट की पहचान करने का एक संकेत हो सकता है। लेकिन वॉटरमार्क ऐसा चिह्न नहीं है जो हर लेख में हमेशा भरोसेमंद तरीके से पहचाना जा सके। OpenAI के एक परीक्षण में, शब्दों के 10% को समानार्थी शब्दों से बदलने पर पहचान दर लगभग 92% से घटकर 66% रह गई। कंपनी ने कहा कि छोटे लेखों, गणित के उत्तरों और अनुवादित टेक्स्ट का पता लगाना भी मुश्किल है।

इसलिए पहचान के नतीजे को लेखक की पुष्टि या धोखाधड़ी के फैसले का अकेला आधार बनाने की सीमाएं हैं। वॉटरमार्क न होने से यह साबित नहीं होता कि लेख किसी इंसान ने लिखा है। लेख बहुत छोटा या काफी संपादित हो सकता है, या उसे किसी दूसरी कंपनी के AI ने तैयार किया हो सकता है। इसके उलट, वॉटरमार्क होने से केवल यह संकेत मिल सकता है कि OpenAI के सिस्टम ने लेख का कुछ हिस्सा तैयार किया या उस पर प्रक्रिया की; इससे यह पता नहीं चलता कि उसमें इंसान का निर्णय, संपादन या रचनात्मकता कितनी शामिल थी।

उदाहरण के लिए, अगर किसी लेख में डिटेक्टर को वॉटरमार्क न मिले, तो केवल इस नतीजे के आधार पर यह निष्कर्ष निकालना मुश्किल है कि उसे किसी इंसान ने लिखा है। इसका मतलब है कि लेख की लंबाई, उसमें किए गए संपादन की मात्रा और दूसरे AI टूल के इस्तेमाल की संभावना को भी ध्यान में रखना चाहिए।

EU में लागू होने से अलग, दुनिया भर के OpenAI API डेवलपर कुछ मॉडलों में वॉटरमार्क चालू कर सकते हैं। हालांकि, यह डिफॉल्ट रूप से बंद है और OpenAI ने कहा कि लॉन्च के समय टेक्स्ट वॉटरमार्क को दुनिया भर की डिफॉल्ट सेटिंग नहीं बनाया जाएगा। यानी EU के उपयोगकर्ताओं पर लागू व्यवस्था और API डेवलपरों के लिए वैकल्पिक इस्तेमाल को अलग-अलग समझना चाहिए।

क्या पुष्टि हुई है और क्या अभी अज्ञात है

पुष्टि हुई है

  • EU में इसे आने वाले कुछ हफ्तों में पात्र ChatGPT और Codex उपयोगकर्ताओं के लिए लागू किया जाएगा।
  • EU में यह सभी मूल्य-योजनाओं के पात्र उपयोगकर्ताओं पर लागू होगा।
  • API डेवलपर दुनिया भर में कुछ मॉडलों के लिए वॉटरमार्क चालू कर सकते हैं, लेकिन यह डिफॉल्ट रूप से बंद है।
  • वॉटरमार्क शब्दों के चयन में अदृश्य पैटर्न छोड़ता है और उपयोगकर्ता की पहचान नहीं करता।
  • शुरुआती डिटेक्टर तक पहुंच केवल उन स्वीकृत शोधकर्ताओं और विशेषज्ञ समूहों को दी जाएगी जो इसकी विश्वसनीयता और जिम्मेदार इस्तेमाल का मूल्यांकन करने में मदद कर सकते हैं।

अभी अज्ञात है

  • EU में ‘पात्र उपयोगकर्ता’ होने के सटीक मानदंड क्या हैं?
  • स्वीकृत शोधकर्ताओं और विशेषज्ञ समूहों को डिटेक्टर का इस्तेमाल कब से करने दिया जाएगा?
  • वॉटरमार्क किन विशिष्ट मॉडलों पर लागू होगा और इसे जारी करने का कार्यक्रम क्या है?

पाठकों को किन बातों की जांच करनी चाहिए

  • अगर आप EU में ChatGPT या Codex का इस्तेमाल करते हैं, तो यह जांचना जरूरी है कि आपका खाता लागू व्यवस्था के दायरे में आता है या नहीं, और सेवा में बताई गई शुरुआत की तारीख क्या है। उपलब्ध जानकारी में पात्रता के विस्तृत मानदंड नहीं दिए गए हैं।
  • अगर आपको यह तय करना है कि लेख किसने लिखा है, तो केवल वॉटरमार्क पहचान के नतीजे के आधार पर फैसला नहीं करना चाहिए। OpenAI ने कहा है कि शुरुआती डिटेक्टर तक पहुंच स्वीकृत शोधकर्ताओं और विशेषज्ञ समूहों तक सीमित होगी।
  • API इस्तेमाल करने वाले डेवलपरों को ध्यान रखना चाहिए कि वॉटरमार्क डिफॉल्ट रूप से बंद है और इसे केवल कुछ मॉडलों में लागू किया जा सकता है। उपलब्ध जानकारी से विशिष्ट मॉडलों की सूची और समय-सारणी का पता नहीं चलता।