OpenAI จะใช้ลายน้ำที่มองไม่เห็นกับข้อความที่ ChatGPT และ Codex สร้างขึ้นในสหภาพยุโรป (EU) บริษัทระบุในบล็อกโพสต์เมื่อวันจันทร์ว่า จะเริ่มทยอยให้บริการแก่ผู้ใช้ใน EU ที่มีสิทธิ์ในช่วงหลายสัปดาห์ข้างหน้า โดยครอบคลุมผู้ใช้ที่มีสิทธิ์ในทุกแพ็กเกจ แต่ข้อมูลอ้างอิงที่เปิดเผยไม่ได้ระบุเกณฑ์คุณสมบัติโดยละเอียด
ภูมิหลังและบริบท
กฎด้านความโปร่งใสของกฎหมาย AI ของ EU มีผลบังคับใช้เมื่อวันที่ 2 สิงหาคม และกำหนดให้บริษัท AI ระบุเนื้อหาที่สร้างโดย AI ในรูปแบบที่ระบบอื่นสามารถตรวจจับได้ OpenAI ระบุว่าจะใช้ลายน้ำใน EU เพื่อตอบสนองต่อกฎดังกล่าว
ลายน้ำนี้ไม่ได้ทำงานด้วยการใส่สัญลักษณ์ที่มองเห็นได้ลงในข้อความ แต่จะปรับวิธีที่โมเดลเลือกคำอย่างละเอียด เพื่อสร้างรูปแบบที่เครื่องมือตรวจจับสามารถจดจำได้ เนื่องจากร่องรอยอยู่ในตัวข้อความ จึงติดไปด้วยแม้จะคัดลอกและวางข้อความ แต่ OpenAI อธิบายว่าวิธีนี้ไม่ได้ใช้ระบุตัวตนของผู้ใช้
OpenAI เผยแพร่รายงานทางเทคนิค textGrain พร้อมกับประกาศดังกล่าว รายงานซึ่งจัดทำร่วมกันโดยนักวิจัยจากมหาวิทยาลัยเพนซิลเวเนียและมหาวิทยาลัยเยล อธิบายตัวอย่างการใช้กุญแจลับเพื่อจัดเรียงการคาดการณ์คำถัดไป เมื่อปรับเช่นนี้สะสมหลายร้อยครั้ง ก็สามารถใช้ข้อความและกุญแจเพื่อตรวจจับเนื้อหาที่สร้างโดย AI ได้ OpenAI ระบุว่าไม่พบการเปลี่ยนแปลงที่มีนัยสำคัญต่อประสิทธิภาพของโมเดลเมื่อเปิดใช้ลายน้ำ
มาตรการนี้ยังแตกต่างจากแนวทางของบริษัทอื่นด้วย Anthropic ประกาศเมื่อสองเดือนก่อนว่าจะใช้ลายน้ำกับข้อความที่ Claude สร้างทั่วโลก และมีรายงานว่าผู้ใช้บางส่วนคัดค้าน โดยระบุว่าพวกเขาเป็นผู้ให้คำสั่ง บริบท และตัดสินใจ มีรายงานในปี 2024 ว่า OpenAI พัฒนาลายน้ำข้อความแล้ว แต่ชะลอการเปิดตัว เนื่องจากกังวลว่าผู้ใช้อาจย้ายไปใช้คู่แข่งที่ไม่มีลายน้ำ Anthropic, Google, Meta, Microsoft และ OpenAI เป็นหนึ่งในบริษัทที่ให้คำมั่นว่าจะปฏิบัติตามหลักปฏิบัติของ EU ว่าด้วยเนื้อหาที่สร้างโดย AI
ข่าวนี้หมายความว่าอย่างไร
ผู้ใช้ใน EU อาจมีเบาะแสที่ช่วยระบุข้อความซึ่ง AI สร้างขึ้นได้ อย่างไรก็ตาม ลายน้ำไม่ใช่เครื่องหมายที่ตรวจจับได้อย่างแน่นอนในทุกข้อความเสมอไป ในการทดสอบครั้งหนึ่งของ OpenAI การเปลี่ยนคำ 10% เป็นคำพ้องความหมายทำให้อัตราการตรวจจับลดลงจากประมาณ 92% เหลือ 66% บริษัทระบุด้วยว่าข้อความสั้น คำตอบทางคณิตศาสตร์ และข้อความที่แปลแล้วก็ตรวจจับได้ยาก
ดังนั้น การใช้ผลตรวจจับเป็นหลักฐานเพียงอย่างเดียวเพื่อยืนยันผู้เขียนหรือตัดสินว่ามีการทุจริตจึงมีข้อจำกัด การไม่มีลายน้ำไม่ได้พิสูจน์ว่ามนุษย์เป็นผู้เขียน ข้อความอาจสั้นเกินไปหรือผ่านการแก้ไขมาก หรืออาจสร้างโดย AI ของบริษัทอื่นก็ได้ ในทางกลับกัน แม้มีลายน้ำ ก็อาจบอกได้เพียงว่าระบบของ OpenAI สร้างหรือประมวลผลข้อความบางส่วน แต่ไม่ได้แสดงว่ามนุษย์มีส่วนในการตัดสินใจ แก้ไข หรือสร้างสรรค์มากน้อยเพียงใด
ตัวอย่างเช่น หากเครื่องมือตรวจจับไม่พบลายน้ำในข้อความ ก็ยากที่จะสรุปจากผลดังกล่าวเพียงอย่างเดียวว่ามนุษย์เป็นผู้เขียน หมายความว่าควรพิจารณาความยาวและระดับการแก้ไขข้อความ รวมถึงความเป็นไปได้ในการใช้เครื่องมือ AI อื่นร่วมด้วย
นอกเหนือจากการใช้งานใน EU แล้ว นักพัฒนา OpenAI API ทั่วโลกสามารถเปิดลายน้ำในบางโมเดลได้ อย่างไรก็ตาม ค่าเริ่มต้นคือปิด และ OpenAI ระบุว่าเมื่อเริ่มเปิดตัว จะไม่เปิดใช้ลายน้ำข้อความเป็นค่าเริ่มต้นทั่วโลก กล่าวคือ ควรแยกการใช้งานกับผู้ใช้ใน EU ออกจากการใช้แบบเลือกเปิดโดยนักพัฒนา API
ข้อเท็จจริงที่ยืนยันแล้วและสิ่งที่ยังไม่ทราบ
ข้อเท็จจริงที่ยืนยันแล้ว
- ใน EU จะเริ่มทยอยใช้กับผู้ใช้ ChatGPT และ Codex ที่มีสิทธิ์ในช่วงหลายสัปดาห์ข้างหน้า
- การใช้งานใน EU จะครอบคลุมผู้ใช้ที่มีสิทธิ์ในทุกแพ็กเกจ
- นักพัฒนา API ทั่วโลกสามารถเปิดลายน้ำในบางโมเดลได้ แต่ค่าเริ่มต้นคือปิด
- ลายน้ำจะสร้างรูปแบบที่มองไม่เห็นไว้ในการเลือกใช้คำ และไม่ได้ใช้ระบุตัวตนของผู้ใช้
- ในช่วงแรก การเข้าถึงเครื่องมือตรวจจับจะจำกัดไว้เฉพาะนักวิจัยและกลุ่มผู้เชี่ยวชาญที่ได้รับอนุมัติ ซึ่งจะช่วยประเมินความน่าเชื่อถือและการใช้งานอย่างมีความรับผิดชอบ
สิ่งที่ยังไม่ทราบ
- เกณฑ์โดยละเอียดของคำว่า ‘ผู้ใช้ที่มีสิทธิ์’ ใน EU คืออะไร
- นักวิจัยและกลุ่มผู้เชี่ยวชาญที่ได้รับอนุมัติจะเริ่มใช้เครื่องมือตรวจจับได้เมื่อใด
- โมเดลใดบ้างที่จะใช้ลายน้ำ และมีกำหนดเปิดตัวเมื่อใด
สิ่งที่ผู้อ่านควรตรวจสอบ
- หากใช้ ChatGPT หรือ Codex ใน EU ควรตรวจสอบว่าบัญชีของตนอยู่ในกลุ่มที่จะได้รับการใช้งานหรือไม่ และบริการแจ้งกำหนดเริ่มใช้เมื่อใด ข้อมูลอ้างอิงไม่ได้ระบุเกณฑ์คุณสมบัติโดยละเอียด
- หากต้องพิจารณาว่าใครเป็นผู้เขียนข้อความ สิ่งสำคัญคืออย่าสรุปจากผลตรวจจับลายน้ำเพียงอย่างเดียว OpenAI ระบุว่าในช่วงแรกจะจำกัดการเข้าถึงเครื่องมือตรวจจับไว้เฉพาะนักวิจัยและกลุ่มผู้เชี่ยวชาญที่ได้รับอนุมัติ
- นักพัฒนาที่ใช้ API ควรตรวจสอบว่าลายน้ำปิดอยู่เป็นค่าเริ่มต้น และมีการระบุว่าใช้ได้กับโมเดลบางรุ่นเท่านั้น ข้อมูลอ้างอิงที่เปิดเผยไม่เพียงพอให้ทราบรายชื่อโมเดลและกำหนดการโดยละเอียด
