OpenAI sẽ áp dụng watermark vô hình cho văn bản do ChatGPT và Codex tạo ra tại Liên minh châu Âu (EU). Trong bài đăng trên blog hôm thứ Hai, công ty cho biết sẽ triển khai tính năng này trong vài tuần tới cho người dùng đủ điều kiện tại EU. Đối tượng áp dụng là người dùng đủ điều kiện thuộc tất cả các gói dịch vụ, nhưng các tiêu chí cụ thể về điều kiện chưa được nêu trong những thông tin đã công bố.

Bối cảnh

Các quy định về tính minh bạch trong Đạo luật AI của EU (EU AI Act) có hiệu lực ngày 2 tháng 8 và yêu cầu các công ty AI đánh dấu nội dung do AI tạo ra theo cách để các hệ thống khác có thể nhận diện. OpenAI cho biết sẽ áp dụng watermark tại EU để đáp ứng quy định này.

Watermark không hoạt động bằng cách chèn ký hiệu hiển thị vào văn bản. Thay vào đó, mô hình điều chỉnh tinh tế cách chọn từ ngữ để tạo ra một mẫu hình mà công cụ phát hiện có thể nhận ra. Vì dấu vết nằm ngay trong văn bản nên nó vẫn được giữ nguyên khi văn bản được sao chép và dán, nhưng OpenAI giải thích rằng phương thức này không xác định danh tính người dùng.

Cùng với thông báo, OpenAI công bố báo cáo kỹ thuật textGrain. Báo cáo do các nhà nghiên cứu tại Đại học Pennsylvania và Đại học Yale đồng biên soạn, mô tả cách sử dụng khóa bí mật để điều chỉnh việc dự đoán từ tiếp theo. Theo báo cáo, khi những điều chỉnh này được tích lũy qua hàng trăm lần, có thể dùng văn bản và khóa để phát hiện nội dung do AI tạo ra. OpenAI cho biết việc bật watermark không gây ra thay đổi đáng kể nào về hiệu suất của mô hình.

Biện pháp này cũng khác với cách làm của các công ty khác. Hai tháng trước đó, Anthropic thông báo sẽ áp dụng watermark trên toàn cầu cho văn bản do Claude tạo ra; một số người dùng được cho là đã phản đối, nói rằng họ cung cấp chỉ dẫn, bối cảnh và quyết định. Năm 2024, có thông tin cho rằng OpenAI đã phát triển watermark văn bản nhưng hoãn ra mắt, một phần vì lo ngại người dùng có thể chuyển sang các đối thủ không có watermark. Anthropic, Google, Meta, Microsoft và OpenAI nằm trong số các công ty cam kết tuân thủ Bộ quy tắc thực hành về AI của EU (EU 실천 강령).

Tin này có ý nghĩa gì

Người dùng tại EU có thể có thêm một dấu hiệu để nhận diện văn bản do AI tạo ra. Tuy nhiên, watermark không phải dấu hiệu luôn cho kết quả chính xác ở mọi văn bản. Trong một thử nghiệm của OpenAI, khi thay 10% số từ bằng từ đồng nghĩa, tỷ lệ phát hiện giảm từ khoảng 92% xuống 66%. Công ty cho biết văn bản ngắn, câu trả lời toán học và văn bản đã dịch cũng khó phát hiện.

Vì vậy, kết quả phát hiện có những hạn chế nếu được dùng làm căn cứ duy nhất để xác nhận tác giả hoặc kết luận có hành vi gian lận. Việc không có watermark không chứng minh rằng văn bản do con người viết. Văn bản có thể quá ngắn hoặc đã được chỉnh sửa nhiều, hoặc có thể do AI của một công ty khác tạo ra. Ngược lại, ngay cả khi có watermark, điều đó cũng chỉ có thể cho thấy hệ thống của OpenAI đã tạo ra hoặc xử lý một phần văn bản, chứ không cho biết mức độ tham gia của con người về phán đoán, biên tập hay sáng tạo.

Ví dụ, nếu công cụ phát hiện không tìm thấy watermark trong một văn bản, chỉ riêng kết quả đó vẫn chưa đủ để kết luận rằng văn bản do con người viết. Điều này có nghĩa là cũng cần xem xét độ dài, mức độ chỉnh sửa của văn bản và khả năng đã sử dụng công cụ AI khác.

Ngoài phạm vi áp dụng tại EU, các nhà phát triển sử dụng API của OpenAI trên toàn thế giới có thể bật watermark cho một số mô hình. Tuy nhiên, theo mặc định, tính năng này đang tắt; OpenAI cho biết tại thời điểm ra mắt, watermark văn bản sẽ không được bật làm cài đặt mặc định trên toàn cầu. Nói cách khác, cần phân biệt việc áp dụng cho người dùng tại EU với việc các nhà phát triển API có thể tự chọn sử dụng.

Những điều đã xác nhận và những điều chưa rõ

Những điều đã xác nhận

  • Tại EU, tính năng dự kiến sẽ được triển khai trong vài tuần tới cho người dùng ChatGPT và Codex đủ điều kiện.
  • Việc áp dụng tại EU dự kiến dành cho người dùng đủ điều kiện thuộc tất cả các gói dịch vụ.
  • Các nhà phát triển API trên toàn thế giới có thể bật watermark cho một số mô hình, nhưng theo mặc định, tính năng này đang tắt.
  • Watermark tạo ra một mẫu hình vô hình trong cách lựa chọn từ ngữ và không xác định danh tính người dùng.
  • Quyền truy cập ban đầu vào công cụ phát hiện dự kiến chỉ dành cho các nhà nghiên cứu được phê duyệt và các tổ chức chuyên môn, nhằm hỗ trợ đánh giá độ tin cậy và cách sử dụng có trách nhiệm.

Những điều chưa rõ

  • Tiêu chí cụ thể để xác định người dùng “đủ điều kiện” tại EU là gì?
  • Khi nào các nhà nghiên cứu được phê duyệt và các tổ chức chuyên môn có thể sử dụng công cụ phát hiện?
  • Những mô hình cụ thể nào sẽ được áp dụng watermark và lịch triển khai ra sao?

Điều độc giả cần kiểm tra

  • Nếu sử dụng ChatGPT hoặc Codex tại EU, bạn cần kiểm tra tài khoản của mình có thuộc diện áp dụng hay không và xem thời điểm triển khai được thông báo trên dịch vụ. Các thông tin đã công bố không nêu chi tiết tiêu chí đủ điều kiện.
  • Nếu cần xác định ai là người viết văn bản, điều quan trọng là không kết luận chỉ dựa vào kết quả phát hiện watermark. OpenAI cho biết quyền truy cập ban đầu vào công cụ phát hiện chỉ dành cho các nhà nghiên cứu được phê duyệt và các tổ chức chuyên môn.
  • Các nhà phát triển sử dụng API cần lưu ý rằng watermark mặc định đang tắt và tính năng này chỉ được nêu là có thể áp dụng cho một số mô hình. Chỉ dựa trên những thông tin đã công bố thì chưa thể biết danh sách mô hình cụ thể và lịch triển khai.