OpenAI akan menerapkan watermark tak terlihat pada teks yang dihasilkan ChatGPT dan Codex di Uni Eropa (UE). Dalam unggahan blog pada Senin, perusahaan mengatakan bahwa penerapannya akan dimulai dalam beberapa minggu ke depan bagi pengguna yang memenuhi syarat di UE. Pengguna yang memenuhi syarat di semua paket berbayar akan tercakup, tetapi kriteria kelayakan secara terperinci tidak disebutkan dalam informasi yang tersedia.

Latar belakang dan konteks

Aturan transparansi dalam Undang-Undang AI Uni Eropa (EU AI Act, 유럽연합 인공지능법) mulai berlaku pada 2 Agustus dan mewajibkan perusahaan AI untuk menandai konten yang dihasilkan AI dengan cara yang dapat dikenali oleh sistem lain. OpenAI mengatakan akan menerapkan watermark di UE sebagai respons terhadap aturan tersebut.

Watermark ini tidak bekerja dengan menambahkan simbol yang terlihat pada teks. Sebaliknya, model menyesuaikan secara halus cara memilih kata sehingga terbentuk pola yang dapat dikenali oleh alat pendeteksi. Karena jejaknya tertanam dalam teks itu sendiri, watermark akan ikut terbawa saat teks disalin dan ditempel. Namun, OpenAI menjelaskan bahwa metode ini tidak mengidentifikasi identitas pengguna.

Bersamaan dengan pengumuman tersebut, OpenAI merilis laporan teknis textGrain. Laporan yang ditulis bersama oleh para peneliti dari University of Pennsylvania dan Yale University itu menjelaskan contoh penggunaan kunci rahasia untuk mengatur prediksi kata berikutnya. Jika penyesuaian semacam ini dilakukan ratusan kali, konten yang dihasilkan AI dapat dideteksi menggunakan teks dan kunci tersebut. OpenAI mengatakan bahwa mengaktifkan watermark tidak menimbulkan perubahan berarti pada kinerja model.

Langkah ini juga berbeda dari pendekatan perusahaan lain. Dua bulan sebelumnya, Anthropic mengumumkan akan menerapkan watermark secara global pada teks yang dihasilkan Claude. Sejumlah pengguna dilaporkan menyampaikan keberatan dengan mengatakan bahwa mereka sendirilah yang memberikan instruksi, konteks, dan keputusan. Pada 2024, diberitakan bahwa OpenAI telah mengembangkan watermark teks, tetapi menunda peluncurannya, antara lain karena khawatir pengguna akan beralih ke pesaing yang tidak menggunakan watermark. Anthropic, Google, Meta, Microsoft, dan OpenAI termasuk di antara perusahaan yang berkomitmen mengikuti Kode Praktik UE tentang konten yang dihasilkan AI.

Arti kabar ini

Bagi pengguna di UE, watermark dapat menjadi petunjuk untuk mengidentifikasi teks yang dibuat AI. Namun, watermark bukan penanda yang selalu dapat dideteksi secara pasti pada setiap teks. Dalam salah satu pengujian OpenAI, mengganti 10% kata dengan sinonim menurunkan tingkat deteksi dari sekitar 92% menjadi 66%. Perusahaan juga mengatakan bahwa tulisan pendek, jawaban matematika, dan teks terjemahan sulit dideteksi.

Karena itu, hasil deteksi memiliki keterbatasan jika digunakan sebagai satu-satunya dasar untuk memastikan siapa penulisnya atau untuk menentukan adanya kecurangan. Tidak adanya watermark tidak membuktikan bahwa teks ditulis oleh manusia. Teks itu mungkin terlalu pendek atau telah banyak diedit, atau mungkin dibuat oleh AI dari perusahaan lain. Sebaliknya, keberadaan watermark hanya dapat menunjukkan bahwa sistem OpenAI menghasilkan atau memproses sebagian teks tersebut; watermark tidak menunjukkan seberapa besar kontribusi penilaian, penyuntingan, atau kreativitas manusia.

Sebagai contoh, jika alat pendeteksi tidak menemukan watermark pada sebuah tulisan, hasil itu saja tidak cukup untuk menyimpulkan bahwa tulisan tersebut dibuat oleh manusia. Panjang tulisan, tingkat penyuntingan, dan kemungkinan penggunaan alat AI lain juga perlu dipertimbangkan.

Terpisah dari penerapan di UE, pengembang API OpenAI di seluruh dunia dapat mengaktifkan watermark pada model tertentu. Namun, pengaturan bawaan tetap nonaktif, dan OpenAI mengatakan watermark teks tidak akan diterapkan secara bawaan di seluruh dunia saat peluncuran. Artinya, penerapan bagi pengguna di UE perlu dibedakan dari penggunaan opsional oleh pengembang API.

Fakta yang diketahui dan hal yang belum diketahui

Fakta yang diketahui

  • Penerapan di UE dijadwalkan berlangsung dalam beberapa minggu ke depan bagi pengguna ChatGPT dan Codex yang memenuhi syarat.
  • Penerapan di UE akan mencakup pengguna yang memenuhi syarat di semua paket berbayar.
  • Pengembang API di seluruh dunia dapat mengaktifkan watermark pada model tertentu, tetapi pengaturan bawaan nonaktif.
  • Watermark meninggalkan pola tak terlihat pada pemilihan kata dan tidak mengidentifikasi identitas pengguna.
  • Akses awal ke alat pendeteksi hanya akan diberikan kepada peneliti dan organisasi profesional yang disetujui, yang dapat membantu menilai keandalan dan penggunaan yang bertanggung jawab.

Hal yang belum diketahui

  • Apa kriteria terperinci untuk menentukan “pengguna yang memenuhi syarat” di UE?
  • Kapan peneliti dan organisasi profesional yang disetujui dapat mulai menggunakan alat pendeteksi?
  • Model apa saja yang akan menggunakan watermark dan bagaimana jadwal peluncurannya?

Hal yang perlu diperhatikan pembaca

  • Jika menggunakan ChatGPT atau Codex di UE, periksa apakah akun Anda termasuk dalam cakupan dan kapan layanan menyatakan penerapannya akan dimulai. Informasi yang tersedia tidak menjelaskan kriteria kelayakannya secara terperinci.
  • Jika perlu menentukan siapa yang menulis sebuah teks, jangan menyimpulkan hanya berdasarkan hasil deteksi watermark. OpenAI mengatakan akses awal ke alat pendeteksi hanya akan diberikan kepada peneliti dan organisasi profesional yang disetujui.
  • Pengembang yang menggunakan API perlu memperhatikan bahwa watermark secara bawaan nonaktif dan hanya tersedia untuk model tertentu. Daftar model dan jadwal terperinci tidak dapat diketahui dari informasi yang tersedia.