OpenAIは、欧州連合（EU）でChatGPTとCodexが生成したテキストに、目に見えない透かしを適用する。同社は月曜日のブログ投稿で、今後数週間にわたり、EUで利用資格のあるユーザーに導入すると発表した。対象はすべての料金プランの利用資格のあるユーザーだが、具体的な資格基準は公表された資料では示されていない。

背景と経緯

EU AI法（EU AI Act）の透明性規則は8月2日に発効し、AI企業に対し、ほかのシステムが識別できる方法でAI生成コンテンツを表示するよう求めている。OpenAIはこの規則への対応として、EUで透かしを適用すると明らかにした。

この透かしは、文章に目に見える記号を加える方式ではない。モデルが単語を選ぶ方法をわずかに調整し、検出器が識別できるパターンを作る。文章そのものに痕跡が残るため、コピーして貼り付けても一緒に移るが、OpenAIは、この方式でユーザーの身元が特定されることはないと説明した。

OpenAIは発表とともに、textGrainの技術報告書を公開した。ペンシルベニア大学（펜실베이니아대학교）とイェール大学（예일대학교）の研究者が共同で作成した報告書は、秘密鍵を使って次の単語の予測を調整する例を説明している。こうした調整が数百回積み重なると、テキストと鍵を使ってAI生成コンテンツを検出できるという。OpenAIは、透かしを有効にしてもモデルの性能に意味のある変化は見られなかったと述べた。

今回の措置は、ほかの企業の方式とも対照的だ。Anthropicは2カ月前、Claudeが生成したテキストに世界全体で透かしを適用すると発表した。一部のユーザーは、自分たちが指示や文脈、判断を提供したのだとして反発したと伝えられている。2024年には、OpenAIがテキストの透かしを開発しながらも、透かしのない競合サービスにユーザーが移る懸念などを理由に、公開を見送ったと報じられた。Anthropic、Google、Meta、Microsoft、OpenAIは、AI生成コンテンツに関するEU実践規範（EU 실천 강령）に従うと約束した企業に含まれる。

このニュースが意味すること

EUのユーザーにとって、AIが作成したテキストを識別する手掛かりが得られる可能性がある。しかし、透かしは、あらゆる文章を常に確実に判定できる表示ではない。OpenAIのあるテストでは、単語の10％を同義語に置き換えると、検出率は約92％から66％に低下した。同社は、短い文章、数学の解答、翻訳されたテキストも検出が難しいと述べた。

そのため、検出結果を著者の確認や不正行為の判定における唯一の根拠とするには限界がある。透かしがないという事実だけで、人間が書いたと証明されるわけではない。文章が短すぎたり、大幅に編集されていたりする可能性があり、他社のAIが生成した可能性もある。逆に透かしがあっても、OpenAIのシステムが文章の一部を生成または処理したことを示すにとどまり、人間の判断・編集・創造性がどれだけ加わったかまでは分からない。

たとえば、ある文章で検出器が透かしを見つけられなかったとしても、その結果だけで人間が書いたと結論づけるのは難しい。文章の長さや編集の程度、ほかのAIツールが使われた可能性もあわせて考える必要があるということだ。

EUでの適用とは別に、世界各地のOpenAI API開発者は、一部のモデルで透かしを有効にできる。ただし、初期設定では無効になっており、OpenAIは公開時点でテキストの透かしを世界全体の初期設定として適用しないと明らかにした。つまり、EUユーザーへの適用と、API開発者による任意の利用は区別して考える必要がある。

確認できていることと、まだ分かっていないこと

確認できていること

  • EUでは、利用資格のあるChatGPT・Codexユーザーを対象に、今後数週間にわたって適用される予定だ。
  • EUでの適用対象は、すべての料金プランの利用資格のあるユーザーとなる予定だ。
  • API開発者は世界各地で一部モデルの透かしを有効にできるが、初期設定では無効になっている。
  • 透かしは単語の選び方に目に見えないパターンを残し、ユーザーの身元を特定しない。
  • 初期の検出器へのアクセスは、信頼性と責任ある利用の評価に役立てる承認済みの研究者および専門家団体に限って提供される予定だ。

まだ分かっていないこと

  • EUでいう「利用資格のあるユーザー」の具体的な基準は何か。
  • 承認済みの研究者や専門家団体は、いつから検出器を利用できるのか。
  • 透かしが適用される具体的なモデルと公開スケジュールは何か。

読者が確認すべきこと

  • EUでChatGPTやCodexを利用している場合、自分のアカウントが適用対象かどうか、またサービスが案内する適用時期を確認する必要がある。公表された資料には、利用資格の詳細な基準が記載されていない。
  • 文章の作成者を判定する必要がある場合、透かしの検出結果だけで結論を出さないことが重要だ。OpenAIは、初期の検出器へのアクセスを承認済みの研究者と専門家団体に限定すると述べている。
  • APIを利用する開発者は、透かしが初期設定では無効であること、また適用可能なモデルが一部に限られることを確認すべきだ。具体的なモデル一覧とスケジュールは、公表された資料だけでは分からない。