OpenAI、DALL-E 3に新たなウォーターマークを追加

• OpenAIの画像生成器 DALL-E 3 は、画像メタデータにウォーターマークを追加する予定
• C2PA（コンテンツの来歴および真正性連合）の標準をサポートする企業が増える中、DALL-E 3 で生成された画像には C2PA のウォーターマークが表示される
• ウォーターマークは ChatGPT のWebサイトと DALL-E 3 モデルの API で生成された画像に表示され、モバイルユーザー向けには 2月12日までに追加される予定
• ウォーターマークには、見えないメタデータ要素と、左上の隅に表示される CR シンボルが含まれる
• OpenAI プラットフォームで生成された画像の出所（どの AI ツールが使われたか）は、Content Credentials Verify のようなWebサイトを通じて確認できる
• 現時点では、動画やテキストではなく画像のみにウォーターマークが含まれる

ウォーターマークの影響

• 画像にウォーターマークのメタデータを追加しても、遅延への影響はほとんどなく、画像生成品質にも影響しない
• 一部の処理では画像サイズがわずかに増加する可能性がある

コンテンツの来歴および真正性連合 - Coalition for Content Provenance and Authenticity (C2PA)

• Adobe や Microsoft などで構成される C2PA は、コンテンツの出所を識別し、それが人間または AI によって作られたものかを示す Content Credentials ウォーターマークの利用を推進している
• Adobe は Content Credentials シンボルを作成し、OpenAI はこれを DALL-E 3 の生成物に追加している
• Meta は最近、自社のソーシャルメディアプラットフォームで AI 生成コンテンツにタグを追加すると発表した

AI生成コンテンツの識別

• バイデン政権の AI に関する大統領令では、AI生成コンテンツの識別が主要な指針の一つとなっている
• しかし、ウォーターマーキングは誤情報を防ぐ確実な方法ではない
• OpenAI は、C2PA のメタデータは偶然または意図的に簡単に削除される可能性があり、ほとんどのソーシャルメディアプラットフォームはアップロードされたコンテンツからメタデータをしばしば削除すると指摘している
• また、スクリーンショットを撮るとメタデータは失われる
• OpenAI は、出所を確立する方法を採用し、ユーザーがこうしたシグナルを認識できるよう促すことが、デジタル情報の信頼性を高めるうえで重要だとサイトで述べている