YouTube、AIで作成されたリアルな動画にラベル表示を要求

• YouTubeが、クリエイターに対して、現実と混同される可能性のある人工知能（AI）生成コンテンツを視聴者に開示するための新しいツールを導入
• このツールは Creator Studio に追加され、クリエイターは、実在の人物、場所、または出来事と容易に誤認される可能性のあるコンテンツが改変または人工的に生成された場合、その事実を視聴者に知らせる必要がある
• 開示は、動画の説明欄を展開した際、または動画プレーヤー前面にラベルの形で表示される

開示が必須となるコンテンツの例

• 実在人物の外見の使用: 他人の顔に差し替えたり、人工的に生成した音声で動画のナレーションを行うなどのデジタル改変コンテンツ
• 実際の出来事や場所の映像の変更: 実在する建物が燃えているように見せたり、実際の都市景観を現実とは異なるように見せる場合
• 現実的な場面の生成: 実在する町に向かって移動する竜巻のような架空の重大事件を、現実的に描写する場合

開示が不要なコンテンツの例

• 明らかに非現実的なコンテンツ、色調補正や照明フィルター、特殊効果、美容フィルターなどの視覚的強化
• 制作プロセスで生産性向上のために使用された人工知能、たとえばスクリプト生成、コンテンツのアイデア提供、自動字幕生成などは開示対象外

ラベル表示方法

• ほとんどの動画では説明欄を展開したときにラベルが表示されるが、健康、ニュース、選挙、金融などのセンシティブな話題を扱う動画では、動画自体により目立つラベルが表示される
• ラベルはまずスマートフォンの YouTube アプリで導入され、その後デスクトップと TV でも近日中に表示される予定
• YouTubeは、クリエイターがこの情報の開示を継続的に行わない選択をした場合、今後執行措置を検討するとしている

YouTubeと業界の協力

• YouTubeは、デジタルコンテンツをめぐる透明性を高めるために業界全体との協力を続けており、C2PAの主導メンバーとして活動している。
• また、AIによって生成または改変されたコンテンツにより、識別可能な個人（顔や声を含む）のプライバシーが侵害された場合、そのコンテンツの削除を要請できる更新版プライバシープロセスを開発中。

GN⁺の見解

• YouTubeの新しいポリシーは、デジタルコンテンツの透明性を高め、視聴者とクリエイターの間の信頼構築に寄与するとみられる。
• 人工知能が制作プロセスにおいてますます重要な役割を果たすようになる中、こうしたツールはユーザーがAI生成コンテンツを認識し理解するのに役立つ可能性がある。
• しかし、こうしたポリシーがクリエイターの負担になったり、創作の自由を制限する可能性があるという懸念もあり得る。
• この技術の導入は、コンテンツの真偽を見極める能力を高める一方で、クリエイターに追加の責任を求めることになり、利点と欠点が共存する。
• 類似の機能を提供する他のプラットフォームやツールとしては Adobe の Content Authenticity Initiative があり、これはデジタルコンテンツの出所と真正性の追跡に重点を置いている。

[GN⁺]

Hacker Newsの意見

• 1つ目のコメント要約:

  • ビジネスと学習の観点から見ると、Googleのアプローチは、AIをどう定義し、どうラベリングするかのルールを定めることで、正しい方向へ進む初期段階にある。
  • このルールには、実在の人物が実際には言っていないことを言ったり、していない行動をしたように見せること、実際の出来事や場所の映像を改変すること、実際には起きていない現実的な場面を生成することが含まれる。
  • こうした仮説を検証し、法的な争いが起こりうる可能性について関心を示している。たとえば、色補正や美容フィルター、さまざまな動画アングルからAIを使って追加シーンを生成することなどが議論されうる。

• 2つ目のコメント要約:

  • Googleのサポートページによると、コンテンツ制作者が開示しなくてよい例と、開示すべき例が明示されている。
  • 開示不要の例には、ユニコーンに乗っている人、宇宙に浮かんでいる人をグリーンスクリーンで表現すること、色調整や照明フィルター、背景ぼかしやビンテージ効果のような特殊効果フィルター、AIツールを使った動画の概要・スクリプト・サムネイル・タイトル・インフォグラフィックの生成や改善、字幕生成、動画の鮮明化、アップスケーリングや修復、音声やオーディオの修復、アイデア生成などが含まれる。
  • 開示が必要な例には、人工的に生成された音楽、他人の声を複製してナレーションに使うこと、実在の場所の追加映像を人工的に生成すること、実在のプロテニス選手同士の試合を現実に見えるように作る動画、実際にはしていない助言をしたように見せること、人気歌手がライブ公演で音程を外したようにオーディオをデジタル改変すること、実際には発生していない竜巻やほかの気象現象が実在の都市へ向かっているように見せること、病院職員が病人や負傷者を追い返したように見せること、公人が盗みを働いたように見せたり盗みを認めたように見せたりすること、実際に逮捕されたり服役したりしたように見せることなどが含まれる。

• 3つ目のコメント要約:

  • これらの規定は、新しいEU AI法を順守するためのものだ。
  • AIが生成したコンテンツは識別可能でなければならず、公共の利益に関する情報提供のために公開されたAI生成テキストは、人工的に生成されたものとしてラベル付けされなければならない。これはディープフェイクに当たる音声および動画コンテンツにも適用される。

• 4つ目のコメント要約:

  • 歌手がライブ公演で音程を外したようにオーディオをデジタル改変するというのは、興味深い例として挙げられている。
  • これは最近のスーパーボウルでのAlicia Keysのパフォーマンス中に起きた件とは逆の状況で、NFLが彼女の「かすれた音」をひそかに編集して修正したことに関連している。

• 5つ目のコメント要約:

  • 実際には起きていない重大事件の現実的な描写、たとえば竜巻が実在の町へ向かう様子を見せることは、開示が必要なコンテンツの例だ。
  • これは現在のYouTubeサムネイルの一般的な状況にも似ており、AIに限った話ではないが、監視するのは難しいだろうという意味でもある。

• 6つ目のコメント要約:

  • 銀行が犯罪者は嘘をつくだろうと見込みつつも形式的な書類記入を求めるのと同じように、Googleに嘘をつくこと自体に明確な結果はなくても、嘘をつくアカウントをより疑わしくするシグナルとして使われる可能性がある。

• 7つ目のコメント要約:

  • 実際の出来事や場所の映像を改変すること、たとえば実在の建物が燃えているように見せたり、実在の都市景観を現実とは違って見せたりすることは、開示が必要なコンテンツだ。
  • 動画の実際の内容を扱う記事とは別に、クリック誘導のために誇張されたプレビュー画像に対する問題提起もある。

• 8つ目のコメント要約:

  • Google Photosチームが、実際には起きていない場面を表現するために動画や写真を改変することを積極的に推奨している点を、YouTubeは認識しているのだろうかという疑問を呈している。

• 9つ目のコメント要約:

  • かつてのGoogleなら高度な検索に「AIではない」フィルターを用意していたかもしれないが、今のGoogleはウォール街の不満をなだめるためにAIツールの販売に忙しく、AI動画がすでに「干し草の山から針を探す」ような検索の問題をどう悪化させるかを考えていない。

• 10つ目のコメント要約:

  • YouTubeのポリシー担当者たちは、今後数年にわたって曖昧な事例を解釈しなければならない、ほとんど不可能な課題に直面していると指摘している。