ナイトシェード: AIアート生成器に対抗するアーティストのための攻撃的ツール

 (nightshade.cs.uchicago.edu)
4 ポイント 投稿者 GN⁺ 2024-01-21 | 1件のコメント | WhatsAppで共有

ナイトシェードとは何か

  • 生成AIモデルとそのトレーナーは、オンラインコンテンツをモデル訓練に利用できる能力を示している。
  • コンテンツ所有者やクリエイターには、自分の意思に反して自分たちのコンテンツが生成AIモデルの訓練データとして使われるのを防ぐための手段がほとんどない。
  • ナイトシェードは、画像をモデル訓練に不適切なデータサンプルへと変換するツールであり、著作権を無視してデータを無断スクレイピングするモデル訓練者を抑止するのに役立つ。

ナイトシェードの仕組みと限界

  • ナイトシェードは画像を「毒」サンプルに変換し、同意なく訓練を行うモデルが予期しない振る舞いを学習するようにする。
  • このツールの目的はモデルを破壊することではなく、ライセンスされていないデータで訓練するコストを引き上げることで、クリエイターから画像をライセンスすることを現実的な代替案にすることにある。
  • ナイトシェードは、スタイル模倣への防御を目的としたグレーズと似た仕組みで動作するが、グレーズが防御的ツールであるのに対し、ナイトシェードは攻撃的ツールとして設計されており、AI画像モデル内の特徴表現を歪める。

ナイトシェード対グレーズ

  • グレーズは、個々のアーティストがスタイル模倣攻撃から自分を守るために使う防御的ツールである。
  • ナイトシェードは、アーティストがグループで使用し、同意なく画像をスクレイピングするモデルを妨害するための攻撃的ツールである。
  • アーティストが自分の作品をオンラインに公開する際には、グレーズとナイトシェードの両方を適用するのが理想的である。

リスクと限界

  • ナイトシェードによる変更は、フラットな色使いと滑らかな背景を持つアート作品でより目立つ。
  • セキュリティ攻撃や防御と同様に、ナイトシェードが長期的な将来にわたって有効である可能性は高くない。
  • ナイトシェードはネットワークなしで実行されるよう設計されており、データやアート作品が私たちや他者に送信されることはない。

ナイトシェードとWebGlaze

  • ナイトシェード v1.0 は独立したツールとして設計されており、グレーズのような模倣防御機能は提供しない。
  • ナイトシェードとグレーズがどのように連携するかをテスト中であり、準備が整い次第、WebGlaze にナイトシェードを追加機能としてリリースする予定である。

GN⁺の見解

  • ナイトシェードは、クリエイターが自らの著作権を保護し、画像を無断使用するAIモデル訓練者に警告を送ることができる革新的なツールである。
  • このツールは、創作物の無断使用を抑止し、著作権者とのライセンス契約を促進することで、デジタルアートのエコシステムに前向きな影響を与える可能性がある。
  • ナイトシェードとグレーズの組み合わせは、アーティストが自分の作品をオンライン上でより安全に共有するための新たな方法を提供する。

関連記事

1件のコメント

 
GN⁺ 2024-01-21
Hacker Newsの意見
  • 論文リンク: arXiv:2310.13828
    • この論文は、多くのアーティストにとって受け入れがたいレベルのアーティファクトを導入しているように見える。
  • この技術は
    • a) ひと世代前の訓練プロセスではかろうじて機能するだけで、
    • b) 最新の訓練プロセス（GPT-4V、LLaVA、BLIP2のラベリングなど）ではまったく機能しない。
    • c) 仮に効果的で人気を得たとしても、容易に対処できると予想される。
    • 著者らの以前の研究であるGlazeも効果的ではないように見え、実際以上に誇張された結果かもしれない。
  • こうしたツールが市場で成功する見込みはなく、人間の知覚に影響を与えずに即座に回避できる方法がある。
    • アーティストやその他の人々が人間の成果物を訓練に使うのを止めたいなら、法的措置によるべきだ。
    • これも完全な解決策ではなく、むしろ分散訓練ネットワークの開発を促進する可能性がある。
  • これは無意味な「軍拡競争」または「いたちごっこ」に見える。
    • アーティストの意見を考慮しない人々は、画像の後処理によってNightshadeアルゴリズムの繊細な変更を破壊できる。
    • 将来的には、社会的圧力によって裁判所がアーティスト側に立つようになり、アーティストは自分のスタイルと「過度に似ている」生成画像に異議を唱えられるようになるだろう。
    • あるいはアーティストは、画像そのものの収益化をあきらめ、物理的な作品制作だけに集中するかもしれない。
  • 質の悪い/一貫性のない画像でStable Diffusion XLをファインチューニングする実験により、こうした画像をネガティブプロンプトとして使うと、モデルがより良い画像を出力できることが示されている。
    • このようなデータセットを作ることが、逆説的に生成AIアートモデルの改善に役立つ可能性がある。
  • 著作権/知的財産権/特許の利用に対して段階的な手数料を課すことを望む。
    • たとえば、収益に連動した割合でライセンス料を適用することを望む。
    • 個人が所有する場合は死後0年、企業が所有する場合は最大20〜30年の著作権保護期間を望む。
    • 利用の未申告/手数料未払いに対する企業への罰金を非常に高く設定し、盗用を防ぎたい。
  • アーティストが他のアーティストの作品を見て多様なスタイルを学ぶことと、AIが彼らの作品からスタイルを学ぶのを防ごうとすることとの間の矛盾を指摘している。
  • これは「情報の正確性」という概念を弱め、絶え間ない攻撃と防御のゲームを認めるものだ。
  • まもなく多くの人が高品質な芸術作品を簡単に作れるようになるだろうし、これは非常に興味深い展望だ。