- SynthID は、AIツールでは容易に検出できる一方で、人間の目には見えない形で、AIが生成した画像にウォーターマークを追加する
- ウォーターマークは画像のピクセルに埋め込まれており、クロップやリサイズといった変形にも強い
- SynthID ウォーターマークは、ディープフェイクの増加に伴い、AI生成画像を識別・検出するのに役立つよう設計されている
- このツールは一般公開され、初期段階では Vertex AI プラットフォームと Imagen 画像生成器を利用する Google Cloud 顧客に提供される予定
- SynthID のテストと改善が進むにつれ、Google はこれをさらに多くの場所で活用し、仕組みについてより多くを共有し、その効果に関するデータをさらに収集したい考え
- Google DeepMind の CEO である Demis Hassabis は、SynthID がインターネット全体の標準となり、動画やテキストのような他のメディアにも使えるよう拡張されることを望んでいる
- SynthID の公開は、広告コピーから商品写真までさまざまな目的で使われる画像の出所を確認する必要がある顧客に向けたもの
- 今後の計画として、Google Slides や Docs への統合、あるいは Chrome 拡張機能やブラウザへの組み込みによって、Web全体でAI生成画像を識別することも可能
- SynthID の公開は、ハッカーや開発者がシステムを回避する方法を見つけようとする競争を引き起こすと予想され、Google DeepMind による継続的な更新と改善が必要になる
- 類似のAI検出ツールを開発する他社との競争があるにもかかわらず、Google はウォーターマーキングがWeb上でAI生成コンテンツを識別するソリューションの中核になると確信している
3件のコメント
実際にその機能が出てきたら、すぐにまた別のAIツールが現れてSynthIDを消してくれるのではないかと思います。
消せないウォーターマークはなかった気がします。
ウォーターマークを消すこと自体が問題なのではなく、原本がどれかを判別できるということです。消したらコピーだということです。
SynthIDはAI生成画像を識別するための技術なので、削除されたり置き換えられたりしないことが何より重要です。そして、インターネット上のすべての画像にSynthIDが適用されるまでは、ウォーターマークがないからといってコピーだと判別することはできません。