反発を受け、Zoomは顧客データをAIモデル学習に使用しないと表明
(darkreading.com)- 生成AI機能の導入後、データ利用権限が過度だとの反発が強まると、Zoomは顧客コンテンツをAIモデル学習に使わないよう利用規約と製品を修正した
- 対象外となるのは音声、動画、チャット、画面共有、添付ファイルに加え、アンケート結果・ホワイトボード・リアクションのようなコミュニケーション性のあるコンテンツまで含まれる
- 論争の発端は、Zoom IQ Meeting SummaryやZoom IQ Team Chat Composeのような機能のために、一部の顧客データを学習に活用できるようにしていた従来のポリシーだった
- 顧客の反発を受け、Zoomはまずオプトアウトを追加したが、その後8月11日の利用規約でAI利用に関する表現の大半を削除する方向へ再修正した
- 新しい利用規約でも、テレメトリー・製品利用・診断データのようなサービス生成データに対する権利は維持しており、AI機能とユーザー信頼の間の緊張は残っている
顧客コンテンツのAI学習除外へと変わったZoomの利用規約
- Zoomは顧客からのフィードバックを受けてTerms of Serviceを更新し、顧客コンテンツをZoomまたは第三者のAIモデル学習に使用しないことを明確にした
- AI学習の除外対象は次のとおり
- 音声
- 動画
- チャット
- 画面共有
- 添付ファイル
- アンケート結果、ホワイトボード、リアクションのようなコミュニケーション性のある顧客コンテンツ
- 論争の背景には、Zoomの生成AI機能がある
- Zoom IQ Meeting Summary: AIベースの自動会議要約機能
- Zoom IQ Team Chat Compose: AIベースのチャット作成機能
- 従来のポリシーは、これらの機能の裏側で一部の顧客データをAIモデル学習に使える権利をZoomに与えており、顧客の同意がなくても可能だという点が反発につながった
広範なデータ利用権限と高まる信頼への負担
- 従来の利用規約は、顧客データの利用に関してZoomに非常に広い権利を与えていた
- “perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable” な権利
- 機械学習、人工知能、学習、テストを含む広範な目的
- データの “redistribute, publish, import, access, use, store, transmit, disclose” のような行為
- 顧客の反発がソーシャルメディアに広がると、Zoomはまず「顧客の同意なしに、音声・動画・チャットの顧客コンテンツをAIモデル学習に使用しない」という方向へポリシーを修正した
- その後、8月11日に利用規約を再度改定し、人工知能の利用に関する表現を事実上ほぼすべて削除した
- ただし、新しい利用規約でもサービス生成データに対するZoomの権利は維持されている
- テレメトリーデータ
- 製品利用データ
- 診断データ
- iterate.aiの機械学習責任者Shomron Jacobは、技術企業はユーザー体験の改善や新機能の導入のために、長年にわたって顧客データを活用してきたと見る
- Google、Facebook、Amazonは、ユーザーデータでサービスをパーソナライズし、AIアルゴリズムを改善してきたという文脈である
- AIのプライバシー、セキュリティ、倫理問題への監視が強まる中で、透明性とユーザー同意への期待も高まっている
- GDPRやCaliforniaのCCPAのような規制フレームワークがデータ収集・利用の基準を定める中、技術企業はAI改善のためのデータ活用と、規制順守・ユーザー信頼の保護を両立させなければならない
1件のコメント
Hacker Newsのコメント
データが企業側で自由に読んだりアクセスしたりできるデータベースに保存されているなら、つまりエンドツーエンド暗号化されていないなら、結局その企業は利用規約を変更して、そのデータをAI学習に使おうとするはず
インセンティブがあまりに強く、抗うのは難しいと思う
有料顧客は、自分の許可なしにデータがAIモデルの学習に使われることを本当に嫌がるし、今回のZoomの件が最新の例
こういうことを試みる企業は大きな痛手を負うだろうし、Zoomもすでに大きな痛手を受けている。個人的には、Zoomが実際にそうしようとしていたわけではなく、そうしないことを十分明確にできなかったためにPR上の惨事が起きた、というのに近いと思う
有料顧客が嫌がるなら、企業側のインセンティブはむしろやらない方向にずっと強く働く
企業側としては、各データ片がどの利用規約バージョンの下で保存されたのかを追跡しなければならず厄介だろうが、そのくらい面倒になって初めて、データを本来そう扱うべき負債のように扱うようになるかもしれない
文脈もなく、品質管理もない。群衆の知恵によって平均的には正解に近づくと仮定しても、結局AIに平凡な回答をするよう学習させることになる
ビッグデータ過熱期には、多くの企業がデータには価値があるとして何でも保存したが、その大半はハードディスク代ほどの価値もなかった。活用コストを払う買い手がいて初めて価値が生まれる
世の中にはデータは多いが、実際に価値があるのは情報と知識だ
Zoomは、利用規約の変更が広まったことに失望しているだけだろうし、それでも論争になるほど自分たちの評判がプライバシー重視だという点にも失望しているだろう
Teamsも利用規約にすでにそういう内容が入っていなければ、同じような反発を受けるのか気になる
違うように感じる人もいるだろうが、私の知る人たちは皆すでにTeamsを嫌っていて、会社に強制されたときだけ使っている
以前Microsoftの幹部と話したことがあるが、HotmailにGmailのようなコンテキスト広告を入れるというアイデアが出たことがあったものの、強く拒否されたと言っていた
顧客データ、それどころか無料ユーザーのデータまでをそのように使うという発想はタブーだったという。Microsoftは巨大な企業契約で収益を上げており、顧客データが何らかの形で競合に利益をもたらすために使われれば、その契約が脅かされかねない
関連記事:
Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - 2023年8月（コメント35件）
How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - 2023年8月（コメント177件）
Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - 2023年8月（コメント16件）
Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - 2023年8月（コメント194件）
Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - 2023年8月（コメント510件）
Zoomは明らかに複数のAIモデルを持っているし、TeamsやGoogle Chatなども同じだ
会議の自動字幕・文字起こしにはそのモデルが必要で、自動背景ぼかし・背景分離にもモデルが必要だ。おそらく「会議要約」製品にも取り組んでいるだろう
こうした機能は人々に好まれ、常に使われている機能だ。Zoomがプラットフォームの実際のユーザーデータを収集せずに、こうした機能をどう改善することを期待しているのか気になる
遅すぎた。セルフホストのJitsiインスタンスを立てるのに1時間かかったし、戻る理由はない
Jitsiの性能と安定性には驚いた
私を含め、知り合いの何人かが近いうちにこの道に進もうとしている
ユーザーデータで学習するAI企業の一覧を作成中: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
Zoomの項目は更新するつもりだが、依然として疑わしいと思う
先週、顧客データの一部で回帰モデルを当てはめたのだが、それなら顧客データでAIを学習させたことになるのか？ 意図の問題なのか、公開ユーザー向けかどうかの問題なのか、それとも生成モデルかどうかの問題なのか？
だからその基準が適用されるとは思わない
Zoomは通話のビデオや音声データを保存しているのか？ これが本当に核心の問いだ
何かしら保存されているなら信用できない
また、HLSやMPEG-DASHのような動画ストリーミングプロトコルを使うと、ストリームは動画の断片として保存され、後で削除される
大企業がこうしたポリシーを目立たないように押し通そうとするのは、またしても残念だ
いったい誰がこれで問題ないと思うのだろう？ ただ金をかき集めたいだけの経営幹部なのか？ 私たちはもっとましであるべきだ
「反発を受けて、Zoomは顧客データをAIモデルの学習に使わないと表明した」
今のところは
そもそもすべてがエンドツーエンド暗号化なら、どうやって学習できるのか？
どちらがよりありそうかは誰の目にもかなり明らかに見えるが、不思議なことに、どちらが筋が通らないかについては意見が分かれそうだ
Zoomは、Meet、Teams、WebExなど私が知る多くのサービスと同様に「暗号化」されているが、一般的な意味での「エンドツーエンド暗号化」がデフォルトではない。一部にはE2EEオプションがあるが、サービス設定の奥深くに埋もれていて、有効にしやすくはない
そのため設計上、サーバーで音声とビデオを見ることができ、実際に見ている。インフラが侵害されれば攻撃者も見られる。デフォルトモードの暗号化は、ISPが通話内容を見られないようにするだけだ
対照的にSignalの通話はE2EEだ。Signalサーバー経由で中継される通話であっても、Signalは復号されたビデオや音声を見ることはできない。ただしこの場合でも通話参加者は分かるが、話された内容は分からない
余談だが、だから私たちはBooth.videoを作った。これが根本的なトレードオフではなく、ブラウザでもE2EEとメタデータ保護付きのビデオ会議が可能だと示すためだ