- ケビン・バンクスターのツイートによると、GoogleのGemini AIサービスがユーザーの許可なく非公開のDrive文書を読み取っている
- Googleの評判にふさわしくない出来事であり、機密性の高い個人情報に対するコントロールがまったくない
- AIの強引な導入に伴う今後のプライバシー問題について、良い兆候とは言えない
何が正確に起きているのか?
- GoogleサポートチームもGemini AI自身も正確には把握していないが、ケビン・バンクスターはいくつかの仮説を示している
- Googleドキュメントではなく、Google Drive全体で技術的に発生している
この問題の原因は何か?
- Gemini AIによると、Geminiに通知すべきプライバシー設定は公開状態で利用できる必要があるが、実際にはそうなっていない
- AIが「幻覚（虚偽の回答）を起こしている」か、Googleサーバー内の一部内部システムに不具合があるように見える
- この非公開データがGemini AIの学習に使われていないとしても、印象は良くない
バンクスターが見つけた設定トグルの問題点
- Geminiの要約機能はすでに無効化されていた
- Geminiボットが最初に示したWebページとは完全に別の場所にあった
バンクスターのケースでは、問題はGoogle Driveに限定されているように見える
- 少なくとも1つの文書でGeminiボタンを押した後にのみ発生する
- 一致する文書タイプ（この場合はPDF）は、Google Drive内で今後開かれる同じ種類のすべてのファイルに対して自動的にGoogle Geminiをトリガーする
- 2023年にGoogle Workspace Labsを有効化したことが原因かもしれない。本来意図されたGemini AI設定を無視する可能性がある
この問題がGoogle Workspace Labsユーザーにだけ限定されるとしても、深刻な欠点である
- 最新技術のテストを手伝った代償として支払わされるものだ
- 潜在的に機密性の高い情報に関しては、細かなレベルでのユーザー同意が依然として重要である
- Googleはこの原則を守れなかったことで、少なくともユーザーベースの一部に対して完全に失敗している
GN⁺の見解
- ユーザーの同意なく個人情報を収集・分析することは深刻なプライバシー侵害である。特に税金の還付のような機密情報であればなおさらだ
- AI技術が発展するにつれて、このような問題はさらに深刻化する可能性がある。企業はユーザープライバシーの保護を最優先で考えるべきだ
- Google Workspace Labsのようなベータテストプログラムに参加するユーザーのために、より良い保護措置と透明性が必要である
- AI技術導入時には、ユーザーの同意と選択権を尊重することが重要である。強制的な方法はユーザーの信頼を失わせる
- Googleは今回の事態を機に、Gemini AIを含む自社サービスのプライバシーポリシーを点検し、ユーザーとのコミュニケーションを強化すべきである
まだコメントはありません。