- Copilot+ Recall: Microsoft Windows 11の新機能で、ユーザーのPC画面を継続的にキャプチャし、すべての活動を検索可能なデータベースにする。
- ユーザーが過去に見たあらゆる内容を簡単に検索できるようにする。
- ほとんどのユーザーはこの機能に否定的な反応を示している。プライバシーへの懸念と、ユーザーの私生活を侵害する可能性があるため。
Copilot+ Recallの潜在的ユーザー
- やることが多く時間不足に悩む企業の管理職にとっては、1か月前に特定のテーマで何をしていたかを即座に検索できるので有用かもしれない
- しかし、これはWindowsユーザー基盤のごく一部にすぎない
- ほとんどのWindowsユーザーは、ゲームをし、ポルノを見て、失敗もしながら人間としての生活を送りたい
- 他人が自分のデバイスにアクセスして、写真のように記録された個人の記憶を見られるかもしれないという考えは、多くの人にとって深いレベルで非常に恐ろしいことだ
Microsoftの失策
- MicrosoftはAIの名の下に、しかも実際の顧客に害を与える形で自傷行為をしている
- Copilotブランド全体に火をつけかねない
- この機能がWindowsのセキュリティの約束を根本から壊していると指摘している
[ Copilot+ Recallのセキュリティ問題に関するQ&A ]
Q. データはラップトップ上で完全にローカル処理されるのでは？
- その通り。Azure AIなどのコードをエッジで処理するようにしたのは賢明な判断だった
Q. では、ハッカーやマルウェアはアクセスできないのでは？
Q. でも暗号化されているのでは？
- PCにログインしてソフトウェアを実行すれば、ユーザーのために復号される
- 保存時の暗号化が役立つのは、誰かが物理的にラップトップを盗んだ場合だけ
- InfoStealerトロイの木馬のようなものは10年以上にわたって大きな問題であり、今ではRecallに対応するよう簡単に改変できる
Q. Microsoftはユーザー本人だけがデータにアクセスできると言っていたのでは？
- 事実ではない。同じデバイス上の別ユーザーアカウントがデータベースにアクセスできることを示せる
Q. では、どう動作するの？
- 数秒ごとにスクリーンショットが撮られる
- Azure AIによって自動的にOCRされ、ユーザーフォルダ内のSQLiteデータベースに記録される
- このデータベースファイルには、ユーザーがPC上で見たすべてのものの記録がプレーンテキストで保存される
Q. データベースはどのようなもの？
- Microsoftは報道機関を通じて、ハッカーがCopilot+ Recallの活動をリモートで流出させることはできないと述べた
- しかし実際には、PCで見たすべての内容が入ったこのプレーンテキストのデータベースだ。非常に簡単に自動化して流出させられる
Q. データベースファイルはどうやって手に入れるの？
- AppDataの新しいCoreAIPlatformフォルダにあるファイル群
Q. でも高度に暗号化されていて誰もアクセスできないのでは？！
- Microsoftのエンジニア2人がRecallのデータベースフォルダにアクセスし、SQLiteデータベースを解析する動画で確認できる
- システム権限すら不要
Q. でも一般ユーザーは管理者として実行しないでしょう！
- Microsoft自身のWebサイトにあるRecallのリリースページではそう説明している
- 実際には、データベースを読むのに管理者である必要すらない
Q. でもその動画ではUACプロンプトが出ていたが、それはセキュリティ境界では？
- Microsoft自身のWebサイトとMSRCによれば、UACはセキュリティ境界ではない
Q. では、ここでのセキュリティはどこにあるの？
- 現実世界では飛行機を通せるほどの大きな穴があり、まともに機能していない
Q. 財務情報のようなものも自動でスクリーンショットを撮ってOCRしないの？
- いいえ
- ドキュメントによれば、Recallはコンテンツを修正しない
- パスワードや銀行口座番号などを隠さない
- 対象サイトが標準的なインターネットプロトコル（パスワードを
* 表示にするなど）に従っていなかった場合
Q. データベースのサイズはどれくらい？
- よく圧縮されており、数日分の作業で約90kb程度
- 平均的なブロードバンド接続なら、数か月分の文書とキー入力を数秒で流出させられる
Q. 検索速度はどう？
Q. あなた自身のRecallデータベースを流出させてみた？
- そうだ。自動流出を行い、データベースをアップロードして即座に検索できるWebサイトを作った
- Microsoftが機能をリリースするまで時間を与えるため、技術的な詳細は意図的に公開していない
- 実際に見せられるものは多く、この機能が一般公開されれば、より多くのサイバーコミュニティがこれを非常に面白がって使うだろうと思うが、現実の被害が起こり得るので本当に悲しいことだと思う
Q. データベースにはどんな種類のものがある？
- ユーザーが見たすべてのものがアプリケーション別に整理されている
- ユーザーが見たすべてのテキスト（Microsoft EdgeのInPrivateモードは除外されるが、Google Chromeは除外されない）
- ウィンドウの最小化のような、あらゆるユーザー操作
- ユーザー活動APIがあり、サードパーティーアプリがデータを補完し、保存済みデータを閲覧できる
- サードパーティーのものであっても、訪問したすべてのWebサイトを保存する
Q. メール / WhatsApp / Signal / Teamsのメッセージを削除するとRecallからも削除される？
Q. メッセージングアプリで自動削除されるメッセージはRecallから消える？
- いいえ、Recallによって取り込まれ利用可能になる
Q. では、これでWebサイトの大規模データ流出が可能になる？
- そうだ。今後、顧客データが明白に流出した大規模なデータ流出事件が起きたとき、私はそのデータを処理した企業に責任があると考えるだろう
- しかしRecall搭載のWindowsデバイスでサービスやアプリなどにアクセスしていたなら、ハッカーはすべてを見ることができ、サービス運営会社すら気づかないままデータダンプを作成できる
- データはすでにRecallデータベース内で一貫して構造化されており、攻撃者が利用しやすい
- AIベースの超大型流出事故に備える必要がある
Q. MicrosoftはBBCにCopilotのセキュリティについて誤解を与えた？
Q. Microsoftは顧客にCopilotのセキュリティについて誤解を与えた？
- そうだ。たとえば任意の体験だと説明しているが、実際にはデフォルトで有効化されており、人々が任意で無効化できるだけだ
- MicrosoftのCEOはこの製品について「スクリーンショット」と言及したが、製品自体は「スナップショット」という用語しか使っていない
- Microsoftは、顧客が十分な情報に基づいた選択をできるよう、これが何なのかを明確にすべきだ
Q. Recallは1台のハードウェアデバイスにしか適用されないのでは？
- 事実ではない。現在、主要メーカー各社から注文可能なCopilot+デバイスが10種類ある
- さらにMicrosoftのWebサイトでは、AMDとIntelチップセットのサポートにも取り組んでいるとしている
- RecallはWindows 11に適用される予定だ
Q. Recallはどうやって無効化する？
- 対応するCopilot+デバイスの初期設定時に、Recallを無効にするオプションをクリックする必要がある
- エンタープライズではデフォルトで有効化されているため、Recallをオフにするにはポリシー設定
Turn off Saving Snapshots for Windows が必要
Q. プライバシーへの影響は？ GDPR違反ではないの？
- 私はプライバシーや法律の専門家ではない
- 私が話を聞いたプライバシー専門家たちは、家庭内暴力の状況などにおける世帯への影響を非常に懸念している
- 企業の観点では、このような形で顧客データを処理するリスクを考える必要がある
- Microsoftはエッジデバイス上で処理されるため、データ処理者として責任を負わないだろう
Q. マイクロソフトは巨大で邪悪な会社なの？
- いいえ
- 彼らは非常に賢い人々であり、ときに非常に賢い人々でも失敗することがある。重要なのは、彼らが失敗を認識して何をするかだ
Q. Microsoftを嫌っている元社員だったのでは？
- いいえ、今月Microsoftを称賛するブログを書いたばかりだ
Q. 本当に思っているほど有害なの？
- 両親の家や祖父母の家などに行ってWindows PCを見て、この1年間にインストールされたソフトウェアを確認し、そのデバイスを実際に使ってみて、ウイルス対策スキャンを実行してみればよい
- 1兆ドル規模のセキュリティ産業が存在し、問題の大半がマルウェアとエンドポイントを中心に起きているのには、それだけの理由がある
Q. Microsoftがやるべきことは？
- 私の意見では、Recallをいったん撤回し、後日提供できるよう適切な機能として作り直すべきだ
- また、この状況を招いた社内の意思決定を見直すべきだ
- 今月初め、MicrosoftのCEOは全従業員に「セキュリティと他の優先事項のどちらかを選ばなければならないなら、答えは明白です。セキュリティを選びなさい」とメールを送った
- 彼がそのメールの内容を本気で受け止めているかどうかが分かるだろう
- 今は打撃を受け入れて謙虚になるべきであり、そうしなければCopilotとセキュリティブランドに対する顧客の信頼を危険にさらしかねない
- 正直、Recallが今すぐ使えないと泣き叫ぶ顧客はほとんどいないだろうが、Microsoftの対応が何もしないこと、製品をそのまま出すこと、少しだけ修正すること、あるいは報道で問題をごまかすことなら、私は深刻に懸念するだろう
1件のコメント
Hacker Newsの意見
Microsoftの戦略: Microsoftは、まず強引に押し進めてから後で緩和した解決策を提示することで、目標を達成しようとする戦略を取っている。
WindowsとChromeOSの経験: 過去にMicrosoftで働いていた経験からすると、Windowsは悪くないOSだった。だがChromeOSを試したあと、結局Debianに戻った。
Linuxへの移行: 最近はFramework 16ノートPCにArch LinuxとSteamをインストールし、ゲームを問題なく動かしている。もうMicrosoft製品から完全に離れたと感じている。
Microsoftのイメージ変化: GitHubの買収やLinuxサブシステムの導入でMicrosoftは魅力的な会社に見えたが、最近のRecall機能やWindows 10のインストール時に必須のアカウントログインによって、再び否定的な印象を持つようになった。
Recall機能の問題点: Microsoftは以前、サードパーティー製ソフトウェアとの互換性を維持するために努力していたが、今ではユーザーのプライバシーを侵害するRecall機能を導入しており、失望している。
Steve JobsとMicrosoft: Steve Jobsは製品に対する人々の感情を理解していたが、Microsoftはそうではない。過去にもユーザー感情を考慮していなかったし、今も変わっていないように見える。
プライバシーへの懸念: プライバシーの問題は深刻で、状況がさらに悪化する前に改善される可能性はある。しかし、この機能がうまく実装されれば、現代AIのキラーアプリになるかもしれない。
情報アクセスの重要性: 良い情報アクセスは強力な能力だ。個人情報は非常に価値があり、それを保存し自動的にアクセスできる方法が必要だ。時間の経過とともに、これに適応していく必要がある。
スパイ装置: 2017年には人々が自らスパイ装置を家に持ち込み、2024年にはキーロガーを有効化している。
映画『Antitrust』と現実: 2001年の映画『Antitrust』は、Microsoftに似た会社がすべてのコンピューターを監視し、コードを盗む内容を扱っていた。23年後、それが現実になった。