Microsoft、セキュリティ懸念によりRecall AI機能の提供を延期

• Microsoftは、6月18日にCopilot+ PCユーザー向けに広範囲で提供開始される予定だったRecall機能を、まずWindows Insider Program（WIP）でプレビュー提供する予定
• これは、すべての顧客に信頼でき、安全で強力な体験を提供し、すべてのCopilot+ PCユーザーに機能を提供する前に追加のフィードバックを得るというMicrosoftの約束に基づく決定
• Copilot+ PCは、5月に公開された人工知能（AI）機能を備えたパーソナルコンピューターのカテゴリ
• WIPは、数百万人の「Windowsファン」がOSの今後の機能を事前に確認できる公開ソフトウェアテストプログラム
• Microsoftは、WIPコミュニティからのフィードバックを受けた後、まもなくすべてのCopilot+ PCでRecallプレビューを提供する計画

Recall機能の概要

• Recall機能は、ウェブ検索から音声チャットに至るまで、コンピューターの利用履歴を追跡し、数か月後でもユーザーが思い出す必要のあるものを検索できるよう、記録をコンピューターに保存する

プライバシー懸念

• この機能の発表直後、プライバシーに関する懸念が提起された
  • 一部のソーシャルメディアユーザーは、この機能がスパイ行為を可能にするのではないかという懸念を示した
  • 億万長者の技術者Elon Muskは、高度な技術の有害な影響を探るNetflixシリーズになぞらえ、これを「Black Mirrorのエピソード」と呼んだ

[GN⁺]

Hacker News の反応

• この記事は混乱していて曖昧だが、それ自体がまさに意図されたもののように見える。セキュリティに焦点を当て、セキュリティが最優先だと繰り返しているが、実際にはそうではないことはすでに分かっている。
  どんなセキュリティ上の問題があったのか、具体的な問題が存在した、あるいは検出されたことを示唆する記述すらない。
  新しいマーケティング手法を探しているか、「ユーザーの意見を聞く」といった形で衝撃を和らげ、怒りが収まったらさらにゆっくり押し進めようとしているように聞こえる。

  • Microsoft はゆでガエルをやろうとして、温度を上げるのが速すぎたように思える。今は引き下がっているが、Recall は別の名前で徐々に Windows に戻ってくる可能性が高い。
    主な権力者たちは皆、Recall のようなものが標準になることを望んでいる。上司は従業員を監視し、政府は市民や敵を監視し、テック企業の CEO たちは AI 学習データや広告ターゲティング用データを集めたがっている。
  • もっとありふれた見方をすると、市場に強く拒否された製品にすでに多くの労力を投じてしまっており、いまは何を救えるかを見ようとして製品を引っ込めているところだ。
    主要な利害関係者は「後でもう一度試す」「別の用途に転用する」「忘れてしまう」の間でさまざまな考えを持っているだろうが、Microsoft 規模の企業は意思決定が非常に遅いため、次の段階が曖昧になるのは当然だ。組織としては、ほぼ確実にまだ分かっていないのだろう。
  • セキュリティは考え方であり、それを持たない人もいる。
    以前、モバイルアプリ向けのかなり有名なデータベースを作っている会社で働いていた。スマートフォンにデータを保存し、開発者が特に何もしなくてもサーバーと同期される簡単な API だった。
    同僚 2 人が数週間かけて、複数ユーザーのメッセージを複数デバイスに同期するもっともらしいチャットアプリを作り、デモとして公開しようとしていたのだが、誰かがセキュリティがまったくないことを指摘するまで誰も気づかなかった。サーバーはクライアントが送ってきた最新状態をそのまま受け入れており、チャットではどのクライアントでも履歴全体を書き換えられ、サーバーは次の同期時に「ありがとう！」と言って全員に配信する、という意味だった。
    尊敬される機関で学位を取った大人たちだったのに、その発想がまったくなかった。Recall も、ハンロンの剃刀と、反対意見を言いたがらない文化だけで十分説明できると思う。コンピュータにそう動いてほしいと思っている人が多いのは確かで、内部の批判を聞かないまま出したかったのかもしれない。
  • 今でも Secure Future Initiative が、実際に Windows チームで COM や C++ の優先を減らし、.NET と Rust を増やす方向につながるのを待っている。
    それが変わるまでは、Recall がどれほど安全になるかという話は割り引いて聞くべきだ。
    Apple Intelligence と比べると、Apple はローカル API の大半を Swift で提供しているだけでなく、専用ハードウェアとユニカーネルに近い OS を作り、サンドボックス層を設けて AI 処理とクラスタ間通信に必要な OS 機能だけを公開している。
    一方 Microsoft は、「信じてくれ、我々は正しいことをする」に近い。
  • 「ユーザーの意見を聞く」というのは、実際には「ユーザーを盗み聞きする」か、単に悪い報道を気にしているという意味だ。
    Microsoft は Windows にコードを追加する前にユーザーと相談したりしない。ユーザーの側も、どんなコードを望むか望まないかを Microsoft に連絡したりはしない。
    たとえそうだとしても、会社がユーザーの提案に従って動くわけではない。Recall に対する記者、ブロガー、コメント欄の反応は、「延期すべきだ」ではなく「悪いアイデアだ」に近い。
    Microsoft はいつも通り、自分たちのやりたいようにやるだろう。

• 投稿タイトルが少し紛らわしいが、更新内容もそれをそれほど明確にはしていない。
  原文は「Copilot+ PCs 向け Recall プレビュー機能の更新」で、Recall は 2024 年 6 月 18 日に Copilot+ PCs に広く提供されるプレビューから、数週間以内に Windows Insider Program で先行提供されるプレビューへと変更されると書かれている。
  つまり一般公開は遅れるかもしれないが、Insider には引き続き配布される。2024 年 6 月 18 日の可能性もあるが、「数週間以内」という表現はそれより遅いことを示唆している。
  また、「6 月 18 日に Recall プレビューが顧客に配布される前に適用される更新を発表する」「まもなくすべての Copilot+ PCs に Recall プレビューを提供する計画だ」とも書かれている。

  • タイトルは正しい。indefinite を「永久的」と受け取ることがあるが、実際には「未定の」という意味だ。
    遅延したのは確かで、我々にも Microsoft にもどれほど遅れるか分からない可能性があるため、無期限延期と言える。
  • Microsoft 製品に慣れていないので、最初は Copilot+ PCs を Copilot「plus」PC と読んでいた。

• Recallは、Microsoftが何度も繰り返してきたのに学べていない典型的な失敗、つまり機能をどうマーケティングし、パッケージングするかを誤った事例だ。
  Microsoftは新機能の採用を増やすために統合を強く押し出す傾向があり、これがしばしば裏目に出る。Windows 8のときも、新しいMetro UIを本当に使わせたくてOSに深く統合し、あらゆるマーケティングで前面に押し出し、ログイン後の最初の画面にした。
  パフォーマンスや検索結果の改善のような良い機能もあったが、選択肢ではなかった。表面的に見た顧客は「デスクトップをなくした」と受け取り、実際にはそうではなかったものの、MSが新機能を過剰に押し付けたせいでその印象が残った。
  今回も似たようなものだ。Microsoftは客観的には優れたツールを押し出したが、ユーザーがそれを望むかどうか選ぶ機会を与えず、メッセージやマーケティングも実際に何が起きるのかをわかりにくくした。このブログ記事もセキュリティが重要だという話は長々とする一方で、実際のセキュリティ問題が何で、どう解決するのかは語っていない。
  お粗末なマーケティングと強制的な統合でMicrosoftが何度も痛い目を見てきたのに、なぜ学べないのかいつも驚かされる

  • 問題はマーケティングではない。このツールは根本的に安全ではなく、大きな変更なしには安全にできないと思う。
    要点は、誰もがコンピュータの中に一時的にしか存在してほしくないものを持っているということだ。たとえばクレジットカード番号を入力するとき、コンピュータにスクリーンショットを撮られるのは絶対に嫌だ。さらに重要なのは、機密データが含まれているかもしれない「一時メモ帳」としてテキストエディタをよく使うが、そうしたデータが永続化されるのは絶対に望まないということだ。
    Microsoftはこの機能のセキュリティへの影響をまともに考えていなかった
  • これがどう客観的に優れた機能なのかわからない。暗号化されていないスクリーンショットを保存し、他のスパイウェアからもアクセスできるスパイウェアだ。
    AIツールが本当にオフラインだけで動作したのかも確信が持てず、結局は以前より多くの全体データをMicrosoftと共有することになるかもしれない。プライバシーの観点から、この機能はひどい
  • もしApple流にマーケティングされ、Appleがファンから得ているのと同じ程度の信頼があったなら、みんな気に入っていたかもしれない。実際には、Apple Intelligenceと大きく違うものにする意図はなかったのだと思う。
    つまり、すべてのデータにローカルでアクセスし、クラウドアプリで使うデータはアップロードする方式だ
  • Windows 8でMicrosoftはタブレットとタッチスクリーンが未来だと見ており、Metroはそれに合わせて設計されていた。タブレットがコンピューティングの未来だと考えていたから、新しい体験をデフォルトにしたのだ。
    ところが10年後になっても、キーボードとマウスのほうがはるかに広く使われていることが明らかになった
  • 「客観的に優れたツール」という主張には根拠が必要だ。実際そうである可能性は非常に低く見える

• 最近の状況を追えていない人向けに整理すると、米国政府はロシアと中国の国家支援攻撃に関連する最近のセキュリティ問題のため、Microsoftとの関係を再評価している。
  最近の事例として挙げられるMicrosoft Storm-0558事件: https://www.microsoft.com/en-us/security/blog/2023/07/14/ana...
  Microsoftは最近、役員報酬のインセンティブやその他の措置を通じてセキュリティ慣行を改善すると約束した: https://blogs.microsoft.com/on-the-issues/2024/06/13/microso...
  しかし、こうした約束にもかかわらず、複数の議員はMicrosoftが最近のセキュリティ公約を真剣に受け止めていないと見ている。その一部は、Microsoftが受け取る資金の規模に影響力を持っている。
  Recallは、Microsoftがセキュリティを考慮せず機能を急いでリリースする問題を示す避雷針としてしばしば使われる。
  Microsoft社長がフロリダ州選出の下院議員から質問を受ける動画で、Recallにも言及されている: https://youtu.be/kB2GCmasH4c?t=8217
  リリース延期に理由が一つしかないとは思わないが、Microsoftの最大顧客がRecallをこのように見ていることは、リリース保留の判断に大きく影響した可能性が高い

  • 「役員報酬のインセンティブを通じてセキュリティ慣行を改善」とは、つまり問題の原因はお粗末な役員報酬だったわけだ

• Satya NadellaのMicrosoftは本当に奇妙な会社だ。片方ではZuckerbergの「素早く動いて壊せ」を追いかけ、もう片方では「待て、我々は世界で最も重要なソフトウェア会社だ。壊れてはいけない！」と言っているように見える

  • 一方では.NETとVS Codeをオープンソース化し、GitHubをうまく運営し、vcpkgを作っている。もう一方ではWindowsを恥ずかしい広告まみれの基本プレイ無料ゲームのように汚している。本当に奇妙だ
  • まさにそんな感じだ。Windowsを含む中核技術はかつてないほど堅牢なのに、その強固な土台の上に「素早く動いて壊せ」式の判断と短期利益の追求が載せられ、全体をひどく見せている
  • Nadella以前でも、MSはWindowsで途方もないリスクを取っていた。Ballmer時代の全画面スタートメニューを備えたWindows 8はVistaよりもずっと嫌われ、3年も経たずにWin10へ置き換えられた。
    Windows Phone、RT、NokiaでGoogleやAppleにモバイル分野で追いつこうとした10年がかりの試みは言うまでもない。幸いにもNadellaが整理した
  • 片方は企業市場を狙い、もう片方は一般消費者向けだ。
    私にとって目を開かされたのは、Surface Pro 10が法人向けにしか存在しないことだった。デバイス全体を設計・生産しておきながら、一般顧客には売らない。その市場は代わりに、より実験的なCopilotラインへ向かうことになり、それが良いかもしれないが、そもそも選択肢がない
  • Microsoftはまた別の大きな産業を取り逃したくないため、転ばないよう必死になりながらも、誰より先に行こうとして過剰に反応している

• 要するに、実際に重要な顧客である サイトライセンスを支払う企業 が、これを受け入れられない事業リスクだと判断したということ
  2024年になってもまだWindowsを使っていて、多国籍企業やLLCですらないなら、受け入れるべきものを受け入れているということ

  • Macを買う余裕もなく、Ubuntuをインストールするほど技術に明るくもないならどうするのか？
    個人的にはゲームと音楽制作が本当に好きなので、MintとWindowsをデュアルブートしている。どちらもLinuxでは明らかに不足がある
    私たちのオタクなバブルの外にいる普通の人たちは、デスクトップLinuxをあまり使いたがらない。Macは素晴らしいが、ゲームをきちんとやるのは難しい
  • そのどちらでもないが、Windows 10 Enterprise は私にはうまく動いている。まだ多くの人が自分のOSをある程度コントロールできている
  • 完全には正しくない。もう一つの巨大な顧客層は単に ゲーマー だ
  • Microsoftは非専門の開発者も引き込みたがっている。無料のOS、無料の開発ツールと言語、無料のWebフレームワーク、無料のWebサーバーをHomeエディションでも提供している
    オープンソースを受け入れるとも言っている。仕事の都合で仕方なく使う開発者ではなく、開発者にとってLinuxやAppleの生きた代替手段として見られたがっている
    今では「大衆」も引き込みたがっているので、Windowsにはユーザーフレンドリーという名目の雑多な機能がいろいろ付いている。広告もあるにはあるが、聞くほど深刻ではない。スタートメニューでタイプミスをしたときに、BingのようなWeb検索結果と広告が混ざって出てくる程度で、Google検索のときと似たようなものだ。それが私の「受け入れるべきもの」なのかは分からないし、無効化しようと思うほど不快でもなかった
    結局Windowsを使うということは、Microsoftを暗黙のうちに信頼するという意味だ。iPhoneやAndroidの利用者がAppleやGoogleを暗黙に信頼しているのと同じである。信頼しなければならない主体の数を減らそうと努力するだけだ
    むしろMicrosoftは常にスポットライトの下にいて、激しい批判を数多く受けているので、小規模だったりより「評判の良い」企業より失うものが多く、そこまで怖くはない。だから新しい余計な機能がMicrosoftの監視に役立つとしても、あまり気にする理由が分からない。どうせやろうと思えばいつでも監視できるのだから
  • 「サイトライセンスを支払う企業が受け入れられない事業リスクと見た」というのは、もっと限定的に見るべきだと思う
    昨日、Microsoft社長のBrad Smithが 米下院国土安全保障委員会 に出席し、委員会はMicrosoftが国家安全保障リスクだという論理を展開した
    企業顧客もその証言を見て反応するかもしれないが、時期を見ると今回の発表の動機は米国政府側にあるように感じる

• 興味深いのは、AI過熱のおかげで非技術者たちも、ソフトウェアに関する プライバシーとセキュリティの懸念 をより多く考え、話すようになったことだ
  大手テック企業が何年にもわたって行ってきたデータ収集と比べれば、大規模言語モデルそのものが特別により邪悪というわけではない。ただ、AGIの宣伝が人々の防御反応を引き起こした
  これは前向きなことだと思う。人々は技術のプライバシー問題について、恐れ、不確実性、疑念を持って向き合うべきだ

  • 以前は、コンピューターを使っている間にモニターに表示されるすべてのもののスクリーンショットが存在することはなかったし、そんなデータが生まれることを望んでいない
    もちろん、私の行動の多くは他の追跡データから組み合わせられるかもしれないが、画面にあったすべてのものの 常時スクリーンショット は中央集権的なデータの金鉱であり、誰にもアクセスさせたくない
    これは他の大半のデータ収集よりも邪悪だと思う

• RecallはWindows 11に組み込まれたローカルAIモデルを使って、コンピューター上で見たり行ったりするほぼすべてをスクリーンショットに撮り、ユーザーが見た項目を検索して再び見つけられるようにする
  検索可能なタイムラインでスナップショットをスクロールし、特定の日にPCで何をしていたかを振り返ることができる。Recallのすべてはデバイス内でローカルかつ非公開に保たれるよう設計されており、MicrosoftのAIモデル学習にデータは使われないとしている
  https://www.theverge.com/2024/6/13/24178144/microsoft-window...
  調べる必要があったので、誰かの1分を節約するために共有する

  • 「Recallのすべてはデバイス内でローカルかつ非公開に保たれるよう設計されており、MicrosoftのAIモデル学習にデータは使われない」 — 今のところは
  • 最新のApple Intelligence機能は、デバイス上での実行のために16GB RAMと新しい Mシリーズチップ を必要とする
    低消費電力・低価格のWindows機器がはるかに多様なエコシステムで、Microsoftがどうやってこうした機能を大規模にデバイス上実行として提供できるのか気になる

• これは、誇大に売り込まれたあとで延期されたり、ひっそり廃棄されたりする AI中心製品 の始まりにすぎない
  大規模言語モデルは単純な作業には悪くないが、すでに限界に達している。データがどれだけ多くても、反復と複雑性の問題は解決できない

  • 毎月、大規模言語モデルがまったく向いていない用途で検討される会議に出ている。懸念を述べると、「もっとAI推進派が必要だ」という返事が返ってくる
    こうした会話は、大規模言語モデルの論文を一つも読んだことがないか、実際に使ったことすらない人たちが主導している。リスクをまったく理解していないが、何も分かっていない上司にAI活用計画を作れと言われたので、ひたすら押し進めている
  • この機能が動かないと言った人はいない。むしろうまく動く可能性が高く、だからこそMicrosoftもあれほど強く推したのだろう
  • 限界に達したとどうして分かるのか気になる
  • Recallの延期は 技術的限界 とはまったく関係ない

• 一方で、Apple Intelligenceはすべてのアプリを対象に記憶しても反発がない。個人的にはこのアイデアは良いと思っており、慎重かつ安全に実装する必要はあるが、ログを後から思い出せる機能は、新たに検索するより有用だと思う
  Googleの生成AI検索や、検索機能を搭載したOpenAIのChatGPTにも同じ二重基準が見られる。Googleが間違えると大問題になるが、他はそうではない

  • MS Recallはスクリーンショットをキャプチャして分析し、データを抽出したうえで、それらを検索できるようなデータベースのインデックスを作る
    Apple AIは基本的に、アプリがモデルに動作やデータを公開できるようにするAPIフックを提供する。現時点ではApple純正アプリがそうしているようだが、各アプリの所有者が対応するかどうかを決められる
    まったく異なるアプローチだ
  • Appleが画面全体のスクリーンショットを撮って保存すると発表したことが、いったいいつあったのか？ Windowsには何年も前から、出来は悪いとはいえすべてのアプリを横断する統合検索があり、知る限り反発はなかった
  • 反発は多少ある。ただ、ブランド認知とは別に、Appleはセキュリティを先に、機能を後に置くアプローチのために必要な手順をすべて踏んでいた
    サーバー側にも、AI処理やネットワーキングに不要なものを削ぎ落としたユニカーネル風の特別なOSバージョンを置き、SwiftとSecure Enclaveを使っている
    WinDev部門が好むような、CやC++とCOMで書かれた平文のSQLiteデータベースとは違う
  • 実装がまったく異なる。TelegramとSignalを比較するようなものだ
  • GoogleはAI生成の回答を検索結果の最上部に表示しており、そのため最も関連性が高く事実に即した答えであるかのように示唆されていた
    OpenAIとBingは、ユーザーがAIチャットボットと会話していることを明確にしており、ほとんどの人はこれをGoogle検索の最初の結果と同じくらい信頼できて正確だとは期待していない