マイクロソフトの自殺未遂疑惑

 (antipope.org)
2 ポイント 投稿者 GN⁺ 2024-06-06 | 1件のコメント | WhatsAppで共有

マイクロソフトの新機能、CoPilot+ と Recall

主な内容の要約

  • AIの拡散:

    • 最近の技術ニュースは AI（人工知能）の拡散に注目している。
    • 多くの企業が製品に AI を追加しようとする動きを見せている。

  • CoPilot+ の紹介:

    • CoPilot+ はマイクロソフトの LLM（大規模言語モデル）ベースの Windows アドオンである。
    • 過去のクリッピー（Clippy）に似ているが、AI を活用してユーザーの作業を支援する機能を持つ。
    • しかし LLM の限界により、正確な回答を提供できない可能性がある。

  • Windows ARM プロセッサ:

    • マイクロソフトは Intel への依存を避けるため、ARM ベースの Windows を推進している。
    • 新しい CoPilot+ PC は強力な ARM プロセッサを搭載し、AI 作業に適した設計となっている。

  • Recall 機能:

    • Recall は、ユーザーがコンピュータで行ったすべての作業を記録する機能である。
    • スクリーンショットを撮影し、OCR（光学文字認識）および音声認識を通じてテキストを抽出し、データベースに保存する。
    • 保存されたデータは暗号化されておらず、セキュリティ問題が発生する可能性がある。

  • プライバシー問題:

    • Recall 機能はユーザーのプライバシーを深刻に侵害する可能性がある。
    • 保存されたデータには、ユーザー資格情報やパスワードなどが含まれる可能性がある。
    • 法的手続きでデータベースが召喚される可能性があり、企業と個人の双方にとって大きなリスクとなる。

  • その他の問題点:

    • Recall 機能は GDPR や HIPAA などのプライバシー規制に違反する可能性がある。
    • マイクロソフトはこの機能を Windows 11 アップデートに強制的に含める予定である。

GN⁺ の意見

  • プライバシー侵害:

    • Recall 機能はユーザーのプライバシーを深刻に侵害する可能性がある。特に機微なデータを扱う企業や個人にとって大きなリスクとなる。

  • セキュリティ脆弱性:

    • 暗号化されていないデータベースは、ハッカーや悪意あるユーザーに容易にさらされる可能性がある。これはセキュリティ事故を引き起こす恐れが大きい。

  • 法的問題:

    • Recall 機能は GDPR や HIPAA などのプライバシー規制に違反する可能性が高い。これは法的紛争を招くおそれがある。

  • ユーザー信頼:

    • マイクロソフトによるこのような機能導入は、ユーザーの信頼を大きく損なう可能性がある。これは長期的に企業イメージへ悪影響を及ぼしかねない。

  • 代替技術:

    • ユーザーのプライバシーを重視する企業は、Recall 機能の代わりに他の代替策を検討すべきである。たとえば、オープンソースベースのセキュリティソリューションの導入が望ましい。

関連記事

1件のコメント

 
GN⁺ 2024-06-06
Hacker Newsの意見

  • セキュリティやプライバシーの懸念を抜きにして見ても、Recallは特にAI機能のようには感じられない
    デバイス内OCRとSQLiteデータベースを作って、それを検索する仕組みではないのか？ 最近の緩いAIの定義で見ても、あまり結び付かない。OCRが機械学習ベースだからそうなのか？ Recallに自分が見落としているLLM構成要素があるなら、悪意ある指示文をSQLiteデータベースにインデックスさせたうえで、後からLLMに食わせるようなプロンプトインジェクション攻撃サイトも作れるのか気になる

    • AI研究者が何かを可能にするたびに、それは「不可能なSF」から「それは本物のAIではない」に変わる、という話は昔からあった
      実際にそういう反応に出くわすと不思議な感じがする。OCRもかつては十分な品質では不可能だと思われていて、だからフォーラムのボットログインを防ぐためにCAPTCHAが使われた。最初はテキストで、だんだん歪みが強くなって人間にも読みにくくなり、家番号や「XYZが写っている写真をすべてクリック」に変わっていき、最後にはマウスカーソルの位置や訪問サイトを見る分析によって、ほぼ姿を消した
    • 自分で調べてみたところ、単純なOCRを超えた意味解析がある程度入っているようで、だから現在の緩い用法ではAI機能と見なせそうだ
      手がかりはこのデモ https://www.youtube.com/watch?v=aZbHd4suAnQ&t=1062s で、「blue pantsuit with sequin lace」を検索すると、テキストでは「peacock」と説明されている項目を見つける場面だ。画像埋め込みに対する埋め込み検索のように見える
      そしてRecallが作る3つのSQLiteデータベースのうち1つが「SemanticImageStore」なので、デバイス上でCLIP風の画像埋め込みモデルを動かしているようだ。そのデータベースには「diskann」列もあり、Microsoftのベクトルインデックスライブラリ https://github.com/microsoft/DiskANN を指しているように思える
    • デモを見ると、画面に「Blue bag」という単語がなくても検索できる
      例えばPowerPointスライドの写真の中に青いバッグがあれば見つけ出す
    • 「コンピュータには解けないかもしれない問題」に近いAIの定義を使っているようだ
      OCRは、やり方が分かる前は確かにAIと見なされていた。今は理解できたので「ただのコンピューティング」になったが、別のAI定義で見ても、なおAIと見るのが妥当だ
    • おそらくRAGが入っている可能性が高い

  • RecallがEUでまだ完全に違法でないなら、MicrosoftはリリースからEU全域での禁止法案まで、何の制限もないスピード勝負をしているようなものだ
    EUがこれを域内で認めるシナリオはなさそうだ。虐待的な配偶者に悪用され得るという非常に妥当な懸念だけでも、政治的な大義名分として十分だ。そういう形で提示された法案に反対してくれる欧州議会議員は1人も見つけにくそうだし、新しく選ばれた議員たちも、複雑で難しい案件の合間に手軽な勝利を歓迎するだろう

    • なぜRecallがEUで違法であるべきなのか？
    • 欧州市民がこの機能を望んだらどうするのか？ 選択権もないのか？

  • すでに指摘されているいくつもの論理的誤りに加えて、もう1つ付け加えたい
    この話はMicrosoftの未来がWindowsだと仮定している。Satya以降はそうではなかったと思う。それに気付くと、Windows機能1つの実装ミスに関係なく、未来はかなり明るく見える

    • ではMicrosoftが提案する未来とは何か？
      Xboxではない。その戦いには負けているし、それもWindowsベースだった。携帯電話でもない。すでに負けたし、それもやはりWindowsベースだった
      Officeも厳しい。有料オフィススイートの必要性は低下しており、ブラウザ版のMS Officeはかなり微妙だ
      Azureかもしれないが、Azureへの大きな入口は、Microsoftが企業にActiveDirectoryとExchangeをクラウドへ移行させようとしているところにあると思う。だがWindowsの終わりはActiveDirectoryの終わりであり、クラウドメールやカレンダーには代替がある。Exchangeのせいですでにそこにいるのでなければ、Azureは多くの人にとって魅力的なのか？
      未来が明るいことはあり得るが、見るべきWindowsがなければ、その未来をどうやって知ればいいのか？ ;p
    • その通り。MicrosoftにはOffice、Azure、XBox、ゲームレーベルなど、数十億ドル規模の収益源が複数あり、コンピューティングの「クラウド」側はほぼLinux一色なので、Windowsに投資する誘因は減っている
      WSL、winget、sudoのような動きを見ると、WindowsはコマンドラインインターフェイスではますますLinuxをまねる外皮へと移行しているのが明らかだ
      2000年のMicrosoftはWindows 9x、2000、Officeだった。2004年にはサイトからWindows専用ソフトウェアをダウンロードしていたが、2024年にはApple専用やLinux専用のソフトウェアもよくある
      考えてみれば、「Linux系デスクトップの年」は10年以上前からMacOSだった。WindowsのファイルパスやWin32 APIのような摩擦に比べれば、完全なLinuxへ向かうための入門ドラッグに近い
    • その言い方だと、世界中のデスクトップとノートPCの80%で衰退したOSが動いていることになる
      間違っているというわけではなく、実際にWindowsがMicrosoft内で後回しになったことには同意するが、かなり恐ろしいことだ
      新しいExchange Serverライセンスを見ると、Microsoftができるだけ早くオンプレミスソフトウェア事業から手を引きたがっていると見ても安全だ。ただし、世界がそれを受け入れる準備ができているのか、それが私たちの望むことなのかは疑問だ
    • その通り。Windowsは今やほとんど損失覚悟の客寄せ商品に近い
    • Windowsを素晴らしいものにするには、誰も求めていないゴミを取り除くだけでいい
      怪しいアンチパターンが信じられないほど多い

  • Microsoftや他のFAANGが私たちのデータを全部流出させたとしても、実際に大きな代償を払うかは分からない
    データセキュリティ問題で本当に「潰れた」会社が最後にあったのはいつだろうか？ 最近のデータセキュリティ侵害としてはSnowflake、AWS / Capital Oneがある

    • 流出は起こるものだということは誰もが理解している
      ここで指摘している核心は、収集していないものは流出させようがないという点だ。Recallは、Microsoftが以前に収集していたものよりはるかに多く、はるかに機微なデータである
    • Snowflakeは、基盤システムの侵害ではなく顧客の設定ミスだったと、かなり一貫して説明してきた
      2010年代半ばのAWSで、特定のシステムがデフォルトで公開状態になっており、多数の「データ流出」が、企業が単にデータバケットを非公開にしていなかったために起きていたことを思い出す
    • 必要なのは、すべてのデータ流出に対する大規模で義務的な罰金だ
      例えば住所が流出した人1人につき1万ドルを支払わせるようにすれば、企業は消費者データを低コストの資産ではなくリスクとして扱い始めるだろう
    • Equifaxも忘れてはいけない

  • あちらのWebサーバーのほうが先に自殺したように見える

  • Microsoftの直近の四半期決算報告では売上高17%増が出ており、株価は過去1年でほぼ25%上がっている

    • よかったね。顧客がこういうことに怯えて取引を拒み始めたら、あまり意味はないだろうけど
    • MicrosoftのOS事業にはショートポジションを取り、クラウドプロバイダー事業とOpenAIへの投資についてはロングポジションを維持できるなら、そうする
    • 株価が過去1年でほぼ25%上がったというのは、平均的なS&P500並みということでは？ 大手テック企業ならもっと良くあるべきだと思う

  • Microsoftが自殺しているわけではないのは明らかだ。この機能がどれだけ注目を集めたか見てみろ
    すべてのテックメディアがWindowsについて語っており、Windowsが突然また関連性を取り戻した。これがどうして自殺なのか？
    自殺しているのは、この機能をオンにしたままにしているMicrosoftの顧客たちだ。ユーザーにこの機能の危険性とオフにする方法を教育しなければならない

    • 誰かが銃を向けて「5秒後に撃つ」と言ったのに、身を隠さず立っていて撃たれたとしても、それは自殺ではない
      愚かな死ではあり得るが、撃った人間は依然として殺人を犯したのだ。今の状況にはかなり良い比喩だと感じる
    • 私たちはすでに滑りやすい坂道を越えていて、髪に風まで受けている

  • HNを検索しても見つけられないが、以前Recallに似たものを見た気がする
    スクリーンショットツールがOCR/検出を走らせ、データベースに入れて検索可能にしていた。GitHubでオープンソースになっていた
    付け加えると、プライバシー問題については気持ちが揺れるが、一方でWindowsに再びARMを持ち込むようにも見えるので、その点は支持する

  • 「言語モデル技術が私たちの未来を支配するようになることは、私たちはしばらく前から分かっていた」の私たちとは、LLM技術にもっと投資が入らないと収入が生まれない人たち、と定義される
    それ以外の人たちにとっては、LLMは何かの一般的な解決策として絶望的に欠陥があるように見える

  • Microsoftが必ずしも自殺しているとは思わない
    ただ、あまりに事後対応的で、先手を打てていないと思う。言い換えれば、自分の道を作り機会を創出するよりも、技術の流れを予測することに過度に集中するという間違いを犯しているように見える
    もちろん、開発者ツールや、おそらくAzureのような一部の市場では、自分の道を作ってはいる。だが私に何が分かるというのか、ただの愚かなプログラマーにすぎない