Meta、内部データ流出を受けて従業員追跡プログラムを停止

 (wired.com)
1 ポイント 投稿者 GN⁺ 5 시간 전 | 1件のコメント | WhatsAppで共有
  • Metaは、従業員のコンピューター入力を収集していた Model Compatibility Initiative（MCI） のデータが社内で過度に公開されたことを受け、プログラムを一時停止した
  • MCIは4月に米国の従業員向けに導入され、マウスの動き・クリック位置・キー入力・画面内容 のような情報を収集し、従業員の反発を招いていた
  • 経営陣は、AIが人間のソフトウェア利用方法を学ぶには従業員データが必要だと見ていたが、プライバシーとセキュリティへの懸念が実際の内部公開問題につながった
  • Stephane Kasrielは、6月18日に発見されたセキュリティ問題は4時間以内に対処されたものの、初期修正が維持されなかったため、データアクセスをさらに制限したと従業員に通知した
  • Metaは、データ保護統制 が有効だと確信できる場合にのみMCIを再開し、長期的価値を評価するためのデータはすでに十分に収集したと説明した

MCIの停止と内部データ公開

  • Metaは従業員追跡プログラム MCI を一時停止した
  • 停止は、MCIで収集された潜在的に機微なデータが社内の別の従業員に公開された後に行われた
  • Metaの広報担当 Tracy Clayton は、このプログラムはプライバシー保護措置を備えるよう設計されており、現時点でMeta従業員がデータに不適切にアクセスした兆候はないが、調査の間は停止すると説明した

収集データと従業員の反発

  • MCIは4月に米国の従業員へ配布されたツールである
  • 従業員が反対請願で指摘した収集対象は次のとおり
    • マウスの動き
    • クリック位置
    • キー入力
    • 画面内容
  • リリース当初、従業員はMCIをオプトアウトできなかったが、抗議の後に限定的な水準で変更された
  • 従業員は、MCIが プライバシー・セキュリティ・個人の自由 を侵害しうると懸念してきた

MetaがMCIを推進した理由

  • Meta経営陣は、MCIのデータ収集がAIシステムの訓練に必要だと繰り返し擁護してきた
  • 目的は、AIが人間のコンピューターソフトウェア操作方法を学習することにある
  • 経営陣は、従業員こそがAIが学べる最良の事例だと判断していた

内部セキュリティ告知と従業員の反応

  • 月曜日、Metaのあるエンジニアは内部セキュリティ告知で、MCIで収集された情報を含むデータベースが社内の誰にでも公開されていたと知らせた
  • MCI反対活動に参加していた元従業員は、この問題を「a mess」と呼び、従業員が予想していたことだと語った
  • その元従業員は、リーダーシップが従業員の懸念にもかかわらずプログラムを押し進め、労働者と顧客データの安全性・プライバシーのリスクを認めなかったと批判した
  • 月曜日の社内フォーラムにはセキュリティ問題を批判するコメントが殺到し、その後Metaは、一部の従業員が驚くほどMCI全体を停止した
  • 数人の従業員は、停止発表前までツールがノートPC上で動き続けており、混乱していたと語った

Kasrielの通知と再開条件

  • MetaのAI研究を統括する副社長 Stephane Kasriel は、月曜日遅くに従業員へMCI停止を通知した
  • Kasrielによれば、セキュリティ問題は6月18日に発見され、4時間以内に対処された
  • ただし初期修正が維持されなかったため、データアクセスを追加でロックする必要があった
  • この問題により、一部のMCI派生データ が意図より多くの人にアクセス可能になったが、具体的な説明は示されなかった
  • MCIは、Metaが データ保護統制 の有効性に確信を持てる場合にのみ再有効化される
  • Metaは、MCIの長期的価値を評価するのに十分なデータをすでに収集しており、今後MCIの将来についてさらに共有する予定だ

関連記事

1件のコメント

 
GN⁺ 5 시간 전
Hacker Newsの意見

  • Metaは今でも最も厚かましい会社で、働くのも恥ずかしい会社に近い。
    この会社の製品で、世界を明確に悪化させなかったものを一つも思い浮かべにくい。
    最近のハードウェア進出も、Ray-Banで酔った女性を撮影する男性や監視のように、日常的な相互作用への信頼を壊す方向を見つけている。
    より「思慮深い」フロンティア研究所にいる知人数人は、この理由だけでMeta応募者を即座にふるい落とすと言っていた。

    • Facebookは、たとえば株主に大金を稼がせたし、私たちはそれが世界をより良い場所にすることと同じだと知っている。
    • 世界を明確に悪化させなかった製品ならzstdがある。
      ReactとPyTorchは少し判断が分かれる。
    • Metaは、何をしても成長できない10代のための黄金の檻みたいだ。恥ずべきことだ。
    • Meta製品が社会に悪いのはその通りだが、働くのがもっと恥ずかしい会社はPalantirだと思う。
    • 2004〜2005年のFacebookは本当に良かった。
      山火事のように広まり、使うのもとても楽しかった。自分と大学の友人たち、そしてその友人の友人たちしかいなかった時代だ。

  • 自分たちが金を払って引き留めたいと思っていた従業員にさえこんなことをするなら、ユーザーデータには何をしようとするのか。
    ユーザーのシステムにつながる自分たちのシステムで、また何をしようとするのか。
    「Dumb f*cks」は、この会社の初日から続く基調だったわけだ。

  • こうした流出こそ、私たちが入りつつある監視社会に対する唯一効果的な抵抗だという確信がますます強まっている。
    Metaはこれからもこうし続けるだろうし、他の雇用主もおそらく追随し、政府は「適切な法的手続き」を通じてそのデータを自分たちの書類棚に加えるだろう。
    監視カメラの拡大、チャット統制、匿名性の排除のようなことがリアルタイムで起きている。
    こうしたデータが流出すれば、それがどれほど大きな責任リスクなのかが誰の目にも明らかになる。Meta幹部のデータもその山の中にあり、兵士や議員たちはFlockデータベースに入っている。
    PornHubが正確な嗜好プロファイルを持っている上院議員は何人いるのだろうか。
    もちろん、こうしたデータ流出には被害が伴う。だが、その被害は、誰もがどこでも誰からも監視されることより本当に大きいのだろうか。

    • 流出しないときのほうが被害が大きい可能性もある。
      権力者を脅迫するのに使えるからだ。特別に違法なことをしていなくても、物議を醸す発言や変わった性的嗜好があるだけで終わりだ。
      もちろん違法なことが含まれているかもしれないし、違法性がまったくなくても、並行構成捜査をでっち上げるには十分かもしれない。

  • リンク先の記事を読むと、流出したデータには一部従業員の私的な会話が平文で見えるスクリーンショットや業績情報が含まれているとある。
    画面全体を録画しておいて、うまく匿名化されると期待したのはかなり大胆な選択だった。

  • 「ルールを破らなければ恐れることはない」と言う人は、ほとんどの会社が規則どおりにだけ働くことを一種の抗議とみなす点を考えるべきだ。
    ルールをそのまま守るだけでも、この監視はあなたを特定し制裁するために使われるだろう。

  • あのシステムは証拠開示手続きで悪夢になりそうだ。

    • むしろ素晴らしいアイデアのようにも聞こえる。
      すでにそれを考えていて、「決定的証拠」を作る可能性が最も高い職務は監視対象から外しているのか気になる。

  • くずみたいな会社が死のスパイラルに入りつつある。

    • 残念ながら、積み上げた現金とFacebookという金の卵を産むガチョウのおかげで、しばらくは持ちこたえるだろう。

  • 一時停止しただけで、再開する意図は明らかだ。
    なぜダウンボートされているのか分からない。記事に文字どおりそう書いてある。
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • Metaは本当にかなり給料が高いらしい。

  • おそらくそのユーティリティはAIで書かれたのだろう。AIがセキュリティをきちんと守れないのは、それほど驚くことでもない。