Meta、AI学習用に従業員のマウス操作とキー入力の収集を開始

• Metaが米国の従業員用コンピューターに マウスの動き、クリック、キー入力 を追跡するソフトウェアを導入し、AIモデルの学習データとして活用。業務用アプリやWebサイトで 画面スナップショット も定期的に取得
• Model Capability Initiative(MCI) と呼ばれるこのツールは、ドロップダウンメニューの選択やキーボードショートカットの使用など、AIがまだ人間の行動を十分に再現できていない領域の学習データ確保が目的
• CTOのAndrew Bosworthは、Agent Transformation Accelerator(ATA) としてリブランディングされた社内AI転換プログラムを通じて、「エージェントが主に業務を遂行し、人間は指示・レビュー・改善を行う」というビジョンを提示
• Metaは5月20日から 世界全体の人員を10%削減 し始めており、コーディングなどの業務でAIエージェントを使うよう従業員に積極的に促している
• 法学者らは、この措置はホワイトカラー従業員に対し、従来の 配達員・ギグワーカー並みのリアルタイム監視 を適用するものであり、欧州のGDPRに違反する可能性も高いと指摘

---

MCIツールの動作方式

• MCIは従業員の 業務用アプリやWebサイト 上で動作し、マウスの動き、クリック、キー入力を記録
• 従業員の画面内容の スナップショットを定期的に撮影 する機能も含む
• AI研究科学者が Meta SuperIntelligence Labs のチームチャンネルに投稿した社内メモで明らかになった
• 目的は、ドロップダウンメニューの選択や キーボードショートカットの使用 など、AIモデルが人間のコンピューター操作を再現しにくい領域を改善すること
• 「すべてのMeta従業員が 日常業務を行うだけで モデル改善に貢献できる」と説明

AI業務転換戦略

• CTOのAndrew Bosworthは別のメモで、社内データ収集を強化すると明らかにし、このプログラムを Agent Transformation Accelerator(ATA) にリブランディング
• 「エージェントが主に業務を遂行し、人間の役割は 指示、レビュー、改善支援」というビジョンを提示
• エージェントが人間の介入が必要だと感じた地点を 自動で把握 し、次回はより良くできるようにすることが目標
• Bosworthはエージェントの学習方法を明示的には説明しなかったが、「業務プロセスのあらゆる種類の相互作用に関する データと評価を蓄積 することに厳格に取り組む」と述べた
• Metaの広報担当Andy Stoneは、MCIデータが モデル学習の入力値の一つ であることを認めた

AI主導の人員構造再編

• MCIデータは 人事評価には使われず、モデル学習目的にのみ利用される。「機微なコンテンツ」を保護する安全策が用意されているが、どのデータが収集対象外なのかの詳細は説明されていない
• AIツールがアプリ制作や大規模データ整理などの 複雑な業務を最小限の人間監督で処理 する能力がシリコンバレーを席巻しており、従来型ソフトウェア企業の株価下落や大規模な人員削減計画につながっている
• Metaは5月20日から 世界全体の人員を10%削減 し始めており、今年さらに大規模な削減も検討中
• Amazonはここ数カ月で ホワイトカラー従業員約30,000人（約10%） を削減し、Blockは2月に 従業員のほぼ半数 を解雇
• Metaは従業員に対し、短期的に速度が落ちても コーディングなどの業務でAIエージェントを使うよう促している
• 特定職務間の区分をなくし、"AI builder" という汎用的な職名に統合する作業も進行中
• 先月 Applied AI(AAI) エンジニアリングチームを新設し、MetaのAIモデルのコーディング能力強化と、将来的に製品・インフラ構築業務の大半を担うAIエージェント開発に注力
• 今月初めから 「優秀な」ソフトウェアエンジニア をAAIへ配置転換し始めた

ホワイトカラー監視への懸念

• Yale大学の法学教授Ifeoma Ajunwaによれば、コンピューターロギングやスクリーンショット技術は歴史的に 従業員の不正や私的活動の検知 を目的として使われてきた
• キー入力ログはデータ収集をさらに一段進めるもので、ホワイトカラー従業員に対し、従来は 配達員やギグワーカーしか経験しなかった水準のリアルタイム監視 を適用することになる
• 米国連邦法には 労働者監視に対する制限がなく、州法も大半は雇用主が監視の事実を包括的に通知することを求める程度にとどまる
• York大学の法学教授Valerio De Stefanoは、欧州法ではこのような監視は 禁止される可能性が高い と評価
  • イタリアでは、電子的モニタリングで従業員の生産性を追跡することは 明示的に違法
  • ドイツの裁判所は、重大犯罪の疑いなど 例外的な状況でのみ キー入力ロギングを認めるという判例を維持
• このような慣行は欧州の GDPR違反 に当たる可能性が高い
• 雇用主による監視への認識は、職場内の力の均衡を雇用主側へ 傾ける効果がある

[unsure4000]

あのトラッキングシステムをコーディングしていた人は、いったい何を考えていたのでしょうか

[t7vonn]

モデル改善は建前で、実際にはレイオフを正当化するためのデータを積み上げているように見えますね。

[winkagn]

これ、ビッグブラザーと何が違うんだろうと思ってしまいます。

[GN⁺]

Hacker Newsの反応

• これは単なる有害なゴミにしか見えない。盛大にハックされて、誰かがMetaの強欲な収集パイプにとんでもない偽データを大量に流し込む対抗策を作ってくれたらいいのにと思う
• これは従業員にとってものすごい萎縮効果になると思う。これからは業務外の話や雑談ですら、最低限のプライバシーの期待もなくしなければならない状況だ。以前からログ確認は可能だったのかもしれないが、事件の後に限定的に見るのと、大規模な常時監視ではまったく別問題だと感じる
  • こんなことが似合う集団も他にないという皮肉を感じる。アイロニーが強すぎて検知器が壊れそうだ
  • 自分はもともと会社支給の機器では、自分のやることはすべてITに監視されうると仮定してきた。だから会社が嫌がりそうなことは少しでも会社のハードウェアではやらず、代わりに自分のスマホと個人PCを使ってきた。以前スタートアップでエンジニアと経営陣の対立があったときも、エンジニアたちは各自の個人Signalアカウントで非公開グループを作って問題なく話していた
  • 正直、Metaが従業員を萎縮させるかどうかを気にするとは思えない。すでにさらなる価値抽出の段階に入っていて、もはや最先端の人材を引きつける会社でもないという判断だ
  • 業務用マシンは会社の所有物なのだから、プライバシーへの期待がないべきだという考えは理解できる。私はインドのある技術企業で働いているが、キーパーソン依存のリスクを減らすため、同僚たちの特性をもとにskills.mdを作るよう勧められている。実際、組織再編で解雇されたエンジニア数人のコードは、彼らのAI対応物が保守している。Metaもそちらへ向かっているのではないかと思う
  • 私は社会人になった頃から、会社の資産や機器については会社が監視したり、場合によってはキーロギングしたりする権利があると考えてきた。実際にはそこまでしない場合が多くてむしろ驚いたが、その権利自体はあると思う。なぜ人々が勤務時間中に業務外の活動をする権利があると期待するのか、よく分からない。私が働いた会社はどこも契約書やポリシーで許容範囲が明確だったし、会社の悪口を言いたいならSlackやTeamsではなく会社の外か実際のウォータークーラーのそばで、あるいは個人の番号でやろうという立場だ
• 次世代AIはたぶんHacker Newsのスクロールがとても上手くなりそうだ、という冗談が出ていた
• これがどうして合法なのか本当に理解できない。アメリカではFacebookに事実上コンプライアンス要件がないのかと思うほどだ。SRE画面の時系列スクリーンショットには、パスワードや暗号鍵、PIIのような機密情報が必然的に入るはずなのに、こんなデータ掃除機がそれを保存するなんてあり得るのかと思う。従業員が任意に無効化できるのかも気になるし、誰かがうっかり会社全体のssh root秘密鍵を画面に出したまま無効化できなかったらどうなるのかも心配だ。合法性以前に、こうした学習データへのアクセス権を持つ人間は会社のシステム全般に広すぎるアクセス権を持つことになり、結局はハックの危険を増すだけだと思う
  • アメリカ法では、特に会社支給の機器では多くの企業にとって合法なことが多く、残念ながら珍しくもない。通常、こうしたデータのコンプライアンスは他の機密データと同様に、特定のグループだけがスクリーンキャプチャにアクセスできるよう制限する形で扱われる。私も支持しているわけではないが、多くの会社はセキュリティ上の懸念を無視してこれをやるのではなく、むしろセキュリティ問題の解決を名目にやっている。ただ、Metaは少し性質が違っていて、人員の一部を置き換えるモデルを作ろうとしている感じが強い
  • このデータはいずれ情報漏えい事故で流出すると思う。法廷で不利に使われるだろうし、学習にも使われるだろうし、誰が何と言おうとAIが仕事を代替できるようになれば、結局は解雇にも使われるだろう。そしてそのすべてが起きてもMetaは責任を逃れる可能性が高そうだ。だからこそ、こうしたことを防ぐ法整備が急務だと感じる
  • Webと少しでも関係のある心理実験が、A/Bテストの常態化以降、事実上ほぼ自動的に合法扱いされるようになってしまったという問題意識がある。本来これは包括的な同意書で済ませる話ではなく、自由意思による参加や独立した審査のような手続きが必要な領域だと思う。すでに猫は袋から出てしまった状態ではあるが、だからといって問題ではないわけではない
• これは本当に狂っていると感じる。昔はエンジニアは本当に専門職のように見なされていたのに、今では会社が信頼の代わりにスパイウェアを要求するレベルにまで来たようだ。弁護士が裁判官と裏取引するかもしれないから法律事務所のノートPCに監視プログラムを入れようとか、医師のあらゆる行動を24時間監視しようという話に近く聞こえる。いっそ政治家にでも公開監査可能な24時間監視を適用しようという風刺までしたくなる
  • 政治家たちはきっとセキュリティなどの理由を持ち出して、真っ先に自分たちだけ例外を作るだろう。本来は権力が大きいほど説明責任と監視が伴うべきだが、現実の世界はその正反対に動いているという皮肉だ
  • 君の挙げた例の中で、直接税金で費用をまかない、原則として私のために働いているのは政治家だけだという指摘はできる。弁護士や医師は私の従業員でも、私の資産の上で働く人でもない。むしろこの件が示しているのは、アメリカの雇用主-被雇用者関係における仮面がほぼ完全に剥がれ落ちたということで、保険まで雇用にひも付けた状態でここまで来てしまった以上、抵抗する余力はあまり残っていないという解釈だ
  • 法律事務所のノートPCにそんな監視を入れるという発想が、むしろ良い考えのように聞こえるという反応もある
  • 私は実際に何人かの弁護士に裏切られたことがある。メール以上に心配すべきなのは電話だ、という現実的なコメントだ
• 収集したデータは業績評価や他の目的には使わず、モデル学習にだけ使うという話をMetaの従業員が信じると思うのか、という反応だ
  • その従業員たちはすでに地球最大級の監視ネットワークを自発的にコードしてきた人たちなのだから、多くのことを信じる準備ができているのかもしれない、という皮肉だ
  • 4年連続でレイオフが続き、さらに20％削減が近いという空気なら、Metaの従業員たちはかなり少数派ではあっても非常に疑い深くなるだろうという推測だ
  • 結局重要なのは報酬であり、高い年収が従順さを引き出しそうだという冷めた見方だ
  • その言葉の信頼性は、過去の**"It's free and always will be"** と同じくらいだという批判だ
• Metaの面接プロセスは最初から受けないと決めておいて本当によかったと思う。当時でも会社はかなりばかげて見えたが、今は次元が違う
• Metaの正反対の会社とはどんなものだろうと想像してしまう。小さくてプライバシー重視で、社内ではHNがブロックされているような場所だろうか、そして自分は何か見落としているのかも気になる
• このシステムは最終的に、Metaの従業員たちがAIで仕事をしている様子を大量に収集することになるのだろうと想像する。それで学習したモデルをまた配備すれば、次はAIをうまく使うAIを使う従業員たちをまた収集することになるし、これを何度か繰り返せば、最終的には絶望の中でキーボードを叩きまくり、なぜモデルが何もできないのかと叫ぶ人の入力まで集めることになるというブラックコメディが見える
  • これはAI学習が口実にすぎず、実際には大規模レイオフで目立たない形で人を追い出し、退職金も減らすための名目なのではないかという推測だ
  • このデータは誰がAIを十分に使っていないかも示すだろうから、結局そうした従業員はPIPを受けたり解雇されたりするかもしれないという懸念だ
  • 滑稽な失敗モードのようにも見えるが、技術的にはむしろ良いことかもしれないという見方もある。すでにモデルは、人間がAIにやらせていた技術をある程度備えているので、下位エージェントを使う方式であれ、AIが代行していた仕事をそのままモデル内部に取り込む方式であれ、人間が作業の分布をAIの分布に近づけてくれたおかげで学習がしやすくなるという説明だ
  • 速報、Metaが究極の**"猫がキーボードの上に座る"シミュレーター**を作った、という冗談だ
• 関連する話としてMarshall BrainのMannaを思い出したし、https://marshallbrain.com/manna1 は今の状況とかなり通じるものがあると思う