Metaの従業員は業務中の追跡を最大30分まで拒否できる
(bbc.com)- Metaは、従業員のキーストロークやマウスクリックをAIモデルの訓練に使おうとしていた計画を縮小し、データ収集を1回あたり最大30分停止できる制御を追加
- 新しい制御により、従業員はMCIデータ収集を一時停止したり、全面的な例外を申請したりできるようになり、Metaは公式コメントを拒否
- 従業員の反発は数週間続いており、追跡導入に反対する請願には1,500人超が署名
- Metaは、コンピューターで日常業務を支援するエージェントを作るには実際の利用例が必要であり、データは他の目的には使わず、機微なコンテンツを保護する安全策があると説明
- 内部メモは、従業員が提起した個人データ、バッテリー寿命、キャプチャ時点の制御に関する問題を認め、MCIチームがノートPCのバッテリーへの影響を抑える最適化を導入したと伝達
Metaの従業員活動追跡計画が縮小
Metaは火曜日、社内メモを通じて従業員のコンピューター活動追跡計画を縮小した。この計画は、従業員のキーストロークとマウスクリックを記録してAIモデルの訓練に使うツールに関するものだ。
Reutersによると、新しい制御により従業員はデータ収集を「1回あたり最大30分」停止でき、この計画から完全に除外するよう申請することも可能になった。Metaは公式コメントを拒否した。
Model Capability Initiativeと反発
このツールの名称はModel Capability Initiative(MCI)だ。Metaは初期発表の際、「コンピューターを使って日常的な作業を完了するのを支援するエージェントを作るには、モデルに人々が実際にどのようにコンピューターを使っているかを示す実例が必要だ」と説明していた。
Metaは、このデータは「他の目的には使われず」、ツールには「機微なコンテンツを保護するための安全策」があると付け加えた。
従業員の反発は数週間続いており、一部の従業員はこの措置に反対する請願を開始した。請願には現在、1,500人超が署名している。
従業員が提起した懸念
あるMeta従業員は、自分の行動がAIモデルの訓練に使われる状況は「非常にディストピア的」に感じられると語った。従業員たちは追加の人員削減を予想していた。
Metaは今年、約2,000人を解雇した。4月には従業員に対し、全従業員の10％にあたる約8,000人を削減する計画を通知した。
最近Metaを去った別の人物は、この追跡ツールを「AIを誰にでも無理やり押し付ける最新のやり方」と表現した。
内部メモでの調整内容
Reutersが確認した内部メモは、Meta Superintelligence Labs部門の副社長Stephane Kasrielが作成したと伝えられている。
Kasrielは、MCIチームがノートPCのバッテリー寿命への影響を減らすために「複数の最適化」を導入したと述べた。これは、従業員がこのツールのせいで在宅勤務中のデータ使用量が急増し、インターネット利用量が増えたと報告した後に行われた変更だ。
Kasrielはメモの中で、リリース時に複数段階のリスク審査を経たプライバシー保護措置には依然として自信を持っているとしつつも、業務用デバイス内の個人データ、バッテリー寿命、キャプチャ時点について、より多くの制御を求める懸念が寄せられたと述べた。
1件のコメント
Hacker Newsの意見
Snow Crashで「Fed Land」の仕事を描写した秀逸な一節を思い出す。
Y.T.の母親が新しいメモを開いて読み始めるのだが、予想読了時間は15.62分。後で管理者は各従業員がこのメモを読むのに費やした時間を見て、10分未満なら態度指導、10〜14分なら不真面目の可能性、きっちり15.62分なら「気取り屋」だとして態度指導、18分超なら監視映像を確認して無断のトイレ休憩のようなものを疑う。
Y.T.の母親は14〜15分の間で読むことに決め、一定間隔でPage Downを押し、ときどき前のページに戻って読み直しているふりをする。コンピュータはこうした行動まで記録し、読み返しを好意的に評価し、こうした小さな癖が10年ほど経つと勤務習慣の要約に大きく表れる、という話だ
下のコメントにもあるように、監視がどの程度行われているのか分からない。もしこれを読んでいるのがCEOなら、やあ
実際にどれほど過酷な追跡が行われているのかは、いつも把握しづらかったし、ITの専門家たちもこういう話をあまりしない傾向がある。
アメリカでは、会社支給の機器を使うなら、その上でのあらゆる活動が完全に監視・記録され、どんな理由であれ従業員に不利に使われうる、という前提がある。実際には、多少のウェブ閲覧やHacker Newsを見ること、個人的な用事を業務用コンピュータで済ませることをそれほど気にしない人も多い。
しかしAIによって状況は大きく変わる。いまや「訓練」の名目でロボットがあらゆる些細な行動を分類し、細かく見張れるようになっているので、近いうちに絶対的に過酷な水準の追跡に備えなければならない気がする
その中間には、基本的なセキュリティだけを強制し、問題が起きたときに調査する権利だけを残している会社も多い。会社のリーダーたちとこういう話をすると、信じがたいかもしれないが、最も侵襲的な追跡方法には強く反対する人もかなりいる。
ただし、どんな監視であっても、AIの台頭ははるかに標的を絞った観察を可能にする危険な機会になる。人が直接時間をかけて見る必要がなく、AIにずっと見張らせて関心のあるものを見つけさせられるからだ。
日常的な従業員が業務用コンピュータで私用を済ませる場合の現実的なリスクの1つは、十分な監督なしに会社の機器へアクセスできる悪意あるIT管理者による内部脅威である可能性が高い
奇妙なことに、HNではこれはかなり議論になる。銀行業務やHNへの書き込みのために個人の携帯電話を会社に持ち込むのがとてつもない不便であるかのように、それをやってみろと言うと不思議と怒った反応を多く受けた。スマートフォン以前より、今のほうが世界を分けるのははるかに簡単だ。
雇用主が私が1日のうちにどんな私用を済ませる必要があるかを知る理由はないし、逆に会社も私が機密業務を個人用デバイスで行うことを承認するはずがないので、双方に利益がある
会計、銀行、株式取引などでは、理論上は100%不正を防ぐシステムを作れるが、あまりに面倒で誰も使わなくなる。タコスを1つ買うのに網膜スキャンを15回、採血、銀行承認の監視人を要求したら成り立たない。
ここでも同じだ。AIと大規模言語モデルで、人がどれだけ働いているかを秒単位で把握して最適化しようとすることはできる。Amazonは倉庫ですでにそういうことをしていて、現場で従業員が亡くなったのに、他の人たちが遺体のそばで働き続けなければならなかった事例が繰り返し出てくる。
Amazonはそうしたシステムで働く人員を確保するために地域社会を1つずつ疲弊させていかなければならず、SECの開示資料には人口の枯渇が労働力に対する実際の脅威だと書かれている。
だから邪悪な巨大企業にとっても、監視の最適量は100%ではない。Amazonはすでに均衡点を越えており、最適点のほうへ押し戻されつつあるように見える。その地点は私たちが思っていたよりずっと先かもしれない
今後10年間で成功する会社は、従業員の基本的な尊厳を尊重し、有能で責任ある専門家として扱う会社である可能性が高い。以前も、大企業で働く友人たちがノートPC監視ソフトを満足させるために席を外すときマウスジグラーを設置していたという話を聞いたとき、まったく同じことを思った。
薬物検査にも似ている。政府機関やセキュリティクリアランスが必要な仕事でない限り、薬物検査は従業員への敬意がない文化と、その業界の低い地位を示す良いサインだと考えてきた。
Metaは自分たちがどこへ向かっているかを非常にはっきり示しており、2012年のCiscoに就職するのに似ている。いま20代になったGen Zから、AIや新興技術に必要な人材をうまく採用できることを願う
法的に可能だということは理解しているが、そんな場所では絶対に働かない
Metaで働いているわけではないが、今後あと何年この業界で働かなければならないのかと思う。40代で、子どもたちはまだ小さい。すでに子どもたちの529口座は作ってあり、高額な住宅修繕も進行中だ
それが終わって生活防衛資金を作れたら、残りの職業人生5〜10年は別の業界に移ることもできるかもしれない。同じような計画の人がいるのか気になる
テック業界を離れることを本当に強く勧める。コルチゾール値は以前よりずっと低くなったし、EMEAやAPACの会議のために所定労働時間外まで生活を合わせる必要もない。40時間を超えて働くのは自分が望むときだけで、たまにそうする。今では仕事そのものが実際に楽しいからだ
人々に目に見える違いをもたらし、自分が大切にしていることに取り組めている。投資家やベンチャーキャピタルを満足させる代わりに、毎年インパクトの最大化と損益分岐点の達成に集中している
報酬や福利厚生で悪くなった部分はあるが、あまり気にしていない。まともな健康保険のある配偶者がいてそれを使えるし、テック業界で働いている間に住宅ローンを返済し、貯蓄もかなりしておいた。テック業界の人たちが考える意味での金持ちではないが、その気になれば持ち物を売ってラテンアメリカのどこかの海辺でとても良い暮らしをし、もう二度と働かないこともできる
実際のアドバイスとしては、辞めるために必要な金額を時間をかけて計算してみることだ。6桁年収に慣れてはいたが、実際の生活は5桁の水準を超えていなかったので、自分に必要な額は思っていたよりずっと低かった
リーダーシップを何らかの倫理規範の下に縛れるようにもすべきだ。殺人ロボットを作ったり、気候公約を覆したりする会社では働きたくない
上から下まで従業員に対する露骨な軽蔑がますますひどくなっていて、終わりが見えない。50歳になれば、毎年シニア人材をふるい落とす対象になるかどうかは運任せだ
この業界がどう回っているのか知らないふりをする言い訳はもうない。仮面はもう何年も前から剥がれていた
実際に賢くてユーザーのために機能するダムフォン、オープンソースTV、ローカルAIモデル、監視しないブラウザのようなものを作れる
ソフトウェアを作るのは大好きだが、この業界で働くのは耐えられない
ひどい企業文化と疑わしい道徳原則が組み合わさった冒涜的な組み合わせだ
Metaで働きながらこれを読んでいる人に真剣に聞きたい。どうしてまだこの会社で働けるのか？
どうしてこんな有害な会社を辞めて他へ行くか、自分で何か始めないのか本当に理解できない。Metaなんてそのまま死なせておけばいい
良いことをするよりも莫大な金を優先する人がこんなに多いことに驚く。現金のために価値観を脇に置くという人はみんな問題だ。吐き気がする
家族を養い、引退に備えなければならないという現実もある。完璧ではないが、会社が有害である線引きはどこにあるのか。他の利点があるとき、どこまで妥協できるのか。こうした問いへの答えは人によって違う。環境問題を理由に、テック業界で働くこと自体が間違いだと言う人もいるだろう
個人的には、Metaで喜んで働くと思う。多くの人が彼らのサービスを使い、気に入っている。社会にとって最高の仕事ではないかもしれないが、それはNetflixやAmazonやAppleも同じだ
Metaで働けば、会社はあなたを裏切っている。画面を公然と録画して、あなたのAIによる代替要員を訓練しているからだ。別の場所で働くことは、あなたがMetaを裏切るのに近い
極端に単純化すると、どちらがより良いのか。5年間、年40万ドルをもらって解雇され、その後あなたがMetaの代替技術構築を手伝ったせいで仕事がほとんどなくなる可能性を受け入れるのか。それともキャリアを通じて年20万ドルをもらい、あなたが代替技術の構築を手伝わなかったおかげで雇用機会が枯れないままでいるのか
もちろん非常に極端でまれなケースであってほしいが、金がかなり大きな差を生む場面は広く存在する。また、その決定の影響を受けるのが自分1人なのか、他の人もいるのかによっても大きく違う
こうした職を選ぶときには、そのような現実的な含意も重く考慮されうる
Metaの面接は一般にそれほど難しくないと考えられており、この点がインポスター症候群をさらに強める。簡単に入れたので、自分は過大に報酬を受けているという感覚が生まれる。ほとんど意図的な戦略ではないかと疑うほどだ
世界中のあらゆる人を追跡してきた社員たちが、今度は自分たちも追跡されるようになるなんて、これ以上ないほど皮肉だ :)
こういう企業はすでにユーザーの行動を大量に追跡していて、そのかなりの割合はセキュリティの観点から理にかなっている。いったい何がまだ追跡されておらず、しかも価値があるのか気になる
個々のキーストロークやマウスの動きが、すでに適切な価値単位で大半が追跡されている業務成果物より、どうしてより価値があるのかと思う
あるいは、本当に有能な人材を失うことなどまったく気にせず、もっと多くの人に辞めてもらおうとしているのかもしれない
MAG-7全体が研究開発支出を給与からAIデータセンターの設備投資へ移したがっていて、実際の価値の99%を生み出している人材の90%が去るのを見ても受け入れる構えなのだろう
彼らが現場で実際に何が起きているのか分からない愚か者だからではない。どんなことをしても許されるという傲慢な自信と市場での地位を利用して、その決定がどれほど破滅的でも皆に受け入れさせられると信じているのだ
モデルがひどければ議会にロビー活動してオープンウェイトモデルを違法化すればいいし、価格が嫌われれば政府に製品コストを負担させればいいし、中国や欧州のほうが優れていれば国家安全保障を名目に競争を禁止すればいい、という発想だ
The Onionの2015年の風刺記事「HR Director Reminds Employees That Any Crying Done At Office Must Be Work-Related」を思い出した
しかしオプトアウト自体も当然追跡されるだろう。選べば人事評価に載るかもしれない
O’Brienがテレスクリーンを消す場面を思い出す
「あなたは……」
「そうだ……我々にはその特権が許されている」
この方針を作った人たちは、ほぼ間違いなく適用除外だろう
Winstonは壁のくぼみに座って後ろへ下がっていれば、少なくとも視界という点ではテレスクリーンの範囲外にいられた。もちろん音は拾われるかもしれなかったが、今いる位置にさえいれば見られはしなかった。彼が今やろうとしていたことを思いつかせたのも、その部屋の独特な構造だった