スマートグラス利用者の性行為映像を見た労働者が職を失い、論争の渦中にあるMeta
(bbc.com)- AI学習用スマートグラスのコンテンツを検証していたケニアのSamaの労働者たちは、Metaによる契約終了により1,108人の解雇が見込まれる紛争に直面している
- 契約終了は、労働者たちがMetaの眼鏡映像で利用者のトイレ利用や性行為の場面を見たと語ってから2カ月も経たないうちに行われた
- Metaは、Samaが運用基準を満たせなかったためだと説明し、SamaはMetaを含む顧客業務で運用・セキュリティ・品質基準を満たしており、基準未達の通知を受けたことはないと反論している
- Metaは、利用者がMeta AIと共有したスマートグラスのコンテンツを委託先の労働者が時折確認することがあり、製品性能向上のための人手によるレビューには明確な利用者同意を得ていると明らかにした
- 英国ICOとケニアのデータ保護委員会がプライバシー懸念に対応し、Samaの過去のFacebookコンテンツモデレーション契約をめぐる論争も重なって、AIデータ労働のリスクが浮き彫りになっている
MetaとSamaの契約終了をめぐる争点
- Metaは、AI学習に活用していたSamaとの大型契約を終了し、Samaはこの決定により1,108人が解雇される見込みだとしている
- 契約終了は、ケニア拠点のSamaの労働者たちがMetaスマートグラスの映像で利用者のトイレ利用や性行為の場面を見たと語ってから2カ月も経たないうちに行われた
- Metaは、Samaが自社の運用基準を満たさなかったため契約を打ち切ったとしている
- Samaは、Metaを含む顧客業務で求められた運用・セキュリティ・品質基準を継続的に満たしており、基準未達の通知を受けたことはないと反論している
- ケニアの労働者団体は、Metaの決定が従業員の公の発言を理由に下されたとみているが、Metaはこの疑惑に直接答えていない
スマートグラス映像の検証と個人情報の問題
- 2月末、スウェーデンのメディアSvenska DagbladetとGoteborgs-Postenの調査で、匿名の労働者たちはMetaの眼鏡で撮影された映像を検証していたと明かした
- 労働者の1人は「リビングから裸まで、あらゆるものを見る」と語り、映像にはトイレ利用や性行為の場面も含まれていたという
- Metaは、利用者がMeta AIと共有したスマートグラスのコンテンツを委託先の労働者が時折確認できることを認めている
- Metaは、この検証は顧客体験の改善が目的であり、他社でも一般的な慣行だとみている
- MetaはBBCへの声明で、写真と映像は利用者には非公開であり、製品性能向上のためのAIコンテンツの人手によるレビューには明確な利用者同意を得ていると述べた
規制当局と製品利用リスク
- スウェーデンの報道直後、英国のデータ監督当局ICOはこの報道を「懸念される」と受け止め、Metaに書簡を送った
- ケニアのデータ保護委員会も、スマートグラスで提起されたプライバシー懸念について調査を開始した
- Metaは9月、Ray-BanおよびOakleyとともにAI搭載グラス製品群を公開した
- 機能にはテキスト翻訳や、利用者が見ている対象についての質問応答などがあり、視覚障害者やロービジョンの利用者に特に有用となりうる
- 機器の人気が高まるにつれ、悪用への懸念も大きくなり、ケニアでは女性に対する同意のない撮影とも結び付けられている
- Metaの眼鏡は、内蔵カメラが録画中のとき、フレーム端のインジケーターライトが点灯する仕組みになっている
データラベリング労働と過去の契約論争
- Samaの労働者たちはデータannotatorとして、Meta AIが画像を解釈できるようコンテンツに手作業でラベルを付け、AIとのやり取りのtranscriptも検証していた
- ある労働者によると、男性の眼鏡は寝室で録画を続け、その後、男性の妻とみられる女性が服を脱ぐ場面が撮影されたという
- Samaは米国に本社を置くアウトソーシング企業で、テック業界の仕事提供を通じた雇用拡大を目指す非営利団体として始まり、現在は“ethical” B-corpとして運営されている
- MetaとSamaの以前のFacebookコンテンツモデレーション契約も批判と元従業員による法的措置を招き、一部の従業員は露骨でトラウマを与えるコンテンツにさらされたとされる
- Samaはその後、その業務を引き受けたことを後悔していると明らかにした
- Africa Tech Workers MovementのNaftali Wambaloは、スマートグラス契約の労働者たちとも接触しており、Metaは人間の労働者がスマートグラスのコンテンツを検証している事実が公になることを望んでいなかったとみている
- Wambaloは、Metaが言う基準は「機密保持の基準」に近いと表現している
- Metaは以前、利用規約の中で利用者が人手によるレビューの可能性を知ることができたと述べている
- Oversight LabのMercy Mutemiは、Metaの説明はケニア政府への警告になるべきであり、AIエコシステム参入の経路として示された基盤は非常に脆弱だとみている
1件のコメント
Hacker Newsの反応
Metaがスマートグラスのコンテンツ分類を委託していたアウトソーシング企業との契約を打ち切ったが、その企業の従業員が分類対象コンテンツの深刻なプライバシー問題を内部告発した後に起きたことだという
OpenAIがCSAM分類を委託し、Samaは2022年にOpenAIとの契約を打ち切った: https://time.com/6247678/openai-chatgpt-kenya-workers/
それから4年、その報道から3年が経ったのに、テック企業の運営の仕方は少しも良くなっていない
会話したり関わったりせず、同じ空間にいることすら勧めない
MetaはSamaが自社基準を満たさなかったからだと説明し、Samaはその批判を否定している
犯罪者を守り、内部告発者を辱めるのは独裁政権と寡頭制だけだ
アウトソーシング企業がどの国にあろうと関係なく、犯罪がグローバル化したなら内部告発者保護もグローバルであるべきだ
「リビングから裸まで全部見ている」と労働者が語ったという
Metaはこれは顧客体験改善のためで、他社でもよくある慣行だと述べたが、本当にこれを読んで発言したのかと思う
インターネットで20年間見てきた発言の中でも、おそらく最も奇妙だ
Metaは自分たちが何を言っているのか読んでいるのかと思う
問題分析のような目的だったと思う
WhatsAppを使っていないと言うと今でも変な反応をされるが、Metaのあらゆる資産は汚染されているので使わない
ここで何がより悪いのかわからない。Metaが顧客のスマートグラスから映像を録画していることなのか、それともその話をした人たちを解雇することなのか
こういう企業がゴミのように振る舞えないよう圧力をかけるべきなのは確かだが、結局は人々が差し出したデータがあってこそ、そのデータでひどいことができる
Flockのように「公共」の監視データでひどいことをする例外はある
企業監視ゴーグルをつけて親密な時間を過ごすことが普通になりうるほど文化が壊れているのはわかるが、どうしてそこまで信頼できるのか理解できない
もっと広く言えば、Metaが当然監視するようなインターネット接続カメラを、なぜ身につけるのかもわからない
スマートグラスや他の「個人向け」技術をめぐる厄介なプライバシー・セキュリティ問題は、慎重で誠実かつ反応の速い企業なら十分に扱えると思う
だからMetaの個人向けデバイスには絶対に触れない
彼らのDNA全体が、利益のためにユーザーを搾取するように書き込まれている
私の判断では、こうした問題は搾取の深さを人々に気づかせないための目くらましとしてしか見ておらず、文字通り真剣に考えることすらできず、今後もできないだろう
グラスで撮られた映像がどんな条件で分類用にアップロードされるのか気になる
おそらく、ユーザーがグラスに映っているものについて何か尋ねると、回答を作るために映像が分類用にアップロードされる仕組みなのだろう
人々は「ただのAI」だと思って、プライバシーをあまり心配していないようだ
この見出しを見て、"row"が人生のほとんどで間違って発音していた単語の一つだったことを思い出した。今年になってようやく正しい発音を知った
この文脈でのrowはdoughではなくcowと韻を踏む
最初に思い浮かんだ韻の例はbowだったが、その例にも問題があると気づいた
「共通の言語によって引き裂かれた二つの国」という言葉がぴったりだ
https://www.merriam-webster.com/dictionary/row#dictionary-en...
元Meta社員だ。やじられて当然だ
社内にはデータ等級が4段階あり、1は「空は青い」のような公開情報、4は個人ユーザーデータや漏えい・共有されたら機微な情報だった
基本的にすべてのユーザーデータはレベル4だと聞かされていて、適切な承認なしに何かすれば即時解雇される仕組みだった
ブートキャンプ中は毎月少なくとも1人くらい、ユーザーデータにアクセスして数時間以内に建物の外へ連れ出されたという話がよくあった
私がいた視覚研究の分野では、公共の場で映像を録画する許可を得るために1年分の法務手続きを経なければならなかった
匿名化パイプライン、堅牢な監査証跡、可能な限りのデータ削除、何か問題が起きたら自動削除される仕組みを作る必要があった
データの保存場所とアクセスできる人についての厳格なルールもあった
契約書に署名していない人が少しでも映りうる「野良」映像は第三者の権利が絡むため、アノテーション作業用に共有することはできなかった
公開データセットに入った追跡可能な人物や場所には、すべて法的な免責同意書が署名されていた
それなのに今になって私的データをアノテーターにそのまま流し込み、学習データとして使っていたと聞くと、基本的な統制すらなかったことになる
Zuckや収益化が何かを望めばルールが適用されないことを示しているだけだ
その業界全体が自壊することを願う
SWEは、ユーザーや顧客の明示的な同意がある場合、たとえばサポートチケットのような状況でのみPIIにアクセスできるべきだ
特にブートキャンプ中の人ならなおさらで、研修中に非匿名化されたユーザーデータへアクセスできるのか疑問だ
私の前職でも、顧客の同意があってもユーザーデータにアクセスするには本当に多くの手続きを踏む必要があった
社内ではまったく別の話が起きているのが露骨に見えていたからだ
スマートグラスのより大きな商業的ニッチの一つがPOVポルノ撮影なので、そうしたコンテンツがモデレーションキューに入ったこと自体はあまり驚きではない
プロジェクトはそのユースケースを考慮して計画されるべきだった
Oculus Goの時代にも、「うちのデバイスは人々がポルノを見られるようブラウザを搭載して出荷しなければならない」とは言いたくなくて、社内では丁寧な婉曲表現が多かった
サーバーにストリーミングされたから、誰かを送り込んでセックスを止めさせるつもりなのか
https://archive.ph/ubWba
AI学習の不快な側面が第三世界の貧困労働者に押しつけられているあり方をもっと読みたいなら、Karen HaoのEmpire of AIを勧める
こうした労働者は不安定な仕事で時給わずかの金額しか受け取れず、ひどい資料にさらされている