Metaの流出データで明らかになった親パレスチナ投稿の削除キャンペーン
(dropsitenews.com)- 2023年10月7日以降、イスラエル政府はFacebook・Instagram上のパレスチナ支持またはイスラエル批判の投稿について大規模に削除を要請し、Metaはこの要請の**94%**を受け入れた
- イスラエルは世界で最も多く政府削除要請を出した主体であることが判明し、Metaは9万件以上を平均30秒以内に削除し、自動措置の範囲を大幅に拡大した
- 自動化の拡大後、FacebookとInstagramで約3,880万件の追加投稿が削除・禁止・表示抑制の対象となり、政府要請の処理結果もMetaのAIモデレーションシステムの学習に再投入された
- 削除要請はイスラエル国内よりもアラブ・ムスリム多数派国家の利用者に集中しており、エジプト21.1%、ヨルダン16.6%、パレスチナ15.6%が上位を占めた
- 内部関係者は、違反していない親パレスチナコンテンツまで削除される事例が多く、この処理方式が今後、類似コンテンツの判断をさらに強く制限し得ると見ている
イスラエル政府の要請とMetaの受け入れ率
- Drop Site Newsが入手したMetaの内部データによると、イスラエル政府は2023年10月7日以降、FacebookとInstagramでイスラエル批判またはパレスチナ支持の投稿を標的にした削除要請を大規模に提出した
- Metaはイスラエル政府の削除要請のうち**94%**を受け入れた
- 内部データ上、イスラエルは世界で政府削除要請を最も多く出した主体であり、Metaはそれに合わせて自動削除の範囲を拡大した
- イスラエル政府が提出したTDRに対応し、Metaは9万件以上の投稿を平均30秒以内に削除した
- 2023年末以降の自動措置拡大により、FacebookとInstagramで約3,880万件の追加投稿が「actioned upon」として処理された
- Metaの用語で「actioned upon」は、投稿が削除、禁止、または表示抑制されたことを意味する
削除要請の処理方式と自動化
- MetaのTDR（takedown request）は、個人、組織、政府関係者がMetaのポリシー違反が疑われるコンテンツの削除を要請できる手続きである
- 一般利用者の通報はプラットフォーム内の通報機能で受け付けられ、通常は機械学習モデルがまず違反の有無を分類する
- AIが違反の信頼度を高いと判断すれば、投稿は自動削除される
- 信頼度が低ければ、人間が確認したうえで措置の有無を決定する
- 政府と組織は、優先度の高い特権チャネルを通じてコンテンツ審査を発動できる
- この経路の通報はほぼ常に人間による審査を受ける
- 人間による審査結果はMetaのAIシステムに再入力され、今後の類似コンテンツ判断に使われる
- 内部告発者らによると、Metaはイスラエル政府アカウントに例外を適用し、人間による審査なしに投稿を削除しながら、そのデータをAI学習に再投入していた
- Human Rights WatchによるMetaの親パレスチナコンテンツモデレーション調査は、FacebookまたはInstagramで削除・抑制された1,050件の投稿のうち1,049件がパレスチナを平和的に支持するコンテンツで、イスラエル支持コンテンツは1件だったと記録している
同一の通報文言とポリシー分類
- 流出情報によると、10月7日以降のイスラエル政府によるすべてのTDRは、実際の通報対象コンテンツが異なっていても同一の通報文言を使っていた
- 内部情報筋は、イスラエルのTDRには平均15件のコンテンツリンクが含まれるが、通報対象コンテンツの正確な性質を説明した要請はなかったと述べている
- 通報文言は10月7日の攻撃の説明とともに、次の法律・ポリシー違反を主張していた
- イスラエルのCounter-Terrorism Act 2016の24(a)、24(b)：テロ扇動、テロ行為の称賛、テロ組織の識別または支持の禁止
- Privacy Protection Act 1982の2(4)：死者、負傷者、拉致された人物の画像が登場し、対象者を侮辱し得る状況の画像公開の禁止
- Facebookコミュニティ規定違反
- 文書上、イスラエルの要請の**95%**はMetaの「terrorism」または「violence and incitement」カテゴリーに属している
親パレスチナコンテンツへの過剰執行
- Meta Integrity Organizationの内部情報筋は、自動モデレーションの内部レビューで、Metaのポリシーに違反していない親パレスチナコンテンツが頻繁に削除されていたことを確認した
- 一部の場合、単なる削除対象の親パレスチナコンテンツに、より深刻な違反を意味するstrikeが付与された
- あるアカウントが投稿コンテンツによってstrikeを受け過ぎると、Metaプラットフォームからアカウント全体が削除される可能性がある
- Integrity Organization内部で過剰執行への懸念が出た際、リーダーシップは、違反の可能性があるコンテンツを残すリスクより過剰執行を好むという趣旨で対応した
Meta内部の人物とイスラエル関連のポリシー執行
- MetaのIntegrity Organizationは、イスラエル軍の信号情報部隊Unit 8200出身のGuy Rosenが率いている
- RosenはWeb分析・VPN企業Onavoの創業者で、Facebookは2013年10月にOnavoを買収した
- 以前の報道によると、Facebookは買収前にOnavo VPNの利用者データで競合他社の成果をモニタリングしており、これはBiden政権期にFTCがMetaを相手取って提起した反競争的行為の主張の一部に関連している
- Meta社員によると、Integrity OrganizationはPolicy Organizationと相互に関わっている
- Policy Organizationがルールを定め、Integrity Organizationがそれを執行する
- ある社員は、ポリシー変更がしばしばIntegrity Organizationのデータに由来すると述べた
- 今年、Joel KaplanはNick Cleggに代わってPolicy Organizationの責任者になった
- KaplanはBush政権出身で、過去にイスラエル関係者と「オンライン扇動」への対応をめぐって協力したことがある
- MetaのIsrael and the Jewish Diaspora公共政策ディレクターであるJordana Cutlerも、親パレスチナコンテンツの調査に介入している
- Cutlerはイスラエル政府高官とBenjamin Netanyahu首相補佐官の出身である
- The Interceptの報道によると、Cutlerは自身の役割を利用して親パレスチナコンテンツに印を付けていた
- Drop Siteが確認した内部コミュニケーションによると、Cutlerは直近の3月にも、パレスチナ文学の先駆者と見なされるアラブの小説家Ghassan Kanafaniに言及するコンテンツを探して確認するよう社員に指示していた
- 内部情報によると、CutlerはKanafani関連コンテンツをMetaの「Glorification, Support or Representation」ポリシーの下で継続的に審査するよう求めた
- Kanafaniは1972年にMossadが組織した車爆弾攻撃で死亡しており、左派パレスチナ民族主義組織PFLPの報道官だった
- PFLPはKanafaniの死後25年以上経ってからテロ組織に指定され、Metaの指針とCutlerの措置では、これがコンテンツ削除、strike、停止の可能性の根拠となっている
国境を越えた削除要請
- 流出文書によると、イスラエルの削除要請はアラブ・ムスリム多数派国家の利用者に集中していた
- 影響を受けた上位12カ国は次のとおり
- エジプト 21.1%
- ヨルダン 16.6%
- パレスチナ 15.6%
- アルジェリア 8.2%
- イエメン 7.5%
- チュニジア 3.3%
- モロッコ 2.9%
- サウジアラビア 2.7%
- レバノン 2.6%
- イラク 2.6%
- シリア 2%
- トルコ 1.5%
- Human Rights Watchによると、パレスチナ関連コンテンツの検閲を報告した利用者は60カ国以上にわたる
- 措置の種類には、投稿削除、アカウント停止、shadow banningによる可視性低下が含まれる
- イスラエルの削除要請のうち、イスラエルの利用者を対象にした割合は**1.3%**にとどまる
- マレーシアの要請の63%はマレーシアのコンテンツを、ブラジルの要請の95%はブラジルのコンテンツを対象としている
- Metaの内部告発者らによると、Metaは少なくとも7年間、イスラエルの攻撃的な検閲戦術を認識していたが、それを阻止できなかった
- ある内部告発者は、Metaがイスラエル政府に大規模な検閲キャンペーンを実施するための法的な入口を積極的に提供したと述べている
1件のコメント
Hacker News の意見
ロシアのプロパガンダや投獄されるジャーナリストを思い浮かべると、自分たちはもっとましな場所にいると信じたいが、こういう記事を見続けることになる
「自由世界」の多くの人は Facebook のような主流メディアからニュースを得ており、企業は結局ビジネスなので、権力層と良好な関係を保つために政府に合わせるインセンティブがある
結局、ほとんどのメディアは政府とその友好勢力が推し進める公式ナラティブに従い、人々はすべてを検証する時間がないためそれを信じるようになる
ロシアとの違いは実際の情報を探せる点だと言えるが、ロシアでも VPN で検閲を迂回できる
もう一つの違いは意見表明が許される点だが、主流メディアが政府のナラティブを強制する場所では発言できず、届かない片隅でしか言えないだけだ
考えれば考えるほど、違いがあまり見えなくなる
それでも、こうした事例を知ることができ、問題を公に語ることができ、裁判所が現政権に反する判決を下せるという点で、はるかにましな制度だと思う
ロシア水準であれ米国水準であれ、こうしたことが可能になる度合いは、政権支持者がどれだけそれを望むかにかかっており、道徳性・合法性・前例とは別問題だ
そのため報道の死角をうまく扱えない。国内外のニュースの大半、特にアイビーリーグ出身の沿岸部エリートにとって重要でないニュースがそうで、自分自身も同じ階層に属していると言う立場だ
私の周囲にある政治的見解の大半はコラム欄でほとんど代表されておらず、コラムはおおむね下ではなく上に向かっておもねる傾向がある
報道機関が社会上層のクリームの上に浮かびながら、政府に取材許可を求めている限り、報道の自由に大きな重みを置くのは難しい
https://rsf.org/en/country/russia
米国ではどこにでも投稿でき、Facebook が削除したなら自分のウェブサイトを作れるが、ロシアでそれをすれば刑務所行きになる
「こどもの日にウクライナの子どもたちが死ぬのは悲しい」といったことを言っても刑務所に行く可能性がある
現代の米国と現代のロシアをこういう形で比較することはできないと思う。米国には軽微な犯罪であまりにも多くの人を刑務所に送るなど別の悪い問題が多く、こうした比較はむしろ米国固有の問題を覆い隠してしまう
昔もそうだったし、今もそうで、これからもどこでもそうだろう
ただし細部が非常に重要だ
西側には権力をいつ、どのように行使するかについての伝統があり、ロシアとは明確に異なる
ロシアの事例を二つ挙げるなら、まず一つ目は https://www.themoscowtimes.com/2022/09/27/moscow-police-accu...
Novaya Gazeta Europe によると、警察は「Kamardin を激しく殴り、ダンベルを肛門に入れた」という
二つ目は、禿げた男性が権力を主張していた時期に集合住宅の不可解な爆発が相次ぎ、その後チェチェン人が敵とされ、戦争が始まったという事例だ
Wikipedia には、Ryazan に装置を設置したロシア FSB の工作員 3人が地元警察に逮捕され、翌日 FSB 長官 Nikolai Patrushev が、これは対テロ訓練であり装置には砂糖しか入っていなかったと発表し、工作員らを釈放したという記述がある
また、1999年9月13日にロシア Duma 議長 Gennadiy Seleznyov が Volgodonsk の集合住宅爆破事件を発表したが、実際の爆発はその3日後の9月16日に起き、17人が死亡し69人が負傷した
https://en.m.wikipedia.org/wiki/1999_Russian_apartment_bombi...
政府が TikTok と Instagram のパレスチナ支持比率の差を指摘したとき、実際の理由は Instagram がそれを抑え込んでいたからだったというわけで、皮肉だ
https://x.com/hawleymo/status/1717505662601609401
この特定のテーマについて確実な決定的証拠があるかは分からないが、中国共産党の目標は常に米国のユーザーを分断することだった
高齢の米国人は親イスラエル傾向が強く、若い米国人は親パレスチナ寄りだということも分かっている
きちんと探せば、パレスチナ側への偏りを有利にするアルゴリズム操作の証拠が出てくる可能性は高いと思う
この記事で抜けているのは、そのリクエストが正当な削除要請だったのかという点です。実際にテロや暴力の扇動だったのか、それとも批判を抑え込むものだったのかが抜けています。
タイトルは後者を示唆していますが、本文はその証拠を示していません。
戦争が進行中で、しかもかなり凄惨な戦争なので、関連する暴力扇動は相当多いだろうと予想します。
イスラエル政府が自国民に対する暴力扇動に最も関心を持つことも予想できます。
この紛争の文脈では、記事で言及されている人口集団からそうした扇動が主に出てくると考えられ、記事の内容だけでは、削除が適切に使われたという解釈とも完全に両立します。
タイトルを立証するには、これよりもっと多くの根拠が必要です。そもそもこの記事だけでは相対的な数字も分からず、他の集団の削除要請と比べてどうなのかも分かりません。
ルールの執行は公正であるべきだと考える人にとって、不公正な執行は偽善に見えます。
しかし、執行を敵に振るうもう一つの道具と見るなら、偽善は重要ではなく、重要なのは権力です。「私のバスケットボールだから、ルールも私が決める」というようなものです。
「Human Rights Watch（HRW）が10月7日以降のMetaによる親パレスチナコンテンツのモデレーションを調査した報告書によれば、HRWがFacebookまたはInstagramで削除または抑制されたと記録した1,050件の投稿のうち、1,049件は平和的なパレスチナ支持コンテンツで、イスラエル支持コンテンツは1件だけだった」
誰が提出したかだけで執行され、有効かどうかは問われません。
友人たちから、FacebookやInstagramでこの話題を議論する際に受ける検閲について聞く中で、ルールを破っていないのに検閲されたケースをかなり知っています。もちろんサンプルは小さいです。
そうすると、イスラエルがこのツールを自分に有利なように振るうのがどれほど容易かが分かります。
実際に不公正に使っているかどうかは分かりません。投稿が人間のレビューなしに自動削除されるからです。
驚きません。去年、https://www.birdsofgaza.com/ の投稿がブロックされるのを見た記憶がありますが、これ以上無害な形で声を上げるのは難しいでしょう。
パレスチナ支持を表明した個人を解雇させようと積極的に動く団体があります。
例えば、ある女性がLinkedInにゲール語で「Freedom for Palestine」と書いたところ、WhatsAppのチャットルームにいたイスラエル人グループが、彼女を解雇させるために組織的に動きました。
WixのGeneral ManagerであるBatsheva (Levine) Mosheは、WhatsAppのチャットで「はい、把握しています。投稿後、対応中です。まもなく私たちの対応について発表があると思います」と返答しました。
Wixは不当解雇として3万5,000ユーロの賠償を命じられました。
https://jackpoulson.substack.com/p/inside-the-pro-israel-inf...
https://www.breakingnews.ie/ireland/israeli-tech-firm-ordere...
イスラエル民間人の虐殺、拘束された人質、人口密集の民間地域に向けて発射された何千発ものロケット弾を省略することに、何の問題もないと思いますか？ そうすることで平和が可能だと考えているのですか？
削除された実際の投稿の例を見たい。件数や誰が通報したかより、削除された投稿の原文が必要
今朝、グループ管理者がFacebook投稿で、Facebookから警告を受けたと知らせた。
「危険な組織および個人」に関連する投稿があまりに多く削除されたため、グループが「停止される危険」にあるという。
そのため、plsie、Ire*、gz、jw などについて投稿する際は特に注意するようにと言い、管理者自身も用心してアスタリスクを使っていた。
私たちの国はロヒンギャ危機を経験しているが、その危機はFacebookとWhatsApp上の偽情報キャンペーンによってあおられたもので、Facebookはミャンマー全体にモデレーターを2人しか置かず、そうした偽情報キャンペーンに対して何もしなかった。
しかし Ire* については、うまく例外を作るようだ。
9/11の時も同じことがあった。ムスリムは抑制と警察による嫌がらせを受けたが、誰も取り上げず、その後1月6日の後にはMAGA共和党員へと形勢が逆転した。
検閲する側が、何が実際の暴力扇動なのかを明確に立証すべきであって、外部の記者に、削除されたコンテンツが扇動ではなかったことを魔法のように示せと要求する筋合いではない。
予想どおりTwitterで騒ぎになった後、復旧した。
この種の発言、つまり扇動は米国では違法であり、支持については「支持」の種類と意味によってかなりグレーゾーンにある。
削除理由が実際に削除されたコンテンツと合っていないなら必ず取り上げるべきで、それが元の質問の趣旨なのだろうが、理由そのものは妥当だと思う。
単発のテストではあるが、BSkyとTwitterで大きなアカウントを持つ人物が、両方に同じ親ウクライナ投稿をしたところ、Twitterでは約12時間抑制され、その後ヘイトボットが押し寄せてから広く見えるようになった。一方、BSkyの投稿は投稿直後から、ほぼ全体に多くの親ウクライナ反応が付いた。
https://bsky.app/profile/willhaycardiff.bsky.social/post/3lk...
外から見る限り、Twitter自体がDonald/Elonのアジェンダに合わせて抑制し、ヘイト／好意的なボットを動かしているように見える。
ほかにも、Twitterでひどい反移民投稿が好意的なボットによって大量に押し上げられている場面を、別のBSky利用者が示しているのを見た。
記事を読み直したが、不正行為の証拠はない。人々が自分の物語に合わせて餌にしている状況証拠がいくつかあるだけだ。
Facebookには規則とコミュニティガイドラインがあり、イスラエル政府はそれに違反する投稿を見つけて削除要請をし、Facebookは自社の規則に従って応じたということだ。
信頼・安全／インテグリティ部門の責任者であるGuy Rosenが、強い親イスラエル的偏向を持つイスラエル市民である点を指摘したい。
道徳性にも疑問のある人物だ。Wikipediaによれば、Guy RosenとRoi Tigerは2010年にOnavoを創業し、2013年10月にFacebookがOnavoを買収して、競合他社を監視する分析プラットフォームとして使った。
これは、2014年のWhatsApp買収を含むFacebookの複数の事業判断に影響を与えた。
買収後、Onavoはプライバシー保護に重点を置いた環境だと主張しながら、VPNを通じて収集したアプリケーション利用データを収益化していたため、しばしばスパイウェアに分類された。
Metaが彼の疑わしい倫理観を欠陥ではなく長所と見なし、繰り返し昇進させてきた点は非常に問題だ。
Snapchatの利用量とMessenger、WhatsAppの利用量を比較したグラフを定期的に見せられており、Snapchatのデータは明示的にOnavoのログから来たものだと表示されていた。
連座的な罪の押し付けは、反ユダヤ主義や反パレスチナ憎悪のようなものにつながる。
こういうことは米国でも以前にあった。
https://arstechnica.com/tech-policy/2011/05/how-the-robber-b...