Human Rights Watchの主張：Meta、世界的に親パレスチナ意見を検閲
(theguardian.com)- 10月7日のIsrael-Gaza war勃発以降、MetaのFacebook・Instagramにおけるコンテンツモデレーションが、親パレスチナ発言を過度に制限しているとの批判を受けている
- Human Rights Watchの51ページの報告書は、削除、アカウント停止・永久凍結、インタラクション制限、shadow banningなどを「不当な検閲の6つの主要パターン」として整理している
- 検証された通報は60か国以上から寄せられた1,000件超の事例であり、その大半は英語コンテンツで、すべてがパレスチナとパレスチナ人への平和的支持を含んでいたとHRWは述べている
- Metaは一部の誤りとユーザーの不便は認めたものの、特定の声を意図的・体系的に抑圧したとの示唆は虚偽であり、1,000件の事例だけで体系的検閲を証明することはできないと反論した
- Elizabeth Warren上院議員の質問や、Meta Oversight Boardによる削除の誤判断認定にまで発展し、紛争関連コンテンツのモデレーションにおいてポリシー執行の誤りと自動化への依存が主要な争点として浮上している
HRWの検閲主張
- Human Rights Watchは、Metaが10月7日のIsrael-Gaza war勃発以降、親パレスチナコンテンツを「systemic and global」に検閲したと主張している
- 51ページの報告書は、FacebookとInstagramで発生した1,000件超の通報事例を文書化し、検証している
- HRWが整理した「不当な検閲の6つの主要パターン」には、次が含まれる
- 投稿、ストーリー、コメントの削除
- アカウントの無効化
- アカウント停止または永久凍結
- 他のユーザーの投稿とやり取りする機能の制限
- コンテンツの可視性とリーチを大きく低下させるshadow banning
検証された事例と範囲
- HRWが引用した事例には、60か国以上からのコンテンツが含まれる
- その大半は英語コンテンツで、すべてパレスチナとパレスチナ人への平和的支持をさまざまな形で表現した事例だったとHRWは述べている
- オンライン検閲の事例を集めるためにHRWが投稿した自前の投稿もスパムとして表示された
HRWが指摘した原因
- HRWは、InstagramとFacebookにおけるパレスチナ関連コンテンツの検閲は体系的かつ世界的だと判断している
- 問題の根源として、次を挙げている
- Meta自身のポリシーの一貫性のない執行
- コンテンツモデレーションにおける自動化ツールへの過度な依存
- コンテンツ削除に対する不当な政府の影響
- ポリシーの誤った実装によるパレスチナ関連コンテンツの誤削除
Metaの反論
- MetaはGuardianに送った見解で、誤りは発生し、それが人々にとって「frustrating」になり得ることを認めた
- ただし、特定の声を意図的かつ体系的に抑圧したとの示唆は虚偽だと反論した
- 紛争関連の投稿全体の規模を考慮すれば、1,000件の事例を体系的検閲の証拠と見るのは誤解を招くとの見方を示した
- Metaは、IsraelとPalestine関連の問題についてhuman rights due diligenceを公開している世界で唯一の企業だと述べた
- 急速に展開し、極度に二極化し、激しい紛争状況の中で世界規模にポリシーを執行する現実を、HRWの報告書は無視していると主張した
- 自社のポリシーは、すべての人に発言権を与えつつ、プラットフォームを安全に保つよう設計されていると述べた
同月に続いた外部からの圧力
- 米Massachusetts州選出の民主党上院議員Elizabeth WarrenはMark Zuckerbergに書簡を送り、10月以降Instagramユーザーがコンテンツの降格・削除やshadow banningを経験したという数百件の報告について情報を求めた
- Meta Oversight Boardは同じ週、MetaがInstagramとFacebookで紛争関連動画2本を削除したのは誤りだったと判断した
- 1本は、Gazaのal-Shifa病院付近での空爆後の様子を収めたInstagram動画
- もう1本は、10月7日の攻撃中に女性が人質に取られる場面を収めたFacebook動画
- 委員会は2本の動画に「双方の人間的苦痛を世界に知らせる」価値があると見なし、動画は復元された
- Meta製品のユーザーは、親イスラエルコンテンツに有利で親パレスチナ投稿に不利な技術的バイアスがあると主張してきた
- Instagramの翻訳ソフトウェアでは、「Palestinian」の後にアラビア語の「Praise be to Allah」が付いた表現を英語で「Palestinian terrorists」に変換した事例がある
- WhatsApp AIは、パレスチナ人の少年・少女の画像生成を求めるリクエストに対して銃を持った漫画の子どもを作成したが、イスラエル人の子どもの画像には銃器が含まれていなかった
1件のコメント
Hacker Newsのコメント
HRWの実際の報告書を読んでみると、Metaのポリシー基準では暴力の支持に当たり、正当に削除された資料が大半のように見える。
例えば「from the river to the sea」は、多くの人がヘイト表現と見なすため削除され、別のケースでは米国政府がテロ組織に指定しているHamasの攻撃を称賛するコンテンツだった。
HRWの説明だけを見ると、1,049件の削除の大半はMetaの暴力支持禁止ポリシーに明らかに違反した事例のように見え、賛否は別として、Meta自身のルールに照らせば驚くことではない。
Metaが禁止しているのは特定の種類の暴力、つまり反イスラエルの暴力だけのように見える。
HRWは、パレスチナ関連コンテンツに「成人のヌードおよび性行為」ポリシーが繰り返し不正確に適用されたと述べているが、確認したすべての事例で画像はがれきの上にいる死亡したパレスチナ人で、全員が衣服を着ていた。ヌードでも性行為でもなかった。
また、「赤ん坊と無実の民間人の殺害を支持することを、どう正当化できるのか…」というFacebook投稿が「嫌がらせといじめ」の基準で削除され、ガザの病院で死亡した子どもの写真と「Israel bombs the Baptist Hospital…」という文言は「暴力と扇動」で削除された。暴力に反対する投稿が嫌がらせとして、イスラエルの行動を述べた画像と文章が扇動として扱われたわけだ。
パレスチナ国旗の絵文字だけを投稿したコメントが「他人を傷つける可能性がある」という警告を受けたり、パレスチナ国旗が「嫌がらせをし、標的にし、羞恥心を与える」という理由で非表示・削除されたりしたのは、弁解しにくい事例だ。
イスラエル政府とBenjamin Netanyahuを批判した投稿も「危険な組織または個人」およびヘイト表現ルールで削除されたが、10月7日以前にもNetanyahuを批判する理由は多くあった。
「From the river to the sea」も、Metaが「ヘイト的だから」としたのではなく、「Free Palestine」「Ceasefire Now」「Stop the Genocide」といった表現とともに、文脈を考慮せずスパム基準で削除されたと報告書は述べている。政治的表現をスパムとして扱ったのは、かなり作為的に見える。
「多くの人がヘイトと見る」というのは事実だが、主観的で複雑だ。イスラエルの保守派政治家も非常によく似た表現を使ってきた: https://en.wikipedia.org/wiki/From_the_river_to_the_sea#Simi...
実際に10月7日の攻撃を称賛した投稿が通報・ブロックされたのなら、Metaがポリシーを適用したということだろうが、ここではそれがすべてではないようだ。報告書が処理タイプごとの具体的な件数を示しておらず、情報提供者ベースなので限界と偏りがあるのは確かだが、限られた範囲で見ても、Metaが公正かつ有能にポリシーを適用したようには見えない。
ただし、悪意だけですべてを説明したいわけではない。動機を持つ第三者が、衣服を着た死亡したパレスチナ人の写真を繰り返し「ヌード」として通報し、Metaのシステムがユーザー通報を信頼する前提で設計されているなら、不正確な制裁は容易に起こり得る。
川から海まで続くGreater Israelと、権利のない無国籍のパレスチナ人は、56年にわたり事実上の現実だ。
典型的な地図では、ごく小さな「Area A」だけが別の色で表示され、パレスチナ領土があることをかろうじて示しているだけで、East JerusalemとWest Bankの大部分は単にイスラエルの所有であるかのように見える: https://qph.cf2.quoracdn.net/main-qimg-9fb3beb756529713386cc...
Hamasに正当化の理由を見つけてやったり、進行中の戦争で支持したりするのは、考えてみればかなり常軌を逸している。9/11の時にアラブ圏の一部がbin Laden側に付いたのは覚えているが、今回は西側でも起きている。
紛争初期、私のフィードはイスラエル支持側に完全に偏っていた。実際には3人ほどの投稿にすぎなかったのにそう見え、民間人への爆撃停止を求めていた30人以上の投稿は11月末になってようやく表示され始めた。
その人たちはずっと投稿していたが、Metaのアルゴリズムが私に見せないことにしていたのだ。
タイトルはかなり釣り気味
実際の報告書にも「この事例の分布が、検閲全体の分布を必ずしも反映しているわけではない」と書かれている
人々に直接事例を通報してもらう方式なので、選択バイアスがある可能性が大きい。親パレスチナ側にだけ広報した可能性もあるし、イスラエル側はHRWが偏っていると見て参加しなかった可能性もあり、ほかの理由もあり得る。ベースレートの誤りも考慮されていないように見える
この研究方法でMetaの検閲バイアスを判断するのは難しい
「Human Rights Watchは、イスラエルとパレスチナに関連するあらゆる観点のオンライン検閲事例を募集した。本報告書で検討した1,050件のうち、1,049件はパレスチナ支持コンテンツのオンライン検閲と抑圧の事例であり、1件はイスラエル支持コンテンツの削除事例だった。この事例の分布が、検閲全体の分布を必ずしも反映しているわけではない」
だとすれば、HRWは事実上、問題の反対側を見ていないのと同じだ。また、Metaのポリシーが米国によるHamasのテロ組織指定の影響を受けていると不満を述べていた
こうした報告書はヘッドライン生成用に設計されているように感じる
それが事実かどうかは別として、親イスラエル側がHRWと関わりたがらない理由にはなり得る
イスラエル側の変化がHamasの攻撃停止につながり得るという意味なら、可能性は非常に低そうに見える。Hamasはイスラエルとの平和共存に前向きなふりすらしておらず、最善の提案でも1967年の国境と引き換えにした10年停戦だった
Gaza住民がHamasを転覆できるという意味なら可能ではあるが、Hamasは選挙を行わないので暴力的な反乱が必要になるだろうし、感情の変化には現実的には世代単位の時間がかかる可能性が大きい
イスラエル人が何世代にもわたり、とりわけIranの支援によってますます高度化する攻撃を受けながらも、対応すべきではないと受け入れるのは難しい
結局のところ、イスラエル人がHamasによる深刻な攻撃を受ける必要はない。Hamasには軍事的にそのような力はなく、そうした攻撃が可能になるにはIDFの重大な無能が必要だ
一方で、イスラエルの地政学的な風向きはよくない。Yemenが示したように、イスラエルは封鎖に非常に脆弱だ。遠くない将来のある日、米国がイスラエルの敵のミサイルを代わりにすべて迎撃できなくなれば、イスラエルは全面封鎖の脅威に対処しなければならなくなる
だからイスラエルにはアラブの隣国と和解する切迫した必要があり、Hamasの実際の攻撃は防ぐことができる。このため状況はかなり異なり、非対称的だ
Gazaを1つの国家と見るなら、イスラエルの封鎖だけでも戦争行為であり開戦事由になるため、Gazaが侵略行為を行えないという点も重要だ。もちろん、これがHamasの非人道的な戦争犯罪を正当化するわけではないが、戦争が何の挑発もなく始まったかのように扱うのは現実に合わない。国際法の定義上、イスラエルはGazaに対する能動的な戦争を止めたことがない
記者が検閲のような主張をするなら、基礎的な統計分析を必ず添えさせるべき時がある
Metaには毎日どれだけのコンテンツが投稿されているのか？ Metaは毎日どれだけのコンテンツ削除判断を下しているのか？
ヒント: Storiesだけでも毎日10億件以上投稿されている
仮に1,049件の削除が1日に起きたとしても全体規模に比べれば小さいが、この「証拠」ははるかに長い期間にわたって集められたものだ
HRWとその反イスラエルキャンペーンを見ると、HRWがなぜこのようなプロパガンダを出し続けるのか理解できる: https://en.wikipedia.org/wiki/Criticism_of_Human_Rights_Watc...
The Guardianは、この偏ったコンテンツをそのまま書き写すという非常に悪い仕事をした
こうしたWikipedia文書が存在するからといって、これからはイスラエルや米国が出すあらゆる情報を「偏ったコンテンツ」と呼んで無視してよいことになるのか？
方法論に本当に欠陥があるように見える。誤って削除されたコンテンツの事例を1,000件選んだとはいえ、FacebookとInstagramにはこの紛争関連の投稿がどれほど多いのだろうか。数千万件ある可能性もある。
その標本がどれほど代表的なのかを知る方法がない。
この調査には自発的回答バイアスの可能性が非常に大きいのに、HRWがそれを認めずに公開できるのが理解できない。
親イスラエル派の声は、10年以上にわたってHRWの反イスラエル偏向との認識[1]に懐疑的だった。そうした人々がHRWのアカウントをフォローしたり関与したりする可能性は低く、全体の数としても少ない可能性が高い[2]。
HRWの審査に提出された1,050件のコメントのうち1,049件が親パレスチナだったという事実は、核心的な証拠ではなく警告サインであるべきだ。
[1] https://www.wsj.com/articles/SB10001424052970204619004574318...
[2] https://wpde.com/amp/news/nation-world/support-for-palestine...
どんな観点を持っていようと、社会的なつながりを専門とするテクノロジー企業が、人々が互いに何を言えるかを統制しているという事実は、誰もが非常に懸念すべきだ。
最近明らかになった政府との緊密な連携まで考えると、さらに深刻だ。
偽情報という言葉は、ますます「私たちが嫌い、または支持しない意見」に近づいており、この件は手遅れになる前に彼らの力を制限すべきだという警告になるべきだ。
Tridenが好きでもBrumpが好きでも関係ない。これは党派的な問題にしてはならない。
Hamasはテロ組織で、Iranの支援を受けているように見え、オンラインで絶えず偽情報を広めているのだから、だから検閲されているのではないか？
たまにThe Guardianを開くと、「Gaza Health Ministry」を引用する回数がばかげている。北朝鮮や中国の保健省より信頼できるわけでもないのに。
人々がもっと批判的に考えるなら、すべてを検閲する必要はないだろうが、現実はそうではなく、そのまま受け入れて陰謀論的になっていく。
一方でMetaは、少しでも市民的な水準を保つには常軌を逸したレベルの検閲が必要になる、ひどい製品を作ってしまったように思える。残念ながら、この欠陥のある製品は民主社会に深刻な影響を与えている。
この記事はHamas支持投稿についての話ではない。
Metaが偽物をふるい落として、単に自分の仕事をしているだけということもあり得るのではないか？ 私が見た親Hamas・親パレスチナのプロパガンダの大半は事実と矛盾しており、良く見ても出典が1つしかなく、その出典はHamas自身か、UN機関のガザ事務所のようなHamasに近い組織だった。
参考までに、Metaはロシア当局に屈して公式のロシア偽プロパガンダだけを載せることを拒んだという理由で、ロシアでは「過激派」組織として非合法化されている。米国の「テロ物資支援者」指定と多少似ている。
前回の選挙のとき、Facebookは私にTrumpのプロパガンダを延々と流してきた。私はTrumpに投票した人を誰も知らない。そもそも米国に住んでいないからだ。それでもプロパガンダを受け取った。
ロシア人が米国のプロパガンダを望まず、自分たちのプロパガンダを望むかもしれないというのは理解できる。