- 2010年代初頭、ミャンマーでのインターネット開放とモバイル普及の爆発的拡大の中で、Facebookは多くの利用者にとって事実上のインターネットとなり、後に国連ミャンマー事実調査団の主任調査官は、Facebookがロヒンギャ危機で「決定的な役割」を果たしたと評価した
- SIMカードの価格は2009年の約2,000ドルから2014年には1.50ドルへと下落し、モバイル普及率は2011年の人口の0.25%未満から2017年には90%以上へ急増し、Facebook拡大の土台となった
- 2011〜2014年、Facebook上ではロヒンギャを否定し、非人間化し、暴力をあおるコンテンツが広まり、2012年のラカイン州暴力と2014年のマンダレー暴動では、噂・虚偽の主張・ヘイトスピーチがオフラインの暴力と結びついた
- ミャンマーの市民社会、人権専門家、ジャーナリストは2012年から2015年までMetaに繰り返し警告したが、実際の対応権限を持つチームにはつながらず、2015年末時点でもビルマ語モデレーターは4人しかいなかった
- Metaは、Facebookがミャンマーの民族対立を悪化させている具体例を何度も受け取っていたが、大規模なモデレーション強化、最悪の加害者の永久追放、暴力扇動拡散の抑制といった根本対策を取らないまま、2016年にはさらに多くのミャンマー利用者をFacebookへ取り込む段階へ進んだ
インターネット開放とFacebookの急浮上
- 2011年、ミャンマーでより民主的な政権が誕生し、インターネットや表現への制限が段階的に緩和された
- 長年の軍事統制から抜け出した人々にとって、インターネット開放は大きな期待感をもたらし、現地のデジタル包摂NGOや技術アクティビストも新しいオンライン環境を前向きに受け止めた
- モバイル接続性は数年のうちに急激に変化した
- SIMカードの価格は2009年に約2,000ドル、2012年に250ドル、2014年に1.50ドルへ低下した
- モバイル普及率は2011年の人口の0.25%未満から2017年には90%以上へ上昇した
- スマートフォンとインターネット利用も、モバイル革命とともに急増した
- Craig Modの2015年の農村インターネット民族誌では、電気がないため自動車のバッテリーでスマートフォンを充電し、プリペイドのチャージカードを削ってデータ通信を使う環境が描かれている
- こうした条件のもとでFacebookは、ニュース、政治の更新、関心事の検索、友人や見知らぬ人との会話をすべて収めるプラットフォームとなり、ある携帯電話店主は「Facebook is the Internet」と語った
Facebookが「インターネット」になった仕組み
- Facebookは競合サービスよりデータ消費の少ない簡素なアプリを提供し、ミャンマーに参入した外国通信事業者の中でも有力だったノルウェーのTelenorはFacebookをゼロレーティングした
- ゼロレーティングとは特定のインターネットサービスのデータ料金を免除する方式で、Telenorの顧客はFacebookを無料で使えた
- Metaの内部告発者Frances Haugenは2021年のインタビューで、Facebookが複数言語圏で自社プラットフォーム利用を補助することで「インターネットになる特権」を買い、その結果多くの言語でコンテンツの80〜90%がFacebook上に存在するようになったと述べた
- ミャンマーの市民社会組織は、急速な接続が自由だけでなく危険ももたらすと見ていた
- 多くの利用者はインターネットを段階的に学ばないまま、「インターネットにあるなら正しい」という認識で接していた
- ミャンマーの政治情勢はすでに不安定で、軍部Tatmadawは複数の少数民族武装勢力と長い内戦を戦っていた
- Metaのミャンマー関連の意思決定は、この2つの条件に合わせて調整されなかった
2012年以前から存在した憎悪の土台
- 2012年1月の大規模恩赦で2人が釈放され、その後、互いに対照的な役割を担うことになった
- Nay Phone Lattは、2007年のSaffron Revolutionに関するブログ活動で収監された初期ブロガーでありデジタル権利活動家で、その後MIDOを共同設立し、市民が新しいインターネットの恩恵を受けられるよう支援しつつ、オンライン憎悪キャンペーンに対抗した
- Ashin Wirathuは、ミャンマーのムスリム共同体への暴力扇動説教により2003年に収監された仏教僧で、その後、強硬な仏教民族主義運動をデジタル化し、反ムスリム暴力拡散で重要な役割を果たした
- 2013年のミャンマー初のInternet Freedom Forumでは、インターネットの自由とプライバシーが議論された一方で、Facebook上でロヒンギャに対するヘイトスピーチが増えている現象も確認された
- MIDO共同創設者Htaike Htaike Aungは、ミャンマーの人々はインターネットを段階的に学んだ国々と違って突然オンラインに入ったため、「インターネットにあるなら正しい」という態度によってプロパガンダや誤ったアジェンダに弱いと見ていた
- 2011年の時点でもBBC BurmeseのFacebookページには、ロヒンギャをミャンマーの民族集団として示したことに対する暴力的コメントが殺到し、そこには追放・殺害・放火といった表現が含まれていた
- Nay Phone Lattは2014年、ヘイトスピーチが人々の心に毒を注ぎ込んでおり、時が来れば爆発しかねないと懸念した
ロヒンギャと否定された存在
- Médecins Sans Frontièresは、ロヒンギャを主にムスリムから成る無国籍の民族集団とみなし、彼らが何世紀にもわたって仏教徒多数派の国ミャンマーのラカイン州北部を中心に暮らしてきたと説明している
- ミャンマー当局はこれを否定し、ロヒンギャを20世紀に入ってきたBengali移民だと主張している
- 国連は2013年、ロヒンギャを世界で最も迫害されている少数民族の1つと表現し、ミャンマー法は彼らに市民権を認めていない
- ミャンマーの歴代政権の多くはロヒンギャの存在自体を認めず、「Bengali」の不法移民と呼んできた
- この文脈では、ロヒンギャは実在し、長く厳しい制約の下で暮らしてきた一方、ミャンマーの仏教政治主流には人種的純粋性と安全保障への公然たる関心があった
2012年ラカイン州暴力とオンライン扇動
- 2012年5月28日、ラカイン州で仏教徒ラカイン人女性Ma Thida Htweが殺害され、翌日、新聞は彼女が「kalars」に強姦・殺害されたと報じた
- 国連ミャンマー事実調査団は、殺害自体は明白だが、強姦の主張と容疑者の民族的背景には疑問が残り、その後数日から数週間にわたり、殺害よりも強姦の主張のほうがロヒンギャに対する暴力と憎悪扇動に主に利用されたとみている
- 6月1日、ミャンマー大統領報道官Zaw HtayはFacebookに、「Rohingya terrorists」が武器を持って国境を越えてくるという警告を投稿した
- 6月3日には、ある民族主義仏教団体がムスリムが仏教徒女性を襲っているというビラを配布し、同日、バスに乗っていたロヒンギャ男性10人が引きずり出されて撲殺された
- その後に続いた軍と共同体の暴力では、ラカイン側とロヒンギャ側の双方が殺人や放火を行ったが、被害の重みはロヒンギャに集中した
- 国連調査は、住宅への放火、略奪、女性・子ども・高齢者を含む超法規的かつ無差別な殺害、軍・警察による大規模な恣意的逮捕と拷問を記録している
- 10万人以上が家を追われ、その大半はロヒンギャだった
- 2012年10月の次の暴力の波には組織的計画の証拠があり、Human Rights Watchは、地元Arakanese政党の活動家、仏教僧の集団、一般Arakaneseが組織・扇動・加担し、ときには国家治安部隊が直接支援したと記録している
- 10月の最悪の攻撃では、警察とTatmadaw兵士がロヒンギャ村民の棒などの粗末な武器を事前に押収し、ラカイン人の群衆が1日に少なくとも70人のロヒンギャを殺害する間、傍観した
- Human Rights Watchは、この攻撃で28人の子どもが殺され、そのうち13人は5歳未満だったと記録している
Facebookを通じた憎悪の拡散
- Amnesty Internationalのインタビューで、ロヒンギャの教師であり難民でもあるMohamed Ayasは、2012年の共同体暴力が、反ロヒンギャ言説、迫害、最終的にはジェノサイドへとつながる転換点だったと述べた
- ミャンマー拠点の政治アナリストRichard Horseyは、以前にも仏教徒集団によるムスリム集団への暴力はあったが、新しく異なっていたのは、情報がFacebookと携帯電話を通じて容易に伝達・増幅された点だと説明した
- 2012年6月、Sai Lattは、反ロヒンギャ憎悪キャンペーンがソーシャルメディア上で公然と組織された公共的かつ越境的な運動であり、何千ものFacebookウォールやページにコメントと投稿があふれていたと記録した
- 「Kalar Beheading Gang」のようなFacebookグループが次々に現れ、国際メディアでも当該ページが報じられた
- 2012年6月14日のHindustan Times報道時点で、このページはすでに500件以上の「いいね」を集めていた
- オンラインとオフラインで繰り返された中核メッセージは、ロヒンギャは本当の民族集団ではなく不法な「Bengali」移民であり、仏教徒より多く繁殖する非人間的存在で、テロリストと区別がつかず、仏教徒女性とミャンマー全体に対する差し迫った脅威だというものだった
Ashin WirathuとFacebookベースの扇動
- Ashin WirathuはFacebookを積極的に活用した強硬派の仏教僧で、最初のアカウントはコミュニティ基準違反でFacebookモデレーターに削除されたと語っている
- 2つ目のアカウントはすぐに友達5,000人まで成長し、その後、新たなページを作り、専任スタッフ2人を雇ってサイトを時間単位で更新した
- BuzzFeed Newsのインタビュー時点で、彼はFacebookアカウントのフォロワー19万人、ニュースFacebookページ、数十のページを運営し、ムスリム商店のボイコットとムスリム追放を求めていた
- 2013年のGlobal PostインタビューでWirathuは、ムスリムがミャンマーをイスラム国家にしようとしていると主張したが、当時ムスリムはミャンマー人口の約5%だった
- 2013年、Timeは国際版表紙でWirathuを「The Face of Buddhist Terror」として掲載し、彼は記事中でミャンマーのムスリムの90%が「radical bad people」だと語った
- あるNGOは、2012年10月以降、ラカイン州で起きたほぼすべての主要な共同体暴力の前に969支援の説教ツアーがあり、たいていWirathu本人が直接関与していたと記録した
- WirathuはBuzzFeed Newsに対し、もしインターネットがなければ、自分の意見やメッセージが今ほど多くの人に知られることはなかっただろうし、インターネットはメッセージを広めるより速い方法だと語った
Metaに届けられた初期警告
- 2012年11月、MIDOのプログラムディレクターHtaike Htaike Aungは、アゼルバイジャンのラウンドテーブルでMetaのGlobal Public Policy DirectorとEurope Policy DirectorにFacebook内のヘイトスピーチ拡大を伝えた
- 2013年10月にはインドネシアのラウンドテーブルで、「rising inter-communal tensions」という文脈で同じ懸念を再度提起し、この場にはMetaの政策幹部3人が出席していた
- 同時期、MIDOとヤンゴン拠点の技術アクセラレーターPhandeeyarの活動家・研究者は、問題コンテンツのレビューや緊急エスカレーションの方法をメールで問い合わせたが、Facebookは応答しなかった
- 2013年11月、ジャーナリストAela CallanはFacebookのCommunications and Public Policy担当VP Eliot Schrageと会い、Facebook上の反ロヒンギャヘイトスピーチとそれを押し上げる偽アカウントについて警告した
- MetaはCallanをInternet.orgと、嫌がらせ対応中心の「Compassion Team」につないだが、実際に助けられるFacebook内部担当者にはつなげられなかった
- 2014年3月、Htaike Htaike AungとAela CallanはRightsCon Silicon Valleyの後にMenlo Parkを訪れ、MetaのCompassion Teamメンバーに対し、ミャンマーでFacebookサービスがもたらす脅威を再び伝えた
- 同月、Dangerous Speech ProjectのSusan BeneschはMeta向けのブリーフィングコールを企画し、ミャンマー拠点の人権専門家Matt Schisslerは、Facebookで非人間化メッセージ、加工写真、偽情報が広がっていると説明した
- Reutersによれば、Schisslerが示した例の1つは、「We will genocide all of the Muslims and feed them to the dogs」という名前のビルマ語Facebookページだった
- FrenkelとKangの著書 An Ugly Truth は、Meta社員がこの問題を高校生向けサイバーいじめ対応ツールのようなアプローチで解決できると考えていたと伝えている
2014年マンダレー暴動とFacebookの無反応
- 2014年のマンダレー暴力には、市民社会の監視者が懸念していた要素がすべて含まれていた
- 罪のないムスリム男性2人が仏教徒女性を強姦したという虚偽告発を受けた
- 扇情的なニュース報道が急増した
- Ashin Wirathuがこの話を自らの大義のために利用した
- Facebook上には虚偽報道と暴力要求が広がった
- 暴力が悪化すると、ミャンマー大統領報道官Zaw HtayはDeloitteミャンマー代表に、Metaと連絡が取れるよう支援を求めたが、一晩中連絡を試みても返答は得られなかった
- 暴動3日目、政府はマンダレーでFacebook接続を遮断し、遮断後、暴動は沈静化した
- Facebookが遮断されると、Meta社員はなぜFacebookがブロックされたのかを尋ねるメールを送り始めた
- 数か月前、一部のFacebook社員は、ミャンマー市民社会の専門家が問題を直接知らせられるよう非公開Facebookグループを作っていたが、マンダレーで虚偽報道と暴力扇動が広がった際、活動家や西側関係者が警告してもFacebookは応答しなかった
- あるグループ参加者は、暴動についてのメッセージにはFacebookは何も言わなかったのに、インターネットが遮断されて人々がFacebookを失うと、すぐに返信したと語った
翻訳と通報ツール、しかし不十分なモデレーション
- 2014年のマンダレー暴力から数週間後、Facebookのアジア太平洋政策ディレクターMia Garlickは初めてミャンマーを訪れた
- Garlickはパネル討論でMetaの方針を説明し、Facebook Community Standardsのビルマ語翻訳を迅速に行うと約束した
- この翻訳作業には14か月かかり、最終的には非公開FacebookグループにいたPhandeeyar側の支援に依存した
- 2014年、Metaはヘイトスピーチと問題コンテンツの通報ツールをローカライズすることを決め、MIDOなどミャンマー市民社会の関係者と翻訳・調整を行って年末までに公開した
- しかし、ビルマ語の通報ツールから入るすべての内容を確認するビルマ語対応モデレーターは、ダブリンにいる契約スタッフ1人しかいなかった
- Htaike Htaike AungとVictoire Rioは、このビルマ語通報ツールを「a road to nowhere」と表現した
2015年にも続いた警告
- 2015年2月、Susan BeneschはFacebookのCompassion Dayで「The Dangerous Side of Language」という発表を行い、法的文書によれば、この発表はFacebookを通じて反ロヒンギャ発言が広がる仕組みを説明するものだった
- 2015年3月、Matt SchisslerはMenlo Parkを訪れ、Facebook社員12人以上に対してミャンマーの新しいメディア、とりわけFacebookと反ムスリム暴力について発表した
- FrenkelとKangは、彼の発表が「Facebookのヘイトスピーチがミャンマーの現実の暴力につながり、人を死なせている」という深刻さを文書化していたとまとめている
- Schisslerが、Facebookがミャンマーでジェノサイドに寄与しうるかと問われて「Absolutely」と答えると、あるFacebook社員は「それはありえない」といった趣旨で反応した
- 2015年5月、Phandeeyar創設者David MaddenはMenlo ParkでMetaにミャンマーの危険な力学を警告した
- MaddenはAmnesty Internationalのインタビューで、Facebook内部の人々がミャンマーの政治状況をきちんと理解していないと感じたと述べた
- Metaとの会議では具体的な危険コンテンツの事例を議論し、Facebookがミャンマーでルワンダのラジオのような役割を果たしかねないと例えた
- 2015年9月、Mia GarlickはFacebookのビルマ語Community Standardsを公開するためにミャンマーを訪れ、Phandeeyarはミャンマー各地の市民社会リーダー15人以上を集めて具体的事件と加害者についてブリーフィングした
- Victoire Rioによれば、複数の市民社会リーダーがGarlickに、Facebook Community Standardsはミャンマーでは執行されていないと直接伝えた
- Reutersによれば、2015年のFacebookのビルマ語対応モデレーターは合計2人で、年末までに4人へ増えた
2015年末の状況
- 2015年末までにMetaは、国際的な市民社会専門家とミャンマー政府の双方が、Facebookが2014年のマンダレー暴動で重要な役割を果たしたと見ていることを認識していた
- 複数の市民社会・人権団体は、Facebookが民族対立を悪化させていると繰り返し警告していた
- Metaは、大量殺害やジェノサイドを直接求める投稿・コメントを含む、非人間化コンテンツの事例を何度も受け取っていた
- David MaddenはMeta社員に対し、Facebookがミャンマーでルワンダのラジオが果たした役割を担いうると直接伝えていた
- しかしMetaは、モデレーション能力を大幅に増強したり、既知の最悪の加害者を永久追放したり、憎悪と暴力扇動投稿の拡散を安定的に抑える根本的な製品設計変更を行わなかった
- 次の段階は、2016年にさらに多くのミャンマー人をFacebookへ乗せることであり、続く記事はPart II: The Crisisへとつながる
1件のコメント
Hacker News の意見
ミャンマーに住む友人がいるが、現地の状況は記事よりもはるかにひどかったと確認できる。
斬首しろ、あるいは少なくとも「あの下層民どもを追い出せ」という類いのヘイトスピーチ投稿ばかりが目に入り続けると、憎悪が正常化され、被害者が非人間化される。
歴史にはこうした残虐行為が数多くあり、表現の自由は重要だが、暴力のプロパガンダは現実の問題だ。米国でも一部に見られる。
記事を読まない人のために付け加えると、多くの村が焼かれ、その前に女性たちがレイプされ殺害され、村全体が略奪された後に人々が殺され、村が焼かれた。狙いは、被害者が自分の国を離れざるを得ないほどの恐怖を作り出すことで、実際にそうなった。
なぜ言葉と表現にだけ恣意的に制限を置くのか。行動は他人に害を与え得るので好き勝手にさせられないが、言葉は他人を傷つけられないという「棒と石」の原則があるから、何でも言わせるべきだ、という理屈だ。
結局、表現の自由全体がそうした不安定な原則の上に立っていることになる。
イスラエル初期の建国勢力も同じことを行い、数十万人のパレスチナ人が逃げ出し、今も難民のままだ。その戦略を実行した一部の人々は、その後イスラエル社会の指導者になった。
https://en.m.wikipedia.org/wiki/Deir_Yassin_massacre
https://en.m.wikipedia.org/wiki/List_of_Irgun_members
身元が世間に知られている人々がカメラの前でレイプし殺害しても、どうして刑務所に入らずに済むのか。
この記事は調査も素晴らしく、読む価値が高い。アルゴリズム駆動のプラットフォームはなくならないので、社会として学ぶべき出来事をよく整理している。
このスレッドで「表現の自由」という主張が出てくるのは奇妙だ。記事を読んでいないように見えるし、本文には満員の劇場で火事だと叫ぶのと同等の発言例がいくつも挙げられている。
Kissaneが言うように、ミャンマーは改革後に非常に急速にオンライン化し、Facebook内部だけでなく、Facebookにアクセスしやすかった人権団体にもビルマ語話者が不足していた。
中東や中国の事例とは異なり、ミャンマーは権威主義的抑圧の継続というより、抑圧からの「解放」のように見えたため、テクノロジー企業が学びつつあった対応の枠組みにうまく当てはまらなかった。数年前のアラブの春とイランの抗議運動によって、FacebookとTwitterは責任をある程度認識し始めていたが、その結果は世界の抑圧を見る非常に米国中心の視点だった。
ノーベル平和賞受賞者で民主主義の擁護者であるアウン・サン・スー・チーが率いる国で、仏教徒がイスラム教徒を暴力的に虐殺するという物語は、米国と欧州の政治的・文化的前提の多くに逆らわなければ聞こえてこなかった。
「満員の劇場で火事だと叫ぶ」という表現は、歴史的には大規模な暴力を止めようとした人々を「問題児」と見なし、沈黙させるために使われた、という指摘もできる。
ただし当時のFacebookなどの失敗は、人々が礼儀正しい討論と「真実」だけが議論される場を調整して提供できると主張したために起きた。表現の自由団体も現場の人道支援団体も、Facebookはそのような役割を担うことはできず、担うべきでもないと主張していたが、Facebookがその責任を負えると主張するほど、結果はより悲惨になった。
ソーシャルメディアは、その社会的つながりが興味深い、あるいは価値があると考えるものを増幅しているだけだ。社会があるひどい憎悪投稿者を興味深いと見なせば、その人のコンテンツが強化される。
数十年の軍事独裁があり、数十年の争いがあったなら、各集団がソーシャルメディアで競争相手を称賛しないのは驚くことではない。
著者は明白な問題を一度もきちんと扱っていない。これは発言制限やFacebookのせいではなく、常に推薦アルゴリズムの問題だった。
アルゴリズムをなくすかオフにすれば、この記事の根拠は事実上なくなる。
ここでKissaneが示している理由だけでは、Metaへの攻撃は正当化されないと思う
2018年当時、ミャンマー軍部が乳幼児や子どもを含むロヒンギャ数千人を殺害し、さらに多くの人々を殴打・レイプ・拷問・飢餓・監禁に追い込み、ロヒンギャ約75万人がバングラデシュの病気が蔓延する巨大な難民キャンプへ逃れた、という段落がある
それは現地の状況であり、国は火薬庫で、悪が働いていた。第2部でさらに文脈が出てくる可能性はあるが、外部の視点からこれをFacebookの責任にするのは無理があるように見える。Facebookが殴打・レイプ・殺害を求めたわけではない
Facebook経営陣が広報リスクを気にして対策を取ることはできたかもしれないが、そうすると別の問題が生じる。Facebookが執行すべき基準とは正確には何なのか？ 無意味な殺害に責任のある全員を禁止すべきなのか？ だとすれば、イラク戦争、アフガニスタン、ベトナムのような戦争に賛成票を投じた米国指導部も含まれるのか？ 結局、大きく強力な企業が不均衡で主観的な基準を適用することになる
要点は、Facebookがどのような影響力を行使するにしても同じだ。民衆の意思とFacebook指導部の意思が根本的に異なることが問題なのだ。この場合、民衆の意思はことさら悪だったが、問題はその日にどちらが正しかったかではなく、衝突とFacebookの影響力の位置づけである。いつかFacebookは悪の側に立つことになる
Metaに責任がある理由を理解するのは難しくないのに、その部分に触れていない。Facebookは無害なメッセージ中継器ではない。しかもコンテンツをモデレーションするのに十分なネイティブ話者の人員もいなかったのだから、最悪の場合、過失である
プラットフォーム上で人々にインターネットへ向けて発言することを許すには責任が伴う。表現の自由は絶対ではない
それでもFacebookの行動が批判を免れるわけではない。第1部は主に受動的な無対応のように見えるが、第2部には当時のFacebookのより積極的な行為が出てきそうで気になる
自分たちのポリシーを執行しないことも行為であり、Facebookはこの点で非常に有罪に見える
FacebookがBushを禁止しても腹は立たないと思う。原則には同意するが、例として挙げられたケースはむしろ受け入れやすい側だ
ちなみにFacebookは別の元大統領を禁止したことがあるので、Facebookの影響力の位置づけに関する要点は正しい
違いは、Facebookが十分なリソースを割り当てていれば、露骨なコンテンツを削除できたという点だ
それで殺害が止まっただろうか？ 怒りの拡散を遅らせることはできたかもしれない
そのうえFacebookは受動的な掲示板ではなく、「エンゲージメント」の高い投稿をできるだけ多くのユーザーに積極的に露出するプラットフォームだ
表現の自由とアイデアの自由な交換を大切にしながら、戦争や暴力を扇動する怪しいWebサイトが存在せざるを得ないことも受け入れなければならない。同時に、マスメディアは自分たちの行動に責任を負うべきだ
Facebookの運営者は、そうした怪しいWebサイトの運営者と同じように責任を負うべきだ。ここでは哲学的な議論ではなく、文字どおりの法的な個人責任を語るべきである
当時FacebookはWebフォーラムに取って代わろうとしており、Arab Springの流れを追い風に、世界を変えられるしそのための政治的影響力もあると語る機会を逃さなかったことも思い出すべきだ
表現の自由を嫌う人たちに言いたい。私はそこに住んでいて、次のような理由だけであなたと家族が殺害・拘束・拷問され得るとき、表現の自由がどれほど価値があり重要か、あなたには絶対に分からないだろう
Hunger Gamesの
3 finger saluteをしたという理由だけで真実を世界に知らせようと、空っぽの都市の写真を投稿したという理由だけで
BBC記者に答えたという理由だけで
ミャンマーについては知らないが、媒体・メッセージ・参加者の役割を混同したり、偏って見たりしてはいけない
インドでは、最も多くの有害なメッセージがWhatsAppグループで流れているのを見ている。これは個人的な空間で、ランキング化や推薦アルゴリズムはなく、人々がメッセージを転送しているだけだ。根本的には、社会そのものの急進化が大きくなったためである
人々は突然急進化して目を覚ますのではなく、何らかのコミュニケーション媒体を通じて他者に紹介され、洗脳される
Facebookは最大であるだけでなく、推薦アルゴリズムによって扇動的なコンテンツを増幅し、宣伝するという点が重なっている
この記事の核心は、100段落ほど後に出てくる2014年当時の状況描写だと思う。
Facebookには、入ってくるものすべてを確認するビルマ語対応のモデレーターがたった1人しかおらず、しかもダブリンにいる契約社員だったという内容だ。
ビルマ語は世界で43番目に多く使われている言語なので、Facebookがモデレーター採用に苦労したというのは驚くほどのことではない。
http://www2.harpercollege.edu/mhealy/g101ilec/intro/clt/cltclt/top100.html
悲しい話だ。「表現の自由」が答えであってほしいが、これはプラットフォームが高度な人間によるモデレーションをできなかったときに生じる、非常に不気味な下流の結果だ。
インターネットは常に、それぞれのコミュニティの中でモデレーションされてきた。フォーラムであれページであれグループチャットであれ、自分のコミュニティのモデレーションは運営者の責任だ。教会、バレーボールクラブ、学校も同じだ。
弁解の余地はない。
モデレーターでいっぱいの倉庫の人たちがある日出勤しなかったからといって、すぐにジェノサイドが起きるわけではない。答えは大規模で無差別な削除モデレーションではない。
はるかに良い考えは、昔ながらの透明性と一次資料だ。検閲ではなく、画面の上下に正確で役立つ事実や関連情報を付けて、文脈情報を改善することだ。これは有用だと証明されており、誤情報を発生時点で実際にバランスさせる。
人々を尊重するなら、そうすべきだ。暴力的なやり方から教育と是正を必要としている人たちについても同じだ。彼らにはインターネット電話があり、Meta/Facebookでなければ別の何かを使うだろう。
この記事は読むべきだ。読み始めたら止まらず、見た目よりずっと早く読める。まだ第1部だけだが、本当に必読だ。
Kissaneはロヒンギャ虐殺の背景と、Metaがどのように火に油を注いだのかを、簡潔で読みやすく、そして恐ろしくまとめている。
Metaの責任に関する論旨は単純で効果的だ。Metaはミャンマーで2つの問題に直面していた。第一にFacebookユーザーが十分ではなかったこと、第二に反ロヒンギャ暴力を明白かつ繰り返しあおる扇動やヘイトスピーチが増えていたことだ。
同社は、その成長がジェノサイドを養っていることを明らかに知っていたにもかかわらず、ユーザー基盤の成長にしか関心がないことを繰り返し示した。
Facebookの動機は何だったのか。どのコンテンツを禁止すべきだったのか、そしてなぜそのコンテンツはビルマの人々にそれほど人気があったのか。
ここでのFacebookの最初の罪は、ネット中立性違反を促したことだ。
しかし核心は、ソーシャルメディアやニュースアプリに自由市場が存在しなかったという点だ。Facebookは主要通信事業者の補助を受け、特権的な立場にあった。
特権的な独占的地位を持つプラットフォームなら、より大きな責任も負うべきだ。両方の利益を同時に享受することはできない。
全体の状況がひどい。当時、Facebook内部の議論がどのようなものだったのか気になる
どうしてすべての人権団体が、実際に何かできる部署ではなく、人々を追い返す部署と話すことになったのだろう。その部署も何かしようとはしたが、Facebook内部での政治力が足りなかったのかもしれない
ただ、そうした議論やメールは訴訟でもなければ外に出てくるのは難しそうで、どんな訴訟になるのかは分からない
Facebookのやっていることを見ると、プラットフォーム上でさまざまな悪質な行為が起きることを望んでいない点にはかなり気を遣っているようにも見える。以前は対象範囲がはるかに狭かったのか、それともミャンマーのユーザーとあまりに断絶していたことから生じた問題なのかは分からない。たとえば言語の壁や、米国向けに設計されたポリシーの適用のようなことだ
反事実を考えるのは難しい。たとえばTwitterでもこうしたことは起こり得ただろうか？ Facebookの最大の優位性は補助金のおかげだったようで、その優位性がなかったり、数年かけて価格が少し下がっていたりすれば、同じことがTwitterで起きていた可能性もある
政府がジェノサイドをどれほど望んでいたのかも明確ではない。Facebook上で行われることの大きな利点は否認可能性だったはずで、そうしたことを気にせず、十分に有能だったなら、憎悪をあおる説教師たちにインターネットで聴衆を見つけさせる代わりに、ラジオに出演させていたかもしれない
https://www.rohingyafacebookclaim.com/
https://www.theguardian.com/technology/2018/dec/09/twitter-ceo-jack-dorsey-accused-of-ignoring-plight-of-rohingya-in-tweets-promoting-myanmar
Facebookのほうがはるかに破壊的だったのは、Facebookの採用を推し進めたInternet.org計画の一部だったからだ
https://en.m.wikipedia.org/wiki/Internet.org
ラカイン／アラカンの主要政党であるArakan National Partyは反ロヒンギャ的で、指導部は969運動とともに2012年の暴動に参加した。その後、National League for Democracy、つまりAung Sang Syu Kiの政党と連携し、Ethnic Affairs Ministerのポストまで得て、ジェノサイドの期間中もそれを維持した
https://en.m.wikipedia.org/wiki/Arakan_National_Party
ラカイン問題はIndia-China競争によってもさらに悪化した。両国ともTatmadawを黙認し、ラカインとミャンマー全土の民族民兵を武装させた。ミャンマーが両国の間の緩衝地帯であり、ミャンマーの民族問題がSouthwest ChinaのKokang ChineseやNortheast IndiaのManipur Ethnic Violenceへ跳ね返り、さらに両国がミャンマー国内で競合する防衛・インフラプロジェクトを持っているためだ
https://www.lowyinstitute.org/the-interpreter/how-china-india-bangladesh-could-be-drawn-myanmar-s-conflict
1946年にロヒンギャが要請したように、Jinnahがラカインのロヒンギャ多数派地域をPakistanに編入していれば、多くのことを避けられたかもしれない。英領インド分割と脱植民地化における、忘れられたもう一つの章だ
https://thediplomat.com/2018/01/rohingyas-and-the-unfinished-business-of-partition/
San Franciscoに住んでいるなら、Chinatownの中国系住民のかなりの割合は現在Kokangで、Burma LoveやManadalyのような流行のビルマ料理店の多くを所有している
Kukisのミャンマー側の下位集団であるChin/Zoも、San FranciscoとDaly Cityでかなりの存在感がある
記事では「Arturo Bejar」を「Facebookのエンジニアリング責任者」としているが、これは単純に事実ではない
彼はDirectorだったようで、通常は100人未満を管理するマネージャー職の肩書きだ。「エンジニアリング責任者」とはまったく近くない
この点を挙げる理由は、問題がFacebookの関係者たちにどれほど明確に伝わっていたのかという正確性にも疑いを抱かせるからだ
複雑な社会問題を任意のエンジニアやコミュニケーション担当副社長に伝えるだけでは不十分だ。そうした人々はジェノサイドを特定したり対応したりする訓練を受けておらず、本格的な対応を始める組織上の権限や専門的経験もない
コミュニケーションの断絶があったというのは悲しいことだが、驚くことではない