- アルバータ分離主義のFacebookグループで、海外から運営されるアカウントが実際の支持者であるかのように活動し、政治的に分断を招く投稿で反応やコメントを集めていた
- 確認された14件のアカウントは、Indonesia、Pakistan、India、U.S.、Sri Lanka から運営されていると表示されており、一部は Metaの収益化プログラム で収入を得ていた
- Nieta Aqila アカウントは、Indonesia の麺販売業者兼コンテンツ制作者が運営していたと調査され、実際のアルバータ住民の投稿をコピーして、自分が経験した出来事であるかのように投稿していた
- 専門家らは、Facebookのクリエイター報酬構造が正確性や責任性よりも参加を誘発するコンテンツに報酬を与えており、公共の言論空間 を損なう可能性があると見ている
- Meta は不正ななりすまし行為ポリシーに違反したコンテンツとアカウントを削除したが、Nieta Aqila アカウントは依然として有効で、Alberta Independence グループ内の投稿のみが削除された
海外アカウントがアルバータ分離主義グループで活動
- Nieta Aqila という名前のアカウントは、アルバータ分離を支持するアルバータ住民のように見える投稿を行っており、Facebookグループ Alberta Independence は10万人を超えるメンバーを抱えている
- そのアカウントは「Canada is not a great country anymore」と書き、アルバータ独立請願に署名したと述べ、請願署名を集める最中に嫌がらせや投石を受けたと投稿していた
- このアカウントの投稿はここ数カ月で数千件のリアクション、コメント、シェアを生み、この問題が過熱する過程で拡散された
- 実際の運営者は Canadian を装っていたが、Indonesia の麺販売業者兼コンテンツ制作者であることが調査で判明し、一部の投稿は実在するアルバータ住民のコンテンツを盗用したものだった
確認されたアカウントと収益化の構造
- 14件の海外アカウントが、人気のある4つのアルバータ独立Facebookグループで確認され、過去2カ月にわたりアルバータ分離主義、Western annexation、その他のカナダの争点に関する分断的なコンテンツを投稿していた
- Facebookの表示によれば、これらのアカウントの多くは Indonesia、Pakistan、India、U.S.、Sri Lanka から運営されており、アルバータ関連ページの上位投稿者として活動していた
- これらのアカウントの投稿とクロスポストは、12以上のFacebookグループで累計数万件のリアクションとコメントを獲得した
- 2人のユーザーはFacebookで稼いだ金額の画像を投稿しており、Nieta Aqila は個人ページで Meta 収益化プログラムによる収入と購読者募集を投稿していた
実際の住民コンテンツ盗用の事例
- アルバータがカナダを離脱するかどうかを問う住民投票が議論される中、実際のアルバータ住民の熱意がオンラインに現れ、それと同時にこの話題を利用する小規模な収益産業も現れた
- 以前のビジュアル調査では、アルバータの U.S. 併合を宣伝し数千万回の再生を得た複数の YouTube チャンネルが、Netherlands 在住者によってプラットフォーム収益を得るために作られたことが確認されている
- Facebookグループでは1日に数百件の投稿が上がるほど活動が活発で、その流れの中に海外のコンテンツ制作者たちが紛れ込んでいる
- Nieta Aqila アカウントは、Calgary で独立支持の署名集めをしている人々に会い支持を示したという投稿を行ったが、同じ投稿はその前日に実在するアルバータ住民のアカウントに掲載されていた
- 同じ週に、Nieta Aqila アカウントの写真は Indonesia 滞在を示しており、プロフィールには Palembang 在住と表示されていた
「完全に侵害された気分だ」という被害者の反応
- Nieta Aqila アカウントの運営者はいくつもの名前のプロフィールを持っており、そのうち1つは主に自家製麺の販売用途で使われていた
- 投石を受けたと主張する投稿は、Google の逆画像検索により Edmonton 住民 Brock Ireland の投稿から持ち出されたものだと確認された
- Brock Ireland は自分の投稿がコピーされたと聞き、「完全に侵害された気分だ」と語り、他人になりすます行為は間違っていると述べた
- Nieta Aqila が投稿した Meta 収益化ダッシュボードのスクリーンショットには、アルバータのFacebookグループで活動していた1カ月の間に約14ドルを稼いだことが示されていた
- Renee DiResta は、このようなコンテンツ生産は低コストであり、一部の地域では追加収入が実際に大きな違いを生むと述べた
プラットフォームのインセンティブと公共の言論の問題
- Matt Navarra は、この現象は常に国家支援型の伝統的な外国介入というわけではなく、カナダの怒りが収益性のあるニッチ市場だと遠方の人々が見つけたケースだと見ている
- Aengus Bridgman は、収益化する詐欺的な運営者と、関心をめぐる広告収益を得るプラットフォームの双方が受益者だと述べた
- Renee DiResta は、Meta が人々が強く信じ、不満を感じている問題を見つけて、収益のためにオーディエンスを操作するよう促していると語った
- 一部の投稿が現実世界に与えた影響の程度を判断するのは難しいが、「Lock and load Albertans!」のような強い反応がコメントとして付いていた
- Alberta Independence の管理者は、アカウントの95%が国の出所を Canada と表示していると述べ、疑わしい活動を引き続き監視し削除していくと話した
不正な活動と組織的ネットワーク
- McGill University の Media Ecosystem Observatory による予備分析では、ここ数カ月で分離主義関連の不正な活動が3倍に増えたが、グループ全体のコンテンツの一部にとどまると見ている
- Pakistan とつながる追加アカウントが複数確認され、一部のページは連携したネットワークの一部のように見えた
- The Legacy Archives は約9,000人のフォロワーを持ち、プロフィールには歴史と哲学を扱うと書かれているが、アルバータ分離主義ページに頻繁に投稿し、感情的な言葉を使っていた
- Facebookページ透明性機能によれば、The Legacy Archives は Pakistan と U.S. から管理されており、分離主義グループに頻繁に投稿する他の関連アカウントも確認された
- The Legacy Archives、Trend Top、History Addicted は、小規模なFacebookグループ Rise of Alberta の管理者だったため相互につながっていたが、ページ運営者は明確ではない
Meta の対応と残るアカウント
- The Legacy Archives はFacebookメッセージで Pakistan ではなく Canada に住んでいると述べたが、身元は明かさなかった
- 他の4件の Pakistan 運営アカウントがなぜアルバータ分離主義グループに投稿しているのかと問われると、The Legacy Archives は回答せず記者をブロックした
- Meta は、不正ななりすまし行為ポリシーに違反したコンテンツを削除し、その背後にあるアカウントを無効化したとメール声明で述べた
- The Legacy Archives、Trend Top、History Addicted、Riri Seyer、その他5件のアカウントは、もはやオンライン上に存在しない
- Nieta Aqila のFacebookアカウントはまだ有効だが、Alberta Independence グループ内にあった投稿は削除された
1件のコメント
Hacker Newsのコメント
この現象は、口ひげをひねりながら「不和を広める」外国の独裁者よりも、私たちが目にしているさまざまな傾向をはるかによく説明していると、ずっと前から思っていた。
もちろん、そうした勢力やトロール工場は存在するが、たいていは自分たちに即時の利益をもたらす物語を押し出している。
一見無関係な内容を広めるときでさえ、実際のメッセージを届けるためのソーシャルメディア影響力を築くことが目的に近いと見ている。
ロシアのトロールが外国の分断的な国内問題の両側を同時に後押しするのも、「混乱拡散」そのものではなく、「ロシア指導者への制裁は無意味で逆効果だ」「Assadはガスを使っていない」「ウクライナ指導部は実際にはナチに支配されている」といった本来のメッセージを押し込むための足場に見える。
今はTwitterをやっていなくてよかったと思うが、以前見ていたときにはかなり本当らしく見えたし、イギリス人のふりをしていた大人気アカウントがインド人だと判明する魔女狩り的な暴露まで成功することがあった。
思い浮かぶ元KGB亡命者はYuri Bezmenovで、彼が説明した戦略は「イデオロギー的転覆（Ideological Subversion）」、あるいは「積極的措置（Active Measures）」や「心理戦（Psychological Warfare）」と呼ばれている。
時間軸は数十年単位だ。
第1段階は士気低下で、社会の道徳・文化的基盤を崩し、人々が自国や価値観、制度への信頼を失うようにする段階であり、約15〜30年、つまり1世代かかる。
第2段階は不安定化で、士気低下の状態を利用して社会・政治・経済の不安定を生み出し、人口を二極化させるもので、約2〜5年かかる。
第3段階は危機で、不安定化した社会を全面的な危機へ押し込み、人々に急進的な変化を求めさせるもので、約6週間かかる。
第4段階は正常化で、危機が権力移動につながった後、新たな秩序が「正常」として受け入れられ、全体主義体制が定着する持続段階である。
ヨーロッパ全域で起きた社会基盤施設への破壊工作、投票所への爆破予告、宗教施設への攻撃や憎悪落書きのために下っ端犯罪者を雇うといったハイブリッド戦の事例を見ればよい。
この戦略は、社会的結束を弱め、宗派的な政治を生み出して社会を細切れにし、関心を内向きに向けさせて一貫した方向を追求できなくする試みだと解釈できる。
それはアメリカの力と影響力を弱めるうえで非常に効果的だったし、自分たちのメッセージを広めることも別個の目標だ。
戦争や戦争支援はたいてい大衆の支持に依存しておらず、アメリカでも外交政策を基準に投票する人は約3%しかいない。
大衆がどんな物語を信じるかが、そこまで重要なのか疑問だし、説得する価値があるのは権力者たちであって、政治家や職業官僚を買収するもっと直接的な方法も多い。
自国民に宣伝するのは理解できるが、このやり方はあまり筋が通っていない。
一方で「混乱拡散」は、資源を自分たちの利害から国内対立へ振り向けさせるので、説明力がある。
リンクをクリックしたとき、どんでん返しとして国家支援のトロール工場なのだろうが、私たちが普通思い浮かべるあの国ではないかもしれない、と思った。
だが記事には「必ずしも国家支援型の伝統的な外国介入とは限らない。ときにはずっとありふれていて、ある意味ではもっと憂鬱だ……何千マイルも離れた人々が、カナダ流の怒りが収益性のあるニッチだと見抜いただけなのだ。実際にはカナダ政治にまったく関心がないのかもしれない」とある。
低所得国の人々が、自分で信じてもおらず、関心も知識もない話題について怒りを拡散して小銭を稼ぎ、プラットフォームの所有者は大金を稼ぐという構図を、表現の自由絶対主義者たちがどう擁護するのか気になる。
金をもらって言うことを本当に表現の自由と呼べるのかも疑問だ。
Gmail のスパムフォルダを見ればいい。Twitter もフィルターがなければ同じことになる。
私たちが実際に望んでいるのは、フィードにどんなフィルターがあるのかの透明性、うまく機能しないときに調整できる能力、そして全体のソーシャルグラフとリーチを失わずに提供者を切り替えられる能力だ。
ここでいう発言には二つ含まれる。意見の表明と、雑誌や新聞の所有者による意見の掲載だ。
この二つは発言が広がる規模の点で大きく異なるので区別すべきだが、雑誌や新聞にも意見を掲載する自由があり、その際には責任を負いうる個人として編集者や発行人がいることが重要だと思う。
責任の所在なしに発言を巨大な規模で増幅するソーシャルメディアのプラットフォームは、別物に感じられる。
収益化が望ましくない発言の大規模な増幅を促すなら、それは善意で表明された意見でもなく、直接責任を負う個人もいないことになる。
投稿者が Facebook の大規模な出版行為まで責任を負うと考えるのも奇妙で、実質的にはロボット出版に近い。
ここからさまざまな結論を導けるだろうが、どの結論が正しいのかは確信がない。
ただ、名誉毀損法や「悪意」のような細部は重要であり、社会と技術が変わるにつれてその細部も大きく変わる、という点は押さえておくべきだ。
その表現は DPRK の「民主主義」くらい中身が希薄なことが多い。
本物の表現の自由絶対主義者なら、有償の発言が遮断されることをあまり気にしないはずで、むしろここでいう意味での有償発言には反対すべきだ。
表現の自由の核心は言いたいことを言えることであって、金を断れないせいで誰かが望む別のことを言うのは、反表現の自由に近い。
表現の自由の要点は、何らかの権威者の承認を得る必要がないことにある。
表現の自由に回りくどく反対する議論のように聞こえる。
米国が Orban、ドイツの AfD、Farage などを通じて EU の分裂を支援しているのと同じくらい、EU もカリフォルニア分離主義に資金を出してほしい。
カリフォルニアと直接貿易するのは難しいが、南部諸州が離脱すれば、米国東海岸はなお良好な貿易地域として残る。
外部介入はさておき、自然発生的なコンテンツがある程度あってもよさそうなのに、そうなっていない。
Nieta Aqila が投稿した Meta 収益化ダッシュボードのスクリーンショットの一つによれば、Alberta の Facebook グループで活動していた1か月の間に約14ドルを稼いでいた。
CBC が数ドル稼ごうとしていたこの女性をこの暴露の主役として据え、それを可能にしたFacebook 幹部たちは匿名のままにしているのは、実に勇敢なことだ。
カナダにはこれを防ぐ法律がないのかもしれないが、一部の国ではこうした行為を国家に有害な破壊活動として分類しうる。
通常は禁錮、事業遂行権の剥奪、公職就任権の剥奪で処罰される。
もちろん、ある国にいながら特定の国について悪く言えば追放されることはありうる。
答えが何かはわからないが、現実の問題ではある。
これを明らかにした記者はよくやった。
最近多くの「記者」がやっているように見える、プレスリリースをコピー＆ペーストするのとは違う。
そうした現象の一因は、Facebook のような企業のせいで報道機関が空洞化したことでもある。
Facebook のプロパガンダがそれほど効果的で安いのなら、西側の民主主義国も Belarus や Kazakhstan で民主主義の価値を宣伝すべきだ。
カナダもこのチャンネルを使って米国の関税撤廃を後押しすべきだ。
重要な問題で Facebook が効率的だとは思えない。
もし私が間違っているのなら、カナダ政府は国内外で民主主義の価値を広めるのがひどく下手だということになる。
そのため彼らは自然に西側へより大きな影響を与えられるが、西側は同じやり方で彼らに影響を与えるのが難しい。
まず絶対数でも人口比でも、カナダの Facebook 利用者は Belarus より多く、インターネット検閲も影響する。
この種のアプローチが最も必要な国ほど、普通は外部からその国民に到達するのが最も難しい。
少なくとも北米では、Facebook に最も深くはまっている人ほどメディアリテラシーが低く、反動的傾向を持つことが多い。
賢い人たちはずっと前に去っている。
Trump が民主主義の促進はウォークだとして停止させた。
データセンター、MAGA、そのほか数え切れないほど多くのものも同じだ。
アルゴリズムが人々の現実認識を操作するために悪用されており、人々もそれを分かっている。
それでも何百ものコメントや、数え切れない記事・投稿・動画を読んだり見たりしていると、あまりに現実らしく感じられて流されてしまう。
私が知らない何かがあるのかもしれないが
私はこのあたりの農村部、こういうものがもっと受けそうな場所に住んでいる。
だが誰もこの話をしておらず、会話にも上らない。
得票率が 15% くらいになることはあるかもしれないが、それでも関心のある人だけが投票に行くからだ。
完全に 捏造された数字 としか思えないのではないか?
こうしたインセンティブは、世界中の政治問題や全般的な メンタルヘルスの悪化 のかなりの部分を占めていると思う。
個人的にも、YouTube や Facebook に、自分が望まない短い動画をもう表示しないようにさせるのは難しかった。
「興味なし」や「表示を減らす」ボタンを押しても、ほとんど効果がない。
一貫して効果がある方法は、フィードでこれ以上見たくないものを目にした瞬間にアプリを閉じ、しばらく戻らないことだ。
それが推薦システムに送れる最も強いシグナルだ。