少数の「supersharers」がフェイクニュースの大半を拡散
(science.org)- 2020年の米大統領選期間中、X（旧Twitter）の米国有権者サンプルでは、約2000人の supersharers がフェイクニュースサイトのコンテンツの80%を拡散しており、偽情報の拡散がごく少数のアカウントに集中していたことが示された
- この集団の平均年齢は58歳でサンプル平均より17歳高く、ほぼ60%が女性で、登録政党は共和党64%、民主党16%だった
- 研究チームは活動量の多さから自動化を予想していたが、ツイート時刻や間隔からボット的なパターンは見つからず、実際のユーザーが直接リツイートしている挙動に近かった
- 2020年8月に彼らを停止していれば、有権者が見た偽の選挙ニュースは3分の2減少していたと推定され、1日50件のリツイート制限は supersharers の約90%に影響する一方、全ユーザーでは1%だけが対象になる
- リツイート制限や再確認の手順は、大半のユーザー体験を大きく損なわずに拡散を減らせる可能性があるが、実際の効果は彼らがなぜ拡散し続けるのかを理解できるかにかかっている
2020年大統領選データで明らかになった集中拡散
- Scienceに掲載された分析によると、X（旧Twitter）の米国有権者60万人超のサンプルでは、フェイクニュースサイトのコンテンツ拡散は少数のユーザーに大きく偏っていた
- Infowars や Gatewaypundit のようなサイトの2020年米大統領選関連コンテンツがソーシャルフィードに表示されていたなら、その発信源はごく小さなユーザー集団だった可能性が高い
- 研究チームは実名と位置情報を使う米国のXユーザー66万人のデータを活用し、有権者登録データと照合した
- これらのユーザーが1日に共有した政治ニュースのうち約7%は、Infowars や Gatewaypundit のような信頼できないウェブサイトから来ていた
- そのうち2107人がフェイクニュースの80%を拡散しており、データセット内ユーザーの20人に1人以上が supersharers の少なくとも1人をフォローしていたため、この小集団の到達範囲は大きかった
supersharers の特徴と考えられる対応
- supersharers の平均年齢は58歳で研究全体の平均より17歳高く、ほぼ60%が女性だったため、ソーシャルメディア操作を行うのは若い alt-right の男性だという固定観念とは一致しない
- 登録政党は共和党64%、民主党16%だった
- 高い活動量にもかかわらず、ツイート時刻や間隔には自動化を示唆するパターンは確認されず、共著者の Briony Swire-Thompson は、彼らは実際にコンピューターの前でリツイートボタンを押しているのだと説明している
- Nir Grinberg にとって supersharing は、テクノロジーに長けた個人による一時的な選挙介入というより、社会の一部の情報生態系を汚染する長期的な社会技術的プロセスに近い
- 以前の研究でも同様の集中現象が見られた
- 2019年、Nir Grinberg と同僚は、2016年米大統領選の前後における Twitter ユーザー1万6000人超のサンプルで、信頼できないウェブサイト由来のツイート済みニュースの80%が、わずか16人から出ていたと分析した
- 対応は supersharers を直接狙うか、リツイートの過程を制限する形で設計できる
- 2020年8月に supersharers を停止していれば、有権者が見た偽の選挙ニュースは3分の2減っていたと推定される
- 1日のリツイート上限を50件にすると、研究中の fake news supersharers の約90%が影響を受ける
- 同じ制限でも、全ユーザーでは約1%だけが上限に達する
- Stephan Lewandowsky は、絶対的な制限ではなく、Xがユーザーに本当にリツイートするかを尋ねる形で、過程を少しだけ面倒にすることもできると見ている
- 残る問いは、supersharers が何をしているかではなく、なぜそうするのかへと移っている
1件のコメント
Hacker Newsのコメント
「フェイクニュースの共有をどう防ぐか？」ではなく、「人々がフェイクニュースを見分けるためのツールをどう持てるようにするか？」が正しい問いだと思う。
ツールを与えたのに、それでも誰かが私にはフェイクニュースだと思えるものを広めるなら、できることはすべてやったことになる。あまりにも多くの人が、自分と違う内容を共有することに怒り、コミュニケーションを抑え込もうとしている。しかしそれは、そういう考えが説得で負けたというだけで、人々には私を怒らせる考えを持ち、共有する自由がある。検閲という武器を手に取れば、それを振るう最後の人間が自分だとは限らない。
フェイクニュースはたいてい、虚偽の噂や、証明不能で根拠のない主張を増幅することに近く、それが言論空間を大きく損なう。反対意見であっても、証明可能な事実として提示され、裏付けられているなら、喜んで読みたい。
量は事実でも真実でもない。検閲が危険なのはその通りだが、この記事は検閲を主張していない。Mark Twainの「嘘は、真実がブーツを履いている間に世界を駆け巡る」という言葉のように、ソーシャルメディアはその効果にロケット燃料を注いでいるようなものだ。ある集団が嘘を一貫して不均衡に増幅しているなら、少し摩擦を入れたり、再投稿するものを優先順位で選ばせたりするのは合理的だ。これは嘘の投稿を止めるものではなく、本人が最も重要だと思うものだけを選ばせるだけだ。
Hacker Newsでも投稿しすぎると「Please slow down, you're posting too fast.」のようなメッセージが出て、数時間は再投稿できない。これを「検閲だ!!」と泣き叫ぶ人は見たことがないし、Twitterでの議論がHNより優れていると思う人もあまりいないはずだ。だから他のソーシャルメディアに同様の投稿量制限を提案すると、なぜ「検閲」だと言うのか、特定の内容には何の制限もないという点も含めて答える必要がある。
望んでいるのは、人々が敵のフェイクニュース、あるいは真実であっても敵が語ったものなら、そこで遮断されることだ。そうすれば人々は私の言うことはすべて信じ、敵は影響を与えられなくなる。
1990年ごろ、インターネットメールが技術に明るい組織の非技術系社員に初めて普及し始めたとき、ごく少数の人が娯楽的共有障害のような行動を見せていた。
ブロンドジョークであれ、「がんにかかったKatieのために皆で祈ってください」であれ、「これを1,000回転送すれば世界平和が訪れます」であれ、関係なかった。信頼性フィルターもなく、他人の時間や関心を尊重するフィルターもなかった。接続ユーザーが増えると、こうした事例がごくわずかな割合でも、ダイヤルアップモデムや部分的なT-1回線レベルのメールサービスを台無しにするほどのトラフィックが発生した。数学的には興味深く、管理者が時々注意喚起すれば職場ではかなり制御可能だった。今では政治と感情が乗ってはるかに有毒になったが、根底にあるのは大部分が非常に大きなネットワークと、人間行動のベルカーブ分布だという点を思い出す必要がある。
プラットフォームが望めば、政治や怒りを誘発するコンテンツなどをフィルタリングするユーザー設定を作るのは簡単そうだ。例えばRedditは、私がそのサブコミュニティに属していなくても、警察暴力の動画リンクをホームに表示する。レジ前にチョコバーを置いて、わざと自制心と戦わせるのに似た悪いパターンに見える。
ニューヨークから車で数時間離れた小さな会社で働いていて、さらに西に本社がある大企業の子会社だった。本社の管理部門の誰かが前日の事件の超高解像度写真を転送したのだが、使ったグループメールアドレスが管理体系下にあるすべての組織を含んでいたため、1万〜2万人が写真を受け取った可能性がある。3通ほど送った後、やめたか、止められた。良くも悪くも、RSD傾向のある人たちはFacebookへ移っていったようだ。
https://www.youtube.com/watch?v=KCSA7kKNu2Y
小さく集中した集団が社会に大きな影響を与え得ることはよく知られており、LGBTの権利のように当初は周縁的だった進歩的なアイデアも、そうして実現された。
フェイクニュースの問題は、その一部が事実だと判明することで、反対していた人々の信頼を損ない、「真実の裁定者」への疑念を生み、スーパーシェアラーにより大きな信頼を与えることだ。「公式メディアがあの件で嘘をついたなら、この人も正しいかもしれない」となる。今ではJeffrey Sachsのように、生涯にわたって権力圏にいた尊敬される人物まで、さまざまな公式の物語に疑問を呈している。これが「真実」のシグナルをさらに弱め、混乱を増している。AIも近いうちに状況をさらに悪くしそうだ。
研究所流出説を口にするだけで烙印を押されていた時期を思い出せばいい。最終的に主流メディアも方向転換したが、その過程で信頼性を大きく傷つけた。イラクに大量破壊兵器があるという物語も、多くの人が直接、虚偽だと明らかになるのを見ながら育った。今では何も信じない。科学的思考を持っていれば、自分で判断し、自分が狂っているわけではないとある程度確信できるのは幸いだが、ほとんどの人にはそれがうまく機能しないというのが核心的な問題に見える。
どんな組織でも、よく組織された少数派は、組織されていない多数派や残りの人々に力を行使する。だから突拍子もない地方条例のようなものが生まれる。小さいがよく組織された集団が圧力を生み、反対側は散り散りで無関心だ。その少数集団が小さすぎさえしなければ、むしろ小さいからこそ、同調者や役に立つ愚か者のような、より大きな周辺支持層を組織しやすい。土曜の午後に一緒に行進すれば、周縁的なアイデアが多数意見のように見え、関心のなかった人たちも「まあ、何でもいいか」となる。
個人的には、「リツイート」機能がそもそもないソーシャルメディアのほうが好み
自分がフォローしている人たちの実際のオリジナルの更新を見たいのであって、ニュースであれフェイクニュースであれチェーンメールであれ見たいわけではない
私がフォローしているアカウントの大半は、すでにフォローしていた人がリツイートしたり、Mastodonではブーストしたりしたことで見つけたもの
だから、これを完全に止められるのかは分からない
問題は、人々が実際の証拠なしに「Xが起きていると聞いた！」のような元の出所を無批判に信じてしまうことにある
はるか昔にさかのぼって考えると、見知らぬ人同士が野外で出会い、互いに警戒している状況を想像できる
脅威なのか潜在的な友人なのかを判断するには、信頼を築く必要があった。どこから来たのか、誰を知っているのか、共通の知人はいるのか、嘘をついているのか、といったことだ。初期の信頼ネットワークは、他者についての個人的な知識に基づいていた。同じような信頼の網が再び現れるべきだと思う。誰かを保証し、その人がやらかしたら保証した人にも影響が及ぶ構造だ。信頼の輪の中にオオカミを入れてしまえば、関係グラフが崩れかねない、と考えればよい
信頼の輪が損なわれたときに丸ごと切り捨てられるなら、より本物らしいウェブを取り戻せるかもしれない。くだらない広告やブログスパムを見たら、それを抱え込んだ輪のコンテンツをもう見ない、という形でペナルティを与える。小さな輪が別の輪とつながり、最初の輪には実際に知っている人もいる。一種の新しいウェブリングだ。インターネットへの唯一の入口が自分のリングと関連リングだけならエコーチェンバーが生まれ得るが、身近なリングから悪意ある行為者を排除する能力も得られる。フェイクニュースのプロパガンダが出たら、オオカミが排除されるまでリングと全メンバーがペナルティを受ける、という具合だ
制服まで着ていればボーナスで、誰もが信頼するだろう。誰を信じるべきかを見抜くことは、人間の強みではなかった
ある人をある話題では信頼しても、別の話題では目を丸くすることがある。その信頼は変化するし、実際しばしば変化する。相手が変わるからのこともあれば、自分が変わるからのこともある。少なくとも私にとっては、1つのノードに無数の点滅する深さ1の接続が付いている姿に近い
多くの人も、必ずしも自覚していなくても似たような考え方をしていると思う。誰もが表向きには勝ってほしい候補に投票する民主主義がある一方で、議会支持率は一桁に近づく。[1] 自分の側とその政党がどちらも権力を握っていても極度に不満だからこそ起こり得ることで、そうでなければ少なくとも50%近くは維持されていたはずだ
[1] - https://news.gallup.com/poll/1600/congress-public.aspx
個人はもはや存在しない。すべての人が主にマスメディアと学校の大量注入型教育によって形作られているからだ。存在する少数の個人は、スーパーシェアラーのように過度な影響力を行使し得る
「フェイクニュース」という用語はあまりに広く、イデオロギー的なポジショニング、言語的な誇張、独善的で素朴なリアリズムが入り混じっていて、事実上禁止すべきと言えるほどだ
人々が読むものや共有するものに対してより批判的になるよう促す目的に見えるが、実際には逆に働く。出所に悪いものと良いものというラベルを貼るだけであり、これはプロパガンダにかなり近い。フェイクニュース／良いニュースという二分法より、はるかに微妙な分類が切実に必要だ
あらゆる情報拡散がべき乗則に従うというのは、まったく意外ではない。政治、怒りを誘うもの、技術的な議論、中立的で退屈なニュースのような情報カテゴリを比較していたなら、興味深いことが言えたかもしれない。だがこれは、概ね価値判断に基づく狭いカテゴリの偽情報だけに焦点を当てている。特定の情報タイプが位相的性質においてどう異なるのかが分かれば、はるかに面白いだろう
ここ数年、いくつかのツイートを有料でプロモーションしてきたが、フィード上のほぼあらゆるものをリツイートしているように見える一定割合のユーザーが一貫して見られた
私のコンテンツはニッチな分野なので通常の読者が非常に少なく、私のツイートに反応した人を見ると、こうした盲目的なリツイートアカウントが非常に目立つ。私が見た行動は本文の内容と一致している。リツイートが集中するタイミングは、実在の人間がボタンを押していることをかなりよく示唆し得るし、実際そうだと疑っている。個々のツイート単位では読者が少ない非常に荒唐無稽なフェイクニュースをロングテールで見ると、そうした明白な虚偽へのリツイートの大半がこの種の盲目的なリツイートアカウントから来るとしても驚きではない
全体としての効果は、こうしたユーザーが属するバブルが、不条理なものまで含めて少し増幅される程度だが、それが本当に人気になるうえで何らかの役割を果たしているかには懐疑的だ。本当の問題はもっと微妙だ。盲目的に押さない人までだます、より明白でないフェイクニュース、多くの人がもっともらしいと感じて大きな読者を得る、より明白でないフェイクニュース、反論やファクトチェックで人気が冷めた後も集合的無意識の中に残る欺きのほうが大きい。完全なたわごとを繰り返すスーパースプレッダーの効果は、実際に主流になるほとんどもっともらしいたわごとの効果に比べれば、微々たるものだと思う
この法則では、ソーシャルネットワークやレビューサイトではユーザーの1%だけが積極的にコンテンツを作り、9%がコメント・評価・共有で参加し、残りの90%は反応せずに見たり読んだりするとされる。私の経験でもそうだし、HNでも多数は潜伏読者だ。潜伏しているだけだと、何かをあまり考えずに消費してしまう可能性がずっと高いと思う。何かを本当に理解するには教えてみるべきだという格言のように、少なくとも説明できなければならないが、それは受動性の中では起こらない。会話の中で起こる
私たちは還元主義的な世界に生きており、それは変わらない。他の人が正しく言っていたように、出口はより良いツールしかない
もはや偽物の人間と本物の人間の区別もつかず、情報の品質を正確に判断するのはなおさら難しい。広告ベースのインターネットが作ったどぶがここまで来てしまい、出口は見えない
危機に陥った、あるいは終わりに向かう組織と多く仕事をしてきた。誰もが終盤だと分かっているのに、それでも行進を続ける時点が来る。人々の行動はポチョムキン村の中での行動のように変わる。ソ連末期がそうだった
これから必要になるツールは、コーディングとはほとんど関係ないと思う。実在の人々からなる小さな信頼グループ、段階的な共有、重なり合う関心事とグループ、一度に一つのことしかしないデバイスが必要だ。そうすれば、自分と自分の社会的グループが利用状況を監視し、最適化できるようになる。こうしたものが人間に有効だということを私たちは知っているし、何千年もやってきた。HNで受ける言い方ではないだろうが、種として前に進むために必要なツールはこれらだ。テクノロジーは確かに助けにはなるが、私たちの中に刻まれた共有された社会的・進化的経験を置き換えるには到底及ばない
長期的にはテクノロジーと進歩に楽観的だが、ツールの巨大な変化がいつもそうであるように、くだらないものを取り除き、社会規範を再適応させなければならない。私たちはこうしたことを何度もやってきたし、今後もそうであってほしい
「単純なリツイート制限は、この情報の拡散を抑えながら、大多数のユーザーにはほとんど影響しないだろう」という解決策は良い
以前、インドだったと思うが、WhatsAppはプラットフォームが民族暴力をあおるために使われた際、一度に共有できるユーザー数を制限した。こうした連鎖的なバイラル性に抑制装置を設ければ、どんなコミュニケーションネットワークでも正気を保つ助けになるに違いない
個人アカウントが、何の検証もなしに主要テレビニュース局並みの速度で配信するという組み合わせでは、真実に近いものは作り出せなかった。集団が真実を生み出す前提は、代表性のある群衆の知恵効果にある。高度に相関した0.1%のユーザーがすべての議論を揺さぶるのは、極めて病的な状態だ
最大の問題は、バイラルなユーザーを制限することが営利ソーシャルメディアプラットフォームの事業インセンティブと真っ向から反する点で、特にTwitterでそれが起こるとは思えない
「フェイクニュース」をなくす方法はない
そして、なくしたいとも思わないだろう。多くの場合、人々がフェイクニュースと呼ぶものは反対意見のニュースだからだ。肝心なのは、人々が自分で考え、すべてを問い直すよう教育することだ
解決策はなく、教育が確かに一歩前進ではあるが、問題ははるかに複雑だ
人々がどれほど頻繁にフェイクニュースを反対意見と見なしているのかは分からないが、この用語は偽情報を意味するよう定義されている。https://en.wikipedia.org/wiki/Fake_news
実際に偽情報を広めている人たちが、自分たちの立場は嘘ではなく反対意見だと主張し、自分たちは弱者であり、反対意見のために排斥されているのだと言うのは、かなりよくある戦術だ
人々にすべてを疑わせることも、彼らが望むことの一部だ。偽情報の目的は不信であり、すべてを疑うのはあまりにも難しい。例えばBrandoliniの法則を見ればよい。解決策は分からないが、私自身も高学歴でありながら偽情報のウサギ穴にはまった人たちを直接知っている。不信と陰謀論は一度根付くと、信頼できる情報源や科学的な情報源を評価する能力を損なう。教育が鍵だと仮定してはいけない。フェイクニュースは非常に、非常に効果的で、だからこそ人々はそれをやるのだ