x.comにおける作られたコンセンサス
(rook2root.co)- x.comでは、推薦アルゴリズムと影響力の大きいアカウントの相互作用によって、ユーザーが何を見て、何が注目され、何が埋もれるかが静かに変えられうる
- フォロワー2億1,900万人のアカウントが小規模アカウントをミュートしたところ、そのアカウントの閲覧数が一晩で15万から2万に落ちた事例がある
- 同じシグナルは抑制だけでなく増幅にも働き、リーチの大きいアカウントのコメント・リポスト・いいね・通常の返信がアルゴリズム上の支持シグナルのように読まれうる
- 従来のastroturfingが偽アカウントやボットに依存していたとすれば、ここでは実在ユーザーの中から選ばれたエリートアカウントがプラットフォームの増幅を引き起こす
- コンテンツを削除したりブロックしたりしなくても、フィード順位や露出位置は変わり、ユーザーはすでにフィルタリング・ランキング・露出された選択肢を有機的な世論のように受け取ることになる
アルゴリズム権威と露出調整
- 影響力の大きいユーザーと推薦アルゴリズムの設計は、人々が何を見て、何が注目され、何が沈黙させられるかを静かに形作る
- フォロワー2億1,900万人のアカウントが小規模アカウントをミュートすると、その小規模アカウントの可視性は一晩で15万閲覧から2万閲覧へ落ちた
- ブロックでも論争でもなく、ミュートだった
- 別途通知もなく、ルール違反もなかった
- ソースはNew York Timesの They Criticized Musk on X. Then Their Reach Collapsed
- こうした抑制は、運営者による制裁ではなく、より高い重みを持つ参加シグナルに反応したアルゴリズムが生み出したshadowbanningの一形態として扱われる
- 逆に、同じシグナルがコンテンツを押し上げることもある
- リーチの大きいアカウントの曖昧なコメントやリポストが支持シグナルのように読まれる
- いいねや通常の返信のような低コストの反復的相互作用も、勢いを模倣して増幅を引き起こしうる
社会的証明から作られたコンセンサスへ
- 社会的証明はもはや群衆の知恵だけを反映するのではなく、影響力の近くにいるアカウントが生み出すアルゴリズム承認のように機能する
- 単一の相互作用でも規模感を歪め、選ばれたコンテンツが広く支持されているかのように見せることができる
- コンテンツを削除したりブロックしたりしなくても、露出は減らせる
- フィード内で低順位へ押し下げられる
- 中核的な可視性エリアの外に配置される
- より新しいシグナルに押し流される
- 増幅は下流へ流れ、1つの高重み相互作用が類似アカウント群の参加と反復露出を引き起こす
- 従来のastroturfingは偽アカウントやボットに依存していたが、ここでは実在ユーザーの中から選ばれたアカウントがプラットフォーム増幅を始動させる
- 作られたコンセンサスは、群衆そのものを偽物にする方式ではなく、実際の参加を選択的に増幅して広範な同意のように見せる方式である
- 大規模に形成された認識は、人々が何を見て、何に投票し、何を買い、何に抗議し、何を無視するかまで変えうる
- 影響力が最も効果的に働くのは、露骨な検閲や攻撃的なブーストではなく、1つのアルゴリズム的ナッジごとに静かに認識を変えていくやり方である
- あまりに公然とかつ素早くすべてを制御しようとする場合は、EUのXに関する追加調査措置のように捕捉されうる
2件のコメント
記事の事実関係はさておき、Twitter を使ってきた経験では、フィードだけでなく返信も、いいね数やリツイート数ではなく、フォロワー数が多いものから表示されるように思います。
すでに影響力（フォロワー）の大きい人の意見ばかりを見ることになり、その下に埋もれた何十、何百もの意見は、いいねをもらおうがもらうまいが、目にする確率がかなり低くなってしまうわけです。
実際、SNS でなくてもすでに多くの場所でこうした形の露出が採用されていますが、意識的にできるだけ多くの意見を探すことが、インターネットにおける必須の心得なのかもしれません。
Hacker News の意見
Twitter は投稿をいったん露出抑制しておき、ヘイトボットが群がってスパムを撒いたあとでようやく見えるようにしているように見える
https://bsky.app/profile/willhaycardiff.bsky.social/post/3lk...
Twitter が好みそうな投稿、たとえば暴力的でヘイト的な反移民投稿には、むしろ好意的なボットが群がる証拠も見た
Twitter は Donald/Elon などが運営するプロパガンダチャンネルのように見える
特定人物のブロック、ファクトチェックの停止、ボット対策と検出の弱体化のような実例がたくさんある
かつて Twitter にもっと多くの人員が必要だったのには理由があった
ヘイトボットのスパムもアルゴリズムにとっては「エンゲージメント」であり、この説明は投稿者が体験した現象とよく合っている
ただし、プラットフォームが反ウクライナ投稿を抑制しているという主張には、根拠がまったく足りない
「これがひとつのソーシャルネットワークでだけ起きていると思うなら、すでに誤った注意のループに閉じ込められている」
「最も効果的な影響力は、自らを露わにしない。大々的に検閲したり、露骨に後押ししたりはしない。アルゴリズムによる小さな後押しを一つひとつ積み重ね、静かに認識を形作る」
4chan が妨害されたのも、こうした遅延メカニズムを入れる余地がなかったからなのかもしれないと思う
HN はどちらの方式を取っていると見ているのか、ここにはボットがどれほどいると思っているのか気になる。広告は見えないので
こうしたポリシーが生む複利効果のせいで、少し不気味に感じる
強力な X アカウントがいくつかあるだけで、さらに多くのアカウントを育てられるし、他者を黙らせるだけでなく、味方を押し上げて、黙らせる能力そのものを大きくできる
まだ初期段階なので、影響力の掌握プロセスを見ているところであり、影響力が新たな資本だという議論もある
デジタル時代に資本蓄積を可能にしたシステムを、影響力の領域でもそのまま再現している
Elon がアルゴリズムのソースコードを派手に公開したことで、検索最適化エンジニアたちがシステムに合わせて言論をコントロールできるようになった
「誰でも読める」とはいっても、現実にその手間をかけ、実行する時間とリソースを持つのはプロパガンダ勢力だけだ
事実上、サイトを IRA に明け渡して好きにやらせたようなものだ
ただし、私たちが参加することを選んだときにだけ、その力が維持されるという点も覚えておく必要がある
個人的には X.com や Elon Musk に関わるものから完全に離れ、アカウントを消してエコシステムから抜けたら、生活は良くなった
ドゥームスクロールも、アルゴリズムによる誘導も、さりげない行動の条件づけもない
影響力は新しい資本かもしれないが、退会と不参加も依然として主体的な選択だ。参加は義務ではない
最初はかなり普通だった
https://web.archive.org/web/20150501033432/https://voat.co/
その後、参加にカルマベースの制限を設けた
https://web.archive.org/web/20170520210511/https://voat.co/v...
そこに Reddit から追い出されたレイシストや女性嫌悪者が流入し、偏狭な人々が互いを推薦してパワーユーザーになり、反対する人を検閲するという雪だるま効果が生まれた
まともなユーザーは居続けたくなくなり、その結果、偏狭さはいっそう固まった
数年もしないうちに、新規投稿のほぼすべてが急進右派、露骨な人種差別・性差別・反ユダヤ主義のネオナチ的なゴミになった
https://web.archive.org/web/20200610022710/https://voat.co/
サイトは2020年末、資金不足で閉鎖された
Xitter でもほぼ同じことが起きているが、出発時点のユーザー層がはるかに大きく、Elon が当面は資金を出せるため、進行がより遅いだけだ
十分な注目が集まり、インセンティブが生まれるところならどこにでも作られた合意がある。その中でも最悪なのは間違いなく Reddit
人気サブレディットの大半は、今では世論操作が前提になっており、毎週何かに対する十字軍運動が起きる
最初は Twitter の禁止を主張していたのに、今では AI 画像の禁止に反対する、といった具合
普通の投稿でも、最近の Reddit は群集心理が強くなっていて、コメントをざっと見ると同じ意見が延々と繰り返されている
「同意」のように議論に何も付け加えないコメントが、数百の推薦を受けることもある
Pew も X を、ほとんどのソーシャルメディアより政治的に中道寄りだと評価してきたが、もちろんそれは主観的かもしれない
選挙前は、予備選なしで候補を立てることに疑問を呈すると冒涜扱いされたが、選挙後にはそれが敗因として広く受け入れられた
膨らませたプロパガンダの風船がしぼむのを見ているようだった
異論は即「ヘイト」になる
2021年からユーザーのトップ画面の Best 並び替えが、賛成票・反対票ではなくエンゲージメント指標を使っている点はいったん脇に置くとしても、moderator たちが許容される内容を徹底的に掌握している
r/redditminusmods がこれを追跡していた。12時間ごとに上位50件の投稿をスナップショットとして保存し、前の12時間のスナップショットにあった投稿のうち何パーセントが削除されたかを確認していた
開始時点では平均20%ほどだったが、終盤にはほぼ12時間ごとに50件中50件、または49件が削除されるレベルになっていた
当然 Reddit はこのレベルの監視を許容できず、理由も明かさないままそのサブレディットを禁止した
今では Google でまともに出てくる結果も、事実上ここに行き着く。どれほどひどかったかは自分で見られる: https://news.ycombinator.com/item?id=36040282
それも2年前までを扱ったものにすぎず、その後はさらに悪化したように感じる
worldnews や politics のような一部のサブレディットが、許容範囲外の意見を持つ人を禁止して合意の幻想を作り出す問題は、ここでは扱ってすらいなかった
この記事がこれほど多く推薦されているのは驚き。今書いている時点で40ポイントだけど、実際には記事の中身の密度はあまりない
筆者は「Muskとの対立」の後、特定ユーザーの閲覧数が急落したグラフを示していて、これは明らかに怪しく、言及する価値がある
しかしブログの残りは「ソーシャルエンジニアリング」と「認識の連鎖」についての思弁にすぎず、裏付けはほとんどない
人々はタイトルと最初の段落だけを見て推薦しているのでは、と思う。この記事はグラフだけ残しても失うものはほとんどなかったはず
引用されているNYTimesの記事と最初のグラフの出典のほうがむしろ興味深く、ほかの事例もいくつか含まれている
https://www.nytimes.com/interactive/2025/04/23/business/elon...
またはWeb Archive:
https://web.archive.org/web/20250423093911/https://www.nytim...
私たちが知っている事例もある: https://www.theguardian.com/technology/2023/feb/15/elon-musk...
人々が見ているものは自然に見えるが、実際にはすでにフィルタリングされ、順位付けされ、表面に引き上げられたものと相互作用している
私もそうだし、多くの人もコメントやコンテンツを、ある種の有機的な合意の散乱光のように受け取りがちだ
数千人が同じ答えを投稿すれば、たしかに合意のように感じられる。もちろん必ずしも事実ではなく、実際には大きく違うかもしれない
それでも興味深いのは、より多くの人がそう認識すれば、結局は実際の合意になり得るという点だ
結局ここにもアルゴリズムの取っ手が作用しているという事実を思い出すのはよいことだ。目新しい事実でなくても
実際に根拠として頼っていたのは3つだった
記事がほぼ終わった後でこの論文を思い出したため本文に入れられなかったが、入れるべきだった。Elonのリーチを狙って引き上げるアルゴリズム変更を示している
残りの出典は推測に近かった
Super Bowl騒動: https://www.theguardian.com/technology/2023/feb/15/elon-musk... — 証拠は弱い
Elonがエンジニア100人に自分のツイートをブーストさせたというのは伝聞レベル
内部告発者だという投稿もある: https://substack.com/@theconcernedbird/p-154577954 — しかしやはり証拠はない
アルゴリズムはいまだにクローズドソースだ
グラフ以降の記事が響かなかったなら申し訳ない。次はもっとよくする
-- 筆者
Xはまた暗号資産と金融サービスを売り込むボットであふれている
代わりに、クリック狙いの使い回しコンテンツは相変わらず多く見える
タイトルは皮肉なのだろうか？これが役に立つのか分からない。
チョムスキーとハーマンの本 Manufacturing Consent は、この状況ではおおむね使われていない手法を扱っている。
チョムスキーの本は隠れた編集者を明らかにするので、その効果を強めるというより弱める。
ここでは国営メディアに近い。客観的なふりをする既知の編集者がいて、その編集者は特定の話題だけを気にし、残りの話題は追跡可能な形で自由に動き回らせている。
チョムスキーの場合、編集者の力は秘匿性から来ており、人々がだまされるときにだけ機能するので、本はその力を弱める。
一方この場合、力は編集者が 知られているのに止められない ことから生まれる。
人々はそれを受け入れなければならず、自分が受け入れているという事実も知っていなければならない。群れに流されているという自覚を避けるには、ファンとして同調するしかなく、そうでなければ外部者であることを示すことになる。
大多数は何もしないというデフォルトの選択をするため、自分が流されている、あるいはファンであるという証拠が積み上がっていく。
これは同意を製造するというより、「味方でなければ敵」のような強制装置として 受容を条件づける ものだ。
こうした記事とそれに続く議論は、編集者に反対するとどうなるかを示し、何の行動もなく終わることで、むしろ編集者の力を強め、自己検閲の効果を大きくする。
だから役に立たない可能性もある。プラットフォームが公正性の主張を守れないときは捨てるほうがよいだろうが、それを設計するのは難しい。
Xの「製造された合意」に関する記事の不安は誇張されている。
影響力は常にキュレーションされてきた。編集者、村の告知係、マイクを握った人は皆、アナログなアルゴリズムだった。
Xの罪は邪悪なアルゴリズムではなく、ただ 惑星規模 で動いていることにある。
何千もの小さなコミュニティを捨てて、ひとつの地球規模の叫び場に来たのだから、巨大インフルエンサーたちが場を支配するのは当然だ。
アルゴリズムは、私たちが即時で世界規模のおしゃべりを渇望しているために、この混沌を回し続ける歯車にすぎない。
完璧なアルゴリズムが存在するふりをする人もいるが、bskyやIG/fbも、ひとつのチーム、ひとつのデータベース、ひとつの基準で解決できるわけではない。
「完璧な」システムとは、異なる空間の異なるアルゴリズムがゆるく結び付いた雑然とした網であり、それぞれに文脈を持つものだ。
Xのコードを責めるのは本質を見失っている。私たちはこの惑星規模のサーカスに参加し、今もチケットを買い続けている。
だから単に惑星規模だから起きたことだけではない。買収前からすでに惑星規模だった。
アルゴリズムには、惑星規模でナラティブを一方向へ押しやる力がある。
アルゴリズムが実際にこのように動作していると分かっているのか？記事は特定の事例ひとつのグラフだけを示しており、閲覧数の急落には複数の説明があり得る。
特にTwitterの所有者が絡んでいることを考えるとなおさらだ。
実際には2年前にGitHubへ一度きりのスナップショットを載せた後、更新もなく、再び言及もしなかった。こういう例は一つや二つではない。
フォローしている人たちが反応した投稿のプールから取ってきているようで、制限は24時間程度に見える。
それほど洗練されたアルゴリズムではないが、ワークライフバランスの問題のため、最高の人材がそこで働きたがらない可能性は高い。
昔のオレンジ色のサイトのスレッドを見ると、人々がTwitterを 公共財 と呼ぶなど、過激な主張を深く考えずにしていたのが面白い。
ただ正直、この会社はずっとこうした問題に脆弱だと思っていた。
だからMasnickの「Protocols not Platforms」という記事はいまだに本当に的を射ている。
https://knightcolumbia.org/content/protocols-not-platforms-a...
読みながらHNとの類似点を思い浮かべずにはいられなかった。
それでもHNは「アルゴリズム」について透明であろうとしているし、X/FBなどが使っているものと比べれば本質的に 単純なアルゴリズム だ。
一方Xでは、それぞれが少しずつカスタマイズされたフィードを受け取る。
危険でひどいものになる理由はそこにあり、単純な投票システムや新着順ソートのせいではない。
もちろん、こういう議論では必ず誰かが「技術的にはそれもアルゴリズムだ」と親切に指摘してくれるのだが。
そうしない理由は、moderationの偏りと流れ が見えてしまうからだろう。