- Redditで人間らしい絶望感を込めた投稿が約6,000件のアップボートと数百件のコメントを集めたが、投稿者の活動やリンクを追跡すると、ボットによる宣伝投稿だったことが判明
- そのアカウントはコメントをせず、ペット動画、再利用された心温まる話、繰り返し投稿されるミームを1日に複数本投稿するカルマ稼ぎのパターンを示していた
- 投稿末尾の
rddit.org リンクはReddit所有ではなく、匿名登録されたプレミアムリンク短縮サービスのドメインだった
- リンク先はAmazonにあるEdward L. Bernaysの著書 Propaganda の現代イラスト版で、URLにはアフィリエイトタグ
manwithhairwe-20 が含まれていた
- AIボットが「AIボットのせいでインターネットが壊れた」という感情を利用して信頼を得て、AI生成イラスト入りの古典テキストをひそかに宣伝する構図だった
人間のように見えたReddit投稿の奇妙な痕跡
- Redditのフィードには、政治的怒りを誘う投稿、再利用された猫動画、刺激的な恋愛関係の投稿、古いwojackミームが多く混ざっていた
- その中で
"Anyone else feel like the internet is just… broken now?" というタイトルの投稿は、本物の人間らしい感情で注目を集めた
- 投稿は約6,000件のアップボートと数百件のコメントを得た
- 本文には、オンライン上のあらゆるものが広告、商売、バイラル狙いのように感じられ、何も本物に思えないという内容が書かれていた
- しかし文のリズムや表現があまりにも共感を誘うよう最適化されているように見えたため、投稿者のプロフィールを確認することになった
- プロフィールは、バイラル化したペットのクリップ、再利用された心温まる話、繰り返し投稿されたミームで埋まっていた
- アカウントは毎日複数のスレッドを投稿していた
- コメントには参加していなかった
- こうした活動パターンは典型的なボットの挙動に近く見えた
隠されたアフィリエイトリンクとDead Internet Theory
- 元の投稿の最後の文には、
"This was written in 1928—it’s incredible how it predicted the moment we’re living in today and where we're heading." というリンクが付いていた
- リンクは
rddit.org ドメインを使っており、最初はRedditの短縮リンクのように見えた
- Twitterの
t.co、Facebookの fb.me のようなプラットフォーム用短縮リンクかもしれないと思えた
- WHOIS照会の結果、
rddit.org はRedditの所有ではなかった
- ドメインは匿名登録された低価格のプレミアムリンク短縮サービスだった
- クリックすると、AmazonにあるEdward L. Bernaysの古典 Propaganda の現代イラスト版へ移動した
- URLにはアフィリエイトタグ
manwithhairwe-20 が見えた
- その本には、やや一般的なレビューが13件付いていた
- イラストレーターのAmazonプロフィールをたどると、販売者は古典テキストにAI生成画像を加えた本を売っていた
- コメントでは数百人のユーザーが反応していたが、だましの仕掛けに気づいた様子は見えなかった
- 上位コメントはDead Internet Theoryに言及していた
- これは、オンライン上のやり取りの大半がボット同士による自動化されたループの中で行われているという考え方である
- 結局、AIボットが人間のように振る舞い、「AIボットのせいでインターネットが壊れた」と嘆き、その感情を利用してAIイラスト本をアフィリエイトリンクで販売していたというわけである
- 投稿の末尾はOrwell風の文をもじり、未来を「人間を悲しませ、怒らせて参加を促し、AI生成の低品質コンテンツを永遠に売り続けるボット」と表現している
1件のコメント
Hacker Newsの意見
Reddit API騒動のころにRedditをやめたが、その前からすでに習慣で使っていただけのひどいサービスだった
操作された世論があまりにもありふれていて、毎日驚くような、興味深い人や物事に出会えた昔のインターネットが消えてしまったことに深い悲しみを感じる。昔は本当に魔法のようだったのに、今はただ退屈なだけ
Reddit全体としては公平性に関心がなく、サイトが選んだ方向性はかなり明白に見える
まず、ある企業がインターネットコミュニティを作るために大金を投じる。やがて正当かどうかはともかく資金源が尽き、広告と低品質な投稿が標準になって劣化が始まる。人々は最初はゆっくり別の選択肢を探し始めるが、ある時点から非常に速く去っていく。すると新しい企業が、不満を抱えた大衆の想像力をつかみ、新しいオンラインコミュニティを作る
今のRedditはこの劣化サイクルの後半にいる。IPOまで行き、元の所有者たちは株式市場で数十億ドルを手にした。もうRedditに思い入れはないように見えるし、代替先を探す時期になった
Reddit自体も、LUEsers、Digg、Slashdotからの離脱が重なった地点で運よく選ばれた場所だった。その前にはUsenet、BBS、MUDのようなコミュニティがあり、世代ごとに技術が大きく変わるため、次に何が台頭するかを予測するのは難しい
piefedはlemmyのインスタンス群と連合していて、どちらのプロジェクトとも関係はないが、フィードをとても楽しく見ている
昔はRedditが好きだったが、特に政治団体による世論操作が耐えられないほどになった
前回の選挙後、政治団体は地域サブレディットが十分に活用されていなかったことに気づき、そちらへ再編したように思う。今でもGoogleでRedditを付けて検索した結果の一部は信じているが、その信頼も薄れつつある。製品・サービス推薦スレッドは本当に簡単に操作される
自家醸造、電子工作、楽器のようなニッチな関心分野のサブレディットに何度か参加してみたが、全体的に期待外れだった。Redditがニッチな趣味に向いた場所だと言う人たちは、本当に熱心で参加意欲の高いメンバーがいた昔ながらのフォーラムを経験したことがないのだ、というのが自分の仮説だ
ここ2〜3年でこの問題は悪化し続けている。ただしミームに関してはRedditは優れていて、本当に面白いサブレディットもある。とはいえ、ほとんど参加せず消費するだけだ
だから100を超えるサブレディットを操作すれば、顧客に対して、自分たちの投稿が全員のr/allの最初の画面に表示されると保証できる
以前ならそこで何年も広く受け入れられていた考えを少しでも共有すると、今では叩かれ、嘲笑され、ダウンボートで消えていく
そのサブレディットを狙った操作の度合いは、あまりにも露骨で、証明可能なほど明白だ。誰かがどこかで、操作対象のサブレディット一覧に入れたのだと思う。だが、すでに損なわれたコミュニケーションチャネルで、そのチャネルが損なわれているとどうやって言えるのか
大多数はこうしたコミュニケーション操作に気づいてすらいないようで、それほど巧妙になっている。昔のボットアカウントはずっと見破りやすかったが、今はアカウント履歴が巧みに積み上げられていて、投稿も人間とほとんど区別できない。もちろん、すべての操作がボットやAIというわけでもなく、実際の人間が担当して動く組織的な広報、偽アカウント、操作キャンペーンもある
賢い人たちはすでに去って次の場所へ行ったが、そこも結局、プロパガンダの放水ホースが開かれる前に、十分に大きく、あるいは意味のある形に育つことは許されないだろう。直すには、コミュニケーションのためのまったく別の枠組みが必要だ
誰でも、Redditで人気の意見に合わないことを書くとすぐにダウンボートされるのだと、ほどなく学ぶ。敏感な部分に触れると怒った個人メッセージを受け取ったり、誰かが投稿履歴を掘り返して昔のコメントまで議論に持ち込んできたりする
大きなフォーラムはいつもこうだった。一日中投稿する時間が最も多い少数のユーザーに左右される。時々Redditでやけに怒った返信を受け、気になってプロフィールを開いてみると、過去10時間ずっとコメントし続けていた人だった、ということが多い。無限の自由時間と吐き出す怒りを持つ人とは競争できず、結局彼らが互いに噛み合いながら異なる意見を追い出していく
posthuman.blog ドメインは、この記事が書かれた4月12日のまさに前日に登録されている — https://www.whois.com/whois/posthuman.blog
しかもそこにある記事はたった2本だけで、最初の記事は2022年7月に書かれたようになっている。これらを総合すると、この人は実は自分が不満を言っているその投稿を自ら作った人物だという合理的な疑いが湧く
Old El Pasoの広告に出ていたあの女の子なら、言いたいことがありそうだ
2020年のOxfordによる国家主体の操作に関する報告書を見ると、この問題はとてつもなく広範だ。57か国がボットアカウントを使い、79か国が人間のプロパガンダ用アカウントを使っている
現代で最も差し迫った問題のトップ5に入ると思う。政府がこの問題について大衆にあまりにも知らせなさすぎるのが本当に嫌だ
https://www.ox.ac.uk/news/2021-01-13-social-media-manipulati...（プレスリリース）
https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/202...（実際の報告書。非常に興味深く、今月1本だけ報告書を読むならこれを勧める。各国のサイバー部隊が国家、インフルエンサー、政党、NGOなどどの部門と関係しているのか、人間とボットのどちらを使っているのかを深く扱っている）
その他：世界的に政府によるメディア統制が強まっている
https://digitalcontentnext.org/blog/2024/10/22/government-co...
Facebookの新しいフィードも嫌いだ。クリック誘導と怒りを煽るゴミを延々と反芻している
オンラインで私が知る中で最もまともな実在のコミュニティは Heavyequipmentforums.com と newagtalk.com だ。ただし、Google検索でこうした本物のフォーラムを見つけるのは簡単ではない。時間の経過とともに最も品質が落ちたプロダクトはおそらくGoogle検索で、正直、上に挙げたすべての問題もGoogleの検索結果の品質低下のせいだと言える
2年前のReddit API騒動以降、状況は本当に急速に悪化した。今ではすべてがより平板になり、洞察のあるコメントは減り、荒れて毒のあるコメントは増えた
ほとんど習慣で訪れているが、見終わるとたいてい気分が悪くなる。昔はこうではなかった
以前は親切な人たちが集まっていた r/woodworking のようなコミュニティでさえそうだ。木工をする人でありながら、どうしてあんなに毒を吐けるのかわからない。もちろん、たまにハンマーで親指を打った人はいたが、それは例外だった
関連資料：“Containment Control for a Social Network with State-Dependent Connectivity”（2014）、Air Force Research Laboratory、Eglin AFB: https://arxiv.org/pdf/1402.5644.pdf
いわゆるRedditの2013年の“Most-Addicted City”: https://web.archive.org/web/20160604042751/http://www.reddit...
会話スクリプトに従い、ナラティブを押し進めることに対して、実際に金を受け取っている人たちがものすごく多い
1日前に同じものを投稿した事実を忘れたメンバーは、実はボットなのではないかと時々思う ;)
https://news.ycombinator.com/item?id=43664383
何が本物なのか……私もただのボットなのか？
なんてことだ……私はボットだった
Redditが楽しさよりも苛立ちをもたらすところまで来ているなら、ただ閉じる方法を身につければいい。依存症を治す必要がある
しばらくはHacker Newsだけを使っていて、その後TikTokを使い始めた。悪くはないが、フィードが時々、脳を腐らせるようなコンテンツを食わせようとしてくるので注意が必要
人間は太古の昔から他の人間をプログラムしてきたし、議論の余地はあるが他の種もそうしてきた[0]
アフィリエイトリンクがまさにこのテーマの本だったという皮肉が素晴らしい。LLMは真のミーム機械であり、これまでに我々が作ったものの中で最高のものだ
他の人間をオウム返しのようにまねる人間とボットの違いは何だろう？
行為主体性＋新規性がチューリングテストの新バージョンなのか？
[0] https://www.scientificamerican.com/article/bonobo-calls-are-...
そのアカウントの他の投稿も、以前うまくいった古い投稿を再利用したものだ。最も単純な説明は、これもそうだということ
興味深いのは、SF黄金期のAsimov的な知能機械時代の想像では、たいてい冷たく計算し推論する、極めて論理的な機械的存在が描かれていたからだ。ところが実際に我々が作ったのは、操作的なクソ文章の生成に長けた、ぼんやりして雰囲気依存のテキスト生成器だった。もしかするとこれは偶然ではなく、高等知能の一般的な方向性をある程度反映しているのかもしれない
参入障壁は低すぎ、魚の群れは大きすぎるので、人々は釣りをするようになる。金を稼ぐのが簡単すぎる
だからここには実質的に解決策がない。Redditのような場所から手を引くことくらいしかない