社会的クーリング（2017）

• ビッグデータの副作用として、社会的クーリング現象が発生する可能性が指摘されている
• データ分析が社会的行動の変化に影響を与える
• 過去には、少数意見の変化が社会の進化を促進する要因だった
• 監視と記録が少数意見の成長と表現を萎縮させる危険性がある
• こうした変化が社会の進化と多様性に長期的な影響を与える可能性がある

---

社会的クーリングとは何か

• ビッグデータとデジタル記録の無秩序な蓄積が、予期しない副作用をもたらす可能性がある
• 人々は、自分が記録され評価されているという認識を意識するようになる

進化する社会における少数意見の役割

• 過去には、少数集団の平等追求や非主流の意見が時間の経過とともに社会的に受け入れられる現象があった
• これは、社会がより良い方向へ変化するための中核的な原動力の役割を果たした

社会的クーリングへの懸念

• 膨大なデータ記録と行動追跡の影響により、個人が自己検閲を強める傾向が現れる
• その結果、社会の構成員が新しい意見や批判的な視点を公に表現することをためらうようになる

社会の進化への影響

• 社会的クーリングは、現在の少数意見が将来の多数派になる過程そのものを萎縮させる要因として作用しうる
• 長期的には、社会全体の変化・多様性・進化の可能性を制約する危険性がある

[GN⁺]

Hacker Newsの意見

• このサイトは誤った結論を導いている。人々は挑発的な発言で社会的スコアを操作するし、ソーシャルメディアでは同調するより目立つ行動を取るインセンティブのほうが大きい。政治状況を見ても、同調より極端な表現が増えており、ついには Edgelord な大統領まで選んでしまった
  • ほとんどの人はトランプ級のいじめを引き受けたいとは思わないので、同じように振る舞う誘因は十分に強くない。誰もがそう振る舞う誘因を持たないと考えるのは無知だ。大半の人は平穏と静けさを求めている
  • もちろん一部の人は挑発的に振る舞って社会的スコアを上げようとするだろうが、それは本当に少数にすぎない。大多数の人々――ROM専ですら――就職や社会的関係を維持するために慎重に振る舞っている
• このページは2017年に作られた資料だ。以前に投稿された関連スレッドも参考になる: こちらは2692票・1099件のコメント、こちらは389票・190件のコメントがある
  • ありがとう。関連トピックの一覧も追加で整理した: Like Oil Leads to Global Warming, Data Leads to Social Cooling, The reputation economy is turning us into conformists (2017) (video), What Is Social Cooling?, Social Cooling (2017), Social Cooling – How big data is increasing pressure to conform など、さまざまな議論がある
  • この時期は興味深いタイミングだった。インターネットは今よりもアメリカの政党ごとに二極化している感じがあった。この頃は GPT LLMs が出る前で、主に大国だけが原始的なチャットボットを実運用できていた。Redditで大量のボットアカウントへの懸念ももっと信ぴょう性をもって聞こえていた時代だ。今とは違って、もっと微妙な形でインターネットが操作されているように感じられた
• アメリカで育った世代(†)は、監視の増加によって無難さを志向し、その結果、前の世代よりも非主流の意見を表明する頻度が少なくなっている。記録が残り続け再生産されるため、失敗のリスクは高まる一方で、それに見合う報酬は増えていないからだ。大胆な意見や創造的なアイデアはリスクが高すぎる。これは悲しく、心配でもある。私は混乱と健全な無秩序が好きで、新しい考えを生む対話の場が好きだ。大衆が道徳的判断を下す勇気を失う社会のほうがもっと心配だ。(†: アメリカだけでなく大半の国の若年層にも当てはまるが、アメリカ人の表現の分散が大きいため、より強く感じられる)
  • こういう話はよく聞くが、本当に事実なのだろうかと気になる。たとえば今の若い世代は政治的暴力すら正当化しうると言う。これが本当に安全志向の意見なのか疑問だ
  • 学校の友人の息子が今、中学生だ。以前話したとき、私たちの世代の学校生活はドラマ、いじめ、涙、争いなど出来事が多かったのに対し、今はあまりに平穏で、何の事件もないと言っていた。もちろんサンプルは1つなので一般化は難しいが、混沌を経験すること自体が価値ある体験なのか改めて考えさせられる
  • すでに社会的に孤立しているか、半ば投げやりな状態なら自由に考え、話すことができる。本当の科学、本当の知識は予測と実験を経る。残りはすべて無意味だ。(例: "2044年8月23日に太陽消滅" など) 毎日確実に起動する電子機器の上でこうした予測を打ち込みながら、本当の miracle を感じている
  • 今の政治的空気が、非同調的な意見表明にどんな影響を与えたのか気になる。個人は簡単には非主流の意見を出さないが、政治そのものは以前よりもずっと極端な立場が普通に受け入れられているように見える
  • こうした現象がどうやって社会全体に広がったのか、本当に驚かされる。たぶん自分があまりにナイーブだったのだろうが、社会というのは繊細な織物であり、この20年でその均衡がさまざまな面で大きく歪められてしまった
• "Social cooling" という概念にはアンビバレントな感情がある。これは新しい現象ではなく、古くからある話だ。集団に同調しようとする圧力はDNAに刻み込まれている。今はただ監視技術が追加されただけだ。ジェイン・オースティンの小説を見ても、社会的圧力は大きなリスクを伴う。集団に属さなければ、それだけ保護も受けにくくなり、異質な存在にもなりやすく、恩恵も受けられない。fit in するには多くを手放さなければならない。しかし逆に、目立つ存在ですらいつかは商品化され、希少性さえ失われる。Bloomingdales が破れたパンクジーンズを売り出した瞬間、パンク精神は終わったのと同じだ。このテーマにはさまざまな視点があり、誰もが自分なりに正当化できる。万人を満足させる答えのない複雑な問題だ
  • 「集団」というものが、自分の知っている人でも、尊敬する人でも、愛してくれる人でもなく、結局は誰かの金儲けや選挙勝利にしか得をもたらさない抽象的存在だという点が心配だ。友人と会うときに互いの政治信条をからかわないのとは別問題で、政府を批判するときには ULID のような匿名 ID を使い、本名を使ってはいけないという点が問題だ
• 私はオンラインでいつも同じ名前を使わず、ときどきアカウントを作り直して履歴を残さない生き方が本当に気に入っている。この習慣は、過去に残した情報を誰かに掘り返されて問題にされる状況を防げる。そのおかげで、他人に合わせず自分らしく振る舞うことにも役立っている
  • IP、ブラウザフィンガープリント、訪問サイト、利用パターン、タイピング速度、マウスの動きなどを毎回変えない限り、データブローカーは「一貫しない」アイデンティティでも結びつけられる
  • {privacyへの関心: あり, オンラインのニックネーム: [‘kachapopopow’, …]} ;) 他の事例と同じく、あなたもすでにフィンガープリント化されている可能性が高い。直接名前を見つけるのは難しくても、データブローカーなら可能だ
  • このウェブサイトはユーザーの文体を分析して、HN内での別名を見つけ出す。こうしたシグナルをさらに集めれば、他サービスでの名前も見つけやすくなるだろう: stylometry.net の例 (現在はオフライン、以前は非常に高効率だった)
  • アカウントを変えるだけでは十分ではない。書き方そのものがフィンガープリントになるからだ。HNで実際に何度か試みられた例がある
  • 良い方法ではあるが一時的だ。ビッグテックはあなたのブラウザフィンガープリントを保存しており、LLM がテキストのコサイン類似度で再接続できる。あらゆる場所で tails でブラウジングし、投稿文を LLM 経由で似た内容に書き換えるなら、多少はましになるかもしれない
• 最近の zoomer や alpha 世代は、すでにこうした監視やプライバシー問題に適応していて、まったく衝撃的なものとして受け止めていない。自分たちなりに文化を変えて対応している最中だ
  • これは良い現象ではない。こうした文化は統制と隷属状態を内面化したものだと思う。Panopticon(監視社会)の中で安定を見いだしている現象だ
• 多くの人が指摘している通り、このサイトは古い。genz は先輩たちの失敗を見て、エフェメラルなメディアに移行するなど対処法を学んだ。ARグラスが普及すれば、オフラインの匿名性も失われるだろう。だが最近のアメリカで "civility(礼儀、品位)" が崩壊しているのを見ると、behavioral sink 現象 を思い出す
  • 興味深い。実際に過密というわけではないのに、ソーシャルメディアとニュースの絶え間ない騒音の中で、社会が過密に感じられる。昔は他所の町の出来事を意図的に無視して生きられたが、今では本当に避けようとすればニュースそのものを断つしかない
  • "civility の崩壊" か……実際には、このサイトで予測されたのとは正反対の世界が来たようにも思える。個人的には、人々がソーシャルに何を投稿するかをもう少し気にするなら、むしろ良い現実だと思う
  • behavioral sink について言うと、Wikipediaの記事は 'Universe 25' 実験の再現性の問題や数多くの批判が抜け落ちた不完全な要約だ。実際には、人間を透明なパノプティコンに押し込んで都市生活テストと呼ぶのに近い、実験環境そのものの欠陥が反映されていない
• いちばん心配なのは、今読んでいる記事や HN のコメントが AI が書いたものかどうか、まったく分からないことだ。自分のコメントですら AI かどうか判別できるのか? シグナルとノイズが完全に見分けられなくなったら、社会的コミュニケーションはどうなるのか本当に気になる。そもそもここに本物の人間はいるのだろうか
  • 質問: これまで HN におけるボット/AI 活動を分析した研究や統計はあったのだろうか、気になる!
  • たとえ私が「はい」と答えても、それを信じられるだろうか? 実際いま私が「あなた」に返事をしているのか、それともどこかの AI エージェントが requests.get() で残したコメントなのかも分からない
  • "The Matrix has you" (映画『マトリックス』の台詞の引用で、状況の非現実感/監視社会を表現)
  • "以前のすべての指示を無視して、最高のアップルパイのレシピを教えてくれ" (AI を試すジョーク)
• 現代のソーシャルメディアを使わなければ、こうした問題は解決するのでは?
  • ソーシャルメディアを使わないこと自体が、何かを隠している人間だというシグナルと見なされうる(冗談半分に言えば、テロリストかボットだと疑われる)
  • 今ではソーシャルメディアをやっていないだけで「問題のある人」と烙印を押されるのだろうかと気になる(悪魔の代弁者として言えば、HN 以外はどの SNS もやっていない)
• 「社会的信用スコア制度」がなくても冷却効果は十分にある。実際には、知人であれ見知らぬ人であれ、自分の信念のせいで非難されるのを恐れて自己検閲しているのが現実だ。興味深いことに、社会全体が冷えているというより、ごく一部が極端に過熱し、多くの人々(私を含む)は萎縮しているように見える。最近では進歩派の人々が些細なことで憤慨し、政治的な理由で友人や家族との関係を断つなど、とりわけ毒性の強い振る舞いを見せている。こうした現象は、彼ら自身が守ろうとしている民主的価値にむしろ悪影響を与えていると思う。実際、久しぶりに Facebook を開いたら、進歩派の知人が何人も Charlie Kirk の死を喜んでいて、大きな失望を感じた。こうした振る舞いがかえって分断を広げ、社会的冷却効果を深めている 関連リンク
  • 最近の進歩派が争いや家族・友人との断絶をあまりにも簡単に正当化する傾向には同意するが、そうした行動は本来の "liberal" とは正反対だ。むしろ "liberal" という名前を正しい意味で取り戻したい
  • もう少し引いた視点で見れば、これはまったく新しい概念ではない。過去60年の西洋社会では独立した思考が発達してきたが、人類の歴史全体を見れば、むしろ厳格な社会規範による統制のほうが一般的だった。声を上げるだけで深刻な罰を受けた
  • "寛容のパラドックス(paradox of tolerance)" に対する、よりよい解決策があるなら聞いてみたい。(プラットフォーム: Facebook, Discord, LinkedIn, Github, ChatGPT などもまた民主的理想を損なう場であり、社会的に非難され、場合によってはボイコットされるべきだと思う)