- ガリレオの地動説論争の事例のように、社会的権力と信念体系は単なる「事実」だけでは変わらない
- 教会・権力・イデオロギーは、聖書、宇宙観、芸術、社会規範などの物語と構造的なつながりを通じて現実を説明し正当化する
- 信念構造（グラフ）は中核ノードと接続（エッジ）で構成されており、一部が揺らぐだけでも世界観全体が動揺する
- 論争の核心は事実ではなく、それぞれの構造的枠組み（グラフ）においてノードや結びつきを攻撃・防御する心理的／社会的な働きにある
- 構造的レジリエンス、内部結束、感情的共鳴が強いほど信念は維持され、ファクトは構造的枠組みの中に溶け込んだときにはじめて影響力を持つ
事実ではなく構造が信念を決める
- Galileo Galileiが地動説を唱えたとき、教会が抵抗したのは単なる無知や迷信のためだけではなく、社会秩序を維持する信念体系を守るためだった
- 地球中心の宇宙観が信仰と社会秩序の中核構造として機能していたため
- この信念体系では、物語、象徴、教義が有機的につながり、権威と秩序を正当化していた
- 聖書の一節は地球中心の宇宙観を支え、人間が宇宙の中心だという社会的・道徳的な序列構造と結びついていた
- こうした構造は単なる論争にとどまらず、世界観全体、礼拝暦、大聖堂建築、芸術、日常の規範などに強く反映されていた
- 1つの概念に挑戦することは、1つのアイデアだけでなく、そのネットワーク全体と権威に触れる行為である。
- 中核ノード（天動説）に触れた瞬間、構造全体が危うくなる
信念構造（グラフ）の例
- 現代でも信念構造は、**概念（ノード）と接続（エッジ）**から成る「グラフ」として説明できる
- 例として、**「成長優先資本主義」と「生態学的持続可能性」**の構造は、それぞれ異なる論理と接続網を持つ
- Growth-First Capitalism（成長優先資本主義）
- イノベーション→利益→株主収益→購買力→競争→イノベーション...
- 各接続が相互補強しながら強化される体系で、内部整合性とレジリエンスが高い
- Ecological Sustainability（生態学的持続可能性）
- 気候危機→政策変化→再生可能エネルギー→排出削減→コミュニティのレジリエンス
- 接続による好循環構造として、人間の福祉と地球の健全性のつながり、集団行動、回復力を重視する
- このグラフの**ノード接続（エッジ）**は、心理的な力によって継続的に強化される
- 認知的不協和状態に陥ると、人間の脳は既存の世界観を維持するために動機づけられた推論と事後合理化の過程を用いる
- そのため信念構造は非常に堅固で、変化に抵抗的である
構造的攻撃 — ノードとエッジの揺らぎ
- 競合する信念体系同士の本当の「戦争」は、論理的主張ではなく互いの構造を変えようとする試みである
- 相手の中核ノードを崩したり、概念間の接続を弱めたり、相手の魅力的な要素を吸収したりすることで構造に影響を与えようとする
- これにより、単なる意見交換を超えて信念構造そのものが変形する過程が起こる
- 中核ノード攻撃（Node Attack） : 1つの中核ノードへの集中的な攻撃が、信念体系全体を弱体化させうる
- 例: 「気候変動の脅威」というノードが攻撃されると、政策変化への動機が弱まり、システム全体が不安定になる。
- 攻撃が成功すれば、信念体系の主要なフィードバックループが崩壊し、構成そのものが解体の危険にさらされる
- エッジ攻撃（Edge Attack） : アイデア同士の**接続（エッジ）**を攻撃し、信念体系の論理を間接的なものにし、説得力を弱める
- 例: 「株主利益」が実際の購買力の増加につながるのかを批判すれば、資本主義体系の広範な繁栄という主張は弱まる
- エッジ攻撃が続くと、システムの社会的正当性が崩れ、代替構造により容易に吸収される
- このほかにも、信念体系は競合する構造の強みを取り込んだり、隙間を通じて進化したり、自己修正によってレジリエンスを獲得したりする多様な戦略を用いる
人間心理と信念構造
- 信念システム（ミーム、イデオロギーなど）は、人々の脳の構造の中でのみ実質的に作動する
- 信念構造は人間の認知アーキテクチャによって維持され、保護され、ときには「個人のアイデンティティ」と深く絡み合うことで、挑戦そのものが個人攻撃のように感じられる
- 単なる論理ではなく、認知的不協和・動機づけられた推論など脳の自動化された心理メカニズムによって安定的に維持される
- 脳は脅威となる情報を無意識にふるい落とし、矛盾する証拠に直面すると認知的不協和を解消するために合理化を試みる
- これが、信念構造が外部攻撃に対して非常に強靭に耐える理由である
構造的競争と実際の事例
- 今日の社会的論争は単純な事実ではなく、互いに両立しえない信念テンプレート同士の衝突である
- 各陣営は独自の接続構造、中核アイデア、そしてそれを支える論理体系を持っており、相手の論理そのものを容易には受け入れられない
- ある集団の信念ネットワークが強固で接続が強いほど、外部攻撃に対する抵抗力と影響力は大きくなる
- 一方で、内部的に分裂したり接続が弱まったりすると、集団の影響力は急速に弱まる
- そのため敵対的勢力が内部対立を誘発すると、権力全体のバランスにも影響が及ぶ
組織的な不正行動（coordinated inauthentic behavior）
- 世論操作のために複数の偽アカウントが協調するソーシャルメディア工作
- 単なる偽情報の拡散ではなく、信念グラフの中核的な接続を体系的に弱める戦略
- たとえば
- ロシアのIRAは米国内の人種対立を深めるため、同時に相反する声を増幅し、社会的接続構造を揺さぶった
- BLM-反BLM、ワクチン賛否、気候論争などの分断誘導 — 中核接続を弱め、構造全体を不安定にする
- このような大規模ネットワーク攻撃は、一方向の偽情報よりも、構造的接続の弱体化に重点を置く
- Cambridge Analyticaの事例のように、マイクロターゲティング技術とパーソナライズされたメッセージは、信念構造内の脆弱なノードおよびエッジを精密に狙うことができる
- 最近ではLLM（大規模言語モデル）によって、このような構造的操作の規模と俊敏性が爆発的に高まっている
私たちの信念構造をどう守るか
- ファクトチェック、反論、真実だけでは限界がある。「構造」と「内的結束」、「感情的共感力」を強化してこそ、信念システムはレジリエンスを持つ
- 真実は、人々がとどまり続けられる構造的枠組みの中にあってこそ、持続的に生き残り広がる
- 操作と分断を防ぐには、耐久性の高い物語、自らの信念体系の構造的一貫性とレジリエンスの強化、テンプレート間をつなぐ橋の構築、感情的にも共鳴するナラティブの形成が必要である
- 信念のメカニズムを理解すれば、誰もが受動的な対象ではなく能動的な構造設計者になれる。強固で適応力があり、より開かれた新しい信念体系の設計が可能になる
結論
- 私たちは単なる情報消費者ではなく、自らの信念構造を設計する建築家になれる
- 構造的理解にもとづく、レジリエンスがあり接続性の高い信念体系の設計こそが、文化戦争と世論操作の時代における真の対抗策である
2件のコメント
面白いですね。メンタルモデルやミームなどに関するこうした文章は、いつも興味深いです。
Hacker Newsの意見
このブログ記事は良かった。考えたことが2つある。第一に、矛盾する事実があっても、それが信念を変えるべきシグナルではないことが多い。1つの事実だけで信念が揺らぐほどその信念が弱いのでなければ、単一の出来事が決定的な影響を与えることは非常にまれだ。たとえば気候変動に関する論文で、何人かの科学者がデータを改ざんしていたと知ったとしても、気候変動に関する膨大な証拠を考えれば、その事実だけで気候変動への信念を変える根拠にはならない。結局のところ、両側のさまざまな情報を十分に見たときにのみ、信念を変えるだけの根拠が積み上がる。第二に、私たちが今日接する「事実」は、実際には全体の文脈を代表していない。かつての大企業中心のメディア時代には、それでも記者たちは主要な事実をなるべく均等に伝えようと努めていたが、今ではアルゴリズムがより多くのクリックとエンゲージメントを生む方向にニュースをキュレーションしている。こうした「事実」を提供するコンテンツ生産者も、たいてい強い動機やバイアスを持っている。アルゴリズムも生産者も、バランスの取れた情報を提供しようとする努力そのものがほとんどない
以前、有名な合理主義ブログで読んだ「合理的認識論的懐疑主義(rational epistemic skepticism)」という概念を思い出した。正確な語句ではないかもしれないが、似た文脈のアイデアだ。誰かが知的に非常に巧みだったり、ある主題について非常に多くを学んでいたりすると、普通の人はその知的能力に圧倒される経験をする。だが、賢い人がいつも正しいわけではないことも、みな暗黙のうちに感じている。賢い人たちもさまざまな意見を持っているのだから、全員が正しいはずはない。そこで普通の人は、自分の信念が簡単に揺さぶられないようにする防御的な態度、つまり簡単には説得されない傾向を身につける。このような防御的姿勢は、むしろ合理的だ。誰かが完璧な論証を提示したとき、それは本当に真実だからなのか、それともごまかしが含まれているからなのか。後者のほうがよくある
嘘の最高形は、虚偽の情報を出すことではなく、自分に有利なように事実を選別して出すことだ。このやり方は、自分や他人に意図せず嘘をつかせることすらある。多くのニュース記事がその例だ
2つ目の指摘に付け加えるなら、今のアルゴリズムは、ストーリーテリングを望む国家、特にRussiaやChinaがいくらでも悪用できるほど操作しやすい構造になっている。ここ8年ほどでRussianの選挙介入の方法は大きく変わった。以前はトロール軍団がアメリカ人（あるいはポーランド人、チェコ人など）のふりをして、ロシアのプロパガンダを流していた。この方式は比較的簡単に検知・遮断され、長続きしなかった。最近では中国式戦略のように「ゴブリン軍団」へ移行しており、彼らはもはやメッセージの直接拡散よりも、自動化された反応（スクロール、upvote、コメントのクリック、LLMを使った返信など）でソーシャルメディアのアルゴリズムを撹乱する役割を担っている。実際には、実在のアメリカ人ユーザーがロシアに有利、あるいはアメリカに有害なメッセージを広めるとき、その拡散だけを後押しする方式だ。この戦略が有効な理由は2つある。奇妙だったり憎悪をあおったりする投稿をした人にドーパミン報酬を与えて、さらに刺激的になるよう促すこと、そして反対するユーザーには、その投稿が「人気がある」と認識させて意気をくじくことだ。参考: Russian internet outage and the online goblin army
CS Peirceの有名なエッセイ "The Fixation of Belief" では、私たちがどのように信念を形成し、それがどのように揺さぶられうるかを、さまざまな過程を通じて説明している。そのエッセイはこちらで読める。このブログ記事も、Peirceの言う "a priori method" に近く感じられる。まずフレームワークを決めておき（たいていは美的あるいは感情的な理由で）、経験をそのフレームワークに合わせて解釈するやり方だ。そこから出た結論は、そのフレームワークに同意する人々にとって非常に心地よい信念になる。Peirceによれば、あらゆる探究は驚きから始まる。時には意図的だが、たいていは意図せず驚きに出会う。a priori方式の問題は、結局それが「趣味の発達」に似ていることだ。趣味は常に流行に従って変わるし、哲学者たちもいつまでも終わりのない論争を繰り返す。Bacon卿が言ったように、結局は真の帰納的思考へ進まなければならない
Galileoと教会の論争は、一般に知られているよりもはるかに微妙な問題だったと理解している。聖書の字義通りの解釈（太陽が止まったというJoshuaの節など）が原因だったわけではない。Paul Feyerabendの "Against Method" という本では、むしろ当時のCatholic Churchのほうが、古典的な科学的方法論（証拠を双方のモデルについて評価すること）においてより合理的だったと主張している。Galileoの仮説は、既存モデルと比べて合理的に劣っていると評価された点が重要だ。かなり興味深く読んだ
Galileoと教会をめぐる論争はしばしば過度に単純化されるが、実際には非常に複雑な文脈がある。Galileoが現れるずっと前から、Thomas Aquinasのような人物はAristotleに基づいて地球が球体であることを受け入れていた。Galileoの時代、Catholic Churchは近代科学に無知だったのではなく、むしろ自然哲学や天文学に積極的に関与していた。実際の対立は、競合するモデルと、そのモデルが受け入れられるための証拠基準をめぐるものだった。もしこの記事の筆者がそうした背景を知らずに書き始めていたのなら、記事全体の信頼性が疑わしい
元歴史家として言うと、Galileoと教会のエピソードは実際にとても複雑だ。何世代にもわたり、さまざまな人が自分なりのレトリックのためにこの事件を歪めて解釈してきた。Feyerabendもまた、非常に独創的な科学哲学のためにこの事件を利用しているが、客観性には議論の余地がある。関心があれば、John HeilbronのGalileo伝がバランスの取れた視点を与えてくれる
最近この話題についての講演を見て、とても興味深いと感じた。当時ヨーロッパで使われていた天動説の宇宙モデルは極めて洗練されており、実際に非常に高精度だった。しかも地動説へ移っても、しばらくの間は実質的な利益がほとんどなかった。むしろGalileoの研究には多数の誤りや、解決すべき数学的問題が多くあった。結局この時代は、莫大な技術的負債と移行コストを負っても、得られる直接的な利点がほとんどない状況だった
Feyerabendが、なぜGalileoが軟禁されたのかをどう説明しているのか気になる。単なる競合モデルに関する合理的な議論だったのなら、なぜあれほど極端に抑圧する必要があったのか、理解しにくい
Galileoシリーズのポッドキャストとしては、Viktor BlasjoによるOpinionated History of Mathematicsを勧めたい: Opinionated History of Mathematics
私には分析的に扱いにくい主題を、本当に興味深く取り上げていると感じた。Stormfront（最初の白人至上主義フォーラム）の創設者の娘が大学に進学し、ユダヤ人の学生たちと繰り返し夕食を共にするうちに、自分の信念が一つずつ揺さぶられ、最終的には徐々に人種差別的な見方を完全に捨てていく話を思い出した。20年近く家族から洗脳されていた人でも変われるのなら、誰でも信念を変えられるという点で希望がある。同時に、現実には非効率で大規模に適用しにくい方法なので、もどかしさも大きい。今も既存の情報源にさらされ続けている人に適用するのは、なおさら難しいからだ
その人が最初から、彼らと向かい合って会話しようとしていた点も重要だと思う
将来はAIチャットボットが、こうした信念を洗い流す儀式の一部になるかもしれない
これは単なる自己満足にすぎないと思う。子どもが大学へ進学したあと、家族の信念を素早く捨てるのはむしろ非常によくあることだ。特に白人至上主義のような人気のない信念体系なら、大学で新しい友人を作るには捨てたほうが当然とも言える。その後も、その学生は他の多くの同級生と同じく、なお誰かにとっては論争の的になりうる信念をいくらか持っている可能性が高い。本質的には、単に家庭環境から離れただけだ
私も大学1年生の時期を通して、初めて自分自身の世界観を確立した記憶がある。それ以前にも神の存在や社会についてあれこれ考えてはいたが、大学で無神論者になった。面白いことに、同時に私の双子の兄弟は敬虔なキリスト教徒になった。彼はソーシャルグループにうまく溶け込み、大学も最後まで通ったが、私は途中で退学した。その後20代後半から30代に入るにつれ、私はある時点で、自分たちの政府は信用できないという確信を持つようになった。9/11が内部犯行だったという信念を今でも保っている。当時ニューヨークにいたにもかかわらず、事故と日常的な経験（たとえばツインタワーの賃貸契約書の作業）とのあいだに大きなつながりを感じられず、ただ通り過ぎてしまった。信念の構造が、自分の属する社会や集団とどう結びついているのかを、以前より重要だと考えるようになった。社会から疎外されている感覚が強いほど、既存の権威を疑いやすくなると感じる。集団間の競争では、相手集団は悪で間違っていると簡単に思い込みやすく、こうした単純化が信念構造に不要な歪みを生み、危険な信念を強化する。結局、集団分断の根本要因は地理、経済、民族などの構造的要素だ。より洗練され、より正確な信念体系が社会的分断を解消できるのか気になる。あるいは、社会構造やネットワークがアイデンティティの核心を決めているのかとも思う。もしかすると人間は本質的に「哺乳類のアリ集団」のようなもので、資源が不足するたびに激しく争うのかもしれない。互いに重要な資源を独占しようとするなら、公正な競争は不可能なだけでなく、相手がルールを守らず、誠実でもなく、議論のニュアンスまで否定するなら、こちら側だけが善良に振る舞う必要はないと考えてしまうかもしれない。結局、かすかな希望は、より豊かな資源が増えれば増えるほど、その分だけ文明的な関係も改善しうるという点だ
この筆者にひと言言うなら、ブログのアイデアは気に入ったが、読んでいて2つ不快だった点がある。1つ目は引用構文（フルクォート）が混乱を招き、不必要に感じられたことだ。特に直前の文と重複しているときはなおさらだった。2つ目は、スマホでスクロール中に動くグラフが不快だったことだ。もっと小さい静止画像にするか、背景色を別にするなどしたほうがいいと思う
こうしたフィードバックは本当にありがたい。次の記事の前には必ず全部反映してみる
追加で言うと、グラフの白いボックス内のテキストは読めなかった。色の選び方が惜しいと感じた
この記事の中核概念の一部は良いが、node/edge（ノード/エッジ）の区別があまりに曖昧に感じられる。たとえば 'Climate Change Threat' というノードは「主張」だが、'Efficiency'（効率性）は主張なのか。効率性そのものの存在に反論できるのか。むしろ効率性の「有用性」に反論するなら、それはエッジへの攻撃ではないのか。このように、本文で示されるノードの例は同列ではなく、あまりに異質に感じられる。だから内面化しにくく、読む動機も下がる
Jonathan Haidtの "The Righteous Mind" を強く勧めたい。この本は、道徳と政治についての私の考えを社会的・心理的な観点から深く変えた。そのアイデアの一部はこうだ。人は本能的に集団主義的で、承認されることを望む。私たちはまず感情的に即時の判断を下し、その選択をあとから正当化する理由を探す。右派が左派より結束力が高いのは、Haidtの言う5つの「道徳的味覚受容体」（ケア、公平、忠誠、権威、神聖）について、強く共有された価値観と一貫した定義を持っているからだ。一方で左派は、多様性を維持する代わりにそれを手放す傾向がある
私もHaidtの本を本当に興味深く読んだが、実のところ本の各部分がまったく別の本のようにも感じられた。彼の他の著作も読んでみたい。左右についての議論に関して、最近聞いて面白かったのは、左派は連合(coalition)によって、右派は合意(consensus)によって動くという話だ（アメリカ政治を基準にした場合）。Haidtの研究によれば、左派は5大道徳的味覚受容体のうち1つか2つに集中する一方、右派は5つすべてに広く気を配る。この2つの特徴がどう結びついているのかはよくわからないが、互いを強く補強する構造かもしれないと思うようになった。さらに、こうした点が政治システム全体にも似たように適用されるのか気になる
政治的に右派が左派よりも結束力が高いという主張には、明確な根拠が必要だと思う。むしろ最近の事例に限った歪んだ認識かもしれない。アメリカを基準にしても、右派もまた多様な利害関係者の連合体だ。たとえば今でもTrump支持者の一部はEpstein事件の非公開に不満を示しているし、一方で減税を望む集団はその抗議を抑えようとしている。右派の内部にも、結束より対立のほうが多い
ノードとエッジのあいだには（この記事の定義どおりなら）無限に多くのノードが存在しうると気づいてから、ある時点で理論が頭の中で複雑になった。アイデア崩壊の構造は全体像としては理解できるが、実際にはアイデア間に核心となるノードがいくつあるのか把握しにくく、現実への適用は容易ではないと思う。そして、1つのアイテムの崩壊過程だけを逆向きにマッピングすると、いつでもずっと単純に見えてしまうという点で、結局「生存者バイアス(survivorship bias)」を避けるのは難しい
実際、多くの人は自分の信念構造全体を常に明確に意識しているわけではない。重要な問題の99%は、この図にあるものよりずっと曖昧だ。それでも、こうした見方自体は新鮮だと感じる。より重要なのは信念構造ではなく、自分が本当に信頼している相手が誰かという点だ。信頼する相手だけが、自分の信念の空白を埋める資格があると思える。信頼を得るには長い時間がかかるため、矛盾する事実を提示するだけでは信念はなかなか変わらない。重要な理由はネットワークの構造（信念グラフ）ではなく、「あなたを信頼していないから」なのだ。最近このあたりに近い内容を書いたこともある: No one reads page 28
私は、『facts』が議論において主に相手を説得するための道具として使われるだけだという「arguments are soldiers」の前提から離れて、慎重に考えるべきだと思う。世界で何が起きているのかを探ることは、自分の気質やイデオロギーに関係なく、それ自体が知的好奇心を満たし、価値のあることだ。自分の意見と違っていても、興味深い証拠があるなら、その記事自体に意味がある。事実が他人の考えを簡単に変えないとしても、事実を収集し報道する仕事をしている人々は支援されるべきだと思う。