なぜ合理主義者コミュニティにはカルトが多いのか？

• 合理主義者コミュニティ内部で、小規模で奇妙な信念集団が何度も生まれており、その一部は実際の暴力事件とも関連している
• この現象は、合理的な思考法を強調するコンテンツ（Sequences） が「よりよく考える」技術を約束しながら、現実にはその約束を満たせていないことに由来する
• 脆弱な立場にある人々は、コミュニティ内で有害なグループに巻き込まれる可能性が高く、しばしば外部と切り離されて抜け出しにくくなる
• 集団内部の信念と行動の結びつき、アイデアを深刻に受け止める姿勢、社会的孤立 などが深刻な機能不全を引き起こしうる
• 合理主義カルトの発生を完全に防ぐのは難しいが、外部の現実とのつながり、社会的多様性、健全な組織構造 を維持することで悪影響を減らせる

---

序論

• 合理主義者コミュニティは、AI研究者 Eliezer Yudkowsky が執筆したブログ連載「Sequences」に由来する集まりである
• この連載は合理的に考える方法を主題としており、コミュニティの構成員は批判的思考と懐疑主義の手本であるはずだと期待される
• しかし実際には、悪魔と交信する小規模な奇妙な集団、暴力事件、トラウマを引き起こすグループなど、奇妙で有害な集団 がコミュニティ内で発生してきた
• 代表例として、Zizians というヴィーガン・アナキスト・トランスヒューマニスト集団や、Black Lotus、Leverage Research などの事例がある
• 筆者はコミュニティ内部の人間であり、さらに踏み込んだインタビューによって前例のないアクセスと率直さを得ている

若い合理主義者たちの問題

• 合理主義者コミュニティは全体としては機能しているが、一部の集団は深刻に機能不全な構造を帯びている

• 「Sequences」は「よりよく考える技芸」と並外れた未来を約束するが、現実にはその約束は実現不可能である

• 多くのインタビュー対象者は、この種のコンテンツがカルトの原材料を生み出すと指摘している

• Eliezer Yudkowsky 自身は集団性の構築には消極的だが、外部から流入してくる人々は、権威者による変化と英雄的使命を渇望していることが多い

• ある集団の機能不全はリーダー（例: Black Lotus の Brent Dill）に起因することもあれば、下から毒性的な力学が自然に生じることもある（例: Leverage Research）

• 脆弱な人々は隔離された集団の捕虜になりやすく、問題状況から抜け出すことも難しい

• 初期にはコミュニティが未熟な構成員を支えていたが、次第に成功した人々がそうした支援を引き上げる傾向が生まれた

• 支援を受けられない新参者は、有害な内部グループの標的になりやすい

信念の深刻さ

• 機能不全集団の内部では、社会的孤立 や リーダーによる操作 よりも、信念そのものが中核的な原因である

• たとえば Zizians の過激な決定理論（脅威には無条件で対応すべきだという信念）は、実際の行動と直接結びついていた

• Leverage Research は「Connection Theory」という心理学の統合理論を通じて、メンバーの内面構造を理解し問題を解決しようとした

• こうした単純化された心理モデルに自分の行動を合わせようとすることで、精神的な問題まで引き起こされた

• Brent Dill は、世界や他者をシニカルに解釈するようメンバーを誘導し、これは集団的不信と最も根本的な害につながった

• 合理主義者たちは専門家への信頼を拒み、自ら考えようとする過程で、逆説的にカリスマ的リーダーに思考を委ねる危険を抱える

• 「アイデアを真剣に受け止めること」と「主体性」は本来は美徳だが、誤って適用されると規範を外れた危険な行動へとつながる

心理学への警戒

• 問題のある集団では、哲学、心理学、集団内の関係について、長時間かつ高密度の議論が日常化していた

• 反対に、健全なグループでは、外部活動や実質的な達成（プログラミング、ゲームなど） に集中していた

• Black Lotus のメンバーにも、実際に重要な役割を担うことで自信を得た事例があった

• Leverage Research でも、実質的なプロジェクト（暗号資産開発など）に取り組む小グループのほうが健全だった

• 過剰な集団内の感情の議論や心理分析は、機能不全、不安、孤立、現実との断絶を深める

• 実質的な外部目標のない集団で内部討論が長引くと、有害な力学が増幅される

• 長時間にわたる集団心理や感情の探究が日常化しているなら、カルトでなくとも何かが間違っている兆候である

結果主義（Consequentialism）の危険

• 結果主義的な世界観を真剣に受け止めると、リーダーへの過剰な献身や犠牲が正当化されうる
• 合理主義者コミュニティで頻繁に言及されるAGI（汎用人工知能）による絶滅リスク論は、集団内の緊張や強迫を引き起こす
• AI に貢献する能力が足りない人々は、代替プロジェクトや小規模グループに執着することで機能不全に陥りやすい
• 大義名分（人類の危機など）が、日常的な事柄にまで過剰な意味づけをもたらす
• 実際には危機の克服とは、単純で反復的な課題の積み重ねであるにもかかわらず、それにそぐわない英雄的幻想が追い求められる

孤立への警戒

• 社会的孤立とグループ内の同調圧力、外部との断絶が、機能不全の深刻化の核心である
• メンバーが家やオフィスの外に出入りしなくなることは、カルト性を見分ける最も確かな兆候の一つである
• 内部だけで定義される現実、批判者の排除、相互監視が、集団思考や信念の過剰につながる
• 同じ家に住み、あらゆる必要を集団が提供するパターンは、外部世界での独立性と能力を弱める
• 内部グループ同士ですら情報を共有しない秘密主義も問題であり、暴露とコミュニケーション不足が悪循環を招く

結論と提言

• 合理主義者コミュニティの機能不全は、特別に深刻というよりも「より興味深い形で」現れる
• このコミュニティ特有の「信念を行動に移す」「既存社会とは違う生き方をする」という傾向が原因の一つだが、完全に取り除くことはできない
• 個人的・共同体的なレベルでは、以下のような戦略が機能不全の軽減に役立つ

個人への提言

1. 集団内の人間関係や感情について長時間の会話が続くなら、警告サインである
2. 達成を客観的に測れる活動に取り組み、外部の現実との接点を作る
3. 多様な社会集団との関係を維持する
4. 仕事、居住、治療のプロセスを分離する
5. 皆が信じている信念であっても、外部の人や独立した検証を必要とする
6. 長々とした抽象的な論理の末に「他人を傷つけてもよい」あるいは「この仕事より重要なものはすべて劣る」という結論に至るなら、疑うべきである
7. 他に選択肢がない状態で要求の多い集団に参加することは慎重に考える

コミュニティへの提言

• 機能不全の集団に入ったメンバーとのつながりを維持し、非難よりも正常なコミュニケーションを提供する
• 新規メンバーに現実的な期待値を与え、実質的な支援を拡大する方法を考える
• AI 安全性などの領域に入るのは容易ではないと率直に伝え、貢献できない人の価値を過小評価しない
• 「倫理的な禁止線」（明らかにしてはならないこと）についての議論を活性化する