- 最近 LessOnline 合理主義者カンファレンスに参加し、長年のオンラインの知人たちと実際に会って交流した
- イベント本体のセッションよりも、参加者同士の深い対話とコミュニケーションが最も印象的だった
- 自分は 合理主義者コミュニティとの主な違いとして、AIリスクへの執着、特定の文化的特性、そしてカルト的な雰囲気を挙げている
- 時間がたつにつれて、コミュニティの 成熟、多様性の拡大、家族化 が自分の認識の変化に大きな影響を与えた
- 最終的には 他人の視線 ではなく、自分自身の基準でこのコミュニティへの帰属意識を認めるようになった
LessOnline 合理主義者カンファレンス体験
- 最近 LessOnline という合理主義者のブロギング・カンファレンスに参加し、Scott Alexander、Eliezer Yudkowsky、Zvi Mowshowitz、Sarah Constantin、Carl Feynman など長年の知人たちと再会した
- 多くの人とオフラインでは初めて会い、対面できたことをうれしく感じた
- 会場の Lighthaven は、迷路のような構造や庭園などを備えた独特の空間で、バークレーの新たな「オタクの理想郷」のように感じられた
- 筆者は Nate Soares との Orthogonality Thesis 対談と、量子コンピューティングおよび理論計算機科学に関する Q&A セッションを担当した
カンファレンスでの会話と雰囲気
- 公式セッション以上に記憶に残ったのは、1日中あちこちで100人以上が繰り広げていた ダイナミックで活発な会話 だった
- 主催側は当初から小規模な討論グループでの会話を積極的に勧めるなど、集団的な意見交換 に重点を置いていた
- ある建物から別の建物へ移動するのに数時間かかるほど、誰もが積極的に会話に参加していた
- 自分は「Scott Aaronson さんですか？」というような挨拶でたびたび呼び止められた
合理主義者としてのアイデンティティと違和感の理由
- 長年にわたり合理主義者と似た関心や視点を持っていながらも、いくつかの理由から自分を積極的に「合理主義者」と名乗ってこなかった
- 1つ目は、AIが超人的な能力を備え、人類の条件を変えるだろうという執着 に距離を感じていたことだ
- 以前はこのテーマに懐疑的だったが、最近の AI の急速な進歩によって反論を引っ込めた
- 自分自身も今では AI alignment という ホットな話題 の一部に貢献している
- 2つ目は文化的要因である
- おおむね20代の若者たちが自ら立ち上げた団体やグループハウスでさまざまな実験を行う文化は、既存の教授としての自分の生活とは異質に感じられた
- しかし今ではコミュニティにも結婚や子どもを持つ 家族中心の変化 が現れ、子どもたちが走り回る姿も見られる
- Rationalists は Selfish Reasons to Have More Kids のような本の影響、あるいは伝統的な動機から子どもを持ち、次世代のためによりよい世界を考えている
コミュニティの特性と誤解に対する見方
- 過去には一部の雰囲気に カルト的な感じ（Eliezer がグルのような存在） があり、距離を置いていた
- Eliezer 自身も今では次の世代へと引き継ごうとしており、コミュニティは徐々に多様化している
- 代表的な知的中心は Scott Alexander が運営するブログであり、さまざまな新しいリーダーも登場している
- しかし実際に経験してみると、このコミュニティは「信じる人々の群れ」というより、アイデアと情熱のネットワーク に近い
- AI、関係、子育てなど多様なテーマについて、実践的で率直な議論が行われている
- たとえば Jacob Falkovich が主導した集まりでは、男性たちが恋愛や女性理解について議論し、Gretta Duleba が関係の対立を扱うセッションを進行した
- 一方で、「Rationalists は実際には右派的だったり、何らかの害を及ぼしているのか？」 といった外部からの非難については、実際の場では穏健な民主党支持や公共善を志向する議論が主流だった
帰属意識の変化とコミュニティに対する自己認識
- 最も重要な変化は、もはや 他人の視線 を気にするよりも、自分自身がこのコミュニティの中に意味を感じるようになったことだ
- 以前は RationalWiki、SneerClub など外部からの批判や NYT の記事などで危機感を抱いていたが、今回の LessOnline の現場でコミュニティの繁栄と活力、実空間、そして次世代の構成員たちの登場を見て深く感銘を受けた
- 自分に向けられる外部の視線を恐れるよりも、家族・学界・コミュニティ・ブログ読者など、自分を認めてくれる人々と共にいること でアイデンティティを受け入れられるようになった
結論
- 自分は以前と変わらず、計算機科学者、学者、進歩的なユダヤ人、ブロガー など複数のアイデンティティを保っている
- 合理主義者コミュニティは、AI、子育て、関係など幅広いテーマにおいて 実事求是の議論と実質的な帰属意識 を提供している
- 外部の冷笑や批判は実態とは異なり、コミュニティの継続的な成長と意味、そして個人的な満足感を改めて確認した
その他のお知らせ
- コメントへの返信がやや遅れるかもしれない（娘と一緒にガラパゴス旅行中のため）
- UT Austin で哲学および理論計算機科学セッション（YouTube 動画公開）に参加した
- Alon Rosen が新しい理論計算機科学賞（Luca Trevisan 記念）の候補推薦を求めている
- STOC'2025 のオンラインポスターセッションは 6 月 12 日まで登録可能で、筆者はプラハ現地に plenary として参加予定である
1件のコメント
Hacker News の意見
この記事を読みながら、なぜこの運動にどこか引っかかる感覚があるのかを、より深く考えるようになった。
「合理的」という態度と、論理を「第一原理」から展開しようとする試み、そしてこのコミュニティに存在する絶対的な雰囲気との間に、本質的な緊張感を感じる。
彼らはいつも自己確信が強すぎる人たちに見える。
「こう考えてはいるけれど、あらゆる角度を検討したわけではないし、自分が間違っているかもしれない」といった種類の謙虚さが、ほとんど見られない。
ある話題について意見がなかったり、「わからない」と言ったりすることを恥ずかしいと考える人たちの特徴だ。
AI時代以前ならこの程度の傾向は許容できたかもしれないが、最近はまるで世界の終わりのように熱狂する様子の中で、謙虚さの欠如がより露骨に現れている。
AIの影響について、私たちはまだ正しく把握できていないかもしれないという認識が必要だ。
実際にはそれほど特別ではなく、期待より退屈なものかもしれない。
彼らの姿は "Effective Altruism" のグループに似ている。
純粋な論理にのめり込み、最初の前提条件が人為的な状況であることに気づかないまま奇妙な結論にまで至り、その結論に自ら閉じ込められてしまう。
論理だけで自分たちが優れていると思う態度のせいで、しばしば傲慢に振る舞うこともある。
こういう考え方は10代〜20代で一時的にはまり得るものだが、金とインターネットの後押しがあると長期化し得る。
"<i>epistemic status: mostly speculation</i>" のような文句をブログに付け始めたのも、こういう人たちだ。
自己確信の危険についてエッセイを書いたり、自分の予測がどれくらいの頻度で外れるかを測ったり、「自分が間違っていたこと」の一覧を公開で管理したりもしている。
このグループ全体をあまりに一般化しすぎて見ているのではないか、と問いかけたい。
シンギュラリタリアンがAIアラインメント問題を過剰に心配するのは、実際にはもっと現実的なAIのリスク（アルゴリズム・バイアス、政策ロンダリング、エネルギー消費、富の集中の加速化など）から人々の目をそらす煙幕だと、ずっと思ってきた。
現在の現実的な問題解決よりも、遠い未来の仮説的問題ばかりを強調し、そのまま長期主義（longtermism）へつながっている。
Scott Alexander のブログ（Astral Codex X）は、絶え間ない疑いと自己省察に満ちている。
実際に自分が犯したミスの一覧も公開している（https://www.astralcodexten.com/p/mistakes）。
私にとって「合理主義コミュニティ」との唯一の接点がこのブログだが、傲慢だという印象はまったく受けなかった。
むしろ正反対だ。
「合理的」という概念は、結局のところ自分と周囲の人々が生み出したメタンガスを生産し吸い込む、自己正当化的な雰囲気のための道具のように感じる。
私も Stanford で天才扱いされるのは楽しかったが、ときには田舎で土にまみれながら実際の善行をするほうが、より意味があるのではないかと思うことがある。
論理はギリシャ哲学者から現代のコンピュータに至るまで、偉大な道具だ。
だが純粋合理主義の核心的な問題は、その論理の「第一原理」をきちんと点検しなければならない点にある。
原理が間違っていたり、複雑性が欠落していたりすると、論理はむしろ誤った方向へ導く。
たとえばアリストテレスも偉大な論理学者だったが、誤った結論を数多く導いた。
複雑性を見落とした例として、自然選択が帰納的分析から出発したことがある――第一原理から来たのではなく、現実があまりに複雑だったからだ。
論理を無視しようと言いたいのではなく、常に「暫定的な謙虚さ」を持つべきだという事実を強調したい。
そして私は Scott Aaronson のファンだ。
(アリストテレスがなぜ間違っていたのかについてのリンク)
(自然選択の帰納的起源)
ここで議論されている「合理主義者」は、デカルト的合理主義者ではなくベイズ的経験主義者だ。
ベイズ確率論は、アリストテレスが見落としていたブール論理の連続実数拡張である。
経済学における「合理的ベイズ行為者」という理念のせいで、「合理主義者」と呼ばれているのだろう。
ただし彼らにも「宇宙は結合条件付き確率分布として簡単に推論できるものではない」という有名なスローガンがある。
実際には AIXI でさえ計算不可能であり、現実の問題が理論的にも非常に難しいことを、彼らはよく理解している。
論理は「真理」と「証明可能性」を研究する。
理想的には両者は一致するが、現実には本当に複雑なシステムが多いため、「真だが証明不可能」だったり、その逆だったりすることも多い。
だからこそ識別眼も重要だ。
私は自分の中で真実の響きのようなものを感じたときには、もう少し深く探究するようにしているが、常に自己懐疑も忘れないようにしている。
結局のところ、思考は魅力的だが、それ自体が障害にもなり得る――無意識の完全性に至る道に必要な「つまずきの石」だと受け入れることが重要だ。
アリストテレスを少し弁護したい。
彼の論理学と形而上学は未完成ではあったが、当時としては前例のない試みであり、彼のコミュニティは生物学でも実証研究を無視してはいなかった。
むしろ問題だったのは、後続世代が彼をあまりに盲信したことだと思う。
「暫定的な謙虚さ」という言葉には本当に共感する。
この言葉からミームがひとつ生まれてほしい。
pH（謙虚さの濃度）をもっと上げるべきだと主張したい。
論理はただの「道具」だ。
絶対真理へ通じる魔法の槍ではない。
状況によって適切なこともあればそうでないこともあるのだから、ただクールに道具として使えばいい。
今、Yudkowsky の "Rationality: from AI to zombies" を読んでいる。
実のところこの本はブログ記事の寄せ集めなので、繰り返しが多く、以前は50章ほど読んだところで挫折した。
今回は主題により関心が湧いたので、かなり面白く読めている。
Yudkowsky には実際に深い洞察を示す部分があると思う。
'Belief in Belief', 'Emergence', 'Generalizing from fiction' のように、日常的な思考に使えるアイデアも多い。
以前は議論が表面を滑っていたり、意味の違いで争っているだけだったりすることが多いと思っていたが、実際には単語の解釈が違うために起こる論争もかなり多かった。
こうした落とし穴をリアルタイムで見抜けるようになったのは非常に有益だ。
一度試してみることを勧める。
合理性コミュニティの雰囲気は異質に感じられることもあるが、実際にこの文献で説明される思考ツールは非常に価値がある。
ただし非常に重要なのは、自分が「合理主義者だから他人より正しい」と思った瞬間、その時点で合理主義者として失敗しているということだ。
こうしたミスはとても起こしやすく、合理的思考の道具をうまく使うには、むしろ以前よりもさらに謙虚でなければならない。
「自分は正しい」と頻繁に言うより、「あれ、自分は間違っているかも？」をもっと頻繁に言うほうが、本当の合理主義者に近い。
哲学、文学、歴史に親しんでいない STEM 分野の人たちが、こうした分野のごく基本的な概念に初めて触れたとき、過剰に感嘆する現象があるのだと思う。
Yudkowsky が独創的な何かを発見しているというより、すでに何千年も論じられてきた主題に新たに触れている効果だ。
こうした言語的な論争は、Wittgenstein が「言語ゲーム」と呼んだ現象だ。
AIの危険性の中核的な議論が知りたいなら、Yudkowsky の本より Nick Bostrom の <i>Superintelligence</i> の前半を読むほうが、はるかに効率的だ。
以前は Scott Aaronson をいつも好意的に見ていて、彼の仕事も尊敬していた。
だがこの記事で "Galt's Gulch" に集まった人たちの話を読んでからは、「ああ、彼もついにサイになってしまったのか」と思った。
(サイという戯曲へのリンク)
冗談めかして言えば、合理主義者（rationalist）と合理化する人（rationalizer）の違いは、まさにインセンティブだ。
Scott Aaronson は有名な合理主義者の中では、まだかなり合理的なほうだと思っていた。
本人も、自分が合理主義者だということを Scott Siskind に言われるまで自覚していなかったという点が、少し面白い。
「サイ」という戯曲を紹介してくれたことに賛成票を入れたい。
とても興味深く、初めて知った内容なので、トップレベルの投稿に値すると思う。
私も Rationalist コミュニティと Rust コミュニティの両方が好きな人間として、Hacker News で両者が似たように扱われているのが興味深い。
軽蔑、好奇心の欠如、大胆な一般化発言の暴力性には、いつも衝撃を受ける。
最近の Hacker News のコメントは、むしろ合理主義コミュニティで長く活動してきた人が多いからこそ、意味があると思う。
私も LessWrong、SSC などで友人たちとかなり長い時間を過ごし、多くのブログや文章を読んできた。
それなのに何か書こうとするたび、「お前は部外者だからよくわかっていない」といった具合に片づけられることが繰り返される。
自分たちは他集団を批判するのが好きなのに、いざ自分たちの集団が挑戦されると防御的になるのだ。
Rationalist と Rust の両コミュニティは、どちらも実際に何かを作り出すという点で非常に能動的だ。
だが何もしていない人間にとって、他人の生産的な活動を批判するのはずっと簡単だ。
他人のペースについていけない、あるいは不利になるのではないかという不安から、嫌悪や憎悪がオンラインではより簡単に表れやすい。
インターネットがもたらす匿名性と距離感が、こうした心理をさらに深めているのだと思う。
Hacker News は Rust が好まれている場所だと思っていた。
私も昔ここで Rust を知って、Rust を学んだ。
もし Rust ファンを探すなら、まさに HN で探すだろう。
私が見る限り、Rust コミュニティではなく、むしろ他の言語コミュニティのほうが Hacker News では防御的に見える。
Zig や Odin、C++ 関連のスレッドに行くと、いつも Rust のほうが優れているという論争が始まる。
(実例)
Rust コミュニティがここで非難されていると聞いて驚いた。
実際には Go のほうが、ジェネリクス導入を拒んで傲慢な態度を見せたことで、より多く批判されていたように思う。
個人的には「プログラミングコミュニティ」という概念そのものにあまり共感できない。
情熱は認めるが、もう少し肩の力を抜いて、心理カウンセリングでも受けて、恋愛でもしたらどうかと助言したい。
現在議論されているのは https://en.wikipedia.org/wiki/Rationalist_community のリンク先にある「合理主義コミュニティ」だ。
https://en.wikipedia.org/wiki/Rationalism よりは明らかに前者だという点は確認しておきたい。
みんな名称を間違って使っている。
実際の運動名は rationality、あるいは LessWrong スタイルの rationality だ。
古典的な哲学の rationalism とは違う。
rationality はむしろ経験主義寄りだ。
単語があまりに似ているので、この名称論争は「hacker」をめぐる議論と同じくらい厄介だ。
Lightcone、LessWrong などのコミュニティをあれこれ読んでみているが、いまだに彼らがいったい何を「している」のかよくわからない。
かつて effective altruism/rationalism にどっぷりはまっていた女性に関心があり、集まりに行ってみたことがある。
自分の反骨気質のおかげで拒否感を覚え、数年たってから、あの雰囲気がかなりカルト的だったと気づいた。
自分の中のエッジの利いた無神論者的な反骨心が、彼らに馴染まないようにしてくれたのは、むしろ幸運だったと思う。
この文章全体が一本のすごい冒険のようだった。
Cade Metz による存在論的な「脅威」のくだりが特に面白かった。
だが結局、シカゴの偉大な賢者の言葉を借りれば――「〜ism」にハマるのは困る。
重要なのは、思潮に縛られず自分を信じることだ。
John Lennon の「ビートルズは信じない、信じるのは自分だけだ」というくだりへの言及。
どうせ自分がセイウチだろうが何だろうが、結局は誰かに頼って生きるしかないのだから。
Cade Metz の脅威の要素に注目している点が興味深いと思う。
合理主義者たちはしばしば、批判を単に「会ってみたらいい人たちだった」で片づける。
Curtis Yarvin が Vibecamp の集まりに来て親切に振る舞ったあと、そのまま彼の擁護者になる現象もある。
こうした印象論は合理主義的態度とは正反対であり、内集団と外集団ができたあとに客観的批判を無視する典型例だと思う。
Cade Metz をめぐる論争を見ると、いつのまにか「味方でなければ敵」という構図に変わり、本来扱うべき論点が流されてしまう。
ネオリアクションのようなケースでは、「変な考えでも拾えるものがあるなら参考までに聞け」と言いながら、自分たちは反論に対して無防備だ。
結局この運動は、思われているほど真実探求中心ではなく、自己確信のほうが強い集団なのかもしれないと気づく。
イデオロギーは、人々が自分にはイデオロギーがないと思っているときに最も強力になる。
本気で、Rationalist たちは車のないファシスト・アナキストなのではないかと心配している。
「〜ism」は決して良くない。
人は思潮を信じるのではなく、自分自身を信じるべきだ。
ただ、それをどう見るかによっては、独我論やナルシシズムなど、いろいろな "-ism" にもなり得る。
Rationalists が受けている反感は、実態以上に強いように感じる。
それなりに考えてみた三つの原因がある。
人は排除されることを嫌う。
自分の見解と違う意見を突きつけられると嫌がる心理が働く。
歴史的にナードがいじめられてきたのと同じ理由だ。
Rationalist コミュニティは決して排他的ではない。
自分を rationalist だと名乗り、ブログに "epistemic status" と書き込めば、すぐに参加できる。
所属感から排除される雰囲気というより、むしろこのコミュニティの問題は、多様性を標榜しているわりに、実際には意見が非常に画一的に動くことだ。
誰か一人が新しい主張をすると、すぐに全員が事実のように受け入れる傾向が強い。
例として、微量のリチウムが肥満の原因だという議論が Astral Codex Ten の助成金まで受けながら広まったが、専門家たちは最初から論文の解釈ミス、統計の乱用、より重要な変数の無視などを指摘していた。
問題は意見の違いではなく、実際の専門性を無視して「第一原理」だけで接近し、相反する証拠を見落とす傾向があまりにも一般的だということだ。
もう一つ重要な要因は、Rationalists がインターネット基盤の集団であり、あらゆる評判がオンラインで決まるという点だ。
インターネット自体が議論を概して否定的な方向へ流しやすいため、この現象はさらに強まる。
彼らの「ASI alignment は難しいだろう」という主張は、事後にしか証明されない。
現時点では「狼が来る」と叫び続けているようなもので、証拠は不明瞭だ。
本当に狼が現れたときには、もう手遅れかもしれないので、意図せず信頼を失い反感を買ってしまう。
Hacker News は合理性について非常に厳しく判断する。
たとえば Mr. Beast に関するスレッドを見ると、論争的な人物であるにもかかわらず上位コメントはどれも寛容なのに、
Scott Aaronson は理論的にはコミュニティが非常に高く評価する人物であるにもかかわらず、合理性をテーマに会話すると、むしろ Mr. Beast よりも寛容でない反応を受ける。
(Mr. Beast 関連コメントの例へのリンク)
"vibe based" という表現を使ったが、実際にはさまざまな経験的観察から導いた結論だ。
Yudkowsky の本にある「インターネットでほとんど常に正しい議論をしている量子物理学者」のような描写を見て、「ああ、この人は合理主義コミュニティにぴったりだろうな」と感じた。
実際には、こんな口調で誰かが本当に話していたら、それ自体が架空の人物を演じているようなものだ。
そんなキャラクターが現実に存在するなら、なおさら妙な空気になる。
タイトルも、映画の登場人物がカメラ目線で気取っている場面のように感じる。
正直、野外で Scott Aaronson に出会ったら、私も似たような反応をすると思う。
それほどまでに賢く、量子コンピューティングをこれほど明快に説明する人を見たことがない。
冒頭で読むのをやめておきながら、それについて論評するのに何の意味があるのかと反問したい。
こうした態度こそ、HN のガイドラインが禁じる表面的な決めつけそのものだ。
訪問後の感想で、コミュニティの雰囲気がカルト的だったと明かしている。
実際、「カルトっぽい感じがあった」という描写を見たとき、十分に共感できた。
Rationalist コミュニティと Rust コミュニティは、どちらも HN で興味深い扱いを受けている。
Rationalist と Rationalism はしばしば混同されるので、Rationality（特に LessWrong 流の Rationality）が伝統的な哲学の Rationalism とは異なることを知っておくべきだ。
Rationalist コミュニティは経験主義的伝統に従っており、名称自体もそれを区別する目的を持っている。
単語が似ているため、この区別は現実にはうまく機能していない。
Lightcone、LessWrong などでは、このコミュニティが実際に何をしているのか、依然として曖昧に感じられる。