1 ポイント 投稿者 GN⁺ 2025-06-20 | 1件のコメント | WhatsAppで共有
  • Scott AaronsonはBerkeleyのLessOnline参加後、長く距離を置いていた合理主義者(Rationalist)というアイデンティティを、今では受け入れられると考えるようになった
  • イベントで最も強く印象に残ったのは公式セッションよりも、Lighthavenのあちこちで続いていた少人数の対話であり、参加者にはセッションを飛ばしてでも深い会話をするよう勧める声まであった
  • これまで最大の距離感は、AIがまもなく超人的な力を持つようになるかもしれないということへの執着だったが、近年のAIに関する経験的変化を受けて、その反対の立場を撤回し、AI alignment研究にも時間を割いている
  • 文化的な違い、カルト的な雰囲気、外部から嘲笑されることへの恐れもあったが、LessOnlineでは結婚して子どものいる参加者、公の議論、世代交代したリーダーシップを自分の目で見た
  • 外からの非難よりも自分が直接見た経験を信じるという立場から、従来のアイデンティティや信念は保ったまま、合理主義者コミュニティを自分の知的共同体の一つとして受け入れる

LessOnlineで見た人々と空間

  • Scott AaronsonはLessOnlineに参加し、Scott Alexander、Eliezer Yudkowsky、Zvi Mowshowitz、Sarah Constantin、Carl Feynmanなど、長年知っている人々と会った
  • オンラインでしか知らなかったJoe Carlsmith、Jacob Falkovich、Daniel Reevesとも直接会った
  • イベントはBerkeleyのTelegraph Avenue近くにあるLighthavenで開かれ、通路・会議室・宿泊スペース・庭・蔦が絡み合う空間として描写されている
  • 今年のLessOnlineでAaronsonは2つのイベントを担当した
    • Nate SoaresとのOrthogonality Thesisに関する対話
    • 量子コンピューティングと理論計算機科学に関するAMA

セッション以上に大きかった対話の場

  • 最も記憶に残ったのは公式セッションよりも、会場全体で朝から夜まで続いていた数百人規模の並行した会話だった
  • 開会セッションでは参加者に、できるだけ多くのセッションを飛ばして密度の高い少人数対話をするよう勧めていた
    • そのほうが良いことと、セッションルームがあまりに小さいことが理由だった
  • 建物の間を移動するだけでも何時間もかかり得て、名札を見た人たちが5フィートごとに質問を投げかけてきた、というような言い方をしている
  • Scott Alexanderとの会話でAaronsonは、もう自分は合理主義者になる準備ができている気がすると言い、Alexanderは、いやもう10年前、訂正して20年前には入門していたと答えた

合理主義者たちとの知的衝突

  • 合理主義者だと明かしたあと最初にしたことは、Scott AlexanderやJoe Carlsmithらと、12年前の自分のエッセイGhost in the Quantum Turing Machineをめぐって激論を交わすことだった
  • Aaronsonの論点は、生物学的生命の不可逆性と一時性が、デジタルコンピュータプログラムの複製可能性・巻き戻し可能性と対照をなしているという点にある
  • この違いは、宇宙の初期状態に含まれる微視的詳細、量子力学のNo-Cloning Theorem、脳活動におけるカオス的増幅と結び付けられる可能性があると見ている
  • 彼は、こうした要素が自由意志や意識のような問題を扱うとき、より深い世界の層を指し示す手がかりになり得ると考えている
  • この論争は、合理主義者たちの合意と自分の信念のあいだで最も大きな衝突点を明らかにしようとする試みでもあった

これまで合理主義者と名乗らなかった理由

  • Aaronsonは、自分の従来のアイデンティティが変わったわけではないと線を引く
    • 計算機科学者
    • 学界の一員
    • 民主党に一括投票する人
    • リベラルなシオニスト
    • ユダヤ人
  • 1つ目の理由は、約15年前、合理主義者たちがAIがまもなく超人的に強力になり、地球上の生命の基本条件を変え得るという問題に執着しているように見え、それが奇妙に感じられたからだった
  • その後の経験的な展開が、彼の反対の立場を揺るがした
    • 合理主義者たちがAIについて大きく外した点があるとすれば、それは革命がどれほど速く起きるかを過小評価したことだと見ている
    • 必要な新しいアイデアの数は過大評価しており、実際にはより多くのコンピュートと学習データが主な要因だったと考えている
    • 現在のAaronsonも時間の一部をAI alignment研究に充てており、LessOnlineでは同僚たちと研究ミーティングも行った

文化的な距離感と変化

  • 2つ目の理由は、ライフスタイルと文化の違いだった
    • 合理主義者たちは、BerkeleyやSan Franciscoを拠点とする複数の独自組織で働く20代が中心だという印象があった
    • グループハウス、性的嗜好、ジェンダー・アイデンティティ、フェティッシュ、ときには幻覚剤と結び付いた文化があると見ていた
  • Aaronsonは自分をその文化から距離のある人物として対置する
    • 異性愛者
    • 一夫一婦制の関係
    • 中年の終身在職教授
    • 同じ職業の配偶者と結婚
    • 普通の学校に通う2人の子どもを育てている
  • 時がたつにつれ、合理主義者のかなりの部分が結婚し、子どもを持つか、その両方になったと見ている
  • LessOnlineでLighthavenのキャンパスを走り回る幼児たちが大勢いた光景も、強く印象に残った
  • 一部は明示的な出生奨励イデオロギーやBryan CaplanのSelfish Reasons to Have More Kidsに説得され、別の一部は古くから続く人間の衝動に従ったのだと見ている
  • LessOnlineの子育てセッションでは、子どもを自立的で主体性がありつつ社会化され、技術に明るいがiPadゲーム中毒にはならないよう育てる問題を扱っていた
    • 数学を早く学べる学校の選び方
    • 退屈な学校体験を避ける方法
    • 子どもの“enrichment”のために親の人生をどこまで犠牲にするか
    • Judith Rich Harrisが述べた努力の逓減効果をどこまで信頼するか

カルト懸念と実際に見た姿

  • 3つ目の理由は、合理主義者たちがEliezer Yudkowskyをグルとして持つカルト的な雰囲気を一部漂わせていたことだった
  • Eliezerは比喩や禅問答のような文体で書き、地球上の生命の運命が懸かっており、それを理解する者には未来を導く責任があると教えているように見えた
  • しかしLighthavenで見た姿は、Beatniks、Bloomsbury Group、初期のRoyal Societyのように、何かを信じる共同体に似ている程度だった
  • Eliezerが現れたときも、他の人々と同様に議論の対象になっていた
  • リーダーシップはかなりの部分で新しい世代へ移っていると見ている
    • Nate SoaresとZvi MowshowitzはAIリスクを語る新しい方法を見つけている
    • Scott Alexanderはこの10年、コミュニティの知的中心となるブログを書いてきた
    • Kelsey Piper、Jacob Falkovich、Aellaらは合理主義を主流政治への参加から別方向まで拡張している
  • ただし、Bayes’ theoremとTarskiの真理定義に関するAI生成ポップソングに合わせて踊る体験は、“cringe”に感じないのは難しいとも認めている

外からの嘲笑より直接見た経験

  • 最も深い躊躇は、自分が合理主義者だと明かしたら、学界の同僚やインターネット上の見知らぬ人たちに笑われるかもしれないという恐れだった
  • 彼は、このコミュニティの魅力をあまりにも合理的に説明して嘲笑を鎮める方法を、長いあいだ探していたという
  • 5年前には、Cade Metzの_New York Times_記事、RationalWiki、SneerClubなどの非難によって、合理主義者コミュニティが崩壊しかねないと感じていた
  • LessOnlineで見たコミュニティは、むしろかつてないほど繁栄していた
    • 実際のキャンパス
    • 多様なテーマで優れた文章を書く書き手たち
    • そこを自分のいるべき場所だと感じる人々
    • 子どもたちまでいる共同体

政治・性別関連の非難への反応

  • 合理主義者たちがCurtis Yarvinのような極右の君主主義者に近いという非難について、Aaronsonは_The New Yorker_のYarvinプロフィールを引用する
  • LessOnlineで彼が見た最も右寄りに近い政治セッションは、Kelsey Piperと元・現職の議会スタッフが一緒に行ったセッションだった
    • テーマは、穏健派Democratsが大衆に響くpro-abundance agendaを提示してMAGAに勝てる見通しだった
  • 合理主義者たちがincelだという非難については、Jacob Falkovichが主に男性のnerd参加者のデートに関する不安を扱い、女性の合理主義者たちが視点を返したセッションを例に挙げる
  • 交際中の人向けのセッションとしては、Eliezerのパートナーで元カップルカウンセラーでもあるGretta Dulebaによる関係の衝突に関するセッションもあった

変わらない自分、新たに受け入れた共同体

  • Aaronsonは、合理主義者に対する嘲笑者たちの非難よりも、自分が直接見たものを信じると言う
  • 自分が“mask off”したと言われても、その仮面の下にはもともとと同じ人間がいるのだと語る
  • 彼は、Busy Beaver functionとBQP/qpolyを愛し、啓蒙主義を強く支持する人間として自分を要約する
  • 家族、学界の同僚、合理主義者コミュニティ、ブログ読者のなかに、自分が世に出すものを求める人々を見いだしたと考えている

1件のコメント

 
GN⁺ 2025-06-20
Hacker Newsのコメント
  • この記事を読んで、この運動全体がなぜこんなに鼻につくのかを、より深く考えるようになった
    物事を合理的に見ようとする態度と、第一原理から推論しようとする態度のあいだには内在的な緊張があり、コミュニティ全体の絶対主義的な語り口がとりわけ鼻につく。「自分はこう考えるが、見落としている角度があるかもしれないし、間違っているかもしれない」といった種類の謙虚さがほとんど見られず、ある話題について意見がなかったり「分からない」と言ったりするのを恥じる人たちのように見える
    AI以前はどうにか我慢できる程度だったが、その後は世界が終わると確信して過熱する様子に、AIの含意を私たちがまだ十分に理解していないかもしれないという謙虚さがまったく見えない。もしかするとAIは、予想よりずっと穏当で退屈な方向に進むかもしれない

    • Effective Altruism界隈と同じように、仮想的な論理的思考実験に絡め取られ、純粋な論理だけでたどり着いたという理由で狂った結論に閉じ込められている感じがある
      初期条件があまりに人工的なら、結論も学術的な価値くらいしか持たないということを見落としている。こういうのは「自分の尻に頭を突っ込むこと」とでも呼べる。問題なのは、こういう人たちが「純粋に論理だけ」を使ったのだから間違いようがないという絶対的な優越感を漂わせている点だ。10代や20代でこういうふうにハマることはよくあるが、普通は誰かが頭をはたいてやめさせてくれる。金とインターネットが十分にあると、そうした歯止めを避けて自分だけの部屋にこもれてしまう
    • 本当にその集団を広く一括りにしすぎているのではないかと思う
      彼らこそ、ブログ記事にepistemic status: mostly speculationのような文句を付ける流れを作った人たちではないか。過信の危険についても書いているし、予測がどれほど外れたかも検証し、「自分が間違っていたことの一覧」のようなページも維持している
    • 息つく暇もなく騒ぐ特異点主義者たちがAIアラインメントを心配するのは、自己改善でも超人的知能でもない、もっと平凡なAIのリスクをはっきり見えなくする煙幕のように、ずっと感じられてきた
      アルゴリズム・バイアス、ポリシー・ロンダリング、エネルギーコスト、富の集中の加速といった現実的なリスクがある。またこの流れはいわゆる長期主義へとつながり、いま実際にある問題を解決する利益を矮小化し、いつかすべてを無意味にすると見なされる仮想的な問題の解決にばかり集中させる
    • Scott Alexanderのブログ、昔のSlate Star Codexや今のAstral Codex Xを読んだことがあるなら、そういう評価は少し違って見えるかもしれない
      疑念と自己点検に満ちていて、自分の失敗一覧も公開のまま維持している: https://www.astralcodexten.com/p/mistakes
      私にとって「合理主義者コミュニティ」との接点はこのブログだけだが、ここでは傲慢さよりもむしろ正反対に近い印象を受ける
    • 「合理的」という言葉は、彼ら自身や仲間同士でメタンガスを作って吸い込む能力を覆い隠す煙幕のように、ずっと見えていた
      Stanfordの女の子たちに「あなたはいつも正しい超天才の量子物理学者で数学者だ」と言われるのが気持ちよかったのだろうとは思う。それでもどうか少しは品位を持ってほしいし、インディアナの田舎で爪のあいだに土を詰めながらでもできる良いことにも目を向けてほしい
  • 論理は、ギリシャの哲学者からコンピュータのゲートに至るまで私たちを導いてきた優れた道具である。
    純粋合理主義の難しさは、思考の出発点となる第一原理を検証することにある。原理が誤っていたり、途中の複雑性を見落としたりすると、論理は人をとんでもない場所へ導きうる。
    欠けた第一原理の例として Aristotle を挙げられる。歴史上もっとも偉大な論理学者の一人でありながら、多くの誤った結論に到達した。
    複雑性を見落とした例として、自然選択は第一原理的思考ではなく経験的分析から生まれたという点がある。理論上は前者でも可能だったかもしれないが、あまりに複雑すぎた [1]。
    だからといって論理を貶めているわけではなく、答えには常に暫定的な謙虚さが伴うべきだという意味である。それでも Scott Aaronson の熱烈なファンではある。
    [0] https://www.wired.com/story/aristotle-was-wrong-very-wrong-b...
    [1] https://www.jstor.org/stable/2400494

    • ここでいう合理主義者たちは、経験主義を退けた Cartesian rationalist ではなく、むしろベイズ的経験主義者に近い。
      ベイズ確率は、Aristotle には存在しなかった Boolean 論理を連続的な実数確率へと拡張する唯一の方法として現れる。彼らが自らを「合理主義者」と呼ぶのは、経済学における「合理的ベイズ行為者」という理想のためらしい。
      ただし彼らには、「宇宙の結合条件付き確率分布の上でそのまま推論することはできない」という標語がある。つまり AIXI は計算不能であり、その AIXI でさえ計算可能な確率分布の上でしか推論できない。
    • 論理学は、何が真であるか、そして何が証明可能であるかを扱う学問である。
      もっとも理想的な条件では、その二つは一致する。論理学は、何が真であるかを扱うモデル理論と、何が証明可能であるかを扱う証明理論に分かれた。今日の合理主義のかなりの部分は、錨の外れた証明理論のように見える。Kant の "The Critique of Pure Reason" を読むべき人は多い。
      複雑なシステムでは、真であることが証明不可能な場合もあり、証明可能なものの多くが真ではないこともありうる。だから推論と同じくらい識別力を磨き、reasoning だけでなく reckoning も鍛えることが重要だ。「真実の響き」を聞く感覚だと考えているが、これは反証不可能なので、自分がそう感じたときでさえ懐疑的であるべきだ。それはより深い探究へ進むための案内役にすぎず、最終目的地ではない。
      多くの人が思考によって道に迷う。思考は魅惑的だ。思考とは、無意識的な完成へ向かう道の上にある意識的な障害物にすぎない、ともっと頻繁に言うべきなのかもしれない。
    • Aristotle を少し擁護すると、彼の不完全な論理と形而上学は、それでも彼以前の人々が行わなかった、あるいは体系的には行えなかった世界のさまざまな側面を探究する強力な土台を与えた。
      彼の共同体は生物学の経験的研究を避けてはいなかった。彼らも多くの事柄で誤った結論に至ったが、むしろ責めるべきは後世の人々がそれに挑戦しなかったことだろう。
    • 「道具」という言葉は、どれだけ強調してもしすぎることはない。
      論理は道具であって、「絶対的真理をのぞき込む魔法の窓」ではない。道具は、ある仕事には向いていても、別の仕事には向いていないことがある。
    • 暫定的な謙虚さが価値ある最初のミームになればいいと思う。
      Provisional Humility のカルトを作る必要がある。pH を上げなければならない。
  • 今、Yudkowsky の Rationality: from AI to zombies を読んでいる。
    ブログ記事の寄せ集めなので繰り返しが多く、最初に読もうとしたときは 50 章ほどで挫折したが、今はこのテーマにより関心を持つようになり、ずっと面白く読めている。
    彼の文章を深く読んだことがない人や、カルトっぽい見た目に引いてしまった人に言うと、彼は本当に何かをつかんでいる。「Belief in Belief」「Emergence」「Generalizing from fiction」のように、日常的な思考にかなり役立つ実践的なアイデアが多い。
    たとえば私は、純粋に意味論的な論争を数多く経験してきた。何かに同意していないように見えても、実際には双方が同じ現象を指していない場合のことだ。同じ単語を、互いに異なるが関連した「対象」に使っていることが不一致の原因になる。明白に見えるが、たいていは後になって気づく類いのもので、今ではそれをリアルタイムで見抜く準備がずっとできている気がする。一度試してみる価値はある。

    • 合理性のコミュニティ的側面は、せいぜい疑わしい。
      だが、文献で説明されている思考の道具は、非常に重要な条件を一つ付け加えれば価値がある。「自分は合理主義者だからあの人より正しい」と思った瞬間、合理主義者として失敗している。
      これは本当に簡単に犯してしまう誤りだ。道具を効果的に使うには、以前よりもっと謙虚にならなければならず、そうでなければ説得不可能な嫌な人間になる。「実際に自分が正しい」を「もしかすると自分が間違っているかもしれない」よりも頻繁に言うなら、合理主義者として失敗している。
    • 哲学・文学・歴史の背景が乏しいSTEM 系の人々に対し、それらの分野の基本的なアイデアをこっそり包み直して見せると強く感銘を与えられる、という裁定取引があるように見える。
      これがまさにそのケースだと言っているわけではないが、この種の主題は何千年も前から議論されてきたのだから、Yudkowsky が新境地を切り開いたと考える前に、少なくとも驚きは持つべきだ。
    • こうした純粋に「意味論的」な論争は、Wittgenstein が言語ゲームと呼んだものと同じに見える。
    • 時間はむしろ、彼の大作 Harry Potter and the Methods of Rationality を読むのに使ったほうがよいかもしれない。
      https://hpmor.com/
    • 情報収集の歴史を扱う Yuval の本 Nexus に近い響きがある。
  • Scott Aaronsonを悪く思ったことはなく、たまたま彼の文章や仕事に触れるたびにしばしば感心していた。
    しかしこの記事で、この人たちが自分たちだけの「Galt's Gulch」に集まっている様子を読んで、「ああ、ついに彼もサイになったんだな」と思った。
    https://en.wikipedia.org/wiki/Rhinoceros_(play)
    ひどい冗談を一つ言うなら、「rationalist」と「rationalizer」の違いは何か? インセンティブだけだ。

    • Scott Aaronsonは、有名な合理主義者たちの中ではいつもいちばんましな部類だと思っていた。
      だから、Scott Siskindに指摘されるまで本人が自分を合理主義者だと知らなかったというのは、少しおかしい。
    • 「rationalist」と「rationalizer」の違いはインセンティブだけだ、という文はひどい冗談ではなく、大きな額に入れて飾るべき言葉だ。
  • 雰囲気ベースの判断だが、Rationalistsは受けるに値する以上の毒舌を浴びているように思う。
    よく考えると理由は三つある。第一に、彼らはコミュニティなので内集団があり、そこに属さなければ定義上は外集団になる。人は他人の外集団になることを好まない。
    第二に、彼らは風変わりな意見を持ち、それを公に語る。人は自分と違う意見を表明する人を好まない傾向がある。
    第三に、彼らはnerdだ。歴史的にnerdがいじめや排斥を受けてきた原因を、彼らもおそらく持っている。

    • 合理主義者コミュニティはまったく排他的ではない。自分を合理主義者だと宣言し、epistemic status付きのブログを書き、自分を合理主義者と呼べば入れる。
      批判は、すてきなクラブが人を入れてくれないから生じているのではない。
      むしろ問題は、彼らが異端的なアイデアや多様な観点の受容を語りながら、多くの事柄で驚くほど足並みをそろえていることだ。外から見ると、一人の合理主義者ブロガーがある話題の種をまき、他の人たちがそれを事実のように受け入れていく過程が簡単に見える。
      数年前、ある合理主義者ブロガーが、水中の微量リチウムが肥満を引き起こすという長文を書き、Astral Codex Tenの資金支援まで受けていた。実際の専門家たちは最初から、研究の解釈ミス、統計の乱用、より重要な要因の無視を指摘していたのに、それでも何年ものあいだ合理主義者コミュニティの中では何かの証拠のように共有されていた。
      問題は異なる意見そのものではなく、彼らが実際の専門性を無視し、矛盾する証拠に目をつぶったまま、ある話題を稚拙な第一原理評価で扱うことが非常に多い点にある。
    • ここにはもっと重要な要因がある。彼らはインターネット上で目立ち、存在の仕方自体が主にインターネットベースだ。
      したがって彼らを評価する人たちも主にインターネット上にいて、インターネット言説はたいてい平板に否定的な方向へ流れる。皮肉なことに、このコメント自体もその穏当な一例だ。
    • 追加要因を一つ挙げるなら、平均より知能が高いと見なされる人々が集まり、人間の思考の産物や熟慮そのものを扱う集団は、明示的な知能の敷居や門番的なふるまいがなくても、ほぼ必ず俗物根性/嫉妬からの攻撃を受ける。
      露骨に言えば、少しでも賢いのに「いやいや、とんでもないです」みたいに振る舞わないのは許されない。その賢さは、医学や会計士のような別の目的に奉仕していなければならない。統計の授業で見た面白い事実として、平均的なCPAは平均的な医師よりIQが約5ポイント高い。
      もちろん、自分の尻の中へ崩れ落ちて消えていく危険が常にあるので、ある程度は正当化もされる。同時に、こうした態度は多くの人を、疑いを一切持たず前進する愚かな管理職やばか者の下につなぎとめてもいる。
    • HNは合理性をかなり厳しく裁いている。
      論争の多い人物であるMr. Beastについてのこのスレッド[1]を見ると、上位コメントがどれもかなり寛大だと分かる。その会話とこの記事のコメントを比べると、かなりおかしい。
      理屈の上ではHNが大好きであるはずの人物、Scott Aaronson――量子力学についてものすごく詳しく、とても親切で賢いと評される人――が合理性を好むと言っただけなのに、Mr. Beastより寛容でない扱いを受けている。おかしくないか?
      [1]: https://news.ycombinator.com/item?id=41549649
    • 「雰囲気ベース」というのは、つまり経験的観察という意味ではないのか
  • 大文字の R Rationalism 周辺の話題を扱った本の中で最も有用なのは、Elizabeth Sandifer の "Neoreaction, A Basilisk: Essays on and Around the Alt-Right" [1] である可能性が高い
    名目上の主題は Alt-Right だが、実際には、現在の米国政治における支配的な新反動運動を育てた大文字の R Rationalist コミュニティとその人物たちに関する内容のほうがはるかに多い。2010年の政治的・知的立ち位置から、どのようにして現在に至ったのかを理解するには、おそらく最良の本である
    https://www.goodreads.com/book/show/41198053-neoreaction-a-b...

    • rationalists についての本を求めていて、Wikipedia のページで深刻な 中立的観点違反 によりブロックされた人物が勧める中傷本は嫌だというなら、Chivers の The AI Does Not Hate YouRationalist's Guide to the Galaxy がよいと聞いている
      ただし、Chivers は私たちにやや好意的なので、片方の本が好きならもう片方は嫌いになる可能性が高い
    • 「おそらく最も有用な本」というより、「おそらく自分の偏見を最もうまく裏づけてくれる本」という意味に聞こえる
    • 「新反動運動を育て、現在の米国政治で支配的だ」といった言い方は、外集団をおとしめるための、きわめて論争的な世界観を提示している
      Hacker News を政治的・イデオロギー的な戦場として使うなという原則にも合致しない。しかもその中傷は連座に依拠しており、多くの人は原則的にそれを不当だと見るだろうし、ざっと見てもあまり当てはまらない
      別の観点にも少しは目を向ける必要がある。"Reliable Sources: How Wikipedia Admin David Gerard Launders His Grudges Into the Public Record" https://www.tracingwoodgrains.com/p/reliable-sources-how-wik... には、Sandifer と Gerard の親しい同僚が rationalism にどう関与してきたかや、引用された著作の偏りについての長い解説がある
    • 皮肉なことに、この話題を持ち出すと、議論はいつも主題そのものではなく、伝達者に対する 人身攻撃 へと変わってしまう
      それは rationalists が嫌っていると主張する、まさにその論法なのに、自分たちのコミュニティにとって不都合な主張が出てくると繰り返し現れる。著者を理由に内容を無視したり、「中傷」のように感じられるからという理由で主張を認めなかったりするコメントは、主張をそれ自体の長所に基づいて判断する能力がないと認めているに等しい
      人身攻撃に逸れず、実際の主題を扱いたいなら、Scott Alexander がなぜ新反動の話題を頻繁に扱うのかを自分で書いた文章を読むとよい: https://www.reddit.com/r/SneerClub/comments/lm36nk/comment/g...
      一部を引用すると、Reaction や gender について書くとブログの閲覧数と新規フォロワーが5倍ほど増え、フォロワーは重要なアイデアを広めたり重要人物とつながったりする能力を高めてくれるため、個人的な理由があるという。また、Reactionary thought のよい部分を広めたいとも述べている
      自分をかなり賢く、勘のよい人間だと見ているが、Reactionaries から犯罪に関する話題、第二次世界大戦の歴史、HBD のような新しく重要なことを学び続けているとも述べている。ここで HBD は "human biodiversity" のことで、alt-right が人種差別、特に異なる人種間の相対的知能に注目する人間分類を呼ぶ際に好んで使う用語である。Scott Alexander の仕事でも奇妙なほど繰り返し現れるテーマでもある。彼は公には否定しつつ、私的にはかなり正しいと考えていることを、フォロワーに暗号化して知らせるブログ記事まで書いていた
  • ここで皮肉なのは、Rationalist コミュニティが、"Rationalist として自己同一化すること" が一般に合理的な決定ではないと気づくほどの観察力すらなかった人々によって構成されている点である

    • 私が見た限りでは、その種の人々と、その問題を避ける人々と、実際には信じていないのに意図的にそうしている人々が混在している
  • Rationalistコミュニティが単なる大言壮語の集まりではないと納得させてくれるようなリンクがあるなら、本当に見てみたい
    HPMORの最初の3分の1を読んだけれど、文章はいまひとつだったし、もっと重要なことに、高度な合理主義的思考で「目を開かせて」もくれなかった。得たものといえば、「そうだな、もともとのHPの話には矛盾や間抜けさが多かったし、登場人物が本当に賢ければ別の物語になるだろう」という程度だった
    EYのエッセイやLessWrongの記事もかなり読んで、心を打ち砕くようなアイデアが何なのか探そうとした。「地図は領土ではない」は当たり前だし、「証拠に従って信念を更新せよ」は宗教を除けば誰が反対するのかわからないし、「人はバイアスを持つのだから克服すべきだ」もありきたりで、「証拠と望ましい結果に合わせて決定しろ」という助言もありがたくはある
    この哲学全体は半ページのノートにまとめられそうで、たいていの人はうなずいて「その通りだね」と言うだろう

    • 自己啓発本が有用なのは、心を揺さぶるアイデアがあるからではなく、自己整合的でかなり一貫した助言を一か所に集めているからだ
      同じように、rationalistの知識探索戦略も心を揺さぶるものではなく、ただ合理的なだけだ。周囲の世界でより効果的に行動するために従うべきルールの束を提示している
      半ページのノートを超える合理主義の部分は、おおむねこうした合理的な認識論ルールから導かれるさまざまな下流の結論だ
    • 「証拠に従って信念を更新せよ」に誰が反対するのかと言ったが、このスレッドのコメント数十件がほぼその実例だ
      たとえばEffective Altruismが実際に何をしているのかについて強い意見を述べる人たちがいるが、https://www.givewell.org/charities/top-charitiesはググれば一発で出てくる。それなのに、強い意見を書き込む前に確認する必要を感じていない
      1位のコメントは、rationalityコミュニティが「第一原理から推論しようとする」と言っているが、実際にはその逆だ。あるコメントはScott Alexanderの文章をリンクし、Scottが何かを予測して外したと主張しているが、リンク先の記事でScottはその出来事に30%の確率を与えると言っている。つまり起こらない確率を70%と見ていたわけだ。別のコメントはそれを「完全に合理的だが批判的なコメント」だと擁護している
      HNはインターネットの大半より賢い場所だし、議論の規範も平均以上だが、ここの人たちも実際には物事についてより間違えにくくなろうとすることにあまり関心がないように見える。それも、比較的簡単に確認できることですらそうだ
      中核となるアイデアは、そういうやり方が実際に機能するコミュニティを作ることだ。証拠を示せば支持され、根拠のない非難が誤りだと判明すれば低評価される、といった規範がだいたい機能する場所だ
      ここには、信念を実際に数字を使って確率として表現しようという考えもある。だからEYはBayes' Theoremの話をやめられないのだ。実際、人々はそうしている
  • これは本当に巨大なひとかたまりだった。とくにCade Metzという実存的脅威が気に入った
    しかし結局のところ、シカゴの偉大なる預言者がこう言ったとき、全体を的確に言い当てていたと思う
    「-ismは良くないと思う。人は-ismを信じるべきではなく、自分自身を信じるべきだ。John Lennonの言葉を借りれば、『私はBeatlesを信じない。自分自身を信じるだけだ。』いい指摘だ。結局、彼はwalrusだった。私もwalrusかもしれない。それでもなお、誰かに車に乗せてもらわなきゃならないだろうが」

    • rationalistsが批判者をけなすとき、「実際に会ってみたらいい人だった」を持ち出すやり方はいつも興味深い
      実に奇妙なミームだ。Curtis Yarvinがrationalistの集まりである「Vibecamp」に行き、有名なTwitter rationalistsの何人かに親切にした。すると今や彼らはTwitterで彼を熱烈に擁護している。論拠のすべてが「会ってみたら感じがよかった」なのだ
      内集団と外集団の線が引かれた瞬間、この人たちの哲学から合理主義の部分が窓の外へ吹き飛ぶのには驚かされる。Cade Metzを持ち出すのは古い合図だが、それを「味方か敵か」の戦いへとうまく変えてしまい、Cade Metzが持ち込んだかもしれない妥当な論点を完全に無視しているからだ
      そのあとで新反動主義者たちを相手にするときには、嫌悪を超えて彼らの主張の中の良い部分に目を向けるべきだと言うのを見ると、この運動全体は自分たちが思っているほど真理探求に関するものではないのかもしれないと思えてくる
    • 「人は-ismを信じるべきではなく、自分自身を信じるべきだ」にも-ismがある
      見方によってはsolipsism、narcissismなどいくつかある
    • イデオロギーは、人々がそれが存在しないと思っているときに最も強力になる
    • Rationalistsは実は車を持たないファシスト・アナキストなのではないかと本気で心配している
  • かつてeffective altruism/rationalism界隈に深くはまっていた女性に惹かれていたことがある
    何度か集まりに一緒に行ったが、自分の中のひねくれ者の気質がそれを好まなかった。数年たってようやく全体がどれほどカルトっぽく感じられたかに気づき、自分の尖った無神論者的な反骨精神が性欲より優先して、あの集団と関わらずに済ませてくれたのはある意味幸運だったと思っている