LLM Inevitabilism（必然主義／不可避論）
(tomrenner.com)- 必然主義（Inevitabilism） は、ある特定の未来が必ず訪れるかのように言説の方向を決める強力なフレーミング
- AIおよびLLMの未来について、主流の人物たちが「こうした未来は不可避だ」と主張し、それに合わせて適応するよう圧力をかける
- このようなフレーミングは、異論や抵抗を「非現実的」として扱い、実際には選択肢を奪う心理的効果を伴う
- 著者は、LLMやAIが望ましい未来なのかどうかに疑問を投げかけ、私たちがどのような未来を望み、どの技術を選ぶのかを自ら決めるべきだと強調する
- 必然性のフレームに飲み込まれず、それぞれが望む未来を積極的に考え、実践すべきだと訴える
必然性フレーミングの力
- 非常に議論のうまい人と論争すると、思いがけないポイントに振り回され続けることがある
- 自分の主張の弱い部分だけを守っているうちに、核心は流れの中に埋もれてしまう
- 結局は流れと自信を失い、論争で押し負ける構図になる
- 大学時代、国際ディベート大会で優勝した友人が強調していた戦略は、先にフレームを設定することだった
- つまり、自分の用語と論理で会話の枠組みを定めること。フレームを掌握すれば、論争の結果はすでに決まったも同然になる
Surveillance Capitalismと「必然主義」
- Shoshana Zuboff の 『The Age of Surveillance Capitalism』 を読みながら、「Inevitabilism（必然主義、不可避論）」という概念を知った
- 概念に名前を与えることだけでも、論争を組織化し、問題意識を共有するうえで大きな力になる
- 「必然主義」とは、特定の未来が必ず実現すると主張し、対応策を準備することだけが合理的な選択であるかのように見せる考え方である
- このやり方は、反対意見を「現実を無視する者」として追いやり、すでにそのフレームを受け入れた議論だけを正当なものにしてしまう
AIにおける必然性フレーミングの実例
> 「私たちはAIと共存する世界に入っていくことになる」 — Mark Zuckerberg
> 「AIは新しい電気だ」 — Andrew Ng
> 「AIが人間を代替するのではなく、AIを使う人が使わない人を代替することになる」 — Ginni Rometty
- こうした発言は、AI時代がすでに決まった未来であるという空気をつくり出す
- 議論の焦点は「望む未来なのか？」ではなく、「不可避な未来にどう適応するか？」へと移ってしまう
- 脅しのニュアンスも含まれており、「拒否すれば損をする」とか、異論を唱えることが「愚かだ」と感じさせる心理を誘導する
選択と主体性
> 「私は、LLMが本当に未来の姿なのか、その未来が自分の望むものなのか確信が持てない」
- しかし私たち一人ひとりには、未来のあり方と技術の使い方を選ぶ権利がある
- 必然主義のフレームが私たちの選択を奪わないよう注意しなければならない
- それぞれが望む未来について考え、その未来のために闘う姿勢が必要だ
結論
- 技術と未来を見るとき、不可避性というフレームに受け身で飲み込まれてはならない
- それぞれが考えるよりよい未来を積極的に想像し、実践する姿勢が必要だ
1件のコメント
Hacker Newsのコメント
2つの事実は同時に成り立ちうると思う。
超音速旅客機のように「不可避に見えた技術」でも、十分な事業収益がなければ消えることがあるし、電子レンジのように特定用途へ落ち着くことも多い。十分に収益性のあるモデルがないなら、LLMは今と比べて特別感が薄く、煩わしさも少ない位置に落ち着くのではないか。無理やりあらゆる場所にLLMをねじ込む試みは、あまり好評ではない
超音速旅客機の比喩は、AIだけでなく、コンピュータやインターネット全体にも当てはまると思う。
かつて超音速旅客機の技術は驚異的で、必然的に拡大していくように感じられたが、その裏には当時の技術では解決できない問題と収益性の欠如が隠れていた。
コンピュータとインターネットも、航空宇宙産業と似た流れをたどる可能性がある気がする。私たちはすでに技術の頂点にかなり近づいているのかもしれない。
1970年代にタイムマシンで50年後の2025年へ行き、超音速旅客機は消え、航空産業は大して変わらないまま、より不快な形で残っていると言っても、誰も信じなかっただろう。
だから2075年には、LLMを題材にしたドキュメンタリーを見ながら、あれほど有望に見えた技術がなぜほぼ消えたのかを振り返っているのかもしれない
「ほとんどの人がLLMの出力を陳腐で消費しづらいと感じている」という主張にはあまり同意しない。実際、人々はLLMの出力をかなり気に入っているからこそ、ChatGPTは史上最速で成長したアプリになった。PerplexityのようなAIアプリも、Googleの検索支配を脅かし始めている。
もちろん大衆がChatGPTの書いた小説や詩集をわざわざ買うことはないだろうが、だからといって読みにくいとか嫌悪感しか与えないというわけではない。明快で読みやすい要約や説明を生み出せるのも否定しがたい事実だ
あなたの2つ目の主張には混乱を覚える。LLM企業が現時点のモデルで収益を出せていないというのが本当に正しいのか分からない。OpenAIは年間100億ドルのARRと1億MAUを記録している。もちろん今は赤字だが、それはモデル改善のための先行投資だ。もし今日この瞬間にモデル改善を止め、運用コスト最適化と大規模ユーザー基盤の収益化に集中するとしたら、成功するビジネスモデルがないと言い切れるだろうか。すでに人々は毎日このツールを使っている。これは不可避だ
本文の議論は基本的に「AIを通常の技術として見る視点」の主張と同じだ
AI as Normal Technology
参考討論リンク
「不可避だと思われた技術が、結局は事業収益性の不足で後退した例は多い」という点で言えば、120以上のケーブルテレビチャンネルも登場時には良いアイデアに見えたかもしれないが、実際にはLLMと同じく、その大半のコンテンツには誰も興味を持たなかった
現代の世俗的な時代の負の帰結の1つは、非常に知的で思慮深い人たちが、何千年にもわたる哲学や宗教的思索を時代遅れ、あるいはもはや役に立たないものとして簡単に退けてしまう傾向だ。（ちなみに、<A Secular Age>という本を強く勧める。）
こうした態度は、人々が世界や未来に関する反復的な心理パターンを認識することも、その認識に基づいて自分の立場を調整することも妨げる
例えば、AI必然論(inevitabilism)は宗教改革期の予定説(predestination)と大差ない。歴史があらかじめ定められた経路を進むという考えは、神から技術へと主体が置き換わっただけの、同じ心理的構造だ。これは自由や責任を、曖昧で強力な力（いまや技術）に委ねる心理の構図だ
AGIがまもなく主流になるという主張には懐疑的だが、成長期に神学書を多く読んだ身として、LessWrongのような人気エッセイを宗教的だとか、読書量の少ない人の文章だとは思わない。「彼らには新しい神ができた！」という見方は、よくある論点ずらしだ。もちろん、AGI必然派の一部には当てはまる比喩かもしれないが、最も弱い主張だけに焦点を当てても意味はないと思う
テクノ・カルヴァン主義者(Techno Calvinists) vs ラダイト改革主義者(Luddite Reformists)というイメージが浮かぶ
こうした傾向は、大きな物語やイデオロギーの不在に由来しているのだと思う。哲学や宗教的思索には無関心だが、何か新しいものを作りたがる賢いテック層が多い。
彼らはますます多くの金を追い、やがて金を追うこと自体の虚しさに一部は気づく。だが、自分たちはこの人類普遍の問題の上に立っていると錯覚している。
こうした歪みの中で、既存の芸術を再利用し、時が経つほど劣化するアプリを作り、人類をより良くするという本来の創作の喜びを見失い、富の獲得だけに集中するようになる。
LLMやAIはジンを瓶から出したようなものだが、実際には電気よりも線形遠近法や印刷機に近い位置に落ち着く気がする。今日の文化では、レオナルド・ダ・ヴィンチが一生を線形遠近法のチュートリアル販売に費やしていたようなものだ
これはまったく新しい現象ではなく、予定論者たちの議論を支える新たな「恐怖の対象」が追加されたにすぎない
私の目的は、こうした現象をただ指摘することだ。人々は物理学や宗教における予定論は退けるのに、「AIは不可避だ」という主張にはなお感嘆する傾向がある
記事の核心的な主張は、「必然論(inevitabilism)」とは、自分に有利な方向へ会話を導くための修辞的戦略にすぎず、批判を「現実否認」と切り捨てて議論の外に置くための道具だ、というものだ。宗教改革のイデオロギーとの比較にはあまり意味がないと思う
また、ここで提示される「世俗的予定論」という比喩にも皮肉がある。
プロテスタントの予定説は、自由や責任の回避とは異なる。予定説の核心は、神の恩寵は「受ける」ものであって「獲得する」ものではなく、だからといってそれを理由に無為に陥るわけでもない。むしろ自らの善行を通じて救済の証を確かめようと努めることになる。
これは「目先の報酬を求めない勤勉さ」へつながり、Max Weberの著作では初期資本主義を駆動した要因としても分析されている
したがって、予定論と「技術必然論」は実際にはかなり異なる概念だ
歴史主義（たとえばヘーゲルの「歴史の必然的法則」）にも、これに近い議論が見られる
子や孫の世代には、アメリカはサービス経済と情報経済があらゆる製造業を海外に手放し、莫大な技術力が少数に集中した社会になっているのではないかという予感がある
公益を代表する誰も技術の問題を理解できず、人々は自分自身の課題を設定したり、権力者を批判したりするための知識さえ失っていく
人々はクリスタルを握って占星術に頼り、批判的思考力は衰え、心地よさと真実の境界すら曖昧なまま、ほとんど自覚もないうちに迷信と暗闇へ滑り落ちていくだろう
この引用はここにぴったりではないと思うが、出典に関心のある人のために言うと、The Demon-Haunted Worldからのものだ
この一節を読むと、声まで耳に聞こえてくるようだ
どれだけ真似されても決して陳腐化しない、独特の語り口がある
2009年にスマートフォン支配が不可避だと主張したとしたら、それはすでにスマートフォンを使ってその力を実体験していたからであって、何か意図を持って自由意志を歪めようとしていたわけではない
2025年に実際にAIを使って実務をこなしてみれば、この技術の大規模導入が避けられないことは否定できないはずだ。AIは歴史上かつてないほど速く、強く押し寄せてきている。怖いからといって目を背けることはできない
80年代にAIは不可避だと主張して投資していた人や、10年前にVRが本命になると信じていた人たちのその後を見れば分かる。Zuckはいまだに何十億ドルも燃やしているし、Appleも需要予測を完全に外した。
ARがVRの救済策になる可能性はあるが、消費者市場への本格参入はまだ遠く、VR向けに蓄積された技術の大半はARと直接的な関係がないだろう
Teslaの自動運転Robo-taxi神話も10年続いているが、実際に無人状態で収益を上げているTeslaは1台もない
振り返ってみれば、すでに成功した技術だけを例に出すのは愚かだ。成功しなかった技術も山ほどあり、投資バブルや産業バブルも数多くあった
その論法こそ、本文で言及されている修辞的戦略そのものだ
非常に革新的で不可避だと思われた移動手段があると大騒ぎしていた時代を思い出そう。ハイプ、秘密会議、莫大な期待……結局のところ、出てきたのはセグウェイだった
ある種の自己成就的予言のように感じる。大手IT企業が「AI」をあらゆる製品に無理やり組み込み、「ほら、こんなに広く使われているのだから不可避だ！」と主張している。
私もAIは不可避だと思うが、今は集団思考があまりに強く、何もかもが吹き出し型のエージェントUIで表現されている
そのうち誰もがこれを通り過ぎたら、その次に何が出てくるのかを見つけるのが楽しみだ
1950年に誰かがスマートフォンが主流になると言っても、多くの人は簡単に信じただろう。SF小説や映画にもそうした未来は頻繁に登場する。
しかしソーシャルメディアの話なら、反応は違っていたはずだ。かっこいいと思う人もいれば、ディストピアだと見る人もいただろう。
実際、この3つ（スマートフォン、ソーシャルメディア、AI）は、1950年代以前から人々の想像力を刺激してきた
実のところAIは、高度なコミュニケーション機器というより、想像の中のソーシャルメディアにより近い
1950年代には核技術もまた不可避だと考えられていた。実際、ウランガラス製の食器まで売られていて、今でも家の棚のどこかで光っているか、あるいはもう割れてしまっているかもしれない
「LLMの冬」が来るかもしれない
人々が、LLMは実際には何かを「できる」わけではないと気づいたときにそうなるだろう
企業はLLMのミスの責任を消費者に押しつけようとするはずだ
「分かりません」「この作業はできません」といった出力を正直に返すシステムが必要だ
すでにプログラマーにとってLLMの利用がむしろマイナスの価値をもたらしているという報告も出ている
LLMの残したものを処理するのに時間がかかりすぎる
LLMのミスの責任を消費者に転嫁するのは企業だけではない
このフォーラムの熱心な利用者たち（あるいは、もしかするとサイバーPR業者）も同じ態度を取っている
LLMから価値を引き出すには、ある程度の知識と「プロンプトエンジニアリング」（いまでは「コンテキストエンジニアリング」という呼び名まである）の能力が必要だと主張する
結局、このツールが時間の無駄だと感じる人と、大きな生産性向上を感じる人とを分ける基準は、ひたすら利用者の腕前だけだという話になる
このナラティブは、ブログ、フォーラム、さらには最近のMETR研究結果に対する誤った解釈にまで染み込んでいる
もちろん、どんなツールでも完全に活用するには一定の習熟が必要だ
しかしLLMを使っても利益を得られない人を、能力がないからだと一括りにするのは侮辱的だ
LLMは特別なエンジニアリング専門性を要する異星の技術ではない
適切な質問を投げかけ、ツールや概念を少し学べば、誰でも身につけられる
こういう主張をする人たちは、結局LLMを売りたいか、技術の誇大効果を膨らませたいだけだ
人間そのものも信用できないからこそ、ガードレール、点検、監視、監査を置く
ソフトウェアにコードレビュー、テスト、モニタリングといったベストプラクティスがあるのはそのためだ
だからこそLLMはソフトウェア開発分野で最も速く根付きえた
すでに信頼できない人間の「作業者」に対処する方法があり、その経験をLLMにも応用できる
最終的に、成功するLLM活用の鍵は、業務に特化したガードレールを設け、必要時には人間が介入するシステムを構築することだ
LLMの挙動を強制的に正しくするシステムに組み込む必要がある
たとえばLLMに文書やmanページを参照させ、特定の行だけを出力するよう指示する
するとシステムが実際にその行を探して引用し、LLMが勝手に引用をでっち上げることはできない
LLMがまだ型システムと統合された事例はない
強力な型システム（たとえば依存型）は、「この関数は常にソート済みリストを返す」といったことをコンパイル時に保証できる
証明コードを大量に直接書く必要はあるが、もしLLMがその証明を書いてくれるなら、コンパイルが通る限り正しいと信じられる
もちろん、メモリ不足や停電のような例外はあるが
この「低品質な成果物の量産」ブームが早く終わってほしい
しかし品質など最初から気にしない詐欺師、スパマー、クリックベイトブロガー、選挙介入を狙う者、低品質なアプリ・音楽・映像・「アート」で広告収益を稼ぎたい人々にとって、いまのGen AIは完璧な製品だ
品質を重視する人たちがAIは役に立たないと気づく頃には、インターネットはもう死んでいるだろう
その頃にはすでに「ポスト真実」「ポスト芸術」「ポスト技術」「ポスト民主主義」の時代で、大きく得をするのはカリフォルニアの億万長者が数人だけだ
頭の良い人たちが、社会的価値を壊すだけのガラクタを作ることに才能を費やしているのを見るほど憂鬱なことはない
90年代に友人から初めてインターネットの話を聞き、大学に通っている誰かがインターネットを見せてくれると言われて、1時間後には大学のコンピュータの前に座っていた
リンクをクリックすると、信じられないほどの速さで流れ込むテキスト、しゃれたレイアウト、画像、別のWebページへのリンクまである。印刷も配送も待ち時間もなく、その場で見られることに衝撃を受けた。これが未来だと確信し、ただただ不可避に思えた
昨日は大きなライブラリを使ってプログラム全体を書き直さなければならず、長い文書を読むか、コードを自分で掘り返すしかない状況だった
その代わり、GPT 4.1にプログラムとライブラリ全体をコピペして書き直してくれと頼んだところ、一発で成功し、15分で変更全体に目を通して少しスタイルを直すだけで済んだ。数時間は節約できた。これが未来だと感じたし、やはり不可避に思えた
P.S. 多くの返信が、私の経験をLLMと対話しながら段階的にコードを変更するやり方（「agentic coding」）と比較しているが、私のやり方は「一度に1ファイル、コードには手を入れない」だ。詳しくはこちらを参照
完全に同意するが、実のところ、それはIDEでプログラミングするのが未来だと主張するのと大差ないと思う
必然論の核心は、新しく強力な開発ツールが何時間分もの生産性向上をもたらすことではなく、知識のブローカーが誰になるのか、知識労働がどう定義されるのか、雇用者と被雇用者の関係、監視手段など、社会システムの作動がどう変わるのかにある
必然論を広める人たちは、頑固な開発者を説得したいのではなく、自分たちに有利な新しい「ゲーム盤」を作りたいのだ。ここでルールを嫌ったり反対したりすると、「仕方ない、これは不可避で、そういうものなんだ」という理屈で切り捨てられる
LLMの問題は、創造的思考や熟考に使うときだ
実際、多くの文脈、特にコーディングでは有用だが、だからといってLLMが「すべてを変える」技術だというわけではない
「AIは新しい電気だ」という主張も誇張だ（AIは電気のようにはならないと強調したAndrew Ngの発言を引く）
むしろ「AIは新しいVBA」に近いと思う。当時も「これで誰もがプログラミングできる！」と盛り上がったが、実際に大きな波及効果があったのは細かな自動化の領域だった。もちろん今の方がはるかに速く、ハイプもはるかに大きいが、本質は似ている
LLMが常にうまく動くわけではない
たとえば最近、VirtualBox VMがWindows 10で4倍遅くなる奇妙な現象があった
AIの助けを借りていくつもの解決策を試したが、無駄だった
結局、Windows Featuresの"Virtual Machine Platform"チェックボックスがなぜか外れているのを見つけた
AIにそれを伝えると、そのオプションは不要で、オフの方が望ましいと言い張った
だが実際にはそれが原因で、チェックを入れて再起動すると正常に戻った
AIは基本的な常識に基づく深い推論が必要なときだけでなく、単純な連想記憶ですら露骨に間違える
Web検索の代わりに使うなら、必ず事実確認が必要だ
LLMベースのAIには「事実」という概念がない。単なるトークン予測であり、入力や学習データ次第で、たまたま正解である確率の高い出力を返しているにすぎない
LLM必然論には全面的に同意する。描かれているように、誰もが毎日使う未来は不可避だと思う。スマートフォンのように
ただしAGI必然論には同意しない。「モデルが進歩し続けているからAGIも不可避だ」という主張は、結果からの飛躍だ
コードが本当に正しく動いていると確信できるのか？
もしAIだけを使って、コードを読む方法を学べていなかったとしたら？
自分でコードを読んで検証する能力の方がずっと重要だと思う
昔の職場で、航空機会社のフラップ制御ファームウェアのバグを見つけ、その問題を説明するために飛行機で向かっている途中、まさにその問題のファームウェアを使っている飛行機に乗っていた、という話を聞いたことがある
この必然論の論理で最も厄介なのは、「不可避だ」と主張している人たち自身が、実際に何億ドルもの金を開発・活用・宣伝に注ぎ込んでいることだ
まるでキツネが鶏小屋に扉を作りながら、「キツネが入るのは止められない。ならば皆のためのシステムにした方がいい」と言っているようなものだ
「口だけでなく金も出せ(put your money where your mouth is)」という戦略自体は悪くないと思う
彼らは「扉」を作っているのだろうか、それともすでに扉があるので、自分たちが最初に入ろうとしているだけなのだろうか、という疑問はある
同意する。私たちはキツネを手助けするのではなく、むしろ追い払うべきだ
2つのことはかなり明白だ
記事が言うように、CEOたちの作った枠組みの中で議論するのは無意味だと思う。彼らは主に市場に向けて話しているのであって、私たちは技術の仕組みを知る人間なのだから、より客観的にLLMを評価し、自分たちなりのフレームを作るべきだ
私にとってLLMはソフトウェアツールの進化の一段階だ。LLMがそれなりのコードを簡単に書けるのは驚きでも脅威でもありうるが、何十年ものあいだ反復的なCRUDや業務ロジックが延々と必要とされてきたのだから、その多様な事例から巨大な確率的生成器が十分な文脈とプロンプトを与えられて新しい組み合わせを作り出すこと自体は、そこまで驚くべきことでもない
私は技術者として、LLMが自分の目標達成にどう役立つのかを理解したい。望まなければ使わなくてもよいし、変化する能力を継続的に確認していけば、自分の判断も賢明なものになるだろう
巨大なハイプを前にして、過去へのノスタルジーや「あるべき姿」への執着から、無益な十字軍運動をするつもりはない
人は自然言語でやり取りするのが好きだ
LLMは、従来の論理言語やコンピュータとやり取りする複雑なインターフェースから離れ、インターネット初期以来のコンピューティングのあり方を終わらせる第一歩だ
必然論がここから出てくるのは、実際のところ、ほとんどの人はコンピュータの使い方を学びたがらず、まるで生き物のようにただ話しかけたいだけだからだ
（本気でコンピュータが好きな人は5%未満だと仮定する）
人はまた、信頼できて決定論的な反応も期待する。ボタンを押せば、ほぼ毎回同じ結果が返ってくることを望み、10%の確率で妙なことが起きるのは望まない
LLMがそこまでの安定性に到達できるかは、まだ不明だ
「論理言語から離れる第一歩」だなんて……論理言語は本質的に決定論的な実装を可能にし、抽象化構築において大きな飛躍だった
自然言語はその目的からあまりにも遠く、簡単に説明すらできない
「人間だって言語で抽象化を達成しているのでは？」と思うなら、実際の法律文書（たとえば米下院法案全文）を一度でも読めば考えが変わるはずだ
自然言語UIの実現が、思ったほど歓迎されていない方がむしろ不思議だ
自然言語UIはコンピュータサイエンスの長年の未完の夢で、いまやあまりに当然になってしまった感じすらある
LLMはコーディング、執筆、調査などには最適でないかもしれないが、こうしたユーザー体験(UX)はぜひ残ってほしい
問題を言葉で自由に表現し、省略表現や俗語、トーンまで正確に伝えられるのは本当に驚くべきことで、実用性も高い
「日常言語は、物理学者が言おうとするほど抽象的なことを表現するにはまったく不適切である。物理学者の意図どおりに要約して表現できるのは、数学と数理論理だけである。」
数学で自然言語をもう使わないのには理由がある。自然言語は冗長すぎて、きわめて不正確だ
契約を自然言語で説明できる方法があるなら、弁護士たちはとっくに見つけていただろう。
契約解釈の相違のために、GDPのかなりの部分が浪費されている
この概念は、ティモシー・スナイダー(Timothy Snyder)が言及した「不可避性の政治」と密接に関係している
「不可避性の政治」とは、未来は単に現在の延長であり、進歩の法則はすでに知られていて、代替案は存在せず、したがって私たちにできることは何もない、という一種の世界観だ
本文の記事はこの概念を商業領域に適用しているが、本質的には「主体性(Agency)」を奪う言語を扱っている
関連記事リンク