LLMは好きだが、誇大広告は嫌いだ
(geohot.github.io)- LLM、自動運転車、動画生成モデル、コーディングエージェントは実際に有用で興味深いが、それらを取り巻く恐怖と終末論的な誇大広告には同意しない
- チャンスの窓が閉じれば永久的な下層民になるという言説は、事実というより人を不安にさせてSan Franciscoへ引き寄せる誇大広告に近い
- LLMを高度なオートコンプリート、スマートコンパイラ、強化された検索エンジンから、宇宙を支配する超知能へと飛躍させる見通しを拒み、AIの進歩は特定の集団よりも主にMooreの法則とコンピューティング全般の進歩に由来すると見る
- コーディングエージェントはプログラミングのやり方を変え、生産性をある程度高めるが、認知疲労を増やす可能性があり、バイブコーディングの成果物には依然として低品質なコードが多い
- AIはコンピュータ革命の延長線上にあり、LLMはfind/replace、Stack Overflow、正規表現のように開発者を支援するツールだが、その有用性がそのままフロンティアAI研究所による価値の取り込みにつながるわけではない
AIの進歩と誇大広告の間
- 2007〜2014年にハッキングへ集中した後、キャリア全体をAIに投じており、新しいLLM、自動運転車、動画生成モデル、コーディングエージェントの進歩を歓迎している
- ローカルのGLM-5.2でopencodeを実行し、
install tmux with the geohot configurationと指示したところインストールが動作し、これをLinuxデスクトップの年がついに訪れた事例として受け止めている - 反対する誇大広告は二つに分かれる
- チャンスの窓が閉じて永久的な下層民になったり、取り返しがつかないほど後れを取ったりするという言説は、人を不安にさせるネガティブな誇大広告である
- 高度なオートコンプリート、スマートコンパイラ、強化された検索エンジンから、あらゆるものが突然変わる超知能シナリオへ移る論理は藁人形論法的な飛躍であり、そのような出来事は起きないと断言している
- 2016年の超知能に関する講演と、機械が世界を掌握する1991年の映画Terminator 2は、こうした発想が最近になって特定の集団が新たに作り出したものではないことを示している
- AIが莫大な価値を生み出す可能性は認めるが、フロンティア研究所の企業価値を正当化するほど、その価値を研究所が直接取り込むことはできないと見ている
- オープンソースに反対する論理の核心には、安全性や中国の問題ではなく、コモディティ化への恐れがあると判断している
- AIの進歩は特定の研究所よりも、主にMooreの法則とコンピューティング全般の進歩に由来する
- この事実が知られれば投資家が数十億ドルを提供しなくなる可能性があるため、研究所にはそれを隠す強い誘因があると見る
コーディングエージェントがもたらす生産性の実態
- 以前のThe Eternal Sloptemberでは、モデルのプログラミング能力を厳しすぎるほど評価していた可能性があり、今ではプログラミングのやり方そのものが変わりつつあることを認めている
- Linus Torvaldsの発言は、エージェントがプログラミング生産性を10倍、コンパイラが1,000倍高めると比較している
- 10倍と1,000倍はいずれも極端な推定値と見ている
- モデルの活用能力が向上するにつれて、実際にある程度の生産性向上を得ていると確信している
- モデル活用は別途習得すべき新しいスキルであり、以前からさまざまなモデルを継続的に試してきた
- コーディングエージェントには明確な制約も残っている
- モデルは認知疲労を増加させる可能性があるため、慎重に使う必要がある
- バイブコーディングの成果物は依然として低品質であり、主張されている生産性向上に見合う新しいソフトウェアが実際にどこにあるのかも不明である
- それでもモデルはfind/replace、Stack Overflow、正規表現のように開発を補助する有用なツールであり、AIもまたコンピュータ革命の延長線上にある
1件のコメント
Hacker News のコメント
「AIが大きな価値を生み出せないということではなく、フロンティア研究所がその価値を獲得できない」という一文は、彼らの行動と、最高モデルをトークン単価で使わせようとする理由を簡潔に説明している
月100〜200ドルで十分だが制限のあるトークンを提供する現在のサブスクリプション料金なら、ほとんどの個人や企業はフロンティアモデルを気軽に選ぶ。だが、オープンモデルや1カ月前のフロンティアモデルよりトークン単価が10〜100倍高いとなれば話は変わる。私は最高モデルに月1,000ドルどころか10,000ドルも使わないし、雇用主も1,000ドルまではともかく、10,000ドルは絶対に払わないだろう
現在の企業価値を正当化するには、全員が今より100倍多いコストを払う必要があるが、誰でもこうしたモデルを作れる限りそうはならない。OpenAIもAnthropicも解決策を探しており、特にAnthropicはFableを従量課金へ移行しようとしている。しかしOpenAIの5.6 SolはFableと競合できるほど優れており、月20ドルのサブスクリプションでも使えるため、移行を阻む堀がない。Anthropicが数日後にサブスクリプションプランでのFableアクセスを本当に終了するなら、市場は大きくOpenAIへ戻ると見ている
市場はフロンティア投資の採算が合うほど高い費用を受け入れないだろう
私の用途では、モデルが大きく進化する必要もない。Fableを何度か使ってみたが、あえて選ぶ理由はあまりなく、Opusが同じことをはるかに安くこなした。モデルが汎用品になるなら、誰が莫大な学習コストを負担しようとするのかは興味深い問いだ。コストはいずれ下がるだろうが、これらの企業が持ちこたえられるほど速くは下がらなさそうだ
もうすぐ次のモデルに追い抜かれるまでやきもきするより、最初からもっと高く取り、市場がどこまで耐えられるか試していれば面白かっただろう
OpenAIは最近再び先行したが、そのためにトークン当たりのコストが途方もなく大きい巨大モデルを使っている。誰もそんなモデルを必要としていない。NVIDIAやIntelが競合製品よりフレーム当たりの電力をはるかに多く使いながら、最高のゲーム性能だと宣伝するのに似ている
生産性向上によって生まれた魔法のような新しいソフトウェアは、私のホームラボで非公開で動いている
いまや「望む通りに作る」時代に入ったようだ。オープンソースプロジェクトが望む通りに動かなければ、フォークするか新しいバージョンを作ればよく、あまりにも簡単になった
ただ、オープンソースの未来は少し心配だ。以前はフォークの維持にも労力がかかるため、変更をアップストリームへ反映する価値があった。今ではそのバランスが大きく変わった。多くのプロジェクトがコントリビューション要件を厳しくし、一部はAIにあからさまに敵対的だが、理解できないことではない。しかしAI導入が増えるほど、改善がコミュニティへ還元される可能性は低くなりそうだ
少なくとも私の生産性向上は、非常に具体的な用途向けの簡素な使い捨てソフトウェアを作るために使われた
LLMで何でも作れるが、自分が何を作っているのかを自分で理解し、すべての挙動を熟考しなければならない。そうしなければ、LLMは中身をソーセージのような雑多なものだらけにする。企業価値が数兆ドルという企業が出すソフトウェアの品質がばらついているのを見れば、モデルが依然として不均一で限定的であることが分かる。未来はソーセージだ
そうすれば、その問題をこれ以上気にせず、自分のやりたいことに集中できる
2024〜2025年には私も同じように感じていた。しかしSonnet 4が出てから変わり始め、Opus 4.5はさらにもう一段の飛躍だった
すべてが加速し、予想される時間軸も圧縮されているように感じる。ある意味では、ASIに対して「すべてを賭ける」という原著者がうらやましい。真実がどこに行き着くのか私にも分からないし、誰も分かっているとは思わない
私もLLMは好きだが、コストが心配だ。まだどれも多額の補助を受けている状態で、大手AI研究所が値上げする前に、個人のコンピューターでOpus 4.8級モデルを動かせるようになる保証はあるのか。
フロンティアに近い規模のモデルを動かすコストは、すでに確認できる。独立系の事業者がこうしたモデルを妥当な価格で提供するビジネスへ移行しており、OpenRouterではフロンティア研究所よりずっと低い価格で競争している。
個人のコンピューターでOpus 4.8級モデルを実行できるようになるなら、データセンターでは自社ハードウェアでもっと安くサービスできる。したがって価格は上がるのではなく、大きく下がる可能性が高い方に賭けたい。
DeepSeek V4 Proは一般的なAPIならどこでも安価で、DeepSeek V4 Flashは入力100万トークンあたり0.09ドル、出力100万トークンあたり0.18ドル程度なので、実質無料だ。典型的な補助金による価格でもない。
より現実的なローカル構成としては、中古のNvidia 3090を1〜2枚で動かすQwen3.6 27Bが驚くほど悪くない。明確な指示が必要で、完全自動のバイブコーディングには使えないが、自分で介入するプログラマーにはかなり実用的だ。
ローカルAIが本当に広く普及するなら、自動車のようにローンで買うものの一つになるかもしれない。
「専門的なソフトウェア職人が道具箱に加えた新しい道具」という論理には同意したいが、綿棒について考える必要がある。
「耳掃除に使わないでください」と書かれていても、大半の人はその用途でだけ使いたがる。実際には「無責任に綿棒を使う」か「まったく使わない」に帰着し、「正しく使う」は全体のごく小さな割合にとどまる。
彼は5月の「eternal sloptember」の記事が厳しすぎたかもしれないと言っていた: https://geohot.github.io/blog/jekyll/update/2026/05/24/the-e...
どの部分が厳しかったと見ているのか気になる。今でもかなり正確に見えるし、時間がたっても評価は良さそうだ。
誰も話題にしないが、ターミネーター2は機械が世界を掌握する話ではない。それはすでに起きているか、起きる予定だが、最終的には人間が機械を打ち負かす。Skynetはそれを阻止しようとしてJohn Connorを殺そうとし、それが映画の中心内容だ。
JohnがT800を通じて、親の役割を果たしてくれる存在を見つける話でもある。養父母や疎遠になった母親からはそれを得られなかった。この人は映画を実際には見ていないようで残念だ。古典的名作なのに。
商人とそのマーケティングを嫌う十分な理由はあるが、作る人は商人ではない。作る人は、利用できる道具なら何でも使う。
LLMを使うためにTwitterへアクセスし、「永続的な下層階級」について語る人たちにさらされる必要はない。インターネットは好きだが、今はこれまで以上に訪れるサイトを意識的に選ばなければならないと感じる。
データセンターや関連企業の財務状態に関する荒唐無稽な陰謀論は、BlueskyやInstagramで始まり、しばしばここを経由して私のところにも入ってくる。だが、彼らが戦っているという止めようのない誇大広告の波は、直接見たことがない。Scott Alexanderも読んでいるが、人々が描写するよりはるかに慎重だ。