AIの進歩は着実だが、人間と同等になるのは突然訪れるだろう

• エンジンと馬の関係を例にして、人間または生物との機能的同等性は急速に到来し、人間レベルの代替は短期間で起こることを示す
  • エンジン効率は10年ごとに20%ずつ改善され続け、1930〜1950年の間に米国内の馬の90%が消滅した
• チェス人工知能の進展でも同じパターンが見られ、数十年にわたる漸進的向上の末に人間のグランドマスターを短期間で上回った
• AI投資規模は世界的に着実に増加しており、毎年米国GDPの約2%規模がデータセンターに投入されている
• AnthropicのClaudeはわずか6か月で研究者の業務の大半を代替し、コストは人間の1/1000レベルまで低下した
• 技術進歩の速度と自動化の波及効果を考えると、人間の職務変化が過去の馬の運命よりはるかに速く進む可能性がある

---

馬とエンジンのたとえ

• 蒸気機関は1700年に発明され、200年間着実に発展し、10年ごとに約20%の性能向上を記録した
  • ただし初期の120年間、馬はその変化を全く実感できなかった
  • しかし1930〜1950年の間、米国の馬の90%が消滅した
• 技術進歩は漸進的だったが、馬との機能的同等性は急激に到来した

チェスと人工知能の転換点

• コンピューターチェスの発展追跡は1985年から始まり、その後毎年50 Eloずつ向上
  • 2000年には人間のグランドマスターがコンピュータに対して90%の勝率を記録
  • わずか10年後にはコンピュータが人間に対して90%の勝率を記録
• チェスAIの進展も着実だったが、人間との実力逆転は短期間で発生した

AI投資と成長速度

• AI関連の資本支出は世界的に着実に増加
  • 現在、毎年米国GDPの約2%に相当する金額がAIデータセンターに投入されている
  • この数値はここ数年で持続的に倍増している
  • 締結済みの契約によれば、今後もこの傾向が続く見込み

Claudeの業務代替事例

• Anthropicの初期研究者として新入社員からの技術的な質問に回答する役割を担っていた
  • 2024年当時、月あたり約4,000件の質問を処理
  • 2024年12月には、Claudeが一部の質問に回答できるレベルに到達
  • 6か月後には全質問の80%をClaudeが処理し、月30,000件以上の回答を行った
• Claudeの回答量は人間研究者の8倍、コストは人間の1/1000レベル
  • 単語あたりのコスト基準で見ると、地球上で最も安価な労働力よりも低い水準

人間職務自動化の速度

• 馬が代替されるまでには数十年、チェスマスターが押しのけられるまでには数年を要したが
  • AIはわずか6か月で研究者の主要業務を代替
• 1920年の米国には2,500万頭の馬がいたが、その後93%が消滅した
• AI自動化の速度は過去の産業革命よりはるかに速く進行しており、
  • 人間が変化に対応する時間は馬よりずっと短い可能性がある

「馬が享受していた20年の猶予期間すら得られないだろう」

発表の文脈

• 本内容は2025年夏のワークショップで行われた5分間のライトニングトーク
• 発表者の個人見解であり、所属機関の立場を代表するものではない

[GN⁺]

Hacker Newsの意見

• 最近HNを読んでいると、少し被害妄想気味になってきた気がする。エンジン導入で馬の頭数が急減したグラフを人類人口と比較する投稿を見ることになるとは思わなかった。しかもその投稿が人道的な警告ではなく、経済決定論的な視点から書かれていたことに衝撃を受けた。人間をエンジンになぞらえ、経済ロジックだけで議論する空気はあまりに奇妙だ。技術とは本来、大衆が許容して初めて成立するものではないかと思う

  • 最近の技術業界には、人間性やその産物にまるで価値を置かない人が多すぎることに衝撃を受けた。友情、愛、芸術、信仰、子育てに至るまでAIで置き換えようという発想が日常会話でも聞こえてくる。そんな世界は文字どおり地獄のようだ
  • 元記事を誤読している気がする。グラフが示しているのは「馬の保有数」であって、人々は単に馬を買わなくなっただけだ。馬の絶滅ではなく、需要減少の結果だった
  • ソフトウェアエンジニアには、まるで人類を遠くから観察する銀河脳のように語る傾向がある。これは自分を「知的存在」と同一視し、インターネットが人間社会とのつながりを弱めた結果だと思う
  • 今になってコンピュータ業界の人たちが心配し始めたというのは、かなり遅い。自動化とデジタル化はすでに数十年前から雇用を揺るがしてきた。そのときは「適応するか、さもなくば消えろ」という反応しかなかったのに、今や自分たちが標的になって態度が変わったようだ
  • こうした議論は新しいものではない。すばらしい新世界や2300年未来への旅のような作品が、すでに100年前から技術終末論を扱ってきた。AI時代にこうした言説が再浮上するのは当然だ

• 馬は飼料を食べ、車はガソリンを食べ、LLMは電気を食べる。しかし単純に計算量を増やすことが進歩を意味するわけではない。LLMがあらゆる仕事を置き換えることはできない。

  • 企業が人員を減らす理由は「価値のない人」を排除するためだという意見には同意するが、現実はそうではない。たとえば病院は秘書を解雇したが、その結果医師が事務作業に時間を浪費するようになった
  • AIがコーディングを代替しないという話には懐疑的だ。今は大丈夫そうに見えても、結局はWile E. Coyoteのように宙にぶら下がっているだけかもしれない
  • 秘書やタイピストの歴史が示すように、コミュニケーション自動化は一貫して人を減らしてきた。LLMもその延長線上にある。完璧ではないが、最終的に人間の役割は縮小し続けるだろう
  • 企業間競争がAI軍拡競争をあおっている。人間を完全に排除した企業は、最終的には人間+AIを併用する企業に負けるだろう
  • たいていの会社は常に仕事が多く、人手が足りない。AIは単に開発速度の加速装置として機能するだけだ

• エンジンは単純な機械動作をするが、人間レベルの適応力と推論力を持つAIはまだ遠い。AGIという言葉が消え、「transformative AI」のような表現に置き換わっているのも興味深い。今は大きな変化もなく、停滞期に入った印象だ

  • 自動車が世界を変えたように、AIのために私たちがどんな**「道路」**を新たに敷くことになるのか気になる。おそらく電力インフラだろう
  • 以前は「AGI」は大げさな言葉だったのに、今では逆になったのが皮肉だ
  • 企業は恐怖マーケティングでAIを売っている。AGIは結局、IPOやM&Aのための流行語にすぎない
  • 人間のように学習するAIを待つという話は無意味だ。そんなものがすでに存在していたなら、私たちはとっくに置き換えられていたはずだ
  • エンジンが単純だと感じるのは、慣れているからにすぎない。実際には複雑なシステムであり、LLMも同じだ

• 人間は単なる機械ではない。AIが人間よりあらゆる面で優れていない限り、人間は依然として価値ある役割を果たせる。問題は、社会と経済システムがこの変化をどれだけうまく吸収できるかだ

  • 銀行員は減ったが、結果として人類全体の効率性は高まったように、退屈な事務職の自動化も最終的には前向きなものになりうる。ただし利益が資本にだけ集中しないようにしなければならない
  • AIは吸血技術のようだ。データを吸い上げて価値を抽出するが、最終的には現実とのつながりが弱くなるかもしれない。技術の所有者は必ず人間に再投資すべきだ
  • 本当の問題は、人間が互いに何を提供するかではなく、少数の富裕層に何を提供するかだ

• LLMは新人オンボーディングを速くしてくれる。疲れないメンター役として自信を高めてくれる。ただし、依然として重要な意思決定は人間が主導する

  • オンボーディングは「何を」よりも「なぜ」を学ぶ過程であるべきだ。LLMは文脈や歴史的な理由を説明できない
  • 人間のメンターは単なる答え以上のものを与える。共感と社会的つながりが重要だ
  • 新人の質問がなくなると、むしろ文書化やコードの問題点を把握する機会を失ってしまう

• 人類の歴史は、どれだけ多くのエネルギー奴隷を確保してきたかの歴史だった。AIがその数を増やすのか減らすのかが核心的な問いだ

  • AIは人間労働の再分配メカニズムを壊す危険がある。労働価値が失われれば、かえって庶民はさらに貧しくなるかもしれない
  • AIが私の成果物を無断で使うので、私はむしろAIのエネルギー奴隷になった気分だ
  • 中には普通の人間を排除したがっているように見える人もいる。人間が減れば資源問題も解決するという冷酷な発想だ

• 以前はコード行数で生産性を測らないのが常識だった

  • 次世代のコーディングLLMは、コードを減らすパッチを生成するよう訓練されるとよい

• 平均的な開発者が作る複雑なコードのおかげで、自分の仕事は安泰だと思っている。私は技術的負債を減らす構造を設計することでチームの中心になっている。AIが私のような上位エンジニアを代替できるなら、それはやがて起業家精神まで代替できるということだ

  • たいていの人は自分が平均以上だと信じている
  • プロジェクトを掌握したくなることは多いが、人間関係のコストを考えると自制する
  • LLMが複雑なコードを出すのは人間を模倣しているからではなく、計画能力の不足のためだ
  • あなたが主導的なのは、他のエンジニアたちが衝突を避けるために放置しているだけかもしれない
  • コード保守コストがほぼゼロなら、複雑さは大きな問題ではない

• 「単語あたりのコスト」のような指標は奇妙だ。単語数が価値の尺度になるわけではない

  • こうした指標はむしろAIに有利に働く。AIは単純な質問にも冗長に答える
  • 最初はAIが新鮮だったが、今では個性のない長文にうんざりしている。結局、校正ツールとしてしか使わなくなる
  • 「単語あたりの思考コスト」のような概念はさらに奇妙だ。大半は単なる自動補完テキストにすぎない
  • これは単なる単語ではなく、Anthropic社員が書いた回答だという点が興味深い

• AIを他の技術になぞらえるより、それ自体を予測不能な存在として見るほうが正しい。天気予報のように20か月先はわからない

  • 馬やチェスエンジンの比喩のように、一定の水準を超えると急激な転換点が訪れるかもしれない。反復的な事務職が最初に消える気がする
  • 今必要なのは具体的な議論だ。ハイプより現実を見るべきだ
  • AIの進歩は天気というよりチェスレーティングのグラフに近い。着実に上昇している
  • AIは機械的な力ではなく、情報処理技術だ。人類の他の情報革新――言語、数学、論理、トランジスタ――と比較できる。AGIは人間の活動を代替するというより、補完的な役割を果たす可能性が高い。ただし電力、半導体、法的インフラなど多くの制約がある。最終的にはAGIの失敗モードと安定性が最も興味深い研究テーマになるだろう