AIの主な価値はR&Dよりも広範な自動化から生まれる
(epoch.ai)- 一般に、AIの経済的価値は 研究開発（R&D） の自動化を通じて生まれるという見方が広く共有されている
- Dario Amodei は、AIが生物学、神経科学、経済学のR&Dに肯定的な影響を与えると主張している
- Demis Hassabis は、AIがあらゆる病気を治療し、エネルギー問題を解決するなど、R&Dを通じて社会に貢献すると説明している
- Sam Altman は、AIは半導体のようにあらゆる産業に影響を与え得るが、科学的進歩への影響が最も大きいだろうと述べている
- R&Dは長期的な経済成長に寄与するが、その寄与度は過大評価されている
- 米国労働統計局（BLS）によれば、民間R&D支出 は1988～2022年の総要素生産性（TFP）成長率のうち 年0.2% にすぎない
- 公的R&D支出は全R&D支出の約25%を占め、TFP成長全体に対するR&Dの寄与は約 年0.4% である
- 労働生産性成長の約 20% のみがR&Dによるもので、残りは資本蓄積、経営改善、学習効果などに起因する
- R&D業務の大半は、単純な論理的推論ではなく 複合的な能力 を必要とする
- 例: エージェンシー、マルチモーダル処理能力、長期的一貫性など
- 研究者の業務を完全自動化できるほどのAI能力は、他の大半の経済部門でも自動化が可能であることを意味する → より大きな経済的価値を生み出す可能性 がある
AIの主要な経済的価値は広範な労働自動化から生まれるだろう
- AIの経済的価値についての二つの主張
- ✅ R&Dの自動化は年間の経済成長率を数%以上引き上げ得る
- 技術がR&Dを完全に自動化できるなら、かなり大きな経済的価値を生み出せる
- 経済成長に有意な貢献をする可能性が高い
- ❌ AIの最大の経済的価値はR&Dの自動化から生まれるだろう
- R&Dは価値があるが、AIの経済成長エンジンの中核にはならないだろう
- AIが人間の性能を超えた後でも、R&D自動化が最重要の価値創出要因になる可能性は低い
- ✅ R&Dの自動化は年間の経済成長率を数%以上引き上げ得る
- R&Dの実際の経済的価値の測定
- 米国労働統計局（BLS） のデータによれば:
- 1988～2022年の総要素生産性（TFP）成長率: 年0.8%
- 民間R&Dの寄与: 年0.2% → TFP成長率全体の約 25%
- 労働生産性成長率: 年1.9% → R&Dの寄与は約 20% にすぎない
- 公的R&D支出 は全R&D支出の約 25% を占める
- 公的R&Dの外部効果と民間R&Dの外部効果が相殺される
- 結果として総R&Dの寄与は 年0.4% 程度となる
- 米国労働統計局（BLS） のデータによれば:
- 資本蓄積と生産性成長の関係
- 資本蓄積は労働生産性成長の 約50% を占める
- 残りの成長は、経営改善、学習効果、知識の拡散などから生じる
- 米国経済における資本蓄積とR&D投資の比率:
- 年間資本投資: 5兆ドル
- 年間民間R&D投資: 1兆ドル
- 資本投資はR&D投資の 約5倍 である
- 労働の産出弾力性（0.6）はR&Dの産出弾力性より約 5倍 高い
- 労働自動化は経済的により大きく貢献し得る
- 現在の経済で最大のコスト項目である労働を自動化すれば、経済的価値を最大化できる
- 労働自動化によって生じた超過産出は、再び資本へ再投資されて追加成長につながり得る
- R&Dの成長効果が過小評価されているという主張もある
- R&Dの外部効果や重複研究による摩擦が反映されていない可能性がある
- しかし Bloom et al. (2020) の研究によれば:
- R&D投資に伴う産出弾力性は 0.3 で、資本と似ており、労働の半分にすぎない
- 結論として、現在の経済成長は主にR&Dではなく他の要因から生まれている
AIのR&D自動化だけではAIの進歩を劇的に加速させにくい
- AI R&Dの経済的価値は期待ほど大きくないかもしれないが、AIが自らのR&Dを自動化すれば重要な影響を及ぼす可能性はある
- もしAIが自らのソフトウェアR&Dプロセスを自動化できれば、ソフトウェア単独特異点（software-only singularity） が起こり得る
- 固定された計算資源を前提に、AI研究者が自らアルゴリズムを改良し、それによってさらに多くのAI研究者を生み出して追加のソフトウェア進歩を実現できる
- アイデア発見コストがどれだけ速く上昇するかが重要な変数となる
- 研究者の努力だけで多数のソフトウェアR&D成果を達成できるという仮定が必要だが、それは 事実ではない可能性が高い
- より現実的なモデルは、研究成果が 認知的努力 + データ の補完関係によって生まれる場合である
- AIでは現在、実験ベースの計算性能およびソフトウェア進歩の速度が 年間約3～4倍 で急速に伸びている
- 実験ベースのデータを通じてソフトウェア進歩が生じている → データが研究者の努力に対する重要な補完財である可能性がある
- 二つの入力（認知的努力 + データ）が補完的なら、計算資源がボトルネックを引き起こし得る
- 結局、より多くのGPUの確保と生産のために 物理的な作業 が必要になる可能性がある
- これは、AIが半導体サプライチェーンおよび経済全体に広く配備される必要があることを意味する
- 補完性の強さによって、ソフトウェア単独特異点が持続可能かどうかが決まる
- 他産業では補完性は一般に強い → AI R&Dでも強い可能性が高い
- 例: OberfieldとRaval（2014） の研究では、米国製造業における資本と労働の代替弾力性は 0.7 である
- これは、ソフトウェア単独特異点が効率改善で1倍未満にとどまる可能性が高いことを示唆する
- 他産業では補完性は一般に強い → AI R&Dでも強い可能性が高い
- これまでのところ、プログラミング自動化や研究設備の自動化があっても、科学的進歩は急激には加速していない
- 専門ライブラリの開発 → プログラミング作業の自動化
- LLMツールによるコーディング加速 → 効果は部分的にとどまる
- 物理実験設備の自動化 → 急速な科学進歩ではなく段階的改善のみが起きている
R&Dの完全自動化には非常に幅広い能力が必要
- 科学者の仕事は表面的には アイデア生成、仮説設定、データ分析、コーディング、数学的推論 などの抽象的推論作業が中心に見えるかもしれない
- そのため、抽象的推論が可能なモデルが登場すれば研究者業務がすぐに自動化されるという予想が出てくる
- しかし実際には、研究者の業務は単純な推論作業よりはるかに複合的な能力を必要とする
- 医療科学者の業務例
- 毒性物質の取り扱い、薬効評価、疾病研究の設計と実施、細胞サンプルの分析 などは、単純な推論ではなく複合的な技能と専門機器の使用を必要とする
- 薬物用量の標準化、医療および実験手順の指導、論文執筆、研究助成金申請 などは、比較的推論ベースで自動化できる可能性が高い
- 医療科学者の主要業務の上位5タスクのうち、推論だけで自動化可能なのは 1つ にすぎない
- 全14タスクのうち 6つ のみが抽象的推論だけで自動化可能だと判断される
- 研究者業務の中核は単純な推論ではなく、次のような複合的能力を含む:
- 技術機器の操作 → 複雑な実験装置を扱う能力
- チームワーク → 人間の研究チームとの協働および調整能力
- 長期的な実行能力 → 長期間にわたって複雑なプロジェクトを遂行する能力
- 物理環境の操作 → 実験や実習における物理的操作能力
- AIが研究者業務に必要なこうした複合的技能をすべて習得するまでには、かなりの時間を要するだろう
- したがって 一般労働の自動化 の方が研究者業務の自動化より先に実現する可能性が高い
- AIが先に科学的ブレークスルーを実現し、その後で他産業へ拡散するという想定は現実味が薄い
- より現実的なシナリオ は、AIがまず広範な労働自動化を実現し、その後に科学技術の進歩が加速するというものだ
- AIが科学の進歩を加速させるとしても、それは研究者の代替ではなく 研究インフラ構築の自動化 を通じて実現する可能性が高い
- R&D自動化は現在の経済成長に占める比重が大きくないため、AIは非R&D業務の自動化を通じて経済成長を主導する可能性が高い
AIの飛躍は広範かつ顕著な形で起こる可能性が高い
- AIの経済的・技術的影響が本格化する 以前から、AI自動化は広範かつ顕著な形で現れる可能性が高い
- 広範性（Diffuse） → AI自動化は特定のR&D職種に限定されず、経済全体に幅広く影響する
- 顕著性（Salient） → AIの影響は大多数の人が明確に認識できるほど大きく、労働市場に大規模な混乱をもたらす可能性が高い
-
AIの主な経済的効果はR&D自動化ではなく広範な自動化から生まれるだろう
- AIが世界にもたらす革新的効果は、明示的なR&D自動化 から生じない可能性が高い
- むしろ 広範な労働自動化 が経済および技術発展の主要な原動力となるだろう
-
AI飛躍の現実的なシナリオ
- 1. AIの作業範囲の拡大
- AIは段階的に実行可能な作業範囲を広げていくだろう
- この過程は主として 計算インフラの拡張 によって主導される可能性が高い
- 2. 経済全体で広範な労働自動化が進行
- AIはますます多様な労働タスクを自動化していくだろう
- その結果として 経済成長の加速 につながる
- 3. 大規模な労働市場の変化が発生
- AIが経済的・技術的ブレークスルーを生み出す前に、すでに 労働自動化の波 が起こるだろう
- この過程で労働市場が根本的に再編され、AIに対する大衆認識も変化する
- 4. 広範な非R&D業務の自動化が成長の主な原動力となる
- AIが経済および技術の成長を加速させるとしても、それは 非R&D業務の自動化 を通じて生じるだろう
- R&D自動化が成長に占める比重は相対的に小さい可能性が高い
- 1. AIの作業範囲の拡大
-
「一般自動化爆発」シナリオ
- AIの飛躍は「天才たちが研究所でR&D成果を爆発的に生み出す形」ではない可能性が高い
- 代わりにAIの飛躍は 広範な自動化の爆発 という形を取るだろう
- つまり、特定分野の成果ではなく、AIの 全般的な自動化範囲と規模 が成長の主な原動力になるということだ
主な示唆
- 近い将来、AI研究所は 一般作業の自動化 に集中する方が、より収益性が高い可能性が大きい
- 例: インターネット探索、商用ソフトウェアの操作、一般的な事務職業務の遂行など
- 生物学や医学研究の支援 のような高度な推論モデル開発より、一般作業の自動化の方がより大きな経済的価値を生み出す可能性が高い
- したがってAIの性能を評価する際には、R&D成果 よりも 一般作業の遂行能力 を追跡する方が重要かもしれない
- AIが世界に革新的な影響を与えるまでに、大衆のAIに対する認識が大きく変化する可能性が高い
- AIによる経済成長や人間の寿命延長のような成果が現れる前に、すでに 労働自動化による大規模な混乱 が発生する可能性が高い
- したがって、現在のAIに対する大衆認識が長期的に維持されると仮定するのは危険である
- AIが人間のあらゆる仕事を 一度に置き換える 可能性は低い → 段階的な自動化 が予想される
- AIは数年にわたって人間の仕事を徐々に自動化していく可能性が高い
- AI R&D自動化 によって突然の超知能爆発が起きるというシナリオより、段階的な移行 の方が現実的である
- AIが特定タスクで人間を上回っても、他の補完的タスクでは依然として人間が優位に立つ可能性が高い
- AIは最終的に人間の大半の経済活動で優位に立つだろう
- ただし、それは 数十年にわたる段階的自動化 の後に起こる可能性が高い
- 経済成長の加速には、R&D自動化よりも 一般作業の自動化 の方が大きく寄与するだろう
2件のコメント
https://freederia.com/%ed%94%84%eb%a1%ac%ed%94%84%ed%8a%b8-%ea%b0%a4%e… R&D自動化をテスト中です。簡単ではありませんが、遠い未来の話ではないでしょう。
Hacker Newsの意見
技術楽観主義を本当に憂鬱に感じる人がいるのか気になる。技術が人間を代替することに関する理由だけでなく、実現可能性の低い誇大宣伝に興奮できないという点でも憂鬱さを感じる
現在ほぼ300件あるコメントの中で、制約プログラミング（CP）に言及している人がいないのは驚き。CPは確率的なデータ駆動型AIの決定論的な兄弟のようなもの
この記事はここですべての信頼を失う
2015年の技術導入に関する古典をまだ読んでいないなら、読む価値がある
典型的なシリコンバレーの主張は、R&Dが「複雑」で、その他すべてが「単純」だというもの
彼らはR&Dと一般的な自動化のどちらがより大きな利益を得るかを議論している。この議論にどんな意味があるのか疑問
まるで産業革命と農業革命が再び起きているようなもの。労働の広範な自動化は、社会の向上ではなく資本の向上をもたらすだろう
生産要素の相対的価値の問題。AIが人間労働の相対的価値を、機械、原材料、土地と比べて高めるのか下げるのかという問題
この記事には全面的に同意する。過去には、コスト/リターンの計算が意味をなさなかった多くの機会がある
技術楽観主義者は、中産階級と貧困層の心の中にある問いに答えるべき