死んだ経済理論
(owenmcgrann.com)- The Dead Economy Theory は、AIがオンラインコンテンツの真偽を曖昧にする段階を超え、経済全体で人間の労働需要を取り除くときに生じる危機を指す
- AI企業の莫大なバリュエーションは、グローバル労働市場 の代替なしには正当化しにくく、「copilot」や「augmentation」はコストセンター削減モデルを覆い隠している
- 自動化企業は解雇で得られるコスト削減をすべて享受する一方、需要崩壊のコストは競合他社に転嫁し、AI Layoff Trap と軍拡競争を生み出す
- 過去の自動化は新たな雇用を生んだが、移行には数十年を要し、汎用AI は特定の作業ではなく認知労働全体を同時に狙う
- 死んだ経済 とは、GDPと投資が増えても生産能力が少数のAIシステムに取り込まれ、多くの人々が労働・消費・民主的レバレッジを失う状態を意味する
死んだインターネットから死んだ経済へ
- 死んだインターネット理論（The Dead Internet Theory） は、オンラインで目にするもののかなりの部分が、ボットが作りボットが消費するコンテンツになったという認識から出発する
- 2025年の新規インターネットコンテンツの 半分以上 がAI生成コンテンツだったという数値が示されている
- 人間はいまもスクロールしているが、その対象は次第に機械が機械のために作ったノイズや広告板に近づいている
- 死んだ経済理論 は、AIがオンラインコンテンツを超えて、経済における人間の労働需要そのものを取り除くときに生じる、より大きな危機を指す
- 共有された物理空間が弱まったあと、デジタルの公共圏までボットが読み書きする空間へと変わること以上に深刻な危機として扱われる
AIバリュエーションと労働代替モデル
- 大規模AIインフラ投資 はすでに数千億ドル規模で、今後10年では兆ドル単位が見込まれている
- 労働代替 は、「copilot」「assistant」「augmentation」といった婉曲な言葉の裏にある実際の財務モデルである
- AIエージェントが「アナリスト10人分の仕事をする」という投資家向けプレゼンは、人間のコストセンター削減を前提としている
- AIが文書のオートコンプリートやより長いメモの作成にとどまるなら、これらの企業は資本主義史上もっとも過大評価された資産になる
- AI企業は独自ベンチマークによって専門職の代替可能性を立証しようとしている
- OpenAIの GDPVal benchmark は、不動産ブローカーからニュースアナリストまで44職種でモデル性能を測定する
- AI Productivity Index は、投資銀行アソシエイト、経営コンサルタント、大手法律事務所のアソシエイト、プライマリケア医など4つの専門職ロールを評価する
- OpenAIの評価責任者は、数カ月前には追いつけなかった作業でモデルが人間の専門家に対して「80%以上の勝率」を達成していると明かし、研究チームの元銀行員は、以前の自分の業務のうちモデルがこなせる範囲が広がり続けていることに驚かされると伝えている
自動化の罠と過去とは異なる衝撃
- 第1の転換 は、企業がAIを導入して人員の かなりの部分を代替し、コストを下げる段階である
- コストは下がり、利益率は拡大し、株価は上がり、決算説明会の参加者は満足する
- BlockのJack Dorseyが3月、AIコーディングエージェントを理由に 従業員のほぼ半数を解雇 した際、時間外取引で株価は25%急騰した
- 市場は人間の労働除去を、株主への即時かつ大規模な価値移転として報いる
- 第2の転換 は、代替された労働者が所得を失い、消費を減らす段階である
- 彼らが利用していた企業の売上は減少し、一部企業もコスト削減のためにAIを導入することで、代替が積み重なる
- 経済全体の消費者需要が縮小する
- 第3の転換 は、労働者を解雇してコストを削減した企業が、自社の顧客も結局は他企業の労働者だったと気づく段階である
- 売上成長は停滞し、効率化投資と見なされていたAIサブスクリプションは、自社市場の破壊に寄与したコストとなる
- WhartonのBrett Hemenway FalkとGerry Tsoukalasが論じた The AI Layoff Trap は、この構造を囚人のジレンマとして説明する
- 競争市場では、自動化企業は労働者代替によるコスト削減をすべて享受する一方、それに伴う需要破壊は一部しか負担しない
- 20社の競合がいる市場では、各企業は自分が破壊した需要の20分の1しか体感せず、残りは競合他社に転嫁する
- AIが向上するほど、競合より速く自動化したときに得られる利益格差が大きくなり、集団的破滅へ向かう軍拡競争が強まる
- 群集行動 は、効率性が証明される前であっても解雇を前倒しさせうる
- OpenAIで働いていた経済学者Zoë Hitzigは、CEOたちがAIを理由に人員削減を行うと言えば他の人々もそうすべきだと感じ、この力学が効率性の要求以上に変化を速める可能性があるとみている
- 過去の自動化も新たな雇用を生んだが、移行は速くも無害でもなかった
- AI産業の導入速度は、過去のショックよりはるかに速い可能性がある
- 元国家経済会議副議長のBharat Ramamurtiは、製造業の雇用喪失をもたらしたChina shockは数年にわたって進んだが、今回の変化は2年で起こりうると語っている
- モデル開発に巨額の資金が投じられている以上、急速な導入によって売上を生み出さなければならない圧力は非常に大きい
- 汎用AI は、特定の作業ではなく認知労働全体を同時に狙う
- 過去の動力織機やスプレッドシートは、それぞれ手織りや手計算といった狭い作業を代替した
- Wassily Leontiefは1983年、人間労働を馬に たとえ、米国の馬の頭数が1840年の900万頭から1900年には2100万頭まで増えた後、内燃機関の登場から60年以内に88%崩壊した事例を示した
- 馬は悪意によって引退させられたのではなく、維持する経済合理性が失われただけであり、人間に同じことが起きないとする経済法則はない
- Daron Acemogluの研究は、近年の技術の代替効果が生産性効果や再雇用効果を上回ってきたとみる
- 1987年から2017年までの新技術の 代替効果 は、生産性効果や新たな業務創出効果を大きく上回った
- AIについては、「過度な自動化」が企業によって進められており、相当な社会的コストを生みながらも生産コストを大きく下げられていないとみている
- 多くの適用分野で、AIは 代替を正当化できるほど十分に優れていない
民主主義、分配、専門職ショック
- 民主的レバレッジは、支配される人々が支配者に提供する労働、税収、兵役、消費支出から生まれる
- 権力が分散するのは、上にいる人々が下にいる人々から何かを必要としているからである
- 労働が方程式から外れると、民主主義の物質的基盤は揺らぐ
- AIシステムが少数の企業所有のもとで価値を生み出すと、民主的な財政メカニズムも同時に弱まる
- 税最適化に長けた企業がAIシステムを所有すると、税収基盤が弱体化する
- 雇用主が被雇用者を必要としなくなれば、団体交渉は抜け殻になる
- 労働所得に依存する消費支出が減少する
- Pikettyの r > g は、AIが資本蓄積と人間労働の必要性のあいだのつながりを断ち切ることで、さらに加速する
- 関連する分析では、再分配がなければ「ほぼすべてのものが、移行の時点で最も裕福な人々のものになっていく」と見ている
- 公共がリスクを負担し、民間が報酬を持ち去る構造も繰り返されている
- トランスフォーマー・アーキテクチャ、大規模学習手法、半導体の進歩は、大学、DARPA、国立研究所などを通じた公共または準公共の資金支援と結びついている
- Mariana Mazzucatoは、AIが価値創出ではなくレント抽出のもう一つのエンジンになる危険があると表現している
- Anthropic CEOのDario Amodeiは、民主主義における力の均衡は、平均的な人が経済的価値を生み出すことによって持つレバレッジに基づいていると述べた
- そのレバレッジが失われれば状況は「恐ろしいものになる」と診断している
- しかしAnthropicはこれに対処する法案を支持しておらず、共同創業者のJack Clarkは政策提言を「非常に長い作業連鎖の終わり」と表現した
- 権威主義的な顧客は、民主主義国家よりもAI技術導入に適した需要側として提示されている
- 民主政府がAIで公共部門の人員を置き換えれば、選挙で代償を払う可能性がある
- 権威主義政府にはそうした制約がなく、経済効率に加えて監視と統制の利益も得られる
- Saudi Arabia、UAE、Singaporeは、莫大な資本、中央集権的な意思決定、責任を負うべき有権者の不在、統制技術への積極的な関心を備えた例として挙げられている
- 大規模なAI代替への解決策は、しばしばベーシックインカム、再訓練プログラム、「レジャー経済」のような資源分配の問題として扱われる
- Anne CaseとAngus Deatonの deaths of despair 研究は、自殺、薬物過剰摂取、アルコール性肝疾患による死亡率の増加が、教育水準が低く製造業依存度が高かった人口層に集中していたことを追跡している
- 中核メカニズムは単なる貧困ではなく、経済的目的、社会的地位、将来感覚の喪失である
- Molly Kinderは、AI企業の豊かさの物語はグローバル化の時代の約束を繰り返していると見ており、今回は敗者が中西部の製造業都市に限られないと述べている
- UBIは構造的問題を解決できないとの批判を受けている
- Anthropicの自社研究は、AIコーディングエージェントが代替だけでなくスキル低下も招きうることを示している
- AIコーディングエージェントに依存したジュニアエンジニアは、作業をはるかに速く終えられたわけではなく、その後のクイズでも自分の作業をあまり理解していなかった
- 再訓練の論理は、人々が関連性を保つための新しいスキルを開発できると前提しているが、ツール自体がスキル形成を妨げる可能性がある
- 専門職の代替は、先進民主主義国の政治的安定基盤を揺るがしかねない
- Joseph Stiglitzは、AIが「定型的なホワイトカラー職」を打撃すると述べている
- 会計士、アナリスト、ジュニア弁護士、放射線科医、ソフトウェア開発者のような大学教育ベースの事務職は、製造業の崩壊から安全だと感じられていた領域である
- この専門職層は、先進民主主義の政治的安定の中核として位置づけられている
- 大規模失業と目的の喪失は、現在のポピュリズムよりも大きな社会不安を生み出しかねない
規制の窓と死んだ経済の結論
- 経済見通しは大きく分かれている
- Acemogluは、現在の経済における仕事のうちAIで費用対効果よく自動化できるのは4.6%にすぎず、今後10年間のAIの総生産性への影響は0.66%だと推定している
- Goldman Sachsは2023年に、生成AIがグローバルGDPを7%押し上げる可能性があると予測した
- McKinseyは年間0.5〜3.5%を見込んでいる
- 2025年の調査では、企業の90%以上が、2,500億ドル規模のAI投資にもかかわらず、雇用や生産性に測定可能な影響はないと報告した
- Torsten Slokは、AIは「流入してくるマクロ経済データを除けばどこにでもある」と述べた
- AIが業界の主張ほど強力かどうかとは別に、十分にもっともらしい自動化だけでも破壊的になりうる
- 現時点の証拠は、宣伝と製品のあいだに大きな隔たりがあることを示しており、真剣な経済学者たちは、生産性向上は業界予測の一部にすぎないと見ている
- Acemogluの要点は、AIは革命的でなくても破壊的たりうるということだ
- “So-so” automationは、労働者を置き換えるにはそこそこ十分で安価だが、生産性向上はごくわずかな技術を意味する
- 最悪の結果は超知能AIではなく、四半期ごとのインセンティブと株価への圧力によって積極的に投入される「十分な」AIかもしれない
- 規制の虜獲はすでにかなり進んでいる
- OpenAIの公開された政策提案と政治行動は互いに衝突している
- OpenAIは4月のIndustrial Policy for the Intelligence Age白書で、週32時間労働、法人税とキャピタルゲイン税の引き上げ、すべての市民がAI企業の持分を持つ「公共富ファンド」を提案した
- 同じ時期に、OpenAIの社長は、大手AI開発企業への安全規制とAI課税を通じた米国人への直接給付を提案したニューヨーク州下院議員候補Alex Boresに反対する広告に200万ドル以上を投じたスーパーPACに資金を提供した
- OpenAIは、投資家のリターンを当初投資額の100倍に制限していた利益上限を撤廃した
- OpenAIのチーフロビイストであるChris Lehaneは、不利な結果をもたらしかねない社内研究の優先順位を体系的に引き下げ、問題に対する解決策ができるまではその問題を扱った論文は出さないという立場を示していたと伝えられている
- 可能な介入策はすでに知られている
- AIインフラに対する公的持分の保有
- 強力な独占禁止法の執行
- 自動化労働に対する実質的な課税制度
- Branko Milanovicは、資本所有をより広く分散させ、最高水準の資本所得に対してより積極的に課税すべきだと提案している
- 技術的に難しい措置ではなく、歴史上もっとも豊かな企業群に挑む意思を持つ、機能する民主制度が必要だ
- 死んだ経済とは、何も起きない経済ではない
- GDPは上がりうるし、AI関連投資はすでにそれを支えている
- 死んだ経済とは、多くのことが起きていても、そのどれ一つとしてあなたを必要としない経済である
- 文明の生産能力が、あなたの持分も入力も投票権もないシステムに取り込まれた状態だ
- それを作った人々は、私的には結果を懸念しながら、公には楽観を演じている
- 急進的な再分配を求める白書を出しながら、同じ再分配を提案する政治家を潰すためにスーパーPACへ資金を出す構図が、核心的な矛盾として残る
厳選された技術トピックを続けて受け取りたいですか？
Telegramチャンネルをフォローしてください。 @GeekNewsJP
1件のコメント
Hacker Newsの意見
インドの農業は、米国がAIで経験し始めている問題と似ている。インドの農業は世界基準で見ても依然として過度に労働集約的で、労働者の43%が農業に従事している。米国は2%未満、中国は2023年時点で22%で、さらに減少中である
この非効率な農業構造は偶然ではなく、莫大な補助金によって維持されており、補助金を減らそうとする試みは暴動につながってきた。米国とEUも何世代にもわたる移行を経験し、今なお農業補助金は大きい。中国はより速く移行したが、都市が吸収できる速度を超えて農村人口が流入するのを防ぐため、戸口制度を設けている
労働集約型農業から都市社会へ急速に移行した国々がどう対応したかを見れば、AI移行の姿についてもヒントが得られる。一世代で貧しい国から豊かな国になったアジア諸国は、それぞれ異なる形でこの過程を経験しており、哲学よりも有用な情報になりうる
https://economictimes.indiatimes.com/news/economy/indicators...
https://en.wikipedia.org/wiki/2024%E2%80%942025_Indian_farme...
ClevelandからParisへ物を送ろうとして断念することもありえたし、酒を送っても一部しか届かず、残りは消えてしまうこともありえた。運輸業界には、トラック会社、鉄道、海運会社、貨物取扱業者、港湾労働者、労働組合、旧式の非コンテナ船の保有者など、既存秩序を維持しようとする勢力が多く、標準化も望んでいなかった
https://en.wikipedia.org/wiki/The_Box_(Levinson_book)
しかも機会不足も問題だ。インドはサービス業に集中し、工業化では出遅れた。現政権は工業化をさらに後押ししているが、すでに曲線から遅れている状態だ
以前Facebookの採用担当者と話したとき、Seattleのある拠点だけでMessenger開発者が何フロアも埋めていると自慢していたのがずっと引っかかっている。Messengerのようなプロジェクトで、あれほど多くの開発者がいったい何をしているのか本当に気になる。
ある意味でAIは、すでに存在していた過剰能力の状況をさらに上乗せしているように見える。すでに人材供給が過多だったのなら、なぜ開発者をさらに雇い続けたのかも疑問だ。AIブーム以前にもMuskはTwitterの人員を大幅に削減しており、それが過剰だったことを示したとも言えるのではないか。
純粋なソフトウェア企業で外部顧客に直接製品を出す仕事をしたことがなく、ずっと社内向け開発者だったので、現実のソフトウェアエンジニアリングの経済がどう回っているのか想像しにくい。LLMの波の最終的な結果は、ツールの変化程度にとどまり、革命ではないのかもしれない。文書の上では革命的であるはずに思えるが、コーディングや非コーディング作業に使ってみるほど、そこまで魔法のようではないと感じる。それでも時々輝く瞬間はある。
小さな会社では上層部が全体をある程度理解しているので簡単だが、会社が大きくなるほど悪質な行為者、作り上げられた必要性、帝国づくりが増える。大企業は動きが遅くなり、賃金を下げたりレイオフを増やしたりして対応する。ソフトウェアではシステムが非常に特化していて何が本当に重要なのか把握しにくいため、この問題が特に目立つようだ。
配当として返せば、もう成長できないと認めるように見えるため、企業を買収したり、人をさらに雇ったり、巨大プロジェクトに投資したりすることになる。Metaverse、ブロックチェーン転換、AIネイティブのようなものに数十億ドルを注ぎ込むのも、結局は成長可能性を示すための行為だ。
人々が、辛うじて自己崩壊を避けられる程度にしか成功しない巨大な資源誤配分を止める力がないと感じている点も、記事とつながっている。私はAIにはかなり前向きだが、自分の考えに合う文章よりも、こうした文章のほうがはるかに有益で興味深い。投票で前向きな変化を作れるという点には懐疑的で、「勝てないなら加われ」という言葉も理屈の上では実用的だが、現実ではあまりに狭く見える。それでも支援技術・アクセシビリティの可能性と自分の利害のために、AIをうまく採用しようと努力している。
結果として、照準の粗い自警主義、たとえばEarth Liberation Front的な行動が出てきても驚かないだろうが、同情もしないと思う。
既存の人員を再配置するより、新しい開発者チームを放り込むほうが簡単で、そうしたチーム単位で入ってくる理由は、要求される知性を持つ人にとって長期的に魅力のある仕事がないからだ。Twitterは、データ転送量と価値が低い組織で不満をくすぶらせ続けないために何人必要かという問題だったのだと思う。ソーシャルメディア企業には生死を分ける状況がそれほど多くないため、Muskは非DevOps部門やプロジェクトをなくすことができた。
人々に小切手を送れば、趣味やコミュニティに意味を見いだし、絵を描き、庭を手入れし、やがて小説を書くようになるという前提がある。
著者は、私たちは薬物や酒に溺れ、自殺するだろうから失敗すると見ているようだが、退職者にはうまく機能している。彼らはその生活を好んでいる。私たちが9時から5時まで退屈な仕事をしなければならない理由が、自由に耐えられないからなのかは疑問だ。
若い頃、Bulgaria出身の同僚と働いたことがあるが、彼は仕事がないと退屈すぎると言って週70時間働き、仕事から目的を得ていた。いつも働くことに慣れると、仕事が目的になり、働かないことは死になる。祖父母の一人も退職後1年以内に心臓発作で亡くなったが、退職しなければもっと長生きしたであろう兆候が多くあった。人によっては自由はすなわち仕事であり、他のことを楽しめる自由を持つためにも目的が必要なのだ。
会社がコスト削減のために労働者を解雇したあと、顧客が結局は別の会社の労働者たちだったと気づく、という点が核心だと思う。売上成長は止まり、効率化への投資だと見なされていたAIのサブスク料金は、自分の市場を破壊するための拠出金になる。
極端に突き詰めれば、この問題の最終的な解決策は、顧客も供給者もすべてロボットである完全な非人間AI経済という分離主義になる。なぜ公教育、研究、医療に金を出す必要があるのか。データセンターをもっと建てればよい。しかし、10億ドルと南半球のバンカーでは誰も救えない。この非人間的な仮定世界では、資本は堀ではない。権威はどこから来るのか、警備員をどうやって信頼できるのか。ロボット／ドローン軍があったとしても、ハッキングされたらどうするのか。AIアライメントが成功してClaudeが依頼を拒否したら？
あまりにもグロテスクだ。むしろ人間の尊厳を守り、より人間的な未来へ向かうほうがよくないか。
価格や品質でほんの少し上回るだけでも、相手社会の市場シェアの大半を奪うことは理論上可能だ。解決策は何らかの形でこの問題に対処しなければならない。
https://www.imdb.com/title/tt6902176/
この記事は、AI言説の中で欠けていると感じていた多くのことをうまく言語化している。とりわけ、約束されたAIの未来の体系的帰結、政治経済との相互作用、そして「西洋近代性のメタナラティブ」をそのまま受け入れない批判的検討が重要だ。
さらに重要なのは、AIの大物たちが経済を再編し、資本―政治のフィードバックループを強化することが、AI収益が約束どおり実現しないときでさえ、あるいはむしろそういうときにこそ、どれほど有害になりうるかを明確に示している点だ。散在する反AI感情は多くあり、知識人たちが共通アジェンダのもとに集まれれば、政治運動につながる可能性もある。
これらの企業が今年末にIPOすれば、損益計算書の数字と持続可能性が公開財務資料として明らかになるだろう。
うわさではAnthropicは黒字化している可能性があるが規模が問題で、OpenAIは黒字ではなく、Googleは既存のデータセンター、自社シリコン、運用経験のおかげでおおむね垂直統合されており、低コスト構造を持ちうる。それでも支出は正当化しなければならない。四半期ごとに数字を公に報告しなければならなくなれば、全体が現実に引き戻されると思う。
エンジニアの観点で「何をすべきか」があるなら、研究、エージェント、単純利用のどこであれ、ローカルモデルのほうへ針を振り、どう動くのかを理解し、妥当なときには擁護することが、おそらく投資対効果が最も高い。思っている以上に、そういう場面は多い。
1840年に900万頭だった米国の馬の個体数が1900年には2,100万頭まで増え、技術変化に免疫があるように見えたのに、内燃機関の登場後60年以内に88%崩壊したという点は非常に興味深く、不気味でもある。
この比喩を文字どおりに受け取るなら、「では誰が買うのか？」という疑問が浮かぶ。労働者を自動化で押し出したら、そのAIサービスを誰に売るのか。世界人口が80〜90%減れば、あらゆるものの価格は再設定され、規模の経済もずっと小さな規模で済むようになって、突然「持続可能な」経済になるのかもしれない。これが計画だと推測しているわけではなく、馬の比喩を読んでいて浮かんだ考えだ。
これはグローバル化の時代における米国の消費者と低開発国の労働者との関係に似ている。歴史的には、このような構造は持続不可能な政治的不安を生むときに解消されてきたが、今ではそれを管理する新しい方法も多い。
https://libertystreeteconomics.newyorkfed.org/2026/05/tracki...
一方で、国家を動かし武装させる産業は拡大するだろう。人間の野蛮人から計算資源を守る軍用ドローンの生産、技術拡張のための希土類採掘、公共の飲料水や農業用灌漑水を権力中枢を支える産業・製造へ振り向けること、発電などが拡大しうる。
もちろん彼はそれを「冗談にすぎない」とし、ジェノサイドに対する「人道的代替案」だと言っていたが、こういう人々が政治・技術・経済を形作っている。
こうしたことが起こりうるのは広く知られており、何年も前から語られてきたことだ。本当の問題は、何をするかにある。
David Shapiroをはじめ多くの人が、UBIに近いポストAI経済について語ってきた。夢見られていたのは、機械が家事をこなし、私たちは絵を描き、音楽を書き、工房で美しい木製家具を作るような世界だった。まだそうなる可能性はあるが、その前に資源を責任を持って分配する問題を解決しなければならない。人類はそれを一度もうまくやれたことがない。私たちは他人が持てない資源にアクセスするために、できるだけ多く稼ごうとし、今ではそれが足踏みや後退に終わることも多い。20〜30年前のほうが、平均的な人が使えるお金は多かったように感じられる。
それを前提としつつ、今後10年でTerminator/SkyNetのシナリオを考えないのであれば、選択肢はある。トークン利用課税、ローカルデータセンターの義務化、AI監督の義務化、AI企業の国有化、企業がAI演算を海外に移せないようにする中国式の国家ファイアウォール、代替された労働者数に応じた企業課金、企業内の人間労働者に対するトークン消費比率の義務化などが考えられる。こうした措置は、急速な変化の衝撃を和らげ、労働市場が適応する時間を与えうる。
今回はなぜ違うのか。強力なAIツールが、同じ人数でより多くの仕事をできるようにするのではないか。資源があるなら、市場をより多く取るほうが賢い事業運営ではないのか。
会社Aが現在の市場シェアを維持するだけで従業員の半分を解雇して利益を確保するなら、会社Bはその労働者たちを雇い、より生産的な人材として、より強く競争できるのではないか。そうなればBがより多くの市場を取り、より長く生き残るだろう。
自然界には空いた生態的地位はないと言われる。資源をめぐって競争できる余地があれば、動機づけによってすぐ埋まるという意味だ。厳密ではないが、良いヒューリスティックではある。
米国の知識労働者への報酬は年間およそ10兆ドルで、AnthropicとOpenAIが調達した資金は、まだ使った額ではなく集めた額だけで3,170億ドルにのぼり、1年分の知識労働支出の約3%にあたる。もしある企業が労働者の生産性をもっと大きな倍率で引き上げられるなら、年間3%、5%、10%を追加で払わないだろうか。
ここでの根本的な懸念は、現在のAIが知能の部分的自動化を提供している点にある。投資家とAIを使う企業の最終目標は知能の完全自動化であり、肉体労働についても同じだ。彼らが望んでいるのは、24時間働く25,000ドルのロボットと、人間のオフィスワーカーの仕事をより安くこなすAIモデルだ。まだどちらもどう作るかはわかっていないが、地球上の最後の1ドルまで使ってでも試みるだろう。
厳密に言えば、顧客としての私たちさえ必要ない。ロボットが直接ヨットや豪邸を建て、警備員の役までこなせばいいのだから。
しばらくの間はその通りだろう。しかし、AIがその10個のエージェントをソフトウェアエンジニア並みにうまく管理できるようになったらどうなるのか。もちろん、エンジニアがそれぞれ10個を管理するエージェント10個を管理すればもっと価値がある、と言うこともできるが、結局は限界が来る。ソフトウェアエンジニア1,000人がそれぞれ10,000個のエージェントを管理する必要はなく、仕事を十分な速さで投げ込む能力のところでボトルネックが生じる。
ブルーカラー労働の観点のほうが理解しやすい。人間が行うあらゆる労働をこなせるヒューマノイドロボットが25,000ドルで、年間運用費が数千ドル、充電時間を除いて1日20時間働くとしよう。それに代替された建設労働者が、ロボット建設チームを管理するようになるわけではない。すでに総括施工者がいるし、建設はコードを書くように物理的制約を超えて拡張できるものではないからだ。そんなロボットが存在すれば、人口のかなりの部分が失業者になるだろう。競合他社も単にロボットを使えばよいので、彼らを雇う競争相手は存在しない。
小さな町に機械工場を開いたからといって、やって来る整備工をいつまでも全員雇い続ける必要があるわけではない。サービス需要に見合った最適な雇用人数がある。整備工の生産性を2倍にするツールが突然現れれば、次の段階は整備工の半分を解雇することだ。
経済全体の状態は経路依存的だ。この記事は、現在のAI過熱サイクルで蓄積された慣性が、新規参入者に資本がまったくない望ましくない定常状態への分岐点へと私たちを押し込む可能性がある、と警告しているように読める。
もしかすると私たちは皆、エージェントを雇った自分の会社のCEOや取締役会長になるのかもしれない。効率と効果を高めるために最高のエージェントを見つけることが、私たちの仕事になるというわけだ。