1 ポイント 投稿者 GN⁺ 2024-10-21 | 1件のコメント | WhatsAppで共有
  • AI需要が米国のコンピューター・データセンター・電力インフラ投資を押し上げており、MicrosoftによるThree Mile Island原子力発電所1号機の再稼働費用負担は、データセンターの電力不足が物理インフラ投資へ波及している流れを示している
  • 米国のデータセンター建設支出は年率286億ドルで過去最高水準にあり、前年比57%、2年前比114%増となり、レストラン・バー・小売店の建設支出合計に匹敵する規模となっている
  • 建設支出にはサーバーラックや部品は含まれておらず、大型コンピューターとコンピューター部品・アクセサリーの純輸入は直近1年間で650億ドルを超え、台湾製のチップ・コンピューター・関連部品の輸入も380億ドル超へと急増している
  • 今回のAIブームの波及効果は、従来型のソフトウェア雇用よりもハードウェア・製造・建設・電力インフラにより大きく現れており、過去1年間の米国の技術職増加は3万2,000件にとどまった
  • より大きなモデルと実アプリケーションの普及を前提に投資競争が続く中で、高度半導体需要・台湾依存・中国へのアクセス制限がChip Warの中心課題としてさらに浮上している

AI需要が物理インフラ投資につながる

  • Microsoftは増大するデータセンターの電力需要に対応するため、Three Mile Island原子力発電所1号機の再稼働費用を負担することを決め、Amazonに続いて既存の原子力発電施設をエネルギー需要対応に活用する2社目の米国大手テック企業となった
  • MicrosoftはOpenAIの主要投資家であり計算資源の提供者でもあり、ChatGPTの公開から2年も経たないうちにAIの開発と利用は急速に広がった
  • AI製品はコード・テキスト・画像生成、データ分析、作業自動化、オンラインプラットフォーム強化などに使われており、利用拡大は今後も続くと見込まれている
  • 最新のAIモデルは学習と推論に大規模な計算資源を必要とし、それを運用するには高性能ハードウェア、産業規模の施設、電力・水・ブロードバンドのインフラが必要になる

データセンターとコンピューター投資が急増

  • 米国のデータセンター建設は年率286億ドルで過去最高を記録している
    • 前年比57%増
    • 2年前比114%増
    • 米国のレストラン・バー・小売店の建設支出合計に匹敵する規模
  • この数値には建物自体しか含まれず、データセンターの頭脳となる高性能コンピューターラック、ケーブル、ファン、その他の部品は含まれていない
  • 8月の米国の大型コンピューター純輸入は過去最高を記録し、コンピューター部品・アクセサリー・その他構成品の純輸入はその前月に過去最高を記録した
  • 米国は直近1年間でこの2分類において650億ドル超を輸入しており、国内生産も同時に増加している

テック企業の投資構造が変わる

  • 新規データセンター、コンピューター、設備の大半は情報技術分野の企業が購入している
    • Amazonのようなコンピューティングインフラ提供企業
    • Googleのようなウェブ検索企業
    • Microsoftのようなソフトウェアパブリッシャー
  • これらの企業は過去1年間で不動産・工場・設備の純保有額を950億ドル以上増やしており、これは過去最高水準である
  • 10数年前、FacebookはInstagramを12億ドルで、2年後にはWhatsAppを150億ドルで買収した
    • 当時Instagramの従業員は13人、WhatsAppの従業員は55人しかおらず、物理的基盤はオフィスと開発者ワークステーション程度だった
  • Metaは2024年上半期だけで152億ドルの設備投資を実行しており、そのかなりの部分はLlama AIモデルを支える大規模コンピューティングインフラに使われている
  • 現在のAIブームは過去の技術ブームよりはるかにハードウェア集約的であり、米国内の建設と投資を急速に押し上げている

高性能コンピューターと台湾からの輸入が中核軸になる

  • 米国企業のコンピューターおよび関連機器への投資は、AIブームの中で物価調整後ベースで過去1年間に**16.6%**増加し、過去最高を記録した
  • 2010年代にはほぼ10年間にわたりコンピューター投資は相対的に停滞していたが、パンデミック期のリモートワーク需要がこの流れを崩した
  • 2022年には在宅勤務水準とインターネット利用が安定したことでコンピューター投資は減少したが、2023年末からAIブームとともに再び急増した
  • 高度コンピューターシステムの成長速度は、全体のコンピューター投資よりも速い
    • TSMCは先端半導体の世界的リーディングメーカーである
    • 米国の台湾製チップ・コンピューター・関連部品の輸入は直近1年間で380億ドル超となり、前年比140%超増加した
    • 米国のロジックチップ直接輸入は低い水準から年率約50億ドルまで増加した
    • コンピューター部品と構成品は依然として最大の輸入項目である

ソフトウェア企業もハードウェア競争に参入

  • 2023年までの詳細な業種別投資データを見ると、AmazonやGoogleのようなデータ処理・ウェブ検索企業はテック分野で最大の投資規模を維持している
  • 最も速い投資成長はソフトウェア開発企業で見られる
    • ソフトウェアパブリッシャーの知的財産への実質投資は2021年以降40%増加した
    • この分類にはAIモデル自体と関連研究開発が含まれる
    • コンピューターのような設備への実質投資は96%増加した
  • 先導的なソフトウェア開発企業が軽量なハードウェア構造を持つ時代は、ハードウェア能力を急速に構築しようとする競争へと変わっている

データセンター立地は地域ごとの差が大きい

  • データセンターはネットワーキング要件とインフラ制約の回避のためある程度分散する必要があるが、大規模クラスターに集中させると効果が高まり、コストと遅延を減らせる
  • AIではこうした集中効果が特に重要であり、企業はモデル開発に可能な限り多くの計算性能を投入するため、データセンターの規模とネットワーキングの限界を押し広げている
  • 公式建設統計はデータセンター支出を地域レベルでしか分けていないため、詳細な建設データは存在しない
  • 米国のデータセンター増設は、歴史的クラスターを持つ南部で最も強く維持されている
  • 成長率は中西部と西海岸市場でより高く、北東部は事実上ほとんど影響を受けていない

電力需要と地域電力網への影響

  • Energy Information Administrationはデータセンター需要を反映して電力負荷増加見通しを何度も上方修正している
  • 現在の見通しでは、商業部門の電力消費が今年3%、来年**1%**増加するとしている
  • この見通しにおいても商業利用者は住宅の電化や産業のリショアリングより小さい電力消費増加要因だが、商業部門としては数年ぶりの最速の需要成長である
    • 2007年から2023年まで商業電力消費は合計5%増にとどまった
    • AIブーム以前の公式推計では、コンピューターとオフィス機器は商業電力消費の11.4%を占めていた
  • 一部地域ではデータセンターの電力消費が電力負荷増加の主要因となっている
    • North Dakotaでは2022年の主要データセンター開設後、商業電力消費が45%超増加した
    • North Dakotaは電力・コンピューティング市場規模が小さいため、電力需要の絶対増加量はVirginiaやTexasのような大規模データセンクラスターの方が大きい

VirginiaとTexasのデータセンター電力需要

  • ワシントンDC北部のVirginia郊外にあるbytewayは、世界最大のコンピューティングパワークラスターである
  • このクラスターによりVirginiaの商業エネルギー消費は2019年以降30%増加し、米国で商業電力需要の絶対増加幅が最も大きい
  • Texasはエネルギー負荷管理プログラムの一環として、データセンターと暗号資産マイナーを誘致してきた
  • Texasの商業電力消費は2019年以降10%増加しており、今後さらに大きな成長が見込まれている
  • データセンター負荷の増加はTexasの再生可能エネルギー投資の上振れに寄与している
    • ERCOTとPJMは今年と2025年に再生可能エネルギー成長で全米を上回ると見込まれている
    • データセンター集積の利点により、AI企業は大規模電力資源の近くへ集中しようとする傾向を強めている
    • 原子力発電エネルギーへの関心と、テック企業による発電インフラへの直接投資意欲が高まる背景となっている

売上は回復したがテック雇用は弱い

  • AIブームの中で情報技術分野の売上は2022〜2023年の鈍化から回復している
  • ソフトウェアパブリッシャー、ウェブ検索ポータル、コンピューティングインフラ提供者はいずれも過去1年間で売上が**12〜15%**増加した
  • これは2021年の水準には及ばないが、コロナ前基準では力強い売上成長に入る
  • 物理投資が急増し売上が回復したにもかかわらず、テック部門の雇用成長は非常に弱い
    • 米国は過去1年間で技術職を3万2,000件増やした
    • これは2021年、2022年、そしてパンデミック前9年間のどの時点よりも低い水準である
    • AIブームの中心にあるソフトウェアパブリッシャーとコンピューティングインフラ産業でも、過去1年間の純雇用増加は事実上なかった
  • 最近コンピューターサイエンス卒業生を悩ませているテック就職市場は大きく改善していない

労働市場への効果は従来のテック職の外でより明確

  • AI投資ブームが労働市場にまったく影響していないわけではないが、その影響は従来の情報技術部門の外側により集中している
  • 半導体製造業の総報酬は2023年第1四半期から2024年第1四半期までに**25%**増加した
    • NVIDIAのような企業の従業員は、より価値が高まったストックオプションの影響を受けている
  • 過去1年間で商業建設の雇用は3万件増加しており、その一部はデータセンター需要の波及効果である
  • チップファブやその他製造業部門の産業建設雇用ブーム、電力および広範なインフラ増設に関連する雇用増加も同時に進んでいる
  • AIブームの雇用ダイナミクスは過去10年のテック労働市場と大きく異なり、従来型プログラマーよりもハードウェア投資・製造/設計企業・インフラ建設会社により焦点が当たっている

投資競争とChip Warへの拡大

  • AI開発企業は、製品改善と商業化拡大が現在の歴史的投資規模を正当化すると見て激しく競争している
  • 短期的には、より高度なモデル開発と自動運転車のような実アプリケーションの拡大に伴って投資はさらに増えると予想される
  • 政策立案者はAIを米国経済の将来の中核分野と見ている
    • Silicon Valleyと米国大手テック企業の支配力により、米国はAI開発とデータセンター能力で相当な優位を築いている
    • AIブームは他のどの国よりも米国投資に大きな恩恵をもたらしたと評価されている
  • ハードウェア能力をめぐる地政学的競争はさらに激化する可能性が高い
    • CHIPS ActはChatGPT以前に作られた法律であり、一部の業界幹部は優先順位と規模の面で時代遅れに見えると不満を示している
    • 高度半導体需要の増加は、CHIPS Actが緩和しようとしていた米国の台湾輸入依存を高めている
    • データセンター規模の供給を満たすのに必要な多くの部品で、米国は依然として中国に依存している
  • 米国は中国のAI開発を遅らせるため最先端チップへのアクセス制限を続ける可能性が高く、中国は輸入依存を減らすためチップ製造能力を引き続き拡充している
  • AI投資ブームは進むほど、既存のChip Warの前面へとさらに移っていく

1件のコメント

 
GN⁺ 2024-10-21
Hacker Newsの意見
  • この記事を読んで、この今回の資本集約的な投資ブームも、米国史上の大規模な投資ブームと似た展開になる方に賭けたくなった
    1800年代の鉄道敷設、1900年代初頭の自動車会社の乱立、1990年代末の通信向け光ファイバーブームのように、大規模なインフラの過剰建設の後に業界の大半が破綻する崩壊が来たが、その後そのインフラが吸収され、経済と社会に大きな利益をもたらした
    90年代末〜2000年代初頭の通信投資と破綻の後、敷設されていたダークファイバーが最終的に点灯し、Netflixのような高品質マルチメディアの成長を可能にした例が思い浮かぶ
    ここでも平均的な投資家は高性能チップ、データセンター、エネルギー供給に資金を投じて大きく失望するだろうが、長期的には大きな配当を生むと見ている
    特にエネルギー投資だけを見ても、AIが巨大な気候加熱型のエネルギー食いとして描かれるとしても、再生可能エネルギーが最も安い電力になった今、この莫大な資金需要が脱化石燃料への移行を早めると信じている

    • その通りのように思うし、いつかはバブルがはじけるはず
      ただ問題はいつかということ。今がドットコムブームの1999年ではなく1995年に当たるなら、今後さらに4年の高成長が残っており、崩壊後でも2029年の市場は2024年よりはるかに大きいかもしれない。Ciscoも2001年には1995年より依然として4倍大きかった
      過去のバブルと少し違う点は、計算量が多いほどAIがより賢く有能になるという点
      まだブームの初期なのかを見極める基準として、Slackが過去2年間のチャットで下された業務・技術上の意思決定について信頼できる答えを返すLLMチャットボットを売っているかを見ている。まだそうした製品はなく、高いコンテキストウィンドウでそれだけ多くの推論を回すコストが依然として高すぎるからである可能性が大きい
      だから今はバブルの終わりより始まりに近いと見る立場
      もう一つ注視すべきなのは、LLMのスケーリング則が急速に崩れ、より多くの計算が経済的により高い知能を生まなくなるかどうか。そうなればバブルははじけそうで、GPT-5級のモデルがその兆候を示すかを皆が見ている
    • なぜそう見られるのか疑問。鉄道網、道路網、光ファイバー網は、元の投資家が潰れた後も数十年使うことができた
      だが現在のAI計算用データセンターは、AI企業が潰れれば実質的に他の用途には使いにくいことが問題
      計算インフラ投資の問題は、今後5年以内にすべて活用する計画が必要だという点。その後は無料でくれると言われても引き取らないかもしれない
    • 再生可能エネルギーはすでに非常に安いので、いずれにせよ同じ速度で建設されていたように思う
      一方で高価な原子力発電は、このバブルがなければ建設されなかったはずなのに、不思議なことに原子力の方にも資金が流れているようだ
    • 通信バブルで後にも価値が残った資産は、地中に敷かれた光ファイバーだけだった。終端装置は数年以内に旧式化して交換が必要になり、光ファイバーは再利用可能で設置コストが高かったため中核的な資産だった
      AIバブルで5年後にも価値が残る資産は何だろう? 5年落ちのGPUでいっぱいの倉庫ではない可能性が高い。ひょっとすると原発かもしれない
    • 鉄道とコンピュータネットワークはネットワーク効果を生むが、非常に速く旧式化するハードウェアで満たされたデータセンターにも同じことが当てはまるかははっきりしない
  • 鉄道に似ているという話があるが、金がかかるという点以外は鉄道とはまったく違う
    鉄道は数十年維持され、今後もさらに数十年意味を持つ。ゆっくり摩耗していき、陸上輸送で最も効率的な形態
    一方でこうしたハードウェア投資は6年後にはすべて償却され、電力コストに対する産出量のために稼働させる価値がなくなり、廃棄される可能性が高い
    また将来のAIシステムが何らかの理由で現世代のハードウェア上で効率よく動かないという追加リスクもある

    • そうかもしれないし、そうでないかもしれない。Nvidia P40 GPUは8年前に登場し発熱も大きいが、価格はこの1年で2倍になった
      6年以内に何もかもがすべて償却されるわけではない。人々は15年後もA100を使っている可能性が高い。7年前のV100 32GB GPUカードもeBayで今なお1500ドルで取引されている
      既存のハードウェアをすべて置き換える新しい種類のより優れたハードウェアを発明するより、より効率的なソフトウェアアーキテクチャを発明する可能性の方が大きそうだ
    • この比喩における公共財はAIハードウェアではなくAIモデル
    • 建物や電力供給のような一部の資産は、おそらく引き続き使えるだろう。それでもチップは近いうちに新しいものに置き換わる可能性が高い
    • ITインフラは鉄道産業より寿命がはるかに短いが、マージンも驚くほど高い
      鉄道投資は回収に通常数十年かかる一方、IT産業では通常数年以内に回収される
  • この議論には大きな空白があるように感じる。ほぼすべてがGPUとハードウェア投資に集中しており、それが現在のAIブームを大きく牽引しているのは確かだが、ソフトウェア面が抜けている
    AIベースのプラットフォーム、ツール、アプリケーションに入る相当なベンチャー投資も扱うべきだ。この記事はハードウェアの話に偏りすぎているので、むしろ「GPU投資ブーム」と呼ぶ方が正確に思える
    ソフトウェア投資も同じ比重で注目されるべきだ

    • GPUとデータセンターは、AIにおけるドットコムブームの光ファイバーのような役割だと思う
      多くのLLMベースのソフトウェアに採算性がない理由は、やろうとしていることを支える計算量と電力がまだ十分でないからだ
    • その比率をうまく推定した資料はあるだろうか? 自分がある程度知っているAIスタートアップを見ると、ハードウェアスタートアップでなくても、調達したベンチャー資金の大半が直接・間接にハードウェア費用へ戻っている印象
      ただし確かな数字はない
    • 最近のYCやProduct Huntを見ていると、今大げさに宣伝されているソフトウェアはほぼ全部「AI Poweredな何か」だ
      実際にAIが有用なことをしている会社が1社あれば、既存アプリのどこかにAIを無理やり押し込んで「AI Powered」と包装している会社が10社くらいあり、かなりうんざりする
      最近うちの会社がZenhubを評価したが、営業チームはアプリでAIを使っている点を非常に強調していた。実際に見てみると、プロンプトでストーリー説明を生成するだけの、最も基本的なAI統合にすぎなかった
      AIは非常に有用だが、あらゆるものに入れる必要はない
    • データセンターとクラウド計算の話は多いが、デバイス内推論用チップには触れていない
      モバイルがインターフェース層で占める位置を考えると、自分がベンチャー投資家ならオンデバイス推論に賭ける
  • どうして誇張気味の記事はどれも「AI製品はコード、テキスト、画像生成、データ分析、作業の自動化、オンラインプラットフォームの改善など、はるかに多くの場面で広く使われており、今後利用量は増える見込みだ」みたいな文で始まるのか分からない
    個人的には、コーディング時の Copilotの使用量 は減った。何度も試したが、すぐに迷走して微妙なバグを吐き出し、自分で書いた場合よりデバッグに時間がかかった
    コードを十分に確認しきれていないかもしれないので、「これが本番環境で原因不明の形で爆発するかもしれない」という感覚が常にある。同僚や友人も同じように感じていると言っていた
    新しい「思考の連鎖」モデルも使ってみたが、不思議なことにむしろ悪く見えた

    • このコメントを見て、自分が Copilotのサブスクリプション に入っていたことを思い出した
      数か月間、役に立つコード提案をしてくれなかったので、記憶から消えるほどだった。さっきログインして解約した
      これで他のサブスクリプションも解約したり、低い料金プランに下げたりできるか確認しないといけない
    • 自分の経験も似ている。最近のコーディング作業でClaudeを使ったが、延々と ウサギ穴 に引きずり込まれ、そのたびに前より悪くなっている感じだった
      それでも「申し訳ありませんが、実際にはお手伝いする方法が分かりません」と言って止まることはできなかった
    • 現在のAIは、実装者というより 教師 に近いと感じる。新しいことを学んだり、どの方向に進むかのアイデアを得たりする時には本当に役に立つ
      だが実際のコードは、今も大半を人間が書く必要があるように思う
      AIは優れたツールで、速度を大きく上げてくれるが、こちらがアイデアだけ与えればAIが雑務を全部やってくれるという魔法のような考えとは合わない
      一般的には、幻想ではなく実際の証拠に基づいて思考モデルを作る方が常に良く、今は幻想がかなり混じっている。とはいえ、将来の発展可能性に悲観的であるべきだという意味ではない。ただ、その改善がどんな形になるかを予測するのは非常に難しい
    • 自分の経験では時間とともに良くなっていて、特にLLMを Language Server Protocol や他のツールと統合する方面には、まだ比較的容易に得られる改善の余地が多いと思う
      それでも現時点では自立して作業するには十分ではないので、プロジェクトの文脈が多くなく、集中時間が短い中級の人間の開発者とペアプログラミングするように使うのがよい
      特にAIに一度に関数1つ、またはリファクタリング1つだけを任せ、進行中に簡単にテストできるようにする使い方で、大きな価値を得ている
    • 記事も全部AIで書かれているから
  • こういう記事や議論を見るたびに、私たちは地球を壊してしまい、根本的な被害まであと5〜6年しか残っていないかもしれないと言いながら、同時にLLMに想像しがたい資源を投じている状況が どれほど不条理か に気づかないのは、いつも驚きだ
    結局、十分な投資が入ったLLMがもたらすかもしれないという希望を捨てるか、私たちが地球に与えている被害についての、非常に騒々しいが実際には空虚に見える論理を捨てるかのどちらかだ

    • ここで言う「私たち」が誰なのか分からない。社会の片側は環境に 取り返しのつかない被害 が起きると警鐘を鳴らし、もう片側はより広い人間生活への影響を考慮しないか、意図的に無視しながら、数字をできるだけ早く上げようとしているように見える
      AI投資を推し進める人たちは、気候変動の影響を大きく受けないだろう。熱帯地域の数億人が死に、組織化された人間活動の相当部分が崩壊しても、最後の瞬間まで彼らはその結果から守られるので気にしない
    • もしかすると、本当にもしかすると、より多くのエネルギーが必要になった今、ついに より持続可能な発展の方法 を見つけ出せるかもしれない
    • 「空虚な論理」というのが何を指しているのか気になる
    • 太陽光ブーム は聞いたことがあるはず。指数関数的に成長している
      それに、世界全体を一人が指揮して何が起きるかを決めているわけでもない
  • AIバブル は来年はじけるだろう。今はドットコムバブルでいう1998年頃で、また別のAI冬の時代が近づいている
    LLMと生成AIは、今年版の「インターネットでやるビジネス」や「XのためのUber」式の事業計画だ

    • AIバブル崩壊がスタートアップ業界の残りまで引きずり下ろすのか、それとも 非AI技術 にもっと投資できるようになるのか
      気候関連技術にはもっと資金が必要だ
    • そうはならないと思う
      経済バブルは選挙後にはじけるだろうし、Fedが再び利上げを始めれば分かるはずだ。ただし今回の触媒は 商業用不動産 である可能性が高い
      商業用不動産の中でデータセンターは、投資家の目には唯一まともな項目で、AIブームのせいでなおさらそうだ。そうした投資家たちは予定された崩壊を避けようとして、発電やAI関連の他の分野に以前より多くの資金を注ぎ込むだろうと思う
      最大の変数は、超国家的な寡頭勢力が今回の崩壊を、中央銀行デジタル通貨のようなはるかに大きな 金融政策の転換 に利用しようとするかどうかだ
    • 市場の株価収益率は非常に高く、しばらく高いままだ。テック株とAIがそのかなりの部分を支えている
      Teslaもファンダメンタルズが少し揺らぎ始めた時にどうなったかを見ればよい。それでも「AIバブル」が来年はじけると予測するのは慎重になりたい
  • AIバブルが終わって、HNが別の話をできるようになるといい

    • 暗号資産バブルよりは AIバブル の方がいつでもましだ
    • 疲れたならWordPressの大混乱に関する議論に参加すればいい。最近ここではかなり活発に盛り上がっている
    • Fedがインフレは終わっていないと判断し、6か月以内に再び利上げを始めれば、はじけると思う
      庶民が物価上昇にもう耐えられなくなるまでしか、バブルに餌を与えられない
    • 過去1か月のHN上位30本の記事(https://hn.algolia.com/?dateRange=pastMonth&page=0&prefix=fa...)のうち、AIは6本だけだった
      最上位のAI記事は10位の「OpenAI to become for-profit」で、1位は「Bop Spotter」、その次はStarshipとクリックでサブスクリプションを解除する話だった
    • 人々は残りの人生ずっと AI の話をするだろう。望むならアーミッシュの共同体に入るか、森に住んでFirewatchみたいな仕事をしてもいい
  • これが私たちのような人間の クラウド費用 にどんな影響を与えるのか気になる
    一方では規模の経済が生まれるかもしれないが、他方では他の人たちがクラウドリソースを消費して価格を押し上げるかもしれない。どうなるか推測があれば知りたい

    • 従来のCPUベースのクラウド費用を押し上げることはなさそうだ
      Ampere 192コアAMD 196コアCPU を見ればよい。効率向上が続き、従来型クラウドの価格性能比は下がっていくだろう
  • 自然に幻覚を起こさない「AI」をまだ見つけられておらず、幻覚を起こす「AI」がニッチな用途以外でどう役に立つのか分からない

    • 新しいモデルでは作り話が減ってきている。提供された文書に基づく作り話、つまりRAGで重要になるケースをここでテストした: https://github.com/lechmazur/confabulations/
      GPT-4 TurboGPT-4oの間にはかなりの差がある
    • 非常に狭く絞ったテーマでは、LLMははるかに親切で、おおむね正確だと感じる。生成された内容は関連するソースコードや公式ドキュメントで確認すればよい
      理論上、ちょっと聞きたいことがあるときにClaudeや4oと会話すると、毎日ものすごい時間を節約できる。以前は4つ以上の検索エンジンを調べ、あまりにも多くの検索エンジン最適化スパムをかき分けなければならず、うんざりしていた
      要約機能も今ではミームのようになっているが、非常に便利だ。1日のあいだに面白そうなリンクをすべてデータベースに入れておくと、Cloudflareのcronジョブが各リンクの本文を取得し、4oで要約を生成して保存する
      週末に保存されたリンクの要約をざっと見て、かなり面白そうなら自分で確認し、さらに調べる
      実際、HNの4ページ目にあった数票しか入っていないランダムな記事からSolidJSを知り、ReactJSへの不満記事を最後まで読まなくても、要約だけでSolidJSを試してみるのに十分な情報が得られた
    • 幻覚を最小化するという目標は調整されるべきだと思う。人が「嘘をつく」ときには、慣れたやり方がある。「あの店はこの辺だったはず」「あの人、Inceptionに出ていなかったっけ?」のように、人はどの情報に確信があり、何が不確かかを、声や身振り、文章のスタイルでうまく伝える
      Geminiに簡単な質問をしてみたが、幻覚が本当に気になった。誤りを自信ありげに語るので、自分の本能的な脳がそれを信頼できないと判断し、それ以上質問したくなくなる
      LLMが機能する確率的な性質上、幻覚の除去は不可能だろうが、それを人間にどう提示するかはもっと適切に調整できる
    • わざわざ想像する必要はない。生成AIはすでに多くの非ニッチな応用で非常に役立っている
    • 品質が本当に重要ではないコンテンツ生成も多いと思う。そういう場合、幻覚もあまり重要ではない
      法的に問題になり得る場合、例えばヘイトスピーチや名誉毀損でなければ、ということだ
      記事、ソーシャルメディア投稿、動画まで大量にばらまく用途では、規模の面で幻覚は大きな問題ではない。すでに十分なコンテンツが十分な閲覧数を生み出しており、ある程度実行可能な戦略になっている
  • 90年代末にBell Labsを率いていたRobert Martin博士が、帯域幅の容量は無限大へ向かい、ビット当たりのコストはゼロへ向かうと言っていたのを覚えている
    バブル崩壊前、当時の光容量構築業者たちがどう終わったかは皆知っている
    知能への需要が枯渇しないと考える根拠はあるのか。Samaが言うように、システム入力としての知能のコストが、データセンターのGPUを動かす電気料金に収束すると考える根拠はあるのか。どちらもあり得る
    それでも、帯域幅1ビットについても同じことは言えた

    • 無限の知能が知識労働者の生活水準に良い影響を与えるという点には、非常に懐疑的だ
      もっと悲観的に見れば、AIが私たちを置き換え、私たちは炭鉱に送られるだろう
      最も楽観的に見ても、生活水準は現実に根ざした複数の要素の合成物なので、実際の上限は生活の質が2倍になる程度だと思う。それが無意味だということではないが、過去150年を見れば前例のない水準ではない
    • 生成されたテキストは知能ではない