Physical AIのマネーボール

• ロボットデータはテキストのように既存のコーパスから採掘できず、有用な1時間ごとにコストが発生するため、資本効率は総収集量よりも、1ドル当たりの限界効用とデータの新規性をどれだけ正確に計算できるかにかかっている
• データが増えると損失はべき乗則に従って低下するが、多様性は汎化範囲と誤差の下限を変え、反復や近接重複は急速に飽和する一方、まれなOOD失敗事例は大きな効用をもたらす
• 本番配備データは、初期の高エントロピーな失敗から日常的な成功と近接重複へ収束する油井の減衰曲線に従うため、稼働時間を増やすより失敗のロングテールを選別すべきである
• 初期のロボットタスクは商業性のために環境変動性を制限せざるを得ないため、内在次元と転移可能性が低くなり、配備収益で汎用モデルを改善するという生産フライホイールは、外部の観測範囲と介入の多様性なしには機能しにくい
• データ予算は、低コストの観測データで範囲を広げ、高コストの遠隔操作はタスクごとの飽和点までにとどめ、本番テレメトリではOOD失敗だけを選別する形で配分すべきである

---

データ量を誤って価格付けするPhysical AI

• 2002年のOakland AthleticsはMLBで3番目に低い総年俸で103勝を挙げ、主観的な美学・盗塁・打率ではなく、得点と実際に相関していた出塁率を見つけ、市場が誤って価格付けしていた選手を活用した
• Physical AIでも、累積稼働時間は目に見えやすく投資しやすい指標であるという理由で重視されるが、実際の下流モデル性能との相関は弱い
• ロボットデータはテキストデータのように既存コーパスから採掘できず、有用なデータ1時間ごとに対価を支払う必要があるため、収集量とともにコストも線形に増加する
  • Ken Goldbergは、最前線のロボティクスモデルには約10万年分のデータが必要になる可能性があると推定している
  • 大規模な手作業の遠隔操作インフラだけでAGIに必要な教師データを供給する方式は持続可能ではない
• ロボットを生産現場に配置し、運用売上の副産物としてテレメトリを得るアプローチにも、同じ統計的誤りが生じうる
  • 現在配備可能なニッチなタスクは、変動性が最も低い領域である
  • そこで発生するデータはエントロピーが低く、相互に相関しており、限界効用が小さい
• Physical AIにおける出塁率に相当する指標は、スケーリング則とデータ取得単価をあわせて反映した1ドル当たりの限界損失減少量である

データサプライチェーンを動かす利害関係

• 各参加者は、自分の事業領域が最も価値あるものに見えるデータ観を持っている
  • 基盤モデル研究所は汎用モデルの規模を売りにしているため、大規模な事前学習と計算量の拡大がエッジケースのエラーを取り除くと見ている
  • 遠隔操作事業者は、データの効用や新規性よりも稼働時間に応じて売上が増えるため、生データ量を優先する
  • 既存のハードウェア事業者は、分布外環境ではソリューションが失敗するため、環境が正常で安定しているという前提を置く
  • 学界のロボティクス研究者の多くは、データよりも物理学・モデル・制御でギャップを埋められると考えている
• neo-integratorは、特化型ロボットを商業生産に配備し、人間の介入で失敗を処理することでデータ収集のボトルネックを迂回しようとしている
  • Evan Beardは、生産テレメトリがマルチタスク能力に必要な新規性を生むという経済的フライホイールを提案している
  • Kyle Vedderは、初期のロボット導入に費用を払う環境は本質的に低変動であるため、新規性ポンプ（novelty pump）の制約が生じると反論している
• どの戦略が1ドル当たり最も高いモデル能力を生むかは、経験的スケーリング則とデータ取得の単位経済性をあわせて比較して初めて判断できる

コストと教師方式で分けた3種類のデータ

• 観測データは一人称・三人称映像のようにコストが低く範囲が広いため、表現空間のサポート範囲を拡張するが、直接的な行動教師信号は提供できない
• 介入データは遠隔操作デモのようにコストが高く範囲は狭いが、状態-行動軌跡を明示的に含み、人間の労働量に比例してコストが増加する
• 配備データは、本番システムで内生的に生成される未精製のテレメトリである
  • 運用自体が赤字になる場合もある
  • データ分布はアルゴリズム設計ではなく、商業的な運用条件によって決まる
• データ最大化は低エントロピーのノイズを増やし、学習効率を低下させる可能性がある
  • 言語モデルのC4データセットでは、定型句と近接重複を取り除き、固定された予算内で固有トークンの範囲を増やしたところ、モデルが改善した
• データパイプラインは、各タイプで1ドルから何を得るのか、新しい情報がどこで発生するのか、配備データがタスク範囲を広げられるのかを問う資本配分問題である

スケーリング則から見たデータ効用

• データ量と損失低下

  • データ・モデルサイズ・計算量が増えると、テスト損失はログ-ログ軸上で直線状のべき乗則として低下するが、低下幅は小さくなり、最終的に下限に達する

  • Kaplan 2020とHoffmann 2022の結合形は、モデルサイズ (N)、トークン数 (D) について次のようになる

    [ L(N,D)=E+A N^{-\alpha}+B D^{-\beta} ]

  • 計算最適な配分では、データに関する1次元の包絡線へと縮約される

    [ L^{*}(D)=E+\tilde B D^{-\beta} ]

• (E) はモデルが取り除けない予測不確実性であり、関数形は一貫しているものの、数値は Besiroglu 2024 が扱うように近似値である

• 多様性と内在次元

  • 多様なデータの混合は、データ量とは独立した2つの効果を同時に生む
    • ドメイン間転移と多様体の範囲拡大により、漸近的な誤差下限を下げる
    • データセットの内在次元 (d_{\text{int}}) を高める
  • 滑らかな目標の解像度制限領域では、Sharma & Kaplan 2020 と Bahri 2021 に従い、(\beta \approx 4/d_{\text{int}}) の関係が成り立つ
  • タスクの内在次元を半分にすれば、スケーリング指数はおおむね2倍になり、損失はより速く低下する
  • ただし、劣った汎化しない最適点に収束する可能性があるため、事前学習分布の内在次元を人為的に下げるべきではない
  • Ye et al. 2024 のデータ混合法則は、混合損失をドメイン別のべき乗則とドメイン間の結合項に分解し、結合項が正の転移と負の干渉を決定する

• 反復の飽和と性能低下

  • 反復データは約**4エポック（epoch）**までは新しいトークンと同程度の効率を示すが、その後は効用が急速に低下し、最終的には能力を低下させる
  • Muennighoff et al. 2023 は、半減期 (R^{*}\approx15) の指数飽和形をフィットしている
  • 4回の反復では損失はほとんどない
  • 16回の反復から、追加計算が新たな情報を生み出せない明確な収穫逓減領域に入る
  • 固有例の数が (U)、反復回数が (r=T/U) のとき、有効データサイズは (D_{\text{eff}}=U\cdot f(r)) であり、(f(r)) は指数的に飽和する
  • Hernandez et al. 2022 によると、狭いデータの一部を過度に反復すると、テスト損失で局所的な二重降下が発生し、文脈内学習に必要な induction head と copying head が損傷する
  • コーパス全体の0.1%を100回反復したところ、8億パラメータモデルのサブタスク性能が4億パラメータモデルの水準まで低下した

• 近接重複と局所飽和

  • 近接重複は、完全な反復と完全に新しいサンプルの間で連続的な効用を持つ
  • Lee et al. 2021 は、C4で同一の文が6万回以上出現する事例を確認した
  • 重複除去は逐語的な暗記を減らし、異なる多様体にトークン予算を割り当てることで収束を加速する
  • 小さな変化量 (\varepsilon) は、(x) と (x+\varepsilon) を同じ目標にマッピングさせ、暗黙の一貫性正則化として作用する
    • 非常に小さな変化は効用が低い
    • 中程度の変化は正則化に有用である
    • 変化が十分に大きくなると、別個のデータになる
  • 狭い近傍を高密度にサンプリングすると、局所容量が急速に飽和し、モデル性能を損なう

• 希少事象とロングテール

  • 希少な分布外（OOD）事象は、スケーリング限界でモデル性能を制限する失敗のテールを構成するため、大きな限界効用を持つ
  • 実際の物理的分布はロングテールを持ち、Michaud et al. 2023 によれば、マクロな能力は Zipf 分布に従うサブスキルを頻度順に獲得することで現れる
  • Feldman 2020 によれば、フロンティア精度に到達するには、運用密度全体で大きな比重を占める希少な下位集団を学習しなければならない
  • Sorscher et al. 2022 は、難度が高く頻度の低いサンプルを選別すれば、一般的なべき乗則の制約を回避できることを示した
  • 現実世界の確率性から生じるエッジケースは、合成生成や構造化されたステージングでは再現が難しい
  • 既知の分布が広がるほど、残る新たな変形は幾何級数的に希少になり、発見コストが急増する

1ドル当たり限界効用の経済学

• タスク別損失と資本配分

  • 言語モデルでは計算量が制約でデータは豊富だが、ロボティクスでは有用なデータの取得コストが直接的な制約となる

  • 全体の能力目標は、事前重み (\pi_j) を持つタスククラスタ (j) の結合としてモデル化され、各クラスタの損失は次の形に従う

    [ L_j=A_j(\phi)+B_j(\phi)D_j^{-\beta_j} ]

  • (A_j(\phi)) はセンシング構成 (\phi) における下限、(D_j) はデータ量、(\beta_j\approx4/d_j) は内在次元 (d_j) に応じた指数である

  • 有限の資本を最適に配分するには、すべての収集・精製チャネルの1ドル当たり限界価値が等しくなるように支出しなければならない

  • 介入チャネルには直接的な行動監督というプレミアムがあるが、データ量が急速に飽和するため、主な経済的効用はタスク間のスキル転移から生じる

  • チャネル (i) のコストは (c_i)、飽和関数は (g_i(n_i))、タスク (j) への転移射影は (w_{ij}) で表される

  • 収集量が増えて (g_i'(n_i)) が小さくなると、1ドル当たり効用も低下する

  • 観察チャネルは行動ラベルなしに表現空間を改善し、誤差下限 (A_j) とスケーリング係数 (B_j) に影響する

• センサーが決める誤差下限

  • 確率的誤差は絶対的に固定された値ではなく、特定のロボットセンサーが観測する情報状態に相対的である

  • タスク (j) のセンシング構成 (\phi) に応じた下限は、条件付きエントロピー (A_j(\phi)=E[H[a|s_\phi]]) として表せる

    [ A_j(\phi)=A_j^{\min}+\left(A_j(\phi)-A_j^{\min}\right) ]

  • (A_j^{\min}) はどのセンサーでも取り除けない物理的限界であり、残りはより良いセンシングで減らせる部分である

  • 低解像度センサーが区別できない環境変動はモデルには偶然的ノイズとして現れるが、高解像度センサーはそれを学習可能な認識論的誤差に変える

  • 行動データは損失を (A_j(\phi)) に近づけ、より良いセンサーは (A_j(\phi)) そのものを下げる

  • タスクの損益分岐損失 (L_{\text{neutral}}) に対して、(A_j(\phi)\ll L_{\text{neutral}}) でなければデプロイは可能にならない

  • 最適なセンシングでも (A_j^{\min}\ge L_{\text{neutral}}) であれば、データ量の拡大は効果がない

  • この場合はハードウェア構成を変えるか、別の運用タスクを選ぶ必要がある

デプロイデータの減算曲線と収束の罠

• 本番テレメトリは油井のように枯渇する

  • 本番初期には高エントロピーの失敗モードが発生するが、異常が解消されるにつれてデータは近接重複と反復に変わり、効用が急激に低下する

  • 局所分布の有効効用は (U_{\text{eff}}(n)=U_0+\Delta U(1-e^{-n/n_c})) のように指数的に飽和する

  • 飽和点、または covering number である (n_c) を超えると、本番ストリームは低効用の反復データへ収束する

  • 高い価値は失敗テールに集中し、日常的な成功には限界効用がない

  • デプロイデータの純コストは、エラー率、介入・処理量損失コスト、タスク完了価値によって変わる

    [ c_{\text{dep}}(L)=\rho(L)(\kappa_{\text{int}}+\kappa_{\text{prod}})-\nu ]

• (c_{\text{dep}}\approx0) となる損益分岐点の前ではデータ収集は赤字になるため、初期デプロイには運用売上ではなく R&D資産 として外部資本を投入する必要がある

  • 一般には性能95%で介入付きのデプロイを開始し、99.5%で収益性が生まれると見られがちだが、(L_{\text{start}}) から (L_{\text{neutral}}) までに必要なデータは、べき乗則により桁違いに増える可能性がある
  • 損益分岐目標が誤差下限に近づき、(\Delta_{\text{safe}}=L_{\text{neutral}}-A_j(\phi)\to0) となると、必要なデータとコストは超線形に発散する
  • (L_{\text{neutral}}\approx A_j(\phi)) であるタスクは 資本シンク になる
  • デプロイ規模を拡大する前に、データ範囲とセンシングを改善する必要がある

• 商業的収束と汎用化の衝突

  • 最適ではないファウンデーションモデルを商業的にデプロイするには、環境変動を人為的に制限し、タスクの内在次元を下げる必要がある
  • 低い (d_j) は大きな (\beta_j) を生み、収束速度を高めるが、狭く転移しない多様体へ収束する
  • 構造化された運用セルから得られる低エントロピーで相関の強いデータは、汎用モデルの一般化境界を広げられず、システムを初期のニッチに縛り付ける
  • 断片化された低変動タスクごとに非反復エンジニアリング（NRE）コストが発生し、ソフトウェアのようなマージンを出すには、順次追加される新タスクの限界統合コストがゼロに近づく必要がある
  • 2種類のデータバイアスは、それぞれ異なる限界を生む
    • ステージングバイアス: 介入データは行動密度が高いが、シミュレーションや実験室のように人為的に構造化されており、現実の物理環境における確率的な失敗のテールを捉えられない
    • 分布バイアス: デプロイデータは現実環境から得られるが、商業的生存のために低変動のニッチへ制限され、誤った分布混合をサンプリングする
  • 狭いタスクから広いタスクへ順次拡張する戦略は、デプロイ可能なタスクの増加速度が累積NRE赤字を上回る場合にのみ経済性がある
  • 商業ニッチのデプロイデータだけではこの拡張は難しいため、誤差下限を下げる 観察範囲 と、一般化境界を広げる介入の多様性が外部から供給されて初めて、生産フライホイールが機能する

運用時間に代わる情報密度指標

• タスク別の限界統合コスト は、新タスクごとに発生するNREコストをプロジェクト会計で追跡する
  • タスクポートフォリオが大きくなってもコストが下がらないなら、モデル層がタスク間の表現を蓄積できていない
  • 事業構造も、拡張可能なソフトウェアより線形のシステムインテグレーションに近い
• タスク別の飽和点 (n_c) は、タスク・環境ごとの学習曲線が平坦化する地点を見つける
  • この地点で収集を止めれば、手動リモート操作予算の主な無駄を減らせる
• 分布変化率 (v_j) は、OOD入力の発生速度と再学習頻度を追跡する
  • 非定常な目標分布は新しい失敗モードを作り続けるため、継続的なデプロイ・テレメトリがデータ優位を維持できる唯一の運用条件となる
• クラスタ範囲 は、生エピソード数の代わりに、標準データ埋め込み上で直交するタスク・オブジェクト・環境クラスタの数を測定する
  • 時間に伴うクラスタ拡張は、ドメイン間一般化の代理指標になる
• データ新規性密度 は、アンサンブル不一致や記録状態の予測分散といった能動学習ヒューリスティックにより、流入ストリームの情報密度を推定する
  • 低エントロピーの日常的な成功を除外し、高効用の失敗テールを優先する
• 実現可能性を左右する偶然的な誤差下限 (A_j(\phi)) は直接測定できない
  • (L(D)=E+BD^{-\beta}) をフィットして漸近値 (E) を推定できるが、近似誤差が大きく、直接的な運用指標としては使いにくい

データ戦略で区分したロボティクス・エコシステム

• モデル優先の研究所 は、異なるロボット形態の観察コーパスを大規模に精製・クレンジングして事前学習し、この範囲で累積的な一般化を得ようとする
  • ワールドモデル研究所は、学習済みモデルで安価な介入データを作ることに賭けている
  • 静的な事前学習も合成シミュレーションも、実デプロイにおける偶然的なエッジケースの失敗テールを正確には再現できない
• 垂直統合企業 は、独自ハードウェア上でデータ収集と精製を自ら行う
  • ハードウェアに整合したデータは効率的である
  • 自動運転のように本質的に変動性の高い領域を除くと、商業性のために低変動環境へ制限した結果、新規性が不足する循環的な罠に陥る
• neo-integrator は、多様な産業環境に浅く広い運用基盤を持ち、タスク多様性を確保しやすい位置にいる
  • これを積極的に精製すべきデータ環境ではなく、請求可能な運用面積としてのみ扱う事業モデルは戦略的な誤りである
• リモート操作企業 は運用時間を販売するため、固有サンプル範囲よりも生データ量を最大化する誘因がある
  • タスク別の飽和点 (n_c) を超えてもデータを作り続け、局所的な売上を生むインフラツールは提供するが、スケーリング上の優位は生み出せない
• 既存ハードウェア企業 は、決定論的な動作再生に合わせた収益性の高い低変動市場を防衛する
  • 学習用データをほとんど収集しないため、スケーリング曲線を上っていく経路がない
• Physical AIで最も希少な能力は データ新規性の識別と捕捉 であり、価値は研究やハードウェアエンジニアリングという既存の組織境界とは無関係に、OOD変形を選び出す運用チームに蓄積される

Physical AIとLLMアプリケーションの違い

• CursorやHarveyのようなソフトウェアアプリケーションは、トークン単位でファウンデーションモデルを借りながらも、ワークフロー統合と独自流通で経済的価値を確保する
• 経済的価値の獲得とモデル能力は別々の変数であり、Physical AIは3つの軸でソフトウェアアプリケーションと条件が異なる

• タスク次元と飽和速度

  • ソフトウェア開発は内在次元が高く、継続的なワークフローフィードバックが引き続き限界効用をもたらす
  • 構造化された倉庫ピッキングのような物理タスクは内在次元が低く、タスク別データストリームが急速に飽和し、収穫逓減の領域に入る

• ファウンデーション層の非対称性

  • ソフトウェアアプリケーションは、汎用的で大規模な補助を受けたファウンデーションモデルの下流で動作する
  • Physical AIには借りて使える同等の汎用ファウンデーション層がないため、現在のロボットデプロイは運用可能性のために環境変動性を人為的に減らさなければならない
  • こうして収集した特化された下位分布は、より広い一般化を生まない

• テレメトリコストとマージン

  • ソフトウェアはソースコード、ユーザー修正、コンパイル結果など、運用ループ全体を低コストで完全に観察できる
  • 物理テレメトリは収集コストが高く、センサー解像度のため本質的に観測されない部分が残る
  • Physical AIの基礎観察データが競争的かつ独占的な資産として維持されると、レバレッジは上流のモデル層に集中する
  • インフラ提供企業は独占的な価格決定力を維持し、下流アプリケーションのマージンは圧迫される

データ予算の配分方法

• 累積運用時間はモデル性能の基本指標から除外し、タスク別の限界統合コスト、飽和閾値、埋め込みクラスタ範囲、分布変化率でエンジニアリング効率とスケーリングを評価すべきである
• ステージングされた介入データと狭いデプロイデータは、どちらも単独ではファウンデーションモデルを拡張できない
  • 大容量ステージングはタスク別範囲が急速に飽和し、収穫逓減が発生する
  • 商業デプロイは収益可能なニッチの新規性が不足し、環境ごとにエラー処理のためのNREコストを発生させる
• 観察範囲 には低コスト・高多様性のデータを優先的に割り当て、偶然的な誤差下限を下げ、基本能力の境界を広げる必要がある
• 介入ステージング はタスクの飽和点 (n_c) までに限定し、残りの予算は同じタスクの反復ではなくタスク多様性へ再配分すべきである
• デプロイ・テレメトリ ではOODエッジケースと失敗モードを分離し、情報密度のない大量の日常的成功は捨てるべきである
• 初期デプロイが一部の有用なシグナルを生み得るとしても、損益分岐前の継続的な運用は資本を消耗する
• Physical AIの資本効率は、データ量を最大化することではなく、データ新規性に正確な価格を付ける能力 によって拡張される