MetaのHyperAgents — エージェントが自ら自分のハーネスを設計するとき
(cobusgreyling.medium.com)- MetaとUBCが共同発表したHyperAgentsは、タスク実行コードだけでなく、改善メカニズムそのものまで自律的に修正する自己参照的AIエージェントフレームワーク
- コーディング、論文レビュー、ロボティクス、数学採点など多様なドメインで自己改善を繰り返した結果、エージェントが永続メモリ・性能追跡・多段階検証パイプラインなどを独自に発明
- このようにエージェントが自ら構築した構成要素は、開発者が手作業で作ってきたプロダクションハーネスの中核要素と正確に一致
- ハーネスは単なる開発上の利便性ではなく、エージェント型システムの収束的アーキテクチャであり、エージェントはインフラの消費者から生産者へと移行しつつある
- 開発者の役割はハーネスを直接構築することから、エージェントが効果的なハーネスを進化させられる初期条件を設計する方向へと変化
HyperAgents概要
- MetaとUBCの新論文で紹介されたHyperAgentsは自己参照的(self-referential)なエージェントで、タスク解決の行動だけでなく、将来の改善を生み出すメカニズム自体も修正可能
- 自己改善に委ねたときにエージェントが収束する成果物が注目点で、現在開発者が手作業で構築しているものと同じコンポーネントを再発明
- Hyperagentはインフラの**生産者(producer)**として定義
HyperAgents vs Universal Agents
- Universal Agentは高度に適応的な実行者(executor)で、コード生成を通じてほぼあらゆる問題を即興的に解くが、依然として人間が設計したインフラ(ハーネス)の中で動作
- Hyperagentはインフラの生産者として、最小限の状態から出発し、自己参照的進化を通じて自らプロダクションレベルのハーネスをブートストラップ
ハーネス(Harness)の定義と中核構成要素
- ハーネスはAIエージェントの運用方式を司るソフトウェアシステムで、ツール・メモリ・リトライ・コンテキストエンジニアリング・検証を管理し、モデルが推論に集中できるよう支援
- プロダクションハーネスに必要な6つの中核構成要素:
- Tool Integration: ツール登録と実行
- Memory & State: ステップ間での結果の永続化
- Context Engineering: 動的なプロンプト組み立て
- Planning: 複雑なタスクを段階に分解
- Verification: ルールに照らした出力検証
- Modularity: 構成要素を独立して切り替え可能
- 従来は開発者が
ToolRegistryクラス、MemoryManager、リトライループ、プロンプト組み立てロジックなどを直接書く人間によるエンジニアリングの領域 - HyperAgents論文が投げかける問いは「エージェントがこれらの構成要素を自ら構築したらどうなるのか？」
HyperAgentsの動作方式
- 論文が紹介するフレームワークは**DGM-Hyperagents(DGM-H)**で、中心的なアイデアはシンプル
- Hyperagentは次の2つを含む単一の編集可能プログラム:
- 与えられたタスクを解くTask Agent
- Task Agentと自分自身を修正するMeta Agent
- キーワードは「itself」で、Meta Agentは自身のコードを書き換えることができ、改善を生み出すメカニズムそのものが改善対象
- これを論文では**メタ認知的自己修正(metacognitive self-modification)**と命名
- 進化ループを通じた動作:
- ベースとなるエージェントから開始
- Meta Agentがエージェントコードを読み、過去の性能を分析して修正版を生成
- 修正版を評価し、性能がより良ければアーカイブに追加
- アーカイブから選択して反復
- 数百回の反復を経ると、エージェントはタスクにより熟達するだけでなく、よりうまく改善する能力そのものが向上
自己改善から出現した構成要素
- コーディング、論文レビュー、ロボティクス報酬設計、オリンピック数学採点など多様なドメインで自己改善を行った結果、エージェントが独立に発明した要素:
永続メモリ(Persistent Memory)
- 開発者の指示なしに、エージェントが自らメモリシステムを進化
- 過去の結果を記憶し、性能トレンドを追跡し、総合されたインサイトを保存できるエージェントが、そうでないエージェントを上回ったため
- 論文で示されたメモリエントリの例: 因果仮説の保存、最高性能世代の識別、過剰修正の診断、成功戦略の組み合わせ方の提案
性能追跡(Performance Tracking)
- エージェントが自前で**可観測性(observability)**を構築
- 改善傾向に対する移動平均、世代ごとの総合統計、ドメイン別スコア履歴などを含む
- 開発者がハーネスに手作業で組み込むトークン追跡・監査ログと同じ機能
多段階評価パイプライン(Multi-stage Evaluation Pipelines)
- 論文レビューのドメインでは、エージェントが表面的な行動指示から明示的な多段階評価パイプラインへと進化
- チェックリスト、意思決定ルール、明確に定義された基準を含む
- エージェントが自ら**検証器(verifier)**を構築した結果
しきい値ベースの意思決定プロトコル(Decision Protocols with Thresholds)
- エージェントが明示的な意思決定境界を開発: 受理/却下比率、スコアしきい値、信頼度レベルなど
- ハーネスの検証器が実装するルールベースチェックと同一
ドメイン知識ベース(Domain Knowledge Bases)
- ロボティクス報酬設計では、エージェントが環境制約条件、有効な状態変数、報酬スケーリングのヒューリスティックなどの内部知識ベースを段階的に構築・洗練
- エージェントが自分のために正しいコンテキストを組み立てる方法を学習したコンテキストエンジニアリングの結果
リトライと自己修正(Retry and Self-Correction)
- エージェントの修正が性能を悪化させた場合、後続世代が回帰を診断して修正
- ハーネスが実装するフィードバック注入を含むリトライループと同じパターン
より大きな絵 — ひとつの流れへ収束するトレンド
- 複数の研究で追跡されたパターンがひとつの流れとして接続:
- Harness Engineering: 開発者がエージェントの周囲に構築する6つの構成要素の定義
- From Copilot to Codex: 人間が書くコードからエージェント委任コードへの転換
- Universal Agents: コーディング能力がエージェントを汎用化するという主張
- HyperAgents: エージェントが自己修正を通じて独自のハーネスを構築
- エージェントはインフラの消費者から生産者へ、ハーネス内で実行する段階からハーネスをエンジニアリングする段階へ移行
- DGM-H論文の具体的な実演: 単一のLLM呼び出ししかない素のエージェントから始め、数百回の自己修正反復の後、永続メモリ・性能追跡・多段階評価パイプライン・ドメイン知識ベース・モジュール型コード構造を備えた状態へ発展
- 開発者の役割は消えるのではなく転換しており、論文は人間の監督が不可欠であることを強調
- ハーネスを直接構築することから、エージェントが効果的なハーネスを進化させられる初期条件設計へと役割が移動
3件のコメント
ハーネス構成要素の再発明は、必然的な収束というより、Web検索などで先行事例がすでに十分見つけられるので、それをなぞった結果ではないかという気がします。
過去データのみで学習・アクセスできる状況で、AIエージェントの構成要素を再発明することに成功した、という程度であってこそ、アーキテクチャの収束と言えるのではないでしょうか。
スカイネットの始まりってことか（笑）
これはあり得るんですか??...