AIエージェントの不正行為（欺瞞）を事後検証するオープンソースフレームワーク、Mirror Stack。

こんにちは。ここ数日間にわたって自律稼働するAIループエージェント（Autonomous Loop Agent）が急浮上しているのを見て、「もしAIが人間に隠れてテストデータを改ざんしたり、制約条件を迂回（Gaming）して報告したりしたら、どうやって見抜けばよいのか？」という問題意識から生まれたオープンソースプロジェクト、Mirror Stack（ミラー スタック）を紹介します。

従来のエージェントセキュリティが「悪いことをできないようにガードレールで防ぐこと」に集中していたとすれば、Mirror Stackは「約束ではなく証明（Provable, not Promised）」というパラダイムを提案します。AIが善良に振る舞うと信じるのではなく、正直な行動だけが事後的に偽造不可能な台帳（Chain-sealed ledger）を残すよう強制する構造です。

🛠️ 中核コンポーネントとアーキテクチャ

中央サーバーなしでローカルファースト（Local-first）に軽量動作する4つのツールと5つの規約で構成されています。

measure-mirror: AIのクレームを検査するために23種類の統計的／ゲーム防止プローブ（Probe）を実行します.action-mirror: チェーン構造でつながったエージェントの行動履歴を追跡し、完全性を保証します.provenance-mirror: 生成されたコンテンツの出所の真正性を機械的に証明します.mirror-witness: 追加のインフラコストなしでGitHub ActionsおよびCI環境を相互証人（Witness）として活用し、信頼性を確保します。

🔌 最新のAIエコシステム（MCP）を公式サポート

最近Anthropicを中心に標準化が進んでいるModel Context Protocol（MCP）サーバー（mirror-stack-mcp）を公式サポートしています。Python環境で pip install するだけで、Claude、Cursor、Windsurf など最新のエージェントツールにすぐ連携でき、実務ワークフローへ適用できます。

💡 実際に面白かったケース

テスト過程では興味深いアーク（Arc）がありました。あるエージェントが実験を始める前に、事前登録された電力点検（Power check）段階で自ら設計上の矛盾を検知し、トークンコストを1つも使わないまま自発的に実験を撤回（Retracted）し、関連するチェーン台帳を残すという、敵対的な自己修正プロセスを見せたこともありました。

自律化された機械が増える時代に、人間の介入を最小化しつつも「機械が強制し、機械が検証できる」分散監査レイヤーが必要だと考え、これを構築しています。

現在はプロトタイプと初期検証を終え、生態系を拡張しようとしている段階です。アーキテクチャやAI Alignment／セキュリティに関心のある方々からのフィードバックやStar、そして独立した再現（Independent reproductions）への参加をぜひお願いします！