革新の影：AIセキュリティの新しいパラダイム、MCP-PAMとGuardrails

生成AI（Generative AI）の急速な普及により、多くの企業がAI導入を検討するか、実務に適用しています。しかし、AI活用の拡大は、内部機密情報の漏えい、無断使用、規制上の問題など、深刻なセキュリティリスクも伴います。サムスン電子の内部コード流出事件、イタリアの個人情報保護機関によるChatGPTの一時停止事例がこれを裏付けます。

従来のAIセキュリティの中核は、AWS、Google、Microsoftなどが提供するGuardrailsで、AIの出力をフィルタリングしてヘイト表現、機密情報の露出などを防止します。ただし、Guardrailsは「出力内容」にのみ注目するため、誰がいつどの権限でAIを使っているのかといった文脈ベースの制御には大きな限界があります。

2024年に登場したAnthropicのMCP（Model Context Protocol）は、AIがSlack、GitHub、AWSなどの外部システムと連携して実務を実行できるよう支援する革新的な通信フレームワークです。ですが、AIが外部システムに直接アクセスするMCP環境では、単純なコンテンツフィルタリングだけではセキュリティリスクを制御しにくいです。このため、ユーザー権限管理、行為ベースのポリシー、監査ロギングを含むPrivileged Access Management（PAM）体制が必須です。

本稿は、MCPとPAMを組み合わせたQueryPieのセキュリティアーキテクチャを中心に、Guardrailsとどのように相互補完的に機能し、プロンプトインジェクション、インサイダー脅威、機密情報漏えいなど最新のAI脅威へどのように対応するかを詳しく分析します。

主なポイント

• Guardrails: AI出力中心のフィルタリングで、ヘイト・暴力・個人情報のブロックに効果的だが、コンテキストベースの制御は不足
• MCP PAM: AIの外部ツール呼び出し前にユーザー権限と行為を検証し、ポリシーベースのきめ細かなアクセス制御を提供
• 脅威への対応: LLM乱用、プロンプトインジェクション、特権オナン用、機密情報漏えい、API乱用など多様な攻撃シナリオに対して方針ベースで対応可能
• 統合セキュリティ体制: Guardrailsのコンテンツ安全性 + MCP PAMのポリシーベース行為制御 + 出力後DLP連携による多層防御の実現

AIセキュリティは単なるフィルタリングを超え、「誰が・いつ・何をリクエストしたか」まで管理する体制へ進化しています。MCP-PAMアーキテクチャは、AI活用の革新とセキュリティのバランスを取る将来志向の解決策です。

より詳細な内容や具体的な技術分析、脅威モデル対応戦略は以下のブログでご確認ください。 👉 https://www.querypie.com/ko/resources/discover/white-paper/16

AIがより賢くなれば、セキュリティも変わらなければなりません。QueryPieはこの変化の中心で解決策を見つけています。