Google、実験的なサイバーセキュリティAIモデル Sec-Gemini v1 を発表

 (security.googleblog.com)
1 ポイント 投稿者 GN⁺ 2025-04-06 | 1件のコメント | WhatsAppで共有
  • サイバーセキュリティ専門家の能力を増幅し、防御側の立場を強化することに重点を置く
  • 攻撃者はたった1つの脆弱性を見つければよい一方、防御側はあらゆる脅威に備えなければならないという 攻撃者優位の非対称性 を解決しようとしている
  • AIベースのサイバーセキュリティワークフローが、防御側に有利なバランスを取り戻せる可能性がある

主な機能と性能

  • Geminiモデルの高度な推論能力 と 最新のセキュリティ知識・ツール を組み合わせている
  • 主要なサイバーセキュリティ業務で優れた性能を示す
    • インシデントの 根本原因分析
    • 脅威分析
    • 脆弱性影響評価
  • Google Threat Intelligence (GTI)、OSVデータ、その他の中核的なセキュリティ情報と統合されている

ベンチマーク結果

  • CTI-MCQ脅威インテリジェンスベンチマーク で、他モデル比で少なくとも 11%以上優れた性能
  • CTI-RCM（根本原因マッピング）ベンチマーク でも 10.5%以上向上した精度 を記録
    • CWE分類体系を基準に、脆弱性の根本原因を正確に分析・分類する

脅威分析の例: Salt Typhoon

  • Sec-Gemini v1はSalt Typhoonを脅威アクターとして認識し、詳細な説明を提供
    • これは Mandiant脅威インテリジェンス データとの統合によるもの
  • Salt Typhoonに関する質問に対して、その脅威アクターが利用した 具体的な脆弱性情報を提供
    • OSVデータ と Mandiantインテリジェンス をもとに、分析結果へ文脈を追加
    • これにより分析担当者は 脅威と脆弱性の関連性 と リスクレベル をより素早く把握できる

活用と提供

  • 研究目的に限り、選定された組織、機関、セキュリティ専門家、NGOに無料提供
  • Googleは セキュリティコミュニティとの協業 を通じて、AIベースのセキュリティ能力の限界を超えようとしている

関連記事

1件のコメント

 
GN⁺ 2025-04-06
Hacker Newsの意見

  • GeminiモデルはClaude、ChatGPT、Mistralとは少し異なる印象がある

    • エンジニアリング作業に重点を置いたモデルと対話している感じがある
    • ユーモアや格好よさを狙わない真面目さがある
    • AI Studioを通じてのみGeminiとやり取りしているからかもしれない
    • gemini.google.com を使わない理由は、簡単なエクスポート機能がないためである
    • AI StudioのGoogle Drive保存機能は非常に便利である
    • gemini.google.com が「Markdownで保存」機能を提供してほしい

  • Salt Typhoonの説明にある脆弱性についての質問に対し、Sec-Gemini v1は脆弱性の詳細だけでなく、脅威アクターに関する文脈も提供している

    • OSVデータとMandiantデータを使って脆弱性を説明している
    • LLMには依然として懐疑的だが、OSVの進展は前向きに捉えている

  • GoogleがAIの回答を慎重に確認していないのは驚きである

    • CVE-2024-3400についての質問ではHitachiデバイスが脆弱だとの言及があるが、実際には脆弱ではない
    • Hitachiの脆弱性一覧にはそのCVEが含まれていない
    • 「ポータル」機能が脆弱だという言及もない

  • セキュリティ作業を行うモデルなのか、データ参照やツールを使うシステムなのかという疑問がある

    • データ統合の説明からすると、後者である可能性が高い
    • セキュリティ向けに調整されたモデルと、あらかじめ構築されたセキュリティLLMアプリの違いは重要である

  • 特化型モデルの登場は興味深い

    • 訓練を受けた人間に似ている

  • LLMと分析作業については常に考えさせられる

    • 脆弱性のリスクと影響を評価したり、複雑なマルウェアを分析したりする際には、データポイントを徹底的に検証する必要がある
    • LLMは大いに役立つ可能性があるが、その推論は確認しなければならない
    • 人間も同様に、結論の根拠を示す必要がある

  • AIシステムを使った高速なセキュリティ作業は必要だが、それだけでは十分ではない

    • 攻撃者もAIシステムを使うだろうから、防御側も追随しなければならない
    • より安全なシステムを作らなければならない

  • サイバーセキュリティ専門家の作業を補助するには良いかもしれない

    • しかし、責任転嫁のためのツールとして使われるのではないかと懸念している

  • 確率的に正しいものをセキュリティで信頼するのは悪い考えかもしれない

  • wiz買収と関係があるのかもしれない