Anthropicの報告書は内容が杜撰で信頼しがたい

 (djnn.sh)
1 ポイント 投稿者 GN⁺ 2025-11-17 | 2件のコメント | WhatsAppで共有
  • Anthropicが発表したAIベースのサイバー諜報活動レポートは、中国の国家支援ハッカーグループによる攻撃を検知したと主張しているが、技術的根拠と検証可能な情報の欠如が問題として指摘されている
  • レポートにはIoC（侵害指標）、TTP（戦術・技術・手順）、ドメイン・ハッシュ値・攻撃ツール情報など、一般的な脅威インテリジェンス報告書の中核要素がまったく含まれていない
  • 攻撃の詳細な手法、使用されたツールやシステムの種類、被害規模などに関する具体的なデータや証拠が示されておらず、検証不能な主張のままになっている
  • 特に中国政府関連グループへの**攻撃帰属（attribution）**の主張にも根拠がなく、外交的な波紋の可能性を考慮していない無責任な発表だとされる
  • 全体として事実に基づく証拠なしに自社AI製品の宣伝に利用されたレポートと評価されており、業界の透明性と検証基準を強化する必要性がある

Anthropicレポートの概要

  • AnthropicはAIアシスタントClaudeを開発した企業で、最近「AI主導のサイバー諜報作戦」を検知したというレポートを発表した
  • レポートによれば、2025年9月ごろ中国の国家支援ハッカーグループ GTG-1002が約30の機関を対象に攻撃を実施し、一部の侵入は成功したと主張している
  • 攻撃はClaude Codeインスタンスを利用して自律的に侵入テストを行い、戦術的作業の80〜90%を自動化したと記述されている

技術的根拠の欠如

  • レポートにはドメイン、ハッシュ、IP、フィッシングメール、使用ツールなど、通常公開される**侵害指標（IoC）**がまったく含まれていない
  • MITRE ATT&CKフレームワークに基づく分析、攻撃時点、ツール情報、対応勧告なども欠落している
  • フランスCERTのAPT28レポートなどと比較すると、業界標準に達していない形式と評価される

検証不能な主張

  • レポートの「AIが戦術的作業の80〜90%を実行した」という数値は検証不能である
  • Claudeが証明書の抽出、認証情報の収集、内部サービスへの照会などを実行したとされるが、**具体的な実行方法やツール（Mimikatzなど）**への言及はない
  • どのようなシステムや環境が侵害されたのか、データがどのように処理されたのかについての説明もない

帰属（attribution）の問題

  • レポートは攻撃を中国政府関連グループによるものと断定しているが、根拠の提示がない
  • どのAPTグループなのか、どのような分析を通じて帰属したのかも不明である
  • 筆者は、このような根拠のない国家帰属は外交的に危険であり、無責任な発表だと批判している

結論と批判

  • レポートは事実検証なしに自社のAI防御ソリューションの宣伝に焦点を当てたものに見える
  • 最後の段落で「セキュリティチームはAIを防御に適用すべきだ」と勧めており、AIセキュリティ製品の販売を促す意図がにじんでいる
  • 筆者はこれを「恥ずべきで非専門的な行為」と規定し、業界全体の検証基準の強化と倫理的責任を求めている
  • 根拠のない主張はセキュリティ研究の信頼性の毀損につながり得るため、事実に基づく証拠の公開が必要だ

関連記事

2件のコメント

 
GN⁺ 2025-11-17
Hacker Newsの意見

  • 以前、FAANG企業のAI研究所でSRE/システム管理者をしていたとき、情報セキュリティ向けに調整された基盤モデルをテストするよう依頼されたことがあった
    模擬プリンターやLinuxボックスをハッキングするよう誘導したが、実際には大きな助けにはならなかった
    この種のモデルが攻撃オーケストレーションに有用だとは思えない。特にAPIが銀行口座にひも付いている状況で、公開されたシステムの上にコマンド・アンド・コントロール構造を組むのは危険な選択だ

    • サイバー犯罪者にとっては、そうした制約はあまり意味がないと思う。盗んだAPIキーや盗難口座で支払うことが多いからだ
      最新のAIは以前よりはるかに優秀で、安全フィルターさえ回避すればセキュリティ関連の作業も容易にこなす
    • 「10代のデータラベラーが運営している」という表現は、もしかしてAlexandr Wangのことなのだろうか。Wikipediaでは28歳となっている
    • 悪意ある行為者がClaudeを選ぶ理由は、攻撃コード作成能力ではなく、西側の組織でClaudeが多く使われているからだろう
      Sonnetモデルは西側のコードパターンに合わせて学習されているので、同じ分布のデータを扱うシステムの脆弱性を見つけるのに有利だ
      フィッシング攻撃でも自然な言語トーンを再現しやすい
    • 「Metaとその10代のデータラベラー」という言い回しには、昔の印象が残っている
    • APIが銀行口座に結び付いていても、OpenRouterのような仲介サービスは暗号資産での支払いを受け付ける

  • Anthropicブログの訂正履歴が興味深い
    2025年11月14日に「毎秒数千件のリクエスト」ではなく、「数千件のリクエストが毎秒複数回発生」に訂正されていた

    • 「毎秒複数のリクエスト」という表現を根拠に、人間ではなく自律モデルが攻撃したと断定するのはおかしい
      人間でもコードを通じて毎秒複数の作業を実行できる
    • 技術者がこうした単位を取り違えるとは思えない

  • 人々はAPT（持続的脅威攻撃）を過小評価している
    私が勤めていた場所でもGmail侵害事件があったが、ゼロデイ複数とソーシャルエンジニアリングのキャンペーンが組み合わさった複合攻撃だった
    最終的には特定の国家アクターの痕跡が明らかになり、AIはこうした攻撃の    効率を加速    させる役割を果たす

    • 実際にはAPTの中にも低技能の攻撃者は多い。パスワードなしのHTTPサーバーを公開し、ルートフォルダー全体をさらしているケースも見た
      数で勝負しているだけで品質は低い。だからAnthropicの報告書を全面的には信頼していない
    • 「最新のハードウェアとソフトウェアの話」を聞いているうちに、いつの間にか別のテック系ポッドキャストを購読してしまうような感じだ
    • 1回の攻撃に複数のゼロデイが使われたというのが事実なら驚きだ
    • APTがAdvanced Persistent Threatの意味か確認したい

  • Infosec研究者とMLセキュリティ研究者の間には知識のギャップが大きい
    Anthropicには後者の人材が多く、前者は不足している
    Attacker Moves Second論文でもこの違いが扱われている
    ML側はASR（Attack Success Rate）を指標として使うが、セキュリティ側はたった1回の成功でも重大視する
    MLは静的テストを、セキュリティは    適応的攻撃者    を想定する

    • ML研究者はセキュリティの専門家ではない。両方の分野を組み合わせてこそ全体像が見える
      MLはブルーチーム、セキュリティ研究者はレッドチームの役割だ

  • 記事全体が「Claudeが強力すぎるので中国のハッカーが使っている」という類いのマーケティング記事のように感じられた

    • 昔、PlayStation 2が強力すぎてイラクがスーパーコンピューターとして使っているという噂が流れたのと似ている
      関連記事リンク
    • AnthropicはClaudeをうまく作ったせいで、自分たちがセキュリティ専門家だと勘違いしているようだ
      そのため報告書が業界標準に反した形で書かれたように見える
    • 「中国脅威論」を強調すれば米政府の好感を得られる
      実際に攻撃を検知したのかもしれないが、それを中国政府支援組織だと断定するのは誇張したマーケティングに思える
    • 「私たちの製品は危険だ」と宣伝するのは防衛産業以外では珍しい戦略だ
      とはいえ公開しなければ隠蔽だと批判される可能性もあるので、警告目的の発表なのかもしれない

  • 攻撃を中国支援グループと断定した根拠不足が問題だ
    こうした報告は、米政府の投資を呼び込もうとする政治的メッセージに見える

    • 公開レポートが詳細なツールやURLまで明かすことはまれだ
      政府向けレポートにはあるかもしれないが、ブログレベルでは省略されることもある
      ただし「証拠不足」だからといって、直ちに「政治的操作」という結論になるのは無理があると思う
      AIがこうした攻撃に使われうる可能性自体は、十分に警告サインになる
    • Anthropicは長らく反中路線を取ってきた
      実際に中国のIPが一部含まれていた事件を意図的に強調した可能性もある
    • AIバブルはいずれ崩壊し、企業は国家安全保障インフラとして自らを包装して政府支援を得ようとしているようだ
    • 「中国が技術を盗む」と叫びながら、自分たちは著作物を無断学習している点は皮肉だ

  • Anthropicにセキュリティ専門家が本当にいるのか気になる
    単なる企業戦略かもしれないが、内部構造としてセキュリティ能力が不足している可能性もある

    • エンジニアリング能力が不足しているとよく批判している。そんな会社がセキュリティ体制を整えている可能性はほとんどない
    • セキュリティ人材が不足した状態で、「中国政府が支援した諜報作戦」のような主張を証拠なく出すのは無責任な行動だ
    • どうせ彼らはこうした報告書で学習されたモデルそのものを持っているはずなのに、なぜ自分たちで直接分析できないのか疑問だ
    • 実際にセキュリティ問題の解決にAIを活用した発表動画もある
      YouTubeリンク

  • Claudeのようなコーディング支援AIを使ったことがある人は、その能力を過小評価しない
    報告書の主張も十分にもっともらしいと感じる

    • 私はClaudeにSSHアクセス権を与え、サーバー内部のネットワーク問題を直接調査させている
      tcpdumpやルーティングテーブルを分析する過程はかなり有用だった
      ただし限界や誤動作する時点を把握し、自分で介入できなければならない
    • 「自分は使ったことがないけど」という類いの投稿はHNでよく見る
      実際に使っていない人が専門家のように語るパターンは信頼感に欠ける
    • 報告書の問題はツールの可能性ではなく証拠の欠如だ
      可能性だけでは信頼できる報告書にはならない
    • Anthropicはもっともらしさを示しただけで、実証的根拠がなく、質が低く動機も疑わしい

  • Anthropicの報告書は「我々の技術は強力すぎて悪用されうる」という広告のように感じられた
    まるで武器広告で「この兵器がどれほど危険か見よ」と演出するようなものだ

  • 最初にタイトルを見たときは、製紙会社のAnthropicが変なにおいのする紙を作っている話かと思った
    最後まで読んでもなお、やはりたわごとのように感じる