- 未公開の高度なモデル Claude Mythos が HAWK の鍵復元攻撃と7ラウンド AES 攻撃の改良案を生み出し、既存の暗号解析手法を理解・組み合わせ・拡張するAIの能力を示した
- HAWK 攻撃は、配備済みの方式をただちに破るものではないが、セキュリティビット数をおおむね半分に下げる。鍵サイズを2倍にすることは可能だが、効率が落ち、標準化の可能性もきわめて低くなる
- AES の結果は、完全な10・12・14ラウンドではなく7ラウンド変種を対象としており、2013年の研究を定数倍レベルで改善した実用的でない攻撃であるため、実際の AES の安全性に直接的な変化はない
- モデルはもっともらしいが誤った結果も容易に作り出すため、検証可能性がボトルネックになる。実行コードや単純な反例は確認しやすいが、理論的な高速化は専門家のレビューが必要であり、Lean による証明も定理の構成方法まで人間が確認する必要がある
- 構造的な難問の数が限られる 公開鍵・耐量子暗号 は、AI が既存ツールを幅広く適用しやすい領域である。高度な研究で突然役に立たなくなる境界はまだ残っているが、急速に外側へ移動している
Claude Mythos が生み出した2つの暗号解析結果
- Anthropic は、未公開の高度なモデル Claude Mythos が作成した HAWK 鍵復元攻撃 と 縮小ラウンド AES 攻撃 を公開した
- 2つの結果は対象と影響の大きさが大きく異なる
- HAWK の結果は、標準化される可能性があった署名方式に実質的な影響を与える
- AES の結果は、既存研究を小幅に改善した理論的進展に近い
- Anthropic は別途、研究プロセスの紹介も公開している
HAWK のセキュリティ水準を下げた鍵復元攻撃
- HAWK は、モジュール格子同型問題（module-LIP）に基づく 耐量子署名方式候補で、まだ配備も標準採用もされていない
- 標準化中の Falcon と関連しているが、異なる難問に基づくため、今回の攻撃は Falcon には適用されない
- HAWK は将来の標準候補として、かなりの評価が進んでいた
- 実際の配備パラメータの HAWK をただちに破る攻撃ではなく、依然として 指数時間を必要とするが、セキュリティビット数をおおむね半分に下げる
- 理論上は鍵サイズを2倍にして補うことができる
- 鍵が大きくなると効率が下がり、代替方式より効率的であるという HAWK の存在理由も弱まる
- 提供された攻撃コードは、弱められた チャレンジ用インスタンスで数時間以内に鍵を復元する
- 実際の配備提案パラメータではないが、暗号学的な弱点を立証するには十分である
- 新しい数学を発明するというより、既知の複数のツールを拡張し、徹底的に適用して結果を得ている
- 使われた材料に、とくに奇抜な要素はない
- 既知の攻撃ツールを幅広く粘り強く組み合わせる作業は、攻撃用AIが得意とするタイプである
- この結果により、HAWK が実際に標準となる可能性は非常に低くなった
- 詳しい技術的背景は HAWK 攻撃の要約で確認できる
7ラウンド AES 攻撃の限定的な影響
- AES は2001年から標準として使われているブロック暗号で、鍵サイズに応じて 10・12・14ラウンドを実行する
- 実際に配備されている AES は、NSA の非公開検証を含む重要な分析に耐えてきた
- 完全な暗号を攻撃するのは難しいため、暗号解析では弱められた 縮小ラウンド版を研究するのが一般的であり、Anthropic の結果は7ラウンド AES を対象としている
- 7ラウンド AES 攻撃自体は新しいものではなく、今回の結果は 2013年の先行研究と関連論文を定数倍レベルで改善したものだ
- 現実的には実行困難な膨大な暗号演算が必要で、まず実際の暗号化装置に秘密鍵で非常に多数の 選択平文を暗号化させなければならない
- 攻撃全体を実際に実行できないため、改善幅は紙上の分析に基づいている
- すべての詳細を実装したとき、実際の実行時間が短くなるかは明確ではない
- 手法面では興味深い暗号解析上の進展だが、完全な AES に対する実用的攻撃でも、画期的な新しい数学でもない
最小限の人間介入で攻撃を合成したプロセス
- Anthropic の研究者は、大規模な暗号学専門家チームでモデルを細かく調整するというより、結果を見つけるよう依頼したうえで、長時間の反復作業を行わせたように見える
- モデルは 詳細な人間の介入なしに 次の作業を行える水準に達している
- 既存の暗号解析結果の理解
- 複数手法の統合
- 実際の新しい攻撃の構成
- 既存攻撃の拡張
- まだ超知能的な暗号解析ではないが、既知の研究をもとに実際の進展を生み出す能力はかなり高い
結果生成より難しくなった検証
- 新しい結果に見える出力が、常に実際に正しいとは限らない
- モデルは本物の結果だけでなく、もっともらしく誤解を招く結果もより簡単に生成できるため、人間のレビュー負担が増す
- HAWK のように、弱められた方式で数時間以内に実行できる完全な攻撃は検証しやすい
- コードを受け取り、鍵復元と選択したメッセージの実際の署名が可能かを確認すればよい
- AES のような微妙な理論的高速化は、有効性の確認が難しい
- Leanで機械検証可能な証明を作ることはできる
- 証明が正しくても、定理文そのものの構成方法に敏感であるため、専門家による確認が必要である
- 最近注目された数学的結果は、おおむね次のタイプに属する
- よく理解された定理に対する機械検証可能な証明を含む
- ヤコビアン予想の反例のように、直接計算できる単純な反例を提供する
- 多数の専門家が長時間検討した後、妥当性を認める
- 人間による検証の必要性が研究速度を制限しており、致命的ではない暗号解析では当面この状態が続く可能性がある
対称鍵暗号と公開鍵暗号への影響
-
対称鍵暗号
- 対称鍵暗号は高速に適用できる一方で、逆に解くのを難しくするため、複雑で堅牢な構造を意図的に用いている
- AI の計算時間をさらに投入しても、この構造をただちに解けるわけではなく、現在のモデルはそれを破るのに必要な画期的直観を示していない
- AI が新しい手法で進展を生んだとしても、暗号そのものをより強く改善するために活用できる
-
公開鍵・耐量子暗号
- 公開鍵暗号には、一方向の計算は速く逆方向は難しい一方で、特定の当事者だけが逆算できる トラップドアを持つ数学的構造が必要である
- 人間が発見した便利な構造は多くなく、主要な基盤は次のとおりである
- (EC)DLP
- RSA
- 格子問題
- 符号理論の複数の問題
- RSA のような古い問題でさえ、十分な人員が分析したと確信するのは難しく、符号ベース・格子ベース暗号のような新しい分野では、とくに攻撃研究の余地が大きい
- 既存ツールを大規模に適用するAIが実質的な進展を生み出し得る 肥沃な研究対象である
耐量子標準への移行期に開かれた機会
- 現在、公開鍵暗号は EC ベース暗号と RSA から、新しい難問に基づく 耐量子アルゴリズムへ移行しつつある
- HAWK を含む多くの候補を検討している今は、大規模な公開暗号解析能力が登場するのに適した時期である
- AI がすべての基盤難問を崩したり、Impagliazzo の Minicryptの状況に至ったりしないなら、強力なAI暗号解析は次の効果をもたらし得る
- 生き残った難問への信頼を高める
- 暗号解析文献をより堅牢にする
- 標準採用の前に脆弱な候補を脱落させる
科学者と研究エコシステムの変化
- 科学者はモデルと最も難しい問題を議論できるが、モデルがまだすべての問題を独立して解決できるわけではないため、人間の役割も残っている
- 新しい発見の速度が速まる現象は、活動的な研究者にとっておおむね前向きなものだ
- 未解決の問題も残っている
- AI が作った結果の功績を誰に帰属させるか
- 急増する結果を誰がレビューするか
- 高度な未公開モデルを使った経験では、ここ数カ月の間にも性能が明確に向上しており、数年にわたり関心を持っていた問いについて驚くような結果候補が出ることもあった
- Claude Mythos と 10万ドル規模のリソースがなくても、一部の新しい高度なモデルでこうした変化を観察できる
現在のモデル能力の境界
- モデルを単なる 高度なオートコンプリートと見なしたり、進歩が鈍化したと判断したりするのは、実際の高度なモデルの能力と合っていない
- 最近5カ月間で特定の問題タイプにおいて測定可能な大きな進展があり、現時点で明確な性能上限の証拠はない
- 無料のAI検索結果だけを使っていると、高度なモデルの能力に触れるのは難しく、高性能サービスにも約 20ドルでアクセスできる
- とはいえ、モデルがすでに超知能である、あるいは AGI が完成したと見ることもできない
- 高度な研究では、ある地点までは非常に有用だが、特定の境界を超えると突然無能になる
- 人間はまだその境界を容易に見つけられるが、境界そのものは外側へ移動し続けている
- モデルの支援を受ける領域と、人間が自力で解決しなければならない領域の境界は動いており、こうした変化は科学者だけでなく、法律家・営業職・配管工を含むあらゆる職業に影響を及ぼすことになる
まだコメントはありません。