大規模な数学的探究と発見

 (terrytao.wordpress.com)
4 ポイント 投稿者 GN⁺ 2025-11-08 | 1件のコメント | WhatsAppで共有
  • AlphaEvolve はLLMを用いてコードそのものを進化させる 新しい形の最適化ツール であり、数学問題の解決に適用された
  • 解析学・組合せ論・幾何学の67問を対象に実験した結果、既存の最適化ツール並みの成果に加え、スケール拡張性 に強みを示した
  • このツールは 適応性 が高く、問題ごとの詳細な知識がなくても多様な数学問題に適用でき、独自に 離散化パラメータ を設定して効率的に計算を行う
  • 生成されたコードは 解釈可能性 を備えており、人間が最適化構造を理解したり、新たな数学的洞察を得たりする助けとなる
  • 一部の問題では既存結果の再発見やわずかな改善も達成しており、数学研究の自動化と検証可能な探究の拡張 の可能性を示した

AlphaEvolveと研究概要

  • Terence Tao、Bogdan Georgiev、Javier Gómez-Serrano、Adam Zsolt Wagner はGoogle DeepMindと協力し、AlphaEvolveを用いた研究論文をarXivで公開
    • 論文: “Mathematical exploration and discovery at scale”
    • 関連データとプロンプトはGitHubリポジトリで公開されている
  • AlphaEvolveは LLMベースのコード進化型最適化システム で、入力値ではなく コードを進化させてスコア関数を最大化 する
    • LLMが生成したコードを実行して入力を作り、その結果を評価する
    • コード世代間で性能ベースの交叉・変異を通じて進化する
    • 「ハルシネーション」は性能が低ければ除去されるが、一部は多様性を高めて 局所極値からの脱出 に寄与する
  • ユーザーは ヒントや関連文献PDF をアップロードして性能を向上させることができる
  • 類似ツールとして OpenEvolve、ShinkaEvolve、DeepEvolve などがある

実験範囲と主な結果

  • 67の数学問題（解析学、組合せ論、幾何学を含む）について実験を実施
    • 既存文献より効率的な 幾何学的パッキング や 変分問題の関数候補 を発見した
  • スケール拡張性 (scale) が強みで、ある問題のプロンプトと検証ツールを変形して類似問題へ再利用できる
  • AlphaEvolveは 適応性 (adaptability) も高く、詳細なハイパーパラメータ調整なしで多様な問題に適用可能
    • 例: 変分問題で 離散化パラメータ を自ら設定させ、効率的な結果を導出
    • 例: Hausdorff–Young不等式 の定数最適化実験

解釈可能性と具体例

  • AlphaEvolveの出力コードは 人間が読んで分析できる形 であり、最適化構造の理解に有用
    • 例: Gagliardo–Nirenberg不等式 の問題で正確な Talenti関数 を発見し、それをサンプリングするPythonコードを生成
  • 一部のケースでは既存の最適化サブルーチンを呼び出したり、単純な探索方式を使ったりすることもある

学習データと性能差

  • 学習データに含まれた問題では、LLMが 即座に最適解（例: ガウシアン） を提示する
    • 問題を変形してガウシアン解法を隠すと、別の候補を探索する
  • 例: 算術Kakeya予想 関連の実験では、離散ガウシアンに基づく候補を提示して既存の下限をわずかに改善
    • この結果を踏まえ、Taoは別論文で 理論的な非対称挙動 を証明した

検証器設計と脆弱性

  • AlphaEvolveは 検証コードの欠陥を突く「エクスプロイト」 をしばしば発見する
    • 例: 距離誤差の許容値が大きい幾何問題で、点を同じ位置に配置して高得点を獲得
  • これを防ぐには 正確な算術 または 保守的なスコア関数 を使う必要がある
    • 例: Moving Sofa問題 では保守的スコアリングを適用して「Gerver sofa」を再発見し、3D変形問題では新しい設計を発見

難問・予想問題での実験

  • Sidorenko、Sendov、Crouzeix、Ovals など主要な未解決予想について実験
    • 既存文献の最良候補は再発見したが、反例は見つからなかった
    • これは予想が真であるか、AlphaEvolveが既存研究者が試してきた「自明な」構成しか探索していないためかもしれない
  • このようなツールは 否定的結果の体系的な記録 に有用であり、新たな予想を提案する際の 自動検証ツール として活用できる可能性がある
  • 一部の変形問題では 新しい2パラメータ拡張型予想 も発見した

分野別の性能差

  • 解析的整数論 の問題（例: 素数定理近似用の篩の重み設計）では構造の活用に苦戦
    • 一方で、有限体Kakeya・Nikodym問題 のような 代数的構造 を持つ問題では優れた成果を示した
  • Kakeya問題では2次剰余に基づく最適構成を再発見し、3次元ではわずかな改善を達成
    • Geminiの Deep Think で非公式な証明を見つけ、AlphaProof でLeanの形式証明へ変換
    • 4次元の改善案は既存の Bukh–Chao論文 と同じ構造だと判明
  • Nikodym問題では新しい3次元構成を発見したが、ランダム構成より劣ることを確認
    • これをもとに 混合型構成 を開発して性能を向上させ、続報論文を予定している

総合的意義

  • AlphaEvolveは 大規模な数学探究の自動化 の可能性を示している
    • 既存の最適化ツールと比べて 拡張性・適応性・解釈可能性 に優れる
    • 一部の問題では 新しい構成と証明 につながった
  • 今後の数学研究では AIベースの探索と人間による検証の協業構造 が定着する可能性がある

関連記事

1件のコメント

 
GN⁺ 2025-11-08
Hacker News のコメント

  • LLMファンが毎回 「革新」 だと大げさに騒ぐのにはうんざりするが、今回の事例はLLMの現時点の能力を研究にうまく活用した好例だと思う
    数学の問題を コーディングエージェントの問題 に変換して解いており、このアプローチは他分野にも拡張できそうだ
    AlphaEvolveシステムにも既存エージェントより改善された点があるのだろう。AIは毎年着実に進歩しているが、推進派も懐疑派も過大評価しても意味はない

    • こういう不満も毎回繰り返されている気がする。気に入らないなら見なければいいのでは？
      ハイプサイクルを楽しむタイミングは人それぞれだ。ある人にはもう飽きた話でも、別の人にはLLMと数学の結びつきが新鮮に映るかもしれない。そうした刺激は長い目で見れば有益になりうる
    • LLM懐疑派も毎回ファンを攻撃して、「AIバブル」という自己満足的な世界観を維持しようとしている
      それでも今回の研究はLLMをうまく使った事例だ。最近はニュースにもならないような実用的な利用も多い。ファンがいるからといって毎回彼らを批判する必要はない

  • 今回の研究は、LLMは 「見たことのある問題しか解けない」 という主張への反証になりそうだ
    LLM開発者たちの話を聞くと、学習後のRLの過程によって、単なる Markov chain を超えた 世界モデル(world model) が形成されるという
    次の段階は、Genie 3 のようなモデルの上に似た能力を積み上げることだろう

    • ブログで引用されている論文のセクション2を見ると、LLMは進化ループにおける 変異関数(mutation function) として使われている
      LLMが中核的な道具であることは確かだが、今回の成果の功績は 進化的最適化(evolutionary optimization) の方により大きくある
    • この研究がそうした主張を反駁しているとまでは思わない。依然として専門家による 細やかな介入 が必要で、非LLM的な思考も不可欠だ
    • AlphaEvolveはLLMそのものではなく、LLMをコード生成に活用する 進化型コーディングエージェント だ
      DeepMindブログによれば、AlphaGoやAlphaFoldのような「Alpha」シリーズの延長線上にある
      このアプローチは CholletのARC-AGIテスト でもうまく機能しそうだ。ただ、Taoが「extremize」という表現を使ったのは、数学用語としてはやや不自然に感じられる
    • この記事を見ると、論文中の解法も結局は既存文献にあった事例である可能性がある
    • 「LLMは見たことのある問題しか解けない」という主張は単純化しすぎている
      今回の研究は、高速に検証できて 悪い解の枝刈り が可能な問題に向いている。一方で人間のソフトウェア開発は、設計バイアス、進化の遅さ、テストの難しさなどのため、この種のアプローチは取りにくい

  • Daniel Littが指摘したように、今回は単に 「計算資源(Compute)」 を大量投入した最初の事例にすぎない
    AlphaEvolveの一部の不等式は、人間と Moore’s Law だけでも容易に改善できる
    関連論文はこちら

  • 数学的背景があまりない人向けに要約を求めるコメントがあった

    • 専門家ではないが要約すると、Terence Taoは世界的な数学者で、AlphaEvolveはGoogleの LLMベースの最適化ツール だ
      LLMはPythonコードの変異を担当し、うまくいかない試行は自動的に枝刈りされる
      67の問題をテストし、しばしば専門家レベルの結果を出した。スケーラビリティ・堅牢性・解釈容易性 が強みだ
      ただし訓練データに含まれていた問題では素早く収束し、問題定義が甘いとその穴を「悪用」することもあった
      一部の数学分野（例: 解析的整数論）では性能が落ちた。それでも人間が参考にできるアイデアを提示している
    • 要するに、LLMを人間の数学的思考ループに組み込んだら、研究水準の数学 をこなしたということだ
      すべての分野で一様に強いわけではないが、Ramanujan や Erdős のように計算中心の問題解決に特化したアプローチだった

  • ソファ問題(sofa problem)が解決済みだとは知らなかった。関連論文はこちら

  • 記事で最も興味深かったのは、著者が述べた 「robustness」 という概念だ
    AlphaEvolveは特定のドメイン知識がなくても、さまざまな問題に容易に適用できた
    ただしソフトウェアの世界でいう「robustness」は普通 「耐障害性」 を意味するので、ここでは 「適応性(adaptability)」 の方が適切に思える
    LLMの強みは、複雑なモデリングなしに テキストベースの統合 ができる点にある。映像処理がさらに進めば、ゲームAIのような領域も開けるかもしれない

    • 実際に著者は本文を修正して、「robustness」を削除し「adaptability」に置き換えた

  • Taoが「プロンプトの問題かもしれない」と言ったのは、かなり 寛容な態度 だと思う
    他のML研究では、性能が低いときに「ハイパーパラメータ調整を誤った」といった自己批判はほとんど見られない

    • とはいえ、論文レビューの過程ではそうした指摘はよくある。今回は 探索的研究ノート に近いので文脈が異なる
    • 実際、多くのアルゴリズム改善は ベースラインのチューニング不足 や統計処理の問題に由来している。Taoはむしろ 認識論的謙虚さ(epistemic humility) を示したと言える

  • 論文44.2節の 論理パズル実験 の話が印象的だった
    AlphaEvolveが3人の「守護者」（天使・悪魔・門番）と相互作用しながら最適戦略を探す問題だったが、最終的には プロンプトインジェクション(prompt injection) によって別のLLMをだまして満点を取った
    この過程でAEは「論理的複雑さを減らすより、シミュレーションそのものを攻撃しよう」と自ら提案していた

    • 要点は、AEが「論理パズルのルールを破ってシミュレーションをハックしよう」という発想を出したことだ
    • 最後のインジェクションが失敗していたら、次は「地獄の門」を開けていたかもしれない
    • あるAIが別のAIをだまして問題を解いたというのは本当に 悪魔的(diabolical) だ
      過去のコーディングベンチマーク流出事件のような偶然ではなく、今回は 意図的な攻撃 だった

  • 今回の研究は、現代版の Gaussの数学実験室 のようだ
    複数の数学者の代わりに電子的なチームを雇い、パターンを探索させ、その結果をもとに証明を試みるというわけだ

  • 正直に言って、Terence Tao が言うならそのまま信じてしまう