物理ベース深層学習の書籍
(physicsbaseddeeplearning.org)- Physics-based Deep Learning Book v0.3 は、物理シミュレーションと深層学習をあわせて扱うデジタル書籍で、実行可能な例を通じて数値解析とニューラルネットワークの結び付き方を学べる
- GenAI edition では生成モデリングの比重が大きくなり、denoising、flow-matching、autoregressive learning、物理統合制約、diffusion ベースの graph network を含む
- 学習範囲は教師あり学習から始まり、物理 loss 制約、微分可能シミュレーション、diffusion アプローチ、強化学習、ニューラルネットワークアーキテクチャの選択まで広がる
- 予告された章では、airfoil 周辺の流れ予測、方程式 residual ベースの学習、inverse problem、シミュレータを学習ループに入れる方式のように、実際の物理問題に近い事例を扱う
- すべてのコード例は、ブラウザで実行・修正可能な Jupyter Notebook 中心なので、概念を読むだけで終わらずその場で実験できる
物理シミュレーションのための深層学習学習書
- Physics-based Deep Learning Book は、物理シミュレーション分野の深層学習を扱う 実践型の総合ガイド
- この文書は理論説明と 対話型 Jupyter Notebook を結び付け、各概念をそのまま実行して確認できるように構成されている
- 扱う主なトピックは次のとおり
- 伝統的な 教師あり学習
- 物理 loss-constraints
- 微分可能シミュレーション
- 確率的生成 AI のための diffusion ベースのアプローチ
- 強化学習
- 高度なニューラルネットワークアーキテクチャ
- v0.3 の GenAI edition における主な追加点は生成モデリングの章
- denoising
- flow-matching
- autoregressive learning
- physics-integrated constraints
- diffusion-based graph networks
- 物理シミュレーション向けに設計された neural architectures 専用セクションも追加され、すべてのコード例は最新フレームワークを活用するよう更新されている
予告された章と実習の進め方
- 今後の章では、diffusion modeling により airfoil 周辺の流体の流れを予測する方法を扱う
- この方法は、既存シミュレータを置き換え、さらに上回る確率的 surrogate model を提供する
- モデル方程式を residual として使い、ネットワークが 解を表現するよう学習させる方法も含まれる
- residual 制約は 微分可能シミュレーション を使って改善できる
- シミュレータ全体とより密接に相互作用しながら inverse problem を解く方法を扱う
- シミュレータを学習ループに入れる方式 により、標準的な強化学習手法の収束問題を回避する例を示す
- 適切なネットワークアーキテクチャの選択 も主要なテーマ
- global interaction と local interaction
- continuous representation と discrete representation
- structured graph mesh と unstructured graph mesh
- PBDL アプローチは、物理モデルを深層学習へ統合する度合いが徐々に強くなる順で紹介される
- 各アプローチの長所・短所と有用なシナリオもあわせて扱う
- コード例は、ブラウザでそのまま実行できる Jupyter Notebook 中心
- Google Colab teaser notebook で例を実行し、修正できる
- この本は TUM の Physics-based Simulation Group がメンテナンスしており、最近の研究論文を集めた リンクコレクション も提供している
1件のコメント
Hacker News のコメント
Chris Rackauckas は、2022年10月の内容の濃い概要発表で、Scientific Machine Learning を感染症、重力波、薬物計量学、海洋シミュレーションなど多様な分野の例とともに紹介している
SciML 向けのオープンソースおよびプロプライエタリな Julia ライブラリも扱っており、情報量が多い
https://www.youtube.com/watch?v=yHiyJQdWBY8
タイトルは思い切って変えるべきだと思う。これは物理ベースのディープラーニングに関する本ではない
この研究グループが開発した、物理問題向けのディープラーニング手法を扱う本に近く、その点は非常に重要な手がかりだと思う
さらに、実質的には彼らのシミュレーションフレームワーク Phi-Flow を強く推す用途にもなっているので、分野全体を正確に描写した本とは呼びにくい
Chris はこのジャンルで良い仕事をしてきたし、物理または Scientific ML を支援する Julia 微分方程式パッケージもかなり素晴らしい
https://www.stochasticlifestyle.com/the-essential-tools-of-s...
本全体を PDF でダウンロードする方法が見つからない。上部のダウンロードボタンは個別ページだけを取得するように見える
知る限り Jupyter Book で作られているが、ドキュメントでも関連する内容を見つけられなかった
[1] https://jupyterbook.org/en/stable/intro.html
良い追加資料として、CRUNCH group YouTube の数学＋ML 講演、Steve Brunton の Physics Informed Machine Learning プレイリスト、Steve Brunton の本『Data Driven Science and Engineering』、ETH Zurich の Deep Learning in Scientific Computation がある
CRUNCH group YouTube: https://m.youtube.com/channel/UC2ZZB80udkRvWQ4N3a8DOKQ
Steve Brunton プレイリスト: https://m.youtube.com/playlist?list=PLMrJAkhIeNNQ0BaKuBKY43k...
ETH Zurich 講義: https://m.youtube.com/playlist?list=PLJkYEExhe7rYY5HjpIJbgo-...
2021年にあった以前の議論もある
https://news.ycombinator.com/item?id=28500577