確率微積分学入門
(jiha-kim.github.io)- 確率微積分学は ブラウン運動 のような不規則な現実のシステムを扱うために、形式主義よりも物理的直観と導出過程を前面に出してアプローチする
- 離散的な 二項分布 と対称ランダムウォークは、試行回数を増やしてスケーリングすると中心極限定理を通じて正規分布と連続確率過程へとつながる
- ブラウン運動 (W(t)) は独立増分と (W(t)\sim N(0,t)) を持ち、経路は連続だがほとんど確実に どこでも微分可能ではない
- Itô微積分では (dW=\sqrt{dt}N(0,1))、((dW)^2\approx dt) という規則のため、通常のチェーンルールに 2次項 が追加される
- 確率微分方程式は drift と diffusion により傾向とランダム性を同時にモデル化し、Stratonovich 方式は中点評価で通常のチェーンルールを保つため、物理・制御・生物拡散・数値シミュレーションで使われる
確率微積分学が扱う問題
- 確率微積分学は ブラウン運動 と Itô微積分を土台として、不規則な現実のシステムを計算可能なモデルとして扱うための道具である
- 応用分野は物理、金融、生物学、機械学習まで幅広い
- 物理: Einstein はブラウン運動の揺らぎが分子衝突と一致することを利用して、原子の存在を示した
- 金融: Black-Scholes 方程式のようなオプション価格モデルは (dS=\mu Sdt+\sigma SdW) という形の確率微分方程式に依存する
- 生物学: ランダムウォークは種の拡散やニューロン発火をモデル化する
- 機械学習: Song et al. (2021) は Itô微積分ベースの確率微分方程式で時間に沿ったノイズ進化をモデル化し、それを逆方向に用いて新しいサンプルを生成する
二項分布から連続確率過程へ
- パスカルの三角形は各段階で左または右へ進む経路数を数え、(n) 行目の (k) 番目の位置に到達する方法の数は (\binom{n}{k}=\frac{n!}{k!(n-k)!}) である
- 独立試行で (k) 回成功し (n-k) 回失敗する確率は次のとおりである
[ P(k \text{ wins in } n \text{ trials})=\binom{n}{k}p^kq^{n-k} ]
- 独立性の仮定 は強い条件なので、スポーツの連勝や株価のように心理・モメンタムが介在する現実ではモデルが不正確になりうる
- 落下運動、気体拡散、株価変動、液体中の分子衝突のように連続的に変化する現象は、点と和だけでは扱いにくく、区間と積分 が必要となる
ランダムウォークと中心極限定理
- (p=0.5) の対称ランダムウォークでは、1ステップの変位を次のように置く
[ X(t)= \begin{cases} 1 & \text{with probability } \frac{1}{2}\ -1 & \text{with probability } \frac{1}{2} \end{cases} ]
- 各 (X(t)) は平均 0、分散 1 で、異なる時刻のステップは独立だと仮定する
- 全変位は独立確率変数の和として表される
[ S(n)=X(1)+X(2)+\dots+X(n)=\sum_{t=1}^{n}X(t) ]
- 中心極限定理により、独立同分布確率変数 (X_1,\dots,X_n) の和は (n\to\infty) で正規分布に近づく
[ X_1+\dots+X_n\sim N(n\mu,n\sigma^2) ]
- このランダムウォークでは次の関係が成り立つ
[ S(n)\sim N(0,n) ]
[ \lim_{n\to\infty}\frac{1}{\sqrt{n}}S(n)=N(0,1) ]
- したがって「連続的な二項分布」は 正規分布 へとつながる
ブラウン運動の定義
- 1820年代に Robert Brown が観察した、水上の小さな粒子や花粉の運動は非常に不規則であり、小さなスケールでは外力による実際の運動が、それ以前の運動を圧倒するほど敏感に現れる
- 単純化した数学モデルでは、異なる時刻の事象を 独立 とみなし、位置の対称性のため時刻 (t) における粒子の平均位置は原点近くにあると考える
- 連続ランダムウォークが持つべき性質は次のとおりである
- 始点は数学的便宜のため 0 とする
- 方向の偏りがなく、各ステップの期待変位と全体の期待変位は 0 である
- 異なる時間区間の変位は独立である
- 経路はジャンプや切れ目なしに連続である
- 特定時点の位置分布は正規分布でなければならない
- ブラウン運動は通常 (B_t)、Wiener 過程は (W_t) と表記するが、ここでは時間依存性を強調して (W(t)) を用いる
- 主な性質は次のとおりである
[ W(0)=0 \quad \text{almost surely} ]
[ W(t)\sim N(0,t) ]
[ \Delta W(s,t)\sim N(0,t-s) ]
- 異なる区間の増分 (\Delta W(t_1,t_2)) と (\Delta W(t_2,t_3)) は (t_1<t_2\le t_3) において独立である
- ここから (E[W(t)]=0)、(Var(W(t))=t) が従う
- 標本経路 (t\mapsto W(t)) はほとんど確実に (\gamma<\frac12) のすべての指数について一様 Hölder 連続だが、(\gamma\ge\frac12) ではどこでも Hölder 連続ではなく、特に どこでも微分可能ではない
Itô微積分の核心規則
- ブラウン運動は連続だが、あまりに不規則なため通常の導関数を持てない
- 小さな区間 (dt) では次が成り立つ
[ \Delta W(t,t+dt)\sim N(0,dt)=\sqrt{dt}N(0,1) ]
[ \frac{\Delta W(t,t+dt)}{dt}=\frac{1}{\sqrt{dt}}N(0,1) ]
- (dt\to0) では (\frac{1}{\sqrt{dt}}) が無限大に発散するため、有限な導関数には収束しない
- Kiyosi Itô は1940年代にブラウン運動のランダム性に合わせた Itô微積分 を作り、これが確率微積分学の基盤となった
-
(dW) と ((dW)^2)
- ブラウン運動の小さな変化は次のように定義する
- [
- dW:=W(t+dt)-W(t)
- ]
- [
- dW=\sqrt{dt}N(0,1)
- ]
- (dW) は通常の微積分の決定論的な (dx) と異なりランダムであり、大きさは (\sqrt{dt}) に比例し、符号は標準正規分布に依存する
- 期待値と分散は次のとおりである
- [
- E[dW]=0
- ]
- [
- Var(dW)=E[(dW)^2]=dt
- ]
- ((dW)^2) の期待値は (dt)、分散は (2dt^2) であり、(dt\to0) で変動性は無視できるため、Itô微積分では ((dW)^2\approx dt) と扱う
- 通常の微積分では ((dx)^2) は小さすぎて消えるが、確率微積分では ((dW)^2) が (dt) と同じスケールなので計算規則が変わる
-
Itô積分
- 通常の積分 (\int_a^b f(x)dx) がリーマン和の極限で定義されるように、ブラウン運動については (\int_0^t f(s)dW(s)) を考える
- 分割 (s_0,\dots,s_n) に対して次の和で近似する
- [
- \int_0^t f(s)dW(s)\approx \sum_{i=0}^{n-1}f(s_i)\Delta W(s_i,s_{i+1})
- ]
- この積分の結果は (W(t)) のランダム性を反映する 確率変数 である
- (f(s_i)) を左端点で評価すると、時刻 (s_i) までの情報だけを使うため、未来を見ない non-anticipating 性質を持つ
-
Itôの補題
- 通常の微積分のチェーンルールは (f(t,W(t))) に対して次のようになる
- [
- df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW
- ]
- ブラウン運動の粗い性質のため、Taylor 展開では2次項が消えない
- [
- df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW+\frac{1}{2}\frac{\partial^2 f}{\partial W^2}(dW)^2+\text{smaller terms}
- ]
- (dt^2) と (dt,dW) は消えるが、((dW)^2\approx dt) は残る
- したがって Itôの補題は次の形になる
- [
- df=\frac{\partial f}{\partial t}dt+\frac{\partial f}{\partial W}dW+\frac{1}{2}\frac{\partial^2 f}{\partial W^2}dt
- ]
- 追加項 (\frac12\frac{\partial^2 f}{\partial W^2}dt) はブラウン運動の 2次効果 によって生じる
- (f(W)=W^2) の場合は次のように計算される
- [
- d(W^2)=2W,dW+dt
- ]
- [
- W(t)^2=\int_0^t2W(s)dW(s)+t
- ]
- (t) 項は (E[W(t)^2]=t) と一致し、積分項は平均 0 のランダム成分である
確率微分方程式でモデル化する
- Itô微積分はブラウン運動に対する積分とチェーンルールを与えるため、ランダム性と傾向が共存するシステムを 確率微分方程式(SDE) としてモデル化できる
- 一般的な SDE は次のとおりである
[ dX(t)=a(t,X(t))dt+b(t,X(t))dW(t) ]
- 各項の意味は次のとおりである
- (X(t)): 時間とともに変化する量
- (a(t,X(t))dt): drift、系統的な部分
- (b(t,X(t))dW(t)): diffusion、ブラウン運動に由来するランダムな攪乱
- SDE の解は固定された曲線ではなく、実行のたびに異なる ランダム経路 であり、統計的パターンを解析できる
-
一般形の Itôの補題
- (dX=b(t,X(t))dt+\sigma(t,X(t))dW) に対して (f(t,X(t))) の Itôの補題は次のとおりである
- [
- df=(f_t+bf_X+\frac{1}{2}\sigma^2f_{XX})dt+\sigma f_XdW
- ]
- (dX=O(dW)) であり (dX^2=O(dW^2)) まで考慮する形で導かれる
-
drift と diffusion
- drift (a(t,X)) は平均的な方向を定め、diffusion (b(t,X)) はランダムな揺らぎの強さを定める
- (b=0) なら通常の微分方程式となり、(a=0) ならスケーリングされたブラウン運動となる
- 単純な場合は次のように書ける
- [
- dX(t)=\mu dt+\sigma dW(t)
- ]
- (X(0)=0) なら次の解を持つ
- [
- X(t)=\mu t+\sigma W(t)
- ]
- (W(t)\sim N(0,t)) なので、分布は次のようになる
- [
- X(t)\sim N(\mu t,\sigma^2t)
- ]
- これは時間に対して線形に drift し、ノイズが拡散していく過程であり、着実な成長と変動性を持つ株式のようなモデルの基本形である
-
幾何ブラウン運動
- 変化量が大きさに比例するシステムには 幾何ブラウン運動(GBM) を用いる
- [
- dS(t)=\mu S(t)dt+\sigma S(t)dW(t)
- ]
- (\mu S(t)) は比例 drift、(\sigma S(t)) は比例ノイズである
- (\frac{dS}{S}=\mu dt+\sigma dW) は傾向とランダム性を持つ比率変化である
- (f=\ln S) とおいて Itôの補題を適用すると次のようになる
- [
- d(\ln S)=\left(\mu-\frac12\sigma^2\right)dt+\sigma dW
- ]
- 積分すると次の解を得る
- [
- S(t)=S(0)\exp\left(\left(\mu-\frac12\sigma^2\right)t+\sigma W(t)\right)
- ]
- drift が (-\frac12\sigma^2) だけ調整される理由は、ノイズの2次効果によるもので、この形は金融における Black-Scholes モデルの基盤である
- GBM のような解析的解は例外であり、大半の SDE では数値シミュレーションや Fokker-Planck のような方程式による統計解析が必要となる
Stratonovich 微積分
- Itôの補題には2階微分項が含まれるため、計算が煩雑になることがある
- Stratonovich 微積分 は確率積分の評価点を変えることで、通常の微積分のチェーンルールを保つ
- Itô積分は各区間の左端点を使うが、Stratonovich 積分は中点評価規則を使う
- 一般化された評価点は次のように書ける
[ \int_0^T f(X(t))\diamond dW
\lim_{n\to\infty}\sum_{i=0}^{n-1} f(X(t_i)+\lambda\Delta X(t_i,t_{i+1})) \Delta W(t_i,t_{i+1}) ]
- 決定論的微積分では (O(dX^2)\to0) のため評価点の選択は重要ではないが、確率微積分では (O(dW^2)\to O(dt)) となるため評価点が重要になる
- チェーンルール (df=f_X\circ dX) を保つには、Taylor 展開の比較から (\lambda=\frac12) が必要である
- したがって Stratonovich 積分は次のように定義される
[ \int_0^T f(X(t))\circ dW
\lim_{n\to\infty}\sum_{i=0}^{n-1} f\left(\frac{X(t_i)+X(t_{i+1})}{2}\right) \Delta W(t_i,t_{i+1}) ]
-
Itô と Stratonovich の変換
- 同じ確率過程が次の2つの形で与えられているとすると
- [
- dX=adt+bdW=\tilde a dt+b\circ dW
- ]
- drift 項は次の関係を持つ
- [
- a=\tilde a+\frac12 b_Xb
- ]
- 拡散係数 (b) は同じだが、Itô と Stratonovich の表現の間では drift 関数 が異なる
Stratonovich 方式を使う文脈
- Stratonovich 微積分は中点評価規則によって Itô の左端点方式とは異なる確率積分を作り、特定の物理システムや計算の簡略化に適している
- 物理の乗法ノイズでは、状態依存ノイズを持つ減衰振動子は次のように書ける
[ dX=-kXdt+\sigma X\circ dW ]
- (f(X)=\ln X) に Stratonovich のチェーンルールを適用すると次のようになる
[ d(\ln X)=-kdt+\sigma\circ dW ]
[ X(t)=X(0)e^{-kt+\sigma W(t)} ]
- Wong-Zakai 定理は、少し滑らかな現実のノイズを白色雑音極限へ送ると Stratonovich SDE が現れることを述べる
- 確率制御では (dX=(aX+u)dt+\sigma X\circ dW) のようなシステムで、Stratonovich 規則は古典的制御の直観と整合するため、制御入力 (u(t)) の設計を単純化できる
- 生物拡散では (\sigma(X)=\sqrt{2D(1+kX^2)}) のような位置依存ノイズを持つモデルで、Stratonovich は物理的保存則を反映する
- 数値シミュレーションでは Stratonovich は中点法と相性がよく、化学反応速度論のようなモデルで数値的人工物を減らすために使われることがある
- 選択基準は文脈によって異なる
- Stratonovich はノイズが物理的連続性や対称性と結びついたシステムに適している
- Itô は未来情報を使わない non-anticipating 性質のため、金融で支配的に使われる
- 変換式 (a=\tilde a+\frac12bb_X) を使えば、両者の表現を行き来できる
1件のコメント
Hacker News のコメント
上級学部生／大学院レベルの数学知識がある読者には、この確率微積分の入門資料が役に立った: https://almostsuremath.com/stochastic-calculus/
関連トピックとかなり重なり、刺激を受ける教科書としてはこれもある: https://www.amazon.com/Stochastic-Integration-Differential-E...
確率微積分というのは、起こり得る事象の展開を多数シミュレートするにはコンピュータが必要な分野なのか、それとも dW の分布が分かっているときに、重要な最終出力と確率分布をよりエレガントな数学的方法で解けるのかが気になる。
この記事は素晴らしく、以前にも確率微積分を見たことはあったが、今回初めて本当に理解し始めた気がした。
問題が複雑、または分布が複雑、あるいはその両方であれば数値解法が必要になる。だからといって必ず Monte Carlo のように多数のシミュレーションを回さなければならないという意味ではないが、その方法も妥当ではあるもののコストが高い。
特定の確率に関するより直接的な問いは、Monte Carlo なしでも答えられる。Fokker-Planck 方程式はさまざまな非 Monte Carlo 的手法で解ける偏微分方程式であり、希少事象シミュレーションに出てくる準ポテンシャルやコミッター関数も「直接」計算できる。核心的な難点は、こうした対象に標準的な数値解法を適用すると次元の呪いに直面すること。高次元、さらには無限次元でこれをうまく計算する方法は、応用数学の非常にホットな研究分野だ。個人的には、数学が実際の物理的応用ときれいに対応している場合でなければ、こういうものは概して時間の無駄に近いと思っている。
物理学者はこれを Fokker-Planck 方程式、数学者は Kolmogorov forward equation と呼ぶ。特殊な例外を除けば厳密な解析解はなく、数値解が必要になる。ただし高次元では偏微分方程式を解くコストが非常に大きいため、SDE を解いてMonte Carlo サンプリングを行うほうが安くつく。
あるランダム事象が発生したときの解のような別のタイプの問いもあり得るが、同様のロジックが当てはまる。また、確率微積分は SDE を扱ううえで非常に有用だが、別種の Markov 過程や非 Markov 過程に関心があるなら、別の道具が必要になることもある。
他のコメントにもあるように、特殊な場合には SDE 自体にも厳密解が存在し得るが、一般にはそうではない。
この説明は、ガウス白色雑音が強制項として入る微分方程式である SDE に限定したもの。Markov ジャンプ過程のような他の確率過程では、分布の進化方程式の形は異なるが、Chapman-Kolmogorov 方程式のような一般原理は一部共有される。
より複雑な式は通常そのようには解けない。よく求められるのは、ある時点での確率過程の関数の期待値であり、この期待値が特定の決定論的偏微分方程式に従うことを示せる。その後は数値偏微分方程式ソルバーで解決する。
次元が高い、あるいは過程が経路に強く依存して Markov 的でない場合、結局は「起こり得る複数の事象の展開」を実際にシミュレートするMonte Carlo シミュレーションを使うことになる。
例えばランダムウォークは正規分布になり、平均と分散が無限大に向かうことも分かるので、入力だけで時間に対する分散関数を定められ、エレガントな解析解につながる場合だと理解している。
しかし多くの場合は解析解がないため、確率アルゴリズムを走らせる必要がある。単純な確率化学反応速度論では Gillespie アルゴリズムがその例。
経路の統計だけを知りたいなら、多くの場合、偏微分方程式である Fokker-Planck 方程式を立てて解き、経路密度を得られる。
その次の段階として、システムが減衰した運動量を持ち、ノイズが運動量に入る Langevin Dynamics がある。
これは分子動力学シミュレーションにも使われ、Bayesian MCMC サンプリングにも使える。
不思議なことに、AI に関連して Langevin Dynamics に言及するとき、運動量の使用を省く例をよく見かける。AI では運動量付き勾配降下法が広く使われているにもかかわらずだ。さらに紛らわしいことに、「確率的」という言葉は、各ステップでデータの一部サンプルから勾配を近似するという意味でも使われる。望むなら、2種類の確率性を同時に適用することもできる。
AI 側であまり使われない理由は正確には分からないが、AI 応用の非凸性が問題を起こしているのだと思う。対数凹な設定でも、サンプリングはすでに十分に難しい問題だ。
確率微積分について個人的に好きな資料は、Eugene Wong の Stochastic Processes in Information and Dynamical Systems, McGraw-Hill, New York, 1971。
確率微積分を勉強していた記憶が残っている
一般的な統計における標準偏差と二次変動が、分散の計算方法と少し違うという点を書き留めていた記憶もある。1だけ違うとか、二乗が違うとかいった話で、いつか理由を調べようとメモしていた。おそらく確率的な変動性のためかもしれない
sum i=1..N (x_i - mu)^2 / Nここで平均
mu := sum x_i / Nは母集団の真の平均である一方、ある分布から独立同分布の標本を n 個得たとき、分布の分散に対する最良の推定量は
sum i=1..n (x_i - a )^2 / (n-1)であるここでは平均
muを標本平均a := sum x_i / nに置き換え、N ではなく n-1 で割る。「最良」とは不偏推定量という意味で、2つ目の式の期待値が母分散であることは、退屈ではあるが難しくない計算で確認できる第一に、標本分散は
sum(x_i) / nである標本平均に依存する。n 個の標本のうち最初の n-1 個を知っていて、標本平均も分かっていれば最後の値は決まるので、少なくとも n-1 を自由度として理解できる。より高次の標本モーメントも同様の自由度の論理で大まかには理解できるが、間違っているかもしれない第二に、より数学的な方法では
biased_sample_variance = sum((x_i - sum(x_i) / n)^2) / nとなる。複数の標本集合について、この偏りのある標本分散の平均は母分散ではなく(n - 1) / n * population_varianceになる。したがってn / (n - 1)を掛けると、不偏標本分散sum((x_i - sum(x_i) / n)^2) / (n - 1)になる。流れに乗ると、この数学はかなり面白い最近、こんな例に出会った。「ゲーム」を1つ行うとしよう。0 と 1 の間で一様分布に従う乱数 A を引き、同じ分布から2つ目の数 B を引く
A > B なら B を引き直し、A はそのままにする。必要な平均抽選回数、つまり A の平均「連勝」はどれくらいだろうか？
答えは無限大である。ときどき A が極端に高く出ると、それに勝つために何百万回もの抽選が必要になるからだ
(1-p)であるしたがって、B が n 回引かれた後に A 以下になる確率は
p^(n-1) (1-p)の幾何分布になる。期待抽選回数は1/pで、E[draws] = E[E[draws|A=p]] = \int_0^1 E[draws|A=p] dp = \int_0^1 (1/p) dpなので、述べたように無限大へ発散する疑っていたわけではなく、計算を見たかっただけだ
1/(1-A)であるという事実に基づく標準的な積分で十分そうだHN読者への質問。マウスのゲノムで死亡率を調節するDNA差異を含む位置（loci）を約50個定義しており、その多くは複雑な年齢依存のアクチュアリー的効果を持つ
死亡年齢を予測したいのだが、マウスの平均寿命に対するアクチュアリー予測に確率微積分は有用なアプローチだろうか？ それでこの記事がHNの上位に来ていてうれしい
質問の数、つまりlociの数は、時間を合理的に分割できる区間数と同程度に見える。マウスの寿命の1/50だけ死亡時点を変える効果は、私が間違っていなければ検出が難しいはず。時間区間も多くなく、状態変数の相互作用モデルもないので、モデルなしの統計手法を使うことになり、非連続的な手法から得られる価値はほぼすべて得られると思う
対象が年齢なので、背後にガウス分布があるとは仮定しない。その変更は思ったほど難しくない: https://en.wikipedia.org/wiki/Generalized_linear_model
いつものことだが、近くの統計学者に相談するのがよい
しかし見ているものが時間に対する生存/死亡なら、出力は二値であり、実際に得られる情報は死亡時点だけなので、ランダムウォークモデルは不要、あるいは望ましくないように思え、より一般的な統計モデルが適しているように見える。死亡の有無以外に測定している別の変数があるなら、確率モデルが役に立つかもしれない
また、50×Xバイトの情報がすべて平均寿命に影響するという意味なら難しい問題だが、多数の離散入力と1つの滑らかな出力という点ではニューラルネットワークにかなりよく合う。ニューラルネットワークと線形モデルを両方試し、ニューラルネットワークがどれだけ優れているかを見れば、線形より複雑な相互作用が起きているか判断できる
実務的に取り組むなら時間を離散化し、「その時点まで生存しているという条件でXか月に死ぬ確率」を予測するように古典的な機械学習を適用してデータに合わせる。そうすればデータの誤りや潜在的な問題をはるかに見つけやすくなる
確率微積分や本格的な生存分析は、無記憶性のような既存の数学的性質と、特定のタンパク質の挙動のような物理・生物学的性質との間のつながりを証明したり導き出したいときだけ選ぶと思う。非常に格好いいがかなり難しく、特にデータが限られているとさらに難しい。金融論文で確率解析を使うやり方も、おおよそそういうものだと理解している。システムの何らかの普遍的な数学的性質について仮定し、それが実データに合うかを証明するという形だ
Itô微積分についての私の理解はこうだ。最初に私たちが理解している唯一のランダム過程はBrownian motionで、幸いなことに座標を変えられる
初心者にやさしい入門記事をどう書くべきかを示す、本当に良いモデル
特に、通常の微積分では消える
dW^2項が依然として重要に残るという点からItôの補題の動機を説明した部分と、Stratonovichに変換する部分がとても良いこの文をどう読めばよいか助けてほしい: “Brownian motion and Itô calculare a notable example of fairly high-level mathematics that are applied to model the real world”
“Itô calculare” が何であるべきだったのか分からない。“Its calculation” だろうか？
calculareはおそらくcalculus areがくっついたタイポのように見えるcalculareは calculus are であるべきだった