MIT 6.S184: フローマッチングと拡散モデル入門

 (diffusion.csail.mit.edu)
3 ポイント 投稿者 GN⁺ 2025-03-04 | 1件のコメント | WhatsAppで共有

フローマッチングと拡散モデルの紹介

  • MITのコンピュータサイエンス講義 6.S184 は、確率微分方程式を活用した生成AIに関する講義。
  • 拡散モデルおよびフローベースモデルは、画像、動画、音楽など多様なデータモダリティにおいて、生成AIの最先端技術として定着している。
  • この講義は、これらのモデルの数学的基礎をゼロから構築することを目標としており、受講者は授業の終わりまでに簡単な画像拡散モデルを自ら構築することになる。
  • このコースは、生成AIの理論と実践を原理から理解したい学生に最適。

講義ノート

  • 講義ノートは授業の中心を成し、すべての資料について独立した説明を提供する。
  • 講義スライドは視覚的な補助資料として提供されるものであり、独立した教材ではない。

講義

  • 第1講: フローおよび拡散モデル

    • 生成モデルの紹介
    • 常微分方程式および確率微分方程式
    • フローおよび拡散モデルにおけるサンプリング

  • 第2講: 学習目標の構築

    • 条件付きおよび周辺確率経路
    • 連続の式とフォッカー・プランク方程式
    • 周辺ベクトル場および周辺スコア関数

  • 第3講: フローおよび拡散モデルの学習

    • フローマッチング
    • スコアマッチング
    • さまざまな拡散モデルのアプローチ

  • 第4講: 画像生成器の構築

    • ガイダンスと条件付き生成
    • ニューラルネットワークアーキテクチャ
    • 最先端モデルの調査

  • 第5講: 生成ロボティクス

    • Benjamin Burchfiel によるゲスト講義
    • 大規模行動モデル
    • ロボティクスのための拡散モデル

  • 第6講: 生成タンパク質設計

    • Jason Yim によるゲスト講義
    • AIによる新しいタンパク質設計
    • タンパク質構造生成のためのフローマッチング

実習

  • 授業に付属する3つの実習があり、段階的にフローマッチングと拡散モデルを構築する演習が提供される。
  • 実習は Google Colab で開いて進めることができる。

講師

  • Peter と Ezra が共同で講義し、Tommi Jaakkola がスポンサーおよびアドバイザーの役割を担っている。
  • Peter Holderrieth は博士課程の学生であり、Ezra Erives は工学修士課程の学生。

事前要件

  • 線形代数、実解析、基本的な確率論が必要であり、Python と PyTorch の経験も求められる。

注意事項

  • この講義では大規模言語モデル（LLM）は扱わない。LLM はテキストのような離散データを含むが、この講義は画像、動画、タンパク質構造のような連続空間のデータを中心に扱う。

謝辞

  • この講義は、多くの個人および組織の支援なしには実現しなかった。
  • Tommi Jaakkola 教授、MIT EECS の Lisa Bella、Ellen Reid、そして多くの人々に感謝の意を表する。

関連記事

1件のコメント

 
GN⁺ 2025-03-04
Hacker Newsのコメント

  • MITの講義「6.S184: Introduction to Flow Matching and Diffusion Models」がYouTubeで公開された

    • 画像、動画、タンパク質などの生成AIアルゴリズムと、それを理解するための数学的ツールを教えている
    • フローおよび拡散モデルは数学的に難しいテーマなので、多くの講義は高度な直感だけを教えている
    • この講義は数学的に厳密で独立した入門を提供しており、AI初心者を対象としている
    • 気に入ってもらえるとよい

  • 条件付き正規化フローは逆設計問題に対する最も美しい解決策の一つだ

    • データがあれば訓練できる
    • 基本分布を全単射関数で変形して正しい位置へ移動させるという発想がとてもエレガントだ
    • 連続的な目標とカテゴリカルな目標を同時に扱うのは難しかった
    • 本当にすばらしい方法だ

  • この10年はディープラーニング教育の黄金時代だった

    • 高品質な学習コンテンツを無料で提供しようとする競争が興味深い

  • すばらしい講義だ、早く受講したい

    • この講義は連続空間に焦点を当てているが、離散拡散でも多くの興味深いことが起きている
    • 続編の講義を計画しているのか気になる
    • 講師のPeterが離散拡散に関する論文を発表していたことを知った

  • 最新のAI技術に関する公開講座をすべて集めたコレクションがあるのか気になる

  • MIT OCWとその協力者たちにとても感謝している

    • これを補助教材として使っており、同じテーマを二通りの方法で学べるのはとても有益だ
    • 特に理解しにくいテーマで役立つ

  • この技術は非常に有用なのに、LLMsが多くの注目を奪ってしまったように思える

  • MITが時宜にかなった関連性の高いコンテンツを無料で提供しているのはすばらしい

  • 本当に感謝している、現代AIに関するほかのOCW講座があるのか気になる

  • よくやった、おめでとう