6 ポイント 投稿者 GN⁺ 2024-01-20 | 1件のコメント | WhatsAppで共有
  • AI製品を作る中で、LLMとTransformerの動作原理を理解しようとするうちに、統計・確率、線形代数、微積分の基礎が不足していると感じ、毎日あらためて数学を勉強し始めた
  • 学習ルートとして選んだ Math Academy は、中学校から大学院レベルまでを扱っており、大人向けの Foundation Series によって大学レベルの数学まで比較的速く戻れるように構成されている
  • 診断評価のあとに続く インタラクティブなレッスン は大半が約10分で、仕事・育児・運動の合間の短い時間でも続けやすい
  • 数学学習はカジュアルなアプリのように流し見できる活動ではなく、ほとんどの場合 鉛筆と紙 が必要な大変な作業であり、Mathematics for Machine Learning のコースに到達するまでには数年かかると見ている
  • 2024年1月時点で 106日連続学習 を記録し、2025年5月には500日アップデートも公開、習慣追跡アプリ Main Character も作った

数学を学び直すことになったきっかけ

  • AI製品を作る中で、製品の 技術的な側面 をもっと深く理解したいと考えた
  • LLMとTransformerを学ぶには、次の分野の基礎が必要だと判断した
    • 統計・確率
    • 線形代数
    • 微積分
  • 大学院以降は、企業の予測値や財務関連の計算を除けば数学をあまり使っておらず、重要な概念や概念どうしのつながりに対する直感が不足していると感じた
  • 目標は数学者になることではなく、LLMとTransformerを理解できるだけの 中核的な数学の直感 を身につけること

大人の学習ルートとして選んだ Math Academy

  • 仕事、子ども、住宅ローン、ほかの趣味を抱える大人が、時間効率よく数学を学ぶ方法として Math Academy を選んだ
  • Math Academy は Jason Roberts と Sandy が作ったスタートアップで、執筆時点ではベータ版だったが、有料ライセンスを購入して使っていた
  • 現在の主な焦点は子どもの数学学習だが、大人の学習者にも効果的だと見ている
  • コースは中学校から大学院レベルまでの数学を扱い、認定されたコース として紹介されている
  • 大人向けの出発点は Foundation Series
    • 子どもには必要でも大人にはあまり必要ない部分を飛ばす
    • 大学レベルの数学まで比較的速く戻れるよう設計されている

Math Academy の学習方式

  • 登録後は診断評価で現在の 数学の習熟度 を確認し、適切なレベルから始める
  • その後は自己主導型のインタラクティブなレッスンが続き、ほとんどのレッスンは約 10分 なので、忙しい大人でも短い隙間時間に学びやすい
  • 学習の流れは、概念を教え、評価し、復習し、その上に新しい概念を積み上げていく方式
  • 単に動画で学んだ気にさせるものではなく、問題の合間に説明が入り、手を動かして実際に解く 具体的な学習プロセス に近い
  • クイズの段階では、学んだ内容を実際に応用できることを実感する

数学はやはり難しい

  • Math Academy は学習をできるだけ簡単にしてくれるが、数学そのものは依然として 大変な作業
  • ほとんどの学習には鉛筆と紙が必要
    • 初期の復習レベルのやさしいレッスンのように、頭の中だけで解ける場合は例外
  • 数学を真剣に学ぶなら、単にアプリを眺めるだけでは不十分
  • 大人が実際に数学を学ぶためのより便利な方法として、Math Academy を高く評価している

習慣を作るための環境づくり

  • 持続可能な習慣を作るために、始めるハードルを下げ、数学学習を新しい デフォルトの行動 のようにしたいと考えた
  • 利便性のために次の道具を使っている
    • iPad: Math Academy はWebベースなので、コンピューターの前にいないときのレッスン用に使用
    • Remarkable 2: e-inkベースの筆記用として使用
    • 2台を一緒に入れられるケースを使っており、2025年2月24日には、メガネやAirPodsなどを入れられるファスナー付きポケットのある 別のケース に替えた
  • 陪審義務の待機時間、ジムに早く着いたときの15分、スタンディングデスク下のトレッドミルで軽く歩く時間にもレッスンを進めている
  • 普段は子どもたちが寝たあと、運動を終えたあと、夜にレッスンをする
  • 長い一日のあとで運動と数学の両方をこなすのは難しいが、習慣化 によって負担は減る

長期目標と進捗状況

  • 目標のコースは Mathematics for Machine Learning で、LLMとTransformerをよりよく理解するための明確な目標としている
  • 限られた時間のため、目標に到達するまでには数年かかると見ている
  • 時間がかかる理由は2つある
    • 数学は 難しい
    • 数学は 広大
  • 最初の Mathematical Foundations コースの知識グラフを見るだけでも、概念の数やつながり、自分の抜けが大きいことが分かる
  • およそ10コースほど受講するつもりで、これを1日1レッスンずつ進めると、学習規模は数年単位になる
  • 2024年1月時点では、開始以来毎日少なくとも1レッスンを完了しており、106日連続学習 を記録した

オンラインSTEM学習に対する認識の変化

  • 以前は、数学のように難しい科目は大学のような専用環境でしかきちんと学べないと考えていた
  • オンラインコースは、もっと穏やかで技術色の薄いテーマに向いていると思っていたが、Math Academy を使って考えが変わった
  • 効果的でアクセスしやすい方法で難しいことを学べる点に、大きな満足感を覚えている
  • Math Academy がコンピューターサイエンスや物理学のような、ほかの複雑な STEM分野 にも広がってほしいと願っている

その後のアップデート

  • 2024年1月20日の更新後、似たような道のりを歩む人たちから反応があり、Hacker News の議論 も活発だった
  • Math Academy には、毎週レッスンを完了することで得られるXPベースの ゲーミフィケーション があり、筆者は毎週最高ランクの Platinum にいた
  • 2025年1月24日の更新では、1年以上にわたって Math Academy で毎日数学を続けていると伝えている
  • 進捗を公開で共有することが継続の助けになり、それを簡単にするため無料の習慣アプリ Main Character を作った
    • ユーザーが進捗をツイートすると、習慣を追跡する
  • 2025年5月5日には 500日間の数学学習アップデート を投稿し、関連する Hacker News の議論 もあった

1件のコメント

 
GN⁺ 2024-01-20
Hacker News の意見
  • 約1年間、似たような勉強を続けてきており、目標は3Dゲームを作るときに必要な数学を身につけることです。範囲は代数、幾何、微積分、線形代数に近いものです
    最初は brilliant.org から始めました。インタラクティブ講義の完成度は高かったものの、授業の順序がずれていて、まだ学んでいない内容を前提にすることが多いと感じました。記事で説明されている Math Academy ほど教育設計に気を配っているようには思えませんでした
    そこで諦めて、The Art Of Problem Solving の教材シリーズを太平洋の向こうから何kg分も取り寄せて読んでいます。授業構成や、第一原理から複雑なアイデアを積み上げていくやり方は素晴らしいですが、練習問題が難しくて謙虚な気持ちにさせられます。高価ではありますが、個人的には価値があります
    Math Academy も面白そうですが、すでにシリーズの途中まで来ているので、今のところは参考書が手元にあるほうがよいです。忘れてしまったトピックを見直すために、何度も前のほうへ戻ったことがあります
    問題演習はできるだけ紙とペンというローテクな方法でやっており、新しいアプローチを自由に試せる点が気に入っています。思考から紙にインクが触れるまでの遅延に勝るものはありません
    さらに ChatGPT-4 をチューターとして使っています。他の人たちが経験したという話とは違い、このレベルの数学ではおおむね推論がうまいと感じており、行き詰まったときに何度も助けられました。間違った答えをもっともらしくでっち上げることもありますが、理解できなければ必ず問い詰めるので、最終的にはハルシネーションなのか、問題を言い換えれば直るのか、それとも最初から自分の入力が間違っていたのかを確認することになります

    • 似た分野なら、次の順でおすすめできます: https://d3dcoder.net/ — DX12 の本が最新版で、前半の複数章で3D変換を扱っています
      https://foundationsofgameenginedev.com/ — 第1巻 Mathematics はより広い範囲を扱い、過度に形式的になりすぎず、第一原理から導出しています
      https://www.mathfor3dgameprogramming.com/ — ほとんどのゲーム/グラフィックス数学の本よりもはるかに形式的で、とくに線形代数をより深く掘り下げています
    • 学んでいる内容を、実際に作っている3Dゲーム関連の作業に使っているのか気になります。かなり広い基礎から固める出発点ですが、実際にどう機能しているのか知りたいです
    • 行き詰まったときに ChatGPT を使う価値には全面的に同意します。The Art of Problem Solving の範囲がどこまでなのか、シリーズがどれくらい先まで進むのかも気になります
    • 同じ理由で始めたのですが、数年数学をやっているうちに、3Dゲームとプログラミングよりも数学そのもののほうが好きになってしまいました
  • 少しの間理論物理の分野で働いていた数学者として、この分野に関心を持つ人がいるのはうれしいです
    数学は評判が悪いことも多いですが、本質的には音楽に匹敵するほど、最も興味深い学習対象だと思っています
    数学に関心があるなら、レベルに関係なく Roger Penrose の The Road to Reality をおすすめします。厳密には物理学の本で、Penrose ももともとは数学者ですが、説明の仕方は熟練者にとっても視野を開いてくれます。基本的な微積分から始まり、群、位相数学、複素解析、微分幾何などまで扱います
    あわせて John Baez の数学・物理学習ガイドも見るとよいです: https://math.ucr.edu/home/baez/books.html
    Baez のページや仕事全般も好きで、興味深い数学をたくさんやっています: https://math.ucr.edu/home/baez/
    Tai-Danae Bradley の仕事もとても好きです: https://www.math3ma.com/

  • この記事は本当にタイムリーです。16年前、亡くなりつつあった母の介護をするために学校を中退し、その後戻ることができないまま働き始めました
    これから学校に戻って、ようやくコンピュータサイエンスの学位を終える予定ですが、長い4年間が待っています。数学は難しそうです
    それでも答えが合っていたとき、とくにどうやってその答えにたどり着いたのかが分かったときの高揚感は大きな力になります。ほとんどセックスより気持ちいいです

    • 似た境遇なので励まされます。実務面では職場でかなりうまくやれているものの、特定の数学的基礎が足りないとよく感じます
      年齢はいくつなのか、フルタイムの課程に登録したのか、ずっと若い学生たちと一緒に通っているのか、そしてその過程がどうだったのか気になります
  • 元記事の筆者がまだトランスフォーマーの数学的基礎を学びたいなら、無料の代替学習ツールを作りました: https://afaik.io/nebula?mode=nebula&category=blueprint&id=ed...
    これも数学、機械学習、物理といった複数のトピックの概念を結びつける基盤となる知識グラフに基づいています。トランスフォーマー用のグラフはこちらで見られます: https://afaik.io/nebula?category=brickset&id=VLlOnZLl&mode=d... デスクトップでのみ利用できます
    要点は、数学を最初から学び直す必要はなく、特定の概念を理解するのに必要な前提概念だけを学べるということです。無料教材も付いています
    数学を学び直したい気持ちは十分に分かります。このツールを作っている理由の一つも、数学とコンピュータサイエンスの背景をもとに物理を学び直し、そこまでどう到達するかを知るためです。ただ、この状況では、深く学びつつも楽しさを保てる、より効率的な方法があるかもしれないと感じています

    • 基盤知識グラフという概念が興味深いのですが、正確には何を意味するのか気になります
      おそらく、トピック同士を前提条件でつなぐという意味だと思います。Aを理解するには先にBとCを知っている必要があり、Bを理解するにはDを知っている必要がある、という具合です
      ただ、そのようなグラフは単なる有向グラフではなく、実質的には木であるべきではないかとも思います。循環があってはいけないからです。Aを理解するにはBが必要で、Bを理解するにはAが必要なら、どちらも絶対に理解できないのではないでしょうか?
  • 数学チャンネルをいくつか推薦する
    https://www.youtube.com/@SawFinMath — 素晴らしい教授で、問題と解法を一段階ずつ追えるように説明してくれる。離散数学、微積分、抽象代数や線形代数、統計など、学部課程の再生リストが多い。再生速度の調整がしやすく、問題をたくさんリアルタイムで解いてくれるので強くおすすめする
    https://mathispower4u.com/ — 無料公開の数学教材をもとに講義を作っている別の教授。より密度の高い純粋数学の教材なので少し難しいが、その分、一般的な大学で扱う内容をほぼ一通り見渡せる。離散数学、微積分、グラフ理論、三角法、統計、代数、幾何などの科目があり、問題もたくさんリアルタイムで解いてくれる
    自分ではあまり使っていないが、https://www.myopenmath.com/index.phpもある。教科書に沿って問題を解いていく形式なので、exercismに似ているように見える。使ったことがある人がいれば、どうだったか知りたい

  • コンピュータサイエンスを学ぶために学校へ戻ったとき、この本で数学を学び直した: https://a.co/d/7hlRdnK
    本当に強くおすすめする。代数から始めて微積分まで進み、各単元の前に事前テストがあるので、どこに集中し、どこを飛ばせばよいか分かる

    • 推薦リンクではない通常リンクはこちら: https://www.amazon.com/dp/0521017076
      Maths: A Student's Survival Guide: A Self-Help Workbook for Science and Engineering Students 2nd Edition by Jenny Olive
      ISBN-10: 0521017076
      ISBN-13: 978-0521017077
  • ここでは独学教材としてKhan AcademyとAOPSシリーズが挙がっているが、大人になって数学を学び直すときに両方使ってみた。それ以外に本当に素晴らしい教材として、Henry Sinclair Hallの本がある
    前述の教材よりずっと良く、19世紀に出版されて今はパブリックドメインなので、Internet Archiveから無料でダウンロードできる: https://archive.org/search?query=creator%3A%22Hall%2C+H.+S.+...
    それから、VellemanのHow to Prove Itも必読

  • つまり結局、Math Academyの広告では? Khan Academyみたいな無料教材はどうなの?

    • 実質的にはそういう記事だ。この文章から学べることは、「ベータ申請ボタンを押せ」ということ以外にはない
      このコースを使ったことがある人がいるのか、良いものなのか気になる
  • このプログラムについていくつか質問がある。創業者たちがHNのトラフィック集中に気づけば、このスレッドを見るだろうと仮定している

    1. ここでAIは正確にはどのように使われているのか。助けを求められるAIチャットボットがあるのか、問題セットをAIで生成しているのか、答案をAIで確認しているのか、GPT-4なのかが気になる
    2. 間隔反復を何らかの形で活用しているのか、また有用だと判断したのかも知りたい
    • Math Academyで分析およびアルゴリズム責任者を務めており、定量ソフトウェアをすべて開発した。質問に答えると、ここでのAIは、学生がある時点でどの課題に取り組むべきか、つまり次に何を学び、何を復習すべきかを決めるエキスパートシステムに近い
      数千の数学トピック間の構造的関係をエンコードした知識グラフがあり、前提関係だけでなく他の関係も含まれている。アルゴリズム推論システムが学生の解答を見て、それを知識グラフ上に重ね合わせ、学生が何をどれだけ知っているかを判断したうえで、個人の知識プロファイルを基準に学習効果を最大化する課題を決定する。意思決定は、完全習得学習、間隔反復、交互学習、連想干渉の最小化といった認知学習戦略に着想を得ている
      間隔反復はシステムの中核だ。各学生はトピックごとの成績に適応する個別化された間隔反復スケジュールを持っており、次に復習または学習するトピックを選ぶ際には、可能な限り多くの予定された復習を暗黙的に処理して学習効率を高めようとする。たとえば、学生が一次方程式 ax=b を復習するタイミングなら、代わりに二段階方程式 ax+b=c を学ばせることで、その復習を暗黙的に処理できる
      定量的には、間隔反復モデルは作るのが最も難しく、かつ面白い部分の一つだった。通常、間隔反復は独立したフラッシュカードの文脈で考えられるが、数学のような階層的な知識体系では、上位トピックの反復が、暗黙的に練習されたより易しいトピックの反復スケジュールにも下方へ流れて反映される必要があるため複雑になる。ただし、早すぎる反復は次の反復として完全には認めないよう、適切に割り引く必要がある
      このモデルは暗黙的な下方向の反復を反映するだけでなく、ドミノのように他の予定された復習まで処理できる復習を選んで復習回数を最小化し、学生別・トピック別に間隔反復の速度を補正する。学生の能力とトピックの難易度が互いに競合する要素として作用する
  • 米国では、証明の仕方は大学レベルに見える。他の国では、なぜ7年生から子どもに証明を教えるのか不思議だ
    ユークリッド幾何の厳密な証明から始まり、立体幾何、初等関数の証明、集合、数論などを経て、多項式、簡単な離散数学、解析幾何へ進む。高校を卒業する頃には、数学的帰納法や背理法のようなものが第二の天性のようになる。エリート学生の話ではなく、すべてのSTEM学生に対するカリキュラム要件のことを言っている

    • 米国のやや田舎の中学校でも、7年生のときに幾何の一部として証明をやった
    • どの国のことを言っているのか分からないが、ドイツは少なくともそうではない。幾何で証明を少し見て、後で非公式な導出をいくつか見ることはあるかもしれないが、帰納法は大学レベルだ
      学校で数学により重点を置く一部の学生は、こうした内容をもっと早く見るかもしれないが、一般的な経験では決してない