機械学習における Pen and Paper 演習 (2022)
(arxiv.org)コンピュータサイエンス > 機械学習
-
ペンと紙で行う機械学習の演習問題
- Michael U. Gutmann が作成したこの文書は、主にペンと紙で解ける機械学習の演習問題を集めたもの。
- 扱うトピックには、線形代数、最適化、有向グラフモデル、無向グラフモデル、グラフモデルの表現力、ファクターグラフとメッセージ伝播、隠れマルコフモデルに関する推論、モデルベース学習（ICA および非正規化モデルを含む）、サンプリングとモンテカルロ積分、変分推論が含まれる。
-
その他の情報
- 関連する GitHub ページがある。
- この文書は arXiv に投稿されたもので、機械学習 (cs.LG) および統計的機械学習 (stat.ML) 分野に属する。
- arXiv 識別子は arXiv:2206.13446、DOI は https://doi.org/10.48550/arXiv.2206.13446 。
1件のコメント
Hacker Newsのコメント
良さそうだが、機械学習を勉強するときに最もいら立つ点のひとつは、理論的には深く入り込める一方で、それが実際とどう結びつくのかが見えないことだ。たとえば、層のニューロン数をどう選ぶのか、いくつの層が必要なのか、活性化関数は何にするのか、ニューラルネットワークを使うべきか別の手法を使うべきか、などだ。誰かがこの部分を説明してくれたらありがたい
とても整っている。Tom Yeh の "AI By Hand" の練習問題を思い出す
数学者たちがいつも線形代数や行列理論を機械学習にねじ込もうとするのは面白い。よく知らない人なら、学者たちが LLM を発明し、彼らに相談すべきだと思うだろう。実際には、学者や理論家たちは機械学習を妨げ、計算技術を彼らにとって低級なものだと考え、何世代もの大学院生に記号的証明を強いてきた
きれいに見える。唯一の批判は、問題のすぐ後に解答が載っているので、自分で考える前に答えを読んでしまう点だ
本当にきれいだ。機械学習分野で働いているが、数学の基礎、特に線形代数と行列/テンソル演算については、いまだに自分が偽物のように感じる。ディープラーニングの基礎技術に重点を置いた問題セットの良い資料があるのか気になる。複数の教師の観点から学ぶことで、毎日少しずつ手を動かしながら学ぶのが自分にはいちばん合っている
現在「有用な」機械学習を構築している実務家のうち、誰がこれらの問題を解けるだろうか？ そして、彼らは解けるべきなのだろうか？
解答まで完備された美しい資料だ。共有してくれてありがとう。ほかのテーマについても、こうしたペンと紙の練習問題があるなら興味がある
arXiv は研究レベルの論文のための場所ではないのか？ そこにこの資料がホスティングされているのは驚きだ
当時の議論: 機械学習のペンと紙の練習問題 (2021) - 2022年6月 (55件のコメント)