- 約8年にわたり PyTorch を率いてきた Soumith Chintala が、11年間在籍した Meta と PyTorch を離れると発表
- PyTorch は現在 エクサスケール学習 をサポートし、基盤モデルの運用、世界中の教育現場での活用 など幅広い成果を達成
- 彼は PyTorch が独立して運営できるほど成熟した と判断し、後継リーダーシップの安定性 を確信
- FAIR 時代から共に歩んだ同僚たちとの協業、オープンソース文化、ユーザーコミュニティの成長に対する 感謝と回顧
- 個人的には新たな挑戦のため、Meta の外で小さなプロジェクト を始める計画
MetaとPyTorchでの別れ
- 11年間 Meta で働き、約8年間 PyTorch を率いて AI業界で90%以上の採用率 を達成
- PyTorch は現在 エクサスケール学習 をサポートし、知能を再定義する基盤モデル を動かしている
- MIT からインドの農村地域まで教育現場で使われており、アクセシビリティ向上という目標をほぼ達成
- AI の進歩が速いだけに PyTorch も進化し続ける必要があるが、すでに多くの成果を成し遂げたと述べる
- オープンソースの力と楽しい研究文化を信じたすべての協力者に感謝を伝える
- Meta 内の別職務へ移ることもできたが、新たな挑戦と好奇心 のため外に出ることを決断
- 「AIをおいしく、アクセスしやすくしよう」というメッセージで文章を締めくくり、今後もコミュニティに参加し続ける意思を表明
PyTorchの今後の安定性
- PyTorch を永久に担当したいとは思っておらず、安定した状態で去ること を目標に計画
- 2024年末から退職準備を始め、2025年8月にはチームが独立して運営可能だと確信
- Edward, Suo, Alban, Greg, John, Joe, Jana などの中核メンバーが 製品・組織の問題を自律的に解決
- PyTorch Conference のプロダクトストーリーが一貫しており、過去の問題点が改善されたことを根拠に 組織の回復力 を強調
- Greg, Alban, Ed, Jason, Joe らが PyTorch の価値と文化 を受け継いでおり、価値観の合う人材が多数いると説明
- John, Suo, Jana の技術力と協業経験に具体的に言及し、チームの持続可能性 に自信を示す
Metaでの時間
- FAIR 初期の時代を「魔法のような時期」と振り返り、GAN 研究、Starcraft ボット、FAIR クラスター構築、物体検出、PyTorch 開発 など多様なプロジェクトに参加
- 2015〜2016年を最も生産的で楽しい時期だったと評価
- 入社初期に Andrew Tulloch のメンタリングが大きな助けになったと述べる
PyTorch開発の歩み
- PyTorch の設計・管理・文書化・配布まで全工程に直接関わり、数百人規模のプロダクトへ成長 させた
- Meta の内外のエンジニア、研究者、オープンソース貢献者、ドキュメント執筆者、ハードウェアパートナーに感謝を表明
- Adam Paszke, Sam Gross, Greg Chanan, Joe Spisak, Alban Desmaison, Edward Yang など多くのキーパーソンに言及
- 2017年の NeurIPS で、ある大学院生が PyTorch のおかげで研究を完成できたと語った事例を振り返り、ユーザーへの影響力 を実感
- PyTorch Conference は 300人規模の家族的な集まりから 3,000人規模の業界イベントへ成長したが、その 拡大した影響力 に誇りを示す
感謝の言葉
- Mark Zuckerberg と Mike Schroepfer がオープンソース戦略を支持したおかげで FAIR と PyTorch が可能になったと述べる
- Yann LeCun、Rob Fergus に初期 FAIR 構築への感謝を伝える
- Aparna Ramani の技術的リーダーシップと実行力を高く評価
- Santosh, Kaushik, Delia, Oldham, Ben などインフラチームの歓迎と協力に言及
- Serkan, Howard, Jerome, Abhijit, Yoram, Joelle, Aparna, Damien などのマネージャーたちに感謝を伝える
締めくくりの挨拶
- 「これは私の旅ではなく、私たちの旅だった」と述べ、共同の達成を強調
- 今後は「小さく、新しく、居心地の悪いこと」に挑戦すると明かす
- 「AIをおいしく、簡単に使えるものにし続けてほしい」と、PyTorch コミュニティにエールを送る
1件のコメント
Hacker Newsのコメント
多くのコメントは PyTorch を結果論で評価しているように見える。しかし Soumith Chintala が PyTorch を共同開発していた当時は、高速でインタラクティブな開発環境はほとんど存在しなかった。JAX もまだなかった。
当時 PyTorch を使った研究者は皆、すぐにでも乗り換えたいと思うほど、はるかに優れていた。Andrej Karpathy も 2017 年のツイートで「PyTorch を数か月使ってみたら人生が変わった」と表現していた(ツイートへのリンク)。
Soumith の長年にわたる献身的な努力に感謝し、これからの歩みにも幸運を祈る
autogradだった。JAX は Autograd の直接的な後継であり、その開発者の一部は今も JAX チームで働いている。PyTorch の共同著者 Adam Paszke も現在は JAX と Dex プロジェクトに参加している(Autograd の歴史, PyTorch 紹介アーカイブ)私は Meta と PyTorch で Soumith に直接採用され、一緒に働いた人の一人だ。
Soumith は PyTorch を常にコミュニティ中心のプロジェクトとして捉えていた。共同制作者の Adam、Sam だけでなく、Caffe2 チームとの統合においても、皆の貢献を称えていた。
PyTorch は最初から研究コミュニティのためのオープンなフレームワークとして設計されており、Soumith は成長の過程を通じて新しい人々や組織が参加できるよう導いてきた。
彼はまさに人材を引き寄せる存在で、そのおかげで数多くの優秀な人たちが情熱を注いで PyTorch を発展させた。
今や彼が去っても、PyTorch は十分に自立できる段階にある。これこそがオープンソースの成功した姿だ
今回の件で興味深いのは、Meta の内部にAI 関連の独占的な資産がないことを示すサインのようにも見える点だ。
軍事研究は実際よりはるかに進んでいると信じる神話に似た印象がある。
結局のところ、ビッグテックの AI 研究所も特別な秘密技術なしに、従来と大きく変わらないことを繰り返しているようだ
さらに Meta は最近LLM 中心へと方向転換しており、PyTorch の従来の役割は小さくなっている。こうした点を見れば、自然な転職のタイミングに思える
最近の AI 業界で言われる「AGI はもうすぐ来る」という主張にも、内部の開発者たちはそれほど興奮していない。Karpathy が教育に戻ったり、Mira Murati がスタートアップを立ち上げたりしたのも同じ文脈だ
Soumith の情熱は伝染力があった。DCGAN の論文を見て Lua Torch で実験してみたところ、小さな Oxford flowers データセットでもうまく動いた。
Soumith はその結果を SNS で共有するほど驚いていた。
当時、PyTorch と Lua Torch は TensorFlow よりはるかに扱いやすく、コードもハックしやすい構造だったので、研究者は自由に実験できた
Soumith の言葉で、「小さくて新しいもの、まだ完全には理解していないもの、不快なものをやってみたい」という部分が印象的だった。
Meta の内部でも別の仕事はできたはずだが、彼は外に出るべきだという好奇心に従った。まるで「森へ戻るシッダールタ」のようだ
私はJAX ユーザーとして、PyTorch の成功を尊重している。TensorFlow 1 が失敗したあと、PyTorch が AI エコシステムを支配した。
Matt Johnson が Autograd を JAX へ発展させたことも、いつか Soumith のように高く評価されてほしい
Torch の基盤ライブラリも本当に使っていて楽しいツールだ。Rust には tch や Burn のようなバインディングがあり、libtorch ともうまく連携する。
PyTorch の強みは動的デバッグができることだ。ターミナルで直接モデルを止めて内部状態を調べられたあの体験が、今でも恋しい
「主要な AI 企業やハードウェアベンダーのほぼすべてから連絡を受けられる立場にあったが、結局好奇心が勝った」という彼の言葉が印象的だった。
また新しい強力なツールを生み出してくれることを願う
生計のために無意味な仕事を長く続けなければならなかった時期があったので、そんな決断を下せる彼がうらやましくもある
「MIT からインドの田舎の教室まで PyTorch が教えられている」という言葉が印象的だった。
むしろインドの一部の教室のほうが、米国のエリート工科大学より教育アクセスや実践重視の面で優れているかもしれないと思った
毎日 PyTorch を使っている者として、Soumith とチームに心から感謝している。
このツールのおかげで、以前は想像するだけだったアイデアを自分で実験できるようになった。
PyTorch は私の人生の大きな一部になっており、彼の次の旅路にも幸運があることを願う