1. 論文ではなくプロジェクトに投資する
- 研究の初期段階では論文出版が重要だが、長期的には論文数よりも研究の影響力と大きなビジョンが重要である
- 研究を個別の論文ではなく、大きなビジョンやパラダイムとして考えるべきである
- オープンソースモデル、システム、フレームワーク、ベンチマークのような一貫したアーティファクトを維持することが重要である
2. 大きな拡張性と「波及力」を持つタイムリーな問題を選ぶ
- 問題は時宜を得ている必要がある。たとえば、2〜3年後に「ホット」になる問題を見つけるのがよい
- 多くの派生問題に影響を与えられる大きな「波及力」を持っているべきである
- 大きな改善余地のある問題を選ぶべきである。たとえば、時間の経過とともに20倍高速に、あるいは30%高効率にできるという見込みがあるべきだ
3. 二手先を考え、素早く反復する
- 目先の解決策を探すのではなく、二手先を考えるべきである
- 人々が最も取りそうな経路を把握したうえで、その経路の限界を理解し、それを解決することに注力すべきである
- 問題のバージョンを素早く反復し、フィードバックを得ることが重要である
4. 作業を公開し、アイデアを普及させる
- 論文を発表した後、すぐ次の論文に移るのではなく、作業を公開し、人々と積極的にコミュニケーションすべきである
- arXivで論文を公開し、スレッドで公開を知らせる際は、具体的でアクセスしやすい主張から始めるべきである
- 論文発表後も継続的にアイデアを広め、コミュニティとコミュニケーションすべきである
- アイデアと科学的コミュニケーションは、孤立した論文公開を超えて、年間を通じて継続されるべきである
5. 関心を喚起し、オープンソース研究を成長させる
- GitHubにコードとREADMEを載せるだけでは十分ではない
- 良いオープンソース研究は、優れた研究であると同時に、明確な下流での有用性と低い摩擦を備えているべきである
- 使えて、有用で、アクセスしやすいコードリリースを作るべきである
- 明確な代替案がなぜ失敗するのかを説明し、忍耐強くあるべきである
- 多様なユーザーカテゴリーを理解し、それに合わせてプロジェクトを発展させるべきである
- 関心をコミュニティへと転換し、形成して成長させることが重要である
6. 新しい論文を通じてプロジェクトに投資し続ける
- オープンソースプロジェクトと研究は別物ではない
- オープンソースに投資する時間の大半は、新しく興味深い研究を行うことに充てられる場合がある
- オープンソース活動の最前線にいれば、新しい問題を非常に早い段階で直感的に認識でき、協力者やフィードバックも得られる
- たとえば、ColBERTとDSPyは複数の論文と協力者によって発展してきた
- 構築したコミュニティは、アプローチに対する直接的なフィードバックを提供し、問題の重要性を理解する優れた協力者へのアクセスももたらす
GN⁺のまとめ
- この記事は、AI研究においてオープンソースプロジェクトを通じて影響力を最大化する方法を扱っている
- 論文数よりも大きなビジョンと一貫したプロジェクトが重要であることを強調している
- タイムリーな問題選び、二手先を考えること、作業の公開と普及、オープンソースプロジェクトを成長させる重要性を説明している
- 研究とオープンソースプロジェクトは別物ではなく、相互に補完しながら発展できることを強調している
3件のコメント
だから最近のAI研究は大学院ではなくビッグテックで行われているんですよね。
ビッグテックからは大学院よりも最新の論文が多く出ています。不思議な時代です..
大学院生を数か月のインターンとして採用し、一緒に研究して論文を出すようなケースもかなり多いですよね
Hacker Newsの意見
「論文ではなくプロジェクトに投資せよ」という助言は、博士課程の学生や若手研究者にとっては現実的ではない
研究プログラムをうまく運営するには、タイムリーな問題を選び、アイデアを広く知らせることが重要である
AI研究者にとって、1〜2年以内に有用なテーマを選ぶことが産業に進む理由になり得る
論文が現実世界に与える影響を測定するのは難しい
「論文ではなくプロジェクトに投資せよ」という助言は、良いプロジェクトが良い論文を生むという意味である
AI論文は多くの著者が参加することが多く、実際に影響力のある研究はまれである
研究の初期段階では、小さな改善が大きな影響を持ち得る
研究成果に容易にアクセスできるようにすることは重要だが、すべてを公開しないことも必要である
「ハイプ」も研究の一部である
この助言は学術研究だけでなく、スタートアップにも当てはまる