どうすれば機械学習エンジニアへピボットできますか？

xguru · 2024-07-02T11:16:02+09:00

データ集約型アプリケーションを10年以上構築してきたソフトウェアエンジニア。主にバックエンド（レガシー、クラウド） (1) ピボットしたほうがよいでしょうか？ (2) 実際にやった人はいますか？ (3) 自分の業務にMLがないのに、どうやって始めればよいでしょうか？モデル構築に重点を置かず、モデルの管理・デプロイ・スケーリングにより重点を置くMLエンジニアリングの実務はありますか？つまり、その土台にある数学をすべて学ばなくてもよいのでしょうか？ arnabgho SnapでMLEテックリードとして働き、Snapの生成AIインフラの基盤を築いたとてもやりがいのあるキャリアパスなので、MLEの道を強く勧めたい Designing Machine Learning Systems: An Iterative Process for Production-Ready Applications は、本番向け機械学習システム設計について非常によい入門書その著者（Chip Huyen）が書いたこのブログも、本番級のAI/MLシステム構築の入門として強くおすすめ本番向けLLMアプリケーションを構築する（要約と翻訳記事リンクを含む）質問への回答 (1) はい。特に今のような時代精神の転換点では、そのような転身は賢明 (2) はい (3) MLエンジニアリングのスキルを始めて習得する方法については上記を参照 breckenedge 約7か月前、MLを使ってコンテンツ推薦を作る3か月のプロジェクトに足を踏み入れた既製の協調フィルタリングライブラリで始めて、最後はPyTorchにたどり着いた。ChatGPTは大いに役立ったそのまま続けてもよかったが、経営陣はより速くより良い結果を求めており、未経験の状態から始める場合、3か月は流れをつかむには十分な時間だった MLの多くはデータセットを整理して準備する作業で、あまり面白くはなかったある役員にAmazon Personalizeを試すよう勧められ、よい挑戦にはなったが、結局は成功しなかった。データの問題だったのか、基盤モデルの問題だったのかは分からないブラックボックス型のMLサービスを使うときの問題の核心は、何が起きているのか分析できないこと Amazon Personalizeはデータレイヤーの変更を難しくするため、より良い解決策に近づいているのかどうかが分からない熟練したML専門家がPersonalizeを使えば、より良い解決策に近づけるかもしれないしたがって、MLを扱えそうなら、キャリアにする前にMLの試験的プロジェクトをやって、自分に合うか確認してみるのがよい nsyptras モデル構築に重点を置かず、モデルの管理・デプロイ・拡張により重点を置くMLエンジニアリングはあるだろうか？私は2018年にこの分野へ転向した。MLOpsと呼ばれている。それ以前はモバイル開発者だった当時は転向がかなり容易だった（今は競争がもっと激しいかもしれないが）私がやったこと: ひとりで集中的なMLプロジェクトを進める中で、MLスタック全体で働くのが楽しいと気づいたこのプロジェクトについての[ブログ投稿]((https://www.nicksypteras.com/blog/aisu.html)も書いたその後MLOpsチームに応募し、このプロジェクトを使ってスキルと経験を証明した数学を避けることはできるかもしれないが、基礎を学べばすべてがずっと簡単になる基本的なML数学がなければ、かなり手探りで飛んでいるようなものだったと思う ilaksh 「MLOps」を考えているように見える。MLOpsも重要 HuggingFaceとRunPodで、Pythonを使ってモデルをデプロイする練習をしてみるとよいあわせて、LLMの事前学習、ファインチューニング、評価に関するチュートリアルも探し、Predibaseも確認するとよい現在もっとも重要なのは拡散トランスフォーマーだと思うそのトレーニングジョブをどう実行するか説明する文書が見つかれば、人の役に立てるだろう「裏技」が欲しいなら replicate.com を確認。cog は replicate.com の外でMLモデルをセルフホストするのにも役立つかもしれない nottorp 私は「MLエンジニアへの転向」をしたわけではないが、この2.5か月の間に公開モデルを使い、ツールやAPIを使ってそれらを学習・実行する方法をある程度学んだコードはほとんど書かず、多くの本を読んだ小規模な組織（役割に縛られず、やるべき仕事が与えられるような環境）で働くと助けになる trybackprop 実際にMLへの転向を考えている経験豊富なソフトウェアエンジニア向けに、この件についてブログ記事を書いて共有した You Don't Need a Masters/PhD – How These 9 Engineers Broke Into ML Meta、Google、Amazon、OpenAIで働くさまざまなエンジニアが転向した事例を紹介する記事彼らがどんな戦略と戦術を使ったのか確認できる回答個人の時間にハックするのを楽しんでいるなら、「賢明」だと言える。私は転向前の1年間、夜や週末に資料を学びながら、これをフルタイムでやりたいと初めて思うようになったはい。そして転向後7年目のMLエンジニアとして働いている。現在はFAANGのML技術責任者。その前はインフラとプロダクト分野で働いていた数年前に受けた助言のひとつは、ML業務に隣接したチームに参加して、本番MLがどのようなものかに慣れることだった。Kaggle.comでML的な思考の練習を始めることもできる私のブログの別の記事では、AI/MLとこの職業に必要な数学を学べるリソースも確認できる Linear Algebra 101 for AI/ML – Part 1 （対話型クイズ、ベクトル/行列の基礎、業界で広く使われているオープンソースMLフレームワーク PyTorch の簡単な紹介を含む） deepGem fast.ai の「Practical Deep Learning for Coders」を見てみるとよい 2022年の教材だが、ここで学ぶ原理は今でも非常に有効で、とても役に立つ特に Self Attention、トランスフォーマー、そしてそれらの概念に基づく最新アーキテクチャがそう fast.ai コースを修了した多くの人が、MLエンジニアだけでなく研究科学者にもキャリア転換しているとはいえ簡単なコースではないので、余暇に時間を作って受講する必要があるデプロイやスケーリングに関心があるなら、パート1の第2講からいきなり始めてもよい。Jeremyはすばらしい教師私はアカデミア出身ではないので、彼の講義スタイルはとても健全だと思う

(news.ycombinator.com)

38 ポイント投稿者 xguru 2024-07-02 | 2件のコメント | WhatsAppで共有

データ集約型アプリケーションを10年以上構築してきたソフトウェアエンジニア。主にバックエンド（レガシー、クラウド）
(1) ピボットしたほうがよいでしょうか？ (2) 実際にやった人はいますか？ (3) 自分の業務にMLがないのに、どうやって始めればよいでしょうか？
モデル構築に重点を置かず、モデルの管理・デプロイ・スケーリングにより重点を置くMLエンジニアリングの実務はありますか？
- つまり、その土台にある数学をすべて学ばなくてもよいのでしょうか？

arnabgho

SnapでMLEテックリードとして働き、Snapの生成AIインフラの基盤を築いた
- とてもやりがいのあるキャリアパスなので、MLEの道を強く勧めたい
Designing Machine Learning Systems: An Iterative Process for Production-Ready Applications は、本番向け機械学習システム設計について非常によい入門書
その著者（Chip Huyen）が書いたこのブログも、本番級のAI/MLシステム構築の入門として強くおすすめ
本番向けLLMアプリケーションを構築する（要約と翻訳記事リンクを含む）
質問への回答
- (1) はい。特に今のような時代精神の転換点では、そのような転身は賢明
- (2) はい
- (3) MLエンジニアリングのスキルを始めて習得する方法については上記を参照

breckenedge

約7か月前、MLを使ってコンテンツ推薦を作る3か月のプロジェクトに足を踏み入れた
既製の協調フィルタリングライブラリで始めて、最後はPyTorchにたどり着いた。ChatGPTは大いに役立った
そのまま続けてもよかったが、経営陣はより速くより良い結果を求めており、未経験の状態から始める場合、3か月は流れをつかむには十分な時間だった
MLの多くはデータセットを整理して準備する作業で、あまり面白くはなかった
ある役員にAmazon Personalizeを試すよう勧められ、よい挑戦にはなったが、結局は成功しなかった。データの問題だったのか、基盤モデルの問題だったのかは分からない
ブラックボックス型のMLサービスを使うときの問題の核心は、何が起きているのか分析できないこと
Amazon Personalizeはデータレイヤーの変更を難しくするため、より良い解決策に近づいているのかどうかが分からない
熟練したML専門家がPersonalizeを使えば、より良い解決策に近づけるかもしれない
したがって、MLを扱えそうなら、キャリアにする前にMLの試験的プロジェクトをやって、自分に合うか確認してみるのがよい

nsyptras

モデル構築に重点を置かず、モデルの管理・デプロイ・拡張により重点を置くMLエンジニアリングはあるだろうか？
私は2018年にこの分野へ転向した。MLOpsと呼ばれている。それ以前はモバイル開発者だった
当時は転向がかなり容易だった（今は競争がもっと激しいかもしれないが）
私がやったこと:
- ひとりで集中的なMLプロジェクトを進める中で、MLスタック全体で働くのが楽しいと気づいた
- このプロジェクトについての[ブログ投稿]((https://www.nicksypteras.com/blog/aisu.html)も書いた
- その後MLOpsチームに応募し、このプロジェクトを使ってスキルと経験を証明した
- 数学を避けることはできるかもしれないが、基礎を学べばすべてがずっと簡単になる
- 基本的なML数学がなければ、かなり手探りで飛んでいるようなものだったと思う

ilaksh

「MLOps」を考えているように見える。MLOpsも重要
HuggingFaceとRunPodで、Pythonを使ってモデルをデプロイする練習をしてみるとよい
あわせて、LLMの事前学習、ファインチューニング、評価に関するチュートリアルも探し、Predibaseも確認するとよい
現在もっとも重要なのは拡散トランスフォーマーだと思う
- そのトレーニングジョブをどう実行するか説明する文書が見つかれば、人の役に立てるだろう
「裏技」が欲しいなら replicate.com を確認。cog は replicate.com の外でMLモデルをセルフホストするのにも役立つかもしれない

nottorp

私は「MLエンジニアへの転向」をしたわけではないが、この2.5か月の間に公開モデルを使い、ツールやAPIを使ってそれらを学習・実行する方法をある程度学んだ
コードはほとんど書かず、多くの本を読んだ
小規模な組織（役割に縛られず、やるべき仕事が与えられるような環境）で働くと助けになる

trybackprop

実際にMLへの転向を考えている経験豊富なソフトウェアエンジニア向けに、この件についてブログ記事を書いて共有した
- You Don't Need a Masters/PhD – How These 9 Engineers Broke Into ML
- Meta、Google、Amazon、OpenAIで働くさまざまなエンジニアが転向した事例を紹介する記事
- 彼らがどんな戦略と戦術を使ったのか確認できる
回答
- 1. 個人の時間にハックするのを楽しんでいるなら、「賢明」だと言える。私は転向前の1年間、夜や週末に資料を学びながら、これをフルタイムでやりたいと初めて思うようになった
- 1. はい。そして転向後7年目のMLエンジニアとして働いている。現在はFAANGのML技術責任者。その前はインフラとプロダクト分野で働いていた
- 1. 数年前に受けた助言のひとつは、ML業務に隣接したチームに参加して、本番MLがどのようなものかに慣れることだった。Kaggle.comでML的な思考の練習を始めることもできる
私のブログの別の記事では、AI/MLとこの職業に必要な数学を学べるリソースも確認できる
Linear Algebra 101 for AI/ML – Part 1
（対話型クイズ、ベクトル/行列の基礎、業界で広く使われているオープンソースMLフレームワーク PyTorch の簡単な紹介を含む）

deepGem

fast.ai の「Practical Deep Learning for Coders」を見てみるとよい
2022年の教材だが、ここで学ぶ原理は今でも非常に有効で、とても役に立つ
特に Self Attention、トランスフォーマー、そしてそれらの概念に基づく最新アーキテクチャがそう
fast.ai コースを修了した多くの人が、MLエンジニアだけでなく研究科学者にもキャリア転換している
とはいえ簡単なコースではないので、余暇に時間を作って受講する必要がある
デプロイやスケーリングに関心があるなら、パート1の第2講からいきなり始めてもよい。Jeremyはすばらしい教師
- 私はアカデミア出身ではないので、彼の講義スタイルはとても健全だと思う

2件のコメント

rawoon89 2024-07-03

よく読みました。ありがとうございます。

ahwjdekf 2024-07-02

韓国では、単にAPIを呼び出す程度のレベルが分かっていれば十分です。企業は大金を投じて投資したくはないものの、それでも何かしらホットな流行には乗っておきたい……そんな曖昧な雰囲気です。