GPU Marketplace
- GPU Deployは、機械学習とAI向けの低価格なオンデマンドGPUサービスを提供します。
- 機械学習のワークロード用に事前に設定されているため、すぐにGPUインスタンスを起動できます。
提供されるGPU仕様と価格
- Nvidia H100、A100、GeForce RTX 4090/3060、Quadro RTX 6000など、さまざまなGPUモデルをサポートします。
- GPU RAMは11GBから640GBまで幅広く提供されています。
- CUDAコア数は3,584個から116,736個まで幅広く設定されています。
- vCPUは16個から242個まで選択可能です。
- 時間単価は$0.06から$26.55まで（税抜き、実際の料金は通常もっと安い）
アイドルGPU活用の提案
- アイドルGPUがある場合、GPU Deployを通じてコンピューティングリソースを提供できます。
- GPUクラスター運営者であれば、アイドルのコンピューティングリソースを貸し出せます。
- AI企業であれば、アイドルのコンピューティングリソースを貸し出せます。
- 個人がGPUを保有していても参加可能です。
GN⁺の意見
- オンデマンドGPU利用料は非常に高いことが多いため、このサービスを活用すればGPUが必要なときに低コストで利用でき、魅力的です。
- ただし、長期的に使用する場合は、直接GPUサーバーを構築する方がはるかに経済的な場合があります。
- 個人や中小企業がGPUリソースを活用する手段としては、悪くない選択肢になり得ます。
- 企業の立場では、GPUサーバー構築コストと運用コストなどを勘案し、中長期的な観点から導入を検討する価値があります。
- 類似のGPU提供サービスとしてはAWS、GCP、MS Azureなどがあり、サービスごとに提供されるGPU仕様と価格ポリシーを綿密に比較する必要があります。
- アイドルGPU活用は興味深い提案ではありますが、セキュリティやリソース管理の観点で懸念される点がある可能性があります
1件のコメント
Hacker Newsのコメント
set -eで始まらないため、不完全なインストールが発生する可能性がある