- OpenAIは、GoogleやAnthropicを含む他のすべてのモデルプロバイダーよりも多くの利用量を抱えている
- こうした企業は、ユーザープロンプトや明示的・暗黙的フィードバックを含む大量のデータを収集し、将来のモデル訓練に役立てている
- これらの企業が持つ主な強みは、インフラのスケーラビリティとサービス品質
- GPT-3.5をファインチューニングするためにOpenAIを利用するコストは、Amazonのp4d.24xlargeを借りるより3〜8倍安い
- OpenAIのコストには、モデル重みの訓練と保存、ファインチューニング用インフラの構築と維持、数千台のGPUを管理するために必要な専門知識が含まれる
- 必要な時間・人員・資金を考えると、ほとんどの組織にとって独自のオープンソースLLMデプロイを運用するのは合理的ではないという話
- オープンソースモデルは、コスト、複雑さ、そしてそれらをカスタマイズして実行するのに必要な時間を、さらに大きく減らしていく必要がある
- たとえ最終的に価格が上昇するとしても、OpenAIのような主要LLMプロバイダーは、極端な規模の経済でモデルを提供できる能力によって市場を支配することになるだろう
5件のコメント
タイトルだけ見て、OpenAIに競争で勝つのはとても簡単だという意味かと思ったのですが、原文を見たら、OpenAIに競争で勝つにはコストが安すぎるという意味だったんですね……（笑）
タイトルも内容もまったく逆のことを言っているのに……どうしてそんなふうに受け取れるのでしょうか？
AIの翻訳が不自然だったため、手作業で少し修正しておきました。
もともとのタイトルは「OpenAIに勝てるものがあまりにも安すぎる」でした。
www