GPT-3.5 TurboのファインチューニングとAPIアップデート
(openai.com)- OpenAIがGPT-3.5 Turbo向けのファインチューニングモデルのサポートを発表。
- ファインチューニングにより、モデルが指示により忠実に従うようになり、出力形式や文体をはるかに安定して維持できる。
- 特に性能向上に加えて、ファインチューニングはプロンプトの短縮に非常に効果的で、最大90%までプロンプトを短縮してコスト削減が可能。
- 学習用データをアップロードしてAPIを呼び出すことで、ファインチューニングモデルを準備できる。
- ファインチューニングモデルには、学習時と利用時の両方で別途料金が発生する。
- 既存のGPT-3モデルベースのファインチューニングモデルは、2024年1月4日に利用終了予定であり、GPT-3.5 Turboへ移行する必要がある。
1件のコメント
本文で触れられていない内容がありますが、
ごく一部の特定タスクでは、GPT-3.5 TurboのファインチューニングモデルがGPT-4より高い性能を示したそうです。
特にプロンプトを短くできるため、GPT-4が数十倍高価であることを考えると、代替案になり得そうですね。