GPT-3.5 TurboのファインチューニングとAPIアップデート

• OpenAIはGPT-3.5 Turbo向けのファインチューニングとAPIアップデートを発表し、開発者が特定のユースケースに合わせてモデルをカスタマイズできるようにしました。
• GPT-4向けのファインチューニングは秋に利用可能になる見込みです。
• 初期テストでは、ファインチューニングされたGPT-3.5 Turboが特定のタスクでベースのGPT-4の性能を上回る、または同等の性能を発揮できることが示されました。
• ファインチューニングAPIを通じて送信されたデータは顧客が所有し、OpenAIや他の組織が他のモデルの学習に使用することはありません。
• ファインチューニングは、制御性の向上、信頼できる出力形式、カスタムトーンなど、一般的なユースケースにおけるモデル性能の向上に活用されてきました。
• ファインチューニングにより、企業はプロンプトを短縮しながら同等の性能を確保でき、従来のファインチューニング済みモデルの2倍にあたる4kトークンを扱えるようになります。
• ファインチューニングは、プロンプトエンジニアリング、情報検索、関数呼び出しなどの手法と組み合わせたときに最も効果的です。
• ファインチューニングの費用は、初期トレーニング費用と利用費用の2つに分かれます。
• OpenAIはまた、元のGPT-3ベースモデルの代替としてbabbage-002とdavinci-002も提供しており、これらは新しいAPIエンドポイントを通じてファインチューニングできます。
• 既存の/v1/fine-tunesエンドポイントは2024年1月4日に廃止される予定です。
• OpenAIはファインチューニングのデプロイの安全性確保に取り組んでおり、ファインチューニング用トレーニングデータは同社のModeration APIとGPT-4ベースのモデレーションシステムを通じて安全でない学習データを検出します。
• 近い将来、ファインチューニングUIがリリースされる予定で、開発者は進行中のファインチューニングジョブや完了済みモデルスナップショットに関する情報へ、より簡単にアクセスできるようになります.

[GN⁺]

Hacker Newsの意見

• OpenAIは約束どおり、数か月前にGPT-4 APIへのアクセスを開放した後、GPT-3.5のファインチューニングをリリースした。
• 十分にオープンではないという批判にもかかわらず、OpenAIはLlamaやBardのような他のオープンソースAIを上回る迅速なイノベーションで評価されている。
• ファインチューニングされたGPT-3.5 Turboで生成するコストはベースモデルの8倍高く、プロンプトのサイズを大幅に減らせる人にしか費用対効果がない。
• ファインチューニングされたGPT-3.5 TurboとLlama2モデルの比較が求められており、後者にはレンタルインフラが必要となる。
• 一部のユーザーは、GPT-3.5 Turboは反復的で不正確なため文章作成やコーディングには不向きだと感じている一方、別のユーザーはGPT-4のほうがはるかに優れており、教育や問題解決の補助ツールとして有用だと感じている。
• ユーザーの間で望まれている機能は、サードパーティーツールの必要をなくすための組み込みのプロンプト分割機能である。
• OpenAIが「安全でない」モデルを提供しないと決めたことが注目されており、davinci-002とbabbage-002はいずれも「安全でない」補完に対して無限ループに陥る。
• ファインチューニング用の学習データはOpenAIのModeration APIとGPT-4ベースの検閲システムを通過し、後者はコストが高いため「安全性」が曖昧な場合にのみ使われているのではないかと推測されている。
• ファインチューニング作業に必要なトークン数をどう計算するのか、またベースモデルの挙動に効果的に影響を与えるには通常どれくらいのファインチューニングデータが必要なのかという疑問が提起された。
• 「Chat」モデルをファインチューニングできる可能性は興味深く感じられており、ファインチューニング済みモデルを使って現在のAI検出器を回避できる可能性についての疑問も提起されている。
• プライバシー保護への懸念が示されており、OpenAIまたはMicrosoftがAPI呼び出しから得たテキストをどれくらい長く保存するのかという疑問が提起されている。
• 全体として、GPT-3.5 Turboのファインチューニングのリリースは前向きな進展と見なされており、16kファインチューニングへの期待もある。