xturing - 自分だけのLLMを作って制御する
(github.com/stochasticai)- LLaMA、GPT-J、GPT-2 のような LLM を高速かつ効率的にファインチューニングするためのオープンソースツール
- さまざまなソースからデータを取り込み、LLM が理解できる形式に前処理
- 高速なチューニングのためにシングル〜マルチ GPU を活用
- LoRA のようなメモリ効率の高い技術を活用してコストを削減
- さまざまなファインチューニング手法を評価して最適なモデルを見つける
- 明確に定義されたメトリクスを通じてファインチューニング済みモデルを評価
まだコメントはありません。