Koala: 学術研究のための対話型モデル（LLaMAベースのチャットボット）

• Alpacaと同様に、LLaMAを対話および命令データセットで訓練したKoala-13Bモデル
• さまざまなクエリに対してAlpacaより好まれる結果を生成し、少なくとも半数以上のケースでChatGPTと同等の応答を生成可能
• ウェブで収集したオープンソースの対話データでSupervised Fine-Tuningを実施
  • ShareGPTの60K対話
  • HC3の87K質疑応答サンプル
  • Open Instruction Generalist (OIG)
  • Stanford Alpacaが公開した52Kデータセット
  • Anthropic HH (160K)
  • OpenAI WebGPT (20K)
  • OpenAI Summarization (93K)

[verilogeek]

まさに model zoo..

[xguru]

LLaMA、Alpaca、Koala…AIモデルはまるで動物園ですね。