11 ポイント 投稿者 xguru 2023-09-07 | まだコメントはありません。 | WhatsAppで共有
  • もともとPythonで実装されていたモデルを、GGMLライブラリを使ってC++に移植
  • 軽量化されたコードにより、さまざまな場所で利用可能
  • 原作者Georgi Gerganovの名前を冠したGGMLは、llama.cpp/whisper.cppの開発に使われた量子化対応テンソルライブラリ
    • GPUよりもCPUに最適化。特にApple Silicon M1/M2

まだコメントはありません。

まだコメントはありません。