TurboPilot - セルフホスト可能なCopilotクローン

 (github.com/ravenscroftj)
25 ポイント 投稿者 xguru 2023-04-16 | まだコメントはありません。 | WhatsAppで共有
  • llama.cpp を使って、6Bパラメータの Salesforce Codegen モデルを 4GiB RAM で実行
  • 事前変換済みモデル（2B/6B）を提供（C/C++/Go/Java/JavaScript/Python で事前学習）または自分で変換可能
  • TurboPilot サーバーをバイナリまたは Docker で実行
    • マルチコア環境で使用する CPU コア数を指定可能
  • VSCode 向け FauxPilot プラグインを利用

関連記事

まだコメントはありません。

まだコメントはありません。