Jan - オープンソースのChatGPT代替を実現するクロスプラットフォームフレームワーク

 (github.com/janhq)
18 ポイント 投稿者 xguru 2024-01-13 | 1件のコメント | WhatsAppで共有
  • 100%ローカルで、あらゆるハードウェア上で動作: NVidia GPU、Apple SiliconからマルチGPUクラスターまで
  • 最終目標は、誰でも簡単にAIを組み込めるよう支援すること
    • Jan Framework、Jan Desktop Client + Server、Nitro
  • Nitro: C++で書かれた高効率な推論エンジン（3MB）
    • Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion

関連記事

1件のコメント

 
riskatcher 2024-01-14

日本語の性能がどうなのか気になりますね