llmware - RAGを含むLLMベースアプリケーション開発向け統合フレームワーク
(github.com/llmware-ai)- オープンソースのLLMモデルを簡単に統合し、社内知識と安全に接続することに重点を置き、エンタープライズLLMアプリケーションを迅速に構築可能
- 主な機能
- モデルカタログ: 基本実装に関係なく、すべてのモデルに同じ方法でアクセスでき、簡単に参照可能
- ライブラリ: パース、テキストチャンク、埋め込みなど、知識コレクションを大規模に収集・整理・索引化
- クエリ: テキスト、セマンティック、ハイブリッド、メタデータ、およびカスタムフィルタを組み合わせたライブラリへのクエリが可能
- ソース付きプロンプト: 知識検索とLLM推論を組み合わせる最も簡単な方法
- RAGに最適化されたモデル - RAGワークフロー統合向けに設計され、ローカルで実行される1〜7Bパラメータモデル
- 拡張しやすいデータベースオプション - ノートブックから並列化されたクラスターまで対応する統合データストア
- マルチモーダルエージェント、DBインストールなしでも素早く開始可能(SQLite、FAISS)、Postgres連携(pgvector)、GCUF対応
まだコメントはありません。