txtai - セマンティック検索、LLMオーケストレーション、言語モデルワークフローのためのオールインワン埋め込みDB
(github.com/neuml)- 埋め込みDBは、ベクトルインデックス(疎および高密度)、グラフネットワーク、リレーショナルデータベースを組み合わせたもの
- これにより、SQL、トピックモデリング、検索拡張生成(RAG)などによるベクトル検索が可能
- 単独で使用することも、大規模言語モデル(LLM)プロンプト向けの強力な知識ソースとして使うことも可能
- txtai の機能
- SQL、オブジェクトストレージ、トピックモデリング、グラフ分析、マルチモーダルインデキシングによるベクトル検索
- テキスト、ドキュメント、オーディオ、画像、動画向けの埋め込みを生成
- LLMプロンプト、質問応答、ラベリング、文字起こし、翻訳、要約などを実行する言語モデルベースのパイプライン
- パイプライン同士を接続し、ビジネスロジックを集約するワークフロー
- txtai プロセスは、シンプルなマイクロサービスにもマルチモデルのワークフローにもなり得る
- Python または YAML で構築
- JavaScript、Java、Rust、Go 向けのAPIバインディングを提供
- ローカルで実行することも、コンテナオーケストレーションでスケールアウトすることも可能
まだコメントはありません。