Korvus - RAGパイプラインを1つのクエリに統合する検索SDKオープンソース

• オープンソースのRAG（検索拡張生成）パイプライン
  • LLM、ベクトルメモリ、埋め込み生成、再ランキング、要約、およびカスタムモデルを単一クエリで結合
  • パフォーマンスを最大化し、検索アーキテクチャを簡素化
• Postgresベースで構築。Python、JavaScript、Rust、C向けバインディングを提供
  • PostgresMLのpgml拡張とpgvector拡張を使用し、RAGパイプライン全体をPostgreSQL内に圧縮
• インフラの課題を最小限に抑えつつ、高性能なカスタム検索機能を提供

主な機能

• 複雑なサービス指向アーキテクチャを単一の強力なクエリに置き換え、アーキテクチャを簡素化
• API呼び出しとデータ移動を排除し、より高速な処理と安定性向上を実現
• オープンソースソフトウェアとDocker上でもローカル実行されるモデルを使用し、開発者体験を改善
• Python、JavaScript、Rustなど多様な言語をサポート
• 埋め込み生成、ベクトル検索、再ランキング、テキスト生成を1つのクエリに統合
• 内部では実績あるデータベースプラットフォーム上で、効率的なSQLクエリによりKorvusの演算を実行

SQLの力

• Korvusは複数のプログラミング言語向けに高水準インターフェースを提供するが、中核となる演算は最適化されたSQLクエリに基づいている
• 上級ユーザーは基盤となるクエリを調査し、理解できる
• SQL演算を修正または追加することで、Korvusの機能を拡張できる
• PostgreSQLの高度なクエリ最適化機能の恩恵を受けられる