R2R V2 - 本番運用対応のオープンソースRAGエンジン
(github.com/SciPhi-AI)- ローカルLLMの実験と本番レベルの Retrieval-Augmented Generation (RAG) システムの間のギャップを埋めるために設計
- 開発者向けに、RESTful APIを中心として使いやすく構築された、包括的で最新のRAGシステムを提供
主な機能
- マルチモーダル対応:
.txt,.pdf,.json,.png,.mp3など多様なファイル形式をサポート。 - ハイブリッド検索: セマンティック検索とキーワード検索を組み合わせて関連性を向上。
- グラフRAG: 関係を自動抽出し、ナレッジグラフを構築。
- アプリ管理: ドキュメントとユーザーを効率的に管理し、豊富な可観測性と分析機能を提供。
- クライアント-サーバー: RESTful APIをサポート。
- 設定可能: 直感的な設定ファイルを使ってアプリケーションをプロビジョニング可能。
- 拡張可能: ビルダー + ファクトリーパターンによりアプリケーションを容易に拡張可能。
- ダッシュボード: ユーザーフレンドリーな操作のためのオープンソースReact+Next.jsアプリであるR2Rダッシュボードを提供。
R2R ダッシュボード
オープンソースのReact+Next.jsダッシュボードを使ってR2Rと対話可能。ダッシュボード Cookbook を参照して開始できる。
1件のコメント
Hacker Newsのコメント
データ抽出の正確性と効率性: RAGシステムではデータ抽出プロセスが重要な課題。従来のOCRアプローチでは不十分なため、マルチモーダルLLM + OCRアプローチを使って正確性と一貫性を高めている。
類似スタックの運用経験: 2年間、類似したスタックを運用しており、Pgvector、HyDe、Web検索 + ドキュメント検索などの技術を使用。ログや分析を含む優れたダッシュボードがある。
クイックスタートの難しさ: クイックスタートは実際には速くない。Docker ComposeとPostgresイメージを含む設定を提供すべき。ダッシュボードを使うには別のリポジトリをクローンしなければならない不便さがある。
プロジェクトの複雑さ: プロジェクトには多くの要素が含まれているが、開発をより簡単にしているわけではない。SDKなのかアプリ群なのかが分かりにくい。すべての機能をプレビューできる「1クリック」のインストール体験を提供すべき。
正確性の検証: 回答の正確性をどのように検証できるのかという質問。回答が生成された過程を追跡する方法があるのか気にしている。
データ収集の難しさ: 多くのRAGプロジェクトではデータ収集が十分に解決されていない。大量のHTMLドキュメントをシステムに一括収集する方法についての質問。
マルチモーダルなデータ収集: マルチモーダルなデータ収集プロセスについて詳しい説明を求めている。R2Rが現在処理できるデータ型と、非テキストデータ型の埋め込み方法についての質問。
開発チームの最適化: プロセスが開発チームにとってどのようにより速く、最適化されたのかについて説明を求めている。MVP（実用最小限の製品）の開発時間を加速できる可能性が大きい。
ソースコードとの作業: ソースコードを理解できるRAGソリューションを探している。たとえば、「送信ボタンをクリックしたときに呼び出される分析イベント」を理解できる機能を望んでいる。
Neo4jの使用に反対: Neo4jは使いたくない。リソース消費が大きいため。
人気のあるチャットフロントエンドとの統合: OpenWebUIのような人気のあるチャットフロントエンドと統合できるかどうかについての質問。