Show HN: Khoj - Llama 2を使ってオフラインで第二の脳とチャットする

• Khoj: ノート、ドキュメント、画像を検索してチャットできるAIパーソナルアシスタント。
• インターネット接続なしで使えるオフラインファーストのアプリケーション。
• Khoj: Emacs、Obsidian、またはWebブラウザーからアクセスできるオープンソースツール。
• 対応するさまざまなファイル形式: jpeg、markdown、notion、org-mode、pdfファイル、githubリポジトリ。
• Khojを使って自然言語で関連ドキュメントを検索し、回答を得られる。
• オフライン利用向けに設定可能で、インターネット不要の便利なツール。

[GN⁺]

Hacker Newsのコメント

• ウェブサイトのランディングページでは、Llamaのオフライン利用事例には触れられておらず、OpenAI経由のオンライン利用についてのみ言及されています。
• Llama 2のモデルサイズとファインチューニングは、一般消費者向けデバイスではRAMを多く消費します。
• ランディングページへのフィードバック: スクロールの問題を避けるため、サンプルプロンプトには固定高さのコンテナを使ってください。
• Llama 2は小型のM2 Macbook Airで性能上の問題を引き起こしました。
• このプロジェクトには、ウェブ履歴を要約し、個人向けAIへと発展する可能性があります。
• 文書インデックス作成のために、LlamaがPDFをインデックス化してOCRできると良いでしょう。
• Llamaには、ローカル推論で使うモデルを変更するためのサポートされた方法があります。
• Llama 2には、ChatGPTと比べて採算が取れなくなるほどではない、十分に有用なユースケースがあります。
• Khojのメッセージングは、以前のHacker Newsでのものと比べて改善されています。
• Obsidianを使っていてチャットAIを試している人にとって、Llamaは有用です。
• 段階的検索機能とその実装の詳細が求められました。
• カスタムデータソースに接続するための、簡単に拡張できるデータコネクタインターフェースがあると有益でしょう。