11 ポイント 投稿者 GN⁺ 2024-02-29 | 1件のコメント | WhatsAppで共有
  • ローカル優先、オフライン対応: 複雑な設定なしで、オフラインでもAIと対話可能。
  • 全文検索: 数千件のメッセージに対して高速な検索機能を提供。
  • ChatGPT履歴のインポート: ローカルAIとの会話を続けられる。
  • 複数モデルとの対話: 1つのチャットセッションで複数のモデルと対話可能。
  • マルチモーダル入力: LLaVAモデルを使って画像とも対話可能。
  • セキュリティとプライバシー保護: macOSアプリのサンドボックスによって保護され、プライベートに会話可能。
  • カスタマイズ可能な外観とAIキャラクター: 自分のGGUFモデルを使って、AIの個性や外観をカスタマイズ可能。

シンプルながら強力な機能

  • オフラインでAIと対話: 技術的な知識がなくてもローカルLLMと対話可能。
  • 画像とのマルチモーダルチャット: 画像を含むさまざまな形式の対話をサポート。
  • ChatGPT履歴をインポートして継続: 以前の会話をローカルAIと続けられる。
  • 高速な全文検索: テキスト検索で目的の会話内容を簡単に見つけられる。
  • コアのカスタマイズ: AIの個性や外観を自由に変更可能。

GN⁺の見解

  • RecurseChatはユーザーのプライバシー保護を重視し、オフラインでもAIとの対話を可能にするアプリ。インターネット接続が不安定なユーザーや、プライバシーを重視するユーザーにとって非常に有用な可能性がある。
  • macOSアプリのサンドボックスによるセキュリティは、ユーザーに追加の信頼感を与える可能性があるが、この機能が他のOSでも同等の水準で提供されるかは不透明。
  • 画像とのマルチモーダル対話機能は、より豊かな対話体験を提供する可能性がある一方で、画像認識の精度に関する技術的課題を伴う可能性がある。
  • ユーザーが自分のGGUFモデルを使ってAIの個性や外観をカスタマイズできる点は、パーソナライズされた体験を提供する大きな利点になり得る。ただし、こうした高度な機能を適切に活用するには、ある程度の技術的理解が必要になる可能性がある。
  • ユーザーの技術レベルとプライバシー保護への要件を考慮する必要があり、さまざまな利用環境での互換性とアクセシビリティを確保することが重要。

1件のコメント

 
GN⁺ 2024-02-29

Hacker Newsの意見

  • @ggerganov の llama.cpp による素晴らしい仕事のおかげで、これが実現しました。理想的なローカルAIアプリに欲しい機能があれば、ぜひ聞かせてください。

  • Full Text Search。数千件のメッセージを超高速で検索。

    • 自然言語処理がついに発展し、Ctrl+F を再発明しました。
    • 数千件のメッセージを高速検索できる機能について、90年代の検索機能を現代的に再解釈したものだという意見。
      • 全文検索機能についての説明で、自然言語処理技術の発展によって既存のテキスト検索機能が革新的に改善されたという評価。
  • ローカル文書、ブックマーク、ブラウザ履歴などから答えを見つけてくれる機能なら、喜んでお金を払います

  • 素晴らしいです! いくつかあります:

    • ChatGPT の UI が便利なのは、会話中のどの部分でも変更でき、その地点から会話を再生成し、それ以降の会話は削除される機能があるからです。
    • フィードバックボタンは、Chrome にフォーカスを移す以外には何の機能もしていません。
    • LLaVA モデルはテキストベースのAIモデルなので、画像生成はできないそうです。
  • 良いですが、ChatbotUI+Ollama の代わりにこれを使う理由が見当たりません

    • macOS ネイティブアプリであること、そして高速なインポートと検索機能以外には、差別化要素を見つけにくいです。
    • ChatbotUI にはクロスプラットフォーム、カスタマイズ性、プライバシー、デバッグ可能性などの利点があります。
  • いくつか質問があります:

    • 画像生成には何を使っていますか? ローカルでも可能ですか(例: stable diffusion)? 統合されたプロンプト生成はありますか?
    • ChatGPT の履歴をインポートできるとのことですが、他の文書もインポートできますか?
    • いくつかの「エージェント」スタイルの機能はありますか? Web を検索できますか? 他の API を使えますか? 自分でプロンプトを生成できますか?
    • プラグインフレームワークはありますか? 「カスタマイズ可能」と言っていましたが、これはほとんど何でも意味し得ます。
    • ライセンスは何ですか? ユーザーの利用が個人的なものであることをどのように保証していますか? 多くの「ローカル」アプリが大量のデータを外部へ送信していることは、私たち皆が知っています。
  • いくつか提案

    • システムフォント(San Francisco)を UI オプションとして追加してください。SF Mono も良さそうです。
    • 初心者向けにモデルの使い方を助ける仕組みが必要です。始め方を案内する導入画面があると良いと思います。
    • 多くの Mac アプリのように、Command-comma で設定を開けると良いです。
    • Web リンクをクリックしたときに Safari(または好みのブラウザ)が開くようにすると良いでしょう。
  • 同じインターフェースで OpenAI API を使えるオプションを追加するのも良いと思います。

    • 現在は jan.ai を使っています。
  • オンラインモデルをアプリに追加する計画はありますか? ローカルモデルはまだオンラインモデルに比べられるレベルではありません。

    • 一貫したチャットインターフェースで GPT/Claude/ローカルモデルを切り替えられると良いです。
  • 「ローカルAIと会話する」と言う代わりに、ローカルAIと会話することで私たちが何を達成できるのかを伝えたほうが、もっと売れるはずです。

    • 必要なのは会話ではなく、特定の作業をこなすことです。どんな作業ができますか?(私に答えるのではなく、ランディングページとアプリストアの一覧に載せてください)