HN公開: ChatGPT向けの非線形ユーザーインターフェースを構築

 (grafychat.com)
1 ポイント 投稿者 GN⁺ 2024-05-09 | 1件のコメント | WhatsAppで共有

Grafychat の紹介

  • Grafychat は ChatGPT およびその他の対話型AI向けの、プライバシーに配慮したキャンバスベースのビジュアルノートブック
  • OpenAI、Google AI、ローカルの Ollama モデルと連携
  • API キーを持ち込んでチャットを開始できる

Grafychat の主な機能

無限キャンバス

  • チャットを視覚的に構成できる
  • 会話を管理するために点をつないでいける
  • 必要なだけキャンバスを作成できる

プライバシー重視

  • すべてがユーザーのデバイスに保存される
  • データがデバイス外に出るのは、ローカルではない LLM へのリクエスト時のみ
  • サインアップやアカウントは不要

結果の制御

  • カスタム指示を簡単に適用できる
  • リアルタイムでモデルを切り替えられる
  • モデルのパラメータを調整できる

強力な検索

  • すべてのデータに対して全文検索が可能
  • 高精度にフィルタリングできる
  • 結果を簡単にたどれる

最高水準の OpenAI サポート

  • GPT-4 など、すべての ChatGPT モデルをサポート
  • 音声入力/ディクテーションをサポート
  • 音声生成/ナレーションをサポート
  • 画像生成をサポート
  • ChatGPT の有効なサブスクリプションは不要
  • 自身の OpenAI API キーを使用可能

無料で使えるローカルモデル

  • Ollama をサポート（Mac、Windows、Linux）
  • 拡大し続けるオープンソースモデルのカタログ
  • 強力な Llama 3 など
  • 完全無料で利用可能
  • デバイス上で Ollama アプリを実行して設定するだけでよい

カスタマイズ可能なプロンプトライブラリ

  • アプリ全体で利用可能
  • プロンプトを簡単に保存、編集、再利用できる

各チャットは Markdown エディタ

  • すべてのチャットを編集できる
  • データをすっきり保てる
  • Inspector から Markdown にエクスポート可能

Inspector 付きのクラシックなチャットビュー

  • Inspector でチャットを開始または継続できる
  • 現在の会話を選択して確認できる
  • Markdown にエクスポート可能

カスタマイズ可能な見た目と操作感

  • Flow に色を追加できる
  • 特定の部分を表示/非表示にできる
  • 会話の一部にラベルを付けられる

複数のAIプロバイダーをサポート

  • OpenAI
  • Google AI
  • Llama 3 を介した Ollama
  • さらに対応リストは増え続けている

BYOAK - API キーを自分で持ち込む

  • JSON ファイルでデータをインポート/エクスポート
  • キーボードショートカット
  • コードハイライト対応
  • チャットの固定、カラータグ付け
  • カスタム背景
  • ダークモード
  • など

価格とライセンス情報

  • 1回の購入でライセンスを所有できる
  • 各ライセンスには 5 回のアクティベーションが含まれ、有効期限はない
  • Standard ($39): すべての制限を解除し、全機能をアンロック
  • Extended ($59): Standard の全機能 + セルフホスティングパッケージ、デスクトップアプリは近日公開予定
  • Premium ($79): Extended の全機能 + プレミアムサポート、デスクトップアプリは近日公開予定

FAQ 要約

  • Grafychat は ChatGPT およびその他の対話型AI向けの、プライバシーに配慮したキャンバスベースのビジュアルノートブック
  • サブスクリプション型アプリではなく、1回の購入でライセンスを所有できる
  • 5 回のアクティベーションとは、ライセンスキーを 5 台の異なるデバイスで使えることを意味する
  • OpenAI、Google AI、ローカルの Ollama モデルなど、複数のチャットボットプロバイダーをサポート
  • サインアップや OpenAI のサブスクリプションは不要
  • デスクトップアプリはまだ公開されていないが、開発中
  • Grafychat.com はユーザーデータを保持しない
  • 返金ポリシーについては別途問い合わせが必要

GN⁺ の意見

  • Grafychat は ChatGPT や GPT-4 など、さまざまな対話型AIモデルを視覚的に管理できるツールに見える。特に、会話内容をキャンバス形式で構成して接続できるため、体系的に会話を整理するのに役立ちそう。
  • ユーザーデータをデバイスに保存し、API キーを直接入力させるなど、プライバシーを重視している点も利点。ただし、ローカルではない LLM へのリクエスト時にはデータが外部へ送信される点には注意が必要そうだ。
  • オープンソースモデルの Ollama にも対応していて無料で使える点、さらにプロンプトライブラリ機能でよく使うプロンプトを保存して再利用できる点など、使い勝手を高める機能が多彩。
  • 一方で、サブスクリプション方式ではなくライセンス方式のため、価格はやや負担に感じられるかもしれない。Standard プランでも $39 と決して安くはない。機能が多く、個人情報保護に配慮しているとはいえ、オープンソースモデルを無料で使えることを踏まえると、価格競争力には疑問が残る。
  • まだデスクトップアプリがなく、Web ベースでのみ提供されている点、また新しいサービスであるぶん安定性や今後継続するかどうかが不透明な点も、導入時に検討すべき事項。

関連記事

1件のコメント

 
GN⁺ 2024-05-09
Hacker News のコメント

  • サイト上の CSS 1行のせいで、自分のノートPCがひどく重くなる
    モーダル、たとえば YouTube 動画のポップアップで使われている backdrop-filter: blur(0.1875rem) が原因

    • フロントエンド開発者だが、この理由でこの効果は絶対に使わない
      高性能ノートPCでも消費電力が大きすぎて、ファンが勢いよく回り始める
    • ぼかし効果はなぜいつもあんなに電力を食うのか気になる
      GPU を使う方法がないのか、それともまったく別の問題なのか分からない

  • 以前、ドラッグ機能はなくツリー可視化だけがある似たようなインターフェイスを考えたことがある
    たいてい同じ会話の中で枝分かれした話題を扱うが、あとで AI が混乱しないように、枝分かれが始まった以前のメッセージを編集する
    ところが OpenAI はその枝分かれツリーを捨ててしまうので、手動で整理しなくても、探索した枝分かれ話題のツリーを見せてくれるとよい

    • ChatGPT はツリー全体を保持していないのか？ 最後に見たときは、特定のノードで前後に切り替えられた

  • 興味深いアプローチだ。典型的な中間段階のワークフローを扱っているように見える
    最終成果物は線形形式を好むとしても、実際の作業はまず階層構造を完成させる形で進むことが多い
    何年も Gingko https://gingkowriter.com/ を使っているが、段階的な展開を際限なく許しつつ、簡単に線形構造へ畳めるので、問題構造を整理する負担を減らしてくれる
    この場合、ツリーの葉の数だけ N 個のコンテキストを維持するのか、チャット同士は分離されているのか、果てしない非構造キャンバスから整理された最終成果物へどう移行するのかが気になる

    • 良い質問だ
      コンテキストは結局グルーピング方式の一つなので、葉の数だけコンテキストを維持するかは状況による
      非構造キャンバスから整理された成果物へ移行する部分は、アプリ内コマンドと組み合わせた RAG と見ており、ローカル RAG ソリューションに取り組んでいる
      まだ初期段階だが有望で、基本的にはすべてのデータと対話し、その上にさまざまなコマンドを適用する方式だ
    • なぜ必ず整理された最終成果物へ変換しなければならないのか分からない
      潜在ユーザーであり、似たツールを自作しようかと考えた立場からすると、ツリー、より正確には有向グラフそのものが望む最終成果物だ
    • 少し話題から外れるが、Mac 向けに Gingko に似たスタンドアロンソフトウェアがあった気がする
      探してみると Gingko の昔のデスクトップアプリ版のようで、まだ https://github.com/gingko/client/releases から入手できる
    • 自分のコンピュータ内にすべて残っているべきソフトウェアにサブスクリプション課金を付けるのは受け入れがたい

  • Obsidian と https://github.com/AndreBaltazar8/obsidian-canvas-conversati... のようなプラグインを使えば、こういうものは自分で簡単に作れる

    • Dropbox をいくつかのスクリプトと sftp で置き換えたときに似ている
    • 下のコメントで、Obsidian Canvas 用の無料プラグインをさらに多く挙げている: https://news.ycombinator.com/item?id=40301465
    • 「簡単」は技術者に限った話で、一般ユーザーにはそうではない

  • デモを見ると興味深いが、ノードをドラッグ＆ドロップして関心のあるノードを探すのに、すぐ疲れそうだ
    検索機能があるのか気になる
    AI がエージェントのようにグラフビューを作ってくれたり、少なくともフォローアップ質問を提案・強調し、それらが自動的にグラフ内で整理されたりするなら、もっと面白そうだ

    • 検索はここで自分が気に入っている機能の一つだ。/ ショートカットを試すといい
    • 個人的には、時間をかけて整理したりドラッグ＆ドロップしたりする価値はあると思う
      おそらく自分が視覚的に考えるタイプだからだろう

  • 唯一のフィードバックは、クローズドソースの AI 製品は怪しく感じるので買わないだろうという点だ
    それでもサブスクリプションモデルの流れを避けたのはありがたく、うれしい
    テレメトリが送信されていないことを確実に分かるようにオープンソースで公開し、サポート費用を取る形なら支払える
    ただし自分が変わり者なのかもしれないので、適当に割り引いて聞いてほしい
    アイデアは素晴らしく、集中すれば週末1日か2日で MVP 程度は作れそうだ
    もちろん、個人的に関心のない派手な機能は実装にもっと時間がかかるかもしれない

    • セルフホスティングの選択肢なら実用的な解決策になり得るか？
      https://www.grafychat.com/d/docs/selfhost
      ただしコードが難読化されていないという前提は必要そうだ
    • ソースは公開したくないが、ビルドについて必要な監査を受ける意思があるプロジェクト向けに、open-build のような方法論があるとよい

  • こういう機能を OpenAI や Anthropic の UI でも提供してくれるとよい
    実際には単純に「create a new chat from here」さえあればいい
    製品は格好よく、よくできているが、価格が個人的には障害だ

    • ソフトウェア購入の判断を、近所の McDonald's のドライブスルーメニュー価格と比べて考えてしまう
    • サードパーティクライアントはこれをサポートしている
      たとえば MindMac の「Fork from this message」機能が気に入っている
    • 以前の質問を編集すれば、この目的はかなりうまく達成できる
      既存の UI も以前の編集版をリビジョンツリーとしてすべて保持している

  • ランディングページが良く、製品を十分うまく説明している
    以前に似たものを欲しいと思ったことがあるので、このコンセプトも気に入った

  • 共有されたデモでは、元の親チャットから子チャットを作る様子が見える
    2つの子チャットを接続・マージして次の子チャットを作る方法や、以前の子チャットからさらに子チャットを作る方法も試したのか気になる

    • JSON、TXT、CSV ファイルが入ったフォルダを読み込み、1つずつ流して結果を別フォルダに集めるノードがあるとよい
      LLM パイプラインやプロンプトエディタのような形だ

  • 一部のフロントエンドに統合されるとよさそうな追加機能として、機密情報が漏れないようにする検索・置換のキー値ストアを作ったことがある
    内部ドメインの代わりに IP、ドメイン、サブドメインを something.contoso.com のようなダミードメインに置き換えて ChatGPT に送れるなら、支払う価値のある機能だ
    Python で実装してはあるが、別のフロントエンドに付けた追加機能なのでかなり粗削りだ