単一のSQLiteテーブルと少数のcronジョブを使う、ハックしやすいAIアシスタント

• Stevensは、SQLiteテーブルとcronジョブを使って構築されたシンプルなAIアシスタントである
• Stevensは毎朝、予定、天気、郵便物などの情報をユーザーに提供する
• Stevensの構成はVal.townプラットフォーム上でホストされ、SQLiteストレージ、HTTPリクエスト処理、メールの送受信をサポートしている
• Stevensはさまざまなデータソースを通じて情報を収集し、それによってユーザーに合わせた情報を提供する
• Stevensは個人プロジェクトであり、ユーザーはコードをフォークして自分だけのAIツールを作ることができる

---

Stevens: ハックしやすいAIアシスタント

• Stevensは、Ishiguroの小説『Remains of the Day』に登場する執事の名前にちなんだAIアシスタントである
• 毎朝Telegramを通じて、予定、天気、郵便物などの情報をユーザーに提供する
• ユーザーはTelegramチャットを通じてStevensとやり取りできる

Stevensの構成

• StevensはVal.townプラットフォーム上でホストされ、SQLiteテーブルとcronジョブを使用している
• Stevensの「ノートブック」はSQLiteテーブルで、予定や背景情報を保存する
• cronジョブを通じてClaude APIを呼び出し、朝のブリーフを作成してTelegramへ送信する

データ収集方法

• Google Calendar APIを通じて予定データを収集する
• 天気APIを通じて地域の天気予報を確認する
• USPS Informed Deliveryを通じて郵便物情報をOCR処理する
• Telegramおよびメールメッセージを通じてログ項目を追加する
• 毎週「面白い事実」を追加し、日々の更新にちょっとした彩りを加える

プロジェクトについての振り返り

• 個人向けAIツールでは、多様な情報ソースへのアクセスが重要である
• 「メモリ」はシンプルに始められ、必要に応じて拡張できる
• Stevensは、ユーザーを楽しませるために格式ばった執事のように話すよう設定されている

自分で試してみる

• Stevensは商用製品ではなく、個人プロジェクトである
• ユーザーはコードをフォークして、自分自身の役に立つツールを作ることができる
• Val Town CLIを使ってローカルファイルシステムと同期できる

[GN⁺]

Hacker Newsのコメント

• この機能の有用性ゆえなのか、それとも「英国紳士の執事」のような表現ゆえなのかは分からない

  • なぜこの機能を Apple や Google の製品発表ではなく、あるエンジニアのブログで読むことになるのか気になる
  • この 2 社が AI 技術を要約や質問応答のような「解決済みの問題」の領域に適用していないのは残念だ
  • AI に関する機会があるのなら、この独占的な 2 社への脅威になり得るだろう

• 自分のユーティリティプログラムがメールボックスにアクセスできたらどうだろうと考えた

  • 天気を確認したりシステムコマンドを実行したりする小さなユーティリティプログラムがある
  • メールボックスがあれば情報を送れ、AI がそれを分析してメールを送ったり新しいメッセージを生成したりできる
  • メールを分析して内部ストアに追加したあと、そのメッセージを削除することで有用に使える

• 類似のオープンソースプロジェクトのアイデアを考えている

  • バックエンドをユーザーがアクセス可能な LLM で構成したい
  • タッチスクリーンと接続して、Alexa のようなデバイスとして使えるのか気になる
  • カレンダー、天気、Homebridge、Spotify などとの統合を拡張可能にしたい
  • 今はこのプロジェクトに多くの時間を割けないが、この方向に進む人たちと一緒にやりたい

• 実用的な AI ハックを見たい

  • 複雑な構造やベクタ DB なしで、既存のデータソースとの実用的な統合を好む

• 「コンテキストトークンのスイートスポット」を解決する方法を実験中だ

  • LLM がデータベースと協調して情報を保存し、要約する形で動作する
  • 要約ドキュメントを生成することでコンテキストを維持しつつ、データベースを通じて重要な詳細を補える

• sqlite DB を次トークン予測に使うのかと思った

  • 他の人たちは Claude を使っている

• mcp.run とタスクを使って似たようなものを構築した

  • 会話が存在するか確認し、結果を保存する形でプロンプトを修正した
  • レジストリにサーブレットを追加してボットの機能を拡張できる

• Stevens は最初 Apple や Google の製品のようなそっけないトーンで話していたが、フォーマルな執事のように話すほうがずっと面白かった

  • パーソナルアシスタントの世界で、LLM がしゃべりすぎることが最大の不満の 1 つだ
  • 大金持ちになって音声アシスタントと友達になる時間ができるまでは、必要なのは J.A.R.V.I.S. ではなく LCARS だ

• こうしたツールは今後数年、ハッカーにとって肥沃な土壌になるだろう

  • スタックの多くの部分は OSS の配管としてコモディティ化されており、ホスティング推論はすでに安価で容易だ
  • エージェントをメールやカレンダーに接続するにはセキュリティ上の問題があるが、多くの人は Apple や Google に制御権を渡すより、スタック全体を自分で制御することを好むだろう

• メモリの枝刈りや要約について考えたことがあるのか気になる

  • 古い項目を削除する代わりに LRU を使ったり、応答を要約して同じテーブルに保存したりする方法を検討できる
  • 生データは消えても圧縮版は残るので、メモリを軽く保ちながらコンテキストを維持できる