MemGPT - 無限のコンテキストのための自己編集メモリを備えたLLM

• MemGPTは、言語学習モデル（LLM）のメモリ階層を管理する新しいシステムで、LLMの限られたコンテキストウィンドウ内で拡張されたコンテキストを提供します。
• ベクターデータベースで重要な情報を保存・検索するタイミングを判断し、途切れない対話を可能にします。
• MemGPTは、自己編集メモリを持つチャットボットの作成に利用できます。
• MemGPTシステムは、Discordの #memgpt チャンネルでMemGPTボットにメッセージを送ってテストできます。
• MemGPTをローカルで実行するには、依存関係をインストールし、OpenAI APIキーを環境に追加して、main.py を実行する必要があります。
• /memgpt/humans/examples または /memgpt/personas/examples に新しい .txt ファイルを作成することで、MemGPT用の新しい初期ユーザーまたはペルソナを作成できます。
• MemGPTは、/exit、/save、/load、/dump、/memory、/pop、/heartbeat、/memorywarning など、さまざまなCLIコマンドをサポートしています。
• デフォルトではMemGPTは gpt-4 を使用するため、gpt-4 APIへのアクセス権があるAPIキーが必要です。
• 問題や機能要望については、GitHub Issueを作成することが推奨されています。
• MemGPT論文で使用されたデータセットは、HuggingFaceからダウンロードできます.

[GN⁺]

Hacker Newsのコメント

• MemGPTの著者らは、実装に関する質問に答える意思がある
• MemGPTには、メモリ編集をリアルタイムで表示するDiscordボットがある
• MemGPTのコードはオープンソースで、GitHubで利用可能
• あるコメント投稿者は、前処理と後処理の段階で別のエージェントへの複数のリクエストを並列化するプロセスを提案している
• 別のコメント投稿者は、関数呼び出しが文法的に正しく行われるよう、文法ベースのサンプリングを使うことを提案している
• 一部のコメント投稿者はこのプロジェクトへの興奮を表明しており、これを将来のチャットボットにおける基本的な機能だと見なしている
• 著者らは、MemGPT上に実装されたDiscord常駐チャットボットを公開した
• 一部のコメント投稿者は、コンテキストウィンドウがLLMsの最大の制約だと考えている
• 著者らのタイトル選びについての議論がある
• あるコメント投稿者はこのアプローチを批判し、既存のコンテキストが低エントロピーで要約可能なコンテキストから成り、すべてのクエリが履歴の一部分にしか依存しないという仮定に依存していると主張している。彼らは、これは常に当てはまるわけではなく、特にコード生成のコンテキストではそうではないと考えている。