MemoryCache - ブラウザベースのローカルAIを強化するためのMozillaのプロジェクト

 (future.mozilla.org)
3 ポイント 投稿者 GN⁺ 2023-12-13 | 2件のコメント | WhatsAppで共有
  • ローカルデスクトップ環境をオンデバイスAIエージェントへと変えるための実験的な開発プロジェクト
  • ブラウザに保存されたローカルファイルでオンデバイスモデルを強化し、よりパーソナライズされた体験を提供
  • 現在のMemoryCacheは、privateGPTのローカルコピーを強化するためのスクリプトと簡単なツールセット
    • Firefox拡張: ページを/Downloads/フォルダのサブディレクトリに保存するシンプルな「プリンター」として機能し、ブラウザからローカルコンピュータへメモや情報をすばやく保存する機能を含む
    • シェルスクリプト: /Downloads/MemoryCache/ディレクトリの変更を検知し、privateGPTのingest.pyスクリプトを実行
    • 人がより読みやすいように、WebページをPDFとして自動保存できるよう修正したFirefox SaveAsPDF APIコード

関連記事

2件のコメント

 
ndrgrd 2023-12-14

いいことばかりですが、ブラウザを何でも雑多に詰め込んだがらくた置き場のようにしようとはしないでほしいですね。
かつての internet suite から得た教訓があるはずですし。

ブラウザはブラウザ。AIはAI。必要なときに別々に実行すればそれで十分です。
 
GN⁺ 2023-12-13
Hacker Newsの意見

  • Redditでもこの話題について議論されていた。データをモデルに送るのではなく、モデルが私たちのデータが保存されているローカル環境に来て、そこにとどまるべきだ。多くのオープンソースソフトウェアは個人データを読み込めるが、画像や動画は処理できない。将来的には誰もが自分専用のモデルを持てるかもしれないが、現時点では技術はあっても、誰もが自分専用の QLORA、RAG、要約ツールを持てるような製品/オープンソースソフトウェアが不足している。メッセージや文書だけでなく、私たちが読んだり書いたりするもの、考えることも個人の独自性を形作る。私たちの閲覧履歴は、私たちが何を読んでいるかについて多くを物語るが、Googleが広告のために使う以外では、これを活用している人はほとんどいない。ほとんどの人には、特定のニュースサイト、ソーシャルネットワーク、YouTube動画などを読む習慣がある。今日、この3つから要約してくれる。*

    • データをモデルに送るのではなく、モデルがユーザーのローカルデータにアクセスすべきだという意見。
    • 現在、多くのオープンソースソフトウェアはあるが、画像や動画の処理は不十分。
    • 個人の独自性は読むこと、書くこと、考えることにも表れ、閲覧履歴の活用事例は不足している。

  • MozillaはFirefoxや政治的なお説教で多くの批判を受けているが、プライバシー保護とユーザーフレンドリーな技術を開発する力は依然としてあると信じている。FF内蔵のオフライン翻訳機をよく使うが、サーバーパークなしでローカル実行できるのは魔法のようだ。この実験が成功してほしい。*

    • Mozillaには、プライバシー保護とユーザーフレンドリーな技術開発の力が今もあるという前向きな意見。
    • Firefox内蔵オフライン翻訳のローカル実行能力への感嘆。

  • 閲覧用途に関しては、これは自分には合わない。閲覧履歴と「会話」したいとは思わない。ブラウザがOS上でブックマークの実際の内容を検索できるように、インデックス化してほしい。chatGPTから得られるフィードバックループが、ローカルGPT対応より常に優れていると仮定している。しかし、重要な情報を含むページをブックマークして、何度も見返せる価値はある。そのための解決策を作り始めた。ローカルブラウザストレージのブックマークをクロールし、そのページをダウンロードしてOSの検索インデックスに追加している。これは何年も自分の悩みの種だった。*

    • ブラウザがOS上でブックマーク内容をインデックス化する機能を望むユーザーの意見。
    • 重要な情報を含むページをブックマークし、簡単に検索できる解決策を開発中。

  • 閲覧履歴やページ内容と「会話」できる方法を本当に求めている。後で処理するために訪問したページを自動保存する方法はあるだろうか？ 10年以上前に探したが、良い解決策を見つけられなかった。*

    • 閲覧履歴やページ内容を後で処理する方法への関心。

  • ここには何か可能性があるかもしれない。巨大企業との往復を減らし、各プロンプトで彼らをさらに潤すのではなく、プライバシーをはるかに尊重する小さなローカルモデルを使う。こうした運用モデルにはオープンソースで貢献したり、資金提供したりする意思がある。Mozillaという組織の大ファンではないが、アウトサイダーを応援するのは好きだ。*

    • プライバシーを尊重する小規模なローカルモデルの利用への支持。
    • その運用モデルに貢献したり資金提供したりする意思がある。

  • 従来のブックマークは、記憶に頼る整理方法がスケールしないため失敗している。こうしたインターフェースはスケーラブルで、正しく実装されれば全面的に置き換えられる可能性がある。考えてみれば、これはあらゆるローカルファイルにも使え、ファイルシステム-データベースという概念のより良い版として機能するかもしれない。あるいは、特定の知識ベース（たとえば LLM ベースの Zotero）にも使えるだろう。*

    • ブックマークのスケーラビリティ問題と、新しいインターフェースが置き換え得る可能性についての意見。
    • このインターフェースはローカルファイルや特定の知識ベースにも適用できる。

  • 興味のある人向けの PrivateGPT リポジトリへのリンク: https://github.com/imartinez/privateGPT。公式サイトからはリンクされていないようだ。*

    • PrivateGPT リポジトリに関する情報共有。

  • Firefox OS時代を経験した元インターンとして、これは将来的にMozillaが提供するOSへの再参入の可能性を感じさせる。インターネットは人々をつなぐために生まれたが、あらゆる素晴らしい機能をブラウザに統合するのが最適な方法とは限らない。Firefox OSは基本的に小さなLinuxカーネルにGeckoとHTML5レンダリングを載せたものだった。iOSやiPadOSのように、Mozillaがデバイス/プラットフォーム向けに似たOSを提供することもあり得る。過去5年間ARとVRに投資してきたので、最終的に別のFirefox OSに賭けることになっても驚かない。*

    • Mozillaが将来、自社OSを再び提供する可能性についての推測。

  • フォークされたリポジトリにリンクしようとしたのでしょうか？ https://memorycache.ai/developer-blog/2023/11/30/we-have-a-website.html のリンク先は https://github.com/misslivirose/Memory-Cache ですが、https://github.com/Mozilla-Ocho/Memory-Cache のことですか？*

    • 特定のGitHubリポジトリリンクに関する質問。

  • これを長い間やっている。FFのソリューションは、単により自動化されているだけだ。

    • Firefoxのソリューションに関する個人的な経験の共有。