MemoryCache: ブラウザベースのローカルAIを強化しようとするMozillaのプロジェクト

 (future.mozilla.org)
3 ポイント 投稿者 GN⁺ 2023-12-13 | 2件のコメント | WhatsAppで共有
  • 提供された本文は Mozilla New Products ホーム の内容であり、Hacker NewsのタイトルにあるMemoryCache紹介本文は含まれていない
  • Mozilla New Productsは新しい製品を発見・テスト・探索し、ユーザーが 次世代技術 の形成に参加できるよう招待する場である
  • 現在確認できる製品は、ウェブサイト制作向けの Solo、AIセキュリティバグバウンティ 0din、AIシステム向けのウェブ実行・データ変換API Tabstack である
  • ニュースレターはMozillaの最新製品と機能への 早期アクセス、更新の確認、フィードバック共有の経路を提供する
  • この本文だけでは、MemoryCacheの構造、ブラウザベースのローカルAIを強化する方式、使用方法、制約条件は確認できない

提供された本文は Mozilla New Products ホーム

  • Mozilla New Productsは、生産性向上、ビジネス成長、製品構築に役立つ 革新的な製品 を発見・テスト・探索する場として案内されている
  • Mozillaは人を優先するソリューションを作り、ユーザーが新製品のテストに参加して 次世代技術 をともに形作るよう招いている
  • インターネットの未来はオープンでアクセスしやすく、プライバシー優先 であるべきだという方向性を掲げている

確認可能な製品と参加方法

  • Solo: 無料のウェブサイトを作成し、カスタムドメイン を接続できる製品である
  • 0din: LLMモデルの脆弱性を見つけて報酬を受け取る AIセキュリティバグバウンティ プログラムである
  • Tabstack: AIシステムがウェブを安定して読み取り、処理できるよう支援する ウェブ実行・データ変換API である
    • AIエージェント、リサーチツール、データパイプライン、自律ワークフローを作る開発者を対象としている
  • Mozilla New Productsニュースレターは、最新製品と機能への 早期アクセス、更新の確認、フィードバック共有を提供する
  • 提供された本文にはMemoryCacheに関する説明がないため、機能や実装の詳細は確認できない

関連記事

2件のコメント

 
ndrgrd 2023-12-14

いいことばかりですが、ブラウザを何でも雑多に詰め込んだがらくた置き場のようにしようとはしないでほしいですね。
かつての internet suite から得た教訓があるはずですし。

ブラウザはブラウザ。AIはAI。必要なときに別々に実行すればそれで十分です。
 
GN⁺ 2023-12-13
Hacker News の意見

  • データがモデルへ行くのではなく、モデルがローカルデータのもとへ来るべきで、データはローカルに残るべき
    個人データを読み込むオープンソースは多いが、画像や動画までうまく扱えるものはあまりない。将来的には各自が自分のモデルを持つようになるかもしれないが、今は技術はあっても、誰もが自分の QLORA、RAG、要約器を簡単に持てるようにする製品やオープンソースが不足している
    メッセージや文書だけでなく、私たちが読んだり書いたりするもの、考えも個人を形づくる要素だ。ブラウジング履歴は何を読んでいるかを多く物語るが、Google が広告に使う以外にはほとんど活用されていない。毎日見るニュースサイト、ソーシャルネットワーク、YouTube 動画をまとめて「今日のこの3か所の要約はこうです」と言えるべきだ
    昨日 https://www.youtube.com/watch?v=zHLCKpmBeKA を見ながら、30年近く経ったのに、なぜいまだに私たちより一歩先に動くコンピュータアシスタントがないのか考えていた

    • 「個人データを読み込むオープンソースは多いが、画像や動画は扱わない」という部分については、画像向けローカルモデルはかなり良くなってきている
      LLaVA はマルチモーダル画像機能を持つ大規模言語モデルで、私のノートPCでもかなりよく動く: https://simonwillison.net/2023/Nov/29/llamafile/
      Salesforce BLIP のようなモデルは画像キャプション生成にも使え、そのための小さな CLI ツールも作った: https://github.com/simonw/blip-caption
    • まさにそういうものを https://software.inc で作っている
      ユーザーに関するデータ、つまりコンピュータとインターネットから来た情報をローカルデータベースに集め、モデルにその使い方を学ばせる。モデルはローカルでもクラウドベースでもよく、データの機密性や必要な機能に応じてリクエストをルーティングできる
      面白そうだと思ったら、採用もしている
    • AI を抜きにしても、訪問したすべてのウェブページを従来型の検索で見つけられるアーカイバーがあるだけで大きな前進だ
      私の検索のかなりの部分は、以前見たものをもう一度探すことだが、ページが消えていたり、検索エンジンで低くランク付けされていたり、HTTP だけを使う古い文書のように検索最適化に埋もれていたりして、よく行き詰まる
    • GitHub Copilot はまさにそういう形で動作していると思う。まずコードベース全体と依存関係までスキャンしてインデックス化し、そのうえで自動補完時にコードのコンテキストを強く使うので、Copilot が役に立つ
      モデルが私たちのデータ側に来るべきだという話には同意する。Copilot のような知能が完全にデバイス内で動作し、メッセージ、ブラウジング履歴、ウェブページ内容のような個人の痕跡を見渡せるなら、ゲームチェンジャーになるだろう
    • 単に今日見たサイトを要約するより、もっと野心的なことを思いついた。検索履歴と行動を使って検索クエリの書き方を引き出すモデルが必要だ
      Bing Chat の検索クエリは、検索エンジンとは何かをたった今説明されたおじさんが入力しそうなレベルに見える。site: や filetype: のような高度な演算子、少なくとも括弧と AND/OR も使うべきだ
      優れた研究者、リーガルアシスタント、そして祖父の Ellis Island の話を即座にファクトチェックして到着記録と Chicago での帰化の証拠を見つけ出す自閉スペクトラム症の若者たちの検索プロセスを模倣するようにファインチューニングできるはずだ

  • 良いアイデアだ。Mozilla は Firefox の運営のまずさや政治的な説教のせいで、当然ながら多く批判されているが、それでもプライバシーを守りつつユーザーフレンドリーな技術を作る能力はまだあると思う
    Firefox に内蔵されたオフライン翻訳機をよく使うが、魔法のようだ。サーバーファーム級のハードウェアなしに、ローカルであんなことが動くとは思っていなかった
    今回の実験もそうなってほしい

  • 私のブラウジングの使い方には、これはあまり合わない。ブラウジング履歴と「チャット」したいわけではなく、単にブラウザがオペレーティングシステム上でブックマークの内容をインデックス化して、実際のページ内容を検索できるようになってほしいだけだ
    ChatGPT で得られるフィードバックループは、ローカル GPT 相当品より常にずっと良いだろうと思う
    ただ、重要な情報なので後で2回以上見返すページをよくブックマークする。そこで、ローカルブラウザストレージのブックマークをクロールし、そのページをダウンロードして OS の検索インデックスに追加するソリューションを作り始めた
    何年もかき続けていた痒いところだ

    • 小さなデータセットは全文検索で再現率が悪くなりやすい。AI が少し賢いファジー検索を加えてくれれば、ローカルにインデックス化されたブックマーク体験はかなり良くなるかもしれない
    • Chrome が最初に出たとき、こういうことをしていなかったか？ 機能としてあったようなうっすらした記憶がある
      個人的には、ブラウザが履歴をやたら忘れないだけでも満足だ。Firefox と Safari はどちらも履歴の保存期間が短すぎる
    • これは単に Safari では？ 最新チップを使う前提なら

  • ブラウジング履歴とページ内容に「チャット」できる方法が本当にあればいいのに。後で処理できるように、訪問したページを自動保存する方法があるのか気になる
    10年以上前に探したが、まともな解決策は見つからなかった

    • WorldBrain の Memex（https://github.com/WorldBrain/Memex）がそれを約束しているように見える。アイデアには期待していたが、結局使わなくなった理由があった気がする
    • Recoll と Recoll-WE を確認してみる価値がある: https://addons.mozilla.org/en-US/firefox/addon/recoll-we/
    • Zotero でも可能かもしれないが、研究中心なのでかなり不完全な解決策に近い
    • Rewind.ai がほぼこの用途向けだ。さっきインストールしたところで、今のところかなり満足している

  • 従来のブックマークは、記憶に頼った整理がスケールしないため失敗した。このようなインターフェースは拡張可能で、きちんと作ればブックマークを完全に置き換えられる。
    考えてみるとローカルファイル全体にも使えるので、昔の「ファイルシステムをデータベースのように」使おうというアイデアの、より良い版のように動作し得る。特定のナレッジベースにも合っていて、例えば大規模言語モデルベースのZoteroのような形だ。

    • たった今、Windows Longhornの現代版を発明したように聞こえる
    • 「Networked Environment for Personal, Ontology-based Management of Unified Knowledge」、つまりNepomukセマンティックデスクトップのアイデアはこれではなかったか？
      大規模言語モデルにRDFを適切に埋めさせることができ、今のようにメモリとストレージがはるかに多く高速なら、動くかもしれない
    • Orbitのようなものがまさに合いそう
      https://withorbit.com/

  • Mozillaは何かをつかんだように思う。
    巨大企業とプロンプトをやり取りして、そのたびに彼らをさらに豊かにする代わりに、より小さなローカルモデルを使い、プライバシーをはるかに尊重するやり方だ。
    こういう運営モデルなら、オープンソースに貢献したり、さらには資金提供したりする気にもなる。
    正直なところMozillaという組織の大ファンではないが、アンダードッグは応援せずにはいられない。

    • 将来は、彼らのAIが私たちのAIと会話することになる。私たちには防護壁が必要だからだ
    • Appleが数年前からやってきたことに似ている。ただ、そのうちどれだけが「AI」なのかは依然として不明だ。だから、ほかの誰かがその隙間に入り込むのは自然なことだ

  • 興味のある人のために、PrivateGPTのリポジトリはこちら: https://github.com/imartinez/privateGPT
    公式Webサイトからはリンクされていないようだ

  • 元インターンとしてFirefox OS時代を経験したせいか、これはMozillaが将来また独自OSを出すための再参入のように感じる。
    インターネットは人々をつなぐために生まれたと言われていたが、こうした派手な機能をすべてブラウザに入れるやり方が最適というわけではない。
    Firefox OSは基本的に、小さなLinuxカーネル、Gecko、レンダリング用のHTML5で構成されていた。iOSやiPadOSのように、Mozillaもデバイスやプラットフォーム向けに似たOSを提供できる。
    過去5年間ARとVRにも投資してきたので、最終的にまた別のFirefox OSに賭けても驚かない。

  • もしかしてフォークされたリポジトリにリンクしようとしていたのだろうか？
    https://memorycache.ai/developer-blog/2023/11/30/we-have-a-w... は https://github.com/misslivirose/Memory-Cache に飛ぶ。
    意図していたのは https://github.com/Mozilla-Ocho/Memory-Cache だったのだろうか？

  • 共有されたリンクだけでは、これが何を意味するのかほとんど見当がつかなかった。
    公式サイトのほうを少しさかのぼってみると、「MemoryCacheはローカルデスクトップ環境をオンデバイスAIエージェントに変えるための実験的な開発プロジェクト」とある。
    11月の記事もある: Introducing Memory Cache
    https://memorycache.ai/developer-blog/2023/11/06/introducing...