Web LLM - WebGPUでブラウザ上のLLMを高速化して実行 (github.com/mlc-ai) 14 ポイント 投稿者 xguru 2023-04-18 | まだコメントはありません。 | WhatsAppで共有 サーバーなしで、ブラウザ上で LLaMA や Vicuna のような LLM を WASM を使って動作 WebGPU による高速化に加え、Apache TVM がサポートする GPU バックエンド（CUDA、OpenCL、Vulkan）にも対応 MLC（Machine Learning Compilation）技術を使用 関連記事 Web LLM - Llama2 7B/13Bのサポートを開始 26 ポイント · 7件のコメント · 2023-08-30 Secret Llama - WebGPUで動作するブラウザ内 Llama 3 チャットボット実装 19 ポイント · 1件のコメント · 2024-05-07 MLC LLM - LLMモデルをあらゆるデバイスにデプロイ可能にするオープンソースソリューション 15 ポイント · 1件のコメント · 2023-05-11 iPhone 17 Proで400B LLMを実行する 6 ポイント · 1件のコメント · 2026-03-24 Web Stable Diffusion - WebブラウザーでSDを実行する 13 ポイント · 0件のコメント · 2023-03-13 まだコメントはありません。 まだコメントはありません。
まだコメントはありません。