Llama 2 Everywhere (L2E) - スタンドアロン、バイナリポータブル、ブート可能な Llama 2
(github.com/trholding)- 幅広い種類のデバイス（廃棄された Chromebook から高密度ユニカーネルまで）で互換性を保証することを目標
- L2E 同士をネットワーク接続し、分散・自己調整される小規模な専門 LLM Army を構築・活用することで、未来の AI へのアクセスを民主化し、単一の大規模 LLM を上回れると考えている
- L2E OS : 小さな Llama2 モデルで起動し、すぐに推論可能
- Unikernel Build : 数千個の Llama 2 モデルをサーバー上で実行し、推論
- 1つの実行ファイルで、あらゆる X86_64 デバイス上で実行可能（cosmopolitan ツールチェーンを利用）
まだコメントはありません。