Dalai - LLaMAをあなたのコンピューターで最も簡単に実行する方法

• たった2文で LLaMA 7B モデルをローカルで実行可能
  npx dalai llama
npx dalai serve
• llama.cpp + llama-dl CDN
• ハック可能なWebアプリを内蔵（JavaScript API および Socket.io API を含む）
  • localhost:3000 にアクセス

[ragingwind]

1つ出てくると、芋づる式に次々といろいろ出てきますね

[xguru]

ダライ・ラマっていうのか…ネーミングセンスが…。
llama.cpp - FacebookのLLaMAモデルを純粋なC/C++で推論する