Llama.ttf - LLM機能を持つフォント

 (fuglede.github.io)
11 ポイント 投稿者 GN⁺ 2024-06-24 | 2件のコメント | WhatsAppで共有
  • Llama.ttfはフォントファイルであると同時に、大規模言語モデル（LLM）とその推論エンジンでもある
  • Firefox/Chromeで使われているフォントシェーピングエンジン Harfbuzz は、Wasm shaper を通じて任意のコードでテキストを「シェーピング」できるようにする
    • この「任意の」コードは、LLMを初期化してテキスト生成に使うなど、学習済みパラメータを含む完全なLLM推論エンジンになり得る
    • ここでは Llama というLLMを使っているため、llama.ttf という名前になっている
  • つまり、Wasm が有効な Harfbuzz ベースのアプリケーションでこのフォントを使うことで、LLMを実行してテキスト生成などを行える
    • ベンダーが「Copilot」のような機能を実装するのを待つ必要はなく、すべてローカルで動作する
    • このフォントを使えば、フォントとチャットすることもできる
  • 使い方:
    • llama.ttf ファイルをダウンロードして、ほかのフォントと同じように使えばよい
    • Harfbuzz を Dwasm=enabled でビルドし、wasm-micro-runtime をビルドした後、生成された共有ライブラリを LD_PRELOAD 環境変数に追加してから、gedit や GIMP のような Harfbuzz ベースのアプリケーションを実行すればよい
  • フォントとLLMを使った、ほかの面白い試みも紹介されている

GN⁺の意見

  • llama.ttf は、フォントファイルを通じてLLMを実行できる革新的なアプローチである。
  • ローカルで実行されるため、プライバシー保護と性能の面で有利。
  • Harfbuzz と Wasm への理解が必要なため、初級エンジニアにはやや難しいかもしれない。

関連記事

2件のコメント

 
qyurila 2024-06-25

本文の「Why?」小見出しの下に何も書かれていないのが 🤣
 
GN⁺ 2024-06-24
Hacker Newsのコメント
  • 週刊テレビ番組として、奇妙で面白いコンテンツを提供できたらよいという意見。
  • Tetrisをフォント化したように、LLMと推論エンジンをフォントに組み込み、対話したり文章を書いたりできるようにしたプロジェクトの紹介。
  • このプロジェクトは素晴らしいが、TTFファイルサイズが280GBあることや、他のフォントとの互換性の問題を指摘。
  • フォントにゲームを内蔵したウェブサイトへのリンクを共有。
  • HarfbuzzエンジンがWasmシェイパーを使ってテキストを「整形」できる機能を提供しているという説明。
  • 作業がアーカイブに保存されたという通知と感謝の言葉。
  • Harfbuzzとwasm-micro-runtimeをビルドし、LD_PRELOAD環境変数に追加して、デモを簡単にできるとよいという意見。
  • PDFが会話できる未来は想像したことがなかった、という驚き。
  • 今週見た中でいちばんクールなものだという意見。
  • フォントが常に同じ文字列を生成する理由と、LLMは新しい「推論」を生成すべきではないのかという質問。
  • フォントがテキストスタイルを自動生成する機能が可能か気になっているという意見。