LiteRT-LM-Unity - LiteRT-LM向けUnity Androidラッパー

Android向けオンデバイスLLMを開発しています。

これまでは whisper.cpp を使っていましたが、GPUアクセラレーションが効かず、速度面に物足りなさがありました。
LiteRT-LMが公開され、特にMTPまで適用されたことで速度がかなり速いと判断し、移植作業を進めた結果、
満足のいく結果を得ることができました。

LiteRT Communityで公開されているさまざまなモデルのベンチマーク結果も実施しました。

もしかするとお役に立てるかと思い、公開してみます

[wedding]

Parakeet ASRのサポートは実装済みで、Whisper ASRのサポートは現在実装中です。