MLC LLM - LLMモデルをあらゆるデバイスにデプロイ可能にするオープンソースソリューション

 (github.com/mlc-ai)
15 ポイント 投稿者 xguru 2023-05-11 | 1件のコメント | WhatsAppで共有
  • 誰でもAIモデルを開発・最適化し、あらゆるデバイスにデプロイできるようにすることを目標とする
  • MLC（Machine Learning Compilation）と Apache TVM Unity を利用
  • 対応プラットフォーム
    • iPhone / iPad / Android
    • Metal GPU と Intel / ARM MacBook
    • AMD / Intel および NVIDIA GPU（Windows / Linux では Vulkan）
    • NVIDIA GPU（Windows / Linux では CUDA）
    • ブラウザの WebGPU

関連記事

1件のコメント

 
carnoxen 2023-05-11

クロスプラットフォームはいろいろな面で人気ですね