Hodu - Rust MLフレームワーク

最近、親しい知人がRustを使ってHoduというMLフレームワークを作りました。
私自身も似たようなプロジェクトを進めていた経験があるため、MLフレームワークに関心のある方が見てみると良い資料になると思い、共有します。

主な特徴

• no_std対応: マイクロコントローラでも動作可能な軽量構造
• 静的グラフコンパイル: 一度コンパイルしたグラフを組み込みデバイスに保存し、手軽に推論可能
• 二重実行モード:
  • プロトタイピング: 動的グラフベースの実験
  • 本番デプロイ: 静的グラフベースの安定実行
• 高性能バックエンド
  • XLAバックエンド: グラフ最適化およびJITコンパイルによる最高性能
  • HODUネイティブバックエンド: 純粋なRust実装で、プラットフォーム制約なく実行
• 直感的なAPI: PyTorch/TensorFlowスタイル
• メモリ安全性を保証: Rustの所有権システムにより、メモリリークやデータ競合を完全に防止
• マルチデバイス対応: CPU, CUDA(NVIDIA GPU), Metal(Apple GPU)

Hoduは、RustでMLを学ぶ中で知人が学習用として始めたプロジェクト maidnx から発展し、現在に至ったとのことです。

XLA機能はビルド時にLLVM/Clang + 8GB以上のRAM + 20GB以上のディスクが必要で、ビルド時間もかなりかかります。
CUDA GPUサポートはまだ完全には実装されておらず、SIMD最適化も予定されています。
現在は本番環境での利用は推奨されておらず、活発に開発中のため、実験的または不完全な機能があります。