- テキスト、音声、埋め込み、ビジョンなど多様なAIモデルのローカル実行と学習を1つのインターフェースでサポートするオープンソースツール
- Mac/Windows/LinuxでGGUF/safetensorモデルをローカル実行でき、学習時には最大2倍の高速化と70%少ないVRAM使用を実現
- llama.cpp + Hugging FaceベースでマルチGPU推論および大半のモデルをサポート
- UnslothカーネルがLoRA、FP8、FFT、PTを最適化し、500以上のテキスト、ビジョン、TTS/音声、埋め込みモデルをサポート
- Qwen3.5、NVIDIA Nemotron 3 など最新LLMのファインチューニングが可能で、マルチGPUを自動サポート
- フルファインチューニング、4bit/16bit/FP8学習、強化学習(GRPO)など幅広い学習方式をサポート
- MoE LLMを12倍高速で学習させたり、80GB GPUで50万超のコンテキスト長により20Bモデルを学習したりするなど、最適化技術が継続的に追加中
- ファインチューニング済みモデルを含むすべてのモデルをsafetensors/GGUFとしてエクスポートでき、llama.cpp、vLLM、Ollama、LM Studioなどで利用可能
- PDF、CSV、JSONなどの非構造化ドキュメントを自動でデータセットに変換するData Recipes機能と、自己修復ツール呼び出し、コード実行機能を内蔵
- 訓練損失、GPU使用率をリアルタイムで追跡する観測機能を含む
- Model Arenaでベースモデルとファインチューニングモデルなど2つのモデルの出力を並べて比較可能
- 100%オフラインのローカル実行でプライバシーを保証し、Apple MLX・AMD・Intel対応もまもなく追加予定
- ワークフロー :
Studioを起動 →
ローカルファイルまたは対応統合からモデルを読み込み →
PDF、CSV、JSONLなどで学習データを取り込む、または最初からデータセットを作成 →
Data Recipesでデータセットを整備・拡張 → 推奨プリセットまたはカスタム設定で学習開始 →
学習済みモデルとベースモデルの出力を比較 →
既存の利用スタック向けにローカル保存またはエクスポート
- ライセンス
- メインのUnslothパッケージはApache 2.0ライセンス
- Unsloth Studio UIなど一部の任意コンポーネントにのみAGPL-3.0オープンソースライセンスを適用
3件のコメント
私も出てすぐ試してみたんですが……ページが崩れていて、チュートリアルも先に進めませんでした(泣)
https://github.com/unslothai/unsloth/…
すぐに直していたんですね!
Hacker News のコメント
まだ MacBook で unsloth studio をきちんとセットアップできていない
Python 関連のツール周りの問題が原因
その代わり、すでに Docker コンテナで llama.cpp サーバーを動かしているので、3つのコードベースを比較実験してみた
1つ目の比較コード、2つ目の比較コード
かなり興味深い結果だった。unsloth studio が正しく動くようになったら、来週もう一度試す予定
以下のコマンドでインストールできます
unsloth の ビジネスモデルが気になる。無料で多くを公開しているのに、収益構造がはっきり見えない
クローズドソースのほうが人気なのは、ツールの品質によるところが大きいと考えています。今後も公開予定のものがたくさんあります
学習機能は面白いと思ったが、「on NVIDIA」と書かれていて残念だった
macOS の Metal スタックで SFT(教師ありファインチューニング)を行うための代替手段やチュートリアルがあるのか気になる
自分も AMD 環境なので期待している。ROCm はつらいが、AMD 自体は気に入っている
Unsloth は本当に良いプロジェクトだ
自前で AI エンジンを回している人なら、ぜひ試す価値がある
Apache ライセンスなので会社でも使ってみるつもり
LMStudio は独自ライセンスなので承認を取るのが難しかった
AMD サポートはぜひ実現してほしい
今は AMD GPU で複雑な回避設定を使っている
macOS でソースからビルドを試したところ、以下の TypeScript エラーが出た
'status' is declared but its value is never readmacOS で pip インストールするのは システムを壊すリスクがあるのでおすすめしない
Homebrew パッケージか手動インストール用の zip ファイルが必要
uv tool install unslothで入れれば管理しやすい主に Python エコシステム出身なので、パッケージング経験が不足していました。Homebrew 対応が次の目標です
pyproject.tomlで依存関係を管理し、1回のコマンドで再現可能な環境を作れる以前、ROCm ベースの unreleased バージョンで unsloth をインストールしたが、
uv syncの1行で解決した関連 Issue コメント
pipx インストール文書
AMD サポートが追加されたら、また確認しに来る予定
Mac で GPU を使うのか気になる
setup 時には CPU 専用と表示された