Ollama Turbo
(ollama.com)- Ollama Turboは、高性能データセンターハードウェア上で大規模オープンモデルを高速に実行できる新しいソリューション（月額$20）
- Ollamaのアプリ、CLI、API、および JavaScript/Python ライブラリをそのまま使い、巨大モデルを高速かつ効率的に運用する方法を提供
- 現在はプレビュー状態で、OpenAIの公開モデルであるgpt-oss-20bとgpt-oss-120bをサポート
- Turboモードを使用すると、クエリ履歴がサーバーに保存されることも、ログとして残ることもありません
- 米国内のデータセンターでのみハードウェアを運用し、時間ベースおよび1日あたりの使用量制限が適用され、将来的には従量課金制も導入予定
まだコメントはありません。