Ollama、Python & JavaScriptライブラリを公開

• Ollama は、Llama 2 や Mistral などの LLM をローカルで簡単に実行できるようにするオープンソース
  • Mac/Linux をサポートし、Windows でもまもなく WSL2 上で実行可能
• Ollama の Python および JavaScript の初期バージョンのライブラリがリリースされ、数行のコードで新しいアプリや既存アプリを Ollama と統合可能
  • Ollama REST API の機能と使い勝手をそのまま利用可能

はじめに

• Python では pip install ollama でインストールし、import ollama の後に ollama.chat 関数を使って会話を開始できる。
• JavaScript では npm install ollama でインストールし、import ollama from 'ollama' の後に ollama.chat 関数を使って会話を開始できる。

ユースケース

• 両ライブラリとも Ollama のフル機能セットをサポート。
• Python の例としては、ストリーミング、マルチモーダル、テキスト補完、カスタムモデルの作成、カスタムクライアント設定などがある。

新しい GitHub ハンドル

• このライブラリと Ollama の主要リポジトリは、今後は新しい GitHub 組織 ollama で管理される。
• Dart、Swift、C#、Java、PHP、Rust など、さまざまなプログラミング言語で Ollama と連携するライブラリを保守しているコミュニティメンバーへの感謝が述べられている。

[joone]

Node APIも問題なく動作しました。今回、うまく使えました。