Ollama、Tool呼び出しをサポート

 (ollama.com)
6 ポイント 投稿者 xguru 2024-08-21 | 1件のコメント | WhatsAppで共有
  • OllamaはLlama 3.1のようなモデルでツール呼び出しをサポートするようになった
  • モデルが自分の知っているツールを使って与えられたプロンプトに答えられるようになり、より複雑な作業を実行したり外部世界と相互作用したりできる
    • ツール: 関数およびAPI、ウェブブラウジング、コードインタープリタ
  • ツール呼び出しを有効にするには、Ollama APIのtoolsフィールドを通じて利用可能なツール一覧を提供する必要があり、
    対応モデルはtool_callsレスポンスで回答するようになった。ツール応答はtoolロールのメッセージを通じて提供できる
  • 対応モデル: Llama 3.1、Mistral Nemo、Firefunction v2、Command-R +
  • OllamaのOpenAI互換エンドポイントもツールをサポートするようになり、Llama 3.1や他のモデルへ切り替えて利用できる
  • 今後の改善事項
    • ストリーミングツール呼び出し: 複数のツールが返される場合に、より速く処理を開始できるようツール呼び出しのストリーミングをサポート
    • ツール選択: モデルに特定のツールを使うよう強制可能

関連記事

1件のコメント

 
edunga1 2024-08-21

https://ja.news.hada.io/topic?id=13436
phidataのような機能ですね？ こちらはdocstringをしっかり記述すればよかったのですが、gptでないとtoolを使えなかったんですよね。