Ollama、構造化出力をサポート

 (ollama.com)
13 ポイント 投稿者 xguru 2024-12-08 | 1件のコメント | WhatsAppで共有
  • Ollamaが、JSONスキーマを使用してモデルの出力を特定の形式に制約する構造化出力（Structured Output）機能をサポート
  • PythonおよびJavaScriptライブラリが更新され、この機能を利用可能に
  • 構造化出力の主なユースケース
    • ドキュメントからのデータ解析
    • 画像からのデータ抽出
    • あらゆる言語モデル応答の構造化
    • JSONモードより高い信頼性と一貫性を提供
  • 利用のヒント
    • Pydantic（Python）または Zod（JavaScript）でJSONスキーマを定義
    • プロンプトに「JSONで返す」を追加
    • Temperature設定を0に下げて決定論的な出力を確保
  • 今後の計画
    • ロジット公開による生成制御のサポート
    • パフォーマンスと精度の改善
    • JSONスキーマ以外の追加フォーマットのサポート
    • GPUアクセラレーション・サンプリングのサポート

関連記事

1件のコメント

 
curiousotter 2024-12-10

これまではJSON Schemaをプロンプトの一部に含めて、APIパラメータには format: json の形でだけ使っていましたが、これでトークンも節約できるし、より手軽に設定できるようになりましたね！