ユアンタ証券 AI Agentプロジェクト:実践LLMサービス開発(奮闘)記
(medium.com)-
はじめに: 2025年のAI業界のキーワードは「Agent」であり、従来のRAG中心のチャットボット型アプローチから脱却し、より高度化されたシステムが必要であることを強調。
-
プロジェクト紹介(ユアンタAIチャットボットサービス): 金融セキュリティ要件などの高い参入障壁を乗り越え、AIベースの投資分析機能を含むチャットボットを開発し、革新金融サービスに選定。
-
要件定義と意図分類の活用: 実際のユーザー問い合わせデータを分析してサービス要件を調整し、Function CallingをベースにLLMの継続的改善のためのモニタリング体制を構築。
-
Function Calling手法: RAGの限界を補完してリアルタイムデータを処理する方式としてFunction Callingを活用したが、複数機能の連携や正確な呼び出しに関する課題を克服する必要があった。
-
プロンプトエンジニアリングと運用の観点: プロンプト設計とバージョン管理を通じてLLM性能を最適化し、コスト削減とセキュリティ強化のための運用戦略が不可欠であることを強調。
1件のコメント
ShowはGNに適していないため移動しました。
投稿前にShowの利用方法を参照してください。