LMQL - LLMにクエリするための言語

• LLM（大規模言語モデル）には自然言語でクエリできますが、LLMが人間の意図を正確に理解できない場合もあります
• スイス連邦工科大学チューリッヒ校（ETH Zürich）のSRIlab（Secure, Reliable, and Intelligent Systems Lab）の研究チームは、これを解決するためにLMP（Language Model Programming）という概念を提案しました
• このLMPの概念を実装した言語およびプラットフォームが、LMQL（Language Model Query Language）です
• SQL文に似た宣言的構文
• LLMの出力結果に明確な制約条件を与え、予期しない結果が出ないように動作を制御
• Pythonで実装されており、AIクエリでPython関数や制御フローを使用可能
• OpenAI API経由のGPT-4およびローカルでホスティングされるTransformerモデルを利用可能
• 消費トークンを節約することで、有料APIの利用コストを26〜85%削減可能
• 論文: https://doi.org/10.48550/arXiv.2212.06094
• ドキュメント: https://docs.lmql.ai/
• Playground: https://lmql.ai/playground
• GitHub: https://github.com/eth-sri/lmql