MirrorOn - LLM向けマルチクエリプログラムを作りました。

[LLM]
LLM（Large Language Model）は、今やないと物足りない存在です。開発者の立場では、すでに2年間 GitHub Copilot をコーディング支援として便利に使ってきましたが、ChatGPT や Claude がさらに良いコードを作ってくれる状況になり、最近は検索拡張生成（RAG – Retrieval-Augmented Generation）が開発者にとって重要なキーワードになったことで、MML の構造と API について学ばずにはいられなくなり、勉強を始めました。

いちばん早い学習方法は、教えるか作ってみることだといつも思っているので、何かを勉強するときは新しいプロジェクトを1つ始めて試してみることが多いのですが、今回 LLM を勉強しながら作ったプロジェクトが MirrorOn です。

[複数 LLM クエリツール MirrorOn]

MirrorOn は、1回質問を投げると複数の LLM から答えを得られるクエリツールです。名前は「鏡よ、鏡よ」から着想を得ました。^^ 鏡をオン（On!）にすれば、誰が世界でいちばん美しいか教えてくれるでしょう。

現在（V 0.1.0）では ChatGPT、Claude、Ollama を使用できます。ChatGPT と Claude には API key が必要です。ユーザーが自分で API key を発行し、設定でキーを入力して質問を入れると、API クエリ結果を確認できます。会話の文脈を引き継げるように構成されており、メニューからコピー、削除、共有などを実行できます。

[ローカル LLM]

Ollama（https://ollama.com）は、ユーザーのコンピュータで LLM を実行できるようにするプログラムです。リンク先で Ollama をインストールし、好きな Model を入れれば、無料（!）で質問できます。コンピュータの容量が許す限り、さまざまな Model を実行できます。
MirrorOn を Ollama クライアントとして使えば、毎月 LLM に支払うコストを節約できます。

[RAG – Retrieval-Augmented Generation]

検索拡張生成（RAG）は、アプリケーション開発者の立場では、今後必須で備えるべき機能になっていくように思います。MML はすべてを知っているわけではありませんが、ユーザーの要件は多様であり、それに対応する方法が RAG です。

MirrorOn V0.1.0 では基本的な機能を作ってみました。現在は PDF 文書をアップロードして要約・検索する程度ですが、今後はベクトル化などの機能を追加する予定です。
また、画像をアップロードして内容について質問したり、LLM にインストラクションを与えたりするなど、LLM を使うための特別な機能があります。詳しい機能はリンクを参照してください。英語と日本語をサポートしており、ドキュメントも用意しています。

[詳細機能の説明]

https://github.com/bipark/MirrorOn

[ダウンロード]

現在は Mac 版のみ存在します。Mac App Store にアップロードするために数週間試みましたが、API key を入力する機能の問題で Apple が承認を保留しているため、Git Release からダウンロードできるように公開しました。今後 Apple の承認が得られれば、App Store でも見られるようになることを願っています。Windows 向けバージョンも作成中です。

https://github.com/bipark/MirrorOn/releases/tag/MirrorOn