ウィキメディア財団、実験的なLLM/RAG Chrome拡張機能「Citation Needed」を公開

Wikipedia Citation Needed Chrome拡張機能

• ウェブ閲覧中に特定のテキストの一節を選択して、その記述を検証できる
• ChatGPT APIを活用してWikipedia内の関連文書を検索し、その文書から引用する
• 選択した記述がWikipediaで裏付けられているかどうかの情報に加え、文書の最終編集日、参照数などの文書品質シグナルを提供し、ユーザーが受け取る情報（Wikipediaから得る情報を含む）について、より多くの文脈を把握できるよう支援する

ユーザーフィードバックのお願い

• この機能は生成AIを使った実験的な機能であり、ときに誤りが生じる可能性があることを認識している
• 結果の品質を理解し改善するため、拡張機能のフィードバックリンクを通じて見つけた問題を報告してほしいと呼びかけている
• 一般的なフィードバックや、日常的なウェブ閲覧でWikipediaをより役立てるためのほかの方法に関するアイデアも歓迎している

開発者情報

• この拡張機能は、Wikipediaとその姉妹プロジェクトを支援する非営利団体であるWikimedia FoundationのFuture Audiencesチームによって開発された

GN⁺の見解

• この拡張機能は、ユーザーがウェブ上で接する情報の信頼性を評価する助けになる可能性がある。ただし、Wikipediaの記事自体にも品質や正確性の限界があり、これを絶対的な基準とみなすのは難しそうだ。
• ChatGPTのような大規模言語モデルを活用して要約や検証を自動化することは、ユーザーの利便性を高めうる一方で、誤情報を生成するリスクもある。そのため、継続的な監視と改善の取り組みが必要と思われる。
• Wikipediaに加えて、各分野の専門家が検証した信頼できる情報源を追加で活用すれば、検証の正確性と網羅性を高められるだろう。長期的には、ブロックチェーンベースの分散型ナレッジベースの構築も検討に値する。

[GN⁺]

Hacker Newsの意見

• 実験的なLLM駆動のRAG（Retrieval Augmented Generation）アプリケーションが、Wikipediaと照合してインターネット上の主張を確認する。
• 引用が幻覚なのか、それとも「決定論的な引用」のようなものを使っているのかという疑問がある。
• この拡張機能に関するWikimediaのGitリポジトリが提供されている。READMEのビルド手順は不完全で、ホットリロードは動作しないようだ。npm run build-devを使えば動くビルドを得られる。
• Firefox向け拡張機能は提供されていない。サイドバー／サイドパネルAPIの違いが理由かもしれない。
• LLMがWikipediaの記事をファクトチェックしてフラグを付けることにも期待が持てる。
• 記事生成器と記事検査器を組み合わせれば、1兆ページを生成できる。LLMにとって有用な学習コンテンツになり得るが、人間も利用できる。
• Chromeでしか動かないようだ。Arcでは動作しない。
• 学術界ではWikipediaの引用は一般に禁止されている。信頼性が低く（著者が自分で編集できる情報源を引用してしまう）、一次情報源を探すには役立つが、それ自体は二次情報源である。
• 自分自身について尋ねると、「Citation Neededが2024年に開発された実験的機能」という応答を返す。しかし、提示された段落には2024年に開発された『Citation Needed』という機能に関する情報は含まれていない。