最新LLMで推論崩壊を示す簡単なタスク

不思議の国のアリス: 最新の大規模言語モデルにおける完全な推論崩壊を示す簡単なタスク

主な内容の要約

• 大規模言語モデル（LLM）: さまざまなタスクや条件で高い性能を発揮するモデルであり、事前学習の規模を拡大すると性能が向上するというスケーリング則に従う。
• 問題点: 最新の大規模言語モデルは、簡単な常識問題で深刻な機能および推論能力の崩壊を示す。人間なら容易に解ける問題でも、誤った答えを自信満々に提示し、非論理的な説明でその誤答を正当化する。
• 失敗した介入: さまざまな種類のプロンプト強化や多段階の再評価によって、モデルを正しい答えへ導こうとする試みは失敗した。
• 再評価の必要性: 現世代の大規模言語モデルに対して主張されている能力を再評価し、このような基本的な推論上の欠陥を適切に検出できる標準化ベンチマークを作る必要がある。

GN⁺の見解

• 技術的限界: 大規模言語モデルが特定の状況では依然として限界を持つことを示している。これは、モデルの信頼性を高めるために追加の研究と改善が必要であることを示唆する。
• 標準化ベンチマーク: モデルの性能を正確に評価するために、新しい標準化ベンチマークが必要である。これにより、研究者はモデルの弱点をよりよく理解し、改善できるようになる。
• 実運用への応用: こうした欠陥は、大規模言語モデルを実際の応用に使う際に注意が必要であることを意味する。特に、重要な意思決定に使われる場合、信頼性の問題が生じる可能性がある。
• 代替技術: 他のAI技術やモデルを検討する必要がある。たとえば、強化学習やハイブリッドモデルなどが代替案になり得る。
• 今後の研究の方向性: この研究は、大規模言語モデルの限界を克服するための新たな研究の方向性を示している。たとえば、人間の常識や推論能力をよりよく模倣できるモデルの開発が必要である。

[GN⁺]

Hacker Newsの意見

• 論文を読もうとしている人向けに言うと、論文の主要部分は最初の10ページで、さっと読める。
• 論文で扱われている例は比較的わかりやすいが、ツールが実際に問題を解けるのかは疑わしい。
• AIツールは実際には思考や推論をしていないが、多くの人がこれを汎用AIと見なす傾向がある。
• この論文がAIの過剰な宣伝に影響を与える可能性は低そうだ。
• 「アリスには60人の兄弟と212人の姉妹がいる。アリスの兄弟には姉妹が何人いるか？」という質問に、GPT-4は正しい答えを出した。
• 実験でモデルが「思考の声」を出さないよう誘導したところ、GPT-4は一貫して誤答した。
• より複雑な例では、GPT-4は失敗しがちな傾向がある。
• Geminiモデルは追加の誘導なしで問題を解いたが、数値を与えると混乱した。
• アリスが何百人もの兄弟を持つはずがないという前提に立つと、この質問は不当だと思う。
• 主要なLLMの評価データセットは訓練データに含まれているため、信頼性評価には役に立たない。
• LLMを評価するには、新しいテストを作るほうがよい方法だ。
• 一般大衆が限られた時間内にこうしたパズルを解ける可能性は低い。
• AIW+問題は、一般的なAIW問題より解くのが難しい。
• 論文の著者たちは何百もの家系図問題を作成しているため、答えが明白に見えるのかもしれない。
• 論文で提示された問題は、非常に基本的ななぞなぞの変形だ。
• この論文は、驚くような否定的結果を選択的に扱っているように見える。
• LLMは依然として関係的推論に弱い。
• LLMには長時間にわたって集中力を維持する能力が欠けている。
• LLMでAGIを実現できるという考えは、単なる希望的観測にすぎない。
• LLMが計画と推論に非常に弱いことを示すよい講演がある。