ARC Prize、オープンAGIに向けた15億円超の競争
(arcprize.org)- ARC Prizeは、ARC-AGI評価を突破し、その解法をオープンソースとして公開する参加者に向けた、約100万ドル（$1m）以上規模のコンペティション
- 問題意識として、現代のLLMは訓練データの高次元パターンを隣接する文脈に適用する記憶エンジンに近く、新しい状況で新たな推論を生み出せないという見方がある
- ARC-AGIのSOTAスコアは2019年の**20%から現在の34%**にとどまっており、人間や子どもがすぐに習得する課題が現代AIには依然として難しいことを示している
- GPT-4とGeminiの技術レポートが重要な詳細を公開しないことで、フロンティアAGI研究がクローズドに流れ、LLM中心の投資が新しいアーキテクチャやアルゴリズム研究への関心を弱めたという批判がある
- ARC Prizeは、より多くの研究者が公開の場でAGIの進展を測定し、ARC-AGIを解く過程で汎用知能の仕組みを新たに学べるようにしようとする試み
ARC Prizeが掲げる条件
- ARC Prizeは、オープンAGIの発展を目標とした100万ドル超規模のコンペティション
- 中核条件は、ARC-AGI評価を超え、その解法をオープンソースとして公開すること
- 主催者はMike KnoopとFrançois Cholletで、Infinite MonkeyとLab42が参加している
記憶と汎用知能の境界
- 現代AI、特にLLMは、訓練データ中の高次元パターンを記憶し、それを近い文脈に適用することに強い
- 見かけ上の推論能力も、推論パターンを記憶して似た文脈に適用する方式であり、新しい状況で新しい推論を生成できないという問題意識がある
- MMLU、GSM8K、ImageNet、GLUEのような記憶ベースのベンチマークでは、より多くの訓練データによって性能を「購入」できる
- 汎用知能とは新しい技能を効率よく習得する能力であり、記憶だけでは汎用知能に到達しにくい
- スケール拡大だけでLLMが新しい技能を学ぶのは難しく、テスト時点で学習できる新しいアーキテクチャやアルゴリズムが必要だと見られている
ゲームAIが示した汎化の限界
- ポーカー、チェス、囲碁などで人間に勝つAIシステムは、かなり以前から存在していた
- あるゲームで成功するよう訓練されたシステムを別のゲームに単純に再訓練することはできず、研究者はゲームごとに新しいシステムを再設計し構築する必要があった
- この状況は汎化の失敗として解釈される
- この能力がなければ、AIはループ内にいる人間の汎用知能に引き続き制約される
ARC-AGIが測ろうとする能力
- ARC-AGIは、François Cholletの論文 On the Measure of Intelligenceで紹介された評価
- この評価は、新しい技能を効率的に習得し、新しく開かれた問題を解くシステムの汎用知能を測定しようとする
- 2019年のARC-AGIのSOTA最高スコアは20%で、現在は34%
- 人間や子どもは課題をすぐに習得できるが、現代AIにとってARC-AGIは依然として非常に難しい
- 多くのAIベンチマークは記憶能力を試すため、人間レベルの性能で急速に飽和する
- ARC-AGIは記憶に耐性を持つよう設計されており、最大級の基盤TransformerモデルとARC-AGI向けに特化したAIシステムの双方にとって難しい評価であり続けている
- ARC-AGIの解法は、任意の事前知識集合からプログラムが完全かつ安定的に汎化する新しいプログラミングパラダイムを開く可能性があると見られている
クローズド化するフロンティアAI研究
- GPT-4の登場以降、フロンティアAGIの進展はクローズドソースの流れへと変わったと見られている
- GPT-4 technical reportには技術的な詳細が含まれておらず、OpenAIはその第一の理由として「競争」を挙げた
- GoogleのGemini technical reportも、長いコンテキストウィンドウに関するフロンティア級イノベーションの技術的詳細を含んでいない
- LLMは新しいアーキテクチャや新しいアルゴリズムに対する研究関心を大きく奪ってきた
- 2023年には非汎用AI企業に200億ドル以上が投入され、多くのDeepMindのフロンティア研究者がOpenAIとの競争のためGeminiへ再配置された
Transformerの歴史が示す公開研究の役割
- Transformerアーキテクチャは、機械翻訳研究の流れの中で複数の研究が積み重なって登場した
- 2014年、SutskeverらはGoogleでRNNとCNNを用いたSeq2Seq Learningを発表した
- 2016年、Bahdanauらは、入力の異なる部分を考慮して出力を予測できるようにするアテンションの概念を広めた
- 2017年、VaswaniらはAttention Is All You NeedでRNNとCNNを取り除き、アーキテクチャを最適化して新たなスケール拡大を可能にした
- 2018年、RadfordらはTransformerアーキテクチャ上にフロンティア規模のGPT-2を構築し、創発的能力を示した
- この流れは、異なる研究所やチームの研究者が結果を公開し、別の研究者がその上にさらに構築していく科学のプロセスを示している
1件のコメント
Hacker Newsの意見
私はSimon Strandgaardで、ARCathon 2022では3問、ARCathon 2023では8問の課題を解いた
人々がARC課題をどう解くのかというデータを集めており、これまでにインタラクション記録を4100件収集している (https://github.com/neoneye/ARC-Interactive-History-Dataset)
ARC-AGI以外にもARCに似たデータセットがあり、私のエディタで試すことができる (https://neoneye.github.io/arc/)
インタラクション記録を再生すると、人によってアプローチが違うことがわかる。これは1インタラクションあたり100msで再生したもので、実際の人間はそんな速度では解かない
https://www.youtube.com/watch?v=vQt7UZsYooQ
私が手作業でARC課題を解くときはこんな感じで、かなり遅いこともわかる
https://www.youtube.com/watch?v=PRdFLRpC6dk
奇妙なのは、特定のARC課題向けソルバーを実装する方法が、パズルを手で解くやり方とかなり違うことだ。あらゆる例外ケースに対処しなければならない
ARC Prizeチームに大きな感謝を送りたい
これは本当にすばらしい。現在の大量データを食わせる学習パラダイムは汎化もうまくできず、持続可能でもないというFrançoisの直感に同意する
人間は猫と犬を区別するのに1万件の例を必要としないし、コンピュータが今日それをできる主な理由は、例が何百万件もあるからだ
そのため、データが高価で希少で、合成も難しい、より厄介な領域へ知識を転移するのは難しいかもしれない
一つ批判するとすれば、このテストの大半はゲーム理論の観点で完全情報について推論しているように見える。しかし、私たちが直面するもっと難しい問題のかなり多くは隠れた情報を含んでいる
ポーカーや交渉は不完全情報下での問題解決の例であり、社会的状況をうまく切り抜けることも、隠れた情報を扱う関連問題を必要とする
人間ができる本当に興味深いことの一つは、ゲームのルールを受け取って戦略を作り出すことだ。囲碁やチェスを自己学習するアルゴリズムはあるが、同じ自己対局アルゴリズムは隠れた情報のあるゲームには通用しない
一般知能システムであれば、そうした状況のための汎用問題解決器を合成する能力も備えているべきだ
1万件まではいかないにしても、数百件、あるいは数千件規模だった気がする
子どもたちは自分の推測が合っているか確認を求める。50回読んだ本をまた読んでいても、絵の中の犬を指さして「犬？」と聞いたりし、その発達段階はかなり長く続く
期待したラベルと物体が一致しないと腹を立てることさえある。たとえば私の息子は、誰かが色を言い間違えると本当に怒る
幼児はわざと間違った名前をつける遊びも大好きだ。魚を指して「すてきなラマだね！」と言うと、子どもはおかしすぎて笑い転げる
人間の脳の発達は非常に遅く[1]、線形の時間感覚もかなり長いあいだ存在しない。3歳でも、すべてが昨日・今日・明日のどれかだ
子どもたちは複数の感覚で情報を集め、1日12〜14時間、とんでもない速度でデータを収集し、その後10〜12時間休んでその情報を処理する
[1] 赤ちゃんが右足があることを発見し、数日後に左足もあると気づくのを見ればよい。立ち方を学ぶ子がテーブルの下で何度か頭をぶつけたあとに「自分の上側」という感覚を作るのも見られる。子どもたちが「速く」学ぶというのは、何年ものあいだそれ以外にやることがない、という意味に近い
別の言い方をすれば、LLMは非常に弱い事前知識でほぼゼロから事前学習されるが、人間の脳には極めて強い事前知識があらかじめ搭載されている
たとえば「犬は動物を追跡し、長く追いかけて疲れさせて狩るが、猫は機会をうかがい、隠密さと敏捷性で襲う」という説明だけでも、犬や猫を見たことのない人がその二種を見て、適応形態を根拠にどちらかを当てられる可能性は高い
AIにとって興味深いテストになりうるが、これを評価としてどう構成するかはよくわからない
ARCというアイデア自体は本当に良いが、問題は抽象推論というより空間世界の知識をはるかに多く要求しているように見える
図形が互いに重なり、包含し、断片を切り分けて再構成し、規則的な幾何学図形からノイズを取り除くといったものだ
これを「中核知識」と呼ぶことはできるかもしれないが、私には「人間の視覚処理にとって直感的なもの」により近く見える
知能はあっても視覚障害のある人が、これらの問題を解けるだろうか？
800以上の例が必要かもしれないと私たちが心配しているのは、抽象推論が難しすぎるからではなく、問題が、知的な人間が800よりはるかに多い学習例によって身につける空間知識を要求しているからだ
Yann LeCunは、人間は一般知能ではなく、そのようなもの自体が実際には存在しないと考えている。知能は特定の領域の中でのみ測定できる
このテストが、人間がAIよりはるかに優れている領域を代表しているなら、有用なテストだ。AIは多くの領域で人間より明らかに能力が低いのに、既存のテストはどれも難なく通過してしまうのだから、このようなテストがもっと必要だ
無制限のデータに対する事前学習は許可されるべきだ。容易に得られるデータからテスト課題へ一般化することこそ、人間がしていることだ
色を触覚に変換してやれば、視覚障害者でも解けると確信している。視覚障害者も空間関係を理解する
「公開評価セット」の最初の5問を、「公開学習セット」を見ずに解いてみたが、十分に簡単だった
AGIを少なくとも人間レベルと定義するなら、AGIもこれくらいは、より多くの例を見なくても解けるべきだ
解法にどのような知識や経験を組み込めるかについての規則は、ないように見える
空間推論と視覚障害者の例は良い反例だと思う。ただ、一般的な推論を示せるなら、例外があっても構わないのかもしれない
プロジェクトの目標は気に入っている。常識の構築を試みた以前の推論エンジンを見てみるとよいだろう。CycとOpenMindがその例だ
この論文の第2節にあるAGI目標の一覧も役に立つかもしれない
https://arxiv.org/pdf/2308.04445
脳機能の概論を学んだとき、多くの領域が海馬とつながっていることも見えてきた。海馬は、感覚中立的な概念の保存と、外界の内部モデルまたは近似モデルの生成の両方を行えるのかもしれない
前者は複数の感覚を通じて概念を束ねるのに役立ち、後者は可能性を想像して評価し反復するときに計画を助ける
AGIには、このような海馬のような特性と、Cycの論文にある特性が必要なように思う。どのようなアーキテクチャが、理論的あるいは小規模にそのようなことを行えるかをテストできる
1種類の感覚入力だけに縛られていてもいけない。少なくとも2種類は必要で、片方にしかないもの、または両方にあるものに基づいて行動できなければならない
子どもたちも視覚・空間データに対して膨大な量の教師なし学習をしている。遊びを通じて強化学習を受け、親から教師あり学習も受ける。現実的なベンチマークなら、同様にGB単位の事前学習が必要かもしれない
空間推論は、あらゆる推論を包含すると私は考える。先に挙げたものは、私たちが使う抽象モデルや論理に直接対応しており、言語にも深く刻み込まれている
たとえば、互いを包含する図形を考えてみよう。2つの国が同じ領土を主張するなら、Yを含む集合Xと、Yを含む集合Zがあることになる
共通の重なりが3次元で、片方がもう片方の上にある場合、それを拡張して、Xは-Yを含み、ZはYを含むと言える。立つ位置によって上にある片方しか見えず、両方を同時には見られないのと同じように、XとZは同時には存在できないと言える。したがって、Xなら-Yであり、ZならYだ
私たちの使う言語を注意深く見れば、完全に抽象的なものを説明するのにさえ、空間関係をどれほど多く使っているかがわかる。たとえば、覇権経済が崩壊すると言うことができるが、これは互いの上に積み上がっていたものが消え、元あった場所へ戻るという表現だ
結局のところ、私たちは時間と空間の中で起きることについて推論している
そして、空間は視覚と同じではない。視覚障害があっても、空間的に推論しなければならない。どのような事実の集合も、時空の中の事実だからだ
歴史を理解するには、空間の中の人々、異なる距離に住む人々、地球上のさまざまな場所で物理的な過程によって商品を生産し、物理的に交換することを理解しなければならない
戦闘を理解するには、軍隊が物理的にどのように配置されるか、補給の移動がどう機能するか、気象条件、兵器とその物理的形態が実際に何を可能にするかを理解しなければならない
では、人工知能における最大の進歩だったLLMは何をしているのか？ トークンを多次元空間にエンコードしているのだ
「知能はあるが視覚障害のある人がこれらの問題を解けるだろうか？」という問いは、適切な考え方ではないと思う
空間関係もまた1つの論理関係にすぎず、AGIであれば、関係を分析し、問題を解くアルゴリズムをその場で生成できるはずだ
人間にさまざまなバイアスがあり得るからといって、そのバイアスがあらゆる知能に内在することを意味するわけではない
このテストが人間にとって簡単だという主張には疑問があったので、少し調べてみた。Melanie Mitchell が Chollet のスレッドに参加しており、関連テストの ConceptARC を投稿していた
そこでは、Chollet のテストが本当に簡単なのか疑問が呈されている。「ARC が AI 研究に有用である上での一つの限界は、難しすぎる可能性があることだ。Chollet のコーパスにある多くの課題は人間にとっても難しく、コーパス全体が機械にとって難しすぎて、中核知識の獲得における実際の進歩を明らかにできないかもしれない」
ConceptARC はより簡単になるよう設計されたが、受験者のうち約 15% を「最低課題を 2 つ以上解けなかった、または空の説明や意味不明な説明を提出した」という理由で除外しなければならなかった
この除外後でも、ConceptARC は本文の問題で人間の失敗率をさらに 10〜15% ほど確認しており、「AGI」をテストするために作られたより単純な問題ですら 25〜30% は解けなかったことになる
ConceptARC の主要結果では CG4 はフィルタ後の人間よりかなり低く、これは IQ=85 という [Mensa]https://www.maximumtruth.org/p/ais-ranked-by-iq-ai-passes-10... テスト結果とも一致している
Chollet と Mitchell は人間集団を層化して IQ を推定し、そのうえで Mensa の測定値と比較して、たとえば Claude3@IQ=100 が平均的な人間の ARC スコアとどう対応するかを見ることもできる
[ConceptArc]https://arxiv.org/pdf/2305.07141
「人間は基底プログラムを推論し、新しいテスト入力例に対する正しいテスト出力を生成でき、参加者あたり平均 84% の課題 を解いた」
自分が思っていたよりずっと鈍いのか、テストの検証をもっと良くすべきなのだと思う
その言葉を額面どおりに受け取るなら、既存モデルのどれも平均的人間の半分のスコアすら出せないのであれば、このテストが何らかの重要な差を測っているのは確かだ
ARC の問題が、合成可能なあらゆる抽象プログラムの代表サンプルなのかについては異論がありうるが、たいていの LLM も結局は人間のデータで学習されている
この大会の趣旨には賛成だが、AGI 競争にはすでに数百億ドルが投じられており、今後はるかに多くの資金が入ることを考えると、100 万ドルの賞金 は少し低く見える
AGI の影響は少なくとも兆単位で測られるはずだ。結局報われるのは AGI 研究ではなく、最新の公開 LLM リリースをテストのパラメータに最もよく合うよう微調整することになるかもしれない
一般向けにコミュニケーションするプラットフォームも変えたほうがよい。x.com のリンクは、今ではアカウントを作らないとアクセスできない
この賞の主な目的は、私たちが AGI にどれだけ近いのか、あるいは現時点でどれだけ遠いのかについての一般の認識を高めることだ: https://arcprize.org/leaderboard
こうした理解によって、より多くの将来の AI 研究者が新しいアイデアの研究へ向かうことを願っている
私は、解くべき問題セットとしての ARC をとても気に入っている。データが希少で、適用可能なルールが事実上無限にあるため、従来の機械学習の問題セットよりはるかに難しくなっている
ただし、この問題が AGI を代表するという点には同意しない。従来の機械学習の成功例とは異なるデータセットにすぎず、アプローチも概ねこれまでと似ている
本当に新しいブレークスルーとしての AGI がこの問題セットを解くことはあるかもしれないが、この問題セットを解くことが AGI の保証された指標だとは思わない
本当に興味深くて気に入っているが、12 個ほどの例を見た直感では、この問題は難しくはあるものの十分に簡単なので、人気が出れば 1 年以内かそれより早く人間レベルに近い結果が出る気がするし、それでも AGI には到達しないと思う
要は、適切な演算子を備えた十分に一般的な変換技術言語を見つけることのように見える。そして、その言語で 1 つの問題のすべての例を生成する非常に短いプログラムを、情報理論的な意味で見つけるヒューリスティックが必要だ
近いうちに 34% という結果を大きく押し上げられないなら非常に驚くだろうし、これが一般知能に転移するならそれもまた驚きだ。特に、今日自分が AI を使っているテーマや、まだ不足している点を考えるとなおさらだ
基本的には、これは AI におけるもう一つの チェス や 囲碁 のような問題になるという直感がある。それでも研究テーマとしての価値は確かにあり、ここから生まれうる価値は 100 万ドルを十分に上回るはずだ
この課題がうまくできるからといって、それが本当の AGI の証拠になるとはまったく思わない。たとえば新しい数学的証明を書き、誰も思いつかなかった洞察的な問いを投げかけ、自己学習を自ら指揮し、自分のソースコードを読む能力のようなものとは別だ
「AGIを測定する唯一の評価」という表現は誇張だと思う。これはLLMが解けない問題であるだけで、人工汎用知能の良い尺度だという意味ではない
いくつか問題を解いてみて、問題生成器にどれだけ異なる変換規則があるのか気になった。多くはなさそうに見える
だから問題は、データから変換規則の集合を抽出し、それを新しい問題に適用する形に分かれる
最初の部分は難しく、特徴抽出の問題だ。変換は厳密に適用されるようなので、変換規則を得て、すべての入力例に合う規則を選べば、適用自体は簡単なはずだ
LLMが使う特徴抽出と活用の結合より、明示的な特徴抽出が必要な気がする。誰かテスト事例から規則集合を抽出してみただろうか?
元のKaggle大会の上位解法の一部は、このような変換で構成されたドメイン特化言語を使っていた。それは4年前のことだ。[1]
その方向性の問題は、課題がプログラム生成器を使っていない点だ。規則集合は、人間が思いつけるものであれば何でもあり得る。「最も大きい物体が青色になる」のように単純かもしれないが、はるかに複雑なこともあり得る
しかもテストセットは非公開なので、学習したり抽出したりできない。公開セットにない規則も含まれている
[1] https://www.kaggle.com/competitions/abstraction-and-reasonin...
François Cholletの元論文は非常に洞察に富んでいて、もっと多くの人が語らないのがいつも不思議だ
一部はかなり技術的だが、高いレベルでは「一般知能とは何を意味するのか?」について、私が見た中で最高の答えだ
世界に関する明示的・暗黙的な事前知識を考慮したうえで、知能を学習効率として定義すると、人間の知能がなぜそれほど印象的なのかがずっと理解しやすくなる
Dwarkeshがたった今、François Cholletとのインタビューを公開した。彼は元投稿者のパートナーだ
まだ数分しか聴いていないが、LLMの限界についての彼の考えをもっと聞くことに大いに関心がある
https://youtu.be/UakqL6Pj9xo