ChatGPT以降、AGIへの期待が高まっており、スーパーインテリジェンスという言葉も、もはやSFのようには聞こえなくなってきました。しかし、知能という概念は依然として漠然としていて、どこまで高められるのかも把握しにくいです。
そこで、こんな仮説を一つ立ててみました。知能とは無限に高められる性質のものではない。どのようなシステムも人間の知能を超えることはできない、という仮説です。
https://blog.naver.com/conanoc/224107260779
皆さんの考えはどうでしょうか。ぜひ聞いてみたいです。
21件のコメント
技術の発展速度は人口数に比例していました。
食料生産量が増えるほど、増えた人口が総知能を牽引していたのです。
ただ、ある時点からは食料生産量が人口へ、知能へ、技術へとはつながらなくなりました。
人工知能は違います。
生産されたハードウェアと投入された電力量に応じて、知能の総量が線形的に増加します。
結論：人工知能の性能には限界があるかもしれませんが、拡張には限界がありません。
極端な例を挙げれば、人間一人よりオランウータンが無限にいるほうが賢いのです。試行錯誤と総知能という面では。
そして最近を見ると、単に判断だけはまだ不得手なだけで、インターネットという空間の中ではAIが全知的な能力を見せています。すでに平均的な人間より賢いです。
オランウータンが無限にいても、人間一人より賢いと見るのは難しい気がします。オランウータンがどれだけ多くても、私たちが関心を持つような問題を解決してはくれないので、「知能とはすなわち問題解決能力である」という前提では、人間の知能には及びません。もちろん、その「問題」を私たちが決めているという点では、オランウータンにとっては少し不公平な面もあるのですが。
ChatGPTがすでに人間より賢い、という点にはある程度共感します。少なくとも、私よりはるかに多くのことを知っていますからね。まさに物知り博士です。
しかし、やはり問題解決能力という面では、まだAIには足りない点が多いです。だからこそ、まだAGIの水準には達していないと言われるのでしょう。
A、Bの二人が試験を受けて、それぞれ80点、60点を取りました。Aのほうが賢いとは言えるかもしれませんが、知能がより高いと言い切るのは微妙です。
次の試験でBがもっと一生懸命勉強して、今度はA、Bの二人がそれぞれ70点、90点を取ったなら、今度はBのほうが賢く、知能も高いと話さなければならなくなるでしょう。
人は学習を通じて知識を拡張できますし、AIと同じように、知識の拡張にも限界はありません。
人はすでに紙やデジタル機器を使って、脳の容量や記憶の限界を超えて知識を保存でき、必要に応じて追加で学習することもできますから。
肝心なのは知識そのものよりも、その知識を活用して問題を解決する能力です。
問題解決のためには、まだ知識に含まれておらず、どこかから得ることもできない知識を見つけ出したり、自ら作り出したりしなければなりません。
それが正しい知識であり、それによって問題を解決できるのかを確認するには、外部の道具を使わざるを得ません。ここで拡張性の問題が生じます。
新しい物理学的発見のためには、思考実験だけでは不十分です。新しい物理的な道具を作らなければならないかもしれませんし、既存の道具を使ってさまざまな実験をしなければならないかもしれません。
目の前の新しいAIモデル開発にしても、コーディングだけでなく学習インフラという物理設備を使わなければならず、必要であればGPUもさらに購入して既存インフラを拡張しなければなりません。
こうした物理的な作業は、これからも長いあいだ人が支援しなければならないだけでなく、私たちは次のような問いに直面せざるを得ません。「私たちが支援している物理的作業以外のほかの作業は、果たしてAIのほうがうまくできるのだろうか？」という。
まず、この仮定は（私たちの物理系内部の観測者・計算者という前提では）不確定性原理のため不可能です（ラプラスの悪魔を参照）。そして、情報を扱う行為において削除・初期化のような不可逆過程はエントロピーの増大を伴うため（ランダウアーの原理）、結局、学習・計算などの情報処理行為には物理系においてエネルギー、時間、熱の条件による上限が生じます。
それに、あえてLLMを脳と比較するなら、1. 人間の脳の状態を丸ごと凍結して追加の学習や改善ができないようにし、2. すべての感覚器官を取り除いたうえで、3. 点字のシーケンスだけを入力させて出力させるようにした形だと考えます。結局、外から見ればこの脳はLLMと見分けがつかないのではないでしょうか。では、この脳は知的ではないのでしょうか？
提示された文章の主張は単なる着想にすぎず、それを裏づけるような特段の根拠提示は文中にないように思います。
未来のAIモデルですら、結局は現在の制約を超えられないという根拠はあるのでしょうか。
ニック・ボストロムは著書『スーパーインテリジェンス』の中で、超知能の3つの形態を提示しています。
このうち、ご提示の文章で言及されているのは質的超知能に限られているようですが、たとえ質的超知能が不可能だとしても、速度的超知能と集団的超知能については、それが不可能だと見る根拠はありません。
すでにかなりの数のAIモデルが、人間とは比較にならない速度で出力を生成する姿を見せており、内部的にはMixture-of-Experts構造になっています。
したがって、AI技術が発展すれば、仮に個々の思考の深さが人間レベルだとしても、全体として示す能力は多くの面で人間を上回ると予想できます。
そして、質的超知能が不可能であるという根拠も薄弱に見えます。
私たちはすでに10年以上前に、囲碁という特定領域でAIが人間を超える時代の到来を目撃しました。そうした意味で、少なくとも正解が定まっている分野に限れば、機械が人間の能力を超えることはすでに十分に明らかだと思われます。
超知能が到来したからといって、正解の定まっていない問題に「正解」が生まれるとは思いません。
たとえば倫理的ジレンマのようなものは、どの価値をより重視するかの違いがあるだけで、正解そのものを定めることはできないからです。
ただし、その問題に関する議論を助けることはできると思います。たとえば、人間が思い至らなかった点を指摘するといった形です。これは今でもある程度は可能だと思います。
ご意見ありがとうございます。
私が「おそらく人間を超える知能はないだろう」と推測するのは、「知能の本質」に基づくものでもあります。
知能を二つに分け、既に知っていることをうまくこなすもの（タイプA）と、分からないからこそ探し回るもの（タイプB）と考えると、限界がどこにあるのかがもう少し明確になる気がします。
タイプAは現在のAIが得意とする領域で、私たちが狭い意味で知能だと考えがちな領域です。これは簡単だからこそ（それでも長い間AIには難しかったですが）、限界も明確に見えます。まるで単純な数学の問題で100点が上限であるかのようなものです。
タイプBは知能のようには見えないかもしれませんが、実際に私たちが難しい問題を解決していけるのはこの能力のおかげです。私たちはAGIレベルのAIをどうすれば作れるのか分からないにもかかわらず、それを作り進めています。フレミングがペニシリンを発見したように、純粋に偶然だけによるものではなく、数多くの可能性の領域の中から、より可能性の高い方向を選びながら答えを探していくわけです。ここでの限界は質的というより量的に見え、上で言及された速度的・集団的な超知能として考えられるでしょう。現実世界の問題は思考実験だけでは答えを見つけられないため、速度には限界があります。ちょうど江南大路では、どれほど速い車でも100km/hを超えるのが難しいのと同じです。
私もAlphaGoの事例は興味深い参考になると思います。私はこのケースは質的というより量的なものだと見ています。人間レベルのパターンを確保し、人間よりはるかに多くの手の組み合わせを高速に探索できるようにしたことで可能になった結果だったからです。
さらに興味深いのは、AlphaGoは人間の棋譜を通じて学習させましたが、その後のAlphaZeroは人間の棋譜を排除し、自ら良い手を見つけるように学習させてAlphaGoより高い成績を記録したにもかかわらず、AlphaZeroの囲碁のパターンが人間の囲碁のパターンとほぼ類似していることです。つまり、定石は大きく変わらなかったのです。これは人間がすでにほぼ最適な手を見つけていたことを意味します。タイプAにおける限界点ということです。
比較基準は人それぞれかもしれませんが、私の場合、囲碁はAIと人間が同じ水準に到達したと評価したいです。囲碁の初心者とプロ棋士は質的に異なる実力を持っていますが、AIはプロ棋士より少し速いだけなのですから。
えっ？ 私は囲碁はあまり分かりませんが、チェスはかなり長くやっていて、この部分は囲碁を打つ人たちから聞いていた話とまったく違いますね。
もしかして、この部分について根拠はありますか？
私は、人間たちが良くないと判断して打たなかった手をアルファ碁が検討し、新しい定石にしたと理解しています。
https://namu.wiki/w/3%EC%9D%98%203
少なくとも囲碁については、「AIと人間が同じ水準に到達したと評価する」こと自体が誤った理解に見えます。AIはすでに囲碁の分野で人間を上回る能力を証明しています。
現在の囲碁界でレーティングが最も高い棋士はシン・ジンソ 9段で、スコアは3866点です。（https://www.goratings.org/ko/ 参照）
ところが、ご言及のAlphaGo Zero（2017年）の場合、公表されたElo ratingは実に5185点に達します。
ちなみに、Elo ratingで200点差がある場合は4回対戦して3回勝てる程度の実力差に相当し、1200点差がある場合の予想勝率は99.9%に達するとされています。
イ・セドルと対局して5回中4回勝ち1回負けたバージョンのAlphaGoはElo ratingが3739点でしたが、そのバージョンのAlphaGoとAlphaGo Zeroを対戦させると、100:0でAlphaGo Zeroが勝利しました。
したがって、1300点以上の点差があるにもかかわらず質的な差がないと考えるのは、単に現実を無視しているだけではないでしょうか。
また、AIの登場以後も囲碁の定石が大きく変わっていないという主張も、単純にGoogle検索を一度するだけで事実と異なると分かります。
さらに、もしAIの処理結果が人間と似たものになったとしても、それが人間のやり方が常に可能な最善であることを保証するわけではありません。
人間の知能が最上位にあってこれ以上上がる余地がないというのは、人間の学習および問題解決の方式が可能な範囲で最善だと言うのと変わらないでしょう。
しかし、本当にそうでしょうか。人間の知能は進化の過程で、その時々に直面した生存などの問題を解決するため、進化的圧力によって磨かれてきたものであり、さまざまなヒューリスティクスやバイアスが存在しています。
現時点では、人工知能がこれすら完全には追いつけていないのも事実ですが、それが将来登場する人工知能もまた人間を超えられない根拠にはなりません。
最後に、「分からないからこそ探し回ること」こそ、機械が人間よりはるかに得意な部分だと考えられます。機械であれば多数のインスタンスを動員して並列的に探索できるからです。しかも、これもまたご言及のAlphaGo Zeroの水準ですでに実演されていたことです。
ここで、物理学や化学などの科学実験では知識獲得にボトルネックが発生するという点については、私も同意します。しかし、そのようなボトルネックがない、あるいは少ない分野では、むしろさらに速い発展が可能でしょう。たとえば数学やコーディングなどの領域です。
そして、ボトルネックが発生する地点ですら、今よりはるかに速い発展が可能な領域があります。（AlphaFoldが示しているように）シミュレーションであらかじめ何かを予測して実際の実験が必要な回数を減らし、ロボットを動員して反復的な実験を自動化するでしょう。
だとすれば、ここで「タイプB」と名付けられた形の集団的・速度的な超知能が、すでにその領域で人間を超えると予測するのが妥当ではないでしょうか。人間の限界と理論的・物理的限界は明らかに別の話だからです。「速いだけのものは質的向上ではない」と主張するなら、それは単にゴールポストを動かす論点ずらしにすぎないと思います。実際に出てくる成果物は明らかに人間のものを超えるでしょうから、その時点ではもはや「ただ速いだけだ」と主張するのは難しいはずです。
むしろ、人間の知能は現在、生物学的な限界にぶつかっているので、人間の知能が現状以上に大きく高まるのは難しいという主張であれば、それらしく聞こえます。
しかし、生物学的限界ではなく物理的限界に制約される機械の知能に、人間と質的に似た限界があるという大胆な主張であるなら、それに見合うだけの、より説得力のある証拠と論理が必要だと思います。
下のお二人のご意見に返答すると、たぶん評価をどう行うかという点の問題なのだと思います。私が評価基準を示していないので、そもそも少し漠然とした主張に見えるかもしれません。
私の基準では、数学の点数が80点と90点である違い、問題を解くのに1時間かかることと30分かかることの違いを、知能の違いとは見なしたくありません。その程度の差であれば、同じ水準の知能と見るのがよい気がします。人間同士でもばらつきは大きいですが、私たちは「人間の知能」と一括りにしていますからね。プロ棋士たちも実力はそれぞれ違い、Eloランキングも異なりますが、彼らの囲碁をまったく別のレベルの囲碁だとは言いません。ただ、10級レベルのアマチュアとはまったく別のレベルの囲碁を打つとは言えます。この観点では、AlphaZeroはイ・セドルに常に勝つとしても、別のレベルの囲碁というわけではありません。（こう言うなら、囲碁においては神と人間とAIが同じレベルだと言わなければならないでしょうね。もし神がまったく別のレベルの囲碁を打てないのだとしたら。たとえば、神は9子置かせても人間に勝つ、とか。）
「囲碁の定石は大きく変わっていない」という私の主張に対して、変わっていないわけではない、新しい定石も出てきた、という反論は、「反論のための反論」という感じがしなくもありませんが、それが議論の面白さでもありますよね。反論がなければ議論はあまりに味気なくなってしまうでしょうから。
加えて、質的な違いと速度を区別するだけでも、私たちはAIの展望についてもう少しうまく予測できる気がします。先ほども述べたように、カンナム大路でスピードを出しにくいのと同じように、私たちが実際に解かなければならない問題はスピードを出しにくい環境にあります。速度に制約があり、質的に似たレベルの知能であるなら、結果に差を出すのは難しいでしょう。もちろん、速度のボトルネックがない一部の領域が存在する余地はあるでしょうが、数学とコーディングはそうではない気がしますし、この領域ではまず質的な水準の改善が優先だと思います。（ただし、私の主張はAIが人間に追いつけないだろう、ということではありません）
人間とAIが対戦したとき、どちらか一方が99%以上の勝率で圧倒的に勝つのであれば、どうしてそれを同じ水準だと見なせるのでしょうか。これは、単に区別をしないようにしようというのと同じ話です。
「囲碁においては神と人間とAIが同じ水準」というのは、あたかも囲碁を打つときに神と人間とAIが同じルールを共有しているのだから、三者の実力は本質的に同等だと主張しているように見えます。しかし、同じルールを共有していることと、実力が同じであることは、まったく別の話です。
この基準であれば、どれほど明白な実証的格差が存在していても、この方の基準では同じ水準だと言えてしまうので、議論に何の意味もないように思えます。
この方がご自身のブログに載せた別の記事を見ると、根拠を受け入れる前提そのものが、私の基準とはかなり違うようです。
このような違いがある状態では、通常の議論を進めるのは難しいと思うので、私はここまでにします。
あー、なるほど（笑）。反論への追加の根拠提示もなく 反論のための反論 と言い出したので、何がしたいんだろう？と思っていたのですが……
ブログのリンク添付、本当にありがとうございます。私もこのへんでやめておくことにします。
どうりで話術がただ者ではないと思ったら、月面着陸陰謀論の賭けで陰謀論側として勝った人 だったんですね。
月面着陸陰謀論の主張まで成功させる方なのですから、この方にとって不可能な賭けのテーマがあるのか気になってきます
これは本当に意外な話なので、ここまでにするとおっしゃっていましたが、もう少し話してもらえますか？
囲碁をあまりご存じないからそう感じるのかもしれませんが、既存の定石に多少の変化があったというのは、「囲碁の定石が大きく変わっていない」ということとは別ではないでしょうか？
「大きく」と「まったく」が違う意味だということはご存じでしょうし、どの点で「何がしたいんだろう？」という考えになったのか気になります。
評価基準における観点の違いについては、よく理解しました。おっしゃる通り、1点でも良い点数を取れば知能がより高いという基準を使うのであれば、私も「知能の連続体仮説」は false だと思います。
ご意見ありがとうございます。
あることの可能性の限界を見極める唯一の方法は、不可能の領域にほんの少しだけ挑戦してみることだ。
興味深い意見ですね。仮説はあくまで仮説であり、人それぞれ意見は異なり得るでしょう。仮説に過度に好みを反映させて、「仮説が気に入らない。仮説に不快感を覚える」という反応をするのは奇妙に見えます。一方で、単にその仮説は間違っていると思うとか、それをどうやって分かるのかという程度の反応は個人の意見なのですから、不思議ではありません。
質問をされたのでお答えすると、この仮説を議論するには、「知能」とは何かについて必ず考えなければならないということです。知能の正体は曖昧です。私たちはまだこれについて、明確で合意された定義を持っていないからです。一般の人々やAI分野の開発者にとってはその正体は曖昧ですが、認知心理学の分野では多くの研究も行われています。
質問は答えを見つけるうえで非常に効果的な手段であり、仮説は一種の質問でもあります。
その内容はブログに書いてあるのですが、「何を言いたいのかわからない。仮説も気に入らない」と言われるなら、私にこれ以上答えられることはなさそうです。おそらく、私の文章力が足りないのでしょう。