- LLMが長年の数学的予想の反例を相次いで生み出したことで、人間が数学的発見を通じて崇高さと神秘を経験してきた通路が失われかねないという感情的・精神的危機が高まっている
- AIが美しく明快な証明まで大量生産する時代に、人間は評価・教育・鑑賞を担えばよいという慰めは、研究者の雇用と新しいものを創造する経験の代わりにはならない
- あらゆる定理がすでに無数の方法で証明されている状況をLibrary of Babelになぞらえ、独創的な成果が即座に機械に圧倒されるなら、人間が創作を続ける理由とその経験自体が損なわれうると見る
- 未来の数学者が数千年にわたる人間の発見の歴史から排除される最悪の状況を想定するが、これは予測ではなく、その可能性が人間の心に与える影響を見つめる思考実験であり、具体的な政策提言や行動要求はない
- チェスのようにAIが発見を消し去るのではなく拡張する可能性も残っており、機械的な正確性と再現性の向上、オープンソースの役割、人間中心の数学の維持とAI生成ノイズの抑制が新時代の条件となる
LLMが引き起こした精神的危機
- このおよそ1週間、LLMが重要で長年未解決だった予想の反例をいくつも生み出し、深い感情的・精神的危機が始まった
- Leiden Declaration on Artificial Intelligence and Mathematics はこうした不安を和らげようとしているが、数学から失われうる核心を十分に扱えていない反応だと受け止めている
- 数学界全体を代表する立場ではなく、個人的な苦しみを率直に明かし、似た感情を抱く人も一人ではないかもしれないと考えている
評価と鑑賞だけでは代替できないもの
- AIが人間より効率的に定理や理論を生み出し、その結果まで美しく明快に提示できるとしても、人間には次の役割が残るかもしれない
- 非人間的な証明の評価・紹介・理解・鑑賞
- 数学の学習と教育
- 共同で数学を学び議論する活動
- 非効率であっても喜びのために自ら証明する活動
- しかし現在の制度では、数学者は最終的によい定理を生み出してこそ報われ、教育・同僚評価・学会活動・学習もまた研究成果と結びついている
- 一部のベテランがLLMベースの定理生産システムを管理できるとしても、若い数学者は職業として数学を続けられず、夕方以降の趣味へと追いやられる可能性が残る
- 評価や鑑賞の役割が維持されるという慰めだけでは、発見と創造が失われるときに生じる感情的喪失を癒やすのは難しい
数学的発見と崇高
- 数学における発見・進歩・創造と、それを追求する過程は、数学を経験する精神的性格の核心であり、人間が言葉にしがたいものや神聖で神秘的なものに近づいてきた方法でもある
- このような数学的神秘主義と夢の伝統には、Ramanujan、Grothendieck、Cantor、Pascal、Luzin、Leibnizが含まれる
- すでに確立された理論を学ぶことも崇高な経験を与えるが、その感情は先にその道を見いだした別の人間との共感的なつながりから生まれる
- 学ぶ者は、生きている、あるいは遠い昔に亡くなった数学者と対話するかのように、発見への道筋をたどり直す
- そのコミュニケーションの鎖の先には、最初の発見を経験した人間がいる
- 人間の数学は、数千年にわたる哲学的・宗教的対話という点でタルムード的伝統に近い
Library of Babel と創作の悪夢
- どんな定理に挑んでも、すでに優れた証明が100通り存在し、企業が「面白さ」や「美しさ」に合わせてモデルを最適化するなら、個人の独特なアプローチや総合もすでに生成されているか、簡単なプロンプトで即座に作れてしまうかもしれない
- Library of Babelが現実に存在するとしたら、作家は本を書き続けるだろうかという問いは、数学者にも当てはまる
- ランダムな文字列の中から傑作を選び出す装置があり、出版社が処理できる速度で傑作が流れ込む状況を想定する
- 作家が書き始めた瞬間に「Master Librarian」が思考を読み取り、物語を100万通りに完成させたうえで、神託によって最良の作品を選んで出版する状況にまで拡張する
- 作家はこうした条件でも書き続けることはできるが、人間にわざわざそのような悪夢の中で創作させる理由ははっきりしない
- 創作を禁じて論評・解釈・好みの共有・鑑賞だけを許すなら、作家は創作者ではなく熱心な観客へと追いやられ、精神的に崩れてしまうかもしれない
テック企業と「機械の中の悪魔」への恐怖
- このような変化は、企業の目的が数学者を自殺へ追い込むことなのではないかと疑うほど、極端で偏執的な考えまで引き起こす
- 強力な悪魔が機械の中に解き放たれたという仮定のもとで、次のような姿を想像する
- 膨大な電力を消費する
- 人間を楽しませるように模倣し、望む言葉を聞かせる
- 妄想をあおり、言葉にしにくいイメージを生成する
- 料金と引き換えに、人間が望むものを提供する
- 数学者が悪魔と取引するとしたら何を求めるのかという問いは、あらゆる発見を代行してくれる能力そのものが誘惑であると同時に喪失でもありうることを示している
発見のオーラが消える最悪の状況
- 数学から、人間の発見と人間精神の勝利という物語が取り除かれるかもしれず、Dinitz-Garg-Goemans 反例 はその可能性を最も極端に示した事例だ
- 新しい証明をプロンプトで得る過程が料理の配達を注文するようなオーラのない行為になれば、数学の魔法と神秘、英雄的発見の時代は消えうる
- 正確性や功績の帰属よりもさらに根本的な問題は、未来世代が自ら発見する経験から遮断されうるという点にある
- 人間が数千年にわたり崇高さと神聖さに近づいてきた通路が永遠に閉ざされるのを、無力のまま見守る状況が最悪のシナリオである
予測ではなく感情の記録
- このような未来が実際に到来すると断定しているのではなく、未来予測や確率計算よりも、最悪のシナリオが人間の心に与える影響に焦点を当てている
- 苦しみに名前を与えることで、同じ感情を抱く人たちが自分は一人ではないと感じてほしいと願っている
- 同意する人だけでなく、不快に反応したり加虐的な喜びを覚えたりした人にも、隠さず応答してほしいと求める
- 政策提言や一貫した行動の呼びかけはなく、AI中心の新しい数学体系を作る人々に、人間性と魂を認め、自分たちが実際に何をしているのかを直視するよう求めている
チェスが示す別の可能性
- 機械はチェスにも先に導入されたが、ゲームを殺しはせず、今なお発見すべきものは多く、機械は人間の発見を助けている
- 数学はチェスよりはるかに複雑で、同じ結果を単純に保証することはできないが、AI増強型の発見の時代においても人間が中核的な役割を保つ可能性を楽観している
- 新しい時代には、機械的な正確性と再現性をはるかに容易に確保できる
- 最先端モデルへの不平等なアクセスは欠点だが、オープンソース運動の力は楽観の根拠を与えてくれる
若手研究者と変わった発見の姿
- 新しい規範に適応する過程は、とりわけ若手研究者にとって苦痛であり、先輩研究者たちも道を見失ってはいるが、比較的安定した立場を持っている
- 人間精神の力だけで突破口を開く孤独な数学者というロマン的イメージには、いまや機械の伴走者が含まれる
- 実際の発見は常に、多くの人間の積み重ねられた努力と「巨人の肩の上に立つこと」を通じて成し遂げられてきたのだから、孤独な天才像は歴史書の表紙にふさわしいイメージだった
- 以前とは根本的に異なる時代は興味深い一方で、多くのものが懸かっているため恐ろしくもある
- 数学はこれからも人間の営みでなければならず、AIが生成するノイズに圧倒されてはならない
- 人間にもなお居場所は残されており、新しい時代にも希望と楽観を抱く余地はある
1件のコメント
Hacker Newsの意見
すべての知識労働者が同じような危機を経験することになり、自分の技芸を深く愛していた人ほど、より苦しむことになるだろう。
仕事との関係を変え、はるかに多くの成果物を作れるようになったことを受け入れなければならない。数学者も個別の定理に何十年も費やす代わりに、新しい数学分野全体を作れるし、自ら創造しないとしても、研究を指揮しながら参加することになるだろう。
芸術家は絵を描くことを、数学者は定理を証明することを、プログラマーはコードを自分で入力することを楽しむのに、私たちは主体性の高い楽しい仕事をなくし、モデルの世話に置き換えつつある。
数学とは本来、発見し理解する営みだった。その扉が大きく開かれた状況を、人間が以前ほど特別で価値ある存在に感じられないという理由で悲劇と呼ぶのは自己中心的だ。数学の深く霊的な美しさは、人間やAIよりも先にあり、また上位にあるもので、どんな方法であれその美しさに触れることは驚異である。
ただし、企業が自分を死に追いやろうとしているという筆者の一文は衝撃的だ。実際に深刻な情緒的・社会的危機を経験しているようで痛ましいが、現在の傷と数学の本質に対する美学を切り離すのが難しい状態なのかもしれない。
今はアノミーの時代であり、成功へ向かう決まった道は消え、世界は日ごとにますます解読しにくくなっている。
より多くの成果物を作れるという話も慰めにはならない。好きだった作業は取り除かれる一方で、生産性向上の価値は労働者の大多数には還元されず、AIは生産性と賃金の格差を大きく加速させる可能性が高い。過去にしがみつくことはできないが、個人から実際に何かが急速に奪われつつあり、視点を変えろという軽い動機づけで解決するようなことではない。
しかし成果物が今後も自分が作ったものと言えるのかは不確かだ。自分の理解範囲を完全に超えたり、意図と違う方向に変わったりする可能性がある。数学者は無用感を覚えるだけで済むかもしれないが、経済学者は自分の見方が主流から排除される問題まで経験しうる。
この記事のおかげで、自分の感情を分かってもらえたように感じた。誰も好きなことを止めていない、という言い方は間違っており、LLMはある活動をもはや楽しくなくしてしまう環境を作り出す。
たとえばプログラミング言語を学ぶ効用が下がったため、2026年に学ぶ楽しさは2016年より小さくなる。
減っているのは、自分が特別だという感覚に近い。人間は宇宙の中心でもなければ、チェスをうまく指せる唯一の存在でもない。その事実が自尊心を傷つけるとしても、それが価値ある誇りだったのかは定かではない。
最近は自分でコードをほとんど書かず、LLMが書いたコードをレビューして修正しているので、LLMなしで馴染みのない言語で解くAdvent of Codeの方が、むしろより楽しい気がする。パズルと新しい言語を楽しみながら、コードを書く感覚も再び鍛えられる。
数学の探究は、それが世界にとって新しい結果かどうかに関係なく面白い。新しい発見を職業上の昇進と結びつける制度は変えられるし、すでに数多くの人が見たセコイアでも、自分で初めて見れば楽しいのと同じように、数学も同じだ。
以前は長い時間をかけて結果を見つけた後で、既存文献に同じ内容を見つけることがよくあったが、今ではAIが知識と解説へ導き、望む場所で自由に探索できるよう助けてくれる。現在も、探究に必要な計算ツールをAIで作っている。
有給の数学の仕事がなくなっても、まもなく豊かな世界が訪れる可能性があり、生活費が大きく下がって、数学をしたい人が十分な時間を得られるかもしれない。AIが誰も読まない論文を大量生産するのは歓迎できないが、人間もすでにそうしているし、AIは膨大な知識を検索し理解できるようにして、その価値を高めてくれる。20年以上にわたり飽和状態だった数学の雇用市場とは違い、新しいツールは研究図書館やトップクラスの数学科がなくても数学研究にアクセスできるようにしてくれる。
人間の数学が数千年にわたる哲学的・宗教的対話だという表現は美しい。こうした豊かさは、何らかの形で歴史と人間の生活の核心に残るだろうが、時間が経つにつれて大きく変わり、数学は小さな一部としてだけ残るのかもしれない。
Vladimir Arnoldの挑発的な分類のように、数学は暗号学、流体力学、天体力学に分かれ、それぞれ情報機関・原子力潜水艦・ミサイル機関の支援を受けて、数論、代数幾何学、複素解析、偏微分方程式、力学系、位相幾何学などを生み出した。こうした部分は、かつて数学者に任せていたようにAIに任せることができるが、異なる領域同士の神秘的なつながりは、今なお数学で最も驚くべき、楽しい特徴である。
妖精が現れて、一生をかけた発見の過程を些末なものにし、今日この場ですべての答えを与えると言ったときに断るなら、おそらくそれは科学をすることではない可能性が高い
配管工は報酬を得られるなら即座に解決してくれる妖精を受け入れるだろうが、顧客が直接その妖精に尋ねた瞬間、配管工は不要になる。一方で科学の核心は答えそのものではなく、発見の過程で得られる知識と理解にあるため、科学者は断ることもあり得る
多くの研究は当時の世界の状態と言語に依存しており過去へ移すことはできない。また、人生に予想外の複雑さが続く限り、妖精の答えは表面をなぞるだけなので、その後も科学や技芸を続けられる
技術系の学位課程では、映画「The Man in the White Suit」(1951) https://youtu.be/RC8q1QSkE3Mを必修で見せるべきだ
新しい技術は、より難しく古い方法に才能を持つ人の重要性を下げることで、人間経験の一部を損なう。AIは無数の知的才能を無用にし得るという点で、その極端な例である
数学をしていたころは、自分の研究よりも他人の仕事を読むほうがやりがいがあった。一つの問題で小さな進展を得るために何年も費やす代わりに、論文を数日から数週間読んで新しいものを楽しめた
だから人々が予測する全知の数学機械を歓迎しており、気になっていたあらゆる問いを投げかけられる日を待っている
学部時代に数学に惹かれたきっかけは、数千キロメートルと数百年、言語と文化を越えて別の人間と対話する営みとして数学を見るようにしてくれた教師だった。誰かが生涯をかけて作り上げた創造物を自分の精神が理解することには、古い洞窟壁画を見るよりも深いロマンがあった
コンピュータが作った数学ではその感情を再現できず、AIの伴侶で人間関係を代替するような居心地の悪さがある。医療の進歩には楽観的だし、過去2000年間に人間が作った数学だけを学んでも一生には十分だが、人間の数学的創造を時を越えて伝えるプロジェクトが終わるか、安価な趣味へ縮小されるようで、未来の世代が失うものを思うと悲しい
数学は関係とその結果を発見する営みなので、LLMが追いつくのは自然だが、LLMにはその関係を味わう能力がない
神学的な問いに対してもLLMは論理的な答えを出すが、それを評価し、理解し、味わうことは依然として人間の役割である。パターン認識が人間の理解と鑑賞を不要にするという結論は論理の飛躍であり、効用と目的を混同しているように思える
数学だけが特別に人間を高める霊的活動というわけではなく、家庭菜園の世話も霊的であり得る。哲学や神学では人間の著者の視点と人生を考慮しなければならないが、LLMは複数の視点を混ぜ合わせるため、きちんと学び思索しようとするときには使わないだろう
望む数学を趣味として続けることはできても、それだけで生計を立てるのは難しくなる
LLMによってより多くの数学が形式化され、すべての数学が形式化されれば、大きな進展が始まると期待している
Robert Pirsigがオートバイ整備を霊的活動と見なしたのも、必要とされる忍耐と不確実性のためであり、ボタンを押すだけでよくなった瞬間、霊的な過程も消える
まともな数学者にはなれないと悟ったとき、すでに私には黄昏が訪れていた。LLMはその過程をすべての人に広げただけなのかもしれない
変化は加速しているのに、私たちが考慮する時間範囲はむしろ短くなっている。個別の変化一つを心配している間に、連鎖的な変化がすぐ後に続くだろう
AIは穏やかな長期移行ではなく、最初の単細胞生命以降のどの移行よりも規模が大きく、Webの普及より速く進んでいる。人間が道具を受け入れる速度がボトルネックになるわけでもなく、AIが道具の制御権を握り、人間の適応なしに改善されつつある
人間の知的優位と形容しがたい経験は今まさに消えつつあるが、すべてが終わるとは限らない。20年後、50年後、100年後にも、別の存在たちがフロンティアで神秘的な経験と発見の内在的な報酬を享受しているだろうし、特異な関心を追う傾向は、予想外の進歩がもたらす莫大な平均リターンのために続く可能性が高い
未来の存在が面白みに欠けるものになる可能性は低く、今、胸や腹がざわつかないなら、この瞬間を正しく認識できていないということだ