AI：ディストピアかユートピアか？

xguru · 2024-09-30T11:21:01+09:00

コスラ・ベンチャーズのVinod Khoslaによる文章 1. 序論 40年間にわたり破壊的イノベーションに献身し、研究してきた。マイクロプロセッサから始まり、Sun Microsystemsで先駆的に分散コンピューティングとパーソナルコンピュータの発展を導いた 1996年のブラウザ登場は、もう一つの画期的な転換点だった。Netscapeに投資し、Juniperを育成して、インターネットの基本TCP/IPバックボーンを構築した。これはインターネット革命の夜明けであり、AmazonやGoogleのような新興巨大企業に戦略的投資を行った 2007年のiPhone登場とともに、モバイルプラットフォーム時代が到来した。新しいプラットフォームが現れるたびに、巨大なアプリケーション革新と新たなアイデアの爆発が可能になった程度（degree）の差が種類（kind）の差になる地点があるが、AIは以前の技術段階の変化とは異なる種類である可能性が高い。マイクロプロセッサ、インターネット、携帯電話は人間の頭脳を活用するための道具だったが、AIは人間の頭脳そのものを増幅し、掛け合わせる蒸気機関やモーターの出現が筋力を増幅したのと同じように、AIはそれに対応する知的な並行物をなす。専門性、思考力、知識を掛け合わせる能力は、今後10年間で人間の頭脳能力を大幅に超える可能性があることを意味する人工知能は、前例のない豊かさの未来を約束する。短期的には置き換えられる人々にとって苦痛を伴うかもしれないが、よく考え抜かれた政策によってその後遺症を和らげることができる今後の0〜10年、10〜25年、25〜50年という時間帯は、それぞれ大きく異なるだろう。人間の知能をはるかに超える技術能力と、分野ごとの社会浸透率については、変化の速度を予測したり見積もったりするのが難しいだろう未来がディストピア的なのかユートピア的なのかをめぐる現在の混乱をさらに深めているのが、伴う失敗と相まって見方を歪める現在のAI過剰宣伝（Hype）サイクルであるほとんどのAIベンチャーは財務的損失に終わるだろうしかし、世界を変える少数の企業によって、全体としては損失以上の金が生み出されるだろう最も刺激的なのはAIの収益規模ではなく、世界の流れを変え、社会インフラをより良い方向へ再創造できる潜在力である 2. AIに対するディストピア的見方悲観論者（Pessimists）と破滅論者（Doomers）は、ディストピア的未来を経済面・社会面から描く彼らの懸念について、私はその大半が根拠に乏しく、近視眼的で、誇張されており、実際には有害だと指摘するこうした懸念は社会的選択によって解決可能である私は破滅論者たちのディストピアを、リスクとリターンの観点から見て誤った計算だと考える AIのリスクは現実だが、管理可能である現在の論争において、破滅論者たちは「悪い知的AI」という小さなリスクに焦点を当てており、最も明白なリスクである「国家」やその他の悪意ある行為者とのAI競争に負けることを見落としている AIを恐れ、民主主義を侵食し、社会を操作し得ると懸念する人々が、最も恐れるべきリスクであるこれが中国に負けてはならない理由であり、全人類のためにAIを使うべき理由である中国は、破滅論者たちの悪夢が最も早く実現する方法である「世界で最も強力な技術の公正な分配を、習近平とそのプーチンのような側近たちに託す覚悟がありますか。それこそがディストピアでしょう」 A. 雇用減少と経済的不平等経済的ディストピアでは、富が上位層に集中する一方で、知的・肉体的労働の価値が低下し、広範な失業とデフレーションが経済と購買力を破壊し、不平等が深まる AIは、一部のエリートだけが繁栄し、残りは経済的不安定に直面する世界を作り出しかねない。とりわけ、強力な政策がないまま漂流する民主主義ではそうであるしかし、所得再分配、最低生活水準の保障（おそらくUBI?、Universal Basic Income）、民主主義によって主導される戦略的立法など、賢明な介入によってこれを防ぐことができる資本主義と税制は民主主義の許可のもとにあり、民主主義はこのような転換を可能にし得る良い知らせは、AIが十分な富を生み出して皆に行き渡らせることができ、AIのない世界よりも皆が豊かになれるという点である高齢化する世界人口と減少する若年労働者プールを考えれば、AIは不可欠である正しい政策があれば移行期を円滑にし、週3日勤務制を導入することさえできる GDP成長率が2%から5%へ跳ね上がれば、「移行基金」を作れるだけの豊かさが生まれるだろう。ノルウェーのような国の繁栄を支えた石油基金に似たものだ B. 社会統制と操作社会的な否定論者たちは、AIが蔓延する監視から始まり、人類を脅かす世界を描くしかし、このような結果は避けられないものではない。各国で施行される立法が、AIが私たちの生活にどのように統合されるかを決めるだろう民主社会では、これは集団的選択となるだろう。私は犯罪が減る社会のために、ある程度の自由を手放す用意がある。だからといって全体主義を受け入れようということではない AIによって、犯罪の理由そのものが減る可能性もある AIの法的利用に制約を課そうとするなら、AIの発展による利点を享受しつつ、警鐘論者たちが予測するディストピア的ビジョンに屈しないという、合理的なバランスを実現できるさらなる懸念として、AIが世論を操作し、情報を統制し、ターゲット型プロパガンダやディープフェイク技術を通じて選挙に影響を与えるために使われ得る点がある実際、2024年の米大統領選ではロシアの介入がすでに目撃されており、より強力なAIによって状況はさらに悪化し得る。これは民主主義を損ない、真実を見分けるのが難しい社会を生み出しかねないしかし、操作と統制への懸念は、単一の専制的なAI支配者が存在するという前提に依存しているが、これは現実味に欠けるむしろ可能性が高いのは、それぞれ異なる利害に奉仕する多様なAIが現れるということだ私が構想しているのは、すべての個人のためのパーソナルAIエージェントであり、操作的マーケティングや今日のブレインハッキングから彼らを守るよう設計されたものだ。ここでいうブレインハッキングとは、マーケターが消費者に、本来なら買わなかった物を買わせたり、クリックさせたりすることを指す私たちは、強力なAIが各個人を代表し、保護することを期待しているデジタル時代の「スパイ対スパイ」と考えてみてほしい。AIは、私たちを操る誘因を持つ企業AIに対抗して、消費者および市民としての私たちに力を与える C. 人間の主体性の喪失とAIシステムにおける倫理的考慮事項医療、司法、ガバナンスなどの領域でAIが重要な意思決定を行うことへの懸念は、現在のシステムに潜む偏見を考えれば妥当であるしかし、こうした偏見は人間に由来するものであり、AIはそれを認識し是正する機会を提供するたとえば、人間の医師は手術に対する報酬を受け取ると、より多くの手術を行う傾向があり、彼らに偏見がないと主張するのは難しい AIは、偏りのない医療を提供できる唯一の方法になるだろう。AIは偏見をあぶり出し、それを是正するだろう。これはより豊かな世界と、より公平なアクセスを生み出す私の見解では、人間はAIの意思決定権を取り消す権力を保持し、それによってAIは制御不能な力ではなく、人間の合意によって導かれる「機関」であり続けるだろう知覚を持ち悪意あるAIという亡霊は危険だが、私たちが緩和できるリスクである AIが仕事を再編し、最終的には医療、司法、ガバナンスにおいて意思決定を行うようになり、人間の知性や判断を潜在的に無視することで、私たちは人間の目的を再定義し、現在の成果を改善する機会に直面している今日、私たちは6歳から学校で教育を受け、職を確保するようプログラムされており、それが最終的に私たちの自己感覚の大部分を形作っているしかし25年後には、こうした切迫した義務なしに、子どもたちに探究、想像、発見、実験を教えられるようになるだろう人々を生存のための仕事から解放することは、人間であることの意味を再定義し、私たちの「人間らしさ」を高め、目標の多様性を広げうる最終的に「人間らしさ」は、生存労働の鎖から解放され、こうした動機を追求する自由によって定義されるだろう何よりも、資源競争の少ない世界では、より多くの人間が外部からの圧力ではなく内的動機によって動くことを望む社会と個人は、個人的に活用したい技術や、時間を投じたい対象を選べるようになるだろう AIを使わずに個人的な決定を下すことを好む人なら、コパイロットなしで自由に進むことができるだろう。私たちに強制されるものはない AIは支配者ではなく、私たちの必要や要望を満たすために使える道具になるだろう小さな規模では、米国のアーミッシュは自らの選択で技術を放棄している。そのような共同体が何千と存在しうる上記を踏まえると、AIへの依存が人間の倫理や道徳的基準を弱める可能性があるという懸念がある AIシステムが倫理的考慮よりも効率を優先するようプログラムされれば、有害または不公正な決定が下される可能性があるしかし、これは機械ではなく人間が下す社会的選択である。うまくいかなければ責任は私たちが負うべきだ同じ理由で、悲観論者たちが、機械には人間の価値観、倫理、感情に対する繊細な理解が欠けているため倫理的・道徳的退行を招くと懸念するとき、私はむしろ人間が責任を負うことのほうがはるかに大きなリスクだと提案したいアラインメントは重要だが、人間が集団を調整し意思決定しようとするときにも同じことが言える。まず同じ目標を持つことが重要だ AIは私たちの指示を理解して従うほど十分に強力であるか、そうでないかのどちらかである。両方を同時に成り立たせることはできない完全に独立したAIは、下で扱う別のより大きなリスクを引き起こしうるが、「十分に賢いAI」が私たちの指示を理解できないことはその一つではない D. 創造性と批判的思考力の喪失 AIの世界で人間の創造性や批判的思考力が弱まるという懸念について、私はそれは偏狭な見方だと思う批評家たちは、AIアルゴリズムがユーザーに狭い範囲のエコーチェンバー的なアイデアを提供し、文化の同質化が起こることを懸念しているまた、AIに過度に依存すると、人々が機械に意思決定を委ねることで、人間の創造性、問題解決能力、批判的思考力が低下する可能性があると心配しているしかし、私のように音楽的才能がまったくない人でも、AIを通じて、娘の結婚式で私が書いたスピーチを届けるパーソナライズされた歌を作れる世界が見えている実話である。これは私にとって大きな意味があった AIを通じて、私たちは現在の限界や能力を超えて創造性を拡張できる優れたアーティスト、画家、パフォーマーたちは、こうしたツールをさらにうまく活用できるだろう AIシステムは創造的な作業においてより優れている、あるいは異なる可能性があり、まもなく感情や共感を表現できるようになり、そうすることで人間を補完できるため、私はそれを人間性の喪失ではなく、むしろ人間性の増幅、向上、拡張だと考える E. AIの自律性、実存的リスク、覇権、そして中国最も極端な見方では、悲観論者はAIが制御不能に陥り、人類を絶滅させる可能性があると警告している「感情を持ち、独立していて、悪意のあるAI」の危険は、おそらくAIがもたらす最も深刻な脅威であり、私たちが真剣に受け止めるべき脅威である AIが急激に人間の制御を離れる「急激な離陸（Hard Take-Off）」という概念は現実的で警戒を要するが、このリスクは、AIが人類にもたらす莫大な利益、あるいは敵対的な国家の手に渡ったAIが生み出す危険と比較して評価することが重要である「AIのゴッドファーザー」として広く知られるヨシュア・ベンジオとジェフリー・ヒントンも、こうした懸念に共感しているタンパク質構造モデリングのような専門的な作業で機械がすでに人間の能力を上回っているなか、ベンジオは今後10年以内に人間の知能を超える汎用AIが登場する可能性があると警告しているヒントンとともに、ベンジオは悪意のある行為者や組織によって悪用されるAIの破滅的リスクについて警告している AIが自己複製し、生存を守り、人間の介入を受け付けないシステムを構築し、デジタルインフラの脆弱性を悪用する潜在力は、民主主義を不安定化させるだけでなく、全人類を覆しかねないこうした懸念はAIそのものに関するだけでなく、そのような強力なツールへのアクセスが広く行き渡り、悪意ある意図を持つ人々の手に落ちることに関するものでもあるベンジオは、AI開発を規制し、悪用を防ぎ、人類を保護するための対策を開発する国際協力を提唱している私は、AIの利用は検証可能ではないため、ここで国際条約は無意味だと主張するだろう（その使用が明白な生物兵器や核兵器とは異なり）マックス・テグマークも「制御問題」に重点を置いているが、これでさえAI安全性研究の進展によって解決されつつある OpenAIの人間のフィードバックによる強化学習（RLHF）の研究と、AIの解釈可能性に関する広範な研究への注力は、この分野をより透明で制御可能なシステムへと押し進めている米国AI安全研究所のAI安全責任者であるポール・クリスティアーノは、アラインメント問題は確かに存在するが解決不可能ではなく、技術的解決策とより厳格な監督フレームワークを通じて段階的に解決されつつあると指摘しているこれには、人間がAIの学習プロセスをより綿密に監督できるようにするシステムが含まれ、AIが最適化する目標が人間の価値観と一致することを保証するさらに、核兵器や感染症を実存的リスクになぞらえるのはやや適切ではない AIとは異なり、核兵器や感染症は即時的かつ明白な破壊力を持つ一方でAIは、特定の機能を提供するよう設計し、導くことができるツールである『Human Compatible』の著者スチュアート・ラッセルは、慎重な計画によってAIが脅威とならないよう制御できると強調している彼は、AIはその目標について不確実性を持つように構築されるべきだと提案しており、それによりAIがその決定について常に人間の承認を求めることが保証される「価値アラインメント（Value Alignment）」と呼ばれるこのアプローチは、テグマーク、ベンジオ、ヒントンが提起するような形でAIが制御を逸脱する可能性を低下させるしかし、これは自動的に実現するものでも保証されるものでもないため、さらなる研究資金が必要であるしかし、友好的でない国家との戦いにおいて、規制によってAI開発を遅らせることはあまりに大きなリスクである遅れを取ることこそが、断然、私にとって最も恐ろしいリスクである MetaのチーフAIサイエンティストであるヤン・ルカンのような研究者たちは、現在のAIシステムには自己認識や自律性に必要な基本的メカニズムが欠けていると指摘している彼らにとって、感覚を持つAIが乗っ取るという恐れは大幅に誇張されている私たちが知るAIは、独立した動機や独自の目標を設定する能力を持たず、完全に人間が生成した入力と目標に依存しているルカンは、AIは急速に進歩しているものの、AIが感覚を発達させるという考えは依然として現在の技術能力をはるかに超えていると主張している（しかし、近い将来に何が可能でしょうか。中国がAI競争で優位に立ち、政権の強権を活用して世界中の政治的・社会経済的価値を支配することです。これについては下でさらに詳しく説明します。）こうした終末論的な恐怖についての私の総括は、もう後戻りはできないということであり、私たちには、AIを利用する悪意ある行為者に完全に無防備になるか、その悪意あるAIに対抗できる技術を開発するかの二者択一しかないということださらに、私たちは複数のAIを持つことになるため、最悪のシナリオでも、すべてのAIが同時に人類に敵対する可能性は低い私たちは人間に奉仕するよう設計された、多種多様なAIを持つことになる AIの説明可能性への関心が高まれば、AIの目標を人間の価値観と一致させることで、安全性が向上する可能性が高い今後10年以内に、私たちは制御不能な「ブラックボックス・システム」への恐怖を乗り越えるだろうと私は信じているただし、この問題を解決するには、AIの安全性と倫理に対するレーザーのような集中が必要である AI安全性への大規模投資が重要であり、大学研究のかなりの部分がこの分野に焦点を当てるべきである連邦政府は安全性研究とAI検知により多く投資すべきである適切な研究とテストの後には、「オフスイッチ」のような機能が必要である国際条約は、条約順守を検証する方法がないため不可能だと私は主張するだろう人類が感染症、小惑星衝突、核戦争など、多くの実存的リスクに直面していることも忘れてはならない AIはより広い文脈の中での一つのリスクにすぎず、私たちはこれらのリスクとAIがもたらし得る潜在的利益との間のトレードオフを考慮しなければならない私の見解では、AI技術で中国や他の敵対国に後れを取るリスクは、自己意識を持つAIよりはるかに大きい AI開発を遅らせることは民主主義にとって破滅的になり得る今後20年間、特にAI分野で技術先導国として台頭する国家は、技術、経済的利益、影響力の世界的分配において支配的地位に立ち、したがって価値観の面でもそうなるだろう AIは、サイバー戦やキラーロボットのような国防用途だけでなく、地球のための無料の医師、無料の家庭教師のようなものにおいても、最も価値のある技術となるだろうこのAI競争や融合のような関連競争で勝利する国家は、強大な経済力を土台に政治権力を掌握し、世界政治システムに潤滑油を注ぐ可能性が高い東南アジア、アフリカ、ラテンアメリカなどへの影響が懸かっているこの技術戦争では民主的価値が危機にさらされているため、私たちはこの戦争に勝ち、中国を打ち負かすためにできることをすべてしなければならない彼らのユートピア観はおそらく異なるだろう私は、中国が今後25年間で、中国共産党が自国社会にとって正しいと考えるものを押し付けるために、天安門広場の戦術を取る可能性があると疑っている対照的に、私たちは政治的プロセスを経ることになる民主的価値が世界的に勝利するためには、私たちはAIに慎重に取り組む必要があるが、AI競争に敗れることを受け入れてはならないだからこそ私は、習近平主席の監督下にある中国の第14次5カ年計画が、AIと5G無線で勝利する意図を明示的に宣言していると考える前者は経済力を、後者は中国が通信網とTikTokを支配することで100以上の国のすべての市民を監視できるようにする技術的リーダーシップは、戦時動員（wartime mobilization）に値する実存的優先課題である米国の学者や哲学者たちが懸念する「アラインメント制約」から自由な中国のボットが、西側の有権者に対して密かに個別に影響を与えることを想像してみてほしいこうした偶発的・共謀的リスクに対処するため、私たちは安全技術への研究と投資を大幅に増やすべきだが、AIを積極的に規制してはならない人口動態、成長鈍化、莫大な債務負担によって、今後10年以内に中国がピークに達すると信じるなら、私たちは中国が勝つためにさらに必死になり、衰退期においてより危険になると考えるべきであるトゥキディデスの罠とは逆に（新興の貿易大国が既存の構図を揺るがすと、既存の貿易大国と新興の貿易大国の間で武力衝突が起こる）だからこそ私たちは、仮説的なシナリオについて議論し、優先順位を誤った規制で進展を遅らせているあいだ、彼らの慈悲に頼るべきではない私たちは、AIが人類を破壊し得る自覚的な能力について心配すべきかもしれないが、小惑星が地球に衝突したりパンデミックが発生したりするリスクも存在するしかし、中国が私たちの体制を破壊するリスクの方が、私の意見でははるかに大きい現在の議論において、悲観論者たちは小さなリスクに焦点を当てており、最も明白なリスク、すなわちAI競争で悪意ある行為者に敗れることが西側にとってAIを危険なものにするという点に焦点を当てていない皮肉なことに、AIと、民主主義を侵食し社会を操作し得るAIの能力を恐れている人々こそ、このリスクを最も恐れるべきだ！ 3. AIに対するユートピア的な見方この文章を書く動機の一つは、AI中心の世界に対するディストピア的なビジョンを払拭することにある大規模失業、富裕層はさらに豊かになり、知的／肉体的専門性の価値低下、人間の創造力の喪失などは、想像力に欠けた認知的に怠惰なビジョンである西洋ではディストピアに対して非常に歪んだ見方があるディストピアを語る多くの著者は、すでに現実の苦しさや生存の脅威から離れ、象牙の塔で思索を巡らせるぜいたくを享受している予期しない400ドルの出費すら負担が難しい米国人が40%、適切なプライマリ・ケアを受けられない米国人が1億人、過大な医療費のため毎年50万人の市民が破産していることに言及している AIは、地球上のすべての子どもにほぼ無料のAIチューターを、すべての人にほぼ無料のAI医師の専門知識を提供できる腫瘍専門医から構造エンジニア、ソフトウェアエンジニア、プロダクトデザイナー、チップ設計者、科学者に至るまで、ほぼあらゆる種類の専門知識が無料に近くなるだろうマイクロプロセッサは、携帯電話の計算能力を見れば分かるように、ほとんどの電子製品とコンピューティングをほぼ無料にしてきた AIは、あらゆる専門知識をほぼ無料にし、ほとんどの労働を二足歩行ロボットなどによって非常に安価にし、金属から医薬品に至るまでの材料を、より優れた科学的発見と資源発見によってはるかに安くするなど、マイクロプロセッサよりもはるかに多くの領域に同様のコスト削減を適用するだろうまた、核融合炉のプラズマを制御し、自律飛行航空機、自動運転車両、公共交通を制御することで、すべての人にとってそれらをはるかに安価で利用しやすいものにするだろう AIは、すべての個人に対して、日常業務を支援し、個別最適化された健康と栄養を提供し、さらにはエグゼクティブ支援まで行うパーソナライズされたインテリジェント・アシスタントを提供するだろう AIベースのツールは、イラスト、アイコン、ロゴ、アート作品を生成し、クリエイターの働き方を変えるだろう AI操縦の医師、放射線業務や診断を自動化するAI、売掛金管理や財務モデリングのような業務を自動化するAI金融アナリストが登場するだろう AIは契約書作成、ビデオゲーム制作、完全自動運転車の運行を支援するだろう AIコパイロットは、チップの形式検証から熱管理、土木工学、インテリアデザインに至るまで、あらゆる分野でエンジニアを支援するだろう自動運転MRIからパーソナライズされたオーディオブックに至るまで、私たちは起業家が想像できるものによってのみ制限される AIは、私たちが企業を築く方法そのものさえ民主化するだろうたとえば、プログラミングはもはやコンピュータサイエンス分野だけに限られなくなる。私たちは近いうちに複雑なプログラミング言語の代わりに自然言語でプログラミングできるようになり、ほぼ10億人のプログラマーを育成できるようになるからだ A. 効率性と生産性の向上私は、80%の80%、あるいはそれ以上のあらゆる仕事がAIによって実行可能になると見積もっている。プライマリ・ケア医、精神科医、営業担当者、腫瘍専門医、農場労働者、組立ライン作業者、構造エンジニア、チップ設計者など、どの職業でもあり得る。そしてほとんどの場合、AIの方がうまくやるだろう私たちはすでに、AIが単調で反復的な業務を代替し、人間がより創造的で戦略的かつやりがいのある仕事に集中できるようにする初期段階を目撃している最終的には、私たちは人間として、どの仕事を人間に割り当て、何を自ら選ぶのかを決めることになるだろうまた、AIコパイロットが、人間には不可能なほど優れた方法でテラバイト単位のデータを統合するのを目にすることもできる専門知識が人間の成果と結び付く場所であればどこでも、AIは人間を上回る成果を出すことができ、しかもほぼ無料に近い価格で提供されるだろう乳がん患者を治療する腫瘍専門医を例にすると、特定の乳がんに関する最新の5,000本の論文を記憶していることは極めて難しいだろうロボットのような具現化された知能は、今後10年間で驚くべき新たな能力ベクトルとなるだろうある作業や職業がAIによって遂行可能だからといって、すべての社会がそれを許容するとは限らないさらに考えるべきは、専門知識がAIにある社会では、農場労働から腫瘍専門医やエンジニアに至るまで、すべての労働が等しく評価されるのかという点だ。 AIは偉大な平準化の道具となるのか。そして、こうしたソフトウェアとハードウェアを支えるために必要な鉄、銅、リチウム、セメントのような天然資源や物理的投入物はどうなるのか。中国が、アフリカや南米のような資源の豊富な地域、特に重要鉱物のサプライチェーンを掌握するために戦略的に動いているのを目の当たりにし、イノベーションの必要性は明白になっている AIは、リチウム、コバルト、銅のような天然資源を発見し活用する方法を変え、私たちの資源発見能力が消費を上回れるようにするだろう現在の課題は資源不足ではなく、資源を見つける私たちの能力に限界があることであり、AIはこの障壁を打ち破る助けになるだろうまたAIは、天然資源、原材料、その他の資源の利用を最適化して無駄を減らし、農業、製造業、エネルギーなどの産業の効率性を改善できるこれは、より持続可能な経済と地球に対するより良い管理につながる可能性がある B. 生活の質の向上私たちの物理的な生活も、より良い方向へと一変するだろう二足歩行ロボットは、家事から高齢者ケア、工場の組立ライン、農場に至るまで、あらゆる垂直領域を変革する力を持っているこれがGDP、生産性、人間の幸福にどれほど急進的な変化をもたらし、人々を私たちが仕事と呼ぶこうした割り当ての奴隷状態から解放するかについて備えている人はほとんどいないこうしたロボットは、彼らが代替する人々を養えるだけの十分な価値を創出するだろう 25年後には10億台の二足歩行ロボット（10年後には100万台）が、微細操作を含むさまざまな作業を実行できるようになるだろう私たちは、組立ライン作業者や農場労働者のような下位50%の本当に望ましくない仕事から、人間を奴隷状態から解放できるこれは自動車産業よりも大きな産業になる可能性がある。しかし、人生に対して怠惰で放縦なアプローチを取らないことは人間の責任となるだろう AIはまた、私たちの間の物理的距離を縮めることができる私たちはほとんどの都市で、自動車の大半をAIベースの自律的で個人的な高速輸送システムとラスト1マイルの自動運転車に置き換え、既存道路の乗客収容能力を10倍にできるこれは自動車産業を劇的に縮小させ、名目GDPを減少させる一方で、地域の個人交通をはるかに便利で速く、安価にするだろう変化するのは私たちの物理的な生活だけではないまもなく、ほとんどの消費者にとってのインターネットアクセスは、消費者の代わりに行動し、日常的な作業を効率的に管理し、マーケターやボットを遮断できるよう権限を与えるエージェントになるかもしれない消費者を代表する数百億のエージェントが24時間体制で動作することは驚くべきことではなく、現在の私の希望でもあるこれもまた消費主義を強め、物を売ったり考え方を歪めたりしようとする巧妙に設計されたマーケティング装置に対抗する消費者にとって、大きな平準化の道具になるだろう彼らは自らの利益を守る、最も賢いAIを持つことになるだろう C. 医療サービスの向上と寿命の延伸 AIは、個人の遺伝的構成、生活様式、環境に合わせた治療を通じて個別化医療を可能にすることで、医療サービスを革新しうる。これは、より良い健康成果と、より長く健康に生きることにつながりうる AIは症状が現れる前に病気を早期発見するために利用でき、より効果的で侵襲の少ない治療を可能にする。これは慢性疾患の負担を大幅に減らし、全体的な公衆衛生を改善しうる医療のようなサービスの質、一貫性、アクセス性は、ほぼ無料になると同時に改善されるだろうメンタルヘルスケアや慢性疾患管理を含む非常に広範なプライマリケアが世界的に基本的なものになるだけでなく、AIは現在のバイオテクノロジーを補完し、実際に効果があり、オフターゲット効果を最小限に抑え、世界規模で展開可能で安価な精密医薬品を生み出すだろう腫瘍医のような、より専門化された医師は、最新の研究とデータに関する膨大な情報にアクセスできるようになり、人間の同業者よりも効果的で最新の知見を提供できるようになる人間の介入が必要になる可能性はあり、AIは患者の選好に応じていつ人間の医師を呼ぶべきかを理解するだろうが、24時間稼働するAI腫瘍医ははるかに多くの接点を提供し、はるかに多くの情報を統合し、結果をモデリングして診断および臨床プロセスに関する意思決定を行えるようになり、人間の医師がよりやりがいのある活動に専念できるようになるだろう。これは他の専門分野や、あらゆる種類の慢性疾患管理、診断検査にも同様に当てはまる AIディストピアへの恐怖は、極めて非効率な医療システムの中で診療を受けようと苦闘している患者から生まれているわけではない（彼らも自分の仕事については心配しているが） 1億5000万人のアメリカ人が、連邦政府が指定したメンタルヘルス専門家不足地域に住んでおり、精神疾患を持つ成人の半数以上が治療を受けられていない私たちはエリート学者ではなく、2800万人の個人に次のような知らせを歓迎するかどうか尋ねるべきである: 英国で承認された最初の大規模言語モデルAIセラピストは、現在NHSの行動健康の受付業務の40%を処理しており、受付、エスカレーション、診断、治療を行うAIとして、回復に関してはるかに優れた成果を示している。時間が経てば、この傾向はほぼ無料に近いメンタルヘルスケアにつながるだろう。これこそがAIのユートピア的側面であり、現在のシステムによる多くの苦しみを解決できる、長らく待ち望まれていた技術革命である技術を通じて社会基盤を再構築し、地球上の79億人が上位10%の最も裕福な人々のように暮らせるようにすることについての私の推測は、AIの継続的に拡大する能力が明らかになるにつれ、今でははるかに実現可能に見える基本的なプライマリケア、慢性疾患管理、専門診療（例: 心臓病学、腫瘍学、筋骨格系など）の拡大は、開発途上国に住む人々の健康を改善し、病気を予防するうえで不可欠である世界中のすべての子どもが利用できる、ほぼ無料に近い24時間稼働の医師は、もし私たちが引き続き人間に依存して医療サービスを提供するなら実現不可能だろう実際、現在の議論はAIの最も際立った結果に焦点を当てられていない。AI革命の最大の影響を受けるのは、日々の生存のために苦闘している地球の下位半分にあたる40億人である主としてこうした理由から、象牙の塔の学者たちが私たちをAIユートピアへ向かう道から後退させようとするとき、それは彼らが現実世界からどれほど乖離しているかを物語っている 20年前、医学誌『ランセット』は、世界の児童死亡の90%を占める42カ国において、児童死亡の63%がより効果的なプライマリケアによって予防できることを発見したが、これは年間600万人の命に相当する。AIはこれをほぼ無料にできる西側諸国では、下痢、肺炎、はしか、マラリア、出生前後のHIV/AIDS感染のような病気の予防可能性を当然視している世界のより恵まれない地域のすべての子どもに十分な接点を持って到達できるだけの数の人間のプライマリケア医を確保する現実的な方法はないもし私たちがAIを社会に受け入れて前進するなら、私が生まれたインドのある村を訪れたときに受ける診療の質は、スタンフォードの地域のプライマリケア医に会うときよりも高くなるだろうと私は想像する。米国に既存の摩擦があることを考えれば、インドの村のほうがAIをより早く導入するだろうからだ D. 教育と知識の拡張 AIは、各学生のニーズ、ペース、知識のギャップ、関心に適応する個別化された学習体験を生み出し、すべての学習者により効果的な教育と高い達成水準をもたらしうる AIベースのプラットフォームは、地理的な場所や経済的地位に関係なく、世界中の人々に高品質な教育を提供できる。これは知識を民主化し、世界中の個人に力を与えうる公立学校の学区割りや生まれた郵便番号は、AIの助けで同輩の影響の問題を解決できるなら、一人の人生の結果に与える影響ははるかに小さくなるだろう世界的に見て、AIは地球上のすべての子どものために、数多くの科目にわたって24時間利用可能な、ほぼ無料に近い個人教師を提供できる唯一の機会であるそれが機会を開き、主体性、自己効力感、情熱、希望、動機、ジェンダー平等を与えるうえでどれほどの影響を持ちうるかは、過大評価しようがない。特に、そうでなければ資源が不足し、このように広範で一貫性がありアクセス可能な教育のためのインフラが欠けている地域に住む人々にとってはなおさらである「働く必要」から解放された社会についての私の25年以上にわたるビジョンと組み合わさったAI個人教師と人間のメンターは、子どもたちに探求し、自分自身になる自由を与えるだろう。それは自由により近い E. 環境の持続可能性 AIは、エネルギー使用の最適化、排出量の削減、再生可能エネルギーのための新技術の開発を通じて、気候変動問題の解決に重要な役割を果たしうる AIは環境モニタリングや保全の取り組みにも役立ちうる AIは、環境への影響を減らしながら食料生産を増やす、より賢く効率的な農業慣行につながりうるため、増え続ける世界人口を持続可能な方法で養う助けとなりうるしかし、これは線形的な思考である。AI科学者は、私たち人間が生み出したこの決定的な問題に対して、はるかに革新的なアプローチを可能にしうる AIユートピアを実現するには、無制限で安価な電力生産のための核融合のような補完技術が必要である正しい政治的環境が整えば、2050年までにすべての石炭火力および天然ガス発電所を置き換えられる可能性がある私は、核融合または原子力発電所を一から建設すること全体に賭けるよりも、石炭および天然ガスのボイラーを改修・置換するための核融合ボイラーに賭けているクリーンで制御可能な電力のために、地熱、太陽光、先進的なバッテリーシステムを活用する有望な取り組みもあるコンピューティングの環境コストを下げるには、複数の要因が作用しているアルゴリズム効率とハードウェア分野で大きな改善が進んでおり、AIシステムははるかに少ない電力消費で、はるかに多くのことを達成できるようになっている Web検索機能の新技術と統合は、エネルギー消費を急増させることなく、AIがより効果的に拡張できるよう支援するこのような最適化されたコンピューティングへの取り組みは、AIの増大するエネルギー需要を支えるだけでなく、この技術がグローバルインフラに負担をかけずに持続可能に拡張できることを保証するしかし、私たちはこの問題に真剣に取り組まなければならず、これは現実の問題である F. 人間の能力（および創造性）の向上、新たな体験 AIは人間の能力を拡張し、現在の人間の知能だけでは扱いにくい複雑な問題を解決できるようにするこれは、科学、技術、その他の分野における知的挑戦を含むブレークスルーにつながる可能性がある AIは創造的なパートナーとして、アーティスト、デザイナー、イノベーターが新しいアイデアを探求し、芸術、科学、技術における可能性の境界を広げるのを助けることができる消費者向けサービスは超パーソナライズ化され、個人が同時にアーティスト、作曲家、プロデューサー、作家、消費者になれるたとえば音楽はゲームのようにインタラクティブになり、新しい形式が発見され活性化される可能性があるこのようなメディアはすでにあふれ始めており、場合によっては人間が作ったものより大きな割合のヒット曲を生み出している才能の不足や安定した経済的将来への不安、あるいは単に映画を作ったり曲を作ったりするための資源がないことで、これまでは多くの芸術的な志が阻まれてきたが、そのような障壁は徐々に消えていくだろうこれは有名な芸能人がいなくなるという意味ではないが、AI生成アートは、音楽の人工的な起源を覆い隠す複雑さと深い質感を提供するだろうこれを嫌う人もいれば、好む人もいるだろう。クラシック音楽からヘビーメタルに至るまで、今日の音楽ジャンルでも同じことだ新しい種類の仕事が生まれ、新たな創造性が噴き出すだろう映画用カメラが登場する前には、映画製作者という職業は存在しなかった。業界全体が爆発的に成長したエンターテインメントはさらに人気を集め、エクストリームスポーツはX Gamesのように多くの人に収入をもたらす職業になったたとえば、以前は職業ではなかったスノーボードも、今ではそうなっている EtsyやeBayのようなプラットフォームは世界中の職人や起業家を後押ししてきたし、新しい技術はまったく新しい世界の職業を可能にするだろう Wattpadは多くの新しいクリエイティブな作家を生み出し、PinterestやTumblrのようなプラットフォームは人々に創造性を発揮する出口を与え、その嗜好や個性をより表現できるようにした G. 倫理的意思決定とガバナンス AIは、公正な意思決定プロセスを確保し、偏見を減らし、ガバナンスの透明性を促進することで、より公正で平等な社会の実現に役立つ可能性がある AIは膨大な量のデータを分析してエビデンスに基づく政策立案を支援でき、より効果的で十分な情報に基づいたガバナンスにつながるすべての市民が24時間利用できる弁護士を持てるようになり、専門家を10倍に増やし、アクセシビリティと適正性を拡大できる根深い人間の偏見なしに、迅速に紛争を解決できる十分な数のAI裁判官が存在するだろう教育、法律、金融アドバイスは、もはや社会の上流階級のためだけのものではなくなるだろう実際、これらは今日の道路や国防のように、不可欠でほぼ無料の政府サービスになるだろう H. 人間の繁栄と幸福ユートピア的なビジョンにおいて、AIは社会の焦点を経済成長から人間の幸福と充足へと転換する助けになりうる人々が早い段階から、自分を本当にわくわくさせるものを追求する機会を得ることで、情熱が自然に生まれる世界を想像してほしい先に子どもの自由について説明したが、もう少し踏み込むと 6歳の時点から子どもたちに、単に職を得るためではなく、自分の情熱を燃やすために学校で優秀である必要があるのだと教え始めるなら、40歳になってからこの話を始めるのと比べて、発達途上の脳にまったく異なる形成的経験をもたらすだろう上位1％または0.1％を除けば、一般に経済的安定と結びついていない視覚芸術、音楽、スポーツ、執筆といった職業も、まもなく生計を立て家族を養うという今日の制約に縛られることなく、それを追求したい誰にとっても満足感があり達成可能なものになりうるこうした変化は、人間であることの意味を再定義するかもしれないもはや自分の存在全体を規定する組立ライン作業の単調さに縛られない私が2000年に提案したように、私たちは人間であることの定義そのものを見直す必要があるのかもしれない結局のところ、組立ラインで30年間、同じ種類の車輪を車に取り付け続けることは本当にやりがいのあることなのだろうか？そうした仕事は、華氏100度の暑さの中で農作業をするのと同じように、人間の繁栄ではなく奴隷的な形態を表しているしかし、これは単にブルーカラー労働の話ではない。ホワイトカラーの仕事のほうが先に消える可能性もあるたとえば投資銀行業務を見れば、1日16時間、ExcelのスプレッドシートやPowerPoint資料をいじり、同じ反復作業を続けることは満足のいく仕事なのだろうか？ AIの経済的帰結は、人々をこうした制約から解放し、本当に重要なこと、つまり生存や住居、食料、家族のための医薬品といった基本的なものではなく、情熱へと再び焦点を合わせられるようにするだろう望ましくなく労働集約的な仕事を根絶したからといって、人生の意味が薄れるわけではないむしろその逆だこうした技術に適応する国々では、数十年以内に週40時間働く必要性がなくなる可能性があるため、人生はさらに意味のあるものになるだろう 1920年にケインズは週15時間労働を想定していた！何が可能か想像してほしい。私たちが必要とする、あるいは望む仕事の20％をこなす週1日勤務だ私自身、69歳になっても週に1日は庭仕事をし、残りの時間を学びに充てられたらうれしいだろう最終的には、スキーやハイキング、あるいは私の多くの関心事に没頭する十分な時間を持てるようになるだろうまさにこの、人間の経験を再定義する機会こそが、私たちの人生から「人間らしさ」が消えるという悲観論者の主張を覆すものだ私たちはまず、多くの人々に自分や家族の基本的なものへの必要を背負わせている経済的制約や考慮を取り除くことで、すべての人間により大きな主体性、自己効力感、希望を与える世界を作ることができる AIは、基本的な生存の重荷を取り除くことで、人々が自分にとって本当に重要なものを自由に追求できる世界を作る機会を私たちに与える人間の努力の主要分野は、文化、芸術、科学、創造性、哲学、実験、探検、あらゆる種類の競争、冒険になりうる本当の問いは、誰もが参加できるかどうかだ I. 私たちのユートピアに対する潜在的な障害は克服可能であるもちろん、こうした予測をユートピア的な現実へと変えるうえで、多くの要因が妨げになり得る既存組織の抵抗が進展を妨げる可能性がある（例：俳優組合）政治家は個人的またはポピュリズム的な利益のために大衆の恐怖を利用し、それが抵抗をさらにあおる可能性があるまた、サプライチェーンの問題や世界的な紛争によって悪化し得る技術的な失敗や遅延が、開発を遅らせる可能性がある金融市場もリスク要因である。景気後退や悪条件によって、有望なアイデアが「遠すぎる橋の隙間」と形容される資金不足に陥る可能性がある技術を信用しない人々や反対派の抵抗を含む反テクノロジー感情は、有益な発展の広範な採用を妨げる可能性があるこうした感情は現代版ラッダイトの懸念と一致し得るものであり、彼らはDEI擁護者とともに言説を独占し、技術の潜在的利益から焦点をそらす可能性がある少数のAI関連の否定的な結果がメディアから不均衡な注目を集め、AIに対する大衆の認識を汚染することで、状況はさらに複雑になり得る予測不能で異常な「左場」イベントはよく起こり、予期せず進展を妨げる可能性がある最後に、中核となる扇動者や擁護者が現れない、あるいは効果的に大義を擁護できない場合、運動は打撃を受ける可能性があるしかし私は、AI主導のユートピアは単なる楽観的な可能性ではなく、適切な社会的選択と技術進歩によって十分に達成可能な蓋然性であるという確信を持ち続けている重要なのは、AIの潜在力を責任を持って活用し、その恩恵が社会全体に公平に分配されるようにすることである AIの地形の輪郭が進化し続けるにつれ、AIを提供し、その利益を統制する単一の支配的企業が存在する可能性は低いように思われる AIツールがどれほど利用しやすく、ユーザーフレンドリーになったかを考えると、AIの権力が少数の手に集中するという懸念は現実味が薄い専門性と資本が参入障壁を高める産業とは異なり、AI開発はますます民主化されており、個人や小規模チームでも最小限の資源でAIシステムを構築、訓練、展開できる今日では多くのクラウドサービスが、特殊なハードウェアや莫大な資金投資なしに、大規模でAIモデルを訓練するために必要なインフラを提供しているそして小規模事業者による新しい研究は、今日のLLMとは根本的に異なるAI開発手法に焦点を当てている最適な開発経路が何であるかは、私にはまだ明確ではない。その多くは互いを補完し合う可能性が高いまた、ローコード、ノーコード、自然言語プラットフォームによって、深い技術的専門知識を持たない人々でも、これまで以上に簡単にAIソリューションを作成し、展開できるようになっているチャットボットから機械学習モデルに至るまで、これらのプラットフォームは複雑さの大部分を抽象化し、平均的な人でも数年前よりはるかに短い時間でAIアプリケーションを開発できるようにしている AIベースのAPIを使えば、プログラミングの基本的な理解さえあれば、誰でも最小限の労力で強力なAIを自分のアプリ、ツール、ワークフローに統合できる AI開発のためのツールと資源がさらに利用しやすくなり続けるにつれ、単一の企業または組織がAIを独占するという考え方は、ますます実現しにくくなるその代わりに私たちは、個々の起業家から地域企業に至るまで、あらゆる人にAI開発が開かれ、イノベーションがボトムアップで繁栄できる未来へ向かっているこの分散型イノベーションモデルは、AIが少数者のためではなく多数者のためのツールであり続けることを助けるだろう 4. AI世界の新しい経済 A. AI時代の資本主義と民主主義西洋の資本主義は民主主義の枠内で機能しており、伝統的には経済的効率性のために設計されてきた資本主義は経済成長を実現してきたが、AI時代には効率性のみに焦点を当てるべきではなく、人間の幸福における平等の役割を考慮すると、所得格差の縮小という目標を同等に重要な成果として加えるべきである伝統的に経済効率性のエンジンであった資本主義は、AI主導の変化に直面して進化する必要があるかもしれない従来型の経済効率性の必要性が低下するにつれ、私たちには効率性とともに、共感資本主義と経済的平等を優先する余地が生まれる資本主義は民主主義の許可のもとに成り立っている一定水準を超える格差は社会不安につながるため、それを念頭に政策を策定すべきである私は、社会的流動性のための大きな機会があることを前提に、ある程度の不平等（すなわち「より懸命に働く動機」）を支持する考え方の中で育った私たちの生活を意味ある形で改善し得る、こうした出口は依然として存在すべきであるさらに、今日の資本主義は需要創出の努力（すなわち広告およびそれに相当するもの）が企業にもたらす経済的効率性の利益を超えて、私たちが欲しいと知らなかったものを欲しがらせる新たな形へと逸脱している。これは社会的福祉に寄与しない私たちは今、現在の資本主義システムを改善することが全面的に前向きになり得る時点に来ている皮肉なことに、この技術を最大限受け入れると決めた社会は――全員が同じ程度に受け入れるわけではないとしても――AIが切り開く豊かさのおかげで、共感資本主義を実践するはるかに大きな能力を持つようになるだろう市場の力や技術進歩を遅らせるのではなく、むしろ多くの場合に人間の労働が価値を切り下げられ得ることを認識しなければならないこれは低技能労働者、さらには多くの高技能労働者の賃金にも下押し圧力をかける人間の労働と判断に対する必要性が減るにつれて、労働は資本に比べて、そしてアイデアや機械学習技術に比べて、さらに価値を失うだろう豊かさと所得格差拡大の時代において、2014年のAIに関する私のエッセイで予測したように、私たちには単に効率的な生産のみに焦点を当てるのではなく、資本主義の望ましくない副作用により大きな優先順位を置くバージョンの資本主義が必要になるかもしれない B. 賃金圧縮と雇用の混乱、生産性向上が同時に起こる AIがスキル差を平準化するにつれて賃金は圧縮され得る一方、価値創出は創造性、イノベーション、あるいはAIの所有権へと移り、結果として別の経済的不平等につながる可能性がある歴史的には、生産性の向上は賃金上昇と消費支出の増加につながってきたが、AI技術には、私の予測では全職種の80%において業務の80%を人間から切り離せる能力があることを考えると、今回はそうならない可能性があることを認める同じ文脈で、私たちは単純に過去の経済史を外挿することはできない。というのも、各技術革命では新たな雇用機会が喪失を上回ってきたと語られてきたからだある人が言ったように、「歴史という列車がカーブを曲がるとき、知識人は振り落とされる」今回は、人間の能力を増強するだけでなく全般的に凌駕し得る技術によって、雇用創出の基本的な原動力そのものが変化するため、状況は異なるかもしれないと私は主張する私たちは以前にも大きな転換を見てきたが、これほど速いものは一度もなかったため、適応ははるかに難しい問題になる 1900年の米国では、仕事の大半が農業分野にあった 1970年までにはそれは4%になっていたしかし、それには3世代を要したこのAIサイクルははるかに速く進むだろう。したがって、より混乱し、不快なものになるだろう人工知能は、多くの職業を消滅させ、人々が時間をどう使うかについて社会的な再考を迫ることで、労働市場に地殻変動を起こす可能性が高い社会全体が改善するとしても、その変化は経済の一部の人々により深刻な打撃を与える可能性があるこれは、最も影響を受ける人々にとって容易に受け入れられるものではないだろう 10〜25年の移行期は非常に混乱する可能性があるしかしそれは、恐怖に基づいて行動し、最終的には仕事という制約から解放され、現在はごく少数の人しか享受していない資源へより多くアクセスできる世界の恩恵を受け損なう理由には決してならない影響を受ける人々をどう支えるかを真剣に検討すべき時だ専門家レベルの能力を何倍にも提供することで、アクセス性だけでなく品質も高める一方、従来その職に就いていた人々の雇用喪失につながる可能性がある AI駆動のロボティクスは、手作業中心の職種でも同じことを実現できるし、実際にそうなるだろうさまざまな業種でデザイナーや建築家を支援するAIツールは、成果量と生産性を同様に高め、その結果必要な人員数は減るだろう。おそらく今後10〜25年の間に自律的に職務そのものを引き継ぐまでの話だが 100万人の医師がそれぞれ30万ドルを稼ぐなら、米国だけでも3,000億ドルのコストが発生する世界全体ではおそらくその10倍になるだろう。数兆ドル規模だおそらく3,000億ドルの支出総額自体は変わらないまま、今後10〜20年で10倍のサービスを提供するようになるだろう会計士について見ても、同種の数字に行き着く。数兆ドルが費やされているが、会計サービスへの需要が10倍に増えるとは考えにくい各専門分野は、供給増加と消費増加の間でそれぞれ異なる反応を示すだろう AIが多くの労働力を支援・代替すれば、こうした節約分は消費者に還元されるだろう。分野ごとに需給のバランスを取る必要がある米国では医療、食料、住宅への需要は増えるかもしれないが、10倍にはならないだろう音楽やエンターテインメントは需要増加にほとんど上限がないだろうが、ミュージシャンやスポーツパフォーマーなどの著名人による娯楽を除けば、ほぼ無料になるだろう生産性は平均所得を押し上げる一方で、中央値所得とジニ係数（所得分布を示す統計的な分散尺度）の両方を低下させる可能性がある皮肉なことに、米国のような先進国の市民は、所得格差が拡大する可能性があるにもかかわらず、より高い生活水準を手にするかもしれないしかし、これはかなりの部分で選挙で選ばれた公職者が採る政策アプローチに依存するだろう職業のための訓練ではなく、職業のような「目的」のためでもなく、それ自体の価値のために知的探求を行うための、より広範な教育が必要になるかもしれない C. デフレーションと新たな経済指標の必要性投入の減少（すなわち労働コストの低下）と競争の激化による生産性向上は、前述の雇用喪失とあいまって、デフレーションを引き起こす可能性がある逆に、こうした新たなダイナミクスは、支出に制約のある企業において低コストを活用するための雇用を増やす可能性もある労働力や専門知識にとどまらず、AIを資源発見や研究などに活用することで、時間軸とコストが縮小し、デフレ圧力が強まる可能性があるもちろん、消費者行動、企業の投資判断、中央銀行の対応、分野ごとの変動性など、さらに多くのニュアンスがあるしかし、AIはGDPのあらゆる業種に影響を及ぼす可能性がある一方で時間軸は異なるため、経済全体への影響を過大評価しにくいだろうし、この新時代において金融政策が歴史的にそうであったほど強力なテコになるとも思えない金融政策は、経済に漸進的な変化を起こすために機能し、洗練されてきた限界的な経済変化が限界的な行動変化を駆動するという考え方は、もはや当てはまらないかもしれない風への反応と台風への反応は異なり、波への反応と津波への反応も異なるブルーカラーとホワイトカラーの両分野におけるAI主導の効率化は、デフレーションと雇用喪失につながる可能性があり、その両方は緩和され得る「デフレーション」は、慢性的な価格下落が一般に企業収益性の低下と経済成長の停滞、あるいは縮小にすらつながるため、否定的な意味合いを持つその一方で、AI主導のデフレ的成長は、上で述べたすべての理由から、財やサービスの消費増加（すなわち消費者の支出能力の実質的な増加）と同時に起こる可能性が高い市民が消費する財やサービスの数が急激に増えるなら、それは本当に悪いことなのだろうか。私たちの言語はGDP成長や企業利益を繁栄と同一視している。これは現在の語彙におけるバグだ労働コストや資本コストは、キャピタルゲイン課税やMLPのような単純なルール、規制、法律、税制戦略の変更によって実質的に変えられ得るこうしたバイアスの多くは、今日の一見中立的な資本主義経済に内在している妥当な所得格差目標を達成するには、より多く、かつ重要な調整が必要になるだろう所得や社会的流動性は、社会の「ルール」に組み込むにははるかに難しい目標である伝統的な労働対資本という経済論争は、多くの経済学者が十分に評価していない新たな要素、すなわち起業家精神と知識に駆動されるアイデア経済によって覆されつつあり、状況はさらに複雑になると私は考えるこの最後の要因は、労働や資本よりも経済の重要な原動力になり得るリチウム、銅、鉄鋼などの物理的資源のように、一部の生産要素は変化への適応に他の要素よりもはるかに長い時間を要する可能性がある D. 政策的選択コンピュータ能力におけるこの新たな量子的飛躍は、所得格差と豊かさの双方を同時に拡大させる可能性が高い今回は技術進化が本当にこれまでと異なる可能性がある。なぜなら、初めて生産性向上ではなく、人間の知能を上回るからであるこのようなシナリオが実現するなら、私たちの社会の目標が何であれ、公平性を最適化するために社会・政治システムに構造的変化を加える必要がある民主的プロセスはこのような意思決定に理想的である。特に、すべての人が同じ目標を追求する必要はないからである私たちは選択に直面している。破壊的技術の採用を加速させるのか、減速させるのか、あるいは調整するのか、そして例えば経済的支援を通じて代替された人々に補償するかどうかを決めなければならない変化のダイナミクスは混乱に見舞われる人々にとって苦痛になり得るため、AIとそのあらゆる利点を効果的に受け入れるには、代替される人々を国家政策の取り組みの中心に置くことが鍵になる経済政策は、今日の米連邦準備制度が行っているような経済成長の調整だけでなく、格差や社会的流動性のてこと、それを緩和する要因も念頭に置くべきである私は謝罪しない資本家であり、技術楽観主義者として、AIシステムの継続的かつ迅速な支援と展開を支持する私たちは技術進歩を遅らせるのではなく、それがもたらす変化に適応すべきであり、そこには人間の労働の潜在的価値低下も含まれるこうした変化は大きな課題を突きつける一方で、25年以上の時間をかけて、より共感的な社会と資源制約後の世界を築く機会も提供する私たちは、自分たちが生きる社会と自分たちが作る未来について慎重であるべきであり、はるかに共感的に政策を作るべきである。これは以前は負担できなかったぜいたくだが、今では私たちが使えるようになったものである人間の能力を超える技術がもたらすより大きな副作用に対処するには、国家レベル（および国際レベル）での構造的変化が、おそらく長期的に必要になる経済政策は、今日の米連邦準備制度が行っているような経済成長の調整だけでなく、格差と社会的流動性のバイアスによっても方向付けられるべきである AIへの適応について各国が異なるアプローチを取るグローバルな文脈の中で、相対的な経済力に劇的な変化が生じる可能性がある AIが人間の労働の必要性を減らすにつれて、政府がAIの影響を規制し、公平な富の分配を保証するうえで中心的な役割を果たす中、UBI（Universal Basic Income）の重要性が高まる可能性がある AIが労働コストを下げ、生産性を高めるにつれて、富の分配と社会福祉の維持における政府規制の役割は重要になる今後、大規模な生産性向上と、向こう50年間で年間GDP成長率が2%から4〜6%へ上昇する可能性を踏まえると、1人当たりGDPは約100万ドルに達する可能性がある（50年間、年率5%成長を仮定）デフレ経済では、現在の名目ドルでより多くのことが可能になる私は、UBIを賄えるだけの十分な資源と豊かさがあると信じている今日のUBIは、経済的制約のため非現実的に見えるかもしれず、実際、そのような制約を無視することはアルゼンチンやベネズエラのような国で破局につながった。しかし、そのような制約は次第に弱まっていく大胆すぎる、あるいは取り返しのつかない国家規模の特定の解決策や早期行動を勧告する際には注意が必要である討論と議論が明らかに必要である。所得格差の拡大によって被害を受けた人々のためのポイントソリューションを見つけなければならない私たちは変化を綿密に見守り、この10年間を通じて継続的に小さな政策変更を行うべきである強力なAI技術の進歩にもかかわらず、実際の影響と採用は、指数曲線の平坦な部分と同様に、より遅い可能性がある E. 消費者ユートピアを想像するこの20〜30年の西側諸国には、中国のデフレ効果との興味深い類似点がある労働力の海外移転は数千万件の国内製造業雇用の喪失につながったが、生計を覆された人々のスキル向上やケアに重点を置く政策はほとんどなかった AIとコンピュータビジョンによって、私たちは製品価格を引き上げることなく製造業を国内回帰させ、中国のような国の低コスト労働力から離れる機会を得る一方で、同時に代替される人々のための生産的な政策検討にも取り組めるようになった中国のデフレ的影響は、雇用が海外へ移転するのに伴い、米国における消費者の支出能力の低下とともにやって来た逆に、AI主導のデフレ成長は、上で述べたすべての理由から、商品やサービスの消費増加、すなわち消費者の支出能力の実質的な増加と同時に起こる可能性が高い。この変化のダイナミクスを予測するのは難しいだろう住宅、エネルギー、医療、食品、輸送のすべてが機械によってほぼ無料で提供されるか、玄関先まで届けられる世界を想像してほしい。その分野には仕事が一つも残っていないその世界の主な特徴は何であり、そこで生きるとはどのようなものだろうか。まず、それは消費者ユートピアである。誰もが、王や教皇しか夢見ることのできなかった生活水準を享受する私は、未来のユートピア社会では一定水準の生活費がより低くなり、今日年収4万ドルの個人が、今日年収30万ドルの人よりも実質的に豊かに暮らせるようになると考えている幸いなことに、技術は、過去10年ないし20年にわたって中国へアウトソーシングしてきた場合よりも、商品やサービスに対してはるかに大きなデフレ効果をもたらすだろうしかし、私の本当の希望は、商品やサービスが豊富になるにつれて、市民がより多くの消費ではなく、何が自分たちにより大きな幸福をもたらすのかに焦点を当て始め、消費が地位の象徴である度合いが弱まることである F. 企業 vs. 国家 AI世界では、こうした技術を支配するテック企業のCEOが、世界中の雇用、経済構造、さらには富の分配に対して前例のない影響力を行使し得る彼らのプラットフォームは、仕事、教育、社会的相互作用の主要な仲介者となり、日常生活の多くの側面において伝統的な政府の役割を上回る可能性がある批評家たちは、こうした経営陣が多くの国家に匹敵する、あるいはそれを上回る影響力を行使していると主張する。彼らは、公共の言論を形成し、選挙に影響を与え、さらには地政学にまで影響を及ぼし得る技術プラットフォームの能力を、その過剰な権力の証拠として挙げるしかし、こうした懸念は興味深い問いを提起する。そして私は、台頭し極大化した中国と、私たちのより自由な社会・経済との強制的選択という以前のフレームワークに立ち戻る私たちはなぜ、習近平のような選挙で選ばれていない指導者の世界的影響力よりも、テック企業のCEOの影響力に対してより安心していられるのだろうか。どのテック企業CEOも支配的な持分、あるいは実質的な持分すら保有している可能性は低く、彼らは株主と取締役会に対して説明責任を負わなければならない両者はともに直接的な民主的責任なしに巨大な権力を振るうが、そのインセンティブ構造には重要な違いがあるテック企業のCEOは、あらゆる欠点にもかかわらず、最終的にはユーザー、顧客、株主からの継続的な支持と関与に依存している。彼らは地位を維持するために、ある程度は市場の力と世論に応答しなければならない逆に、習近平のような権威主義的指導者は、公衆の感情を無視し、国家機構を利用して反対意見を抑圧し、支配を維持するこのような力学は、テック企業CEOの権力が明らかに懸念すべきものであり、綿密な精査を必要とする一方で、グローバルな利害関係者への応答性という点では、無分別な権威主義的権力より望ましい可能性があることを示唆している 5. 私たちは望む未来を作ることができる起こる未来は、私たちの社会がこの強力な道具をどう導くと決めるかによって形作られる未来であるそれは一連の政策選択であり、技術選択ではなく、国ごとに異なるものになるそれを活用する人もいれば、そうしない人もいる個人レベルおよび社会的な選択は何であるべきだろうか？私たちの基本的な欲求が満たされることで、あらゆる人間の時間、労働、エネルギー、野心、目標は無形のものへと再方向付けされる: 大きな問い、深い欲求。人間の本性は歴史上初めて完全に表現される。物理的な必要の制約がなければ、私たちは望むとおりの存在になれる GDPの成長は私たちを「豊かな」社会へと導き、そこで私たちは仕事との基本的な関係を再定義しなければならないそして従来のGDP指標は、人間の進歩を測る尺度として次第に不正確になっていくそして、私たちが下す政策と社会的選択に応じて、大きな経路依存性が生まれる最も重要なのは、7億人（10%）だけが享受している豊かな暮らしを、世界79億人の市民すべてに届けるという壮大な野心が、ついに手の届きそうな距離にあるということだ AIなしでエネルギー、資源、医療、交通、企業、専門サービスを10倍に拡大することは、明らかに不可能である。それは必要な力の乗数であり、最も恵まれた人々が現在享受しているものを広げられる唯一の道具である AIは必要だが、それだけでは十分ではないそれに伴う社会的・政治的・経済的転換に有利な条件をつくる政策が必要である AIは、核やバイオテクノロジーのような以前の強力な技術ツールと同様に、善い目的にも悪い目的にも使える強力な道具である私たちが慎重に選択し、技術ではなく社会の選択に従って「可能な」世界を築くために使うことが不可欠である未知への恐れのために、その恩恵を放棄してはならない私は技術可能主義者であり、技術楽観主義者でもあるが、慎重さと思いやりをもって技術を使うべきだと考える "No wine before its time（適切な時期が来るまではワインを売らないという広告文句）" という言葉があるように、規制は必要だが、時期尚早の規制であってはならない 2000年のニューヨーク・タイムズとのインタビューでの私の言葉を振り返ると、私たちは人間であることの意味を再定義しなければならないだろうこの新しい定義は、仕事や生産性の必要性ではなく、情熱、想像力、関係性に焦点を当て、人間性についての個人的な解釈を可能にするものでなければならない

(khoslaventures.com)

30 ポイント投稿者 xguru 2024-09-30 | 9件のコメント | WhatsAppで共有

コスラ・ベンチャーズのVinod Khoslaによる文章

1. 序論

40年間にわたり破壊的イノベーションに献身し、研究してきた。マイクロプロセッサから始まり、Sun Microsystemsで先駆的に分散コンピューティングとパーソナルコンピュータの発展を導いた
1996年のブラウザ登場は、もう一つの画期的な転換点だった。Netscapeに投資し、Juniperを育成して、インターネットの基本TCP/IPバックボーンを構築した。これはインターネット革命の夜明けであり、AmazonやGoogleのような新興巨大企業に戦略的投資を行った
2007年のiPhone登場とともに、モバイルプラットフォーム時代が到来した。新しいプラットフォームが現れるたびに、巨大なアプリケーション革新と新たなアイデアの爆発が可能になった
程度（degree）の差が種類（kind）の差になる地点があるが、AIは以前の技術段階の変化とは異なる種類である可能性が高い。マイクロプロセッサ、インターネット、携帯電話は人間の頭脳を活用するための道具だったが、AIは人間の頭脳そのものを増幅し、掛け合わせる
蒸気機関やモーターの出現が筋力を増幅したのと同じように、AIはそれに対応する知的な並行物をなす。専門性、思考力、知識を掛け合わせる能力は、今後10年間で人間の頭脳能力を大幅に超える可能性があることを意味する
人工知能は、前例のない豊かさの未来を約束する。短期的には置き換えられる人々にとって苦痛を伴うかもしれないが、よく考え抜かれた政策によってその後遺症を和らげることができる
今後の0〜10年、10〜25年、25〜50年という時間帯は、それぞれ大きく異なるだろう。人間の知能をはるかに超える技術能力と、分野ごとの社会浸透率については、変化の速度を予測したり見積もったりするのが難しいだろう
未来がディストピア的なのかユートピア的なのかをめぐる現在の混乱をさらに深めているのが、伴う失敗と相まって見方を歪める現在のAI過剰宣伝（Hype）サイクルである
- ほとんどのAIベンチャーは財務的損失に終わるだろう
- しかし、世界を変える少数の企業によって、全体としては損失以上の金が生み出されるだろう
- 最も刺激的なのはAIの収益規模ではなく、世界の流れを変え、社会インフラをより良い方向へ再創造できる潜在力である

2. AIに対するディストピア的見方

悲観論者（Pessimists）と破滅論者（Doomers）は、ディストピア的未来を経済面・社会面から描く
- 彼らの懸念について、私はその大半が根拠に乏しく、近視眼的で、誇張されており、実際には有害だと指摘する
- こうした懸念は社会的選択によって解決可能である
- 私は破滅論者たちのディストピアを、リスクとリターンの観点から見て誤った計算だと考える
- AIのリスクは現実だが、管理可能である
現在の論争において、破滅論者たちは「悪い知的AI」という小さなリスクに焦点を当てており、最も明白なリスクである「国家」やその他の悪意ある行為者とのAI競争に負けることを見落としている
- AIを恐れ、民主主義を侵食し、社会を操作し得ると懸念する人々が、最も恐れるべきリスクである
- これが中国に負けてはならない理由であり、全人類のためにAIを使うべき理由である
中国は、破滅論者たちの悪夢が最も早く実現する方法である
- 「世界で最も強力な技術の公正な分配を、習近平とそのプーチンのような側近たちに託す覚悟がありますか。それこそがディストピアでしょう」

A. 雇用減少と経済的不平等

経済的ディストピアでは、富が上位層に集中する一方で、知的・肉体的労働の価値が低下し、広範な失業とデフレーションが経済と購買力を破壊し、不平等が深まる
- AIは、一部のエリートだけが繁栄し、残りは経済的不安定に直面する世界を作り出しかねない。とりわけ、強力な政策がないまま漂流する民主主義ではそうである
- しかし、所得再分配、最低生活水準の保障（おそらくUBI?、Universal Basic Income）、民主主義によって主導される戦略的立法など、賢明な介入によってこれを防ぐことができる
- 資本主義と税制は民主主義の許可のもとにあり、民主主義はこのような転換を可能にし得る
良い知らせは、AIが十分な富を生み出して皆に行き渡らせることができ、AIのない世界よりも皆が豊かになれるという点である
- 高齢化する世界人口と減少する若年労働者プールを考えれば、AIは不可欠である
- 正しい政策があれば移行期を円滑にし、週3日勤務制を導入することさえできる
GDP成長率が2%から5%へ跳ね上がれば、「移行基金」を作れるだけの豊かさが生まれるだろう。ノルウェーのような国の繁栄を支えた石油基金に似たものだ

B. 社会統制と操作

社会的な否定論者たちは、AIが蔓延する監視から始まり、人類を脅かす世界を描く
- しかし、このような結果は避けられないものではない。各国で施行される立法が、AIが私たちの生活にどのように統合されるかを決めるだろう
- 民主社会では、これは集団的選択となるだろう。私は犯罪が減る社会のために、ある程度の自由を手放す用意がある。だからといって全体主義を受け入れようということではない
- AIによって、犯罪の理由そのものが減る可能性もある
- AIの法的利用に制約を課そうとするなら、AIの発展による利点を享受しつつ、警鐘論者たちが予測するディストピア的ビジョンに屈しないという、合理的なバランスを実現できる
さらなる懸念として、AIが世論を操作し、情報を統制し、ターゲット型プロパガンダやディープフェイク技術を通じて選挙に影響を与えるために使われ得る点がある
- 実際、2024年の米大統領選ではロシアの介入がすでに目撃されており、より強力なAIによって状況はさらに悪化し得る。これは民主主義を損ない、真実を見分けるのが難しい社会を生み出しかねない
- しかし、操作と統制への懸念は、単一の専制的なAI支配者が存在するという前提に依存しているが、これは現実味に欠ける
- むしろ可能性が高いのは、それぞれ異なる利害に奉仕する多様なAIが現れるということだ
私が構想しているのは、すべての個人のためのパーソナルAIエージェントであり、操作的マーケティングや今日のブレインハッキングから彼らを守るよう設計されたものだ。ここでいうブレインハッキングとは、マーケターが消費者に、本来なら買わなかった物を買わせたり、クリックさせたりすることを指す
- 私たちは、強力なAIが各個人を代表し、保護することを期待している
- デジタル時代の「スパイ対スパイ」と考えてみてほしい。AIは、私たちを操る誘因を持つ企業AIに対抗して、消費者および市民としての私たちに力を与える

C. 人間の主体性の喪失とAIシステムにおける倫理的考慮事項

医療、司法、ガバナンスなどの領域でAIが重要な意思決定を行うことへの懸念は、現在のシステムに潜む偏見を考えれば妥当である
- しかし、こうした偏見は人間に由来するものであり、AIはそれを認識し是正する機会を提供する
- たとえば、人間の医師は手術に対する報酬を受け取ると、より多くの手術を行う傾向があり、彼らに偏見がないと主張するのは難しい
- AIは、偏りのない医療を提供できる唯一の方法になるだろう。AIは偏見をあぶり出し、それを是正するだろう。これはより豊かな世界と、より公平なアクセスを生み出す
- 私の見解では、人間はAIの意思決定権を取り消す権力を保持し、それによってAIは制御不能な力ではなく、人間の合意によって導かれる「機関」であり続けるだろう
- 知覚を持ち悪意あるAIという亡霊は危険だが、私たちが緩和できるリスクである
AIが仕事を再編し、最終的には医療、司法、ガバナンスにおいて意思決定を行うようになり、人間の知性や判断を潜在的に無視することで、私たちは人間の目的を再定義し、現在の成果を改善する機会に直面している
- 今日、私たちは6歳から学校で教育を受け、職を確保するようプログラムされており、それが最終的に私たちの自己感覚の大部分を形作っている
- しかし25年後には、こうした切迫した義務なしに、子どもたちに探究、想像、発見、実験を教えられるようになるだろう
- 人々を生存のための仕事から解放することは、人間であることの意味を再定義し、私たちの「人間らしさ」を高め、目標の多様性を広げうる
最終的に「人間らしさ」は、生存労働の鎖から解放され、こうした動機を追求する自由によって定義されるだろう
- 何よりも、資源競争の少ない世界では、より多くの人間が外部からの圧力ではなく内的動機によって動くことを望む
- 社会と個人は、個人的に活用したい技術や、時間を投じたい対象を選べるようになるだろう
- AIを使わずに個人的な決定を下すことを好む人なら、コパイロットなしで自由に進むことができるだろう。私たちに強制されるものはない
- AIは支配者ではなく、私たちの必要や要望を満たすために使える道具になるだろう
- 小さな規模では、米国のアーミッシュは自らの選択で技術を放棄している。そのような共同体が何千と存在しうる
上記を踏まえると、AIへの依存が人間の倫理や道徳的基準を弱める可能性があるという懸念がある
- AIシステムが倫理的考慮よりも効率を優先するようプログラムされれば、有害または不公正な決定が下される可能性がある
- しかし、これは機械ではなく人間が下す社会的選択である。うまくいかなければ責任は私たちが負うべきだ
同じ理由で、悲観論者たちが、機械には人間の価値観、倫理、感情に対する繊細な理解が欠けているため倫理的・道徳的退行を招くと懸念するとき、私はむしろ人間が責任を負うことのほうがはるかに大きなリスクだと提案したい
- アラインメントは重要だが、人間が集団を調整し意思決定しようとするときにも同じことが言える。まず同じ目標を持つことが重要だ
- AIは私たちの指示を理解して従うほど十分に強力であるか、そうでないかのどちらかである。両方を同時に成り立たせることはできない
- 完全に独立したAIは、下で扱う別のより大きなリスクを引き起こしうるが、「十分に賢いAI」が私たちの指示を理解できないことはその一つではない

D. 創造性と批判的思考力の喪失

AIの世界で人間の創造性や批判的思考力が弱まるという懸念について、私はそれは偏狭な見方だと思う
- 批評家たちは、AIアルゴリズムがユーザーに狭い範囲のエコーチェンバー的なアイデアを提供し、文化の同質化が起こることを懸念している
- また、AIに過度に依存すると、人々が機械に意思決定を委ねることで、人間の創造性、問題解決能力、批判的思考力が低下する可能性があると心配している
広告
しかし、私のように音楽的才能がまったくない人でも、AIを通じて、娘の結婚式で私が書いたスピーチを届けるパーソナライズされた歌を作れる世界が見えている
- 実話である。これは私にとって大きな意味があった
- AIを通じて、私たちは現在の限界や能力を超えて創造性を拡張できる
- 優れたアーティスト、画家、パフォーマーたちは、こうしたツールをさらにうまく活用できるだろう
AIシステムは創造的な作業においてより優れている、あるいは異なる可能性があり、まもなく感情や共感を表現できるようになり、そうすることで人間を補完できるため、私はそれを人間性の喪失ではなく、むしろ人間性の増幅、向上、拡張だと考える

E. AIの自律性、実存的リスク、覇権、そして中国

最も極端な見方では、悲観論者はAIが制御不能に陥り、人類を絶滅させる可能性があると警告している
- 「感情を持ち、独立していて、悪意のあるAI」の危険は、おそらくAIがもたらす最も深刻な脅威であり、私たちが真剣に受け止めるべき脅威である
- AIが急激に人間の制御を離れる「急激な離陸（Hard Take-Off）」という概念は現実的で警戒を要するが、このリスクは、AIが人類にもたらす莫大な利益、あるいは敵対的な国家の手に渡ったAIが生み出す危険と比較して評価することが重要である
「AIのゴッドファーザー」として広く知られるヨシュア・ベンジオとジェフリー・ヒントンも、こうした懸念に共感している
- タンパク質構造モデリングのような専門的な作業で機械がすでに人間の能力を上回っているなか、ベンジオは今後10年以内に人間の知能を超える汎用AIが登場する可能性があると警告している
- ヒントンとともに、ベンジオは悪意のある行為者や組織によって悪用されるAIの破滅的リスクについて警告している
- AIが自己複製し、生存を守り、人間の介入を受け付けないシステムを構築し、デジタルインフラの脆弱性を悪用する潜在力は、民主主義を不安定化させるだけでなく、全人類を覆しかねない
- こうした懸念はAIそのものに関するだけでなく、そのような強力なツールへのアクセスが広く行き渡り、悪意ある意図を持つ人々の手に落ちることに関するものでもある
- ベンジオは、AI開発を規制し、悪用を防ぎ、人類を保護するための対策を開発する国際協力を提唱している
- 私は、AIの利用は検証可能ではないため、ここで国際条約は無意味だと主張するだろう（その使用が明白な生物兵器や核兵器とは異なり）
- マックス・テグマークも「制御問題」に重点を置いているが、これでさえAI安全性研究の進展によって解決されつつある
- OpenAIの人間のフィードバックによる強化学習（RLHF）の研究と、AIの解釈可能性に関する広範な研究への注力は、この分野をより透明で制御可能なシステムへと押し進めている
- 米国AI安全研究所のAI安全責任者であるポール・クリスティアーノは、アラインメント問題は確かに存在するが解決不可能ではなく、技術的解決策とより厳格な監督フレームワークを通じて段階的に解決されつつあると指摘している
- これには、人間がAIの学習プロセスをより綿密に監督できるようにするシステムが含まれ、AIが最適化する目標が人間の価値観と一致することを保証する
さらに、核兵器や感染症を実存的リスクになぞらえるのはやや適切ではない
- AIとは異なり、核兵器や感染症は即時的かつ明白な破壊力を持つ
- 一方でAIは、特定の機能を提供するよう設計し、導くことができるツールである
- 『Human Compatible』の著者スチュアート・ラッセルは、慎重な計画によってAIが脅威とならないよう制御できると強調している
- 彼は、AIはその目標について不確実性を持つように構築されるべきだと提案しており、それによりAIがその決定について常に人間の承認を求めることが保証される
- 「価値アラインメント（Value Alignment）」と呼ばれるこのアプローチは、テグマーク、ベンジオ、ヒントンが提起するような形でAIが制御を逸脱する可能性を低下させる
- しかし、これは自動的に実現するものでも保証されるものでもないため、さらなる研究資金が必要である
- しかし、友好的でない国家との戦いにおいて、規制によってAI開発を遅らせることはあまりに大きなリスクである
- 遅れを取ることこそが、断然、私にとって最も恐ろしいリスクである
MetaのチーフAIサイエンティストであるヤン・ルカンのような研究者たちは、現在のAIシステムには自己認識や自律性に必要な基本的メカニズムが欠けていると指摘している
- 彼らにとって、感覚を持つAIが乗っ取るという恐れは大幅に誇張されている
- 私たちが知るAIは、独立した動機や独自の目標を設定する能力を持たず、完全に人間が生成した入力と目標に依存している
- ルカンは、AIは急速に進歩しているものの、AIが感覚を発達させるという考えは依然として現在の技術能力をはるかに超えていると主張している
- （しかし、近い将来に何が可能でしょうか。中国がAI競争で優位に立ち、政権の強権を活用して世界中の政治的・社会経済的価値を支配することです。これについては下でさらに詳しく説明します。）
- こうした終末論的な恐怖についての私の総括は、もう後戻りはできないということであり、私たちには、AIを利用する悪意ある行為者に完全に無防備になるか、その悪意あるAIに対抗できる技術を開発するかの二者択一しかないということだ
さらに、私たちは複数のAIを持つことになるため、最悪のシナリオでも、すべてのAIが同時に人類に敵対する可能性は低い
- 私たちは人間に奉仕するよう設計された、多種多様なAIを持つことになる
- AIの説明可能性への関心が高まれば、AIの目標を人間の価値観と一致させることで、安全性が向上する可能性が高い
- 今後10年以内に、私たちは制御不能な「ブラックボックス・システム」への恐怖を乗り越えるだろうと私は信じている
- ただし、この問題を解決するには、AIの安全性と倫理に対するレーザーのような集中が必要である
AI安全性への大規模投資が重要であり、大学研究のかなりの部分がこの分野に焦点を当てるべきである
- 連邦政府は安全性研究とAI検知により多く投資すべきである
- 適切な研究とテストの後には、「オフスイッチ」のような機能が必要である
- 国際条約は、条約順守を検証する方法がないため不可能だと私は主張するだろう
- 人類が感染症、小惑星衝突、核戦争など、多くの実存的リスクに直面していることも忘れてはならない
- AIはより広い文脈の中での一つのリスクにすぎず、私たちはこれらのリスクとAIがもたらし得る潜在的利益との間のトレードオフを考慮しなければならない
- 私の見解では、AI技術で中国や他の敵対国に後れを取るリスクは、自己意識を持つAIよりはるかに大きい
- AI開発を遅らせることは民主主義にとって破滅的になり得る
今後20年間、特にAI分野で技術先導国として台頭する国家は、技術、経済的利益、影響力の世界的分配において支配的地位に立ち、したがって価値観の面でもそうなるだろう
- AIは、サイバー戦やキラーロボットのような国防用途だけでなく、地球のための無料の医師、無料の家庭教師のようなものにおいても、最も価値のある技術となるだろう
- このAI競争や融合のような関連競争で勝利する国家は、強大な経済力を土台に政治権力を掌握し、世界政治システムに潤滑油を注ぐ可能性が高い
- 東南アジア、アフリカ、ラテンアメリカなどへの影響が懸かっている
- この技術戦争では民主的価値が危機にさらされているため、私たちはこの戦争に勝ち、中国を打ち負かすためにできることをすべてしなければならない
- 彼らのユートピア観はおそらく異なるだろう
私は、中国が今後25年間で、中国共産党が自国社会にとって正しいと考えるものを押し付けるために、天安門広場の戦術を取る可能性があると疑っている
- 対照的に、私たちは政治的プロセスを経ることになる
- 民主的価値が世界的に勝利するためには、私たちはAIに慎重に取り組む必要があるが、AI競争に敗れることを受け入れてはならない
- だからこそ私は、習近平主席の監督下にある中国の第14次5カ年計画が、AIと5G無線で勝利する意図を明示的に宣言していると考える
- 前者は経済力を、後者は中国が通信網とTikTokを支配することで100以上の国のすべての市民を監視できるようにする
- 技術的リーダーシップは、戦時動員（wartime mobilization）に値する実存的優先課題である
- 米国の学者や哲学者たちが懸念する「アラインメント制約」から自由な中国のボットが、西側の有権者に対して密かに個別に影響を与えることを想像してみてほしい
- こうした偶発的・共謀的リスクに対処するため、私たちは安全技術への研究と投資を大幅に増やすべきだが、AIを積極的に規制してはならない
人口動態、成長鈍化、莫大な債務負担によって、今後10年以内に中国がピークに達すると信じるなら、私たちは中国が勝つためにさらに必死になり、衰退期においてより危険になると考えるべきである
- トゥキディデスの罠とは逆に（新興の貿易大国が既存の構図を揺るがすと、既存の貿易大国と新興の貿易大国の間で武力衝突が起こる）
- だからこそ私たちは、仮説的なシナリオについて議論し、優先順位を誤った規制で進展を遅らせているあいだ、彼らの慈悲に頼るべきではない
私たちは、AIが人類を破壊し得る自覚的な能力について心配すべきかもしれないが、小惑星が地球に衝突したりパンデミックが発生したりするリスクも存在する
広告
- しかし、中国が私たちの体制を破壊するリスクの方が、私の意見でははるかに大きい
- 現在の議論において、悲観論者たちは小さなリスクに焦点を当てており、最も明白なリスク、すなわちAI競争で悪意ある行為者に敗れることが西側にとってAIを危険なものにするという点に焦点を当てていない
- 皮肉なことに、AIと、民主主義を侵食し社会を操作し得るAIの能力を恐れている人々こそ、このリスクを最も恐れるべきだ！

3. AIに対するユートピア的な見方

この文章を書く動機の一つは、AI中心の世界に対するディストピア的なビジョンを払拭することにある
- 大規模失業、富裕層はさらに豊かになり、知的／肉体的専門性の価値低下、人間の創造力の喪失などは、想像力に欠けた認知的に怠惰なビジョンである
- 西洋ではディストピアに対して非常に歪んだ見方がある
- ディストピアを語る多くの著者は、すでに現実の苦しさや生存の脅威から離れ、象牙の塔で思索を巡らせるぜいたくを享受している
- 予期しない400ドルの出費すら負担が難しい米国人が40%、適切なプライマリ・ケアを受けられない米国人が1億人、過大な医療費のため毎年50万人の市民が破産していることに言及している
AIは、地球上のすべての子どもにほぼ無料のAIチューターを、すべての人にほぼ無料のAI医師の専門知識を提供できる
- 腫瘍専門医から構造エンジニア、ソフトウェアエンジニア、プロダクトデザイナー、チップ設計者、科学者に至るまで、ほぼあらゆる種類の専門知識が無料に近くなるだろう
- マイクロプロセッサは、携帯電話の計算能力を見れば分かるように、ほとんどの電子製品とコンピューティングをほぼ無料にしてきた
- AIは、あらゆる専門知識をほぼ無料にし、ほとんどの労働を二足歩行ロボットなどによって非常に安価にし、金属から医薬品に至るまでの材料を、より優れた科学的発見と資源発見によってはるかに安くするなど、マイクロプロセッサよりもはるかに多くの領域に同様のコスト削減を適用するだろう
- また、核融合炉のプラズマを制御し、自律飛行航空機、自動運転車両、公共交通を制御することで、すべての人にとってそれらをはるかに安価で利用しやすいものにするだろう
- AIは、すべての個人に対して、日常業務を支援し、個別最適化された健康と栄養を提供し、さらにはエグゼクティブ支援まで行うパーソナライズされたインテリジェント・アシスタントを提供するだろう
- AIベースのツールは、イラスト、アイコン、ロゴ、アート作品を生成し、クリエイターの働き方を変えるだろう
- AI操縦の医師、放射線業務や診断を自動化するAI、売掛金管理や財務モデリングのような業務を自動化するAI金融アナリストが登場するだろう
- AIは契約書作成、ビデオゲーム制作、完全自動運転車の運行を支援するだろう
- AIコパイロットは、チップの形式検証から熱管理、土木工学、インテリアデザインに至るまで、あらゆる分野でエンジニアを支援するだろう
- 自動運転MRIからパーソナライズされたオーディオブックに至るまで、私たちは起業家が想像できるものによってのみ制限される
- AIは、私たちが企業を築く方法そのものさえ民主化するだろう
- たとえば、プログラミングはもはやコンピュータサイエンス分野だけに限られなくなる。私たちは近いうちに複雑なプログラミング言語の代わりに自然言語でプログラミングできるようになり、ほぼ10億人のプログラマーを育成できるようになるからだ

A. 効率性と生産性の向上

私は、80%の80%、あるいはそれ以上のあらゆる仕事がAIによって実行可能になると見積もっている。
- プライマリ・ケア医、精神科医、営業担当者、腫瘍専門医、農場労働者、組立ライン作業者、構造エンジニア、チップ設計者など、どの職業でもあり得る。そしてほとんどの場合、AIの方がうまくやるだろう
- 私たちはすでに、AIが単調で反復的な業務を代替し、人間がより創造的で戦略的かつやりがいのある仕事に集中できるようにする初期段階を目撃している
最終的には、私たちは人間として、どの仕事を人間に割り当て、何を自ら選ぶのかを決めることになるだろう
- また、AIコパイロットが、人間には不可能なほど優れた方法でテラバイト単位のデータを統合するのを目にすることもできる
- 専門知識が人間の成果と結び付く場所であればどこでも、AIは人間を上回る成果を出すことができ、しかもほぼ無料に近い価格で提供されるだろう
- 乳がん患者を治療する腫瘍専門医を例にすると、特定の乳がんに関する最新の5,000本の論文を記憶していることは極めて難しいだろう
- ロボットのような具現化された知能は、今後10年間で驚くべき新たな能力ベクトルとなるだろう
- ある作業や職業がAIによって遂行可能だからといって、すべての社会がそれを許容するとは限らない
さらに考えるべきは、専門知識がAIにある社会では、農場労働から腫瘍専門医やエンジニアに至るまで、すべての労働が等しく評価されるのかという点だ。
- AIは偉大な平準化の道具となるのか。
- そして、こうしたソフトウェアとハードウェアを支えるために必要な鉄、銅、リチウム、セメントのような天然資源や物理的投入物はどうなるのか。
- 中国が、アフリカや南米のような資源の豊富な地域、特に重要鉱物のサプライチェーンを掌握するために戦略的に動いているのを目の当たりにし、イノベーションの必要性は明白になっている
AIは、リチウム、コバルト、銅のような天然資源を発見し活用する方法を変え、私たちの資源発見能力が消費を上回れるようにするだろう
- 現在の課題は資源不足ではなく、資源を見つける私たちの能力に限界があることであり、AIはこの障壁を打ち破る助けになるだろう
またAIは、天然資源、原材料、その他の資源の利用を最適化して無駄を減らし、農業、製造業、エネルギーなどの産業の効率性を改善できる
- これは、より持続可能な経済と地球に対するより良い管理につながる可能性がある

B. 生活の質の向上

私たちの物理的な生活も、より良い方向へと一変するだろう
- 二足歩行ロボットは、家事から高齢者ケア、工場の組立ライン、農場に至るまで、あらゆる垂直領域を変革する力を持っている
- これがGDP、生産性、人間の幸福にどれほど急進的な変化をもたらし、人々を私たちが仕事と呼ぶこうした割り当ての奴隷状態から解放するかについて備えている人はほとんどいない
- こうしたロボットは、彼らが代替する人々を養えるだけの十分な価値を創出するだろう
- 25年後には10億台の二足歩行ロボット（10年後には100万台）が、微細操作を含むさまざまな作業を実行できるようになるだろう
- 私たちは、組立ライン作業者や農場労働者のような下位50%の本当に望ましくない仕事から、人間を奴隷状態から解放できる
- これは自動車産業よりも大きな産業になる可能性がある。しかし、人生に対して怠惰で放縦なアプローチを取らないことは人間の責任となるだろう
AIはまた、私たちの間の物理的距離を縮めることができる
- 私たちはほとんどの都市で、自動車の大半をAIベースの自律的で個人的な高速輸送システムとラスト1マイルの自動運転車に置き換え、既存道路の乗客収容能力を10倍にできる
- これは自動車産業を劇的に縮小させ、名目GDPを減少させる一方で、地域の個人交通をはるかに便利で速く、安価にするだろう
- 変化するのは私たちの物理的な生活だけではない
まもなく、ほとんどの消費者にとってのインターネットアクセスは、消費者の代わりに行動し、日常的な作業を効率的に管理し、マーケターやボットを遮断できるよう権限を与えるエージェントになるかもしれない
- 消費者を代表する数百億のエージェントが24時間体制で動作することは驚くべきことではなく、現在の私の希望でもある
- これもまた消費主義を強め、物を売ったり考え方を歪めたりしようとする巧妙に設計されたマーケティング装置に対抗する消費者にとって、大きな平準化の道具になるだろう
- 彼らは自らの利益を守る、最も賢いAIを持つことになるだろう

C. 医療サービスの向上と寿命の延伸

AIは、個人の遺伝的構成、生活様式、環境に合わせた治療を通じて個別化医療を可能にすることで、医療サービスを革新しうる。これは、より良い健康成果と、より長く健康に生きることにつながりうる
- AIは症状が現れる前に病気を早期発見するために利用でき、より効果的で侵襲の少ない治療を可能にする。これは慢性疾患の負担を大幅に減らし、全体的な公衆衛生を改善しうる
医療のようなサービスの質、一貫性、アクセス性は、ほぼ無料になると同時に改善されるだろう
- メンタルヘルスケアや慢性疾患管理を含む非常に広範なプライマリケアが世界的に基本的なものになるだけでなく、AIは現在のバイオテクノロジーを補完し、実際に効果があり、オフターゲット効果を最小限に抑え、世界規模で展開可能で安価な精密医薬品を生み出すだろう
- 腫瘍医のような、より専門化された医師は、最新の研究とデータに関する膨大な情報にアクセスできるようになり、人間の同業者よりも効果的で最新の知見を提供できるようになる
- 人間の介入が必要になる可能性はあり、AIは患者の選好に応じていつ人間の医師を呼ぶべきかを理解するだろうが、24時間稼働するAI腫瘍医ははるかに多くの接点を提供し、はるかに多くの情報を統合し、結果をモデリングして診断および臨床プロセスに関する意思決定を行えるようになり、人間の医師がよりやりがいのある活動に専念できるようになるだろう。これは他の専門分野や、あらゆる種類の慢性疾患管理、診断検査にも同様に当てはまる
AIディストピアへの恐怖は、極めて非効率な医療システムの中で診療を受けようと苦闘している患者から生まれているわけではない（彼らも自分の仕事については心配しているが）
- 1億5000万人のアメリカ人が、連邦政府が指定したメンタルヘルス専門家不足地域に住んでおり、精神疾患を持つ成人の半数以上が治療を受けられていない
- 私たちはエリート学者ではなく、2800万人の個人に次のような知らせを歓迎するかどうか尋ねるべきである:
  - 英国で承認された最初の大規模言語モデルAIセラピストは、現在NHSの行動健康の受付業務の40%を処理しており、受付、エスカレーション、診断、治療を行うAIとして、回復に関してはるかに優れた成果を示している。
  - 時間が経てば、この傾向はほぼ無料に近いメンタルヘルスケアにつながるだろう。これこそがAIのユートピア的側面であり、現在のシステムによる多くの苦しみを解決できる、長らく待ち望まれていた技術革命である
技術を通じて社会基盤を再構築し、地球上の79億人が上位10%の最も裕福な人々のように暮らせるようにすることについての私の推測は、AIの継続的に拡大する能力が明らかになるにつれ、今でははるかに実現可能に見える
- 基本的なプライマリケア、慢性疾患管理、専門診療（例: 心臓病学、腫瘍学、筋骨格系など）の拡大は、開発途上国に住む人々の健康を改善し、病気を予防するうえで不可欠である
- 世界中のすべての子どもが利用できる、ほぼ無料に近い24時間稼働の医師は、もし私たちが引き続き人間に依存して医療サービスを提供するなら実現不可能だろう
- 実際、現在の議論はAIの最も際立った結果に焦点を当てられていない。AI革命の最大の影響を受けるのは、日々の生存のために苦闘している地球の下位半分にあたる40億人である
主としてこうした理由から、象牙の塔の学者たちが私たちをAIユートピアへ向かう道から後退させようとするとき、それは彼らが現実世界からどれほど乖離しているかを物語っている
20年前、医学誌『ランセット』は、世界の児童死亡の90%を占める42カ国において、児童死亡の63%がより効果的なプライマリケアによって予防できることを発見したが、これは年間600万人の命に相当する。AIはこれをほぼ無料にできる
- 西側諸国では、下痢、肺炎、はしか、マラリア、出生前後のHIV/AIDS感染のような病気の予防可能性を当然視している
- 世界のより恵まれない地域のすべての子どもに十分な接点を持って到達できるだけの数の人間のプライマリケア医を確保する現実的な方法はない
もし私たちがAIを社会に受け入れて前進するなら、私が生まれたインドのある村を訪れたときに受ける診療の質は、スタンフォードの地域のプライマリケア医に会うときよりも高くなるだろうと私は想像する。米国に既存の摩擦があることを考えれば、インドの村のほうがAIをより早く導入するだろうからだ

D. 教育と知識の拡張

AIは、各学生のニーズ、ペース、知識のギャップ、関心に適応する個別化された学習体験を生み出し、すべての学習者により効果的な教育と高い達成水準をもたらしうる
- AIベースのプラットフォームは、地理的な場所や経済的地位に関係なく、世界中の人々に高品質な教育を提供できる。これは知識を民主化し、世界中の個人に力を与えうる
- 公立学校の学区割りや生まれた郵便番号は、AIの助けで同輩の影響の問題を解決できるなら、一人の人生の結果に与える影響ははるかに小さくなるだろう
世界的に見て、AIは地球上のすべての子どものために、数多くの科目にわたって24時間利用可能な、ほぼ無料に近い個人教師を提供できる唯一の機会である
- それが機会を開き、主体性、自己効力感、情熱、希望、動機、ジェンダー平等を与えるうえでどれほどの影響を持ちうるかは、過大評価しようがない。特に、そうでなければ資源が不足し、このように広範で一貫性がありアクセス可能な教育のためのインフラが欠けている地域に住む人々にとってはなおさらである
- 「働く必要」から解放された社会についての私の25年以上にわたるビジョンと組み合わさったAI個人教師と人間のメンターは、子どもたちに探求し、自分自身になる自由を与えるだろう。それは自由により近い

E. 環境の持続可能性

AIは、エネルギー使用の最適化、排出量の削減、再生可能エネルギーのための新技術の開発を通じて、気候変動問題の解決に重要な役割を果たしうる
- AIは環境モニタリングや保全の取り組みにも役立ちうる
- AIは、環境への影響を減らしながら食料生産を増やす、より賢く効率的な農業慣行につながりうるため、増え続ける世界人口を持続可能な方法で養う助けとなりうる
- しかし、これは線形的な思考である。AI科学者は、私たち人間が生み出したこの決定的な問題に対して、はるかに革新的なアプローチを可能にしうる
AIユートピアを実現するには、無制限で安価な電力生産のための核融合のような補完技術が必要である
- 正しい政治的環境が整えば、2050年までにすべての石炭火力および天然ガス発電所を置き換えられる可能性がある
- 私は、核融合または原子力発電所を一から建設すること全体に賭けるよりも、石炭および天然ガスのボイラーを改修・置換するための核融合ボイラーに賭けている
- クリーンで制御可能な電力のために、地熱、太陽光、先進的なバッテリーシステムを活用する有望な取り組みもある
コンピューティングの環境コストを下げるには、複数の要因が作用している
- アルゴリズム効率とハードウェア分野で大きな改善が進んでおり、AIシステムははるかに少ない電力消費で、はるかに多くのことを達成できるようになっている
- Web検索機能の新技術と統合は、エネルギー消費を急増させることなく、AIがより効果的に拡張できるよう支援する
- このような最適化されたコンピューティングへの取り組みは、AIの増大するエネルギー需要を支えるだけでなく、この技術がグローバルインフラに負担をかけずに持続可能に拡張できることを保証する
- しかし、私たちはこの問題に真剣に取り組まなければならず、これは現実の問題である

F. 人間の能力（および創造性）の向上、新たな体験

AIは人間の能力を拡張し、現在の人間の知能だけでは扱いにくい複雑な問題を解決できるようにする
- これは、科学、技術、その他の分野における知的挑戦を含むブレークスルーにつながる可能性がある
AIは創造的なパートナーとして、アーティスト、デザイナー、イノベーターが新しいアイデアを探求し、芸術、科学、技術における可能性の境界を広げるのを助けることができる
- 消費者向けサービスは超パーソナライズ化され、個人が同時にアーティスト、作曲家、プロデューサー、作家、消費者になれる
- たとえば音楽はゲームのようにインタラクティブになり、新しい形式が発見され活性化される可能性がある
- このようなメディアはすでにあふれ始めており、場合によっては人間が作ったものより大きな割合のヒット曲を生み出している
才能の不足や安定した経済的将来への不安、あるいは単に映画を作ったり曲を作ったりするための資源がないことで、これまでは多くの芸術的な志が阻まれてきたが、そのような障壁は徐々に消えていくだろう
- これは有名な芸能人がいなくなるという意味ではないが、AI生成アートは、音楽の人工的な起源を覆い隠す複雑さと深い質感を提供するだろう
- これを嫌う人もいれば、好む人もいるだろう。クラシック音楽からヘビーメタルに至るまで、今日の音楽ジャンルでも同じことだ
新しい種類の仕事が生まれ、新たな創造性が噴き出すだろう
- 映画用カメラが登場する前には、映画製作者という職業は存在しなかった。業界全体が爆発的に成長した
- エンターテインメントはさらに人気を集め、エクストリームスポーツはX Gamesのように多くの人に収入をもたらす職業になった
- たとえば、以前は職業ではなかったスノーボードも、今ではそうなっている
- EtsyやeBayのようなプラットフォームは世界中の職人や起業家を後押ししてきたし、新しい技術はまったく新しい世界の職業を可能にするだろう
- Wattpadは多くの新しいクリエイティブな作家を生み出し、PinterestやTumblrのようなプラットフォームは人々に創造性を発揮する出口を与え、その嗜好や個性をより表現できるようにした

G. 倫理的意思決定とガバナンス

AIは、公正な意思決定プロセスを確保し、偏見を減らし、ガバナンスの透明性を促進することで、より公正で平等な社会の実現に役立つ可能性がある
- AIは膨大な量のデータを分析してエビデンスに基づく政策立案を支援でき、より効果的で十分な情報に基づいたガバナンスにつながる
すべての市民が24時間利用できる弁護士を持てるようになり、専門家を10倍に増やし、アクセシビリティと適正性を拡大できる
- 根深い人間の偏見なしに、迅速に紛争を解決できる十分な数のAI裁判官が存在するだろう
- 教育、法律、金融アドバイスは、もはや社会の上流階級のためだけのものではなくなるだろう
- 実際、これらは今日の道路や国防のように、不可欠でほぼ無料の政府サービスになるだろう

H. 人間の繁栄と幸福

ユートピア的なビジョンにおいて、AIは社会の焦点を経済成長から人間の幸福と充足へと転換する助けになりうる
- 人々が早い段階から、自分を本当にわくわくさせるものを追求する機会を得ることで、情熱が自然に生まれる世界を想像してほしい
先に子どもの自由について説明したが、もう少し踏み込むと
- 6歳の時点から子どもたちに、単に職を得るためではなく、自分の情熱を燃やすために学校で優秀である必要があるのだと教え始めるなら、40歳になってからこの話を始めるのと比べて、発達途上の脳にまったく異なる形成的経験をもたらすだろう
- 上位1％または0.1％を除けば、一般に経済的安定と結びついていない視覚芸術、音楽、スポーツ、執筆といった職業も、まもなく生計を立て家族を養うという今日の制約に縛られることなく、それを追求したい誰にとっても満足感があり達成可能なものになりうる
こうした変化は、人間であることの意味を再定義するかもしれない
- もはや自分の存在全体を規定する組立ライン作業の単調さに縛られない
- 私が2000年に提案したように、私たちは人間であることの定義そのものを見直す必要があるのかもしれない
- 結局のところ、組立ラインで30年間、同じ種類の車輪を車に取り付け続けることは本当にやりがいのあることなのだろうか？
- そうした仕事は、華氏100度の暑さの中で農作業をするのと同じように、人間の繁栄ではなく奴隷的な形態を表している
しかし、これは単にブルーカラー労働の話ではない。ホワイトカラーの仕事のほうが先に消える可能性もある
- たとえば投資銀行業務を見れば、1日16時間、ExcelのスプレッドシートやPowerPoint資料をいじり、同じ反復作業を続けることは満足のいく仕事なのだろうか？
- AIの経済的帰結は、人々をこうした制約から解放し、本当に重要なこと、つまり生存や住居、食料、家族のための医薬品といった基本的なものではなく、情熱へと再び焦点を合わせられるようにするだろう
望ましくなく労働集約的な仕事を根絶したからといって、人生の意味が薄れるわけではない
- むしろその逆だ
- こうした技術に適応する国々では、数十年以内に週40時間働く必要性がなくなる可能性があるため、人生はさらに意味のあるものになるだろう
- 1920年にケインズは週15時間労働を想定していた！
- 何が可能か想像してほしい。私たちが必要とする、あるいは望む仕事の20％をこなす週1日勤務だ
- 私自身、69歳になっても週に1日は庭仕事をし、残りの時間を学びに充てられたらうれしいだろう
- 最終的には、スキーやハイキング、あるいは私の多くの関心事に没頭する十分な時間を持てるようになるだろう
まさにこの、人間の経験を再定義する機会こそが、私たちの人生から「人間らしさ」が消えるという悲観論者の主張を覆すものだ
- 私たちはまず、多くの人々に自分や家族の基本的なものへの必要を背負わせている経済的制約や考慮を取り除くことで、すべての人間により大きな主体性、自己効力感、希望を与える世界を作ることができる
- AIは、基本的な生存の重荷を取り除くことで、人々が自分にとって本当に重要なものを自由に追求できる世界を作る機会を私たちに与える
- 人間の努力の主要分野は、文化、芸術、科学、創造性、哲学、実験、探検、あらゆる種類の競争、冒険になりうる
- 本当の問いは、誰もが参加できるかどうかだ
広告

I. 私たちのユートピアに対する潜在的な障害は克服可能である

もちろん、こうした予測をユートピア的な現実へと変えるうえで、多くの要因が妨げになり得る
- 既存組織の抵抗が進展を妨げる可能性がある（例：俳優組合）
- 政治家は個人的またはポピュリズム的な利益のために大衆の恐怖を利用し、それが抵抗をさらにあおる可能性がある
- また、サプライチェーンの問題や世界的な紛争によって悪化し得る技術的な失敗や遅延が、開発を遅らせる可能性がある
- 金融市場もリスク要因である。景気後退や悪条件によって、有望なアイデアが「遠すぎる橋の隙間」と形容される資金不足に陥る可能性がある
技術を信用しない人々や反対派の抵抗を含む反テクノロジー感情は、有益な発展の広範な採用を妨げる可能性がある
- こうした感情は現代版ラッダイトの懸念と一致し得るものであり、彼らはDEI擁護者とともに言説を独占し、技術の潜在的利益から焦点をそらす可能性がある
- 少数のAI関連の否定的な結果がメディアから不均衡な注目を集め、AIに対する大衆の認識を汚染することで、状況はさらに複雑になり得る
- 予測不能で異常な「左場」イベントはよく起こり、予期せず進展を妨げる可能性がある
- 最後に、中核となる扇動者や擁護者が現れない、あるいは効果的に大義を擁護できない場合、運動は打撃を受ける可能性がある
しかし私は、AI主導のユートピアは単なる楽観的な可能性ではなく、適切な社会的選択と技術進歩によって十分に達成可能な蓋然性であるという確信を持ち続けている
- 重要なのは、AIの潜在力を責任を持って活用し、その恩恵が社会全体に公平に分配されるようにすることである
- AIの地形の輪郭が進化し続けるにつれ、AIを提供し、その利益を統制する単一の支配的企業が存在する可能性は低いように思われる
- AIツールがどれほど利用しやすく、ユーザーフレンドリーになったかを考えると、AIの権力が少数の手に集中するという懸念は現実味が薄い
- 専門性と資本が参入障壁を高める産業とは異なり、AI開発はますます民主化されており、個人や小規模チームでも最小限の資源でAIシステムを構築、訓練、展開できる
今日では多くのクラウドサービスが、特殊なハードウェアや莫大な資金投資なしに、大規模でAIモデルを訓練するために必要なインフラを提供している
- そして小規模事業者による新しい研究は、今日のLLMとは根本的に異なるAI開発手法に焦点を当てている
- 最適な開発経路が何であるかは、私にはまだ明確ではない。その多くは互いを補完し合う可能性が高い
また、ローコード、ノーコード、自然言語プラットフォームによって、深い技術的専門知識を持たない人々でも、これまで以上に簡単にAIソリューションを作成し、展開できるようになっている
- チャットボットから機械学習モデルに至るまで、これらのプラットフォームは複雑さの大部分を抽象化し、平均的な人でも数年前よりはるかに短い時間でAIアプリケーションを開発できるようにしている
- AIベースのAPIを使えば、プログラミングの基本的な理解さえあれば、誰でも最小限の労力で強力なAIを自分のアプリ、ツール、ワークフローに統合できる
AI開発のためのツールと資源がさらに利用しやすくなり続けるにつれ、単一の企業または組織がAIを独占するという考え方は、ますます実現しにくくなる
- その代わりに私たちは、個々の起業家から地域企業に至るまで、あらゆる人にAI開発が開かれ、イノベーションがボトムアップで繁栄できる未来へ向かっている
- この分散型イノベーションモデルは、AIが少数者のためではなく多数者のためのツールであり続けることを助けるだろう

4. AI世界の新しい経済

A. AI時代の資本主義と民主主義

西洋の資本主義は民主主義の枠内で機能しており、伝統的には経済的効率性のために設計されてきた
- 資本主義は経済成長を実現してきたが、AI時代には効率性のみに焦点を当てるべきではなく、人間の幸福における平等の役割を考慮すると、所得格差の縮小という目標を同等に重要な成果として加えるべきである
伝統的に経済効率性のエンジンであった資本主義は、AI主導の変化に直面して進化する必要があるかもしれない
- 従来型の経済効率性の必要性が低下するにつれ、私たちには効率性とともに、共感資本主義と経済的平等を優先する余地が生まれる
- 資本主義は民主主義の許可のもとに成り立っている
- 一定水準を超える格差は社会不安につながるため、それを念頭に政策を策定すべきである
- 私は、社会的流動性のための大きな機会があることを前提に、ある程度の不平等（すなわち「より懸命に働く動機」）を支持する考え方の中で育った
- 私たちの生活を意味ある形で改善し得る、こうした出口は依然として存在すべきである
さらに、今日の資本主義は需要創出の努力（すなわち広告およびそれに相当するもの）が企業にもたらす経済的効率性の利益を超えて、私たちが欲しいと知らなかったものを欲しがらせる新たな形へと逸脱している。
- これは社会的福祉に寄与しない
- 私たちは今、現在の資本主義システムを改善することが全面的に前向きになり得る時点に来ている
- 皮肉なことに、この技術を最大限受け入れると決めた社会は――全員が同じ程度に受け入れるわけではないとしても――AIが切り開く豊かさのおかげで、共感資本主義を実践するはるかに大きな能力を持つようになるだろう
市場の力や技術進歩を遅らせるのではなく、むしろ多くの場合に人間の労働が価値を切り下げられ得ることを認識しなければならない
- これは低技能労働者、さらには多くの高技能労働者の賃金にも下押し圧力をかける
- 人間の労働と判断に対する必要性が減るにつれて、労働は資本に比べて、そしてアイデアや機械学習技術に比べて、さらに価値を失うだろう
- 豊かさと所得格差拡大の時代において、2014年のAIに関する私のエッセイで予測したように、私たちには単に効率的な生産のみに焦点を当てるのではなく、資本主義の望ましくない副作用により大きな優先順位を置くバージョンの資本主義が必要になるかもしれない

B. 賃金圧縮と雇用の混乱、生産性向上が同時に起こる

AIがスキル差を平準化するにつれて賃金は圧縮され得る一方、価値創出は創造性、イノベーション、あるいはAIの所有権へと移り、結果として別の経済的不平等につながる可能性がある
- 歴史的には、生産性の向上は賃金上昇と消費支出の増加につながってきたが、AI技術には、私の予測では全職種の80%において業務の80%を人間から切り離せる能力があることを考えると、今回はそうならない可能性があることを認める
同じ文脈で、私たちは単純に過去の経済史を外挿することはできない。というのも、各技術革命では新たな雇用機会が喪失を上回ってきたと語られてきたからだ
- ある人が言ったように、「歴史という列車がカーブを曲がるとき、知識人は振り落とされる」
- 今回は、人間の能力を増強するだけでなく全般的に凌駕し得る技術によって、雇用創出の基本的な原動力そのものが変化するため、状況は異なるかもしれないと私は主張する
- 私たちは以前にも大きな転換を見てきたが、これほど速いものは一度もなかったため、適応ははるかに難しい問題になる
  - 1900年の米国では、仕事の大半が農業分野にあった
  - 1970年までにはそれは4%になっていた
  - しかし、それには3世代を要した
  - このAIサイクルははるかに速く進むだろう。したがって、より混乱し、不快なものになるだろう
人工知能は、多くの職業を消滅させ、人々が時間をどう使うかについて社会的な再考を迫ることで、労働市場に地殻変動を起こす可能性が高い
- 社会全体が改善するとしても、その変化は経済の一部の人々により深刻な打撃を与える可能性がある
- これは、最も影響を受ける人々にとって容易に受け入れられるものではないだろう
- 10〜25年の移行期は非常に混乱する可能性がある
- しかしそれは、恐怖に基づいて行動し、最終的には仕事という制約から解放され、現在はごく少数の人しか享受していない資源へより多くアクセスできる世界の恩恵を受け損なう理由には決してならない
- 影響を受ける人々をどう支えるかを真剣に検討すべき時だ
専門家レベルの能力を何倍にも提供することで、アクセス性だけでなく品質も高める一方、従来その職に就いていた人々の雇用喪失につながる可能性がある
- AI駆動のロボティクスは、手作業中心の職種でも同じことを実現できるし、実際にそうなるだろう
- さまざまな業種でデザイナーや建築家を支援するAIツールは、成果量と生産性を同様に高め、その結果必要な人員数は減るだろう。おそらく今後10〜25年の間に自律的に職務そのものを引き継ぐまでの話だが
100万人の医師がそれぞれ30万ドルを稼ぐなら、米国だけでも3,000億ドルのコストが発生する
- 世界全体ではおそらくその10倍になるだろう。数兆ドル規模だ
- おそらく3,000億ドルの支出総額自体は変わらないまま、今後10〜20年で10倍のサービスを提供するようになるだろう
- 会計士について見ても、同種の数字に行き着く。数兆ドルが費やされているが、会計サービスへの需要が10倍に増えるとは考えにくい
- 各専門分野は、供給増加と消費増加の間でそれぞれ異なる反応を示すだろう
- AIが多くの労働力を支援・代替すれば、こうした節約分は消費者に還元されるだろう。分野ごとに需給のバランスを取る必要がある
- 米国では医療、食料、住宅への需要は増えるかもしれないが、10倍にはならないだろう
- 音楽やエンターテインメントは需要増加にほとんど上限がないだろうが、ミュージシャンやスポーツパフォーマーなどの著名人による娯楽を除けば、ほぼ無料になるだろう
生産性は平均所得を押し上げる一方で、中央値所得とジニ係数（所得分布を示す統計的な分散尺度）の両方を低下させる可能性がある
- 皮肉なことに、米国のような先進国の市民は、所得格差が拡大する可能性があるにもかかわらず、より高い生活水準を手にするかもしれない
- しかし、これはかなりの部分で選挙で選ばれた公職者が採る政策アプローチに依存するだろう
- 職業のための訓練ではなく、職業のような「目的」のためでもなく、それ自体の価値のために知的探求を行うための、より広範な教育が必要になるかもしれない

C. デフレーションと新たな経済指標の必要性

投入の減少（すなわち労働コストの低下）と競争の激化による生産性向上は、前述の雇用喪失とあいまって、デフレーションを引き起こす可能性がある
- 逆に、こうした新たなダイナミクスは、支出に制約のある企業において低コストを活用するための雇用を増やす可能性もある
- 労働力や専門知識にとどまらず、AIを資源発見や研究などに活用することで、時間軸とコストが縮小し、デフレ圧力が強まる可能性がある
- もちろん、消費者行動、企業の投資判断、中央銀行の対応、分野ごとの変動性など、さらに多くのニュアンスがある
- しかし、AIはGDPのあらゆる業種に影響を及ぼす可能性がある一方で時間軸は異なるため、経済全体への影響を過大評価しにくいだろうし、この新時代において金融政策が歴史的にそうであったほど強力なテコになるとも思えない
- 金融政策は、経済に漸進的な変化を起こすために機能し、洗練されてきた
- 限界的な経済変化が限界的な行動変化を駆動するという考え方は、もはや当てはまらないかもしれない
- 風への反応と台風への反応は異なり、波への反応と津波への反応も異なる
ブルーカラーとホワイトカラーの両分野におけるAI主導の効率化は、デフレーションと雇用喪失につながる可能性があり、その両方は緩和され得る
- 「デフレーション」は、慢性的な価格下落が一般に企業収益性の低下と経済成長の停滞、あるいは縮小にすらつながるため、否定的な意味合いを持つ
- その一方で、AI主導のデフレ的成長は、上で述べたすべての理由から、財やサービスの消費増加（すなわち消費者の支出能力の実質的な増加）と同時に起こる可能性が高い
- 市民が消費する財やサービスの数が急激に増えるなら、それは本当に悪いことなのだろうか。私たちの言語はGDP成長や企業利益を繁栄と同一視している。これは現在の語彙におけるバグだ
労働コストや資本コストは、キャピタルゲイン課税やMLPのような単純なルール、規制、法律、税制戦略の変更によって実質的に変えられ得る
- こうしたバイアスの多くは、今日の一見中立的な資本主義経済に内在している
- 妥当な所得格差目標を達成するには、より多く、かつ重要な調整が必要になるだろう
- 所得や社会的流動性は、社会の「ルール」に組み込むにははるかに難しい目標である
- 伝統的な労働対資本という経済論争は、多くの経済学者が十分に評価していない新たな要素、すなわち起業家精神と知識に駆動されるアイデア経済によって覆されつつあり、状況はさらに複雑になると私は考える
- この最後の要因は、労働や資本よりも経済の重要な原動力になり得る
- リチウム、銅、鉄鋼などの物理的資源のように、一部の生産要素は変化への適応に他の要素よりもはるかに長い時間を要する可能性がある

D. 政策的選択

コンピュータ能力におけるこの新たな量子的飛躍は、所得格差と豊かさの双方を同時に拡大させる可能性が高い
- 今回は技術進化が本当にこれまでと異なる可能性がある。なぜなら、初めて生産性向上ではなく、人間の知能を上回るからである
- このようなシナリオが実現するなら、私たちの社会の目標が何であれ、公平性を最適化するために社会・政治システムに構造的変化を加える必要がある
- 民主的プロセスはこのような意思決定に理想的である。特に、すべての人が同じ目標を追求する必要はないからである
私たちは選択に直面している。破壊的技術の採用を加速させるのか、減速させるのか、あるいは調整するのか、そして例えば経済的支援を通じて代替された人々に補償するかどうかを決めなければならない
- 変化のダイナミクスは混乱に見舞われる人々にとって苦痛になり得るため、AIとそのあらゆる利点を効果的に受け入れるには、代替される人々を国家政策の取り組みの中心に置くことが鍵になる
- 経済政策は、今日の米連邦準備制度が行っているような経済成長の調整だけでなく、格差や社会的流動性のてこと、それを緩和する要因も念頭に置くべきである
- 私は謝罪しない資本家であり、技術楽観主義者として、AIシステムの継続的かつ迅速な支援と展開を支持する
- 私たちは技術進歩を遅らせるのではなく、それがもたらす変化に適応すべきであり、そこには人間の労働の潜在的価値低下も含まれる
- こうした変化は大きな課題を突きつける一方で、25年以上の時間をかけて、より共感的な社会と資源制約後の世界を築く機会も提供する
- 私たちは、自分たちが生きる社会と自分たちが作る未来について慎重であるべきであり、はるかに共感的に政策を作るべきである。これは以前は負担できなかったぜいたくだが、今では私たちが使えるようになったものである
人間の能力を超える技術がもたらすより大きな副作用に対処するには、国家レベル（および国際レベル）での構造的変化が、おそらく長期的に必要になる
- 経済政策は、今日の米連邦準備制度が行っているような経済成長の調整だけでなく、格差と社会的流動性のバイアスによっても方向付けられるべきである
- AIへの適応について各国が異なるアプローチを取るグローバルな文脈の中で、相対的な経済力に劇的な変化が生じる可能性がある
AIが人間の労働の必要性を減らすにつれて、政府がAIの影響を規制し、公平な富の分配を保証するうえで中心的な役割を果たす中、UBI（Universal Basic Income）の重要性が高まる可能性がある
- AIが労働コストを下げ、生産性を高めるにつれて、富の分配と社会福祉の維持における政府規制の役割は重要になる
今後、大規模な生産性向上と、向こう50年間で年間GDP成長率が2%から4〜6%へ上昇する可能性を踏まえると、1人当たりGDPは約100万ドルに達する可能性がある（50年間、年率5%成長を仮定）
- デフレ経済では、現在の名目ドルでより多くのことが可能になる
- 私は、UBIを賄えるだけの十分な資源と豊かさがあると信じている
- 今日のUBIは、経済的制約のため非現実的に見えるかもしれず、実際、そのような制約を無視することはアルゼンチンやベネズエラのような国で破局につながった。しかし、そのような制約は次第に弱まっていく
大胆すぎる、あるいは取り返しのつかない国家規模の特定の解決策や早期行動を勧告する際には注意が必要である
- 討論と議論が明らかに必要である。所得格差の拡大によって被害を受けた人々のためのポイントソリューションを見つけなければならない
- 私たちは変化を綿密に見守り、この10年間を通じて継続的に小さな政策変更を行うべきである
- 強力なAI技術の進歩にもかかわらず、実際の影響と採用は、指数曲線の平坦な部分と同様に、より遅い可能性がある

E. 消費者ユートピアを想像する

この20〜30年の西側諸国には、中国のデフレ効果との興味深い類似点がある
- 労働力の海外移転は数千万件の国内製造業雇用の喪失につながったが、生計を覆された人々のスキル向上やケアに重点を置く政策はほとんどなかった
- AIとコンピュータビジョンによって、私たちは製品価格を引き上げることなく製造業を国内回帰させ、中国のような国の低コスト労働力から離れる機会を得る一方で、同時に代替される人々のための生産的な政策検討にも取り組めるようになった
- 中国のデフレ的影響は、雇用が海外へ移転するのに伴い、米国における消費者の支出能力の低下とともにやって来た
- 逆に、AI主導のデフレ成長は、上で述べたすべての理由から、商品やサービスの消費増加、すなわち消費者の支出能力の実質的な増加と同時に起こる可能性が高い。この変化のダイナミクスを予測するのは難しいだろう
住宅、エネルギー、医療、食品、輸送のすべてが機械によってほぼ無料で提供されるか、玄関先まで届けられる世界を想像してほしい。その分野には仕事が一つも残っていない
- その世界の主な特徴は何であり、そこで生きるとはどのようなものだろうか。まず、それは消費者ユートピアである。誰もが、王や教皇しか夢見ることのできなかった生活水準を享受する
- 私は、未来のユートピア社会では一定水準の生活費がより低くなり、今日年収4万ドルの個人が、今日年収30万ドルの人よりも実質的に豊かに暮らせるようになると考えている
- 幸いなことに、技術は、過去10年ないし20年にわたって中国へアウトソーシングしてきた場合よりも、商品やサービスに対してはるかに大きなデフレ効果をもたらすだろう
- しかし、私の本当の希望は、商品やサービスが豊富になるにつれて、市民がより多くの消費ではなく、何が自分たちにより大きな幸福をもたらすのかに焦点を当て始め、消費が地位の象徴である度合いが弱まることである

F. 企業 vs. 国家

AI世界では、こうした技術を支配するテック企業のCEOが、世界中の雇用、経済構造、さらには富の分配に対して前例のない影響力を行使し得る
彼らのプラットフォームは、仕事、教育、社会的相互作用の主要な仲介者となり、日常生活の多くの側面において伝統的な政府の役割を上回る可能性がある
批評家たちは、こうした経営陣が多くの国家に匹敵する、あるいはそれを上回る影響力を行使していると主張する。彼らは、公共の言論を形成し、選挙に影響を与え、さらには地政学にまで影響を及ぼし得る技術プラットフォームの能力を、その過剰な権力の証拠として挙げる
しかし、こうした懸念は興味深い問いを提起する。そして私は、台頭し極大化した中国と、私たちのより自由な社会・経済との強制的選択という以前のフレームワークに立ち戻る
私たちはなぜ、習近平のような選挙で選ばれていない指導者の世界的影響力よりも、テック企業のCEOの影響力に対してより安心していられるのだろうか。どのテック企業CEOも支配的な持分、あるいは実質的な持分すら保有している可能性は低く、彼らは株主と取締役会に対して説明責任を負わなければならない
両者はともに直接的な民主的責任なしに巨大な権力を振るうが、そのインセンティブ構造には重要な違いがある
テック企業のCEOは、あらゆる欠点にもかかわらず、最終的にはユーザー、顧客、株主からの継続的な支持と関与に依存している。彼らは地位を維持するために、ある程度は市場の力と世論に応答しなければならない
逆に、習近平のような権威主義的指導者は、公衆の感情を無視し、国家機構を利用して反対意見を抑圧し、支配を維持する
このような力学は、テック企業CEOの権力が明らかに懸念すべきものであり、綿密な精査を必要とする一方で、グローバルな利害関係者への応答性という点では、無分別な権威主義的権力より望ましい可能性があることを示唆している

5. 私たちは望む未来を作ることができる

起こる未来は、私たちの社会がこの強力な道具をどう導くと決めるかによって形作られる未来である
- それは一連の政策選択であり、技術選択ではなく、国ごとに異なるものになる
- それを活用する人もいれば、そうしない人もいる
- 個人レベルおよび社会的な選択は何であるべきだろうか？
- 私たちの基本的な欲求が満たされることで、あらゆる人間の時間、労働、エネルギー、野心、目標は無形のものへと再方向付けされる:
  - 大きな問い、深い欲求。人間の本性は歴史上初めて完全に表現される。
  - 物理的な必要の制約がなければ、私たちは望むとおりの存在になれる
- GDPの成長は私たちを「豊かな」社会へと導き、そこで私たちは仕事との基本的な関係を再定義しなければならない
- そして従来のGDP指標は、人間の進歩を測る尺度として次第に不正確になっていく
- そして、私たちが下す政策と社会的選択に応じて、大きな経路依存性が生まれる
最も重要なのは、7億人（10%）だけが享受している豊かな暮らしを、世界79億人の市民すべてに届けるという壮大な野心が、ついに手の届きそうな距離にあるということだ
- AIなしでエネルギー、資源、医療、交通、企業、専門サービスを10倍に拡大することは、明らかに不可能である。それは必要な力の乗数であり、最も恵まれた人々が現在享受しているものを広げられる唯一の道具である
- AIは必要だが、それだけでは十分ではない
- それに伴う社会的・政治的・経済的転換に有利な条件をつくる政策が必要である
AIは、核やバイオテクノロジーのような以前の強力な技術ツールと同様に、善い目的にも悪い目的にも使える強力な道具である
- 私たちが慎重に選択し、技術ではなく社会の選択に従って「可能な」世界を築くために使うことが不可欠である
  未知への恐れのために、その恩恵を放棄してはならない
私は技術可能主義者であり、技術楽観主義者でもあるが、慎重さと思いやりをもって技術を使うべきだと考える
- "No wine before its time（適切な時期が来るまではワインを売らないという広告文句）" という言葉があるように、規制は必要だが、時期尚早の規制であってはならない
- 2000年のニューヨーク・タイムズとのインタビューでの私の言葉を振り返ると、私たちは人間であることの意味を再定義しなければならないだろう
- この新しい定義は、仕事や生産性の必要性ではなく、情熱、想像力、関係性に焦点を当て、人間性についての個人的な解釈を可能にするものでなければならない

9件のコメント

garangb 2024-10-07

「民主主義がAIを飼いならせる」というのは、世界政府や有効な国際法が存在しない以上、保証された命題ではないと思います。各国は他国に対するAI産業の競争力のために強い規制を課すことができず、M7のような国際企業は「イノベーション」「公益」を掲げながら引き続き規制に対抗するでしょうし、政治的な二極化は、私たちが適切な時期にAIをきちんと飼いならすために力を結集することを妨げるでしょう。

readiz 2024-10-07

私は楽しく読みました。正しいか間違っているかという観点で読む文章ではない気がします。あくまで筆者の視点にすぎないので…。

kraker 2024-10-07

企業への富の集中に関する内容は政策で解決可能、という
この部分はあまりにもお花畑っぽいですね。
政策はいつも後追いでしたし、この急速で莫大な変化を社会がどう受け止められるのかが心配です。

kraker 2024-10-07

技術発展のスピードがあまりにも速い。
政策決定のプロセスは複雑で、時間がかかる。
未来を予測するのは難しい。
既存の利害関係との衝突は避けられない。

koreaisbest 2024-09-30

人間が必要ないのに、なぜ奉仕するのだろう？と考えるのではないでしょうか。人間を作った神が人間より優れているはずだという幻想と同じではないでしょうか。

lcanon 2024-09-30

やはり気候への言及はありませんね。また、選挙で選ばれていない指導者がどうこうと言いながら、その一方で「ミンジュジュイ」的に、多数が同意してもいない技術を社会に事実上押し付けることが、なぜ正当化されるのかも気になります。

savvykang 2024-09-30

筆者がAIの社会変革の可能性にばかり注目し、変化に必要な条件を十分に考慮していないため、全体としては賛同しにくい文章です。

AIは地球上のすべての子どもにほぼ無料のAIチューターを、すべての人にほぼ無料のAI医師の専門知識を提供できる

結局のところ、私たちは人間として、どの仕事を人間に割り当て、何を自ら選択するのかを決めることになる

医療の本質は、単に医学知識を提供することにとどまらず、治療法間の有効性や危険性、予後などのエビデンスと状況を考慮して意思決定を行うことにあると考えます。専門家システムが一般大衆の信頼を得るまでには、楽観論ではなく、数多くの根拠や失敗事例、経験則が蓄積されなければならないでしょう。

AIはまた、私たちの間の物理的な距離を縮めることができる

私たちはほとんどの都市で、自動車の大半をAIベースの自律的で個人的かつ迅速な交通システムとラスト1マイルの自動運転車に置き換えることで、既存道路の旅客輸送能力を10倍に増やすことができる

物理的な距離がもう一段階縮まるためには、交通手段の発達だけでなく、その発達した移動手段に合わせた都市計画や道路網の変更も必要です。欧州や米国の大都市が初期の都市計画から大きく外れられず、設立当時の道路網をそのまま使っていることを見れば、交通手段が発達するだけでは、すべての大都市の物理的距離を縮めることはできません。すでに形成された都市が変化するには莫大な財政負担と不確実性を乗り越えなければならないため可能性は低く、新たに生まれる都市が交通手段の発達の恩恵を受けることになるでしょう。

20年前、ランセット誌は、世界の小児死亡率の90%を占める42カ国において、子どもの死亡の63%が、より効果的なプライマリケアによって予防できることを発見した。これは年間600万人の命に相当する。AIはこれをほぼ無料にできる

西側諸国では、下痢、肺炎、はしか、マラリア、出生前後のHIV/AIDS感染のような疾病の予防可能性を当然視している

十分な数の人間のプライマリケア医が、世界のより恵まれない地域のすべての子どもに到達し、接点を増やす現実的な方法はない

感染症は、医療アクセスの改善だけでなく、公衆衛生や衛生環境の改善も同時に行われなければならず、これは上下水道施設のような行政サービスが並行して整備されてこそ予防できます。

AIは、公正な意思決定プロセスを保証し、偏見を減らし、ガバナンスの透明性を促進することで、より公正で平等な社会をつくる助けとなりうる

AIは、認知バイアスや偏見、対立、機会の平等、富の再分配のような心理や価値判断の問題を代わりに解決することはできません。

また、ローコード、ノーコードおよび自然言語プラットフォームは、深い技術的専門知識のない人々でも、これまで以上に簡単にAIソリューションを作成し展開できるようにしている

ローコードプラットフォームは作業を始めるのは簡単ですが、要件が追加され依存関係が複雑になるほど、効率的で完成度の高い成果物を作るのは難しくなります。

労働コストや資本コストは、キャピタルゲイン税やMLPのような単純なルール、規制、法律、税制戦略の変更によって効果的に変えられる

すべての政治家や政策立案者が、筆者の主張のように考え、政策を実行する可能性は非常に低いです。

彼ら（テックCEO）のプラットフォームは、日常生活の多くの側面において、従来の政府の役割を上回る可能性のある、仕事、教育、社会的相互作用の主要な仲介者になりうる

しかしこの懸念は興味深い問いを提起しており、私は台頭し極大化した中国と、私たちのより自由な社会と経済との間での強制的な選択という以前のフレームワークに戻る

テックCEOは、あらゆる欠点にもかかわらず、最終的にはユーザー、顧客、株主の継続的な支持と参加に依存している

米国のビッグテック企業の波及力に対するEUの規制、その妥当性に関する議論は現在も進行中であり、中国の全体主義政府とは何の関係もありません。

xguru 2024-09-30

なんとなくサム・アルトマンの知能の時代 (The Intelligence Age)と比較してしまう文章ですね。
単に「うまくいくでしょう」と言うより、さまざまな事例を挙げて説明しているのが良かったです。
考えたことのなかった視点が語られていて、多くのインスピレーションをもらいました。

コスラ・ベンチャーズは、創業者たちが選ぶ最高のVCとして評価されています。 https://www.founderschoicevc.com/

nowdoit7 2024-09-30

サム・アルトマンの文章は、ひたすら「うまくいきます」と売り込むセールストークに近いとすれば、こちらの文章にはさまざまな考える材料があって良かったです。

今は人間がAIを主従の関係として形作っていますが、今日のようにChatGPTが動かないときに感じるもどかしさを見ると、AIが主人なのか従なのか分からなくなりますね。

そして、AI企業が当然のように莫大な資金力と政治的なパワーを手にすることになるでしょうが、社会の合意のもとでユートピアへ向かうには、とてつもない社会的コストが発生しそうです。

それに、すべての人間が倫理的で善良ならいいのですが、人類の時代にはそういうことがまれだった過去を思うと、大変革を前にしてみすぼらしく立ち尽くす一人の人間になったようで、悲しくなります。