- パリの AI Action Summit で約60カ国がAI安全に関する共同宣言に合意したが、米国と英国は署名せず、AI規制と産業主導権をめぐる亀裂が浮き彫りになった
- 宣言には、AIは開かれ、包摂的で、透明・倫理的・安全・セキュア・信頼可能であるべきだという原則が盛り込まれたが、法的拘束力はなかった
- JD Vance米副大統領は、AI規制が技術開発を「抑え込む」ものであってはならないと強調し、最も強力なAIシステムを米国内で、米国製チップを使って作る方針を示した
- 英国政府に近い人物は宣言文が「制限的すぎる」と見ており、署名国の関係者は、米国が多国間主義と国際協力に関する表現に同意しなかったと伝えた
- 欧州は米国・中国への依存を減らすためAI産業基盤を育成しており、サミットではデータセンターとコンピューティングクラスターに約2,000億ユーロ規模を投じる計画が公表された
パリAIサミットで表面化した署名の亀裂
- 米国と英国は、パリで開かれた AI Action Summit の共同宣言に署名しなかった
- 共同宣言には約60カ国が合意し、AI技術を「安全で、セキュアで、信頼可能」にするという目標が盛り込まれた
- 宣言には、AIは開かれ、包摂的で、透明で倫理的であるべきだという原則も含まれている
- すべての人のための国際的な枠組みを検討するという文言が入った
- 約束は拘束力のないものだが、米国と英国は過去のAIサミットで同様の宣言に署名したことがある
米国の焦点は規制よりAIの主導権
- JD Vance米副大統領は、欧州がAIに対して**「過度に予防的な」規制**を採用しないよう警告した
- Vanceは、Trump政権が最も強力なAIシステムを米国で構築されるようにすると述べた
- そのシステムは米国が設計・製造したチップを使うべきだという立場だ
- 米国がAI技術で支配的な地位を維持するというメッセージと受け止められる
- 国際的な規制体制はAI技術の創出を促進すべきであり、それを抑え込んではならないと主張した
- Oxford Internet InstituteのKeegan McBrideは、Vanceの演説をBiden政権時代と比べて「180度の転換」と評価した
宣言文をめぐる米英の異論
- 米国の強硬姿勢は、Trump政権の「America First」志向とつながっている
- 英国政府に近いある人物は、宣言文が「制限的すぎる」と見た
- 署名国の1つの関係者は、米国が多国間主義と国際協力に関する表現に同意しなかったと伝えた
- 共同宣言には、国際的なガバナンスの調整を促進するための国際協力の強化が優先事項として盛り込まれた
- 同じ関係者は、米国がフランスがサミットで立ち上げた Current AI にも懸念を持っていたと述べた
- Current AIがフランス語圏の国々へ資金を流すために使われる可能性があるという懸念だった
中国との競争、DeepSeekが生んだ緊張
- 米国の強硬姿勢は、AIをめぐる中国との競争が激しくなる中で出てきた
- 競争領域は、チップ製造、基盤モデル、AIチャットボット、スーパーコンピューターへの電力供給に必要なエネルギーにまで広がっている
- 中国のあまり知られていなかった研究所 DeepSeek が低価格のAIモデルを発表し、Silicon Valley企業に衝撃を与えた
- OpenAIのような企業は、自分たちが強力な優位を持っていると考えていた
- VanceはAI取引で「権威主義体制」と協力しないよう警告し、中国を遠回しに標的にした
- CCTVと5Gを過去の事例として挙げ、権威主義体制が多額の補助金を受けた安価な技術を輸出したと述べた
- そうした協力は、情報インフラに侵入して掌握しようとする権威主義的主体に国家を縛り付けることだと見た
欧州の対応：独自のAI産業基盤を育てる
- 欧州はAI産業で足場を築き、米国や中国への依存を減らそうとしている
- Emmanuel Macronフランス大統領が主催した2日間のサミットで、欧州の首脳や企業は約2,000億ユーロ規模の投資計画を公表した
- 投資対象は、欧州のAIへの取り組みを支えるデータセンターとコンピューティングクラスターだ
- AI Now InstituteのFrederike Kaltheunerは、DeepSeekの強力な公開モデルのリリース後、欧州の人々はAIで競争できる短い機会を感じたと述べた
- McBrideは、Macronサミットの流れは米国主導のAI開発に対する代替案を押し進める方向だったが、Vanceの発言がその雰囲気に冷や水を浴びせたと評価した
1件のコメント
Hacker News の意見
これから数十年にわたり、技術加速がもたらす生活の一部は、意識があるまま前頭葉切除を受け、その過程を見せられているような感覚になる気がする
完全な AGI に満たない技術でさえ破滅的に逸脱し得る仮想の経路を何千通りも思い浮かべ、果てしなく議論することはできるが、肝心のその方向への進展は遅くも止まりもしない
十分な集団知性とブレークスルーを持つたった1つのグループがあれば、私たちが望んだかどうかにかかわらず、次の AI は玄関先まで届けられ得る
子どもの頃に読んだ本が重要な人生のメッセージを伝えていたのに、20年後になってようやくその意味を悟った経験に似ている。メッセージはまさにそこにあったが、当時はそれを受け止める感情的・知覚的な知性が足りなかった
印刷機が発明されたときも同じような雰囲気の人々がいて、結果的に彼らは間違っていた。彼らの「教訓」に従っていたら、人間社会ははるかに悪くなっていただろう
現在の AI/AGI 批判が妥当かどうかは、結局のところ事後的にしか分からない
特にテック業界には、自分が金を稼げさえすれば、他人に何が起ころうと大して気にしない人が多すぎる。他人を進んで犠牲にし、自分のコミュニティの中でさえ福祉を分かち合おうとしない
低信頼社会が高信頼社会に入り込んだ必然的な結果であり、社会に危険な含意を持つ技術がより広く普及するほど、社会の崩壊のために働く人間が十分に現れるので、この列車が止まるという現実的な希望はない
現在の AI 学習には多くのハードウェアが必要だが、ノート PC とインターネットだけでも、構造やアルゴリズムの面では最先端の研究とイノベーションが可能だ
「AI の発展は違法」という法律が通ったとしても、それをどう執行できるのか疑問だ
想像上の恐怖は現実の恐怖ではない。現政権のアプローチには同意しないし、警戒すべきだし、その技術で莫大な利益を得る人々が議論の場にいるのも好ましくは見えない
だがそれ以外には、待ちながら警戒する以上のことをすべき実際の理由を、まだ見ていない
AI、特に他国の AI を禁止した国に閉じ込められ、新興世界で競争力を失う状況は望まないだろう
未来は困難になるのに、なぜ自分で片手を縛るのか。慎重さと恐怖は違う
AI は核分裂とは違う。誰かが AI を学習させているかを遠隔で検知することはできず、ウラン濃縮のときのように AI 関連情報を隔離するには、すでに遅すぎる
AI 学習に必要な機材は安く、ありふれている。こうした「安全宣言」は歯の抜けた宣言で、執行も不可能だ
AI を止めることはできず、適応しなければならない。動画や写真はまもなく証拠価値を失い、オンライン上の関係より実際の人間関係を重視すべきになる。相手が実在の人間だと分かるからだ
不幸なことではあるが、AI が「破壊」するものの中に200年前から存在していたものはなく、人々はいつものように適応するだろう。漫画の悪役 Toyo Harada の言葉を借りれば、「君たちの誰一人として私を止めることはできない。個人としても、集団としても」
日本がデジタルカメラのシャッター音義務化を実施したのと似た理由と方法で、法的に強制される可能性がある
200年前には地球人口は約10億人だったが、今は約80億人だ。無政府原始主義者や脱成長論者も過去200年の進歩を同じように手振りで片づけるが、その進歩は多くの人を生かすシステムを支えるうえで重要だ
それでも、化学兵器の不使用に関する国際協定は驚くほどよく維持されてきた
混乱が起きるのは公共の領域だ。おおよそ1975年以前から現在までの間に生まれた世代が、自分の信じたい画像を見ると批判的に考えられず、1世代ほど混乱が生じるだろう
ChatGPT のような AI ベースのサービスを禁止すれば、そうした学習に資金を投じる経済的インセンティブも減らせる
より最近の取り組みとしては https://c2pa.org/ がある
こうした AI安全性 に関する議論はすべて、OpenAIのような企業がDeepSeekのような新興の競合を阻むための堀を築いているにすぎない
LLMはAGIにはつながらない。近くにも行けない。Altmanがこうしたリスクを語るのは、Muskが無人タクシーを語るのと似ている
もちろん、印象的な技術であることは確かだ。LLMはいつか、一日中コンピュータとやり取りする職種で、人々の生産性を10倍に高めるかもしれないと思える
彼らがOpenAIの堀を作ろうとしてこうした話をしていたわけではまったくない。そもそも当時はOpenAIは存在せず、AIは現在の水準にまったく近くなく、ほとんど誰もが彼らの論拠をばかげていると見ていた
同意しないことはできるが、既存のAI企業を支えるための主張にすぎないと単純に片づけるのは間違っているし、不誠実だ
LLMが感覚として受け取れる対象に限れば、あらゆる説明上、平均的な人間よりはるかに賢い
世界の支配的な強大国なら、他国に自国の戦略を決めさせたりはしない。それほど単純な話だ
AIを抑制しようとする試みは、競争で負けている側から出てくるだろう。Edward Tellerが回想したインタビューのように、ソ連は核実験モラトリアムを利用して 水素爆弾 で米国に追いついたし、Tellerは理想主義的な科学者たちにそういうことが起きると告げていた人物だった
中国はすでにほぼあらゆる面で米国に追いついており、残りもまもなく追い抜く段階にあることはよく知られている。DeepSeekを見ても、OpenAIと同じくらい効率的なのに、コストははるかに低い。BaiduやAlibaba AIなどもある
中国経済は5年以内に米国を追い抜く軌道にあり、それでもその協定に署名した。実際、ほとんどの国が署名しており、インドも同様だ
敗者が新しいルールを作っている状況ではなく、大国がこの状況にどう対処するかを議論しているのであり、自分たちがあまりに優れていると思い込んでいる国々が遅れて見える
ただし、そうした試みも象徴的なもので、当事者もそれを分かっている。ナイーブな情報消費者、つまり役に立つ愚か者たちに、何かをしているように見せるための試みにすぎない
80年代は逃したが、90年代と00年代を過ごした「ハッカー」として、AIをめぐる会話の流れは深く悲しく、不快だ
昔のハッカーたちに、「hacker news」というサイトで人々が 自分のコンピュータでコードを実行すること を政府が犯罪化すべきだと議論するようになる、と言う場面を想像してみてほしい
これは、私をコンピュータにのめり込ませたすべてのものと、倫理的にも哲学的にもあまりに真っ向から衝突している。人々が本当にそう信じているのか、それとも特定の企業や政治家にとって都合のよい精巧な物語なのか、気になる
EUのAI規制や、私が見た議論でも、AIハッキングそのものを制限する内容はない
規制は企業・政府での適用と実際のユースケースを扱う。責任の所在がないAIに最終的な採用判断をさせない、公共の場での広範な顔認識を禁止する、医療・教育・司法のような高リスク領域でのAI利用に透明性を求める、武器を持ったAIを禁止する、といったものだ
倫理を語ったので聞くが、AIにはどのような倫理を適用すべきなのか？ 何もなしなのか、一部だけなのか、人間と同じ倫理なのか？ AIが意思決定で人間を代替するなら、人間のように責任を負うべきだ
無制限のAGIを持つ国は、技術的に飛躍的に先行する可能性が高い
逆に制約を課す国は、その分野では「石器時代」にとどまることになる
一般に、エリートの所得が国民の労働に依存している国のほうが、そうでない国より多数にとって良い結果を生む。豊富な石油埋蔵量を持つ発展途上国を見ればよい
AGIは何につながるのか？製造業の労働が置き換えられたように、知識労働の大半も置き換えられ、既存のエリートがAGIを支配することになるだろう。完全に自動化され、遍在する監視によって反乱を永遠に抑え込むために使われる可能性もある
本当に目指すべきものではない
[1]: https://en.wikipedia.org/wiki/Resource_curse
いつか存在する可能性はある。だが現在の「AI」はAGIにはなれず、そこへ進む道筋もない
その物語をそのまま信じてはいけない。EUの規制はAGIを禁止しようとしているのではなく、技術が存在するときに最低限の品位を守らせようとしているものだ。米国人はこうしたことに、ほとんど致命的なアレルギーがあるように見える
数年後の今、実際に世界の一部はAIを受け入れ、別の一部はそうではないという状況を真剣に考えている
こうした部分的な採用は予測できたが、これほど早くこの議論をすることになるとは思わなかった
この「宣言」は具体的な行動の約束ではない、と理解してよいのだろうか？そうだとすれば、誰が署名し誰がしないかがなぜ重要なのか、よく分からない
具体性もそれより大して良く見えない。長さは1ページ半ほどで、国の一覧が宣言文そのものと同じくらい長く、基本的には「私たちは悪いことをしないと話し合いました」という内容だ
彼らは正しい。その宣言は役に立たず、ただの徒労だ
欧州は宣言文や懸念表明の書簡に署名するのが本当に好きだ。署名していたとしても何も変わらなかっただろう
この種の「悪にならないようにしよう」という宣言は、たいてい意味のないジェスチャーだ
どうせ参加もしない非主流のアクターが道徳的優位性を誇示するだけで、実際の流れには何の影響も与えられない
オタワ条約も似ている。非署名国には米国、中国、ロシア、パキスタン、インド、エジプト、イスラエル、イラン、キューバ、南北コリアなどが含まれる。つまり、そもそも地雷の使用が想定される国が全て抜けている
いざ状況が生じれば、ウクライナのような署名国も地雷を使うだろう。紙切れ一枚を守って道徳的に優越した気分になることより、国防のほうが重要だからだ