米国と英国、首脳会議でAI Safety（安全性）宣言を拒否

 (arstechnica.com)
1 ポイント 投稿者 GN⁺ 2025-02-13 | 1件のコメント | WhatsAppで共有

  • 多国間主義の拒否

    • 米国と英国はAI安全性宣言に署名しなかった
    • 米国の立場はバイデン政権からの「180度転換」とされる
    • 米国のJ.D.ヴァンス副大統領は、欧州がAIに対して「過度に慎重な」規制を採用しないよう警告した
    • AI技術が「安全で、セキュアで、信頼できる」状態にあることを保証するための宣言に署名しなかった
    • 約60か国がAI Action首脳会議でこの宣言に同意した

  • 米国の立場

    • ヴァンスは、米国がAI技術における支配的な勢力であり続けると強調した
    • 「最も強力なAIシステムは米国で、米国が設計・製造したチップによって構築される」と述べた
    • 国際的な規制体制はAI技術の創出を促進すべきだと主張した

  • 宣言の内容

    • AIがオープンで、包摂的で、透明性があり、倫理的で、安全で、セキュアで、信頼できるものになることを保証するのが目的
    • 米国と英国はこれまでのAI首脳会議で類似の宣言に署名したことがある
    • 新たな米国政権の「America First」政策と、英国政府の「制限的だ」という見解により署名しなかった

  • AI競争と中国

    • AI開発、チップ製造、AIチャットボット、スーパーコンピューターに必要なエネルギーなどで中国との競争が激化している
    • DeepSeekの低価格AIモデルがシリコンバレーのOpenAIを驚かせた

  • 欧州のAI産業

    • 欧州はAI産業で米国や中国への依存を避けようとしている
    • フランス大統領Emmanuel Macronが主催した首脳会議で、約2,000億ユーロ規模のデータセンターおよびコンピューティングクラスター投資が発表された

  • 米国の警告

    • ヴァンスは「権威主義体制」とAI取引を結ばないよう警告した
    • CCTVと5Gを例に挙げ、「安価な技術」が権威主義体制によって補助され輸出されていると述べた

  • 共同宣言の優先事項

    • 中国、インド、ドイツなどの国々が署名した共同宣言は、「国際協力を強化して国際ガバナンスにおける調整を促進する」ことを目指している
    • 米国は多国間主義と国際協力に関する文言に同意しなかった
    • フランスが設立したCurrent AI財団がフランス語圏諸国に資金提供できることへの懸念がある

  • ヴァンスの演説

    • ヴァンスの演説はバイデン政権からの「180度転換」と評価された
    • Macronの首脳会議は、米国主導のAI技術開発に対する代替案を推進することが目的だった
    • DeepSeekによる強力なオープンモデルの公開後、欧州はAI競争で一時的に機会を得たと感じていた

関連記事

1件のコメント

 
GN⁺ 2025-02-13
Hacker Newsの意見

  • 技術の進歩が加速するにつれて、今後数十年の生活は、意識があるままロボトミー手術を受けているように感じられるだろうという意見がある。技術が誤った方向へ進みうる何千もの仮説的な方法を考えられるが、それでも進歩は止まらない。AIは、私たちが望もうと望むまいと、結局は到来する

  • AIは核分裂とは違う。誰かがAIを訓練していることを遠隔で検知することはできない。AIに関するあらゆる情報を隔離するには、すでに手遅れだ。AIの訓練に必要な装置は安価で、どこにでもある

    • 「安全宣言」には実質的な力がなく、強制もできない
    • AIは止められないのだから、適応しなければならない
    • 動画や写真は、まもなく証拠としての価値を失うだろう
    • 現実世界の人間関係は、オンライン上の関係より重要だ
    • AIが「混乱を引き起こす」ことは200年前には存在しなかったが、人々は常に適応してきた

  • 「AI安全」は、OpenAIのような企業が新興企業を阻むための防御策にすぎない。LLMsはAGIに到達しないだろう。Altmanがこのリスクについて語るのは、Muskが無人タクシーについて語るのと同じだ

  • 世界の支配的な力になるとき、他者に戦略を決めさせたりはしない。AIを抑え込もうとする試みは、競争で出遅れた側から出てくるだろう。Edward Tellerが、ソ連が米国と水素爆弾で対等になるために核実験停止を利用したことを回想するインタビューがある

  • 80年代には間に合わなかったが、90年代と00年代を経験した「ハッカー」として、AIについての会話がどう進んでいるのかに深い悲しみと不安を感じる。昔のハッカーたちに、政府が自分のコンピューターでコードを実行することを犯罪化するのが重要だと主張する人々がいると伝えるのは、想像しがたい

  • 「AI」という用語について、政界やその他多くの人々が何を意味しているのか分かりにくい。数年前の「ブロックチェーン」と似た状況だ。「AI」は実質的にアルゴリズムによる意思決定の同義語であり、人々の生活に直接影響を与えうる。責任、透明性、救済手段などがないまま「AI」が無分別に拡大することは、歴史的に確立された権利に対する重大な後退を意味する

    • 米国はCFPBを解体し、さらなる規制緩和を進めている
    • 英国の立場は興味深い。市民・消費者保護の面では米国とEUの間に位置するが、ブレグジットにもかかわらず後者により近い

  • 制約のないAGIを持つ国は、技術的に大きな飛躍を遂げる可能性が高い。それを制限する国は「石器時代」にとどまる可能性がある

  • ヨーロッパは宣言や懸念の書簡を書くのが好きだ。署名しても違いは生まれないだろう

  • この「宣言」が具体的な行動を約束するものではない、という理解で正しいのか気になる。誰が署名しようと関係ない理由がよく分からない

  • 宣言は無用で、空虚な努力にすぎない