グーグル、AIを武器や監視に使用しないという約束を撤回

• GoogleのAI原則変更の背景

  • 既存のAI原則で、武器や監視用途にAIを使用しないと明記していた約束が削除された
  • GoogleのDemis HassabisとJames Manyikaは、AIの普及と国家安全保障上の需要を理由に方針変更を発表した
  • 「民主主義国家がAI開発を主導すべきであり、政府および安全保障分野と協力しなければならない」と強調した

• 新しいAIポリシーの主な内容

  • 国際法と人権原則に適合するよう技術を使用するという文言は維持された
  • 「予期しない被害を軽減するためにテストを行う」という項目が追加された
  • 具体的には、武器や監視への活用を除外する条項が削除された
  • Googleの広報担当者は、武器・監視ポリシーの変更に関する具体的な質問への回答を拒否した

• 過去のGoogle社内の反発とMaven契約

  • 2018年、米国防総省とのドローン映像分析プロジェクト（Maven）を進める中で、従業員の強い反発が起きた
  • 従業員たちは「Googleが戦争ビジネスに関与すべきではない」と主張した
  • 会社はMaven契約を更新せず、その後AI原則を公開し、武器・監視への使用を禁じるという約束を盛り込んだ
  • 今回のポリシー更新でこの明示的な約束が削除され、過去の従業員による反発の動きが再び注目されている

• 業界への影響

  • シリコンバレーでは、軍事・国防分野との協力が急速に拡大している
  • Google従業員によるMaven反対が業界に大きな転換点をもたらしたとの評価がある
  • 今回の方針変更により、GoogleのAIが軍事・監視分野に再び適用される可能性が高まったとの分析がある

[GN⁺]

Hacker Newsの意見

• ドローンとAI兵器の危険性について議論している。遠隔暗殺、政治的混乱、独裁者による選択的標的化など、さまざまな悪用の可能性がある

  • 多くの国がこうした技術を保有するようになるだろうし、すでに多くのAIモデルが公開されている
  • 技術コミュニティはこの問題を解決するための方法を考える必要がある
  • 防御策、監視方法、市民が政府による兵器使用を監査する方法など、重要な問いが提起されている

• Googleのような大企業は本質的に善良でも道徳的でもなく、そのようなイメージは単なるマーケティング戦略にすぎない

• 世界が自滅へ向かう現実を認識しており、水面下で進行している恐ろしい進展が存在する

• ほとんどの民間企業は利益のために技術を使い、以前の約束を破るだろう

• 企業が政治的状況に応じて変化するのは興味深い

  • GoogleはAI発表に対する反応を受けてイメージ管理を気にしている

• OpenAIがDoDと契約を結んだこととGoogleの行動を比較し、率直な姿勢のほうがより誠実だと主張している

• 特定の国は群衆統制のために兵器を必要としていると主張している

  • 国際的危機は主に米国とロシアによって引き起こされてきたと批判している

• 世界が混乱した状況にある中で、Google、OpenAI、Microsoftのような企業が国防プロジェクトに参加するのは前向きだと考えている

• LLMsが情報機関におけるテキスト分析を拡張できる能力について懸念を表明している