グーグル、AIを武器や監視に使用しないという約束を撤回
(washingtonpost.com)- グーグルは火曜日、AI倫理ガイドラインを変更し、武器と監視分野にAIを適用しないという公開約束を削除した
- 2018年のAI原則には、「全体的な害を引き起こす、または引き起こす可能性がある」形でのAI適用を除外する制限条項があった
- 既存文書の「追求しないアプリケーション」セクションでは、武器、監視、害をもたらす可能性が高い技術、国際法・人権原則に反する利用事例を禁止カテゴリとしていた
- Internet Archiveに保存された木曜日時点の写しには、該当する禁止セクションと4つのカテゴリが残っていた
- 今回の変更により、グーグルの公開AI原則から、特定の高リスクな用途を明示的に除外していた文言が消えた
AI原則から消えた禁止の約束
- グーグルは火曜日、AI倫理ガイドラインを更新した
- 新しいガイドラインでは、AI技術を武器または監視に適用しないという従来の文言が削除された
2018年政策の制限条項
- グーグルは2018年に、AI適用範囲を制限する政策を導入した
- 当時の政策には、AIを「全体的な害を引き起こす、または引き起こす可能性がある」形で適用しないという内容が含まれていた
削除された「追求しないアプリケーション」セクション
- 既存のAI原則には「Applications we will not pursue」というセクションがあった
- Internet Archiveに保存された木曜日時点の写しには、このセクションが残っていた
- このセクションには、グーグルが追求しないと明らかにしていた4つのカテゴリが含まれていた
- 武器
- 監視
- 「全体的な害を引き起こす、または引き起こす可能性がある」技術
- 国際法と人権原則に反する利用事例
公開原則で変わった点
- 変更前のAI原則は、特定の用途を明示的に除外していた
- 変更後の公開原則では、武器、監視、全体的な害、国際法・人権原則に違反する利用事例を追求しないという文言が削除された
1件のコメント
Hacker News のコメント
https://archive.ph/hfrKY
最初は新しい誓約の発表かと思って、「都合がよくなったらすぐ忘れるだろう」と思ったが、記事を読んでみると「ああ、もう都合がよくなった状況なんだな」と感じた
Google は巨大企業であり、巨大企業が本質的に「悪」ではない可能性はあるが、善良さや道徳には根本的に関心がない
そう見える瞬間があるとすれば、それは純粋にマーケティング活動である
腐敗警官型の悪と連続殺人犯型の悪の違いはあるかもしれないが、金のためなら何でもするという態度は、歴史的に悪い行為に分類されてきた
とはいえ、巨大企業のない社会のほうが良いのか悪いのかは別問題だが、会社が大きくなるほどはるかに高い税金を払う世界は興味深いと思う
それも以前と同じように無料で配り、品質も悪くなかった
その後、州がそれすら禁止すると、Walmart は時計仕掛けのように紙袋を無料で配り始めたが、これもかなり良かった
これを見て、企業は強制されない限り、環境に少しでも良いことはしないのだと悟った
悪事も含めて企業のあらゆる行動は単に金を追うことであり、倫理を提供するのは政府の役割だと思う
Google がやらなければ他の誰かがやるのだから、むしろ株主のために Google が稼ぐほうがいい、という理屈になる
技術的には、アクティビスト株主たちが集まって「この市場を狙わないなら経営陣を交代させるべきだ」と主張することもあり得る
結局、株価だけが唯一重要な指標だという話になる
命令は上から下り、下ではそれを受け入れる
だから本質的に悪に見える
核心は、数字と複雑さの中で生じる匿名性だと思う
何千人もの人がそれぞれ数字が上がることを望み、その欲望が最終的にこうした決定を左右する
この件で Google の株価が下がっていたなら、Google はやらなかっただろう
しかし集団的な人間行動が株価を支えている
巨大企業はスケープゴートにすぎず、実際には一連の民主的なルールに近い
企業は人間本性の本当の姿をのぞかせてくれる窓である
この件について、「なぜみんな仲良くできないのか」というややナイーブな苛立ちで怒りたくなる
自分が望む世界の姿は分かっているが、種としての私たちは、私自身も含めて、ほぼ確実な自己破壊を前にして、期待を裏切り続けている
怒りたいが、同時に、なぜ誰も驚かないのかを悲しいほど現実として受け入れてしまう
その分野にはすでにそうする競合がいて、それ以上のこともするだろう
すでにそちらではかなり恐ろしい進展を見てきたし、考えてみれば、それらは公開してもよいと判断されたものなのだ
本当に面白いことは、ソーシャルメディアの外、閉ざされた扉の向こうで起きている
AI 兵器でしか対処できない特定の兵器が示されれば考えが変わるかもしれないが、今のところ、ロボットが誰を殺すかを決めるべき理由は想像できない
人々が AI は危険だとか世界の終末をもたらし得ると言うとき、たいていは同意しないが、AI 兵器は明らかに危険で、容易に制御不能になり得る
そもそもその目的が、制御の外に置くことだからだ
問題は AI 兵器が「悪」だからではなく、価値アラインメントが解決済みの問題ではなく、AI 兵器が私たちの殺したくない人々を殺し得ることにある
嘘が地球を回していて、うんざりする
どう見ても私たちは資源の乏しい惑星に住んでおり、それは競争があるという意味で、競争は兵器の革新を生む
ただ、私たちは何十年も核兵器を持ちながら、集団として使わないことを選んできたので、少しは楽観できる余地もある
安穏としている理由はなく、その道は破壊を加速するだけだ
必ずこうなる必要はない
OpenAI が「絶対にそんなことはない」と言ってから1年も経たないうちに、戦場にモデルを配備するDoD 契約を獲得したことより、これは倫理的なのか、それとも非倫理的なのか
言い訳は「私たちが言っていたのは特定の種類の戦争や軍事目的だけだった」というようなものだった
結局のところ問われるのは、今も正しいことをしようとしているという虚構を維持するやり方より、Google のように公然と路線をひっくり返すほうが正直ではないのか、ということだ
それは「たしかに外国の暴君に屈しているように見えるが、Vidkun Quisling がノルウェーを率いていた時代より倫理的なのか、それとも非倫理的なのか？」と問うようなものだ
OpenAI は陰湿でぬるぬるしていて、正気を失ったナルシシストに率いられていると思う
Pichai が聖人のように見えるほどだ
倫理的には同じかもしれないが、誰かに銃を向けられるなら、幹部が次々と抜けていく会社を擬人化したような人物より、引き金の後ろに少しでも共感能力のある人のほうがいい
情報機関向けの大規模言語モデルで最も懸念されることの一つは、テキスト分析を拡張できる点だ。
以前は少なくとも、何らかの捜査官が私に関心を持つ必要があったが、今では理論上、LLMが私が触れたあらゆるテキストを読み、法令違反から政治的傾向まで何でもフラグ付けできる。
何十億ものメッセージをふるいにかける規模ならコストは非常に急速に膨らむので、LLMがその作業に最適なツールなのかも疑わしい。
今はDownton Abbeyで、皆が第一次世界大戦の始まりを待っている時期のように感じる。
皆が近づいていることを感じているが、誰も止められない状態だ。
現実的に、西側対ロシア／イラン／北朝鮮／中国、あるいは最終的に我々が戦うことになる誰かとの戦争では、西洋文明と兵士が生き残り勝利するために、可能なことはすべて行うことになるだろう。
結局Googleは西側の企業であり、戦争が起きれば、我々の文明と軍を支援しない姿勢は極めて不人気になり、Googleをのけ者にするだろう。
その逆のことは、そもそも起こりにくかった。
米国は自ら孤立し、同盟国をいじめている。
拡張を狙う代替勢力にとって、今ほど好機はなかった。
統合された西側と他の大国との間に、戦争が迫っていたわけではない。
戦争が来る理由は、もはや西側が存在しないからだ。
「我々」の文明と「彼ら」の文明という区別はなく、文明は一つだけだ。
数世紀前ならそういう概念にもある程度の根拠があったかもしれないが、今「我々」が「彼ら」と大きく違うという考えは、ほとんどの人にとって危険な幻想だ。
いまやグリーンランド併合を脅し、すべてのパレスチナ人をヨルダンとエジプトへ完全に移住させるべきだと主張する国なら、群衆制圧用の兵器は確実に必要になるだろう。
人々が、二大政党が常に自分たちを搾取していると知れば、こうした兵器は国内でも役に立つかもしれない。
中国が経済面以外でなぜ脅威なのか分からない。
中国が米国を侵略しようとしたことがあるのか？ ロシアがEUを侵略しようとしたことがあるのか？ 答えはノーだ。
現在EUに対する唯一の脅威は、オレンジ色の男から来ている。
その人物はINF条約も破棄した。
米国は今や欧州に中距離核ミサイルを配備し、ロシアはベラルーシに配備している。
そのため二つの大国は、最初に核攻撃を受ける都合のよい生け贄を持つことになり、その後でようやく考え直すのだろう。
過去40年間のすべての国際危機がこの二国のどちらかから始まっているにもかかわらず、米国とロシアが自分たちは危険にさらされていると主張し続けるのは本当にばかげている。
ロシアは明らかに欧州の国々、特にウクライナを侵略した。
EUそのものを侵略していない唯一の理由は、そうすればNATO同盟によって甚大な死傷者を出し、最終的に敗れる戦争が引き起こされるからだ。
EUを安全に保ってきたのは軍事力であり、十分な軍事力を持たない国々は、権力欲に振り回され続け、打ちのめされる。
ウクライナは1990年代に、ロシアが侵略しないという約束を受けて、あまりに素朴に核兵器を放棄し、そのような立場に置かれた。
それを空想上の脅威と呼ぶのは難しい。
経済政策も非常に略奪的で、他国を支援する代わりに、取り返しのつかないものを受け取っている。
必要なものをただ手に入れられるのに、なぜ侵略する必要があるのか。
オレンジ色の男は、どちらの戦線でも完全に無力だ。
軍に金を使うこともないだろうし、長期的に損をしない取引をするほど有能でもない。
こうした企業が政治の風向きに従って動くやり方は興味深い。
Metaが就任式の頃にいくつかの変更を発表したように、Google経営陣もAI関連の発表に気づいただろうし、現政権から特定の見方をされることは望まないだろう。
真実は中間あたりにあると思う。
社内には大きな意見の相違があるだろうが、権力を持つ人々からどう見られるかを気にするのは当然だ。
企業は技術的に不均衡な権力を持っている。
したがって、国民の意思に従って動くほうがよい。
その代替、つまり企業が自らの意思だけで行動する状況は、はるかに悪いものになり得る。
企業の唯一の動機は、彼らが言う「世界をより良い場所にする」のようなぎこちない企業的な芝居ではなく、利益の創出だ。
企業はその目的のために作られ、常にそれに従う。
GoogleがDon’t be evilという標語をなくした後、私たちは何を期待していたのか分からない。
よく作られた自律システムは、標的精度を高め、民間人の死傷者を減らすのにかなり役立つかもしれない。
兵器の存在そのものに腹を立てているのなら、囚人のジレンマをもう一度見直すべきだ。
小規模な裏切りは政府で管理するとしても、主要な世界大国が、裏切りを強制的に防ぐ単一の世界政府の管轄権を受け入れることはない、と仮定してみよう。
特に我々のように強く繁栄している勢力は、そうした体制では概して失うものが多いため、なおさら受け入れないだろう。
Googleの元CEOであるシュミット氏は、エストニアでウクライナ向けのAIドローンを開発している。
彼が優れた基盤AIの供給元を必要としているなら、Googleが有力な供給先の一つになり得ると予想できる。
当然ながらウクライナは始まりにすぎず、特に戦場で検証されたもの、しかもロシアと、間接的には中国技術を相手に実証されたもののターゲット市場は、非常に大きくなるだろう。
実戦配備されたものはまだ一部にすぎないが、遠隔操作および自律型の地上プラットフォームにも非常に大きな関心がある。
Googleは民間向け自律プラットフォームの先頭に立っており、その技術を軍事システムへ移転する道筋は比較的容易に見える。