OpenAI、「軍事および戦争」目的でのChatGPT利用禁止を解除

 (theintercept.com)
3 ポイント 投稿者 GN⁺ 2024-01-14 | 1件のコメント | WhatsAppで共有

OpenAI、軍事目的での利用禁止条項を削除

  • OpenAIは今週、自社技術の軍事目的での利用を明示的に禁じる文言を利用ポリシーからひっそり削除した。
  • 1月10日までは、OpenAIの利用ポリシーページに「武器開発」および「軍事および戦争」を含む、身体的被害を高める可能性のある活動の禁止が明記されていた。
  • 新しいポリシーでは、「自分や他人に危害を加えないようにサービスを使用すること」という指針は維持されているが、「軍事および戦争」での利用に対する全面的な禁止は消えた。

ポリシー変更の背景

  • OpenAIは、ポリシーページを「より明確で読みやすく」するために大幅な改訂を行った。
  • OpenAIの広報担当者は、新しいポリシーは法令順守を重視しており、「他人に危害を加えない」という原則は広く適用できると説明した。
  • 専門家は、新しいポリシーが軍事契約や戦争作戦に関する問題を避け、とくに武器に焦点を当てていると指摘している。

軍事および戦争での利用への懸念

  • 専門家は、大規模言語モデル（Large Language Models、LLMs）のバイアスや精度不足により、軍事戦争での利用が不正確で偏った作戦につながる可能性があると指摘している。
  • OpenAIのツールが軍事力による直接的な殺傷に使われる可能性は低いが、軍事力を支援するさまざまな業務に活用される可能性がある。
  • 軍事機関の主要な目的は殺傷能力を維持することにあるため、たとえ直接的に暴力的でなくても、軍事機関を支援することは依然として問題になり得る。
  • OpenAIとMicrosoftの緊密なパートナーシップは、OpenAIが軍事目的へ事業を拡大する可能性を残している。

ポリシー変更の実際の影響

  • このポリシー変更が現実世界でどのような結果をもたらすかは不明である。
  • OpenAIは、軍事および戦争での利用禁止をどのように執行するのかについて明確な立場を示していない。
  • 専門家は、OpenAIが軍事機関との取引に関する立場を弱めつつあると評価している。

軍事機関によるAI技術の活用

  • 世界各国の軍は機械学習技術を活用して優位を得ようとしており、ペンタゴンは依然としてChatGPTや他のLLMsの利用を模索している。
  • 大規模言語モデルは、大量の書籍、記事、Webデータなどを学習し、ユーザーのプロンプトに対する人間の応答を模倣する。

GN⁺の見解:

  • OpenAIのポリシー変更は、人工知能技術が軍事目的で利用される可能性を高め、これは技術倫理と安全性に関する重要な議論を引き起こす可能性がある。
  • こうした変化は、技術企業が防衛契約に関連して、自らの原則と市場機会の間でどのようにバランスを取ろうとしているのかを示している。
  • 軍事および戦争目的でAIを使うことに対する明確な禁止条項が削除されたことは、技術の安全性と倫理的利用に関する、より広い社会的議論を促すきっかけになり得る。

関連記事

1件のコメント

 
GN⁺ 2024-01-14
Hacker Newsの意見

  • OpenAIの成長と原則変更

    • OpenAIが創業時の原則を捨ててGoogleの戦略に従っているのは印象的だ。
    • Googleが"Don't be Evil"を削除するまでには17年かかったが、OpenAIは急成長し、突然変化した。
    • OpenAIはGoogleに取って代わる企業または技術になるように見える。GoogleがMicrosoftに取って代わったように、皮肉なことだ。

  • GPTモデルの軍事利用の可能性

    • GPTモデルには、軍事データベースや研究作業で一般的に活用される大きな機会がある。
    • 軍事利用の禁止は、たとえば災害対応の改善のために軍団が使うことまで禁じてしまう可能性がある。
    • ほとんどの大企業は結局こうした譲歩をすることになる。なぜならペンタゴンが莫大な資金を持っているからだ。

  • 産業企業の軍事製品開発

    • 多くの産業企業は軍事製品も開発する可能性がある。
    • たとえば、軍用に使われうる船のエンジンを開発するCADツールで、LLM支援を求めることがありうる。
    • インフラやソフトウェアはしばしば共有されるか、会社全体で適用できるように開発される。

  • 新しいポリシーへの理解

    • 新しいポリシーを実際に読んだ人がいるのだろうかと思う。
    • 武器や危害を加えることに関する、より広いポリシーがある。

  • AIと軍事力

    • 高度なAIは高度な軍事力に不可欠だ。
    • こうした問題は技術的な問題ではなく、人間の問題だ。
    • 人間は階層を作り、領土と資源をめぐって競争する霊長類だ。

  • 武器開発と軍事活動に関するポリシーの違い

    • 2つのポリシーの間には明確な違いがあり、前者は武器開発と軍事活動を禁じる一方、後者は法令順守と柔軟性を強調している。
    • AI安全性への潜在的な影響が重要だ。

  • LLMの限界

    • ChatGPTが基本的な作業で一貫してハルシネーションを止められず、実際には理解もしていないことは恐ろしい考えだ。
    • AI/ML分野そのものは時間の無駄ではないが、LLMは大半が見栄えだけで、実質的な価値はほとんどない。

  • OpenAIの決定の不可避性

    • OpenAIがその種の金を手放すことはなかっただろうというのは避けられないことだった。
    • 製品が別の形で使われることを懸念するのは奇妙だと感じる。

  • シリコンバレーと軍産複合体

    • シリコンバレーは軍産複合体の産物だ。

  • 民間人と軍の武器開発に対する観点の違い

    • 民間人にとっては、ほとんどの場合、武器開発は危険だが、軍にとっては、より良い武器を敵より先に開発しないことが危険だ。