マイクロソフト、AIツール利用者を監視中

 (schneier.com)
1 ポイント 投稿者 GN⁺ 2024-02-21 | 1件のコメント | WhatsAppで共有

マイクロソフト、人工知能（AI）ツール利用者を監視中

  • マイクロソフトは、中国、ロシア、イランのハッカーが自社の人工知能（AI）ツールを使ってハッキング能力を高めていることを発見したと発表した。
  • これらのハッカーは、Forest Blizzard、Emerald Sleet、Crimson Sandstorm、Charcoal Typhoon、Salmon Typhoonなどの名称で追跡され、大規模言語モデル（LLM）を用いてサイバー作戦を強化していることが確認された。
  • マイクロソフトまたはOpenAIがこのような活動を把握できる唯一の方法は、チャットボットのセッションを監視することだ。
  • 利用規約にはユーザー監視に対する許可が明示されているはずで、マイクロソフトやOpenAIがAI利用を監視していること自体は驚くことではないが、今回の発表でその事実が確認された。

GN⁺の意見

  • この報道は、マイクロソフトがAIツールの利用状況を監視し、国家支援ハッカーの活動を追跡しているという重要な情報を示している。
  • ユーザー監視は個人のプライバシーとセキュリティに関する懸念を引き起こす可能性がある一方、サイバーセキュリティを強化し国家安全保障に役立つ重要な施策と見ることもできる。
  • このような監視活動は、AI技術の二重用途性を示しており、技術の進歩によって生じる新たな倫理的・法的問題についての議論を引き起こしうる。

関連記事

1件のコメント

 
GN⁺ 2024-02-21
Hacker Newsコメント

  • OpenAI APIのユーザーデータ処理に関するコメント要約

    • OpenAI APIの利用規約（TOS）では、OpenAIはサービス提供と悪用の識別のため、APIの入力と出力を最大30日間保持できるとされています。
    • 法律上の要件がない限り、30日後にデータはシステムから削除されます。
    • ユーザーは、特定のユースケースについてデータ保持を要求しないことを（ZDR）で選択できる場合があります。
    • データ処理の詳細は、OpenAIのプラットフォームドキュメントページで確認できます。

  • Microsoft AIツールのユーザー・データ処理に関するコメント要約

    • ユーザーが「MicrosoftがAIツールの利用者を監視している」と主張する一方で、実際に言及されているのは、Microsoftが権威主義国家の敵対的な政府がAIツールを違法行為に使用する事例を発見したことです。
    • 利用規約への同意により、ユーザーはMicrosoftがこのようなデータ追跡を行うことを認めることになります。

  • Google BardおよびGeminiに関するコメント要約

    • GoogleのGeminiは、公式情報で、ユーザー会話が人間のレビュアーによって処理され、Geminiアプリの改善に使用されることを明示しています。
    • ユーザーは、レビュアーに見られたりGoogleが使用したりする情報を入力しないようにするべきです。
    • Google Workspaceの内容は、Geminiの改善のためにはレビューされず、使用されもされません。
    • ユーザーは、Geminiアプリのアクティビティをオフにすると、今後の会話がレビューされたり機械学習モデルの改善に使用されたりしないように設定できます。

  • 利用規約とプライバシーポリシーに関するコメント要約

    • 多くのテック企業は、利用規約に明記されている内容に基づき、ユーザーのAI利用を監視する権限を持っています。
    • 利用規約に監視を許可する条項があるなら、会社が実際に監視を行っていると見なすのが合理的です。
    • プライバシーポリシーは、ユーザーに会社を信頼させるためにありますが、企業がポリシーを守っているかどうかを確認する方法はありません。

  • Microsoftのユーザーデータ監視に関するコメント要約

    • MicrosoftがユーザーのAIツール利用を監視することは驚きではなく、もはや広く知られている事実です。
    • Microsoftを含む多数のテック企業は、ユーザーの会話内容を閲覧できる権限を有しており、これは明示的かつ撤回可能な同意の下でのみ行われるべきです。

  • AIツール利用とデータ収集に関するコメント要約

    • AIツールを使うことは、ユーザーのデータが大量に収集されることを意味します。
    • ユーザーデータ保護に関心がある場合は、ローカルで動作するAIだけを利用すべきです。

  • AI開発とデータ収集の相関関係に関するコメント要約

    • AIはデータ中心であり、より多くデータを収集すれば収集するほどAIをよりよく訓練でき、より多くのユーザーがデータ提供を望む循環が生まれます。

  • プラットフォームのデータ収集と不正利用検知に関するコメント要約

    • すべてのプラットフォームがユーザー入力を収集し、次のモデルを訓練し、不正利用を検出しているのは明らかです。