- 最近、NYUとCornellの研究者が発表した「How to think about end-to-end encryption and AI」という論文を読んだ。この論文はAIとエンドツーエンド暗号化に関する重要な問いを扱っており、一部の結論には同意しないものの、非常に重要なテーマを扱っている。
エンドツーエンド暗号化とは何か、そしてAIとどう関係するのか？
- この10年で最も重要なプライバシー関連の話題は、エンドツーエンド暗号化通信プラットフォームの台頭だった。2011年以前は、ほとんどのクラウド接続デバイスがデータを平文のままアップロードしていた。
- エンドツーエンド暗号化は、サーバーがメッセージの平文内容を見られないようにする技術である。しかし、この技術はサーバーによるデータ処理を難しくすることがある。
- AIの発展により、多くのデータ処理がリモートサーバーへオフロードされる可能性が高まっている。これはプライバシー上の問題を引き起こしうる。
AIがエンドツーエンド暗号化メッセージングに与える影響
- エンドツーエンド暗号化システムは、メッセージ内容が送信中に参加者のデバイス以外からアクセスできないよう設計されている。しかし、ユーザーがデータをどのように処理するかまでは保証しない。
- AIがデータを処理する方法は、ユーザーの同意に関する複雑な問題を引き起こしうる。ユーザーを適切に案内できる企業もあるだろうが、そうでない企業もあるはずだ。
信頼できるハードウェアとAppleの「Private Cloud Compute」
- AppleはAIのプライバシー問題に対処するため、「Private Cloud Compute」というアプローチを導入した。これは信頼できるハードウェアを使ってデータを保護する方法である。
- このシステムは、攻撃者だけでなくAppleの従業員にとってもデータ漏えいを難しくする。しかし、それでもなお暗号化より弱いセキュリティ保証しか提供しない。
AIエージェントは誰のために働くのか？
- AIエージェントがユーザーのデータを処理する方法は、政府がアクセスを要求する可能性を開くことになりうる。これはプライバシーに関する重要な問いを提起する。
- 技術的な選択だけではプライバシーを保証できないかもしれず、社会が正しい政治的選択をするという確信も乏しい。
1件のコメント
Hacker Newsの意見
自動化された検知システムが増えるにつれ、個別事例に対応する人員は減り、管理者は自動検知への依存を強めるようになる。これは誤検知が発生した際に問題解決を困難にし、大きなフラストレーションを生む可能性がある。特に法執行に使われる場合、個人の人生に壊滅的な影響を及ぼしうる
例えば、Amazonで違法レビューと誤って判定され、問題を解決するために人間の担当者に接触しようとしたが失敗した経験がある。このようなことが重大な犯罪問題で起きれば、個人の人生を台無しにしかねない
自動検知システムは人間を置き換えるのではなく補完し、より少ない人員でより多くの仕事ができるようにするべきである。しかし現状ではインセンティブが不足しており、意思決定者が実際の事例を扱わないため、問題を認識できていない
AIが個人の作業を加速するものから、組織の統制のための道具へと拡張されるとき、真の脅威が生じうる。これは組織をより効率的にするかもしれないが、従業員も現実の人間であるという認識を弱めかねない
大量監視の本当の危険は、不都合な人物に関する情報を収集し、彼らがもはや不都合でなくなるようにすることにある。大量監視の影響はまだすべて明らかになっていない
OpenAIは、データが30日間保存され、従業員および第三者の契約業者がそれを確認できると透明性をもって明らかにしている
AIシステムが実際に私たちのために働いているのかという難しい問いが提起されている。現在の傾向を見る限り、中立的でプライバシーを優先する未来への希望は限られている
Appleは、セキュリティ研究者がバグを確認できるようソフトウェアイメージを公開すると発表したが、ソースコードは公開していない。Appleはユーザーデータを保持しておらず、サポートエンジニアもユーザーデータを閲覧できないと主張している
AIが誰のために働くのかという問題では、広告技術企業がAIをユーザーの利益に反して動作させる可能性が高い。これは広告付きの「無料」サービスへの期待があるためである
AIエージェントが実際には誰のために働くのかという法的概念が重要である。現在提案されている内容には、さまざまな脅威に対する監視が含まれている
大量監視の結果としてクラウドに保存されたデータがスキャン可能になることで、単なる反対意見を理由に監視されるリスクが高まる
技術的保証はユーザーへの約束とは異なる。AppleのPCCは安全性を高めるが、透明性や説明責任を保証するものではない。透明性は安全性以上に大きな問題である
AIが社会に奉仕するためには、情報の非対称性を解消しなければならない。企業に望ましい行動を求めるなら、透明に運営されるようにしなければならない
技術的な選択だけではプライバシー問題を解決できない可能性がある。AIエージェントへのアクセス権を誰に与えるのかが重要である。技術的には、エージェントをローカルで実行し、システムにアクセスできない人との会話を遮断することは可能である