- 英国の Online Safety Bill が iMessage、WhatsApp、Signal などの暗号化メッセージアプリに児童虐待画像のスキャンを求める可能性があるとして、Apple が法案の修正を求めた
- 法案は Ofcom に、認証技術を用いてメッセージ内容をスキャンするよう指示する権限を与えるもので、政府は厳格なプライバシー保護措置が満たされた場合の「最後の手段」だと説明している
- Apple は エンドツーエンド暗号化 が、ジャーナリスト、人権活動家、外交官、一般市民を監視・なりすまし・詐欺・データ流出から守ると強調した
- Signal と WhatsApp は、暗号化によるプライバシーを弱める要求を拒否する方針で、Signal は強制される場合は英国から撤退すると述べている
- 市民社会・学術界・サイバー専門家は、この措置が英国を越えて国際的なデジタル通信サービスのセキュリティ信頼を揺るがしかねないと警告している
Online Safety Bill をめぐる暗号化の衝突
- Apple は、Online Safety Bill の権限が iMessage、WhatsApp、Signal などの暗号化メッセージングツールに児童性的搾取物のスキャンを強制するために使われる可能性があると批判している
- Apple は、法案が エンドツーエンド暗号化 を保護するよう修正されるべきだとの立場を示している
- エンドツーエンド暗号化は、送信者と受信者以外がメッセージを読めないようにする方式である
- 警察、政府、一部の主要な児童保護団体は、WhatsApp や Apple iMessage などのアプリの暗号化が、法執行機関や企業による児童性的搾取物の特定を難しくしていると見ている
- 英国政府は、企業がプラットフォーム上で児童虐待を防ぐべきだとの立場である
- 企業は、プラットフォーム上で深刻な児童性的虐待を防止できる場合に限り、エンドツーエンド暗号化を実装すべきだと見ている
- ユーザーのプライバシーを維持しながら児童性的搾取物の拡散に対処する解決策を、企業と引き続き探る方針である
- 法案は現在、議会通過の過程にあり、Ofcom がプラットフォームに対して認証技術でメッセージ内容をスキャンするよう指示できる権限を含んでいる
- 政府は、この権限は「最後の手段」であり、厳格なプライバシー保護措置が満たされた場合にのみ使われると説明している
クライアント側スキャンと業界の反発
- 政府は、暗号化されたメッセージでも児童虐待資料をスキャンできる技術的解決策は可能だと見ている
- 多くの技術専門家は、そのためにはメッセージが送信される前にスマートフォンやコンピューター上で検査する クライアント側スキャン ソフトウェアが必要だと見ている
- 批判者は、クライアント側スキャンがメッセージのプライバシーを根本的に弱めると懸念している
- Apple は 2021 年に、iCloud へアップロードされる前の iPhone 写真から虐待コンテンツをスキャンする計画を発表したが、反発を受けて撤回した
- Signal と WhatsApp を含む複数のメッセージングプラットフォームは、暗号化メッセージングシステムのプライバシーを弱めるよう指示されても拒否すると表明している
- Signal は 2 月、暗号化メッセージングアプリのプライバシー弱体化が強制されれば英国から「撤退」すると述べた
- Apple の参加により、最も広く使われている暗号化アプリの一部が、法案の当該条項に反対する構図となった
公開書簡とセキュリティ信頼への懸念
- デジタル市民的自由団体 Open Rights Group は、技術担当相 Chloe Smith に公開書簡を送った
- 書簡には、国内外の市民社会団体、学術界、サイバー専門家など 80 以上が署名した
- 英国が、エンドツーエンド暗号化で保護されたチャットを含む私的なチャットメッセージの日常的なスキャンを要求する、初の自由民主主義国家になり得ると警告している
- 4,000 万人以上の英国市民と世界中の 20 億人がこうしたサービスを利用しているため、英国だけでなく国際的にもデジタル通信サービスのセキュリティに重大なリスクとなり得ると見ている
- 政府・軍の顧客に E2EE 製品を提供する英国のテクノロジー企業 Element は、暗号化メッセージのプライバシーを弱める法案の措置が、英国企業のセキュリティ製品に対する顧客の信頼を低下させる可能性があると懸念している
- スキャン義務化に使われる可能性があると批判されている法案の一部が変更されるかもしれないとの期待も高まっている
- 変更は、数日以内に公開される修正案パッケージに含まれる可能性がある
- 詳細や、キャンペーン団体の懸念を満たすかどうかはまだ明確ではない
1件のコメント
Hacker Newsの意見
エンドツーエンド暗号化を提供するには、同時にプラットフォーム上で恐ろしい児童性的搾取も防げなければならない、という理屈なら、家の中で子どもが危害を受けないと建築業者が保証できない限り、壁のある家も禁止すべきだというのと同じ
ばかげた狂気の発想だ
白黒で割り切れる問題ではなく、多くの人がこの意見に反対することも分かっている
AIによる画像改変、オートコンプリート、衣服を脱がせる画像のせいで、CSAMはさらに奇妙なものになりそうだ
日本の未成年描写ヘンタイの所持・販売が合法だとする判例もある: https://en.wikipedia.org/wiki/United_States_v._Handley
誰かが https://thispersondoesnotexist.com/ のような場所から子どもの画像を手に入れ、それを裸体や性行為の画像に生成したらどうなるのだろうか。子どもも実在せず、性行為も実在しないという点で、上の論理とほぼ同じだ
さらに大きな問題は、「この画像が児童強姦の証拠なのか、それともただのAI生成物なのか、どうやって見分けるのか」だ
だんだん「CSAMは犯罪の証拠であって、それ自体が犯罪であるべきではない」という考えに傾いている
ただし、CSAM所持に対する厳格責任をなくそうと言っても、思春期前の子どもを強姦した人間には死刑を支持する
小児性愛者たちは自分たちの犯罪現場を写真や動画に撮ってインターネットで共有しているわけで、法執行機関のようにネット探偵たちがこうした資料を調べられるなら、もっと多くの児童虐待犯が最終的に捕まる気がする
配布はもちろん引き続き違法であるべきだが、単純所持を禁じても人身売買業者は止められず、問題解決に大きく役立ちうるアマチュア捜査人材を消し去ってしまう
彼らは警察でも解けなかった長期未解決殺人事件を数多く解決してきた
考えてみると少しぞっともする。他の犯罪現場の証拠はこのようには保護されていない
誰かが刺されたり、撃たれたり、斬首されたりする写真・動画を所持することは違法なのか？ そうした資料から性的快感を得る人も確実にいるだろうが、その種の資料が広まってもあまり気にされない
まるで権力者たちが、この件の背後に誰がいるのかを一般大衆に本気で知られたくないかのように見える。すでに非常に裕福で強力な人々が児童売春組織にしばしば関与していることは分かっている
AI画像生成はこれをさらに危険でばかばかしいものにする。今や誰かがローカルで Stable Diffusion のようなものでCSAMに見えるが実在の子どもは含まない画像を作り、それをリモートで、あるいは家のどこかにSDカードを落とす形で自分の所有物の中に入れられたら、数十年の刑事責任を負いかねない時代が近づいている
敵がいないことを祈るしかない
そうした事件の後、米国の多くの州がCSAMのコンピューター生成描写を禁じたため、コンピューター生成画像や児童型セックスドールは国のかなりの地域で認められていない
実在の子どもが関与しないこうした物にアクセスできた場合、関心のある人々の大半が実際の犯行をより行うようになるのか、逆に減るのか分からないので判断できない
ある人には欲求を和らげ、別の人には欲求をさらに強めるように思える。心理学者ではないが
Appleも少し前に、こうした写真についてデバイス上スキャンを推奨していなかったか？
今は反対するというのはありがたいが、実際に実装しようとしていた過去があるので、どこまで本気なのか測りにくい
英国は児童保護団体まで動員して、エンドツーエンド暗号化を壊そうという目標に感情的・社会的な重みを与えている
そのシステムは iCloud にアップロードされる画像にのみ動作するよう設計されており、デバイス内のあらゆる画像に対して動作するものではなかった
処理に使われるレシートはアップロード過程の一部として生成され、デバイス側だけでもサーバー側だけでも、互いに協力しない限り有用な情報を独立して得ることはできなかった
Appleがプライバシーを最大化しようとして非常に深く考えた、興味深い方式だった
しかし人々は詳細を読まず、もっと単純な仕組みで動くと想像してしまい、実際に何をするのかについての有益な議論を覆い隠してしまった
英国式のアプローチには反対すべきだが、Appleが実装しようとしていた方式には反対しなかっただろう
Appleの本当の立場は何なのだろう？
記事中の政府報道官が「企業は、プラットフォーム上で恐ろしい児童性的搾取も同時に防げる場合にのみ、エンドツーエンド暗号化を実装すべきだ」と述べたように、Appleは後者を試すことで、エンドツーエンド暗号化への規制を止めるよう政府に求める口実を作ろうとしていた
技術労働者はどこであれ労組を作り、この手のクソみたいな政策に断固として反対すべきだ。
私たちは専門家でありエリートであり、何が最善かを知っていて、ここで先頭に立つ責任がある。
医師が売るために臓器を摘出せず、薬剤師が毒を作らないのと同じように、エンジニアは暗号化バックドアを作ってはならない。
医師だって Big Pharma から賄賂を受け取ることが多いし、新しいプールの資金を作るために不要な手術を勧めるような狂ったことをする医者もいる。
労組は使用者に対して賃金や労働条件のために闘い、専門職団体は医師や法廷弁護士のように職域の熟慮された立場を代表し、構成員を自律的に規制する。
むしろ非専門家にも理解できる言葉で何が問題なのかを明確に説明できるなら、その方が皆のためになる。
ここでは権威への訴えというやり方を取るべきではない。
またしても英国発の狂った実行不可能なインターネット政策で、実際には実装もされないだろう。
なぜこんなことを繰り返すのか分からない。
たとえ本気だとしても、英国は米国の巨大テック企業を圧迫する力に欠ける小国だ。
こうした企業の欧州税務拠点があるアイルランドほどのてこもない。
NSA は Signal を使う米国人をよりうまく監視する方法を望んでいるのかもしれない。どうするか？ 英国人にやらせればいい。
どれほど荒唐無稽な発想でも、あまりに愚かだから現実化しないだろうと黙っていてはいけない。
現実にならないように闘わなければならない。
EU も米国もこうした法律を推し進めていることを忘れてはいけない。
まもなくテロのプロパガンダ、麻薬取引、違法な抗議活動の扇動にまで拡大されるだろう。
英国は妙に監視に親和的だ。
CCTV もほとんどの他国よりはるかに早く広く普及した。
Orwell が英国人だったので、自分たちはこの問題をうまくコントロールしていると思っているのだろう。
英国社会は米国社会と多くの点で非常に異なっており、歴史がある程度それを説明してくれる。
多くの欧州の封建社会と同じく、政府が市民の面倒を見るべきだという長年の期待がある。
個人がどう振る舞ったとしても、略奪的な地主から農民を守る法律があり、運用は完璧でなくてもそうした枠組みはあった。
また長い間、地域の「政府」や共同体がホームレスの面倒を見る役割も担っていた。
要するに、米国にあるような形の政府不信は英国にはそれほどないということだ。
だから政府が莫大な権限を握っても、良くも悪くも少なくとも自国民に対してはそれを乱用しないだろうという信頼を得られる。
CCTV に限って言えば、現代の英国では実際にはその大半がロンドンに集中している。
つまり英国の大多数の地域は、こうした監視の影響をあまり受けていない。
そして大半の CCTV は国家ではなく民間が運用しており、コスト削減のため数週間で削除されると記憶している。
実際には、警察がロンドンを走り回る人物のリアルタイム映像を見ている Bourne Identity のような状況ではない。
複数の企業に依頼や召喚状を送って、事後的に情報を確保しなければならない。
民間の CCTV を Orwell 的と呼ぶのは、たとえが混乱している気がする。
1984の CCTV は全体主義政府が運用していた。そして家の前を通っただけの人の映像を平然とインターネットに上げている。
英国の現与党は13年間政権にあり、完全にアイデアが枯渇している。
最大野党も「連中と同じことを、でももっと上手くやる」以上の実質的な提案をほとんど出せていない。
英国が直面している主要問題、つまり債務、経済、住宅、教育、Brexit、民主主義の崩壊は、人々が実際の対策を支持したがらない問題だ。
だから政党に残されているのは、この手の愚かな政策か、トランスジェンダーを小児性愛者のように仕立て上げるような偽の分断イシューだけだ。
そのためこの問題は何度もぶり返してくる。
最後に政権を取ってからかなり経つとはいえ、Starmer は Labour も大いに好んでいた反プライバシー・親監視アジェンダを押し進めるのにぴったりのタイプの人間だ。
英国は自分で自分を傷つけるのが得意なようだ。
まず Brexit、そして今度は Online Safety Bill だ。
Brexit は人口の半分が支持していたが、この安全法案はあまり世間の関心を集めていないか、あるいは私が見落としているのかもしれない。
特定の問題に一般的な解決策を適用し、その一般解の被害半径が本来意図していた特定の問題より非対称的にはるかに大きくなる、というパターンに見える。
付け加えると、私は Online Safety Bill に反対だ。
この2つの問題は比較にならない。
Appleはプライバシー保護の面で信頼できない
そのソフトウェアが実際に何をしているのか誰にも分からない
すべてクローズドソースだ
広告でプライバシー保護を強調しているからといって、実際にユーザーのプライバシーを守っていることを意味するわけではない
連邦機関や法執行機関は、Appleユーザーデータにアクセスできないと繰り返し不満を述べている
それをめぐって訴訟まで起こしている
だからかなりうまく機能しているように見える
また、Appleはプライバシー保護への取り組みを広く宣伝してきたし、不誠実さを示す兆候を見せたこともなく、私たちに嘘をついて得るものもないし、嘘が発覚すればブランドに計り知れない損害を受けることになる
これはISPが海賊版に責任を負うべきだという主張と同じだ
2000年代初頭からコモンキャリアの地位のためにそうはなっていない
技術は常に、自分が運ぶコンテンツと切り離されたままでいる方法を見つけ出してきた
より優れた秘密メッセージングの概念が技術的に可能だとする研究論文が出てから5分後には、このような暗号化公開政策が法律として実装されそうだ