- 欧州議会の市民的自由・司法・内務委員会は、オンライン児童性的虐待への対応規則に関する議会の立場案を採択し、児童保護と大量監視の防止のバランスを前面に打ち出した
- インターネットプロバイダーは、自社サービスが児童性的虐待や児童のグルーミングに悪用される重大なリスクを評価し、対象を絞り、比例的で、効果的な緩和措置を自ら選択しなければならない
- 違法資料の削除が失敗した場合に限り、期限付きの検出命令が最後の手段として認められ、対象は合理的な疑いの根拠がある個人またはグループに絞られる
- 採択文案は、すべての利用者の通信の安全性と機密性を保護するため、エンドツーエンド暗号化された資料を検出命令の範囲から除外する
- 新法はEU児童保護センターを通じてCSAM通報の処理と検出技術の支援を担わせ、遵守しない事業者には全世界売上高の最大6%の罰金を科すことができる
委員会での採決と交渉承認
- 市民的自由・司法・内務委員会は、オンライン児童性的虐待の防止と停止に向けた新たな措置について、欧州議会の立場案を採択した
- 立場案は賛成51票、反対2票、棄権1票で可決された
- 機関間交渉の開始は賛成48票、反対2票、棄権4票で承認された
- 新規則は、オンライン上で児童を保護しつつ、インターネット全体に対する一般化された監視を避けることを目的とする
インターネットプロバイダーのリスク評価と緩和義務
- インターネットプロバイダーは、自社サービスがオンライン児童性的虐待や児童のグルーミングに悪用される重大なリスクがあるかを評価しなければならない
- 緩和措置は対象を絞り、比例的で、効果的でなければならず、プロバイダーはどの措置を用いるかを選択できる
- ポルノサイトには、利用者保護と通報処理のための仕組みが求められる
- 適切な年齢確認システム
- 児童性的虐待資料（CSAM）の通報メカニズム
- 通報処理のための人間によるコンテンツモデレーション
- 児童を対象とするサービスは、未成年者へのオンライン上のグルーミングを防ぐため、望まないメッセージについて利用者の同意をデフォルトで求めなければならない
- ブロックとミュートのオプションを提供しなければならない
- ペアレンタルコントロール機能を強化しなければならない
検出命令の条件と制限
- 緩和措置だけではCSAMの削除が効果的でない場合に限り、司法機関が承認する検出命令が認められる
- 検出命令は大量監視やインターネットの一般監視を避けるための最後の手段であり、期限付きでなければならない
- 命令の目的は、CSAMを発見して削除する、またはアクセスを無効化することにある
- 対象は児童性的虐待に関連する個人またはグループに限定され、チャンネル登録者も含まれ得る
- 対象指定には合理的な疑いの根拠が必要である
- プロバイダーは、法の強力な保護措置を守る範囲で、使用する技術を選択できる
- 当該技術は独立した公開監査を受けなければならない
エンドツーエンド暗号化の除外
- 採択された文案は、エンドツーエンド暗号化を検出命令の範囲から除外する
- この除外は、すべての利用者の通信の安全性と機密性を保証するための措置である
EU児童保護センターの役割
- 新法は、規則の履行を支援し、インターネットプロバイダーによるCSAM検出を支援するため、EU児童保護センターを設置する
- センターはCSAM通報を収集・フィルタリング・配布し、権限を持つ各国機関とEuropolに転送する
- プロバイダー向けの検出技術を開発し、各国機関が特定したCSAMのハッシュやその他の技術指標のデータベースを維持する
- 各国機関による新たな児童性的虐待規則の執行、調査、罰金賦課業務も支援する
- 遵守しない場合、罰金は全世界売上高の最大**6%**までとなり得る
- 被害者の意見を反映するため、新たな被害者の権利およびサバイバー諮問フォーラムを設ける案も含まれる
次の手続き
- 議会の立場案は、まだ本会議の承認を受ける必要がある
- 11月20日に交渉開始が発表され、MEPは翌日の終わりまで異議を申し立てることができる
- 十分な数のMEPが異議を申し立てた場合、同じ会期中に採決が行われる
1件のコメント
Hacker News の意見
LIBEが「議会の立場案」を採択しただけで、まだEU議会・欧州委員会・理事会の間での三者協議を経る必要がある
なので、もう勝利と呼ぶには早く、記事も不正確で誤解を招きがち
https://www.europarl.europa.eu/news/en/press-room/20231110IP...
https://netzpolitik.org/2023/ueberwachung-eu-innenausschuss-... ドイツ語
ただし商業的利害、情報機関、国家アクターのすべてがプライバシーへの圧力をかけ続けているので、市民は疲弊せず声を上げ続けるべき
チャット統制のような法律がそもそも成立しないよう、プライバシー権を明確に保障する法律が必要
欧州委員会が提案した法律を検討し、ひどい法律だと判断して否決したから
怒りを向けるべき相手は欧州委員会、特にこの愚かなことを押し進めたように見えるスウェーデン出身の委員 Ylva Johansson のほうに近い
以前のアプローチの大きな弱点の一つは、既存の規則と衝突しており、可決されたとしても裁判所の壁を越えるのが難しかった点
たとえば欧州人権条約第8条は「すべての人は私生活、家族生活、住居および通信を尊重される権利を有する」と保障しているため、「すべての人の通信をスキャンしよう」とは明らかに衝突する: https://en.wikipedia.org/wiki/Article_8_of_the_European_Conv...
また電子商取引指令は、2000年にEUのオンラインビジネス規則を定める際、国家が一般的な監視義務を課すことを明示的に禁止した: https://en.wikipedia.org/wiki/Electronic_Commerce_Directive_...
いろいろ問題はあるものの、この分野ではEUの仕組みはかなりよく整っている
欧州委員会が草案を作り、議会はせいぜい修正するか拒否することしかできない
結局は確率の問題なので、流入そのものを減らす方法を見つける必要がある
欧州委員会の児童性的虐待規則（CSAR）に関する歴史的合意で、欧州議会はチャット統制の要求を取り除き、安全な暗号化を保護しようとしているという
Breyerはインターネットサービスとアプリは「設計とデフォルトの段階から安全でなければならない」と書き、欧州議会は基本権を侵害し法廷で生き残るのが難しい全面的なチャット統制計画を取り除き、デジタル通信の秘密を保護することで合意した
米国のインターネット企業が私的メッセージに対して自主的に行っていたチャット統制は段階的に廃止され、標的型の通信監視と捜索は、司法令状があり児童性的虐待物に関連する容疑のある個人または集団に限定される場合にのみ認められる
また、いわゆるクライアント側スキャンを明確に排除した点も、プライバシー権にとって大きな勝利
代わりに、新しいEU児童保護センターが、公開アクセス可能なインターネット領域からダークネットまでを自動クロールで児童性的虐待物を能動的に探し出し、見つかった資料はプロバイダーが通報して削除しなければならない方向
ただし欧州委員会が一般監視型のチャット統制を引き続き押し進めると予想されるため、戦いは終わっていない
個人が直接提訴できない欧州司法裁判所とは違う
欧州人権条約には第8条の「プライバシー権」が含まれており、このひどい法案が法廷で生き残るのは難しいというのは、人々が第8条を根拠に欧州人権裁判所へ殺到できるという意味である可能性が高い
欧州委員会の買収された者たちとEU加盟国の敵が、また別のひどい措置で戻ってくることに疑いはない
付け加えると、「善玉警官の欧州議会 / 悪玉警官の欧州委員会」という構図自体も、EU市民を相手にした茶番のように見える
だから強い抑制と均衡が必要
26のEU政府首脳が任命した人物で構成される委員会が押し進め、その首脳たちで構成される理事会が同意する必要があり、普通選挙で選ばれた議会も同意しなければならず、それでも失敗すれば裁判所が介入する
しかし戦いの核心は政府との対立だけでなく、人々が「子どもたちのことを考えろ」よりも自分のプライバシーとセキュリティを重視するように意識を変えることにある
https://www.thorn.org/partnerships/
https://web.archive.org/web/20130420162917/http://www.wearet...
FTX裁判で、暗号資産寄りの法律のために政治家へのロビー活動に使った金額が明らかになったが、低めの5桁の金額程度だった
SBFも、得られる影響力に比べてロビー活動は非常に安いと言っていた
素朴には、政治家を自分の味方につけるには数百万ドルかかると思っていたが、実際にはFAANGのエンジニア1人が個人資金で誰かにロビー活動できるほど安い
HNのユーザー層だけでも、その気になればNRAより大きいロビー団体をクラウドファンディングして組織できそうだ。NRAの2022年のロビー支出は293万ドルで、ロビー業界は直感的に予想するよりずっと小さい
多数の代表がEU外、主に米国から来ており、カナダ、ニュージーランド、オーストラリアの代表もいた: https://twitter.com/SimoKohonen/status/1722635234116506052
彼らは一度勝てばよいが、こちらは毎回すべて勝たなければならない
ハンガリーとポーランドの変化、あるいはオーストリアの世論調査を見れば、どんな形の監視であれ、独裁者と独裁者予備軍が権力を維持するためのもう一つの手段として使われるだろう
PiSが野党の通信内容をすんなり入手できていたなら、2023年のポーランド選挙がこのように終わっていたかは疑わしい
フィンランドのような一部のEU諸国では、通信のプライバシーが憲法上の権利なので、これを破るには十分な理由が必要になる
「テロ云々」のような一般論では、その基準を超えるのは難しいと思う
だからこの法律が欧州議会を通過しなかったのも驚きではない
たとえ議会を通過していたとしても、EU司法裁判所が無効にすべきだった
EU機関が管理する何らかの証明書でブラウザ証明書を任意に置き換え、「暗号化された」Webトラフィックを盗聴し、中間者攻撃できるようになるという話だ
しかも、証明書が変わったとブラウザがユーザーに警告することを違法にするという細部条項まであったが、それも今は消えたのだろうか？
EU全域でデジタル証明書と署名が機能するように、特定の認証局をブラウザが信頼するという内容だった
その後修正され、法案は当該認証局と一般の認証局を分離でき、かつ分離しなければならないと明記している
したがって、ブラウザが両者を混ぜることを選ばない限り、中間者攻撃は不可能だ
彼らの価値観をはっきり示す指標だ
来年はEU議会選挙なので、新提案を支持した人たちは良い選択肢になり得るし、古い提案を支持した人たちは避けるべきだと見なせるかもしれない
ほとんどの人は自国の総選挙のときと同じように投票し、私の住む地域では欧州選挙は約6か月後に行われる「本当の」選挙に先立つ世論調査のように扱われている
どれくらい早く再び表面化するか見守る必要がある
GDPR、ゲートキーパーの強制的な相互運用性、オンライン購入商品の2年保証のようなものを思い浮かべればいい
暗号化を破ろうとする今回の試みは、普段EUがやっていることとは完全にかけ離れて見えた
私の住む国で、自分の生活を改善しようとしてうまく機能している政府組織はEUだけのように思える
それ以外は腐りつつあるか、私の価値観に反している
次はEUに一度大きく押し込むのではなく、各国レベルで再び試みるだろう
企業がEUを悪用するやり方はいつも同じで、まずEUそのものにロビー活動して一括処理方式を狙い、失敗すれば加盟国を標的にする
こうした法律が通過する可能性自体があったことに衝撃を受けているし、もし通過していたなら、私を含め多くの人がEUに完全に背を向けていただろう