1 ポイント 投稿者 GN⁺ 2023-10-27 | 1件のコメント | WhatsAppで共有
  • EUのCSAMスキャン法案は、メッセージングサービスにユーザー通信の自動検査を求める可能性があり、子ども保護策を超えて民主社会の基本権の境界を変える問題へと広がっている
  • 既知・未知のCSAMに加え、リアルタイムのグルーミング検知まで要求される可能性があり、批判者は、すべての利用者の私的通信が無差別監視網に組み込まれると懸念している
  • 法的争点は比例性にとどまらず、基本権の本質侵害の有無に及び、Frederik Borgesiusは大規模な通信内容へのアクセスがプライバシー権の本質を損なうおそれがあるとみている
  • AI検知とクライアントサイドスキャンは大規模展開の準備が不十分で、誤検知・回避・改ざんの可能性により、子どもにも成人にも意図しない被害をもたらしうる
  • エンドツーエンド暗号化の保護、標的を絞った捜査、公開Web資料のクロール、予防・被害者支援・法執行協力の強化が代替案として挙げられており、EUの立法者は検知命令条項を根本から書き直す状況にある

EUのCSAMスキャン提案の核心的な争点

  • 欧州で議論中のCSAMスキャン法案は、メッセージングサービスにユーザー通信内容の検査を要求しうる
    • 対象には既知のCSAM、未知のCSAM、リアルタイムのグルーミング検知まで含まれる
    • 検知命令を受けたアプリでは、すべてのユーザー通信が自動的かつ無差別な形で監視されうる
  • European Data Protection Supervisorが開催したセミナーでは、20人を超える登壇者がこの提案に反対した
    • セミナーは約3時間にわたって行われた
    • European CommissionのYlva Johanssonは招待されていたが出席せず、Commission側の他の出席者もいなかった
  • Commissionは、この提案を拡大する問題に対する比例的で標的を絞った対応だと主張してきた
    • 最近では、この計画の宣伝にマイクロターゲティング広告を用いた形跡も指摘されている
    • EUでは政治的マイクロターゲティングの利用を制限しようとする別の立法案も進んでいる

EDPSが警告したプライバシーの転換点

  • EDPSのWojciech Wiewiórowskiは、私的メッセージングの体系的な大規模監視を義務づける法律が成立すれば、EUは引き返せない地点に達するおそれがあると警告した
  • この提案は「子ども保護」だけの問題ではなく、民主社会でプライバシーが機能する土台を揺るがす問題だ
  • 修正なしに成立すれば、インターネットとデジタルコミュニケーションの性質を根本から変えうる
  • EDPSとEuropean Data Protection Boardは1年前の共同意見で、この立法案は暗号化を含め深刻なデータ保護・プライバシー上の懸念を生むと表明していた

法的比例性と基本権の本質をめぐる問題

  • Commissionは2022年5月にCSAM法案の草案を提示し、その後、人権への影響と適法性に対する反対が強まった
  • EU法は、プライバシーや表現の自由といった基本権の制限が必要かつ比例的であることを求めている
    • オンラインプラットフォームに一般的なコンテンツ監視義務を課すことは禁止されている
    • 数億人の欧州住民のメッセージを設計上の監視対象にする法律は、この原則と衝突しうる
  • Radboud UniversityのFrederik Borgesiusは、この提案は基本権制限として比例的な方法ではないと評価している
    • 彼はテロ関連のデータ保存事件を比較対象に挙げ、EUの最高裁判所が欧州住民のメタデータに対する一般的・無差別な保存を繰り返し無効としてきたと指摘した
    • 今回の提案はメタデータではなく通信内容の分析を扱うため、より強い問題が生じる
  • Borgesiusは、EU基本権憲章の観点から、基本権の本質が侵害されれば比例性審査を待たず違法になりうるとみている
    • 当局が通信内容に大規模にアクセスできるなら、プライバシー権の本質侵害につながる

子ども保護の目的と実際の被害可能性

  • 複数の登壇者は、この提案が子どもへの性的虐待という複雑な社会問題に適合していないと批判した
  • オンラインで共有される未成年者関連の性的画像のかなりの部分は、同意した未成年者同士のセクスティングに由来する可能性がある
    • この場合、法案は自らの性的アイデンティティを探る子どもを捜査したり犯罪化したりする結果を招きうる
    • CSAMに当たるかどうかは画像自体だけでは判断しにくく、文脈が重要だ
  • オランダのArda Gerkensは、私的通信のスキャンは問題状況を捉えうるとしても、子どもへの性的虐待対策の解決策ではないとみている
    • 既知のCSAMについて、画像ホスティングWebサイトを限定的にスキャンして拡散を防ぐ方法には賛成している
    • ただし、それは起訴目的ではなく拡散防止のためだと位置づける
  • Gerkensは、Commission案が画像ホスティングWebサイトよりも私的通信とその後の起訴に過度に集中していると指摘した
    • 画像の量が既存システムを圧迫し、脆弱な法執行システムにさらに大きな負荷をかける可能性がある
    • EU加盟国間の協力と法執行システムの強化の方が、より良い投資先になりうる

エンドツーエンド暗号化と予防中心のアプローチ

  • Tufts UniversityのSusan Landauは、Commission案はインターネット上で起きる子どもへの性的虐待と搾取の異なる類型を区別できていないとみている
  • 捜査と起訴中心のアプローチは、多くの事例で限界にぶつかる可能性がある
    • インターネットを利用した売春事件の圧倒的大多数では、加害者が被害者に近い人物である場合が多く、被害者が通報を望まないこともありうる
    • 必要なのは、子どもを安全にする空間、コミュニティスペース、オンライン安全教育、セキュリティ教育、安全な設計だ
  • Landauは、子どもへの性的虐待の予防・捜査には、エンドツーエンド暗号化の影響を受けない多くの方法があるとみている
    • エンドツーエンド暗号化は子どもにも成人にも有益な保護技術だ
  • WhatsAppのHelen Charlesは、Meta所有のメッセージングプラットフォームは子どもへの性的虐待対策という目標自体は支持するが、Commissionのアプローチは問題に適合しておらず、あらゆる年齢層のWeb利用者に大きな意図しない結果をもたらしうるとみている
    • エンドツーエンド暗号化されたメッセージ内容のスキャンは基本権を弱める
    • サービスがメッセージ内容にアクセスせずにCSAM対策を行えるよう、合理的かつ比例的な条件が必要だ
  • Charlesは、EUのePrivacy Directiveの下で、プラットフォームがトラフィックデータ、つまりメタデータを予防目的でもっと活用できるようにする案を示した
    • 現行の一時的なePrivacy例外は、非エンドツーエンド暗号化メッセージのCSAM検知・通報・削除だけを扱い、予防は含んでいない
    • Metaは、合法な範囲でトラフィックデータを含む手法により問題行動を特定していると述べている

AI検知とクライアントサイドスキャンの技術的限界

  • Karlstad UniversityのJaap-Henk Hoepmanは、CSAM検知技術が独占的であるため、精度に関する主張を独立して検証しにくいと指摘した
    • MicrosoftのPhotoDNAとAppleのNeuralHashは、公開され研究可能なアルゴリズムではない
    • そのため、企業が提示する有効性の数値に依存せざるをえない
  • Hoepmanは、PhotoDNAをリバースエンジニアリングした研究で基本的な欠陥が明らかになったと述べた
    • 既知のCSAMフィンガープリントに対して、画像を回転したり左右反転したりするだけで検知を容易に回避できる証拠が挙げられている
    • 攻撃者が無害に見える画像をCSAMとして検知されるよう改ざんし、無実の人を陥れたり、検知システムをあふれさせたりできる可能性がある
  • Alexander Hanffは、毎日数十億件の通信がスキャンされる状況では、誤り率が0.1%でも毎日数百万件の誤検知や見逃しが発生しうると警告した
  • University of BristolのClaudia Peersmanは、Rephrain Centreの評価結果を紹介した
    • 英国政府支援で開発された、E2EE環境でのCSAMスキャン概念実証プロジェクト5件はいずれも評価基準を満たさなかった
    • AI支援のオンライン児童保護ツール開発そのものに反対しているわけではないが、エンドツーエンド暗号化環境の私的メッセージに大規模展開する準備はできていないとみている
  • Johns Hopkins UniversityのMatthew Greenは、クライアントサイドスキャン研究は非常に初期段階だと述べた
    • このテーマの最初のコンピューターサイエンス論文は2021年に出ており、2年もたたないうちに義務化法案が議論されている
    • 研究者たちはこのシステムを破る方法を次々に見つけており、その結果、ユーザー機密性の侵害、誤検知、悪質なデータ注入が起こりうる
    • 安全に実装できるかを研究する時間が必要だ

子どもの権利と意見が欠けた立法

  • 複数の登壇者は、立法者が子どもの意見と権利を十分に扱っていないと批判した
  • Gerkensは、オンラインで子どもが何をしているかを判断しながら、当の子どもを立法過程に参加させていないとみている
  • Leiden UniversityのSabine Wittingは、この提案が子どものプライバシー、個人情報保護、表現の自由、情報アクセス権に否定的な影響を与えると評価した
    • 国連子どもの権利委員会のGeneral Comment No. 25は、プライバシーが子どもの安全に不可欠だとしている
    • プライバシーは子どもの安全の障害ではなく、重要な前提条件だ
  • Wittingは、若者同士の私的メッセージがCSAMスキャンに引っかかった場合、捜査そのものが有害になりうるとみている
    • とりわけLGBTQ+の子どものような周縁化された共同体の若者には、虚偽の暴露、さらなる周縁化、最悪の場合は政治的迫害につながるおそれがある
    • 私的通信のスキャン、民間部門・政府による追加審査、法執行機関の関与は、子どものプライバシー権に対する重大な侵害だ
  • EDRiのElla Jakubowskaは、13のEU加盟国の13〜17歳を対象にした代表的調査に言及した
    • 当局がCSAMスキャン目的でデジタル通信を監視できるなら、80%が政治活動や性的探求を快適に感じられないと回答した

令状なきデジタル監視とミッション拡大への懸念

  • Center for Democracy and TechnologyのIverna McGowanは、検知命令はデジタル世界における令状のない捜索に当たるとみている
    • 法執行機関が令状や合理的な疑いなしに家や私的空間に入り、あらゆるものを捜索することを受け入れないのと同様、オンライン空間でも許されるべきではないという立場だ
  • McGowanは、検知命令条項を根本から書き直す必要があるとみている
    • 犯罪の疑いがない人に適用されないよう、十分に精密でなければならない
    • 独立した司法機関の承認と、疑いの目的・根拠の検証が必要だ
    • 独立した比例性評価も含まれるべきだ
  • 複数の登壇者は、Europolをめぐるミッション拡大の可能性を懸念した
    • 報道機関が入手した文書によれば、EuropolはCSAMスキャン提案に基づいて得られるデータへの無制限のアクセスを望んでいたことが示されている
    • MEP Saskia Bricmontは、Europolがデータハブとなり、任務を拡大・強化しようとしているとみている
  • Commissionの初期提案では、「明らかに根拠がない」ものでない限り、すべての通報をEuropolと各国法執行機関の双方に同時送付することになっていた
    • Bricmontは、EuropolがCSAMを超えて他の犯罪分野へ検知を拡大しようと圧力をかけていたとみている

Commissionと批判者のあいだの信頼問題

  • セミナーは、Ylva JohanssonがEuropean Parliamentの市民的自由委員会の公聴会に出席する2日前に開かれた
  • 批判者たちは、JohanssonとCommissionがこの論争的提案をめぐって十分な透明性と説明責任を示していないとみている
  • Bricmontは、子どもへの性的虐待というセンシティブな問題を利用して、数億人の欧州住民の基本権に大きく影響する包括的監視計画を押し進めている点を問題視している
    • BalkanInsightの調査報道や潜在的な利益相反について、さらに知る必要があると述べた
    • Commissionの不在は対話不足と疑念を強めるとみている
  • Johanssonはブログ投稿で、自身への個人攻撃や不透明なロビー活動疑惑の提起を批判した
    • 彼女は、欧州最大のデジタル権利NGOであるEDRiがAppleから資金提供を受けている点に触れ、市民社会の反対がBig Techの利害を代弁している可能性を示唆した
  • Jakubowskaは、Commissionがプライバシーと安全のあいだの選択肢を誤って提示しているとみている
    • プライバシーと安全は相互に強化し合う
    • 職業上の秘密、たとえば弁護士と依頼人の秘匿保護にも危険があり、サバイバーの司法アクセスを妨げる可能性があると警告した

代替案: 標的型捜査、公開資料の整理、安全な設計

  • MEP Patrick Breyerは、この提案を「自由世界で前例のない」ものと表現し、「Chatcontrol」と呼んできた
  • 彼は、議論を二極化させるより、誰もが合意できる部分を残し、新しく効果的なアプローチを加えるべきだとみている
  • Breyerが示した方向性は、論争の核心である検知命令の削除と標的化だ
    • 通信スキャンは、子どもへの性的搾取に関与したと推定される人物に厳格に限定すべきだ
    • 自発的な無差別検知も、義務的検知と同じ比例性の問題を抱える
    • 個人端末をスキャナーに変えるクライアントサイドスキャンは明示的に排除すべきだ
  • 大量監視の代替として、公開アクセス可能な資料の事前クロールが提案されている
    • 英国とカナダで既に行われている方法だと述べられている
    • 新しいEU Centreは、公開Webの整理、犯罪予防、被害者支援、法執行のベストプラクティスに集中できる
  • Breyerは、義務的な年齢確認よりも安全な設計に焦点を当てるべきだとみている
    • プロフィールをデフォルトで非公開に制限するか、新規ユーザーに誰でも写真を送れるようにするか、ユーザーにヌード写真を見るかどうか選ばせるかといった設計上の問いを挙げた
    • 子どもへの性的虐待の予防には技術的アプローチだけでは不十分で、非技術的な解決策が重要だ
  • 立法者が合理的な修正に失敗すれば、本当の秘密性を備えた私的メッセージングと安全な暗号化が終わり、民主主義に前例のない権威主義的手法を持ち込む道が開かれる可能性がある

1件のコメント

 
GN⁺ 2023-10-27
Hacker Newsのコメント
  • 「人々がこの画像を見るという事実そのものが、委員会が克服しようとしているまさにその行為であり、それ自体が虐待の一形態だ。だから、同意した個人同士で共有された無害な写真を取り上げ、捜査手続き上、潜在的に何百人もの人にさらすなら、結果として実際により多くの被害者を生み出すことになる」
    これが核心的な論点です。この計画は副作用が多いどころではなく、守ろうとしているまさにその人々に実際に害を及ぼすでしょう。

    • 一理あるけど……それでもテロリストのことを考えるべきでは! 彼らが私たちの目と鼻の先でテロの秘密メッセージをやり取りしているかもしれない!
      真面目に言えば、誰かが「子どもたちのことを考えろ」や「テロリストのことを考えろ」のような単線的な感情への訴えで行動を正当化するたび、安っぽい操作以外の何にも見えません。
      賛成派は、安全性に関する主張を具体的な数値で立証すべきだと思います。責任は負わないまま、あまりにも多くのものを手放せと求めており、その害が利益より小さいとは思えません。
      例えばPatriot Actはテロ取り締まりの波を生み出せず、むしろ大規模な人権侵害を容易にしましたが、奪われた権利は戻ってきませんでした。空港のセキュリティが大幅に強化されたのも同様で、爪切りを持っていて捕まったテロリストがどれほどいるのかは知りませんが、より侵害の少ない方法でもほとんどのテロ未遂は抑止できるように思えます。
    • 以前の同僚がある会社で働いていたのですが、新卒だったため雑用をいろいろ任され、テキストメッセージやソーシャルメディア投稿などを大量に見て、スパムかどうかをマーキングする仕事をしていました。長くは持ちませんでした。本当に精神をすり減らす仕事でした。
      それよりさらに一段ひどいのが、ソーシャルメディア投稿から利用規約違反の中でも凄惨なタイプ、つまり極端な暴力や流血、残虐行為の画像を探さなければならない人たちです。そうした職務に就く多くの人は耐えるために多くの治療を必要としますが、残念ながら治療にアクセスできない場合も多いようです。
      疑わしいCSAMを一日中見ながら許可/不許可の判断をしなければならないとしたら? それが人にどんな影響を与えるのか、想像することも難しいです。
  • CSAMは煙幕にすぎません。目的は監視であり、これを無理やり通せば、すぐに何でもかんでも包含するよう急速に拡大されるでしょう。

    • 委員会の構成員たちはウェブサイト検閲も推し進めており、この法案に含まれる予定です。内容についても直接嘘をついています。EUにはファクトチェック担当がいるとはいいますが、冗談のようなものです。きちんと機能していたなら、委員会の発表に次々と警告表示を付けていたはずです。
      正直、もはやEUを公共善とは見ていません。かなり前からそうでしたし、官僚的なテクノクラシーへと退化しました。
      誰かが「議会には投票できるし、委員会の構成員の一人にも投票できるのだから問題ない」と言おうとする前に言っておくと、それは分かっています。それでも何も良くなりません。現在の実装では民主主義があまりに間接的で、なくしてもよいほどです。こうした法案は、どれか一つが引っかかるまで出され続けるでしょう。支持できません。
    • こうした試みは、いったんどこかで定着すれば、最終的にはどこにでも現れるでしょう。中国のように、すでに露骨な全体主義体制で実施されている場所を除いてもそうです。
      止めなければなりませんが、結局どこかで起きてしまうのではないかと恐れています。一部の西側諸国でいったん実施されれば、他国がまねるための青写真を得ることになります。市民はどこでもだまされており、非技術職はもちろん、技術職の中にもこれを良いことだと思う人が多くいます。米国、英国、オーストラリアの友人たちも、こうしたものが自国に入ってくるのを拍手喝采しています。子どもたちのためだという理由で。
      残念ながら、誰もこの問題を十分に深刻に受け止めておらず、加盟国で大規模な広告やテレビキャンペーンを展開して、これがすべての人にとって悪く、子どもたちの助けにもならないことを教育しようとしていません。
  • このクライアント側スキャンの試みは崩壊すると思いますし、さらに言えばそうなることを望んでいます。EU市民の自由を明白に破壊するからだけでなく、仮に実装されても失敗するしかないからです。
    基本的な発想は、CSAMにも、どんな敵対的ユーザーのシナリオにも有効ではありません。ただし、私の希望は立法の現実においてあまり良い実績を持っていません。
    クライアントは信頼できません。現在存在し、今後も生まれる無数のサービスがそもそもこれを実装しないという点はさておき、そうしたテレメトリを取り除いたアプリ版が比較的簡単に入手可能になるでしょう。例えばVSCodeとVSCodiumの関係のように、WhatsAppとWhatsAppiumが生まれるようなものです。
    スプーフィングの可能性も考えるべきです。誰かにメッセージを送ってクライアントIDを入手し、そのクライアントが想像し得る最悪のCSAMを検出したと報告することができます。
    誤検知を考えるべきです。コストを考えるべきです。子どもたちのことを考えるべきです。虐待していない親が、普通だが紛らわしい写真を互いに送り合ったためにCSAM容疑で苦しめられ、その一部では親から引き離されることになる子どもたちのことを考えるべきです。
    この法案の可決は、立法者たちがもっと有益に使えたはずの時間を途方もなく浪費することです。この指令を実装する作業は、欠陥があり悪用可能なシステムを作るために、資金とノウハウを途方もなく消費することになります。その結果を執行する過程では、CSAMとは無関係の苦痛が計り知れないほど生じるでしょう。そして最初の数人の犯罪者が捕まった後は、敵対的アクターは単に別のチャネルを使い始める可能性が高いです。
    しかしその頃には、話題は思考に対するクライアント側スキャンへと移っているでしょう。

    • 「虐待していない親が、普通だが紛らわしい写真を互いに送り合ったためにCSAM容疑で苦しめられ、その一部では親から引き離されることになる子どもたちのことを考えるべきです」
      誤検知がどのように子どもの分離につながると見ているのか気になります。
      実際にCSAM所持で有罪判決を受けた人でさえ、現在必ずしも子どもへのアクセス権を失うわけではありません。
  • 「既知および未知のCSAM」
    画像AIが現在どこまで来ているかを考えると、これは膨大な量の誤検知を生むことが確実です。実際、まだそうでないとしても、まもなく誤検知をふるい分けること自体が不可能になるでしょう。この計画は、はるかに大きく別の問題が迫っている状況で、前の戦争をもう一度戦っているように見えます。

    • 「未知のCSAM」とは、結局すべてのファイルをAIでスキャンして内容を判断するという意味です。見たことのない侵害資料を検索することはできないので、画像を解釈するモデルを学習させる必要があります。
      その結果、多くの人が自分の子どもの写真のせいでフラグを立てられるでしょう。ほぼすべての親が、どこかには子どもの裸の写真を持っているからです。
    • 全員が法律を破っている状態なら、本当の権力はその法律を選択的に執行することにあります。
  • こうした措置がCSAMを減らすのになぜ効果がないのか、あるいは偽陰性が多すぎるとか偽陽性が多すぎるといった議論は、核心を外していると思う
    立法者たちは児童虐待の削減に関心はあるのだろうが、主にはそれを口実に市民への監視と統制を強めようとしている。これは、ハードウェア所有者の利益に反するクライアント側ソフトウェアを義務化しようとする動きにすぎない
    いったんそのソフトウェアが入ってしまえば、法的にであれ怪しい裏取引の経路を通じてであれ、一般の人が賛成しないような事柄へ要求範囲を広げるのは、ずっと小さな一歩で済む

    • なぜダウンボートされているのか分からないが、本当にその通りだ。彼らは市民ごとの固有インターネットIDを導入して年齢確認を実装しようともしている。動機はかなり見え透いている。中にはそんな意図はないと言う人もいるが、嘘である可能性が非常に高い
  • クライアント側スキャンは機能し得ないし、機能しないだろう

    1. ユーザーがファイルを加工してスキャンを通過できる
    2. ユーザーが同じクライアント側スキャナーをブラックボックスとして使い、検証できる
      ユーザーがシステムのいかなるものも変更できないようにしない限り、クライアント側スキャンが機能するシナリオはない。画像も、ソフトウェアも変更できてはならない
      このことは覚えておくといい。これがうまくやる唯一のことは、現政権と相いれない政治的主張を持つ、正直で法を守る市民を識別することだ。これが可決されれば、人種差別や禁酒法のような政府公認の不人気な法律を終わらせられる本物の民主主義は、EUで死ぬことになる
  • European Commissionは権力に酔っている

    • 「European Commissionは権力に酔っている」
      良い危機を無駄にするな、という言葉がある。危機の状況は、政府が反民主的・反市民的な法律を露骨に押し通す絶好の機会だということは、よく記録されている。そうした法律は自由を侵食し、富を貧しい人から裕福な人へ移転させる。そして危機は、誰もが時間をかけて解剖し、分析し、議論する通常の長く徹底した民主的手続きを迂回する完璧な口実を与える
      最近も危機は多かった。Covid、インフレ、難民の波、ウクライナ戦争、イスラエル戦争があった
      「哀れな納税者よ、深く考えるな。どうせこの問題は理解できない。複雑すぎるし、そのうえウイルス/暴走するインフレ/生活費/戦争のせいで気を取られ、心配で、プライバシーのような些細な問題を考える時間もないではないか。だから楽に座って家賃の心配でもしていろ。オンラインプライバシーは我々が守ってやる、いいな?」
    • 国家安全保障装置は常に個人のプライバシー権と衝突する。一般市民を守るものはすべて、犯罪者やテロリスト、革命家も守る。これは古くからの問題であり、法的保護から技術的保護まで、どのような形のプライバシー保護であっても弱体化させる圧力がかかり続ける
      捜査機関は、私たちの生活の多くが今や第三者の手に渡っていて、より簡単にアクセスできることを非常に好んでいる。そして平均的な人が通信に暗号化を使えるようになって以来、暗号化への攻撃は続いている
      付け加えると、プライバシー保護ソフトウェアを作る人にとっても、目標を真剣に考えるなら、いずれ直面しなければならない問題だ。そのツールが敵対的な政権下のジャーナリスト、あるいは任意の抑圧された集団を守れるほど強力なら、個人的に嫌悪する行為をする犯罪者も守れるほど強力だということになる
    • すべての政府は権力の拡大を追求する。特定の実装や特定の地域だけの話ではない
      こうしたことを推し進める組織は、多数の人々を同僚ではなく支配すべき対象と見る、権力欲の強い人々を自ら引き寄せる
      どこでも同じように働く。欧州だけの問題ではない
  • 全体の論理は次のように要約できる
    現在の技術では、どんな写真や動画であっても、その存在自体を完全になくすことは不可能だ。インターネットが存在し、人々が禁止されたメディアにアクセスできる限り、その禁止されたメディアは広がり続ける
    これに対抗するには、国家は人々の機器やアカウントをのぞき込み、ファイルを見る非常権限を与えられなければならず、そうして初めて禁止されたメディアを所持する人を起訴できる。そして国家は、私たちが禁止するメディアは児童ポルノだけで、他のものは絶対にないと本当に本当に約束する。もちろん後になってこの権限を拡大しようとするとき、実際には止められない。そして我々は間違いなくそうするだろう

  • これは正しい問題である児童性的虐待を解決しようとする試みではあるが、当然ながらやり方が間違っている。
    30年前に「人々はそうした虐待をVHSテープに録画しているのだから、SonyやScotchに言えば何とか防げる」と言うのに似ている。実際には今の状況のほうが少し現実的ではあるが、それでも同じことだ。児童性的虐待の予防は、すべての政府とすべての市民にとって、非常に大きく高い優先事項であるべきだ。
    確実で保証された方法があるなら、費用がいくらであっても明日にでもすぐやるべきだ。
    しかし実際には、その方法はよく分かっていない。メンタルヘルス改革、大規模な教育改革、児童福祉改革が組み合わさり、本当に危険にさらされている子どもたちが保護され、同時にその意味のある保護がすべての子どもに広がらなければならない問題だ。
    賢いアイデアがあるなら関心がある。

    • 「これは正しい問題を解決しようとする試みだ」
      まったく違う。
      テロ、児童虐待、麻薬と戦うという名目で新しい法律やプログラムが発表され、その実際の適用範囲がテロ、児童虐待、麻薬を超えるなら、あなたは自分の利益に反する投票をするよう操作されているということだ。100%、常にそうだ。
    • 18歳未満のすべての子どもに、映像とマイク録音が可能なスマートウォッチの着用を義務づけ、児童保護機関がいつでもアクセスできるようにすればよい。デバイス内コンテンツ認識を入れて、ほとんどのデータはアップロードせず破棄しつつ、当局が追加の関心対象としてマークした子どもの場合だけ例外にできる。
      「私たちはデバイス内のスマートアルゴリズムでプライバシーを保証します。デバイス内AIが虐待状況を検知しない限り、お子さんのデータがアップロードされることは決してありません。そして虐待者以外に、誰がそんなデータのアップロードを止めたいと思うでしょうか?」
      時計が外されたかどうかを常に確認させ、外されたら直前30秒の映像をアップロードして、誰が外したのかを特定する。
      子どもや親が外したなら親に罰金を科し、子どもには児童保護機関との義務面談を行い、外した「本当の」理由を突き止める。
      充電のために子ども1人につき2台ずつ支給すればよい。1台は常に充電中で、もう1台を着用する。着用中の時計が、もう一方の時計が充電中でないことを検知したら、ユーザーに通知を送る。一定時間内に是正されなければ違反として扱う。
      繰り返しの取り外しや「偶発的なバッテリー切れ」違反は、次第に高額な罰金、場合によっては親からの子どもの分離につながり得る。
      これらはすべて現在の技術で可能だ。スマートウォッチが虐待する親から子どもを救った注目事件を数件、あるいは警察がスマートウォッチ追跡で誘拐未遂から子どもを取り戻した事件を数件使い、「すべての子どもにこうした追跡が必要だ」という教訓を作って同意の製造さえすればよい。
    • 「これは正しい問題である児童性的虐待を解決しようとする試みだ」
      本当にそうなのか? CSAM所持を処罰することが、実際に児童性的虐待の発生率に影響を与えるのか?
      CSAMを犯罪化するのが正しくないという意味ではないが、クラウドストレージをスキャンして捕まるタイプの人々を処罰することが、実際に被害児童の数に影響するというデータが少しでもあるのか?
      そうでないなら、この措置が達成するのは小児性愛者を刑務所に入れるという気分のよい行為だけだ。しかし心配なのは小児性愛者ではなく、実際に子どもに対して犯罪を犯す児童強姦犯と児童ポルノ制作者だ。
      エンドユーザーを追跡することがサプライチェーンにどんな影響を与えるのかは分からない。一方で、エンドユーザーを追跡できるようになれば、国家が重要だと定めたほぼあらゆる犯罪を理由に人々を捜索する権限を得るやり方は百万通りも見える。これを認めれば、数年以内にCSAMを超えて拡大する確率は**100%**だ。
    • これがどう児童性的虐待を解決するというのか分からない。虐待は素材が作られる過程で起きるのであって、流通する過程で起きるのではない。もちろん流通が被害に侮辱を上乗せすることは分かっているし、それを擁護しているわけでもない。
      そしてそもそも「素材」が必ず存在する必要もない。録画は選択肢にすぎないのに、その問題を扱う内容は見当たらない。
    • 虐待の大半は家庭内や近い周辺で起きる [1]。写真をスキャンすることは、問題解決にはほとんど何の役にも立たないだろう。ただ追加の監視のためのバックドアにすぎない。
      1. https://victimsofcrime.org/child-sexual-abuse-statistics/
  • 現在の提案は、このままでは可決されないだろう。オランダ、スペイン、ポーランドなど複数の加盟国が反対しており、おそらく違法である可能性が高い。
    可決されるには徹底的に修正されなければならない。そうした変更は、おそらくすでに役に立たない提案をさらに役に立たなくするだけだろうが、少なくとも今回はプライバシー/暗号化バックドアから私たちを救ってくれることを願う。

    • 彼らにはWebサイト遮断、つまり事実上の一般的なWeb検閲を行おうとする野心もある。現欧州委員会委員長は、すでにドイツ国内レベルでそれを試みたことがある。
      いかなる状況でも可決されてはならず、全体が拒否されるべきだ。妥協の余地はない。