EU：スキャンを拒否すると写真・リンク共有が禁止される可能性
(patrick-breyer.de)- EUの児童性的虐待コンテンツ規制案である chat control が、フランスの立場変化の可能性により、再びEU政府の承認を得られる局面に入った
- 2024年5月28日の草案は、チャットアプリ・サービス利用者に対し、私的な画像・写真・動画の 自動スキャンと通報の可能性 を受け入れるかどうかを問い、拒否した場合は写真・動画・リンクの送受信を制限する
- WhatsApp・Signal のような エンドツーエンド暗号化 サービスも送信前の自動検出を実装しなければならず、実際にはクライアント側スキャンとして機能する
- 既存草案の グルーミング兆候テキストスキャン と音声通信スキャンは削除される一方で、治安機関・軍職員のチャットは対象外となる見込み
- Council Legal Service は、疑いのない人々に対する無差別スキャンは 基本権の侵害 に当たると見ているが、多くのEU政府は6月4日に議論を続ける予定
「upload moderation」草案が変えること
- 論争の大きい児童性的虐待コンテンツ規制案、いわゆる chat control が、EU政府レベルで再び承認され得る状況になっている
- Euractiv の報道と内部文書によれば、フランスが従来の拒否権を放棄する可能性がある
- フランスは新たな「upload moderation」提案を、原則として可能な選択肢と見ている
- 2024年5月28日付の最新草案 Council document 9093/24 は、チャット機能のあるアプリとサービスに適用される
- 利用者は、私的に共有する画像・写真・動画に対する無差別で誤判定の可能性があるスキャンおよび通報の可能性を受け入れるかどうかを問われる
- これまで知られていなかった画像や動画も 人工知能技術 によって調査対象となる
- スキャンを拒否した利用者は、画像・写真・動画・リンクを送受信できない
- WhatsApp や Signal のような エンドツーエンド暗号化サービス も、メッセージ送信前に自動検出を実装しなければならない
- 草案はこれを Article 10a の クライアント側スキャン として扱っている
- Patrick Breyer は、この方式が従来の安全なエンドツーエンド暗号化を弱体化させ、スマートフォンを監視ツールに変えると批判している
除外される範囲と残る争点
- 最新草案では、初期提案に含まれていた一部のスキャン範囲が削除されている
- 現時点でほとんど使われていない グルーミング兆候テキストメッセージスキャン は削除される予定
- これまで実施されたことのない 音声通信スキャン も削除される予定
- フランスへの譲歩として、治安機関と軍職員のチャットは chat control の対象外となる可能性がある
- 5月24日の最後の協議で、Council Legal Service は、疑いのない人々に対する無差別な chat control スキャンが依然として想定されており、基本権の侵害 に当たると述べた
- それにもかかわらず、多くのEU政府は推進の意思を示している
- EU各国政府は6月4日に議論を継続する予定
- Patrick Breyer MEP は、Belgian proposal が EU Commission の当初の chat control 提案の核心をそのまま実装していると批判している
- 彼は、21世紀にメッセンジャーを純粋なテキスト用途だけで使うのは選択肢にならないと見ている
- 実際には使われていない過剰な要素を削除するのは見せかけにすぎないと指摘している
- 罪のない市民の私的チャットや写真が、信頼できない技術によって検索され、漏えいする可能性があると警告している
- EU各国政府がこの立場で trilogue 協議に入れば、Parliament が非公開交渉の中で当初の立場を徐々に放棄し、オンラインの安全を危険にさらす妥協に同意するリスクがあると見ている
3件のコメント
今回の件は本当に問題が大きいように思いますが、押し切るつもりのようですね。
EUがAppleに対してやったことは気に入っていますが、これは行き過ぎだと思います。
もしかすると、Appleにあんなことをした時点で間違っていたのかもしれませんね……（泣）
Hacker News の意見
「治安当局と軍の職員のチャットもチャット規制の対象外になる」というなら、実際に私的な会話を覗き見る必要性が最も高そうな治安・軍事分野が抜け落ちることになるのではないか
それなら [1] のようにセルフホスティングすれば、この法律に従わなくてよいことになる
しかし治安当局者がセルフホストしたインフラではなく公開サービスを使い、免除対象だという前提で機密データを送れるという意味なのか
そして @WA が言っているように、こうした公務員たちの連絡先リストをすべての営利組織に提供することになるのか
本当に間抜けな冗談のようだ
[1]: See third row at https://www.patrick-breyer.de/en/posts/chat-control/#current...
その主張が事実だとしても、特定の集団を例外にする機能は何のためなのか？ その集団が児童性的虐待資料を作成・流通させられるよう意図的に例外を与えるのでない限り、説明がつかない
よりもっともらしい結論は、プライバシー保護や目的制限に関する主張が嘘だということだ
こうした措置で何かを少しでも遅らせられると考えていることが信じがたい。法律によっては安全と自由の間の妥協と見なせるものもあるが、この件では犯罪者にとって何がより難しくなるのかすらよく分からない
こういうプラットフォームで問題のあるものを共有しながらテキストを送れるなら、リンクも送れる。「リンクを許可しない」プラットフォームでも、人々は新しい表記慣習を作るなりして通常のテキストで共有する。別のプラットフォームを使えばよい場合もあるので、どこに抑止効果があるのか分からない
結局、技術を理解していない人たちが法律を作ることで生じる面倒な規制にすぎない
もちろん 100% は捕まえられないだろうが、そんな法律や措置はほとんどない。そしてその水準を達成する措置には、たいてい膨大な誤検知が伴う
リンクもスキャンが難しいわけではないし、児童性的虐待資料をどこかに「ただ」アップしても最終的に問題にならないと期待するのも難しい。何をしているか正確に分かっている場合は、前の段落に戻ることになる
この法律がゼロではなく誰かを捕まえるだろうという点は否定しにくく、正確に何人になるかを事前に判断するのは難しい。だからといって良い法律だという意味ではないが、「誰も捕まえられない」類いの反論は悪い論拠だ
第一に、誰かが何かをしているように見せることだ。有権者は、自分たちの代表者に特定の注目課題を解決する力がないという事実を受け入れない。新しい法律や規制にほとんど効果がない、あるいはまったくなくても、立法者が「専門家」に好意的な発言をさせられれば、争点を理解していない多くの有権者はある程度満足する
第二に、監視技術を作り続け、常態化させ、日常のものにすることだ。政府側の人々が私的にはできないことを義務化すればするほど、彼らが望むほぼ何でも実行しやすくなる
ただしスマートフォンでどれほど使いやすいかは別問題だが、それほど難しくはなさそうだ
公開コンテンツも多層防御の一部としてスキャンできる
権限を持つ責任者たちが自分の責任を果たすうえで無力感を覚えると、パニック状態で無実の人々を不便または有害な状況に追い込み、全員を危険にさらす。実際に問題を起こしている比較的少数の加害者を捕まえる代わりに、そうなる
ここ数年、そうした例をあまりにも多く見てきたし、世論の怒りが大きいほど、関係者や責任あるごく少数よりも一般大衆が受ける被害の方が大きくなった。当の彼らはやり方を少し変えて続けるだけで、大衆だけが損なわれる
政府や公開企業に外注するより、親が子どもを守れるようにツールを提供し、教育する方がよい
だから、こうしたことをする人々を選んだ市民が、次の機会に政治家を解任し、なぜ解任されたのかを知らせるべきだ。警察はサソリであり、サソリは自分の本性どおりに行動する。彼らが執行する法律を作る愚か者たちを解任すべきで、新しい法律の本当の源は警察ではなく彼らなのだ
このような法律が引き起こし得る混乱は、こういう形になる
https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
https://news.ycombinator.com/item?id=32538805
本当の問題は、Googleのサポートが悪名高いほど存在しない、あるいは理解しにくいことだ。そこに「生涯ブロック」のような白黒式の対応や、合理的に独立したところへ不服申し立てしにくい構造が組み合わさっている。アカウントがブロックされ得る無実の理由は非常に多く、これはその一つにすぎない
誰でもアップロードや送信ができるサービスは、最悪の人間たちを引き寄せるハエ取り紙になる。何らかの形の保護策は本当に必要だ
さらに一歩進めて、生活の多くの側面に絡む巨大なプラットフォームを提供するなら、望むと望まざるとにかかわらず一定の責任を受け入れるべきだ。最低限、多少なりとも役に立つサポートを提供すべきだし、児童性的虐待素材の大規模ホストになってはならない
修理技師として働いていた頃、Flash Playerが動くか確認しようとしてGoogle Videoのトップ画面で適当にクリックしたら、ある男が自分の頭を吹き飛ばす動画が出てきたことがある。Kazaaやwarezサイトのような場所でも、「幼い12歳のAliceが小さな胸を誇らしげに見せる」類のものを、わざわざ探さなくてもかなり普通に目にした
これらすべてのバランスをどこに置くかは難しい問題だが、バランスそのものが存在しないふりをしても役には立たない
この案は理事会が押し通そうとしているが、最終結果にはまだ影響を与えられる。こんなゴミに関与していない政党に投票して、否決されるようにすればいい。EU Pirate Partyはまだ一部地域の投票用紙に載っている
これが法律として上がってきたら、私の予想ではASCIIアートの復活だ
友人と休暇の写真を共有するという話ではなく、こういうものだ
「非営利団体の税務処理方法を説明するリンクです」「新しい学校ロゴです」「サッカー大会の日程リンクです」といったものだ
少し話題から外れるが、EUが何かを規制緩和したことがあるのか気になった。新しい法律や条項を追加するだけなのか？ コードの行数で報酬をもらっているのか？ 廃止したり規制を緩めたりした法律の例は何があるのか
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
要約はここにある: http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
この指令は、製品容量に関する複数の国内法を廃止した。たとえばフランスでは、シャンプーは250mlや500mlのボトルでは売れたが、295mlでは売れず、キノコも250gや500gの箱では売れたが、230gや490gでは売れなかった
今では可能になり、結果としてシュリンクフレーションを可能にした規制緩和になった
私にとっては、EUと米国の食品安全への対処の仕方が、双方の哲学をよく要約している。EUでは食品が認められるには安全であることが証明されなければならず、米国では食品が禁止されるには安全でないことが証明されなければならない
最近は規制緩和はあまり人気がないが、あちこちで時々は起きてきた
では私たちの基本権、第7条はどうなるのか
この法律をすべて支持するが、一つだけ追加すればいい
EU内で政治家、公務員、そしてその家族が共有するすべてのデータは公開・分析され、汚職調査に使われ、永久保存されるべきだ
私たち全員が小児性愛者と見なされるなら、すべての政治家は犯罪者だ
もちろん何人かは不当に告発され、私たち全員が自由を失うだろうが、選挙のたびに前政権が監査され、汚職やその他の犯罪が明らかになる小さな機会が生まれる
それくらいなら試す価値がありそうだ
前向きに見れば、反発が新しい世代を刺激して、古い化石どもを歴史のごみ箱へ送り込ませることになるだろう
https://youtube.com/watch?v=-wntX-a3jSY
強く握りしめればしめるほど、より多くの星系が指の間からこぼれ落ちることになる
もちろん前の世代と大きく違うわけではないが、巨大な反権威主義の波などでは決してない
どの年齢層でも、実際に不便を被ったときだけ安定して反発する。大半は監視を受け入れ、またくだらないミームを共有しに戻るだろう。いずれにせよ、手遅れになるまでは
こうした提案が繰り返し出てくるのは、業界の自主規制では解決できなかった正当な懸念があるからだ
良い施策について誰も対話しようとしなければ、政治家は新しい政治家であっても再び試みるだろう
生成AIの無責任な展開がこの領域で引き起こしていることは本当にひどい。なのに皆、「どうせ数学は止められないから何もしない」とか、暗黙のうちに「目的は手段を正当化するのだから、AGIを得るためなら子どもを何人か犠牲にしてもいい」という扱いをしている。外から見える姿は最悪だ
テック業界が自ら責任を取らなければ、プライバシーは近いうちに死ぬ。政治家は一度勝てばいい
最初の数百件の誤検知とその顛末がニュースになり、次の選挙にどんな影響を与えるか待ってみればいい。いくつかの政党はそれを選挙運動に使うだろう
[1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
この法律を実装するには彼らは一度成功すればよく、そうすれば残り続ける。私たちは毎回廃止に成功しなければならず、一度たりとも失敗してはならない