- 裁判所は、ユーザーがiCloudに保存・共有した**児童性的虐待資料（CSAM）**をAppleが検出しなかったという請求について、第三者コンテンツの発行者責任を問うものだと見なし、通信品位法230条に基づく免責を認めた
- PhotoDNAやNeuralHashの導入は、コンテンツの監視・通報に直結するコンテンツモデレーションの判断であるため、これを設計欠陥として構成しても230条を回避することはできないと判断した
- AppleがiCloudでCSAMが流通し得ることを知っていたとしても免責には影響せず、CSAMを識別していなければNCMECへの通報義務も発生しないと見た
- 裁判所は3回目の修正訴状を棄却しつつも、現行法は企業に予防的な検出を求めておらず被害者を保護できていないことに懸念を示し、義務化の可否は立法府が決めるべきだと述べた
- CSAMスキャン義務は何百万人ものプライバシーとエンドツーエンド暗号化を損ない得るため、政府は暗号化を弱めるよりもCSAMの制作者・流通者・ダウンローダーを見つけて起訴することを優先すべきである
AppleのCSAM検出方針の転換
- Appleは非公開のiCloudストレージにユーザーがアップロードしたファイルをPhotoDNAで検査する代わりに、独自技術のNeuralHashを開発したが、その後クラウドでのCSAMスキャン計画を撤回した
- その代わりにiCloudファイルへエンドツーエンド暗号化を導入した
- この方針転換は一般に混乱を与え、Appleがより積極的な介入手法を自発的に示していたこともあって、政府やCSAM被害者からの圧力も続いた
訴訟の請求と手続き
- 原告らは、Appleが既知のCSAM検出機能を実装しなかったことが設計欠陥に当たると主張した
- Appleは既知のCSAMの拡散を防げる機能を安全に実装できるのに、導入し続けなかったという論理である
- 裁判所は3回目の修正訴状を棄却し、事件は第9巡回区控訴裁判所へ進み得る段階となった
- 事件はAmy v. Apple Inc., 2026 WL 2031817で、カリフォルニア北部地区連邦地裁が2026年7月13日に判断した
- 最初の訴状も公開されている
通信品位法230条に基づく免責
- 原告らの被害を直接引き起こした主体は、iCloudでCSAMを共有した第三者ユーザーであり、Appleはそのような利用を明示的に承認も遮断もしていなかった
- 原告らが求めた義務は、Appleが第三者コンテンツの流通を防がなければならないというものであり、Appleの発行者としての地位から生じる
- 責任を免れるにはAppleがコンテンツを検査して流通可否を決める必要があるため、求められた措置そのものが発行者の役割に当たる
- これにより裁判所は、原告らのすべての請求に230条が適用され、Appleが全面的な免責を受けると判断した
- 内部のテキストメッセージのように、AppleがiCloudのツールが児童性的虐待資料の流通に使われる可能性を知っていたと仮定しても、被告の一般的認識は現行の230条免責を変えない
PhotoDNAの導入もコンテンツモデレーションに当たる
- CSAM検出ツールを運用するには、ファイルがCSAMかどうかを判定するためにコンテンツを確認しなければならない
- Appleの競合他社が使うPhotoDNAとAppleのNeuralHashは、会社のサーバーにアップロードされた違反画像を監視して通報するよう設計されている
- どのツールを導入するかを決める行為もコンテンツモデレーションに結び付くため、Appleが選択できた設計判断を根拠に責任を問うことはできない
- AppleがそもそもCSAMを識別していなければ、NCMECに通報すべき対象もなく、通報義務違反は成立しない
既存の230条回避判例との違い
- 原告らはDoe v. Twitterで認められた新たな例外を適用しようとしたが、認められなかった
- Twitterは第三者コンテンツを監視・削除しなくても、通報インフラの欠陥を修正できた
- 一方でAppleがCSAM保護措置を構築するには、NeuralHashやPhotoDNAで第三者コンテンツを直接監視する必要がある
- Lemmon v. Snapも適用されない
- この事件とは異なり、AppleがSnapchatのフィルターのようなコンテンツを作って被害を生じさせたという請求はなく、すべての請求が第三者コンテンツと不可分に結び付いている
- Roommates.comによる回避も成立しない
- Appleがサーバー上のCSAMを修正または拡張したという主張がないためである
裁判官が懸念した法的空白
- 現行法は、Appleをはじめとする企業がサーバーやクラウドに保存・流通する児童性的虐待資料を識別して通報する技術を使ったり開発したりすることを妨げてはいない
- 同時に、企業にそのような措置を予防的に実施する義務を課す法律も存在しない
- 企業の自主的措置だけではCSAM流通を防ぐには不十分であり、Appleや他社に対応を求めるなら、立法府がこれを法律で義務化しなければならないと見た
- ただし、そのような法律は何百万人にも少なくともある程度のプライバシー喪失をもたらし得る
エンドツーエンド暗号化が支払う代償
- 判決文は暗号化を2回しか扱っていないが、Appleの方針変更ではエンドツーエンド暗号化が中心的要素である
- iCloudでCSAMスキャンを強制すれば、すべてのユーザーとあらゆる目的に適用されるエンドツーエンド暗号化を壊さなければならない
- 犯罪目的で非公開ファイルを傍受しようとする悪意ある行為者がこれを悪用し得る
- 政府の行為主体も非公開ファイルストレージに侵入し、資料を流布したり武器化したりできる
- センシティブ、私的、あるいは虐待に関わる画像が同意なく傍受・拡散され、新たな被害者が生まれる可能性がある
- エンドツーエンド暗号化は任意の便利機能ではなく、人々の安全を支える技術アーキテクチャの中核要素である
被害の現実と現行法の衝突
- 判決は、Appleの決定が被害に寄与したかどうかではなく、すべての請求がAppleを第三者コンテンツの発行者として扱うかどうかに基づいて下された
- だからといって、被害者が現実的かつ継続的な被害を受けていないという意味ではない
- 被害者らは、幼少期に性的虐待を受ける場面が撮影され、その画像や動画がiCloudで繰り返し保存・流通されるたびに再び被害を受けると主張している
- 第9巡回区控訴裁判所が、インターネット企業が違法コンテンツを知っていた、または知るべきだった場合でも230条の範囲を機能的免責レベルまで広げたという批判を補強する形となった
- オンラインに金融・健康情報を含む個人データが保存・送信される現実ではプライバシーは重要だが、CSAMの制作・閲覧・流通に関わる者がプライバシー保護を利用して捜査を逃れる問題も残る
- 現在の法体系には、集団訴訟の対象となった被害者らを保護する手段がなく、彼らは非効率な法的環境の副次的被害を負わされている
規制の優先順位
- CSAM対策の核心は、政府が制作者・流通者・ダウンローダーを見つけて起訴する活動にある
- 政府が可能な捜査と起訴を実行できるようにすることを最優先にすべきである
- エンドツーエンド暗号化の破壊は規制手段に含めるべきではない
1件のコメント
Hacker Newsの意見
立法府や一部の勢力は、児童性的虐待素材（CSAM） を防ぐために監視・スキャン・本人確認まで強引に進める一方で、肝心の 児童性的虐待（CSA）の予防 にはほとんど力を入れていないように見える
CSAMの取り締まりは虐待が起きた後にしか機能せず、実際の虐待よりも所持・流通容疑で逮捕される場合が多く、AI生成の物語や画像のようなフィクションにまで拡大している。こうした技術が政治的発言や政府が望まない資料に適用されれば深刻な問題になりうるし、保守的な州がポルノは売春・強姦・CSAを助長するとして全面禁止することさえありうる
CSAの側では事前教育や児童保護が不足しており、皮肉にも過去に虐待スキャンダルのあった教会やScoutsが予防策を最も積極的に実施している。身元調査は初犯や発覚していない人を防げず、性犯罪者名簿には、明け方に公園から500フィート以内で立ち小便をして登録された知人のように、CSAとは無関係に見える人もいる
結局のところ、データに基づいて子どもを守るのではなく、大衆が望む極端な処罰を段階的に拡大し、インターネット利用にスキャンと身分証を要求するような乱暴で安易な解決策ばかり押し進めているように見える
CSAM識別に使われる技術は、著作権付きファイルや現政権を支持しない資料も見つけられる。エンドツーエンド暗号化（E2EE） は大規模監視のコストを大きく引き上げるため、米国政府は30年間これに対抗し続けてきた
一方で実際の小児性愛者には、有名な保養地に出入りする富裕層という問題もある
他の性暴力と同様、支配欲とドーパミンが結びついた犯罪であり、教会やBoy Scoutsの指導者たちは社会的影響力と権力を使って、被害者の従順さや忠誠まで強いていた。Boy Scouts組織は教会・警察など既存の権力構造に浸透していたため、11歳の子どもが尊敬される地域の有力者を告発するのは難しく、加害者は被害者に共犯であるかのような感覚まで植え付ける。被害者が名乗り出ても起訴は難しく、公的な恥辱にもさらされるため、被害者を守るためにより軽い罪で司法取引をする場合も多い
私自身が直接の被害者ではなかったが、私が通っていた教区のBoy Scouts指導者は数十人、あるいは数百人を虐待した常習犯で、後になって知ったところでは友人の何人かもほぼ確実に被害者だったはずだ。当時、権限のある人々は皆それを黙殺していた
今日はやけにシニカルなだけかもしれないが、私自身や生涯知ってきた人たちの経験を見ると、これは非常にありふれたことだと信じるようになった
Appleがプライバシーの味方ではないと見るのは理解しがたい。完璧には程遠いが、他の 大手テック企業 と比べれば次元が違い、こうした措置を取らないほうがむしろ簡単だったかもしれない
結局Appleは、プライバシーを維持すると主張しながらも、あらゆるメッセージや資料をスキャンできる手本を示してしまった
Appleの利害が私たちと一致するなら歓迎だが、時価総額およそ5兆ドル規模の企業に利他主義を期待してはならない
デスクトップには実用的なLinuxがあるが、スマートフォンではGoogleのせいでGrapheneOSに移行すると多数のアプリが動かなかったり、数か月ごとに壊れたりする。技術に詳しい人であってもAndroidで監視を減らすのは非常に不便で、Googleはリリースのたびにプラットフォームを悪化させている
Googleの「セキュリティ」のおかげで、6年間ファームウェア更新が止まった9年前の端末では銀行アプリが使えるのに、GrapheneOSでは使えない
localStorageを使うサイト機能は不利になり、複数のサブドメインを使う同一サイトのWebアプリは、ときどきデータをネットワーク経由で漏らさざるを得なくなるFirefoxやChromeではローカル状態をオフラインで非公開共有できるが、たいていSafariまで対応するためにCookieを使う。Appleは金銭的に利益になる時だけプライバシーを支持する
データが保存されたサーバーとアプリケーションを同じ会社が運営し、アプリがクローズドソースで、いつでもダウンロード済みデータを復号して処理できるなら、真のエンドツーエンド暗号化は不可能だと考える。
Proton、MEGA なども、会社がローカル復号機能を悪用しないと選択している間だけ有用である。サイト運営者が JavaScript コードを好き勝手に変えられる Web ベースの E2EE を嫌う理由も同じだ
NSA・GCHQ・Mossad なら暗号化されていないデータを抜き出す方法があるだろうが、独占的な E2EE でも大半の人には有益だ。リスクが「世界のほとんどの法執行機関が理論上は私のメッセージを見られる」から「Mossad の標的になり得る」へと変わるからだ。私の住む場所の FBI 相当機関は Cellebrite のライセンスを買うのすら惜しがるので、なおさら有利である。
https://www.usenix.org/system/files/1401_08-12_mickens.pdf と https://arstechnica.com/gadgets/2025/10/leaker-reveals-which... も参考になる。Meta がスキャンを支持し、Facebook メッセージから E2EE をなくそうとしている理由は規制の虜であり、Zuckerberg は子どもを「保護」し、「安全でない」競合を排除する特権を欲している
mega.nzにログインせずサードパーティ製アプリを使えば問題なく、MEGA はユーザーに気づかれず制御や改変をしにくい SDK も提供している米国法には、犯罪 A を防ぐために行為 B を違法化するという逆説がある。たとえば A が児童に対する実際の性的虐待なら、B は CSAM の所持・流通であり、A が麻薬取引や脱税なら、B は現金の分割引き出しである。
B をより強く取り締まるほど A の検出は難しくなり、B を A の証拠として使うことも難しくなる。実在人物に実際の行為がなくても、架空人物の絵や創作物のために CSAM 関連で有罪判決を受けることがあり、犯罪と無関係な分割引き出しでも処罰され得ると理解している
法を「ある個人が別の個人に与えた損害を補償する功利主義的な仕組み」とだけ見るのはナイーブだ。これは犯罪というより不法行為に当たり、刑法は個人間の被害処理と同じくらい、社会的慣習や規範を強制する役割も持つ。カナダが架空作品を含むあらゆる CSAM を禁じているのも、社会そのものを被害者と見なすからだ
架空コンテンツを根拠にした有罪判決はいくつかあるが、たいていは被告が実際の CSAM も所持していて、架空画像の容疑を別途争う実益がなかった
被害を受けた子どもがプライバシー保護の「付随的被害」として残されたという裁判官の評価は痛ましいが、エンドツーエンド暗号化ではCSAMスキャンは不可能であることを意味する。
Appleは代案として端末内スキャンを試みたが、激しい批判を浴びた。不幸な折衷案ではあるが、プライバシーを優先する以外に代案は見当たらない。
技術的にプライバシーを破壊する全面監視網を作れるからといって、作るべきだということにはならない。携帯電話が250年前に存在していたなら、アメリカ建国の父たちもその中身は令状なしに捜索できない私的文書だと当然考えただろう。
最優先は常にCSAMの制作そのものを防ぐことであるべきだ。幼い頃から包括的な性教育を提供し、グルーミングを見抜けるようにし、家族が加害者であっても信頼できる大人に助けを求められるようにすべきだ。学校を改善してホームスクーリングの魅力を下げ、ホームスクーリングの子どもの社会的孤立の有無にも目を向け、現場捜査にははるかに多くの資源を投入すべきだ。
ホームスクーリングがすなわち児童虐待だという意味ではなく、その環境では虐待を検知する仕組みが不足しているという意味だ。
人がいない時にこっそり調べれば誰も気づかないのだから問題ない、という理屈と変わらない。
プライバシーと自由の勝利だ。
mediaden.caを作った立場として長く考えてきたが、クライアントサイドスキャンがサーバーサイドスキャンよりほんの少しだけましだとしても、どちらもプライバシーの腐敗につながる。
政府は犯罪者を捕まえるべきだが、ほかのすべての人を犠牲にしてはならない: https://mediaden.ca
Appleの設計は、iCloudストレージ上でスキャンするのではなく、ファイルをiCloudにアップロードしようとする瞬間に端末内で検査する方式ではなかったかと思う。そうであればAdvanced Data Protectionと両立するので、Appleが方針を急転換したのではなく、ADPはもともと計画されていた可能性がある。
むしろAppleは、ADP導入の過程で政府機関の懸念を予想し、NeuralHashをエンドツーエンド暗号化実現の手段として提案した可能性がある。設計自体は洗練されており、MicrosoftやGoogleよりはるかに強いプライバシー保護と安全策を提供していたが、Appleのコミュニケーションがひどく、甚大な逆風を招いた。実装に賛成するという意味ではないが、競合他社の方式よりははるかにましだった。
AppleはCSAM騒動への対応を非常にまずく処理した。この件で「Hair Force One」はCEO後継候補のリストから外れたのかもしれない。
法律家ではないが、スキャンが可能だった理由は義務事項ではなかったため、アメリカ合衆国憲法修正第4条の問題が生じなかったからだと理解している。