Apple、iCloudでのCSAMスキャン計画を断念
(wired.com)2021年8月、Appleは子どもの保護のため、自社製品に2つの新しい安全機能を導入すると発表しました。
1つは、ユーザーがiCloudに写真をアップロードする際、その写真がCSAM（児童性的虐待コンテンツ）かどうかを画像ハッシュベースで検出するというもので、もう1つは、iMessageを通じて未成年者がわいせつな写真を受信または送信することを検知した場合、その写真を隠して警告するフィルタリング機能を追加するというものでした。
この発表は大きな論争を呼びました。すぐにApple社内の従業員からも懸念の声が上がり、EFF（電子フロンティア財団）をはじめとする多くの団体や人々が、これに反対する公開書簡に署名しました。GeekNewsにも関連する記事がいくつも掲載されました。
Appleはこれに対し、プライバシーが侵害されるというのは誤解だと説明しましたが、論争と懸念は簡単には収まりませんでした。実際、その後GoogleのCSAM検知アルゴリズムによる一方的な措置で被害を受けた事例がニューヨーク・タイムズで報じられ、こうした懸念が決して根拠のないものではないことも明らかになりました。
- Apple、子ども保護のための新しい安全機能を導入
- Apple、「iPhoneスキャン」論争に遺憾
- Apple、子ども保護のためのiCloud写真スキャン機能の提供を延期
- CSAM、人々はAppleの何を懸念しているのか？
- 病気の赤ちゃんの患部写真を撮った父親をGoogleが犯罪者扱い
今回AppleがWIREDに明かしたところによると、iCloudに写真をアップロードする際にCSAMかどうかを検査するという計画は取りやめたとのことです。
その代わりに、未成年者がわいせつな写真を受信または送信することを検知した際に警告するフィルタリング機能をさらに強化する方針だとしています。具体的には、写真だけでなく動画でもこの機能を提供するために研究を進めており、またiMessage以外のアプリでも、このようなオンデバイス機械学習ベースのCSAM検知機能を利用できるようにする予定だといいます。そして論争を避けるためか、こうした機能はデフォルトでオフになっていること（opt-in）、またApple側ではこの検知の事実を把握しないことを強調しています。
昨年の論争があまりに激しかったためか、クラウド上にアップロードされた写真をスキャンする計画は完全に廃止し、その代わりに端末内でCSAMを独自にフィルタリングする機能をさらに発展させる方向に進むようです。しかし、オンデバイス機械学習による検閲も当時から論争の核心的な争点の1つだったため、Appleの今回の対応が関連する論争や懸念をすべて鎮めるにはやや不十分ではないかと思われます。
3件のコメント
Googleの件を見て心配していましたが、Appleが断念すると聞いてひとまず安心しました。
こうした私見の入った文章もとても良いですね
すっきりとしたまとめをありがとうございます！