Discordの顔スキャンによる年齢確認、より大きな変化の始まり
(bbc.com)- ゲーマー中心のサービスとして始まったDiscordは、成人向けコンテンツのコミュニティも抱える大規模プラットフォームとなり、英国・オーストラリアで年齢確認テストを開始した
- 英国オンライン安全法は、成人向けコンテンツを含むプラットフォームに対し7月までに強力な年齢確認を求めており、未遵守の場合は世界売上高の最大10%の罰金が科される可能性がある
- ユーザーは顔スキャナーまたは写真付きIDのアップロードのいずれかを選べ、Discordは顔スキャンは端末にのみ残り、IDは確認後に削除されると説明している
- Big Brother Watchは、年齢確認技術がセキュリティ侵害、プライバシー侵害、誤判定、デジタル排除、検閲を招きうるため、万能な解決策ではないと批判している
- Instagramの2022年の顔分析導入、オーストラリアの16歳未満ソーシャルメディア禁止計画、ニュージャージー州によるDiscord提訴まで重なり、プラットフォームへの年齢保証圧力が高まっている
Discordがテストしている年齢確認の方式
- Discordは英国とオーストラリアの一部ユーザーに年齢確認の実験を適用している
- 全世界の月間ユーザー数が2億人以上だと明らかにしている
- もともとはゲーマーが多く使うプラットフォームだったが、現在はポルノグラフィーを含むさまざまなテーマのコミュニティがある
- 確認手続きは、ユーザーがDiscordによってセンシティブなコンテンツと表示された内容に初めて遭遇したとき、またはセンシティブメディアの表示設定を変更するときに表示される
- ユーザーは2つの方法のうち1つで年齢を確認する
- 顔スキャナーを使用
- 写真付きIDをアップロード
- Discordはこの手続きを1回限りの検査として運用している
- 同社によると、年齢確認情報はDiscordや認証会社に保存されない
- 顔スキャンは端末に残り、収集されない
- IDアップロードは確認完了後に削除される
- 未成年にはセンシティブなコンテンツがすでに自動でブロックされるか、ぼかして表示される
7月の規制期限と業界の反応
- 英国オンライン安全法は、成人向けコンテンツを含むプラットフォームに対し7月までに強力な年齢確認を求めている
- 法令を守らない企業は世界売上高の最大10%の罰金を受ける可能性がある
- ソーシャルメディア専門家のMatt Navarraは、規制当局が「実際の証拠」を求めているため、顔認識が最も早いルートになりうると見ている
- 彼は「13歳であることを確認するにはここをクリック」という時代は終わったと述べている
- 年齢確認を誤って扱えば、ユーザー離れだけでなく法廷闘争や罰金にもつながりうる
- Instagramは2022年、18歳以上にプロフィール設定を変更しようとするユーザー向けに顔分析ベースの年齢確認を導入した
- ユーザーは携帯電話でセルフィー動画を撮影し、AIが年齢を推定する
- Discordのように写真付きIDのアップロードも代替手段として提供している
- Big Brother WatchのMadeleine Stoneは、年齢確認技術は「silver bullet」ではないと批判している
- 懸念されるリスクはセキュリティ侵害、プライバシー侵害、誤判定、デジタル排除、検閲である
- Age Verification Providers AssociationのIain Corbyは、最新技術がセルフィーや手の動きをもとに年齢を1〜2年の範囲で推定できると述べている
- プラットフォームは有害コンテンツを削除するか、サイト全体へのアクセスに年齢確認を適用するか、または高リスクのページや投稿にアクセスする前にのみ確認を求めることができる
- オーストラリアは今年、16歳未満全体を対象とするソーシャルメディア禁止を導入する計画だ
- 最近の研究によると、オーストラリアの8〜12歳の子どもの80%以上が13歳以上向けのソーシャルメディアまたはメッセージングサービスを利用している
- ニュージャージー州司法長官Matthew J. Platkinは、Discordが保護者に対して安全管理機能と、アプリ内で子どもが直面するリスクについて誤解を招いたとして提訴した
1件のコメント
Hacker News のコメント
かなり前（それでもこの10年以内）に、あるサイトで年齢確認が必要になったことがあったが、身分証や顔スキャンの代わりにクレジットカード番号を求められた
カードに数セントを返金し、24時間以内にその金額を入力するよう求められ、その後同じ金額を再度請求して回収する仕組みだった。デビットカードやギフトカードは不可で、必ずクレジットカードでなければならないと言われ、Visaカードで +$0.24 の返金を確認して入力すると成人認証が完了した
結局、クレジットカードを持っているという事実だけで成人であることを証明したわけだ。顔認識や身分証確認を強制する目的は、成人かどうかの確認ではなく、誰がサービスを利用しているのかを記録し、特定のプロフィールに実名を結び付けるためだ。業者が情報を保管しないと誓っていても、第三者を使っている場合が多く、政府が秘密令状や召喚状を持って来たときに、その第三者が同じ基準を守るかどうかも分からない
生体認証は監視そのものだ
その結果、この20年間、商業的なインターネットポルノは「I’m 18」ボタンを押すだけで子どもでもアクセスできる、事実上規制のない状態になった。当時はフィルタリングの方がより良い解決策と考えられていたが、今では TLS、DoH、ECH、ユーザー証明書を無視して所有者による制御を妨げるアプリ、クラウドCDN、TLSフィンガープリント、Discord のように Minecraft の議論と furry ポルノが同居するソーシャルメディアの集中化のせいで、フィルタリングはほぼ不可能になっている
カード発行会社や一段離れた銀行は、いずれにせよ生体情報も持っている可能性が高い。どちらも嫌だし、2004年に作った Google アカウントでログインしているのに、YouTube がなぜ年齢確認を求めるのかも分からない
ただし、身元証明としては十分ではない。旅行中の叔父のクレジットカードを使っている可能性もあるため、規則上は他の証拠と組み合わせる必要がある
本人確認を広告や追跡のような悪意と結び付けることが多いが、この分野で働いてみると現実はずっと面白みがない。本人確認会社は、顧客と規制当局の厳しい監視の下でその仕事だけをしている。プライバシー保護の観点で望ましい水準ではないが、業界は改善中であり、本人確認データの利用は厳しく規制されている
ごく少額を入金し、おそらくそのまま受け取らせていたような気がするが、確かではない
政府は顔写真や身分証情報と同じように、この情報も同じくらい簡単に召喚できる
これは決して子どもたちを守るためのものではない
常に政府権限の拡大に関わる問題だ。オンライン上の身元が政府に知られていれば、人々は政府を批判したり政治的議論に参加したりする可能性が低くなる。政府は従順で怯えた市民を好む
こうした法律に対する唯一倫理的な対応は、ウェブサイトやアプリが、そのような法律を作った国でサービスを完全に停止することだ。人権とプライバシーを尊重しない政治家を選んだ市民は、そもそも良いものを享受する資格もあまりない
こうしたことは、世界最大級のテック企業を通さずには起こり得ない。偶然にも、その企業たちはすでに世界の公式デジタル身元提供者、そして私設インターネット区域の提供者になる準備ができている
Microsoft が Windows でやったことを見てみればいい。インストールに最低限 TPM を強制し、ローカルユーザーにも Microsoft アカウント登録を求めている。iCloud アカウントや支払い手段なしに Apple iPad や iPhone を使ってみることも難しく、Google は至るところで強くログインを求める。Cloudflare はこの10年間、ウェブの私設ゲートキーパーであり、Facebook の製品そのものが身元だ。IBM は何十年にもわたり、監視、IAM、顔認識サービスを売ってきた
粗雑なIPベースの Great Firewall の代わりに、世界中どこでも個人の検証済み国家身元によって VPN を無力化し、不要にできると想像してみてほしい。クリック一つでプラットフォーム上の「Islamic State」グループのメンバーを全員ブロックし、無効化する。クリック一つで、特定の郵便番号に登録されたIDだけが選挙で投票できるようにする。「CortanaSupreme、孤独を示す利用パターンで視聴者指標をダッシュボードに表示し、身長、直近の査定不動産価値、婚姻状況でフィルタリングして位置も表示して」
現在の法律は、年齢確認そのものではなく、不適格者を排除することを求めている。酒を売る場合でも、必ず身分証確認をしなければならないという法的要件はなく、メールアカウント提供者の最低登録年齢が13歳なら、5年以上経過したメールアカウントの保有者を18歳と推定してもよいはずで、わざわざ顔の深度マップが必要な理由はない
親に子どものインターネット利用管理の責任を押し付けるやり方は失敗したが、ここでかかっているものはそれよりはるかに大きい
世界的なコミュニケーションの素晴らしい実験だったが、今ではかつて伝統メディアやプロパガンダチャネルを使っていた権威主義者たちが使う武器に変わった。AI は悪用の可能性をさらに速く拡大しており、幼い頃から教える批判的思考力だけが唯一の防御策だ
名に値する政府なら、何よりまず有権者が選んだ代表者たちの集合であり、その代表者を再び選ぶ市民と同じように、市民の利益に沿って行動すべきだ。そう機能していないなら、それは社会問題ではなく行政上の問題だ。国家とはその人口そのものだ
自由を支持する候補者に投票しても、その候補が負けることもあるし、有力候補のどちらも人権を尊重しないこともある。一方の候補が特定の形で人権を侵害する一方で、もう一方にはより大きな問題があり、次善の悪を選ぶこともある。選挙運動中にはあることを言っておきながら、当選後には違う行動を取る候補者もいる
プライバシーの悪夢はさておき、18歳なのに典型的な大人の顔つきではない人はどうするのかと思う。
逆に15歳でも思春期が早く来た人もいる。境界線上では本当に見分けるのが難しくなりそう。
間違えたらアクセスがブロックされるのか、身分証の画像を送らなければならないのか、疑問が多すぎる。最近の英国の変化はあまり気に入らないし、Appleのエンドツーエンド暗号化をめぐる状況も同じ。意図は理解できるが、最善の方向なのかは分からない。
最近その手続きを10回以上試したが完了できなかった。画像処理システムが私の顔の何かを気に入らなかったらしい。写真はすべての条件を満たしていた。
カスタマーサポートに連絡すると、別の手順は使わないと言われ、その手続きが別会社に外注されていて、Wise側も内部を把握しておらず助ける方法がないことがはっきりした。アカウントを閉じると、お金をどこへ送るかを決めるチームにエスカレーションされるとのことで、その時になって初めて人間が介入する余地が生まれるようだ。
結局、複数のデバイスに替えて試したところ、あるカメラでは顔が必要な楕円の中に入っているというチェックを通過し、Webアプリを動かすことができた。
「18歳以上である必要があります」というポップアップを出すことと、実際に若者を締め出そうとすることは別物。Discordも政府のレーティング機関も、子どもたちがどう育つべきかについて最終責任を負うべきではなく、それは親の責任に近い。
英国でもオーストラリアでも、行き過ぎた介入だ。
高校のとき、13〜14歳から男性型脱毛が始まった友人を知っていて、16歳頃には完全に進行していた。ほとんど先生のように見えた。
かなり若く見える女性で、24〜25歳まで未成年だと誤解されていた。母も27歳で第一子である私を産んだのだが、人々は父のことを、10代を妊娠させた汚らわしい年寄り男だと誤解して、厳しい視線を向けていたと言っていた。父は母より3歳年上なだけだった。
皮肉なことに、これを止める最良の方法はアイデンティティ政治に頼ることかもしれない。ある人種はより年上または年下に見えると判定される可能性があり、思春期ブロッカーを使ったトランスジェンダーは、法的には年齢に達していても自動化システムが期待する見た目と違うかもしれない。スキャンされた顔と身分証写真・情報の間に差が生じることもあるし、Discordにはトランスジェンダーの利用者が多い。プライバシーには誰も気を払わないが、トランスフォビアと人種差別については、少なくとも気にしているふりはする。
顔スキャンを保存しないと言っても、実際にデータベースを作っていないかどうかは分からない。保存しないのだとしたら、年上に見える友人や兄弟、いとこ、親の1人が未成年者グループ全体の「顔」になるのを何が防ぐのか分からない。スキャンされる顔がAI生成ではない、あるいはフィルターが適用されていないことを安定して確認する方法があるのかも疑問だ。親や兄弟、盗んだ身分証を送ることを防ぐのも難しい。
結局、セキュリティ劇場に近いように見える。
Michiganでオンラインカジノのプロモーションと友人紹介ボーナスを受け取るために、友人、その友人の黒人の友人と妻のアカウント作成を手伝った。いくつかのサイトはリアルタイム動画による顔認証を要求し、夜、暗い場所で行った。私と友人はすぐに問題なく通過したが、その友人夫婦は本当に多くの試行と追加照明が必要だった。
インターネットで若者がポルノを探すこと自体が問題だとは思わない。
本当の問題は注意力をめぐる心理戦にある。
ショート動画やニュースフィードのように、アルゴリズムが遅延なく次々と押し込んでくる形式が問題だ。意思決定をゾンビ化する。終わりのないコンテンツは、終わりがないという理由だけで人を壊す。年齢確認を追加しても、その終わりのない構造を根絶しなければ、若者にも大人にもあまり役に立たない。
不健全なコンテンツ中毒を見ると、常にコンテンツの種類よりも過剰さが核心だ。小児性愛者はインターネットがあろうとなかろうと昔からいた。しかし次の動画を際限なく食べさせる構造は、「もう1つだけ」と見させる精神的依存によって、止める能力を奪う。コンテンツは実際には無限ではないため、終わりのないフィードは結局、ポルノ、摂食障害、その他のゴミコンテンツを大量に供給することになり、人を少しずつ蝕んでいく。
単に薬物、暴力、小児性愛者、恐喝犯にアクセスさせる程度ではなく、そうしたアカウントと積極的につないでいる。子どもたちがフェンタニルで死亡したり、いじめや脅迫のために自殺したりもしている。
ポルノ依存も悪いが、それよりさらに深刻なことが起きているようだ。
「ソーシャルメディア企業は、ユーザーに携帯電話で自撮り動画を撮らせ、AIで年齢を推定する」とあるが、この記事でAIが13歳と12.9歳を自信を持って区別できるという内容は見当たらなかった。
その可能性は低そうだ。
これからWebサイトが皆の顔スキャンを永遠に欲しがるようになる、というこの記事の示唆は正しいと思う。顔スキャンを保存しないという言葉は、子どもがつくかわいい嘘のようなもので、大人はだまされない。露骨に嘘をつくか、画像を保存せずに画像から派生した固有の指紋のような数字の集合だけを保存するという抜け道を使うか、第三者に送って保存させるか、そんなところだろう。いずれにせよ、全員の顔を追跡しているのは明らかなのだから、下手にだまそうとしないでほしい、という感じだ。
サービスが適切な年齢基準以上かどうかを確認しつつ、プライバシー保護も維持できる工学的な解決策はあるはずだと思いたい
そのサービスはユーザーの身元を知る必要がなく、年齢確認サービスはユーザーがアクセスする年齢制限付きサービスの性質を知る必要もない、という方式が可能であるべき
暗号技術、証明書、SSO のようなものがある時代なら、この問題を解決すると決めるだけが残っているのではないかと思う
もちろん、本当の問題がユーザーの年齢ではなく情報収集なら話は別だが
15歳の中には20歳より年上に見える人もいるし、別の15歳の父親は運転免許証の入った財布をよく放置するかもしれない
今後5年間、15歳の子どもがどうにかして一度きりの18歳以上の年齢確認を通過したと知ってショックを受けた親の記事が、継続的に出てくるだろう
コンプライアンスがほぼ不可能だという事実は意図されたもの。この法律はそう設計されており、目的は表現の自由をめぐる反発を迂回しながらポルノ禁止を実現することにある
「私の上司は a. ばか b. 完全なばか c. 絶対に完全なばか d. 私の給料を握っている人」で、正解は d だった
時代遅れで、政治的にはかなり不適切
https://allowe.com/games/larry/tips-manuals/lsl1-age-quiz.ht...
答えとQ&Aの部分までスクロールすればよい
ドイツの住民登録証には10年ほど前から eID 機能があった。基本的には公開鍵/秘密鍵による署名方式で、政府と信頼された公共プロバイダーが身元を発行できる。その身元で取引に署名したり、商用サービス提供者に年齢を確認させたり、同意のもとで必要な一部データを渡したりできる。(https://www.personalausweisportal.de/Webs/PA/EN/citizens/ele...)
Estonia と South Korea も身分証に似た機能があると理解しており、すでに解かれた問題だ
https://news.ycombinator.com/item?id=40298552#40298804
これを話したり説明したりするのは、歯を抜くように大変だ。たいてい概念そのものを完全に誤解される。暗号証明書が現代のインターネットを可能にしたにもかかわらず、だ
法律で OS 提供者や ISP に求める、あるいは自分でツールを書くなど、いくつか方法がある
簡単にするなら、Discord が adults.discord.com と minors.discord.com の両方でサービスを提供し、親が18歳以上向けバージョンだけをより簡単にブロックできるようにすればよい
自分の子どもに何が適切かは、親が個人的責任を持って決めるべきだ
英国にいて、Discord からこの確認を求められたが、まだやっていない
Discord は今も普通に使える。ただし「成人向け」と見なすメディアを見られないようにブロックするだけ
成人ではあるが、原則として顔スキャンは許可したくない。なので https://github.com/hacksider/Deep-Live-Cam で自分自身を「ディープフェイク」して偽の顔を使い、認証を行うことを考えている。成功したら記事にするつもり
このキャンペーンの最終目標は、ソーシャルメディアに義務的な身分証確認を導入することのように思える
警察は裁判所命令などでここにアクセスでき、オンラインに「有害な」コンテンツを投稿した人を簡単に起訴できるようになる
李明博政権の最初の主要な変更の一つは、1日あたりの訪問者が10万人以上のウェブサイトに実名と住民登録番号の登録を求めたことだった。https://en.wikipedia.org/wiki/Internet_censorship_in_South_K...
その後、政府は事実上肩をすくめて済ませるだろう
少なくとも、選別された巨大テック企業版はそうなりそう
もちろん、成人向けコンテンツへのアクセスに身分証や年齢要件を求めることは、どの国でもかなり昔からあった
ここにいる多くの人と同じく、私たちも職場でこれに対応するには最終的に何をすべきなのか気になっている
これに専任者を置くリソースはなく、英国は大きな市場でもない
別の理由ですでに地域ブロックを実装する必要があり、意図的に VPN フレンドリーにも運用している。ほとんどのサービスがそうだと思うので、簡単な方法は「UK」を North Korea や Iran と同じリストに追加すること
十分に多くのサービスがそう実装すれば、英国がこうした法律を廃止し始めるか、中国並みの VPN 利用率を見ることになると予想している。そうなれば被害範囲は実際に英国拠点のサービスに限られる。残念ながら、そうしたサービスはすでに急速に消えつつある
国際的な技術コミュニティが、こうした圧力を一緒にかけてくれればと思う。最近の私たちに残されているのは数の力くらいだ
これは、子どもたちにとってインターネットを安全にするというより、全員を監視することに近いように見える
大企業や政府はすでに、私たちがオンラインで何をしているかを追跡している。これはインターネット上のプライバシーをさらに減らす、もう一つの段階のように見える
親は現実世界と同じように、子どもたちがオンラインで何をしているかにもっと関わるべきだ。外出禁止だけでは十分ではない。子どもたちを危険な場所で一人で歩き回らせないのと同じように、オンラインでも大人の監督なしにさまよわせてはいけない。ポルノやギャンブルとは何かといった難しい会話をする覚悟も必要だ
オンライン企業は、サイトをすべての人にとって安全にするために本気で努力すべきだ。ショッピングモールを運営していると考えるべきだ。ポルノ、詐欺、ギャンブルのような悪いものを入れれば評判は損なわれ、人々は離れていく
そうした活動を楽しむ人もいるため、すべてを禁止するのではなく、成人向けコンテンツを望む大人のための別のオンライン空間が必要かもしれない。都市の成人向け店舗が集まる地区のようにすれば、子どもたちがハードコアなコンテンツにアクセスするのを制限しやすくなる
子どもたちを守るための、簡単でプライバシーに配慮した解決策を見つけることに皆が少しずつ取り組めば、単純な原則に頼ることができる。たとえば子どもたちにおもちゃを売りたいなら、同じ屋根、つまり同じドメインの下で成人向けのおもちゃを売ったり、幼い心に影響を与えるポスターを貼ったりしてはいけない
私たちのような一部の変わり者を除けば、誰もがこうした法律を強く支持する。そんな武器を前にして、プライバシー保護の戦いはほとんど負けたも同然だ