- 米第3巡回区控訴裁判所は、TikTokの推薦アルゴリズムが10歳のNylah Andersonに「Blackout Challenge」動画を表示した事件で、TikTokがSection 230免責だけで訴訟を免れることはできないと判断
- 争点の核心は、プラットフォームが第三者の投稿を単にホスティングしたかどうかではなく、「For You Page」で年齢・相互作用・メタデータに基づいて動画を選別・推薦した行為がTikTok自身の表現に当たるかどうかだった
- 判決はMoody v. NetChoiceの論理を逆用し、プラットフォームがキュレーションされたフィードについてFirst Amendment上の保護を主張するなら、Section 230でもそのキュレーションをプラットフォーム自身の発話とみなせるとした
- Paul Matey判事は補足意見で、TikTokはchallenge動画の発行者ではなく配布者(distributor) とみるべきであり、初期のSection 230判例が発行者と配布者の区別を消したのは誤りだと判断
- 今回の判決は、第3巡回区内でアルゴリズム推薦の責任訴訟への道を開いたままとし、最高裁への上告・議会立法・プラットフォームの事業モデル・原告側の訴訟戦略に直接影響しうる
TikTok推薦アルゴリズムをめぐる第3巡回区の判断
- 米第3巡回区控訴裁判所は、TikTokがSection 230を根拠に責任を免れることはできないとし、下級審の訴え却下を覆した
- 事件の核心は、TikTokがアルゴリズムによって10歳のNylah Andersonの個別化された「For You Page」に、第三者が投稿した動画を推薦・拡散した点にある
- 当該動画は、視聴者が自ら窒息行為を撮影するよう促す「Blackout Challenge」を示していた
- Nylahは動画を見た後にchallengeをまねし、意図せず首をつって死亡した
- Nylahの母Tawainna Andersonは、TikTokおよびByteDance関連会社を相手取り、ペンシルベニア州法上の製造物責任、過失、不当死を理由に提訴した
- 下級審は、TikTokは他人の発話をホスティングしたにすぎず、自ら発話したわけではないとして請求を棄却していた
- Paul Matey判事は判決文で、TikTokは「Communications Decency Act第230条を、10歳の少女の死に無関心でいてよいという意味に読んでいる」と批判した
Section 230が拡大した過程
- Section 230は、1996年にProdigyやCompuServeのようなオンライン掲示板サービスが利用者コメントについて責任を負うかを扱うため制定された
- 基本構造は、interactive computer serviceが他人の発話をホストする際にはその発話について責任を負わず、自らの発話についてのみ責任を負うというもの
- プラットフォームが、わいせつ・淫ら・過度に暴力的・嫌がらせ的・その他不適切とみなす資料について、善意でアクセスを制限する場合にも責任を負わないようにした
- その後インターネットは、1996年には存在しなかったソーシャルメディアやデータベース型の監視広告まで含むほど拡大し、裁判所はSection 230の適用範囲をオンライン商取引やホテル予約サイトなどにも広げた
- 1997年の第4巡回区控訴裁判所によるZeran v. America Online以降、8つの巡回区控訴裁判所が拡張的解釈に従い、プラットフォームが被害を助長していても責任を負わない方向で判例が形成されてきた
プラットフォームが得てきた二重の保護
- 大手プラットフォームは、規制を避けるときには自らの活動を発話だと主張してFirst Amendmentによる保護を求め、名誉毀損や違法発話の責任を問われるときには他人の発話を載せる器にすぎないとしてSection 230免責を主張してきた
- この構造は、ある裁判所が表現した「lawless no-man’s-land」を生み出したとの批判を受けている
- Section 230免責に関連して言及されてきた被害事例は多岐にわたる
- Grindrが性暴力を容易にしたとされる事例
- 信用報告機関が信用報告の誤りに対する規制を回避しようとした事例
- Facebookが民族的暴力を助長したとされる事例
- 2023年にIRSが個人情報詐取と表示した納税申告が100万件を超え、情報の多くがLinkedInやMetaのサイトから収集されたという事例
- Facebookで詐欺師が軍人になりすまして遠距離恋愛詐欺を行う事例
- ソーシャルメディア企業がギャンブル依存者を「social casino」アプリにターゲティングする事例
- Clarence Thomasは2022年、Section 230の拡張的解釈を批判し、Facebookが人身売買業者によるサービス利用を止めなかった理由として、ユーザー数と広告収益の減少を避けたかった点を指摘した
NetChoiceの論理をSection 230に差し戻した判決
- 近年、裁判所はLemmon v. Snapのような事件で、技術プラットフォームの有害な機能を発話法ではなく製造物責任法の観点から扱い、Section 230を狭め始めている
- 最高裁は2023年にGonzalez v. GoogleとTwitter v. Taamnehを審理したが、Section 230自体については実質的な立場を示さなかった
- Moody v. NetChoiceで最高裁は、Florida州とTexas州が大手プラットフォームによる政治的観点の差別を防ごうとした法律は違憲である可能性が高いとみた
- キュレーションされたフィードで政治的発話を排除するプラットフォームの編集裁量は、First Amendmentの保護を受けると判断した
- ただし、フィードが独立したコンテンツ基準なしにユーザーのオンライン行動にのみ反応し、ユーザーが望むコンテンツを与えるだけの場合は発話ではなく、規制可能だと区別した
- 第3巡回区控訴裁判所はこの論理をSection 230に適用した
- プラットフォームのアルゴリズムが、第三者の発話を望ましい形に束ねる編集判断を反映しているなら、それはFirst Amendment上保護されるプラットフォーム自身の表現であり、Section 230でも一次的発話に当たるとした
- TikTokのアルゴリズムは、ユーザーの年齢、人口統計、オンラインでの相互作用、その他のメタデータなどに基づいて、FYP向けのカスタム動画群をキュレーション・推薦していたため、TikTok自身の発話として扱いうるとされた
Paul Matey判事の配布者責任論
- Paul Matey判事は、下級審判断を覆すことには同意しつつも、Section 230をさらに強く縮小する別個の論理を示した
- 彼の核心は、TikTokをchallenge動画の発行者(publisher) ではなく配布者(distributor) とみるべきだという点にある
- 伝統的に、わいせつ物販売などでは、資料を作った著者・出版社の責任と、書店・図書館・新聞売り場のような配布者の責任は区別されてきた
- 初期のSection 230判例はこの発行者・配布者の区別をなくし、Matey判事はその判例は誤っていたとみている
- アルゴリズムによる増幅を行うTikTokは、伝統的なcommon carriageの観点からは配布者として理解する方が適切であり、このアプローチはRohit Chopraや複数の最高裁判事の問題意識とも通じる
党派を超える規制構図と今後の波紋
- ビッグテックの権力と発話の問題は、単純な党派構図には収まらない
- 最高裁ではClarence ThomasとKetanji Brown JacksonがBrett Kavanaugh・Elena Kaganと異なる側に立つことがあり、Amy Coney Barrettはスイング・ジャスティスと評される
- TrumpもBidenもSection 230に敵対的である
- Brendan Carr、Rohit Chopra、Lina Khanなど、共和党・民主党双方の規制当局者は長年Section 230の乱用を懸念してきた
- 今回の第3巡回区事件では、Obama指名のPatty Shwartz判事とTrump指名のPeter J. Phipps判事が本案判断に同意し、Trump指名のPaul Matey判事はSection 230をさらに縮小すべきだとの立場を示した
- 判決は、第3巡回区が多くの裁判所のSection 230解釈と分かれる効果を持ち、事件は上訴されて最高裁まで進む可能性が高い
- Section 230が盾として機能しないなら、Facebookでの軍人なりすまし詐欺、州の賭博法違反の支援、大規模な個人情報窃取、性暴力、児童虐待、一般的な名誉毀損請求などについて、プラットフォーム責任を問う訴訟の可能性が高まる
- Silicon Valleyは、議会がSection 230「改革」を立法するようロビー活動を準備する可能性があり、一部の経営陣は、プラットフォームが自らの行為に責任を負う環境に合わせて事業モデルを修正する案を検討する可能性がある
1件のコメント
Hacker Newsの意見
現在の反応は、この判決がソーシャルメディアの終わり、あるいは政府による検閲につながるという方向に見えるが、そう断定するのは難しいと思う
核心は、ソーシャルメディアが中立ではなく、人々が何を見るかを選別している点にある。単にコンテンツをホスティングする中立的な当事者ではないなら、その選別がアルゴリズムで行われたからといって責任が消えるわけではない、という判断として読める
広く見れば、一種のネット中立性のように捉えることもできる。現在のソーシャルプラットフォームは、あるコンテンツを押し上げ、別のコンテンツを下げており、人々が主にフィードを通じて相互作用しているなら、ISPとウェブサイト間の優先順位の問題に似た現象になる
個人的には、この判決がどのような変化を生むのか見てみたい。もはやHN以外にアカウントを持っているソーシャルサイトがないほど大半がひどくなっており、もしかするとソーシャルメディアがまた耐えられるものになるかもしれない
ところがこの判決に従えば、モデレーション行為のためにHNがすべての投稿に責任を負う可能性があり、選択肢は二つしかないかもしれない。モデレーションをやめて4chanのようになるか、匿名アカウントを禁止し、利用規約で投稿者責任を強めるか、すべてのコメントを手動承認する形でモデレーションをはるかに強化するかだ
ユーザーコンテンツをモデレーションしながら違法コンテンツの責任を避けるウェブサイト運営が、どうすれば可能なのかよく分からない
もともとの法律では、プラットフォームが少しでもモデレーションを行うと、ユーザーが投稿したすべてのものについて責任を負い得る構造だった。Section 230は、スパム・わいせつ物・荒らしを削除したり順位を下げたりしても、削除しきれなかった別のコンテンツを理由に訴えられないようにする仕組みだった
選別そのものが問題だという考えは、いつも理解しにくい。ソーシャルメディアを使わず、単にウェブに直接公開する選択肢は常にあるが、人々は繰り返しその選択をあまりしてこなかった。この判決は極端には、その選択肢だけを残す可能性もある
ただ実際にそうなるとは思えず、運営コストが上がって広告単価に反映される可能性が高い。エコシステムは縮小するかもしれないが、確かなのは、大手ソーシャル企業の堀にかかる跳ね橋がさらに上がり、競争が減る方向だということだ
偏りのないメディアを理想として探すより、偏りを公開してくれるほうを望む。自分たちについて十分に知らせ、どこに偏りがあるのかを明らかにしてくれなければ、こちらは判断できない
裁判所の考え方とも大きくは違わない。編集は表現であり、「For You」ページも編集されたもので、TikTok自身の表現だという論理だ。ただし、ソーシャルメディアが全般的に不快な空間だという大きな指摘には同意する
この件は、TikTokが何を知っていたかにかかっている
判決文は、Nylahが動画を見る前にTikTokが、1) 致命的なBlackout Challengeがアプリ上で広がっていたこと、2) アルゴリズムがそれを子どもたちに具体的に配信していたこと、3) For You Pagesでそれを見た後に複数の子どもが死亡したことを知っていた、と記している。それにもかかわらずTikTokは、拡散を止め、子どもたちの目に触れないようにする措置をまったく取らなかったか、完全に不十分な措置しか取らず、Nylahのような子どもたちに推奨し続けたということだ
TikTokが何を「知って」いたのかを見るには、「App. 31–32」の文書を見る必要がある。Pacerアカウントが必要かもしれず、虐待の通報を無視していたのかも気になる
似た争点はGonzales vs. Google（2023）でも最高裁まで進んだ。イスラム国のジハードを支持するよう促す動画を推奨したことが、誰かを参戦させ死亡させたのかに関する事件で、裁判所はテロ関連の請求を退け、Section 230の争点は扱わなかった
https://en.wikipedia.org/wiki/Gonzalez_v._Google_LLC
この審査手続きは、はるかに厳格な中国市場の表現基準を満たすために開発されたものだが、ここではむしろより大きな責任の可能性を開く
関連記事を再び見つけられないが、「動画をバイラルさせる方法」のようなフローチャートに埋もれており、それらの資料は「いつ禁止されるのか」の判断を省いている
https://storage.courtlistener.com/recap/gov.uscourts.ca3.118...
残りの書類はここにある
https://www.courtlistener.com/docket/67500541/tawainna-ander...
TikTokはアルゴリズムを通じて、第三者が投稿した動画を10歳のナイラ・アンダーソンのパーソナライズされた「For You Page」に推薦・プロモーションし、そのうちの一つが視聴者に自己窒息行為を録画するよう促す「Blackout Challenge」だった。
その動画を見たナイラはチャレンジをまねている最中に、意図せず首をつって死亡した — https://cases.justia.com/federal/appellate-courts/…
アルゴリズムが偶然にも、子どもが自ら首をつるよう誘導した形だ。複数のWebサイトでは、ユーザーの人口統計に応じて読む記事を推薦するコードを動かしているが、そのコードには自己窒息に関する記事が子どもに推薦されるのを防ぐ仕組みがない。
結局、そのソフトウェアを使う顧客がそうしたコンテンツを投稿せず、似た人口統計の人々が読まず、子どもが推薦を受けても読んでまねしない、という前提に依存している。この前提が崩れたら、私や雇用主が責任を負うべきなのか？
報酬を得る仕事をしておきながら、その結果には関心を払わず、ただアルゴリズムだからという理由だけで自動的な免責を望むべきではない。利益は享受しながら責任を避けるのは卑怯で幼稚な行動であり、幼稚な行動には大人の監督が必要だ。
ナイラが動画を見る前に、TikTokはBlackout Challengeがアプリ上で広がっており、アルゴリズムがそれを子どもたちに配信していて、For You Pagesでそれを見た複数の子どもが死亡した事実を知っていた、とされている。それにもかかわらず、拡散を防いだり子どもに表示されないようにしたりする措置を取らなかった、または十分に取らず、引き続き子どもたちに推薦していた、という内容だ。
こうした行為は合法であるべきだと思うか？ 自分が配信しているコンテンツのせいで子どもたちが直接的に死んでいると知っていたら、何もしないのか？
ただし、そのプラットフォームは記事推薦に関するものであって、人気の流行をまねる自分を録画するサービスではないかもしれない。子どもが対象ユーザーではない、あるいはそもそもユーザーではない可能性もある。多くの面でTikTokとは状況が異なる。
裁判所は、プラットフォームのアルゴリズムが第三者の表現を望む形で集める編集上の判断を反映しているなら、それはプラットフォーム自身の「表現的産物」であり、合衆国憲法修正第1条の保護を受けると見た。
最高裁が、プラットフォームが表現的アルゴリズムによって他人のコンテンツの束を選別する際には保護される一次的表現を行っている、と見た以上、Section 230でもそれは一次的表現だと見るのが自然だ、という論理だ。
以前から同意してきた。これは時系列、スレッド型、あるいはサイトの制御外にあるエンドユーザーの推薦・調整重み付けによる並び替えのような「自然な結果」ではなく、選択の問題だ。
私のフォーラムが4×4オフロードのような狭いテーマを扱っていて、明らかに人間が書いた投稿だが米国政治のように著しくテーマから外れた投稿を削除した場合、それもまた削除しなかったすべての投稿について責任を負わせるのか？
シリコンバレー企業のような巨大な法務チームを持たない人々にとって、この境界はどこにあるのか？
Section 230の意図や、アルゴリズムベースのターゲット推薦にSection 230がどの程度適用されるのかを語るなら、Section 230の共同起草者であるRon WydenとChris CoxがGoogle v. Gonzalez（2023）に提出した意見書を見る必要がある。
Wydenのプレスリリースによれば、「Section 230は他のコンテンツ表示方法と同じ程度にターゲット推薦を保護し、この解釈はコンテンツ表示とモデレーションの革新を促そうとする議会の目的を実現する」とされている。ユーザー生成コンテンツのリアルタイム送信はオンライン活動の基盤となっており、Section 230の保護は制定当時と同じく今も不可欠だ、という内容だ。
[PDF] https://www.wyden.senate.gov/download/wyden-cox-amicus-brief...
https://www.wyden.senate.gov/news/press-releases/sen-wyden-a...
Coxは判例上、Webサイトが違法コンテンツの作成や発展に何らかの形で関与していれば、Section 230は盾になり得ないことが確立している、と書いた。FTC v. Accusearchでは、電話記録を作成したのは他者だったが、Webサイトが私的情報を公開商品へと変えたことが情報の「発展」に当たるとして、免責を失うと見た。
彼は続けて、Section 230を作る際には、オフライン世界の法的ルールがインターネットでも引き続き適用されるようにしようとした、と説明している。すべての事業者は、オンラインであれ実店舗であれ、自らの法的義務に責任を負うべきだという意味だ。
ただし結局、この件では当初の意図は大きな意味を持たず、法律を解釈する側は裁判所だ。実際、Section 230は最高裁で大部分が無効化されたCommunications Decency Actの一部である。
https://jolt.richmond.edu/2020/08/27/the-origins-and-origina...
オンラインユーザー、とくに子どもたちへの被害を減らすと社会が信じる新しい法律を作ることには反対しない。
ただし Section 230 がなくなる方向なら、すでに巨大な法務リソースと機械学習ベースまたは手動のモデレーション能力を持つ大手テクノロジー企業だけに有利になるのではないか？ スタートアップの参入障壁は耐えがたいものになる。
既存企業はユーザー提供コンテンツに関する責任から事実上のフリーパスを得て十分に成長したあとで、今度は政府がそのはしごを外しているように聞こえる。
大手テクノロジープラットフォームを話者として規制すべきかどうかが根本問題ではない、という解釈はかなり良い。彼らは話す主体というより仲介者である。
この視点は、配布者や制作者といったインターネット以前の法概念に依拠している。法や政府の仕組みはインターネット時代を扱うように設計されていないので全面的に作り直すべきだ、という考え方もあるが、この件はその反例としても関連性があり重要だ。
素晴らしい記事だ。筆者は今後の展開についてかなり多くの仮定を置いているようだが、インターネットの「無法地帯のノーマンズランド」時代が終わることへの熱意には共感する。
生成AIコンテンツの大惨事を待っている今の時点にもよく合っている。一つの大惨事を、少しだけ親切で人間に優しい別の大惨事に置き換えるようなものだ。
CDA 以前にもインターネットは存在し、記憶ではかなり素晴らしかった。その後もインターネットは存在しうる。巨大企業が一日中くだらないもので私たちの扁桃体を刺激しようと巨額の金を使わなければ、はるかに混雑が少なく、毒性も低く、刺激も弱く、中毒性も低い空間になるかもしれない。
Matey 判事の中心的な論点は、Section 230 は TikTok の行為のうち Blackout Challenge 動画をサーバーでホスティングしたこと以外には免責を与えない、という点にある。
このように定義すると、裁判所が解かなければならない厄介な技術的問題が生じる。ウェブの仕事をしていると、「ホスティング」はどこかにファイルを保存する行為として理解している。裁判所もそう見るのだろうか？ それとも配信、キャッシュ、インデックス化、リンク、フォーマット、レンダリングまで含めるのだろうか？ 発行者がその一部にでも責任を負うなら、業界は 1995 年とはまったく違う場所へ向かうことになる。
判決自体は、これは Section 230 全体ではなく、TikTok の特定動画の選別とパッケージ化に関する問題だと言っている。
TikTok はユーザーコンテンツそのものではなく、「For You」欄を構成した部分について責任を負うのである。政治目的であれ、Facebook や Twitter がやっているやり方であれ、人を操作するのはよくないという点で筋が通っている。だから Section 230 が終わったわけではない。
「For You」や YouTube のおすすめがなくなればいいと思う。時系列タイムラインが最高で、ある程度正気を取り戻すだろう。気に入らなければフォローしなければいい。
判決は、Nylah の FYP に Blackout Challenge を推薦した TikTok のアルゴリズムは TikTok 自身の「表現活動」であり、訴訟の基礎となる情報は第三者が提供したものではなく TikTok の FYP アルゴリズムによる推薦であるという点で、Section 230 は請求を妨げないと見た。
何のフィルタリングもなければ、それもまた人を操作するために使えるアルゴリズムであり、見えるのは SEO ページの山だけになるだろう。こういう形で責任を開いたままにするのは、インターネットにとって良い結果を生みにくい泥沼だ。
YouTube のおすすめや TikTok のアルゴリズムが私を「操作」しているとしても、個人的にはまったく問題ない。
基本的に、ソーシャルネットワークに対する政府の統制へとますます近づいているように見える。世界的な傾向のようで、政府がコミュニケーションサービスやソーシャルネットワークの運用ルールを定めることになる
ただし、Facebookが特定のコンテンツを選んで目立たせようとするなら、その時点で潜在的な責任が生じる。
この訴訟で問題になった行為は、TikTokが、子どもがまねをすると危害を受ける可能性の高いチャレンジを未成年者にターゲティングしていることを知っていた、または知るべきだった、というものだ。これは単なるモデレーションをはるかに超えており、複数のソーシャルメディア企業が法廷で、自社の表現だと主張してきた種類の行為でもある
何を見せるかを選ぶことが、結果を伴い得る自由な表現の一形態だと認めるものであって、その表現を統制しようとする試みではない
当該指令は2000/31/ECで、すでに24年経っている。EU DSAの前身であり、DSAと同様に2000/31/ECにも域外適用の範囲がある
たとえば、たばこ、酒、大麻の広告を子どもに向けることは認めていない。今や企業は、「Blackout Challenge」のような愚かなものを子どもに送りつけた結果も引き受けるべきだ。
「どこかの愚か者が我々のプラットフォームに投稿した」のと、その投稿を宣伝・推奨して全員に送りつけたのはまったく別の話だ。企業は自らの行動に責任を負うべきだ