- 米国14州の司法長官が、TikTokが児童・青少年に深刻な害を及ぼしていると主張して訴訟を提起
- 内部文書や従業員の発言から、依存性の高いアルゴリズム、メンタルヘルス問題、性的搾取および児童ポルノへの露出などが明らかに
- TikTokはこれらの問題を認識していながら、収益とユーザーエンゲージメントを優先して放置
- コンテンツフィルタリングシステムとペアレンタルコントロール機能は非常に非効率的で、子どもの流入を防ぐ年齢確認も失敗
- 多くのZ世代ユーザーも**「依存しているがやめられない」という認識を持っており、社会全体への純便益はきわめて否定的**
TikTokが子どもに与える産業規模の害
米連邦最高裁によるTikTok禁止法判断の予告
- 米連邦最高裁はTikTok禁止法に介入するかどうかを決定する予定
- この法律が施行されれば、ByteDanceがTikTokを売却しない限り、米国内のサービスは停止される
- しかし、メンタルヘルス、児童搾取、依存といった実際の害に関する証拠は法的審理から除外されている
- そのため、大衆的判断（世論）の重要性が強調される
TikTok内部関係者の証言と流出文書
主な司法長官訴訟と文書
- ケンタッキー、ユタ、ネブラスカ、ニューヨークなど14州の司法長官が提訴
- 内部Slack会話、企画文書、実験データなどが多数公開
- 意図的に青少年を標的にする設計とアルゴリズム戦略が確認された
- 黒塗りされた文書も、単なる黒いボックス処理で容易に復元可能だった
有害性クラスター1: 依存性と強迫的利用の誘導
- TikTokは10代が最も多くの時間と参加を提供できる標的だと明記している
- 依存性アルゴリズム、無限スクロール、自動再生、通知設計などによって強迫的利用を誘導
- 青少年は特に社会的報酬（いいね、コメントなど）に敏感で、自己調整能力が不足している
- 内部従業員も「私たちの製品は子どもの発達に有害だ」という懸念を表明
- 「TikTank」レポートは、特に青少年ユーザーが自己制御の失敗、睡眠妨害、学習能力低下などの副作用を経験すると言及
有害性クラスター2: メンタルヘルス問題とフィルターバブル
- 強迫的利用が不安、うつ、自己卑下、自傷、自殺衝動を引き起こす
- 実験アカウントはわずか20分で、うつ、自殺、摂食障害コンテンツで埋め尽くされたフィルターバブルに陥った
- TikTokは外見フィルターが自己イメージの歪みと低い自尊感情を引き起こすことを知りながら放置している
- コンテンツモデレーターは言語解釈不能、文脈不足、基準の曖昧さにより、自傷・自殺コンテンツを適切に遮断できない
有害性クラスター3: ポルノ、暴力、薬物コンテンツの流通
- 未成年アカウントにわいせつ物、薬物広告、暴力的動画が自動推薦される
- TikTokのコンテンツフィルタリングシステムは暗示的なコード言語を適切に処理できない
- 内部文書は薬物売買、売春、資金洗浄などがTikTok LIVEで発生している事実を認識している
- ユタ州司法長官は調査中、子どもが薬物ディーラーから直接接触を受けた事例を提示
- 深刻な有害コンテンツの30〜100%がフィルタリングされず露出している
有害性クラスター4: 性的搾取、CSAM、児童のライブ配信売春
- TikTokは児童性的虐待素材（CSAM）検知技術を意図的に導入していない
- 13〜15歳の子どもがLIVE配信で成人からギフト（仮想通貨）を受け取り、性的コンテンツを提供
- TikTokはこれを認識しながら、収益性とエンゲージメント維持を理由に放置
- 子どもが直接「アイスクリーム = penis、宇宙 = 服を脱ぐ」などのメッセージを掲げて出演する配信も存在
- LIVE機能は子どもにとって非常に有害だが、TikTokは「収益性が高すぎて制限できない」と内部で言及
有害性クラスター5: 年齢制限の無視と対応不足
- TikTokは年齢制限があるにもかかわらず、13歳未満の加入者と児童利用を知りながら制裁しない
- 年齢確認はほぼ無力で、未成年者は簡単に年齢を偽れる
- **ペアレンタルコントロール機能（Family Pairing）**もほとんど使われておらず、実質的な保護効果がない
- TikTokが安全機能を単に政府とメディア向けの「名目上の対策」として使っているという内部文書が存在
- DAU（日次アクティブユーザー数）とエンゲージメント維持があらゆる意思決定の核心目標であり、安全性は優先順位から外されている
若年ユーザーの後悔と依存性
- TikTokユーザーの多くは**「依存していると分かっているがやめられない」**と反応
- 実験結果では、多くが「みんなで一緒にやめるなら喜んでやめたい」と反応
- Harris Poll調査では、TikTokについて**「最初から存在しなければよかった」と答えた比率が47%**で、ソーシャルメディアの中で最も高かった
- TikTokは行動依存性と社会的依存性を同時に備えたプラットフォームで、ユーザー自身も自分に有害だと認識している
結論: 子どもの保護に向けたTikTok規制の必要性
- TikTokで生じている害は単なる事故ではなく、設計された結果である
- 米国の何百万人もの子どもが、通常の利用だけでも精神的・身体的に深刻な被害を受けている
- 現在のアルゴリズムとコンテンツ政策の下では、TikTokは子ども時代そのものを侵害するプラットフォームである
- 米国社会全体のためにも、1月19日のTikTokサービス停止は前向きな変化になり得る
1件のコメント
Hacker Newsの意見
Haidtはデータ分析において最も慎重な人物というわけではないが、この10年間、彼の主要な主張はおおむね正しい方向を向いていた
ケンタッキー州司法長官事務所がTikTokに関する報告書を公開した際、黒い四角でテキストを隠していたが、カーソルでコピーすると隠されたテキストを読めた。非常に笑える状況だった
子どもはいないが、テクノロジーと子どもへの向き合い方には別の方法もあり得るという個人的な経験を共有している
若い女性や10代の子たちが、贈り物の要求や性的なコメントを受け取るのが一般的だということに驚いている。これは18歳未満の人々に大きな影響を与え得る
内部報告書が、経営陣の聞きたくない内容を書く理由について疑問を呈している
ケンタッキー州司法長官事務所の不適切な黒塗り処理は面白いと思う
親たちが子どもの端末で特定のサイトをブロックしていればよかったのにと思う。検閲や監視を拡大する必要はなかったはずだ
ソーシャルメディアは中毒性があり、自分でブロックしなければならなかったという経験を共有している。教育的な観点で動画を見ることは有用かもしれないが、LLMの要約を通じて有益な内容を把握するほうがよい