NO FAKES法案が改定…インターネット上の表現とイノベーションへのより深刻な脅威

• NO FAKES法案が改定され、インターネット上の表現の自由とイノベーションに対する深刻な脅威へと変質
• 改定法案は単なるデジタル複製物の規制を超え、ツール・サービス・アプリまで遮断およびフィルタリングすることを要求
• 通報だけでコンテンツ、ツール、アップローダーの身元まで即時に遮断・開示できる強制的なシステムが導入
• 匿名で表現する権利の弱体化と新たな検閲インフラの構築により、一般利用者と開発者の双方が脅かされることに
• 大手IT企業により有利となり、新興サービス・開発者の市場参入障壁が大幅に上昇

---

法案の概要と主な変更点

• NO FAKES(Nurture Originals, Foster Art and Keep Entertainment Safe) Actは、もともと生成AIベースのデジタル複製問題の解決を目的としていた
• 今回の改定案は広範な新しい知的財産権(IP)制度を新設し、単なる被害防止ではなくインターネット全体のシステム規模での検閲を要求
• 既存法案は画像ライセンス制度に集中していたが、改定案は画像・ツール・サービス・アプリなど生成に使われたあらゆる要素へと規制範囲を拡大

ツールとサービスへの遮断命令

• 改定されたNO FAKESは、違法画像生成ツールやサービス、アプリを提供・配布・ホスティングするすべての事業者を規制対象に指定
• ツールが主としてその目的に使われる、または商業的用途が限定的な場合、通報だけで遮断可能
• 革新的なツール開発そのものが通報だけで中断される危険があり、著作権を巡る争いの中で権利者の「イノベーション拒否権」が強化

通報およびフィルタリング制度の拡大

• 既存のDMCA(著作権法)よりもさらに弱い保護装置しかなく、通報だけでコンテンツやツールを即時遮断できる
• 再アップロード防止フィルター(Replica Filter) の義務化により、類似事例まで自動遮断
• ツール・アプリ・サービスまで削除され、さらにはアップローダーの身元開示まで通報だけで可能に
• パロディ、風刺、論評などは例外条項があるが、実際には訴訟費用の負担が大きく実効性は低い

匿名表現と個人情報のリスク

• 裁判官の承認なしに、裁判所書記官だけでサブポエナ(subpoena from a court clerk, 情報提出命令)を発行し、アップローダーの身元情報を要求可能
• すでに類似制度では批判的な発言を抑圧するための乱用事例が多数発生
• 身元開示それ自体によっても、評判や私生活などへの実質的被害が懸念される

イノベーションと新興サービスへの脅威

• 新たな法的・技術的インフラの構築要求により、スタートアップや新興サービスの市場参入障壁が飛躍的に上昇
• 既存の大手IT企業には有利で、新しい革新的ツール・サービスは開発やリリースそのものが萎縮
• 単なる通報だけで遮断される構造のため、合法的な創作や利用者の権利も侵害される

規制の目的と実際の効果

• 最近の米議会は性的画像規制を目的とするTake It Downなども可決しており、過度なオンライン監視への圧力が強まっている
• NO FAKESの実際の目的は被害者保護ではなく、デジタル画像の商業的コントロール権の集中に近い
• その結果、一般利用者・開発者の双方が不利益を被り、インターネットのイノベーション生態系に負の波及をもたらす

[crawler]

読んでも何を言っているのか理解できず、しばらく調べてみました。
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
改正された法案の成立可能性は5%のようです。
あり得ないですね。

[GN⁺]

Hacker Newsの意見

• NO FAKESの新しいバージョンには、ほぼすべてのインターネット上のゲートキーパーに対して、a) 通報を受けたら迅速にコンテンツを削除させ、b) 繰り返しアップロードされる場合を防ぐため、すでに問題の多い著作権フィルターに加えて複製フィルターの適用まで義務づけ、c) 画像の作成に使われた可能性のあるツールまでフィルタリングして削除させ、d) 単に「複製された」と主張する人の言い分だけでアップローダーの身元まで開示させる内容が含まれている こうしたシステムは小規模企業には導入できず、大企業はさほど気にしないタイプのもの

  • このような規制は、むしろ大企業が小規模な競合の参入障壁を高めるためにロビー活動して得た結果に見える この種の規制の取り込み現象は、企業や利益の規模がある水準を超えると、本来はイノベーションを叫んでいた企業まで結局は規制賛成側に回ってしまうという現象だ
  • 大企業はむしろ適用するためのリソースを持てるようになり、こうした規制自体が小さな企業にとっては越えられない堀（moat）の役割を果たすことになる ただ問題はそれよりはるかに深刻で、こうしたシステム自体がまさに典型的な独裁政権の社会統制インフラとして機能しうることだ 体制批判勢力の発言権を奪い、発話の場と出版手段を取り上げ、政権に身元を渡させ、反体制との連帯すらすべて恐れさせる危険がある
  • 実際、大規模プラットフォームが運営する主要オンラインコミュニティでは、このようなシステムが政府の嫌う声を抑え込むためにさらに使われる見込みだ
  • 本質的には、体制にとって不穏な声を検出して抑え込むため、あらゆるものを「偽物」とレッテル貼りするシステムという意図すらありうる
  • 小規模企業には導入が難しいという指摘はもっともだ EFF（Electronic Frontier Foundation）は、もはやインターネット自由の本当の本質にはほとんど関心がなく、「Big Techは悪い」という見出しにだけ集中する組織になったように思う すでに何十年ものあいだ、Big Techは社会情報の善意ある管理者だったのが事実だと思うし、同時に、まったく監督されていない20代前半の若者たちが連邦政府のデータを自分のMacBookにどんどん移している今のような時代に、こうした論調は時代錯誤だ 私たちが直面しているのはプライバシーの大惨事そのものであり、EFFはMetaやByteDanceのクリックストリームだけを責めている

• 15年前ならこんな状況はありえないと思われていたが、今ではもう過ぎ去った論争にすら感じられる

  • 実際には25年ほど前が転機で、2001年以降、PATRIOT Actのようにプライバシーを無力化する法律が生まれ、すでに取り返しがつかなくなっていた
  • 驚くことでもない 監視資本主義が長いあいだ社会運営の基本になってきたせいで、こうしたものが当たり前の現実になってしまった 今の世界は、誰もが自力で生き延び、自分の利益だけを追う「サバイバルゲーム」だという苦さがある
  • いつの間にか左派でさえ「フェイクニュース」や感情的な傷つきの防止を名目に検閲制度を積極的に支持するようになり、結局この制度が左派にも右派の体制批判者にも跳ね返って悪用されるという皮肉

• 根本的に、こうした議論にはその媒体が社会で「ソーシャルメディア」として共有されているという前提がある 実際、閉鎖的なコミュニティや非公開空間では、この法案は無意味なのではないかとも思う もしかすると本当に私たちが望んでいたのは、ソーシャルメディアの終焉なのかもしれない

  • 学界では、核心はプラットフォーム設計の問題だとすでに理解されている 表面的な自由／責任の議論ではなく、本当の解決策は、政府がソーシャルメディアにアルゴリズム的な摩擦係数を強制導入させることだ しかし現実には経済的利害関係のため、政治の側にはこうした変化を起こす意思がまったくない むしろ今の構造が生む混沌、分断、混乱が支配層に利益をもたらしているということだ 参照研究: • MIT Aral & Eckles(2019): 摩擦（friction）を導入すると、表現の自由を制限せずに誤情報の拡散が著しく減少 • Mozilla/Stanford(2020~2022): 「共有前の再確認」のような摩擦は、フェイクニュースの拡散力を最大50%削減 • Twitter(2021): アップロード前にファクトチェックのプロンプトを表示すると、約25%がツイートの修正または削除を選択
  • 実際、「ソーシャルメディア」というカテゴリーを法的に定義するのは非常に難しい

• いっそ嘘そのものを禁止して「真実省」のような機関を作らないのはなぜなのか？ 嘘を規制しようとする試みは、実際には政権の好みに合わせて特定のナラティブだけを押し出す結果になりがちだ

• すべての画像に複製フィルターをかけるとしても、AIさえあれば同じプロンプトで完全に異なる結果物を何百個も作れるし、今では画像の「意味」までAIに判定させろという話になっている 結局、チップメーカーや電力会社には追い風だ

• 個人的には元記事の筆者の立場とは逆かもしれない NO FAKESをDMCAになぞらえるのは根拠が薄いように見える 別の視点を示した記事: https://www.recordingacademy.com/advocacy/news/no-fakes-act-introduced-in-the-senate

  • こういう会社（政治的利害関係者）は、象に蛇の皮を売れるほどの影響力を持っている こうした宣伝記事に本当によく引っかかる自分がいる

• ロビー活動や危機感を煽る議論は抜きにして、とても簡単に説明した一行要約がほしい この法律は、著作物の二次加工を防ぐためにコンテンツのウォーターマーク活用を合法化するものなのか、それとも別の内容なのかを正確に知りたい 具体的にどこからどこまでが実際の適用範囲なのか知りたい

  • ウォーターマークとは無関係だ 誰でも何の証拠もなく、ホストされているすべてのコンテンツに対して「偽物だ」と主張するだけで、ホスト側が法的に本物であることを証明する責任を負うことになる 即時削除が原則であり、悪用の余地はDMCAに似ているが、はるかに包括的だ 新しい権利概念が追加され、実際に正当なデータ所有であることを証明するのは事実上不可能になる 結局のところ、米国外へサーバーを移す口実が増えるだけだ
  • 原文をざっと読んだが、印象としてはDMCAの画像／ツール／派生作品版で、制作者、ツール、発行者の追跡まで全部ログとして要求するようなものだ

ただし法案全体の文脈はきちんと把握できていない

• テネシー州では7月1日から、生成AI全般を扱う複数の法案が同時に施行されることになる 問題は、州議会が用語自体を誤解しているのか、実質的にGPUを所有すること自体を違法化するレベルまで内容があまりにも広範になっていることだ 例として「Tensor Core使用許可証は持っているのか？」という冗談まで出る始末だ そのうえ全米では、連邦Farm Billよりもさらに強力に大麻を規制する法律まで進められている 一方でテキサス州知事は、憲法上／法的な問題を理由に類似法案を適切に拒否した前例がある

• 「こんな法律はRedditを終わらせる」という主張には同意できない 誰でも自由に発言できる空間があることがそんなに怖いのか？ そこでは時に思いがけず「好ましくない意見」が出ることもあるものだ

  • 重要なのは、プラットフォームがユーザーの望む形そのままでキュレーションすることと、プラットフォームが恣意的に新しいコンテンツをランダムに推薦することを区別することだ CSAMなど明白に違法なものを除けば、プラットフォームは利用者の目の前に何を見せるかを決めるべきではない
  • 同じ論理ならHacker Newsも消えるべきだという結論になる
  • Section 230についての「You are Wrong About Section 230」という記事は繰り返し言及する価値がある: https://www.techdirt.com/2020/06/23/hello-youve-been-referred-here-because-youre-wrong-about-section-230-communications-decency-act/ 核心は、Section 230そのものにはパブリッシャー／プラットフォームの区別という概念がどこにも存在しないという点だ こうした区別や意味づけは、論争の中で膨らまされただけで、実体はない