- 生成AIによるレプリカ被害を防ぐという NO FAKES Act が、新たな知的財産権と検閲インフラを作る方向へ拡大しており、インターネット上の表現とイノベーションを萎縮させかねないとの批判を受けている
- 適用範囲がレプリカそのものを超え、それを作成できる ツール・アプリ・サービス にまで広がり、開発者やホスティング事業者が権利者の主張だけで責任リスクにさらされる可能性がある
- サービス提供者は、通知を受けた資料やツールを削除するだけでなく、再アップロードの防止まで求められ、事実上 フィルタリング義務 を負うことになりかねない
- 裁判官ではなく 裁判所書記官 が発行した召喚状でもユーザーの識別情報を要求できるため、匿名での批判や風刺・論評といった合法的な表現が萎縮する可能性がある
- コンプライアンス費用と削除リスクは、新興サービスがBig Techに対抗しにくくし、合法的な創作ツール開発への投資インセンティブも低下させる可能性がある
生成AIレプリカ対策から広範な権利体系へ拡大
- NO FAKES Act は Nurture Originals, Foster Art and Keep Entertainment Safe Act の略称で、生成AIが作った「レプリカ」への懸念に対処するため、新たな知的財産権を作ろうとする法案である
- EFFは、もともとの法案の時点から、有害な虚偽表現を標的にした保護手段ではなく、画像ライセンス体系を連邦レベルへ拡張するアプローチだったと批判している
- パロディ、風刺、合法的な表現を保護する必要性とのバランスを取れていないためである
- 改正案はこのアプローチをさらに強め、画像だけでなく、画像作成に使われた 製品とサービス まで含む新たな検閲インフラを求めている
ツールやサービスまで標的にする構造
- 最初のバージョンは デジタルレプリカ に焦点を当てていたが、新バージョンでは個人・権利者・法律が承認していない画像を作成できるツールまで対象を広げている
- ツールを作成、マーケティング、ホスティングする主体も責任の対象になり得る
- 一定の制限はある
- ツールが未承認画像の作成を主目的として設計されているか
- 未承認画像の作成以外の商業的用途が限定的である必要がある
- しかし単なる主張だけでも開発者が標的になり得るため、EFFはこの制限が十分な保護になりにくいと見ている
- この条項は、著作権論争で権利者が望んできた イノベーション拒否権 を提供する効果を生みかねないと批判されている
削除通知とフィルタ義務
- 既存のNO FAKESはDMCAに似た 通知・削除 の仕組みを作っており、EFFはそれでさえ保護措置がより少ないと見ていた
- 改正案はより多くのサービス提供者を対象にし、資料やツールを削除するだけでなく、その後の再アップロードまで防ぐよう求めている
- その結果、広範なフィルタを導入しなければ 免責 を失いかねない構造になる
- 著作権フィルタもすでにさまざまな問題を起こしている
- 本来は、アップロードが著作物の完全なコピーのように見える場合に、人間によるレビュー対象として表示する程度であるべきだ
- 実際には、別々の人が同じ パブリックドメインの音楽 を演奏した場合のように、似ているが同一ではないコンテンツも表示されることがある
- 数秒の一致 だけで侵害と表示される事例もある
- 法的に許容され得る文脈を十分に反映できない場合もある
- 現在、著作権フィルタは法的義務ではないが、NO FAKESはこうしたフィルタ義務を法律にする可能性がある
- 法案にはパロディ、風刺、論評の例外があるが、訴訟費用を負担しにくい人にとっては実質的な保護になりにくい
匿名表現を脅かす召喚状条項
- 現在の文言では、誰でも裁判官ではなく 裁判所書記官 から召喚状を取得し、サービスにユーザー識別情報の提供を強制できるようにしている
- EFFは、この手続きにはいかなる形の証明も求められていないと指摘している
- 類似の制度は著作権事件ですでに悪用された事例がある
- 批判を不快に思う人物が批判者を沈黙させるために召喚状を取得するという方法である
- 批判にはしばしば申立人自身の発言が根拠として含まれ、これはフェアユースの典型例になり得る
- それでも召喚状は発行され、サービスが非常に積極的に対応しなければ、ユーザーの身元が露出する可能性がある
- 身元の露出はその後の表現を萎縮させ、ユーザーに評判上または私生活上の被害を与える可能性がある
イノベーションと競争への負担
- EFFは、多くの人が現在のBig Techの状態に不満を持ち、巨大テック企業の利用をさらに強いられ、サービス品質も悪化していると見ている
- NO FAKESは、新しいサービスが法律を順守するために必要なインフラを大きく増やし、新サービスが Big Tech に挑戦しにくくする可能性がある
- 一部の大企業がNO FAKESの新バージョンに好意的なのは偶然ではないかもしれない、とEFFは見ている
- ツール、アプリ、サービスの削除要求もイノベーションを妨げる可能性がある
- 合法的な創作にそのサービスを使う人に被害を与え得る
- 単なる主張だけでオフラインになり得るツールやサービスには、投資インセンティブが低下する
- EFFは、数か月前に議会が親密または性的なコンテンツを含む画像に焦点を当てた Take It Down を可決したと指摘している
- その法案にも、プラットフォームが現在暗号化されている表現まで含め、オンライン表現を積極的に監視するよう圧力をかける問題があると見ている
- 議会がプライバシー被害を懸念するなら、追加のインターネット規制に進む前に、直前の規制の効果を待つべきだという立場である
- EFFは、NO FAKESは有害なデジタルレプリカの被害者を保護するというより、デジタル画像の商業利用の統制を集中させる法案だと批判している
2件のコメント
読んでも何を言っているのか理解できず、しばらく調べてみました。
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
改正された法案の成立可能性は5%のようです。
あり得ないですね。
Hacker Newsの意見
新しいNO FAKESのバージョンは、ほぼすべてのインターネットのゲートキーパー事業者に対し、通知を受けたら発言を削除し、再投稿を継続的に防ぎ、すでに欠陥の大きい著作権フィルターの上に過剰にならざるを得ない複製フィルターを導入し、画像制作に使われた可能性のあるツールまで削除・フィルタリングし、「複製された」と主張する人の言い分だけでアップローダーの身元を開示するよう求める仕組みに見える
小さな会社には実装できず、大きな会社は注意深く実装しようとはしないようなシステムだと思う
こうした規制の虜のため、最初に「破壊的イノベーション」をしていた頃は規制を嫌っていた企業も、一定の規模・収益を超えると規制賛成側に回る傾向がある
だがそれよりはるかに悪く見える。教科書的な暴政のインフラだ
政権に反対する人々の発言を抑え込み、拡声器と印刷機を奪い、反対者を特定して政権に引き渡すよう求め、作為であれ不作為であれ反対者を助けていると政権が見なし得るすべての人に制裁の恐怖を植え付ける仕組みだ
EFFはずいぶん前にインターネットの自由に関する大きな問題への関心をやめ、今ではBig Tech Bad式の見出しの行進ばかりしている感じだ
何十年たってもBig Techが社会情報のかなり穏健な管理者であり続け、その一方で監督されていない20代のMAGA系の仲間たちが連邦政府全体を自分のMacBookに載せる時代に、こうした態度は非常に空気が読めていないように見える
技術プライバシーの終焉はすでに来ているのに、EFFはクリックの流れのためにいまだにMetaとByteDanceについてぶつぶつ言っている。インターネット上の他のみんなと同じく、結局彼らが本当に気にしているのもそれなのだろう
15年前ならあり得ないことだっただろうが、今ではすでに死んだ馬を蹴るようなものだ
個人的には、世界がますます生存のために戦う一方で、「自分は確保したから、君のことは知らない」に近づいている感じがする
今やそれは左派自身にも、既存秩序のおとぎ話のような物語に反対する右派の反体制派にも使われることになる
これはすべて、そうしたメディアがソーシャルメディアで共有されるという前提に立っているのではないかと思う
この法文は私的コミュニティの中では無意味に見える。もしかすると、私たちが望んでいたがまだ実現していなかったもの、つまりソーシャルメディアの終わりなのかもしれない
解決策は、政府がソーシャルメディア企業にアルゴリズム上の摩擦係数を導入するよう強制することを求めることだ
ただし、関連する経済的インセンティブが、そうした変化を起こす政治的意思を失わせている
支配層は、現在の形のソーシャルメディアが広める混乱、分断、カオスから利益を得ている。今のままをかなり気に入っている
関連研究として、Aral & Eckles（MIT、2019年）は摩擦の導入が表現の自由を制限せずに誤情報の拡散を減らすとし、MozillaとStanfordの研究（2020〜2022年）は共有キャンセルを促すような摩擦がフェイクニュースの拡散性を最大50%減らすと見ており、Twitterの2021年の実験では投稿前にファクトチェックの案内を表示すると、ユーザーは25%のケースでツイートを修正または削除した
いっそ嘘を禁止して真実省を作ればいいのに、なぜそうしないのかと思う
嘘を規制しようとする試みは、特定の政治的見解に有利な物語を押し通すための包装にすぎない
この件については、筆者にまったく同意できないかもしれない。DMCAと比較するなど、かなり大胆な主張をいくつもしているが、根拠は多くないように見える
反論: https://www.recordingacademy.com/advocacy/news/no-fakes-act-...
こうしたブログ記事には自分も簡単にだまされ得る
すべての画像を複製フィルターに通さなければならないが、AIは単一のプロンプトだけでもかなり異なる画像を作ることをあまりにも簡単にしてしまう。そうなると今度は、画像の「意味」を推論するAIが必要になる
全体として、チップメーカーと発電会社には非常に良いニュースのように聞こえる
ロビー活動や扇動的な破滅論抜きで、この法律が実際に何をするのかについての平易な英語の説明が本当に必要だ
この法律は、企業が自社コンテンツにウォーターマークを入れ、他社がそのコンテンツを基に二次コンテンツを作れないようにするという意味なのか。正確にはどう機能するのか
画像、ツール、派生著作物に対するDMCAのようなものに見え、制作者・ツール・投稿者を追跡するために必要なすべてのログまで含むようだ
ただし言った通り、ただざっと見ただけだ
誰でも証拠なしに、どこでホストされているどんなコンテンツに対しても苦情を申し立てられるようにし、そのコンテンツをホストしている人に否定的事実、つまりそれが「フェイク」ではないことを証明する法的負担を負わせ、技術的に可能になり次第、実質的には即時にコンテンツを削除する法的要求を置くものだ
だからDMCAと似たように悪用可能だが、要求範囲はより広く、正当性の立証はほとんど不可能に近い。コンテンツについて、新しく曖昧に定義された法的所有権のカテゴリーを作るからだ
要するに、ホスティングを米国外へ移す十分な理由だ
Tennesseeは7月1日に複数の生成AI法を施行するが、興味深いことに州議会が用語を誤解したせいなのか、この包括的な禁止は広すぎて、実質的にGPUの所有まで禁止する効果がある
「おい、そのtensor coreの免許は持っているのか？」という状況だ
それでも少なくとも、連邦の2018年Farm Billが認めた範囲を超えて、マリファナを全国的にさらに禁止しているのだから幸いだ /s
隣のTexasの賢明な知事は、同様の法案を違憲性・法的異議申し立ての可能性を理由に拒否権で阻止した