FCC、ロボコールでのAI生成音声を違法と規定

 (fcc.gov)
1 ポイント 投稿者 GN⁺ 2024-02-09 | 1件のコメント | WhatsAppで共有
  • AI音声で人間のように聞こえる自動電話が拡大するなか、FCCはこれをTCPA上の 「artificial」通話 とみなし、既存の電話消費者保護規制の対象に含めた
  • 今回のDeclaratory Rulingは、AIで生成した人間の音声 を使う通話にもTelephone Consumer Protection Act(TCPA)が適用されることを確認した
  • FCCの決定は全会一致で採択され、ロボコールでAI生成音声を使用する行為を直接標的としている
  • News Releaseと Declaratory Ruling の原文はdocx、pdf、txt形式で公開されており、決定文をすぐ確認できる
  • ディープフェイク音声と動画リンクは、ロボコールや詐欺的なテキストメッセージをさらに見分けにくくし、AI音声規制の実務的な必要性を高めている

AI生成音声ロボコールへのTCPA適用

  • FCCは、AI生成音声で作られた通話がTelephone Consumer Protection Act(TCPA)の 「artificial」通話 に該当すると認めるDeclaratory Rulingを全会一致で採択した
  • 適用対象は AI-generated voices によって作られた通話である
  • この決定は、ロボコールでAI生成音声を使用する場合を直接標的とし、TCPAが人間の音声を生成するAI技術にも適用されることを確認している

公開されたFCC文書

ディープフェイク関連の消費者向け案内

関連記事

1件のコメント

 
GN⁺ 2024-02-09
Hacker Newsの意見

  • 知らない番号から電話がかかってきて出たら、妻の声の録音が「Hello?」と言ったことがある。
    それ以来、発信者を知っている場合でない限り、電話に出るときに先にHelloと言わないようになった。

    • さらに一歩進めて、気まずさや誤検知を減らすために、知っている人は全員スマホの連絡先に入れている。
      電話が名前ではなく番号で表示されたらそのまま出ず、スパムでなければ留守電かSMSを残すはずだと考えている。
      どちらもしないならスパム/詐欺だったか、そもそも大して重要ではない用件だった可能性が高いので、10年以上この方法を続けているが、まだ問題は起きていない。
    • 電話に出ることがほとんどあっても、何の情報も与えない。
      出るなら3〜5秒ほど黙って、ボットでなければ相手の人間が先に話す機会を与える。
    • 誰も3分ほど話さず、その後誰かがHelloと言う電話を受けている。
      被害妄想的には、自分の声を録音してAIによるなりすましに使おうとしているのではないかと思ってしまう。
    • 電話のマナーに反するのは申し訳ないが、自分も同じ考えだ。
      発信者が先に話してくれないと本物の人間か分からないし、自動化システムなら、こちらの番号が別の自動化システムではないことに気づかれないよう、黙っていることにしている。

  • FCCがこのような判断を下せるようにしている法的原則はChevron Deferenceと呼ばれており、いま攻撃を受けている点が重要に見える。
    https://www.scotusblog.com/2024/01/supreme-court-likely-to-d...

    • このスレッドはChevron Deferenceを大きく誤解している。
      これをなくしたからといって、各機関が何もできない『マッドマックス』式の無政府状態になるわけではなく、行政規則の制定が認められる基準は常に存在する。
      裁量の幅がどれほどあるかは別問題だが、AI生成音声が法律上「人工」に当たると明確にすることは、「コンピューターで頭を殴ること」が「暴行」に当たると言うのと同じくらい、ほとんど規則を必要としないレベルだ。
    • リンクを読んだだけだが、その説明は少し間違っているように思う。
      Chevron原則は、FCCのような機関にこうした判断を下させるものではなく、裁判所がその判断を覆せないように保護する原則だ。
      つまり、最高裁判事たちが個人的には機関の解釈に問題があると全員思っていても尊重しなければならないが、Chevronがなければそのような場合に覆せる。
      この場合、AI生成音声を法適用上「人工」と見るのはあまりに明白なので、個人的にはChevron原則が適用される場面ですらないように思う。
    • Chevron Deferenceの重要性には同意するが、この判断ではどの裁判所もChevronの第2段階まで進むとは思えない。
      法律は「人工または事前録音された音声」を禁止しており、AIエージェントは定義上人工なので、特別な尊重は必要なさそうだ。
    • Chevronは一見しただけでも馬鹿げている。
      機関があなたは法律に違反したと言い、あなたがその機関を相手に訴訟を起こすと、裁判所はその機関に従う。
      結局、法廷で争う機会を奪われるのと同じだ。
    • 今のように変化が速い時代に、些細なことごとに明示的な立法を待たなければならない状況になるのではないかと心配だ。

  • より正確には、FCCが現行法であるTelephone Consumer Protection Actを公式に解釈し、ロボコールのAI生成音声が同法に違反すると明確にした、と見るべきで、妥当に思える。

    • タイトルは「FCC、ロボコールのAI生成音声を違法と判断」とすべきだ。
    • この判断により、Stanfordの創業者たちが作ったスタートアップを含め、複数の事業やスタートアップが終わることになる。
    • FCCに法的先例を作る権限がどこから来るのか分からない。

  • ロボコールについては発信者IDの識別ラベルを義務化すべきだった。
    例えば「Police Officers Benevolent Association [Robocall]」のように表示させる形だ。

    • そのためには、全国に張り巡らされた50〜70年分の通信インフラを文字通りアップグレードしなければならないが、そんなことは起こらないだろう。
    • やるべきことはまったく別にある。
      AppleとGoogleが標準ソフトウェアの一部として個人用の電話ロボットを提供すべきだ。
      新しいスマホを買ったら15分ほどいくつかの文章を録音し、その後はロボットが代わりに電話を受ける方式だ。
      このロボットはスパマーやテレマーケターと通話するとき、できるだけ長く引き留めようとする。
      1分でもいいし、10分ならなおよい。
      スパマーたちがこれを避けようとすれば、AppleとGoogleはロボットを改善して対抗できる。
      数か月以内にその業界は死ぬだろう。
      本当に現金をナイジェリアの王子に送ってくれるカモなのか、英語が母語ではないオペレーターをだます悪質なソフトウェアなのかを見分けるために、通話ごとに30分も使う余裕はないからだ。
      利益率は下がり、本物の人間かを判別するためのより高度なAIの必要性は急上昇し、経済的に持続不可能になるだろう。
    • 「彼ら」とは誰で、どの電話が合法か違法かをどうやって知るのか？

  • FCCは、AI生成音声による電話がTCPA上「人工」に当たるとする宣言的裁定を全会一致で採択した、という意味だ。
    したがって、すでに人工ロボコールが違法であるという意味で、違法ということになる。

    • 詐欺電話もすでに違法だが、特に何の措置もないのと似ている。
    • FCCが何かを違法にできるとは思わない。
      こういうタイトルは、現在進行中の実際の裁判には役に立たないだろう。
    • 「FCC、人工音声は実際に人工音声であると発表」

  • 問題そのものではなく、症状を狙っているように見える
    ロボコールの大きな問題の一つは、誰が電話してきたのかを把握するのが事実上不可能で、スパム報告ツールにもあまり実効性がないこと
    電話がかかってきたら、誰が責任を負う通話なのかが表示されるべき
    例えば「[電話番号]は[個人または法人]に登録されています」のように表示され、スパム報告が蓄積したら、その当事者の電話網利用能力に制限がかかるべき

    • Pennsylvaniaの有権者の1%以上が最後に自分に話しかけた人を基準に投票し続け、Super PACが無制限の匿名資金を受け取り続けられる限り、どのメディアチャネルも人々にスパムを送ることを法的に制限されることはないだろう
      電話スパムは政治的にあまりにも効果的
    • 自分も同じ考え
      こうした詐欺を狙うのは良い第一歩だが、海外事業者があまり使わなくなるとは思えない
      自分が受けるスパム電話の大半はDo Not Callリストすら守っていないのに、なぜこれは守るのか？
      FCCはSTIR/SHAKENについて強い期限を設定し、従わない事業者に罰金を科すべき
      そうすればVoIP事業者も本気で受け止めるだろう
    • 長期的にはSHAKEN/STIRがこの問題を解決しようとしているものだと理解している
      なぜこんなに時間がかかっているのかは分からないが、すでに携帯電話は発信者IDが検証済みの通話かどうかを表示できるはず
      次の段階は、検証されていない発信者を単にブロックすることになりそう
      移行作業がまだ多く残っているのだと思う
      https://www.fcc.gov/call-authentication
    • 番号の通信事業者を照会することはすでに可能で、着信画面で所在地の下にその通信事業者を表示してくれるとよい
      電話がT-Mobileから来ているのか、初めて聞く会社から来ているのかでは大きく違う
    • これはこのプラットフォームの多くの人が持つプライバシー観点とは真逆になりそう

  • この決定だとIVRシステムも違法になるのか？
    多くのスパムを減らせそうなので取り組みは評価するが、電話通話におけるAI生成音声はすでに何十年も前からどこにでもあったので気になる
    音声品質について特定の線引きをするのか？

    • この決定は具体的に電話をかける主体にのみ適用される
      IVRは含まれない
      自動電話も同意があれば許可される
      例えば、調剤完了した薬や予約待ちの本の通知を申し込んだ場合がそう
      音声品質とは関係なく、事前録音音声も禁止対象

  • どんな常識の欠如があれば、ロボット音声の使用は違法にしながらロボット電話は放置し続けることになるのか？
    筋が通らない

    • この決定は、AI生成音声を含む電話を、すでに違法な他のロボコールと同じように扱うためのもの

  • 電話通話の「人工」音声は1971年から存在していた
    当時Federal Screw Worksという会社がVotrax音声合成装置を初めて開発し、エンジニアリングはRichard Gagnonが担当した

  • これをどう執行できるのか？
    すべての自動音声メッセージを禁止したのか？
    ここで「AI」はどう定義されるのか？

    • 執行は難しいが、通常は通報を発信元通信事業者や発信元顧客まで追跡したうえで法廷に持ち込む形になる
      自動音声メッセージはすでに制限されており、今回の決定はAI生成音声が自動音声メッセージの分類に入ると確認しただけ
      関連する決定文の一部は次のとおり

      II. BACKGROUND
      3. The TCPA protects consumers from unwanted calls made using an artificial or prerecorded voice. See 47 U.S.C. § 227(b)(1).
      In relevant part, the TCPA prohibits initiating “any telephone call to any residential telephone line using an artificial or prerecorded voice to deliver a message without the prior express consent of the called party” unless a statutory exception applies or the call is “exempted by rule or order by the Commission under [section 227(b)(2)(B)].” 47 U.S.C. § 227(b)(1)(B). The TCPA does not define the terms “artificial” or “prerecorded voice.”

      そして後半にはこうある

      III. DISCUSSION
      5. Consistent with our statements in the AI NOI, we confirm that the TCPA’s restrictions on the use of “artificial or prerecorded voice” encompass current AI technologies that resemble human voices and/or generate call content using a prerecorded voice.

    • PDFはこちら: https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

    • 通話を録音する人もいる
      企業は消費者向けの直接販売の場面で、規制遵守のために録音しなければならない場合が多い
      録音があれば、アルゴリズムでなくても、裁判所が事案ごとにAI音声かどうかを容易に判断できるはず