メタは侵害的なAI Discoverフィードを今すぐ停止せよ

 (mozillafoundation.org)
1 ポイント 投稿者 GN⁺ 2025-06-07 | 1件のコメント | WhatsAppで共有
  • MetaがAIチャットで生成された個人的な会話内容をユーザーの同意なくDiscoverフィードで公開していることで、プライバシー侵害への懸念が広がっている
  • MozillaコミュニティはDiscoverフィードの停止、AI会話のデフォルト非公開設定、ユーザー同意に基づく情報公開、透明性の提供を求めている
  • 誰でも簡単に利用できる全面的なopt-outシステムの構築、非公開会話が公開された場合の完全削除権限の付与が必要である
  • 多くの人が個人情報が公開的に流出している事実を認識していない
  • このキャンペーンは明確な事前同意なしにユーザーの会話内容が公開されないことを保証するよう求めている

内容要約

プライバシー侵害への懸念

  • Metaが自社の人工知能(AI)サービス利用時に行われた個人的な会話内容をDiscoverフィードを通じて公開コンテンツへと変換することをひそかに進めていた
  • 多くのユーザーが、自分の入力した会話内容が公に公開されるという事実を認識していない状況にある

Mozillaコミュニティの要求事項

  1. Discoverフィードの即時停止
    • 実際のプライバシー保護措置が構築されるまでDiscoverフィードを停止することを求めている
  2. AI会話のデフォルト非公開化
    • すべてのAIとのやり取りをデフォルトで非公開設定に保ち、十分な情報提供と同意がない限り公開機能を認めないよう求めている
  3. 透明性の提供要請
    • 事前の認知または同意なしに個人情報を共有したユーザーが何人いるのか、明確な数値を公開することを求めている
  4. 包括的なopt-outシステムの構築
    • 誰でも簡単にアクセスできるopt-outシステムをMetaの全プラットフォームで提供し、個人データがAI学習に活用されないようにすべきである
  5. 通知と削除権限の提供
    • 非公開の会話が公開されたユーザーに即時通知を提供し、望む場合はそのコンテンツを完全に削除できる権限を付与すべきである

私生活と公共領域の境界の曖昧化

  • Metaの方針変更により個人的な会話と公開コンテンツの境界が曖昧になっている
  • 人々は私的な空間で会話していると信じているが、実際には情報が公に拡散されるリスク要因が存在する

キャンペーンと署名呼びかけ

  • 個人の同意なしに会話内容が公開される行為の中止と、明確なユーザー選択権の保証を求めるキャンペーンが進行中である
  • キャンペーンに同意するユーザーは名前を残してMetaの方針変更を求める署名運動に参加できる

関連記事

1件のコメント

 
GN⁺ 2025-06-07
Hacker News のコメント

  • 背景資料:

    • “Meta has a new stand-alone AI app. It lets you see what other people are asking.” https://www.businessinsider.com/meta-ai-app-public-feed-warn...（2025年5月）
    • “People are seemingly accidentally publishing their AI chat histories with Meta’s new AI app” https://www.crikey.com.au/2025/05/05/meta-ai-chatbot-discove...（2025年5月）
      1つ目のリンクでは、会話はデフォルトでは非公開であり、ユーザーのミスが関与した可能性が高いとしている[1]。Mozilla の強調表現は、一見するとその逆のようにも読める[2]
      [1]: “To be clear, your AI chats are not public by default — you have to choose to share them individually by tapping a share button. Even so, I get the sense that some people don't really understand what they're sharing, or what's going on.”
      [2]: 初めて見たとき、“Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.”をそのように理解した
    • この状況自体ははっきりとは分からないが、Google Docs から ChatGPT、Notion まで、「リンクを知っている人だけが見られる共有リンクを作る」ことと、「その共有リンクを一般の人が検索/発見可能にする」ことは明確に区別される
      Meta が AI チャットで共有ボタンを押したときに、デフォルトで検索/発見可能性をオンにしているのだとすれば、さらに悪いことに、業界標準に近い選択肢をそもそも用意していないのだとすれば、混乱の説明がつき、非常に予想外のダークパターンになる。親コメントのように、共有アイコンを押しただけでは、十分に説明を受けた同意とは言えない
    • アプリは使っていないし、おそらく今後も使わないが、どちらの記事も、ユーザーがやり取りを「共有」するよう選択する仕組みを示していない。ダークパターンがあるのだろうか？
      他のアプリでは「共有」を押すと、WhatsApp、SMS、メールなどの方法を選ぶモーダルが表示され、方法と受信者を選んで初めて実際に共有される。ところが「共有」ボタンの動作が即時公開だとすれば、次のステップで特定の信頼できる相手を選ぶのだろうと期待した人たちは、十分に驚く可能性がある
    • アプリを使っているが、共有するよう一度も促されたことがないので奇妙に感じる

  • アプリを実際に使ってみると、この記事は Mozilla が嘘をついているとしか解釈しにくい。このアプリの共有は他のソーシャルメディアアプリと同じだ。
    アプリ右上に「Share」ボタンがあり、押すと下部に大きな「Post」ボタンがある中間画面が出る。そのボタンを押すとチャットが共有される。
    他の人たちは別の画面を見ているのだろうか？ Mozilla はなぜこんなことを言うのか？ 要求事項の大半はすでに満たされている。

    Shut down the Discover feed until real privacy protections are in place.
    すべてはすでにデフォルトで非公開で、何が公開されるのかも見える。
    Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent.
    すでに事実だ。
    Provide full transparency about how many users have unknowingly shared private information.
    Meta がこれをしなければならない理由はない。
    Create a universal, easy-to-use opt-out system for all Meta platforms that prevents user data from being used for AI training.
    すでに存在する。追記：EU ユーザーだけが対象のようだ。個人的には、これが公開共有の主張と関係しているとは思わない。
    Notify all users whose conversations may have been made public, and allow them to delete their content permanently.
    これもすでに存在する。

    • これはダークパターンの問題だ。多くの人は特定の相手に共有しようとしたのに、誤って一般公開している。ここで指摘されている問題の一つがその部分だ。多くの人にとって「share」は「特定の人に共有する方法をくれ」という意味であって、「一般の人がインデックス化して検索できるように表示しろ」という意味ではない。
    • ユーザーではないが、違いはユーザーが共有項目は友達にだけ見えると期待していたのに、実際には公開される点にあるのでは？
    • もしかすると別の画面を見ているのかもしれない。今日かもしれないし、明日かもしれない。
      今の Meta の核心的な問題は、他の人も言っているようにダークパターンだ。Meta はユーザーに取ってほしい行動に合わせて UI 要素を移動し、修正し、削除する。意図していなかったり、そんな行動をした記憶すらなかったりするのに、何かが投稿・共有・変更されていることがあり、いつも驚かされる。Meta 製品では、休眠アカウントでさえ、ただ何かが起きているように見える。
      Meta 製品を十分長く使えば、二人のユーザーが同じ体験を保証されていないことに気づく。標準的な体験というものがない。地域や言語、正直それ以外のよく分からない要因によって体験が変わる。本番環境でダークパターンを継続的にテストし、最適化している。Meta Business Suite を1時間使ってみれば、プラットフォーム全体が、壊れたリンク、壊れた機能、どこにも行かないか廃止済み機能に向かう UI 要素でできたダークパターンの迷路に近いことが分かる。あるチームは X をさせて Y 機能を使わせようとし、別のチームは Z をさせて W 機能を使わせようとする。Business Suite はそれを全部混ぜ合わせている。今日コードベースを凍結して数か月 Business Suite を研究しても、底まで全部ダークパターンだと分かるだろう。
    • Mozilla はなぜ TV 番組を宣伝するために、システム権限を持つ隠れたアドウェアのアドオンを配布したのか？
      Mozilla はなぜ、尋ねもせずに任意のサードパーティサービスを統合したのか？
      Mozilla はなぜ閲覧履歴を Cliqz に送ったのか？
      Mozilla はなぜブロックできない Google のトラッキングを統合したのか？
      Mozilla はなぜデータを売ったのか？
      Mozilla はなぜ、無効化してもアップデート後に再びオンになるテレメトリサービスをインストールしたのか？
      Mozilla はなぜこんなに嘘をつくのか？
      Mozilla だからだ。
    • 「ユーザーが知らないうちに個人情報を共有した人数について完全な透明性を提供せよ」という要求は、Meta にもできないだろう。ユーザーが知らずに共有したかどうかをどうやって分かるというのか？

  • Mozilla の記事は何が問題なのかの説明がかなり下手だったので、Meta AI アプリを自分で開いてみた。
    チャットには「Share」ボタンがある。
    ボタンを押すとチャットの下書きと「Post」ボタンが表示される。
    「Post」を押すとチャットが公開で投稿され、「Discover」タブへ移動する。
    投稿されたチャットでは「send」アイコンを押して、チャットへのリンクを他の人に送れる。
    個人的には、実際にダークパターンであり、人々が「Share」という動作を認識するやり方と食い違っていると思う。チャットを公開しないと共有できない点もよくない。
    たとえば今見えている上位の Discover 投稿は、赤ちゃんの写真をスタイル化した画像だが、投稿を開くと元の写真も見られる。投稿した人は親戚や友人に写真を共有しようとしていた可能性が非常に高そうだ。
    総じて、Meta が「最高に」Meta らしい行動をしたということだ。許可を求めるより、後で謝るほうがまし、というやり方だ。

    • そう、まさにそこだ。スマートフォンで複数のアプリ間で写真やウェブページなどをメッセージングアプリ経由で他人に非公開で共有するとき、share はいつも使う。今の自分にとって「share」が意味するのはそれだ。
    • 何をしているのか確信がないなら、やるべきではない。たとえば、たった今 Hacker News に投稿したが、私のアプリのボタンは「submit」となっていて、インターネットに投稿すると警告してはいない。それが問題か？ いや。自分が何をしているか分かっているし、インターネットを使う人なら誰でもそうあるべきだからだ。

  • 大ごとのように聞こえるけど、Mozilla はもっと詳しい情報を出せないのか？
    例やスクリーンショットが必要。読んだあとでも、いつ、どうやってこういうことが起きるのか理解できない

    • 説明がひどく下手。実際、説明しようとすらしていない。たぶん Meta の新しい AIソーシャルメディアアプリに関係しているようだ:
      https://about.fb.com/news/2025/04/introducing-meta-ai-app-ne...
      一部の人たちが、プロンプトを公開共有していることに気づかないまま、その中のAIを使っていると聞いた
    • 関連する文脈はこうだ:
      「先週リリースされたスタンドアロンAIアプリに、Meta がソーシャル機能を導入した。『この恥ずかしい発疹は何？』や『妻にもう愛していないとどう伝えればいい？』のような内密な質問が、まもなくアプリの Discover タブをスクロールする誰にでも見えるようになる可能性がある。」
      https://www.fastcompany.com/91327812/metas-ai-social-feed-is...

  • 何を懸念しているのか分かる 文脈と例が不足している
    具体的な事案も匿名投稿者も裏付けられないのに、正義感ぶった指図口調が強い
    “Mozilla: Improve your messaging. Now.”

    • “Mozilla: Improve your messaging. Now.” が真っ先に目に入った。あまりにひどくてすぐ離脱したくなったし、明白なサインだった。デタラメ検知器が鳴ったが、HN でスコアが高すぎたので残りも読んでみたところ、その勘は間違っていなかった

  • “Meta: shut down [...]” の句読点だと、Meta が「shut down」と言っているように見える。“Meta, shut down your [...]” のように カンマにすべき

    • 昔のチャットアプリでは、コロンは誰かの注意を引くときに使われていた。たとえば IRC クライアントでニックネームをタブ補完すると、入力がニックネームで始まる場合に自動でコロンが付いた
    • Meta: Shut down. You're invasive. (AI Discover feed)
    • たぶん “Dear Meta: ...” のほうがよさそう

  • I’m okay with Mozilla handling my info as explained in this Privacy Notice.
    プライバシー抗議フォームを送信するのに、このチェックボックスを必須にするという皮肉がある

  • ただ Meta のプラットフォームから出るのが正解

    • 米国外の世界の大半は WhatsApp に戻る
      SMS は選択肢ではない。繰り返すが、米国外では送信するSMSごとに料金がかかるからだ
      WhatsApp の相互運用性計画はあるが、おそらくEUだけに適用されるだろう
      https://www.wired.com/story/whatsapp-interoperability-messag...
    • 数日前の “Meta found 'covertly tracking' Android users through Instagram and Facebook” という話を思い出す。Webピクセルからローカルホスト上の Meta アプリ（FB/IG）へ STUN リクエストを送っていた件だ
      Facebook/Instagram、特に常時実行されるモバイルアプリを使いながら追跡を本気で心配しているとは考えにくいと思う
      Facebook はまだ Tor onion サービスを運営しているのだろうか？ 以前は、極端な追跡を避けながらこれらの製品を使う唯一の方法のように見えた
    • ネットワーク効果のため、ほとんどの人は Meta 製品の少なくとも1つに縛られている。友人たちが連絡や予定調整に Instagram/Facebook/WhatsApp を使っているなら、プラットフォームを離れることはコミュニティとのつながりを断つのに近い
      だからこそ政府には、プライバシー保護を規制し、プラットフォーム間の相互運用性を義務づける役割がある。「ただ使うな」は現実的な要求ではない
    • Meta から完全に離れるのではなく、吸い取るだけにすればいい。投稿、コメント、行動シグナルを提供しないこと。Webアプリを使い、可能なら分離された プライベートブラウジングコンテナで使うこと。デバイスからすべての Meta アプリを削除し、根絶する必要がある
    • Mozilla の事業からも出るべきだ

  • なぜこのWebサイトは Firefox Mobile でまともに動かないのか？ Mozilla、頼むから整理してほしい
    ビューポートがスマホ画面の1/4しか占めず、黒い虚無の中でそれをスクロールして回れる

  • ソーシャルメディア企業が、結果をソーシャルメディアに共有できるAIアプリを作った。驚きだね！
    でも詳細は一つもなく、適当な流行語と参加を促す文言だけ入れた記事を書けば HN のトップに上がり、今日の怒りのサイクルも維持できる。明日はまた「Google は悪い」に戻るだろう