Microsoftに問う：私たちの個人データをAIの訓練に使っているのか？

 (foundation.mozilla.org)
1 ポイント 投稿者 GN⁺ 2023-09-02 | 1件のコメント | WhatsAppで共有
  • Microsoftの新しいサービス規約（Service Agreement）を弁護士・プライバシー専門家・キャンペーン担当者など9人が検討したが、個人情報をAIモデルの学習に使用するのか誰も判断できなかった
  • 検討対象には、Office、Skype、Teams、Xboxなど130製品から収集される音声、動画、チャット、添付ファイルなどの個人情報が含まれる
  • プライバシー専門家9人でさえ理解できない規約を、一般ユーザーが把握できる可能性は事実上ない
  • MozillaはMicrosoftに対し、「個人情報をAI学習に使用するのか」という単純な質問に明確に答えることを求めている
  • データ利用に関する透明性の欠如が核心的な問題として提起されている

キャンペーンの主要な問題提起

  • Microsoftの新しいサービス規約を、弁護士4人、プライバシー専門家3人、キャンペーン担当者2人が検討
    • 9人の専門家のうち誰も、Microsoftが個人情報をAIモデルの学習に使用する計画があるのかを判断できなかった
  • 規約が曖昧なため、データ利用の有無を確認できない
    • プライバシー専門家9人でも理解できない規約を、平均的な一般人が理解できる可能性はない

検討対象となるデータの範囲

  • 130製品から収集される個人情報が対象
    • 対象製品の例：Office、Skype、Teams、Xbox
    • データの種類：音声、動画、チャット、添付ファイル

Mozillaの要求

  • Microsoftに対し、個人情報をAI学習に使用するのかを直接明らかにすることを要請
  • ユーザーの行動（署名）参加を通じて回答を促すキャンペーンを実施

関連記事

1件のコメント

 
GN⁺ 2023-09-02
Hacker News の意見

  • ビッグテック規制の構造は完全な惨事だ
    世界中の相当数の人々のデジタル接点を、事実上2社に支配させておくべきではない
    彼らが不透明で追跡しにくい方法でその地位を乱用しないと信じる理由はまったくない。兆単位の資本を持つ営利企業であり、中規模国家さえ脅かせる弁護士とロビイストの軍団を抱え、無能で混乱し、取り込まれた規制・政治システムの弱点をすべて利用するだろう
    株主のためにそうしなければならないという圧力があり、その株主たちは、この独占的な二強構造がデジタルの未来全体を台無しにしようがしまいが、ポートフォリオにテクノロジーの「勝ち組」をいくつか入れたいだけなのだ。真剣な対策が遅れるほど、後になってより難しくなる

    • 「株主のために法的にそうしなければならない」というのは、現実的な根拠のない古い俗説ではないのか？
    • 機会を利用しようとする欲求が大企業にだけあるわけではないと思う。小規模事業者や住宅所有者組合のようなアマチュア組織での些細ないざこざにも、権力を握ろうとする試みは見られる
      道具が変わるだけで、そうした行動を押し進める人間の特性は常に存在する。資産が一定水準を超えたら突然オンになるスイッチのようなものはない
      また、企業が誰かに対して「法的義務」を負っているとも、ましてや「義務」そのものがあるとも思わない。経営陣は手元の道具を使って目標を達成しようとし、実際にそうする
    • テック企業も責めるが、このすべてを作ったプログラマー、テックスタートアップ、コンピューターサイエンスも責める。超高効率の富の集中装置として使うのがあまりにも簡単なシステムを作ってしまい、現在のテック企業はその結果なのだ

  • Hacker News で見た中で最もカフカ的に不条理なスレッドだ
    分析データが個人情報に該当するなら、Microsoft は確かに分析データを使っている: https://www.microsoft.com/insidetrack/blog/microsoft-uses-an...
    Microsoft が Gmail アカウント、Word 文書、ポルノ活動を読んで OpenAI に入れているのかというと、規約上はそうではない: https://learn.microsoft.com/en-us/legal/cognitive-services/o...
    ただし、Microsoft が一般には知り得ないことをしているのかといえば、そうだと思う

  • かなり以前から Microsoft の迷路のようなプライバシーポリシーに反対してきた
    以前、「AI」コーディング支援ツールが広く使われる前に、別のフォーラムで、VS Code でテレメトリを有効にした場合、Microsoft のプライバシーポリシーが自分のコードをアップロードして活用することを許すのかと尋ねたことがある
    当時は馬鹿げているという反応とともに埋もれてしまったが、Microsoft の規約やプライバシーポリシーのどこにも、その種の処理を明確かつ透明に除外していると示した人はいなかった
    最近は、可能な限りあらゆる大規模データセットで機械学習モデルを訓練しようとする執着が生まれているので、昔の慎重さも今ではそれほど滑稽には見えないかもしれない

    • こうしたポリシー文書は、会社が自ら何を制限しているのかを知らせるためにあるのではない。サービスを使い続けてポリシーに同意したという理由で、会社に何かをさせまいとする利用者に対抗する防御手段として存在する
      「私たちは X をしない」と言うことに商業的・法的な利点がある場合でなければ、大企業は意識的に自分自身にそのような制限を課すことはない

  • 参考までに、Microsoft の予定されているサービス規約全文はここにある
    https://www.microsoft.com/en-us/servicesagreement/upcoming.a...
    変更点の要約はここにある
    https://www.microsoft.com/en-us/servicesagreement/upcoming-u...

    • 依然として「Microsoft 製品およびサービスを改善するために、あなたは自分のコンテンツを使用できる全世界的かつロイヤリティフリーの知的財産権ライセンスを Microsoft に付与する」という文言が入っている
      明示的な制限はターゲティング広告に対してのみ見える。「メール、チャット、ビデオ通話やボイスメールで話した内容、文書、写真、その他の個人ファイルを使ってあなたに広告をターゲティングしない」といったものだ
      変更点の要約にはプライバシーポリシーの変更は言及されておらず、そのプライバシーポリシーもユーザーデータでAI モデルを訓練することを排除しているようには見えない

  • 広告業界で働いたことがあり、個人識別情報に関する法律は興味深い。カリフォルニアには CCPA があり、フォームを通じて自分の個人識別情報の削除を求めると、90日ほど後には削除しなければならないと理解している。
    ところが、カリフォルニア在住者の個人識別情報でモデルを学習させた後に削除要請が入り、3か月後に誰かがその人について尋ねたとき、モデルが「削除された」個人識別情報を吐き出したらどうなるのか？
    結局は法廷で決まることだと思うが、カリフォルニア法に詳しい人がいるなら、なぜ和解金狙いであっても、こういうものを標的にする試みがまだないのか気になる。

    • 彼らはただ否認するだけだろう。あるいは、学習済みモデルからは復元不可能だと主張するだろう。
      カリフォルニア法は知らないが、似たような個人情報保護法のかなり多くは、「削除」要請を受けても集計データには例外を認めている。
    • CCPA はよく知らないが、EU 法なら知っている。現時点では、「削除権／忘れられる権利」はこの点で非常に曖昧で、広く定着した判例もないように見える。
      一般に法律は生データの記録に適用され、集計データや指標、モデルには適用されない。ただし、ここでいうモデルというのは、保険または信用評価業界に関する特定の判決一つに基づくものだったと記憶している。
      モデルが削除されたデータを「吐き出す」必要もない。生成モデルではなく分類器や回帰モデルかもしれないし、理想的にはそもそも自分のデータで学習しているべきではなかった。
      技術的にも難しい点が重要だ。あるモデルが非常に大きなコスト X をかけて作られ、通常は6か月ごとに再学習するとしよう。そこに削除要請が継続的に入ってくると、それに従うために頻繁に再学習するのは高すぎる。
      これを効率的に処理しようとする**機械アンラーニング（machine unlearning）**の研究はあるが、今のところかなり期待外れだ。
    • そもそも、その中に自分の個人識別情報が入っていて、識別可能な部分が取り除かれていないと、なぜ仮定しているのか分からない。
      個人的な部分がなくなっているなら、請求する根拠があるのかよく分からない。

  • Microsoft の法務チームはどうやってこんな偉業を成し遂げているのだろう？ 十分に大きなチーム、たとえば Microsoft や大陪審くらいにしか意味を抽出できないほどの言語的抽象化レイヤーを積み上げているのだろうか？
    一見無害な場所に罠を隠したおとり文なのか？ それとも遠回しに言いながら、決して正確な答えを出さないやり方なのか？

    • 数百万ドル規模を超えると、弁護士チームは実質的に法務レッドチームになる。既存の制限を迂回する方法を見つける任務を担い、実際に見つけ出す。
    • Microsoft の法務チームがどうやってそんなことをやり遂げるのかって？ 誰が止めるんだ？
    • M$ って何？

  • ある用途を明示的に除外していないなら、そのデータが有用である限り、結局は学習データとして使われると考えてよい。今すぐでなくても、いつかはそうなる。地球上でデータを蓄積しているすべての会社に当てはまる。
    みんなの基本前提はこうあるべきで、法律ができない限り概ね正しいはずだ。法律ができても、管轄権の回避のせいで過去データには無力かもしれないし、新しいデータも弱くしか保護されない可能性が高い。
    新しい石油へようこそ。

  • 個人情報と個人識別情報は違う。多くの面で、個人情報の利用は避けられない。
    予測入力は個人情報を使う。全員から「学習」するからだ。文や段落は個人情報なのか？ 検索エンジンは私が入力したものを記録する。検索語を「個人的」だと分類するのか？ このスレッドの最初のコメントをコピー＆ペーストすることもできるが、それも個人情報なのか？
    私が完全に間違っているのかもしれないし、ウェブページには何も入力すべきではないのかもしれない。
    4人の弁護士と3人のプライバシー専門家も、個人情報とは何かについて結論を出せなかったように見えた。ビッグテックが人々の作ったデータを「AI」ツールに入れているのかと言えば、そうだ。小さなテック企業もそうしているのかと言えば、そうだ。
    Mozilla と一緒に熊手を手にする準備はできているが、何のためなのかを知りたい。群衆を煽るのではなく、私の利益をどう守るのかを明確に語る人たちが必要だ。
    データ、どんなデータであれ、その利用は契約の適用を受ける。Hacker News を使う際に同意した「法的文書」も読んでみると、個人情報の利用方法についてのセクションが丸ごとある。HN に対しても熊手を掲げるべきなのか、それともここは問題ないのか？

    • Microsoft は何年もLinux を殺そうとしてきたし、今も爪を研いでいる。

  • このうち何が「AI 学習」なのか？
    悪用検知システムが悪質な利用者を人間のレビューに回すためにユーザーの行動やデータで学習されること、ウェブ検索をするときにランキング関数が全ユーザーの行動で学習されること、メール作成ツールが自分の入力履歴に基づいて補完を提案すること、一般公開された LLM チャットインターフェースが自分の非公開メールで学習されること。
    「AI 学習」は多くの場合、プライバシーポリシーに入れるべき性質のものではなく、実装の詳細に近い。Mozilla がどの行為を心配しているのか、もっと明示的に言ってほしい。

  • そう、巨大企業はそうしているし、今後もそうするだろう。どこかの大企業が私たちの最善の利益を考え、ガバナンスも完璧に整えていると信じているなら、ハハ、本当に大笑いだ。