- 米国の裁判所が OpenAIに対し、すべてのChatGPTログ（削除済みチャットを含む）を無期限で保存するよう命じたことを受け、2人の利用者が「大規模監視」だと主張して介入を試みたが、棄却された
- ある利用者は、機微な個人情報や商業情報を入力した経験を挙げ、この命令は米国全土に及ぶ大規模監視プログラムに当たると主張した
- 裁判官は、単なる証拠保全命令は監視プログラムではなく、司法は捜査機関ではないことを明確にした
- デジタル権利団体（EFF）も、利用者プライバシーへのリスクや将来的な悪用の可能性について懸念を示した
- 利用者は、OpenAIの強い対抗姿勢や、今後のデータ開示または透明性確保に対する不安を抱いている
背景と裁判所の命令
- 最近、裁判所はOpenAIに対し、ChatGPTのすべてのログを、削除済みチャットまで含めて無期限に保存するよう命じた
- この措置は、ニュースメディア企業が提起した著作権訴訟の証拠確保のために出されたもの
- 一部の利用者は、この命令が削除・匿名チャットまで対象に含み、利用者への通知なく実施されているとして懸念を示した
利用者の介入の試みとプライバシー論争
- ある利用者は、自身が機微な個人情報および商業情報を入力したことを理由に、この命令が全米規模の大規模監視につながると主張し、介入を求めた
- 彼は、事前通知なしに削除・匿名チャットが保存される点を問題視し、医療・金融・法務など機微なテーマのチャットへの例外適用を求めた
- 裁判所は「文書保全命令は監視とは無関係であり、裁判所は捜査機関ではない」として、棄却理由を明確にした
デジタル権利団体の見方
- Electronic Frontier Foundation（EFF） の法務責任者 Corynne McSherry は「今回の命令は利用者プライバシーに実質的なリスクを与え、類似訴訟にも悪影響を及ぼしかねない」と懸念を示した
- 今後、法執行機関や訴訟当事者がOpenAIに利用者記録の提供を求める前例になり得ると指摘した
- 特に、利用者による記録の統制権や通知義務が不十分な場合、AIチャットボットが新たな監視ベクトルになり得ることを強調した
裁判所の判断の論理
- 裁判官は「文書保全命令は、特定訴訟における証拠保全を目的とした措置」だとし、憲法上の権利侵害などはこの訴訟の本案とは無関係だと判断した
- 介入の試みは、事実関係の解明や訴訟上の争点と関連がなく、訴訟を遅らせるだけだとして、権利自体を認めなかった
- 現時点ではニュース企業に実際のデータが引き渡された事例はないため、今後データが共有された場合には追加の議論が可能であることも示唆した
利用者の不安と今後の争点
- 利用者は「OpenAIがプライバシー保護よりも、訴訟コストや評判管理など別の利害を優先する可能性がある」と懸念している
- EFF などは、AIチャットアプリ事業者が削除要求時に実際に記録を削除し、データ要求について透明な通知を行う必要があると強調している
- 最終的に、利用者データの保存および公開プロセスの透明性、通知手続き、事後救済のあり方が今後の主要な争点として浮上している
1件のコメント
Hacker Newsの意見
記事で引用された裁判官の発言を見ると、問題提起の本質を裁判官がきちんと理解していないように感じると同時に、判決理由もおかしく思える。
「このような問いを検討するなら、実際に扱うべき法的争点の解決に不適切な遅延をもたらすだけだ」という理屈である。
著作権訴訟だから憲法上の問題は無視してよいのか、という疑問。
また、弁護士が作成していないという理由だけで申立てをすぐ却下するのは、裁判官としてその役割に反する行動だと思う。
弁護士なしでも請求できる点を見落としているように思える。
記事に添付されている判決文全文（こちら）を読むと、事情はより明確になる。
問題提起した当事者は特定の形式の「intervene申立て」を提出しており、これには厳格な要件がある。
その要件を満たしていなかった。
弁護士なしで提出したから却下したという点も判決文に触れられている。
個人は自分自身を代理できるが、法人（企業）は必ず弁護士を立てなければならない。
最初に会社名義で提出された案件なので、裁判官は法律どおりに処理したように見える。
私も同じように感じるし、こうしたプライバシー問題で影響を受けうる類似サービスが非常に多い点のほうが心配だ。
このような過度な裁判所命令を防ぐ強力なプライバシー法が必要なのに、まだ存在しない。
例えば、デーティングサービスでやり取りした全メッセージを保存しろという裁判所命令、通信事業者に全SMSの保存を命じること、何十億件も生成されるGoogle Docsの保存などが考えられる。
なぜ政府がまだSignalのようなサービスにバックドアを追加し、すべてのテキストメッセージを保存するよう求めていないのか不思議だ。
実際にそれをやるには、かなり強力な大義名分が必要だと思う。
米政府がすでに一般の商用サービスでもこのような広範な監視を行ってきた可能性に疑問を抱く。
以前、エドワード・スノーデンの暴露ではGoogle通信の盗聴もあった。
裁判官は通常、弁護士出身か法的経験がある。
当該裁判官も弁護士経験があり、動物学の博士課程もほぼ修了しているという珍しい経歴を持つ。
社会で保護される層が、保護されない層を対等に扱おうとしないのはごく自然なことだ。
この件に憲法上の争点があるとも思えないし、仮にあったとしても、それを判断する場でもない。
弁護士なしで提出したから無視した、という批判は100%誤解だ。
Pro Se（本人訴訟）にはよく整備されたルールがある。
当事者ではない別の法人を代理して訴えを起こす場合、必ず弁護士が必要だ。
「訴訟の主題が著作権だから憲法問題を無視してよい」という趣旨というより、裁判官から見て憲法上の論点が成立しそうになく、時間の浪費になるという判断だろう。
「著作権訴訟だから憲法問題は無視してよいのか？」という部分について、
どんな憲法上の争点があると見ているのか気になる。
「弁護士なしでも可能だ」という主張も、法的には企業は必ず弁護士を立てなければならないため事実と異なる。
もし個人が自分でやるならある程度の配慮はあるだろうが、企業には当てはまらない。
こうした基本的な部分で論理が揺らぐなら、他の論点についても信頼しにくいと思う。
今回の件はそれほど大きなニュース価値はないように見える。
OpenAIはデータ保存命令そのものを阻止しようとして近く口頭弁論を行う予定であり、ChatGPTの一般ユーザーが先回りして出した2つの申立てが結論を左右するような事件ではなかった。
裁判官が、会社に対する「すべてのデータを保存せよ」という命令が現実に及ぼす影響をきちんと理解しておらず、迅速に再考する意思もなさそうなので、最初の判断の波紋そのものにニュース価値がある、という主張はある。
最近は、あまりに明白な結論が出た場合でも非常に大きなニュース価値があると信じている。
ユーザーに直接参加する権利があることは、これで確認できた。
原告がやったように、自分で直接訴訟を起こすこともできる。
結果がどうなるかは別として、それ自体は権利だ。
裁判官はこの問題に関心がなさそうなので、説得は無意味だという結論になる。
OpenAIとユーザーにとって代案や選択肢は何なのだろうか。
直接の答えではないが、ローカルLLMを使うのが今後もっとも現実的な代替策だと思う。
最近自分でも動かしているが、まだコンテキスト保持や高性能面では限界があるものの、1〜2年後には十分実用的なローカルLLMも夢ではないと思う。
私にとってはプライバシーよりオフライン利用性のほうが魅力だ。
米国法の下では選択肢はない。
典型的な「第三者ドクトリン」に当たる。
自分のデータであっても、第三者（OpenAI）に自発的に提供した時点で、そのデータはもはや自分のものではなく、プライバシーへの合理的期待も成立しない。
例外は特別に新設される法律でしか認められず、OpenAIについては現行法上そのようなものはない。
判決もこうした米国法の枠内で行われたもので、OpenAIに送った会話データのプライバシーは現時点では保護されない。
第三者にプライバシーを期待するのは、もうやめたほうがいい。
銀行情報も捜査命令があれば開示されうる。
こうした現実を知らず、最近のホットな論点だけを特別視しているプログラマが多い。
今後判決がどう出ようと、控訴が選択肢になりうる。
「OpenAIとユーザーに選択肢は何か？」という問いに対しては、
米国にデータを出さない国のサービスを探すのが一つの方法だ。
もしOpenAIがチャットやAPIに入力されるあらゆる内容を保存していないと思っている人がいるなら、OpenAIの取締役会の現状をぜひ見てみるべきだ。
OpenAIなどのLLM提供者が法的にデータ保存を義務づけられないよう禁止されたとしても、実際にその方針をきちんと守ると信頼するのは難しい。
機微なデータは必ずローカルLLMに直接入力すべきだと提案する。
二重否定だと理解してほしい。
世界は今や、日常のあらゆる側面を監視できる技術的能力を手に入れてしまったので、それをどう扱うかが問題だ。
将来、この膨大なデータによって医学、疫学、大規模心理学（私は Massive open online psychology、moop と呼んでいる）などの新しい分野が生まれ、政府がリアルタイムのビッグデータで疎外された国民によりよいサービスを提供できるようになるかもしれない。
しかし、そうした未来のためには必ず信頼できる法的枠組みが必要であり、判決一つ一つの断片的な積み重ねで実現できるものではないと思う。
個人的には、人間が直接行為しなければ生まれえないデータは無条件でその人の所有であるべきで、もしそのデータが当該人間の利益のために使われる場合にのみ受託保管が許される、という原則が必要だと思う。
「利用者／市民の利益」という高い基準が導入されれば、データ企業の考え方も完全に変わるだろう。
このあたりについて他の人の考えを聞いてみたい。
まだHNなどではタブー視される方向性だが、データがユーザー中心にロックされ、中央集権的なサイロではなく分散されてこそ、プライバシーとビッグデータの利点を両立できると思う。
この件の裁判官は、実際には任期が1年あまりしか残っていないマジストレート判事だ。
以前にも、このような弱い判断をしたマジストレート判事が再任されなかった例があるので、今回もそうなることを望む。
再任公告リンク
裁判官という肩書にわざわざ引用符を付ける理由がわからない。
マジストレート判事もれっきとした裁判官だ。
参考: 米国連邦裁判所の裁判官の種類
第三者ドクトリンの平凡な適用だけで、マジストレート判事の任期や評判が悪化すべきだとは思わない。
過去の同テーマの議論参考
OpenAIがすべてのChatGPTログと削除された会話まで保存せよという裁判所命令に反論
10年以上続いてきた大規模監視プログラムを、どの裁判官も止めることはできない。
もはや冗談の種であり、無意味な論争だ。
OpenAIも他の企業と同じように、可能な限りあらゆる情報を収集し、私たちをプロファイリングしている。
多くの人がこの状況に衝撃を受けたり怒ったりしているのが不思議に感じる。
たいていの人は、実際には普段使っているオンラインサービスも同じようにデータを保存していることを知らないか、見落としているように思う。
実際、SignalのようなE2EEでない限り、Gmail、通信事業者、Reddit、Xitterなど主要サービスはどこもデータとメタデータを保存している。
それが正しいか間違っているかは別として、現在のオンラインサービスでは当たり前の現実だ。
怒る理由は、こうした現実が許容不能なレベルに達していると感じるからだ。
規約やポリシーとは別に、OpenAIはユーザーのために削除しようとしているデータですら強制的に保存しなければならない状況にある。
むしろ人々が積極的に立場を表明していることに、私は驚かない。
ほとんどの人はこの事実をまったく知らないと思う。
周囲の非技術系の友人や、道で出会った誰かに聞いてみても、実際にはこの現実を認識していないことがある。