人工知能への信頼危機

Dropboxの新しいAI機能への不信

• Dropboxが新しいAI機能を追加。
• これらの機能がOpenAIにデータを送信しているとの批判に直面。
• Dropboxは個人ファイルがモデルの訓練データとして使われることを否定。

重要な詳細

• Dropboxには、顧客の同意なしにAIモデルの訓練へ顧客データを使用しないという原則を記した文書がある。
• 設定内に隠れたチェックボックスがあり、これがユーザーの同意を意味するのかは不明確。

OpenAIを信頼しない人々

• DropboxのサードパーティーパートナーであるOpenAIは、データを内部モデルの訓練に使用せず、30日以内に削除すると主張。
• 人々はOpenAIの主張を信じておらず、AIに対する信頼危機を経験している。

Facebookはあなたのマイクを通じて盗聴していない

• Facebookがユーザーのマイクを通じて盗聴し、広告を表示しているという説は、技術的・非技術的な理由から簡単に反証できる。
• しかし人々は自分の経験に基づいて、このような主張を信じない。

これは本当に重要

• 信頼は重要であり、企業が個人情報の扱いについて虚偽を述べるのは深刻な主張である。
• 政府の役割は、このようなことが起きないようにすること。

私たちにできること

• 大手AI研究所は、訓練データに関する情報を共有することで信頼を改善できる。
• ChatGPTでのやり取りがモデル改善に使われている一方で、それがどのように使われるのかに関する詳細情報は不足している。

ローカルモデルの機会

• 人々はクラウドではなく、自分のデバイス上で動作するローカルモデルをより信頼している。
• ローカルモデルの品質は向上し、サイズも小さくなっている。

GN⁺の意見

• AIとプライバシー保護の交点は重要な問題であり、それについて透明性のある対話が必要。
• DropboxとOpenAIの主張への不信は、技術に対する理解不足と信頼の欠如から生じている。
• この記事は、AI技術の急速な発展とそれに伴うプライバシー保護の重要性を強調し、理解と信頼に基づく透明なコミュニケーションがなぜ必要なのかを説明することで関心を引いている。

[GN⁺]

Hacker Newsの意見

• スクリーンショットは私のアカウントで直接撮ったものだ。『オン』に設定されているが、私は自分でそれをオンにしていない。

  • ウェブサイトのプライバシーに関しては、「同意」をめぐる危機も存在する。法的に執行可能な同意の定義が必要であり、それはユーザーが自分のデータを第三者へ送信することについて積極的に同意しなければならない、という意味でなければならない。良い記事だが、「私の電話が私を盗み聞きしている」と「OpenAIが私のデータをどう使うかについて嘘をつくかもしれない」というたとえにはやや欠陥がある。iPhoneのマイクにアクセスするサードパーティ製アプリに対する強力な審査は、データが第三者へ渡ることと同等ではないからだ。一般の人には同じことに見えるかもしれないが、実際には前者については保護されている。ユーザーデータのプライバシーと主権のための戦いはすでに敗北したかのように振る舞うのは、非常に非生産的だ。ある程度テクノロジーに詳しい人たちが、新しい企業による濫用に対して「今さらの話」という態度で反応するのをよく目にする。そういう人たちはもっと良い手本を示すべきだ。この種の無力感は信頼を損ない、より良い世界が可能だという印象を与えない。Dropboxの失敗は、まさにこの考え方のしっぺ返しのように見える。つまり、ユーザーは私たちが尋ねずに彼らの個人的なファイルを第三者へ送っても気にしないだろう、と考えたのだ。私はすでにDropboxからデータの大半を引き上げており、昨日ついにDropboxを解約する必要性を感じた。ありがとう、Dropbox！

• この記事はやや素朴で、「善意を前提にしている」感じがする。AIの外でこの10年に起きたことを見てみろ。誰もがまるで強迫的な収集家のようにデータを食い尽くしている。GoogleやFacebookだけでなく、みんながそうしている。今日、スウェーデンの伝統料理を紹介する小さなサイトにまで、自動再生ビデオやダークパターンのクッキー同意バナーなどが追加されているのを見つけた。ほとんどすべての新しいアプリやサイトが、この経済的な軸を中心に構築されている。そしてLLMが力を持ち始めるやいなや、サードパーティAPIに対する足並みのそろった封鎖が始まった。今や私たちはChatGPT/OpenAIとその競合を抱えている。他のプレーヤーたちがデータをこっそり深夜のおやつのように食べているとすれば、現世代のAIはまるで血と脳を渇望する素早く機敏なゾンビのようなものだ。データが製品の中でより直接的な役割を果たすからでもあるが、テックVC特有の誇大宣伝列車を競って追いかける心理も、何十年ぶりかに目を覚ました。あらゆる状況が、ゾンビアポカリプス、ゴールドラッシュ、とりあえずやって後で許しを請う、といったものを示している。だからこそ、彼らが一斉に安全性や責任といったレトリックにいっそう力を入れているのだと強く思う。避けられない評判上のPR危機がやって来る前に、水を濁すための弾薬をあらかじめ確保しているのだ。一方で私たち技術者は、まるでこの10年を深く体験してこなかったかのようにぼんやりしていて、今回はAIには学術的な基盤があるから、派手な新興企業がいるから、安全性レトリックがあるから、「地に足のついた」創業者たちの尖ったTwitter発言があるから違うのだ、と思っている。何が起きているのかを正確に知っているわけではないが、人間がどう動くかについては十分長く見てきた。そして彼らは良くなっていない。

• あなたの記事は、私のデータで訓練されることを超えたプライバシー問題を見落としていると思う。

  • 専門職として、私には機密保持契約や規制を守ることを求めるクライアントがいて、情報がどこへ行くのかが重要だ。私は、自分のデータがサーバー内に留まるサービスを好む。なぜ私のデータが常に完全に暗号化されておらず、私だけが見られる形になっていないのか理解できないが、私の同意も関心もないまま、インターネット経由で別の会社へ送られて処理されるのは恐ろしい。AI機能を使うときには同意するが、私の個人的なファイルを私の同意なしにインターネットの向こう側へ送るのは狂気じみている。正直なところ、OneDriveには移行ツールがあり、Dropbox Businessのトライアル版を入手して昨夜すべてのファイルを自動で移した。これは、彼らの会社が私の頼んでいないことをやり続け、私が継続的に求めている機能、つまりエンドツーエンド暗号化を提供しないことに対する最後の限界だった……。Dropbox BusinessからOffice 365 OneDriveアカウントへ数回のクリックで移行したいなら、ここにある: [移行ツールリンク]

• ここでの核心的な問題は、人々がDropboxの個人ファイルがモデル訓練のためにOpenAIに使われているのではないかと心配していることだ。

  • それは問題の一部にすぎない。私が承認しない限り、自分のデータがどこへであれ送られることを望まない。この件では、OpenAIが私たちのファイルを訓練に使わないという彼らの説明を疑う理由はないが、それでも彼らが私たちのファイルを安全に扱えると信じなければならない。

• Facebookはそんなことはしていないと言っている。嘘だと発覚したときの評判へのリスクは莫大だ。

  • Facebookが誰かの電話のマイクを通じて密かに盗み聞きしているとは思わないが、その具体的な主張にはまったく説得力がない。Facebookの評判は、少なくとも私が知る一般の非技術者の間では最悪だ。私はアメリカに住んでいるが、人々はFacebookが2021年1月6日の暴動をあおるのに手を貸し、その後は一切責任を取らず何も直さなかったことを知っている。多くの人は、彼らがたぶんやっているだろうとすでに思っているこの件によって生じる評判被害など、比較にならないほど小さい。

• 記事におけるマイクへの信頼の話は、主要な論点をより明確にできる部分から注意をそらすレッドヘリングに見える。

  • Facebookは、アプリやインターネット全体からあなたのデータを取り込み、オンラインでのあなたの行動を追跡し、そのデータをあなたの<i>モデル</i>に入力している。そうしたモデルは、ときにあなたが何を考えているかをほとんど予測できるほど正確だ。だから普通の人は、彼らはマイクを通じて盗み聞きしているに違いない、という結論に至る。OpenAIのようなLLM企業やそのパートナーも、ほぼまったく同じモデルを使っている。望む場所からデータを取り込み、モデルを改善し、あなたにクリックしてほしい場所をクリックし続けさせ、あなたを収益化するためだ。

• 私は、OpenAIであれ他の大企業であれ、彼らが「やった」と言うこと、「やる」と言うこと、「やっている」と言うことを信頼しない。

  • それでも私は、OpenAIがユーザーの同意なしにDropboxのデータを<i>訓練</i>に使っていないとは信じている。しかし、それがここでの問題ではない。問題はデータが移動している最中に発生する。つまり、実際にデータを読める第三者へデータを送り、Dropboxが制御できない不正な従業員がいるかもしれず、データがログに現れたり、別のポリシーの下で処理されたりするかもしれない。私がDropboxに個人データを送るなら、彼らは私の明示的かつ十分な情報に基づく同意なしに、いかなる理由であれそれを第三者へ送ってはならない。これがどうして議論の余地があるのか理解できない。Dropboxがモデルを保持し、同意したユーザーにRAG検索を提供したいというのなら、それは一つの話だ。Dropboxがすべてのユーザーのすべてのデータを、誰にも前もって知らせずに第三者へ送るのなら、それはまったく別の話だ。ひどいことだ。

• AIへの信頼危機？

  • ある企業の取締役会やCEOが、嘘や操作の疑いで解任・交代させられたというニュースを聞いた後で、どうなるだろうか。Dropboxがユーザーデータをスキャンしてそこから派生データを得るなら、その「派生」データはもはや「ユーザーデータ」ではなくDropboxのデータになり、共有可能になるかもしれない。それは個々のユーザーに直接結び付かない統計的な性質のものかもしれないが、それこそ訓練データではないのか。そうやって機能するのではないのか。それは嘘ではなく、言葉尻をとらえた詭弁だ。いや、それは非倫理的な振る舞いであり、大企業では標準になってしまっている。

• AI企業を信頼しない人たちは、さまざまな業界の企業や非営利団体、さらには政府機関に対しても似たような感情を持っているのではないかと思う。

  • 私には、AI系企業を超えたはるかに大きな信頼問題があるように思える。だから、この特定の分野があらゆる方面からやって来るこうした不信と戦おうとするのは、こうしたビジネスの範囲を超えた不可能な任務のように見える。この問題の答えが何なのか、そもそも本当に問題があるのか、こうした広範なシニシズムがあらゆるものやあらゆる人に広がったとき、私たちがどこへ向かうのか、私にはわからない。たぶん私たちは、ただ面白い時代に生きるよう呪われているだけなのかもしれない。