X/Twitter、AIトレーニングへの投稿利用を認める規約更新
(stackdiary.com)- X/Twitterの新しい利用規約では、ユーザーの投稿をAIトレーニングに使えるようになっており、外部スクレイパーを締め出してきたXが自社データの活用範囲を広げる点が争点となっている
- Elon Muskは過去にMicrosoftによるTwitterデータの使用を問題視していたが、現在XはユーザーコンテンツをAIモデルのトレーニングに活用できる方向へ動いている
- Xへ直接投稿するよう記者に促したことと、xAIのX・Teslaとの協力体制が重なり、XのデータがxAIの継続的なデータ供給源になり得るとの懸念が高まっている
- 更新された規約のAIベースの定義は、コンテンツへのアクセス制限やブロックにつながる可能性があり、特定のツイートやハッシュタグの露出、コンテンツの拡散に影響を与え得る
- プラットフォーム体験は、誰にとっても同じ公開空間というより、AIが定義したユーザーのアイデンティティに応じて変わるパーソナライズされた領域に近づく可能性がある
X/Twitterの規約変更が狙うデータ活用
- 新しい規約では、ユーザーの投稿をAIトレーニングに使用できるようにしている
- この変化は、複数の企業がAI学習データと規約をめぐって論争に直面している流れと重なる
- Braveは、著作権データのAIトレーニング販売問題とともに言及されている
- Zoomは、ユーザーコンテンツをAIトレーニングに使う規約変更の事例として挙げられている
- AWSは、AIサービス関連のデータ利用がデフォルトでオプトインになっている構造として比較されている
- Xは外部スクレイパーからプラットフォームを隔離しようとする措置を取ってきており、xAIの発足後、XのデータをAIトレーニングに活用できる点が主要な争点となっている
Elon Musk、xAI、ユーザーコンテンツの関係
- Elon Muskは過去に、MicrosoftがTwitterデータを違法に使用したと述べ、Microsoftを法廷に立たせる意向を示したことがある
- 今やX自身がユーザーコンテンツをAIトレーニングに使う方向へ規約を変更しており、ユーザーが別途の許可や補償なしにMuskのAI事業に貢献することになるとの批判を受けている
- Muskは記者に対し、より大きな自由と収益を望むならXに直接投稿するよう述べたことがある
- この発言は、独占的で興味深い情報をXに集め、そのデータをモデルのトレーニングに活用しようとする流れとして解釈できる
- xAIのホームページは、xAIがX Corpとは別会社だが、X(Twitter)、Teslaなどと緊密に協力していると説明している
- AIにおいてデータ品質と独自性がボトルネックになり得るという前提の下で、XのデータはxAIのための継続的なデータ供給源として機能し得る
ユーザー体験に起こり得る変化
- 更新された規約のAIベースの定義により、ユーザーのコンテンツアクセスが制限またはブロックされる可能性がある
- 特定のツイートやハッシュタグが見えなくなる可能性がある
- 自分のコンテンツがより広い読者に届きにくくなる可能性がある
- Twitterでは過去にもシャドウバンをめぐる議論があったが、自動化とAIの介入は、より精緻で広範な形で機能し得る
- こうした方式はTwitterにとどまらず、インターネット全体へ拡張される可能性がある
- Google検索結果
- Facebookフィードにおけるニュースの露出
- ユーザーが見ることのできる経路と選択肢
- インターネット上の経路そのものが減るのではなく、AIが定義したユーザーのアイデンティティに応じて一部の経路が隠されたり表示されたりする形で、個人ごとの体験が狭まる可能性がある
- Twitterは、誰にとっても同じ普遍的な体験というより、AIアルゴリズムが定義するパーソナライズされた空間に近づく可能性がある
1件のコメント
Hacker News のコメント
Musk は、Twitter を AI 学習用データの宝庫のように見ることにこだわってきており、AI 企業が学習目的で Twitter のデータを使っているとたびたび不満を述べてきた
OpenAI のような企業は、Twitter を特に狙っているというより、Web をクロールしているうちに Twitter も含まれるのだと思っていたが、Twitter のデータが本当にそれほど価値があるのかは気になる
他の公開データセットと比べて、特に有用にしている特性が何なのかはよく分からない
英語圏では Reddit 以外に似たようなソースはほとんどない
GPT 系の構造にはどちらも直接関係なさそうだが、将来のモデル構造がこれを活用する可能性はある
情報理論の観点から見ると、ツイートのタイムスタンプや相対的な順序にもゼロではない情報量が含まれている
ほとんどのデータはきちんと構造化もタグ付けもされておらず、信号対雑音比が低く、テキストは概して短く文脈依存性が高い
Twitter は短尺動画プラットフォームとしてもおおむね失敗しており、関心・トピックベースのフィードをアルゴリズムで作ろうとした形跡はあるが、品質が良かったことはあまりない
利点は鮮度と規模だが、強力な Web クロール基盤があれば Twitter なしでも達成できそうに見える
現世代の大規模言語モデルは、少なくとも現時点では分単位の鮮度をうまく活用できない
ただし現在の Twitter には、エッセイ、ニュース記事、書籍、科学論文のような長文形式のコンテンツに似たデータはあまり多くない
だから Twitter/X はツイートの文字数制限を増やして、そうしたデータを集めようとしたのかもしれない
ツイートを書く AI が欲しいなら、それ以上のものはない
Twitter は、コミュニティマネージャーを不要にするサービスを提供することもできる。プレスリリースや製品サイトを入力すると、よく練られた広告ツイートの流れを作ってくれたり、さらには 世論操作用の投稿も作れたりする
この変化は Twitter だけに限られず、インターネットの 新たな標準になり得るものを示している
Google/Gmail/YouTube、Amazon、Microsoft、TikTok、そしてユーザー生成コンテンツを扱うすべてのインターネットプラットフォームも、まもなく同じことをするだろう
すでにやっていないなら、だが
処理済みの GMail データが、機密情報の除去などの手続きを経て、LLM や他の AI プロジェクトの学習に使われていないとしたら、むしろかなり驚くと思う
サーバーにアップロードするものはすべて学習ソースになる
2010年代半ばから後半の FB Messenger では、レコメンドや自動返信モデルが、ユーザー間でやり取りされた暗号化されていないメッセージ全体のコーパスで学習されていた
サーバー側でかき集められるものがない
規約には今や 集団訴訟の放棄条項も入っている
AI 学習条項より、正直こちらのほうがずっと気持ち悪い
人々の注意を広告主に売ることよりは、AI 学習のほうがまだ問題は少ないと思う
ああ、今分かった
数秒間は、ウィンドウシステム X がデータを AI にどう使うのか気になっていた
Twitter ユーザーたちがツイートするものを学習した AI より、世の中で悪いものを想像するのは難しい
Elon の別会社である xAI がこのデータを必要としているから、こうしたのだ
ほとんどすべての規約は、データを使って製品を改善することを認めている
「雑なヒューリスティックをいくつか巨大な AI モデルに置き換えること」は、私には 製品改善に見える
したがって、すでにユーザーデータで AI モデルを学習できていたということになる
チャットボットを学習させようとしているのだろうか。Elon はボットをなくすと言っていたような気がするが
CEO が Elon に対して使えば、彼をおとなしくさせておくこともできる
組織的であれ個人的であれ、消費者行動がここから先の展開を変える可能性は 0% だ
結局は知的財産権法とその周辺領域にかかっている
ここで意図的な行動を期待する理由はあまりない
以前の Twitter であれ、今われわれが何と呼んでいるものであれ
消費者行動がデータセットを汚染することだとしたらどうだろう？
私たちは皆、AI マシンに消費されることになる
「すべての能力はデータ分析から生み出され、彼らが分析するデータはまさにあなた自身だ。直接の意図であれそうでないであれ、あらゆる進歩は、あなたについて知り得るすべての事実と推論を飲み込む方向へと侵食している。その力を発現させるために、あなたの魂は機械への供物として捧げられなければならない。」
https://www.mindprison.cc/p/ai-end-of-privacy-end-of-sanity