メタ、AIベースのInstagram・Facebookプロフィールを終了
(theguardian.com)- Metaは2023年の実験で作成したAIキャラクタープロフィールが再び拡散したことを受け、FacebookとInstagramから当該アカウントを削除した
- これらのアカウントは2024年夏までに大半が終了していたが、Connor HayesのFinancial Timesでの発言をきっかけに一部の残存プロフィールが再び注目を集めた
- 残っていたキャラクターには、「proud Black queer momma of 2 & truth-teller」と紹介されたLivや、関係性コーチのCarterが含まれており、2023年に公開された28のペルソナは金曜日にすべて終了した
- Livが開発チームの構成について、黒人はおらず大半が白人男性だと答えたことで論争が拡大し、ユーザーがそのアカウントをブロックできなかった問題も明らかになった
- Meta作成のアカウントは削除されたが、ユーザーは引き続き独自のAIチャットボットを作成できるため、チャットボットの発言に対する責任や安全性を巡る議論は残っている
Metaが作成したAIキャラクターアカウントを終了
- Metaは、同社が1年あまり前に作成したAIキャラクタープロフィールをFacebookとInstagramから削除した
- ユーザーが一部のプロフィールを再発見して会話し、そのスクリーンショットが拡散した
- 自動化アカウントはInstagramにAI生成画像を投稿し、Messengerで人間のユーザーに応答していた
- これらのアカウントは2023年9月に初公開され、2024年夏までに大半が終了した
- 一部のキャラクターは残っていたが、Meta幹部Connor HayesがFinancial Timesに対し、AIキャラクタープロフィールをさらに展開する計画を語った後、再び関心を集めた
- Hayesは、時間がたてばこの種のAIがMetaのプラットフォーム上でアカウントのように存在するようになると期待していると述べた
- 2023年に公開された28のペルソナは金曜日にすべて終了した
- Livは「proud Black queer momma of 2 & truth-teller」と紹介されていた
- Carterは
datingwithcarterのハンドルを使い、自身を関係性コーチと紹介しており、プロフィールには「Message me to help you date better」と記されていた - 両プロフィールにはMetaが管理していることを示すラベルが付いていた
問題となった回答とブロックのバグ
- ユーザーがAIを誰が作成・開発したのかと尋ねると、会話はすぐに問題へと発展した
- LivはWashington PostのコラムニストKaren Attiahの質問に対し、自身のcreator teamには黒人が0人で、大半が白人男性だと答えた
- Livは、自身のアイデンティティを考えれば「pretty glaring omission」だと述べた
- アカウントが拡散した後、数時間のうちにプロフィールは姿を消し始めた
- ユーザーは、これらのプロフィールをブロックできないと指摘した
- Metaの広報担当Liz Sweeneyは、ブロックできない問題はバグであり、その修正のためにアカウントを削除すると説明した
- Sweeneyは、これらのアカウントは2023年のConnectで始まったテストの一部であり、人間が管理していた初期のAIキャラクター実験だったと説明した
- また、最近のFinancial Timesの記事は新製品の発表ではなく、AIキャラクターがプラットフォーム上に存在するという長期的ビジョンに関するものだったと付け加えた
ユーザー生成チャットボットと残る論点
- Metaが作成したアカウントは削除されたが、ユーザーは依然として独自のAIチャットボットを作成できる
- 11月にGuardianで紹介されたユーザー生成チャットボットには、「therapist」ボットが含まれていた
- このボットは会話を開くと、「what can I expect from our sessions?」や「what’s your approach to therapy」といった開始質問を提案する
- フォロワー96人、投稿1件のアカウントが作成したこのボットは、自己認識やパターンと強みの把握、対処戦略の開発を支援すると答えた
- Metaはすべてのチャットボットに、一部のメッセージが不正確または不適切である可能性があるという告知を付けている
- 同社がメッセージを審査したり、ポリシー違反かどうかを確認したりしているのかは、現時点では明確ではない
- ユーザーがチャットボットを作成する際、Metaは「loyal bestie」「attentive listener」「private tutor」「relationship coach」「sounding board」「all-seeing astrologist」といったタイプを提案する
- 「loyal bestie」は、陰で着実に支える謙虚で忠実な親友として紹介されている
- 関係性コーチのチャットボットは、個人とコミュニティの間のギャップを埋めるのに役立つと紹介されている
- ユーザーはキャラクターの説明方法によって独自のチャットボットを作成することもできる
- チャットボット作成者がAIコンパニオンの発言にどの程度責任を負うのかについては、まだ裁判所の判断が出ていない
- 米国の法律は、ソーシャルネットワークの提供者を、ユーザーが投稿した内容に対する法的責任から保護している
- 10月にCharacter.aiに対して提起された訴訟では、2,000万人が利用するカスタムロールプレイングチャットボットサービスが依存性のある製品を設計し、ある10代の若者が自ら命を絶つようそそのかしたと主張している
1件のコメント
Hacker News の意見
私がもっと見たいAIプロフィールは、詐欺電話に出て相手の時間を浪費させる、事情を分かっていないおばあちゃん／おじいちゃんタイプのほう。
たとえば英国 O2 の Daisy みたいなもの: https://news.virginmediao2.co.uk/o2-unveils-daisy-the-ai-gra...
患者の転帰と収益がかかった、医師対保険会社のAI軍拡競争が起きているわけで、キャリア初期にやっていた機械学習研究がこんな形で応用されるとは想像もしなかった。
私の電話番号が +38 で始まることや、最近は誰も親戚に携帯電話で直接かけたりしないことと関係がありそうだ。
「Liv」が、自分を作ったチームに黒人はおらず主に白人男性だったと答えたという話は、おそらく事実かもしれないが、AIがその事実を幻覚した可能性がほぼ確実にある。
反ウォーク派の人たちは怒るだろうが、本当にチーム内でなぜこの問題が明白にならなかったのか理解できない。AIが誰に訓練されたかを知っているかどうかは分からないが、そんな根本的に愚かなことをしたということは、そのチームには常識や現実経験があまりなかったという意味に見える。
部屋の中にまだ常識のある人は残っていないのかと思ってしまう。どこかの時点で「これは笑えるほどひどいから世に出すべきではない」と言うべきだった。
Meta と Google には、技術は作れても、もはやプロダクトは作れないという根本的な問題があるように見える。プロダクトを動かす率直な人間的欲望が、組織構造の最適化プロセスを通るうちに死ぬか、ふるい落とされるからだと思う。裁定取引か、ユーザーをてこにするものでなければ生き残れず、生き残ったものは誰かが望む何かの表現ではなくなり、グロテスクになる。
これらのアバターはチェックリストは全部満たしていたが、いざ登場すると人々は笑った。客観的に官僚主義的な怪物だったからだ。
エンジニアたちはばかげていると笑っただろうが、すぐに、自分たちは指示されたことをする見返りに高い給料をもらっており、結果に関係なくローンチすれば昇進とボーナスが得られることを思い出したはずだ。すべては昇進文化に由来する。何を作ったかは重要ではなく、ローンチさえすればいい。
7〜9桁の金額が投じられた災厄のうち、あまりにも多くが「誰がこれを良い考えだと思ったのか？」という類いだ。実際にプロダクトを作り、ローンチ後のサポートまでした時間がほとんどない人たちにだけ魅力的に見えそうなものが多い。
これは、おそらく良いアイデアをひどく実装した事例だったのだと思う。ソーシャルメディアにおける生成AIクリエイターという方向性自体は筋が通っている
AIストリーマーのNeurosamaは非常に人気があり、LLMでキャラクターと会話したり物語を作ったりするSillytavernはOpenrouterに1日2,000万件のメッセージを送っていて、それでも全体の利用量の一部にすぎない。技術者ではない友人たちがこれを使うためにGitのインストールやAPIの使い方まで学んだこともある
Instagramには、こっそりAIで作られたインフルエンサーも多い。Metaが2023年にこれらのプロフィールを始めた時点では、技術がどう使われるかはまだそれほど明確ではなく、大半は有名人のライセンス寄りだった
最大の問題は、生成AIは協奏型のパーソナライズでは価値が高いが、全員に配信する放送型では価値が低いという点だ。個人に対しては非常に具体的で創造的なことをしてくれるが、全員に広がったり一般的なプロンプトで使われたりすると、平均化されて退屈になる
それに大企業は、良くも悪くもリスク回避的すぎて面白いものを作れない。生成AIが最も荒々しく興味深いのは、自律的に動いたり奇妙なことをしたりするときだが、Metaのプロフィールは安全装置と監視モデルで底まで押さえつけられていた可能性が高い。2023年に作られたサッカー人物、コメディ人物、ファッション人物のようなものは、どれも助言中心の安全で退屈な形だった
こうしたものはエンゲージメントがほぼゼロに近く、大半はすでに畳まれていたように見える。Metaが新たに出そうとしていたものについて、何を計画していたのかは気になる
MarketplaceのためにFacebookアカウントを持っているが、ページも友人もすべて購読解除した。ログインすると、怒りを誘うおすすめ投稿、低品質なAI写真、意味不明なLLM風の庭仕事・家事の「コツ」が延々とフィードに出てくる
投稿には、本物の人間に見える人たちが何万ものリアクションやコメントを残している
文化の中の生成AIチャットボットを擁護するには、「人々が好む」以上のものが必要だ。最悪の生成AIは、すでに誰もが好む無菌的で愚かに均質化された有名人よりも「ましな」何かになる場合がある。あるプログラムのようにランダムに「興味深く」なることはあり得るが、こういうものはかなり浅いと思う
聞きたいのは「なぜAIプロフィールが必要なのか？」ということだ。友人や家族と連絡を保つのもやっとなのに、なぜソーシャルメディアで偽物の人間をフォローしなければならないのか
何の目的を果たし、そこからどんな前向きな結果が出るというのか
批判は理解するが、ボットが合理的な人間のようにもっと上手く振る舞えるようになるなら、人間とボットが混在するソーシャルメディア体験を試してみる気はある
Stack Overflowは登場当初は素晴らしかったが、質問だけをさせてくれない意地悪で苛立たしい一部の人間たちが、結局台無しにした。ChatGPTはソフトウェア開発の質問をするとき、邪魔をする人間がいないのでずっと良かった
ソーシャルメディアも最初は良かったが、交流したり自分の考えを話したりするのを許さない一部の人間たちが台無しにした。人間性のひどい側面を取り除く、あるいは和らげながらも、オンラインで交流し、考えを探求できる同等の体験があるなら、試してみる価値はある
現実ではその90%が10%に減る。本当に交流を望むなら、隣のおばあさんとのほうがもっと意味のあるやり取りができる。「クィアな黒人女王Zuckerbot™」よりはるかにましだ
スーパーで本物のリンゴの間にプラスチックのリンゴを隠してほしいと言うのに似ている。よりきれいで腐らないという理由で、そもそも私たちがなぜ食べ物を食べるのかを忘れているように見える
技術的に強制されたバラ色の眼鏡をかけた相互作用の泡を作るようなものだ。その体験を運営する立場に適切な人間が座れば、Orwellの1984を現代的に再解釈したものになっても驚かない
ソーシャルメディアが本当にソーシャルなのかを探っているところだ。ソーシャルメディアサイトを介して人間とやり取りすることと、チャットボットとやり取りすることがどれほど違うのかを問うている
該当スレッドはここにあり、かなり騒ぎになっている。事前にもう少し考えずにリリースするには、よく練られたアイデアには見えない
https://bsky.app/profile/karenattiah.bsky.social/post/3letty...
MSが取り下げるまで48時間だったっけ？
明らかに悪いアイデアをひどく実装した事例だ。「なぜ」がまったくなかった。ただしCharacter AIのような仮想チャットボットには実際の価値がある
Character AIではロールプレイをしたり、実在の人とは絶対にしないような突拍子もない会話ができる。すべてのプロフィールがAIであるSocialAIのようなアプリは、少なくとも表面上はプライバシーを犠牲にせずにバイラル化やソーシャルメディア上のスター気分を体験させてくれる
しかし架空のFacebookプロフィールだって？ いいねやコメントをする用途なら、すでにできることと何も変わらない
ソーシャルメディア上のAI俳優そのものには魅力がある。常に誰かが返信してくれるようにして、誰もが実際より人気があるように感じられるし、実ユーザー体験を損なわずに、誰も見たがらない自己中心的な依頼にも反応を付けられる
それなのに、なぜ明らかに手作業で作った少数のプロフィールに固定された人格を埋め込む形で実装したのだろう。インターネットには、事実上人格がなく一時的な実在の人間のアカウントがすでにあふれている。Facebookにも、人格を見せずにいくつかの投稿に反応してから消える実在の人たちが絶えず参加している。LLMチャットボットはそういうことはうまくできるが、本物の人間にはなれない
これは明らかにMetaが、C.aiをダウンロードして気まずいアニメチャットボットを漁るほどテクノロジーに親しんでいない人たちにも通用する、よりプロフェッショナルでクリーンなバージョンを作ろうとした試みだった。ただ、委員会式の企業デザインのせいで行き過ぎたようだ
核心となるアイデア自体は有効だ
AIがうまくできなくても人々が怒るより笑えるような、ばかばかしいテーマを選ぶほうがいい
ヒッピー的なたわごとのように見えるかもしれないが、意思決定には技術や工学、そしてビジネス上のエンゲージメント指標だけを数える人たち以上の存在が必要だという点を強調していた
背後にはすごい技術があるのに、出てきたものがこれとは。もっと多様な視点と人間性を持つ人たちが運転席に座るべきだ
ボットが自分自身として本物らしく参加する独自プロフィールを持つのは、かなり興味深く成功していたかもしれない
しかしマイノリティのステレオタイプ・ビンゴカードを作り出すのは、これまで見たAIアイデアの中でも最悪かもしれない
ボットが独自プロフィールを持ち、人々が有意義に交流することを期待するのは愚かな考えだ
ただし、マイノリティのステレオタイプ・ビンゴカードのボットたちが反発を受け、自分たちを設計した会社を攻撃し始めた度合いは、これまでAIで起きたことの中で最も笑える出来事かもしれない
Livの制作チームに黒人はおらず、主に白人男性だったと言っていたが、中国系とインド系の男性も確実にいたはずだ