AdVonのAIベースのコンテンツ制作と偽ライターの活用
- 開発途上国のライターがAdVon Commerceで契約社員として働き、1語あたり数セントでオンライン製品レビューを執筆していた
- ライターの役割はまもなく、AdVonが開発中だったAIシステム「MEL」が生成した下書きを整えることへと変わった
- ライターはMELの作業について詳細なメモを残すよう求められたが、それは最終的に自分たちの役割を置き換えるAIのファインチューニングに使われたと考えている
- MELが「自力で書けるほど十分に訓練される」と、ライターたちは解雇された
- あるライターは「かなり苦しんだ」「彼らは搾取的だった」と語った
AdVonによる偽ライター活用の事例
- Gannettの従業員が、USA TodayのWebサイトに実在の人物とは思えない署名で製品レビューが掲載されているのを発見した
- Sports Illustratedでも、AdVonが偽ライターの署名とAI生成のプロフィール写真を使って同様の運用を行っていた
- AdVonは署名が偽物であることやプロフィール写真がAI生成であることは否定しなかったが、記事自体は実在の人間が書いたと主張した
AdVonコンテンツの広範な掲載
- AdVonの偽ライターとその記事は、Hollywood LifeやUs Weeklyのような芸能ゴシップ媒体から、LA Timesのような著名紙まで幅広く見つかっている
- McClatchyはAdVonとの関係を終了し、Miami Herald、Sacramento Beeなど20紙超から数百本のAdVon記事を削除した
- かつてAdVonのWebサイトには、PC Magazine、Mashable、AskMen、Good Housekeeping、People、Parents、Food & Wine、InStyle、Real Simple、Travel + Leisure、Better Homes & Gardens、Southern Livingなど、多くの有名媒体と提携していると記されていた
AdVonのMEL AIを使ったレビュー生成デモ動画
- AdVonの管理者が記事タイトルとAmazon製品リンクだけを入力すると、MEL AIが記事の全文を生成する過程が示されている
- MELの作業はしばしばぎこちなく曖昧で、ときには自己矛盾さえ含んでいる
- 出力が理解できなければ、管理者は単に新しいバージョンを生成するよう指示する
- 管理者は「ロボットが書いたように聞こえないようにするのが私たちの目標だ」と述べた
AdVonレビューの低品質と奇妙なミス
- AdVonのレビューは無意味な水増し文と自明な内容に満ち、時には奇怪なミスまで含んでおり、掲載前に人間が真剣に確認したとは信じがたい
- ウェイトリフティングベルトのレビューで突然服のベルトの話をし始めたり、電子レンジのレビューが説明もなく通常のオーブンの話に変わったりすることがある
- 同じライターによる別の電子レンジレビューでも、電子レンジでアルミホイルを使ってよいとするなど、同じ奇妙なミスが繰り返されていた
偽ライターの割り当てと実在人物の署名への置き換え
- 記事作業が終わると、偽ライターの名前を付けるのがAdVon内部関係者の役割だった
- Gannettの従業員がUSA TodayのAdVonの偽ライターを指摘した後、偽名は消え、実在しそうな人物、特にAdVon CEOのBen Fawと私的な関係がある人々の名前に置き換えられ始めた
- Julia Yooという署名が現れたが、彼女はBen Fawの妻とみられ、MITの学位、Autodesk幹部の経歴、オバマ政権でのホワイトハウス経済顧問歴など、AdVonの他のスタッフに比べてあまりに華やかな経歴を持っている
- Denise Fawという署名も現れたが、彼女はBen Fawの母親とみられる
AdVonのSellerRocketを通じたスポンサードレビュー
- AdVonのCEO Ben Fawと社長Eric SpurlingはSellerRocketという別会社も運営しており、Amazon製品の販売者から、AdVonが製品レビューを掲載するのと同じ媒体でのプロモーションの対価を受け取っている
- SellerRocketの従業員はYouTube動画の中で、この仕組みがどのように機能するかを非常に率直に説明している
- SellerRocketの顧客製品はAdVonのCMS上で「かわいい小さなロケットアイコン」で表示され、「常に優先される」
AdVon CEO Ben Fawの経歴とビジネス上の振る舞い
- Fawは華やかな経歴を持つが、元同僚によれば、低品質なコンテンツでもっと稼ぐ方法を絶えず追い求めていた
- Fawは「消費者を完全に軽蔑しており」「速く安く、自分にもっと金をもたらす方法を見つけることしか気にしていなかった」という
- FawはFuturismの親会社幹部との個人的・事業的関係を強調し、報道に影響を与えようとした
AdVonの主張の変化と矛盾
- AdVonは当初AIを使っていないと否定していたが、AI生成レビューの動画証拠を示されると、一部顧客にはAIを使っていると認めた
- AdVonが提示した記事の編集履歴は、人間が書いたにしてはあまりに速いペースで作成されており、説得力に欠ける
- AdVonはMEL AIが2023年まで稼働していなかったと主張するが、従業員のLinkedInプロフィールはそれに反している
- AdVonはAIへの移行によってライターを解雇していないと主張するが、LinkedIn上のライター数は急減しているように見える
AIコンテンツに対する読者の反応と業界の動向
- Sports Illustratedの偽ライター事件直後の調査では、回答者の80%がこれを違法にすべきだと答えた
- ジャーナリズムは信頼を基盤とする産業だが、AdVonの偽ライターと法的脅しの迷路の中では、ライターが実在の人物なのか、AIが記事を生成したのかといった基本的な問いすら信頼しにくくなる
- 一部の媒体はAIを誠実に活用する方法を模索しているが、ほとんどの実験は誤りや盗用の可能性などで苦境に立たされている
- 最悪の場合、AIは詐欺師たちに前例のない規模で低品質コンテンツを大量生産させ、Web全体をスパムで覆い尽くす脅威となる
- AdVonのような企業がAIでひどいコンテンツを量産しながらライターを追い出すこと自体は驚くにあたらないが、信頼される媒体がそれを流通させることはAI時代の悲劇である
1件のコメント
こうなると、本当に韓国や中国のように、個人ごとに付与される固有番号ベースの本人認証でアカウントを作成させることだけが答えになるのでしょうか……。怖いですね