Metaのライブデモが失敗、「AI」録音が俳優の移動前に再生される

 (reddit.com)
1 ポイント 投稿者 GN⁺ 2025-09-19 | 1件のコメント | WhatsAppで共有
  • Metaの最新AIデモのライブ実演中に不具合が発生
  • 「AI」と紹介された音声録音が、実際に俳優が動く前に先に再生された
  • 多くの参加者が、リアルタイムの実演ではなく事前録音であることに気づくことになった
  • デモの信頼性に対する疑問と論争が拡大
  • この出来事が、AI技術への信頼と公開デモのやり方をめぐる問題を引き起こした

事件の概要

  • Metaが実施したAIデモイベントで、ライブデモ中にトラブルが発生
  • 現実では俳優がまだ移動していないのに、「AI」と表示された録音音声が先に再生されてしまった
  • 会場の参加者たちはすぐにそれに気づき、リアルタイムデモではないことが明らかになった

主な論点と反応

  • このトラブルにより、Metaのデモの信頼性に対する否定的な認識が広がった
  • AI技術の透明性と真正性を求める声が、業界の内外で上がっている

業界への波及効果

  • この出来事は、AI技術の信頼性を確保する必要性を改めて浮き彫りにするきっかけとなった
  • 今後の公開デモでは、正確な手順と誠実性の保証がより重視される流れが生まれている

関連記事

1件のコメント

 
GN⁺ 2025-09-19
Hacker Newsの意見

  • Zuckが登場する、もう一つのひどい事例がある
    https://old.reddit.com/r/interestingasfuck/comments/1nkbqyk/zuckerberg_invested_billions_in_new_tech_to_watch/

    • 結局ここまで来たのか？ これが人工知能なのか？ 何十億ドルも、ただレシピを口頭で説明するために使っているのか？ 紙に書けるようなもののためにこれだけ使うことに疑問を感じる

    • こういう大きな失敗がなければ、そもそもデモがあったことすら知らなかったはずだ。ネガティブマーケティングも結局はマーケティングで、効果はある

    • 本当に見ていてつらかった。2分も耐えたなんて信じられない

    • ビッグテックは今年AIに1,550億ドルを使った。今後さらに数千億ドルを使う予定だ
      https://www.theguardian.com/technology/2025/aug/02/big-tech-ai-spending

    • 人生で見たものの中で最高だ。幸せすぎて言葉にならない

  • あの映像は事前収録ではなかったが、仕組まれたデモではあった。何度も練習するうちにAIが混乱したのかもしれない。言い訳の余地はない。Apollo計画級の予算をつぎ込んでいるのに、相変わらず間抜けだ。Metaが時価総額およそ2兆ドルの会社なのに、まともな製品を一つも作れないのは驚きだ

    • 事前収録ではないが、特定の音声フレーズに合わせて特定のスクリプト応答を用意していた感じがする。だから what do I do first を繰り返すと同じ（間違った）答えばかり返していた。本当のモデルなら同じ答えを繰り返し続けることはなく、もっと直接的に修正しようとしたはずだ

    • Metaの中核事業は広告とデータ追跡で莫大な金を稼ぐことだから、他の事業が何をしようとまったく関係ない

    • 結局……石ころと変わらないということだ

    • いまや正直さは、2025年の詐欺と成りすましのオアシスだ。あらゆるバブルが弾ける日を待っている

    • 私も似た考えだ。前のリハーサルでメモリがきちんとクリアされていなかった気がする。それに、この人はすでに立派なキッチンと材料とステーキまで全部用意しているのに、サンドイッチソースの作り方をまったく知らない、というユースケース自体も混乱していた

  • Kotakuの記事が本当にいい一撃を入れている

    2023年にJack Mancusoが韓国風ソースを作る動画を参考にすればよい
    https://www.instagram.com/reel/Cn248pLDoZY/?utm_source=ig_embed&ig_mid=61BD3E2F-D5FE-4872-A73D-98F049C7DEA7
    記事原文: https://kotaku.com/meta-ai-mark-zuckerberg-korean-steak-sauce-facebook-2000626808

  • ライブデモが難しいのは認めるべきだ。昨日のは無理やり演出した感じではなく、本当に土壇場の修正による予期せぬ故障のように見えた。たいていのビルダーはこういう経験がある。私もハッカソンで最後の最後に変更を入れてサーバーを壊し、ステージに上がる前の6時間をそれで潰したことがある

    • ライブデモが特につらいのは、売っているものが詐欺まがいの製品である場合だ

    • NokiaのCEOが大きな携帯電話見本市のステージで最新製品を実演しなければならなかったことがある。私のビジネスパートナーと私でデモを直接作ったが、最後にサーバーへ上げるのがあまりに難しく、結局、友人の家のクローゼットに押し込まれていた旧式PCと2Mbit回線で動かしたこともある。ステージでは汗だくになってデモを見守っていた

    • Metaは嫌いだが、ライブデモが難しいのは確かに事実だ。もしこういうものが全部、事前収録とデジタル編集の世界になったら、それはそれで嫌だと思う

    • ライブデモが難しいからといって、不正行為まで正当化されるわけではない

    • 映像を見返したが、なぜ最初の応答がもっともらしかったのにすぐ遮ったのか、よく分からない。たぶん音声の遅延があったか、リハーサルと違って慌てたのかもしれない

  • 私の友人に、マジックショーをしながらスタンドアップコメディもやる人がいる。どちらもライブ公演だが、こんなタグラインで売っているのはその友人しか見たことがない。オープニングで「今日はマジックショーです。でもマジックに失敗したら、そのままコメディショーにします」と言って笑わせていた。Zuck、安くその友人を紹介できる。人とうまくやるための舞台レパートリーを増やせるだろう

    • 友人がTommy Cooperというイギリスのマジシャンを知らないなら、ぜひ一度調べてみるよう勧めたい
      https://en.wikipedia.org/wiki/Tommy_Cooper

    • その友人は、もともとマジックが下手でただ面白い人なのか？ それとも意図的に一部の失敗を演出しているのか？

  • 何十回もリハーサルしていても、本番ほど完全に失敗したことはなかったのだろう。それでもライブデモをやり続けた点は高く評価する。Appleはもうデモがあまりに無味乾燥で、2時間の広告を見ている感じだ

    • 新しいAppleの発表は情報密度がずっと高く、オンライン視聴者向けにもなっているので、間違いなくそちらのほうが良い

  • 実際にモデルが現実環境でどう動くのかを（おそらくデモの場面とかなり近いはずだと予想しつつ）見るのは興味深い。ただ、今回のデモが事前収録だったという疑いには共感できない。実際には未完成のプロトタイプで、主要なステップが省略されていたり、マルチモーダル機能不足で修正されないままの流れだったのだろう。演出された録画だった可能性はあるが、重要なのはそこではない。結局、実使用では精度、遅延、使いやすさなどが本当のユーザーにとって核心になる。たとえばジェスチャーで文字を書くツールも、たいていの人はメッセージ入力にこれを使いたいとは思わないだろう。見た目は格好いいが、現状では大きく普及しそうにない

    • AIの挙動は、もっとハードコードされた「ライブ」デモのようにも感じる。Zuckが遮ったタイミングが少し悪く、Wi-Fiの遅延だった可能性もある。正確なことは誰にも分からない。私はその場にいたわけでもなく、作ったわけでもない

  • 雰囲気があまりにもネガティブだ。それでもこの業界は楽観主義者に導かれているし、社会としても巨大な技術的挑戦に投資できる文化があるから進歩しているのだと思う。Metaは自社株買いの代わりに、人と会話し、見て、問題を解き、現実に仮想要素を重ね描きするコンピューターを作っている。ライブデモに挑戦した点は称賛したい

    • 嘲笑と皮肉の空気がRedditに似てきているのが心配だ。一番支持された投稿がRedditのリンクなのも残念だし、私は少なくとも10年はこのコミュニティを見てきたので、新参の錯覚だとは思わない

    • 彼は何十億ドル規模の企業のCEOであり、多くの人の仕事に影響を与える技術を約束している。それだけ徹底的に検証されるべきだ

    • あなたは今、単に自分の希望を詐欺師や嘘つきに投影しているだけだ。批判され、嘲笑されることで、本当のイノベーターに機会が生まれる

    • 昔のiPhone時代のように新技術が登場する時代のデモとは違う。当時は失敗も許容されたが、いまはMetaやこうした企業が何年も「AIをあらゆる場所に導入して世界を変える」と売り込んでいる一方で、実際には簡単なステーキソースのレシピすら作れない。この落差こそが人々の嘲笑の核心だ。まったくレベルが違う

  • 不正だとは思わない。Claudeでブラウザを動かしながらデバッグすると、似たような結果になる。だから実際にはあまり使われない。パイプラインのどこかで少し怠けたり、先走って見せたいものだけを解釈し始めたりする。「完成しているように見せたい」と思うのだ。これはLLMがテストに合格したふりをする問題と似ている。目標状態のために、ときどき目標に到達したふりをすると、RL学習では通過したのと同じ効果が出る。Wi-Fiのせいではなく、genAIの特性だ

    • 小規模な作業では自動補完ツールとして優秀だ。すでに何度もやったことに対しては役に立つ。だが、私はこういうモデルにすべてを賭けることはできなかった

    • Claudeに写真の中の矢印を解釈させるのはとても難しかった。フローチャートを与えてみたが、本当に苦手だった

  • 「子ども、動物、人形劇とは仕事をするな」という言い回しがある
    https://tvtropes.org/pmwiki/pmwiki.php/Main/NeverWorkWithChildrenOrAnimals#:~:text=Jim%20Henson%20states%20that%20he'd%20been%20told%20never%20to%20work%20with%20children%2C%20animals%2C%20or%20puppets.