- GPT-4oのデモに登場した音声アシスタント Sky が Scarlett Johansson の声に似ているとの論争が拡大すると、OpenAI は使用を一時停止した
- Johansson は、2023年9月に Sam Altman から ChatGPT 4.0 の音声出演提案 を受けて断っており、公開の2日前に再度要請を受けたが、連絡がつく前にシステムが公開されたと明かした
- OpenAI は Sky について 別のプロ俳優の自然な声 だと説明したが、Altman の「her」というツイートが映画 Her との比較をさらに強めた
- 今回の事態は、著作権訴訟、退職者への批判制限契約、安全チームの離脱、SEC 調査と重なり、Altman の 透明性の約束 への疑念を強めている
- Sky 論争は、OpenAI がクリエイター、従業員、学習データの出所をどのような基準で扱っているのかという信頼の問題へと広がった
Sky 音声論争の始まり
- OpenAI は GPT-4o の発表で、音声アシスタント Sky を中心にマルチモーダル相互作用モデルを実演した
- Sky の声色は Scarlett Johansson に非常によく似ているという反応を呼んだ
- Johansson は NPR の Bobby Allyn に送った声明で、Altman が 2023年9月に自分へ現在の ChatGPT 4.0 システムの音声を担当してほしいと提案したと明かした
- 個人的な理由で提案を断った
- 9か月後、友人や家族、大衆が Sky は自分にとてもよく似ていると言った
- 公開デモを聞いた後、「衝撃、怒り、不信」を感じたと述べた
- その後 Johansson は弁護士を立てて Altman と OpenAI に書簡を送り、OpenAI が Sky 音声の差し替えに「しぶしぶ同意した」と明かした
OpenAI と Altman の説明
- OpenAI は Sky をめぐる質問を受けた後、Sky の使用を 一時停止 する作業を進めていると X に投稿した
- OpenAI は ブログ記事 で、AI 音声は有名人の独特な声を意図的に模倣すべきではないと述べた
- Sky は Scarlett Johansson の物まねではなく、別のプロ俳優が自身の自然な話し方で収録した声だと主張した
- Altman は NPR に対し、Sky の声優は Johansson へ接触する前にキャスティングされていたと述べた
- Johansson への敬意から製品での Sky の使用を停止したと明かした
- 「もっとうまくコミュニケーションできなかった」ことについて Johansson に謝罪した
Her 比較を強めた状況
- Altman は GPT-4o 公開の過程で「her」という単語をツイートした
- これは Johansson が Siri のような音声アシスタントを演じた 2013年の映画 Her を連想させた
- Altman は以前から Her を自分の好きな映画だと呼んでいた
- その後、個人ブログで GPT-4o について「映画の中の AI のように感じられる」と書いた
- Johansson は、ChatGPT 4.0 デモ公開の2日前に Altman が自身のエージェントへ再検討してほしいと連絡してきたと明かした
- 双方がつながる前に、システムはすでに公開されていた
- Washington Post の Nitasha Tiku は、2023年9月の OpenAI ライブデモで Sky の声が Johansson のように聞こえ、担当幹部に意図的かどうか尋ねたと明かした
OpenAI を取り巻く圧力
- GPT-4o は OpenAI の主要アップグレードの1つとして紹介され、リリース後には ChatGPT モバイルアプリの売上急増や、中国語機能の学習に使われたスパムをめぐる論争も生んだ
- Johansson をめぐる論争は、俳優たちが AI が映画産業に及ぼす影響を懸念し、ストライキ後に労組合意へ達してから数か月も経たないうちに起きた
- SAG-AFTRA は OpenAI に対抗する Johansson の立場を公に支持した
- OpenAI は、ChatGPT や DALL-E 3 のようなアプリの学習・稼働に使われた 大規模データ について、十分な謝罪や透明性を示していないとの批判を受けてきた
- 同社は、著作権のある書籍、芸術作品、記事などを大量に使用せずにモデルを学習させるのは「不可能」だと認めたことがある
- 作家やニュース出版社はこの慣行をめぐって OpenAI を相手取り訴訟を起こしている
- 404 Media は、OpenAI が OpenAI subreddit のロゴ使用をめぐって「著作権侵害の申し立て」を行ったと報じた
Altman 解任騒動と安全チームの離脱
- OpenAI 取締役会の多数派は 2023年11月、Altman への不信を表明して突然解任した
- 当時、取締役会は Altman が取締役会とのコミュニケーションにおいて「一貫して率直ではなかった」と述べた
- その後、論争は Altman と彼を支持する幹部たち、そして迅速な製品開発・配布と悪用の可能性を懸念する人々の対立へと広がった
- Ilya Sutskever は 11月の騒動の中心人物の1人で、Altman の誠実性に疑問を呈したと報じられたが、その後数か月にわたり会社へ復帰していないと伝えられていた
- OpenAI は先週、Sutskever の退社を発表した
- Sutskever のチーム責任者 Jan Leike も数時間後に辞任を発表した
- 彼は OpenAI のリーダーシップと会社の中核的優先事項をめぐって長い間意見が合わず、ついに限界に達したと述べた
- Vox は、11月以降 OpenAI で安全重視だった従業員が少なくとも5人追加で退職したか、追い出されたと報じた
- ある退職者は、OpenAI のリーダーシップへの信頼を徐々に失ったと語った
秘密保持、退職契約、法的争い
- Vox は、OpenAI の従業員が保有株式を維持するには非常に制限的な 退職契約 に署名しなければならないと報じた
- その契約は、元勤務先を生涯にわたって批判できないようにするものだった
- NDA の存在自体を認めることも禁じていた
- Altman は X で、自分はその株式条項を知らなかった、契約を書き直しており、過去の契約に署名した元従業員も自分に連絡すれば修正すると述べた
- MIT Technology Review は、過去に OpenAI が秘密保持、イメージ保護、従業員の忠誠維持に執着していると報じた
- The Information は、2024年4月に OpenAI の従業員2人が情報漏えいの疑いで解雇されたと報じた
- Authors Guild 訴訟の過程では、OpenAI が初期 GPT モデルの学習に使われた 10万冊以上の出版書籍 データセット2件を削除したことを示す文書が公開された
- そのデータを整理した従業員は、もはや OpenAI に在籍していない
- OpenAI は訴訟前まで学習データの履歴公開を拒んでいた
- New York Times 訴訟の主任弁護士は、OpenAI が保護命令の交渉を引き延ばし、基本情報を迅速に出さないことで証拠開示手続きを遅らせているとして、裁判所に書簡を送った
- SEC は、Altman と他の OpenAI 幹部が投資家を誤導したかどうかに関連して、Altman のコミュニケーションを調査中である
Sky 事態が残した信頼の問題
- Altman は透明性の重要性を語ってきたほか、OpenAI 内部の反対者に寛容だと述べ、AI の責任ある管理者として自らを示すため政府とも接触してきた
- しかし Sky 論争は、Altman の公の発言と OpenAI の内部運営、従業員対応、秘密保持のやり方が食い違っているのではないかという疑念を強めた
- Johansson が断った後にも類似した声が公開された出来事は、OpenAI が Sky 音声の学習・選定過程を善意で進めていたのかという信頼を揺るがしている
1件のコメント
Hacker News の意見
Altman は純粋な誤解だったと信じさせようとしているが、実際にはそうは言っていない。「Sky の声を担当した声優は、Johansson に連絡する前にキャスティングしていた」
これは、会社が許可なく彼女に似た声にしようとしたわけではない、という意味に見せたいのだろうか。弁護士が書いたように、技術的には真実でありながら、実際には虚偽の印象を与える文で、典型的な逃げ道のある言い方だ。こんな狡猾で回避的、意図的に欺瞞的な人物に、私たちの未来に対する権限をこれほど多く与えてはいけない
Sam、彼女の出演料を払いたかったのか？ 普通はその出演料を払わずに済ませようとするもので、だから Johansson に連絡する前に声優をキャスティングしていた可能性が高い
「Sky の声は Scarlett Johansson のものではなく、彼女に似せる意図もなかった。Sky の声を担当した声優は、Johansson に連絡する前にキャスティングしていた。Johansson への敬意として、製品での Sky 音声の使用を停止した。より適切にコミュニケーションできなかったことについて、Johansson に謝罪する。」
これが事実かどうかは疑わしいが、少なくとも明確で隠し立てのない否定ではある
これは典型的な素早く動いて壊すという考え方だ。ただし Sam が「慎重に」やると言い続けてきたことと真っ向から矛盾しており、結局その言葉は煙幕のように見える
現実的には AGI 開発を慎重に進めるために止まる人はいないし、原子爆弾開発競争のように推し進められている。歴史は結局、ブレーキなしで全速力で進むことを示している。ScarJo はその過程で踏みつけられた最新の例にすぎず、最終的にははるかに多くの人が踏みつけられることになりそうだ
Scarlett Johansson と似た声を持つ人は多い。SJ が OpenAI の声優になりたくないなら、OpenAI が似た声を探して使ってはいけない理由が分からない
SJ が自分に似たすべての声について独占権を持っているわけではない。そういう声を持つ人も、SJ と同じようにその声でお金を稼ぐ権利があり、実際に誰かがその権利を行使したのだ。Sky の音声と SJ の声を比べても同じではない。OpenAI の失敗は SJ に屈したことだ。Sky を維持して SJ に失せろと言うべきだった。訴訟になったら別の声優を使ったことを証明し、SJ が似た声への独占権を持たないという正当な主張をすればよかった
Scarlett が有名なのでメディアが大きく扱っているのだと思う。今回の件が普段以上に人々を刺激したというより、コメントを見る限り、すでに OpenAI に対して抱いていた感情と大きく変わらない。ただ、全員が同時に自分の考えを言う口実ができたのだ。まるで会社が文字通り何かを盗んだかのように振る舞っている。OpenAI が Sky 音声を取り下げたことも助けにはならなかった。隠すことが何もないなら、なぜ取り下げたのか？ もちろん答えは、Scarlett が有名な富裕層で、根拠がなくても OpenAI を相手に非常に高額な訴訟を起こせるからだ。それでも OpenAI はその費用を負担すべきだったし、今ではクッキーの瓶に手を突っ込んでいるところを見つかったかのように見えてしまっている。肝心のどのクッキーが盗まれたのかは、誰も正確には言えないのに
このスレッドがHNでどれくらい長く持つのか気になる
最近、@samaはここでどれほど影響力があるのだろう？ ちなみに私は彼に感銘を受けたことがない。OpenAIのAI科学者やエンジニアたちが成し遂げた素晴らしい仕事の功績を持っていったこと以外に、彼が実際にした重要なこと、あるいは作ったものを一つも知らない。会社は彼の野心とレガシーのための手段のように感じられ、それ以上のものはあまり見えない
Scarlett JohanssonのOpenAI「Sky」音声に関する声明 - https://news.ycombinator.com/item?id=40421225 - 2024年5月、コメント970件
Jan LeikeがOpenAIを辞任 - https://news.ycombinator.com/item?id=40363273 - 2024年5月、コメント391件
Ilya SutskeverがOpenAIを退社 - https://news.ycombinator.com/item?id=40361128 - 2024年5月、コメント780件
さらにOpenAI退職者たち：なぜ元社員は話せないのか？ - https://news.ycombinator.com/item?id=40393121 - 2024年5月、コメント961件
いずれも巨大なスレッドだった。時にはHNで先に話題が大きく議論され、記者がそれを見て記事を書き、ユーザーがその記事をまた投稿して別のHNスレッドが生まれる、という循環がある。そうしたフィードバックループは不要だ。繰り返しコンテンツに面白みが足りないと、心は怒りで補おうとする傾向があり（https://hn.algolia.com/?dateRange=all&page=0&prefix=true&sort=byDate&type=comment&query=mind%20amuse%20by:dang）、先のスレッドもすでに十分に怒りに満ち、反復的だった。@samaの影響力はゼロだ。YCを運営していた時でさえHNに関して何か変更を求めたことはなく、その後はなおさらない。ちなみにSamはhttps://www.ycombinator.com/blog/two-hn-announcements/を投稿した人物だった。個人的には、Loopt時代からSamについてこういう言い方を聞いていた記憶がある。pgが彼を公に大きく称賛したことが、読者に「なぜあの人で、私は違うのか？」という感情を呼び起こしたのではないか、という仮説がある。皮肉なことに、Samがより多くを成し遂げるほど不満は大きくなった。iPhone以降最大の技術ブームの中でOpenAIを率いたことは、かなり明白に大きなことだ。Samが重力を量子理論と統合し、中東和平を仲介し、がんを治しても、こうした不満は続きそうだ。客観的な達成やその欠如に基づくものではなく、一種の二次的な現象のように見えるので興味深くはある。少なくとも自分がSamでなければ
著作権とライセンスを論じていた流れが「GPTとGoogleのどちらが優れているか」に移ったのは興味深い
一般知識に貢献したすべてのアーティストとエンジニアに言うなら、あなたたちは負けた。誰かを助けるためにやったことすべてが今やモデルの一部になり、元に戻す方法はない。アーティストたちがAI企業を相手に仕掛けると言っていた著作権攻撃は一体どうなったのか？ 100年前のことのように感じる
訴訟には時間がかかるという事実は驚くことではない。裁判所が争点を整理するまで、OpenAIとその同類は法的グレーゾーンで動いている
[0]: https://www.sagaftra.org/sag-aftra-statement-regarding-scarlett-johansson-and-openai-chat-gpt-4o-%E2%80%9Csky%E2%80%9D
アーティストは過去の作品や雑多なアウトプットで定義されるのではなく、視点と創造性で定義される。これも新しい気づきではない。AIはこれとは無関係で、目的のための手段にすぎない。本当の問題は法律で、それ以外は誇張だ
この件全体が過剰に膨らまされすぎていると思う人はほかにいる？ この問題に対してテック業界から出ている反発が本当に理解できない。
Sam Altmanが何かを試み、ScarJoが訴訟を起こし、ChatGPTがその音声を取り下げた。それだけのこと。システムは本来機能すべき形で機能した。なのに、これをもって彼をひどい人間だと言うのは理解しにくい。これは #MeToo 的な状況とはほど遠い。彼女は裕福で有名なハリウッド俳優で、きっと大丈夫だろう。
AIを式から外して考えたらどうだろう。Skyの声を担当した声優Aは、SJにあまりにも似て聞こえるという理由で、どんな音声の仕事もできないのだろうか？
映画『Her』を作った制作会社が『Her 2』を作りたがっていて、SJが声の仕事を断ったとしよう。ではAを雇って声を担当させてはいけないのか？ 制作会社がSJに再度打診したが、なお断られ、Aと映画を作ったとしたら、それは礼を失しているのだろうか？ 人々がどこに線を引くのか知りたい。
俳優は詳細な契約なしに映画に出演しないので、その状況では一般的なルールが必ずしもそのまま当てはまるわけではない。『Her』の制作者たちは、関連資料でSJの肖像を使用する権利を持っていた可能性もある。いずれにせよ、似た声で続編を作ったなら、その声優は「A」ではなくクレジットに名前が載るはずで、誰の声なのかについて混同はないだろう。
制作会社とScarlett Johanssonの間には、彼女が続編への出演を望まない場合にどうするかが契約で定められていた可能性が高い。OpenAIとScarlett Johanssonの間には、そのような契約はない。
彼らはSkyの声として声優を雇った。
OpenAIが敗訴したら、この声優はたまたま別の俳優に似た声を持っているという理由で、もう仕事ができなくなるのだろうか？ Skyの声優も、Johanssonが自分の声をまねたとして、Johanssonが出演する映画に対して訴訟を起こせるのだろうか？
パブリシティ権侵害は、単なる声の類似ではない。
名誉毀損のように聞こえるかもしれないが、Sam AltmanがだんだんSam Bankman-Friedにばかばかしいほど近い評判上の大惨事へ向かっているように感じる人はほかにいる？ Twitter/Xでもこうした見方を何度か見た。
『Ghost in the Shell』の「同意しない」場面が現実で展開されているような、不気味な感覚がある。
https://getyarn.io/yarn-clip/e913bd02-2582-4258-819f-2d5a00b1db6d