サム、OpenAI CEO復帰に向けて原則合意に到達

[GN⁺]

Hacker Newsの意見

• すべてのコメント: このスレッドには1800件以上のコメントがあり、すべて読みたい場合は各ページ下部の「More」をクリックするか、提供されたリンクを使用して読むことができる。
• OpenAIが非営利団体のままである場合、Microsoftの取締役会メンバーには、Microsoftの事業上の要請ではなく慈善団体の使命を推進する法的義務があり、これは明白な利益相反を引き起こす可能性がある。IRSがこのような構成を好まないだろうと予想される。
• サム・アルトマンがCEOに復帰することで、OpenAI取締役会が機能を失った証拠になるかもしれない。取締役会はサムを解任する権限を行使できなくなり、サムは今や自分の望むように行動できる。サムの行動を非難したり誤解したりするつもりはないが、彼が嘘をついたり不適切な行動を取ったりする可能性を懸念している。
• コカ・コーラとニュー・コークの件を思い起こさせる事例で、最終的にはオリジナルのコークの人気が高まった出来事だ。消費者は慣れ親しんだ味を取り戻すことを強く求め、一部の記者はこれがすべてPR戦略だったのではないかと推測した。
• 開発者1人とビジネスマン1人の対決でビジネスマンが勝ち、数百人の開発者が退職をちらつかせたときに取締役会が屈したことで、開発者たちが実際に力を持っていたことを示す事例だ。
• イリヤは取締役会を離れたが、アダムは依然として残っている。これを見て眉をひそめる人もいるかもしれないが、サムの復帰によってOpenAIには重大な変化が起きるだろうし、長期的にOpenAIがFacebookやUberのような巨大企業になるとは思わない。信頼を失ったという認識がある。
• Rapid Commercializationチームと原則を貫こうとするチームの間に対立があり、これはGPT-3以前から文章にも表れていた。一般大衆のうちAI安全性に関心を持つのは少数で、残りはChatGPTが宿題を手伝ってくれることに満足している。取締役会の無知を嘲笑することはできるが、もし誰かが超知能の脅威を真剣に受け止めているのなら、その行動を理解しようとする必要がある。
• 個人的にはAI安全性への脅威を深刻には受け止めていないが、理解しようとする努力は必要だ。「私たちがまさに防ごうとしていたことだ」とHelenのチームが言う日が来ないことを願う。
• AI安全性に対する民間産業のアプローチには希望があったが、今では不可能に見え、公共のAI研究開発に対する国家投資の遅さのために、あらゆるAI安全性アプローチが不可能に見える。おもちゃのようなモデルに対する安全性研究は今後も進展するだろうが、業界は最先端モデルに対する研究なしに安全性について学べることには限界があると見ている。
• OpenAIのガバナンス構造が安全性の優先順位を保証するメカニズムだとアルトマンは主張していたが、内部で安全性研究がChatGPTの運用維持へと再配置されているという報告は懸念を生んでいる。取締役会には技術的には可能でも利害関係を管理するのに十分な力がなかったことが明らかになったことで、Anthropicを含む安全性重視のどの組織も、資金提供者の加速主義的な影響を避けられるのか不透明だ。
• ポール・グレアムは「5年後に戻ってきたら、サムはその島の王になっているだろう」と語った。
• 多くのVCやMicrosoftが、利益動機によって非営利組織のガバナンス構造を覆したという物語があるが、実際にはそうではないと思う。決定が下された理由は、従業員の95%がこの問題でサムを支持し、取締役会が自分たちの立場をまったく説明しなかったからだ。サムと95%の従業員、そしてすべての投資家が取締役会に反対しており、取締役会はここで敗れるべきだった。取締役会が自分たち自身のためだけに統治していたからだ。最終的には公正で良い結果になったし、AGIの問題を解決するためのガバナンス構造自体は依然として適切だと思うが、今回の取締役会は極めて不適切だった。