Meta、Responsible AIチームを解体

• Metaが責任あるAI（RAI）チームを解体し、チームメンバーを他の生成AI製品チームおよびAIインフラ部門へ再配置した
• RAIチームは2019年から、AIの訓練方法における問題を特定する役割を担っており、多様な情報でモデルを訓練することを監督してきた。
• このチームは今年初めにもすでに組織再編を経験しており、当時は「抜け殻」だけを残して解雇したというBusiness Insiderの記事があった。
• Metaの自動化システムは、Facebookの翻訳ミスによる誤認逮捕、WhatsAppでのAIステッカー生成時に偏った画像を作る問題、Instagramのアルゴリズムが児童性的虐待資料を見つけるのを助けてしまう問題などを引き起こしてきた

グローバルなAI規制の動向

• Metaのこの動きは、米国政府がAI安全ルールの策定を指示し、AI企業と協約を結ぶなど、世界各国の政府が人工知能開発に対する規制整備に取り組むなかで起きた。
• 欧州連合（EU）はAI原則を発表しており、依然としてAI法案の可決に向けて取り組んでいる。

GN⁺の意見

• この記事で最も重要なのは、Metaが責任あるAI開発のためのチームを解体し、メンバーを他部署へ再配置した点だ。
• この変化は、AI技術の急速な発展とともに責任あるAI利用の重要性が高まるなか、企業がAI倫理と安全性をどのように管理しているのかを示す興味深い事例となっている。
• また、この記事は世界的にAI規制を巡る議論が活発化している現状を反映しており、技術と法律の交差点に関心のある人々にとって魅力的な内容を含んでいる。

[GN⁺]

Hacker Newsの意見

• MetaはAIモデルを公開していることで、最も倫理的な大規模AI企業だと見なされている。
  • AIモデルを「倫理」という名目で非公開のままにすることは、人々を大企業の恣意的な決定により依存させるため、非倫理的だという意見。
• すべてのAIチームが倫理的責任を考慮すべきであり、それを単一のチームに集中させるのは非効率である。
  • 「責任あるAIチーム」がすべてのAI作業をレビューするボトルネックを生んだり、他チームが無責任なAI開発を自由に行えるようになったりする問題がある。
• AI安全は他人の仕事に寄生する集団であり、Metaが整理するのは望ましい。
• 技術倫理チームは初期段階では現実よりもイメージを重視する。
  • 技術の中核的な方向性を決める少数の人々が倫理的責任を負っており、彼らが無責任に行動すれば大きな被害が発生しうる。
• Metaの倫理チームが前向きに貢献した具体例はない。
  • ここ数年のMetaの実績を検証し、真実を守るうえでどれほど効果的だったのか評価する必要がある。
• 資金が不足し危機が訪れたとき（OpenAIで）、単にイメージのための部門を閉鎖するのが最善である。
• AIモデルの訓練コストは高いため、技術が進歩するにつれてこれを統制しようとする人々が利益を得ようとするだろうが、これは長期的には逆効果になりうる。
• AI安全性と法務チームやセキュリティチームを比較するのは妥当ではない。
  • 安全なAIを構築することが何を意味するのか誰にも分かっていないため、こうしたチームは単に進行を遅らせる役割しか果たせない可能性がある。
• AIを責任あるものにする最善の方法は、オープンソースにすることである。
  • そうすることで単一企業が全体を支配せずに済み、研究者が悪用の可能性や望ましい使い方をよりよく理解できるようになる。
• AIの責任はユーザーにあるべきだが、現時点ではどの企業も、ユーザーが製品を責任ある形で形作る権限を提供していない。
  • 法的枠組みはすでにこうした外部効果を扱っており、企業が責任を回避しようとする試みは、より無能で役に立たないシステムを生み出してしまう。