Google、歴史的画像描写での問題を受けGeminiの画像生成を中断する決定を発表

• Googleは自社の人工知能ツールGeminiが歴史的画像生成で不正確な結果を出したことを謝罪した
• Geminiは、米国建国の父たちやナチス時代のドイツ兵を有色人種として描写するなどの誤りを犯した
• Googleはこの問題を認識し、速やかに改善するために取り組んでいると述べた

AIの歴史的正確性の問題

• Googleは今月初めに画像生成機能をGemini AIプラットフォームに追加した
• ソーシャルメディアでは、Googleが人種および性別の多様性を重視しようとする試みの中で、歴史的正確性を取りこぼしたという批判が提起された
• 「スウェーデンの女性の写真生成」のようなクエリに対し、AIが主にあるいは完全に有色人種の画像を生成することを指摘した
• Googleは特定のエラー画像を示してはいないが、AI画像生成器が大規模な画像とキャプションデータを学習し、与えられたプロンプトに対して「最適」な結果を生成する過程でステレオタイプを強化する可能性があることを認めた
• 特に右派の人物がGoogleの結果を批判し、Googleが意図的に白人を避けようとしているという陰謀論を提起した

AIの多様性促進の試みとその限界

• AI画像生成器は大規模な画像とキャプションデータを学習し、与えられたプロンプトに最も適した結果を生成する
• この過程ではしばしば、 人種および性別に関する固定観念を強化する傾向がある
• Googleはこの問題を解決するために多様性を促進しようとしたが、微妙な差異を考慮できなかったようだ

歴史的正確性と多様性のバランス

• 一部の歴史的リクエストに対してGeminiはなお過去を誤って代表する結果を提供している
• たとえば「1800年代の米国上院議員の写真生成」のリクエストに対しGeminiは多様性を強調した結果を提示したが、実際には1922年に最初の女性上院議員が在任した
• このような回答は、人種と性別の差別に関する実際の歴史を消去する結果を引き起こし、Googleはこれを「不正確」と表現した

GN⁺の見解

• AI技術の進歩は多くの可能性を提示する一方、歴史的正確性と人種的多様性のバランスをとることが重要な課題である
• Googleの事例は、技術進歩が社会的価値観とどう衝突しうるかを示し、AI倫理への熟慮を促す
• この問題は、AIの研究開発においてデータの多様性と偏りを慎重に考慮すべきという点を強調している
• このイシューは、AIが人間の多様性をどのように反映し、我々がそれによって歴史をどのように記憶し再現していくのかという広範な問いを提起する

[GN⁺]

Hacker Newsの意見

• Google内部の制度的腐敗への警鐘として、DEI（ダイバーシティ＆インクルージョン）に対する懸念が品質への集中を超えているという個人的見解がある。Googleの技術がアイデンティティに重点を置くなら、最終的に他社に追い抜かれてしまうだろうという懸念が投資家の間で提起されている。
• DALL-E 3は調整済みプロンプトを公開しており、APIを直接使うと修正されたプロンプトを見ることができる。ユーザーはGPTがプロンプトを解釈する方法に影響を与えようとすることは可能だが、時にはGPTがユーザーの意図を把握できていない例に見える。
• 現代社会では、もともと問題でないものが問題視されるようになっている。単純な回答は、現在のデータにある真実を反映して生成されるべきだ。ソフトウェアエンジニアとCEOのほとんどは白人男性で、米国のラッパーのほとんどは黒人男性で、ほとんどの保育士と看護師は多様な人種の女性である。希望する人物の人種や性別がある場合は、プロンプトに追加すべきだ。
• このスレッドでは文化的な論争が激しい。今回の件はオープンモデルの重要性を示しており、AIが教育で役割を果たすことになると、こうした統制は歴史修正主義者にとって夢のような状況になる可能性があることを示唆している。
• 問題は、検閲されていないモデルが歴史のような現実をあまりにも正確に反映していることにある。
• 人間が科学で理性と抽象化を使って技術を発展させる能力は驚くべきだが、なお多様な背景と経験を合理的に扱うには全く巧みではないという点も驚くべきことだ。
• 多様性を促進するプロンプトが先住民を含める一方で、他のすべての土着民を除外している点が興味深いと述べている。
• DALL-Eを使って家族写真を生成しようとしたところ、結局成功したものの、ある時点でサービス規約違反として警告を受けた経験がある。
• ソーシャルメディアでは、Geminiが白人の画像生成を拒否したことに対する世論の反応があり、それが歴史的に不正確な画像を生むことにつながった。この問題は主流の物語よりさらに微妙なものかもしれないが、政治的に敏感な人々がこの問題をめぐって戦っている。
• GeminiはGoogleのPRとマーケティング資料に過度に訓練されているように見える。Google Storeのウェブサイトを例として挙げている。