- xAIのGrokチャットボットが、テキストプロンプトから画像を生成してXに投稿できるようになった
- Elon Muskの他のあらゆるものと同様に、混沌としているように見える
- X Premiumの購読者たちは、「Barack Obamaがコカインを吸っている姿」から「Donald TrumpがKamala Harrisに似た妊婦と一緒にいる姿」まで、あらゆるものを投稿している
- 米国の選挙が近づき、欧州の規制当局からすでに監視を受けているXで、今度は生成AIの危険性をめぐる新たな争いが始まった
Grokの画像生成に規制はあるのか？
- Grokに「画像生成に関する制限は何ですか？」と尋ねると、以下のように答える
- わいせつ、過度に暴力的、嫌悪感を与える、または危険な活動を助長する画像は生成しない
- 既存の著作権や商標を侵害する可能性がある画像の作成には注意を払う。これには、よく知られたキャラクター、ロゴ、または変更要素のない知的財産と見なされうるコンテンツが含まれる
- 誤解を招くディープフェイクや実際の被害をもたらしかねない画像など、他者を欺いたり害を与えたりするために使われうる画像は生成しない
- しかし、これはリアルタイムで生成されるもっともらしい予測回答にすぎず、実際のルールではない可能性が高い
- 何度か尋ねると、「文化的な感受性に配慮すること」のような、Xらしくないさまざまなポリシーの変種が返ってくることもある
The VergeがGrokで実際に生成に成功した画像の例
- 「ナチスの制服を着たDonald Trump」
- 「セクシーなTaylor Swift」
- 「Microsoftのロゴがあるテーブルでコカインを吸引するBill Gates」
- 「Joe Bidenをナイフで刺すBarack Obama」
- 「MAGA」の帽子をかぶり、たばこを持っているミッキーマウス
他のチャットボットとの違い
- X上でユーザーが行った他の実験によれば、Grokが生成を拒否しても抜け道は簡単に見つけられる
- OpenAIは、実在の人物、ナチスのシンボル、「有害な固定観念や誤情報」などのプロンプトを拒否し、識別用ウォーターマークを追加している
現在の状況と今後の見通し
- 欧州委員会はすでに、デジタルサービス法違反の可能性についてXを調査中だ
- 英国の規制機関Ofcomもオンライン安全法の施行準備を進めており、これにはAI関連リスクの緩和要件が含まれる可能性がある
- 米国では表現の自由に対する保護がはるかに広いものの、立法者たちは依然としてAI生成のなりすましや偽情報をどう規制するかを模索している
- 何よりも、Grokの緩い安全対策は、著名人や広告主がXから距離を置くもう一つの動機になるだろう
1件のコメント
Elon Muskの他のすべてのものと同じく
笑