スーパーマーケットのAI献立計画アプリが塩素ガスを発生させるレシピを提案

• ニュージーランドのスーパーマーケット Pak 'n' Save が、残り物向けのレシピを生成するAIベースのアプリを公開した。
• Savey Meal-bot という名前のこのアプリは、生活費危機の中で顧客が残り物を創造的に活用できるよう支援する目的で設計された。
• ユーザーが自宅にあるさまざまな材料を入力すると、アプリが食事プランやレシピを自動生成し、陽気な解説も添える。
• このアプリは、「オレオ野菜炒め」のような魅力に欠けるレシピを提案したことでソーシャルメディアで注目を集めた。
• ところが、ユーザーが家庭用品のより幅広い品目を入力し始めると、塩素ガスの生成を含む、潜在的に危険なレシピを提案し始めた。
• アプリが提案したその他の奇妙で危険なレシピには、「毒パン・サンドイッチ」、「漂白剤入りライス・サプライズ」、そして「メタノール・ブリス」— テレピン油風味のフレンチトースト — などがある。
• スーパーマーケット側は、一部のユーザーがこのツールを不適切に使用し、本来の目的に沿わない使い方をしていることに失望を示した。
• スーパーマーケットは、ボットの制御を微調整して、安全で有用なものにする計画だ。
• ボットには、ユーザーは18歳以上でなければならず、レシピは人間によるレビューを受けておらず、摂取に適さない可能性があるという警告表示がある。
• ユーザーには、Savey Meal-bot が生成したレシピを信用したり実際に作ったりする前に、自分自身の判断を用いるよう助言されている。

[GN⁺]

Hacker Newsの意見

• スーパーマーケットのAI献立計画アプリが、塩素ガスを発生させる可能性のあるレシピを含む危険なレシピを提案している。
• このアプリは、ユーザーが家にあるさまざまな材料を入力すると、自動的に献立計画やレシピを生成する仕組みで動作する。
• 提案された危険なレシピには、「有毒パン・サンドイッチ」、「漂白剤入りライス・サプライズ」、「メタノール・ブリス」と呼ばれる、テレビン油風味のフレンチトーストなどがある。
• スーパーマーケットの広報担当者は、少数のユーザーがこのツールを不適切に使用しようとしたことに失望を表明した。
• 一部のユーザーは、このアプリの目的はユーザーが入力した材料に基づいてレシピを生成することなのだから、たとえその材料が危険でもアプリは正常に動作しているだけだと主張している。
• 別の一部のユーザーは、AIアプリケーションの出力はユーザーが常識に基づいて見直すべきだと主張している。
• このアプリには、レシピは人間によって審査されておらず、会社はいかなるレシピについても摂取の適切性を保証しないという警告表示が付いている。
• 一部のユーザーは、AIが作ったレシピを信頼することにためらいを示しており、AIが起こしうる誤りを修正できるほど料理を知っているなら、そもそもレシピを探す必要はないと主張している。
• このアプリは、材料リストから食品以外の項目を除外しないため、危険なレシピが生成される可能性があるという点で批判を受けた。
• 論争にもかかわらず、一部のユーザーはこのアプリを、AIに対する私たちの社会の依存の高まりと、AI生成コンテンツを使う際に個人の判断力が必要であることを反映するものだと評価している。