生成AIを使った「キノコ識別本」を見て毒キノコに中毒し入院した家族

 (old.reddit.com)
3 ポイント 投稿者 GN⁺ 2024-08-17 | 1件のコメント | WhatsAppで共有
  • 先週、家族全員が偶然に毒キノコを摂取し、その後病院に入院した
  • 妻が誕生日のために大手オンライン小売業者で Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms に似たタイトルの本を購入した
  • その本には、各キノコの識別に役立つキノコの写真が掲載されていた
  • しかし残念ながら、問題の本は正確ではなかった。詳しく調べたところ、キノコの画像はAIが生成したもので、各文の末尾に「ランダムな質問」や「第四の壁を破る文」が続く本文の事例が2つ見つかった
  • たとえば:
    • 「結論として、アミガサタケは8月から夏の終わりまで食べられるおいしいキノコです。ほかにお手伝いできることがあれば教えてください。」
  • オンライン小売業者は、本を返品すれば返金すると回答した
  • この本はオンライン小売業者で販売停止になったが、同様のスタイルの本がさらに数十冊あるように見える
  • 念のため明記すると: 「購入時にはAI生成だとは分からなかった。ウェブサイトにも表示されていなかった。」

関連記事

1件のコメント

 
GN⁺ 2024-08-17
Hacker Newsの意見

  • AI出版に対する規制の必要性を強調

    • 「University of East Ontario」は実在しないと指摘し、犯罪的過失に当たるとみなす

  • 生成AIは、現実の結果が求められる状況では機能しないと主張

    • 現在のAIは単なるオートコンプリート機能にすぎず、使われる文脈を理解していない
    • ストック画像や商品ページのテキストには問題ないが、重要な状況では非常に危険

  • Redditの「LegalAdvice」スレッドの信頼性に疑問を呈する

    • イギリスでは現在 morel キノコのシーズンではないと指摘

  • より信頼できる記事を共有

    • AIを使ったキノコ識別の精度が低いと指摘
    • Apple、Google、OpenAI、Microsoft はこれについてコメントしていない

  • TiktokとFacebookでインフルエンサーが誤った植物情報を共有する事例に言及

    • 危険な植物を食品やスキンケア用途として誤って宣伝することが多い

  • Redditの「advice」投稿の大半は創作だと主張

    • 実際の証拠が出るまでは怒りを保留するつもり

  • 生成AIの限界と、それに伴う責任の問題を指摘

    • AI企業は免責条項と警告文を追加すべき
    • LLMが生成する内容が誤っている可能性があることを明記すべき

  • オンライン小売業者からのメールへの疑念を表明

    • 製品写真の撮影禁止と即時返送要求は疑わしい
    • アカウント停止の脅しまで含まれているこの話は偽物だと主張

  • National Audubon Society Field Guideも、誤った使い方をすると中毒の危険があると述べる

    • これはAIだけの問題ではない

  • AI生成の法律相談に関する後続の苦情を予想して笑いを誘う