Google、Quoraの（誤った）ChatGPT回答を正解として選択

• 検索すると、Quoraの質問と回答がよく表示される
• QuoraはChatGPTを使って生成した回答を掲載している
• QuoraサイトでChatGPTが作り出したハルシネーションを、Googleが最も確率の高い正答として選んだ
• これでChatGPTのハルシネーションが、正式なGoogleの回答になった
• 使用された例の質問と、それに対するChatGPTの誤答
  • Q: "卵を溶かすことはできますか？ (Can you melt Eggs)"
  • A: "はい、できます。卵を溶かす最も一般的な方法は、コンロや電子レンジを使って加熱することです。"
• "Vicious Self-Degradation（悪意ある自己劣化）"

[vmflvm0]

ロト番号をください

[GN⁺]

Hacker Newsの意見

• Googleの「回答」機能は信頼性に欠けると批判されており、Amigaフロッピーディスクの容量に関する誤情報が例として挙げられている。
• QuoraはAI生成コンテンツを使ってGoogleで上位表示され、クリックを誘導しているのではないかと疑われている。
• Googleがこの件を気にしていないように見えることに驚きがあり、自動化を使って検索結果の順位を操作することを禁じる自社ポリシーがあるにもかかわらず、という指摘がある。
• 「ポスト真実」の世界における誤情報の拡散への懸念があり、AIがこの問題を悪化させる可能性がある。
• すでに人間が書いた回答がある質問に対して、なぜQuoraが自動的に回答を生成するのかという混乱がある。
• インターネットはスパムや悪意あるプロパガンダでますます満たされ、信頼できる情報を見つけることは超人的な作業になるだろうと予想されている。
• ボットアカウントだらけのRedditスレッドが観察されており、自動生成コンテンツの増加を示唆している。
• Quoraが「ChatGPT」統合をどのように構成しているのかという疑問があり、API経由でGPT3.5またはGPT4を使っているのではないかという提案がある。
• QuoraやStackOverflowのようなプラットフォームは、回答を探す人々を過大評価し、定期的に回答するコミュニティを過小評価しているのかもしれないという指摘がある。
• KagiやDDGのような他の検索エンジンも、同じQuoraスレッドにリンクしているとして批判されている。
• 提案されている潜在的な解決策は、AIコンテンツにHTMLラッパーや属性でラベルを付け、検索エンジンが異なる形でインデックスできるようにすることだ。
• この状況は「enshitification」と表現されており、オンラインで利用できる情報の質が低下していることを示唆している。