このGPT-3の会話で何が起きたのか？

[GN⁺]

Hacker Newsの意見

• GPT-3が a a a a のように単一文字を繰り返しスパムすることで異常な反応を示した会話。
• 会話の一部が17時間前にRedditへ投稿されたコメントと同一であり、ユーザーがそれをコピーした可能性を示唆している。
• 1か月前にも、Rustで単語トークナイザーを作成するよう求めたところ、GPT-3が分子生物学に関する無関係な回答を始めた類似の事例があった。
• 非常に低確率のトークンがサンプリングされ、文脈がなじみのない領域へ移動し、さらに異常なトークンの確率を高めたのではないかと推測されている。
• その会話がChatGPTかどうかを尋ねる質問に対して一瞬固定されたようになったが、これはAIが「いいえ、私はOpenAIが開発したAIであるGPT-3です。どのようにお手伝いできますか？」と応答するようハードコードされていることを示唆している。
• AIが文字列を出力する "