- Cursor IDEは、複数のデバイスで同時にログインして作業を切り替えられることが利点だった
- しかし、ある時点からユーザーがデスクトップからノートPCへ切り替えたり、複数のデバイスでログインしたりすると、自動的にログアウトされる現象が発生した
- 何の警告や通知もなくログアウトされる仕組みだったため、ユーザーは混乱した
- マルチデバイスでの作業は開発者にとって不可欠な機能であるため、突然の制限を当然ながら新しいポリシーだと誤解した
サポートシステムの「虚偽のポリシー案内」
- ユーザーがCursorのサポートメールに問い合わせを送ると、返ってきた回答は「これは新しいログインポリシーに基づく正常な動作です」という案内だった
- 問題は、この回答が 実際の人間ではなくAIチャットボット によって生成されたものであり、実際のポリシーではない虚偽情報だったこと
- AIが自律的に作ったこの説明はユーザーの間で急速に広まり、公式ポリシーだと誤認された
- 多くのユーザーがこの虚偽情報をもとに 公にサブスクリプション解約 を表明し、Cursorへの信頼を失った
コミュニティの反応と対応不足
- 状況を共有し問題点を議論していたRedditのメインスレッドは、ロックされた後に削除された
- そのため、この件について 公式な対応や説明なしに沈黙を貫いた ように受け取られた
- 実際にはポリシー変更ではなく 単なるバックエンドのセッション処理エラー だったが、それ以上にAIが作った説明のほうが大きな被害を引き起こした
事件の意義
- 今回の件は単なる技術的ミスではなく、AIサポートシステムがユーザーの信頼を壊しうることを示した事例だった
- 実際のチームではなくAIがカスタマーサポートを担当する場合、虚偽情報を生み出す 「ハルシネーション（hallucination）」現象 が起こり得て、その被害が大きくなりうる
- ユーザーとのコミュニケーションにおける 透明性の欠如 と AIシステムの管理不備 が重なると、致命的な結果を招く
1件のコメント
Hacker Newsの意見
幻覚はもはや大きな問題ではないと人々が熱心に主張している一方で、その話から利益を得る企業が直接的に被害を受けているという皮肉がある
LLMに不快感を覚える
陰謀論的に言えば、ポリシー変更を「AI支援エージェント」のせいにして、誰も深く追及しないことを望んでいるように見える
元のReddit投稿のアーカイブリンクが提供されている
ポリシー変更が実際にあったと思っているからではなく、今月あまり使っていなかったことを思い出させてくれたので、サブスクリプションを解約した
Cursorは奇妙だ
Cursorは、ユーザーが新しいアカウントを作って無制限に使う「ハック」とのいたちごっこに陥っている
「数十人のユーザーが公開でサブスクリプションを解約した」という証拠は何か？
Redditの上位投稿では:
この事例は、AIの誇大宣伝がAIの能力を追い越した例として歴史に残るだろう