Meta、AIチャットボットの悪用でInstagramアカウント数千件がハッキングされたことを確認
(this.weekinsecurity.com)- InstagramのAI支援アカウント復旧システムの脆弱性により、パスワード再設定リンクが攻撃者の管理するメールアドレスに送信され、アカウント乗っ取りが可能になっていた事案
- データ侵害通知書によると、Metaは少なくとも20,225人にアカウント侵害を通知
- 攻撃者はInstagram全体および連携アカウントを掌握でき、連絡先・生年月日・プロフィール情報と、投稿・ダイレクトメッセージ・アカウント活動にアクセス可能だった
- 別のコード経路のバグにより、リクエストしたメールアドレスとアカウントのメールアドレスの一致確認ができず、二要素認証が無効なアカウントのパスワード再設定を悪用できた
- MetaはAIチャットボットを無効化し、アカウント再設定コード経路を削除、再発防止のため他のチャットボットの点検も進めている
被害規模とアクセス可能な情報
- Metaはデータ侵害通知書で、少なくとも20,225人にアカウント侵害の事実を通知し、このうちMaine州居住者は30人だった
- アカウント侵害はInstagramアカウント全体と連携アカウントの乗っ取りにつながる可能性があり、連絡先情報、生年月日、プロフィール情報、投稿、ダイレクトメッセージ、アカウント活動へのアクセス権を伴っていた
- ハッキングの過程でどの個人情報に実際にアクセスされたのかについては、Metaも把握していない状態
脆弱性と悪用の手口
- この侵害はInstagram向けのAI支援アカウント復旧システムの脆弱性に関係しており、この脆弱性はInstagramユーザーアカウントのパスワード再設定を実行するために悪用された
- この欠陥により、二要素認証が有効になっていないアカウントでは誰でもパスワードを再設定でき、チャットボットはアカウント所有者のメールアドレスではなく攻撃者の管理するメールアドレスに確認コードを送信した
- 別のコード経路のバグのため、パスワード再設定を要求した人物が提供したメールアドレスと、そのInstagramアカウントに紐づくメールアドレスが一致するかどうかをシステムが適切に確認できなかった
- システムは、アカウントに以前紐づいていないメールアドレスが提示された場合でもリクエストを拒否せず、そのメールアドレスにパスワード再設定リンクを送信してしまい、権限のない第三者が自分の所有していないアカウントの再設定リンクを受け取れる状態だった
- 攻撃者はこの段階で被害者のパスワードを再設定し、正当な所有者であるかのようにアカウントを乗っ取ることができた
期間とユーザー通知
- Maine州の一覧によると、ハッキングは4月17日ごろに始まり、Metaがチャットボットを保護した今週まで継続していた
- Instagramは今週初め、影響を受けた人々へのパスワード再設定通知の送信を開始したが、一部ではハッキングが続いているとの報告もある
- Metaは影響を受けたユーザーに対し、パスワードの再設定と、安全で検証済みのチャネルを通じた再認証を指示した
Metaの対応と残る不明点
- Metaは現在AIチャットボットを無効化しており、チャットボットがユーザーアカウントを再設定できるようにしていたコード経路を削除した
- Metaは再発防止のため、自社プラットフォーム全体にある他のチャットボットも点検中
- チャットボット悪用に至った具体的な経緯は、依然として不明
- 今回の事案は、MetaがAIへの注力を続けるなかで、数千人規模の従業員解雇や最上級幹部への株式インセンティブ支給の後に発生した
1件のコメント
Hacker Newsの意見
Metaの侵害通知には「ツール自体は正常に、意図どおり動作していたが、別のコードパスのバグにより、パスワード再設定を要求した人物が提供したメールアドレスが、そのInstagramアカウントのメールアドレスと一致するかを適切に確認できなかった」とあるが、この状況を正常動作や意図どおりの動作と呼ぶのは無理があるように思える
米国で多くのことを正すには、UCC[1]を更新して製品に使われたソフトウェアの免責を認めないようにすべきだと以前から思っている
[1] Universal Commercial Code -- https://www.law.cornell.edu/ucc
入力フィールドがユーザー名とメールアドレスを受け取りバックエンド関数へ送るところまでは、意図どおり動作した入力ページであり、問題はバックエンド関数がメールアドレスとユーザー名の一致を検証しなかった点にある
「Metaは少なくとも20,225人にアカウントが侵害されたと通知した… ハッカーは被害者のInstagram全体と関連アカウントを掌握でき、連絡先情報・生年月日・プロフィール情報だけでなく、投稿・DM・アカウント活動にもアクセスできた… ハッキングは4月17日ごろに始まり、今週まで続いた」とのことで、衝撃的な規模だ
顧客10万人の中小企業なら衝撃的だろうが、月間アクティブユーザー30億人のインターネット巨大企業なら、悪い話ではあっても「衝撃的」とまでは言えないかもしれない
人が軍隊のように押し寄せてアカウントを1つずつ侵害していた、とは言ってほしくない
ただ、実際に顧客を保護すべき場面でEUがきちんとやるのかは疑わしい
新製品用に作ったアカウントは自動化システムによって永久に無効化され、人に異議申し立てする手段もなかった
Meta/Instagram関係者が見ていたら、詳しい内容を短くブログに書いたので助けてほしい
https://addisonwebb.com/blog/2026-06-05-Can%20Someone%20at%2...
そのため「人間であることを確認せよ」という確認手続きが表示された後、ベースアカウントは人間でなければならないというコミュニティ基準違反でロックされたのだ
送られたリンク先のコミュニティ基準ページはかなり情報量が多く、成人向けコンテンツのような明白な項目を投稿しない限り、何も違反していないと思いやすい
違反した条項は「事業体、ペット、バーチャルキャラクターのような非人間的主体を代表するアカウントを作成してはならない」という部分だ
個人アカウントから事業ページを設定する手順に従う必要がある
今ではどのソーシャルメディアプラットフォームでも、事業ページを作る際には正式な手順を読むことが重要で、どこもスパムや詐欺ページの猛攻を防がなければならない圧力にさらされている
それでも解決しなければ、ブランド/広告代理店に連絡して100ドルほど払い、そちらのMeta担当者に解除を依頼してもらうのを勧める
実質的に、Metaに知り合いがいる人を知らないと、こういうアカウントは作れない
ヒント: Twitterや他のプラットフォームにこの問題を投稿しないほうがいい。自動化されたスパムが大量に寄ってくる
新しいアカウントを作る用途などのために作られたものだ
事業目的で使うアカウントを作ろうとするたびに、数分以内に身分証の提示を求められ、それでも結局アカウントがBANされる
すべてを個人アカウント経由で処理しなければならない
数日前にHacker Newsにも投稿されていた内容だ (https://news.ycombinator.com/item?id=48359102)
Metaの杜撰な確認ではなく、実際のハッキング手法についての説明だった
この件がMetaの衰退をさらに早めてくれればと思う
世界はソーシャルメディアなしでも十分適応できるはずだ
残念ながらMetaは、さまざまな人口集団をまたいで人々にリーチできる、ほぼ唯一のプラットフォームに近く、重要なのはその2万2千アカウントをフォローしている人たちだ
彼らはこの件の直接の被害を受けていないのでMetaを離れないだろうし、99%はこんなことが起きたとさえ知らないか、関心がないだろう
「AI支援のアカウント復旧システム」だなんて、Metaはいったい何をやっているんだ
それでも本当にやるべきではなかったし、この件が大型AI IPOにどんな影響を与えるのか気になる
Metaもこの分野の大きなプレイヤーの一つだが、ここがまともにできないのなら…
人々が認証情報を忘れたり失くしたり、ハッキングされたり、なりすまされたりするからで、これは正当な依頼だけを数えた場合の話だ
これに加えて、日々いるスクリプトキディから身代金を狙う恐喝犯、つまり「価値のある」ハンドルを盗もうとする者、反政府アカウントにメッセージを送る人々のDMにアクセスしようとする国家アクターまで、不正な依頼が乗ってくる
その結果、三つのことがついて回る。人がこの種のチケットを見るには金がかかるし、依頼を処理してもしなくてもPR上の被害は甚大になりうるし、ユーザー・顧客は世界で最も賢く裕福な人から、クマよりも判断力のない観光客[1]や、まともに文章を書けない人まで幅広い
さらに悪いことに、オンラインサービスには政府発行の身分証と結び付ける手段がまったくないことも多く、携帯電話のSIMのような代理手段すらない場合もあり、あらゆるレベルで腐敗が入り込み、とくに「おいしい」標的は金銭価値に換算できるなら数百万ドル規模になることさえある
Instagramだけでも世界で30億ユーザーがおり、ユーザーサポートに莫大な費用がかかるのは避けられず、世界で使われている約7,000の言語[2]にも対応しなければならず、米国大統領ほど権力のある人やElon Muskほど裕福な人ですら攻撃対象になる
この構想全体のリスク管理がひどく不足していたのは明らかだが、だからといってこの領域が些細な問題であるかのように扱うべきではない
だからこそAIを押し進めるのであって、きちんと作れさえすれば一次サポートデスクの仕事を、はるかに低いコストで大幅に軽減できるからだ
[1] https://velvetshark.com/til/til-smartest-bears-dumbest-touri...
[2] https://www.sapiens.org/language/world-languages-counting-me...
見出しは「Meta、安全でないAIチャットボットのせいで数千件のInstagramアカウントがハッキングされたと確認」に直すべきだ
こういうものを作るときに、「ユーザーが別のメールアドレスを要求できるか」がなぜ文字どおり最初のテストではなかったのか分からない
規模が大きすぎるからといって、まったくテストしないのか？
例外はあるだろうが、大多数は怠けられるという発想でAIを使いたがっている
開発中には、ユーザー体験どころかサポート担当者の体験すら考えていなかった可能性が高い
自分たちの開発体験だけを見てLLMにチャットボットを作らせ、動いたので、そのスピードが文書化されて上に報告され、株主の投資を促したのだろう
事前の熟慮があれば、AIがエンジニアになったり生産性を100倍にしたりするという物語に反してしまったはずだ
Facebookの一部投稿の下にあった、とんでもなく出来の悪い「Q&Aチャットボット」と、不適切なコメントとそうでないコメントをほとんど見分けられないシステムを見るだけでも、MetaがAIでどれほど遅れているかは分かる