ある財務担当者、DeepFakeされたCFOとのビデオ通話後に詐欺師へ2500万ドルを送金

 (edition.cnn.com)
7 ポイント 投稿者 GN⁺ 2024-02-05 | 1件のコメント | WhatsAppで共有
  • 香港警察によると、ある多国籍企業の財務担当者が、ディープフェイク技術を使って会社の最高財務責任者（CFO）になりすました詐欺師らにだまされ、2500万ドルを送金した
  • 詐欺師らは、ディープフェイクで再現された偽の従業員たちとのビデオ会議を通じて、この財務担当者をだました
  • 財務担当者は、英国を拠点とするCFOから秘密の取引を求めるメッセージを受け取り、当初はフィッシングを疑ったが、ビデオ会議で同僚だと認識した人々の姿と声にだまされ、疑いを取り下げた

香港で発生したディープフェイク詐欺事件

  • 香港警察は最近、人々をだまして金を盗むためにディープフェイク技術を使用した複数の事件が発生したと発表
  • 警察はこれに関連して6人を逮捕
  • 警察は、昨年7月から9月の間に紛失したと報告された香港身分証8件を使って、90件の融資申請と54件の銀行口座開設が行われたと明らかにした
  • 少なくとも20件では、AIディープフェイクが身分証上の人物を模倣し、顔認証プログラムを欺いた
  • 偽CFOに関連する詐欺は、財務担当者が本社に確認して初めて発覚した

世界的に高まる人工知能技術への懸念

  • 世界的に、ディープフェイク技術の進展と、それによる悪用の可能性への懸念が高まっている
  • 1月末、米国のポップスター、テイラー・スウィフトのAI生成ポルノ画像がソーシャルメディア上で拡散し、人工知能技術が持つ有害な潜在力を浮き彫りにした
  • 性的な含みを持つ露骨なポーズを取った歌手の画像は、ソーシャルプラットフォームから削除される前に数千万回閲覧された

GN⁺の意見

  • ディープフェイク技術の進展は、社会的・経済的領域において深刻な脅威となりうることを示している。この技術がどのように詐欺や犯罪に悪用されうるのかを理解することが重要だ
  • この記事は、ディープフェイク技術の危険性に対する認識を高め、個人と企業がなぜセキュリティにより注意を払うべきなのかを強調している
  • 技術の進歩がもたらす負の側面への警戒心を呼び起こし、それに対する対策整備の重要性を知らせるうえで、この記事は役立つだろう

関連記事

1件のコメント

 
GN⁺ 2024-02-05
Hacker Newsの意見

  • 米国の多くの中級〜高級ホテルは、インド系のPatel姓の人々によって所有されている。

    • 緊急事態を理由に、Patel姓の人物が送金を求めて電話してくる詐欺はよくある。
    • ホテル従業員がそれを信じ、金庫をこじ開けたり個人口座から送金したりすることもある。
    • こうした詐欺は、AIやディープフェイク技術なしでもソーシャルエンジニアリングの手法を使って行われる。

  • 「パワーディスタンス」という文化的要素が、こうした詐欺に影響している可能性がある。

    • 一部の文化では、手続きを無視して上司の指示に無条件で従う。
    • 米国の一部のハードウェア技術企業でも、似たような事例が報じられたことがある。

  • フランスでは、CEO、CFO、弁護士を装った電話にだまされて送金した従業員がいた。

    • 2022/2023年に逮捕されたフランス系イスラエル人ギャングが、少なくとも3800万ユーロを詐取した。
    • 彼らはディープフェイクAIなしでCEOになりすました。

  • 複数参加者のビデオ会議で、参加者全員が偽物だったという主張がある。

    • これは本当かもしれないが、従業員が言い訳としてディープフェイクを持ち出している可能性もある。
    • 詐欺師が親や祖父母に対して子どもになりすまし、金を要求するビデオ通話を大規模に行うのはいつになるのか、そしてそれをどう防ぐのかという疑問が提起されている。

  • ボストンを拠点とする金融関係者が、2023年に詐欺師へ600万ドルを送金した。

    • ソーシャルエンジニアリングの要素はあったが、ディープフェイクへの言及はなかった。
    • 2023年のMGMカジノのハッキング事件では、ディープフェイクを使って技術サポート担当者をだまし、MFAを突破させた。

  • CFOがディープフェイクの専門家と結託して利益を分け合う可能性についての推測がある。

    • これは実際に起きたことではなく、将来のシナリオに焦点を当てたものだ。

  • 複数参加者のビデオ会議で、参加者全員が偽物だったという主張が再び言及されている。

    • これは、各参加者の画像や音声サンプルを収集するなど、かなりの準備が必要であることを示唆している。
    • こうした精巧さがすでに現れているなら、機密性の高い会議向けに新たな参加者認証の方法が登場するだろうと予想される。

  • 大企業でこのようなことがどうやって起こり得るのか理解しがたい。

    • 取引が発生するには、明確に文書化された手順が必要だ。
    • 取引が承認されるには複数段階の承認が必要であり、支払いを入力する人と承認する人は別でなければならない。
    • 取引が入力された後は最初の承認を経る必要があり、支払い限度額に応じて追加承認も必要になる。

  • ディープフェイクを使って人をだませるソフトウェアへの疑問が提起されている。

    • まだそのようなソフトウェアを見たことがなく、本当に人をだませる製品が存在するのか疑問視されている。

  • こうした詐欺は、会社の悪いプロセスに起因しているように見える。

    • 高額な金額については、ビデオ通話だけでは不十分だ。
    • メールでの確認、社内チャットでの会話、上級職との携帯電話での通話などが必要だ。