AIでフェイクニュース、ディープフェイク、それを拡散するソーシャルメディアボットを見分ける方法

1. イギリス企業ロジカリー

• 機械学習と自然言語処理技術、人間の知能を組み合わせて報道の信頼性を評価する
• ロジカリーのWebブラウザー拡張機能は、約10万の発行元から出た信頼できる記事とあわせて内容の文脈を確認する
• 続いて情報源や記事の信頼性などを評価する
• 研究パートナーの専門家評価とAI予測に基づき、信頼できる、または信頼してはいけない情報源をユーザーに知らせる。
• AIは記事の内容、著者の評判と専門知識、記事がソーシャルメディアで流通した方式をもとに、記事の信頼性も予測する
• ユーザーがファクトチェックを依頼すると、ファクトチェックチームが調査して結果を知らせる

2. イギリス企業ファクトマタ

• 機械学習と自然言語処理技術でオンラインコンテンツを分析し、フェイクニュースを発見する
• ファクトマタは、インターネット上で作られた主要な主張をすべて抽出して集約するエンジンを構築した
• 12の側面にわたってコンテンツを採点し分類するアルゴリズムも設計した
• 論争性・非客観性・ヘイトスピーチ・人種差別・性差別・有害性・わいせつ・言語的脅威・過度な党派性・釣りリンクなどが12の側面
• これはプロパガンダ、偽情報、またはフェイクニュースになりうるコンテンツの言語的特徴である
• ファクトマタは、このエンジンとアルゴリズムでブランド、商品、オンライン上の懸案に関するフェイクニュースとヘイトスピーチを見つけ出す

3. アメリカのオンラインプラットフォーム、ボット・センチネル

• 機械学習で誰かを嫌がらせするアカウント、偽情報を広めるアカウントなどを検知する
• 運営チームは数千のアカウントと数百万のツイートを使って、Twitterアカウントを分類するよう機械学習モデルを学習させた
• まずTwitterの規定に繰り返し違反するアカウントを見つける
• 運営チームが「問題がある」と確認したアカウントと似たアカウントを分類するようモデルを学習させる
• アカウントは「正常(normal)」、「十分(satisfactory)」、「支障を与える(disruptive)」、「問題あり(problematic)」に分類し、各アカウントにスコア(%)を付ける
• スコアが高いほど、そのアカウントは問題がある可能性が高い

4. アメリカ企業メタ（Facebook）

• AIでディープフェイク動画を検知するシステムを開発する
• 「ディープフェイク・ディテクション・チャレンジ」のために依頼したデータセット内の動画でモデルを学習させた
• 複数の生成的敵対的ニューラルネットワークも学習に活用する
• メタは、自社システムがこれまで見たことのない新しいディープフェイク動画を識別できるよう、新しいデータ合成技術を使ってモデルをほぼリアルタイムで更新する
• 新しいディープフェイク動画を検知すると、類似したディープフェイク事例を新たに作成する
• これをディープフェイク動画検知モデルの大規模な学習データとして活用する