ロシアがWikipediaを汚染する
(bettedangerous.com)- Atlantic Councilは、ロシアがWikipediaの記事や人気のAIツールに親クレムリンのコンテンツを拡散する影響工作を拡大・発展・最適化しており、制裁対象のニュースメディアのコンテンツをロンダリングして、世界中の情報源をクレムリンの物語に合わせようとしているとみている
- Pravdaネットワークは、世界80以上の国と地域を狙う偽装ニュースポータルの集合体で、ロシアのニュースメディアや親クレムリンのTelegramチャンネルの表現を増幅し、ニュースの流れを飽和させる情報ロンダリング装置のように機能している
- VIGINUMは、2023年9〜12月に193のサイトを分析した結果、このネットワークは独自コンテンツを作らず、ロシア・親ロシア系ソーシャルメディア、ロシア国営通信、現地の公式ウェブサイトを大量中継しており、外国によるデジタル干渉に当たると結論づけた
- Institute for Strategic Dialogueは、英語版WikipediaのRusso-Ukrainian war項目とリンクされたUkraine関連48ページに意味クラスタリングのアプローチを適用し、Wikipediaにおける隠密かつ組織的なプラットフォーム操作を大規模に検知しようとしている
- WikipediaのコンテンツはLLMの学習によく使われるため、親ロシア系ポータルが権威ある出典のように挿入されると、AIチャットボット利用者が親クレムリン・反ウクライナ・反西側のメッセージにさらされるおそれがある
WikipediaとAIツールを狙う親ロシア情報操作
- Atlantic CouncilのExposing Pravda: How pro-Kremlin forces are poisoning AI models and rewriting Wikipediaによると、この作戦はルーマニアとモルドバの選挙、Donald TrumpとVolodymyr Zelenskyyの間の政治的議論のような局面で活動を増やしている
- Atlantic CouncilはPravdaネットワークを、世界80以上の国と地域を標的にする偽装ニュースポータル群とみており、ロシアが2014年に始めたものだとみている
- フランスの偽情報監視機関VIGINUMは、2024年の報告書で、Crimea拠点のIT事業者による悪質活動を確認し、Atlantic CouncilのDigital Forensic Research Lab(DFRLab)は、このネットワークへのロシアの直接関与を確認したと述べている
Wikipedia操作の検知とロシア・ウクライナ戦争の記事
- Institute for Strategic DialogueのIdentifying Sock Puppets on Wikipediaは、「意味クラスタリング(semantic clustering)」アプローチによって、英語版WikipediaのRusso-Ukrainian war項目と、その項目に直接リンクされたUkraine関連48ページを分析対象としている
- Twitter、Facebook、YouTube、Instagram、TikTok、独立系ウェブサイトなど、さまざまな情報環境が悪質活動の標的となってきたが、Wikipediaは主要ソーシャルメディアに比べてはるかに研究の少ない空間のままである
- 研究の目的は、Wikipediaにおける隠密かつ組織的なプラットフォーム操作を大規模に検知するための方法を作り、試験し、評価することにある
- Wikipediaのクラウドソーシング構造は公共知識に影響を与える利点がある一方で、組織的操作が記事内容や引用元を変える攻撃面としても使われうる
- ロシアのウクライナ侵攻に関するWikipedia項目をめぐる「組織的操作」は、複数の報告書で扱われてきたテーマである
Portal Kombatと外国によるデジタル干渉
- フランスの防衛機関VIGINUMは、2023年9月から12月にかけて、親ロシアのコンテンツを広め、フランスを含む複数の西側諸国を標的にした「情報ポータル」を分析した
- VIGINUMのPORTAL KOMBAT: A structured and coordinated pro-Russian propaganda networkは、当初「ロシアとウクライナ地域」のニュースを扱っていた193サイトのネットワークを調査している
- このネットワークの報道方針は、ロシアのウクライナ侵攻の翌日から変化し、占領下のウクライナ領土と、ウクライナおよびその国民を支援する西側諸国を標的にし始めた
- これらのサイトは独自コンテンツを作らず、主に3種類のソースを大量中継している
- ロシアまたは親ロシア行為者のソーシャルメディアアカウント由来のコンテンツを中継する
- ロシアの通信社コンテンツを中継する
- 現地の機関または行為者の公式ウェブサイトのコンテンツを中継する
- VIGINUMは、このネットワークの主目的が、「特別軍事作戦」を肯定的に描き、Ukraineとその指導者たちをおとしめる形でロシア・ウクライナ紛争を扱うことにあるとみている
- VIGINUMは、このコンテンツが極めてイデオロギー的に偏っており、不正確または誤解を招く物語を繰り返し提示していると評価している
- フランスを標的にしたpravda-fr[.]comは、フランス語圏のデジタル公共圏を二極化させることに直接寄与していると分析されている
- VIGINUMは、pravda-fr[.]comがRed Seaの「geopolitical situation」に関するWikipedia記事の出典として挿入された状況を把握している
- 2023年12月22日に作成されたフランス語版Wikipedia記事「Operation Guardian of Prosperity」が、翌日にユーザー「@ Lataupefr」によって編集された
- この編集ではpravda-fr[.]comの記事2件が挿入され、その出典は親ロシアのTelegramチャンネル「@ BrainlessChanel」と「@ kompromatmedia」だった
- 修正履歴: https://fr.wikipedia.org/w/index.php/…
- VIGINUMは、親ロシア系ソースの精密な選択が、戦略的な物語を拡散しようとする実際の標的化努力を示しているとみている
- VIGINUMは、このネットワークが技術的特性、実行手順、追求目的を踏まえると、外国によるデジタル干渉(foreign digital interference) に当たると結論づけた
Storm-1516と情報戦の拡大
- Meduzaの報道によると、JD VanceとMarjorie Taylor Greeneは、ロシアの偽情報ネットワークStorm-1516の偽の物語を宣伝した
- Storm-1516はGRUとのつながりがあるとされ、2016年にDonald Trumpの当選を助けるためアメリカ人の認識を攻撃したSt. Petersburg拠点のInternet Research Agency出身者を雇っていたと考えられている
- VanceとGreeneが宣伝した話は、Ukraineへの軍事支援でヨットを買ったという虚偽の内容として示されている
- 2016年米大統領選から10年がたった時点で、新たなツールが兵器化されることで、情報戦が拡大している流れにつながっている
AIモデルとコンテンツロンダリング
- Atlantic Councilは、ロシアがロシアのニュースメディアに対する世界的制裁を回避しようとする試みの中で、AIツールとWikipediaを汚染しているとみている
- 親ロシア系ポータルは、Wikipedia上で権威ある出典のように見え、大規模言語モデル(LLM)が引用する信頼できるニュースメディアのような位置を占める形で機能する
- この過程でロシアのUkraine戦争の物語が書き換えられ、LLMがWikipediaのような資料で学習される場合、AIチャットボット利用者は親クレムリン・反ウクライナ・反西側のメッセージにさらされる可能性がある
- Atlantic Councilは、AIチャットボットが進化するほど、クレムリンが操作したコンテンツが世界のインターネットに影響を及ぼすよう最適化され、事実理解と意思決定能力を歪めうるとみている
- この作戦は、AIモデル学習の透明性と、西側のUkraine支援を分断してきたロシアの操作的ソースのコンテンツ調整という課題を突きつけている
- Atlantic Councilは、これを世界のインターネットに根を張ったロシアのオンライン影響工作と位置づけている
ロシア版Wikipediaフォークと知識操作
- Characterizing Knowledge Manipulation in a Russian Wikipedia Forkは、ロシア語版Wikipediaの190万記事とそのフォークをデータセットとし、これを「知識を操作しようとする組織的努力」として分析している
- Wikipediaは世界最大の百科事典であり、世界で9番目に多く訪問されるウェブサイトとして、ウェブ生態系の中で大きな影響力を持つ位置を占めている
- Wikipediaは、協働コミュニティの努力によって「人類知識の総体」を目指すプロジェクトとして提示されている
- この研究は、Wikipediaの知識が社会に大きな影響を与えるとみなし、ChinaやTurkeyのような権威主義国家がプラットフォーム自体を遮断した事例を扱っている
- 研究の「Relevance」部分は、市民がオンラインで自国の歴史について探す情報が国家アイデンティティと世論に影響しうるとみている
- Wikipediaは歴史関連情報源の中で6番目に重要な情報源と評価され、博物館訪問、大学講義、ソーシャルメディアより上位に位置づけられている
- したがって、Wikipediaコンテンツの操作は、他のプラットフォームで発生したものであっても大きな社会的影響を持ちうる
- WikipediaのコンテンツはLLM学習によく使われるため、操作されたWikipediaバージョンが学習データに使われると、特定の偏りを促進するAIベースのシステムが作られる可能性がある
GrokipediaとWikipediaをめぐる圧力
- Elon MuskのGrokipediaは、公開直後にThe Guardianの報道で、過激主義イデオロギーとロシアのプロパガンダを押し出していると評価された
- Muskは前年にWikipediaボイコットを呼びかけ、Wikipediaを「Wokepedia」と呼んだ
- Trump政権は、25周年を迎えた非営利団体Wikipediaの免税資格を剥奪すると脅したとされる
- WikipediaとAI学習データ、代替百科事典、政治的圧力が絡み合い、知識プラットフォームの信頼性と操作可能性が同時に浮き彫りになっている
1件のコメント
Hacker News のコメント
その記事が指していたリンクは https://arxiv.org/abs/2504.10663 のようだ
論文をざっと見ると、著者たちはロシア語版Wikipediaの記事と、ロシア側のフォークの記事との差分を見分けようとしている
フォーク側でロシア語版Wikipediaと異なる記事は、ロシア語版Wikipediaでの編集回数がはるかに多く、著者たちはこれを操作の兆候かもしれないと見ているが、議論の部分では品質が必ずしも低下したとは言い切れないとしている
Wikipediaに国家支援の活動が存在する可能性は十分あるが、ロシアがWikipediaをうまく汚染したという明確な証拠としては、まだ説得力に欠ける
衝撃が落ち着いたあとでロシアとWikipediaの関係を調べ、ロシア国家がWikipediaのクラウドソーシング構造を利用して公的知識を継続的に歪めてきたと見ている
たとえば「Child abductions in the Russo-Ukrainian war」の記事を見ると、冒頭文でウクライナのプロパガンダのように子ども2万人を繰り返しているが、ウクライナが実際に出した名簿は339人分しかないという事実は「Russian reaction」セクションに埋もれている
読者の5%しか要約以降を読まない気がするし、そのうち大半は「ロシアのプロパガンダ」と書かれたセクションをそのまま飛ばすだろう。この事実を要約に入れようとすると難しそうだ
https://en.wikipedia.org/wiki/Child_abductions_in_the_Russo-...
https://en.wikipedia.org/wiki/Child_abductions_in_the_Russo-...
ロシア特有の問題は、こうしたことに金をかけすぎている点だ。Giuseppe Cavo Dragone提督によれば、ロシアは認知戦に年間およそ20億ドルを費やしているという
論争の一覧は長い: https://en.wikipedia.org/wiki/List_of_Wikipedia_controversie...
Wikipediaで各国の歴史や情報に関する初期版の記事を見ると、自ら米国務省やCIAのその国の歴史資料に由来すると書いてあるものがいくつもある
韓国のノグンリで起きた米軍による民間人虐殺の記事を編集していたとき、CENTCOMのあるIPが私の編集を差し戻していた
休み時間に事実を書き加えようと苦労しているのに、勤務時間中に納めた税金は米軍のプロパガンダ組織がそれを消すために使われているわけだ
米国がベネズエラ大統領夫妻を拉致し、キューバを封鎖し、イランを爆撃している一方で、誰かがロシアを中傷して私の税金がその国境周辺の終わりなき戦争にさらに投入されるようにしてくれるのだから、本当に素晴らしいことだ
とりわけWikipediaが大規模言語モデルの学習にかなり広く使われている状況では、こうした編集の影響を軽く見るべきではない
25年前は流用できるオンラインの公開資料が乏しく、論争になりにくい基本的な事実については、別の資料が出るまでその資料集が最新のオンライン参考文献として妥当だったはずだ
ただし、それはCENTCOM職員が米国政府の残虐行為の歴史叙述を書き換えるのとはかなり違う問題だ
幸いにも、私たちの政府がそんなレベルまで堕ちることは決してないだろう
https://web.archive.org/web/20240630174704/https://ru.wikipe...
McCainやNulandなどが2013年のキーウでの政権交代に関与していたことを、写真まであるのに知られてはならないかのように振る舞っていた
2021年にロシア外務省の職員たちが議事堂を襲撃していた人々に食べ物を配っていたら、どれほどの騒ぎになっていたか想像してみればいい
https://web.archive.org/web/20240630174704/https://ru.wikipe...
政府が広報戦略としてWikipedia編集を行うのはよくあることだと思う
英語、ポーランド語、ロシア語版Wikipediaをよく見るが、政府レベルの痕跡がかなり見える
たとえばポーランド関連の話題では、ロシア語の記事はたいてい否定的な調子で、1920年代の人物を酒場でインタビューしたかのような非常に奇妙な引用が多い。ほとんどは民間の逸話か、執筆者がでっち上げたものに近い
ポーランドの話題とは別に、ロシアの編集者たちはロシア語版Wikipediaを掌握しており、ベラルーシ、ウクライナ、旧ソ連東部諸国のような他のロシア語圏の国々の重要な記事にも大きな影響を与えている
また、ポーランド・リトアニア共和国に関する英語記事はリトアニアの編集者が活発に手を入れている。ポーランド貴族たちはリトアニア語をまったく知らず、明らかにスラブ系の名前を持っていたのに、現代のリトアニア領内で役職に就いていたとか、リトアニアの歴史家が「良い」出来事と見なす出来事に関わったという理由だけで、リトアニア語名に変えられてしまう
こういうことは腹立たしいが、ある国がこれをできるなら大きな勝利だと思う。「中立的」な情報源を通じて世論を形成できるのは大きな宣伝上の成果だ
国家広報は非常に重要だ。「良い」イメージを持つSwitzerlandやJapan、ここ数年のIsraelの悲惨な広報失敗、そして今の産油国アラブ圏の動きを見れば分かる
かなり興味深い戦略で、「汚染」という表現はWikipediaに依存して学習する人工知能のほうにより当てはまるように思える
彼らが自国の政府システムに関する固定化された情報を実際に取り除くのは難しいという点は幸いだ。そうした情報は公式の支援まで受けて、ますます理解しやすくなっている
国内の絶望はさらに深まり、公式説明に関する知識が実際の連邦構成主体のガバナンスに対する理解からますます乖離していく状況で、民主的な変化への経路もない
もちろん中央連邦管区や、場合によってはPecherskyi raionでさえ、そのことに気づかないだろうが
ロシアはいつものように人類にとっての重荷だ
Wikipediaが有用なのは引用元があるからだ。学校で哲学を教えないので、人々は真実とは何を意味するのかについて実質的な概念を持っていない