科学的詐欺は「産業」化している

• 広範な分析研究により、科学的不正が組織的に行われている**「産業化」現象**が明らかになった
• 論文作成業者、出版社、学術誌、仲介業者などが複雑につながった詐欺ネットワークを形成している
• 一部の編集者と著者が互いに論文を担当し合い、不正行為に共謀する事例が確認された
• 偽造論文は最近急速に増加する傾向を示し、摘発および論文撤回の速度を上回っている
• 出版・採用評価制度の欠陥とインセンティブ構造が、詐欺「産業」の成長を助長する要因として指摘された

---

科学的詐欺産業の現状と分析

序論：増加する科学的不正の構造

• これまで科学的不正を研究してきた専門家は、大量の偽論文を生産する産業規模と洗練さを警告してきた
• 大規模調査により、論文作成業者、学術誌、仲介人、出版社など、様々な行為者が経済的利益を目的として不正に関与している証拠が確認された
• 本研究は数千件の論文、著者、編集者をデータとして、複雑に絡み合う詐欺メカニズムを分析した

研究結果の概要

• 論文は『Proceedings of the National Academy of Sciences』で発表され、編集者・著者ネットワークが不良論文を組織的に掲載する事例が確認された
• 大規模な組織が一度に偽造論文を一括投稿した後、学術誌に掲載するケースと、ブローカー（仲介者）が論文作成業者と不良論文を受け入れる学術誌をつなぐ構造が見出された
• 偽造論文数は全体論文数に対しては少数だが、増加速度は全科学論文の成長率を大きく上回る

不正編集者と論文の分析

• 研究チームは、不正編集者を特定するために大規模学術誌のPLOS ONEを分析対象に選び、膨大なメタデータと編集者の実名が公開されているため異常兆候の探索が容易だった
• PLOS ONEの論文撤回履歴、PubPeerで批判や問題提起の対象となった論文の担当編集者をすべて特定した
• 33名の編集者が、特に撤回論文と批判論文を反復して担当していたことが判明した
  • 事例：ある編集者が担当した79編の論文のうち49編が撤回された
• 2024年時点で、これらの編集者は全論文の1.3%しか担当していなかったが、全撤回論文のほぼ1/3を占めていた

編集者と著者間の共謀ネットワーク

• 特定の著者の論文を繰り返し扱う編集者の事例が多数あり、その多くは著者であり編集者でもある
• これらの間では、賄賂受領や同僚間の非公式な助け合いなど、様々な不正な協力の可能性が示唆される
• 同様の行為は、Hindawiなどのオープンアクセス出版社が発行する10誌前後の学術誌でも再現された
• 出版社幹部などは、研究チームの主要ターゲットはPLOSのオープンデータである一方、論文作成業者の問題は業界全体の課題であると強調した

最近摘発された共謀事例と問題の拡大

• 最近、Frontiers出版社でも35人の編集者・著者ネットワークが利益相反を隠して相互に論文査読を行った事実が摘発され、122編の論文が撤回された
• このネットワークは7社以上の出版社で4000編を超える論文を発表しており、追加調査の必要性が指摘されている

仲介業者と論文作成業者

• 単なる作成業者・共謀ネットワークを超え、大量の論文を複数ジャーナルに同時投稿する組織的配布行為が確認された
• 画像重複問題のある2000編以上の論文を基に、複数論文で同一画像が見つかるクラスターを追跡した
• この論文群には、特定時期に少数のジャーナルへ集中して発表される明確なパターンがあった
• この過程には、作成業者だけでなくブローカー（仲介者）も共謀体制に関与していた

ARDAなどの組織の事例

• インドのチェンナイを拠点とするAcademic Research and Development Association（ARDA）の事例分析
  • 論文・学位作業、学術誌実績確保などのサービスを提供
  • 自社サイトで研究者に代わって論文掲載を取り次ぎ、250〜500ドルの費用を要求
• ARDAは自社で論文を生産する業者ではなく、合法的な体裁を取る仲介業者として機能する
• ARDAなどの組織は、大学院生や新進研究者を主要なターゲットとしている

偽造論文の急増とその速度

• 55個のデータベースで疑わしい論文として指定された件数の年次統計を基に分析
• 2016〜2020年の間、疑わしい論文は1.5年ごとに倍増する速度で増えた（全論文増加率の10倍）
• 論文撤回件数とPubPeerでの問題提起件数も、それぞれ3.3年ごと、3.6年ごとに倍増
• しかし摘発速度が偽造論文の増加速度に追いつかないため、科学界内の不正率は上昇している

原因と構造的要因

• 世界的な科学界の成長速度、インパクトの低い学術誌と匿名性の増加、論文生産量中心の評価制度などが、悪循環の構造を助長している
• 若手研究者は同僚間の競争で生き残るために論文作成業者に依存する事例が急増している
• 一部医学分野では、このような偽造論文が体系的文献レビューやメタ分析にも入り込み、治療法・新薬効果に対する認識の歪みリスクが伴う

結論：産業的規模の不正と対応の緊急性

• すでに疑われていた問題だったが、本研究はこれを劇的に実証した点に大きな意義がある
• 研究チームと専門家は、学術界全体が実態を認識し、断固たる対応策を整える必要があることを強調している
• 採用・評価・出版などの様々な関係者が、関係者への厳しい処罰とインセンティブ構造改革を導入しない場合、詐欺「産業」問題は急速に拡大する恐れがある

[GN⁺]

Hacker Newsの意見

• 科学的不正にはいくつかの種類があることに気づいた。これらの問題を混同すると、かえって混乱するだけだと思う

  • 1. 権威あるジャーナルに掲載された論文でデータが捏造されている場合は、非常に深刻な問題
  • 2. 正規のジャーナルで誤った方法論が使われ、結論が間違っている論文――これがいわゆる「再現性の危機」
  • 3. 検証もなく大量生産された論文、いわゆるペーパーミル（paper mill）による完全な偽論文――これらは見つけやすく、個別には誰もだまされない
    • 3a. ただし、こうした論文がメタ分析に使われてしまうと、人々はメタ分析そのものを信じるので非常に危険
  • 問題1は倫理的に最悪で、思っているよりはるかに頻繁に起きている。NatureやNEJMのようなジャーナルにデータ捏造論文が載るのは惨事
  • 問題2は改革可能な部分。実際、複数の分野で変化が起きている
  • 問題3は科学知識そのものには大きな影響はない。大学や資金提供機関からすれば、自分たちの研究者が偽論文を買っていることは不満だろうが、こうした論文は無視してよい
  • ただし問題3aは実際の政策に影響しうるので、非常に深刻

  • 私の経験では、完全に捏造されたデータはまれだと思う。しかし、望む結果を得るためにデータを恣意的に選別したり、統計を誤用したりすることは、Nature Portfolioのような有名ジャーナルでも非常によく起きている。生命科学や医学の論文の少なくとも20%には重大な方法論上の誤りがあると思う

    • こうしたことが起きる最大の理由は、ゆがんだインセンティブと権力の不均衡にある。学生やポスドクが指導教員の要求に従わなければ、プロジェクトから外され、キャリアが終わることさえある
    • その一方で、こうした文化を助長する教授たちは事実上まったく罰せられない。監督も誠実性の検証もなく、大学も明白なデータ捏造や不正をただ見過ごす。結局、ルールを破れる人ほど多く報われるので、不正行為が続いてしまう

  • 悪意、無能、事故――この三つは再現性の観点では区別できない。研究者の意図を知る方法がない

    • この業界（科学者、大学、資金提供機関など）が自浄作用を働かせ、不良研究者を処罰しないなら、やがてあらゆる研究結果は、実際に再現されるまでは常に疑うべき時代が来るだろう
    • 処罰の方法としては、「データ＋方法論の提出なしでは論文掲載不可」から、資金削減、虚偽・無能力の公的記録まで、さまざまなやり方がありうる

  • 自分が経験したある論文の話をしたい。とてもクールな論文を見つけて、問題が解決しそうだった。Tier Aのカンファレンスに掲載され、データとコードも近日公開すると書かれていた

    • ところが、いくら探してもデータもコードも見つからなかった。著者や学科にも連絡したが、しばらく公開の予定はないという返事しか来なかった。
    • 結局、この論文は完全に捏造されたものかもしれないし、何の根拠もない話かもしれない
    • こちらは実験データやコードを一つ一つ集めるのに膨大な時間をかけているのに、こういう現実を見ると、自分の仕事そのものへの信頼を失いそうになる

  • Reinhart-Rogoff論文のような例を挙げたい。Excelのタイプミス一つのせいで、多くの政治家が緊縮政策を正当化したが、これは問題2と3aのどちらに当たるのだろうか

  • 問題3には別の副作用もある。陰謀論者がそうした論文を根拠に、自分勝手な主張へ科学的信頼性を与えることだ

    • YouTubeや一般向け科学記事などでそうした論文を引用しながら、大衆を惑わす。私の知人も最近科学に「興味」を持ち始め、でたらめなYouTube動画ばかり送りつけてくる
      • たとえばベテルギウスが超新星になったから地球は滅んだとか、ギザのピラミッドの下にエイリアンしか掘れない深い坑道があるとか、そういう話
    • 結局、こうした現象は科学に対する大衆の信頼を下げ続ける

• 中国のある教授が、私の博士論文の数式や図などをすべて盗用して論文を書いた事件を覚えている。別のラボの中国人学生が二つの論文を見比べて、あまりにも同じだと教えてくれた。その大学にも連絡したが、何の返答もなかった。実にいい思い出だ

  • 私も似たような経験がある。英国で研究していたとき、中国人のポスドクが私たちのメソッドと結果を中国の誰かに送っていた。それが私たちの知らないジャーナルに同時多発的に出版され、こちらにはほとんど打つ手がないと悟った。公に恥をかかせてもまったく効果がなかった。幸い、私たちへの影響は大きくなかった

  • 冗談半分で、その詐欺教授のオフィスに旅行者として突然押しかけてみろという方法を提案したい

    • 似た状況で、自分の修士論文を盗用した相手のところへ直接行ったことがある。キャンパス当局に届け出れば、なぜ自分が訪問したのかという正式記録が残るので、相手はなおさら居心地が悪くなる
    • ちなみにこれは中国で起きた話ではない。皮肉なことに、私が会った中国人研究者たちは皆とても倫理的で勤勉だった。少数の例のせいで他の人たちの評判が損なわれるのは残念だ

• 最近のAI関連ハイテク職では、トップカンファレンスに第一著者で論文を出した実績が必須になりつつある

  • 初任給が$150,000を超えることも多く、論文不正には十分な金銭的インセンティブがある
  • 結局、論文を1本出すことの重要性はますます低下していくと予想する。時間がたてば、ビジネス側も別の成功指標を見つけるだろう

  • 論文出版は単なる就職のためだけではない。「専門家」ビザでの移民にも有利で、待機期間が短く、枠も多く、待遇もよい

    • 実際、私の周りでは、業績用の論文や独創的研究を金を払って専門業者に作ってもらうことが日常化している。
    • その結果、良い移民と悪い移民を見分けることについてのゆがんだ認識まで生まれている

  • トップカンファレンス論文は、こうした「論文工場」から出てくる論文ではない

    • 偽論文は、特定のジャーナル（PLOS ONEなど）で、ある編集者が扱った79本の論文のうち49本が撤回されたような形で現れる
    • こういうことはトップカンファレンスでは起きない

  • 最近では、企業が論文出版歴を評価する際に、その場で論文の再現をやらせる場合もあるのを見た。皆この問題に気づき始めている

• 「trust the science（科学を信じろ）」というスローガンには懐疑的だ

  • いまや科学は、人類の進歩のためというより、安定したホワイトカラー職をめぐる争いに変質したように感じる

  • こうしたことが「trust the science」という言葉そのものを本当に弱めるわけではない。ただし、個々の論文を無批判に信じてはいけない

    • 実際に研究を追っている人なら、こういう点は誰でもよく知っている
    • ときどき非常に革新的に見える論文が出るが、追試すると再現できず、商用化にも結局至らないことが多い
    • たいていは健康系ポッドキャスターなど一部のコミュニティがそうした論文に熱狂するが、実際には検証されて初めて信頼を与えるべきだ

  • 「trust the science」が成り立つのは、科学そのものが全体としてはまだうまく機能しているからだ

    • むしろ「trust the science*」というスローガンのもとで自分の立場だけを正当化し、論文アブストラクトだけを引用する文化こそが信頼危機を深めている
    • 本当の科学は、検証可能な実験と事実に基づいている
    • もし科学そのものが信頼できないなら、それは私たちが何かを間違えているというサインであり、科学それ自体は依然として健在だ

  • 記事によれば、問題のある論文は批判され、撤回されている

    • 一部に詐欺師がいても、科学システムそのものは意図された通り堅牢に機能していることを示している

  • コロナ以降は、「trust the science」というスローガン自体もあまり見かけなくなった

    • でたらめな科学はもともと多かったし、むしろ最近は不正行為への大衆の認識や論文撤回がより活発になっている気がする

  • 科学界に腐敗や不正が多いのは事実だ。しかし、そうした不正が大衆の主要な言説を主導することはほとんどない

    • 不正はたいてい、表に出ない99%の科学の中に潜んでいて、だからこそ簡単には見つからない

• 昔は学界が純粋な実力主義の場だと思っていた。ところが実際に入ってみると、企業社会よりはるかに熾烈で、人間の弱さから自由な組織など存在しないことに気づいた。すべては人間の本性の産物だからだ

  • 元太陽光研究者として、まったく同じ経験をした

    • 世界トップの研究室で修士論文を書き、シニア研究者が発表した論文に基づいて実験した
    • 数か月間、狂ったように実験したのに、結果を再現できなかった
    • 偶然、実験データを博士課程の先輩に見せたところ、論文に出ている電圧そのものが物理的に不可能で、電圧だけ上げれば出力を水増しして大きく見せられることを教えられた
    • 論文の被引用数さえ高ければ学界で成功でき、教授は被引用数だけで資金を得ることになる
    • 結局、多数の実験者、より多くの設備、より多くの論文、より多くの引用が好循環になっていく
    • こうした体制では不正の誘因があまりに強く、皆それを知りながら黙認している
    • 科学はどれも小さなニッチ分野なので、その中では皆がお互いを知っており、ネガティブな文化が蔓延している
    • 7か月を不可能な数字に執着して無駄にし、すべてが金と政治に左右されるシステムだと悟って、研究者の道を諦めた
    • 解決策は、各論文発表ごとに複数の研究室が徹底検証するよう、各国政府と教育省が協力することだけだ。高くつくが、他に方法はない

  • ビジネス業界で働いていたせいか、学界に対する見方は違っていた

    • 限られた研究費、限られたポストを奪い合うゼロサムゲームで、しかも「クビにならない」地位まで配分される
    • もしそんな環境にいたら、自分なら身の危険を感じながら生きるだろう
    • ビジネスにはwin-winの機会が多くても詐欺が多いのだから、学界ならもっと深刻なはずだ

  • 学界は利他的で意識の高い空間だと思っていた。実際、そういう人たちも多かった

    • 一方で、学科全体が不正に覆われている場所も現実に存在する
    • それでも大半の学者は学問に真剣で、学生の面倒も見て、孤独な政治の中で与えられた仕事を誠実にやり遂げようとしている
    • それでもtech業界よりはずっとましだ

  • 有名なSayre's Lawという言葉がある。「学界の政治が最も悪質で辛辣なのは、賭け金が小さすぎるからだ」

  • 必ず切り分けるべき点がある

    • いまは認証評価、教育、研究が一つに束ねられている
    • 一流機関で資格認証を得たければ、そこに在籍して授業を受けなければならない
    • その過程で、自分は教えることに興味のない研究者から学ばされ、実際には初級の大学院生が最低賃金で代わりに教えている
    • それなのに、こうした環境に莫大な学費を払わなければならない

• この状況はまったく驚くに値しない。これは科学者の過剰供給、極端に競争的な市場、そして論文実績を人事評価の中心指標に据える近視眼的な判断が生んだ自然な結果だ

  • これに驚く人がいるなら、何十年にもわたって科学者たちに与えられてきた深刻にゆがんだインセンティブを見てこなかっただけだ

• ここで言及されているペーパーミルなどの不正論文のタイプは、米国ではまれだ（米国にももっと微妙で複雑な種類の不正はある）

  • こうした行為は、国ごとの学術環境や大学拡張の歴史と関係している
  • LLM（大規模言語モデル）以前は、こうした粗悪な論文は実際の分野にはほとんど影響しなかったと思う
  • 論文同士が互いに引用し合う引用ループの中を回っていただけで、分野外の主流知識への影響はごく小さかった
  • しかし今後、Deep Researchのようなところでこうした論文が使われるなら問題だ
  • 米国では、既存の構造を少し変えて新しく見せ、斬新さを強調する論文もよくある

• Natureがどれほど変わってしまったか見てほしい

  • 昔は生命科学を代表するジャーナルだったのに、今ではNature Portfolioの下にこのような数十種類の派生ジャーナルがある
  • Nature Energyにはバッテリー誇張論文が多く、Nature Materialsには表面化学やナノテク分野でとくに宣伝色の強い論文が多い
  • おそらく他の派生ジャーナルにも似た問題があるのではないかと疑っている
  • 「nature partner journals」も忘れてはいけない。人々はこれらのジャーナルも「Nature XX」と呼んで引用する

• 科学的不正は昔から一つの産業であり、実際にはsignal to noise ratio（信号対雑音比）が十分高ければ、それなりに回っていくものだと考えてきた

  • もしかすると、富の不平等が深刻化するほど研究者の生存圧力が高まり、その結果として不正が増えるのではないかと思う

  • 「publish or perish（出版するか消えるか）」という文化が、科学研究を完全に商品化している

    • 私の理論では、第一次世界大戦以前には、裕福な貴族階級が純粋に科学を楽しみ、研究に献身していたが、規模を拡大するのは難しかった
    • 当時は生活のための嘘が少なかったと思う
    • だからといって昔のモデルに戻るべきではないが、科学者をシステム内の「交換可能な部品」にし、被引用数のような指標で影響力を測るMBA的アプローチは失敗すると思う

  • 最近、詐欺論文を検出する面白い指標として「tortured phrases（不自然な機械翻訳調の言い回し）」がある

    • 例: Parkinson’s illness/infection/sickness など
    • こうした表現は、盗用検出回避のためのパラフレーズソフトウェアに由来するもので、著者・編集者・査読者・校正者の誰も気づかなかったというのは深刻な問題だ
    • 関連記事: Retraction Watch: All the red flags...

• この種の不正がどの程度まで広がれば、科学への支援を大胆に削るべきなのかという問いを投げかけたい

  • 90%が再現不能になったらか。95%か。98%か。健全な一部の分野まで損をしても、確実な対応が必要だという立場だ

  • オンラインで科学支援の重要性を主張する人たちには、実際の内部事情や科学的思考とかけ離れたファン心理が多い

    • 実際の現場では、科学の資金提供機関は良いアイデアに十分な資金を与えられず、システムをよく知る人だけが生き残れるように構造化されている
    • 「専門家」という言葉も結局、このシステムにうまく適応した人だけが認められることにつながっている
    • 新しい資金配分システムが議論されるたびに、激しい反発が起きることもある

  • 科学をcancerにたとえるのは、良い議論の仕方ではないと思う

    • データがあるのか、実際に90%が再現不能なのかを問いたい
    • がんと科学的不正が似ていると言える根拠があるのか気になる

  • 1970年代の全般的な繁栄の低下と急激なインフレが大学支援の縮小を引き起こし、そこから金融化と学問的卓越性からの乖離が始まったと考える

    • 皆がその頃から生き残るために経済的要素へより強く集中せざるを得なくなり、その空気が大学にも流れ込んだ
    • これが外国人留学生への依存が急増するきっかけにもなった