- arXiv論文 12,750本の本文全文 を分析した結果、最新論文の約3分の1が機械執筆のように読まれ、直近の完結四半期の判定率は約32%だった
- 2021〜2022年の論文を人間執筆の対照群とし、誤検出率0.4% に合わせて閾値を設定し、バージョン1のPDFとブートストラップによる95%信頼区間を用いた
- ChatGPT登場後に判定率は2度上昇し、2026年初頭に約39%でピークに達し、2026年7月までの直近12か月基準ではコンピューターサイエンスが 65.0%、数学は0.7%だった
- 数式や定理・証明の構造が多い数学論文は検出器の学習分布と異なるため低く測定される可能性があり、実際の著者が使った 非公開モデル・プロンプトの組み合わせ に対する性能も評価できない
- 判定結果は 著者やAI生成比率を識別できず、軽微な編集と全文生成も区別できないため、個人を非難する根拠ではなく、機械的文体比率の下限として解釈すべきである
誤検出率を基準にした測定設計
- 「コンテンツのN%がAI」という数値は、検出器が実際の人間文書まで判定してしまう比率を併せて見なければ価値が下がる
- 新しい論文の40%を機械執筆と判定しながら、ChatGPT以前の論文の20%でも同じ結果が出るなら、まず説明すべき数値は 20%の誤検出率 である
- 検出器 は学術文体に合わせて補正されている
- 誤検出率0.4% でLLM以前の実際の科学文書の99.6%を正常に通過させる
- AIが作成した学術文書の85%を検出する
- 2021〜2022年の投稿論文を人間執筆の正解データとみなし、正確に0.4%だけが判定されるよう閾値を設定した
- すべての結果は、LLM以前の文書が設計上0.4%にとどまる閾値を超えた論文の比率である
- ChatGPT以前の年は内蔵対照群の役割を果たす
- 上昇傾向が検出器自体から生じた人工的な結果なら、2021〜2022年も2026年並みに高く出るはずだが、実際にはそうではなかった
標本と分析方法
- 10分野グループで2023年1月から2026年7月まで分野別・月別に約25本を標本抽出し、2021〜2022年の対照群8か月分を加えて計 12,750本 を分析した
- 各論文のバージョン1 PDFを使い、2026年に改訂された文言がその論文の2023年標本に混ざらないようにした
- 要旨ではなく 本文全文 を分析した
- 同じ論文でも要旨では20%未満、本文では70%を超えた事例があり、要旨だけを分析するとシグナルが縮小する可能性がある
- すべての数値にブートストラップ方式の 95%信頼区間 を適用した
全体傾向と分野別の差
- 判定率は2021〜2022年の間は0.4%で維持されていたが、ChatGPT登場後数か月以内に上昇し始めた
- その後2度上昇し、直近の完結四半期で約 32% を記録し、2026年初頭には約39%でピークに達した
- 2026年7月までの直近12か月の分野別結果は次のとおり
| 分野 | LLM以前の対照群 | 直近の判定比率 | 95%信頼区間 |
|---|---|---|---|
| コンピューターサイエンス | 0.2% | 65.0% | 59.3〜70.3% |
| 定量生物学 | 3.5% | 56.3% | 51.0〜61.7% |
| 電気工学およびシステム | 1.7% | 51.3% | 46.0〜57.0% |
| 経済学および金融 | 2.5% | 47.0% | 41.3〜52.7% |
| 応用物理学 | 1.3% | 34.0% | 29.0〜39.7% |
| 統計学 | 1.8% | 31.3% | 26.0〜36.7% |
| 凝縮系物理学 | 0.0% | 24.0% | 19.3〜29.0% |
| 高エネルギー物理学 | 0.5% | 14.0% | 10.0〜18.0% |
| 天体物理学 | 0.0% | 10.7% | 7.3〜14.3% |
| 数学 | 0.0% | 0.7% | 0.0〜1.7% |
- コンピューターサイエンスが約65%で最も高く、数学は約0.7%で最も低いが、数学の低い数値は解釈が難しい
- 対照群の列は、各分野の2021〜2022年の判定率を3つの感度設定にまたがって平均した値である
- 上昇幅が大きい分野とLLM以前の対照群水準が高い分野は一致しないため、高い出発点だけではその後の上昇を説明できない
分野別対照群の統計的限界
- 分野別のChatGPT以前の対照群はそれぞれ 200本 である
- 誤検出率0.4%では、10分野の対照群2,000本のうち判定される論文は8本しかないため、単一閾値による分野別比率は粗い測定になる
- 全体を合算した誤検出下限は十分に推定されており、研究設計もこれを基準にしているが、分野別対照群の数値は近似値にすぎない
- 分野別に1%未満の比率を精密に固定するには、各分野で数千本の対照論文が必要だが、2023年以前のarXivにはそれを満たす論文数がない
低いスコアと検出の死角
- 低いスコアは AI導入率が低い ことを意味する場合もあれば、検出器の死角を反映した結果である場合もある
- 数学論文は数式や定理・証明の構造が中心で、数式や参考文献を除くと残る散文が少なく、検出器が学習した科学英語とも異なる
- モデルの支援を大きく受けて書かれた数学論文でも、散文が検出器の分布外にあるため低いスコアになる可能性がある
- したがって、数学の結果だけで導入率の低さと検出感度の低さを区別するのは難しい
- 散文比率が高く、検出器の学習分布と最もよく一致する分野が最も大きく上昇したため、この交絡要因だけで全体の上昇傾向を説明することはできない
- スコアが低い分野の順位は、AI導入率の 下限 として読むべきである
- 検出器は生成モデルごとに感度が異なり、著者が実際に使用した非公開モデルとプロンプトの正確な組み合わせを評価できない
- 不完全な検出範囲は判定率を下げるため、測定された比率は実際の機械的文体比率の下限であり、生成器別の性能は 検出器の説明 で確認できる
判定結果から分からないこと
- 検出器は既知のエラー率と補正済み確率に基づき、文書が 機械執筆のように読めるか を推定する
- 軽く編集された文書と全面生成された文書は区別できず、単一スコアは特定の個人を非難する根拠にはならない
- 測定対象は著者の身元や生成比率ではなく、AIを多用した編集まで含む機械的文体の比率である
- arXiv論文は無料チェックページ、一般テキストはテキストチェックページで確認でき、検出器の運営で収益は得ていない
1件のコメント
Hacker News の意見
2011年に書いた PyHPC ワークショップ論文は機械作成 27%、2012年の博士論文は基準値 42% のすぐ下の 40% と判定された
もう論文は出版していないが、自分が LLM のように書いていたのか、LLM が自分の文章から学んだのか分からない。2015年の IEEE CLUSTERS 論文はなんと 74% だった
さらに危険なのは、仕組みを知らない人たちがこれを根拠に AI 使用を断定し、学生に深刻な不利益を与えていることで、すでにあらゆる教育段階で起きている
2021〜2026年の arXiv 論文12,750本の全文を分析し、機械作成と判定される割合と ChatGPT 公開後の増加幅を調べた
誤検出を避けるよう検出器を意図的に調整したため、ChatGPT 以前の検出率は約 0.4% だった。2026年1月には全論文の約 39%、コンピュータサイエンスでは最大 65% が AI 作成と判定され、数学は 0.7% からほとんど動かなかったが、証明中心の文体を適切に捉えられていない可能性もある。これは統計的シグナルの推定値にすぎず、特定の著者が AI を使った証拠ではない。また、機械作成には強い AI 支援による編集も含まれ得る
ChatGPT 以前の文書が陽性の訓練データに含まれるようなリークがあるかもしれない
LLM が登場する前にも、ごく少数の著者が LLM のように書いていたのか気になる
多くの論文を検査してサーバーに過負荷をかけたくはない
企業での LLM 利用には、実際にゲーム理論的な誘因が働いている
開発者は Claude Code を手当たり次第に使い、見かけ上はより良いコードとドキュメントを大量生産し、経営陣は差し当たり欠点が見えないためそれを奨励する。構造的な品質は不確実だが、誤った指標では生産量だけが見えるので、認知能力の退化を受け入れる価値があるのか判断するには何年もかかるだろう。一日中 LLM を使わない人は生産量で後れを取るしかなく、出版数が重視される科学界にも同じ圧力が働く可能性が高い
それでも無数のスタートアップや新任助教が「AI」で新領域を切り開くとうたっているが、実際に最も効果的なアプローチは LLM よりも機械学習を使うものだ
重複の最小化とコード削減を目標に指示し続けたが、結果は「ひどいが自分には有用」に近い。この程度の有用性も無視はできないが、あふれる便器を見ながら価値が最大化されたと錯覚する経営陣は恐ろしい
本当に難しい問いは投入時間・コストに対する品質であり、現時点ではサブスクリプション料金ベースで opus/fable が生成するコードは十分有利だと思う
新しいツール自体は良いが、管理指標を満たすために特定のツール利用を強制されるのは嫌だ
人間が AI に依存するようになると、企業は自分たちに有利なように法律を変える影響力を得る。市民が都心の巨大データセンターに反対しても、企業はそのデータセンターが供給する AI なしでは何もできないと圧力をかけられるため、人間を無能で依存的にすることが核心なのかもしれない
テキストだけを使うすべての AI 検出方式と同様に、正確性が懸念される
特に、3つの検出器のスコアを最後に結合する過程がバイアスを生まないとどう確信できるのか分からないし、ソースがないため動作を検証したり研究を再現したりすることも難しい。LLM 以前に自分で書いた非公開研究も高いスコアを受け、別の論文ではほぼすべての文が赤い「machine-leaning」と表示されながら、スコアには影響しなかった。同じテキストでも LaTeX の書式の有無でスコアが大きく変わった。結論は「生成テキストの検出は難しく、仮説を裏づけるという理由だけで結果を受け入れてはならない」であるべきだ。この文章もたった今自分で書いたが、機械作成スコアが高く出る
学術環境で同じ問題を検討した結果、テキストだけでAIによる執筆を信頼性高く検出することは不可能だと結論づけた
人間とLLMが偶然まったく同じ段落を書いたなら、同一の入力を合成文か人間の執筆かに区別する方法はない。実際にはLLM特有の痕跡はあるが、時間やモデルによって変わるため、合成文のように見える人間の文章と、人間のように見える合成文を見分けることはできない。より興味深いアプローチは、エッセイのコーパスで、語彙、言語的特徴、文体埋め込み、一般的な埋め込み、誤字脱字、誤り、参考文献がLLM導入後にどう変化したかを分析することだ。集団レベルで学術文体が変化したことは明らかだが、原因を追跡するのは難しい
チョムスキーの言うように、人が話したり理解したりするほぼすべての文は、宇宙の歴史上初めて現れる単語の組み合わせである。より大きな困難は、LLMが1つの固定された表現だけを作るわけではなく、テキストの情報密度が低いため、狭い信頼区間で統計検定を行うには相当な分量が必要になる点にある
読む論文の65%にAI執筆の特徴が見られるなら、自分ではAIを直接使わなくてもAI文体の影響を受けることになる
特に、まだ文体を形成中の新人研究者ではより強く表れる可能性が高い
人間がAIの構文パターンを長時間維持するには、現時点で誰にも完全には把握しにくいパターンを見極め、各節を絵画の贋作のように細かく調整しなければならない。またAI文体も変化しており、代表的な兆候だったdelveは2024年半ば以降に急減し、今ではLLMの出力からほとんど消えている。これを真似て学んだ人間の文章は、むしろ現在のAI文体とは似なくなる
AI以前にも凡庸な文章を生み出す人はいた
英語ネイティブではないので、ほとんどの論文がAI検出器に引っかかるという結果は驚きではない
LLMに論文全体を書かせているからではなく、科学的文体に慣れていないのに米国の編集者がそれを求めるためだ。基本的な文でアイデアを書き、LLMで滑らかに変えることができる。各段落を自分で書いたあと、より科学的に整えると、内容は完全に自分のものでもLLM生成と判定される。逆に英語を十分にうまく整えれば、LLMが書いた論文も人間の文章のように見せられる
もう一度論文を書くなら、すべてを手で書くつもりはなく、内容が意図と一致しているかを検証し、誤って書かれた部分を直すなら問題ない。英語ネイティブが書いた論文の中にも、LLMで書き直せばはるかに良くなる文章は多い
各段落の細かな表現は、何をどう伝えるかに大きく影響するため、完全に自分の論文とは見なしにくい。そもそも科学的に見える文体を追求する理由も疑問であり、最もよく書かれた論文は、虚勢がなく会話するように読める。外部からの圧力があることは理解するが、LLMの文章よりも著者の素朴な文のほうが良さそうだ
このような論文は冗長で決まり文句の部分が多いので、AIが90%を書き、実際に新しい内容と重要性の説明だけを人間が書いた可能性もある
もしかすると、実際にそのような方式が広がりつつあるのかもしれない
一部の人は文章を書く芸術家かもしれないが、大多数はそうではない
検出器が単に、2022年以降の文献で増えた単語や専門用語をAIの特徴として学習した可能性がある
たとえばLLMとそれを使う人々はLLMを頻繁に扱うため、「large language model」という表現自体がAIらしいと判定される可能性がある。この表現は2022年以前には珍しく、現在およびAI生成文では多く登場するが、現代の人間の文章とAIの文章を区別する良い特徴ではない。2023年以降もLLM生成文がほとんどないと合理的に見なせる対照群では、arXivよりはるかに低い検出率を示すべきだ。NatureやScienceも完全に無縁ではないだろうが、2026年まで調べるならarXivよりはるかに低い増加曲線になるはずだ
検出器を更新する際にはこれを緩和する方法を検討するつもりだが、2023年以降のクリーンなデータセットを確保するのは難しい。別のAI検出器で作れば、結局その検出器以上にはなれない
合意プロトコルなどを研究する複数の研究者に、論文執筆と研究のどちらを好むか尋ねたところ、ほぼ全員が研究そのものを選んだ
文章を書くことのほうが好きなら、別の職業を選んでいた可能性が高い。LLMが研究の図表やコードなどを論文や草稿に変えてくれるなら、質の高い研究論文はむしろ増えるかもしれない。「研究はしたいが論文執筆が面倒だ」という摩擦が減るためだ。研究能力と文章を書くことへの嫌悪を2軸に置くと、両方の値が高い研究者たちの成果をLLMが引き出せる可能性がある。悪い論文も増えるだろうが、長期的には純効果がプラスである可能性がある