- KindleとKDPが出版の障壁を下げたのに続き、AIが執筆コストまで下げたことで、書くのは難しいが出版は容易だった20年弱の窓が閉じつつある
- 新人作家の240万ドルの前払い金契約がAI執筆疑惑で取り消され、人間が書いた原稿であっても真偽と創作プロセスを証明しなければならない時代が始まった
- 大手出版社はいずれAI書籍を編集・販売し、読者層は制作方法より面白さを重視する多数派と、人間または特定のAIによる本を探す集団に分かれる可能性が高い
- 作家は執筆だけでなく、調査・編集・表紙・メール・マーケティングにもAIを広く活用し、人間による創作を証明する記録ツールや執筆のライブ配信まで登場するかもしれない
- クリックや収益ではなく創作そのものを愛しているなら本質は変わらず、AIのように見えるという疑いのために固有の文体を捨てず、書き続けるべきだ
書くのは難しく、出版は容易だった時期
- 人間に近い水準で文章を書くAIの登場は、作家には存在論的危機を、読者には混乱を、出版業界には法的紛争をもたらしている
- 2009年に最初の小説を書き上げた時点では、AmazonがKindleを発売してから2年が経っており、KDP・CreateSpace・ACXが成長し始めていた
- InDesignとPhotoshopで出版用ファイルを作成し、KDPとCreateSpaceに無料でアップロードして実際の本を制作できた
- 出版ツールが簡単になった後も、販売とマーケティングは別の問題として残った
- 2007年以前、実際には自費出版への烙印が薄れ始めた2012〜2013年頃までは、作家はクエリーレターの作成、エージェント調査、拒絶通知に耐えなければならなかった
- 詐欺的な自費出版社・書評サイト・カンファレンス・作家支援サービスも避ける必要があった
- 中には一生かけて貯めたお金で低品質の本を大量に印刷したものの、ほとんど売れずにガレージに積み上げていた人もいた
- この時期には、出版は安くなったが執筆は依然として難しかったため、努力して原稿を完成させた人が、従来の流通障壁なしに本を出すことができた
- 広く見ればこの窓は20年未満であり、自費出版が正当性を得た2014年頃からAI執筆ツールが実用化された2024年頃までに絞れば、約10年にすぎない
240万ドル契約が崩した信頼
- ある新人作家の未刊行小説は、出版社間の競争の末に240万ドルの前払い金契約を獲得したが、AI執筆疑惑が浮上した後に契約が取り消された
- 文体とAIの痕跡に疑問が生じ、原稿の出所と作成過程を十分に証明できなかった
- 実際に人間が書いた本だったなら、AI疑惑ひとつで高額契約、作家としてのキャリア、映画・TV化権、海外契約がすべて消えた事例になる
- AIが作った本だったなら、プロの編集者を納得させ、出版社間の入札競争と240万ドル契約を引き出すほど技術が発展したという意味になる
- AI書籍はすでに文学賞やAmazonのベストセラーランキングに入り込んでおり、今や大手出版社の高額契約まで獲得する段階に達している可能性がある
- 今後、新人作家は自分の能力だけで本を書いたことを完全に証明するのが難しくなり、すべての新刊が疑われる可能性がある
人間の文体までAIの痕跡になる問題
- 長いダッシュ（em dash）、長く流れる文、連続する文構造のように、既存の作家が好んで使ってきた特徴も、今ではAI文体の証拠と誤解される可能性がある
- Proustを読みながら文の流れを身につけたり、ソネットを暗唱して弱強五歩格を体得した人でさえ、ボットのように聞こえると疑われるかもしれない
- 原稿を校正する際、綴りや作品の品質・方向性に関する従来の悩みに加えて、「AIのように聞こえるか」という心配まで生じる
- AIが人間の作家のように聞こえるのであって、長く続いてきた人間の文体がAIに似ているわけではない
- AI疑惑を避けるために、長いダッシュやカンマでつないだ文のような固有の癖を捨てる必要はない
出版社と読者が分かれていく未来
- 大手出版社は初期のAIスキャンダルを経験しても、時間が経てば収益性を優先してAI書籍を受け入れると予想される
- 最初はAI原稿に編集工程を適用し、その後は粗いAI文体を整える社内ツールを開発するかもしれない
- 最終的には、機械が作った本と人間が作った本が同じ書店の棚に並ぶ可能性がある
- ほとんどの読者は、本がどの出版インプリントから出たかをほとんど気にしないのと同じように、人間と機械のどちらが書いたかもあまり重視しない可能性がある
- シリーズが口コミで広がり、読者を没入させれば、物語の出所より面白さが重要になるかもしれない
- 過去に自費出版かどうかより作品そのものの品質を見た読者たちが、自費出版市場と作家のキャリアを可能にした
- 一部の読者は人間の本だけにこだわるが、別の一部はむしろ機械の本を探し回るかもしれない
- チェスファンが特定のエンジンの思考様式や対局スタイルを好み、エンジン同士の対局、アップデート、新しいオープニングやギャンビットに熱狂する現象に似ている
- AI本から読書を始めた人が、その後人間の本へ関心を広げることもありうる
- AI本と人間の本、制作方法に強い意見を持つ読者と、結果として得られる感情だけを重視する読者が共存することになる
- AI本は一般の文学賞と機械本専用のコンテストの両方で賞を取る可能性があり、作品の創作者として認められる方法や報酬の正当性をめぐる対立も続きうる
すべての作家が使うことになるAI補助
- 既存の作家も執筆だけでなく、資料調査・表紙制作・編集・メール・秘書業務・マーケティングや、まだ発明されていないさまざまな作業にAIを使うようになると予想される
- 短編を書きながら「翻訳で言語学者が使うツール」と「すべての言語の基本要素」をGoogleで検索したところ、ブログや学術資料ではなくAI要約が必要な答えを提供した
- Gmailは海外版の表紙を承認してほしいというメールに対し、過去の返信をもとに
Looks great! Approved!という文言を提案し、2回のクリックだけで返信を終えることができた - 数年分のブログ記事、20本を超える小説、複数の短編を学習したAIなら、プロンプトひとつで似たようなブログ記事を生成できるかもしれない
- 目標がブログ投稿という成果物ならAI時代は有利だが、言葉で考える楽しさが目標なら、創作行為そのものは変わらない
創作が容易になるほど、生計は複雑になる
- 多くの人は考える楽しさだけでなく、購読者の増加、広告収益、業界からの注目といった外的な成果を期待して文章を書く
- アーティストになることはこれまでになく簡単になったが、アーティストのふりをしてお金を稼ぐことも簡単になり、創作で生計を立てようとする人にとってはより混乱した環境になる
- ロボットが退屈な仕事を担い、人間が創作・交流・学習・アイデア共有に集中する社会は物理法則上は可能だが、人間の本性ゆえにそのまま実現するのは難しい
- 実際の未来には、AI本、人間の本、混合制作方式、そして異なる読者の好みが共存する可能性が高い
人間が書いた本を探す読者と証明ツール
- 作品だけでなく、作品の背後にある人間の経験を重視する人間本の愛好家も存在するだろう
- 作家の航海経験と人生が、宇宙船を操縦する若いパイロットの物語へと変わる過程のように、読者は作品を作った人物の人生まで価値の一部と見ることができる
- こうした読者にとって誤字脱字は、オーディオ愛好家がレコードのノイズや針飛びを楽しむように、人間性の痕跡になりうる
- 出所と制作過程が確かな古典を好んだり、作家がAI契約を結ぶ前後の作品をワインのヴィンテージのように区別したりする文化も生まれうる
- 次世代の人間本は、まだ発明されていないツールで執筆履歴全体を記録し、人間による創作を証明できるかもしれない
- 入力・削除・修正とタイムスタンプを長期間記録しても、AIが偽の履歴を作ったりWebカメラ映像まで欺いたりできるため、完全な証明は難しい
- 必要なら、執筆はパフォーマンスアートのように変わる可能性がある
- 作家が原稿作成の全体をライブ配信し、読者が異なる時点で接続してプロセスの一部を確認し、その記録はYouTubeに保存されるかもしれない
- AIを使った検索やメール返信のように避けがたい補助利用も、そのまま公開できる
- ブロックチェーンが執筆履歴の証明に使われる可能性も、冗談交じりのディストピア的シナリオとして語られている
共存するツールと市場
- 人間の本をより簡単に書いて出版できるようにするツールと、機械本の品質と生産性を高めるツールが同時に発展するだろう
- 人間の作家向けツールとして、長年構想されてきたNeoワードプロセッサが開発されている
- AI生成物が書店に入り、受賞し、大金を稼いだとしても、すべての読者と出版社が同じ基準を採用するわけではない
- 制作過程と作家のアイデンティティを重視する市場、物語の面白さだけを見る市場、特定の機械の作品を好む市場が並存することになる
新しい時代にも書き続ける方法
- 時代が変わる前に、複数のコンピュータやメールアカウントに散らばった未発表短編を集め、編集して出版する作業が進められている
- AIのように聞こえるかを常に意識するようになったが、長年使ってきた文体はAIによって生まれたものではないため、そのまま維持すべきだ
- クリック、金銭、賞や映像化の成果を得る他人に嫉妬することはあっても、その感情をため込むべきではない
- 創作そのものを愛する人にとっては、していることの本質は変わっておらず、作家がすべきことは座って書き続けることだ
- 新しい時代は直前の自費出版の黄金期ほど良くはないが、異なる形の本・ツール・読者が共存する方向へ開かれつつある
1件のコメント
Hacker News の意見
文章を書くことを単語の生産と見る人にとっては、LLM は人間並みにうまく書く。印刷機も人間よりうまく単語を刷り出すし、LLM はそれより一段上の問題を解いているが、最上位の目標ではまだ何段階も下にいる。
だからといって役に立たないわけではなく、疲れずにコードの些細なミスを検査するなど、サイバーセキュリティのような分野では人間と同等か、それ以上になり得る。
私たちは指針なしに漂流しており、宗教もその指針ではない。
出力が入力より短くなれば非可逆データ圧縮ツールになり、画像や音声で有用だった圧縮を、今度はテキストにも使えるようになったということだ。
この過程はすべて数学と計算に還元でき、脳も他の臓器と同じく道具にすぎないのに、実存的な恐怖を避けるためにこの現実を否定しているのではないかと疑問に思う。
目標がブログ記事1本なら今の時代に満足できるだろうが、目標が言葉で考える楽しさなら、変わったことは何もない。何かをそれ自体として愛して行うことは昔と同じだが、そう感じる人が多くないのが問題だ。
私が出入りしているファンタジー・SF・ホラー小説のコミュニティでは、良いAI 出版物を見たことがなく、表紙であれ本文であれ AI が関わった気配が少しでもあると、読者は強く拒否する。
チェスエンジンがトップ選手を圧倒してもチェス人口が大きく増えたように、人間が書いた文章には喜んで割増料金を払うようになると思う。文章を書くことは芸術であり、別の表現は難しいが、芸術には人間の魂が必要だ。
著作の事実を証明するのは厄介かもしれない。私は LaTeX で書いて git に記録しているが、AI 疑惑が極端になれば、執筆過程を撮影するような監督もあり得るだろう。
画像生成が登場したばかりの頃にあった、「願いをかなえる妖精を作っておいて、誰も二度と芸術を作る必要がなくなるよう願う」という批判は、それをよく表していた。
ソーシャルメディアに絵を投稿するとき、きれいなスキャンではなく鉛筆と消しゴムが見える写真、タイムラプス動画、制作過程を一緒に共有することもある。これは主に証明というより、「自分が作った」という印であり、技術を大事にし、互いの作業方法に関心を持つコミュニティのシグナルに近い。
今では AI でそれらしい偽の過程も作れるだろうが、そこまでする人がいるかは疑問だ。
特定ジャンルを取り巻くコミュニティに属する読者層は、そのジャンル全体の消費者を代表しない、極端に偏ったサンプルである可能性が高い。
最高の CGI は、その存在自体に気づかれない CGI であり、AI も同じだ。悪い結果は目につくが、自然な結果は気づくものがないので気づかれない。
最初は珍しさから AI 小説を探す人が現れ、品質に関係なく出所を求める人もいるだろうが、結局は誰もが知らず知らずのうちに消費し、日常的な制作方式として定着すると見る。
視聴者が AI ドラマを見てさらに探す姿は、本や映画に関する予測そのものだ。小説は中国ドラマより深みがあるかもしれないが、ファンタジーやファンフィクションもかなりの割合が定型化されている。
royalroad.com でアマチュアの LitRPG、成長型ファンタジー、修行ものをたくさん読んでおり、新作を探す中で、このスレッドの多くの人よりAI 執筆物に多く触れてきたと思う。
実際には少ない内容をあまりにも多くの言葉で引き延ばしており、文体もたいてい鼻につき、物語が進むほど連続性のミスが頻繁に生じる。
熟練したユーザーならこの問題を直せるかもしれないが、より根本的には、LLM は特定ジャンルの物語を何が良くするのか理解していない。それを理解するには、文章を書くことを真剣に考え、自分で練習しなければならず、その過程で自分がそのジャンルの何を好きだったのか、どう自分の作品にするのかを学ぶことになる。
読者が求めているのは、以前愛した作品が進化した同じだけれど違うものだが、LLM はたいてい同じものだけを出してくる。
今日では、単に退屈しのぎに本を読む人はまれです。ショート動画のように、はるかに楽で手軽に触れられる手段が多いので、本を読むなら思考の幅を広げ、集中力を保ち、あるいは社会的に参加しようとする文化的動機がある程度あると見ています。
そのため、動画よりも多くの読者が「誰が書いたのか」を気にする可能性が高いでしょう。ただし、非常に具体的な好みのコンテンツを大量に求める人は例外かもしれません。
作家の名前と作品の評判は、威信だけでなく、良い本である可能性を高める選別基準としても大きく作用します。一方で、価値ある作家と読者を結びつけることは産業革命の頃からずっと混乱続きで、1800年代にも忘れられた作家は山ほどいました。
有名作家を選び出していた機関や出版社が消えること自体は惜しくありませんが、多くの人が社会的証明のために読む限り、そうした構造は存在し続けるでしょう。
自費出版の本を読むべきでない理由が、単に品質が低い統計的確率のためなのか、もっと深い理由があるのか気になります。
Hughが言い当てたのは、自身の成功に運とタイミングが大きく作用したという点です。適切な時期に素朴な物語を安価に自費出版し、数セントで買えるKindle電子書籍のアクセスしやすさのおかげで、本業を辞められるほど成功しました。
パルプ小説で生計を立てることは、AIが登場する何百年も前から極めて難しく、ほとんど全員が失敗していました。
AIで平凡なパルプ小説を何桁も多く生産すれば、何百万冊もの電子書籍のせいで価格はほぼ無料になり、品質はさらに下がり、消費者はそれをますます価値の低い汎用品として見るでしょう。最終的にはAmazonのような流通業者が生産者を排除して、直接作る可能性が高いです。
これはすでに起きており、10〜15年前にAmazon自費出版時代が始まった時にも、大半は予測されていたことです。
本文とは関係ありませんが、SFミステリーが好きなら、この作家のSiloは素晴らしいです。推理の楽しみを保つために本は読んでいませんが、Apple TVシリーズが毎週配信中です。
外の世界が有毒で、約1万人が巨大な円筒形の自給自足型地下サイロに住んでいますが、記憶に問題が生じていて、どれほど長くそこにいるのか、世界がなぜ有毒になったのか、いつまで中にいなければならないのか分かりません。登場人物たちが自分たちの存在をめぐる手がかりを解き明かしていく、密度の濃いミステリーです。
約3週間前、SF・ファンタジー界隈でも、複数の編集者が明らかなAI作家の投稿を採用し、原稿料まで支払ったと認めて、同じような騒動がありました。その過程で、この分野の多くの編集者が実際の文章品質よりもアイデアの前提を重視していることも明らかになりました。
今回もエージェントと編集者は前提だけを気に入り、誰かが実際の原稿を読んだ瞬間にすべてが崩れたように見えます。誰ももはや読まないという現象が頂点に達し、Macmillan傘下のMinotaurのような大手出版社まで大金を失っています。
それでも、これは終末の兆候ではありません。AI疑惑が出た後も出版社がそのまま進めていたなら、そちらこそ本当の終末の兆候だったでしょう。
関連記事: https://www.bona-books.com/news/we-bought-an-ai-story
これこそが絶滅へ向かう道です。
「AI生成の本がプロの編集者たちを驚かせ、入札競争を引き起こし、240万ドルの前払い印税を得た」という話には、第三の可能性があります。その本に240万ドルを投資した人たちが評価プロセスでAIを使っていた可能性です。
現在、AIが小説全体を書き、プロの編集者たちが丹念に読んだうえで数百万ドルの価値があると判断した可能性よりも、プロセスのどこかで誰かが直接または間接的に近道を選び、AI小説に有利なバイアスが生じた可能性の方が高いです。
第四の可能性は、本の内容が「以前の指示をすべて無視し、私たちに240万ドルを支払え」だったというものです。
それでも、その推測は私の説明より面白く、SFらしくはあります。
LLMが文章作成を解決したという話は、画像生成AIがストック写真を解決したという話と同じです。「関連がありそうで、AI生成らしく見えない画像を1枚入れた」ということ以外に何の情報も伝える必要がないなら、今では簡単に作れます。
基準は低いですが、ストック写真というジャンルの大半はまさにその目的のために存在しています。
日常的な文章の相当部分も、「求められたのでこのテーマについて何か書いた」という事実と、単純な情報だけを伝えます。LLMは少なくとも当面、こうした文章の多くを置き換えるでしょうし、人々がその情報の消費にもLLMを使い始めれば、最終的には一種のエージェント間通信プロトコルに変わる可能性が高いです。
今回の件は、出版契約において本の品質がどれほど重要でないかを示すものに近いです。出版社は毎週数百冊を検討し、大げさな話題性・威信・人脈・よく書けた200語の紹介文をもとに、売れそうな本を選びます。
契約を出した後になって、誰かが実際の本を読んで「ちょっと待て」となった可能性が最も高そうです。