- Substackは、読者が投稿における人間による執筆とAI支援の割合を推定できる Pangramスキャン と、制作プロセスを公開する「How I make this」機能をリリースした
- AI利用そのものよりも 透明性の欠如 に焦点を当て、作家が自身の貢献を正当に認められ、読者が読むコンテンツをより適切に判断できるようにすることが目的
- 作家たちは透明性の強化を歓迎しつつも、誤検出の可能性、単一のラベルでは捉えにくい制作プロセス、互いの作業方法を監視するようになるリスクを懸念している
- フィードバックを反映し、Pangramとやり取りしたり事前にスキャンしたりしなくても、投稿ごとに読者スキャンを無効化 できるようになった
- AIが調査・翻訳・編集・下書き作成など複数の段階で使われるため、検出結果だけで著者の思考や労力を判断するのは難しく、具体的な作業方法の公開が読者との信頼形成に活用されている
PangramベースのAI透明性機能
- 読者はSubstackに投稿されたテキストをスキャンし、人間が直接書いた部分と AI支援を受けた部分 の推定割合を確認できる
- 投稿者向けの機能もあわせて提供される
- 投稿前の下書きに Pangram を実行できる
- 投稿ごとに読者スキャンを無効化できる
- 制作プロセスを説明する「How I make this」の文言を追加し、読者の期待値を設定できる
- 機能は Web・iOS・Android で利用可能
- SubstackとPangramは、投稿者のコンテンツを生成AIモデルのトレーニングに使用しない
AI利用よりも透明性に焦点
- AI利用と開示に関する規範はまだ定着していないが、SubstackはAI利用そのものが必ずしも問題ではないとしても、透明性の欠如は問題 だと判断している
- 作家が自身の仕事に見合った評価を受け、読者がどこに時間を使うかをより多くの情報に基づいて選べるようにすることが目標
- AIの性能にかかわらず、人間の視点 は文化に必要な要素だという前提に立っている
人間の創作とAIをめぐる議論
- Archie HallはAIの経済的可能性には楽観的だが、読むに値する水準であっても AIが書いた文章 は避けるべきだと考えている
- Lincoln Michelは、芸術には意図と選択が必要であるため、選択の産物ではないAIの出力は芸術にはなり得ないと判断している
- Hinternet Editorial Boardは、AIへの依存度を 0〜10のモース式尺度 で分類する方法を提案している
- Sam Krissは、AIに文章を書くことを任せる行為を強い調子で拒否している
- 作家たちは、AIが生成できるものとできないものを自ら試してきた
- Freddie deBoerは、大規模言語モデルが小説の文章そのものを除く構成要素を書けるかを実験した
- Rohit Krishnanは、文学的文体の統計的特徴を測定し、モデルがそれを学習できるかを調べた
- Hollis Robbinsは、異なる2つのLLMが生成した詩を比較し、偉大な詩に近づけるかを検討し、詩人にとっては 例外的な表現そのものが詩 だと見ている
- Elle Griffinは、未来のAIユートピアで過ごす一日をフィクションとして書いた
- Andrea Bartzは、現在の生成AIに反対する詳細な論拠を書いた
- Teddy(T.M.) Brownは、商業的な文章のかなりの部分はそもそも創造的表現ではなかったため、失われるのは魂よりも 作家の生計手段 だと見ている
リリース直後の肯定的な反応
- 一部の作家は、透明性ツールを作家の保護と読者体験の改善に向けた正しい第一歩だと評価している
- Katie Harbathは、AI検出ツールが倫理的利用の微妙な違いを消してしまう可能性を懸念しつつも、透明性を支持している
- コンサルティングや書籍出版の準備、日常生活を並行しながら定期ニュースレターを維持するうえで、AIが助けになったと明かしている
- Gergely Oroszは、AIが書いたものだと分かれば、制作者が自分で書くことに時間をかけなかったと見なし、読まないと述べている
- Joe Hillは、AIは平均的な人より文章がうまいがプロの作家には及ばず、その差によって読者を遠ざける 低品質コンテンツ が大量に生成されると見ている
- Helen Lewisは、自身が書いた2,000語が人間による執筆と判定された後、AIの利用方法を公開した
- 文章は自分で書き、AIでファクトチェックやスペルチェックは行わない
- 調査にAIを使う場合は、検索エンジンを使うときと同様に一次ソースを自分で確認する
誤検出とコミュニティ文化への懸念
- 反対意見は、AI利用の有無を単一のラベルに還元する際に生じる3つの限界を指摘している
- 人間が書いた文章をAI作成と判断する 誤検出
- 1つのラベルでは文章全体の制作プロセスを捉えにくいこと
- 作品よりも他人の作業方法を監視することに関心が向かう可能性
- Emma Richmondは、特定の規則に従う学術的な文章がAIとして誤分類される可能性を懸念している
- Kathleen Schmidtは、誤りが起こり得る検出ツールを誰でも使えるようにすると、実際にはAIを使っていない作家もAI利用の疑いをかけられ得ると見ている
- Monica Hebertは、AI検出を偽装された 道徳的純粋性テスト だと批判している
- 検出器はAIが関与した可能性を推定できるが、誰が最初のアイデアを出したのか、経験を実際に生きたのか、物語を語り修正したのかは分からない
- 下書きを却下し、論旨を変え、ユーモアを取り戻し、段落と結末を書き直す人間の作業も測定できない
フィードバックを反映したスキャン無効化
- Substackはフィードバックを反映し、投稿者が先に文章をスキャンしたりPangramとやり取りしたりしなくても、投稿ごとに読者スキャンを無効化 する選択ができるよう変更した
- AIの活用方法はクリエイターの数だけ多様であるため、スキャン結果とともに表示される「How I make this」の文言で具体的なプロセスを公開できる
「How I make this」の活用例
- Claudia Sahmは、最初の下書きは常に自分で書き、AIは主に明瞭さを高める編集に使っている
- 執筆前にアイデアをAIと検討し、自分が指示したデータ分析やチャートを含む背景資料の収集にも活用している
- 誤りや抜け漏れの責任は自分にあると明かしている
- 英語を母語としないThierryは、AIを 英文編集者 のように使っている
- 文章は整えるが、考えや実質的な内容は変えない
- Plum Sykesは、AIをまったく使っていないと簡潔に公開している
- Nateは、調査・下書き・執筆・編集全般にAIを使っている
- まず10〜15分間、音声をテキストに変換して自分の考えを原形のまま確保する
- その後モデルと下書きを作り、繰り返し修正して自分の考えと意図を正確に反映する
- AI支援と判定されるのは正確で予想どおりの結果だと見ている
- Morgan Vogelは、公開されたGoogle Docs、カフェイン飲料、祈りで文章を書いているというユーモラスな文言を使っている
- Sara Szal MDは、アイデアは自身の研究と30年にわたる臨床実務、出版した6冊の本から生まれたものだと明かしている
- 自分の文章でトレーニングしたAIツールを編集と出版効率の向上に使っているが、フレームワークとモデル、批判的思考、臨床上の推奨は自分で構成している
- Anthony Lawranceは、Claudeを編集者が記者チームを運営するように使っている
- 資料とストーリーを集めさせた後、出典を確認し、下書きを徹底的に編集し、タイトル作成と公開責任は自分が担う
- Jim Watersonは、自身の作業には多くの 人間の労力 が入っており、AIは使っていないと明かしている
今後の計画
- Substackは、クリエイターと読者の間の信頼を築き、それぞれが創作活動と事業に適した選択をできる環境を作る方針
- 来週から「Model Behavior」シリーズを開始し、作家・クリエイター・思想家たちの AI時代の作業方法 とAIに対する感情を取り上げる予定
- 投稿者に対し、再共有やコメント、「How I make this」の公開を通じて、AI環境で作家とクリエイターを支援する方法について引き続き意見を求めている
まだコメントはありません。