作家に「AIをどう思いますか？」と聞かないでほしい
(benjaminhollon.com)- Benjamin Hollonは、作家だと名乗るたびについて回るAIの質問が、何年にもわたって書く動機をむしばみ、創作そのものを自己疑念の対象にしてきたと語る
- 彼は、AIの開発と利用には技術的・職業的・倫理的な懸念があり、真剣な作家の文章の質や、読者が人間に期待する関係性を置き換えることはできないと考えている
- 会話はしばしば、質問者が自分のAI利用事例を認めてもらおうとする流れに変わり、それが人間の労働と創造性を軽んじる技術を正当化する信念を強める
- 繰り返される質問は、作家の実際の仕事より先にAIを連想しているという合図のように聞こえ、彼はこの3年間、”Those Who Breathe Easy”のようないくつかの作品を除けば、あまり多くを書けなかった
- たとえ企業がAIでアーティストを置き換えられると信じても、作家やアーティストは商業システムの外でも作り続け、読者は人が作った作品を求めるはずだと彼は見ている
繰り返されるAIの質問が生んだ疲弊
- Benjamin Hollonは、新しい人に自分が作家だと話すと、ほとんど毎回「それで、AIについてどう思うのか」と聞かれるという
- 彼の基本的な答えは、AIの開発と利用には深刻な技術的・職業的・倫理的な懸念があるというもの
- 問題は、人々がたいていその答えで止まらず、もっと長い会話を求めることにある
- この繰り返しは何年ものあいだ執筆への意欲を大きく損ない、彼は自分の愛するテーマに戻るために、まずこの問題を持ち出さなければならないと感じている
AIによる文章生成と人間の創作に対する立場
- 彼は、「Artificial Intelligence」と呼ばれる技術は、真剣な作家たちが到達する文章の質に近づけていないと判断している
- 読者が本を読む理由は、実在する人間が作った創作物に出会いたいからであり、機械とはそうした関係を結べないと考えている
- AIはすでに彼の創作技術に体系的な害を与えており、今後も害を及ぼす可能性が高い一方で、実際の利益はないと見ている
- 同じ会話を繰り返しても、相手が考えを変えるほど気にかけている兆候はほとんどなく、疲労だけが積み重なっていく
利用事例を認めてもらおうとする会話
- 多くの会話は、相手が自分はAIをどう使っているのかを説明する方向へ変わっていく
- 彼は相手が、「AIに批判的な作家ですら、自分の利用事例は問題ないと見ている」という承認を求めているのだと感じる
- どんな利用事例であれ、AIはあとでさらに良くなるという信念を持続させ、その信念自体が現在の問題の大半の原因だと見ている
- そうした利用は、人間の労働と創造性を低く評価する技術を正当化し、労働者を解雇してさらに金を稼ぎたい1%に利益をもたらすと考えている
- ただし、初対面の相手にそこまで直接言うには、これまであまりに礼儀正しく振る舞ってきたとも述べている
質問そのものが与える傷
- 誰かが作家の仕事を聞いて真っ先にAIを思い浮かべるなら、彼は相手が自分を価値ある存在として見ていないと受け取る
- AIを作家の仕事に関係あるもののように尋ねる態度は、実際の仕事には関心がないという合図のように聞こえる
- 人が書いた本には興味を持てるかもしれないが、ChatGPTに本を書かせて名前だけ付けたという話に、人々は実際には関心を持たないだろうと彼は考える
- 人々が読みたいのは別の人間が書いたものであり、AIは人間ではないのだから、その欲求には合致しない
- 「ChatGPTが小説を書ける」とか、その小説が読むに値するということも、人々が本を読む理由とは別物だと判断している
3年続いた執筆の停滞
- AIについての質問は、自分の文章をゴミと同列に置くように聞こえ、自分の書くものに本当に意味があるのか疑わせるものだった
- 彼はペンを取ることが怖くなり、自分を作家と呼ぶことがどれほど真実なのかまで疑うようになった
- この3年間ずっとそんな状態に閉じ込められ、書くという行為は自己疑念と戦う過程になってしまった
- 一部の読者は、昨年8月に出版された ”Those Who Breathe Easy” や、ベータリーダーに読んでもらった神話物語シリーズを見たかもしれないが、彼自身は実際にはあまり多くを書けなかったという
- 抜け出そうとするたびに、新しい誰かがまた「AIについてどう思うか」と尋ねてくることが繰り返された
人間の芸術の未来
- 彼は、AIは人間の芸術を置き換えられず、今後も置き換えられないと考えている
- ただし、いつか上司たちはAIで置き換えられると考えるかもしれず、作家・アーティスト・音楽家を解雇する可能性はある
- アーティストを解雇しても、彼らは消えるわけではなく、現実世界に存在する実在の人間として芸術家であり続ける
- 企業に雇われなくても、作家たちは書くことをやめず、既存の商業システムの外で書き、出版し続けるだろうと見ている
- 読者に、大手出版社が出したChatGPT執筆のロマンス小説と、実在の人間が心を注いで作った本のどちらかを選べと言うなら、彼は人が作った本を読むだろうと語る
- 巨額予算の紋切り型のHollywood映画と、創作技術そのものの楽しさゆえに若い少数の人々が仕事の後に作ったインディー映画を比べるなら、後者のほうが魅力的になりうると考えている
- 商業出版社が人間のアーティストを解雇する瞬間、それは自分たちを大きくしたものが何だったのかを忘れ、もっとも貴重な資産を手放すことになると見ている
傷つく作家たちとWriting Month
- 彼は長期的には、AIは文章を書くという創作技術にとって深刻な脅威ではなく、企業が作家を置き換えようとするという過ちを犯せば、むしろ作家たちがより強い立場に立つこともありうると考えている
- だからといってそんな事態を望んでいるわけではなく、すでに傷ついた作家もおり、これからも傷つく可能性がある
- 「私たちの夢には価値がない」という合図を繰り返し受け取れば、一部の作家は実際に書くことをやめてしまうかもしれない
- 彼は作家たちに、どんな文章でもAIが吐き出したものより読みたいのだから、書き続けてほしいと伝えている
- National Novel Writing MonthがArtificial Intelligenceへの批判を「classist and ableist」と呼ぶ声明を出したとき、彼の最大の恐れは、傷ついた人々が執筆をやめてしまうことだった
- 彼は作家たちが書き続けられる新しい場を作るために Writing Month を始めた
作家に代わりに聞くべき質問
- 彼は作家と創作技術について話したいのであって、同じ質問で傷ついた経験があるかどうかも聞いてみたいという
- AIについての質問は、害そうという意図がなくても、作家が闘ってきた絶え間ない価値の切り下げと同じ方向から来る言葉のように響くことがある
- 作家に「AIについてどう思うか」と聞く代わりに、「あなたの作品を読ませてもらえますか」と尋ねるほうがよいと提案している
- そうした問いは、作家が愛している仕事を本当に大切に思っているという合図になる
1件のコメント
Lobste.rs の意見
たとえどれほどひどいと思ったとしても、人が自分で書いた文章を読むほうが、「AI」が吐き出したものよりずっとましだと思う
NaNoWriMo が自らの AI 擁護のせいで崩壊したのは、悲しくもあり滑稽でもあり、そしてまた悲しい。ずっと昔に一度 NaNoWriMo をやってみたことがあり、完成した物語は作れず、二人にしか見せなかったが、そのいくつかの文句はそれほど独創的ではなかったとしても、間違いなく自分のものだったという点が今でも妙に誇らしい。言語モデルを使っていたら味わわなかった苦労であり、そのおかげで自分はより良くなったと感じる
AI について聞かれたときの Nick Cave の返答も好きだ:
https://www.theredhandfiles.com/chat-gpt-what-do-you-think/
https://theredhandfiles.com/chatgpt-making-things-faster-and-easier/
別のグループとしてやり直せない理由はないように思える。ここでも Blog Carnival みたいにできそうだ
AI について尋ねるのは歓迎だが、答えを聞く覚悟があるときだけにしてほしい
これはコンピューティングや バイブコーディングとは何の関係もない
NaNoWriMo が人工知能に関するひどい声明の中で、AI 批判を「階級差別的で障害者差別的」だと呼び、作家をどれだけ気にかけていないかを露呈したくだりは実にすごい
有害な行為者に対する正当な批判を持ち出して、その有害な行為者を批判する人々に逆にかぶせる非形式的誤謬には名前があるべきだ。whataboutism が近い気もするが、100% ぴったりではない
ここでは「武器化された怒り」が一番近いが、「作られた怒り」にも似て聞こえる
著者がその誤謬を示しているということか？ もしそうなら、正当な批判とは AI 非難を「階級差別的で障害者差別的」だと呼んだことになり、著者は NaNoWriMo が作家を気にかけていないと主張することでそれをひっくり返した、ということになる
AI アートは ストック写真やストック音楽の道をたどる気がする。広く手に入り、汎用的で、守備範囲は広いが、意味を付け加えないので、たいていは目も向けられなくなる
かなりの観客はストックコンテンツがないほうを好んだだろうし、今後はストックコンテンツが本物のコンテンツの不在を覆い隠す気散じだと気づく人も減っていくだろう
世界中のあらゆるコンテンツに無制限にアクセスできるとき、「面白さ」に触れるのは、何を取り除くかについての判断と、より多くではなくより少ないものを選ぶ能力だ
ただし、「面白さ」と「金銭的報酬」は別物であり、社会の中でそれぞれの居場所がある
一方では、自分の仕事がこんなふうに 切り下げられるように感じて苛立つのも分かる。もう一方では、LLM の使用に反対し、その害を知らせる機会なら歓迎だ
人々が自分のユースケースについてお墨付きを欲しがるときは、たしかにいら立つ。少なくとも私は誰にもそんなお墨付きは与えない。人それぞれ道徳基準はあるだろうが、私の基準を聞くなら答えは反対だ
なぜここに “vibcoding” タグが付いているのか分からない。コーディングについての記事ではない
時には「害は見る人の目次第だ」という好例だと思う
「自分の仕事に関する技術について聞いたとき、最初に思うのが、その技術は自分に何の違いももたらさず、自分の努力や苦労を切り下げるために作られたものだ、ということなら、それはあなたが私を尊重していないという意味だ」という文は、正直に言って著者の頭の中にしかない解釈だ
Benjamin が実際にそう感じていることを否定するつもりはないが、相手の意図をかなり敵対的に解釈している。誰もがこの技術が何を意味し、人生の中でどこに位置づくのかを見極めようとしているところだ。彼らはあなたの意見を尊重しているからこそ尋ねている。もちろん、あなたの立場で生きたことがないので無邪気に聞いてくることもあるが、これが本当にそこまで深い侮辱なのだろうか
作家として人と話すのは好きだ。人間と善意ある議論をするのはよいことだ。私たちが AI の話をしすぎているのは確かだが、その意味を理解しようとしているのなら、いくらでも話そうという立場だ
「人々が本を読みたがるとき、実際には別の現実の人間が作った創作物を読みたがっているのであり、機械とは関係を結べない」という言い方が本当に正しいのか、あまり確信がない
昔は音楽について俗物的で、「本物の楽器で演奏された音楽しか好きじゃない」と言っていた。時間がたつにつれて変わった。聴いてよければ、何が作ったかはあまり気にしなくなった
AI ライティングはかなりひどいと思うし、人々が AI の書いたエッセイを共有するときも尊重しないが、この人はかなり 人間嫌いっぽく振る舞っているように見える
「ただ質問されること自体が、私には問題だ」とか「自分の仕事に関する技術について聞いたとき、最初に思うのが…」のような反応はやりすぎだ
Comic Book Guy に、人々の好奇心を取り締まる権利はない。誰かが AI を使うべきだと押しつけてくるなら怒ってもいい。だが、単に意見を尋ねているだけなら？ 大きな変化に見えるものについて尋ねているだけなら？ 多くの人が仕事、人間の創造性の未来、教育を心配している。彼らは、あなたの技能が影響を受けるかどうかについてあなたがどう感じているのかを尋ねているのであって、妥当な質問だ
いら立たずに「小説家にとっては重要ではないと思う」と言うことを学べないなら、少なくとも、いら立たずに「AI の話はしたくない」と言うことくらいは学ぶべきだ
「実際に会ったあとで自分が本を出したと言えば、相手がその本を読みたがると期待している」というくだりは、この界隈に来てまだ日が浅い人のように聞こえる
元記事の筆者の言葉を信じるなら、たいていその質問は本当の探究ではなく、書くことを切り下げる行為を正当化してもらおうとする試みだ。そういう状況で作家が腹を立てるのはかなり理解できる
もちろん、その話題にうんざりしているのは理解できる。あまりに繰り返されてきたので、私もよくそう感じる。それでも、誰かと成熟した議論ができるなら、今でも知的刺激はあるし、だからこそ Lobste.rs の関連議論を今でもたいてい読んでいる