AIスロップとオンラインのノイズに対する最高の答えはRobin Williamsにある
(jayacunzo.com)- Good Will Hunting のベンチの場面は、本で得た知識と実際に生きた経験の違いを通じて、AIスロップ、際限ない助言、オンラインのノイズが見落としているものを示している
- AIはインターネットを読んだが、状況を読むことも、人生を生きたこともなく、知識はあっても感情と経験はない、という対比が中心にある
- Robin Williamsの演技は、同じ脚本でも誰もが同じように実現できるわけではない例であり、芸術は情報を並べることではなく、人生経験を意味へと合成することに近い
- オンラインには、脚本だけがあり演技が抜け落ちたようなコンテンツが多く、市場は困難な創作よりも、より多くのコンテンツを作るためのツール利用を強調している
- 人に必要な基盤はAIのlarge language modelではなく、little life momentsであり、それぞれの経験と視点を仕事に込めたとき、代替しにくい価値が生まれる
Good Will Hunting の場面が示す知識と経験の違い
- Good Will Hunting でSean、つまりRobin WilliamsがBoston Public GardenのベンチでWillに語る場面が出発点である
- SeanはWillに対し、芸術、Michelangelo、戦争、愛、喪失について本や引用で語ることはできても、実際に生きたことはないと詰め寄る
- Sistine Chapelの匂いを嗅いだことがない
- 愛する人の隣で本当の幸せを感じたことがない
- 戦場で友人の最後の息を見守ったことがない
- 病院で2か月間、座ったまま眠りながら愛する人の手を握ったことがない
- Oliver Twistを読んだからといって孤児の人生を知っているとは言えないように、本で読んだ知識は一人の実人生を包含できない
- 核心は、専門知識と知恵、理論と経験、知ることと生きることの間には隔たりがあるという点にある
AIはインターネットを読んだが、人生を生きてはいない
- Willは本や理論を多く知っているという点で、人間型ChatGPTのように描かれている
- 一方でSeanには、Willにない経験がある
- 戦争、愛、病、喪失、希望、夢、失敗、成功を直接経験している
- WillはBostonの外に出たことがなく、傷つくほど誰かと親密になることを恐れている
- AIはインターネットを読んだが、部屋の空気を読むことはできず、人生を生きたこともない
- 何かを知り、それについて語ることはできても、感じたり経験したりはせず、生きていないため自ら生きた経験を持つことはできない
- オンラインの多くの声は、成功の「秘密」や「魔法」のツールを売りながら、個人が生きてきた経験はそれほど重要ではないという印象を生み出している
知ることだけでは意味のある仕事を作るのは難しい
- 「戦争について読むこと」と「戦争の中にいること」は違う
- 「愛について読むこと」と「恋に落ちること」も根本的に異なる経験である
- Oliver Twist を読むことは、孤児として生きることと同じではない
- インターネットとオンラインの助言は、知識は無限にあり、他人はより多くを知っていて、ソフトウェアが答えを教えてくれるのだから、個人の経験と自信を脇に置くべきだという圧力を生み出す
- しかし個人の人生は、無限の知識の前で消える要素ではなく、むしろ違いを生み出す基盤になる
同じ脚本でも同じ演技にはならない
- Robin Williamsの演技は、同じ脚本を受け取ったとしても、別の俳優がまったく同じように演じられるわけではない例として使われている
- 脚本には言葉があるが、Williamsはその言葉に生命力を与えた
- 俳優やアーティストは情報を正しく並べるだけでなく、感情をどのように身体で具現化し、伝えるかを選択する
- 科学的発見は、十分な時間と資源があれば別の科学者も同じ真実に到達できる、という形で対比されている
- 芸術は違う仕方で働く
- 2人のアーティストが独立して完全に同じ結果を作ることはできない
- 芸術は外部の真実を見つけることではなく、その真実を内側で意味へと合成することである
- どんな2人も、拍子ひとつまでまったく同じ人生を生きてはいないからである
仕事に自分の人生を込めるべき理由
- オンラインの多くの仕事は、作り手が演じることを忘れた脚本のように感じられる
- 言葉はあるが、生気がない
- 市場はそうしたコンテンツをさらに大量生産するツールを出し、人間にはそれ以上うまくできないかのようなメッセージを添えている
- あらゆるものを科学へと還元しようとする流れの中で必要なのは、それを芸術へと引き上げることである
- AIと人間はいずれもLLMを基盤にしている、という言葉遊びが登場する
- AIはlarge language modelを持つ
- 人間はlittle life momentsを持つ
- 問題は、人々が自分の小さな人生の瞬間を、十分に一貫して自信を持って引き出していないことにある
- その分野の新人、40年の経験を持つ専門家、まだ知られていない声、広く知られた語り手のすべてにとって重要なのは、それぞれの人生を引き出し、自分だけの「LLM」を使うことである
- 似た専門性や技術、似たテーマを持つ人は多いが、世界をどう見ているかが一人ひとりを分ける
- 聴衆は、本、記事、動画、AI要約で読めることだけでは十分に学べない
- 自分の経験と視点を表に出したとき、仕事は生きたものになる
1件のコメント
Hacker News のコメント
よく書かれたモノローグで、伝え方も見事だが、この論証は大きく失敗していると思う
Damon、Affleck、Williams、Van Sant、Reiner、Goldman の誰も、最前線で戦ったり、友人が腕の中で死ぬ経験をしたり、配偶者をがんで失ったりしたわけではなさそうだ
それでも彼らはストーリーテリングの力で、他人の物語に基づいた台詞を書き、届けた。その結果、ほぼ30年後の今でも私たちが愛おしく振り返り、直感を揺さぶられる場面になっている
だから「そこにいたこと」が深い意味を持つのは確かだが、直接経験していなくても効果的に表現し、他者に影響を与えられる範囲に、どんな明確な限界があるのかは不明だ
映画を見すぎたせいで、現実とは何か、何が可能で、何がもっともらしいのかについて、奇妙な印象を持つようになっている気がする
母のベッドのそばで奇跡的に治ってほしいと願いながら、同時に苦しみが終わってほしいと願って、頭が焼けるようになるのがどういうことかは知っている
娘のおむつを何千回も替えたし、どれだけ便が付いていたかはまったく重要ではなかった。もう一度やれと言われればすぐにできる。ただ、こういうことは映画にはならない
こうした出来事が人間に与え、機械には与えられないものは共感だ。本を読んでも得られない視点が生まれたし、人生は永遠ではないのだから喜びで満たし、無駄にしてはいけないのだと分かった
子どもは喪失に対する大きな慰めであり、私の場合、死が以前ほど怖くなくなったのは、子どもに何らかの形で失敗することに比べれば重要ではないように思えるからだ
ある男性が子どもに親切にし、愛情を示しているのを見ると胸がいっぱいになる。他の面で最高の人間でなくても、最も決定的な一つのことはきちんとやり遂げたのだと思う
言葉でもこうした内容を伝え、インスピレーションを与えることはできるが、感情を実際に伝えるのは難しいし、人は感情を無視したいという強い誘惑にもかられる
どれほど金持ちでも、いつも忙しくて子どもの世話ができない人たちはうらやましくない。私の基準では、数兆ドルより重要なものを無駄にしている
演技の一部は作り出されたものだったのか？ もちろんだ。大きく踏み込んでいたのか？ 間違いない。戦場に行くまでは、戦場がどんなものかは分からない
現場を離れてからようやく不快に崩れる奇妙な正常性、残りの世界が色と現実感を失っていく感覚は、言葉では説明できない。人生の最愛の人を失うことがどういうことかも、実際に起きるまでは分からない
だからそのモノローグの一部は空虚に聞こえるが、全部ではない。そしてそれこそがエンターテインメント産業の本質だ。自分の持っているもので仕事をするのであって、完璧である必要はない
LLMを人間のように扱い、その出力を深みのあるものとして通してしまう態度、あるいはLLMがそうであるかのように振る舞って人を安心させる危険への、言い換えられた批判としては要点を伝えている
文章は、良い家庭料理の朝食が重要だと言っているようなものだ。Robin Williams は市販のパンケーキ一袋のようなもので、ChatGPT は人間性をすり潰して再構成しているという点で、Soylent Green に近い
逆に、それに反する証拠もある。AIはこのように人々の心に響く映画脚本を書けないし、スタンドアップコメディアンがしていることもできない
この差が埋まるのか、いつ埋まるのかは議論の余地がある。原理的には可能だと思うが、近い将来には起きない気がする
ただし、記事にはいくらか曖昧なところもある。私たちが読む文章や本も結局は紙の上の言葉であり、LLMも似たようにそうした媒体を使うので、後半では演じられた遂行の方へ論点を移そうとしたように思える
それでも著者が伝えようとしている要点は分かる。生きてきた経験を通じて重要なものが結晶化し、磨かれ、その結果、他人から借りた二次的な見解ではなく、本当の一次的な見解を持てるということだ
そうした一次経験はしばしば他の人々にとって最も価値があるが、形式だけをまねた文章や完全に生成された低品質な生成物の氾濫に埋もれると、見つけるのがさらに難しくなる
同意する
この Robin Williams のモノローグは、LLMがなぜ私たちをこれほど不快にさせるのかを正確に突いている
LLMは、自分には持ち得ない経験について流暢かつ自信ありげに語る。イチゴを味わうこともできないし、Robin Williams が列挙したどのこともできない
こうした機械を作っている人々の中には、機械が私たちに取って代わり、私たちより強力になるのだから、意味のあるものは何も失われないと文字どおり信じている人たちがいる
彼らはこのクリップを見るべきだ。おそらく見ても理解しないだろうが
慣用表現だとは分かっているが、これは何もしないし、何も学ばないし、何かを試して理解することもできないのだと思い出させる
それでも、そうしたことを実際にでき、してきた人間から出てきた語り口のパターンを使っている
重要なのは、LLMを「話す主体」として擬人化せず、次世代検索エンジンとして見ることだ。自然言語の入出力インターフェースは副次的な効果にすぎない
だとすれば、あなたにとって本物の経験とは何なのか、あるいは私たちが違いを見分けられないなら、それは重要なのかが気になる
何十年も前に映画で見たとき、そのスピーチをどう受け止めたかは覚えていない。今読んでみると、すごく気取っていて説教くさく感じる。
「私は君がしていない経験をしてきたから、より賢く、よく分かっている」という感じだ。ある面では正しいが、別の面では過信につながり、もっと大きな過ちを生む道でもある。
50代半ばになった今は、20代前半のころよりはるかに多くを学び経験してきたが、主に分かったのは、自分がどれほど知らないかのほうが大きいということだ。
本当に深く親密に知っていると感じるものでない限り、Williamsのキャラクターのように強い見解を持つのは難しくなり、その範囲は大きく狭まった。
自分も他人も、何かを十分に理解したと繰り返し思い込んでは、誰も予想しなかった形で物事がうまくいかなくなるのを何度も見てきたからだ。
Oliver Twistを読んだからといって、その「子ども」に対してどんな感情を抱くべきかを語れるわけではないと分かっていて、同じ原理が自分にも当てはまることを意識している。
要点は「自分のほうが君より優れている」ではなく、経験は単に読むこととは別種の知識を与える、ということだ。
そして経験には読むことより多くのものが含まれるので、その知識のほうがより完全だと言うこともできる。
40代半ばの心理学者という人物にはあまりに似つかわしくなく、スピーチ全体がMatt Damonのキャラクターを貶めるやり方に見えた。
自分にも理解できない経験があると控えめに言う点、たとえば孤児として生きることがどんなものかは分からないという点が、そのスピーチを良くしているわけではない。
少なくとも、その子どもはおそらく苦しんでいて、救う価値がある可能性が高いことは分かる。
何も確実には知り得ないからといって、何もするなという結論にはならず、不確実性の度合いを考慮して行動すべきだ。
今すぐ麻酔なしで歯を抜かれたくないということはかなり確実だが、国際貿易政策のどれが最善かはずっと確実性が低い。
長い間当然視してきたものを疑い、分析することは健全だと思う。Russellをはじめとする哲学者たちもそういう点を述べていた。
ただし、この訓練は日常生活からある程度切り離して、行き過ぎない良い程度で行うべきだ。
Platoは洞窟の比喩で、より良い答えを示していた。
https://en.wikipedia.org/wiki/Allegory_of_the_cave
AIがアクセスできる情報はすべてテキストから抽出されたものであり、重要な点では洞窟の壁に映る影と大きく変わらない。
おそらく他の領域でも可能だろうが、少なくともこれらの領域では大規模にできる。
戦争にも近いうちに投入されるだろう。プロパガンダを含めるなら、すでに入り込んでいる。
人生経験についてのこの美しいスピーチが、20代の「怯えた子ども」2人によって書かれ、Robin Williamsに任されたものだという点を、いつも皮肉だと思っていた。
「自分たちにはこれはあるが、あれはない」と言えることだ。
反論:
「お前たち人間には信じられないものを、私は見てきた。Orionの肩の彼方で燃える攻撃船。Tannhäuser Gateの近くの闇の中できらめくC-beamsを見た。そうしたすべての瞬間は、時の中に消えていくだろう、雨の中の涙のように。死ぬ時だ」
— Roy Batty
人々は奴隷階級を精神的に正当化しやすくするために、彼らをロボットのように扱っているのだ。
Royの精神は人間と区別できず、だから人間たちは彼を恐れて人工的に短い寿命を与えた。
引用された台詞は、むしろ彼の人間性を証明している。
本当に違いはあるのか？「君は本を読んで多くを知っていると思っているが、私は実際に生きてきたから本当に理解している」という話だ。
せいぜい自分自身の経験を理解している程度で、自分の人生の大半についてもそう主張できるとは思えない。むしろ本からのほうが多くを学べることもある。
もちろん、人生は生きるもので、一度きりだというような話は正しい。だが、AIは「実際にそこにいなかったから」分からないという話は、アンドロイドは神が作ったものではないから本物ではない、という話に近いにおいがする。
そのうえ、私たちが考える「知る」という曖昧な意味においてAIが何も知らないという点は別問題だ。
このテーマについてはっきりした見解はないが、記事のフレーミングはしっくりこなかった。それでも映画をまた見たくはなった。
空中で藁をつかもうとせず、進化すべきだ。あなたが自分を価値あるものにしていると思っていたものは価値を下げられた。
そもそもあなたは自分のアウトプットそのものではなかったが、自分をそう見なし、そこから自尊心を得ていたため、今ではAIに反対する論拠を手当たり次第につかんでいる。
しかし、そうする必要はない。あなたの価値は、他人には理解できないコンピュータの仕事ができることにあったわけではない。
もう適応して前に進むべきだ。
Mark Twainのこの引用を思い出した。
このGood Will Huntingのクリップは本当にバイブコーディングをけなす場面なのか？
むしろLinuxカーネルエンジニアがReact開発者を見下ろして語っているのに近く見える。