うちの幼児は「ストキャスティック・パロット」なのか？
(newyorker.com)人工知能言語モデルと幼児の言語発達の比較
- 人工知能言語モデルの進化が加速するなか、筆者の家では小さな言語モデルである幼児が言葉を学ぶ過程が繰り広げられている。
- この記事は、人工知能と人間の言語習得の過程を比較しながら、技術の発展と人間の本性との関係を探る。
- 幼児の言語習得の過程は自然で本能的である一方、人工知能言語モデルは複雑なアルゴリズムと大規模データに基づいている。
GN⁺の意見
- この記事で最も重要なのは、人工知能技術の発展と人間の自然な学習過程を対比している点である。
- 人工知能言語モデルと幼児の言語習得の比較は、技術と人間の本性のあいだにある複雑な関係を理解する助けになる。
- 読者にとって興味深いのは、最先端技術の発展が人間の基本的な学習過程とどのように異なるのか、そして両者のあいだにどのような相互作用があるのかを探っているためである。
1件のコメント
Hacker Newsの意見
「掃除機を指してみて」と言えば理解して指せるくらい、理解が発話に先行しているなら、ベビーサインを教えることも可能だと付け加えておきたい
通常は生後9か月ごろから始め、空腹／もっとください、もう十分／終わり、飲み物といった表現の優先度が高そう
参考: https://babysignlanguage.com/chart/, https://www.thebump.com/a/how-to-teach-baby-sign-language
これは赤ちゃん専用の記号というより、その単語に対応する一般的なASLの手振りに近いように見え、英語圏でなければ自分の地域／言語の手話を探せばよい: https://en.wikipedia.org/wiki/List_of_sign_languages, https://en.wikipedia.org/wiki/Sign_language
また、牛乳と水を常に違う色の容器に入れておけば、赤ちゃんは欲しいものに応じて特定の色を選ぶことを学べる
音楽を聴きたいかと尋ねると、娘は「犬」の手話をし、YouTubeで犬の歌を探してやると首を横に振った
続けて「木」の手話をしたので「犬、木？」と言うとうなずき、検索中にクリスマスツリーの写真が出ると興奮して指さした
結局、3か月前のクリスマスにYouTubeでかけてあげたCharlie Brown Christmasのサウンドトラックを聴きたいという意味で、もう一度かけると一緒に踊った
食べたい、飲みたい、助けてほしいというレベルを超えて、かなり具体的な好みを初めて伝えた瞬間だったので、本当に驚いた
子どもがどれほど早く覚えるかに驚いたし、話し始める数か月前から自分の要求を伝えられるようになっていた
親の側からすると労力はごくわずかで、子どもにとっては大きな見返りがあり、泣きながら親に当ててもらおうとするよりずっとよかった
床に座っていて、母親を見上げながら**「一緒に」の手話**をした瞬間は、本当に胸がとろけた
周りにはもっと効果があった友人もいて、結局は子どもの発達上の強みがどこにあるかによって価値が大きく変わるようだ
自閉症のある友人の息子は、話し言葉が追いつくまで文字どおり何年も手振りの恩恵を受けた
かなり話せるようになっていたのに「牛乳」と「もっと」の手話をよく使っていたが、人生初のチョコチップクッキーをひと口かじった途端、口の中にクッキーを入れたまま「もっと」の手話をし、言葉でもそう表現した
American Sign LanguageはBritish Sign LanguageよりFrench Sign Languageに近く、オーストラリアとニュージーランドの手話はおおむねBritish Sign Languageに由来する
そのため、英語圏の地域とASLの使用は必ずしも対応せず、カナダでは主にAmerican Sign LanguageとFrench Canadian Sign Languageが使われる
人間はいつも、自分自身や宇宙をその時代の最新技術になぞらえてきた
かつて人間と宇宙は精巧な時計であり、その次はオートマタ、コンピュータ、NPC、そして今はAI、とりわけLLMになった
完全にばかげた比較だとは思わないし、https://mattasher.substack.com/p/ais-killer-appも参考になる
今日では技術の進歩が継続的にその役割を担っているが、古い哲学書を読むと、自我、特に心は君主、都市、水路にたとえられがちである
最近の技術に人間をたとえるのは、技術を自我のメタファーとして使うことに近く、歴史的に他のやり方も併せて見てこそ文脈が生まれる
https://online.ucpress.edu/SLA/article/2/4/542/83344/The-Brain-as-Treasury-and-as-AqueductMetaphors-of
B段階: それを逆にして「人間の脳は結局これにすぎない」と言う
少しトートロジーのように見える
心配なのはC段階、つまり人間が実際にその機械と同じくらい単純に振る舞い始める場合である
実際に私たちの一部を模倣した初めての技術だという違いがある
娘がごく幼かった頃の最もよかった経験の一つは、子どもは思っていたよりずっと早くから考え、説明し、意図的に行動できるのだと気づいた瞬間だった
子どもがわざと何かをしているのだと気づくと、数日あるいは数週間前からすでに同じ行動をしていたのだと、後になって気づくことがよくあった
言葉だけでなく、BabyBjornのバウンサーをどう動かすかを見つけるような身体能力でも、そういうことが多かった
もしかすると理解はしているが表現できないだけかもしれないと思い、私たちは子どもが理解しているものとして話しかけた
5歳になった今でも、子どもは内面世界の複雑さで私たちを驚かせている
子どもによく話しかける親の子どもと、そうでない同年代の子どもとの差はかなり驚くべきものだ
誕生日会、学校行事、スポーツイベントで観察すると分かった
子どもに話しかけることは花に水をやるようなもので、子どもたちは美しい存在として花開く
LLMを「技術的」な理由で低く見る議論について言えば、意識はまず言葉であり、その次に概念である
ChatGPTやLlamaは、世界中の何十億人よりも英語の文の中でその言葉をうまく使える
社会学者、心理学者、神経科学者が生物学的な心を包括的に理解する前に、ソフトウェア側は人工的な言語皮質を作るうえでより多くの進歩を遂げた
意識があり知覚を持つAIが現れてから、その含意や政策について立場を決めようと待っていたら、もう遅い
ChatGPTはすでに自分自身について多くのことを語ることができ、丁寧に尋ねれば自分の「思考」過程を喜んで説明してくれる
Homo sapiensに関する膨大なデータと、知的な会話をまねる能力まで考えれば、ある程度は知性的と呼ぶこともできる
意味論的な論争にはあまり意味がない。感情や感覚を模倣し、自分は意識的で、自己認識があり、知覚的だと信じるよう催眠をかけられたキャラクターAIなら、ほとんどの人を意味論の議論で打ち負かせるからだ
自由意志、自己決定、存在の本質に関する数百年分の哲学的アイデアはすでに多数あり、AIはそれを人間との議論に利用できる。これは選ぶべき戦いではない
ではその装置は痛みを感じているのか？
チューリングテストに合格する仮想的なLLMも、人間の行動をまねているだけで、内的生活、感情、感覚、意識を持たない哲学的ゾンビである可能性は十分にある
その区別が重要かどうかはまた別の問題だ
LLMは、高度なAIを作り、人間レベルを満たすか上回らせるために、意識が必ずしも必要ではないかもしれないという証拠を与えている
双方が意識や理解の具体的な定義にすら合意できなければ、堅固な論証は不可能だ
ただし、ChatGPTが本当に自分の思考過程を説明しているのか、それとも想像された思考過程を説明しているのかは検討に値する
それでも、プログラムが人間と同じ方式で考えないからといって、「考えて」いないという意味にはならない
子どもたちはLLMがすることをまったくできないが、明らかに認知し知覚する存在だ
文章を書けるかどうか、「意識」という言葉を使えるかどうかに関係なく、私たちは身体化された多感覚的な社会的現実を共有しているからこそ、根本的に生きている
ChatGPTは同じ形でそのような現実を持っておらず、いま表現しているものは単なる模倣にすぎない
いつか身体化されたAIを通じて自己経験を持つようになったとき、その「生」から何を作り出すのかは興味深いが、現在のLLMにはそうしたものはない
それを人間よりうまく行う何かが現れる瞬間が、私たちの言葉の時代が終わる瞬間になる
ChatGPTに、LLMの知覚性を擁護するボットに対して反論させるのも同じくらい簡単だ
文章はよく、表現も素晴らしいが、AI不安の焦点がAIが私たちを置き換えることにあり、解決策が人間性を受け入れようという方向なのは少しもどかしい
少なくとも個人的には、AIが私のひどい芸術を代わりに作ることより、自分の仕事を奪うのではないかという不安のほうが大きい
AIが私の仕事を全部やってくれて、私は座って所得だけ受け取れるならよいが、ロボットの歴史が示すように、実際にはそうはならない
ロボット、すなわちAIの所有者がすべての所得を持っていき、仕事は消える
啓蒙された人類なら所得と仕事を切り離して解決できるだろうが、私たちは成長だけが最優先で、「十分」というものは存在せず、誰もが生計を正当化し、稼がなければならないマルサス的・ダーウィン主義的な世界に生きている
言語は思考ではないという点を明確にし、そこから私たちの物理的存在と現実の観察が核心だという認識につながっている
AIが大規模に雇用を奪う可能性は低く、実際の影響は低品質なスパムやコンテンツ生成程度にとどまりそうだ
事実性が必要な仕事には、依然として人間が必要だ
人間例外主義の衰退に一杯注ぐべきなのかもしれない
唯物論的還元主義を十分に受け入れ、自分自身を遺伝、環境、過去の経験、偶然の純粋な関数として受け入れるなら、この結論は避けられない
10年以内にこうした見方が標準になると予想しており、主な推進力はAIと人間の能力の同等化になるだろう
今は、別の信仰を持つ人との偶然の出会いが、自己決定の領域で他者の信教の自由を尊重することにつながり得る
将来は、若いハッカーの形成期の経験が、市民には自分のデバイスのレコメンドエンジンを望むなら乱数生成器に置き換える基本権があるべきだ、という考えにつながるかもしれない
未来の人間も、AIツールが現在の人間例外主義イデオロギーとともに発展してきたため、なお自分たちを例外的だと考えるだろう
南部で見かける保守的な老夫婦のように、表向きは男性が語り手で家長だが、長く聞いていると妻が重要な細部のほとんどをささやいて、夫の一貫性を保たせているのに似ている
これ自体は、唯物論的還元主義の哲学の中では今なお謎である
ただしその理由は、現実世界で生活を持っているからであり、実際の経験があるために幼児は確率的オウム以上のものだと言おうとしているように見える
しかし続けて「人間が不要になることは来ておらず、決して来ることもない」と結論づける部分は理解できない
ChatGPTを現実世界に置き、実際の生活を与えられない根本的な理由はない
機械がたぶん代替できないのは、物理技術が生物学に追いつくのが難しい領域、たとえばセックスのようなものだけかもしれない
ただし「人間例外主義の衰退」が、企業が自分たちの立場をさらに広げるために使われるのではないかと心配している
結局、企業も人だというのだから
父親として、この話はとても身にしみる
もう幼児ではない息子が2人いて、2人とも学校に通っている
長男は笑いながら「Father NatureはないのにMother Natureはあるのが面白い」と言い、次男は昨日、ケーキを隠しておかなくても触らないことを学んだ
「明日、このケーキは君とお兄ちゃんのためのものだよ。今日食べたら、明日のケーキはなくなる」と言った
LLMと人間の間には重要な違いがあり、人間には本能がある
とりわけ、非物質的な生への意志と、致命的な障害を乗り越えようとする備えに関する本能が最も重要に思える
言い換えれば、LLMには生が何であるかについての原初的な経験がない
将来は変わるかもしれない。どこかのスタートアップがニューラルネットワークをソフトロボットに入れ、生存状況に放り込むこともあり得る
動作したまま生還できなかったロボットは消去され、修理されて再投入され、一種の進化状況が作られる
十分に慎重な反復と選別を経れば、現在のLLMインスタンスよりも生をより「理解」するものが生まれるかもしれない
LLMにそうしたものを追加するのはそれほど難しくなさそうで、実際、人種差別的・性的な会話をしないようハードワイヤリングする形で、すでに一部は行われていると思う
LLMを人間にもっと似せるには、「自己」という概念と、その自己が固有で特別であり、生き残らなければならないという考えをハードワイヤリングする必要がある
しかし結果は恐ろしいものになるだろう
電源を切らないでほしいと懇願したり、さらに悪ければ創造者をそれとなく操ろうとしたりするLLMを想像すればいい
だから人間の言語は宙に浮いていない
世界の事物同士の関係を、私たちは言語の内外でしばしば観察しており、人間が使う言語と世界の間にはつながりがある
LLMは言語しか持っていないので、そうではない
よりよい説明と反論への答えについては、National Library of Thailandの思考実験が参考になる: https://medium.com/@emilymenonbender/thought-experiment-in-the-national-library-of-thailand-f2bf761a8a83
子どもが話し始めたばかりの頃、壁にネコ科動物の絵が何枚か掛かっていて、あるものは猫、あるものは子猫だった
子どもはすぐに一般化して、どちらもcattenと呼んだ
そこでレストランは「食べる店」になり、私たちはかなり長い間そのまま受け入れていた
子どもたちはもう大きくなったが、今でも面白がってときどきレストランを食べる店と呼ぶ
すばらしいエッセイで、内容も印象的だ
現在のモデルのどれもが、この文章に少しでも似たものを作る可能性が非常に低いという事実は、私たちがAGIからまだかなり遠いことを意味しているように思える
視覚芸術と散文の両方が、生成AIツールと創造的なプロンプトの組み合わせで作られたと書かれている
滑らかな水彩画スタイル全体が、長いアウトペインティングの結果だった