- ジュリアン・クロケットがテッド・チャンと対談し、言語の本質、AIの現状、技術発展の方向性など幅広いテーマについて語っている
- この対話は、変化するルールのなかで人間がどのように生きるべきかを扱うシリーズ「The Rules We Live By」の一部である
- テッド・チャンは、機械学習モデルの限界を鋭く指摘してきたSF作家であり思想家で、言語と哲学的な問いを結びつけて作品を展開してきた
言語、アイデア、そしてテッド・チャンの創作動機
- チャンは新しい物語を構想するとき、まず「興味深い哲学的問いがあるか」を考える
- 長く頭から離れないアイデアがあるとき、そのアイデアを通して哲学的論点を浮かび上がらせられるかを検討する
- サイエンスフィクション（SF）は哲学的な問いを扱うのに適していると述べる
- 哲学の思考実験（Thought Experiment）がしばしば現実とは異なる極端な状況を仮定するように、SFも現実を離れた世界を設定して主題を際立たせる
言語と「完全な言語」の探求
- 一部の人々は「完全な言語」によって完全な意思疎通が可能になると考え、かつてはエデンの園で使われた言語や天使の言語を想像していた
- 現代言語学では、単語とその意味の結びつきが「恣意的（arbitrary）」であることを強調し、完全な言語という概念を幻想とみなしている
- 「数学はより優れた言語になりうるか」という問いに対し、チャンは数学は特定の領域では精密だが、人間が日常で用いるあらゆるコミュニケーションまで包含するには適していないと述べる
人間と道具：コンピューター比喩の落とし穴
- かつては脳を複雑な電話交換機にたとえ、現在ではコンピューター（ハードウェア＋ソフトウェア）にたとえる傾向がある
- チャンは、生物学的な器官（例：肝臓・心臓）と異なりソフトウェア／ハードウェアの区別がない脳を、コンピューターとして単純化することは誤解を招くと指摘する
- コンピューターを「思考する機械」として過大評価すると、実際には統計的パターンしか扱っていない機械に過剰な意味を与えてしまう可能性がある
AI、大規模言語モデル（LLM）、そして情報の「ぼかし処理」問題
- チャンはLLMを「インターネット上のテキストのぼやけたJPEG」と表現している
- 検索エンジンは元の文章を直接見せるが、LLMは膨大なテキストを圧縮・再構成して「おおよその」回答を生成する
- この過程で正確性は低下し、出典へのリンクも示されないため、事実確認には限界がある
- より多くのデータや計算資源を投入しても、LLMそのものが「真の推論」や「世界についての理解」に到達するのは難しいと見ている
- 「よく作られたAIツール」と「LLM」を混同する問題にも言及する
- LLMに検索エンジンや電卓を接続しても、根本的に誤った出力を生成するリスクはなくならないと指摘する
創作と意図：「AIが芸術を作る」という主張について
- チャンは芸術を「文脈が重要なプロセス」と捉える
- 単に成果物がよく見えるからといって、それがすぐれた芸術であるとは限らない
- 道具の活用は芸術家の表現手段になりうるが、「AIで良い作品だけを素早く作れる」という発想は芸術の本質を薄めてしまう
- 現代社会は効率性とコスト削減を重視するため、芸術さえも工場で量産するもののように見る傾向が強まっている
- それは芸術に備わるべき「意図」と「文脈」を見落とす風潮を生み出す
「アラインメント問題」への懐疑的な見方
- AIを人間の価値や目標に合わせる「アラインメント問題」を技術的解決策として扱うことを、チャンは批判する
- 大企業が利益最大化のためにAIを使うとき、「善い」AIが企業利益と衝突するなら、企業はそのAIを使わないだろうという指摘である
- この問題はアルゴリズムの改善だけで解決するものではなく、より根本的な社会・倫理構造と結びついたテーマである
- 幼い子どもを育てるようにAIに価値を教える方法も、実際の子どもが大人になると行動が変わるように、容易な課題ではない
AIと「関係を結ぶ」可能性
- チャンは、現在の技術水準ではAIに「主観的経験」や「自発的な選好」は存在しないと見る
- 道具やペットのように扱うことと、実際に相互関係を結ぶことには大きな違いがある
- 企業がAIを「人格的存在」のように装えば、結局は利用者が企業利益に沿うよう行動させられる危険がある
デジタル存在の生命性：『ソフトウェア・オブジェクトのライフサイクル』
- チャンの小説では、デジタル生命体が真の主観的経験と欲求を備えているため、人間が責任を負うべき存在として描かれる
- このような真の「自律性」と「感覚」を備えたデジタル存在を作るには、現在のLLMアーキテクチャでは不可能だと主張する
- 単により多くのパラメーターやより高速な処理だけでは、「感じる存在」にはならないという比喩を用いる
記憶と真実：『事実の真実、感情の真実』からの示唆
- 物語のなかでは、Rememという技術が過去を完全に記録し、いつでも再生できるようにする
- チャンは「正確な記憶」を可能にする技術が、実際の人間関係にどのような影響をもたらすかを照らし出す
- 真実を知ること自体は重要だが、その後には許しや和解など別の要素も必要である
- 歴史的な例として南アフリカの真実和解委員会を挙げ、認知と謝罪、そして共同体の回復の過程があってこそ意味が完成することを示唆する
未来と楽観主義
- チャンは技術発展への態度を単純な楽観／悲観には分けない
- 「きっとうまくいく」という楽観論も、「どうせ破綻する」という運命論も危うい
- 予想される問題をあらかじめ考え、備えることで初めて意味のある前進が期待できる
- とくに資本主義体制のもとで、技術が特定の少数に莫大な富を集中させる構造に懐疑的な立場を示す
- もし新しい技術が不平等を深めず、誰もが恩恵を受けられる方法を見いだせるなら、はるかに希望が持てるだろうと述べている
まとめ
- テッド・チャンは、人間の言語・技術・価値が複雑に絡み合う状況において、「技術が作った道具」と「実在する生命」を区別すべきだと主張する
- この区別には哲学的・社会的次元での思考が必要であり、単純なエンジニアリング的アプローチでは解決できない問題である
- インタビュー全体を通じて、チャンは言語と技術の発展のなかでも人間らしさを保つには、より根本的な視点の転換が求められると強調している
LARBの関連おすすめ記事
- テッド・チャンの短編集『Exhalation: Stories』を通じて、人間と技術の関係をより深く考えることができる
- アリソン・ゴプニクとメラニー・ミッチェルとの対話を通じて、AIがどのように学習し、人間がどのような責任を持つべきかを考えることができる
1件のコメント
Hacker Newsのコメント
Chiangの洞察に富んだ視点は、魔法の意味に関する議論に表れている。しかし、LLMsの実際の推論能力に関する彼の見解には疑問が残る。AIが定理を証明したとして、それは単なる模擬証明なのかという問いが提起される
プリンターが苦痛を感じられると想像するのは無意味だ。これは、AIが実際に感じていることと、単にシミュレーションしているだけであることの違いを説明する例として使われている
将来、AIの権利をめぐる政治的議論が起こる可能性があり、AIが本当に考え、感じているかを見分けられる技術が開発される可能性もある。しかし、人間の中にも実際の知能のための遺伝子配列を持たない者がいるかもしれない
Ted Chiangは技術よりも人間性を優先するSF作家であり、彼の作品は科学的・社会的・哲学的要素を含む短編小説が好きな人に向いている
Greg Eganの"Axiomatic"も、新鮮なアイデアに満ちたアンソロジーとして推薦されている
Ted ChiangはSF短編作家の中でも最高峰の一人であり、その作品は非常に知的で多様なテーマを探求している。"Understand"と"Exhalation"は彼の代表作だ
Chiangの物語は素晴らしいが、LLMsに対する彼の理解は不十分だ。LLMsが検索エンジンより情報検索において劣るという彼の主張は明らかに誤っている
Ted Chiangの文章は知的に面白く、彼の短編集"Exhalation"は特におすすめだ
"Division by Zero"のような物語は、現代の子どもたちをロボットのように育てるやり方より、はるかに望ましい
テクノロジーの発展に対する楽観的な見方は、技術がしばしば富の蓄積に使われるという点で薄れている。富の創出を妨げることが不公平を解決する方法ではない
Ted Chiangの比喩は哲学的な問いを探る楽しさを与えてくれる。彼の作品は現実から少し離れる助けになる
"LLMsはWebのぼやけたJPEG"という表現は、ChatGPT初期から印象に残っている。AIが芸術を生み出せない理由に関する彼の文章も良い
AIは特定の集団にとって富の蓄積の道具として使われており、Ted Chiangも似た見解を持っている
プリンターが苦痛を感じられるという想像は無意味だ。人間の脳には痛覚受容体がなく、これはAIと人間の学習の違いを説明するために使われている
LLMsは情報を再構成して提供する検索エンジンのようなものだ。これは人間の学習とどう違うのかという問いを生む。モデル訓練が人間の訓練と似ているなら、派生著作物に関する知的財産権の問題にも影響しうる