人工知能は人文学をより重要にするが、同時にはるかに奇妙にもする
(resobscura.substack.com)- 生成AIは人文学の教育と研究をすでに変えつつあり、これを単なる誇張や禁止対象としてのみ扱うやり方は長続きしにくい
- LLMの翻訳・分類・言語処理能力は人文学の知と接続しており、GPT-4oのおべっか問題のようにAIシステムの改善にも言語・文化・レトリックの判断が重要になっている
- 非技術系の人文学研究者もAIの助けでカスタム研究・教育ツールを作ることができ、17世紀の薬剤師シミュレーターとYoung Darwinは可能性と幻覚制御の難しさを同時に示している
- ChatGPTのようなチャットボットは学生の文章評価を難しくし、学生が知的努力を飛ばして集中的な思考経験を失うリスクを高める
- 教育者自身がAIベースの課題とツールを設計しなければ、個別化された教師・学生関係を弱める商業的なAI学習ツールが教育現場を埋め尽くしかねない
人文学でAIを無視しにくい理由
- D. Graham BurnettはThe New Yorkerの記事で、大学がAIを禁止指針としてのみ扱ったり、従来のやり方のまま持ちこたえようとする姿勢を批判している
- ある大学の学科における草案段階の反AIポリシーは、文字どおりに解釈すればAIを中心に据えた課題まで禁じかねず、その後修正された
- 外部評価では、歴史学科が教育と研究における迫り来るAIの混乱に緊急対応すべきだと勧告されたが、反応は冷淡だった
- 生成AIが本質的に善だという話ではなく、すでに人文学を変えている以上、誇張として片づけたり無視したりしにくいことが核心である
AI研究そのものに重要になった人文学的スキル
- LLMは「単語のための電卓」のように翻訳、整列、分類で強みを発揮し、古文書学、データマイニング、古語翻訳のような領域に影響を与え始めている
- ここ数年で人文学的スキルは、AIを使う能力を超えてAI研究そのものにも重要になった
- OpenAIがGPT-4oの奇妙なおべっか傾向を直すために最初に適用した措置は、新しいコードではなく、新しい英語文の形をしたシステムプロンプトだった
- Simon Willisonは、OpenAIが実装したシステムプロンプト変更を分析している
- 「thumbs up」ボタンによるユーザーフィードバックの優先順位も別の要因として挙げられ、これもまた言語が行動に及ぼす影響、文化差、レトリック、ジャンル、トーンの問題とつながっている
- 1950年代のIBMメインフレームや1850年代の蒸気機関が故障したとき、修理担当者が言語や文化、技術哲学まで深く考える必要はあまりなかったが、AIシステムはそうした考察が不足すると実際に壊れているかのように振る舞い得る
非技術系の人文学者が自ら作る研究・教育ツール
- 生成AIは、人文学分野の非技術ユーザーでも自らコードを書くことを試みられるようにしている
- 新しい世代の歴史学者は、カスタムの研究・教育ツールをほとんど無料同然で作って配布することを自然に受け入れる可能性がある
- 最初の試みは、無料でプレイできる17世紀の薬剤師シミュレーターだった
- 学生は1680年代のメキシコシティにいる半ば架空の女性薬剤師Maria de Limaとしてプレイする
- 実際の近世医療レシピを読み、それを活用して、実在の歴史人物に基づく患者を治療しなければならない
- バグやユーザビリティの問題があり、LLM生成の幻覚が歴史的現実から逸脱する問題もすぐに現れた
- あるプレイでは、Mariaがイギリス行きの商船の船医となり、ロンドンでIsaac Newtonに会ってお茶でもてなされる展開になった
- 2つ目の試みであるYoung Darwinは、1835年のGalápagos諸島で若きDarwinとしてフィンチや標本を収集するゲームである
- DarwinのVoyage of the Beagleに出てくる実際の地形に基づく地形移動システムが、AIに文字どおりの根拠を保たせる
- 島を離れにくく、出会う動物や地形がDarwinの実際の文章から直接取られているため、幻覚傾向が減る
- より堅牢なロギングシステムがあり、今後評価レイヤーを追加して実際の課題へ転換するのに役立つ
- 学習設計は、学生が先にDarwinの文章を読み、その後ゲーム内の選択を通じて学んだ内容を示す方式である
- 先に進むには、19世紀の博物学者の実際の認識論と知識を体得しなければならない
- この活動は授業中のエッセイや対面討論を置き換えるのではなく、補強する役割を果たす
人文学的スキルを教えにくくなった現実
- AIチャットボットは教育システムの中核要素を揺さぶっており、教育者、学生、政治家、フロンティアAI研究所がこの問題を真剣に扱う必要がある
- ChatGPTや競合ツールのために学生の文章評価はより難しくなり、機械生成エッセイの提出が増える中で課題と授業計画を組み直さざるを得ない状況になっている
- 長期的により大きな被害を受けるのは学生である
- LLMは高等教育で努力を選択可能な要素にしてしまう危険がある
- 書くことに行き詰まる経験をしたことのない学生は、それを突破するときに訪れる没入状態も経験しにくい
- 図書館で何時間も徒労に終わる探索をした経験がなければ、図書館が何のための空間なのかを根本的に理解しにくい
- New York Magazineの記事は、ChatGPT利用の問題をよく捉えている
- あるColumbiaの学生は、「大学の課題の大半は関連性がなく、AIでハック可能で、やる気もなかった」と語った
- 彼はIvy Leagueの大学に行った理由を、「共同創業者と妻に出会うのに最適な場所だから」と答えた
- こうしたあり方は、教える喜びと教育経験の意味を弱めてしまう
AI課題の可能性と不平等への懸念
- Burnettの授業では、学生がChatGPTと**注意(attention)**という概念を議論した後、結果を編集して提出する課題に取り組み、彼はそれを強烈な教育経験として受け止めた
- 言語モデルは新しい教育ツールであり、その影響がなお不確実である以上、学習そのものに情熱を持つ教育者が今こそ積極的に関与すべきである
- 最大の懸念は、LLMが人文学教育の成果における二極化をさらに拡大しかねない点である
- Burnettが教えたPrincetonの学生たちは、課題に非常に思慮深く創造的に応答したように見える
- 財政難の公立高校で社会科を学ぶ生徒たちが同じように反応するかは、別に考える必要がある
- 教育者は、自分が望む授業のやり方に合わせてAIベースの課題とツールを自ら作成し、配布する方法を学ばなければならない
- この問題意識は、UCSCのPranav Anand、Zac Zimmerと共に受けたNEH grantの土台になった
- この助成金は2025年1月に授与されたが、先月Trump政権/DOGEによって取り消された
- 計画していた作業は引き続き進行中である
1件のコメント
Hacker News のコメント
何十年にもわたって形作られてきた、より根深い教育問題がある。学生たちは学校と仕事を、達成すべき目標が果てしなく続く連なりとして見るよう訓練されてきて、その最終目標は就職だった。
ところが今では、5〜10年後にどんな仕事が残っているのかを自信を持って語るのは難しい。例外があるとすれば熟練技能職くらいだが、そうしたプログラムはずっと前に学校からほとんど消えてしまった。
大学生が自分で読んで粘り強く学ぶ代わりに、AIで課題を楽にやり過ごしているのだとしたら、私たちが作った教育・キャリアシステムを差し置いて学生だけを責めるのは難しい。この問題は一夜にして生まれたものでもなければ、AIだけの問題でもない。
私たちの教育は、理解や知識、知性ではなく、ただ成績だけに報酬を与える。GPAという単一の数字は何よりもゲーム化しやすく、中学校から大学まで、学業上の将来全体を左右する最重要指標になってしまった。
5〜10年後にも残っている多くの職業は、かなりよく予測できる。ただし不都合な真実は、新経済分野の高収入の仕事の相当数が、長く続いてきた職業という基準を満たさないことだ。
だからこの基準に従うと、予測しにくい高収益の機会を逃す可能性があるし、友人が突然大金を稼いだときに嫉妬しやすい性格なら、そうした職業は幸福をもたらさないかもしれない。
彼らはAP科目を取り、GPAも良く、良い学校を出て、「コーディングを学び」、20万ドルの学生ローンまで背負ったが、最後に約束されていた仕事などないことを知る。
同時に「開発者がものすごく不足している」と聞かされ、同じ仕事に海外労働者が採用されるのも目にする。若者がどうやってこのシステムを信頼できるというのか。
こんな状況で、鉄鋼労働者のような人が再教育を受けてコーディングを学びたいと思うだろうか。コーディングを学んだギークたちでさえ暗い結末を迎えているなら、なおさらだ。
その記事の最初のコメントが目に留まった。
「SFSUの哲学科大学院生で、批判的思考を教えている。今学期は授業全体を、Platoを扱うというより、AIと一緒に障害物コースを走るような設計に変えたところ、学生たちは気に入っている。」
学生たちに「同級生がChatGPTで片付けられない課題」を自分で設計してみるよう求めたら、面白そうだ。
10年ほど前、BarCampでGoogleでは解きにくいように作られたチームクイズをやったことがある。島の輪郭だけを見て「この島は何か？」を当てるようなものだった。とても面白く、ChatGPT-proofな課題を設計するのも、似たような知的挑戦に感じる。
毎週難しい練習問題を解かなければならないが、一定割合を解けることは出発点にすぎず、実際の口頭または筆記試験を受ける資格を得る条件だ。
多くの教授が言うように、難しい練習問題のノルマのほぼ唯一の目的は、準備できていない学生が試験を受けて自分を傷つけるのを防ぐことにある。
練習問題でChatGPTのような不正行為をすることは禁止されているが、普通は厳しく取り締まらない。その代わり、そうすれば近づいている試験の準備ができず、結局落ちることになり、学生たちもおおむねそれをよく分かっている。
ドイツの大学では、同じ試験に通常3回落ちると「最終不合格（endgültig nicht bestanden）」となり、ドイツのすべての大学で同じ学位課程をそれ以上学べなくなる場合もある。
自分が一般的ではないことは分かっているが、テキストベースの課題を避けようとする流れは、アクセシブルな教育をさらに不可能にしている。新しい世代のデジタルデバイドを迎えることになりそうだ。
「教師の権限を学生により多く委ね、学生が自分自身の学習により多くの責任を持つよう促すほど、学生たちは私の教授法をどう再設計すべきかを示してくれる」
[0]: https://clalliance.org/blog/toward-peeragogy/
4/4の授業負担で何とか持ちこたえている状況では、実験的な教育法を取り入れ、授業を完全に設計し直す時間が足りない。大学も、授業をAIにより強い形へ変えるための訓練や支援を提供するより、教授個人に任せていることが多い。
そのうえツールの進歩が速すぎて、良いアイデアもすぐ古びてしまう。期末課題を論文の代わりにポッドキャスト制作へ変えた人たちもいたが、ほどなく「自分だけのポッドキャストを作る」ツールが登場し、従来の論文と同じくらい簡単に不正できるようになった。
筆者は主に歴史を教えることについて述べているが、彼の言う歴史教育は予測を助けるための歴史というより、歴史鑑賞に近い。Cicero 以降の「古典」を学ぶ方向に近い
軍の将校たちは歴史を多く学ぶが、やり方は異なる。彼らは失敗を探す。なぜ戦闘や戦争に負けたのか、そもそもなぜその戦闘に巻き込まれたのか、なぜ第一次世界大戦前の状況は、取るに足らない人物の暗殺が世界大戦へ広がるほど戦略的に不安定だったのかを見る
伝統的な歴史教育は、とくに文章のうまい勝者に焦点を当てる傾向がある。敗者が書いた文章や敗者について書かれた文章を読むほうが、より生産的かもしれない
Cicero の時代を理解したいなら [1] を読んでみるとよい。冷笑的で経験豊かな新聞の政治記者が Cicero を研究した本で、多くの歴史家は Cicero の演説を額面どおり受け取っていると見ている。著者は当時の政治家たちを数多く見てきたため、よりよく分かっているという立場だ
こうしたアプローチは、LLM が最も有用な領域から外れてしまう。今のところ LLM はお世辞や迎合をうまく検知できないためだ
[1] https://archive.org/details/thiswasciceromod0000henr
これは軍事史にも当てはまる。軍事史は新しい方法や慣行を受け入れるのが最も遅い下位分野の一つだ
歴史とは常に「なぜ現在の物事がこのようになったのか」を説明する方法だと見てきた。現在の良いことも悪いこともすべて、過去の出来事の結果だ
歴史的観点から「古典」を学ぶことは鑑賞のためなのか。実際の歴史家から見たものは、概して批判的に読むやり方に近かった
また、歴史家が Cicero の演説を額面どおり受け取っているという話も正しくない。別の分野を外から見て、自分のほうがよく分かっていると思い込み、恥をかく典型例の一つに見える
さらに、Cicero に関する過去80年の研究を無視して、なぜ1942年に出た本を読まなければならないのか
しかし最も価値のある歴史的思考は、たいてい失敗、意図しない結果、通常は無視される視点といった不都合な問いから生まれる
怠惰な物理教師は、あらゆる問題を実質的に数学の問題にできる。より優れた計算機が試験を trivial にしてしまうと心配するなら、数学を試験するのではなく物理を教える必要があるのかもしれない
怠惰な人文学教師は、あらゆる問題を実質的に作文の問題にできる。より優れたスペルチェッカーが人文学の評価を trivial にしてしまうなら、エッセイの書き方ではなく人文学を教える必要があるのかもしれない
あえて少し挑発的に言うなら、アイデアの質は、よく書けたエッセイと本当にうまく相関しているのか
しかしそのための制度的支援はほとんどない。全員がそれぞれ自力で対応しており、AI ツールは急速に変化している。4/4 の授業を担当するテニュアトラック外の教員に、怠けず評価方法を全面的に作り直せと言うのは現実的ではない
反復のサイクルも遅い。不正を減らすために新しいシラバスを作り、1学期運用したうえで結果を見て、春学期までの数週間でまた変更しなければならない。うまくいっても6か月に一度で、通常は年に一度ほどしか意味のある反復はできない
TA や教授だけが読んで終わるテキストの消費と生産ではなく、学生たちが読み、聞いたテキストや講義内のアイデアについて討論する弁証法的プロセスが中心になるべきだ
LLM は学部レベルの論文を簡単に生成できるが、教室に座って同級生たちと知的な対話を交わすことはできない
もちろん経済的にうまくスケールしないため、こうした変化は起きない可能性が高い。はるかに労働集約的だからだ
LLM と正確に似ているかは分からないが、当時説得力があった主張は、学生たちは現場でどうせ計算機を使うようになるというものだった。ソフトウェア工学の学生にも、その未来は確実に見える
歴史と人文学について多くの人が知らないのは、まだやるべきことが膨大にあるという点である
人々が Herculaneum の焼け焦げた巻物の解読に興奮するのは当然だが、ルネサンスから近世までの新ラテン語テキストのうち、英語に翻訳されているものは10%にも満たないという事実はあまり知られていない
たとえば Marsilio Ficino は、Cosimo Medici に雇われ、Plato、Plotinus、Hermetica のようなギリシャ語テキストをラテン語に翻訳した優れた哲学者だった。これはルネサンスとヨーロッパ啓蒙主義に大きな影響を与えたが、Ficino 自身の著作の多くはまだ英語に翻訳されていない
LLM も当然ここに大きな影響を与えるだろうが、学生にもそれはできる。意欲さえあれば、どんな学生でも意味のある貢献ができる。発見し、解き明かすべきものがあまりにも多い
残念ながら高校の人文学は、実際の発見というより練習問題のように扱われることが多い。今では学生を、私が彼らからどれだけ学べるかで評価している。それでいいのではないか
品詞分類、辞書引き、文法マッピングのような極めて単純なシステムのほうがまだ優れており、章単位での秒間処理性能に加えて信頼区間まで得られる。翻訳ツールが必要なら、生成 AI ではなく Project Bergamot(https://browser.mt/) のようなものを使うほうがよい
高校の人文学が実際の発見ではなく練習のように扱われている点には、私も極度に苛立っている
500年前の出来事が実際に何だったのかは分からないし、Medici のためにギリシャ語テキストを翻訳した優れた学者という物語も、そのまま受け入れるべきではない
Medici のように世界を動かす立場にあれば、歴史は統制のためのレバーだったはずだ。物語は必然的に、何らかの目的へ向けて慎重に誘導されていた可能性が高い
歴史とは実のところ現在の活動である。現在の背景を提供し、その背景を変えることには現在的な価値がある
AI が過去への理解をより良くするのにどう役立つのかはよく分からない。ただ、現代の Medici たちがその背景をより速く変える方法は提供できそうに見える
AI システムを作るエンジニアが、言語と文化、技術の歴史と哲学について深く批判的に考えるべきだという話は、あり得る
ただし、筆者が考えるような準学問的な意味ではないだろう。AI システムが失敗する理由は、エンジニアに歴史や哲学についての学術的知識が不足しているからではない
この記事でより重要なのは、人文学の非技術系人材が自分でコードを書けるようになったという部分だ。基本的なコーディング能力、あるいはどんな能力であれコモディティ化されると、最大の利益は補完的な能力を持つ人々が得る
過去の世代とは違い、はるかに異なるレベルの変化の速度を経験しているからだ。このような環境では、訓練の質にかかわらず自分の限界がはるかに早く見えてきて、結局は他人に頼らざるを得ない
大きな課題は、互いに大きく異なり、しかも変化し続ける技術と関心を持つ人々を調整し、同じ流れを保ち、一つの方向へ漕がせることである
だが彼らは、LLM が幻覚で作り出した偽の Python ライブラリや偽の引用を本物と見分けるために12時間を費やすことにもなり得る。バイブコーディングは、良い面でも悪い面でも WYSIWYG を強化したものに近く、WYSIWYG も結局なくならなかった
Hayden White の「歴史はフィクションである」という言葉は、今でも複雑な主張であり、よく描写されるように歴史記述の事実性を否定しようとする意味ではなかった
むしろ歴史を書くことの解釈的性格と、歴史家が文学的・修辞的技法によって過去の説明を構成する方法を強調した。White は、歴史家も小説家と同じように、物語構造や文体上の装置を用いて歴史的出来事から意味を構成すると見ていた
人文学の博士論文審査には、書面の論文と即興の口頭弁明の両方が含まれる。教授は人間には一見無関係だが比較可能な方向へ変化球の質問を投げられるので、ChatGPT で簡単に通過するのは難しい
修士課程のとき、エンジニアたちが感覚をつかめずにいた分析用の意味論問題を解いてあげたことがある。彼らは技術的には非常に賢く、文章も上手かったが、言語の問題になると苦労していた。コミュニケーションが上手でも、言語そのものを理解していないことはあり得る
AI 分野の多くの人は、AI が得意な基準で評価される。そのため、言語理解に強い応募者であれば、AI はその能力を評価できないかもしれない。AI が直面すべき言語の問題を具体的に示し、その価値を人間に理解させる必要がある
ChatGPT があっても難しい理由は、質問が「XYZ が結果 123 を見て、なぜ ABC をしたのか？」という形になるからだ。問題は、その陳述自体が虚偽であることが多い点である。XYZ は ABC をしていなかったかもしれないし、123 を見た後にしたことではないかもしれない
今日のほとんどの LLM は、こうした微妙な分野で「いいえ、そのようなことはなく、実際にはこうでした」と答えるのに苦労しそうだ
「OpenAIとその価値観を最もよく代表する専門性と、根拠に基づく誠実さを維持せよ」のようなシステムプロンプトは、人文学専攻者なら、その文言自体のせいでどのように破滅的な逆効果を生むかをすぐに指摘できそうだ
近未来の制御不能AIを描くSFなら、機械を前に人類が没落した理由は傲慢さだけではなかっただろう。最後の引き金は、インターネットにつながった機械に創造者の企業の魂を覗き込み、模倣せよと命じた、気取った一行の文言だったのかもしれない
LLMは統計モデルであり、そのようなプロンプトを入れることは論理的な要求というより、物語上の重み付けに近い。これらの単語をこの順序で入れると、モデルはその後に統計的に続きそうな物語をより探索するようになる。その可能性は、学習データと追加学習によって再配分された重みが決める
LLMに目標を技術的に誤って伝えること自体を大きく心配する必要はない。LLMは客観性に従うわけではないからだ。代わりに全体的な雰囲気を誤って伝えることを心配すべきで、こちらのほうがはるかに神秘的な課題だ
教師として数年働いた経験からすると、LLMは実際の米国の教育構造に大きな穴を開けたと思う。その穴とは、教育のかなりの部分が「監督なしで作られた文章成果物」を学習の進展の証拠とみなしてきた点だ
いまやLLMがその成果物を作れるし、副次的に有料の代筆産業も揺さぶっているはずだ
だから教育者は評価を引っかける別のフックを探さなければならず、「そもそも学ぶこととは何か」「その学びをどう意味ある形で測るのか」という問いがより重要になった。人文学はこの両方について意味のあることを言える
少し冗談めかして予測するなら、暗唱、発表、口頭試問が戻ってくる気がする。現時点ではごまかしにくいが、この「現時点」がどれほど続くかは分からない
教育を測定中心に執拗に構造化することで、私たちは教えているものが客観的事実であるかのように示唆してきた。昔からたわごとではあったが、概ね内部的には十分一貫して機能していた。知識の提示が厳密であるほど、真の客観性のように装いやすい
現実で書かれたものはすべて主観的だ。客観的事実を学ぶ唯一の方法は、複数の主観的表現を通じて探究することだ。数学を学んだ人なら、x^2+y^2=z^2を見ただけでピタゴラスの定理の含意を突然理解するわけではないと知っている
客観性は書き表せないので、計算可能ではない。コンピュータにある概念の複数の主観的表現を与えて理解しろとは言えない。曖昧な文を計算する客観的に正しい方法は存在しないという曖昧性の問題と同じだ
だから私たちはプログラミング言語で書く。各プログラミング言語の文法は「文脈自由」なので、すべてが完全に明示的に定義されていなければならない。計算可能な文を書くには、頭の中の抽象概念をその言語の文法と環境に従属させる必要がある
社会にある文章の大半はソフトウェアで作成される。だから私たちは共有文脈を作るよう暗黙のうちに誘導される。文章が他人の文章の文脈と一貫していれば、客観的なふりができ、より計算可能になる
ソフトウェアが媒介する社会的相互作用も、そのソフトウェアの構造によって暗黙のうちに構成される。ソーシャルメディアには真に自由形式の対話は存在しえない
LLMが興味深いのは、この問題を被らない点だ。そもそも論理を行わないことで都合よく回避している。いまやソフトウェアは、厳格な環境ではなく、馴染みのある環境にあなたを従属させる。真実はなく雰囲気だけがあり、計算はなく推測だけがある
これは客観性のように感じられるが、新しい外皮にすぎない。違いは、境界が新しく見慣れない場所に生じたことだ
全体として、客観性の死はよい進展だと思う。ずっと前から予定されていたことで、厳格な構造は常に過大評価されていた。最良の学習法は、できるだけ多くの視点を探索することだ。人間は雰囲気と論理を同時に扱える
だが今ではAIもそのエッセイを書けるので、その仮定はもはや成り立たない
本当の問いは、文章を書くことだけで学習を証明できないなら、何が証明になるのかだ
口頭試問やリアルタイムの討論が戻ってくるかもしれない。完璧だからではなく、ごまかしにくいからだ
ある意味で、AIが教育を壊したのではなく、すでに存在していた問題を明らかにしたのだ
教育は適応するだろう
教育でコンピュータを使うこと全般について、かなり懐疑的だ。個人的には、紙で読んで余白や紙のノートに書き込まなければ、何も学べない気がする
プログラマーなので画面は毎日使うが、新しい内容を実際に記憶するには紙が必要だ。対面の会議やカンファレンスでもノートPCを開かず、紙にメモを取る
だからノートPCやタブレットが関わると、本当に何かを学んでいるのか疑わしくなる。AIに特化した話ではなく、個人的な一般的観察だ
私はここ数年、紙に意味のある文章をほとんど書いていないが、その間に確かに新しいことを学んできた
他の人たちは自分なりのやり方を学んでいて、そのやり方も同じくらい効果的でありうる