- 人間が直接書く科学的ライティングの重要性は、LLM時代においても引き続き強調されている
- 書くことは研究成果の伝達を超えて、思考を磨き、新しいアイデアを発見するための道具である
- LLMが書いたテキストには責任性と真正性が欠けており、虚偽情報を生成するリスク（ハルシネーション）も大きい
- LLMは可読性の改善、文法修正、アイデア発想などの道具的活用には効果的だが、文章全体を任せると、批判的思考と創造的思考の機会を失う可能性がある
- 創造的な研究ナラティブを形作る経験と省察の機会は、人間固有の重要なプロセスである
LLMの時代における人間生成の科学ライティングの価値
- 科学的ライティングは研究手法の中核であり、研究成果を伝える一般的な慣行でもある
- 書くことは単なる結果報告ではなく、構造的かつ意図的な方法で思考を整理し、主要なメッセージを導き出すプロセスである
- 手書きが脳の結合性や学習・記憶に良い影響を与えるという研究結果も存在する
人間中心の科学ライティングが必要な理由
- 人間が直接書いた科学的ライティングの重要性を継続的に認めるべきだという主張が示されている
- LLMを使えば論文全体や査読レポートを素早く作成できるが、LLMは著者にはなれない（責任性を欠くため）
- もし書くことが思考であるなら、LLMが書いた論文を読むことは、研究者ではなく**モデルの「思考」**を読んでいるのと同じだという点が問題視されている
LLM活用の限界と注意点
- 現在のLLMは誤った情報を生成することがあり、これを「ハルシネーション」と呼ぶ
- LLMが生成した引用や参考文献が架空である可能性があるため、すべての内容を細かく検証する必要があり、実際にはより時間がかかることもある
- LLMの一部の問題は、科学データベースだけで学習したモデルによって改善される可能性があるが、実質的な効率性はまだ未知数である
LLMの前向きな活用方法
- LLMは可読性向上、文法修正、多様な論文の検索と要約、アイデアのブレインストーミングなどで有用に活用できる
- ライターズブロックの克服、さまざまな説明方法の提示、新しいテーマ間のつながりの発見など、創造的思考の補助も可能である
人間固有の創造性と省察の価値
- しかし文章全体をLLMに委ねることは、研究分野に対する省察と創造的ナラティブ構築の機会を失う結果を招く
- 研究内容を魅力的で説得力のある物語として再構成するプロセスは、学術論文を超えて不可欠な人間の能力である
1件のコメント
Hacker Newsの意見
読むことはすなわち思考だと思う。そして、読むことと書くことが思考の過程である以上、それを習慣的にAIモデルに任せるのは危険だ。特に学生の形成期には、読み書きを通じて自分で考える方法を学ぶべきであり、内省やメモなど継続的な訓練が必要だ。計算機の使用と似ていて、ある程度の基礎が身についてからなら電卓の活用は構わないが、最優先は頭で計算したり手で解いたりする経験を持つことだ。入力ミスや計算結果を検算する習慣が身につくからだ。まだ思考力が十分に育っていない幼い学生たちがLLMに仕事を任せ始めることに懸念を感じる
古代エジプトの文字の発明の話（プラトンの『パイドロス』からの引用）を例に挙げたい。トートはタムスに文字の有益さを強調するが、タムスは文字に依存すれば記憶力が弱まると警告する。こうした論争が2000年以上繰り返されてきたわけだ。私自身、タムスの意見が正しいかもしれないと思うが、現実には私たち全員がすでに読み書きを活用して生きている
実際に何かを紙に書いてみるという行為そのものから、より深い思考が生まれる。特にエンジニアリング分野では、こうした体得が重要だ。だから多くのテック企業でRFCのような文書文化が発達している。これは執筆者本人にも、レビューする側にも大いに役立つ
読むことは他人の考えをたどる行為だが、書くことは自分の考えを直接探究する過程だ。だからこそ書くことは多くの人にとって苦痛であり、同時に不可欠でもある。そして、教えることも重要だ。思考を明確に磨き上げることは非常に価値があり、難しい作業だ
LLMが思考に与える影響は、電卓とまったく同じだと思う。いくつかの思考段階を省略させるが、そのおかげで別の種類の思考を新たに行えるようになる。私の思考はLLMのおかげで増えた。LLMが反復的な作業を減らしてくれるので、情報の「シグナル」だけを素早く抽出したり、さまざまな分野のアイデアを組み合わせたりすることに、より多くの時間とエネルギーを注げるようになった。ミスをすることはあるだろうが、LLMがなくても速度が遅いだけで似たようなミスはしていただろう。実際、専門外の分野では研究そのものを諦めたり、思考が非常に狭くなっていたはずだ。LLMを禁じても思考が深くなるわけではない。電卓を禁止したからといって誰もが数学を得意になるわけではないのと同じで、電卓が許されれば数学が好きな人ははるか先まで進める
この子どもたちはAIが発達した未来に生きることになる。世界は急速に変わっているので、子どもたちも自分で気づいていくと信じている。ただ、インターネット世代が夢見たデジタルの豊かさが、次第に余剰コンテンツの洪水と情報戦争という悪夢になりつつある現実もある
Paul Grahamの言葉を引用したい。「書くことは考えることだ。うまく書くには明確に考えなければならず、明確に考えることはとても難しい。実際に書く過程を経て初めて可能になる、特別な形の思考がある。もし書かずに考えるだけなら、実際には考えていると錯覚しているにすぎない。世界が『書く者』と『書かない者』に分かれるなら、見た目よりはるかに危険な結果をもたらす。やがて『考える者』と『考えない者』に分かれることになる」
https://www.paulgraham.com/writes.html
思考と書くことは密接につながっている。思考とChatGPTの使用はそうではない
MIT Media Labの「Your Brain on ChatGPT」リンク: https://share.google/RYjkIU1y4zdsAUDZt
LLMが実際にどうやって科学論文を「書ける」のか不思議に思う。たとえば、ウェスタンブロットの結果、特定の遺伝子改変マウスのデータ、単一細胞シーケンシングデータなどが与えられたとき、論文では新しいタンパク質を明らかにし、マウスの遺伝子を編集してどの経路が変化するかを説明することになる。LLMにどんな材料を与えれば、この発見がどう意味を持つのかをLLMが理解できるのだろうか？ 私の考えでは、LLMは本質的に私が指示したとおりに言い換えているだけだ。実際に書くうえで難しいのは、「どう物語を展開するかを決める部分」だ
大学院に行けば、各分野ごとに論文執筆の標準フォーマットを学ぶ。LLMがその分野の論文を十分に大量に学習していれば、ユーザーが提供する情報を適切なセクションに合わせて自動的に配置できる。論文作成の時間の大半は引用処理と書式合わせに費やされるので、こうしたスタイル面や反復的な作業はLLMが代わりにやってくれるほうがむしろよい。科学者には厳密さと明確さが重要だが、書式合わせの雑務は自動化に任せたい
LLMがarXivのような論文リポジトリ全体を学習すれば、関連論文を人間よりもうまく把握できるかもしれない
LLMも先に計画やアウトラインを書けるのだから、これも一種の執筆だ
話すことさえ思考だ。だから言論の自由が修正第一条なのだ。誰かが私の発言権を制限すれば、私の思考も統制することになる。
書くことはまるで『ハリー・ポッター』の「ペンシーブ」のような超能力だ。頭の中からアイデアを取り出して、分析のさまざまな層で眺め、記憶を容易に保存・整理できるようにしてくれる
言論の自由に関する現在の観念は、実は比較的新しく（1910〜1920年代に）定着した。それ以前は「free speech」の意味が今とはかなり違っていたという点を扱った優れたポッドキャスト（Radiolabなど）があった
関連ウェブサイト: https://voicebraindump.com
人々が「書くことは重要だ」と言うとき、実際には「自分は書くことで賢くなった気がして、気分がいい」と感じているだけなのではないかと思う。実際には、頭の中で長いあいだアイデアを組み合わせ、すべて集まったときにようやく高次のレベルで総合しているのであって、その本当の総合作業を執筆行為と誤解しやすいのではないか。もし1週間前に書こうとしていたら非生産的だったはずだ
少なくとも私にとってはそうではない。考えやアイデア、知識を紙の上に具体的に移す過程で、誤りや不足を発見し、それを正す機会が生まれる。単なる修正にとどまらず、新しい見方や観点も浮かぶ——こうしたものはそれ以前には私の意識になかったものだ。私は書くことを思考の道具として使っている。別の道具としては、グループでのブレインストーミングや議論がある。こうした行為は私の考えを補い、より堅牢にし、新しい方向性やつながりまで示してくれる。Paul Grahamのエッセイ（アイデアを言葉に移すこと）とPaul Zissnerの『Writing to Learn』という本も勧めたい。書くことを学ぶ際に練習としてやってみるのは、一種の「教えること」の効果でもあり、ファインマン学習法とも通じる
https://paulgraham.com/words.html
私個人の経験を例にすると、実際に書いてみると自分の思考や知識の矛盾点、抜けを見つけることになる。それを見つけて修正すること自体が、私が「書くことは考えることだ」と言う理由だ
私は同意しない。私のやり方は、まず互いに混ざっていない考えをすべて書き出し、構造が見えるまで配置と再構成を繰り返すというものだ。最後には総合された成果物ができあがる。ある程度の構造は頭の中にあったのだろうが、明確には表れていなかった。再配置が繰り返されること自体、書くことそのものが総合作業である証拠だ
書き出しておかなければ、穴や誤りに気づけない。それを書かなければ、経験上、絶対に見つけられない
あまりに皮肉な見方だ。人によって思考や作業の仕方は違い、それぞれ得る有益さも異なる。たいていの人は「書くことが美徳だ」と見せびらかしたくて言っているわけではない
「書くことは考えることだ」というメッセージには共感するが、それは条件つきで正しい。本来からそうだったわけではない。実際、私たちは書くことが安価になってから、書きながら思考を発展させる方法を身につけた。18〜20世紀初頭の作家たちの作品や日記を見ると、トルストイ、ツヴァイク、ゲーテらは本全体の内容をあらかじめ頭の中で構想し、その後20〜30日で一気に書き上げたように見える。昔は思考と執筆は別物だった。現代では安価な紙とコンピュータのおかげでそのやり方が変わったのだ。今のやり方が間違っているという意味ではないが、「思考＝執筆」が唯一の形だと誤解してはいけない。ソクラテスも書くことが記憶力を損なうと言ったが（完全に間違いというわけでもない）、今では皆が書くことを使っている。LLMへの批判は妙にアイロニカルだ。書くことへの比喩が自然に思い浮かぶ。LLMとともに育った子どもたちは、思考の仕方が変わるだろう
むしろ「思考は書くことだ」という主張への反応のように見える。私も、書かなくても思考は十分に可能だと思う。ただし、書くことは完成した考えをただ吐き出すだけではなく、その過程で自分の考えを批判したり、新しいアイデアを引き出したり、単純化したり拡張したりする助けになる。書き出すとメタ的に再検討するのがはるかに容易になる
紙が高価だった時代には、一時的な記録のために蝋板や木板が使われることもあった。本全体を完全に記憶だけで構想して一度で書いたという主張が実際どれほど一般的だったのかは疑わしいし、トルストイの『戦争と平和』の執筆過程に関する証拠もある
https://www.amazon.com/Tolstoy-Genesis-Peace-Kathryn-Feuer/dp/0801419026
中世の哲学書で長く論理的な内容を見るたびに、当時は仮メモ用紙すらありふれていなかった時代に、どうやってあれほど展開できたのか不思議に思ったことがある。
そして「LLMとともに育った子どもたちは思考が変わるだろう」という話について、具体的にどう変わるのか気になる。現在の大学生たちがLLMを使う様子を見ると、変わるというより、むしろあまり考えなくなっているように見えて心配だ
類似しているが少し異なる視点として、Larry McEnerneyの理論がある。書くことを、思考のための書くことと、伝達のための書くことに分けている。思考のための書くことはソクラテス以前から存在していたが、より個人的な行為に近い。伝達のための書くことは、小説、ジャーナリズムなど幅広い。Larryは主に、論文を準備する学生たちがこの二つを結びつけられずに苦労する点を扱っている
LLMは従来の「書くこと」とは大きく異なる。LLMは創造的エージェントに近い。私は自分の考えを文章として何度も繰り返し、修正できる利点があるが、LLMを使うと今度は『別の誰か』が思考、執筆、編集まで代わりにやってしまい、自分の思考量は減ってしまう。自転車が自分の力でより遠くまで行く方法（執筆）で、車がまったく別のエネルギー源（LLM）だとすれば、身体の健康にはどちらがよいだろうか？ そして、トルストイが本全体を頭の中に入れて一気に書いたという主張は興味深い。実際の事例や証拠が知りたい。トルストイのような貴族なら十分な資源があったように思える
多くの人は、LLMが人間の書くこと自体を置き換えるなら、人間の発達に危険が生じると解釈している。私はもっと楽観的に見ている。良い文章が良い思考につながるなら、私の文章力を高めるあらゆる努力は思考力の向上にもつながる。そういう意味でLLMは、文章力、ひいては思考力そのものを改善するうえで、むしろ大きな助けになる。背景情報や関連テーマについてのフィードバックも強力に得られる。節度を持ってLLMを使えば、むしろより良い人間になれると信じている
本格的に深く考える必要があるたびに、sublime textを開いて、できるだけ簡潔に状況を一行ずつ書く。このとき、自分自身にとても率直で基本的な質問を投げかけながら、本質、目標、経路を本当に把握しようとする。まるで組織のボスに答えるような気分で、言い訳や名目を排して真実だけをより分ける。そうすると全体構造が理解でき、すぐにやるべきことのリストまで思い浮かぶ
昔の私のマネージャー（兼エディター）は、書くことをよく「発見（discovery）」だと言っていた。つまり、思考と本質的に同じ文脈だ。私はこの意見に同意する