序文
- かつて Twitter というプラットフォームがあり、人々は短いメッセージをやり取りしていた。このプラットフォームを通じてエントロピーに関する短い講義を行い、それを拡張して小さな本にした。
- エントロピーは、私たちがある状況について知らない情報の量を意味する。これを定量的に説明するために、さまざまな主題を扱う:
- 情報
- シャノンエントロピーとギブズエントロピー
- 最大エントロピー原理
- ボルツマン分布
- 温度と冷却
- エントロピー、期待エネルギー、温度の関係
- 等分配の定理
- 分配関数
- 期待エネルギー、自由エネルギー、エントロピーの関係
- 古典的調和振動子のエントロピー
- 箱の中の古典的粒子のエントロピー
- 古典的理想気体のエントロピー
- 熱力学第2法則（エントロピーは常に増大する）は扱わない。これは別の本が必要なほど複雑である。
- 量子力学については最小限だけ触れるつもりだったが、プランク定数は古典的システムのエントロピー公式を定義するために必要である。
- 数理物理学者として、概念を正確にし、奇妙な反例を探すことに多くの時間を費やしている。重要な内容は囲みの中にある。
GN⁺の要約
- この本は、エントロピーに関する基本概念をわかりやすく説明しようとする試みであり、情報理論から始まり統計力学と熱力学へと続く。
- エントロピーを「無秩序」と定義せず、私たちが知らない情報の量として説明している。
- 量子力学の最小限の概念を用いて、古典的システムのエントロピーを説明している。
- 物理学を深く理解したい人に有用であり、特に統計力学と情報理論の関係を理解するのに役立つ。
- 類似した機能を持つ別のプロジェクトとしては、"Theoretical Minimum" シリーズがある。
1件のコメント
Hacker Newsの意見
Shannonが情報理論で「不確実性」を「エントロピー」と名付けた理由に関する逸話がある
Shannonエントロピーは観測者の主観的な量であるという理解が重要
統計力学では、エントロピーはシステムを配置できる方法の数の対数として説明される
情報理論では、エントロピーは圧縮アルゴリズムがファイルを正確に表現するために必要なビット数として説明される
PBS Spacetimeのエントロピー再生リストがある
離散確率分布のエントロピーをヒストグラムで説明するアプローチを好む
『Entropy Demystified』という本がエントロピーの第二法則を説明している
John Baezの文章は学部教育において大きな楽しみを与えてくれた
システムについて理論的に知りうる情報量としてエントロピーを説明するアプローチが好き
情報エントロピーは、情報がどれだけ効率的に伝達できるかに関する厳密な下限である