高性能コンピューティングの芸術

 (theartofhpc.com)
3 ポイント 投稿者 GN⁺ 2023-12-31 | 1件のコメント | WhatsAppで共有

科学計算の基礎

  • 科学計算に関する一般的な背景知識を扱う本で、コンピュータアーキテクチャ、並列コンピュータアーキテクチャ、コンピュータ算術、線形代数、ODE/PDEs などを含む。
  • 大規模計算において、あらゆる要素がどのように結び付くかについての内容も含まれる。

並列プログラミングのための科学と工学

  • 科学計算の多くは、何らかの形で並列プログラミングを含む。
  • MPI と OpenMP の現代的なバージョンに関する最高の入門書であり、PETSc、Kokkos、Sycl、Co-array Fortran に関する短いセクションも含む。
  • C、Fortran、C++、そして（MPI の場合は）Python における MPI と OpenMP の扱いでも注目される。

科学プログラミング入門

  • 科学および工学プログラミングは主に C/C++ と Fortran で行われる。
  • 現代的な C++17（最近では C より好まれる）と Fortran 2008 を教える本。
  • 科学プログラミングへのゼロからの入門として、あるいは「C プログラマのための C++」として読むことができる。
  • さまざまな長編プログラミングプロジェクトが含まれている。

HPC 木工

  • 科学計算のエコシステムは、単にプログラミング言語や並列プログラミングシステムだけで構成されるものではない。
  • コンパイラ、ビルドシステム、ソースコード管理などへの理解が必要であり、この本はそれらすべてを網羅することを目指すのではなく、科学的ワークフローに偏った一連の入門を提供する。

Victor について

  • Victor Eijkhout はテキサス高度計算センターの研究科学者である。
  • これらの教材は、テキサス大学オースティン校でさまざまな講義を行う中で作られた。
  • これらの本を公開することで、彼が義務以上の努力をしたと感じるなら、コーヒーをおごるのもよい方法だ。

GN⁺の見解

  • Victor Eijkhout の HPC 教材シリーズは、科学計算の基礎から並列プログラミング、科学プログラミングの実践的な適用に至るまで、包括的な知識を提供する。
  • このシリーズは、初級ソフトウェアエンジニアが高性能コンピューティング（HPC）の世界に入門するうえで不可欠な資料になり得る。
  • 科学および工学分野でコンピューティング技術がますます重要になっている現在、これらの教材は当該分野の専門家にとって非常に有益で興味深い資料となるだろう。

関連記事

1件のコメント

 
GN⁺ 2023-12-31
Hacker News の意見

  • ハードウェアおよびデータセンター面の話

    • AWS でソフトウェア／サービス側の仕事をしていたあるユーザーは、データセンター職員の話を聞いて、データセンターの計算能力向上は実際の計算問題というより熱力学の問題なのだと気づいた。
    • ノードが非常に高密度になり、電力を供給して熱を排出することが非常に難しい問題になっており、非効率を見つけてもソフトウェア更新では解決できない。
    • これは約 10 年前の状況であり、アマゾンがインターネット書店として始まり、熱力学の問題を解決する最前線にいるというのは驚くべきことだという。

  • 高性能コンピューティング（HPC）におけるハードウェアとの距離感

    • HPC がハードウェアからどれほど抽象化されているかという興味深い点が指摘されている。
    • 書籍は SPMD プログラミング、アルゴリズム、データ構造、タスク並列性、同期などに焦点を当てているが、スーパーコンピュータのメモリシステム、高帯域幅インターコネクト（CXL）、GPU アーキテクチャなどのコンピュータアーキテクチャの詳細にはほとんど触れていない。
    • 抽象化とツールがすでに十分優れていてこうした詳細を気にする必要がないのか、それとも HPC 実務者が性能を引き出すために多くの「ブラックボックス」調整をしなければならないのか、という疑問が示されている。

  • ビクターの資料集への称賛

    • あるユーザーはビクターが作った資料集に感嘆し、自分はビクターを個人的には知らないが、1990 年代に UT Austin で博士課程に在籍し、TACC の資源を利用していたと述べている。
    • 当時のプログラマーは自分のコードを並列化する必要があり、ハードウェアへの理解が必要だった。これは分野がまだ初期段階だったためであり、問題解決は Cray リングバインダーや Gropp などの資料を読むことで行っていたという。

  • HPC のハードウェア運用面への関心

    • あるユーザーは、HPC において問題を検知・診断し、再起動／再インストール／修理のような措置を取り、それを最適化して最高のサービスレベルを提供する方法に関心を示している。
    • ノード可用性と全体スループットのように複数の目標を同時に最適化しなければならない場合、異なるトポロジーがこうした問題にどう影響するのか、その他の制約条件も含めて情報を見つけるのが難しかったと述べている。

  • C++ の教育方法に関する意見募集

    • 経験豊富な Python プログラマーが、C++ の教え方について人々の考えを尋ね、特定の欠点があるのか気にしている。
    • そのユーザーは自分の C++ スキルを向上させたいと考えており、3 冊の本が自分に合ったレベルに見えると述べている。

  • 著者による無料教材提供への感嘆

    • あるユーザーは、著者が C++ と Unix ツールを含む包括的な書籍セットを作成し、無料で共有したことに感嘆している。
    • 高性能コンピューティングに特化していないとしても、すべてのプログラマーにとって有益な内容だと述べている。

  • 科学計算の授業に関する回想

    • 2013 年に科学計算の授業を受けたユーザーは、その分野が広いため多くのトピックが簡潔に扱われていたと振り返っている。
    • 並列計算についての専門的な学期単位のコースがあれば役に立ったはずだと述べ、こうした本はそのようなコースの一部として非常に価値があっただろうと評価している。

  • HPC 大学院課程の TA 提案に関する経験

    • あるユーザーは、10 年前に HPC の大学院課程で TA 役を提案されたが断ったと述べている。
    • 当時この本があれば、その機会を受けていたはずだと言い、著者の業績を称賛している。

  • UT Austin への称賛

    • UT Austin は HPC と計算手法において優れた機関だと述べられている。

  • プログラマーにとって有益な内容

    • 書籍の内容はすべてのプログラマーに有益であり、特に第 3 巻で C++17 と Fortran2008 を教える対照的なアプローチに言及している.