KAN: 精度と解釈性に優れた MLP の代替案
(arxiv.org)• コルモゴロフ=アーノルド表現定理に着想を得た多層パーセプトロン(MLP)の代替として、コルモゴロフ・アーノルドネットワーク(KAN)が提案されている。
• ノードに固定された活性化関数を持つ MLP とは異なり、KAN はエッジに学習可能な活性化関数を持つため、線形重み行列がない。
• KAN は MLP より高い精度を示し、データフィッティングや PDE の解法では、ネットワーク規模が小さいほど比較可能またはそれ以上の結果を得られる。
• KAN は理論的・経験的に、MLP より速いニューラルスケーリング則を持つ。
• KAN は高度な解釈性を提供し、直感的な可視化と人間ユーザーとのインタラクションを可能にする。
• 数学と物理学の例を通して、KAN は科学者が数学的・物理的法則を(再)発見する際に役立つ「協力者」として有用であることを示している。
• KAN は MLP に大きく依存するディープラーニングモデルを改良し、精度と解釈性をさらに高める機会を開く有望な方法を提示する。
まだコメントはありません。