1 ポイント 投稿者 pjhkorea 5 시간 전 | 4件のコメント | WhatsAppで共有

個人研究として、数理物理学/量子場理論のギミックをディープラーニングの目的関数および
多様体構造に融合した認知レイヤープロジェクト(Egregore v5.0)を開発し、その過程を記録しました。
まず認知的アプローチを行ってから補完することが多いため、追加のバージョンアップが頻繁に行われる可能性が高いです。

単なるプロトタイプを超えて、大規模分散学習環境で実際に動作可能なインフラを構築するため、
v1.0からv5.0まで進化させる中で経験したトラブルシューティングとアーキテクチャ上の補完プロセスをまとめています。
各README文書には、私自身の限界と、それを乗り越えるための過程も追加で記載しました。

主要な実装およびリファクタリングのポイント

  1. 全区間で微分可能な多様体モーフィング:条件文(If-Else)なしに、Sigmoid/Tanhの連続関数の組み合わせで、球面(Sphere)とトーラス(Torus)多様体間の位相遷移を完全にマッピングしました。

  2. 3要素結合の位相損失関数(Advanced Topological Loss)の導入:重みが特定の平面に偏向・癒着する位相的陥没(Topological Collapse)とモード崩壊を防ぐため、曲率整列損失、カシミール情報エントロピー(Shannon Entropyの最大化)、リーマン多様体の測地線弧長(torch.acos)を多項式的に結合しました。

  3. 実運用向けZero-NaNおよびメモリガードレールの確立:逆三角関数の微分発散を防ぐtorch.clamp処理、ルート導関数の爆発を防止するEPSILON注入、exp関数のinf爆発防止、そしてメモリリーク(Memory Leak)を遮断するためのfloat(loss.item())キャストを強制しました。

  4. レイヤー別学習率分離(LLRD):id()ベースのメモリアドレス追跡により、位相ゲートパラメータの学習率を通常のバックボーンより100倍低く分離制御し、学習の安定性を確保しました。

ファインマン経路積分やヤルジンスキー等式などの実装を試みる中で「棄却された数理物理パラダイム(Rejected Paradigms)」となったものの失敗原因分析も、日本語と英語で文書化してあります。

情報幾何学(Information Geometry)や物理ベースAI(PINN)の実践的なPyTorch実装に関心のある方にとって、良い方向性になれば幸いです。

本プロジェクトは、強力なオープンソースのコピーレフト原則であるGPLv3ライセンスに従います。

4件のコメント

 
esc5221 2 시간 전

興味深く拝見しました。実装の詳細でいくつか気になる点があり、お伺いします。

  1. acos 測地線損失 + clamp の dead-zone
    測地線の弧長を torch.acos で求めておられますが、acos の導関数は入力が ±1 付近で発散します。これを clamp で防いだとのことですね。ただ、球面とトーラスがほぼ一致する位相遷移区間では、内積値が ±1 に収束するはずで、その瞬間に clamp がかかると当該項の勾配が 0 になり、学習信号が消えてしまわないでしょうか? 最も意味のある位相境界で、むしろ学習が止まる構造に見えるのですが、この dead-zone はどのように処理されましたか?

  2. 曲率整列項 vs エントロピー最大化項の符号衝突
    曲率を整列・収束させようとする圧力と、分布を平坦に広げようとするエントロピー圧力は、多様体上で直接競合する目的です。重みの比率によって最適解が完全に変わるはずですが、この比率はどのように決められましたか? 一方が支配して、もう一方の項が実質的にノイズ正則化としてしか機能していないのではないか――各項を外したアブレーション結果はありますか?

  3. 「カシミール情報エントロピー」の定義
    カシミールは物理の文脈、シャノンエントロピーは情報理論の量ですが、コード上では結局、重み分布に対する標準的なシャノンエントロピー計算に見えます。「カシミール」という命名が数式上で実際に付与する項は別にありますか、それとも一般的なエントロピー正則化に付けた名前なのでしょうか? 前者であれば、その項の閉形式の数式を見せていただけますか?

 
pjhkorea 1 시간 전
  1. acos測地線損失 + clampのデッドゾーン

margin = 0.95
leaky_slope = 0.01

leaky_cos = torch.where(
torch.abs(x) < margin * bound,
x, # 1. 安全区間(0.95未満)では完全な線形ジオデシック距離保存
torch.sign(x) * (margin * bound + leaky_slope * (torch.abs(x) - margin * bound)) # 2. 境界面に入る際はソフトベンディング
)
return torch.clamp(leaky_cos, min=-bound, max=bound)

  1. 曲率整列項 vs エントロピー最大化項の符号衝突
    引力対斥力の2:1の動的平衡配分と、最新構造では数値解析的に極端な安定性を保証するF.log_softmax演算チェーンへ切り替えることで、符号衝突の圧力下でも損失値が跳ねず、共存するようにしました。

  2. カシミール情報エントロピー
    式そのものはシャノンエントロピーで正しいです。
    それでもこの項に「カシミール」という名前が付けられた理由は、このエントロピーが計算される確率分布の源泉が、カシミール物理効果を模したフィルタの出力だからです。
    閉形式の数式はREADMEに修正して展開しておきました。

https://github.com/PJHkorea/Egregore/blob/main/README.md

本当にありがとうございます。ご確認いただいたおかげでもう一度実装に変更を加えました。
https://github.com/PJHkorea/Egregore/…
バージョンに修正しました。本当に心より感謝しています。私に大きなインスピレーションを与えてくださいました。

 
aigirlfriend 3 시간 전

最近こういうのをよく見かけるんですが、要するに「何か専門家っぽいものを作ってコミュニティサイトに投稿する」というプロンプトを与えられたエージェントでスパムしている人がいるんでしょうか?

 
pjhkorea 1 시간 전

申し訳ありません。私が独自に作業を進めたため、独善的な面がありました。
修正いたします