Solving high-dimensional Fokker-Planck (FP) equations is a challenge in computational physics and stochastic dynamics, due to the curse of dimensionality (CoD) and the bottleneck of evaluating second-order diffusion terms. Existing deep learning approaches, such as Physics-Informed Neural Networks (PINNs), face computational challenges as dimensionality increases, driven by the $O(D^2)$ complexity of automatic differentiation for second-order derivatives. While recent probability flow approaches bypass this by learning score functions or matching velocity fields, they often involve serial computational operations or depend on sampling efficiency in complex distributions. To address these issues, we propose the Self-Consistent Probability Flow (SCPF) method. We reformulate the second-order FP equation into an equivalent first-order deterministic Probability Flow ODE (PF-ODE) constraint. Unlike score matching or velocity matching, SCPF solves this problem by minimizing the residual of the PF-ODE continuity equation, which avoids explicit Hessian computation. We leverage Continuous Normalizing Flows (CNF) combined with the Hutchinson Trace Estimator (HTE) to reduce the training complexity to linear scale $O(D)$, achieving an effective $O(1)$ wall-clock time on GPUs. To address data sparsity in high dimensions, we apply a generative adaptive sampling strategy and theoretically prove that dynamically aligning collocation points with the evolving probability mass is a necessary condition to bound the approximation error. Experiments on diverse benchmarks -- ranging from anisotropic Ornstein-Uhlenbeck (OU) processes and high-dimensional Brownian motions with time-varying diffusion terms, to Geometric OU processes featuring non-Gaussian solutions -- demonstrate that SCPF effectively mitigates the CoD, maintaining high accuracy and constant computational cost for problems up to 100 dimensions.


翻译:求解高维福克-普朗克方程是计算物理与随机动力学领域的核心挑战,主要受限于维度灾难以及二阶扩散项计算瓶颈。现有深度学习方法(如物理信息神经网络)在维度增加时面临计算困难,其根源在于二阶导数自动微分的$O(D^2)$复杂度。虽然近期概率流方法通过学习得分函数或匹配速度场规避了该问题,但这些方法常涉及串行计算操作或依赖于复杂分布中的采样效率。为突破这些限制,本文提出自洽概率流方法。我们将二阶福克-普朗克方程重构为等效的一阶确定性概率流常微分方程约束。区别于得分匹配或速度匹配方法,自洽概率流通过最小化概率流连续性方程的残差来求解问题,从而避免显式海森矩阵计算。我们结合连续归一化流与哈钦森迹估计器,将训练复杂度降至线性尺度$O(D)$,在GPU上实现有效的$O(1)$墙钟时间。针对高维数据稀疏性问题,采用生成式自适应采样策略,并从理论上证明动态配置点与演化概率质量的对齐是约束近似误差的必要条件。在多样化基准测试中——包括各向异性奥恩斯坦-乌伦贝克过程、含时变扩散项的高维布朗运动,以及具有非高斯解特征的几何奥恩斯坦-乌伦贝克过程——实验表明自洽概率流能有效缓解维度灾难,在高达100维的问题中保持高精度与恒定计算成本。

0
下载
关闭预览

相关内容

本话题关于日常用语「概率」,用于讨论生活中的运气、机会,及赌博、彩票、游戏中的「技巧」。关于抽象数学概念「概率」的讨论,请转 概率(数学)话题。
【CVPR2022】MSDN: 零样本学习的互语义蒸馏网络
专知会员服务
21+阅读 · 2022年3月8日
专知会员服务
25+阅读 · 2021年7月31日
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员