DInf-Grid:一种基于可微特征网格的神经微分方程求解器

DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids

arXiv: 2601.10715v1

论文信息

标题: DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids

作者: Navami Kairanda, Shanthika Naik, Marc Habermann, et al.

发布日期: 2026-01-15

arXiv ID: 2601.10715v1

PDF 链接: 下载 PDF

3 分钟速览

  • 研究问题:现有的神经微分方程求解器(如坐标多层感知机)训练缓慢,而基于特征网格的方法虽然高效但缺乏高阶可微性,无法用来求解需要梯度和拉普拉斯算子的微分方程。本文要解决的正是这一组矛盾。
  • 核心方法:将可学习的特征网格与无限可微的高斯径向基函数(RBF)插值相结合,并叠加多分辨率网格来加快全局梯度传播,使模型能在网格结构上直接计算高阶导数,从而支撑微分方程约束下的训练。
  • 关键结果:在泊松方程图像重建、赫姆霍兹方程、布料仿真等多个任务上,本方法比基于正弦激活函数的 Siren 网络训练速度快 5–20 倍,同时保持相当的重建精度。
  • 主要局限:RBF 插值对高维输入(如三维以上)计算代价较高;高斯核形状参数需要人工调节,可能带来过度平滑或边界误差(Runge 现象);整体效率仍不及传统多网格数值求解器。
  • 适合读者:从事物理仿真、神经隐式表示、计算机图形学、科学计算以及希望加速 PINNs 训练的研究者和工程师。

论文背景和研究动机

许多物理问题都可以归结为从微分方程(DE)中恢复未知场 u(x)\mathbf{u}(\mathbf{x})。近年来,使用神经网络直接作为解的连续参数化形式(即神经求解器)受到广泛关注。其中以 Siren 网络为代表的坐标基 MLP,凭借正弦激活函数实现了无限可微性,能够拟合高频信号并接受梯度、拉普拉斯等高阶监督。然而,这类方法本质上是全局场近似,训练过程中需要为每一个采样坐标反向传播整个 MLP,导致计算开销大,训练常需数小时。

另一方面,在高保真场景表示领域,显式的特征网格及其变体(如 Instant-NGP、K-Planes)利用空间局部性大幅提升了训练与推理速度。但这些结构普遍依赖双线性插值或 ReLU 类激活,其一二阶导数在网格边界消失或为常数,无法提供求解微分方程所需的高阶梯度。

论文恰好抓住了这一冲突:能否设计一种既保留网格结构的计算高效性,又拥有完全连续可微特性的表示?这构成了 DInf-Grid 方法的核心动机(见论文第 1 节)。

核心方法和技术细节

DInf-Grid 的整体框架是一种编码器-解码器结构:场 u(x)\mathbf{u}(\mathbf{x}) 被分解为特征编码器 f(x;F)\mathbf{f}(\mathbf{x};\mathbf{F}) 和一个小型解码器 d(⋅;Θ)\mathbf{d}(\cdot;\Theta) 的复合,即 u(x)=d(f(x;F);Θ)\mathbf{u}(\mathbf{x}) = \mathbf{d}(\mathbf{f}(\mathbf{x};\mathbf{F});\Theta)。编码器部分是一组可学习的空间特征网格,解码器可以是线性层或浅层 MLP。

可微的径向基函数插值

传统网格方法查询特征时使用双线性插值(式 6),导致 ∇x2u=0\nabla_{\mathbf{x}}^2 \mathbf{u} = 0 等不连续问题。DInf-Grid 改用高斯 RBF 插值:

w(x,xi)=φ(∥x−xi∥)∑j∈Nφ(∥x−xj∥),φ(r)=e−(εr)2w(\mathbf{x},\mathbf{x}_i) = \frac{\varphi(\|\mathbf{x} - \mathbf{x}_i\|)}{\sum_{j\in\mathcal{N}} \varphi(\|\mathbf{x} - \mathbf{x}_j\|)}, \quad \varphi(r) = e^{-(\varepsilon r)^2}

其中 ε\varepsilon 控制核宽度。该插值具有 C∞C^\infty 平滑性,支持对输入坐标的任意阶自动微分,从而能够精确计算梯度、雅可比和海森矩阵。

为了提高效率,作者提出结构化采样与预计算邻域的策略。利用分层随机采样生成均匀覆盖域的训练点,并针对 Gauss 核的有效支撑范围预先确定邻域环数(例如 ε=1\varepsilon=1 时使用 3 环邻域),避免运行时的全局搜索(图 3)。

多分辨率特征网格

单分辨率网格虽然能捕捉局部梯度,但梯度信息需多次迭代才能传遍全域。受 Instant-NGP 启发,DInf-Grid 使用一组不同分辨率的共置网格 {Fs}\{\mathbf{F}_s\},精细网格捕捉高频细节,粗糙网格传播全局结构。查询时将所有尺度的 RBF 插值特征拼接起来,送入解码器。这样在不显著增加参数量的前提下,大幅提高了收敛速度和重建质量(图 7、图 II)。

微分方程损失与硬边界约束

模型的训练目标直接建立在对微分方程离散残差的优化上:

L=∫ΩF(x,u,∇u,∇2u,… ;g(x))dx\mathcal{L} = \int_\Omega \mathcal{F}\big(\mathbf{x},\mathbf{u},\nabla\mathbf{u},\nabla^2\mathbf{u},\dots; g(\mathbf{x})\big) d\mathbf{x}

可为不同 PDE 定制具体形式,如泊松方程的梯度/拉普拉斯监督(式 8)、赫姆霍兹方程的复数域损失(式 10)或 Kirchhoff-Love 壳模型的能量极小化(式 11)。为确保解的唯一性,论文统一采用距离加权的硬边界约束(式 5),将 Dirichlet 或初始条件强加于网络输出,有效改善了训练稳定性。

创新点和贡献

  1. 首次实现网格表示+高阶可微性:将高斯 RBF 插值引入特征网格,使其能够连续且无限可微地表示场及其各阶导数,解决了以往网格方法无法求解 DE 的根本障碍。
  2. 多分辨率共置网格加速全局梯度流:通过在不同尺度上同时优化局部和全局特征,显著加快了训练收敛,并使模型能在几秒到几分钟内获得解,而 Siren 需要数十分钟到数小时(见表 1)。
  3. 统一的 DE 求解框架:同一架构可处理从泊松方程、赫姆霍兹方程、程函方程到薄壳仿真等多种偏微分方程,且可直接拟合信号(如 SDF、图像),无需任何结构修改。
  4. 对现有方法的系统性对比:论文不仅与 Siren 比较,还与 K-Planes、Instant-NGP 和 NeuRBF 进行了对照实验,证明了这些网格方法在纯微分约束下完全失效或发散,进而凸显 DInf-Grid 的独特价值(图 4、图 5、图 V)。

实验结果分析

泊松方程图像重建(第 4.1 节):在仅给定梯度或拉普拉斯图像的情况下,DInf-Grid 重建出高分辨率图像(512×512),PSNR 达 32.24 dB(梯度监督),相比之下 Siren 仅 32.12 dB,而 DInf-Grid 训练时间仅为 25 秒,Siren 需要 10 分钟(表 1)。K-Planes 因线性插值导数不连续,梯度场无法反传,直接失败。

赫姆霍兹方程(第 4.2 节):求解中心点源激发的稳态波场,ω=20\omega=20 时 DInf-Grid 与解析解高度吻合,训练速度是 Siren 的 4 倍;K-Planes 和 Instant-NGP 均因二阶导数为零而崩溃(图 5)。在更高波数 ω=30,40\omega=30,40 下,DInf-Grid 仍保持良好精度,仅在 ω=40\omega=40 的源点附近出现较小误差(论文附录表 I)。

布料仿真(第 4.3 节):采用 Kirchhoff-Love 薄壳理论,通过能量极小化直接求解静态变形。DInf-Grid 在 64×6464\times64 网格下仅用约 4.37k 参数便生成了包含丰富褶皱的布料形态(图 6)。相比之下,基于线性插值的 Grid 方法因无法计算弯曲应变而完全失效。

信号拟合与程函方程(第 4.4 节及附录 C):DInf-Grid 既能直接从有向点云解出 3D 形状的 SDF(图 V),也能仅凭梯度图恢复图像,而 NeuRBF 即使以其专有的信号依赖初始化方式,仍无法收敛(PSNR 10.85,SSIM 0.17),验证了 DInf-Grid 在微分监督下的独特优势。

实践建议

对于从事人工智能、物理仿真或科学计算的实践者,DInf-Grid 提供了一种即插即用的高效求解方案。以下建议可供参考:

  1. 替换 Siren 作为默认神经场。当你的任务涉及梯度场、拉普拉斯场或高阶 PDE 监督时,可直接用 DInf-Grid 替代坐标基 MLP。根据论文方法,只需将损失函数设置为 PDE 残差,并采用分层采样生成训练点,即可在短时间内获得平滑解。
  2. 多分辨率网格的适用设置。经验性地,ε=1\varepsilon=1 配合 3 环邻域提供了良好的效率与精度平衡(见消融实验表 2)。在二维问题中,可选用 4 级分辨率(最大网格边长 512),三维问题可降为 56 左右以控制参数总量。对于超高波数的赫姆霍兹问题,可适当增大最大网格分辨率并增加训练迭代数。
  3. 硬边界约束的实施。与 PINNs 常用的软约束惩罚项不同,论文所采用的基于距离的调制函数 B(x) \mathcal{B}(\mathbf{x}) 能更稳定地满足 Dirichlet 边界条件,尤其在逆问题或不规则域问题上,建议优先采用。
  4. 实际性能优化。目前 DInf-Grid 用 PyTorch 实现,RBF 插值在三维以上仍较慢。对于实时性要求不高的离线仿真,可直接使用;若追求极致速度,可考虑定制 CUDA 内核来并行计算 RBF 权重和邻域聚合,以逼近线性插值的效率。
  5. 结合传统数值方法。论文作者指出,DInf-Grid 在纯粹的速度上尚不及多网格求解器。在工程中,可将其作为微分约束下的 “连续代理模型”,先用传统快速求解器产生大量解样本,再用 DInf-Grid 进行元学习或快速插值,从而结合二者长处。