DInf-Grid:一种基于可微特征网格的神经微分方程求解器
DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids
论文信息
标题: DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids
作者: Navami Kairanda, Shanthika Naik, Marc Habermann, et al.
发布日期: 2026-01-15
arXiv ID: 2601.10715v1
PDF 链接: 下载 PDF
3 分钟速览
- 研究问题:现有的神经微分方程求解器(如坐标多层感知机)训练缓慢,而基于特征网格的方法虽然高效但缺乏高阶可微性,无法用来求解需要梯度和拉普拉斯算子的微分方程。本文要解决的正是这一组矛盾。
- 核心方法:将可学习的特征网格与无限可微的高斯径向基函数(RBF)插值相结合,并叠加多分辨率网格来加快全局梯度传播,使模型能在网格结构上直接计算高阶导数,从而支撑微分方程约束下的训练。
- 关键结果:在泊松方程图像重建、赫姆霍兹方程、布料仿真等多个任务上,本方法比基于正弦激活函数的 Siren 网络训练速度快 5–20 倍,同时保持相当的重建精度。
- 主要局限:RBF 插值对高维输入(如三维以上)计算代价较高;高斯核形状参数需要人工调节,可能带来过度平滑或边界误差(Runge 现象);整体效率仍不及传统多网格数值求解器。
- 适合读者:从事物理仿真、神经隐式表示、计算机图形学、科学计算以及希望加速 PINNs 训练的研究者和工程师。
论文背景和研究动机
许多物理问题都可以归结为从微分方程(DE)中恢复未知场 。近年来,使用神经网络直接作为解的连续参数化形式(即神经求解器)受到广泛关注。其中以 Siren 网络为代表的坐标基 MLP,凭借正弦激活函数实现了无限可微性,能够拟合高频信号并接受梯度、拉普拉斯等高阶监督。然而,这类方法本质上是全局场近似,训练过程中需要为每一个采样坐标反向传播整个 MLP,导致计算开销大,训练常需数小时。
另一方面,在高保真场景表示领域,显式的特征网格及其变体(如 Instant-NGP、K-Planes)利用空间局部性大幅提升了训练与推理速度。但这些结构普遍依赖双线性插值或 ReLU 类激活,其一二阶导数在网格边界消失或为常数,无法提供求解微分方程所需的高阶梯度。
论文恰好抓住了这一冲突:能否设计一种既保留网格结构的计算高效性,又拥有完全连续可微特性的表示?这构成了 DInf-Grid 方法的核心动机(见论文第 1 节)。
核心方法和技术细节
DInf-Grid 的整体框架是一种编码器-解码器结构:场 被分解为特征编码器 和一个小型解码器 的复合,即 。编码器部分是一组可学习的空间特征网格,解码器可以是线性层或浅层 MLP。
可微的径向基函数插值
传统网格方法查询特征时使用双线性插值(式 6),导致 等不连续问题。DInf-Grid 改用高斯 RBF 插值:
其中 控制核宽度。该插值具有 平滑性,支持对输入坐标的任意阶自动微分,从而能够精确计算梯度、雅可比和海森矩阵。
为了提高效率,作者提出结构化采样与预计算邻域的策略。利用分层随机采样生成均匀覆盖域的训练点,并针对 Gauss 核的有效支撑范围预先确定邻域环数(例如 时使用 3 环邻域),避免运行时的全局搜索(图 3)。
多分辨率特征网格
单分辨率网格虽然能捕捉局部梯度,但梯度信息需多次迭代才能传遍全域。受 Instant-NGP 启发,DInf-Grid 使用一组不同分辨率的共置网格 ,精细网格捕捉高频细节,粗糙网格传播全局结构。查询时将所有尺度的 RBF 插值特征拼接起来,送入解码器。这样在不显著增加参数量的前提下,大幅提高了收敛速度和重建质量(图 7、图 II)。
微分方程损失与硬边界约束
模型的训练目标直接建立在对微分方程离散残差的优化上:
可为不同 PDE 定制具体形式,如泊松方程的梯度/拉普拉斯监督(式 8)、赫姆霍兹方程的复数域损失(式 10)或 Kirchhoff-Love 壳模型的能量极小化(式 11)。为确保解的唯一性,论文统一采用距离加权的硬边界约束(式 5),将 Dirichlet 或初始条件强加于网络输出,有效改善了训练稳定性。
创新点和贡献
- 首次实现网格表示+高阶可微性:将高斯 RBF 插值引入特征网格,使其能够连续且无限可微地表示场及其各阶导数,解决了以往网格方法无法求解 DE 的根本障碍。
- 多分辨率共置网格加速全局梯度流:通过在不同尺度上同时优化局部和全局特征,显著加快了训练收敛,并使模型能在几秒到几分钟内获得解,而 Siren 需要数十分钟到数小时(见表 1)。
- 统一的 DE 求解框架:同一架构可处理从泊松方程、赫姆霍兹方程、程函方程到薄壳仿真等多种偏微分方程,且可直接拟合信号(如 SDF、图像),无需任何结构修改。
- 对现有方法的系统性对比:论文不仅与 Siren 比较,还与 K-Planes、Instant-NGP 和 NeuRBF 进行了对照实验,证明了这些网格方法在纯微分约束下完全失效或发散,进而凸显 DInf-Grid 的独特价值(图 4、图 5、图 V)。
实验结果分析
泊松方程图像重建(第 4.1 节):在仅给定梯度或拉普拉斯图像的情况下,DInf-Grid 重建出高分辨率图像(512×512),PSNR 达 32.24 dB(梯度监督),相比之下 Siren 仅 32.12 dB,而 DInf-Grid 训练时间仅为 25 秒,Siren 需要 10 分钟(表 1)。K-Planes 因线性插值导数不连续,梯度场无法反传,直接失败。
赫姆霍兹方程(第 4.2 节):求解中心点源激发的稳态波场, 时 DInf-Grid 与解析解高度吻合,训练速度是 Siren 的 4 倍;K-Planes 和 Instant-NGP 均因二阶导数为零而崩溃(图 5)。在更高波数 下,DInf-Grid 仍保持良好精度,仅在 的源点附近出现较小误差(论文附录表 I)。
布料仿真(第 4.3 节):采用 Kirchhoff-Love 薄壳理论,通过能量极小化直接求解静态变形。DInf-Grid 在 网格下仅用约 4.37k 参数便生成了包含丰富褶皱的布料形态(图 6)。相比之下,基于线性插值的 Grid 方法因无法计算弯曲应变而完全失效。
信号拟合与程函方程(第 4.4 节及附录 C):DInf-Grid 既能直接从有向点云解出 3D 形状的 SDF(图 V),也能仅凭梯度图恢复图像,而 NeuRBF 即使以其专有的信号依赖初始化方式,仍无法收敛(PSNR 10.85,SSIM 0.17),验证了 DInf-Grid 在微分监督下的独特优势。
实践建议
对于从事人工智能、物理仿真或科学计算的实践者,DInf-Grid 提供了一种即插即用的高效求解方案。以下建议可供参考:
- 替换 Siren 作为默认神经场。当你的任务涉及梯度场、拉普拉斯场或高阶 PDE 监督时,可直接用 DInf-Grid 替代坐标基 MLP。根据论文方法,只需将损失函数设置为 PDE 残差,并采用分层采样生成训练点,即可在短时间内获得平滑解。
- 多分辨率网格的适用设置。经验性地, 配合 3 环邻域提供了良好的效率与精度平衡(见消融实验表 2)。在二维问题中,可选用 4 级分辨率(最大网格边长 512),三维问题可降为 56 左右以控制参数总量。对于超高波数的赫姆霍兹问题,可适当增大最大网格分辨率并增加训练迭代数。
- 硬边界约束的实施。与 PINNs 常用的软约束惩罚项不同,论文所采用的基于距离的调制函数 能更稳定地满足 Dirichlet 边界条件,尤其在逆问题或不规则域问题上,建议优先采用。
- 实际性能优化。目前 DInf-Grid 用 PyTorch 实现,RBF 插值在三维以上仍较慢。对于实时性要求不高的离线仿真,可直接使用;若追求极致速度,可考虑定制 CUDA 内核来并行计算 RBF 权重和邻域聚合,以逼近线性插值的效率。
- 结合传统数值方法。论文作者指出,DInf-Grid 在纯粹的速度上尚不及多网格求解器。在工程中,可将其作为微分约束下的 “连续代理模型”,先用传统快速求解器产生大量解样本,再用 DInf-Grid 进行元学习或快速插值,从而结合二者长处。