PINN与计算物理最新研究分享

4月前浏览4463

文一：

用平滑度提高精度保持滤波器去噪单元内粒子数据及其在Bohm速度计算中的应用

摘要：

等离子体物理的模拟在计算上是昂贵的，因为底层物理系统是高维的，需要三个空间维度和三个速度维度。一种流行的数值方法是细胞内粒子（PIC）方法，因为它易于实现，在高维问题中具有良好的可扩展性。该方法的一个不幸缺点是引入了由于使用有限多个粒子而产生的统计噪声。在本文中，我们研究了卷积核滤波器的平滑度增加精度保持（SIAC）族作为PIC模拟中产生的矩数据的去噪器的应用。我们表明，SIAC滤波是一种很有前途的工具，可以对物理空间中的PIC数据进行去噪，并在傅立叶空间中捕获适当的尺度。此外，我们还演示了SIAC技术的应用如何减少计算等离子体物理中感兴趣的量（如波姆速度）所需的信息量。

图：将逐点PIC数据划分为元素，并构建逐点数据的插入点的示例(𝑓𝑗 = 𝑓(𝑥𝑗)) 在每个元素上。

图：SIAC 滤波器解析傅里叶表示量级的变化。

图：SIAC滤波在周期磁场中的应用，用于捕获电子驱动的哨声不稳定性：（左上）整个域上的滤波数据与未滤波数据。（右）放大显示空间噪声阻尼的物理空间图。（左下）叠加了分析SIAC核响应的滤波和未滤波数据的单边振幅谱。

图：广义样条和自适应核尺度对边界行为保持的影响。

图：广义样条和自适应核标度对电子热通量梯度数据的影响𝑑𝑞∕𝑑𝑥 在物理和频率空间。

图：使用2600张快照时间平均的过滤和未过滤数据比较Bohm速度和离子出口流量。

文二：

损失注意力物理知情神经网络

摘要：

近年来，物理知情神经网络（PINN）已成为利用人工智能技术求解各种偏微分方程（PDE）的一项重要努力。然而，香草PINN模型结构在难以拟合的区域准确近似解方面遇到了挑战，例如，“刚度”点的特征是时间尺度的快节奏变化。为此，我们引入了一种基于PINN的新模型体系结构，称为损失-注意力物理知情神经网络（LA-PINN），它为每个损失分量配备了一个独立的损失-注意力网络（LAN）。馈送平方误差(𝑆𝐸) 在局域网的每个训练点上作为输入，然后由每个局域网建立注意力函数，并为不同的点提供不同的权重𝑆𝐸s.提出了一种基于点误差的加权方法，该方法利用LA-PINN模型中多个网络之间的对抗性训练来动态更新𝑆𝐸 在每个训练时期。此外，还分析了LA-PINN的加权机制，并通过几个数值实验进行了验证。实验结果表明，与普通PINN相比，该方法具有优越的预测性能，并具有快速收敛的特点。此外，它可以通过逐渐增加点误差的权重和更新梯度的增长率来促进那些难以拟合的点的收敛。

图：LA-PINN模型的架构示意图。

图：比较在100k训练时期不同模型的𝐿2误差。

图：Navier-Stokes方程预测解与精确解的比较。

图：NS方程权重分布的演化。

图：泊松方程预测解与精确解的比较。

图：整个200个时期的单个损失分量的平均梯度。

图：亥姆霍兹方程预测解与精确解的比较。

图：亥姆霍兹方程权重分布的演化。

文三：

修正物理信息神经网络（PINN）中的模型错误指定

摘要：

计算科学中控制方程的数据驱动发现已成为获得精确物理模型的新范式，也是理论推导的可能替代方案。最近开发的基于物理的神经网络（PINN）也被用于学习不同科学学科的控制方程，例如生物学和流体动力学。尽管PINN在发现控制方程方面是有效的，但在复杂系统中，PINN中编码的物理模型可能会被错误指定，因为一些物理过程可能无法完全理解，导致PINN预测的准确性较差。在这项工作中，我们提出了一种通用的方法来纠正PINN中指定错误的物理模型，以在给定一些稀疏和/或噪声数据的情况下发现控制方程。具体来说，我们首先对假设的物理模型进行编码，这些模型可能在PINN中被错误指定，然后使用其他深度神经网络（DNN）来对不完美模型和观测数据之间的差异进行建模。由于DNN的表现力，所提出的方法能够减少由模型错误指定引起的计算误差，从而使PINN能够在物理过程不完全已知的复杂系统中应用。此外，我们利用贝叶斯物理信息神经网络（B-PINN）和/或集合PINN来量化所发现的控制方程中由噪声和/或间隙数据引起的不确定性。包括反应扩散系统、非牛顿通道和空腔流在内的一系列数值例子表明，添加的DNN能够纠正PINN中的模型错误指定，从而减少PINN中编码的物理模型与观测数据之间的差异。此外，B PINN和系综PINN可以在所发现的物理模型中提供合理的不确定性边界，这使得预测更加可靠。我们还证明，我们可以将当前方法与符号回归无缝结合，以在训练PINN时获得显式控制方程。我们设想，所提出的方法将扩展PINN在物理化学或生物过程未被很好理解的问题中发现控制方程的应用。

图：从数据中学习控制方程的 PINN 示意图。

图：在（a）中，给出了PINN中总不确定性的细分。在（b）中，显示了PINN遇到模型错误规范的结果，其中假设牛顿流体的物理模型，但生成数据的真实物理是非牛顿的，采用PINN方法来识别损失函数中具有不同置信权重的均匀粘度。

图：概述了所提出的纠正错误物理的方法。

图：ODE系统：使用推断的解决已识别的系统𝑓 和𝜙 来自具有初始条件的B-PINN𝑢0 = 0. 推断的𝑓 和𝜙 来自（a）正确的物理模型，（b）指定错误的物理模型和（c）我们的方法。红色虚线：预测平均值；黑色实线：参考解。这表明，错误指定的物理模型会导致错误的重建𝑢 而我们的方法能够纠正它。由于缺乏对模型的了解，我们的方法产生的不确定性比正确的物理模型更大。

图：时间相关反应扩散系统。

文四：

用张量神经网络计算高维特征值问题的多特征对

摘要：

在本文中，我们提出了一种基于张量神经网络的机器学习方法来计算高维特征值问题的多特征对，而无需蒙特卡罗程序。求解多个本征值及其相应的本征函数是数学和计算物理学的基本任务之一。在张量神经网络的帮助下，可以高精度地计算机器学习过程的损失函数中包含的高维积分。高维积分的高精度可以提高机器学习方法计算高维特征值问题的多特征对的精度。在这里，我们介绍了张量神经网络，并设计了计算高维特征值问题的多特征对的机器学习方法。通过大量数值算例验证了该方法的有效性。

图：TNN的体系结构。黑色箭头表示线性变换（或仿射变换）。蓝色箭头的每个结束节点是通过对结束于该结束节点的蓝色箭头的所有开始节点进行标量相乘而获得的。TNN的最终输出来自红色箭头的所有起始节点的总和。

图：二维耦合谐振子的前16个特征函数在坐标(x1，x2)的等高线图。两条虚线分别是 y1 = 0和 y2 = 0。

图：第一个例子中的前三个本征函数的轮廓图，使用有限元方法计算𝑑 = 2（列“FEM，𝑑 = 2”）和基于TNN的本征解算器𝑑 = 2（列“TNN，𝑑 = 2.𝑑 = 50（列“TNN，𝑑 = 50”), 𝑑 = 100（列“TNN，𝑑 = 100”）。

文五：

NAS-PINN：用于求解偏微分方程的神经结构搜索引导的物理知情神经网络

摘要：

自提出以来，物理知情神经网络（PINN）一直是求解偏微分方程的一种流行框架。通过损失函数将物理信息纳入神经网络，它可以以无监督的方式预测偏微分方程的解。然而，神经网络结构的设计基本上依赖于先验知识和经验，这造成了很大的麻烦和较高的计算开销。因此，我们提出了一种神经结构搜索引导的方法，即NAS-PINN，来自动搜索解决某些偏微分方程的最佳神经结构。通过将搜索空间放宽为连续空间，并利用掩码实现不同形状张量的添加，可以通过双层优化来训练NAS-PINN，其中内环优化神经网络的权重和偏差，外环优化架构参数。我们通过几个美国实验验证了NAS-PINN的能力，包括泊松方程、Burgers方程和平流方程。总结了求解不同偏微分方程的有效神经结构的特点，可用于指导PINN中神经网络的设计。研究发现，更多的隐藏层并不一定意味着更好的性能，有时可能是有害的。特别是对于泊松和平流，具有更多神经元的浅层神经网络更适合用于PINN。研究还表明，对于复杂问题，具有残差连接的神经网络可以提高PINN的性能。