求解偏微分方程的强大武器——PINN（物理约束的神经网络）

8月前浏览8203

文一：

通过物理进行科学机器学习——物理约束神经网络：我们现在的处境和下一步的发展

摘要：

物理约束神经网络（PINN）是将模型方程（如偏微分方程（PDE））编码为神经网络本身的一个组成部分的神经网络。PINN目前用于求解偏微分方程、分数方程、积分微分方程和随机偏微分方程。这种新方法是作为一种多任务学习框架出现的，其中神经网络必须拟合观测数据，同时减少PDE残差。本文对PINN的文献进行了全面的综述：而研究的主要目标是描述这些网络及其相关的优缺点。

该综述还试图纳入关于更广泛的基于搭配的物理知情神经网络的出版物，恒星形成了香草PINN，以及许多其他变体，如物理约束神经网络（PCNN）、变分hp-VPNN和保守PINN（CPINN）。研究表明，大多数研究都集中在通过不同的激活函数、梯度优化技术、神经网络结构和损失函数结构来计算PINN。尽管PINN的应用范围很广，但通过证明它们在某些情况下比有限元法（FEM）等经典数值技术更可行，进步仍然是可能的，尤其是尚未解决的理论问题。

图：物理学为神经网络构建块提供了信息。PINN由微分方程残差（损失）项以及初始条件和边界条件组成。网络的输入（变量）被转换为网络输出（字段u）。网络由θ定义。第二个领域是物理信息网络，它获取输出场u，并使用给定的方程计算导数。还评估边界/初始条件（如果尚未在神经网络中进行硬编码），并计算标记的数据观测值（如果有任何可用数据）。所有这些残差的最后一步是反馈机制，根据一些学习率，使用优化器将损失最小化，以获得NN参数θ

文二：

流体力学的物理信息神经网络（PINN）综述

摘要：

尽管在过去50年中，使用Navier-Stokes方程（NSE）的数值离散化来模拟流动问题取得了重大进展，但我们仍然无法将噪声数据无缝地纳入现有算法中，网格生成很复杂，并且我们无法解决由参数化NSE控制的高维问题。此外，求解逆向流动问题的成本往往高得令人望而却步，并且需要复杂而昂贵的公式和新的计算机代码。

在这里，我们回顾了流物理知情学习，无缝集成数据和数学模型，并使用物理知情神经网络（PINN）实现它们。我们证明了PINN对三维尾流、超音速流和生物医学流相关反问题的有效性。

图：物理信息神经网络（PINN）示意图。使用以时间和空间坐标（t，x）为输入的全连接神经网络来近似多物理解。使用自动微分法（AD）计算了Şu相对于输入的导数，然后用于公式化损失函数中控制方程的残差，损失函数通常由不同系数加权的多个项组成。通过最小化损失函数，可以同时学习神经网络的参数θ和未知的PDE参数λ

图：不可压缩流的PINN案例研究：模拟圆柱上三维尾流的图示。由流向速度颜色编码的整个域中的涡度（x分量）的等值面。在这种情况下，带有蓝色边的立方体表示计算域。b域中的速度场和压力场。模拟由CFD求解器Nektar进行，该求解器基于光谱/hp单元法

图：通过具有相依赖性渗透率的血栓的2D流量的推断结果。a训练损失的历史（损失PDE、损失IC、损失BC和损失数据）和b推断的关系函数κ=f（φ）。cφpred和vpred在t=0.78时的绝对误差。我们从30个快照（t∈[0.03，0.93]）中提取10000个数据点作为训练数据，以推断渗透率。推断渗透率值为0.0011和1.0003，而真实值为0.001和1.0

文三：

一种基于修正损失函数的基于物理信息的神经网络技术，用于计算二维和三维固体力学

摘要：

尽管发展迅速，但基于物理信息神经网络的计算固体力学仍处于起步阶段。在PINN中，损失函数起着关键作用，它显著影响预测的性能。在本文中，通过使用最小二乘加权残差（LSWR）方法，我们提出了一种改进的损失函数，即LSWR损失函数，该函数被定制为只有一个手动确定参数的无量纲形式。基于LSWR损失函数，为计算二维和三维固体力学开发了一种先进的PINN技术。通过二维和三维（几何非线性）问题测试了所提出的具有LSWR损失函数的PINN技术的性能。对现有的两种损失函数，基于能量的损失函数和配置损失函数，以及所提出的LSWR损失函数进行了深入的研究和比较。通过数值实验，我们证明了基于LSWR损失函数的PINN在预测位移场和应力场方面是有效、稳健和准确的。这项工作中数字示例的源代码可以在https://github.com/JinshuaiBai/LSWR_loss_function_PINN/.

图：对二维随机分布样本点的数值积分算法的说明。a通过采样点和Delaunay三角剖分将计算域离散为三角形；b对于三角形，从三角形质心到三角形边中点的线将三角形划分为三个域。分割域的区域被分配给相应的采样点（例如，红色域的区域分配给红色采样点）；c对于边界，li是点i的两个相邻线段之和的一半长度

图：纯弯曲梁问题的位移场和应力场的解析解；b具有LSWR损耗函数的PINN；c具有基于能量的损失函数的PINN；具有配置损失函数的d PINN

图：本文给出了一个具有LSWR损耗函数的PINN的纯弯曲梁问题的位移场和应力场的相对误差等值线；

b具有基于能量的损失函数的PINN；具有配置损失函数的c PINN

图：从具有LSWR损失函数的PINN到均匀粒子分布的具有球空心问题的3D立方体的位移场的比较；b具有朝向随机粒子分布的LSWR损失函数的PINN；c有限元法

文四：

用于传热问题的基于物理的神经网络

摘要：

物理信息神经网络（PINN）由于其在解决具有噪声数据和经常部分缺失物理的现实问题方面的有效性，在不同的工程领域中越来越受欢迎。在PINN中，利用自动微分来评估没有离散化误差的微分算子，并定义了一个多任务学习问题，以便在尊重基本物理定律的同时拟合观测数据。在这里，我们介绍了PINN在各种原型传热问题中的应用，针对传统计算方法无法解决的特定现实条件。为此，我们首先考虑加热表面上具有未知热边界条件的强迫对流和混合对流，并在给定一些稀疏的温度测量的情况下，旨在获得域中各处的温度场和速度场，包括边界。我们还考虑了两相流的原型Stefan问题，旨在推断移动界面、各处的速度场和温度场，以及固体和液体相的不同电导率，给定域内的一些温度测量值。最后，我们介绍了一些与电力电子相关的实际工业应用，以突出PINN的实用性，以及神经网络在解决工业复杂性的一般传热问题中的有效应用。总之，本文的结果表明，PINN不仅可以解决传统计算方法无法解决的不适定问题，而且还可以弥合计算和实验传热之间的差距。

图：外壳内的强制对流。红色的边界处于较高的温度，冷却流入从左下进入，从右上离开。蓝色箭头显示速度矢量。边界EF和GH处的温度尚不清楚。绿色三角形表示温度探针，而红色圆圈表示速度探针。

图：封闭空间中的强迫对流：PINN推断的h、u、v和p与谱元法参考模拟结果的比较

图：经过具有恒定温度表面的圆柱体的流动的强制对流：由传感器配置的PINN推断的温度、速度和压力场案例3（左）以及CFD和PINN之间的逐点绝对误差（右）

图：求解电子芯片上的热方程。（a）具有Dirichlet边界条件的二维瞬态传热问题；（b）热源位于正方形中心的二维瞬态传热问题。在训练时区内（插值）和训练时区外（外推）的水平中心线上进行比较。（c）芯片上的2D热传递。对通过芯片上最热点的红色剖面线进行比较。（d）使用受PINN启发的基于图像梯度的自动编码器方法对2D和3D芯片进行热分析[22]。（e）对于不同的电源位置、具有功率的瓦片大小和功率大小，通过参数化PINN在具有单个瓦片作为电源的芯片上进行温度预测。（由Central ML ANSYS团队提供。）

文五：

基于领域分解技术的基于物理信息的神经网络求解固体力学中的多材料问题

摘要：

物理信息神经网络在固体力学领域有着广泛的应用。目前，PINN主要用于解决涉及单一均匀材料的问题。然而，它们处理由多种材料引起的不连续性的能力有限，并且缺乏严格表达复杂材料接触模型的能力。我们提出了一种使用物理信息神经网络解决固体力学中多材料问题的方法。受域分解技术的启发，计算域根据材料的几何分布进行划分，并应用不同的子网络来表示场变量。这项研究解释了由材料性质控制的不变动量平衡、运动学关系和不同的本构关系如何被纳入子网络，并使用额外的正则项来描述材料之间的接触关系。使用所提出的方法解决了从二维平面应变问题到三维拉伸问题的各种测试案例。我们在多任务学习（MTL）中引入了参数共享的概念，并将其纳入所提出的方法中，这在选择共享结构和共享模式方面产生了额外的自由度。与常见的基于完全独立参数的物理知情神经网络算法相比，我们开发了一种部分共享结构和全部共享模式的网络结构，在解决示例问题时实现了更高的精度。