基于龙格库塔法的多输出物理信息神经网络模型

物理信息神经网络(physics-informed neural networks, PINN)由于嵌入了物理先验知识,可以在少量训练数据的情况下获得自动满足物理约束的代理模型,受到了智能科学计算领域的广泛关注.但是, PINN的离散时间模型(PINN-RK)无法同时近似多个物理量相互耦合的偏微分方程系统,限制了其处理复杂多物理场的能力.为了打破这一限制,文章提出了一种基于龙格库塔法的多输出物理信息神经网络(multi-output physics-informed neural networks based on the Runge-Kutta method, MO-PINN-RK), MO-PINN-RK模型在离散时间模型的基础上采用了并行输出的神经网络结构,通过将神经网络划分为多个子网络,建立了多个神经网络输出层.采用不同输出层近似不同物理量的方式, MO-PINN-RK模型不仅可以同时表征多个物理量,而且还能够实现求解偏微分方程系统的目的.另外, MO-PINN-RK克服了PINN离散时间模型仅适用于一维空间的局限性,将其应用范围扩展到了更为普遍的多维空间.为了验证MO-PIN...     

基于物理信息神经网络的薄壁结构屈曲分析

基于物理信息神经网络(PINN)建立了一种求解薄壁结构屈曲非线性控制方程组的方法.薄壁结构的非线性控制方程可由挠度和应力函数表示成复杂的4阶非线性偏微分方程组,使用物理信息神经网络(PINN)解法可以克服传统数值方法对求解域网格的依赖性.文中建立的神经网络模型根据基于加权的均方误差的损失函数更新网络参数,并用弧长法迭代的思想进行外层迭代控制以应对屈曲问题的迭代特性.将弧长法,硬边界条件,基于预训练的权重调整策略,以及自适应激活函数策略融合进网络优化的过程中使得PINN能够更为高效地求解线性与非线性屈曲问题.文章对两种典型的薄壁结构进行了屈曲模态和带有缺陷的非线性后屈曲问题求解,并将神经网络获得的解和有限元结果进行了对比.结果分析表明,物理信息神经网络方法能够在不需要标签数据的前提下对薄壁结构的屈曲问题进行有效分析,并且给予的额外标签数据能够提高此方法的求解效率.该方法虽较成熟的有限元解法收敛速度较慢,但不需要对求解域进行人为的前处理,有一定工程应用可行性.     

基于神经算子与类物理信息神经网络智能求解新进展

深度学习通过多层神经网络对数据进行学习,不仅能揭示潜藏信息,还能很好地解决复杂非线性问题.偏微分方程(PDE)是描述自然界中许多物理现象的基本数学模型.两者的碰撞与融合,产生了基于深度学习的PDE智能求解方法,它具有高效、灵活和通用等优点.文章聚焦PDE智能求解方法,以是否求解单一问题为判定依据,把求解方法分为两类:神经算子方法和类物理信息神经网络(PINN)方法,其中神经算子方法用于求解一类具有相同数学特征的PDE问题,类PINN方法用于求解单一问题.对于神经算子方法,从数据驱动和物理约束两个方面展开介绍,分析研究现状并指出现有方法的不足.对于类PINN方法,首先介绍了基础PINN的3种改进方法 (基于数据优化、基于模型优化和基于领域知识优化),然后详细介绍了基于物理驱动的两类解决方案:基于传统PDE离散方程的智能求解方案和无网格的非离散求解方案.最后总结技术路线,探讨现有研究存在的不足,给出可行的研究方案.最后,简要介绍智能求解程序发展现状,并对未来研究方向给出建议.     

不可压缩平面问题的位移-压力混合重心插值配点法

引入人工压力变量,将弹性本构方程以应力、应变和压力表达,建立求解不可压缩平面弹性问题的位移-压力方程和不可压缩条件方程的耦合偏微分方程组。利用张量积型重心Lagrange插值近似二元函数,得到计算插值节点处偏导数的偏微分矩阵。采用配点法离散不可压缩弹性控制方程,利用偏微分矩阵直接离散弹性力学控制方程为矩阵形式方程组。利用插值公式离散位移和应力边界条件,将离散边界条件与离散控制方程组合为新的方程组,得到求解弹性问题的过约束线性代数方程组;利用最小二乘法求解线性方程组,得到弹性力学问题位移数值解。数值算例验证了所提方法的数值计算精度为10-14~10-10。     

基于神经网络的差分方程快速求解方法

近年来, 人工神经网络(artificial?neural?networks, ANN), 尤其是深度神经网络(deep?neural?networks, DNN)由于其在异构平台上的高计算效率与对高维复杂系统的拟合能力而成为一种在数值计算领域具有广阔前景的新方法. 在偏微分方程数值求解中, 大规模线性方程组的求解通常是耗时最长的步骤之一, 因此, 采用神经网络方法求解线性方程组成为了一种值得期待的新思路. 但是, 深度神经网络的直接预测仍在数值精度方面仍有明显的不足, 成为其在数值计算领域广泛应用的瓶颈之一. 为打破这一限制, 本文提出了一种结合残差网络结构与校正迭代方法的求解算法. 其中, 残差网络结构解决了深度网络模型的网络退化与梯度消失等问题, 将网络的损失降低至经典网络模型的1/5000; 修正迭代的方法采用同一网络模型对预测解的反复校正, 将预测解的残差下降至迭代前的10?5倍. 为验证该方法的有效性与通用性, 本文将该方法与有限差分法结合, 对热传导方程与伯格方程进行了求解. 数值结果表明, 本文所提出的算法对于规模大于1000的方程组具有10倍以上的加速效果, 且数值误差低于二阶差分格式的离散误差.      

求解浅水波方程的并行物理信息神经网络算法

双曲守恒律方程是一类比较特殊的偏微分方程,其数值求解方法的研究一直是一个热点问题,一个显著特性是即使初始条件是光滑的,其解也可能会发展成间断。浅水波方程作为非线性双曲守恒律方程,由于间断解的存在,其精确求解存在很大困难。针对浅水波方程数值求解问题,本文基于PINN(Physics informed neural networks)反问题网络结构构造新的网络,构造的网络结构包括两个并行的神经网络,其中一个网络与已知状态数据(熵稳定格式加密求出)相关,另一个网络与方程本身相关。利用已知速度数据结合浅水波方程本身求解未知水深,最终通过一些数值算例验证网络的可行性。结果表明,新的网络结构可用于浅水波方程求解,利用速度数据可以较为精确地推算出水深。     

基于组合神经网络的雷诺平均湍流模型多次修正方法

求解雷诺平均(Reynolds-averaged Navier-Stokes, RANS)方程依然是工程应用中有效且实用的方法, 但对雷诺应力建模的不确定性会导致该方法的预测精度具有很大差异. 随着人工智能的发展, 湍流闭合模型结合机器学习元素的数据驱动方法被认为是提高RANS模型预测性能的有效手段, 然而这种数据驱动方法的稳定性和预测精度仍有待进一步提高. 本文通过构建一个全连接神经网络对RANS方程中的涡黏系数进行预测以实现雷诺应力的隐式求解,该神经网络记作涡黏系数神经网络(eddy viscosity neural network, EVNN). 此外, 也使用张量基神经网络(tensor basis neural network, TBNN)预测未封闭量与解析量之间的高阶涡黏关系, 并利用基张量保证伽利略不变性. 最后, 采用多次修正的策略实现修正模型对流场预测的精度闭环. 上述方法使用大涡模拟(large eddy simulation, LES)方法产生的高保真数据, 以及RANS模拟获得的基线数据对由EVNN和TBNN组合的神经网络进行训练, 然后用训练好的模型预测新的RANS模拟的流场. 通过与高保真LES结果进行对比, 结果表明, 相比于原始RANS模型, 修正模型对后验速度场、下壁面平均压力系数和摩擦力系数的预测精度均有较大提升. 可以发现对雷诺应力线性部分的隐式处理可以增强数值求解的稳定性, 对雷诺应力非线性部分的修正可以提升模型对流场各向异性特征预测的性能, 并且多次修正后的模型表现出更高的预测精度. 因此, 该算法在数据驱动湍流建模和工程应用中具有很大的应用潜力.      

面内变刚度薄板弯曲问题的挠度?弯矩耦合神经网络方法

发展了一种求解面内变刚度功能梯度薄板弯曲问题的神经网络方法. 面内变刚度薄板弯曲问题的偏微分控制方程为一复杂的4阶偏微分方程, 传统的基于强形式的神经网络解法在求解该偏微分方程时可能会遇到难以收敛、边界条件难以处理的情况. 本文基于Kirchhoff薄板弯曲理论, 提出了一种直角坐标系下任意面内变刚度薄板弯曲问题的神经网络解法. 神经网络模型包含挠度网络与弯矩网络, 分别用于预测薄板的挠度与弯矩, 从而将求解4阶偏微分方程转换为求解一系列二阶偏微分方程组, 通过对挠度、弯矩试函数的构造可使得神经网络计算结果严格满足边界条件. 在误差的反向传播中, 根据本文提出的误差函数公式计算训练误差并结合Adam优化算法更新模型的内部参数. 求解了不同边界条件、形状的面内变刚度薄板弯曲问题, 并将所得计算结果与理论解、有限元解进行对比. 研究表明, 本文模型对于求解面内变刚度薄板弯曲问题具备适应性, 虽然模型中的弯矩网络收敛较挠度网络要慢, 但本文方法在试函数的构造上更为简单、适应性更强.      

Burgers方程的小波精细积分算法

求解偏微分方程的常用方法包括有限差分法、有限元法等。近年来,小波分析在偏微分方程数值求解中的应用已引起很多学者的关注,例如采用Daubechies小波或shannon小波构造的小波配置方法已经取得较好的结果。钟万勰院士提出的偏微分方程的子域精细积分方法是一种半解析方法,方法简单,精度高。将小波方法和精细积分方法相结合应用于偏微分方程的数值求解中将有利于提高算法的精度和稳定性,为此本文以Burgers方程为例,提出了一种求解一维非线性抛物型偏微分方程的小波精积分方法。该方法用拟小波配点法对空间域进行离散,建立起对时间的常微分方程组,然后采用精细时程积分方法对该方程组求解。数值计算结果表明,该方法同其它方法相比,具有计算格式简单,数值稳定性和精度较高的优点。     

基于神经网络的偏微分方程求解方法研究综述

神经网络作为一种强大的信息处理工具在计算机视觉,生物医学,油气工程领域得到广泛应用,引发多领域技术变革.深度学习网络具有非常强的学习能力,不仅能发现物理规律,还能求解偏微分方程.近年来基于深度学习的偏微分方程求解已是研究新热点.遵循于传统偏微分方程解析解、偏微分方程数值解术语,本文称用神经网络进行偏微分方程求解的方法为...     

Solving Huxley equation using an improved PINN method

Although many effective methods for solving partial differential equations (PDEs) have been proposed, there is no universal method that can solve all PDEs. Therefore, solving partial differential equations has always been a difficult problem in mathematics, such as deep neural network (DNN). In recent years, a method of embedding some basic physical laws into traditional neural networks has been proposed to reveal the dynamic behavior of equations directly from space-time data [i.e., physics-informed neural network (PINN)]. Based on the above, an improved deep learning method to recover the new soliton solution of Huxley equation has been proposed in this paper. As far as we know, this is the first time that we have used an improved method to study the numerical solution of the Huxley equation. In order to illustrate the advantages of the improved method, we use the same network depth, the same hidden layer and neurons contained in the hidden layer, and the same training sample points. We analyze the dynamic behavior and error of Huxley’s exact solution and the new soliton solution and give vivid graphs and detailed analysis. Numerical results show that the improved algorithm can use fewer sample points to reconstruct the exact solution of the Huxley equation with faster convergence speed and better simulation effect.

     

Some methods of training radial basis neural networks in solving the Navier‐Stokes equations

The purpose of this research is to analyze the application of neural networks and specific features of training radial basis functions for solving 2‐dimensional Navier‐Stokes equations. The authors developed an algorithm for solving hydrodynamic equations with representation of their solution by the method of weighted residuals upon the general neural network approximation throughout the entire computational domain. The article deals with testing of the developed algorithm through solving the 2‐dimensional Navier‐Stokes equations. Artificial neural networks are widely used for solving problems of mathematical physics; however, their use for modeling of hydrodynamic problems is very limited. At the same time, the problem of hydrodynamic modeling can be solved through neural network modeling, and our study demonstrates an example of its solution. The choice of neural networks based on radial basis functions is due to the ease of implementation and organization of the training process, the accuracy of the approximations, and smoothness of solutions. Radial basis neural networks in the solution of differential equations in partial derivatives allow obtaining a sufficiently accurate solution with a relatively small size of the neural network model. The authors propose to consider the neural network as an approximation of the unknown solution of the equation. The Gaussian distribution is used as the activation function.     

Physics-informed deep learning for incompressible laminar flows

Physics-informed deep learning has drawn tremendous interest in recent years to solve computational physics problems, whose basic concept is to embed physical laws to constrain/inform neural networks, with the need of less data for training a reliable model. This can be achieved by incorporating the residual of physics equations into the loss function. Through minimizing the loss function, the network could approximate the solution. In this paper, we propose a mixed-variable scheme of physics-informed neural network(PINN) for fluid dynamics and apply it to simulate steady and transient laminar flows at low Reynolds numbers. A parametric study indicates that the mixed-variable scheme can improve the PINN trainability and the solution accuracy. The predicted velocity and pressure fields by the proposed PINN approach are also compared with the reference numerical solutions. Simulation results demonstrate great potential of the proposed PINN for fluid flow simulation with a high accuracy.     

薄板弯曲问题的神经网络方法

为发展神经网络方法在求解薄板弯曲问题中的应用,基于Kirchhoff板理论,提出一种采用全连接层求解薄板弯曲四阶偏微分控制方程的神经网络方法.首先在求解域、边界中随机生成数据点作为神经网络输入层的参数,由前向传播系统求出预测解;其次计算预测解在域内及边界处的误差,利用反向传播系统优化神经网络系统的计算参数;最后,不断训...     

基于物理信息神经网络的功能梯度材料稳态/瞬态热传导分析

采用物理信息神经网络PINN(Physics-informed Neural Networks)求解稳态和瞬态功能梯度材料(FGMs)热传导问题。该方法利用控制方程、边界及初始条件的残差构造损失函数,在无任何响应数据的情况下得到了更具泛化能力的神经网络模型,同时避免了传统数值方法在求解计算力学问题时所需的微分、积分公式推导以及繁重的建模和划分网格等前处理工作。本文探究了PINN及其域分解的扩展物理信息神经网络XPINN(eXtended Physics-informed Neural Networks)在求解稳态和瞬态FGMs热传导问题时的适用性,讨论了网络结构对预测结果的影响。研究结果表明,PINN/XPINN在解决几何复杂的稳态和瞬态FGMs热传导问题时仍具有较高的可靠性和简洁的求解流程,同时,为极端环境下求解复杂多场耦合和夹杂等问题提供了新思路。     

Neural network as a function approximator and its application in solving differential equations

A neural network(NN) is a powerful tool for approximating bounded continuous functions in machine learning. The NN provides a framework for numerically solving ordinary differential equations(ODEs) and partial differential equations(PDEs)combined with the automatic differentiation(AD) technique. In this work, we explore the use of NN for the function approximation and propose a universal solver for ODEs and PDEs. The solver is tested for initial value problems and boundary value problems of ODEs, and the results exhibit high accuracy for not only the unknown functions but also their derivatives. The same strategy can be used to construct a PDE solver based on collocation points instead of a mesh, which is tested with the Burgers equation and the heat equation(i.e., the Laplace equation).     

Helmholtz方程的微分容积解法

用一种新型的数值技术－－微分容积法（Differential Cubature Method）求解二维Helmholtz方程的边值问题，几个数值算例表明，该方法稳定收敛，并具有较好的数值精度，本文方法适用于求解具有较小波数的Helmholtz方程。