基于梯度优化物理信息神经网络求解复杂非线性问题

近年来,物理信息神经网络(PINNs)因其仅通过少量数据就能快速获得高精度的数据驱动解而受到越来越多的关注.然而,尽管该模型在部分非线性问题中有着很好的结果,但它还是有一些不足的地方,如它的不平衡的反向传播梯度计算导致模型训练期间梯度值剧烈振荡,这容易导致预测精度不稳定.基于此,本文通过梯度统计平衡了模型训练期间损失函数中不同项之间的相互作用,提出了一种梯度优化物理信息神经网络(GOPINNs),该网络结构对梯度波动更具鲁棒性.然后以Camassa-Holm(CH)方程、导数非线性薛定谔方程为例,利用GOPINNs模拟了CH方程的peakon解和导数非线性薛定谔方程的有理波解、怪波解.数值结果表明,GOPINNs可以有效地平滑计算过程中损失函数的梯度,并获得了比原始PINNs精度更高的解.总之,本文的工作为优化神经网络的学习性能提供了新的见解,并在求解复杂的CH方程和导数非线性薛定谔方程时用时更少,节约了超过三分之一的时间,并且将预测精度提高了将近10倍.