海浪是海洋中常见的一种小尺度波动现象, 与海上航行、海洋养殖及捕捞、海岸带维护、海洋能源与环境、海上油气风电等重大海洋工程以及海上军事等息息相关^[1-5]。海浪的高度一般在几厘米到二十余米, 在一些极端情况下甚至可达到30 m以上, 对海上作业、近岸的重要港口码头及海洋工程设施等构成极大的威胁。提高海浪要素预测的精度、提升海浪预报的准确性和时效性, 对增强海上安全保障、最大程度降低海浪对人类海上活动造成的损失具有重要的意义。

海浪预报的研究与应用从研究之初通常采用的半经验半理论预报方法(有效波预报和波谱预报)及经验统计预报方法, 发展到如今基于实际观测结果的、考虑各种海浪物理过程的数值模拟预报方案, 取得了一系列突破性的进展^[6]。20世纪40年代, 提出了将海浪视为随机过程的研究方法和海浪谱的概念, 为后续的海浪预报技术发展奠定了重要基础。20世纪50年代后期, Gelci提出了二维谱传输方程^[7], 并由此建立海浪数值模式, 为不同海域海浪预报及海洋耦合模式的发展奠定了良好的基础。根据谱能量平衡方程右端源函数项中对波-波非线性相互作用这一物理机制的不同处理, 海浪数值模式经历了三代的发展过程。第三代海浪数值模式始于WAM (WAve Model)^[8], 其他海浪数值模式都是在其基础上发展而来。目前, 全球普遍接受的海浪数值模式包括ECMWF-WAM^[9]、WWIII(WaveWatch III)^[10]、SWAN(Simulating WAve Nearshore)模式^[11-12]等; 我国自主研制开发的MASNUM-WAM(the Key Laboratory of MArine Science and NUmerical Modeling - WAve Model)模式^[13-15]也在全球和区域的海浪研究及海洋工程中得到了广泛的应用。

随着海浪相关理论的发展, 浮标和卫星遥感等海洋观测技术水平的提高以及计算机数值模拟能力的进步, 海浪数值模式的预报精度得到了大幅的提升。同时, 海洋参数数据不断丰富、积累, 逐渐形成了“海洋大数据”。因此, 当前的海浪模式开始面临观测数据同化技术越来越复杂、高精度模式运行成本越来越高、时效性越来越差等问题, 这已然成为制约海浪预报技术进一步发展的瓶颈。另一方面, 如何充分分析、应用“海洋大数据”, 进一步认识海浪也成为新的攻关课题。近年来, 人工智能(Artificial Intelligence, AI)和智能优化算法的融合发展及超算、GPU等并行计算设备的普及, 使得基于数据驱动的人工智能方法被逐渐应用于海浪研究中。实现人工智能的方式有很多, 但海浪研究中广泛采用“学习”的方式, 即建立深度学习(Deep Learning)模型“学习”海浪。考虑建立基于深度学习的参数化方案或高效海浪预报模型, 或可成为突破当前海浪预报发展瓶颈的一种新思路, 这也为进一步改进源函数项参数化方案、建立海浪“智能模式”、实现海浪智能预报和发展海洋数字孪生(DTO)奠定了基础。

本文首先简单介绍了深度学习的发展以及海浪预测任务中常用的基本模型: 循环神经网络和卷积神经网络。鉴于这些模型在海浪中的广泛运用, 我们从海浪有效波高预测以及海浪谱两个应用方面对近期相关研究进展进行综述, 总结了深度学习方法在海浪研究中的优势与不足并对未来基于深度学习模型的海浪预测发展做出了展望。

1 深度学习

2006年, 深度置信网络(Deep Belief Network, DBN)预训练成功, 标志着深度神经网络模型的兴起和深度学习的诞生^[16]。深度学习主要运用神经网络模型来解决基于反向传播算法的各种任务中不同参数对输出的贡献分布问题, 其简要发展如图 1所示。然而, 神经网络模型的发展是曲折的。在过去的研究中, 由于数据因素、梯度消失、计算机性能限制、优化难度大、可解释性差等因素导致神经网络的研究陷入低谷。随着计算机技术理论的成熟和设备性能的提高, 卷积神经网络^[17-19]、递归神经网络^[20-22]以及具有代表性的网络结构如AlexNet和Inception等表现出良好的性能。2015年, Lecun等^[23]总结了深度学习的主要模型和任务。后来, Luong等^[24]提出了一种从海量信息中选择主要特征的注意力机制, 有利于提高不同网络模型处理细节的效率。同时, 一些经典模型如U-Net、FCN和ResNet等^[25-27]表现出良好的性能, 在图像处理任务中得到了广泛应用。2017年, Vaswani等^[28]提出了基于自注意力机制的Transformer, 创新性地发展了序列到序列模型, 不仅提高了并行运算效率, 还有利于捕获长序列的依赖关系。在这期间, DeepMind开发的AlphaGo击败了围棋冠军; 几年后, AlphaFlod2系统也成功预测了蛋白质折叠结构, 为生物学和医学的快速发展做出了重要贡献。2022年, OpenAI开发了基于自然语言处理模型——ChatGPT, 推动了自然语言处理和生成式大模型的研究。这些成就表明, 深度学习在解决复杂问题方面具有巨大潜力。相比经典的机器学习算法, 深度神经网络模型可以在数以万计的数据中自动提取“隐含特征”并获得丰富信息来提高模型泛化能力, 避免了传统机器学习方法中选取特征、特征提取等复杂步骤, 提高了模型的运行效率^[29], 使得机器学习更接近人工智能。

目前, 深度学习在数据挖掘、自然语言处理、图像识别、时间序列预测及生物信息学等领域具有许多应用与拓展^[30]。在海洋学研究中, 为了探索海洋数据蕴含的“潜在规律”及不同参数数据之间的联系, 人工智能技术和海洋学学科交叉融合诞生的人工智能海洋学在海洋现象特征识别、海洋特征参数预测、物理机制参数化方案替换及“智慧海洋-数字孪生”等方面得到了广泛应用^[31-32]。在海浪预测领域, 深度学习方法并非完全依赖于波动方程、谱能量平衡方程及其他海浪生成传播机制。通过构建深度神经网络模型, 从海量的数据中有效地学习输入风场与输出海浪特征要素之间复杂的非线性关系, 挖掘不同时空维度的潜在规律, 实现高效的海浪预测。因此, 基于数据驱动的深度学习方法一定程度上克服了当前海浪数值模式的瓶颈, 有助于推动海浪预报发展。

2 海浪预测中的基本深度学习模型 2.1 循环神经网络

循环神经网络(Recurrent Neural Network, RNN)是一种可以保存部分历史信息的有向带环神经网络结构, 其循环部分给网络增加了“记忆能力”, 近年来被广泛应用于时间序列数据预测、语音识别和自然语言处理等任务。在海浪预测中, 循环神经网络常被用来提取过去时刻风场或海浪要素的时间特征, 通过不同隐藏单元特征的传递与融合实现未来时刻海浪特征要素的预测。但是当网络建立长时间间隔不同状态间的依赖关系时, 模型训练过程中往往会出现梯度消失或梯度爆炸, 即长程依赖问题。模型训练迭代过程中, 历史时刻学习结果的误差也会被带入下一时刻特征提取过程中, 容易造成误差累积。因此, 在模型建立过程中避免较长时间序列的迭代与输出, 致力于较短时间的海浪特征要素预测。

为了改善传统的循环神经网络长程依赖问题并优化网络的记忆存储, 在循环神经网络中引入门控机制, 提出了长短期记忆神经网络(Long Short-term Memory Network, LSTM)和门控循环单元网络(Gated Recurrent Unit, GRU)保证模型训练中的梯度值可以长时间传递下去^[33-34]。不同于一般的循环神经网络的结构, 在不同的时刻t, 每一个LSTM单元包含输入门$ i(t) $、遗忘门$ f(t) $和输出门$ o(t) $, 表达式为

$ i(t) = \sigma ({W_i}{x_t} + {U_i}{h_{t - 1}} + {b_i}), $

(1)

$ f(t) = \sigma ({W_f}{x_t} + {U_f}{h_{t - 1}} + {b_f}), $

(2)

$ o(t) = \sigma ({W_o}{x_t} + {U_o}{h_{t - 1}} + {b_o}). $

(3)

其中, x是模型的输入样本, W、U和b为网络参数, $ \sigma $是Logistic非线性激活函数, $ {h_{t - 1}} $是上一时刻的隐状态, 包含了前面时刻的短期历史特征信息, 结构如图 2(a)所示。当输入信息经过LSTM时, 三个门可以有效控制每一个LSTM单元内部信息的动态变化, 特别在长序列特征提取中, LSTM中的遗忘门结构可以遗忘部分历史信息, 防止单元信息饱和, 有助于提高模型性能。此外, LSTM网络含有记忆单元$ c(t) $, 其记忆信息保存时间优于每一个单元的隐状态$ h(t) $, 有助于在海浪单点预测中提升较长时序数据预测的精度。而GRU是一种比LSTM更为简单的结构且每个单元仅含有更新门$ z(t) $及重置门$ r(t) $, 表达式为

$ z(t) = \sigma ({W_z}{x_t} + {U_z}{h_{t - 1}} + {b_z}), $

(4)

$ r(t) = \sigma ({W_r}{x_t} + {U_r}{h_{t - 1}} + {b_r}). $

(5)

与LSTM类似, $ \sigma $是Logistic非线性激活函数, $ {h_{t - 1}} $是上一时刻的隐状态, 结构如图 2(b)所示。GRU单元可以同时控制遗忘的信息及状态单元, 通过更新门来决定保留$ t - 1 $时刻的信息量且从候选状态中选择可以接收多少信息。GRU进一步简化了LSTM的门控结构, 在一定程度上可以避免输入多变量信息和历史信息的冗余提高模型的运行的效率。

两种循环网络变体结构在性能方面的改善, 常常作为单个浮标点的短期智能预测模型。一般地, 通过输入单个或多个历史时刻风与浪的变量, 运用LSTM或GRU单元提取该点时间维度的变化特征, 实现短期海浪有效波高的预测。在许多应用研究中, 两个结构在未来12 h范围内的预测效果较好且模型运算效率比较高^[35-36], 但对于长时间预测效果较差, 如果将模型得到的预测值作为下一个时刻的输入会造成误差的累积。同时, 单一的循环神经网络模型不能很好地捕捉海浪的空间变化。因此, 如何优化循环神经网络结构以适应长时间的序列预测, 或与提取空间特征的模型组合同时学习时空特征至关重要。

2.2 卷积神经网络

在物理过程研究中刻画初始物理场的变化过程至关重要, 针对海洋中的科学问题往往离不开选取海域的空间特征提取与分析, 结合时间变化情况分析一些物理变量或海洋现象的变化情况。深度学习中卷积神经网络(Convolutional Neural Network, CNN)模型经常被用来处理图像和高维数据, 通过卷积提取隐含的局部空间特征, 经过池化、全连接等操作输出目标任务结果^[37]。在海洋学中, 卷积神经网络有两种应用情况: 一是直接以高维数据或海洋卫星遥感图像作为模型的输入, 通过已有的成熟网络结构提取有效特征, 再结合其他模块实现不同信息的融合, 实现识别、检测任务; 二是将连续变化的时空数据作为输入通过卷积神经网络实现预测(回归)任务。海浪预测任务往往是基于第二种思想去实现, 通过将不同时刻风场和海浪变化特征组合, 构建具有多个通道的数据集, 模型框架如图 3所示。在卷积过程中, 通过设定卷积核的大小以增大模型的感受野范围, 获取不同通道风与浪的特征, 输出海浪有效波高空间分布图作为区域海浪预测结果。不同于图像处理, 每次卷积过程中应选择合适的填充方式(padding)保证初始空间范围的完整性, 防止丢失边界信息。此外, 网络结构设计过程中往往避免“池化”(pooling)操作, 减少空间特征信息损失^[38]。

卷积神经网络可以增强不同点各个变量特征的空间相关性, 有助于提升区域海浪预测精度。但是, 单一的卷积神经网络在海浪预测中也有不足之处。尽管它可以很好地面向区域海浪预测, 但对于未来长时间预测需要增加模型复杂度(卷积层的层数或卷积核大小), 不利于网络的训练与优化。此外, 卷积层的叠加会伴随着感受野的衰减, 降低了模型的学习能力。于是, 在运用卷积网络的同时可以考虑采用增大感受野的方式如空洞卷积等配合普通的卷积操作解决感受野衰减的问题; 也可以融合循环神经网络建立同时提取风和海浪的时空特征的模型, 避免因时间特征的提取造成卷积层的无限叠加。

3 基于深度学习模型的海浪有效波高预测

海浪的成长受到局部风和非线性作用的影响。为了提高不同海域海浪预报的精度, 需要利用与风和浪特征相关的时序数据, 建立描述它们非线性关系的数学模型实现预测。在过去的研究中, 通过建立经验统计模型或采用数值模拟技术(海浪数值模式)实现预报, 但这些方法需要对海浪成长、海浪传播等复杂的物理过程进行建模, 难度较大。而深度学习方法可以有效地避免这一复杂过程, 通过数据挖掘高效地学习输入变量与输出结果的非线性关系, 实现预测。以海浪有效波高为例, 简述如何基于深度学习模型实现预测, 框架如图 4所示。

首先, 将获取的历史风场与海浪有效波高数据通过插值或归一化等方式进行预处理, 构建适用于预测任务的数据集, 并根据数据特点确定任务类型: 单点预测或区域预测。若是单点预测任务, 在数据预处理中还可以采用时间序列处理如小波变换、模态分解等方法, 将海浪序列按不同频域、模态进行分解, 有利于LSTM模型很好地捕捉输入信息特征(图 4绿色连接线), 提高预测精度。如果是区域预测任务, 将不同时刻风速和初始海浪变化按不同的特征通道组合, 经过卷积神经网络(CNN)可以提取不同通道风场特征及海浪变化情况。同时, 将区域空间特征融入基于门控机制的循环神经网络LSTM和GRU, 通过遗忘门结构选择需要保留的关键历史特征信息以更新不同时刻每个单元结构的隐状态$ {h_t} $和记忆单元$ {c_t} $。两种网络结构分别从空间维度和时间维度上提取有效特征, 从而实现目标海域海浪有效波高的准确预测。除此之外, 在已有的研究中还有一些其他经典模型或模型组合, 超过了单一卷积神经网络和循环神经网络的性能, 如卷积运算和循环神经网络的融合——Conv-LSTM模型(图 4蓝色连接线), 对CNN+LSTM的输出结果进行分配与模型结构优化——注意力机制(图 4橙色连接线)以及基于循环神经网络或注意力机制的Encode-Decode结构——序列到序列连续预测模型(图 4黑色连接线)。下面将分别从基于时间序列预处理和LSTM的单点海浪预测模型、时空特征融合的经典模型Conv-LSTM、注意力机制以及基于序列到序列的连续预测模型四个方面展开叙述。

3.1 基于时间序列预处理和LSTM的单点海浪预测模型

海浪是一个较为复杂的随机过程, 蕴含着复杂的非线性关系, 如果将海浪特征有关的时间序列直接作为神经网络模型的输入, 不利于神经网络很好地捕捉时空特征, 导致预测效果欠佳。将原始序列运用小波变换、模态分解等方法进行处理, 分析序列中的周期性、季节性变化趋势并从不同的维度及模态对序列进行分解, 分解后的结果不仅反映了一个序列在时间、空间、频率、周期等变化趋势, 为神经网络模型提供了较好的特征组合, 从而提高了单点预测海浪有效波高的准确性, 一定程度上也解释了神经网络模型对不同时间、频率及季节性变化的预测结果。以LSTM模型为例, 总体结构如图 5所示。

小波变换是一种常见的时间序列数据处理方法可以实现信号时频域局部信息在一组基函数下进行分解, 基于离散型分解方法可以通过海浪序列的多级分解得到不同程度频率的分量实现了时域和频域的“特征提取”, 所以经常被用来与人工智能模型结合在海洋和水文学时间序列数据预测等方面展现了不错的效果^[39-42]。由于小波变换需要找到满足严格数学条件的小波母函数对序列进行分解, 应用时具有一定的局限性。

经验模态分解(empirical mode decomposition, EMD)也是一种常用的非平稳信号处理方法。该方法将一个非平稳的信号分解为若干个满足条件的模态函数IMF和残差, 运用希尔伯特变换(H-变换)得到每一个模态函数的谱分布, 获得原信号的时频域信息。类似于小波变换, 经验模态分解将原始信号分解成若干个模态函数和一项残差实现了时域和频域的“特征提取”, 同样可以与神经网络模型如LSTM结合^[43]在海洋领域等时间序列数据预测等方面发挥着关键作用。但经验模态分解得到的分解结果经常会出现模态混叠的现象, 为了解决这个问题, Song等^[44]运用FVCOM模式得到了印度洋海域网格点的有效波高序列, 并运用集合经验模态分解(EEMD) 得到2个短期内表现为高频波动以及3个较低频率的模态, 该方法把原始信号加入一些随机噪声得到可以反映不同尺度和特征的时间与频率的模态函数, 将分解结果作为LSTM模型的输入预测未来该区域3 h、6 h、12 h和18 h的平均有效波高的RMSE较小。除此之外, Ji等^[45]建立了变分模态分解(VMD)-时间卷积网络(TCN)-长短期记忆神经网络(LSTM)框架提高了未来48 h之内海浪有效波高以及平均周期的预测精度。特别地, Zhao等^[46]采用完全自适应噪声集合经验模态分解方法对海浪数据进行预处理, 得到了高频正弦、中频正弦间歇信号和低频长周期信号, 结合LSTM模型预测中国近海一个观测点的波高, 相比单一的LSTM模型预测未来1 h的结果, 基于自适应噪声的集合经验模态分解方法和LSTM模型的集成大大提高了预测精度。海浪数据通过模态分解方法的预处理在一定程度上可以为深度学习模型提供更好的特征输入, 但是该方法没有足够的数学理论作为依据, 模型解释性较差。

综上所述, 小波分析和模态分解法可以将风场和海浪特征按不同频率、模态进行分解, 有利于神经网络进一步挖掘序列特征。但这些方法在序列分解过程中不可避免地出现误差, 在计算迭代过程中易造成序列分解部分的误差累积, 对模型的预测结果造成一定影响。因此, 在应用过程中应根据序列特点选择恰当的方法, 并合理地分析各个分解变量。同时, 对各种经验统计分解方法进行优化, 以减少因序列分解误差对预测结果的影响。

3.2 Conv-LSTM模型

在实际海浪预测中, 某一点海浪的特征要素变化往往受该区域风速、风向和海浪的影响较大, 单点预测结果不能很好描述海域不同位置的海浪状态变化, 因此建立刻画区域海浪时空变化模型实现区域海浪特征要素预测至关重要。2015年, Shi等^[47]提出了卷积长短期记忆神经网络Conv-LSTM模型, 结构如图 6(a)所示。它不同于卷积神经网络与长短期记忆神经网络的直接叠加, 可以在隐藏层每一步的状态中进行卷积运算从而更好地提取时空特征, 改善了单一的网络模型在跨越时空维度学习效果差的情况, 一定程度上降低了单一模型的复杂度, 提高模型的鲁棒性。与LSTM类似, 每一个LSTM单元包含输入门$ i(t) $、遗忘门$ f(t) $和输出门$ o(t) $其表达式为

$ i(t) = \sigma ({W_i} * {x_t} + {U_i} * {h_{t - 1}} + {W_{ci}} * {c_{t - 1}} + {b_i}), $

(6)

$ f(t) = \sigma ({W_f} * {x_t} + {U_f} * {h_{t - 1}} + {W_{cf}} * {c_{t - 1}} + {b_f}), $

(7)

$ o(t) = \sigma ({W_o} * {x_t} + {U_o} * {h_{t - 1}} + {W_{co}} * {c_t} + {b_o}). $

(8)

其中, x是模型的输入样本, W、U和b为网络参数, $ \sigma $是非线性激活函数, ^*是卷积算子符。与LSTM类似, 公式(6)—(8)中的$ {h_{t - 1}} $和$ {c_{t - 1}} $分别表示每一个Conv- LSTM单元结构在$ t - 1 $时刻的隐状态和记忆单元, 同样发挥着保留历史信息特征的重要作用。

近年来, Conv-LSTM被广泛应用到区域海浪预测中, 如董昌明等^[38]和Zhou等^[48]详细介绍了该方法的计算原理并以东海和南海为例, 将连续三个时刻的有效波高值作为输入, 提供了一个完整的二维海域海浪波高预测模型应用实例, 表现出了Conv-LSTM强大的时空特征提取能力。在没有台风的条件下, 未来24 h的预测结果相关系数可以达到83%。为了进一步提升模型的预测效果, Han等^[49]将(t-2)—t时刻的风摩擦速度及波高值作为Conv-LSTM模型的输入, 在未来36 h范围内的预测效果良好。随着预测时间的增长, 模型输入的海浪要素初始状态相关性影响逐渐降低, 特别是涌浪会影响模型对风浪特征的提取。于是, Lin等^[50]提出了两个阶段Conv-LSTM模型: 第一阶段中通过训练两天海浪数据得到包含涌浪的信息, 进而在第二阶段中结合风场与涌浪的信息预测未来3 d大西洋的海浪变化情况, 预测结果的空间均方根误差相比单个Conv-LSTM模型降低了约10%。另外, Choi等^[51]基于迁移学习思想, 训练不同天气情况下连续的海洋图像的过程中将VGGNet模型微调, 即把VGGnet最后的全连接部分替换为具有两个输出节点的一层, 并利用其余层的参数来初始化海浪有效波高分类模型; 同时把一系列卷积过程和双向Conv-LSTM模型叠加估计海浪有效波高并取得了不错的预测效果。

Conv-LSTM融合了卷积运算及LSTM单元结构, 可以同时学习风场以及海浪变化时空特征, 在区域海浪预测效果较好。由于LSTM模型在迭代过程中产生的中间值较多, 它们对输出结果的影响是不同的, 需要对结果赋予不同的权重表示对结果的重要性, 可以采用注意力机制对输出不同时刻的结果进行分配, 通过调整权重值提高模型的预测精度, 详细内容见3.3部分。值得注意的是, Conv-LSTM模型对于近岸区域预测效果不是很理想。主要原因是海浪传到近岸受到地形的影响较大, 伴随着折射、绕射等复杂的物理过程使得Conv-LSTM模型学习效果不佳; 其次, 成熟的海浪再分析数据产品分辨率较低造成预测精度差。因此, 对于近岸或者边界区域采取合适的降尺度策略, 以实现近岸或者边界区域小尺度高分辨率的精细化预测。

3.3 注意力机制

在海浪预测任务中, 模型输入数据信息量往往非常庞大, 大量的数据信息不仅会占据更多的计算资源影响模型的运行效率, 而且建立时间序列数据间的长时间依赖关系也会伴随着梯度爆炸等技术问题。同时, 模型运行过程中不同的结构单元因为算法迭代产生较多的中间值, 这些输出值对预测结果的影响是不同的^[52], 因此我们在模型中引入注意力机制(Attention)不仅可以解决模型运行中数据信息计算资源有限的问题, 而且对模型输入变量相关性和输出结果影响分配具有重要意义。但注意力机制不能作为单独的模型完成预测任务, 往往作为神经网络的补充部分来提升信息选择能力及模型运行效率^[53]。2021年, Luo等^[54]将风速、风向、波高及波向作为特征输入, 分别运用LSTM、LSTM-Attention、Bi-LSTM及Bi-LSTM-Attention模型对大西洋的几个浮标点的波高进行多步长迭代预测, 根据预测结果对比分析了不同点各个模型的优劣情况, 而对于极端海况条件下则是Bi-LSTM-Attention预测效果更好。同年, Wang等^[55]和Peng等^[56]两项研究在卷积神经网络和循环神经网络的基础上加入了Attention机制, 建立了CNN-Bi-LSTM-Attention框架进一步优化了区域海浪预测模型。该框架既可以提取海域风场及海浪有效波高的空间特征, 也可以基于LSTM模型挖掘时序数据的特征, 最后加入注意力机制对Bi-LSTM的输出加权分配, 该模型在未来24 h范围内均方根误差低于0.5 m, 为区域海浪有效波高预测提供了一种更加高效准确的框架结构, 框架如图 6(b)所示。

尽管注意力机制有助于分配LSTM模型不同时刻结果的重要性, 但不能从根本上解决LSTM模型在迭代过程中误差累积问题, 且基于注意力机制的海浪预测模型在较长时段预测中所得效果不佳。通过以上分析, 建立不同序列到目标序列的连续预测模型可以有效减弱循环神经网络误差累积, 并实现较长时间的海浪预测。

3.4 基于序列到序列的连续预测模型

序列到序列(Sequence to Sequence, Seq2Seq)的预测模型是一种常见的生成模型, 在语音识别、机器翻译等领域具有广泛应用。常见的序列到序列模型主要有2种, 分别是编码器-解码器模型和基于注意力机制的序列到序列模型。由于编码器-解码器结构的主干部分以循环神经网络为主, 无法采用并行计算且模型训练过程中往往会出现长程依赖问题。为了更好地学习较长序列之间的映射关系, Vaswani等^[28]构建了一种基于自注意力机制的全连接结构—Transformer模型, 模型结构如图 7所示。该模型构建了多头自注意力模块交互式捕捉信息对初始信息的内容与位置同时编码(重复N次), 并将Mask Self-Attention模块、解码到编码的注意力模块和逐个位置的前馈神经网络共同构成模型的解码器(重复N次)。通过模型训练输出结果(P), 从而实现序列到序列的生成任务。为了提高海浪较长时间的预测效果, 建立深度学习模型提取时间特征的同时实现预测目标的连续预测也越来越重要。起初, Pokhrel等^[57]基于Transformer模型对WaveWatch III模式模拟的有效波高值进行了修正; 2023年, Shi等^[58]运用Transformer模型实现了单个浮标点对未来96 h海浪有效波高的连续预测和海浪等级的预警, 均方根误差低于0.45 m。研究中通过编码将输入的风场特征、海浪特征及其他环境变量特征的序列映射到高维空间, 运用解码器负责生成有效波高预测序列。而Liu等^[59]将Visual Transformer(ViT)模型推广到海浪区域有效波高预测, 利用注意力机制提取不同区域风与浪的关系, 其预测效果和模型运算效率比数值模式和卷积神经网络好。

相比传统的编码器-解码器以及其他序列生成模型, Transformer模型可以高效地提取长时间序列输入与有效波高的关系, 为持续预测提供了适当的方法论。Transformer在海浪预报中发挥重要作用的同时, 其模型的训练难度也不容忽视。在进一步优化模型过程中, 一方面可以考虑如何提升时空范围更广、数据分辨率高的有效波高预测, 另一方面将已有的时序数据按时频、模态和季节等角度进行分解, 一定程度上可以提升Transformer模型性能。

4 基于深度学习模型的海浪谱预测

由于海浪具有非线性和随机性的复杂特征, 很难采用固定的函数表达式直接描述海浪的变化过程。20世纪40年代后普遍利用“海浪谱”(包括Neumann频谱、PM谱、JONSWAP谱及文圣常基于风时、风区成长提出的“文氏风浪谱”等)对海浪能量的分布进行描述, 基于此开展数学运算并实现预报。以JONSWAP谱为例, 谱密度值与有效波高和周期的表达关系式如下^[60],

$ S\left( f \right) = {\beta _{\text{J}}}H_{1/3}^2T_{\text{p}}^{ - 4}{f^{ - 5}}\exp \left[ { - 1.25{{\left( {{T_{\text{p}}}f} \right)}^{ - 4}}{\gamma ^{\exp \left[ { - {{\left( {{T_{\text{p}}}f - 1} \right)}^2}/2{\sigma ^2}} \right]}}} \right], $

(9)

其中$ \omega = 2\pi {\kern 1pt} f, $$ \beta $、$ \gamma $和$ \sigma $是待定参数, 可以通过经验关系进行计算, T_p为谱峰周期。海浪谱反映了海浪内部能量的分布与变化, 一般可以通过实际观测或数值模式模拟获得海浪谱资料。通过第3部分概述, 深度学习模型被广泛地用于海浪有效波高预测, 但在周期及平均波向等其他海浪特征要素预测研究较少。事实上, 以往的海浪研究中通常对海浪谱的波谱密度值积分, 进而得到海浪特征要素。同时, 这也为人工智能方法预测海浪特征要素提供了新的思路: 建立神经网络模型预测海浪谱密度值, 不仅可以预测海浪频谱及方向谱, 还可以根据谱密度值得到有效波高(Significant Wave Height, SWH)、平均周期(Mean Wave Period, MWP)和平均波向(Mean Wave Direction, MWD)等海浪特征要素, 分别用H_s, T_m和θ_m表示, 计算公式如(10)~(12)。

$ {H_{\text{s}}} = {\text{4}}.{\text{04}}\sqrt {\int_{\text{0}}^{ + \infty } {{\text{ }}S(f,\theta ){\text{d}}f} } , $

(10)

$ {T_{\text{m}}} = 2\pi \sqrt {\frac{{\int_{\text{0}}^{ + \infty } {S(f,\theta ){\text{d}}f} }}{{\int_{\text{0}}^{ + \infty } {{\text{ }}{f^2} \cdot S(f,\theta ){\text{d}}f} }}} , $

(11)

$ {\theta _{\text{m}}} = \arctan \frac{{\int_0^{2\pi } {\int_0^{ + \infty } {\sin \theta \cdot S(f,\theta ){\text{d}}f{\kern 1pt} {\kern 1pt} {\text{d}}\theta } } }}{{\int_0^{2\pi } {\int_0^{ + \infty } {\cos \theta \cdot S(f,\theta ){\text{d}}f{\kern 1pt} {\kern 1pt} {\text{d}}\theta } } }}. $

(12)

其中, $ S(f,\theta ) $表示在频率$ f $和方向$ \theta $的谱密度值。

近年来, 采用深度学习方法预测海浪谱的谱密度值也成为广大学者研究的热点之一。2020年, Zeng等^[61]采用编码器和解码器结构, 编码解码部分均为双向GRU网络, 通过注意力机制连接编码器和解码器, 生成谱密度值序列实现了海浪频谱的预测(拟合), 平均绝对误差在0.08左右; 2022年, Liu等^[62]运用SWAN模式得到研究区域的风浪和涌浪的有效波高、周期、平均波向等特征作为LSTM模型的输入, 预测未来一年中有效波高和周期变化, 将预测结果带入到JONSWAP谱模型中实现了海浪频谱和方向分布的估计。后来, Jiang^[63]和Song等^[64]运用深度神经网络实现了风场特征与海浪谱谱密度值的双向预测: 一方面运用深度神经网络DNN将NDBC浮标数据中刻画海浪谱不同频率下的5个傅里叶系数作为输入变量预测局部海域的风速与风向, 且该模型可以为浮标数据质控检测提供了技术上的保障; 另一方面根据海浪生成传播机制定义了风投影, 结合海浪能量沿大圆传播机制划分网格, 确定了不同网格中有效风场信息, 建立卷积神经网络模型获取影响区域的风场空间特征。考虑到低频涌浪部分和高频风浪部分数据分布不均的问题, 将每一个频率段建立相应的网络模型进行训练。在此基础上把不同频率和不同方向的预测结果汇总得到海浪方向谱, 根据公式(10)—(12)得到相应的海浪特征要素。

运用深度学习方法预测海浪谱的关键在于考虑海浪能量传播以及如何提高预测不同频率和方向谱密度值的效率, 直接融合方向分布的深度学习模型计算成本较大, 且不同频段数据分布不均将不利于模型学习低频波和涌浪的信息。因此, 如何简化谱模型或建立新的谱参数化方案^[65]在未来海浪谱预测中至关重要, 一定程度上可以提高海浪谱预测模型的计算效率。同时, 预测模型应进一步体现海浪能量传播, 如MASNUM海浪数值模式中的特征线理论等, 结合Song的研究, 优化海浪谱预测模型网络结构的设想方案如图 8所示。

5 总结与展望

海浪数值模式的不断完善与发展有利于进一步计算海浪, 实现预报与后报。由于海浪生消物理机制复杂及数值模拟运算效率等问题, 海浪数值模式在理论方面有待进一步发展, 计算运行方面需要进一步优化。随着人工智能在科学领域不断贡献新成就, 许多深度学习模型在海浪特征要素预测特别在海浪有效波高预测方面应用广泛。同时, 基于深度学习模型的海浪谱预测研究也逐渐展开, 可以实现海浪频谱预测及方向谱重构。总体来讲, 这些研究成果有助于未来海浪精细预测研究以及业务化海浪智能模式的发展^[66-67]。但在已有的研究中也暴露出深度学习模型在海浪预测中存在的弊端, 如循环神经网络迭代引起的误差累积、模型复杂造成调试参数困难及计算成本高等。尽管一些研究中试图通过模型的叠加提高预测精度, 或采取有效波高降尺度^[68-69]的方式提高近岸及海岸边界预测的准确性, 但并不能从根本上解决存在的固有问题。由于神经网络模型层与层之间的关系只能作为满足数学定律的“经验关系”, 但不能体现海浪绕射、折射等物理过程及其他物理守恒定律, 导致模型解释性差。

针对基于深度学习模型的海浪预测研究存在的问题, 结合深度学习在海浪预测研究进展, 对未来海浪智能预测研究中给出了以下几点展望:

(1) 建立具有物理约束机制的海浪预测模型。目前, 主流的海浪预测框架无法与相应的海浪能量传播等物理机制对应, 导致基于深度学习的海浪预测模型解释性差, 难以解释预测结果。随着物理信息和人工智能的深度融合^[70-71], 如何将物理过程或其他物理守恒定律作为模型结构设计^[72]或根据不同区域风与浪之间的统计关系设置合理的损失函数^[73]是非常必要的。例如, 在海浪预测模型设计过程中, 融合海浪能量传播等物理机制, 建立海浪能量传播距离与神经网络模型超参数的联系, 赋予模型结构物理意义的同时, 实现预测。

(2) 基于深度学习的海浪数值模式源函数参数化方案。基于深度学习方法的海浪预测偏差往往来源于波与波之间的非线性作用和背景流场影响较大的海域, 而这些机制的研究离不开海洋动力、海气相互作用以及海浪传播等理论的发展和经验公式待定参数的选取。但这些方案对原物理过程的描述依然存在着不确定因素^[66], 通过深度学习方法一定程度上有利于直接建立精确高效的模型刻画源函数对海浪传播带来的影响, 减少经验关系造成的误差, 在一定程度上解决了海浪传播物理过程的不确定性。近期, 一些研究关注如何利用深度学习模型建立白冠耗散^[74]以及垂直湍流项^[75]的参数化方案, 但替换效果需要在数值模式中得到验证才会更具有说服力。

(3) 建立并优化海洋智能预测“大模型”。基于深度学习方法预测海浪对实现海浪预报业务化具有重要的指导意义, 通过对不同时空尺度的数据进行融合和分析, 进一步将人工智能、海浪数值模型、统计模型和大数据结合, 提高模型的预测精度。近年来, 气象领域“大模型”的诞生^[76-78]展现出了人工智能领域以及深度学习模型在科学研究和智能业务化的应用前景。与此同时, 清华大学团队于2023年研发了“AI-GOMS”系统^[79], 成为海洋领域首个基于数据驱动的全球海洋智能大模型。因此, 建立纯数据驱动的全球海浪智能预测模型已成为可能。将研究区域扩大至全球范围, 提高不同海域间的时空相关性, 一定程度上可以降低不同区域的海浪预测模型推广性差以及涌浪区域预测精度低等问题。未来将建立并优化具有其他优势的海洋“大模型”, 以此促进“海洋数字孪生”的发展。

基于深度学习模型的海浪预测研究不断向前发展, 海浪智能预报业务化指日可待。同时, 我们也要辩证地看待海浪数值模式与海浪智能预测之间的关系。海浪数值模式理论的丰富有利于更好地认知海浪传播物理机制, 为设计深度学习模型网络结构提供依据; 同时海浪智能模型的发展可以有利于进一步修正模式的误差结果, 提高预报的准确性。