随着过去几十年内工业化的推进与发展, 大气中二氧化碳等温室气体的含量急剧上升(Sabine et al, 2004; Le Quéré et al, 2009, 2010; Tyrrell, 2011; Ekwurzel et al, 2017; Wanninkhof et al, 2019), 伴随着大气中二氧化碳浓度的增加, 多组观测数据显示全球平均温度总体呈现出上升的趋势。根据美国国家航空航天局(NASA)的统计, 自1880年以来, 全球平均温度上升了约1 ℃, 而海洋作为一个重要的碳汇来吸收二氧化碳, 对全球碳循环以及气候变化有重大的影响(Falkowski et al, 2000; Le Quéré et al, 2018; Rutgersson et al, 2011; Guemas et al, 2013)。如果海洋吸收二氧化碳的能力被削弱, 将可能加速大气中二氧化碳水平的上升, 加速全球变暖的速度, 进而导致冰川融化、海平面上升、极端自然灾害等一系列连锁问题的出现。

海表二氧化碳分压(pCO₂)作为全球变暖的重要指标之一, 指的是海洋表层水和大气之间的二氧化碳交换处于动态平衡时CO₂的含量, 海洋吸收了大约25%的人类排放的二氧化碳, 海表二氧化碳分压的变化对于全球气候和生态系统都具有重要影响(梁文浩, 2021)。大气中的pCO₂和海面上的pCO₂之间的差异, 即ΔpCO₂, 决定了CO₂气体在海-气界面的传输方向。此外, pCO₂作为海气二氧化碳通量量化过程当中的重要物理量, 对研究全球碳循环具有重要的意义。然而, 大气中的pCO₂变化很小, 呈现出相对稳定的状态。因此, 海表面pCO₂对于分析海洋某一海域是否为大气CO₂的碳源还是碳汇具有十分重要的意义。据统计边缘海的面积约占全球海洋总面积的10%, 而作为碳汇的海域可占全球海洋总面积的10%~25% (Borges et al, 2004; Cai et al, 2006)。陆架边缘海作为连接大陆和海洋之间的纽带, 是全球海洋碳循环系统的重要组成部分(Dai et al, 2004)。中国南海作为东南亚热带地区最大的边缘海, 在当前全球气候变化的背景下, 探索南海海表pCO₂的变化趋势对分析和理解南海在区域碳收支方面的作用至关重要。除此之外, 南海的生化过程较为复杂, 海面温度、盐度和浮游植物初级生产力的变化都会对海面pCO₂产生重大影响(Tseng et al, 2005; Dai et al, 2009; Zhai et al, 2013)。此外, 海面pCO₂通常随时间和区域的变化而变化, 具有明显的时空变化特征, 这也给南海海面pCO₂的研究带来了许多困难。

为了了解低纬度边缘海域对大气CO₂浓度变化所做出的贡献, 研究人员对南海的温度、盐度以及海表面pCO₂进行了多个航次的现场观测研究, 对南海海表面pCO₂的时空变化特征有了较为清晰的认识(Thunell et al, 1992; Takahashi et al, 2009; Pfeil et al, 2013; 李骞, 2016; Li et al, 2020)。但是, 目前主要的海面pCO₂预测方法大多都是基于有限的实测资料, 而且这些资料所呈现的内容一般均会受到时间和空间的限制, 同时, 预测结果也会因所选研究方法的不同而呈现出很大的差异。鉴于卫星遥感技术在时空分辨率和覆盖范围上的进步, 以及卫星遥感海洋数据的广泛使用, 卫星遥感已经成为预测海表面pCO₂的重要工具。越来越多的研究人员尝试利用传统的经验回归(即多元线性回归、多元非线性回归)、基于机器学习(即多层感知器神经网络、自组织图、广义回归神经网络、随机森林)以及主成分回归、半分析法等经验方法, 建立各大洋海表面pCO₂与海洋参数遥感卫星数据的相关性, 从而实现海面pCO₂的预测(Cosca et al, 2003; Lohrenz et al, 2010; Gregor et al, 2017; Fassbender et al, 2018; Chen et al, 2019; Reichstein et al, 2019; Fu et al, 2020; Krishna et al, 2020; Tu et al, 2021; Wang et al, 2021; Zhong et al, 2022)。

由于海洋生物地球化学和物理过程具有很强的非线性和动态性, 用上述方法预测海面pCO₂仍然是一项非常具有挑战性的任务。随着人工智能的发展, 深度学习(deep learning, DL)在海洋学领域的应用逐渐增多, 并有望成为从区域上升到全球进行研究的重要方法。可以为海面pCO₂的预测提供一种新方法。基于深度学习的预测模型并不事先明确给出物理规则, 而是让模型在卫星遥感观测数据上进行训练, 模型通过从大量的训练中学习, 从而深度学习模型可以弄清其固有的规则。以卷积神经网络(convolutional neural network, CNN)为例, 研究者们利用历史气候和海洋环境数据来训练CNN模型, 并对预测结果进行了评估, 研究发现, CNN模型可以准确地预测各种海洋要素的分布规律以及变化趋势, 并且在噪声数据的情况下也能够保持较高的精度(郝滢洁, 2017; 包兴先等, 2021; 刘鹏等; 2021; 孙东洋等, 2021; 李凌霄, 2022)。另外, 递归神经网络(recurrent neural network, RNN)也被用于建立海洋水温要素的预测模型, 研究者们使用历史数据来训练RNN模型, 并通过不同的误差函数来评估模型的性能。研究发现, RNN模型可以更准确地预测海洋水文要素, 并且能够处理时序数据(朱贵重等, 2019; 覃梦娇, 2021; 孟丁丁等, 2022)。此外, 人工智能的预测技术已经在各种预报和识别应用中取得了成功, 如降水、温度、风速、海洋涡流、巨浪等方面(Shi et al, 2015; Wang et al, 2017a; Xiao et al, 2019; Xu et al, 2019; Li et al, 2021; Hao et al, 2022, 2023a, 2023b)。虽然研究人员在尝试各种方法或建立模型方面做了很多努力, 但目前的工作(Sun et al, 2021; Wang et al, 2021; Gloege et al, 2022; Gregor et al, 2022; Joshi et al, 2022)大多仍集中在pCO₂的反演和重构上, 在利用卫星遥感数据预测海面pCO₂方面还存在一些问题。

海表面pCO₂的时空变化有两个典型特征: 时空耦合性和地理相关性。时空耦合意味着海洋状态的观测数据同时具有时间和空间属性。地理相关性是指观测数据中存在邻域效应, 即相邻空间位置之间存在相关性。而如何同时考虑多维遥感卫星数据的时空耦合和地理相关特征, 进而深入全面地研究南海海表pCO₂的时空变化, 对准确预测南海碳汇能力至关重要。

本研究探索了一种新的深度学习方法(Wang et al, 2017b), 即时空卷积长短时记忆网络(spatio-temporal convolutional long short-term memory, ST-ConvLSTM), 用于预测海表面pCO₂的时空变化, 以更准确地评估未来南海海面pCO₂的变化趋势。本文利用SST、SSS、chl a和海面pCO₂的卫星遥感数据, 通过对模型进行优化训练, 在2019年1~12月的验证数据集上对模型进行验证。结果表明, 本文所采用的方法能够较准确地预测南海海表面pCO₂的变化趋势, 且各项性能指标也优于其他基准方法。

1 实验方法

在本节中, 详细介绍了ST-ConvLSTM架构的设计思路。该模型的整体流程如图 1所示。

1.1 时空预测介绍

对某一海域海面pCO₂的预测, 在本质上是一个时空序列预测问题, 以过去的时间序列数据为输入, 以一定量的未来时间序列数据作为输出。假设需要预测由M行和N列组成的M×N单元所代表的空间区域的海表面pCO₂, 网格中的每个单元可以映射P个物理特征。

如图 2所示, 一个网格点在任何时间的数据值都可以用张量表示。从时间维度的角度看, 时间长度为t的观测数据形成一个张量序列。因此, 海面pCO₂的时空预测问题可以定义为用过去J个时间长度的张量序列, 来预测未来K个时间长度的张量序列, 其中f表示条件概率函数, 描述了当给定过去的观测值时, 来对未来的值进行预测, 而argmax则是用于找到使该函数取得最大值时的参数。

在这项工作中, 每个时间步长是一个三维张量, P = 4 (分别代表SSS、SST、chl a和海面pCO₂), 网格大小为85×85。

1.2 时空长短时记忆网络

深度学习的发展, 特别是递归神经网络(RNN) (Zaremba et al, 2014)和长短期记忆模型(LSTM) (Hochreiter et al, 1997)的出现, 为时空预测提供了一些有益的解决方案。LSTM在以前的各种研究中已经证明了其在稳定性和长期依赖性方面的强大优势, 时空长短时记忆网络(spatio-temporal LSTM, ST-LSTM)作为一种特殊的RNN结构, 在LSTM各项优势的基础上更具备了良好的捕捉时空信息的能力。然而, 在预测海表面pCO₂的时空序列时, 涉及到时间和空间两个维度。由于LSTM不能很好地捕捉空间信息, 而这一问题将导致空间特征信息的损失。

针对上述LSTM存在的问题, 研究人员提出了卷积LSTM (convolutional long short-term memory, ConvLSTM)模型(Shi et al, 2015)。如图 3a所示, 输入帧被送入ConvLSTM编码器-解码器网络的第一层, 未来的预测序列在第四层被创建。在这个过程中, 随着信息的逐层编码, 隐藏状态从下往上进行传递。然而, 这四层中的存储单元是相互独立的, 并且只在时域中不断更新。在这种情况下, 如图 3a中的红色和黄色方框所示, 底层将完全忽略顶层在前一个时间步骤中记忆的内容。

然而, 如果一个稳定的模型需要从不同层次的ConvLSTM模块提取的特征中进行学习, 那么原始输入序列中的细节不应当丢失。针对上述问题, 本文所用模型当中将第四层ConvLSTM模块在时间t-1的特征信息传递给第一层ConvLSTM模块在时间t的特征信息, 如图 3b中的蓝线所示。信息首先在层与层之间向上传递, 随着时间的推移向前传递, 前一刻顶层的信息流入此刻的底层进行整合, 实现了空间信息的有效传递。

2 实验设计

在本节中, 首先介绍了研究领域和本研究中使用的数据集的来源; 然后介绍了实验中用于比较的指标和其他方法; 最后, 我们描述了实验环境。

2.1 数据来源

哥白尼计划是欧盟的地球观测计划, 用于研究我们的地球及其环境, 提供来自全球卫星和陆基、机载和海洋测量系统的大量数据。本实验中使用的所有详细数据信息列于表 1, 并基于长期气候态的年际异常场的SST、SSS以及chl a数据来计算pCO₂场。更详细的数据信息可以通过以下链接访问:

(1) https://data.marine.copernicus.eu/product/GLOBAL_MULTIYEAR_BGC_001_029/description.

(2) https://data.marine.copernicus.eu/product/GLOBAL_REANALYSIS_PHY_001_031/description.

2.2 模型性能评估参数

我们使用以下三种措施来评估模型的性能。均方根误差(E_RMS)、平均绝对误差(E_MA)和决定系数(R²)。公式(2)、(3)、(4)为上述三个指标的算法。

其中, n是测试样本的总数, y_i、和y分别是y_i的真实值、预测值和算术平均值。而且当E_RMS和E_MA值越低时说明测量和预测的一致性越好, 相反, R²值越高说明预测越准确。

2.3 方法比较

广义递归神经网络(generalized regression neural network, GRNN): 径向基网络的一种变形形式。GRNN的训练过程相对简单, 只需要将训练数据输入模型, 通过径向基函数计算输入变量与其对应样本之间的距离, 并将结果反馈给模型进行参数更新。在训练完成后, GRNN可以用于预测新的输入数据。GRNN一般用于解决回归问题, 而且没有模型参数需要训练。与其他神经网络模型相比, GRNN的训练速度较快, 且在小样本问题上具有较好的表现。然而, 由于其采用的是非参数化方法, 因此在大数据集上的训练会较慢, 且容易受到噪声数据的影响。

随机森林: 一种监督性学习算法。随机森林非常简单, 容易实现, 而且计算成本低。它在分类和回归中表现出非常令人印象深刻的性能。随机森林的训练过程包括两个阶段: 随机森林的构建和随机森林的预测。而随机森林在分类和回归问题上都有广泛的应用, 并且具有很好的性能表现。它可以有效地处理高维数据、缺失数据和非线性数据。同时, 由于随机森林可以对特征的重要性进行评估, 因此它也被广泛用于特征选择和数据可视化。

ConvLSTM: LSTM的一个变种。LSTM用于解决时间序列的预测问题, 但LSTM不能很好地利用空间数据特征, 基于对LSTM的改进, ConvLSTM不仅可以建立类似LSTM的时间关系, 而且还具有类似卷积神经网络的空间特征提取能力。与传统的LSTM相比, ConvLSTM在输入数据上使用卷积操作, 可以学习到更丰富的特征, 并保留了输入数据的时空信息。同时, ConvLSTM的记忆单元也是通过卷积操作来实现的, 使得网络可以在多个时间步长之间共享权重, 从而减少了网络的参数数量。ConvLSTM在许多序列数据预测和生成任务中都表现出了很好的性能。它不仅可以处理静态数据序列, 还可以处理包含动态过程和背景的时空序列, 并且可以捕捉到序列中的时空动态信息, 使得预测和生成结果更加准确。

2.4 试验环境

所有的模型都是用Adam (Kingma et al, 2014)优化器进行训练的, 起始学习率为10⁻³。训练过程在10 000次迭代后停止, 所有的试验都在NVIDIA 3060 GPU上进行, 并在Pytorch (Paszke et al, 2019)中实现。试验中的其他详细参数信息列于表 2。

2.5 试验步骤

本研究提出的方法可以实现端到端训练, 整个计算过程不需要人工处理, 而是完全交给深度学习模型, 从学习原始数据到获得结果。端到端训练的优点是降低了计算处理的复杂性。在这项工作中, 首先, 将下载的NetCDF格式数据输入到模型中, 将数据集分为训练集(1993~2018年)和验证集(2019年); 然后, 设置模型的参数, 对模型进行迭代训练(10 000次), 通过记录损失函数的值保存最优权重; 最后, 在验证集上调用最优权重进行验证, 输出预测结果, 并输出预测指标。

3 结果与分析

在本节中, 我们进行了多组试验来评估每个模型对海面pCO₂的预测效果, 然后对结果进行分析和讨论。

3.1 模型验证

在本研究中, 采用ST-ConvLSTM模型来预测南海海表面pCO₂, 因为该模型可以更准确地计算出影响因素与目标变量之间的非线性关系, 而不需要明确知道函数依赖关系。SST和SSS作为与海洋环境变化高度相关的物理量, 被认为是海面pCO₂的最重要影响因素, 同样, 以前的研究也表明, chl a在海面pCO₂的生物活动中起着关键作用。

为了更直观地显示上述结论, 图 4显示了1993~ 2019年期间研究区域内月平均SST、SSS、chl a与海面pCO₂的相关性。在图 4中, 最接近1的色条值表示强正相关, 最接近−1的色条值表示强负相关。分析可知在大多数地区的SST与海面pCO₂有较强的正相关关系; 中国大陆沿海地区的SSS与海面pCO₂有负相关关系, 其他地区有正相关关系; chl a与海面pCO₂有负相关关系。

当模型被训练和验证时, 数据集被分为两组: 训练集(1993~2018年)和验证集(2019年)。E_RMS、E_MA和R²被用来衡量海面pCO₂预测的准确性。图 5显示了模型在训练集和验证集上的表现, 颜色表示数据密度。从图 6可以看出, 随着迭代次数的增加, 虽然指标略有波动, 但总体而言, 模型在验证集上的E_RMS和E_MA逐渐降低, R²逐渐增加。

试验过程中, 在保存模型的权重时采用的是最佳减重法, 模型会根据损失值自动保存最优权重。这样做的目的是保证在模型训练完成后, 得到的模型是训练过程中的最优模型。

3.2 模型性能

为了将ST-ConvLSTM与其他方法进行对比, 在同一训练集和验证集上进行了多组试验, 以验证不同方法在海面pCO₂预测中的性能, 并对试验结果进行了分析和讨论。基于不同方法在验证集上的预测性能指标如表 3所示。

从表 3可以发现, 随机森林模型对南海pCO₂的预测效果不佳, 其E_RMS、E_MA和R²分别为3.612 Pa、4.419 Pa和−0.330, 误差较大, 预测可靠性低。相比之下, GRNN预测南海海面pCO₂的性能指标E_RMS为2.964 Pa, E_MA为3.499 Pa, 与随机森林相比有一定的提高; R²作为衡量预测值与真实值的拟合程度的重要参数, 但GRNN模型的R²指标仅为0.104, 仍然较低。此外, 两种方法都存在着一定的其局限性: (1) 它们容易出现过拟合(在训练集上预测效果较好, 但在验证集上预测效果较差); (2) 它们忽略了数据时空关联性的差异。

ConvLSTM模型将海面pCO₂预测定义为一个时空序列预测问题。为了更好地模拟时空关系, 它将FC-LSTM的思想扩展到ConvLSTM, 并通过堆叠多个ConvLSTM层形成编码预测结构。用ConvLSTM模型预测南海海面pCO₂时, 其性能指标E_RMS为2.378 Pa, E_MA为2.011 Pa, R²可以达到0.981, 高于GRNN和随机森林两种方法。通过改进ConvLSTM模型, ST- ConvLSTM模型对南海pCO₂的预测性能指标E_RMS和E_MA分别为0.981 Pa和0.711 Pa, 分别比ConvLSTM低58.8%和64.7%。

2019年1~12月不同方法的可视化预测结果如图 7~11所示, 它们分别为“Ground-Truth”、“ST-ConvLSTM”、“ConvLSTM”、“Random Forest”以及“GRNN”, 可以从图中更直观地看到模型的预测效果。“Ground Truth”代表输入数据的真实值, 在时空预测学习中, 有两个关键方面: 空间变化和时间变化。尽管ConvLSTM模型可以捕捉到数据的时空特征信息, 但在四层ConvLSTM结构中, 由于记忆单元是相互独立的, 信息只在同层之间传递, 底层会完全忽略上一时间步长的顶层。从表 3可以看出, 预测精度指标低于ST-ConvLSTM方法。改进后的ST-ConvLSTM方法解决了ConvLSTM模型的缺陷, 能够充分把握多维遥感卫星数据的时空耦合和地理关联特性, 能够更准确地预测整个时期的海面pCO₂。

随机森林和GRNN这两种方法忽略了数据在时间和空间尺度上的特征信息, 导致海面上的pCO₂预测值总是低于实际值。相关的研究工作试图使用这两种方法来反推局部地区的pCO₂。但在这项工作中不再仅仅考虑一个地点, 而是更多地考虑数据的时空变化信息来对未来的pCO₂变化进行合理预测。从图 10和图 11中也可以看出, 即使是在迭代预报的第一和第二个月, 误差也很大, 预报的可靠性很低。

从以上结果分析得出, ST-ConvLSTM模型可以更准确地预测南海海面的pCO₂, 并且与其他方法相比, ST-ConvLSTM模型在预测中国南海海面的pCO₂方面显示出很大的优势。

4 结论

本研究使用SST, SSS, chl a和pCO₂的数据建立了基于ST-ConvLSTM的pCO₂预测模型, 并创建了南中国海面pCO₂与纬度和经度, 时间, 温度, 盐度和叶绿素的浓度之间的关系来预测南海海表pCO₂。该模型在训练和验证集上都表现出较好的结果。其中, 在验证集中, ST-ConvLSTM模型的性能指标E_RMS、E_MA和R²分别为0.981 Pa, 0.711 Pa和0.997。同时基于不同模型比较其他方法, 本研究中建立的模型在解决南海海表pCO₂预测问题方面具有很大的优势。

ST-ConvLSTM模型为预测南海海表面pCO₂提供了良好的结果, 但它依然存在某些缺陷。一方面, 它像“黑匣子”一样运行(Zhang et al, 2021), 输入和输出之间的运行机制不能清楚地了解, 并且很难清楚地解释每个影响因素对海面pCO₂变化所带来的影响。许多影响因素可能不会彼此独立, 相反这些过程可能会共同起作用以产生对海面pCO₂变化的影响。使用ST-ConvLSTM模型预测南海海表的pCO₂具有广泛的应用前景。这种基于AI的海面pCO₂的预测模型不仅可以应用于当前的研究区域, 还可以应用于其他海域当中。同时, 获得更多卫星遥感数据, 进一步改善了ST-ConvLSTM模型预测海面长期pCO₂的能力, 并解释了每个过程的相互作用机制也是未来的研究重点。