本發(fā)明屬于時(shí)間序列預(yù)測(cè)，具體涉及一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法。

背景技術(shù)：

1、時(shí)間序列預(yù)測(cè)是利用歷史時(shí)間序列數(shù)據(jù)來(lái)預(yù)測(cè)未來(lái)時(shí)間點(diǎn)的數(shù)值的過程。時(shí)間序列數(shù)據(jù)是按時(shí)間順序排列的、具有時(shí)間依賴性的數(shù)據(jù)。電變壓器溫度時(shí)間序列數(shù)據(jù)的預(yù)測(cè)是一個(gè)重要的問題，其基于時(shí)間序列的過去觀測(cè)來(lái)預(yù)測(cè)未來(lái)的時(shí)間變化。

2、隨著深度學(xué)習(xí)技術(shù)的發(fā)展，時(shí)間序列預(yù)測(cè)的模型逐漸從傳統(tǒng)的統(tǒng)計(jì)方法向基于神經(jīng)網(wǎng)絡(luò)的方法轉(zhuǎn)變。典型的深度學(xué)習(xí)模型包括循環(huán)神經(jīng)網(wǎng)絡(luò)（rnn），能夠捕捉時(shí)間序列中的短期和長(zhǎng)期依賴性；長(zhǎng)短期記憶網(wǎng)絡(luò)（lstm）和門控循環(huán)單元（gru），這兩種rnn的變種通過引入門控機(jī)制解決了傳統(tǒng)rnn的梯度消失問題，能夠有效建模長(zhǎng)期依賴關(guān)系；卷積神經(jīng)網(wǎng)絡(luò)（cnn），主要用于提取時(shí)間序列中的局部特征，尤其在處理局部時(shí)間依賴性和特征學(xué)習(xí)方面表現(xiàn)良好；以及transformer模型，通過自注意力機(jī)制捕捉長(zhǎng)距離依賴，且支持并行計(jì)算，近年來(lái)在時(shí)間序列預(yù)測(cè)中獲得了廣泛應(yīng)用。但它們通常忽略了數(shù)據(jù)中的季節(jié)性成分和趨勢(shì)性成分，或者在建模這些成分時(shí)缺乏足夠的靈活性。特別是當(dāng)數(shù)據(jù)中存在復(fù)雜的非線性模式時(shí)，傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型難以有效區(qū)分并建模不同的成分，從而影響預(yù)測(cè)效果。

技術(shù)實(shí)現(xiàn)思路

1、為了克服現(xiàn)有技術(shù)中的問題，本發(fā)明提出了一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法。

2、本發(fā)明解決上述技術(shù)問題的技術(shù)方案如下：

3、本發(fā)明提供了一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法，包括以下步驟：

4、獲取電變壓溫度的歷史時(shí)間序列數(shù)據(jù)；

5、構(gòu)建電變壓溫度時(shí)間序列預(yù)測(cè)模型，所構(gòu)建的電變壓溫度時(shí)間序列預(yù)測(cè)模型中的處理步驟包括：對(duì)所述歷史時(shí)間序列數(shù)據(jù)進(jìn)行預(yù)處理；對(duì)預(yù)處理后的時(shí)間序列數(shù)據(jù)進(jìn)行高斯分布可變分解，得到趨勢(shì)性成分和季節(jié)性成分；對(duì)趨勢(shì)性成分進(jìn)行建模，捕捉時(shí)間序列中的長(zhǎng)期非線性關(guān)系；對(duì)季節(jié)性成分進(jìn)行線性映射處理，保留其周期性特征并避免引入過多復(fù)雜性關(guān)系；根據(jù)趨勢(shì)性成分與季節(jié)性成分的貢獻(xiàn)度調(diào)整權(quán)重，實(shí)現(xiàn)信息的有效整合；

6、對(duì)所述電變壓溫度時(shí)間序列預(yù)測(cè)模型進(jìn)行訓(xùn)練，得到訓(xùn)練好的電變壓溫度時(shí)間序列預(yù)測(cè)模型；

7、將待預(yù)測(cè)電變壓溫度時(shí)間序列數(shù)據(jù)輸入到所述訓(xùn)練好的電變壓溫度時(shí)間序列預(yù)測(cè)模型中，得到預(yù)測(cè)結(jié)果。

8、進(jìn)一步地，所述對(duì)所述歷史時(shí)間序列數(shù)據(jù)進(jìn)行預(yù)處理，包括：對(duì)所述歷史時(shí)間序列數(shù)據(jù)進(jìn)行歸一化，并對(duì)歸一化后的歷史時(shí)間序列數(shù)據(jù)進(jìn)行仿射變換。

9、進(jìn)一步地，所述對(duì)預(yù)處理后的時(shí)間序列數(shù)據(jù)進(jìn)行高斯分布可變分解，得到趨勢(shì)性成分和季節(jié)性成分，包括：

10、使用高斯分布初始化卷積核權(quán)重；

11、對(duì)預(yù)處理后的歷史時(shí)間序列數(shù)據(jù)進(jìn)行填充，以保持卷積前后的時(shí)間序列數(shù)據(jù)長(zhǎng)度一致，用得到初始化后的卷積核對(duì)時(shí)間序列數(shù)據(jù)進(jìn)行平滑，提取出趨勢(shì)性成分：

12、；

13、上式中，表示趨勢(shì)性成分；表示預(yù)處理后的歷史時(shí)間序列數(shù)據(jù)；表示初始化卷積核權(quán)重；表示填充；表示卷積；

14、從預(yù)處理后的時(shí)間序列數(shù)據(jù)中減去趨勢(shì)性成分得到季節(jié)性成分。

15、進(jìn)一步地，所述對(duì)趨勢(shì)性成分進(jìn)行建模，捕捉時(shí)間序列中的長(zhǎng)期非線性關(guān)系，包括：

16、構(gòu)建多個(gè)通道，將趨勢(shì)性成分輸入到每個(gè)通道中，在每個(gè)通道上使用不同大小的卷積核進(jìn)行卷積操作，通過逐點(diǎn)卷積來(lái)實(shí)現(xiàn)不同通道間的特征整合，以形成多尺度融合的特征表示；

17、使用一個(gè)1×1的卷積對(duì)融合后的特征進(jìn)行處理，然后將結(jié)果與輸入的趨勢(shì)性成分逐元素相乘。

18、進(jìn)一步地，所有卷積操作均采用深度可分離卷積的形式。

19、進(jìn)一步地，所述根據(jù)趨勢(shì)性成分與季節(jié)性成分的貢獻(xiàn)度調(diào)整權(quán)重，實(shí)現(xiàn)信息的有效整合，包括：

20、將季節(jié)性成分和趨勢(shì)性成分的預(yù)測(cè)結(jié)果進(jìn)行加權(quán)融合，得到加權(quán)融合后的特征：

21、；

22、其中，表示加權(quán)融合后的特征；表示季節(jié)性成分的特征提取的結(jié)果；表示趨勢(shì)性成分的特征提取的結(jié)果；表示加權(quán)系數(shù)，用于調(diào)節(jié)季節(jié)性成分和趨勢(shì)性成分的貢獻(xiàn)。

23、進(jìn)一步地，所述構(gòu)建的電變壓溫度時(shí)間序列預(yù)測(cè)模型中，還包括：

24、通過殘差連接，將加權(quán)融合后的特征與預(yù)處理后的時(shí)間序列數(shù)據(jù)進(jìn)行加和，得到殘差融合特征：

25、；

26、其中，表示加權(quán)融合后的特征；是權(quán)重矩陣；是偏置向量；是通過全連接層和relu激活函數(shù)處理后的中間特征；表示殘差融合特征。

27、與現(xiàn)有技術(shù)相比，本發(fā)明具有如下技術(shù)效果：

28、本發(fā)明首先對(duì)電變壓溫度的歷史時(shí)間序列數(shù)據(jù)進(jìn)行可變分解，利用可學(xué)習(xí)的一維卷積操作對(duì)時(shí)間序列數(shù)據(jù)進(jìn)行趨勢(shì)性成分和季節(jié)性成分的精確分解，克服了傳統(tǒng)分解方法靈活性不足的問題。在季節(jié)性成分建模上，采用了簡(jiǎn)單而高效的線性變換，通過學(xué)習(xí)季節(jié)性變化的周期性模式來(lái)進(jìn)行特征提取。而在趨勢(shì)性成分建模上，則采用了卷積注意力結(jié)構(gòu)，以捕捉長(zhǎng)期趨勢(shì)中的非線性關(guān)系，同時(shí)保證模型的計(jì)算效率。最后，將季節(jié)性成分和趨勢(shì)性成分的特征融合并通過殘差學(xué)習(xí)模塊，進(jìn)一步提高模型的預(yù)測(cè)精度。

技術(shù)特征：

1.一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法，其特征在于，包括以下步驟：

2.根據(jù)權(quán)利要求1所述的一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法，其特征在于，所述對(duì)所述歷史時(shí)間序列數(shù)據(jù)進(jìn)行預(yù)處理，包括：對(duì)所述歷史時(shí)間序列數(shù)據(jù)進(jìn)行歸一化，并對(duì)歸一化后的歷史時(shí)間序列數(shù)據(jù)進(jìn)行仿射變換。

3.根據(jù)權(quán)利要求2所述的一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法，其特征在于，所述對(duì)預(yù)處理后的時(shí)間序列數(shù)據(jù)進(jìn)行高斯分布可變分解，得到趨勢(shì)性成分和季節(jié)性成分，包括：

4.根據(jù)權(quán)利要求3所述的一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法，其特征在于，所述對(duì)趨勢(shì)性成分進(jìn)行建模，捕捉時(shí)間序列中的長(zhǎng)期非線性關(guān)系，包括：

5.根據(jù)權(quán)利要求4所述的一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法，其特征在于，所有卷積操作均采用深度可分離卷積的形式。

6.根據(jù)權(quán)利要求4所述的一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法，其特征在于，所述根據(jù)趨勢(shì)性成分與季節(jié)性成分的貢獻(xiàn)度調(diào)整權(quán)重，實(shí)現(xiàn)信息的有效整合，包括：

7.根據(jù)權(quán)利要求6所述的一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法，其特征在于，所述構(gòu)建的電變壓溫度時(shí)間序列預(yù)測(cè)模型中，還包括：

技術(shù)總結(jié)
本發(fā)明屬于時(shí)間序列預(yù)測(cè)技術(shù)領(lǐng)域，具體涉及一種基于可變分解與卷積注意力建模的時(shí)間序列預(yù)測(cè)方法。首先對(duì)電變壓溫度的歷史時(shí)間序列數(shù)據(jù)進(jìn)行可變分解，利用可學(xué)習(xí)的一維卷積操作對(duì)歷史時(shí)間序列數(shù)據(jù)進(jìn)行趨勢(shì)性和季節(jié)性成分的分解，克服傳統(tǒng)分解方法靈活性不足的問題。在季節(jié)性成分建模上，采用簡(jiǎn)單而高效的線性變換，通過學(xué)習(xí)季節(jié)性變化的周期性模式來(lái)進(jìn)行特征提取。而在趨勢(shì)性成分建模上，則采用了卷積注意力結(jié)構(gòu)，以捕捉長(zhǎng)期趨勢(shì)中的非線性關(guān)系，同時(shí)保證模型的計(jì)算效率。最后，將季節(jié)性成分和趨勢(shì)性成分的特征融合并通過殘差學(xué)習(xí)模塊，進(jìn)一步提高模型的預(yù)測(cè)精度。

技術(shù)研發(fā)人員：王樺,李夢(mèng)寒,張小峰,張帆
受保護(hù)的技術(shù)使用者：魯東大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2025/5/15