本申請涉及時間序列預(yù)測領(lǐng)域，特別是涉及一種基于層次自注意力機制的時間序列預(yù)測方法及系統(tǒng)。

背景技術(shù)：

1、隨著全球數(shù)字化進程的加快，智能系統(tǒng)的建設(shè)逐漸成為各行業(yè)發(fā)展的重要目標(biāo)。智能數(shù)據(jù)管理系統(tǒng)作為其核心組成部分，旨在通過信息技術(shù)和數(shù)據(jù)分析手段，提高數(shù)據(jù)處理效率，優(yōu)化資源的分配和利用。時間序列預(yù)測作為智能數(shù)據(jù)管理系統(tǒng)中的關(guān)鍵環(huán)節(jié)，可以通過提前預(yù)測數(shù)據(jù)趨勢，幫助管理部門優(yōu)化決策、規(guī)劃資源配置和應(yīng)對突發(fā)事件，從而提高整體系統(tǒng)的運行效率。然而，時間序列預(yù)測因其復(fù)雜的時空動態(tài)變化，尤其在長期預(yù)測中，仍面臨諸多挑戰(zhàn)，難以獲得理想的預(yù)測效果。

技術(shù)實現(xiàn)思路

1、本申請的目的是提供一種基于層次自注意力機制的時間序列預(yù)測方法及系統(tǒng)，可提高時間序列的預(yù)測精度和效率。

2、為實現(xiàn)上述目的，本申請?zhí)峁┝巳缦路桨福?/p>

3、第一方面，本申請?zhí)峁┝艘环N基于層次自注意力機制的時間序列預(yù)測方法，包括：

4、對歷史時間序列進行聚類分析，將所述歷史時間序列劃分為多個類別，得到多個子矩陣；每個子矩陣包括同一個類別的時間序列；

5、根據(jù)多個子矩陣，采用預(yù)先訓(xùn)練好的時序預(yù)測模型進行時間序列預(yù)測，得到未來時間序列；所述時序預(yù)測模型包括類內(nèi)注意力層、類間注意力層及解碼器；

6、其中，所述類內(nèi)注意力層用于分別對每個子矩陣進行分塊，采用自注意力機制學(xué)習(xí)每個子矩陣內(nèi)各時序塊之間的時間依賴關(guān)系，得到第一時序表示；

7、所述類間注意力層用于對第一時序表示進行分塊，采用映射注意力機制捕捉第一時序表示內(nèi)各時序塊之間的原始空間關(guān)系，采用增強注意力機制對第一時序表示內(nèi)的各時序塊進行增強，得到第二時序表示；

8、所述解碼器用于將第二時序表示映射為未來時間序列。

9、第二方面，本申請?zhí)峁┝艘环N基于層次自注意力機制的時間序列預(yù)測系統(tǒng)，包括：

10、分類模塊，用于對歷史時間序列進行聚類分析，將所述歷史時間序列劃分為多個類別，得到多個子矩陣；每個子矩陣包括同一個類別的時間序列；

11、預(yù)測模塊，用于根據(jù)多個子矩陣，采用預(yù)先訓(xùn)練好的時序預(yù)測模型進行時間序列預(yù)測，得到未來時間序列；所述時序預(yù)測模型包括類內(nèi)注意力層、類間注意力層及解碼器；

12、其中，所述類內(nèi)注意力層用于分別對每個子矩陣進行分塊，采用自注意力機制學(xué)習(xí)每個子矩陣內(nèi)各時序塊之間的時間依賴關(guān)系，得到第一時序表示；

13、所述類間注意力層用于對第一時序表示進行分塊，采用映射注意力機制捕捉第一時序表示內(nèi)各時序塊之間的原始空間關(guān)系，采用增強注意力機制對第一時序表示內(nèi)的各時序塊進行增強，得到第二時序表示；

14、所述解碼器用于將第二時序表示映射為未來時間序列。

15、根據(jù)本申請?zhí)峁┑木唧w實施例，本申請具有了以下技術(shù)效果：

16、本申請?zhí)峁┝艘环N基于層次自注意力機制的時間序列預(yù)測方法及系統(tǒng)，通過將歷史時間序列劃分為多個類別，形成分層的時空結(jié)構(gòu)，降低了時序預(yù)測模型的時間復(fù)雜度，提升了對長時間依賴的建模能力，進而提高了時序預(yù)測的效率。采用類內(nèi)注意力層學(xué)習(xí)時序塊之間的時間依賴關(guān)系，能夠有效捕捉類內(nèi)的時序特征，采用映射注意力機制捕捉第一時序表示內(nèi)各時序塊之間的原始空間關(guān)系，采用增強注意力機制對第一時序表示內(nèi)的各時序塊進行增強，能夠有效處理局部突發(fā)事件的傳播，從而顯著提高了長時間段時間序列預(yù)測的準(zhǔn)確性。

技術(shù)特征：

1.一種基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，所述基于層次自注意力機制的時間序列預(yù)測方法包括：

2.根據(jù)權(quán)利要求1所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，采用基于層次的分割算法對歷史時間序列進行聚類分析，將所述歷史時間序列劃分為多個類別，得到多個子矩陣。

3.根據(jù)權(quán)利要求1所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，類內(nèi)注意力層分別對每個子矩陣進行分塊，采用自注意力機制學(xué)習(xí)每個子矩陣內(nèi)各時序塊之間的時間依賴關(guān)系，得到第一時序表示，具體包括：

4.根據(jù)權(quán)利要求3所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，采用以下公式得到第j個子矩陣的時序表示：

5.根據(jù)權(quán)利要求1所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，類間注意力層對第一時序表示進行分塊，采用映射注意力機制捕捉第一時序表示內(nèi)各時序塊之間的原始空間關(guān)系，采用增強注意力機制對第一時序表示內(nèi)的各時序塊進行增強，得到第二時序表示，具體包括：

6.根據(jù)權(quán)利要求5所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，采用以下公式得到第r個表示塊的映射注意力表示：

7.根據(jù)權(quán)利要求5所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，采用以下公式得到第r個表示塊的類間注意力表示：

8.根據(jù)權(quán)利要求1所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，所述解碼器為多層感知機。

9.根據(jù)權(quán)利要求1所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，所述歷史時間序列為歷史交通流量監(jiān)測數(shù)據(jù)；所述未來時間序列為未來交通流量監(jiān)測數(shù)據(jù)。

10.一種基于層次自注意力機制的時間序列預(yù)測系統(tǒng)，應(yīng)用于權(quán)利要求1-9任一項所述的基于層次自注意力機制的時間序列預(yù)測方法，其特征在于，所述基于層次自注意力機制的時間序列預(yù)測系統(tǒng)包括：

技術(shù)總結(jié)
本申請公開了一種基于層次自注意力機制的時間序列預(yù)測方法及系統(tǒng)，涉及時間序列預(yù)測領(lǐng)域，該方法包括：將歷史時間序列劃分為多個類別，得到多個子矩陣；根據(jù)多個子矩陣，采用預(yù)先訓(xùn)練好的時序預(yù)測模型進行時間序列預(yù)測；時序預(yù)測模型包括類內(nèi)注意力層、類間注意力層及解碼器；類內(nèi)注意力層分別對每個子矩陣進行分塊，采用自注意力機制學(xué)習(xí)每個子矩陣內(nèi)各時序塊之間的時間依賴關(guān)系，得到第一時序表示；類間注意力層對第一時序表示進行分塊，采用映射注意力機制捕捉各時序塊之間的原始空間關(guān)系，采用增強注意力機制對各時序塊進行增強，得到第二時序表示；解碼器將第二時序表示映射為未來時間序列。本申請?zhí)岣吡藭r間序列的預(yù)測精度和效率。

技術(shù)研發(fā)人員：葉俊辰,劉乾,賈浩楠,杜博文
受保護的技術(shù)使用者：北京航空航天大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2025/5/15