本發(fā)明屬于時(shí)空數(shù)據(jù)預(yù)測(cè)，具體涉及一種基于空間元圖卷積循環(huán)神經(jīng)網(wǎng)絡(luò)的時(shí)空數(shù)據(jù)預(yù)測(cè)方法。

背景技術(shù)：

1、隨著信息技術(shù)的飛速發(fā)展，時(shí)空數(shù)據(jù)在眾多領(lǐng)域如交通流量預(yù)測(cè)、城市服務(wù)設(shè)施規(guī)劃、氣象預(yù)測(cè)等中扮演著越來越重要的角色。然而，時(shí)空數(shù)據(jù)具有復(fù)雜的空間依賴性和時(shí)間動(dòng)態(tài)性，這使得準(zhǔn)確預(yù)測(cè)成為一個(gè)極具挑戰(zhàn)性的問題。傳統(tǒng)的時(shí)空數(shù)據(jù)預(yù)測(cè)方法主要依賴于統(tǒng)計(jì)模型和機(jī)器學(xué)習(xí)算法，如時(shí)間序列分析、支持向量機(jī)等，這些方法雖然在一定程度上能夠捕捉數(shù)據(jù)的規(guī)律，但往往難以有效處理時(shí)空數(shù)據(jù)的復(fù)雜性，尤其是在面對(duì)大規(guī)模、高維度數(shù)據(jù)時(shí)，其性能和精度會(huì)受到限制。

2、近年來，深度學(xué)習(xí)技術(shù)為時(shí)空數(shù)據(jù)預(yù)測(cè)帶來了新的機(jī)遇。圖卷積網(wǎng)絡(luò)（gcn）和循環(huán)神經(jīng)網(wǎng)絡(luò)（rnn）是其中的兩種重要技術(shù)。圖卷積網(wǎng)絡(luò)能夠有效捕捉空間上的依賴關(guān)系，而循環(huán)神經(jīng)網(wǎng)絡(luò)則擅長(zhǎng)處理時(shí)間序列數(shù)據(jù)中的動(dòng)態(tài)變化，將兩者結(jié)合的時(shí)空?qǐng)D卷積網(wǎng)絡(luò)（stgcn）則在交通流量預(yù)測(cè)等任務(wù)中取得了顯著的成果。然而，現(xiàn)有的時(shí)空?qǐng)D卷積網(wǎng)絡(luò)在處理時(shí)空異質(zhì)性和非平穩(wěn)性方面仍存在不足。例如，交通流量數(shù)據(jù)不僅受到道路網(wǎng)絡(luò)結(jié)構(gòu)的影響，還會(huì)因突發(fā)事件、天氣變化等因素而出現(xiàn)非平穩(wěn)性。為解決這一問題，研究者們開始探索更高級(jí)的時(shí)空建模方法。例如，megacrn提出了一種元圖學(xué)習(xí)機(jī)制，通過引入元圖卷積循環(huán)網(wǎng)絡(luò)（megacrn），能夠更好地適應(yīng)時(shí)空數(shù)據(jù)的異質(zhì)性和非平穩(wěn)性。此外，動(dòng)態(tài)圖卷積循環(huán)神經(jīng)網(wǎng)絡(luò)（dgcrn）也在時(shí)空預(yù)測(cè)領(lǐng)域得到了應(yīng)用，它在seq2seq架構(gòu)下，以循環(huán)神經(jīng)網(wǎng)絡(luò)為框架，利用圖卷積獲取空間相關(guān)性，從而實(shí)現(xiàn)對(duì)時(shí)空數(shù)據(jù)的精準(zhǔn)預(yù)測(cè)。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明為了解決上述問題，提供了一種基于空間元圖卷積循環(huán)神經(jīng)網(wǎng)絡(luò)的時(shí)空數(shù)據(jù)預(yù)測(cè)方法。

2、本發(fā)明為實(shí)現(xiàn)上述目的，通過以下技術(shù)方案實(shí)現(xiàn)：

3、本發(fā)明提供一種基于空間元圖卷積循環(huán)神經(jīng)網(wǎng)絡(luò)的交通流量預(yù)測(cè)方法，包括以下步驟：

4、s1.動(dòng)態(tài)元圖構(gòu)建：構(gòu)建一個(gè)元節(jié)點(diǎn)庫(kù)，庫(kù)中參數(shù)由服從標(biāo)準(zhǔn)正態(tài)分布的隨機(jī)變量初始化，通過元節(jié)點(diǎn)庫(kù)生成元圖；

5、s2.地理空間相似性計(jì)算：數(shù)據(jù)集中每個(gè)節(jié)點(diǎn)對(duì)應(yīng)于現(xiàn)實(shí)世界中道路上的傳感器，基于節(jié)點(diǎn)的地理經(jīng)緯度坐標(biāo)生成相似度矩陣；所述數(shù)據(jù)集中記錄傳感器地理位置信息及傳感器收集的時(shí)間序列數(shù)據(jù)；

6、s3.卷積空間特征增強(qiáng)：所述相似度矩陣經(jīng)過卷積模塊提取深度空間特征，得到特征增強(qiáng)的相似度矩陣；

7、s4.自適應(yīng)特征融合：引入兩個(gè)可訓(xùn)練參數(shù)和作為權(quán)重，對(duì)特征增強(qiáng)的相似度矩陣與第一元圖、第二元圖進(jìn)行加權(quán)求和，得到兩個(gè)支持矩陣；

8、s5.時(shí)空聯(lián)合預(yù)測(cè)：通過由圖卷積門控循環(huán)單元gcru組成的編碼器-解碼器架構(gòu)建模時(shí)空依賴關(guān)系，編碼器和解碼器均包含1層gcru單元，將支持矩陣輸入gcru單元，進(jìn)行圖卷積操作；編碼器輸入過去個(gè)時(shí)間節(jié)點(diǎn)的數(shù)據(jù)，解碼器輸出對(duì)未來個(gè)時(shí)間節(jié)點(diǎn)的預(yù)測(cè)結(jié)果。

9、進(jìn)一步地，步驟s1具體包括：

10、初始化一個(gè)元節(jié)點(diǎn)庫(kù)，其中表示記憶項(xiàng)數(shù)量，d表示每個(gè)記憶項(xiàng)的維度，將隱藏層特征輸入到一個(gè)全連接層得到查詢向量，再使用查詢向量和元節(jié)點(diǎn)庫(kù)中的記憶項(xiàng)計(jì)算注意力，最后得到所有節(jié)點(diǎn)的重建表示，公式表示如下：

11、，

12、，

13、，

14、其中，表示第個(gè)節(jié)點(diǎn)的隱藏特征，表示全連接層的可學(xué)習(xí)權(quán)重，表示乘法操作，表示全連接層的可學(xué)習(xí)偏置，表示查詢向量，標(biāo)量表示向量與記憶項(xiàng)之間的注意力得分，表示元節(jié)點(diǎn)庫(kù)的第行的轉(zhuǎn)置，元節(jié)點(diǎn)向量表示第個(gè)節(jié)點(diǎn)的重建表示，為重建表示的第行，表示節(jié)點(diǎn)數(shù)量；

15、通過如下公式得到元圖：

16、，

17、，

18、，

19、，

20、其中，分別表示第一嵌入向量和第二嵌入向量，分別表示第一嵌入向量和第二嵌入向量的轉(zhuǎn)置，表示元節(jié)點(diǎn)庫(kù)，g1、g2表示第一全連接層和第二全連接層，分別表示第一全連接層和第二全連接層的權(quán)重，表示記憶項(xiàng)數(shù)量；表示第一元圖，表示第二元圖，表示softmax激活函數(shù)，表示relu激活函數(shù)。

21、進(jìn)一步地，步驟s2中地理空間相似性計(jì)算具體包括：

22、采用python中g(shù)eopy庫(kù)通過節(jié)點(diǎn)經(jīng)緯度計(jì)算得到節(jié)點(diǎn)間的直線距離，所有節(jié)點(diǎn)組成距離矩陣d，將輸入到閾值高斯核函數(shù)得到權(quán)重，閾值高斯核函數(shù)的數(shù)學(xué)表達(dá)如下：

23、，

24、其中，表示權(quán)重矩陣的第行和第列中的元素，表示節(jié)點(diǎn)和之間的距離；表示分布系數(shù)，表示稀疏化系數(shù)，分別用來控制矩陣的分布和稀疏性；將權(quán)重矩陣中的零值賦為1e-9，然后對(duì)權(quán)重矩陣的每一行應(yīng)用softmax函數(shù)進(jìn)行轉(zhuǎn)換，得到相似度矩陣。

25、進(jìn)一步地，步驟s3具體包括：

26、所述卷積模塊包括卷積層、softmax激活函數(shù)；所述卷積層的卷積核大小為3×3、輸入和輸出通道數(shù)為1、padding設(shè)置為1；

27、相似度矩陣經(jīng)過卷積模塊進(jìn)行處理，得到特征增強(qiáng)的相似度矩陣，公式表示如下：

28、，

29、其中，表示卷積層的操作。

30、進(jìn)一步地，步驟s4具體包括：

31、對(duì)特征增強(qiáng)的相似度矩陣和第一元圖進(jìn)行加權(quán)求和，得到第一支持矩陣，公式表示如下：

32、，

33、其中，表示可學(xué)習(xí)的第一加權(quán)系數(shù)，表示第一支持矩陣；同理，對(duì)特征增強(qiáng)的相似度矩陣和第一元圖進(jìn)行加權(quán)求和，得到第二支持矩陣，公式表示如下：

34、，

35、其中，表示可學(xué)習(xí)的第二加權(quán)系數(shù)。

36、進(jìn)一步地，步驟s5中，將采集到的原始時(shí)間序列數(shù)據(jù)輸入到圖卷積門控循環(huán)單元gcru組成的編碼器-解碼器架構(gòu)中，將過去個(gè)時(shí)間步的數(shù)據(jù)輸入到編碼器中進(jìn)行處理，得到t時(shí)刻數(shù)據(jù)的隱藏狀態(tài)；將數(shù)據(jù)的隱藏狀態(tài)和節(jié)點(diǎn)的重建表示進(jìn)行拼接后得到拼接隱藏狀態(tài)，將拼接隱藏狀態(tài)輸入到解碼器進(jìn)行預(yù)測(cè)，得到未來個(gè)時(shí)間節(jié)點(diǎn)的預(yù)測(cè)結(jié)果。

37、進(jìn)一步地，圖卷積門控循環(huán)單元gcru具體為：

38、在圖卷積門控循環(huán)單元gcru中通用的圖卷積操作的公式表示如下：

39、，

40、其中，表示圖卷積操作的輸入，表示圖卷積操作，表示圖卷積操作的參數(shù)，和分別表示經(jīng)過切比雪夫多項(xiàng)式展開后的第項(xiàng)的第一支持矩陣和第二支持矩陣，表示可訓(xùn)練參數(shù)；

41、圖卷積門控循環(huán)單元gcru中具體操作的公式表示如下：

42、

43、其中，表示圖卷積操作；表示時(shí)刻的時(shí)間序列數(shù)據(jù)輸入；表示時(shí)刻的隱藏狀態(tài)；分別表示時(shí)刻的更新門、重置門和候選狀態(tài)，分別表示更新門、重置門和候選狀態(tài)的參數(shù)，分別表示更新門、重置門和候選狀態(tài)的偏置，表示激活函數(shù)，表示激活函數(shù)，表示元素級(jí)乘法，表示時(shí)刻數(shù)據(jù)的隱藏狀態(tài)，表示時(shí)刻數(shù)據(jù)的隱藏狀態(tài)。

44、本發(fā)明的優(yōu)點(diǎn)在于：

45、本發(fā)明通過引入實(shí)際地理位置信息，計(jì)算空間相似度矩陣。充分考慮節(jié)點(diǎn)的實(shí)際地理位置信息，提取更深層次的特征，創(chuàng)新性地將地理特征與圖結(jié)構(gòu)學(xué)習(xí)深度融合。將地理信息融入時(shí)空建模單元gcru：gcn特別擅長(zhǎng)捕捉圖形結(jié)構(gòu)數(shù)據(jù)固有的空間特征，而gru則擅長(zhǎng)提取時(shí)間模式，將門控循環(huán)單元（gru）與gcn結(jié)合使用,構(gòu)建時(shí)空建模單元gcru。在此基礎(chǔ)上，將地理空間信息和卷積層引入時(shí)空建模單元，增強(qiáng)模型對(duì)空間異質(zhì)性和復(fù)雜關(guān)系的感知能力。動(dòng)態(tài)融合機(jī)制：空間相似度矩陣w和元圖學(xué)習(xí)得到的矩陣g使用可訓(xùn)練的參數(shù)α和β進(jìn)行加權(quán)求和。求和權(quán)重α和β在訓(xùn)練過程中會(huì)不斷更新迭代，最終得到最合適的權(quán)重；提高了模型的預(yù)測(cè)準(zhǔn)確性。