本發(fā)明涉及電力工業(yè)，尤其是涉及一種基于mamba大模型和transformer網(wǎng)絡(luò)的重型燃?xì)廨啓C(jī)智能建模方法。

背景技術(shù)：

1、規(guī)?；S機(jī)性風(fēng)能發(fā)電、光伏發(fā)電在電網(wǎng)的高比例滲透使我國(guó)電力系統(tǒng)的調(diào)峰調(diào)頻需求日趨突出。在此背景下，火力發(fā)電機(jī)組全工況靈活運(yùn)行、快速減負(fù)荷轉(zhuǎn)為帶廠用電的孤島運(yùn)行模式已成為必然發(fā)展趨勢(shì)。重型燃?xì)廨啓C(jī)因具有熱效率高、快速啟停、負(fù)荷響應(yīng)速度快、清潔度高等優(yōu)勢(shì)在調(diào)峰市場(chǎng)備受青睞。

2、然而，重型燃?xì)廨啓C(jī)快速啟停及變負(fù)荷優(yōu)化控制的前提是發(fā)電過(guò)程多變量模型的精確獲取。因此，研發(fā)重型燃?xì)廨啓C(jī)智能建模方法推動(dòng)重型燃?xì)廨啓C(jī)參與調(diào)峰是提高電網(wǎng)安全穩(wěn)定運(yùn)行水平的切實(shí)有效途徑。為促進(jìn)重型燃?xì)廨啓C(jī)參與電網(wǎng)調(diào)峰，亟需構(gòu)建能夠快速獲取精確重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程模型的建模方法，且該模型是能夠服務(wù)于工業(yè)過(guò)程控制器設(shè)計(jì)的。傳統(tǒng)的建模方法無(wú)法充分考慮重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程各變量數(shù)據(jù)跨度大的特性，無(wú)法有效整合多源數(shù)據(jù)。

3、基于此，本發(fā)明在分析重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程動(dòng)態(tài)特性的基礎(chǔ)上，融合mamba與transformer大模型設(shè)計(jì)了多變量序列智能建模方法，從建模的角度出發(fā)提高重型燃?xì)廨啓C(jī)深度調(diào)峰能力。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明的目的是提供一種基于mamba大模型和transformer網(wǎng)絡(luò)的重型燃?xì)廨啓C(jī)智能建模方法，以解決背景技術(shù)中的問(wèn)題。

2、為實(shí)現(xiàn)上述目的，本發(fā)明提供了一種基于mamba大模型和transformer網(wǎng)絡(luò)的重型燃?xì)廨啓C(jī)智能建模方法，包括以下步驟：

3、s1、根據(jù)重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程中的汽-水流程動(dòng)態(tài)特征，構(gòu)建耦合系統(tǒng)模型結(jié)構(gòu)，確定輸入變量和輸出變量；

4、s2、獲取重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程的多變量混合數(shù)據(jù)序列并進(jìn)行數(shù)據(jù)處理，基于mamba+transformer多模態(tài)大模型構(gòu)建重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程模型；

5、s3、采用重型燃?xì)廨啓C(jī)的歷史運(yùn)行數(shù)據(jù)對(duì)重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程模型進(jìn)行訓(xùn)練和驗(yàn)證，完成建模。

6、優(yōu)選的，所述s1中，輸入變量為重型燃?xì)廨啓C(jī)發(fā)電過(guò)程中的進(jìn)氣量和進(jìn)氣導(dǎo)片開(kāi)度，輸出變量為壓氣機(jī)的出口壓強(qiáng)、轉(zhuǎn)子轉(zhuǎn)速、燃機(jī)功率和排氣溫度。

7、優(yōu)選的，所述s2的具體步驟如下：

8、s21、獲取重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程的多變量混合數(shù)據(jù)序列，進(jìn)行數(shù)據(jù)構(gòu)建、池化操作和多層感知處理，得到多序列輸入數(shù)據(jù)；

9、數(shù)據(jù)構(gòu)建過(guò)程根據(jù)不同維度及時(shí)間尺度的多序列設(shè)計(jì)獨(dú)特的預(yù)訓(xùn)練模式，使模型能夠區(qū)分多序列之間的時(shí)間和空間依賴(lài)關(guān)系；

10、池化操作將逐漸變長(zhǎng)的輸入序列映射成固定長(zhǎng)度向量，在多模態(tài)大模型中增加池化操作可將逐漸變長(zhǎng)的多變量輸入序列進(jìn)行壓縮，得到一個(gè)固定長(zhǎng)度的向量便于后續(xù)模塊學(xué)習(xí)；

11、多層感知機(jī)由兩個(gè)線性變換層和一個(gè)非線性激活函數(shù)組成，第一個(gè)線性變換層增加輸入序列的維度，以便網(wǎng)絡(luò)能夠?qū)?fù)雜任務(wù)進(jìn)行學(xué)習(xí)；第二個(gè)線性變換層將序列維度還原至與輸入序列相同的大小，通過(guò)殘差連接和層歸一化，確保模型的穩(wěn)定訓(xùn)練；非線性激活函數(shù)有助于多模態(tài)大模型捕獲長(zhǎng)時(shí)間多序列輸入數(shù)據(jù)中的復(fù)雜模式；

12、s22、對(duì)s21處理的結(jié)果進(jìn)行mamba模塊處理、transformer模塊處理、歸一化處理，完成mamba+transformer多模態(tài)大模型的構(gòu)建；

13、s23、將mamba+transformer多模態(tài)大模型的輸入序列維度拓展至2，輸出序列維度拓展至4，完成重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程模型的構(gòu)建。

14、優(yōu)選的，所述s22中，mamba模塊的處理過(guò)程如下：

15、1)采用狀態(tài)空間模型處理多序列輸入數(shù)據(jù)，表示為：

16、

17、yk＝cxk；

18、其中，xk為第k時(shí)刻的狀態(tài)變量，xk-1為第k-1時(shí)刻的狀態(tài)變量，uk為模型輸入向量，yk為模型輸出向量；

19、c均為狀態(tài)空間模型的參數(shù)矩陣；

20、

21、其中，e為指數(shù)函數(shù)的底數(shù)，δ為增量，i為單位矩陣；

22、2)對(duì)處理后的多序列輸入數(shù)據(jù)進(jìn)行卷積核計(jì)算，如下：

23、

24、其中，為卷積核，n為行數(shù)，為參數(shù)矩陣的轉(zhuǎn)置；為的范德蒙德矩陣；

25、為擴(kuò)展矩陣；

26、目的是生成關(guān)于的所有冪次形式，狀態(tài)向量通過(guò)冪次擴(kuò)展映射到一個(gè)高維特征空間，用于卷積計(jì)算；

27、3)輸出預(yù)測(cè)值，表示為：

28、

29、其中，u為模型輸入向量，y為模型輸出向量。

30、優(yōu)選的，所述s22中，transformer模型處理的具體過(guò)程為：采用正弦位置編碼模式對(duì)序列進(jìn)行學(xué)習(xí)，表示為：

31、

32、其中，pos為當(dāng)前語(yǔ)義在序列中的位置，i為語(yǔ)義嵌入的維度，dmodel為輸入序列的維度。

33、優(yōu)選的，所述s22中，經(jīng)transformer模塊處理后的序列再次進(jìn)入mamba模塊進(jìn)行再次處理，加速對(duì)復(fù)雜序列的學(xué)習(xí)效率，然后對(duì)輸出值進(jìn)行歸一化處理，輸出模型預(yù)測(cè)值，預(yù)測(cè)值在輸出前的歸一化操作有利于穩(wěn)定和標(biāo)準(zhǔn)化數(shù)據(jù)，確保數(shù)據(jù)在網(wǎng)絡(luò)層之間的穩(wěn)定傳遞。

34、優(yōu)選的，所述s23中，將重型燃?xì)廨啓C(jī)發(fā)電過(guò)程中的進(jìn)氣量和進(jìn)氣導(dǎo)片開(kāi)度作為模型輸入，壓氣機(jī)的出口壓強(qiáng)、轉(zhuǎn)子轉(zhuǎn)速、燃機(jī)功率和排氣溫度作為模型輸出。

35、優(yōu)選的，所述s3中，采用步驟s2進(jìn)行訓(xùn)練和驗(yàn)證，輸出模型預(yù)測(cè)值并與歷史運(yùn)行數(shù)據(jù)中的真實(shí)數(shù)據(jù)進(jìn)行對(duì)比，計(jì)算均方根誤差、建模誤差、建模精度來(lái)對(duì)模型進(jìn)行評(píng)估。

36、優(yōu)選的，所述均方根誤差的計(jì)算公式為：

37、

38、建模誤差的計(jì)算公式為：

39、e(k)＝|y(k)-r(k)|；

40、建模精度的計(jì)算公式為：

41、

42、其中，rmse(k)為均方根誤差，e(k)為建模誤差，r2為建模精度，n代表數(shù)組的個(gè)數(shù)，r(k)為重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程模型輸出變量，y(k)為模型預(yù)測(cè)值。

43、因此，本發(fā)明一種基于mamba大模型和transformer網(wǎng)絡(luò)的重型燃?xì)廨啓C(jī)智能建模方法，具有以下有益效果：

44、(1)本發(fā)明所保護(hù)方法深入挖掘重型燃?xì)廨啓C(jī)的深度調(diào)峰能力以推動(dòng)高比例新能源電力系統(tǒng)的建設(shè)，充分考慮了重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程的汽-水流程動(dòng)態(tài)特性，結(jié)合能夠迅速有效捕捉多變量長(zhǎng)時(shí)間序列長(zhǎng)短期依賴(lài)關(guān)系的mamba+transformer多模態(tài)大模型設(shè)計(jì)多變量發(fā)電過(guò)程智能建模方法，該方法充分考慮了重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程各變量數(shù)據(jù)跨度大的特性，所建模型具有泛化能力強(qiáng)的優(yōu)勢(shì)。

45、(2)本方法中設(shè)計(jì)的mamba+transformer大模型具有穩(wěn)定的選擇性狀態(tài)空間模型架構(gòu)、泛化能力強(qiáng)，能夠高效處理多變量長(zhǎng)時(shí)間序列；另外該模型能夠快速辨識(shí)得到精確的面向工業(yè)控制的重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程，兼顧重型燃?xì)廨啓C(jī)調(diào)峰過(guò)程各變量間的耦合精準(zhǔn)捕獲映射關(guān)系，有助于提高重型燃?xì)廨啓C(jī)的調(diào)峰能力，有提高機(jī)組的深度調(diào)峰能力并為高比例新能源電力消納提供支撐。

46、下面通過(guò)附圖和實(shí)施例，對(duì)本發(fā)明的技術(shù)方案做進(jìn)一步的詳細(xì)描述。