本發(fā)明屬于海上溢油信息識(shí)別,尤其涉及基于平滑激活函數(shù)海面溢油輕量化高光譜識(shí)別方法及系統(tǒng)。
背景技術(shù):
1、災(zāi)害應(yīng)急中對(duì)溢油實(shí)時(shí)識(shí)別的需求十分迫切,無人機(jī)以其靈活、快速、低成本等特點(diǎn)成為海面溢油監(jiān)測(cè)的重要手段,因此開發(fā)一種輕量化的無人機(jī)識(shí)別模型至關(guān)重要。
2、海洋環(huán)境與人類生活息息相關(guān),而海上溢油事故多發(fā),難以清潔的溢油及其乳化物對(duì)海洋和沿海環(huán)境造成各種危害,產(chǎn)生了長(zhǎng)期的負(fù)面影響。海上溢油事件的發(fā)生具有突發(fā)性強(qiáng)、發(fā)生后分布范圍大、漂移擴(kuò)散動(dòng)態(tài)性高等特點(diǎn),對(duì)溢油發(fā)生的準(zhǔn)確檢測(cè)、溢油范圍和溢油量的精確估算以及對(duì)其動(dòng)態(tài)分布的高效跟蹤,是溢油災(zāi)害有效治理的前提條件。無人機(jī)遙感技術(shù)的出現(xiàn)為海上溢油災(zāi)害應(yīng)急帶來了革命性的變化,通過搭載高光譜相機(jī)、熱紅外相機(jī)、激光雷達(dá)等設(shè)備的無人機(jī),可以實(shí)現(xiàn)快速、精確的海面溢油數(shù)據(jù)采集和測(cè)量,同時(shí)具有操作靈活、成本低廉、效率高等優(yōu)勢(shì),適用于各種復(fù)雜海況下的溢油檢測(cè)[7]。但無人機(jī)遙感的應(yīng)用仍面臨一些挑戰(zhàn),如目前可用于分析和模型訓(xùn)練的機(jī)載影像數(shù)據(jù)集較少,機(jī)載模型和機(jī)載數(shù)據(jù)處理過于復(fù)雜,還有空域管理和安全等方面值得商榷。
3、在常用的遙感手段中,熱紅外遙感是研究地物發(fā)射特性的重要手段[8],但機(jī)載熱紅外遙感存在著可用數(shù)據(jù)不多,處理方法傳統(tǒng),反演精度有限,關(guān)注度不足等問題。高光譜遙感同樣是光學(xué)遙感中監(jiān)測(cè)海面溢油的重要手段,它能夠獲取精細(xì)光譜尺度連續(xù)的光譜特性,有助于地物的準(zhǔn)確識(shí)別和地氣特征參量的精確反演,國(guó)內(nèi)外相關(guān)學(xué)者根據(jù)其原理開展了機(jī)載高光譜識(shí)別溢油的相關(guān)研究。如任廣波等人利用無人機(jī)高光譜構(gòu)建海上溢油檢測(cè)模型,得出溢油識(shí)別的有效特征波段,但是普遍問題為模型較為復(fù)雜,參數(shù)較多,訓(xùn)練時(shí)間較長(zhǎng),不適用于機(jī)載實(shí)時(shí)監(jiān)測(cè)場(chǎng)合,因此發(fā)展輕量化的機(jī)載溢油識(shí)別模型是十分必要的。
4、目前在圖像處理領(lǐng)域,深度學(xué)習(xí)模型相比于傳統(tǒng)的模型方法能通過構(gòu)建多層網(wǎng)絡(luò),訓(xùn)練得到數(shù)據(jù)間隱含的內(nèi)部關(guān)系,提取出更高維、更抽象、更有表達(dá)力的信息,從而更好地檢測(cè)溢油區(qū)域,但它們往往太復(fù)雜,不適用于計(jì)算資源有限的機(jī)載場(chǎng)合。為了解決這個(gè)問題,一個(gè)常用的做法是利用現(xiàn)有的神經(jīng)網(wǎng)絡(luò)模型,通過有損壓縮的方式,實(shí)現(xiàn)在保持精度的同時(shí)壓縮出一個(gè)參數(shù)很少的模型。現(xiàn)有技術(shù)致力于簡(jiǎn)化和壓縮復(fù)雜的深度學(xué)習(xí)模型,例如denton等人的方法是將奇異值分解(svd)應(yīng)用于預(yù)先訓(xùn)練過的cnn模型。han等人開發(fā)了網(wǎng)絡(luò)剪枝,將預(yù)先訓(xùn)練好的模型中低于一定閾值的參數(shù)用零替換形成稀疏矩陣,最后進(jìn)行迭代訓(xùn)練。在溢油識(shí)別領(lǐng)域,hou等人提出了一種改進(jìn)的deeplabv3+模型,該模型降低了計(jì)算復(fù)雜度,提高了在復(fù)雜環(huán)境中檢測(cè)小溢油區(qū)域的精度。l.chen等人提出了一種基于yolov3的輕量化溢油檢測(cè)網(wǎng)絡(luò),雖然簡(jiǎn)化了模型復(fù)雜度,但檢測(cè)精度較低。綜上所述,輕量化模型主要采取的方式是減少參量、降低模型復(fù)雜度,但是這將同時(shí)引起溢油識(shí)別精度的降低。
技術(shù)實(shí)現(xiàn)思路
1、為克服相關(guān)技術(shù)中存在的問題,本發(fā)明公開實(shí)施例提供了基于平滑激活函數(shù)海面溢油輕量化高光譜識(shí)別方法及系統(tǒng),具體涉及基于平滑激活函數(shù)的squeezenet海面溢油輕量化高光譜識(shí)別模型。
2、所述技術(shù)方案如下:一種基于平滑激活函數(shù)海面溢油輕量化高光譜識(shí)別方法,包括:
3、s1,分別在理想場(chǎng)景和模擬真實(shí)場(chǎng)景下,進(jìn)行高光譜、熱紅外溢油數(shù)據(jù)獲取試驗(yàn),獲取不同時(shí)刻陸基、機(jī)載的溢油數(shù)據(jù)和真實(shí)影像,利用陸基實(shí)測(cè)數(shù)據(jù)進(jìn)行不同波段處的油水可分性分析,構(gòu)建機(jī)載溢油識(shí)別與驗(yàn)證的全鏈條系統(tǒng);
4、s2,在獲取的實(shí)測(cè)數(shù)據(jù)基礎(chǔ)上,構(gòu)建基于平滑型激活函數(shù)的sr-squeezenet輕量化溢油識(shí)別模型,將sr-squeezenet的實(shí)驗(yàn)結(jié)果與未改進(jìn)的擠壓網(wǎng)絡(luò)和語義分割網(wǎng)絡(luò)的實(shí)驗(yàn)結(jié)果進(jìn)行比較,分析尋找輕量化溢油識(shí)別模型sr-squeezenet最優(yōu)參數(shù),構(gòu)建平滑型激活函數(shù)smooth-relu,綜合評(píng)估輕量化溢油識(shí)別模型sr-squeezenet輕量化性能;
5、s3,機(jī)載熱紅外和高分辨率rgb圖像,驗(yàn)證模型的最優(yōu)參數(shù),并從光熱結(jié)合的角度分析模型的適用性,通過不同時(shí)刻獲取的機(jī)載高光譜影像,驗(yàn)證輕量化溢油識(shí)別模型sr-squeezenet的時(shí)空可遷移性。
6、在步驟s1中,進(jìn)行高光譜、熱紅外溢油數(shù)據(jù)獲取試驗(yàn),包括:
7、s101,外場(chǎng)實(shí)驗(yàn)與數(shù)據(jù)獲取;
8、s102,高光譜反射率數(shù)據(jù)預(yù)處理與分析;
9、s103,高光譜機(jī)載影像預(yù)處理與數(shù)據(jù)集構(gòu)建,構(gòu)建的數(shù)據(jù)集包括:訓(xùn)練集、驗(yàn)證集、測(cè)試的比例為6:2:2。
10、在步驟s2中,構(gòu)建基于平滑型激活函數(shù)的sr-squeezenet輕量化溢油識(shí)別模型,包括:
11、在squeezenet基礎(chǔ)網(wǎng)絡(luò)結(jié)構(gòu)上加入flatten層,獲得像素級(jí)別的feature?map,對(duì)每一個(gè)像素點(diǎn)判斷類別,最終實(shí)現(xiàn)語義分割的功能;
12、squeezenet基礎(chǔ)網(wǎng)絡(luò)包括fire?module,fire?module由兩層構(gòu)成,分別是squeeze層和expand層,squeeze層是一個(gè)1×1卷積核的卷積層,expand層是1×1和3×3卷積核的卷積層,在expand層中把1×1和3×3得到的feature?map進(jìn)行融合;fire?module使用1×1卷積替代部分的3×3卷積,將參數(shù)減少,同時(shí)減少輸入通道的數(shù)量;在減少通道數(shù)之后,使用多個(gè)尺寸的卷積核進(jìn)行計(jì)算。
13、進(jìn)一步,使用多個(gè)尺寸的卷積核進(jìn)行計(jì)算,包括:將輸入的有源圖像經(jīng)過前一層的卷積處理,得到一組特征圖,隨后對(duì)于每個(gè)大小的卷積核,從輸入特征圖上取對(duì)應(yīng)大小的塊,將該塊與卷積核進(jìn)行逐元素相乘;對(duì)每個(gè)位置的乘積結(jié)果進(jìn)行累加,形成一個(gè)新的特征值;將所有不同大小卷積核的結(jié)果疊加起來,生成的特征圖包含來自不同空間尺度的信息。
14、在步驟s2中,構(gòu)建平滑型激活函數(shù)smooth-relu,包括:
15、fire?module使用relu激活函數(shù),如公式(2)所示:
16、relu={max(0,x)}?(2)
17、式中,max(0,x)為輸入值和0相比較較大的值,x為神經(jīng)元輸入;
18、對(duì)于relu激活函數(shù)存在神經(jīng)元壞死和在零點(diǎn)處導(dǎo)數(shù)不存在,利用平滑型的激活函數(shù)smooth-relu,在零點(diǎn)處曲線平滑連續(xù);設(shè)計(jì)負(fù)數(shù)飽和區(qū),改善對(duì)噪聲魯棒性,平滑型的激活函數(shù)smooth-relu如公式(3)所示:
19、
20、式中,ex為對(duì)神經(jīng)元的輸入作以自然常數(shù)e為底的指數(shù)函數(shù)運(yùn)算。
21、進(jìn)一步,構(gòu)建平滑型的激活函數(shù)smooth-relu后,利用relu激活函數(shù)使用的categorical_crossentropy作為模型的損失函數(shù),損失函數(shù)loss如公式(4)所示:
22、
23、式中,yi為輸入向量的第i個(gè)元素,m為分類的數(shù)量,i為第i類,為第i類的真實(shí)標(biāo)簽(0或1)。
24、進(jìn)一步,在squeezenet基礎(chǔ)網(wǎng)絡(luò)結(jié)構(gòu)上加入flatten層,包括:
25、去掉卷積層后面的最大池化層,加入flatten層,將卷積層的輸出變平,通過softmax函數(shù)進(jìn)行輸出,避免特征圖的空間降維;softmax函數(shù)的計(jì)算如公式(5)所示:
26、
27、式中,p(y|x)為輸出的softmax值,x為神經(jīng)元輸入,y為輸出向量,為對(duì)輸入作自然指數(shù)運(yùn)算,k為輸入向量的維度,j為求和元素,n為多類分類器中的類數(shù),yi為輸入向量的第i個(gè)元素,為歸一化項(xiàng),確保函數(shù)的所有輸出值之和為1,每個(gè)輸出值都在(0,1)范圍內(nèi),從而構(gòu)成概率分布,采用隨機(jī)梯度下降sgd作為優(yōu)化算法,學(xué)習(xí)率為0.001。
28、在步驟s2中,構(gòu)建平滑型激活函數(shù)smooth-relu后,對(duì)于面向機(jī)載溢油檢測(cè),通過網(wǎng)絡(luò)剪枝或非結(jié)構(gòu)化剪枝對(duì)輕量化溢油識(shí)別模型sr-squeezene進(jìn)行輕量化優(yōu)化,進(jìn)行不同激活函數(shù)及其應(yīng)用位置的對(duì)比分析,包括:
29、評(píng)價(jià)指標(biāo)分析,根據(jù)具體實(shí)驗(yàn)構(gòu)建混淆矩陣,選用總體分類精度oa、kappa系數(shù)和f1-score這三種精度標(biāo)準(zhǔn):
30、第一個(gè)度量:浮點(diǎn)運(yùn)算次數(shù)flops,表示模型的計(jì)算量,用來衡量算法和模型的復(fù)雜度,單位為g;
31、第二個(gè)度量:網(wǎng)絡(luò)中的參數(shù)量parameter,關(guān)系到模型大小,單位通常為m;
32、第三個(gè)度量:模型訓(xùn)練和分類的時(shí)間,客觀的體現(xiàn)出模型的計(jì)算速度。
33、在步驟s3中,驗(yàn)證了模型的最優(yōu)參數(shù),包括:
34、s301,空間鄰域大小的影響實(shí)驗(yàn);
35、s302,不同訓(xùn)練輪次的影響分析實(shí)驗(yàn);
36、s303,不同激活函數(shù)的影響實(shí)驗(yàn)。
37、本發(fā)明的另一目的在于提供一種基于平滑激活函數(shù)海面溢油輕量化高光譜識(shí)別系統(tǒng),該系統(tǒng)實(shí)施所述的基于平滑激活函數(shù)海面溢油輕量化高光譜識(shí)別方法,該系統(tǒng)包括:
38、機(jī)載溢油識(shí)別與驗(yàn)證的全鏈條系統(tǒng)構(gòu)建模塊,用于分別在理想場(chǎng)景和模擬真實(shí)場(chǎng)景下,進(jìn)行高光譜、熱紅外溢油數(shù)據(jù)獲取試驗(yàn),獲取不同時(shí)刻陸基、機(jī)載的溢油數(shù)據(jù)和真實(shí)影像,利用陸基實(shí)測(cè)數(shù)據(jù)進(jìn)行不同波段處的油水可分性分析,構(gòu)建機(jī)載溢油識(shí)別與驗(yàn)證的全鏈條系統(tǒng);
39、輕量化溢油識(shí)別模型以及平滑型激活函數(shù)構(gòu)建模塊,用于在獲取的實(shí)測(cè)數(shù)據(jù)基礎(chǔ)上,構(gòu)建基于平滑型激活函數(shù)的sr-squeezenet輕量化溢油識(shí)別模型,將sr-squeezenet的實(shí)驗(yàn)結(jié)果與未改進(jìn)的擠壓網(wǎng)絡(luò)和語義分割網(wǎng)絡(luò)的實(shí)驗(yàn)結(jié)果進(jìn)行比較,分析尋找輕量化溢油識(shí)別模型sr-squeezenet最優(yōu)參數(shù),構(gòu)建平滑型激活函數(shù)smooth-relu,綜合評(píng)估輕量化溢油識(shí)別模型sr-squeezenet輕量化性能;
40、實(shí)驗(yàn)驗(yàn)證模塊,機(jī)載熱紅外和高分辨率rgb圖像,驗(yàn)證模型的最優(yōu)參數(shù),并從光熱結(jié)合的角度分析模型的適用性,通過不同時(shí)刻獲取的機(jī)載高光譜影像,驗(yàn)證輕量化溢油識(shí)別模型sr-squeezenet的時(shí)空可遷移性。
41、結(jié)合上述的所有技術(shù)方案,本發(fā)明所具備的有益效果為:本發(fā)明利用設(shè)計(jì)的平滑型激活函數(shù)smooth-relu構(gòu)建了sr-squeezenet海面溢油高光譜識(shí)別模型,并基于外場(chǎng)實(shí)驗(yàn)獲取的多維機(jī)載溢油圖像進(jìn)行了一系列實(shí)驗(yàn)。實(shí)驗(yàn)表明,sr-squeezenet在提取精度和模型輕量化方面表現(xiàn)最佳。與傳統(tǒng)的squeezenet相比,識(shí)別精度提高了1.92%,參數(shù)數(shù)量減少了75.11%,模型大小從26.46mb減少到12.15mb。因此,sr-squeezenet符合機(jī)載輕量級(jí)檢測(cè)模型的實(shí)際需求,具有很高的實(shí)用性。
42、本發(fā)明通過采用smooth-relu激活函數(shù)構(gòu)建的sr-squeezenet輕量化溢油識(shí)別模型,其預(yù)期收益主要體現(xiàn)在提高海面溢油檢測(cè)的效率與準(zhǔn)確率。由于該模型的輕量化特性,使得它能夠在保持高識(shí)別性能的同時(shí),顯著減少計(jì)算資源消耗,這對(duì)于商業(yè)應(yīng)用來說意味著更低的運(yùn)行成本和更快的實(shí)時(shí)響應(yīng)能力。例如,在無人機(jī)監(jiān)測(cè)領(lǐng)域可以實(shí)現(xiàn)更長(zhǎng)的工作時(shí)間以及更大的覆蓋范圍,從而提升溢油災(zāi)害應(yīng)急處理的時(shí)效性和經(jīng)濟(jì)效益。
43、作為一項(xiàng)創(chuàng)新,sr-squeezenet填補(bǔ)了當(dāng)前業(yè)界對(duì)輕量級(jí)、高性能海面溢油識(shí)別模型的需求空白。相比于傳統(tǒng)識(shí)別模型,它不僅提升了識(shí)別效果,還縮短了識(shí)別時(shí)間,這在國(guó)內(nèi)和國(guó)際上都是一個(gè)重要的技術(shù)突破,推動(dòng)了遙感高光譜領(lǐng)域的技術(shù)創(chuàng)新和發(fā)展。sr-squeezenet技術(shù)方案解決了長(zhǎng)期以來輕量級(jí)模型在復(fù)雜環(huán)境下如海洋高光譜數(shù)據(jù)識(shí)別面臨的挑戰(zhàn)。以往的模型往往在精度和資源占用之間難以取得平衡,sr-squeezenet實(shí)現(xiàn)了高性能與低資源消耗的兼容,滿足了實(shí)際場(chǎng)景下的識(shí)別需求。sr-squeezenet通過打破常規(guī)設(shè)計(jì)理念和技術(shù)瓶頸,成功地克服了關(guān)于輕量化模型性能的質(zhì)疑和技術(shù)偏見。它的出現(xiàn)證明了即使在資源有限的情況下,也能實(shí)現(xiàn)高效的海面溢油檢測(cè),拓寬了人們對(duì)于深度學(xué)習(xí)在災(zāi)害監(jiān)控領(lǐng)域應(yīng)用的可能性。