本發(fā)明涉及數(shù)據(jù)處理,尤其涉及一種數(shù)據(jù)采集方法、系統(tǒng)、邊緣服務(wù)器及存儲(chǔ)介質(zhì)。
背景技術(shù):
1、隨著智慧園區(qū)智能化建設(shè)的加速推進(jìn),物聯(lián)網(wǎng)(iot)設(shè)備數(shù)量呈指數(shù)級(jí)增長(zhǎng),數(shù)據(jù)采集系統(tǒng)需應(yīng)對(duì)海量傳感器的高并發(fā)接入與實(shí)時(shí)處理需求。當(dāng)前,行業(yè)內(nèi)普遍采用集中式邊緣采集方式,即通過單一邊緣服務(wù)器匯聚園區(qū)內(nèi)設(shè)備數(shù)據(jù)并上傳至云端管理層,供業(yè)務(wù)使用。然而,該模式在實(shí)際應(yīng)用中暴露出以下顯著缺陷:其一,單點(diǎn)采集故障風(fēng)險(xiǎn)突出。傳統(tǒng)集中式邊緣采集易因網(wǎng)絡(luò)波動(dòng)或服務(wù)中斷等導(dǎo)致數(shù)據(jù)采集中斷、數(shù)據(jù)丟失風(fēng)險(xiǎn)。其二,傳輸效率與實(shí)時(shí)性不足。數(shù)據(jù)通過單一采集通道傳輸,受限于帶寬瓶頸及協(xié)議轉(zhuǎn)換延遲,導(dǎo)致響應(yīng)延遲高,難以滿足安防監(jiān)控、設(shè)備控制等高實(shí)時(shí)性場(chǎng)景的毫秒級(jí)響應(yīng)需求。
技術(shù)實(shí)現(xiàn)思路
1、基于此,本發(fā)明的主要目的在于提供一種數(shù)據(jù)采集方法、系統(tǒng)、邊緣服務(wù)器及存儲(chǔ)介質(zhì),旨在解決現(xiàn)有數(shù)據(jù)采集方式故障風(fēng)險(xiǎn)高、采集效率低、延遲長(zhǎng)的問題。
2、第一方面,本發(fā)明提供了一種數(shù)據(jù)采集方法,應(yīng)用于數(shù)據(jù)采集系統(tǒng),所述數(shù)據(jù)采集系統(tǒng)包括邊緣服務(wù)器和至少一個(gè)邊緣節(jié)點(diǎn)組,所述邊緣節(jié)點(diǎn)組中包括多個(gè)邊緣節(jié)點(diǎn),所述數(shù)據(jù)采集方法包括以下步驟:
3、所述邊緣服務(wù)器定時(shí)獲取各邊緣節(jié)點(diǎn)組對(duì)應(yīng)的傳感器信息和邊緣節(jié)點(diǎn)信息;
4、根據(jù)所述傳感器信息和邊緣節(jié)點(diǎn)信息確定各傳感器的初始邊緣節(jié)點(diǎn);
5、對(duì)所述各傳感器的初始邊緣節(jié)點(diǎn)進(jìn)行統(tǒng)計(jì)分析,根據(jù)統(tǒng)計(jì)分析結(jié)果確定各傳感器的目標(biāo)邊緣節(jié)點(diǎn);
6、向所述目標(biāo)邊緣節(jié)點(diǎn)發(fā)送數(shù)據(jù)采集任務(wù),接收所述目標(biāo)邊緣節(jié)點(diǎn)發(fā)送的數(shù)據(jù)信息。
7、在其中一個(gè)實(shí)施例中,所述傳感器信息包括傳感器的安裝位置、數(shù)據(jù)生成頻率和網(wǎng)絡(luò)狀態(tài),所述邊緣節(jié)點(diǎn)信息包括邊緣節(jié)點(diǎn)的安裝位置,
8、所述根據(jù)所述傳感器信息和邊緣節(jié)點(diǎn)信息確定各傳感器的初始邊緣節(jié)點(diǎn)的步驟包括:
9、根據(jù)所述傳感器的安裝位置和邊緣節(jié)點(diǎn)的安裝位置計(jì)算傳感器與邊緣節(jié)點(diǎn)的傳輸距離;
10、根據(jù)所述傳輸距離、數(shù)據(jù)生成頻率和網(wǎng)絡(luò)狀態(tài),計(jì)算傳輸時(shí)間;
11、根據(jù)所述傳輸時(shí)間確定各傳感器的初始邊緣節(jié)點(diǎn)。
12、在其中一個(gè)實(shí)施例中,所述邊緣節(jié)點(diǎn)信息包括邊緣節(jié)點(diǎn)的負(fù)載閾值,所述對(duì)所述各傳感器的初始邊緣節(jié)點(diǎn)進(jìn)行統(tǒng)計(jì)分析,根據(jù)統(tǒng)計(jì)分析結(jié)果確定各傳感器的目標(biāo)邊緣節(jié)點(diǎn)的步驟包括:
13、對(duì)所述各傳感器的初始邊緣節(jié)點(diǎn)進(jìn)行統(tǒng)計(jì),得到各邊緣節(jié)點(diǎn)對(duì)應(yīng)的傳感器分配數(shù)量;
14、檢測(cè)所述傳感器分配數(shù)量是否超過所述負(fù)載閾值;
15、若是,則根據(jù)檢測(cè)結(jié)果及所述傳輸時(shí)間調(diào)整所述初始邊緣節(jié)點(diǎn),得到各傳感器的目標(biāo)邊緣節(jié)點(diǎn)。
16、在其中一個(gè)實(shí)施例中,所述數(shù)據(jù)采集方法還包括:
17、實(shí)時(shí)獲取各邊緣節(jié)點(diǎn)的運(yùn)行狀態(tài)信息;
18、根據(jù)所述運(yùn)行狀態(tài)信息判斷各邊緣節(jié)點(diǎn)是否存在異常;
19、在判定至少一個(gè)邊緣節(jié)點(diǎn)存在異常時(shí),對(duì)存在異常的邊緣節(jié)點(diǎn)進(jìn)行切換。
20、在其中一個(gè)實(shí)施例中,向所述目標(biāo)邊緣節(jié)點(diǎn)發(fā)送數(shù)據(jù)采集任務(wù),接收所述目標(biāo)邊緣節(jié)點(diǎn)發(fā)送的數(shù)據(jù)信息的步驟之后,所述數(shù)據(jù)采集方法還包括:
21、通過預(yù)先訓(xùn)練好的數(shù)據(jù)異常識(shí)別模型對(duì)所述數(shù)據(jù)信息進(jìn)行識(shí)別,確定所述數(shù)據(jù)信息是否異常及其異常類型;
22、若存在異常,則根據(jù)所述異常類型確定目標(biāo)異常處理方式,并通過所述目標(biāo)異常處理方式對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理。
23、在其中一個(gè)實(shí)施例中,所述根據(jù)所述異常類型確定目標(biāo)異常處理方式,并通過所述目標(biāo)異常處理方式對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理的步驟包括:
24、若確定所述異常類型為數(shù)據(jù)缺失,則通過k近鄰算法對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理;和/或,
25、若確定所述異常類型為數(shù)據(jù)重復(fù),則通過哈希算法對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理;和/或,
26、若確定所述異常類型為數(shù)據(jù)異常,則通過回歸模型或平滑機(jī)制算法對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理;和/或,
27、若確定所述異常類型為數(shù)據(jù)單位異常,則通過自然語言處理對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理。
28、在其中一個(gè)實(shí)施例中,所述數(shù)據(jù)采集系統(tǒng)還包括云端管理層,所述通過所述目標(biāo)異常處理方式對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理的步驟之后,還包括:
29、將處理后的數(shù)據(jù)信息發(fā)送至所述云端管理層。
30、第二方面,本發(fā)明還提供了一種數(shù)據(jù)采集系統(tǒng),所述數(shù)據(jù)采集系統(tǒng)包括邊緣服務(wù)器和至少一個(gè)邊緣節(jié)點(diǎn)組,所述邊緣節(jié)點(diǎn)組中包括多個(gè)邊緣節(jié)點(diǎn),所述邊緣服務(wù)器用于:
31、定時(shí)獲取各邊緣節(jié)點(diǎn)組對(duì)應(yīng)的傳感器信息和邊緣節(jié)點(diǎn)信息;
32、根據(jù)所述傳感器信息和邊緣節(jié)點(diǎn)信息確定各傳感器的初始邊緣節(jié)點(diǎn);
33、對(duì)所述各傳感器的初始邊緣節(jié)點(diǎn)進(jìn)行統(tǒng)計(jì)分析,根據(jù)統(tǒng)計(jì)分析結(jié)果確定各傳感器的目標(biāo)邊緣節(jié)點(diǎn);
34、向所述目標(biāo)邊緣節(jié)點(diǎn)發(fā)送數(shù)據(jù)采集任務(wù),接收所述目標(biāo)邊緣節(jié)點(diǎn)發(fā)送的數(shù)據(jù)信息。
35、在其中一個(gè)實(shí)施例中,所述傳感器信息包括傳感器的安裝位置、數(shù)據(jù)生成頻率和網(wǎng)絡(luò)狀態(tài),所述邊緣節(jié)點(diǎn)信息包括邊緣節(jié)點(diǎn)的安裝位置,
36、所述邊緣服務(wù)器具體用于:
37、根據(jù)所述傳感器的安裝位置和邊緣節(jié)點(diǎn)的安裝位置計(jì)算傳感器與邊緣節(jié)點(diǎn)的傳輸距離;
38、根據(jù)所述傳輸距離、數(shù)據(jù)生成頻率和網(wǎng)絡(luò)狀態(tài),計(jì)算傳輸時(shí)間;
39、根據(jù)所述傳輸時(shí)間確定各傳感器的初始邊緣節(jié)點(diǎn)。
40、在其中一個(gè)實(shí)施例中,所述邊緣節(jié)點(diǎn)信息包括邊緣節(jié)點(diǎn)的負(fù)載閾值,所述邊緣服務(wù)器具體用于:
41、對(duì)所述各傳感器的初始邊緣節(jié)點(diǎn)進(jìn)行統(tǒng)計(jì),得到各邊緣節(jié)點(diǎn)對(duì)應(yīng)的傳感器分配數(shù)量;
42、檢測(cè)所述傳感器分配數(shù)量是否超過所述負(fù)載閾值;
43、若是,則根據(jù)檢測(cè)結(jié)果及所述傳輸時(shí)間調(diào)整所述初始邊緣節(jié)點(diǎn),得到各傳感器的目標(biāo)邊緣節(jié)點(diǎn)。
44、在其中一個(gè)實(shí)施例中,所述邊緣服務(wù)器還用于:
45、實(shí)時(shí)獲取各邊緣節(jié)點(diǎn)的運(yùn)行狀態(tài)信息;
46、根據(jù)所述運(yùn)行狀態(tài)信息判斷各邊緣節(jié)點(diǎn)是否存在異常;
47、在判定至少一個(gè)邊緣節(jié)點(diǎn)存在異常時(shí),對(duì)存在異常的邊緣節(jié)點(diǎn)進(jìn)行切換。
48、在其中一個(gè)實(shí)施例中,所述邊緣服務(wù)器還用于:
49、通過預(yù)先訓(xùn)練好的數(shù)據(jù)異常識(shí)別模型對(duì)所述數(shù)據(jù)信息進(jìn)行識(shí)別,確定所述數(shù)據(jù)信息是否異常及其異常類型;
50、若存在異常,則根據(jù)所述異常類型確定目標(biāo)異常處理方式,并通過所述目標(biāo)異常處理方式對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理。
51、在其中一個(gè)實(shí)施例中,所述邊緣服務(wù)器具體用于:
52、若確定所述異常類型為數(shù)據(jù)缺失,則通過k近鄰算法對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理;和/或,
53、若確定所述異常類型為數(shù)據(jù)重復(fù),則通過哈希算法對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理;和/或,
54、若確定所述異常類型為數(shù)據(jù)異常,則通過回歸模型或平滑機(jī)制算法對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理;和/或,
55、若確定所述異常類型為數(shù)據(jù)單位異常,則通過自然語言處理對(duì)存在異常的數(shù)據(jù)信息進(jìn)行處理。
56、第三方面,本發(fā)明還提供了一種邊緣服務(wù)器,所述邊緣服務(wù)器包括:存儲(chǔ)器、處理器及存儲(chǔ)在所述存儲(chǔ)器上并可在所述處理器上運(yùn)行的計(jì)算機(jī)程序,所述計(jì)算機(jī)程序被所述處理器執(zhí)行時(shí)實(shí)現(xiàn)上述第一方面中數(shù)據(jù)采集方法的步驟。
57、第四方面,本發(fā)明還提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),所述計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)上存儲(chǔ)有計(jì)算機(jī)程序,所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述第一方面中數(shù)據(jù)采集方法的步驟。
58、本發(fā)明提供一種數(shù)據(jù)采集方法、系統(tǒng)、邊緣服務(wù)器及存儲(chǔ)介質(zhì),該數(shù)據(jù)采集方法應(yīng)用于數(shù)據(jù)采集系統(tǒng),數(shù)據(jù)采集系統(tǒng)包括邊緣服務(wù)器和至少一個(gè)邊緣節(jié)點(diǎn)組,邊緣節(jié)點(diǎn)組中包括多個(gè)邊緣節(jié)點(diǎn),邊緣服務(wù)器定時(shí)獲取各邊緣節(jié)點(diǎn)組對(duì)應(yīng)的傳感器信息和邊緣節(jié)點(diǎn)信息;然后,根據(jù)傳感器信息和邊緣節(jié)點(diǎn)信息確定各傳感器的初始邊緣節(jié)點(diǎn);接著,對(duì)各傳感器的初始邊緣節(jié)點(diǎn)進(jìn)行統(tǒng)計(jì)分析,根據(jù)統(tǒng)計(jì)分析結(jié)果是否對(duì)各傳感器的初始邊緣節(jié)點(diǎn)進(jìn)行重新分配調(diào)整,以確定各傳感器的目標(biāo)邊緣節(jié)點(diǎn);最后,向目標(biāo)邊緣節(jié)點(diǎn)發(fā)送數(shù)據(jù)采集任務(wù),使得目標(biāo)邊緣節(jié)點(diǎn)僅采集其所分配的傳感器的數(shù)據(jù)信息,進(jìn)而接收目標(biāo)邊緣節(jié)點(diǎn)發(fā)送的數(shù)據(jù)信息。本發(fā)明通過對(duì)傳統(tǒng)的數(shù)據(jù)采集系統(tǒng)進(jìn)行改進(jìn),設(shè)置了多個(gè)邊緣節(jié)點(diǎn),即便其中一個(gè)邊緣節(jié)點(diǎn)發(fā)生了故障,其負(fù)責(zé)采集的傳感器的數(shù)據(jù)信息也可以轉(zhuǎn)移給到同組其他邊緣節(jié)點(diǎn)進(jìn)行采集,從而可避免單點(diǎn)故障導(dǎo)致采集中斷的風(fēng)險(xiǎn)。同時(shí),通過定時(shí)獲取傳感器信息和邊緣節(jié)點(diǎn)信息,用于確定調(diào)整各傳感器對(duì)應(yīng)的目標(biāo)邊緣節(jié)點(diǎn),從而實(shí)現(xiàn)了對(duì)傳感器集群的動(dòng)態(tài)分組管理,可以降低單節(jié)點(diǎn)負(fù)載壓力。綜上,本技術(shù)構(gòu)建了一種新型數(shù)據(jù)采集系統(tǒng),通過動(dòng)態(tài)邊緣節(jié)點(diǎn)協(xié)同與負(fù)載均衡,解決了傳統(tǒng)集中式邊緣采集系統(tǒng)的固有缺陷,提升了高密度傳感器場(chǎng)景下的數(shù)據(jù)采集效率與可靠性。