本公開涉及人工智能，尤其涉及物聯(lián)網(wǎng)、邊緣計算、自然語言處理領域，更具體地，本公開提供了一種應答方法、應用資源部署方法、信息處理系統(tǒng)、應答裝置、應用資源部署裝置、電子設備、存儲介質以及計算機程序產(chǎn)品。

背景技術：

1、隨著人工智能的發(fā)展，可以利用人工智能的相關技術來處理用戶輸入的問題、需求信息，從而回答用戶提出的問題或提供針對需求的解決措施。在實際應用中，用戶期望能夠實時獲得更加智能的答復，并且期望輸入方式和接收到的答復形式多種多樣。

技術實現(xiàn)思路

1、本公開提供了一種應答方法、應用資源部署方法、應答裝置、應用資源部署裝置、電子設備、存儲介質、計算機程序產(chǎn)品以及信息處理系統(tǒng)。

2、根據(jù)本公開的一方面，提供了一種應答方法，包括：響應于接收到目標對象的輸入信息，根據(jù)輸入信息的模態(tài)，采用與模態(tài)相對應的預定處理模式處理輸入信息，得到處理后數(shù)據(jù)；確定來自數(shù)據(jù)采集設備的參考數(shù)據(jù)，參考數(shù)據(jù)表征數(shù)據(jù)采集設備的設備狀態(tài)或設備采集設備所處環(huán)境的環(huán)境信息；以及利用大語言模型處理處理后數(shù)據(jù)和參考數(shù)據(jù)，得到針對輸入信息的應答信息；其中，大語言模型是基于模型資源部署在邊緣側設備本地的。

3、根據(jù)本公開的另一方面，提供了一種應用資源部署方法，包括：獲取來自邊緣側設備中的多個邊緣設備的設備信息；根據(jù)多個邊緣設備的設備信息和需求信息，確定多個邊緣設備和多個應用資源的匹配關系，多個應用資源包括模型資源；以及基于匹配關系，向多個邊緣設備發(fā)送相匹配的應用資源的資源信息，以便邊緣側設備在本地部署相匹配的應用資源，并基于相匹配的應用資源執(zhí)行上述應答方法。

4、根據(jù)本公開的另一方面，提供了一種應答裝置，包括：處理模塊、參考數(shù)據(jù)確定模塊和應答模塊。處理模塊用于響應于接收到目標對象的輸入信息，根據(jù)輸入信息的模態(tài)，采用與模態(tài)相對應的預定處理模式處理輸入信息，得到處理后數(shù)據(jù)。參考數(shù)據(jù)確定模塊用于確定來自數(shù)據(jù)采集設備的參考數(shù)據(jù)，參考數(shù)據(jù)表征數(shù)據(jù)采集設備的設備狀態(tài)或設備采集設備所處環(huán)境的環(huán)境信息。應答模塊用于利用大語言模型處理處理后數(shù)據(jù)和參考數(shù)據(jù)，得到針對輸入信息的應答信息；其中，大語言模型是基于模型資源部署在邊緣側設備本地的。

5、根據(jù)本公開的另一方面，提供了一種應用資源部署裝置，包括：獲取模塊、匹配關系確定模塊和第二發(fā)送模塊。獲取模塊用于獲取來自邊緣側設備中的多個邊緣設備的設備信息。匹配關系確定模塊用于根據(jù)多個邊緣設備的設備信息和需求信息，確定多個邊緣設備和多個應用資源的匹配關系，多個應用資源包括模型資源。第二發(fā)送模塊用于基于匹配關系，向多個邊緣設備發(fā)送相匹配的應用資源的資源信息，以便邊緣側設備在本地部署相匹配的應用資源，并基于相匹配的應用資源執(zhí)行上述應答方法。

6、根據(jù)本公開的另一個方面，提供了一種電子設備，包括：至少一個處理器；以及與至少一個處理器通信連接的存儲器；其中，存儲器存儲有可被至少一個處理器執(zhí)行的指令，指令被至少一個處理器執(zhí)行，以使至少一個處理器能夠執(zhí)行本公開提供的方法。

7、根據(jù)本公開的另一個方面，提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其中，計算機指令用于使計算機執(zhí)行本公開提供的方法。

8、根據(jù)本公開的另一個方面，提供了一種計算機程序產(chǎn)品，包括計算機程序，計算機程序在被處理器執(zhí)行時實現(xiàn)本公開提供的方法。

9、根據(jù)本公開的另一個方面，提供了一種信息處理系統(tǒng)，包括：云端、邊緣側設備和終端設備，云端被配置為執(zhí)行上述應用資源部署方法；邊緣側設備，被配置為執(zhí)行上述應答的方法；終端設備被配置為向所述邊緣側設備發(fā)送輸入信息以及接收來自所述邊緣側設備的應答信息。

10、應當理解，本部分所描述的內(nèi)容并非旨在標識本公開的實施例的關鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

技術特征：

1.一種應答方法，包括：

2.根據(jù)權利要求1所述的方法，其中，所述確定來自數(shù)據(jù)采集設備的參考數(shù)據(jù)包括：

3.根據(jù)權利要求2所述的方法，其中，所述候選運算邏輯是通過以下方式得到的：

4.根據(jù)權利要求1所述的方法，其中，根據(jù)所述輸入信息的模態(tài)，采用與所述模態(tài)相對應的預定處理模式處理所述輸入信息，得到處理后數(shù)據(jù)包括：

5.根據(jù)權利要求1所述的方法，其中，所述數(shù)據(jù)采集設備采集的參考數(shù)據(jù)包括以下中的至少一個：溫度傳感器采集的溫度數(shù)據(jù)、濕度傳感器采集的濕度數(shù)據(jù)、煙霧傳感器采集的煙霧數(shù)據(jù)、壓力傳感器采集的環(huán)境壓力數(shù)據(jù)、聲音傳感器采集的聲音數(shù)據(jù)、氣體傳感器采集的氣體濃度信息、液位傳感器采集的液位高度數(shù)據(jù)、相機采集的針對預定區(qū)域的圖像數(shù)據(jù)、車機設備采集的車輛數(shù)據(jù)以及智能家居設備的設備信息。

6.根據(jù)權利要求1所述的方法，其中，所述邊緣側設備包括多個邊緣設備，所述方法還包括：

7.一種應用資源部署方法，包括：

8.根據(jù)權利要求7所述的方法，其中，所述多個邊緣設備的設備信息包括所述多個邊緣設備各自的實際硬件信息、實際剩余資源量和實際系統(tǒng)類型，所述需求信息包括需求硬件信息、需求資源量和需求系統(tǒng)類型；所述根據(jù)所述多個邊緣設備的設備信息和需求信息，確定所述多個邊緣設備和多個應用資源的匹配關系包括：

9.一種應答裝置，包括：

10.根據(jù)權利要求9所述的裝置，其中，所述參考數(shù)據(jù)確定模塊包括：

11.根據(jù)權利要求10所述的裝置，其中，所述候選運算邏輯是通過以下模塊得到的：

12.根據(jù)權利要求9所述的裝置，其中，所述處理模塊包括：

13.根據(jù)權利要求9所述的裝置，其中，所述數(shù)據(jù)采集設備采集的參考數(shù)據(jù)包括以下中的至少一個：溫度傳感器采集的溫度數(shù)據(jù)、濕度傳感器采集的濕度數(shù)據(jù)、煙霧傳感器采集的煙霧數(shù)據(jù)、壓力傳感器采集的環(huán)境壓力數(shù)據(jù)、聲音傳感器采集的聲音數(shù)據(jù)、氣體傳感器采集的氣體濃度信息、液位傳感器采集的液位高度數(shù)據(jù)、相機采集的針對預定區(qū)域的圖像數(shù)據(jù)、車機設備采集的車輛數(shù)據(jù)以及智能家居設備的設備信息。

14.根據(jù)權利要求9所述的裝置，其中，所述邊緣側設備包括多個邊緣設備，所述裝置還包括：

15.一種應用資源部署裝置，包括：

16.根據(jù)權利要求15所述的裝置，其中，所述多個邊緣設備的設備信息包括所述多個邊緣設備各自的實際硬件信息、實際剩余資源量和實際系統(tǒng)類型，所述需求信息包括需求硬件信息、需求資源量和需求系統(tǒng)類型；所述匹配關系確定模塊包括：

17.一種電子設備，包括：

18.一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其中，所述計算機指令用于使所述計算機執(zhí)行根據(jù)權利要求1至8中任一項所述的方法。

19.一種計算機程序產(chǎn)品，包括計算機程序，所述計算機程序在被處理器執(zhí)行時實現(xiàn)根據(jù)權利要求1至8中任一項所述的方法。

20.一種信息處理系統(tǒng)，包括：

技術總結
本公開提供了一種基于大語言模型的應答方法、部署方法、系統(tǒng)和裝置，涉及人工智能技術領域，尤其涉及物聯(lián)網(wǎng)、邊緣計算、自然語言處理領域。具體實現(xiàn)方案為：響應于接收到目標對象的輸入信息，根據(jù)輸入信息的模態(tài)，采用與模態(tài)相對應的預定處理模式處理輸入信息，得到處理后數(shù)據(jù)；確定來自數(shù)據(jù)采集設備的參考數(shù)據(jù)，參考數(shù)據(jù)表征數(shù)據(jù)采集設備的設備狀態(tài)或設備采集設備所處環(huán)境的環(huán)境信息；以及利用大語言模型處理處理后數(shù)據(jù)和參考數(shù)據(jù)，得到針對輸入信息的應答信息；其中，大語言模型是基于模型資源部署在邊緣側設備本地的。

技術研發(fā)人員：趙鑫
受保護的技術使用者：北京百度網(wǎng)訊科技有限公司
技術研發(fā)日：
技術公布日：2025/5/19