本技術(shù)屬于通信，具體涉及一種通信系統(tǒng)中的模型推理方法、裝置、設(shè)備以及介質(zhì)。

背景技術(shù)：

1、在移動通信系統(tǒng)中，開始有越來越多的用例結(jié)合人工智能(ai)。例如在物理層有基于ai的csi(channel?state?information)預(yù)測和反饋壓縮，基于ai的波束管理，基于ai的定位等。為了使不同通信場景具有普適性，提出了將大模型應(yīng)用到通信網(wǎng)絡(luò)中來解決通信系統(tǒng)中的問題，但是，大模型通常在解決通用問題上的性能較優(yōu)，但是通信系統(tǒng)中存在許多不同的問題，例如，波束賦形，資源分配，信道預(yù)測等，因此，如何保證大模型在解決具體的下游問題時的性能是一項亟需解決的問題。

技術(shù)實現(xiàn)思路

1、本技術(shù)實施例提供一種通信系統(tǒng)中的模型推理方法、裝置、設(shè)備以及介質(zhì)，能夠提升模型的性能。

2、第一方面，提供了一種通信系統(tǒng)中的模型推理方法，該方法包括：

3、第一設(shè)備接收第二設(shè)備發(fā)送的第一信息，其中，所述第一設(shè)備上存儲有知識信息和知識信息的調(diào)用接口信息中的至少之一，其中，所述知識信息包括以下至少之一：知識圖譜、知識向量庫；

4、所述第一設(shè)備向第三設(shè)備發(fā)送第二信息，所述第三設(shè)備上部署第一模型，所述第二信息是根據(jù)所述第一信息和所述第一設(shè)備上存儲的或調(diào)用的知識信息確定的；

5、其中，所述第一信息包括以下至少之一：

6、用于所述第一模型進(jìn)行推理的輔助信息；

7、用于所述第一模型進(jìn)行推理的需求信息；

8、所述第一模型的輸入信息；

9、知識信息的調(diào)用接口信息；

10、所述第二信息的接收設(shè)備指示；

11、所述第一模型的輸入信息對應(yīng)的樣本指示。

12、第二方面，提供了一種通信系統(tǒng)中的模型推理方法，該方法包括：

13、第二設(shè)備向第一設(shè)備發(fā)送第一信息，其中，所述第一設(shè)備上存儲有知識信息和知識信息的調(diào)用接口信息中的至少之一，其中，所述知識信息包括以下至少之一：知識圖譜、知識向量庫；

14、其中，所述第一信息包括以下至少之一：

15、用于第一模型進(jìn)行推理的輔助信息；

16、用于第一模型進(jìn)行推理的需求信息；

17、第一模型的輸入信息；

18、知識信息的調(diào)用接口信息；

19、所述第二信息的接收設(shè)備指示；

20、所述第一模型的輸入信息對應(yīng)的樣本指示。

21、第三方面，提供了一種通信系統(tǒng)中的模型推理方法，包括：

22、第三設(shè)備從第一設(shè)備或目標(biāo)設(shè)備獲取第二信息，其中，所述第三設(shè)備上部署第一模型，所述第一設(shè)備或所述目標(biāo)設(shè)備上存儲有知識信息和知識信息的調(diào)用接口信息中的至少之一，其中，所述目標(biāo)設(shè)備是使用所述調(diào)用接口信息所訪問的設(shè)備，所述知識信息包括以下至少之一：知識圖譜、知識向量庫；

23、其中，所述第二信息根據(jù)第一信息和所述第一設(shè)備上存儲或調(diào)用的知識信息確定；

24、其中，所述第一信息包括以下至少之一：

25、用于所述第一模型進(jìn)行推理的輔助信息；

26、用于所述第一模型進(jìn)行推理的需求信息；

27、所述第一模型的輸入信息；

28、知識信息的調(diào)用接口信息；

29、所述第二信息的接收設(shè)備指示；

30、所述第一模型的輸入信息對應(yīng)的樣本指示。

31、第四方面，提供了一種通信裝置，包括：

32、通信單元，用于接收第二設(shè)備發(fā)送的第一信息，其中，所述通信裝置上存儲有知識信息和知識信息的調(diào)用接口信息中的至少之一，其中，所述知識信息包括以下至少之一：知識圖譜、知識向量庫；以及

33、向第三設(shè)備發(fā)送第二信息，所述第三設(shè)備上部署第一模型，所述第二信息是根據(jù)所述第一信息和所述第一設(shè)備上存儲的或調(diào)用的知識信息確定的；

34、其中，所述第一信息包括以下至少之一：

35、用于所述第一模型進(jìn)行推理的輔助信息；

36、用于所述第一模型進(jìn)行推理的需求信息；

37、所述第一模型的輸入信息；

38、知識信息的調(diào)用接口信息；

39、所述第二信息的接收設(shè)備指示；

40、所述第一模型的輸入信息對應(yīng)的樣本指示。

41、第五方面，提供了一種通信裝置，包括：

42、通信單元，用于向第一設(shè)備發(fā)送第一信息，其中，所述第一設(shè)備上存儲有知識信息和知識信息的調(diào)用接口信息中的至少之一，其中，所述知識信息包括以下至少之一：知識圖譜、知識向量庫；

43、其中，所述第一信息包括以下至少之一：

44、用于第一模型進(jìn)行推理的輔助信息；

45、用于第一模型進(jìn)行推理的需求信息；

46、第一模型的輸入信息；

47、知識信息的調(diào)用接口信息；

48、所述第二信息的接收設(shè)備指示；

49、所述第一模型的輸入信息對應(yīng)的樣本指示。

50、第六方面，提供了一種通信裝置，包括：

51、通信單元，用于從第一設(shè)備或目標(biāo)設(shè)備獲取第二信息，其中，所述第三設(shè)備上部署第一模型，所述第一設(shè)備或所述目標(biāo)設(shè)備上存儲有知識信息和知識信息的調(diào)用接口信息中的至少之一，其中，所述目標(biāo)設(shè)備是使用所述調(diào)用接口信息所訪問的設(shè)備，所述知識信息包括以下至少之一：知識圖譜、知識向量庫；

52、其中，所述第二信息根據(jù)第一信息和所述第一設(shè)備上存儲或調(diào)用的知識信息確定；

53、其中，所述第一信息包括以下至少之一：

54、用于所述第一模型進(jìn)行推理的輔助信息；

55、用于所述第一模型進(jìn)行推理的需求信息；

56、所述第一模型的輸入信息；

57、知識信息的調(diào)用接口信息；

58、所述第二信息的接收設(shè)備指示；

59、所述第一模型的輸入信息對應(yīng)的樣本指示。

60、第七方面，提供了一種通信設(shè)備，該網(wǎng)絡(luò)側(cè)設(shè)備包括處理器和存儲器，所述存儲器存儲可在所述處理器上運(yùn)行的程序或指令，所述程序或指令被所述處理器執(zhí)行時實現(xiàn)如第一方面至第三方面中的任一方面所述的方法的步驟。

61、第八方面，提供了一種可讀存儲介質(zhì)，所述可讀存儲介質(zhì)上存儲程序或指令，所述程序或指令被處理器執(zhí)行時實現(xiàn)如第一方面至第三方面中的任一方面所述的方法的步驟。

62、第九方面，提供了一種無線通信系統(tǒng)，包括：第一設(shè)備、第二設(shè)備及第三設(shè)備，所述第一設(shè)備可用于執(zhí)行如第一方面所述的方法的步驟，所述第二設(shè)備可用于執(zhí)行如第二方面所述的方法的步驟，所述第三設(shè)備可用于執(zhí)行如第三方面所述的方法的步驟。

63、第十方面，提供了一種芯片，所述芯片包括處理器和通信接口，所述通信接口和所述處理器耦合，所述處理器用于運(yùn)行程序或指令，實現(xiàn)如第一方面至第三方面中的任一方面中所述的方法。

64、第十一方面，提供了一種計算機(jī)程序/程序產(chǎn)品，所述計算機(jī)程序/程序產(chǎn)品被存儲在存儲介質(zhì)中，所述程序/程序產(chǎn)品被至少一個處理器執(zhí)行以實現(xiàn)如第一方面至第三方面中的任一方面所述的方法。

65、在本技術(shù)實施例中，第二設(shè)備可以通過向第一設(shè)備發(fā)送第一信息，輔助第三設(shè)備獲得第二信息，進(jìn)一步地，第三設(shè)備可以使用第二信息輔助進(jìn)行模型的推理，有利于提升模型的推理性能。