本申請(qǐng)屬于通信，具體涉及一種基于ai模型的推理方法、通信裝置、通信設(shè)備及介質(zhì)。

背景技術(shù)：

1、在移動(dòng)通信系統(tǒng)中，開(kāi)始有越來(lái)越多的用例結(jié)合人工智能(ai)。例如在物理層有基于ai的csi(channel?state?information)預(yù)測(cè)和反饋壓縮，基于ai的波束管理，基于ai的定位等。為了使不同通信場(chǎng)景具有普適性，提出了將大模型應(yīng)用到通信網(wǎng)絡(luò)中來(lái)解決通信系統(tǒng)中的問(wèn)題，但是，大模型通常在解決通用問(wèn)題上的性能較優(yōu)，但是通信系統(tǒng)中存在許多不同的問(wèn)題，例如，波束賦形，資源分配，信道預(yù)測(cè)等，因此，如何保證大模型在解決具體的下游問(wèn)題時(shí)的性能是一項(xiàng)亟需解決的問(wèn)題。

技術(shù)實(shí)現(xiàn)思路

1、本申請(qǐng)實(shí)施例提供一種基于ai模型的推理方法、通信裝置、通信設(shè)備及介質(zhì)，能夠提升基于大模型推理下游問(wèn)題時(shí)的模型性能。

2、第一方面，提供了一種基于ai模型的推理方法，該方法包括：

3、第一設(shè)備獲取第一信息，其中，所述第一設(shè)備上部署第一模型；根據(jù)所述第一信息，將所述第一模型適配到目標(biāo)任務(wù)中；其中，所述第一信息包括以下信息中的至少之一：提示指示信息、知識(shí)指示信息、微調(diào)數(shù)據(jù)集指示信息。

4、第二方面，提供了一種基于ai模型的推理方法，該方法包括：

5、第二設(shè)備向第一設(shè)備發(fā)送第一信息，所述第一信息用于所述第一設(shè)備將所述第一模型適配到目標(biāo)任務(wù)中；

6、其中，所述第一信息包括以下信息中的至少之一：提示指示信息、知識(shí)指示信息、微調(diào)數(shù)據(jù)集指示信息。

7、第三方面，提供了一種通信裝置，包括：

8、處理單元，用于獲取第一信息，其中，所述通信裝置上部署第一模型；以及

9、根據(jù)所述第一信息，將所述第一模型適配到目標(biāo)任務(wù)中；

10、其中，所述第一信息包括以下信息中的至少之一：提示指示信息、知識(shí)指示信息、微調(diào)數(shù)據(jù)集指示信息。

11、第四方面，提供了一種通信裝置，包括：

12、通信單元，用于向第一設(shè)備發(fā)送第一信息，所述第一設(shè)備上部署第一模型，所述第一信息用于所述第一設(shè)備將所述第一模型適配到目標(biāo)任務(wù)中；其中，所述第一信息包括以下信息中的至少之一：提示指示信息、知識(shí)指示信息、微調(diào)數(shù)據(jù)集指示信息。

13、第五方面，提供了一種通信設(shè)備，該通信設(shè)備包括處理器和存儲(chǔ)器，所述存儲(chǔ)器存儲(chǔ)可在所述處理器上運(yùn)行的程序或指令，所述程序或指令被所述處理器執(zhí)行時(shí)實(shí)現(xiàn)如第一方面至第二方面中的任一方面中所述的方法的步驟。

14、第六方面，提供了一種可讀存儲(chǔ)介質(zhì)，所述可讀存儲(chǔ)介質(zhì)上存儲(chǔ)程序或指令，所述程序或指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)如第一方面至第二方面中的任一方面中所述的方法的步驟。

15、第七方面，提供了一種無(wú)線通信系統(tǒng)，包括：第一設(shè)備和第二設(shè)備，所述第一設(shè)備可用于執(zhí)行如第一方面所述的方法的步驟，所述第二設(shè)備可用于執(zhí)行如第二方面所述的方法的步驟。

16、第八方面，提供了一種芯片，所述芯片包括處理器和通信接口，所述通信接口和所述處理器耦合，所述處理器用于運(yùn)行程序或指令，實(shí)現(xiàn)如第一方面至第二方面中任一方面所述的方法。

17、第九方面，提供了一種計(jì)算機(jī)程序/程序產(chǎn)品，所述計(jì)算機(jī)程序/程序產(chǎn)品被存儲(chǔ)在存儲(chǔ)介質(zhì)中，所述程序/程序產(chǎn)品被至少一個(gè)處理器執(zhí)行以實(shí)現(xiàn)如第一方面至第二方面中任一方面所述的方法的步驟。

18、在本申請(qǐng)實(shí)施例中，第一設(shè)備可以從第二設(shè)備獲取用于第一模型推理的輔助信息，例如提示指示信息、知識(shí)指示信息、微調(diào)數(shù)據(jù)集等，從而，推理節(jié)點(diǎn)可以基于該提示指示信息、知識(shí)指示信息、微調(diào)數(shù)據(jù)集等使用第一模型進(jìn)行推理，有利于提升模型的推理性能。

技術(shù)特征：

1.一種基于人工智能ai模型的推理方法，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述提示指示信息包括以下至少之一：

3.根據(jù)權(quán)利要求1或2所述的方法，其特征在于，所述知識(shí)指示信息，所述知識(shí)指示信息包括知識(shí)圖譜指示信息和知識(shí)向量庫(kù)指示信息中的至少之一；

4.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，其特征在于，所述微調(diào)數(shù)據(jù)集指示信息用于指示所述第一模型的輸入信息和標(biāo)簽信息，所述第一模型的輸入信息與所述目標(biāo)任務(wù)相關(guān)；

5.根據(jù)權(quán)利要求1-4中任一項(xiàng)所述的方法，其特征在于，所述第一設(shè)備獲取第一信息，包括：

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述方法還包括：

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述第一設(shè)備為終端，所述第一設(shè)備向所述第二設(shè)備發(fā)送第二信息，包括：

8.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述第一設(shè)備的配置指示用于指示以下至少之一：

9.根據(jù)權(quán)利要求1-8中任一項(xiàng)所述的方法，其特征在于，當(dāng)所述第一設(shè)備為終端時(shí)，所述方法還包括：

10.根據(jù)權(quán)利要求9所述的方法，其特征在于，所述第四信息包括以下至少之一：

11.根據(jù)權(quán)利要求9或10所述的方法，其特征在于，所述第一能力信息包括以下至少之一：

12.根據(jù)權(quán)利要求9-11中任一項(xiàng)所述的方法，其特征在于，所述終端向網(wǎng)絡(luò)側(cè)設(shè)備發(fā)送第四信息和第一能力信息中的至少之一，包括：

13.一種基于人工智能ai模型的推理方法，其特征在于，包括：

14.一種通信裝置，其特征在于，包括：

15.一種通信裝置，其特征在于，包括：

16.一種通信設(shè)備，其特征在于，包括：存儲(chǔ)器、處理器及存儲(chǔ)在所述存儲(chǔ)器上并可在所述處理器上運(yùn)行的計(jì)算機(jī)程序，所述計(jì)算機(jī)程序被所述處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1至12中任一項(xiàng)所述的方法中的步驟，或如權(quán)利要求13所述的方法中的步驟。

17.一種可讀存儲(chǔ)介質(zhì)，其特征在于，所述可讀存儲(chǔ)介質(zhì)上存儲(chǔ)程序或指令，所述程序或指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1至12中任一項(xiàng)所述的方法中的步驟，或如權(quán)利要求13所述的方法中的步驟。

技術(shù)總結(jié)
本申請(qǐng)公開(kāi)了一種通信系統(tǒng)中基于AI模型的推理方法、通信裝置、通信設(shè)備及介質(zhì)，屬于通信領(lǐng)域，本申請(qǐng)實(shí)施例的方法包括：第一設(shè)備獲取第一信息，其中，所述第一設(shè)備上部署第一模型；根據(jù)所述第一信息，將所述第一模型適配到目標(biāo)任務(wù)中；其中，所述第一信息包括以下信息中的至少之一：提示指示信息、知識(shí)指示信息、微調(diào)數(shù)據(jù)集指示信息。

技術(shù)研發(fā)人員：周通
受保護(hù)的技術(shù)使用者：維沃移動(dòng)通信有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/5/19