本發(fā)明涉及數(shù)據(jù)處理，具體提供一種基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法。

背景技術(shù)：

1、現(xiàn)如今人工智能與深度學(xué)習(xí)在學(xué)術(shù)與工業(yè)界都已取得重大的成果，但是現(xiàn)在的深度學(xué)習(xí)方法需要的三個關(guān)鍵要素是算法，算力，數(shù)據(jù)。算法與算力這兩個方面在近些年發(fā)展迅速，出現(xiàn)了多種神經(jīng)網(wǎng)絡(luò)模型例如：mlp,cnn，rnn，gan，transformer，diffusion?model。這些模型在各個領(lǐng)域已經(jīng)取得了優(yōu)異的成績，但是無一例外的是，它們都需要大量的優(yōu)質(zhì)訓(xùn)練數(shù)據(jù)。而且傳統(tǒng)方法擬合的是樣本到樣本之間的映射關(guān)系，在小樣本學(xué)習(xí)上的效果很差，也正因如此在缺少標(biāo)簽數(shù)據(jù)的流體數(shù)值模擬方面深度學(xué)習(xí)尚未取得非常優(yōu)異的成果。

2、因此，本領(lǐng)域需要一種新的小樣本訓(xùn)練方案來解決上述問題。

技術(shù)實(shí)現(xiàn)思路

1、為了克服上述缺陷，提出了本發(fā)明，以提供解決或至少部分地解決小樣本學(xué)習(xí)效果差的問題。

2、本發(fā)明提供一種基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法，包括：獲取訓(xùn)練集；其中，訓(xùn)練集包括樣本子集對及樣本子集對應(yīng)的條件期望；將待預(yù)測樣本的格式進(jìn)行重構(gòu)，使重構(gòu)后的待預(yù)測樣本的格式與樣本子集對的結(jié)構(gòu)相同；將重構(gòu)后的預(yù)測樣本輸入到訓(xùn)練好的模型中，得到預(yù)測結(jié)果；方法至少包括以下步驟獲取訓(xùn)練好的模型：基于訓(xùn)練集對待訓(xùn)練模型進(jìn)行訓(xùn)練。

3、在上述基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法的一個技術(shù)方案中，方法至少包括以下步驟獲取樣本子集對：將選取的小樣本集根據(jù)排列組合方式生成若干個樣本子集，每個樣本子集中包含若干個樣本子集對。

4、在上述基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法的一個技術(shù)方案中，方法至少包括以下步驟獲取樣本子集對應(yīng)的條件期望：確定選取的小樣本集對應(yīng)的標(biāo)簽集合；計算樣本子集對在標(biāo)簽集合中對應(yīng)標(biāo)簽集的條件期望。

5、在上述基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法的一個技術(shù)方案中，基于訓(xùn)練集對待訓(xùn)練模型進(jìn)行訓(xùn)練的過程包括：獲取樣本子集對與樣本子集對應(yīng)的條件期望之間的映射關(guān)系；基于映射關(guān)系，將樣本子集對作為輸入，將樣本子集對應(yīng)的條件期望作為輸出對待訓(xùn)練模型進(jìn)行訓(xùn)練。

6、在上述基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法的一個技術(shù)方案中，獲取樣本子集對與樣本子集對應(yīng)的條件期望之間的映射關(guān)系的過程包括：基于擬合方式獲取映射關(guān)系。

7、本發(fā)明上述一個或多個技術(shù)方案，至少具有如下一種或多種有益效果：

8、在實(shí)施本發(fā)明的技術(shù)方案中，本發(fā)明提供了一種基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法，包括：獲取訓(xùn)練集；其中，訓(xùn)練集包括樣本子集對及樣本子集對應(yīng)的條件期望；將待預(yù)測樣本的格式進(jìn)行重構(gòu)，使重構(gòu)后的待預(yù)測樣本的格式與樣本子集對的結(jié)構(gòu)相同；將重構(gòu)后的預(yù)測樣本輸入到訓(xùn)練好的模型中，得到預(yù)測結(jié)果；方法至少包括以下步驟獲取訓(xùn)練好的模型：基于訓(xùn)練集對待訓(xùn)練模型進(jìn)行訓(xùn)練。與現(xiàn)有技術(shù)相比，本發(fā)明所提供的基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法的有益效果為：本方法利用樣本子集、樣本子集對應(yīng)的條件期望作為訓(xùn)練集，以這種方式增加訓(xùn)練樣本個數(shù)，解決訓(xùn)練數(shù)據(jù)量不足的文體，從而提升小樣本數(shù)據(jù)模型的性能與效果。

9、進(jìn)一步的，通過生成樣本子集對和計算對應(yīng)的條件期望，待訓(xùn)練模型能夠接觸到數(shù)據(jù)集中不同部分的分布信息。這些樣本子集對和條件期望的組合代表了數(shù)據(jù)集中各種可能的局部條件和相應(yīng)的預(yù)期結(jié)果，從而間接地將數(shù)據(jù)集的分布特征融入到訓(xùn)練過程中。另外，在訓(xùn)練過程中學(xué)習(xí)樣本子集對與條件期望之間的映射關(guān)系，由于這種映射關(guān)系是基于包含分布信息的訓(xùn)練數(shù)據(jù)構(gòu)建的，所以神經(jīng)網(wǎng)絡(luò)實(shí)際上是在學(xué)習(xí)如何根據(jù)數(shù)據(jù)的分布特征來做出合理的預(yù)測，因此減少了數(shù)據(jù)集的分布不確定性。

技術(shù)特征：

1.一種基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述方法至少包括以下步驟獲取所述樣本子集對：

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述方法至少包括以下步驟獲取所述樣本子集對應(yīng)的條件期望：

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，基于所述訓(xùn)練集對待訓(xùn)練模型進(jìn)行訓(xùn)練的過程包括：

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，獲取所述樣本子集對與所述樣本子集對應(yīng)的條件期望之間的映射關(guān)系的過程包括：基于擬合方式獲取所述映射關(guān)系。

技術(shù)總結(jié)
本發(fā)明提供了一種基于數(shù)學(xué)期望的小樣本深度學(xué)習(xí)方法，包括：獲取訓(xùn)練集；其中，訓(xùn)練集包括樣本子集對及樣本子集對應(yīng)的條件期望；將待預(yù)測樣本的格式進(jìn)行重構(gòu)，使重構(gòu)后的待預(yù)測樣本的格式與樣本子集對的結(jié)構(gòu)相同；將重構(gòu)后的預(yù)測樣本輸入到訓(xùn)練好的模型中，得到預(yù)測結(jié)果；方法至少包括以下步驟獲取訓(xùn)練好的模型：基于訓(xùn)練集對待訓(xùn)練模型進(jìn)行訓(xùn)練。本方法利用樣本子集、樣本子集對應(yīng)的條件期望作為訓(xùn)練集，以這種方式增加訓(xùn)練樣本個數(shù)，解決訓(xùn)練數(shù)據(jù)量不足的問題，從而提升小樣本數(shù)據(jù)模型的性能與效果。

技術(shù)研發(fā)人員：張釗,陳正龍,翟佳羽,李欣鵬,嚴(yán)俠,劉丕養(yǎng),張凱
受保護(hù)的技術(shù)使用者：山東大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2025/4/10