本技術(shù)涉及動(dòng)作捕捉數(shù)據(jù)處理的，尤其是涉及基于光慣融合全身動(dòng)作捕捉的機(jī)器人強(qiáng)化學(xué)習(xí)模型構(gòu)建方法。

背景技術(shù)：

1、隨著機(jī)器人技術(shù)的飛速發(fā)展，人形機(jī)器人在各個(gè)領(lǐng)域的應(yīng)用愈發(fā)廣泛，如服務(wù)、娛樂(lè)、醫(yī)療等。為了使人形機(jī)器人能夠更加自然、流暢地完成各種任務(wù)，精確的動(dòng)作捕捉技術(shù)變得至關(guān)重要。傳統(tǒng)的動(dòng)作捕捉方法存在各種局限性，例如光學(xué)動(dòng)作捕捉系統(tǒng)雖然精度較高，但設(shè)備復(fù)雜且對(duì)環(huán)境要求苛刻；慣性動(dòng)作捕捉系統(tǒng)便攜性較好，但數(shù)據(jù)漂移問(wèn)題嚴(yán)重。因此，融合多種傳感器優(yōu)勢(shì)的光慣融合動(dòng)作捕捉方法成為研究熱點(diǎn)。

2、然而，現(xiàn)有的光慣融合方案在應(yīng)用于人形機(jī)器人強(qiáng)化學(xué)習(xí)時(shí)，仍面臨數(shù)據(jù)處理復(fù)雜、傳感器校準(zhǔn)不準(zhǔn)確、動(dòng)作識(shí)別精度不高等問(wèn)題，導(dǎo)致機(jī)器人難以高效地學(xué)習(xí)和模仿人類動(dòng)作。

3、光學(xué)動(dòng)作捕捉系統(tǒng)，如vicon系統(tǒng)，雖然在理想環(huán)境下能夠提供高精度的動(dòng)作捕捉，但在遮擋場(chǎng)景下定位誤差會(huì)顯著增加。此外，這類系統(tǒng)對(duì)環(huán)境光、反射和遮擋非常敏感，需要復(fù)雜的布設(shè)和校準(zhǔn)過(guò)程，且成本高昂，限制了其在實(shí)際應(yīng)用中的普及。

4、慣性動(dòng)作捕捉系統(tǒng)，如xsens?mtw?awinda，雖然便攜性好，適合在各種環(huán)境下使用，但存在嚴(yán)重的數(shù)據(jù)漂移問(wèn)題。隨著時(shí)間的推移，累積的誤差會(huì)導(dǎo)致捕捉精度大幅下降，影響數(shù)據(jù)的可靠性。

5、綜上所述，現(xiàn)有的動(dòng)作捕捉技術(shù)在精度、便攜性、成本和數(shù)據(jù)處理等方面存在諸多挑戰(zhàn)，限制了人形機(jī)器人在復(fù)雜環(huán)境中的表現(xiàn)。因此，迫切需要一種新的光慣融合動(dòng)作捕捉方法，以提高人形機(jī)器人動(dòng)作捕捉的精度和效率，為人形機(jī)器人的強(qiáng)化學(xué)習(xí)提供更準(zhǔn)確的數(shù)據(jù)支持。

技術(shù)實(shí)現(xiàn)思路

1、為了提供更為可靠的機(jī)器人動(dòng)作模型訓(xùn)練方法，本技術(shù)提供基于光慣融合全身動(dòng)作捕捉的機(jī)器人強(qiáng)化學(xué)習(xí)模型構(gòu)建方法。

2、本技術(shù)提供基于光慣融合全身動(dòng)作捕捉的機(jī)器人強(qiáng)化學(xué)習(xí)模型構(gòu)建方法，采用如下的技術(shù)方案：

3、基于光慣融合全身動(dòng)作捕捉的機(jī)器人強(qiáng)化學(xué)習(xí)模型構(gòu)建方法，包括：

4、對(duì)目標(biāo)人體的多個(gè)關(guān)鍵參數(shù)進(jìn)行測(cè)量和記錄；

5、對(duì)佩戴在所述目標(biāo)人體上的所有慣性傳感器進(jìn)行初次校準(zhǔn)和記錄，同時(shí)對(duì)布置在所述目標(biāo)人體周圍的所有相機(jī)進(jìn)行標(biāo)定；

6、在所述目標(biāo)人體執(zhí)行指定動(dòng)作的過(guò)程中，同步采集獲取所述目標(biāo)人體的動(dòng)作采樣數(shù)據(jù)；所述動(dòng)作采樣數(shù)據(jù)包括所述慣性傳感器對(duì)應(yīng)的運(yùn)動(dòng)數(shù)據(jù)和所述相機(jī)對(duì)應(yīng)的相機(jī)圖像數(shù)據(jù)；

7、對(duì)所述運(yùn)動(dòng)數(shù)據(jù)和所述相機(jī)圖像數(shù)據(jù)進(jìn)行處理后進(jìn)行融合與優(yōu)化，得到優(yōu)化后的關(guān)節(jié)姿態(tài)四元數(shù)據(jù)和人體動(dòng)作序列數(shù)據(jù)；

8、將所述人體動(dòng)作序列數(shù)據(jù)輸入人形機(jī)器人的強(qiáng)化學(xué)習(xí)模型中，配置預(yù)設(shè)獎(jiǎng)勵(lì)函數(shù)進(jìn)行強(qiáng)化學(xué)習(xí)訓(xùn)練。

9、通過(guò)采用上述技術(shù)方案，通過(guò)預(yù)先測(cè)量目標(biāo)人體的關(guān)鍵參數(shù)，為后續(xù)的關(guān)節(jié)姿態(tài)計(jì)算提供了準(zhǔn)確的基準(zhǔn)，提高了動(dòng)作捕捉的精度，多角度的相機(jī)拍攝結(jié)合深度學(xué)習(xí)姿態(tài)估計(jì)模型，能夠準(zhǔn)確檢測(cè)人體關(guān)節(jié)的二維像素坐標(biāo)，并轉(zhuǎn)換為三維空間坐標(biāo)，實(shí)現(xiàn)了高精度的人體動(dòng)作捕捉，之后將慣性傳感器與相機(jī)數(shù)據(jù)的融合與優(yōu)化，有效解決了單一傳感器存在的誤差和噪聲問(wèn)題，提高了數(shù)據(jù)的準(zhǔn)確性和可靠性，生成的人體動(dòng)作序列數(shù)據(jù)應(yīng)用于人形機(jī)器人強(qiáng)化學(xué)習(xí)，能夠提高機(jī)器人的學(xué)習(xí)效率和動(dòng)作執(zhí)行的準(zhǔn)確性，使人形機(jī)器人能夠更加自然、流暢地完成各種任務(wù)。

10、可選地，所述對(duì)所述運(yùn)動(dòng)數(shù)據(jù)和所述相機(jī)圖像數(shù)據(jù)進(jìn)行處理的過(guò)程包括：

11、根據(jù)所述慣性傳感器的采樣頻率和運(yùn)動(dòng)特性，選擇對(duì)應(yīng)的截止頻率，將慣性傳感器的測(cè)量數(shù)據(jù)通過(guò)對(duì)應(yīng)的低通濾波器進(jìn)行低通濾波處理，去除高頻噪聲，得到平滑的所述測(cè)量數(shù)據(jù)；所述測(cè)量數(shù)據(jù)包括加速度數(shù)據(jù)和角速度數(shù)據(jù)；

12、結(jié)合配置所述關(guān)鍵參數(shù)后的通用運(yùn)動(dòng)學(xué)模型，采用關(guān)節(jié)姿態(tài)四元數(shù)據(jù)進(jìn)行關(guān)節(jié)姿態(tài)的初步姿態(tài)估計(jì)；

13、對(duì)所述相機(jī)圖像數(shù)據(jù)進(jìn)行預(yù)處理，然后輸入預(yù)先訓(xùn)練的深度學(xué)習(xí)姿態(tài)估計(jì)模型中，根據(jù)所述深度學(xué)習(xí)姿態(tài)估計(jì)模型的輸出結(jié)果進(jìn)行三維重建。

14、可選地，所述融合與優(yōu)化的過(guò)程包括：

15、采用卡爾曼濾波算法對(duì)經(jīng)過(guò)初步姿態(tài)估計(jì)和三維重建獲得的關(guān)節(jié)姿態(tài)信息進(jìn)行融合與優(yōu)化，通過(guò)最小二乘法求解目標(biāo)函數(shù)，得到優(yōu)化后的關(guān)節(jié)姿態(tài)四元數(shù)和人體動(dòng)作序列數(shù)據(jù)。

16、可選地，所述對(duì)所述相機(jī)圖像數(shù)據(jù)進(jìn)行預(yù)處理，然后輸入預(yù)先訓(xùn)練的深度學(xué)習(xí)姿態(tài)估計(jì)模型中的過(guò)程包括：

17、對(duì)所述相機(jī)圖像數(shù)據(jù)進(jìn)行圖像增強(qiáng)；所述相機(jī)圖像數(shù)據(jù)包括每個(gè)所述相機(jī)在同一時(shí)刻獲取的至少一張圖片數(shù)據(jù)；

18、對(duì)增強(qiáng)后的所述相機(jī)圖像數(shù)據(jù)進(jìn)行尺寸歸一化；

19、將所述相機(jī)圖像數(shù)據(jù)對(duì)應(yīng)的相機(jī)標(biāo)定參數(shù)轉(zhuǎn)化為指定像素圖案嵌入所述相機(jī)圖像數(shù)據(jù)的指定位置；所述相機(jī)標(biāo)定參數(shù)包括內(nèi)參矩陣和外參矩陣；

20、所述深度學(xué)習(xí)姿態(tài)估計(jì)模型輸出的各特征點(diǎn)對(duì)應(yīng)的二維像素坐標(biāo)和三維空間估計(jì)坐標(biāo)；

21、其中，所述特征點(diǎn)為人體關(guān)節(jié)，不同人體關(guān)節(jié)處配置不同顏色的標(biāo)志物，所述標(biāo)志物尺寸形狀均相同。

22、可選地，所述深度學(xué)習(xí)姿態(tài)估計(jì)模型的訓(xùn)練方法包括：

23、將所述相機(jī)圖像數(shù)據(jù)進(jìn)行圖像增強(qiáng)；所述相機(jī)圖像數(shù)據(jù)包括每個(gè)所述相機(jī)在同一時(shí)刻獲取的至少一張圖片數(shù)據(jù)；

24、對(duì)增強(qiáng)后的所述相機(jī)圖像數(shù)據(jù)進(jìn)行尺寸歸一化；

25、將所述相機(jī)圖像數(shù)據(jù)對(duì)應(yīng)的相機(jī)標(biāo)定參數(shù)轉(zhuǎn)化為指定像素圖案嵌入所述相機(jī)圖像數(shù)據(jù)的指定位置后分為訓(xùn)練集和驗(yàn)證集；所述相機(jī)標(biāo)定參數(shù)包括內(nèi)參矩陣和外參矩陣；

26、將訓(xùn)練集輸入到深度學(xué)習(xí)姿態(tài)估計(jì)模型中進(jìn)行前向傳播，之后在反向傳播過(guò)程中根據(jù)指定損失函數(shù)計(jì)算損失函數(shù)值來(lái)對(duì)模型參數(shù)進(jìn)行更新；

27、選擇adam進(jìn)行指定損失函數(shù)的最小化，重復(fù)前向傳播和反向傳播過(guò)程，進(jìn)行多次訓(xùn)練迭代，在每次迭代中，更新模型參數(shù)，使所述損失函數(shù)值逐漸減小，最后通過(guò)驗(yàn)證集進(jìn)行驗(yàn)證。

28、可選地，所述指定損失函數(shù)為：

29、

30、

31、

32、

33、其中，為權(quán)重調(diào)節(jié)系數(shù)，為均方誤差損失項(xiàng)，為平均絕對(duì)誤差損失項(xiàng)，為加權(quán)均方誤差損失項(xiàng)，為訓(xùn)練集中樣本數(shù)量，為人體關(guān)節(jié)數(shù)量，為第個(gè)樣本的第個(gè)人體關(guān)節(jié)的真實(shí)三維坐標(biāo)，為第個(gè)樣本的第個(gè)人體關(guān)節(jié)的三維空間估計(jì)坐標(biāo)，第個(gè)人體關(guān)節(jié)對(duì)應(yīng)的損失權(quán)重。

34、可選地，所述權(quán)重調(diào)節(jié)系數(shù)的配置方法包括：

35、

36、其中，為初始權(quán)重，為樣本中的所述標(biāo)志物總數(shù)，為指定標(biāo)志物數(shù)量參考值，為標(biāo)志物總數(shù)隨樣本輸入序列變化的變化率，，、分別為閾值的下限、上限。

37、可選地，所述預(yù)設(shè)獎(jiǎng)勵(lì)函數(shù)包括：

38、

39、其中，為總獎(jiǎng)勵(lì)分值，為總獎(jiǎng)勵(lì)項(xiàng)數(shù)，為第r類獎(jiǎng)勵(lì)項(xiàng)對(duì)應(yīng)的懲罰項(xiàng)分值，，為懲罰項(xiàng)指數(shù)，為預(yù)設(shè)定義分值。

40、綜上所述，本技術(shù)包括以下至少有益技術(shù)效果：

41、1、本技術(shù)通過(guò)預(yù)先測(cè)量目標(biāo)人體的關(guān)鍵參數(shù)，為后續(xù)的關(guān)節(jié)姿態(tài)計(jì)算提供了準(zhǔn)確的基準(zhǔn)，提高了動(dòng)作捕捉的精度，多角度的相機(jī)拍攝結(jié)合深度學(xué)習(xí)姿態(tài)估計(jì)模型，能夠準(zhǔn)確檢測(cè)人體關(guān)節(jié)的二維像素坐標(biāo)，并轉(zhuǎn)換為三維空間坐標(biāo)，實(shí)現(xiàn)了高精度的人體動(dòng)作捕捉，之后將慣性傳感器與相機(jī)數(shù)據(jù)的融合與優(yōu)化，有效解決了單一傳感器存在的誤差和噪聲問(wèn)題，提高了數(shù)據(jù)的準(zhǔn)確性和可靠性，生成的人體動(dòng)作序列數(shù)據(jù)應(yīng)用于人形機(jī)器人強(qiáng)化學(xué)習(xí)，能夠提高機(jī)器人的學(xué)習(xí)效率和動(dòng)作執(zhí)行的準(zhǔn)確性，使人形機(jī)器人能夠更加自然、流暢地完成各種任務(wù)。

42、2、采用卡爾曼濾波算法對(duì)初步姿態(tài)估計(jì)和三維重建獲得的關(guān)節(jié)姿態(tài)信息進(jìn)行融合與優(yōu)化，有效解決了單一傳感器存在的誤差和噪聲問(wèn)題。通過(guò)卡爾曼濾波，能夠?qū)Χ嘣磾?shù)據(jù)進(jìn)行實(shí)時(shí)融合，提高數(shù)據(jù)的準(zhǔn)確性和可靠性通過(guò)最小二乘法求解目標(biāo)函數(shù)，得到優(yōu)化后的關(guān)節(jié)姿態(tài)四元數(shù)。這一方法能夠進(jìn)一步減少姿態(tài)估計(jì)的誤差，提高關(guān)節(jié)姿態(tài)的精確度，為后續(xù)的人體動(dòng)作序列生成提供更準(zhǔn)確的基礎(chǔ)數(shù)據(jù)。

43、3、融合與優(yōu)化后的關(guān)節(jié)姿態(tài)信息能夠生成高質(zhì)量的人體動(dòng)作序列數(shù)據(jù)。這些數(shù)據(jù)不僅精度高，而且噪聲小，適用于人形機(jī)器人的強(qiáng)化學(xué)習(xí)，能夠提高機(jī)器人的學(xué)習(xí)效率和動(dòng)作執(zhí)行的準(zhǔn)確性；通過(guò)高精度的數(shù)據(jù)支持，機(jī)器人能夠更好地理解和模仿人類動(dòng)作，提高其在復(fù)雜環(huán)境中的適應(yīng)性和表現(xiàn)。