本發(fā)明涉及一種用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法，利用該方法，可以以簡單的方式并且以相對(duì)少的資源消耗來使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋或可理解。

背景技術(shù)：

1、機(jī)器學(xué)習(xí)算法基于：使用統(tǒng)計(jì)方法，以便對(duì)數(shù)據(jù)處理系統(tǒng)進(jìn)行訓(xùn)練，使得該數(shù)據(jù)處理系統(tǒng)可以在該數(shù)據(jù)處理系統(tǒng)最初未曾明確為了特定任務(wù)而被編程的情況下執(zhí)行該特定任務(wù)。在此，機(jī)器學(xué)習(xí)的目的在于：構(gòu)建可以從數(shù)據(jù)中學(xué)習(xí)并做出預(yù)測的算法。這些算法創(chuàng)建數(shù)學(xué)模型，利用這些數(shù)學(xué)模型例如可以對(duì)數(shù)據(jù)進(jìn)行分類。

2、在此，這些機(jī)器學(xué)習(xí)算法例如包括分類方法。分類方法是對(duì)將觀察分配或分組到預(yù)定義類別中進(jìn)行描述的方法。

3、這種分類方法例如在用于識(shí)別在由制造過程制造的產(chǎn)品的表面上的異常的方法中應(yīng)用。這種方法的示例是自動(dòng)檢查，該自動(dòng)檢查被設(shè)計(jì)為借助于圖像處理方法來識(shí)別相應(yīng)產(chǎn)品中的缺陷。

4、在此，通常希望使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋或可理解，例如以便增加對(duì)相對(duì)應(yīng)的機(jī)器學(xué)習(xí)算法的信任和/或相對(duì)應(yīng)地優(yōu)化該機(jī)器學(xué)習(xí)算法。

5、在此，例如已知的是：生成人工反事實(shí)示例，要基于這些人工反事實(shí)示例來使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋。然而，人工反事實(shí)示例的生成涉及相對(duì)高的資源消耗，例如存儲(chǔ)器和/或處理器容量的大量消耗。此外，所生成的人工反事實(shí)示例的質(zhì)量通常是有限的。

6、從出版文獻(xiàn)ep?3796228?a1已知一種用于生成神經(jīng)網(wǎng)絡(luò)的反事實(shí)示例的方法。

技術(shù)實(shí)現(xiàn)思路

1、因此，本發(fā)明所基于的任務(wù)在于：說明一種改進(jìn)的用于使機(jī)器學(xué)習(xí)算法可解釋的方法。

2、該任務(wù)通過一種按照專利獨(dú)立權(quán)利要求1的特征的用于使機(jī)器學(xué)習(xí)算法可解釋的方法來解決。

3、此外，該任務(wù)還通過一種按照專利獨(dú)立權(quán)利要求6的特征的用于使機(jī)器學(xué)習(xí)算法可解釋的系統(tǒng)來解決。

4、按照本發(fā)明的一個(gè)實(shí)施方式，該任務(wù)通過一種用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法來解決，其中，該機(jī)器學(xué)習(xí)算法被設(shè)計(jì)為將輸入數(shù)據(jù)分別分配給至少兩個(gè)組中的一個(gè)，而且其中，該方法具有：

5、為該機(jī)器學(xué)習(xí)算法提供輸入數(shù)據(jù)；

6、通過該機(jī)器學(xué)習(xí)算法，針對(duì)所提供的輸入數(shù)據(jù)的全部，分別將相對(duì)應(yīng)的輸入數(shù)據(jù)分配給該至少兩個(gè)組中的一個(gè)；

7、從該至少兩個(gè)組中的第一組中選擇數(shù)據(jù)；

8、確定來自該至少兩個(gè)組中的第二組中的在所有包含在該第二組中的數(shù)據(jù)中與所選擇的數(shù)據(jù)最相似的數(shù)據(jù)；

9、將所選擇的數(shù)據(jù)與所確定的數(shù)據(jù)進(jìn)行比較，以便使該機(jī)器學(xué)習(xí)算法可解釋；而且

10、提供相對(duì)應(yīng)的比較結(jié)果。

11、在這種情況下，輸入數(shù)據(jù)被理解為通過機(jī)器學(xué)習(xí)算法被分配到相對(duì)應(yīng)的輸出數(shù)據(jù)或輸出值、即尤其是至少兩個(gè)組中的一個(gè)組的數(shù)據(jù)，尤其是相對(duì)應(yīng)的傳感器數(shù)據(jù)。

12、因此，說明了一種用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法，該方法基于：確定來自分別不同的組中的彼此最相似的數(shù)據(jù)，其中，通過比較這些數(shù)據(jù)，可以指示數(shù)據(jù)到相對(duì)應(yīng)的組的分配之間的差異。

13、因此，說明了一種用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法，利用該方法，可以生成高質(zhì)量的反事實(shí)示例，但是，該方法不需要生成人工反事實(shí)示例，即，說明了一種可以用來以簡單的方式并且以相對(duì)少的資源消耗來使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法。

14、因此，總體上，說明了一種改進(jìn)的用于使機(jī)器學(xué)習(xí)算法可解釋的方法。

15、在一個(gè)實(shí)施方式中，確定來自該第二組中的與所選擇的數(shù)據(jù)最相似的數(shù)據(jù)的步驟在此具有：應(yīng)用至少一個(gè)編碼器。

16、在此，編碼器或自編碼器是機(jī)器學(xué)習(xí)算法，這些機(jī)器學(xué)習(xí)算法被設(shè)計(jì)為從數(shù)據(jù)中提取特定特征并且使復(fù)雜數(shù)據(jù)可理解。

17、因此，可以基于簡單的方式基于已知的機(jī)器學(xué)習(xí)算法來確定相似的數(shù)據(jù)，而不需要復(fù)雜且資源密集的調(diào)整。

18、此外，該方法還可以具有：基于這些比較結(jié)果，對(duì)該機(jī)器學(xué)習(xí)算法進(jìn)行再訓(xùn)練。尤其是，可以以簡單的方式并且以相對(duì)少的資源消耗來發(fā)現(xiàn)和消除相對(duì)應(yīng)的機(jī)器學(xué)習(xí)算法的弱點(diǎn)。

19、這些輸入數(shù)據(jù)還可以具有傳感器數(shù)據(jù)。

20、傳感器，也稱為檢測器、(測量參量或測量)記錄儀或者(測量)探測器，是一種技術(shù)構(gòu)件，該技術(shù)構(gòu)件可以定性地或者可以作為測量參量來定量地檢測該技術(shù)構(gòu)件的周圍環(huán)境的特定物理或化學(xué)特性和/或材料性質(zhì)。

21、因此，可以考慮在其上執(zhí)行該方法的數(shù)據(jù)處理系統(tǒng)之外的情況，并且將該情況合并到使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋中。

22、例如，該機(jī)器學(xué)習(xí)算法可以是用于對(duì)由制造過程制造的產(chǎn)品進(jìn)行自動(dòng)光學(xué)檢查的機(jī)器學(xué)習(xí)算法，其中，這些輸入數(shù)據(jù)是由傳感器檢測到的由該制造過程制造的產(chǎn)品的圖像數(shù)據(jù)。

23、制造過程通常被理解為標(biāo)準(zhǔn)化工作流程，在該標(biāo)準(zhǔn)化工作流程中，利用指定的制造工藝、工作設(shè)備和生產(chǎn)資料，通過對(duì)原材料或中間產(chǎn)品的機(jī)器和/或手動(dòng)加工和處理來制造產(chǎn)品。根據(jù)這些比較結(jié)果，可以丟棄并且借此不進(jìn)一步加工剛才提到的制造產(chǎn)品，或者可以釋放這些制造產(chǎn)品以用于后續(xù)加工步驟。

24、尤其是在自動(dòng)光學(xué)檢查方法中，在此重要的是：理解這些方法的工作原理并且因此使該工作原理可解釋。

25、利用本發(fā)明的另一實(shí)施方式，還說明了一種用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的系統(tǒng)，其中，該機(jī)器學(xué)習(xí)算法被設(shè)計(jì)為將輸入數(shù)據(jù)分別分配給至少兩個(gè)組中的一個(gè)，而且其中，該系統(tǒng)具有：

26、第一提供單元，該第一提供單元被設(shè)計(jì)為：為該機(jī)器學(xué)習(xí)算法提供輸入數(shù)據(jù)；

27、分配單元，該分配單元被設(shè)計(jì)為：通過該機(jī)器學(xué)習(xí)算法，針對(duì)所提供的輸入數(shù)據(jù)的全部，分別將相對(duì)應(yīng)的輸入數(shù)據(jù)分配給該至少兩個(gè)組中的一個(gè)；

28、選擇單元，該選擇單元被設(shè)計(jì)為：從該至少兩個(gè)組中的第一組中選擇數(shù)據(jù)；

29、確定單元，該確定單元被設(shè)計(jì)為：確定來自該至少兩個(gè)組中的第二組中的在所有包含在該第二組中的數(shù)據(jù)中與所選擇的數(shù)據(jù)最相似的數(shù)據(jù)；

30、比較單元，該比較單元被設(shè)計(jì)為：將所選擇的數(shù)據(jù)與所確定的數(shù)據(jù)進(jìn)行比較，以便使該機(jī)器學(xué)習(xí)算法可解釋；和

31、第二提供單元，該第二提供單元被設(shè)計(jì)為：提供相對(duì)應(yīng)的比較結(jié)果。

32、因此，說明了一種改進(jìn)的用于使機(jī)器學(xué)習(xí)算法可解釋的系統(tǒng)。尤其是，說明了一種用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的系統(tǒng)，利用該系統(tǒng)，可以生成高質(zhì)量的反事實(shí)示例，但是，該系統(tǒng)不需要生成人工反事實(shí)示例，即，說明了一種可以用來以簡單的方式并且以相對(duì)少的資源消耗來使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的系統(tǒng)。

33、在一個(gè)實(shí)施方式中，該確定單元在此被設(shè)計(jì)為：應(yīng)用至少一個(gè)編碼器，以便確定數(shù)據(jù)。因此，可以基于簡單的方式基于已知的機(jī)器學(xué)習(xí)算法來確定相似的數(shù)據(jù)，而不需要復(fù)雜且資源密集的調(diào)整。

34、此外，該系統(tǒng)還可以具有再訓(xùn)練單元，該再訓(xùn)練單元被設(shè)計(jì)為：基于這些比較結(jié)果，對(duì)該機(jī)器學(xué)習(xí)算法進(jìn)行再訓(xùn)練。尤其是，可以以簡單的方式并且以相對(duì)少的資源消耗來發(fā)現(xiàn)和消除相對(duì)應(yīng)的機(jī)器學(xué)習(xí)算法的弱點(diǎn)。

35、這些輸入數(shù)據(jù)還可以具有傳感器數(shù)據(jù)。因此，可以考慮在其上執(zhí)行該方法的數(shù)據(jù)處理系統(tǒng)之外的情況，并且將該情況合并到使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋中。

36、例如，該機(jī)器學(xué)習(xí)算法可以是用于對(duì)由制造過程制造的產(chǎn)品進(jìn)行自動(dòng)光學(xué)檢查的機(jī)器學(xué)習(xí)算法，其中，這些輸入數(shù)據(jù)是由傳感器檢測到的由該制造過程制造的產(chǎn)品的圖像數(shù)據(jù)。尤其是在自動(dòng)光學(xué)檢查方法中，在此重要的是：理解這些方法的工作原理并且因此使該工作原理可解釋。

37、此外，利用本發(fā)明的另一實(shí)施方式，還說明了一種計(jì)算機(jī)程序，該計(jì)算機(jī)程序具有程序代碼，以便當(dāng)該計(jì)算機(jī)程序在計(jì)算機(jī)上被執(zhí)行時(shí)執(zhí)行上述用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法。

38、此外，利用本發(fā)明的另一實(shí)施方式，還說明了一種計(jì)算機(jī)可讀數(shù)據(jù)載體，該計(jì)算機(jī)可讀數(shù)據(jù)載體具有計(jì)算機(jī)程序的程序代碼，以便當(dāng)該計(jì)算機(jī)程序在計(jì)算機(jī)上被執(zhí)行時(shí)執(zhí)行上述用于提供訓(xùn)練數(shù)據(jù)以使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法。

39、在此，該計(jì)算機(jī)程序和該計(jì)算機(jī)可讀數(shù)據(jù)載體分別具有如下優(yōu)點(diǎn)：該計(jì)算機(jī)程序和該計(jì)算機(jī)可讀數(shù)據(jù)載體被設(shè)計(jì)為執(zhí)行改進(jìn)的用于使機(jī)器學(xué)習(xí)算法可解釋的方法。該計(jì)算機(jī)程序和該計(jì)算機(jī)可讀數(shù)據(jù)載體尤其被設(shè)計(jì)為：執(zhí)行一種用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法，利用該方法，可以生成高質(zhì)量的反事實(shí)示例，但是，該方法不需要生成人工反事實(shí)示例，即，說明了一種可以用來以簡單的方式并且以相對(duì)少的資源消耗來使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法。

40、總而言之，應(yīng)著重指出的是：利用本發(fā)明，說明了一種用于使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋的方法，利用該方法，可以以簡單的方式并且以相對(duì)少的資源消耗來使機(jī)器學(xué)習(xí)算法的函數(shù)可解釋。

41、所描述的設(shè)計(jì)方案和擴(kuò)展方案可以彼此任意組合。

42、本發(fā)明的其它可能的設(shè)計(jì)方案、擴(kuò)展方案、實(shí)現(xiàn)方案也包括本發(fā)明的之前或者在下文關(guān)于實(shí)施例描述的特征的沒有明確提到的組合。