本發(fā)明涉及深度學(xué)習(xí)與智慧教育相結(jié)合的，尤其涉及一種基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法及裝置。

背景技術(shù)：

1、知識追蹤(knowledge?tracing,kt)是指通過分析學(xué)生回答問題的行為，構(gòu)建模型以模擬學(xué)生的學(xué)習(xí)狀態(tài)，并預(yù)測其未來表現(xiàn)。傳統(tǒng)的知識追蹤模型主要分為三類：基于貝葉斯網(wǎng)絡(luò)、基于馬爾科夫決策過程和基于機(jī)器學(xué)習(xí)。然而，這些傳統(tǒng)方法存在若干局限性：1.忽視了學(xué)習(xí)過程中的動態(tài)因素，例如學(xué)習(xí)收益的差異、猜測行為以及遺忘現(xiàn)象；2.模型的解釋性不足，難以理解預(yù)測結(jié)果的成因；3.泛化能力有限，難以適應(yīng)多樣化的學(xué)習(xí)場景。

2、為了突破這些局限，研究人員開始探索基于深度學(xué)習(xí)的知識追蹤模型，例如dkt(deep?knowledge?tracing)、dkvmn(dynamic?key-value?memorynetwork)、akt(attentiveknowledge?tracing)等。深度學(xué)習(xí)模型能夠自動學(xué)習(xí)學(xué)生答題行為與知識狀態(tài)之間的復(fù)雜關(guān)系，并展現(xiàn)出更高的預(yù)測精度和更強(qiáng)的泛化能力。盡管如此，當(dāng)前的深度學(xué)習(xí)模型仍面臨一些挑戰(zhàn)：1.可解釋性不足：現(xiàn)有的模型在學(xué)習(xí)和回答過程中的可解釋性較差，模型結(jié)構(gòu)復(fù)雜，難以理解其預(yù)測機(jī)制；2.遺忘現(xiàn)象未被充分考慮：許多模型未能充分納入學(xué)生遺忘對知識狀態(tài)的影響，這導(dǎo)致預(yù)測結(jié)果的準(zhǔn)確性受損；3.猜測行為未被充分考慮：學(xué)生在答題時可能會進(jìn)行猜測，而現(xiàn)有模型很少將猜測因素納入考量，影響了預(yù)測結(jié)果的準(zhǔn)確性。

技術(shù)實現(xiàn)思路

1、針對當(dāng)前基于深度學(xué)習(xí)的知識追蹤模型存在的可解釋性不足、未充分考慮遺忘現(xiàn)象和猜測行為等問題，本發(fā)明提出了一種基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法及裝置，旨在提高知識追蹤模型的預(yù)測準(zhǔn)確性并增強(qiáng)其可解釋性。

2、為實現(xiàn)上述目的，本發(fā)明提供以下技術(shù)方案：

3、第一方面，本發(fā)明提供了一種基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法，包括步驟：

4、獲取問題和對應(yīng)所述問題的知識概念；

5、依據(jù)所述問題和所述知識概念進(jìn)行嵌入向量檢索，得到問題嵌入向量和知識概念嵌入向量；利用注意力機(jī)制，根據(jù)所述問題嵌入向量進(jìn)行計算，得到對應(yīng)所述問題的知識概念的權(quán)重；

6、利用遺忘曲線，根據(jù)所述知識概念嵌入向量和時間向量進(jìn)行計算，得到對應(yīng)所述知識概念的間隔時間和遺忘率，并利用所述間隔時間和遺忘率更新特定學(xué)生的知識狀態(tài)矩陣；

7、依據(jù)更新后的所述特定學(xué)生的知識狀態(tài)矩陣、問題嵌入向量和知識概念的權(quán)重和預(yù)構(gòu)建的項目反應(yīng)理論三參數(shù)模型進(jìn)行計算，得到特定學(xué)生的對應(yīng)于特定問題的預(yù)測結(jié)果；

8、依據(jù)特定問題和問題回答情況、特定學(xué)生的知識狀態(tài)矩陣和對應(yīng)所述問題的知識概念的權(quán)重進(jìn)一步更新特定學(xué)生的知識狀態(tài)矩陣。

9、第二方面，本發(fā)明提供了一種基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤裝置，包括：

10、問題數(shù)據(jù)庫，其用于獲取問題和對應(yīng)所述問題的知識概念；

11、嵌入表示模塊，用于依據(jù)所述問題和所述知識概念進(jìn)行嵌入向量檢索，得到問題嵌入向量和知識概念嵌入向量，利用注意力機(jī)制，根據(jù)所述問題嵌入向量進(jìn)行計算，得到對應(yīng)所述問題的知識概念的權(quán)重；

12、遺忘量化模塊，用于利用遺忘曲線，根據(jù)所述知識概念嵌入向量和時間向量進(jìn)行計算，得到對應(yīng)所述知識概念的間隔時間和遺忘率，并利用所述間隔時間和遺忘率更新特定學(xué)生的知識狀態(tài)矩陣；

13、答案預(yù)測模塊，用于依據(jù)更新后的所述特定學(xué)生的知識狀態(tài)矩陣、對應(yīng)所述問題的知識概念的權(quán)重和預(yù)構(gòu)建的項目反應(yīng)理論三參數(shù)模型進(jìn)行計算，得到特定學(xué)生的對應(yīng)于特定問題的預(yù)測結(jié)果；

14、知識狀態(tài)更新模塊，用于依據(jù)特定問題和問題回答情況、特定學(xué)生的知識狀態(tài)矩陣和對應(yīng)所述問題的知識概念的權(quán)重進(jìn)一步更新特定學(xué)生的知識狀態(tài)矩陣。

15、第三方面，本發(fā)明還提供了一種電子設(shè)備，包括處理器以及存儲器；

16、所述存儲器用于存儲程序；

17、所述處理器執(zhí)行所述程序?qū)崿F(xiàn)如前面所述的方法。

18、第四方面，本發(fā)明還提供了一種計算機(jī)可讀存儲介質(zhì)，所述存儲介質(zhì)存儲有程序，所述程序被處理器執(zhí)行實現(xiàn)如前面所述的方法。

19、第五方面，本發(fā)明還提供了一種計算機(jī)程序產(chǎn)品或計算機(jī)程序，該計算機(jī)程序產(chǎn)品或計算機(jī)程序包括計算機(jī)指令，該計算機(jī)指令存儲在計算機(jī)可讀存儲介質(zhì)中。計算機(jī)設(shè)備的處理器可以從計算機(jī)可讀存儲介質(zhì)讀取該計算機(jī)指令，處理器執(zhí)行該計算機(jī)指令，使得該計算機(jī)設(shè)備執(zhí)行前面的方法。

20、本發(fā)明與現(xiàn)有技術(shù)相比，其有益效果在于：本發(fā)明通過將問題和知識概念轉(zhuǎn)化為向量形式，以更精確地捕捉學(xué)習(xí)過程中的信息。利用注意力機(jī)制，計算知識概念在學(xué)生回答問題時的權(quán)重，特別關(guān)注與當(dāng)前問題緊密相關(guān)的知識概念。隨后，依據(jù)遺忘曲線原理，評估與當(dāng)前問題相關(guān)的知識概念的遺忘率和時間間隔，并據(jù)此更新學(xué)生的知識狀態(tài)矩陣，以模擬知識遺忘的動態(tài)過程。進(jìn)一步地，結(jié)合學(xué)生的知識狀態(tài)、猜測系數(shù)和問題難度，采用項目反應(yīng)理論三參數(shù)模型預(yù)測學(xué)生正確回答問題的概率，將學(xué)生的能力參數(shù)、問題難度和猜測系數(shù)綜合考慮在內(nèi)，以提高預(yù)測的精確度。最終，根據(jù)學(xué)生的回答和問題特征，再次更新學(xué)生的知識狀態(tài)矩陣，并運用遺忘機(jī)制，以更貼近現(xiàn)實的方式模擬知識遺忘過程，從而提升模型的現(xiàn)實適應(yīng)性。

21、在實驗驗證中，本發(fā)明采用四個真實數(shù)據(jù)集對kvfkt模型進(jìn)行了測試。實驗結(jié)果表明，kvfkt模型在追蹤學(xué)生知識狀態(tài)方面表現(xiàn)更佳，并且在性能上超越了當(dāng)前最先進(jìn)的模型。例如，在assistments2012數(shù)據(jù)集上，kvfkt模型的auc(area?under?the?curve，曲線下面積)值相較于saint(separated?self-attentive?neural?knowledge?tracing，分離的自注意力神經(jīng)知識追蹤模型)模型提升了9.5％。

22、本發(fā)明有效解決了知識追蹤領(lǐng)域中學(xué)生能力動態(tài)變化難以捕捉的難題，顯著提升了答題結(jié)果預(yù)測的準(zhǔn)確性和可靠性。

技術(shù)特征：

1.一種基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法，其特征在于，包括步驟：

2.根據(jù)權(quán)利要求1所述的基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法，其特征在于，依據(jù)所述問題和所述知識概念進(jìn)行嵌入向量檢索，得到問題嵌入向量和知識概念嵌入向量，具體包括：

3.根據(jù)權(quán)利要求2所述的基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法，其特征在于，利用注意力機(jī)制，根據(jù)所述問題嵌入向量在鍵值存儲矩陣中進(jìn)行查詢，得到所述對應(yīng)所述問題的知識概念的權(quán)重，具體包括：

4.根據(jù)權(quán)利要求2所述的基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法，其特征在于，利用遺忘曲線，根據(jù)所述知識概念嵌入向量和時間向量進(jìn)行計算，得到對應(yīng)所述知識概念的間隔時間和遺忘率，并利用所述間隔時間和遺忘率更新預(yù)構(gòu)建的特定學(xué)生的知識狀態(tài)矩陣，具體包括：

5.根據(jù)權(quán)利要求2所述的基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法，其特征在于，依據(jù)更新后的所述特定學(xué)生的知識狀態(tài)矩陣、對應(yīng)所述問題的知識概念的權(quán)重和預(yù)構(gòu)建的項目反應(yīng)理論三參數(shù)模型進(jìn)行計算，得到特定學(xué)生的對應(yīng)于特定問題的預(yù)測結(jié)果，具體包括：

6.根據(jù)權(quán)利要求5所述的基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法，其特征在于，猜測系數(shù)ga根據(jù)以下步驟計算得到：

7.根據(jù)權(quán)利要求4所述的基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法，其特征在于，依據(jù)特定問題和問題回答情況、特定學(xué)生的知識狀態(tài)矩陣和對應(yīng)所述問題的知識概念的權(quán)重進(jìn)一步更新特定學(xué)生的知識狀態(tài)矩陣，具體包括：

8.一種基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤裝置，其特征在于，包括：

9.一種電子設(shè)備，其特征在于，所述電子設(shè)備包括處理器和存儲器，所述存儲器中存儲有至少一條指令、至少一段程序、代碼集或指令集，所述至少一條指令、所述至少一段程序、所述代碼集或指令集由所述處理器加載并執(zhí)行，以實現(xiàn)如權(quán)利要求1至7任一所述的基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法。

10.一種計算機(jī)可讀存儲介質(zhì)，其特征在于，所述存儲介質(zhì)中存儲有至少一條指令、至少一段程序、代碼集或指令集，所述至少一條指令、所述至少一段程序、所述代碼集或指令集由處理器加載并執(zhí)行以實現(xiàn)如權(quán)利要求1至7任一所述的基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法。

技術(shù)總結(jié)
本發(fā)明公開了一種基于注意力機(jī)制嵌入和遺忘曲線集成的知識追蹤方法及裝置，涉及深度學(xué)習(xí)與智慧教育結(jié)合的技術(shù)，該方法包括獲取問題及其知識概念，檢索問題和知識概念的嵌入向量，使用注意力機(jī)制計算知識概念權(quán)重，利用遺忘曲線計算知識概念的間隔時間和遺忘率，并更新學(xué)生知識狀態(tài)矩陣。通過特定學(xué)生的知識狀態(tài)矩陣、問題嵌入向量、知識概念權(quán)重和項目反應(yīng)理論模型計算預(yù)測結(jié)果，并根據(jù)問題回答情況進(jìn)一步更新知識狀態(tài)矩陣。本發(fā)明的目的是提升知識追蹤模型的預(yù)測準(zhǔn)確性和可解釋性。

技術(shù)研發(fā)人員：方良達(dá),官全龍,朱永權(quán),段修亮,邊凱泉,周玉宇,羅偉其
受保護(hù)的技術(shù)使用者：人工智能與數(shù)字經(jīng)濟(jì)廣東省實驗室（廣州）
技術(shù)研發(fā)日：
技術(shù)公布日：2025/5/15