本發(fā)明涉及自然語言處理與信息安全，更具體地，本發(fā)明涉及一種基于語言模型的文本識別方法。

背景技術(shù)：

1、在當(dāng)今數(shù)字化時(shí)代，隨著信息技術(shù)的飛速發(fā)展，文本數(shù)據(jù)在各種應(yīng)用程序中扮演著至關(guān)重要的角色。無論是用戶輸入的內(nèi)容、界面顯示的文本，還是網(wǎng)絡(luò)傳輸中的文本信息，都可能包含敏感或風(fēng)險(xiǎn)信息。現(xiàn)有的文本識別技術(shù)主要依賴于傳統(tǒng)的關(guān)鍵詞匹配和簡單的語義分析，這些方法雖然能夠在一定程度上識別文本中的風(fēng)險(xiǎn)，但存在諸多局限性。例如，關(guān)鍵詞匹配方法無法理解上下文語義，容易出現(xiàn)誤判；而簡單的語義分析方法在面對復(fù)雜的語句結(jié)構(gòu)和多樣的語義表達(dá)時(shí)，準(zhǔn)確性和可靠性不足。此外，現(xiàn)有的文本識別技術(shù)在風(fēng)險(xiǎn)判定后缺乏有效的防護(hù)機(jī)制，無法及時(shí)應(yīng)對高危風(fēng)險(xiǎn)，導(dǎo)致安全漏洞和潛在威脅。

2、在實(shí)現(xiàn)本發(fā)明實(shí)施例過程中，現(xiàn)有技術(shù)中至少存在如下問題或缺陷：現(xiàn)有文本識別技術(shù)對復(fù)雜語義的理解能力不足，難以準(zhǔn)確識別潛在風(fēng)險(xiǎn)；缺乏動態(tài)權(quán)重調(diào)整和多級條件分析機(jī)制，導(dǎo)致風(fēng)險(xiǎn)判定的準(zhǔn)確性和靈活性較差；在風(fēng)險(xiǎn)判定后，缺乏有效的多層防護(hù)機(jī)制，無法及時(shí)應(yīng)對高危風(fēng)險(xiǎn)，保障應(yīng)用程序的安全性。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明提供了一種基于語言模型的文本識別方法，包括：

2、s1.獲取目標(biāo)應(yīng)用程序內(nèi)的待檢測文本數(shù)據(jù)流，所述文本數(shù)據(jù)流包括用戶輸入內(nèi)容、界面顯示文本及網(wǎng)絡(luò)傳輸文本；

3、s2.對所述文本數(shù)據(jù)流進(jìn)行預(yù)處理，生成多維語義向量序列；

4、s3.采用動態(tài)權(quán)重分配模塊對多維語義向量序列進(jìn)行特征調(diào)制，生成調(diào)制特征矩陣；

5、s4.將調(diào)制特征矩陣輸入邏輯判斷引擎，執(zhí)行多級條件組合分析，生成風(fēng)險(xiǎn)概率分布；

6、s5.對風(fēng)險(xiǎn)概率分布進(jìn)行解調(diào)處理，生成可解釋性風(fēng)險(xiǎn)特征向量；

7、s6.基于風(fēng)險(xiǎn)特征向量與預(yù)設(shè)閾值集合執(zhí)行交叉驗(yàn)證，生成最終風(fēng)險(xiǎn)判定結(jié)果；

8、s7.當(dāng)判定結(jié)果為高危風(fēng)險(xiǎn)時(shí)，觸發(fā)多層防護(hù)機(jī)制，包括內(nèi)容替換、會話中斷及安全警報(bào)。

9、進(jìn)一步地，所述步驟s2具體包括：

10、s21.采用非對稱分詞算法對文本數(shù)據(jù)流進(jìn)行分詞語義解析，所述分詞算法設(shè)置動態(tài)窗口大小w，w根據(jù)語句復(fù)雜度自適應(yīng)調(diào)整；

11、s22.對分詞結(jié)果執(zhí)行上下文關(guān)聯(lián)編碼，生成維度為d的初始語義向量，d為正整數(shù)；

12、s23.通過雙向注意力機(jī)制對初始語義向量進(jìn)行空間投影，形成多維語義向量序列，為第i個(gè)語義單元的特征向量。

13、進(jìn)一步地，所述步驟s3中的特征調(diào)制滿足：

14、調(diào)制特征矩陣h的計(jì)算公式為：

15、

16、其中，為動態(tài)權(quán)重系數(shù)矩陣，為特征增強(qiáng)因子，為空間壓縮系數(shù)，v為多維語義向量序列，為v的轉(zhuǎn)置矩陣，為雙曲正切函數(shù)，為sigmoid函數(shù)，為哈達(dá)瑪積，n為語義單元總數(shù)，d為語義向量維度。

17、進(jìn)一步地，所述步驟s4中的多級條件組合分析包括：

18、s41.提取調(diào)制特征矩陣h的奇異值分解分量，計(jì)算能量分布熵e；

19、

20、其中，為第i個(gè)奇異值，s為奇異值總和，為第一熵值閾值，為第二熵值閾值，和為正實(shí)數(shù)且>；

21、s42.當(dāng)e＞時(shí)，激活第一級風(fēng)險(xiǎn)分析模塊檢測語義連貫性異常；

22、s43.當(dāng)≤e≤時(shí)，激活第二級風(fēng)險(xiǎn)分析模塊檢測敏感模式匹配；

23、s44.當(dāng)e＜時(shí)，激活第三級風(fēng)險(xiǎn)分析模塊檢測上下文邏輯矛盾。

24、進(jìn)一步地，所述步驟s5的解調(diào)處理包括：

25、解調(diào)函數(shù)為：

26、

27、其中，為解調(diào)系數(shù)矩陣，為可訓(xùn)練的解調(diào)權(quán)重矩陣，c為風(fēng)險(xiǎn)類別映射矩陣，k為風(fēng)險(xiǎn)類別總數(shù)，f為可解釋性風(fēng)險(xiǎn)特征向量，h為調(diào)制特征矩陣，softmax為歸一化函數(shù)，relu為線性整流函數(shù)。

28、進(jìn)一步地，所述步驟s6中的交叉驗(yàn)證包括：

29、s61.計(jì)算風(fēng)險(xiǎn)特征向量f與預(yù)設(shè)典型風(fēng)險(xiǎn)模式集合的余弦相似度集合；

30、其中，為第j個(gè)典型風(fēng)險(xiǎn)模式向量，m為模式總數(shù)，為第j個(gè)余弦相似度，為相似度閾值，為置信度閾值，為復(fù)合風(fēng)險(xiǎn)判定閾值，為第i類風(fēng)險(xiǎn)權(quán)重系數(shù)，n為連續(xù)判定次數(shù)；

31、s62.當(dāng)存在＞且＞時(shí)，判定為確定性風(fēng)險(xiǎn)；若該確定性風(fēng)險(xiǎn)對應(yīng)的風(fēng)險(xiǎn)等級達(dá)到預(yù)設(shè)的高危標(biāo)準(zhǔn)，則判定為高危風(fēng)險(xiǎn)；

32、s63.當(dāng)時(shí)，判定為復(fù)合性風(fēng)險(xiǎn)；若該復(fù)合性風(fēng)險(xiǎn)對應(yīng)的風(fēng)險(xiǎn)等級達(dá)到預(yù)設(shè)的高危標(biāo)準(zhǔn)，則判定為高危風(fēng)險(xiǎn)；

33、s64.當(dāng)連續(xù)n次判定結(jié)果滿足風(fēng)險(xiǎn)遞增規(guī)律時(shí)，則判定為高危風(fēng)險(xiǎn)，且觸發(fā)增強(qiáng)型防護(hù)機(jī)制。

34、進(jìn)一步地，所述步驟s7中的多層防護(hù)機(jī)制包括：

35、s71.內(nèi)容替換階段生成語義保留的替換文本，其中，為原始文本，m為安全語料庫；

36、s72.會話中斷階段生成漸進(jìn)式中斷指令序列，其中，為第i個(gè)中斷指令，t為終端步驟總數(shù)，為最終中斷指令；

37、s73.安全警報(bào)階段生成多維度警報(bào)信號，其中，為本地日志記錄，為遠(yuǎn)程服務(wù)器通知，為用戶界面警示層。

38、進(jìn)一步地，所述動態(tài)權(quán)重系數(shù)矩陣的計(jì)算方法如以下公式所示：

39、

40、其中，u為可訓(xùn)練的參數(shù)矩陣，b為偏置向量，為改進(jìn)的激活函數(shù)，v為多維語義向量序列。

41、進(jìn)一步地，所述風(fēng)險(xiǎn)類別映射矩陣c的更新方法包括：

42、

43、其中，為當(dāng)前時(shí)刻風(fēng)險(xiǎn)類別映射矩陣，為學(xué)習(xí)率，為真實(shí)風(fēng)險(xiǎn)標(biāo)注向量，為預(yù)測風(fēng)險(xiǎn)特征向量，為外積運(yùn)算，h為調(diào)制特征矩陣。

44、進(jìn)一步地，所述語義保留替換文本的生成滿足：

45、

46、其中，為平衡系數(shù)，為余弦距離，e為語義編碼函數(shù)，為編輯距離，為縮放因子，r為當(dāng)前風(fēng)險(xiǎn)等級，為sigmoid函數(shù)，t為原始文本，為替換文本。

47、根據(jù)本發(fā)明的上述實(shí)施例至少具有以下有益效果：本發(fā)明的文本識別方法可以有效提升文本數(shù)據(jù)的風(fēng)險(xiǎn)檢測能力。通過采用非對稱分詞算法和雙向注意力機(jī)制，能夠?qū)?fù)雜語義進(jìn)行精準(zhǔn)解析和特征提取，生成多維語義向量序列，從而為后續(xù)的風(fēng)險(xiǎn)分析提供更豐富的語義信息。同時(shí)，動態(tài)權(quán)重分配模塊可以根據(jù)語義單元的重要性自適應(yīng)調(diào)整權(quán)重，進(jìn)一步增強(qiáng)特征的表達(dá)能力。此外，多級條件組合分析能夠根據(jù)特征矩陣的能量分布熵，靈活激活不同級別的風(fēng)險(xiǎn)分析模塊，分別檢測語義連貫性異常、敏感模式匹配和上下文邏輯矛盾，從而實(shí)現(xiàn)對文本風(fēng)險(xiǎn)的全方位、多層次分析，提高風(fēng)險(xiǎn)檢測的準(zhǔn)確性和可靠性。

48、本發(fā)明還可以在檢測到高危風(fēng)險(xiǎn)時(shí)，通過多層防護(hù)機(jī)制及時(shí)采取有效措施。內(nèi)容替換階段可以生成語義保留的替換文本，確保在消除風(fēng)險(xiǎn)的同時(shí)保留原始文本的核心語義；會話中斷階段能夠生成漸進(jìn)式中斷指令序列，避免對用戶造成過于突兀的體驗(yàn)；安全警報(bào)階段則通過本地日志記錄、遠(yuǎn)程服務(wù)器通知和用戶界面警示，及時(shí)通知相關(guān)人員采取進(jìn)一步措施。這種多層次、多維度的防護(hù)機(jī)制不僅可以有效降低安全風(fēng)險(xiǎn)，還能保障應(yīng)用程序的正常運(yùn)行和用戶體驗(yàn)。