專利名稱：一種基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法
技術(shù)領(lǐng)域：
本發(fā)明屬于人工智能與神經(jīng)網(wǎng)絡(luò)領(lǐng)域，涉及一種基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶， 特別涉及一種利用遲滯非線性的記憶特性實現(xiàn)聯(lián)想記憶的方法。
背景技術(shù)：
聯(lián)想記憶一直是人工智能與神經(jīng)網(wǎng)絡(luò)領(lǐng)域的重要研究內(nèi)容。在圖像處理、目標(biāo)識 別、模式識別等系統(tǒng)中有著重要的應(yīng)用價值。基于HelA規(guī)則的Hopfield神經(jīng)網(wǎng)絡(luò)是求解 聯(lián)想記憶問題的主要網(wǎng)絡(luò)。由于Hopfield神經(jīng)網(wǎng)絡(luò)采用梯度尋優(yōu)，容易陷入局部極小，全 局尋優(yōu)能力不強(qiáng)，聯(lián)想結(jié)果經(jīng)常出現(xiàn)偽模式而導(dǎo)致聯(lián)想失敗，從而使得聯(lián)想成功率不高。在Hopfield網(wǎng)絡(luò)的基礎(chǔ)上，通過引入自反饋連接可構(gòu)造暫態(tài)混沌神經(jīng)網(wǎng)絡(luò)，并可 用于求解聯(lián)想記憶問題。該網(wǎng)絡(luò)在工作初期處于混沌狀態(tài)，增強(qiáng)了遍歷尋優(yōu)能力，故該網(wǎng)絡(luò) 的全局尋優(yōu)性能優(yōu)于Hopfield神經(jīng)網(wǎng)絡(luò)，其聯(lián)想成功率可得到一定的改善。但該網(wǎng)絡(luò)在工 作后期會蛻變?yōu)槠胀ǖ腍opfield網(wǎng)絡(luò)，聯(lián)想記憶機(jī)制的本質(zhì)未發(fā)生變化，因此聯(lián)想成功率 提高的效果有限。因此，從結(jié)構(gòu)上改變網(wǎng)絡(luò)的性能，提高網(wǎng)絡(luò)自身的記憶能力，從而設(shè)計一種新型的 聯(lián)想記憶網(wǎng)絡(luò)具有重要的應(yīng)用價值。

發(fā)明內(nèi)容
本發(fā)明所要解決的技術(shù)問題是，設(shè)計一種基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法，能 夠?qū)崿F(xiàn)高成功率的聯(lián)想記憶。本發(fā)明所采用的技術(shù)方案是一種基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法，以 Hopfield神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)，利用遲滯激勵函數(shù)代替?zhèn)鹘y(tǒng)激勵函數(shù)，構(gòu)造具有遲滯特性的神 經(jīng)網(wǎng)絡(luò)模型。由于遲滯特性具有一定的記憶特性，可使網(wǎng)絡(luò)在聯(lián)想記憶過程中減少神經(jīng)元 狀態(tài)錯誤改變的概率，從而提高網(wǎng)絡(luò)的聯(lián)想成功率。本發(fā)明的目的在于提出一種基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法，通過在神經(jīng)網(wǎng)絡(luò) 中引入遲滯激勵函數(shù)的方法構(gòu)造遲滯神經(jīng)網(wǎng)絡(luò)，利用網(wǎng)絡(luò)的遲滯記憶特性提高網(wǎng)絡(luò)的存儲 記憶能力，提高網(wǎng)絡(luò)的聯(lián)想成功率。
具體實施例方式下面結(jié)合實施例對本發(fā)明作進(jìn)一步詳細(xì)說明。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)采用基于HelA學(xué)習(xí)規(guī)則的Hopfield網(wǎng)絡(luò)實現(xiàn)二值模式的聯(lián)想記 憶功能。該模型可表述為v,(/-M) = /(M,(/)) ^ , ,、Λ(1)
-1. U1(I) < O
U
(I) = YiWiiVj(I)(2)
其中Vi(t)表示第i個神經(jīng)元t時刻的輸出狀態(tài)，Ui (t)表示第i個神經(jīng)元t時刻 的內(nèi)部輸入狀態(tài)，Wij為第i個神經(jīng)元與第j個神經(jīng)元之間的連接權(quán)值。設(shè)網(wǎng)絡(luò)有M個存儲
模式 Xi = [X11, X2
，Xn1], 1 = 1,2, ... ,M0按照HelDb學(xué)習(xí)規(guī)則設(shè)計網(wǎng)絡(luò)權(quán)值為
權(quán)利要求
1.一種基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法，其特征在于在Hopfield神經(jīng)網(wǎng)絡(luò)模型的 基礎(chǔ)上，通過將傳統(tǒng)激勵函數(shù)改為遲滯激勵函數(shù)的方法將遲滯特性引入到神經(jīng)網(wǎng)絡(luò)中，構(gòu) 造出遲滯特性神經(jīng)網(wǎng)絡(luò)。
2.根據(jù)權(quán)利要求1所述的基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法，其特征在于，遲滯激勵 函數(shù)具有兩個遲滯參數(shù)，通過調(diào)節(jié)遲滯特性參數(shù)可改變網(wǎng)絡(luò)的遲滯特性。
3.根據(jù)權(quán)利要求1所述的基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法，其特征在于，根據(jù)存儲 模式的數(shù)據(jù)類型，遲滯激勵函數(shù)可選為單極性函數(shù)或雙極性的激勵函數(shù)。
4.根據(jù)權(quán)利要求1所述的基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法，其特征在于，利用遲滯 特性對神經(jīng)元原狀態(tài)的保持特性，可減少神經(jīng)元狀態(tài)錯誤反轉(zhuǎn)率，從而提高網(wǎng)絡(luò)的聯(lián)想成 功率。
全文摘要
本發(fā)明屬于人工智能與神經(jīng)網(wǎng)絡(luò)領(lǐng)域，具體為一種基于遲滯神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶方法。通過將Hopfield神經(jīng)網(wǎng)絡(luò)中的激勵函數(shù)改為遲滯激勵函數(shù)的方法在神經(jīng)網(wǎng)絡(luò)中引入遲滯特性，從而構(gòu)造出遲滯神經(jīng)網(wǎng)絡(luò)。遲滯特性可通過調(diào)節(jié)激勵函數(shù)的遲滯參數(shù)進(jìn)行控制。利用遲滯特性對神經(jīng)元原狀態(tài)的保持特性減少神經(jīng)元在聯(lián)想過程中狀態(tài)的錯誤反轉(zhuǎn)率，從而提高神經(jīng)網(wǎng)絡(luò)聯(lián)想記憶成功率。本發(fā)明主要用于基于聯(lián)想記憶的模式識別領(lǐng)域中。
文檔編號G06N3/02GK102073908SQ20101057371
公開日2011年5月25日 申請日期2010年12月3日 優(yōu)先權(quán)日2010年12月3日
發(fā)明者修春波 申請人:天津工業(yè)大學(xué)