本發(fā)明是有關(guān)于一種存儲(chǔ)器裝置及其運(yùn)算方法。
背景技術(shù):
1、在過去幾年中,已有許多針對(duì)大規(guī)模近似最近鄰搜索(large-scale?approximatenearest?neighbor?search)的新研究和創(chuàng)新方法,包括基于分區(qū)、基于圖的索引策略或機(jī)器學(xué)習(xí)(partition?based,graph-based?indexing?strategies?or?machine?learning)。
2、索引策略(indexing?strategy)是指在數(shù)據(jù)庫或數(shù)據(jù)結(jié)構(gòu)中用于加速數(shù)據(jù)檢索和查詢的技術(shù)方法。索引是對(duì)數(shù)據(jù)進(jìn)行結(jié)構(gòu)化組織的方式,以便更快地訪問和檢索數(shù)據(jù)。索引策略包括各種技術(shù)和算法,如分區(qū)索引、b樹索引、雜湊索引等。根據(jù)數(shù)據(jù)的特點(diǎn)和使用場(chǎng)景來選擇最合適的索引結(jié)構(gòu)和算法,以提高數(shù)據(jù)檢索的效率和性能。
3、目前已知道可以利用加速器和固態(tài)硬盤(ssd)之間的計(jì)算空間,以減少大規(guī)模數(shù)據(jù)集中的存儲(chǔ)器墻(memory?wall)問題。
4、存儲(chǔ)器墻(memory?wall)是指在計(jì)算機(jī)系統(tǒng)中,處理器和存儲(chǔ)器之間的速度差異日益增大的現(xiàn)象。隨著處理器性能的不斷提升,處理器能夠執(zhí)行的指令數(shù)量和速度遠(yuǎn)遠(yuǎn)超過了存儲(chǔ)器能夠提供數(shù)據(jù)的速度。因此,處理器在等待從存儲(chǔ)器中檢索數(shù)據(jù)時(shí)會(huì)出現(xiàn)停滯,導(dǎo)致整體性能受限,就像碰到了一道“墻”一樣。這種情況尤其在處理大規(guī)模數(shù)據(jù)集時(shí)更為顯著,因?yàn)閿?shù)據(jù)量較大時(shí),存儲(chǔ)器速度的限制會(huì)更加明顯。為了解決存儲(chǔ)器墻問題,需要采取各種方法,如增加緩存存儲(chǔ)器(buffer)、優(yōu)化算法、利用更高效的儲(chǔ)存技術(shù)等。
5、乘累加運(yùn)算(multiply?accumulate,mac)是一種基本的數(shù)學(xué)運(yùn)算,指的是將兩個(gè)數(shù)相乘然后將結(jié)果與另一個(gè)數(shù)相加。在數(shù)字信號(hào)處理、神經(jīng)網(wǎng)路和矩陣乘法等領(lǐng)域中,mac是普遍常見運(yùn)算。在神經(jīng)網(wǎng)路中,mac操作通常用于計(jì)算神經(jīng)元的輸出。神經(jīng)網(wǎng)路的mac操作中,權(quán)重與輸入相乘,然后將結(jié)果累加以產(chǎn)生最終輸出。
6、故而,如何能夠利用存儲(chǔ)器裝置來高效率且低耗能的進(jìn)行如神經(jīng)網(wǎng)路的mac操作等運(yùn)算,對(duì)于業(yè)界是重要努力方向。
技術(shù)實(shí)現(xiàn)思路
1、根據(jù)本發(fā)明的一方面,提出一種存儲(chǔ)器裝置的運(yùn)算方法,包括:儲(chǔ)存多個(gè)權(quán)重?cái)?shù)據(jù)于該存儲(chǔ)器裝置的多個(gè)第一存儲(chǔ)器單元;從多條第一串選擇線輸入多個(gè)輸入數(shù)據(jù);根據(jù)這些權(quán)重?cái)?shù)據(jù)與這些輸入數(shù)據(jù),這些第一存儲(chǔ)器單元產(chǎn)生多個(gè)存儲(chǔ)器單元電流;這些存儲(chǔ)器單元電流加總于耦接至這些第一串選擇線的多條位線以得到多個(gè)加總電流;將這些加總電流轉(zhuǎn)換成多個(gè)模數(shù)轉(zhuǎn)換結(jié)果;以及乘累加這些模數(shù)轉(zhuǎn)換結(jié)果,以得到一運(yùn)算結(jié)果。
2、根據(jù)本發(fā)明的一方面,提出一種存儲(chǔ)器裝置,包括:多個(gè)第一存儲(chǔ)器單元,儲(chǔ)存多個(gè)權(quán)重?cái)?shù)據(jù);多條第一串選擇線,耦接至這些第一存儲(chǔ)器單元;多條位線,耦接至這些第一串選擇線;多個(gè)轉(zhuǎn)換器,耦接至這些位線;以及一乘累加器,耦接至這些轉(zhuǎn)換器。從這些串第一選擇線輸入多個(gè)輸入數(shù)據(jù)。根據(jù)這些權(quán)重?cái)?shù)據(jù)與這些輸入數(shù)據(jù),這些第一存儲(chǔ)器單元產(chǎn)生多個(gè)存儲(chǔ)器單元電流。這些存儲(chǔ)器單元電流加總于這些位線以得到多個(gè)加總電流。這些轉(zhuǎn)換器將這些加總電流轉(zhuǎn)換成多個(gè)模數(shù)轉(zhuǎn)換結(jié)果。該乘累加器乘累加這些模數(shù)轉(zhuǎn)換結(jié)果,以得到一運(yùn)算結(jié)果。
3、為了對(duì)本發(fā)明的上述及其他方面有更佳的了解,下文特舉實(shí)施例,并配合所附圖式詳細(xì)說明如下:
1.一種存儲(chǔ)器裝置的運(yùn)算方法,包括:
2.根據(jù)權(quán)利要求1所述的存儲(chǔ)器裝置的運(yùn)算方法,還包括:
3.根據(jù)權(quán)利要求1所述的存儲(chǔ)器裝置的運(yùn)算方法,其中,
4.根據(jù)權(quán)利要求1所述的存儲(chǔ)器裝置的運(yùn)算方法,其中,
5.根據(jù)權(quán)利要求1所述的存儲(chǔ)器裝置的運(yùn)算方法,其中,
6.一種存儲(chǔ)器裝置,包括:
7.根據(jù)權(quán)利要求6所述的存儲(chǔ)器裝置,其中,
8.根據(jù)權(quán)利要求6所述的存儲(chǔ)器裝置,其中,
9.根據(jù)權(quán)利要求6所述的存儲(chǔ)器裝置,其中,
10.根據(jù)權(quán)利要求6所述的存儲(chǔ)器裝置,其中,