背景技術(shù):
1、應(yīng)用和云服務(wù)提供方一般實(shí)現(xiàn)企業(yè)級(jí)數(shù)據(jù)系統(tǒng)來(lái)收集和存儲(chǔ)從持續(xù)運(yùn)營(yíng)、研究、數(shù)據(jù)挖掘或其他數(shù)據(jù)源中生成的大量數(shù)據(jù)。為了適應(yīng)從這些來(lái)源收集的不斷增加的數(shù)據(jù)量,企業(yè)級(jí)數(shù)據(jù)系統(tǒng)被構(gòu)建為具有不斷增加的存儲(chǔ)容量以容納源源不斷的輸入數(shù)據(jù)。盡管數(shù)據(jù)系統(tǒng)架構(gòu)師能夠隨著更大的數(shù)據(jù)量擴(kuò)展存儲(chǔ)容量,但可用于各種應(yīng)用訪問(wèn)和分析存儲(chǔ)數(shù)據(jù)的低時(shí)延工作存儲(chǔ)器還沒(méi)有以相稱的方式擴(kuò)展。當(dāng)工作存儲(chǔ)器中不存在由應(yīng)用請(qǐng)求的數(shù)據(jù)時(shí),數(shù)據(jù)系統(tǒng)將從存儲(chǔ)裝置中取出所請(qǐng)求的數(shù)據(jù),從工作存儲(chǔ)器中驅(qū)逐其他數(shù)據(jù)以為取出的數(shù)據(jù)騰出空間,并且將所請(qǐng)求的數(shù)據(jù)放入工作存儲(chǔ)器中由應(yīng)用使用。由于存儲(chǔ)裝置的較高時(shí)延和放置數(shù)據(jù)的操作所消耗的時(shí)間,需要大量工作存儲(chǔ)器的復(fù)雜應(yīng)用(例如,人工智能或深度學(xué)習(xí)系統(tǒng))的性能經(jīng)常由于與常規(guī)工作存儲(chǔ)器相關(guān)聯(lián)的有限容量和低效數(shù)據(jù)獲取方案而受到損害。
技術(shù)實(shí)現(xiàn)思路
1、提供本
技術(shù)實(shí)現(xiàn)要素:
以介紹將在具體實(shí)施方式和附圖中進(jìn)一步描述的主題。因此,本發(fā)明內(nèi)容不應(yīng)被認(rèn)為描述了必要的特征,也不應(yīng)被用來(lái)限制所要求保護(hù)的主題的范圍。
2、在一些方面,一種用于自適應(yīng)高速緩存管理的方法包括:從主機(jī)系統(tǒng)并且經(jīng)由計(jì)算快速鏈接(cxltm)接口接收用于訪問(wèn)存儲(chǔ)介質(zhì)系統(tǒng)的高速緩存存儲(chǔ)器的數(shù)據(jù)的事務(wù)分組。該方法包括:確定與從主機(jī)系統(tǒng)接收到的用于訪問(wèn)高速緩存存儲(chǔ)器的事務(wù)分組相關(guān)的第一遙測(cè)信息,以及確定與關(guān)聯(lián)于事務(wù)分組的存儲(chǔ)介質(zhì)系統(tǒng)的存儲(chǔ)介質(zhì)的訪問(wèn)相關(guān)的第二遙測(cè)信息。該方法然后基于第一遙測(cè)信息和第二遙測(cè)信息確定用于高速緩存存儲(chǔ)器的高速緩存策略,并且將該高速緩存策略應(yīng)用于高速緩存存儲(chǔ)器以修改用于高速緩存存儲(chǔ)器的數(shù)據(jù)的高速緩存方案或預(yù)取方案。
3、在其他方面,一種裝置包括:高速緩存存儲(chǔ)器;cxl接口,被配置為從主機(jī)系統(tǒng)接收事務(wù)分組以訪問(wèn)高速緩存存儲(chǔ)器;存儲(chǔ)介質(zhì),被配置為存儲(chǔ)主機(jī)系統(tǒng)的數(shù)據(jù);以及存儲(chǔ)介質(zhì)控制器,被配置為使得能夠在高速緩存存儲(chǔ)器與存儲(chǔ)介質(zhì)之間傳送數(shù)據(jù)。該裝置還包括遙測(cè)單元和自適應(yīng)高速緩存管理器,遙測(cè)單元可操作地與cxl接口和存儲(chǔ)介質(zhì)控制器耦接,自適應(yīng)高速緩存管理器被配置為從遙測(cè)單元獲得與從主機(jī)系統(tǒng)接收到的用于訪問(wèn)高速緩存存儲(chǔ)器的事務(wù)分組相關(guān)的第一遙測(cè)信息以及與高速緩存存儲(chǔ)器中存在的數(shù)據(jù)和關(guān)聯(lián)于事務(wù)分組的存儲(chǔ)介質(zhì)的訪問(wèn)相關(guān)的第二遙測(cè)信息。自適應(yīng)高速緩存管理器可以基于第一遙測(cè)信息和第二遙測(cè)信息來(lái)確定用于高速緩存存儲(chǔ)器的高速緩存策略,并且將該高速緩存策略應(yīng)用于高速緩存存儲(chǔ)器以修改用于由高速緩存存儲(chǔ)器存儲(chǔ)的數(shù)據(jù)的高速緩存方案或預(yù)取方案。
4、在此外其他方面,一種片上系統(tǒng)(soc)包括:高速緩存存儲(chǔ)器cxl接口,被配置為從主機(jī)系統(tǒng)接收事務(wù)分組以訪問(wèn)高速緩存存儲(chǔ)器;以及存儲(chǔ)介質(zhì)控制器,具有存儲(chǔ)介質(zhì)接口,并且被配置為使得能夠在高速緩存存儲(chǔ)器與耦接到存儲(chǔ)介質(zhì)接口的存儲(chǔ)介質(zhì)之間傳送數(shù)據(jù)。soc還包括遙測(cè)單元和自適應(yīng)高速緩存管理器,遙測(cè)單元可操作地與高速緩存存儲(chǔ)器和存儲(chǔ)介質(zhì)控制器耦接,自適應(yīng)高速緩存管理器被配置為從遙測(cè)單元接收與從主機(jī)系統(tǒng)接收到的事務(wù)分組相關(guān)的第一遙測(cè)信息和與關(guān)聯(lián)于事務(wù)分組的存儲(chǔ)介質(zhì)的訪問(wèn)相關(guān)的第二遙測(cè)信息。自適應(yīng)高速緩存管理器可以基于第一遙測(cè)信息和第二遙測(cè)信息來(lái)確定用于高速緩存存儲(chǔ)器的高速緩存策略,并且將該高速緩存策略應(yīng)用于高速緩存存儲(chǔ)器以修改用于由高速緩存存儲(chǔ)器存儲(chǔ)的數(shù)據(jù)的高速緩存方案或預(yù)取方案。
5、在附圖和以下描述中闡述了存儲(chǔ)介質(zhì)系統(tǒng)的自適應(yīng)高速緩存管理的一個(gè)或多個(gè)方面的細(xì)節(jié)。根據(jù)說(shuō)明書(shū)和附圖以及權(quán)利要求,其他特征和優(yōu)點(diǎn)將變得顯而易見(jiàn)。
1.一種用于由存儲(chǔ)介質(zhì)系統(tǒng)實(shí)現(xiàn)的自適應(yīng)高速緩存管理的方法,包括:
2.根據(jù)權(quán)利要求1所述的方法,還包括:
3.根據(jù)權(quán)利要求1所述的方法,還包括:
4.根據(jù)權(quán)利要求3所述的方法,其中配置所述機(jī)器學(xué)習(xí)模型包括:基于所述第一遙測(cè)信息和所述第二遙測(cè)信息訓(xùn)練或重新訓(xùn)練所述機(jī)器學(xué)習(xí)模型。
5.根據(jù)權(quán)利要求4所述的方法,其中重新訓(xùn)練所述機(jī)器學(xué)習(xí)模型是響應(yīng)于以下各項(xiàng)而執(zhí)行的:
6.根據(jù)權(quán)利要求1所述的方法,還包括:
7.根據(jù)權(quán)利要求6所述的方法,其中用于所述高速緩存存儲(chǔ)器的度量包括:高速緩存命中率、高速緩存字節(jié)命中率、高速緩存未命中率、高速緩存時(shí)延或高速緩存訪問(wèn)時(shí)間。
8.根據(jù)權(quán)利要求1所述的方法,其中:
9.根據(jù)權(quán)利要求1所述的方法,其中所接收到的所述事務(wù)分組符合cxl存儲(chǔ)器協(xié)議或cxl高速緩存協(xié)議。
10.根據(jù)權(quán)利要求1所述的方法,其中所接收到的所述事務(wù)分組包括從所述高速緩存存儲(chǔ)器加載數(shù)據(jù)的加載指令或向所述高速緩存存儲(chǔ)器存儲(chǔ)數(shù)據(jù)的存儲(chǔ)指令。
11.根據(jù)權(quán)利要求1所述的方法,其中:
12.一種裝置,包括:
13.根據(jù)權(quán)利要求12所述的裝置,其中所述自適應(yīng)高速緩存管理器還被配置為:
14.根據(jù)權(quán)利要求12所述的裝置,其中所述自適應(yīng)高速緩存管理器還被配置為:
15.根據(jù)權(quán)利要求12所述的裝置,其中所述自適應(yīng)高速緩存管理器還被配置為:
16.根據(jù)權(quán)利要求15所述的裝置,其中用于所述高速緩存存儲(chǔ)器的所述度量包括:高速緩存命中率、高速緩存字節(jié)命中率、高速緩存未命中率、高速緩存時(shí)延或高速緩存訪問(wèn)時(shí)間。
17.一種片上系統(tǒng),包括:
18.根據(jù)權(quán)利要求17所述的片上系統(tǒng),其中所述自適應(yīng)高速緩存管理器還被配置為:
19.根據(jù)權(quán)利要求17所述的片上系統(tǒng),其中所述自適應(yīng)高速緩存管理器還被配置為:
20.一種裝置,包括: