本發(fā)明涉及一種客戶端數(shù)量控制方法及裝置。

背景技術(shù)：

目前基于C/S、B/S的應(yīng)用和解決方案非常的多，客戶端連接到服務(wù)器后，服務(wù)器為客戶端提供服務(wù)。這時我們經(jīng)常會遇到一個問題，就是當(dāng)客戶端數(shù)量越來越多，服務(wù)器的實際性能已經(jīng)不能支撐這么多客戶端時，客戶端就會出現(xiàn)各種響應(yīng)超時、操作卡頓、用戶體驗差等等問題。在眾多用戶體驗要求至上的應(yīng)用場合(如實時點播)，這是不能接受的。

因此若能在服務(wù)器數(shù)量和性能有限的情況下，動態(tài)控制和調(diào)整客戶端數(shù)量，要求在最大限度利用系統(tǒng)性能的情況下，仍然可以始終保證已接入的所有客戶端都有最佳的用戶體驗，是目前業(yè)內(nèi)的追求目標。

2011-07-27公開的，公開號為102137091A的中國發(fā)明公開了一種過負荷控制方法,本發(fā)明實施例還提供相應(yīng)的裝置、系統(tǒng)及客戶端。本發(fā)明技術(shù)方案通過接收客戶端發(fā)送的資源請求消息,判斷與該資源類型對應(yīng)的當(dāng)前最大允許請求數(shù)與當(dāng)前的累計分配資源數(shù)量的差值是否為0，若為0，則向客戶端發(fā)送分配失敗消息；若不為0,再判斷該差值是否大于等于每次最大申請數(shù),若是,則向客戶端發(fā)送攜帶資源類型和資源數(shù)量的資源分配消息,其中資源數(shù)量等于每次最大申請數(shù)；若否,則向客戶端發(fā)送攜帶資源類型和資源數(shù)量的資源分配消息,其中資源數(shù)量等于差值。該發(fā)明與其它現(xiàn)有技術(shù)一樣，都是規(guī)定接入客戶端的定值，無法根據(jù)服務(wù)器性能的實際使用情況進行調(diào)整。

技術(shù)實現(xiàn)要素：

本發(fā)明要解決的技術(shù)問題，在于提供一種服務(wù)器自動控制可負載客戶端數(shù)量的方法及裝置，在服務(wù)器數(shù)量和性能有限的情況下，可以動態(tài)控制和調(diào)整客戶端數(shù)量，在始終保證所有客戶端最佳用戶體驗的前提下，仍然能將服務(wù)器的性能資源用到極限。

本發(fā)明方法是這樣實現(xiàn)的：一種服務(wù)器自動控制可負載客戶端數(shù)量的方法，包括如下步驟：

S1、系統(tǒng)預(yù)設(shè)若干個性能監(jiān)測點，并對這些監(jiān)測點進行實時監(jiān)控；

S2、客戶端需要使用服務(wù)器提供的服務(wù)時，向服務(wù)器端發(fā)送接入請求；

S3、服務(wù)器根據(jù)客戶端請求的業(yè)務(wù)類型，粗略計算新請求需要的性能占用情況；

S4、服務(wù)器根據(jù)性能監(jiān)測數(shù)據(jù)進行判斷，如果當(dāng)前系統(tǒng)剩余性能不足以保證在接納該新客戶端后所有客戶端正常使用，則拒絕新請求的接入；否則接納該新客戶端；如果未人為限定接入客戶端數(shù)量最大值，則系統(tǒng)的性能將用到極限。

進一步地，本發(fā)明方法還包括：

S5、在確認了允許新客戶端接入后，服務(wù)器為新客戶端分配授權(quán)令牌，并將該客戶端加入到定時監(jiān)控列表中；

S6、客戶端根據(jù)獲得的授權(quán)令牌，使用服務(wù)器提供的在線服務(wù)，服務(wù)器必須判斷每次的請求是否合法。

S7、當(dāng)客戶端不再需要服務(wù)器提供服務(wù)時，主動向服務(wù)器發(fā)送退出請求；服務(wù)器從在線客戶端列表中移除該客戶端，并回收對應(yīng)的授權(quán)令牌，減少在線客戶端數(shù)量。

進一步地，所述S4中，如果判斷結(jié)果為當(dāng)前系統(tǒng)剩余性能足以保證在接納該新客戶端后所有客戶端正常使用時，還繼續(xù)判斷當(dāng)前在線客戶端數(shù)量是否已經(jīng)達到管理員預(yù)設(shè)最大值，如果沒有達到則接納該新客戶端，進行下一步，如果已經(jīng)達到，仍拒絕，并返回錯誤原因，其中，預(yù)設(shè)最大值需小于滿負載客戶端數(shù)量；且步驟S6之后還包括：

進一步地，本發(fā)明方法中，服務(wù)器定時向監(jiān)控列表中的所有客戶端發(fā)送存活檢測包，以檢測客戶端的實際在線情況，沒有響應(yīng)的客戶端將視為異常，服務(wù)器自動回收對應(yīng)的授權(quán)令牌，并相應(yīng)減少在線客戶端數(shù)量；

進一步地，所述步驟S1中的性能監(jiān)測點主要包括磁盤IO監(jiān)測點、網(wǎng)絡(luò)帶寬監(jiān)測點、內(nèi)存檢測點和CPU監(jiān)測點。

進一步地，所述S3中新請求需要的性能占用情況的計算是主要根據(jù)客戶端請求服務(wù)的類型，大致計算該請求需要占用的系統(tǒng)性能情況(包括磁盤IO占用、網(wǎng)卡帶寬占用，內(nèi)存占用，CPU占用等)，以及大致需要的服務(wù)時長。

本發(fā)明裝置是這樣實現(xiàn)的：一種服務(wù)器自動控制可負載客戶端數(shù)量的裝置，包括：

實時監(jiān)測模塊，用于對服務(wù)器預(yù)設(shè)的若干個性能監(jiān)測點進行實時監(jiān)控；

計算模塊，當(dāng)客戶端需要使用服務(wù)器提供的服務(wù)而向服務(wù)器端發(fā)送接入請求時，用于服務(wù)器根據(jù)客戶端請求的業(yè)務(wù)類型，計算新請求需要的性能占用情況；

判斷模塊，用于服務(wù)器根據(jù)性能監(jiān)測數(shù)據(jù)進行判斷，如果當(dāng)前系統(tǒng)剩余性能不足以保證在接納該新客戶端后所有客戶端正常使用，則拒絕新請求的接入；否則接納該新客戶端。

進一步的，本發(fā)明裝置還包括：

分配授權(quán)令牌模塊，在確認了允許新客戶端接入后，用于服務(wù)器為新客戶端分配授權(quán)令牌，并將該客戶端加入到定時監(jiān)控列表中；

校驗授權(quán)令牌模塊，用于客戶端根據(jù)獲得的授權(quán)令牌，向服務(wù)器發(fā)送授權(quán)令牌進行校驗，服務(wù)器判斷授權(quán)令牌是否合法，若合法，則響應(yīng)該客戶端請求，反之，則拒絕客戶端請求。

進一步的，本發(fā)明裝置還包括

移除客戶端模塊，當(dāng)客戶端不再需要服務(wù)器提供服務(wù)并主動向服務(wù)器發(fā)送退出請求時，用于服務(wù)器從在線客戶端列表中移除該客戶端，并回收對應(yīng)的授權(quán)令牌，減少在線客戶端數(shù)量。

進一步的，本發(fā)明裝置還包括：

存活檢測模塊，用于服務(wù)器定時向監(jiān)控列表中的所有客戶端發(fā)送存活檢測包，以檢測客戶端的實際在線情況，沒有響應(yīng)的客戶端將視為異常，服務(wù)器自動回收對應(yīng)的授權(quán)令牌，并相應(yīng)減少在線客戶端數(shù)量；

進一步的，本發(fā)明裝置中，所述判斷模塊在判斷結(jié)果為當(dāng)前服務(wù)器剩余性能足以保證在接納該新客戶端后所有客戶端正常使用時，還繼續(xù)判斷當(dāng)前在線客戶端數(shù)量是否已經(jīng)達到預(yù)設(shè)最大值，如果沒有達到則接納該新客戶端，如果已經(jīng)達到，仍拒絕，并返回錯誤原因，其中，預(yù)設(shè)最大值需小于滿負載客戶端數(shù)量。

進一步的，本發(fā)明裝置中，所述性能監(jiān)測點包括以下的一種或兩種以上：磁盤IO監(jiān)測點、網(wǎng)卡吞吐量監(jiān)測點、內(nèi)存檢測點或CPU監(jiān)測點。

進一步的，本發(fā)明裝置中，所述新請求需要的性能占用情況的計算是主要根據(jù)客戶端請求服務(wù)的類型，計算該請求需要占用的系統(tǒng)性能情況以及大致需要的服務(wù)時長。

本發(fā)明具有如下優(yōu)點：

1、本發(fā)明方法或裝置可實現(xiàn)對系統(tǒng)性能占用情況的實時監(jiān)控，以確定當(dāng)前服務(wù)器的剩余性能，對新請求需要的性能占用情況，確定當(dāng)前的剩余性能是否可以滿足新請求的要求，然后再確定是否接入新客戶端，從而實現(xiàn)智能且精確控制客戶端的接入數(shù)量，以在保證所有客戶端的正常用戶體驗的前提下，將服務(wù)器系統(tǒng)性能用到極致；

2、結(jié)合手動控制客戶端接入數(shù)量的方式，滿足不同業(yè)務(wù)需求；

3、對所有客戶端可進行統(tǒng)一管理，并實時監(jiān)控所有客戶端的在線狀態(tài)。

具體實施方式

本發(fā)明的出發(fā)點就是在始終保證所有客戶端最佳用戶體驗的前提下，仍然能將服務(wù)器的性能資源用到極限。為此，可先在系統(tǒng)上預(yù)設(shè)了若干個性能監(jiān)測點，并對這些性能監(jiān)測點進行實時的監(jiān)控。當(dāng)有新客戶端請求接入服務(wù)器時，服務(wù)器自動根據(jù)請求的服務(wù)類型，結(jié)合當(dāng)前系統(tǒng)的實際性能剩余情況，通用估算，判斷當(dāng)前系統(tǒng)剩余性能是否足以保證新接入客戶端和所有在線客戶端的正常使用，如果不能，則必須對新接入請求給與拒絕。對于已被允許接入的新客戶端，服務(wù)器將為其分配授權(quán)令牌。服務(wù)器只為具有合法令牌的客戶端提供服務(wù)，同時服務(wù)器將對已經(jīng)授權(quán)的所有在線客戶端進行實時狀態(tài)的監(jiān)控和統(tǒng)一管理。

本發(fā)明的服務(wù)器自動控制可負載客戶端數(shù)量的方法的一較佳實施例，具體包括如下步驟：

S1、服務(wù)器預(yù)設(shè)若干個性能監(jiān)測點，并對這些監(jiān)測點進行實時監(jiān)控；所述性能監(jiān)測點是指磁盤IO監(jiān)測點、網(wǎng)絡(luò)帶寬監(jiān)測點、內(nèi)存檢測點和CPU監(jiān)測點，通過監(jiān)測這四個監(jiān)測點，就可以對當(dāng)前服務(wù)器的性能剩余情況有一個直觀的了解。在不同的應(yīng)用場合，需要關(guān)注的性能監(jiān)測點可能不同，這個需要根據(jù)實際的應(yīng)用情況進行分析，并非每種場合這四個監(jiān)測點都要監(jiān)測。

通過上述的實時監(jiān)控操作，獲得服務(wù)器當(dāng)前剩余性能情況，為判定是否接入新客戶端做好準備。

S2、客戶端需要使用服務(wù)器提供的服務(wù)時，向服務(wù)器端發(fā)送接入請求；

S3、服務(wù)器根據(jù)客戶端請求的業(yè)務(wù)類型，粗略計算新請求需要的性能占用情況；計算是主要根據(jù)客戶端請求服務(wù)的類型、服務(wù)文件以及服務(wù)時長。例如，若服務(wù)器是點播服務(wù)器，主要關(guān)注磁盤IO剩余和網(wǎng)絡(luò)帶寬剩余這兩個性能監(jiān)測點，看是否可以滿足客戶端新請求的性能占用。

例如：當(dāng)服務(wù)器是一個點播服務(wù)器，那么我們就可以根據(jù)點播某個節(jié)目文件的請求，通過節(jié)目文件的文件大小和播放時長等數(shù)據(jù)，從而精確算出本次點播所需要的網(wǎng)絡(luò)帶寬要求，磁盤IO占用等。

S4、服務(wù)器根據(jù)性能監(jiān)測數(shù)據(jù)進行判斷，如果當(dāng)前系統(tǒng)剩余性能不足以保證在接納該新客戶端后所有客戶端正常使用，則拒絕新請求的接入。在這種情況下，未人為限定接入客戶端數(shù)量最大值，服務(wù)器的性能將用到極限。

在另一些實施例中，在步驟S4的基礎(chǔ)上，即使當(dāng)前系統(tǒng)剩余性能足以保證在接納該新客戶端后所有客戶端正常使用，仍需繼續(xù)判斷當(dāng)前在線客戶端數(shù)量是否已經(jīng)達到預(yù)設(shè)最大值，如果沒有達到則接納該新客戶端，進行下一步，如果已經(jīng)達到，仍拒絕，并返回錯誤原因，其中，預(yù)設(shè)最大值需小于滿負載客戶端數(shù)量。

所以，在實際應(yīng)用中，可以只根據(jù)服務(wù)器的剩余性能及客戶端新請求需要的性能占用情況進行判定是否接入新的客戶端，還可以進一步結(jié)合接入客戶端的預(yù)設(shè)最大值，進行綜合判定是否接入新的客戶端。

另外，允許管理員預(yù)設(shè)最大客戶端接入數(shù)量，是因為在有些情況下，用戶購買的服務(wù)器負載的客戶端數(shù)量有限；為了有效控制服務(wù)器的使用權(quán)限，需對服務(wù)器負載的最大客戶端數(shù)量進行限制，即使服務(wù)器的還有性能空間。因此可以通過手動控制方式，達到控制客戶端數(shù)量的目的。

S5、在確認了允許新客戶端接入后，服務(wù)器為新客戶端分配授權(quán)令牌，并將該客戶端加入到定時監(jiān)控列表中；

S6、客戶端根據(jù)獲得的授權(quán)令牌，使用服務(wù)器提供的在線服務(wù)，服務(wù)器必須判斷每次的請求是否合法；

通過該S5和S6兩個步驟，即可對客戶端合法性進行驗證，從而對非法客戶端起到限制作用。

S7、當(dāng)客戶端不再需要服務(wù)器提供服務(wù)時，主動向服務(wù)器發(fā)送退出請求；服務(wù)器從在線客戶端列表中移除該客戶端，并回收對應(yīng)的授權(quán)令牌，減少在線客戶端數(shù)量。

上述過程中，服務(wù)器會定時向監(jiān)控列表中的所有客戶端發(fā)送存活檢測包，以檢測客戶端的實際在線情況，沒有響應(yīng)的客戶端將視為異常，服務(wù)器自動回收對應(yīng)的授權(quán)令牌，并相應(yīng)減少在線客戶端數(shù)量；通過這種存活異常檢測機制或步驟S7的主動登出處理，可使服務(wù)器負載的客戶端數(shù)量準確，與實際情況相符，避免影響新客戶端的接入。

本發(fā)明還提供一種服務(wù)器自動控制可負載客戶端數(shù)量的裝置，其包括：

實時監(jiān)測模塊，用于對服務(wù)器預(yù)設(shè)的若干個性能監(jiān)測點進行實時監(jiān)控；所述性能監(jiān)測點包括以下的一種或兩種以上：磁盤IO監(jiān)測點、網(wǎng)卡吞吐量監(jiān)測點、內(nèi)存檢測點或CPU監(jiān)測點。

計算模塊，當(dāng)客戶端需要使用服務(wù)器提供的服務(wù)而向服務(wù)器端發(fā)送接入請求時，用于服務(wù)器根據(jù)客戶端請求的業(yè)務(wù)類型，計算新請求需要的性能占用情況；該計算是主要根據(jù)客戶端請求服務(wù)的類型，計算該請求需要占用的系統(tǒng)性能情況以及大致需要的服務(wù)時長。

判斷模塊，用于服務(wù)器根據(jù)性能監(jiān)測數(shù)據(jù)進行判斷，如果當(dāng)前系統(tǒng)剩余性能不足以保證在接納該新客戶端后所有客戶端正常使用，則拒絕新請求的接入；否則接納該新客戶端。所述判斷模塊在判斷結(jié)果為當(dāng)前服務(wù)器剩余性能足以保證在接納該新客戶端后所有客戶端正常使用時，還繼續(xù)判斷當(dāng)前在線客戶端數(shù)量是否已經(jīng)達到預(yù)設(shè)最大值，如果沒有達到則接納該新客戶端，如果已經(jīng)達到，仍拒絕，并返回錯誤原因，其中，預(yù)設(shè)最大值需小于滿負載客戶端數(shù)量。

分配授權(quán)令牌模塊，在確認了允許新客戶端接入后，用于服務(wù)器為新客戶端分配授權(quán)令牌，并將該客戶端加入到定時監(jiān)控列表中；

校驗授權(quán)令牌模塊，用于客戶端根據(jù)獲得的授權(quán)令牌，向服務(wù)器發(fā)送授權(quán)令牌進行校驗，服務(wù)器判斷授權(quán)令牌是否合法，若合法，則響應(yīng)該客戶端請求，反之，則拒絕客戶端請求。

移除客戶端模塊，當(dāng)客戶端不再需要服務(wù)器提供服務(wù)并主動向服務(wù)器發(fā)送退出請求時，用于服務(wù)器從在線客戶端列表中移除該客戶端，并回收對應(yīng)的授權(quán)令牌，減少在線客戶端數(shù)量。

存活檢測模塊，用于服務(wù)器定時向監(jiān)控列表中的所有客戶端發(fā)送存活檢測包，以檢測客戶端的實際在線情況，沒有響應(yīng)的客戶端將視為異常，服務(wù)器自動回收對應(yīng)的授權(quán)令牌，并相應(yīng)減少在線客戶端數(shù)量。

雖然以上描述了本發(fā)明的具體實施方式，但是熟悉本技術(shù)領(lǐng)域的技術(shù)人員應(yīng)當(dāng)理解，我們所描述的具體的實施例只是說明性的，而不是用于對本發(fā)明的范圍的限定，熟悉本領(lǐng)域的技術(shù)人員在依照本發(fā)明的精神所作的等效的修飾以及變化，都應(yīng)當(dāng)涵蓋在本發(fā)明的權(quán)利要求所保護的范圍內(nèi)。