《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 通信與網(wǎng)絡(luò) > 業(yè)界動(dòng)態(tài) > 網(wǎng)格環(huán)境中單一資源管理技術(shù)研究

網(wǎng)格環(huán)境中單一資源管理技術(shù)研究

2008-07-16
作者:顏洪梅1,戰(zhàn)守義1,楊方廷2

  摘 要: 提出一種單一虛擬資源模型,實(shí)現(xiàn)對不同資源管理" title="資源管理">資源管理協(xié)議的統(tǒng)一管理。
  關(guān)鍵詞: 網(wǎng)格計(jì)算" title="網(wǎng)格計(jì)算">網(wǎng)格計(jì)算 網(wǎng)格資源 資源模型 資源分配


  計(jì)算網(wǎng)格技術(shù)是二十世紀(jì)末興起的一種重要的并行分布式計(jì)算技術(shù),被稱為繼Internet之后又一次網(wǎng)絡(luò)技術(shù)革命,網(wǎng)格被視為二十一世紀(jì)的新型網(wǎng)絡(luò)基礎(chǔ)架構(gòu)。目前網(wǎng)格技術(shù)正處于發(fā)展階段,還有許多技術(shù)難題需要解決。但經(jīng)過多年的研究,網(wǎng)格技術(shù)在網(wǎng)格體系結(jié)構(gòu)、網(wǎng)格高層服務(wù)、網(wǎng)格基本編程工具包等方面取得了成就,已經(jīng)具備技術(shù)應(yīng)用條件。其中網(wǎng)格資源管理是網(wǎng)格計(jì)算中的關(guān)鍵技術(shù)之一。資源管理的關(guān)鍵是把網(wǎng)格中分散的各種資源管理起來,并為申請資源的用戶合理有效地分配資源。由于網(wǎng)格中的資源具有廣域分布、異構(gòu)和動(dòng)態(tài)的特性,使得網(wǎng)格資源管理變得很復(fù)雜。大量的網(wǎng)格項(xiàng)目試圖提供一種合適的資源管理模型,但到目前為止還沒有一種網(wǎng)格資源管理模型能夠處理所有的網(wǎng)格應(yīng)用需求。
  由于網(wǎng)格資源管理中主要是對網(wǎng)格資源進(jìn)行有效的描述、組織和管理,使系統(tǒng)可以高效地為計(jì)算任務(wù)尋找合適的資源,所以網(wǎng)格資源模型的設(shè)計(jì)決定了資源管理體系思想。當(dāng)前網(wǎng)格計(jì)算環(huán)境中所使用的資源模型主要有簡單資源池模型和以Globus為代表的分層資源模型二種。
  本文提出單一虛擬資源模型設(shè)計(jì)思想" title="設(shè)計(jì)思想">設(shè)計(jì)思想,并在該資源模型基礎(chǔ)上構(gòu)建了優(yōu)化的資源管理系統(tǒng)。該系統(tǒng)具有網(wǎng)格資源狀態(tài)動(dòng)態(tài)監(jiān)控、查詢、組織和管理功能,同時(shí)在地震減災(zāi)仿真網(wǎng)格項(xiàng)目中運(yùn)用該資源模型設(shè)計(jì)思想和優(yōu)化的資源管理系統(tǒng)實(shí)現(xiàn)了地震應(yīng)用領(lǐng)域的高性能計(jì)算、視景仿真、虛擬會(huì)商等功能。
1 資源模型
  網(wǎng)格資源指所有能夠通過網(wǎng)格遠(yuǎn)程使用的實(shí)體,包括計(jì)算機(jī)軟件、計(jì)算機(jī)硬件、設(shè)備和儀器等。計(jì)算機(jī)軟件資源包括系統(tǒng)軟件、應(yīng)用程序、數(shù)據(jù)等;計(jì)算機(jī)硬件資源包括處理器、存儲(chǔ)器、硬盤以及其他計(jì)算機(jī)設(shè)備;設(shè)備和儀器包括通信介質(zhì)、天文望遠(yuǎn)鏡、顯微鏡、傳感器等。
  目前,網(wǎng)格資源管理模型主要分為分層模型和簡單資源池模型。采用較多的是分層模型。其中網(wǎng)格技術(shù)標(biāo)準(zhǔn)的主要參與者、在網(wǎng)格協(xié)議制定上有重要發(fā)言權(quán)的Globus項(xiàng)目組就采用了分層模型。IBM、Microsoft、Sun、Compaq、SGI、NEC等眾多公司都宣布支持Globus Toolkit,大部分網(wǎng)格應(yīng)用系統(tǒng)都是建立在Globus Toolkit工具包之上。因此Globus所采用的分層模型代表了網(wǎng)格資源管理的發(fā)展趨勢。
  1999年,Globus項(xiàng)目組推出了第一版Globus Toolkit;2002年2月,IBM與Globus聯(lián)合發(fā)布開放網(wǎng)格服務(wù)架構(gòu)OGSA(Open Grid Services Architecture),把Globus標(biāo)準(zhǔn)與商用的Web Services標(biāo)準(zhǔn)結(jié)合,讓網(wǎng)格能夠支持Web Services;2004年1月,Globus提出Globus Toolkit 4,它是基于WSRF規(guī)范的版本,旨在完成從現(xiàn)在的Globus到一個(gè)基于網(wǎng)格及Web服務(wù)概念和技術(shù)的網(wǎng)格系統(tǒng)" title="網(wǎng)格系統(tǒng)">網(wǎng)格系統(tǒng)的轉(zhuǎn)變。從Globus Toolkit2資源信息管理MDS2到Globus Toolkit 4的MDS4,均采用了分層模型。但由于MDS2和MDS4采用了不同的管理協(xié)議和模式,在具體實(shí)際運(yùn)用中存在很大差異。所以如何將MDS2、MDS3、MDS4統(tǒng)一管理,為用戶提供統(tǒng)一的資源管理模式,是一個(gè)非常重要和迫切需要解決的問題。
2 單一虛擬網(wǎng)格資源模型
2.1 模型的提出
  本文提出的單一虛擬網(wǎng)格資源模型,用以實(shí)現(xiàn)對不同資源管理協(xié)議的統(tǒng)一管理。在由地震局和航天科工集團(tuán)航天二院聯(lián)合開發(fā)的應(yīng)用項(xiàng)目(地震減災(zāi)仿真科學(xué)計(jì)算網(wǎng)格系統(tǒng))中運(yùn)用了該資源模型,以實(shí)現(xiàn)地震應(yīng)用科學(xué)計(jì)算。單一虛擬網(wǎng)格資源模型設(shè)計(jì)思想是將虛擬組織中的網(wǎng)格資源抽象為單一虛擬資源樹模型,通過對資源樹的管理,實(shí)現(xiàn)網(wǎng)格資源的管理。
  具體實(shí)施方法是:在網(wǎng)格資源管理設(shè)計(jì)中采用協(xié)議自動(dòng)識(shí)別器識(shí)別出網(wǎng)格資源管理協(xié)議,然后通過協(xié)議解釋器將不同的網(wǎng)格資源管理協(xié)議翻譯為資源樹統(tǒng)一模型,即統(tǒng)一的協(xié)議,從而解決了由于在異構(gòu)的網(wǎng)格環(huán)境下網(wǎng)格資源管理協(xié)議不統(tǒng)一而造成的資源管理混亂的問題。本文重點(diǎn)設(shè)計(jì)了Globus Toolkit的MDS2、MDS3、 MDS4三種資源管理協(xié)議的協(xié)議解釋器和協(xié)議自動(dòng)識(shí)別器。單一虛擬網(wǎng)格資源管理系統(tǒng)模型框架如圖1所示。


  單一虛擬網(wǎng)格資源管理系統(tǒng)模型通過協(xié)議自動(dòng)識(shí)別器和協(xié)議解釋器動(dòng)態(tài)地提供所有虛擬組織中網(wǎng)格節(jié)點(diǎn)上可見的資源信息。任務(wù)的資源申請通過資源分配" title="資源分配">資源分配器獲得資源信息,然后將資源合理地分配給任務(wù),從而優(yōu)化系統(tǒng)性能。網(wǎng)格資源管理系統(tǒng)如圖2所示。


2.2 資源模型
  在單一虛擬網(wǎng)格資源管理模型中,本文參考了有關(guān)資源模型并運(yùn)用了資源樹的表示方式。使用樹結(jié)構(gòu)來表示整個(gè)網(wǎng)格環(huán)境中的網(wǎng)格資源。資源樹中的節(jié)點(diǎn)稱為資源節(jié)點(diǎn),某資源節(jié)點(diǎn)連同其所有后繼節(jié)點(diǎn)的集合稱為以該節(jié)點(diǎn)為根的資源子樹。一棵資源樹的結(jié)構(gòu)如圖3所示。


  資源樹只是一個(gè)邏輯結(jié)構(gòu),它并不反映各資源節(jié)點(diǎn)之間網(wǎng)絡(luò)連接的真實(shí)拓?fù)?。例如,圖3中各子節(jié)點(diǎn)與父節(jié)點(diǎn)之間的關(guān)系并不表示它們之間的網(wǎng)絡(luò)連通關(guān)系,而只是一種邏輯上的聯(lián)系。這種邏輯關(guān)系可參照資源節(jié)點(diǎn)之間客戶/服務(wù)的關(guān)系確定。在一個(gè)虛擬子網(wǎng)絡(luò)環(huán)境中,作為虛擬子網(wǎng)的服務(wù)器是資源子樹的根節(jié)點(diǎn),如果有多個(gè)服務(wù)器,則可設(shè)定多個(gè)資源子樹,客戶機(jī)作為資源子樹的葉子節(jié)點(diǎn),而此虛擬子網(wǎng)邏輯上又是上一層更大子網(wǎng)的子節(jié)點(diǎn)。這種聯(lián)系在進(jìn)行資源查找、資源管理和資源調(diào)度時(shí)起到很好的作用。
  在資源樹中的非葉子節(jié)點(diǎn)只負(fù)責(zé)對以它為根的資源子樹進(jìn)行管理,并為其上層節(jié)點(diǎn)提供該子樹的信息,每個(gè)資源節(jié)點(diǎn)實(shí)時(shí)存儲(chǔ)資源狀況屬性。
2.3 協(xié)議識(shí)別器
  協(xié)議識(shí)別器作為單一資源管理系統(tǒng)模型的重要組成部分,其作用是根據(jù)不同的網(wǎng)格資源管理協(xié)議規(guī)范識(shí)別虛擬網(wǎng)絡(luò)環(huán)境中所采用的資源管理協(xié)議,并將識(shí)別結(jié)果傳送給協(xié)議解釋器。本研究實(shí)現(xiàn)了對MDS2、MDS3、MDS4的識(shí)別功能。本設(shè)計(jì)中運(yùn)用協(xié)議規(guī)范庫記錄可以識(shí)別的資源管理協(xié)議。隨著系統(tǒng)的不斷完善,系統(tǒng)將支持更多的資源管理協(xié)議,協(xié)議規(guī)范庫將同步保持最新的協(xié)議信息。
2.4 協(xié)議解釋器
  協(xié)議解釋器作為單一資源模型系統(tǒng)中的另一個(gè)重要組成部分,其作用非常大。它根據(jù)協(xié)議識(shí)別器返回的結(jié)果,將不同的資源管理協(xié)議中資源模型轉(zhuǎn)換為單一虛擬網(wǎng)格資源模型定義規(guī)范,即資源樹模型。
  (1)MDS2采用基于輕量目錄訪問協(xié)議LDAP(Lightweight Directory Access Protocol)結(jié)構(gòu)。協(xié)議解釋器需要獲得在LDAP服務(wù)器上所有資源的目錄信息樹(DIT),進(jìn)而獲得描述資源屬性的<屬性,值>的組合,并將獲得的資源信息存儲(chǔ)到資源樹中。例如,LDAP的屬性對示例如下:
  dn:cn=Sample Computer,ou=devices,dc=casic,dc=com.cn
  cn:CEDASGrid
  usage:computing
  resource:2.8GHz
  resource:512MB memory
  resource:120GB Storage
  resource:Linux OS
  (2)MDS3采用基于Grid Service規(guī)范定義。協(xié)議解釋器根據(jù)Grid Service定義獲取資源定義中的Service Data信息,并將獲得的資源信息存儲(chǔ)在資源樹中。
  Grid Service使用的基本資源模型是XML,XML構(gòu)造網(wǎng)格服務(wù)數(shù)據(jù),例如:
 ?。約ervice name=″base/index/IndexService″provider=″Handler″style=′″wrapped″>
 ?。紁arameter name=″name″ value=″Index Service″/>
 ?。紁arameter name=″schemaPath″ value=″schema/base/index/index_service.wsdl″/>
 ?。紁arameter name=″classname″ value=″org.glogus.ogsa.base.index.IndexService″/>
  <parameter name=″baseClassname″ value=″org.glogus.ogsa.impl.base.index.IndexServiceImpl″/>
  ……
 ?。紁arameter name=″serviceConfig″ value=″index-service-config.xml″/>
  </service>
  (3)MDS4采用基于Web Service規(guī)范定義。協(xié)議解釋器根據(jù)Web Service定義獲取資源定義中的Service Data信息,并將獲得的資源信息存儲(chǔ)到資源樹中。
2.5 資源分配器
  資源分配器是網(wǎng)格任務(wù)管理中的組件之一,主要負(fù)責(zé)將接收到的任務(wù)請求進(jìn)行分析,得到資源需求信息,然后將在資源樹中查找滿足條件的資源信息組進(jìn)行分配,最后返回分配結(jié)果。任務(wù)管理是網(wǎng)格中不可缺少的功能,它是保證網(wǎng)格用戶合理有序地使用網(wǎng)格資源的基礎(chǔ)。由于網(wǎng)格的特性致使網(wǎng)格任務(wù)管理比傳統(tǒng)的任務(wù)管理更加復(fù)雜,因此需要信息管理、數(shù)據(jù)管理和安全通信的支持。任務(wù)管理對用戶提交的任務(wù)進(jìn)行全程管理,最終給用戶返回任務(wù)運(yùn)行結(jié)果。
  任務(wù)請求分析是對資源描述語言(RSL)進(jìn)行分析,進(jìn)而獲得每個(gè)任務(wù)的資源需求。資源分配器在資源樹中搜索滿足需求的資源。在搜索時(shí)首先隨機(jī)選擇搜索的起始位置,然后為每個(gè)任務(wù)分別返回最先發(fā)現(xiàn)的滿足該任務(wù)需求的資源。如果任何一個(gè)資源都不滿足任務(wù)的資源需求,則向資源分配器返回空值,同時(shí)發(fā)送反饋信息,取消任務(wù)請求。設(shè)資源樹所記錄的資源數(shù)量為N,則資源分配的計(jì)算復(fù)雜度為O(N)。
  資源規(guī)范語言RSL是Globus設(shè)計(jì)的一種簡單的資源描述語言,為不同平臺(tái)的資源描述提供一種公共的描述交換語言。它提供了一種可以描述復(fù)雜資源的語法框架,RSL的基本語法是關(guān)系,通過關(guān)系把屬性和值聯(lián)系起來。例如:用RSL描述“地震震源破裂科學(xué)計(jì)算”任務(wù): (executable=/bin/chmod)
  (directory=/home/earthquake″)
  (arguments=744 runOne.sh olson xolson)
2.6 資源分配策略
  在資源分配器進(jìn)行資源分配時(shí),資源分配策略至關(guān)重要,它極大地影響資源的使用效率。由于不同的任務(wù)需求所需的分配策略不同,所以針對不同的任務(wù)要選用合適的分配策略,以使計(jì)算時(shí)間最短。資源分配管理提供分配策略的管理,實(shí)現(xiàn)動(dòng)態(tài)、靈活地選取適合某一個(gè)計(jì)算需求的分配策略,最終完成某計(jì)算。本研究綜合影響資源效率的因素,提出分配策略:(1)獲選的資源信息應(yīng)盡量接近相應(yīng)任務(wù)的資源需求,避免資源的浪費(fèi)。(2)獲選資源和任務(wù)提交節(jié)點(diǎn)間的總網(wǎng)絡(luò)延遲應(yīng)盡量小。(3)為每個(gè)用戶規(guī)定了資源占用量的上限。
  基于以上策略,設(shè)計(jì)出資源分配算法:(1)對每個(gè)任務(wù),分析資源請求信息。(2)獲取資源樹中滿足條件的資源組信息。(3)分析資源組中資源信息及資源的計(jì)算能力。(4)分析資源的網(wǎng)絡(luò)延遲時(shí)間。(5)尋求與資源需求最相近的資源綜合能力(計(jì)算能力和網(wǎng)絡(luò)能力)。
3 模型應(yīng)用
  我國是世界上地震災(zāi)害最為嚴(yán)重的國家之一,最大限度地減輕地震災(zāi)害已經(jīng)成為政府和社會(huì)的迫切愿望。目前我國的防震減災(zāi)工作中還有一些結(jié)構(gòu)性和技術(shù)性的問題亟待解決。主要問題為:(1)由于缺少海量計(jì)算能力和實(shí)時(shí)分析能力,我國的地震監(jiān)測信息和其他海量地震數(shù)據(jù)在地震預(yù)報(bào)分析、地震應(yīng)急救援中發(fā)揮的作用還未能完全體現(xiàn)出來。(2)多單位、多部門、多學(xué)科交叉合作程度和技術(shù)保障能力不足。(3)對地震現(xiàn)場的實(shí)時(shí)把握能力存在明顯不足。
  為了更好地發(fā)揮地震部門的防震減災(zāi)職能,提高應(yīng)對地震災(zāi)害的整體能力和水平,針對上述3個(gè)主要問題,有必要采用新的技術(shù)和手段實(shí)現(xiàn)技術(shù)上的跨越式發(fā)展。而網(wǎng)格技術(shù)的出現(xiàn)為解決上述問題提供了極好的機(jī)會(huì)和條件。
  在國家發(fā)展與改革委員會(huì)和國家地震局的資助下,國家地震局及其多個(gè)研究所和中國航天二院國家工程研究中心聯(lián)合研制開發(fā)了“中國地震減災(zāi)仿真網(wǎng)格CE-DASGrid(China Earthquake Disaster Alleviation and Simulation Grid)試驗(yàn)系統(tǒng)”。該系統(tǒng)包括三個(gè)子系統(tǒng):科學(xué)計(jì)算子系統(tǒng)、地震會(huì)商子系統(tǒng)和視景仿真子系統(tǒng)。本文是針對科學(xué)計(jì)算子系統(tǒng)的系列研究之一。
3.1 設(shè)計(jì)思想
  依據(jù)上述的單一資源模型的設(shè)計(jì)思想,在地震減災(zāi)仿真科學(xué)計(jì)算網(wǎng)格系統(tǒng)中運(yùn)用單一虛擬網(wǎng)格資源模型實(shí)現(xiàn)對網(wǎng)格資源的有效管理。通過提供統(tǒng)一用戶界面、一致的命令格式的全網(wǎng)格節(jié)點(diǎn)的資源狀態(tài)動(dòng)態(tài)監(jiān)控和查詢,實(shí)現(xiàn)網(wǎng)格資源的統(tǒng)一管理。
  在地震減災(zāi)仿真網(wǎng)格系統(tǒng)中,網(wǎng)格資源包括各計(jì)算節(jié)點(diǎn)資源、數(shù)據(jù)資源、服務(wù)資源等,其中以計(jì)算資源為最重要的網(wǎng)格資源。運(yùn)用本資源模型思想,可為系統(tǒng)建立單一的資源樹,實(shí)現(xiàn)對資源樹信息的統(tǒng)一管理并提供統(tǒng)一的用戶界面,可動(dòng)態(tài)地對資源狀態(tài)進(jìn)行監(jiān)控和資源信息實(shí)時(shí)查詢。
3.2 應(yīng)用實(shí)現(xiàn)
  運(yùn)用本研究的設(shè)計(jì)思想,在地震減災(zāi)仿真網(wǎng)格系統(tǒng)中實(shí)現(xiàn)了如下功能:
  (1)資源管理:資源注冊、資源修改、資源刪除、資源查詢。資源管理實(shí)現(xiàn)計(jì)算資源的動(dòng)態(tài)管理,該功能使用戶能夠?qū)崟r(shí)了解網(wǎng)格系統(tǒng)資源狀態(tài),并且能夠動(dòng)態(tài)地加入已授權(quán)的新計(jì)算資源于整個(gè)網(wǎng)格系統(tǒng)中,修改、刪除已有的資源信息。
  (2)計(jì)算管理:實(shí)現(xiàn)地震算法選擇、計(jì)算參數(shù)設(shè)定、資源選擇、環(huán)境設(shè)定、科學(xué)計(jì)算執(zhí)行、計(jì)算過程監(jiān)控及計(jì)算結(jié)果顯示。計(jì)算管理是系統(tǒng)的核心功能,該功能可完成科學(xué)計(jì)算執(zhí)行和計(jì)算結(jié)果分析。用戶可以動(dòng)態(tài)地選定計(jì)算算法、計(jì)算參數(shù)及計(jì)算資源。
  (3)用戶管理:用戶注冊、用戶刪除、用戶修改。用戶管理實(shí)現(xiàn)用戶注冊、用戶信息的修改和刪除。
  (4)信息瀏覽:地震計(jì)算相關(guān)信息。信息瀏覽幫助用戶了解有關(guān)科學(xué)計(jì)算的相關(guān)信息,例如算法說明、計(jì)算參數(shù)解釋、計(jì)算結(jié)果說明等。
  本研究通過建立統(tǒng)一的網(wǎng)格資源模型,為網(wǎng)格資源管理提供了一種有效的方法和工具,并在地震減災(zāi)仿真科學(xué)計(jì)算網(wǎng)格應(yīng)用系統(tǒng)中運(yùn)用此模型實(shí)現(xiàn)具體的地震應(yīng)用科學(xué)計(jì)算功能。實(shí)驗(yàn)證明此設(shè)計(jì)思想是可行的,它為地震應(yīng)用領(lǐng)域科學(xué)計(jì)算網(wǎng)格化提供了重要的技術(shù)基礎(chǔ),下一步的工作是在此研究的基礎(chǔ)上解讀其他資源模型協(xié)議,為更廣泛的應(yīng)用提供有力的支持。
參考文獻(xiàn)
1 周 健,戴 梅,王作遠(yuǎn)等.計(jì)算網(wǎng)格資源管理優(yōu)化技術(shù)和相關(guān)算法研究.電子技術(shù)應(yīng)用,2004;(10)
2 楊廣文,武永衛(wèi),朱 晶.一種全局統(tǒng)一的層次化網(wǎng)格資源模型.計(jì)算機(jī)研究與發(fā)展,2003;(12)
3 Foster I,Kesselman C著,金海,袁平鵬,石柯譯.網(wǎng)格計(jì)算.北京:電子工業(yè)出版社,2004
4 都志輝,陳 渝,劉 鵬.網(wǎng)格計(jì)算.北京:清華大學(xué)出版社,2002
5 徐志偉,馮百明,李 偉.網(wǎng)格計(jì)算技術(shù).北京:電子工業(yè)出版社,2002
6 肖 儂,任 浩,徐志偉等.基于資源目錄技術(shù)的網(wǎng)格系統(tǒng)軟件設(shè)計(jì)與實(shí)現(xiàn).計(jì)算機(jī)研究與發(fā)展,2002;(8)
7 Joseph J,F(xiàn)ellenstein C著,戰(zhàn)曉蘇,張少華譯.網(wǎng)格計(jì)算.北京:清華大學(xué)出版社,2004
8 Foster I,Kesselman C,Nick J et al.The Physiology of the Grid:An Open Grid Services Architecture for Distributed Systems Integration.Globus Project,USA,2002

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時(shí)通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。