GPU服務(wù)器5種GPU虛擬化技術(shù)(詳細(xì)資料講解)

2023-07-01    分類: 網(wǎng)站建設(shè)

GPU,也即圖形處理單元。不論在手機(jī)中,還是在電腦、筆記本上,GPU都發(fā)揮著不可替代的作用。為增進(jìn)大家對GPU的認(rèn)識,本文將對GPU的5種虛擬化技術(shù)的實現(xiàn)策略予以介紹。下面創(chuàng)新互聯(lián)服務(wù)器托管一起來了解下,以下是內(nèi)容詳情:服務(wù)器托管

一、設(shè)備模擬(Device Emulation)

設(shè)備模擬是指通過軟件的方法來為虛擬機(jī)模擬GPU設(shè)備,這種方法的好處是虛擬機(jī)內(nèi)部都可以調(diào)用GPU命令,可以完全記錄GPU設(shè)備的狀態(tài),保證虛擬化技術(shù)的全部特性,滿足四個標(biāo)準(zhǔn)中的資源復(fù)用和支持虛擬化特性的標(biāo)準(zhǔn)。QEMU 通過軟件模擬實現(xiàn)了傳統(tǒng)的VGA設(shè)備,但是該設(shè)備的性能很低,只能支持基礎(chǔ)的功能。軟件模擬設(shè)備的方法幾乎不會使用硬件加速,因此其實現(xiàn)的GPU性能已經(jīng)無法滿足現(xiàn)在虛擬機(jī)的圖形圖像處理和高性能計算的需求。而且正如前文提到的,現(xiàn)代GPU架構(gòu)具有很高的復(fù)雜性,而且缺少文檔,因此很難實現(xiàn)對一個真實的物理GPU進(jìn)行軟件模擬。這意味著設(shè)備模擬方法只能模擬少量的API,只能保證少量的GPU特性提供給虛擬機(jī)。由于設(shè)備模擬的方法在性能和支持的GPU特性上和真實的GPU相差過大,設(shè)備模擬的技術(shù)已經(jīng)不再應(yīng)用到GPU虛擬化技術(shù)中。

二、API轉(zhuǎn)發(fā)(API Forwarding)

API轉(zhuǎn)發(fā)是指通過實現(xiàn)包裹圖形API的庫,這些庫在虛擬機(jī)調(diào)用相關(guān)的API時,將這些圖形API通過遠(yuǎn)程過程調(diào)用的方法轉(zhuǎn)發(fā)到主機(jī)上,然后調(diào)用主機(jī)上的圖形驅(qū)動提供的API支持完成調(diào)用。通過給高層的API實現(xiàn)包裹庫,客戶機(jī)就能支持高層的API如CUDA。vCUDA、vGRIS等虛擬化方案都是利用API轉(zhuǎn)發(fā)的方法。這種方法的優(yōu)點是利于實現(xiàn),而且一定程度上利用了GPU硬件實現(xiàn)加速,同時可以使多個虛擬機(jī)調(diào)用的GPU相關(guān)指令與API在物理GPU上執(zhí)行。但是API轉(zhuǎn)發(fā)的主要問題在于這種方法失去了語言和庫的靈活性選擇,包裹庫和支持的API的不匹配會造成GPU虛擬化不成功。而如果在遷移的過程中,目標(biāo)主機(jī)與源主機(jī)的包裹庫版本不一致,可能會造成遷移之后GPU虛擬化不成功,因此API轉(zhuǎn)發(fā)會影響虛擬化提供的特性。

三、中介傳遞(Mediated Pass-through)

GPU已經(jīng)可以支持多個獨(dú)立的上下文,中介傳遞的方法使虛擬機(jī)只占用這些上下文的一個或者子集。高帶寬操作(指令緩存提交、幀緩存提交)需要使用映射到物理GPU的內(nèi)存或者M(jìn)MIO資源,低帶寬操作(資源分配、傳統(tǒng)的特性)可能會通過使用全虛擬化的資源來實現(xiàn)。

四、直接傳遞(Direct Pass-through)

直接傳遞是指給一臺虛擬機(jī)使用一個物理GPU的全部訪問權(quán)限。Intel提供了Intel VT-d硬件輔助技術(shù),使研究者不需要去了解GPU的編程接口就可以直接實現(xiàn)一臺虛擬機(jī)占用物理GPU的全部訪問權(quán)限。這種方法的好處在于可以提供與真實機(jī)器相近的性能以及保真度,亞馬遜的Amazon EC2提供的GPU資源就是使用這種虛擬化策略。但是這種方法問題在于一個物理GPU只能被一臺虛擬機(jī)使用,犧牲了GPU資源在多臺機(jī)器之間共享的條件。而且虛擬化的遷移功能也會受到影響,因為不同體系架構(gòu)的GPU之間可能存在不兼容。

五、全虛擬化與半虛擬化

GPU虛擬化實現(xiàn)策略按照是否需要修改客戶機(jī)操作系統(tǒng)內(nèi)部的驅(qū)動代碼分為GPU全虛擬化和GPU半虛擬化。GPU全虛擬化是指實現(xiàn)在多個虛擬機(jī)之間共享GPu資源的同時不需要修改虛擬機(jī)內(nèi)部的圖形驅(qū)動。GPU半虛擬化是指向虛擬機(jī)提供軟件實現(xiàn)的理想設(shè)備模型,對客戶機(jī)的圖形驅(qū)動進(jìn)行底層的控制。使用GPU半虛擬化的方法,比API轉(zhuǎn)發(fā)的性能消耗更小,但是客戶機(jī)的設(shè)備驅(qū)動必須要改寫。主流的GPU虛擬化方案GPUvm使用半虛擬化的實現(xiàn)策略對虛擬機(jī)GPU的性能有明顯的改善。

創(chuàng)新互聯(lián)是國內(nèi)較早的互聯(lián)網(wǎng)應(yīng)用服務(wù)提供商,累計現(xiàn)在全國30多個數(shù)據(jù)中心資源,阿里云、百度云、騰訊云、中國西部信息中心、成都電信機(jī)房綿陽電信機(jī)房、重慶服務(wù)器數(shù)據(jù)中心。在成都、重慶、綿陽均有服務(wù)團(tuán)隊。

我司目標(biāo)是建設(shè)成為中國的網(wǎng)絡(luò)平臺服務(wù)提供商,并為這目標(biāo)的實現(xiàn)制定了可持續(xù)的企業(yè)發(fā)展綱略,組建了具有豐富網(wǎng)絡(luò)從業(yè)經(jīng)驗的現(xiàn)代型企業(yè)團(tuán)隊,主要向國內(nèi)外用戶提供包括、服務(wù)器托管、服務(wù)器租用、機(jī)柜租用、帶寬租用、云服務(wù)器等方面的專業(yè)網(wǎng)絡(luò)服務(wù)。創(chuàng)新互聯(lián)基于成都重慶香港及美國等地區(qū)分布式IDC機(jī)房數(shù)據(jù)中心構(gòu)建的電信大帶寬,聯(lián)通大帶寬,移動大帶寬,多線BGP大帶寬租用,是為眾多客戶提供專業(yè)服務(wù)器托管報價,主機(jī)托管價格性價比高,為金融證券行業(yè)服務(wù)器托管,ai人工智能服務(wù)器托管提供bgp線路100M獨(dú)享,G口帶寬及機(jī)柜租用的專業(yè)成都idc公司。

以上就是“GPU服務(wù)器5種GPU虛擬化技術(shù)(詳細(xì)資料講解)”的全部內(nèi)容,如果大家想咨詢服務(wù)器托管、服務(wù)器租用、機(jī)柜租用、帶寬租用、云服務(wù)器等相關(guān)價格,敬請關(guān)注我們創(chuàng)新互聯(lián)官網(wǎng)(www.bm7419.com),或者加微信/電話聯(lián)系:13518219792 進(jìn)行咨詢。

文章名稱:GPU服務(wù)器5種GPU虛擬化技術(shù)(詳細(xì)資料講解)
網(wǎng)頁路徑:http://www.bm7419.com/news17/268767.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供小程序開發(fā)全網(wǎng)營銷推廣、網(wǎng)站收錄做網(wǎng)站、用戶體驗網(wǎng)站內(nèi)鏈

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

微信小程序開發(fā)