面向異構系統(tǒng)的PGAS模型研究與實現(xiàn).pdf

1、科學與工程應用對計算性能要求的不斷增加使得機群系統(tǒng)得到了迅速發(fā)展，但由于功耗和散熱等因素，基于 CPU的同構機群系統(tǒng)可拓展性已成為發(fā)展瓶頸。而圖形處理單元（GPU）、眾核協(xié)處理器（MIC）等其他加速單元在處理高度并行性負載的情況下可以提供比CPU更強的浮點計算能力，且所需能耗更低，因此CPU協(xié)同GPU或MIC完成計算任務的異構計算已成為發(fā)展主流。然而現(xiàn)有的異構編程模型缺乏為編程人員提供一致的編程環(huán)境，編程人員必須區(qū)分CPU與加速器并顯式

2、的指定數(shù)據(jù)在不同設備之間的傳遞情況，一定程度上增加了異構編程難度。
　　PGAS編程模型旨在為分布式內(nèi)存系統(tǒng)提供一個邏輯上共享的尋址空間，允許編程人員以全局視角操作數(shù)據(jù)從而簡化編程難度。但現(xiàn)有的 PGAS模型主要面向同構系統(tǒng)，且缺少針對CPU+MIC結構的實現(xiàn)。本文面向異構計算不斷發(fā)展的趨勢，研究在異構系統(tǒng)中對PGAS編程模型的拓展與實現(xiàn)方式，通過異構PGAS模型為編程人員提供一致的編程環(huán)境，簡化異構編程難度。論文的主要工作和貢獻

3、如下：
　　首先，面向異構系統(tǒng)實現(xiàn)對全局數(shù)組（GA）模型的拓展---CoGA。CoGA模型基于CPU+MIC系統(tǒng)上的SCIF接口實現(xiàn)全局數(shù)組操作，采用為全局數(shù)組分配固定內(nèi)存的方式提高系統(tǒng)效率并保證數(shù)據(jù)傳輸?shù)目煽啃?，通過SCIF遠程內(nèi)存訪問實現(xiàn)CPU與MIC間的高效數(shù)據(jù)傳輸。CoGA模型結合異構系統(tǒng)實現(xiàn)的API接口能夠為編程人員提供一致的編程環(huán)境，允許編程人員以全局視角操作物理上分布于 CPU和加速單元間的數(shù)據(jù)，隱藏不同計算設備之間

4、的內(nèi)存分配和數(shù)據(jù)傳輸細節(jié)，進而簡化異構編程難度。
　　其次，結合異構系統(tǒng)特點優(yōu)化數(shù)據(jù)傳輸性能。針對現(xiàn)有 Offload編程模式中MIC之間無法直接進行數(shù)據(jù)傳輸導致通訊操作較為復雜的問題，CoGA模型通過SCIF接口建立MIC設備間的直接連接關系，允許用戶通過CoGA接口直接在MIC間進行數(shù)據(jù)傳輸，降低數(shù)據(jù)傳輸延遲并簡化通信操作。針對CPU+MIC協(xié)同計算過程中，CPU與MIC間可能需要頻繁進行小數(shù)據(jù)通信的情況，CoGA模型基于SC

5、IF消息傳遞層實現(xiàn)小消息傳遞接口，實現(xiàn)CPU與MIC間高效的小數(shù)據(jù)傳遞，降低通信延遲。此外，為便于用戶通過指定數(shù)組分布實現(xiàn)CPU與MIC的任務劃分，CoGA模型提供接口允許進程直接獲取全局數(shù)組本地部分的指針，避免冗余數(shù)據(jù)拷貝。
　　最后，通過基準性能Benchmark和實際應用測試CoGA模型整體性能。根據(jù)CPU-MIC數(shù)據(jù)傳輸帶寬和延遲， MIC-MIC通信延遲以及矩陣乘應用的測試結果證明了CoGA模型簡化編程并優(yōu)化數(shù)據(jù)傳輸性能