段紅英
摘 要:雖然Fortran常用來進行科學計算,但是面對計算量大的程序仍然很耗時。通常人們用MPI進行粗粒度的并行來提高程序的運行效率,近年來隨著GPU計算能力的提高,將程序進行細粒度GPU并行化成為一種趨勢。文章基于NVIDIA公司的CUDA框架,就Fortran程序向CUDA移植過程中的一些問題進行總結(jié),并給出了相應(yīng)的解決方案。
關(guān)鍵詞:Fortran ;C;CUDA;Fortran程序
中圖分類號:TP311 文獻標識碼:A 文章編號:2095-1302(2015)11-00-02
0 引 言
Fortran是常用的科學計算語言,其突出的特性就是能實現(xiàn)自然描述且描述接近數(shù)學公式,有較好的執(zhí)行效率,但是由于在計算流體力學、現(xiàn)代醫(yī)學影像、分子動力學等領(lǐng)域的模擬中,存在大量的程序計算,仍然耗時很多,有的計算需要幾天甚至幾十天才能完成。為了提高程序的計算效率,我們將Fortran代碼并行化。通常人們用MPI進行粗粒度的并行來提高程序的運行效率,近年來隨著GPU計算能力的提高,將程序進行細粒度GPU并行化成為一種趨勢。
CUDA是NVIDIA公司推出的一種用于 GPU 高性能計算的軟硬件架構(gòu),它是對C語言的擴展。在其編程模型中,CPU作為主機(Host)端調(diào)度整個程序,GPU作為計算設(shè)備(device)對計算量大、數(shù)據(jù)并行性強的程序并行處理。運行在GPU上的并行計算程序稱為kernel,其必須通過__global__函數(shù)類型限定符定義,由host端程序調(diào)用啟動。
Fortran程序CUDA并行化的完成一般分為編碼、編譯、測試、優(yōu)化幾個階段,以下從這幾個方面分別進行總結(jié)闡述。
1 編 碼
在編碼階段,F(xiàn)ortran程序CUDA并行化即為Fortran→C→CUDA的過程。
1.1 Fortran→C的轉(zhuǎn)化過程
從Fortran到C的轉(zhuǎn)化過程,只需要在掌握二者語法的基礎(chǔ)上,逐行翻譯即可,但翻譯工作中需要注意以下細節(jié)。
(1)數(shù)組
C語言中數(shù)組的起始編號為0,而Fortran的默認起始編號為1,但也可以用(idx1:idx2)的方式自己定義,這就需要我們把程序中的每個數(shù)組變量的定義弄明白,翻譯時對默認定義的數(shù)組標號減1,非默認定義的,則用[i-idx1]來計算實際標號。
其次是多維陣列。雖然C和Fortran中所謂的多維陣列都是一個連續(xù)的一維存儲空間,但是它們對于行列的分割卻相反。如圖1(a)和圖1(b)分別給出了C和Fortran對于數(shù)組a[3][2]各自的數(shù)組分割方式。由此,我們在翻譯過程中定義和使用多維數(shù)組時都須將數(shù)組的行列轉(zhuǎn)換。如a(3:2)變?yōu)镃時應(yīng)為a[2][3],對應(yīng)圖1(b)。
(a) C語言數(shù)組分割圖 (b)Fortran數(shù)組分割圖
圖1 不同數(shù)組的分割圖
(2)函數(shù)參數(shù)傳遞
Fortran中函數(shù)調(diào)用時一般傳遞的是參數(shù)的內(nèi)存地址,而C既可以進行值傳遞,也可以進行地址傳遞,一般需要返回多個參數(shù)值時用地址傳遞。在翻譯中,為了方便,所有函數(shù)都采用地址傳遞。
(3)函數(shù)重載
在Fortran中為了共享數(shù)據(jù)的方便一般會用common,如下例所示,F(xiàn)ortran代碼為:
Integer::I,j,k
Integer::kk(3)
COMMON/test/I,j,k
用C表達,需要用以下的方式:
int I,j,k;
int kk[3];
int*test[3]={&I,&J,&K};
即把變量的地址連續(xù)地存儲到一個數(shù)組中。在函數(shù)參數(shù)傳遞時,在Fortran中調(diào)用addkt函數(shù)就可以傳遞數(shù)組kk,也可以傳遞test,代碼如下:
subroutineaddkt( kd, kt )
Integer, intent(inout) :: kd(3)
但是在C語言中要傳遞以上兩種參數(shù)就出現(xiàn)函數(shù)重載問題(一個為一維數(shù)組,另一個為二維數(shù)組),但對于過程化語言C則沒有該功能,我們只能把函數(shù)addt定義為addkt1(int *kd,intkt)和addkt2(int *kd[],intkt)兩個函數(shù)。
1.2 C→CUDA的轉(zhuǎn)化過程
CUDA是一種數(shù)據(jù)并行性而非功能并行性的并行計算解決方案。在C到CUDA的轉(zhuǎn)化過程中,最關(guān)鍵的就是分析整個程序,找到最耗時的代碼部分,分析整個的可并行性,在對整個物理過程理解的基礎(chǔ)上,進行算法設(shè)計,然后并行化。
以核物理中的蒙卡輸運程序為例,蒙特卡羅(MC)方法采用隨機方法模擬物理過程,應(yīng)用數(shù)理統(tǒng)計獲取計算結(jié)果的計算方法。蒙卡的整個輸運框架如圖2所示,其中,n為粒子編號,N為粒子總數(shù)。由于每個粒子輸運過程相對獨立、粒子間通信量少、循環(huán)次數(shù)多,因此,可以一個粒子對應(yīng)一個線程來并行。
圖2 蒙卡輸運框架
當然,若是有對程序足夠的理解,并且Fortran和C都很精通的情況下,則可以直接將Fortran程序CUDA并行化。
2 測 試
我們借助GDB調(diào)試工具,將測試過程分為由下到上,和由上到下兩步。首先,由下到上的對單個程序逐級測試;然后,根據(jù)程序?qū)懗龆喾N輸入?yún)?shù),由上往下整體測試。
判定程序正確的方法就是此程序有相同的輸入和輸出,有隨機數(shù)的程序會給我們的測試帶來很大的困難。如上面提到的蒙卡輸運程序,我們既要保證程序中輸運過程的隨機性,又要通過測試保證程序的正確性。一般大家會想到產(chǎn)生一個很大的隨機數(shù)文件,分別讀入到Fortran和C程序中,此方法可行,但是在粒子數(shù)很多的情況下,效率很低。文章就此問題提出了很好的解決方案,此處不再詳細解述。
2.1 Fortan→C測試
對于變量少的程序,我們只需要手動打印出需要檢測的變量值進行對比,但是對于有幾千個全局變量的計算程序,逐一手動輸出效率會很低。因此我們首先要找到程序中用到的全局變量,然后根據(jù)這些變量書寫main函數(shù)測試。這個問題我們可以借助Perl、Shell等腳本語言完成。其步驟如下:
(1)人工找到程序中所有的全局變量,其類型,維數(shù),每一維的長度按照某種格式寫到文件A中;
(2)人工找出程序中的所有程序、子程序及函數(shù)的名字,寫到B中;
(3)書寫腳本,根據(jù)文件A,在所要測試的Fortran程序的初始化部分,打印出所有全局變量的值,作為C程序的輸入;在所要測試的Fortran程序結(jié)束之前,打印出所有全局變量的值,作為判斷C程序的標準;
(4)書寫腳本,實現(xiàn)初始化函數(shù),即給C語言的變量初始化;
(5)書寫腳本,實現(xiàn)讀入Fortran的輸出值,判斷C程序的正確性。
在具體的腳本實現(xiàn)過程中,需要對Fortran語法詳細分解,如一個程序可能有多處結(jié)束,而在每個結(jié)束前都需要輸出打印。為了方便,同時打印出變量的類型、維數(shù)及每一維的長度。
2.2 Fortan→CUDA測試
CUDA程序的測試并不像C程序的測試那樣簡單,因為由于算法原因,在功能不變的情況下整個程序可能會被打亂,甚至對變量數(shù)組進行排序,由于原來的數(shù)組會打亂,致使不能用GDB調(diào)試工具進行對比,并且無法定位錯誤或者判斷計算中的正確性。雖然程序及數(shù)組順序亂了,但是程序的功能不會變,并且在相同功能的地方這些數(shù)組之和不會變,所以我們可以在功能相同的地方對數(shù)據(jù)之和進行對比。
3 結(jié) 語
面對科學計算中串行程序的瓶頸,我們需要應(yīng)用并行化方法來解決,本文就Fortran向基于CUDA架構(gòu)的GPU移植過程中所遇到的一些問題進行總結(jié)。當然為了更高的計算效率,可以對初步的程序優(yōu)化。
參考文獻
[1]龔春葉.面向異構(gòu)體系結(jié)構(gòu)的粒子輸運并行算法研究[D].長沙:國防科學技術(shù)大學,2011.
[2] NVIDIA.CUDA C PROGRAMMING GUIDE[Z].2012.
[3] Stephen J.Chapman. Fortran 95/2003程序設(shè)計[M].劉瑾,龐巖梅,趙越,等,譯.北京:中國電力出版社,2009.
[4] Jason Sanders,EdwardKandrot.GPU高性能編程CUDA實戰(zhàn)[M]. 聶雪軍,等,譯.北京:機械工業(yè)出版社,2011:43-68.
[5] Randal L.Scbwartz,TomPboenix brain d foy. Perl語言入門[M].盛春,蔣永清,王暉,譯.南京:東南大學出版社,2007.