任勝兵,潘震宇,盧 念,張萬利

(1.中南大學(xué) 軟件學(xué)院,湖南 長(zhǎng)沙 410075;2.中南大學(xué) 信息科學(xué)與工程學(xué)院,湖南 長(zhǎng)沙 410083)

0 概述

芯片制造工藝飛速發(fā)展,芯片上元件的集成度也越來越高,片上系統(tǒng)SoC的結(jié)構(gòu)日益復(fù)雜。為了獲得更高性能的SoC,采用點(diǎn)到點(diǎn)專用的或分布式的片上網(wǎng)絡(luò)NoC(Network on Chip)成為可替代片上共享總線系統(tǒng)的新型解決方案。

在嵌入式系統(tǒng)多核課題中,目前NoC技術(shù)成為解決SoC互聯(lián)問題的研究熱點(diǎn),關(guān)于NoC的研究主要集中在任務(wù)映射和路由器等[1]。軟件模擬和綜合成硬件是NoC領(lǐng)域主流的分析方法[2]?？紤]到教學(xué)實(shí)驗(yàn)和創(chuàng)新研究的通用性和靈活性等特點(diǎn),綜合定制芯片原型無助于由淺入深地理解NoC的體系結(jié)構(gòu),且因其特性固定故不適合進(jìn)行靈活地實(shí)驗(yàn),再者原型實(shí)際測(cè)量工作很復(fù)雜,教學(xué)實(shí)驗(yàn)并不適合采用綜合芯片原型的方法。軟件建模和模擬方法對(duì)于設(shè)計(jì)流程、模塊集成和NoC概念的驗(yàn)證相當(dāng)重要。在設(shè)計(jì)NoC時(shí),有一個(gè)具備分析處理單元、片上互聯(lián)等性能參數(shù)的仿真實(shí)驗(yàn)平臺(tái),對(duì)研究NoC的實(shí)驗(yàn)教學(xué)以及創(chuàng)新設(shè)計(jì)有重要意義。

本文以NIRGAM[3]模擬器作為NoC仿真實(shí)驗(yàn)平臺(tái),因其開源、文檔豐富、支持完善和程序穩(wěn)定可靠等優(yōu)點(diǎn),且基于SystemC開發(fā)便于未來進(jìn)行軟硬件協(xié)同設(shè)計(jì)和驗(yàn)證。

1 NoC的架構(gòu)分析

本文所研究的NoC體系結(jié)構(gòu)通常由路由節(jié)點(diǎn)、網(wǎng)絡(luò)接口以及處理單元三種基本要素構(gòu)成[5],如圖1所示。

圖1 NoC基本結(jié)構(gòu)

1)路由節(jié)點(diǎn)實(shí)際上相當(dāng)于計(jì)算機(jī)網(wǎng)絡(luò)中的交換機(jī),它的功能是保障數(shù)據(jù)能夠成功地到達(dá)目的地。以較流行的2D MESH NoC拓?fù)浣Y(jié)構(gòu)為例,一個(gè)路由節(jié)點(diǎn)擁有4個(gè)方向端口,分別與鄰居節(jié)點(diǎn)的對(duì)應(yīng)方向端口通過物理鏈路相連,還有1個(gè)本地端口與本地處理單元保持連接。路由節(jié)點(diǎn)根據(jù)路由算法選擇端口做下一步轉(zhuǎn)發(fā)。路由算法的優(yōu)劣不僅對(duì)傳輸時(shí)延,還對(duì)網(wǎng)絡(luò)能耗和容錯(cuò)能力產(chǎn)生影響。

2)網(wǎng)絡(luò)接口起到了數(shù)據(jù)連接和轉(zhuǎn)換的功能。

3)處理單元實(shí)際上是任何異構(gòu)的IP核,如微處理器核、DSP核、微控制器核、存儲(chǔ)器核或I/O設(shè)備控制器核等,也可以是SoC中各個(gè)任務(wù)進(jìn)程的抽象化,分為發(fā)送器、接收器和加工器三大類[6]。

2 基于SystemC的NoC實(shí)驗(yàn)平臺(tái)

SystemC是由OSCI(the Open SystemC Initiative)開發(fā)的統(tǒng)一建模平臺(tái),為系統(tǒng)設(shè)計(jì)提供了統(tǒng)一的語(yǔ)言以便更好地進(jìn)行軟硬件協(xié)同設(shè)計(jì)和驗(yàn)證。它在C++基礎(chǔ)上添加一個(gè)SystemC類庫(kù)。類庫(kù)是采用C++編寫的各種函數(shù)和數(shù)據(jù)類型等的程序庫(kù),將并發(fā)、時(shí)鐘和特殊數(shù)據(jù)類型等硬件描述概念引入C++,使其能夠?qū)τ布M(jìn)行建模描述。

基于SystemC的NoC仿真實(shí)驗(yàn)平臺(tái)主要有三個(gè):Noxim、NIRGAM 和NNSE。

1)Noxim由意大利卡塔尼亞大學(xué)的計(jì)算機(jī)體系結(jié)構(gòu)團(tuán)隊(duì)開發(fā)和維護(hù)。Noxim以命令行形式對(duì)模擬器中NoC的拓?fù)洹⒕彌_區(qū)、數(shù)據(jù)大小分布、路由算法、交換算法、數(shù)據(jù)注入率、流量類型和分布進(jìn)行配置,以吞吐量、時(shí)延和能耗作為性能參考。

2)NIRGAM由英國(guó)南安普頓大學(xué)電子與計(jì)算機(jī)科學(xué)院電子系統(tǒng)設(shè)計(jì)團(tuán)隊(duì)和印度Jaipur Malaviya國(guó)家技術(shù)研究所計(jì)算機(jī)科學(xué)與工程系聯(lián)合開發(fā)。NIRGAM是一個(gè)模塊化設(shè)計(jì),可擴(kuò)展的NoC模擬器,能夠?qū)ν負(fù)?、虛通道、緩沖區(qū)、路由算法以及IP核進(jìn)行配置,可以方便地對(duì)模擬器進(jìn)行擴(kuò)展,如新的IP核和路由算法,以平均時(shí)延和吞吐量作為性能參考。

3)NNSE由瑞典皇家技術(shù)研究所電子、計(jì)算機(jī)和軟件系統(tǒng)系研究開發(fā)。NNSE支持AXI,屬性配置以XM L形式對(duì)拓?fù)?、流控機(jī)制、路由算法及流量類型等進(jìn)行配置,以時(shí)延和吞吐量作為性能參考。

3 NIRGAM仿真實(shí)驗(yàn)平臺(tái)教學(xué)實(shí)驗(yàn)

NIRGAM仿真實(shí)驗(yàn)平臺(tái)的核心引擎從配置文件nirgam.config中獲取模擬器配置,從配置文件application.config中獲取任務(wù)映射結(jié)構(gòu),然后按此構(gòu)建NoC實(shí)驗(yàn)平臺(tái)并全局控制仿真工作。NIRGAM仿真結(jié)束后,將期間采集到的信息進(jìn)行統(tǒng)計(jì)并保存成文件,以供導(dǎo)出分析和繪制 Matlab或gnuplot圖表。

圖2 NIRGAM仿真實(shí)驗(yàn)平臺(tái)架構(gòu)[3]

學(xué)生通過對(duì)NIRGAM模擬器的解析,可以較直觀地從不同層面上理解NoC體系結(jié)構(gòu)及其基本的通信機(jī)制,并通過親自動(dòng)手配置模擬器的參數(shù)來加深對(duì)概念的消化理解。在此基礎(chǔ)之上對(duì)NoC課題展開多方面的興趣研究。以下介紹兩個(gè)典型的實(shí)驗(yàn),分別對(duì)處理單元和路由算法的設(shè)計(jì)做了簡(jiǎn)單的實(shí)現(xiàn)和分析,以此表明利用NIRGAM模擬器對(duì)NoC的教學(xué)研究具有可行性。

3.1 NIRGAM處理單元設(shè)計(jì)實(shí)驗(yàn)

羅丹提出將流量生成機(jī)制與注入機(jī)制封裝在一個(gè)處理單元內(nèi)部,可以在不影響處理單元內(nèi)其他模塊時(shí),僅改變流量生成機(jī)制以此改變資源子網(wǎng)向通信子網(wǎng)發(fā)送的數(shù)據(jù)特征,全面地評(píng)估NoC性能[7]。

本文構(gòu)建了一組處理單元不是代表某種抽象的流量類型,而是代表JPEG編碼過程中各個(gè)任務(wù),協(xié)作完成JPEG基本的編碼功能。其中節(jié)點(diǎn)上的IP核分別代表一個(gè)任務(wù)進(jìn)程。NIRGAM允許將IP核動(dòng)態(tài)的與任何節(jié)點(diǎn)綁定。如果沒有綁定任何IP核,那該節(jié)點(diǎn)只作為一個(gè)路由節(jié)點(diǎn)。處理單元設(shè)計(jì)實(shí)質(zhì)上是繼承基礎(chǔ)IP核模塊上的方法為自己創(chuàng)造新的IP核,甚至對(duì)基礎(chǔ)IP核做修改。

1)JPEG編碼器任務(wù)進(jìn)程IP核設(shè)計(jì)

據(jù)JPEG編碼原理[8],參考進(jìn)程網(wǎng)絡(luò)模型[9]理論,編碼過程被分解成5個(gè)獨(dú)立的進(jìn)程,依次是位圖輸入、FDCT(Forward Discrete Cosine Transform)、量化、Z字形變換和哈夫曼編碼輸出,如圖3所示。根據(jù)這5個(gè)任務(wù),在IP核模塊中加入實(shí)現(xiàn)相應(yīng)任務(wù)的函數(shù),使得觸發(fā)recv進(jìn)程時(shí)調(diào)用函數(shù)處理數(shù)據(jù)包,處理完畢的同時(shí)觸發(fā)send進(jìn)程將新數(shù)據(jù)包送回網(wǎng)絡(luò)中,傳遞給下游任務(wù)。

圖3 JPEG編碼器進(jìn)程網(wǎng)絡(luò)模型

2)JPEG編碼器任務(wù)映射

本實(shí)驗(yàn)以3x3的2D MESH為NoC拓?fù)浣Y(jié)構(gòu),采用分組交換機(jī)制、蟲洞式流控機(jī)制和XY路由算法。以微片作為最小數(shù)據(jù)單元,每個(gè)數(shù)據(jù)包由64個(gè)微片組成。如圖4所示JPEG編碼器任務(wù)進(jìn)程在NoC上映射拓?fù)浣Y(jié)構(gòu)圖。其中黑色箭頭表示按照XY路由算法的數(shù)據(jù)流軌跡。各IP核由NIRGAM通過文件application.config分別與節(jié)點(diǎn)0,1,2,6,8綁定。

3)實(shí)驗(yàn)與分析

圖4 JPEG編碼器任務(wù)映射圖

本實(shí)驗(yàn)工作頻率1 GHz,共運(yùn)行200000個(gè)周期。仿真結(jié)束生成.m文件,由Matlab運(yùn)行得到此次仿真中所統(tǒng)計(jì)各個(gè)通道的吞吐量,如圖5所示。

圖5 JPEG編碼任務(wù)吞吐量

通過節(jié)點(diǎn)間的數(shù)據(jù)通信和上下游任務(wù)進(jìn)程間的相互協(xié)作,最終由節(jié)點(diǎn)BmpInput輸入的位圖圖像經(jīng)過NoC的一系列處理流程,在節(jié)點(diǎn)JPGOutput成功生成了JPEG編碼壓縮后的圖像。但由圖可知這5個(gè)任務(wù)的負(fù)載是不均衡的,其中數(shù)據(jù)都是從BmpInput節(jié)點(diǎn)注入,所以該處的端口吞吐量非常大,且產(chǎn)生了較大的發(fā)送時(shí)延。其他模塊邊接收,邊處理,邊發(fā)送,及時(shí)將數(shù)據(jù)送出,緩解了輸入和輸出通道的擁塞。該實(shí)驗(yàn)采用XY確定性維序路由算法,是2D MESH下最高效最簡(jiǎn)單的確定性路由算法,但不會(huì)根據(jù)網(wǎng)絡(luò)的擁塞狀況均衡負(fù)載。參考圖5的反饋的信息,我們可以對(duì)IP核在拓?fù)渖系牟季肿鰞?yōu)化,使得負(fù)載更均勻,避免網(wǎng)絡(luò)局部擁塞,提高網(wǎng)絡(luò)整體的資源利用率。

學(xué)生通過NIRGAM處理單元設(shè)計(jì)實(shí)驗(yàn),可以理解軟IP核的構(gòu)造以及NoC節(jié)點(diǎn)的通信機(jī)制,并切身體會(huì)到NoC如何組織和協(xié)調(diào)各個(gè)節(jié)點(diǎn)的任務(wù)進(jìn)程,最終實(shí)現(xiàn)一個(gè)具體的應(yīng)用。同時(shí)NIRGAM以其結(jié)果直觀靈活的優(yōu)點(diǎn),便于學(xué)生縮短對(duì)任務(wù)映射方案調(diào)試和修正的周期,提高實(shí)驗(yàn)效率。

3.2 NIRGAM路由器設(shè)計(jì)實(shí)驗(yàn)

越智能的路由節(jié)點(diǎn),其硬件邏輯越復(fù)雜,功耗也越大。針對(duì)NIRGAM的路由算法擴(kuò)展可以直接使用模擬器所提供的API(Application Program Interface)。復(fù)雜度更高更智能的路由算法,甚至需要對(duì)NIRGAM的核心引擎進(jìn)行修改,如輸入和輸出通道等,這是因?yàn)槁酚蓹C(jī)制的設(shè)計(jì)與網(wǎng)絡(luò)整體的架構(gòu)以及其他機(jī)制息息相關(guān),如交換和流控機(jī)制。

1)XYYX路由算法設(shè)計(jì)

本文以文獻(xiàn)[4]提出的基于Turn Model的XY增強(qiáng)型XYYX路由算法為例,進(jìn)行路由算法的設(shè)計(jì)實(shí)驗(yàn)。為了更好地理解,我們把2D MESH NoC拓?fù)浣Y(jié)構(gòu)的四邊依次標(biāo)記為北、東、南和西。該算法對(duì)當(dāng)前節(jié)點(diǎn)與目的地節(jié)點(diǎn)的相對(duì)位置分作兩種情況考慮。當(dāng)當(dāng)前節(jié)點(diǎn)位于目的地節(jié)點(diǎn)的南方時(shí),使用YX路由算法思想,那么總是從 Y維度開始路由;在當(dāng)前節(jié)點(diǎn)位于目的地節(jié)點(diǎn)的北方時(shí),使用XY路由算法思想,那么總是從X維度開始路由。因此當(dāng)處在一個(gè)均勻概率隨機(jī)目的通信的情況下,相對(duì)XY路由算法,X維度的負(fù)載被均分給了X與Y兩個(gè)維度,達(dá)到了減輕X維度擁塞的目的。

圖6 XYYX路由軌跡示意

如圖6所示XYYX路由算法數(shù)據(jù)流軌跡圖。該增強(qiáng)型XYYX算法的特點(diǎn)是改善了XY路由算法在X維度上的擁塞情況,算法思想巧妙但不復(fù)雜,可以直接利用API的calc_next函數(shù)進(jìn)行設(shè)計(jì)。

2)實(shí)驗(yàn)與分析

本實(shí)驗(yàn)以4x4的2D MESH為NoC拓?fù)浣Y(jié)構(gòu)(圖6),采用分組交換機(jī)制、蟲洞式流控機(jī)制和XYYX路由算法。以微片作為最小數(shù)據(jù)單元,每個(gè)數(shù)據(jù)包由3個(gè)微片組成,分別是頭片、數(shù)據(jù)片和尾片。本實(shí)驗(yàn)工作頻率為1 GHz,共運(yùn)行1000個(gè)周期,其中從第5個(gè)周期開始生成流量,到第300個(gè)周期時(shí)停止生成流量。實(shí)驗(yàn)通過轉(zhuǎn)置流量模式分別對(duì)XY和XYYX路由算法進(jìn)行了時(shí)延的分析和比較,如圖7和圖8所示。轉(zhuǎn)置流量模式是指X維度與Y維序互換的一對(duì)節(jié)點(diǎn)之間互為源節(jié)點(diǎn)和目的地節(jié)點(diǎn),相互朝對(duì)方發(fā)送數(shù)據(jù)。

圖7 XY路由算法網(wǎng)絡(luò)平均時(shí)延

圖8 XYYX路由算法網(wǎng)絡(luò)平均時(shí)延

圖7所示采用XY路由算法后,網(wǎng)絡(luò)所統(tǒng)計(jì)到的在各個(gè)方向通道上的數(shù)據(jù)包時(shí)延。我們可以觀察到在整個(gè)網(wǎng)絡(luò)中時(shí)延很大的都是東西方向通道,這正是XY路由算法總是從東西方向開始路由所致。

圖8所示改用XYYX路由算法后,網(wǎng)絡(luò)所統(tǒng)計(jì)到的在各個(gè)方向通道上的數(shù)據(jù)時(shí)延。我們可觀察到在時(shí)延很大的通道中,西向和北向各占50%,也就是說X與Y維度共同承擔(dān)了以前僅由X維度承擔(dān)的負(fù)載?？梢奨YYX路由算法起到了均衡X與Y維度負(fù)載的能力。我們根據(jù)圖7和圖8的反饋信息,可以直觀看到XYYX路由算法的改進(jìn)優(yōu)勢(shì)。

學(xué)生通過XYYX路由算法設(shè)計(jì)實(shí)驗(yàn),可以從中理解,路由算法在網(wǎng)絡(luò)流量中所起到的協(xié)調(diào)作用。由于NIRGAM模擬器反應(yīng)迅速,便于學(xué)生在路由算法之間做對(duì)比實(shí)驗(yàn)。

4 結(jié)語(yǔ)

在多核課題中,NoC成為解決SoC互聯(lián)問題的研究熱點(diǎn)。本文以免費(fèi)開源的NIRGAM模擬器為例,實(shí)現(xiàn)了基于NoC架構(gòu)的JPEG編碼器和XYYX路由算法。實(shí)驗(yàn)中分析的基于SystemC的NIRGAM仿真實(shí)驗(yàn)平臺(tái)擁有靈活的擴(kuò)展能力,滿足了NoC教學(xué)實(shí)驗(yàn)研究的需要,也為開展NoC設(shè)計(jì)與創(chuàng)新提供了支持。實(shí)驗(yàn)平臺(tái)皆采用軟件方式模擬NoC的行為,能對(duì)配置和設(shè)計(jì)做出快速反應(yīng),有效地縮短了NoC設(shè)計(jì)和驗(yàn)證的周期,基于SystemC的NIRGAM仿真實(shí)驗(yàn)平臺(tái)。

[1] Tobias Bjerregaard,Shankar Mahadevan.A survey of Research and Practices of Network-on-Chip[J].Lyngby:ACM Computing Surveys(CSU R),2006,38(1):1-51.

[2] Erno Salminen.On network-on-chip comparison[J].Tampere:Digital System Design Architectures,Methods and T ools,2007:503-510.

[3] Lavina Jain.NIRGAM.http://nirgam.ecs.soton.ac.uk

[4] 歐陽(yáng)一鳴,董少周,梁華國(guó).基于2D M esh的NoC路由算法設(shè)計(jì)與仿真[J].合肥:計(jì)算機(jī)工程,2009,35(22):227-235.

[5] William J Dally.Principles and practices of interconnection networks[M].California:M organ Kaufmann Publishers,2004:1-42.

[6] S.Kubisch.E-Core-A Configurable IP Core for Applicationspecific NoC Performance Evaluation[J].Anaheim:DAC Workshop on Diagnostic Services in Network-on-Chips,2007.

[7] 羅丹,吳寧.基于OCP接口的片上網(wǎng)絡(luò)性能評(píng)估平臺(tái)[J].南京:中國(guó)集成電路,2010,19(8):45-50.

[8] Chung-Jr Lian,Liang-Gee Chen,Hao-Chieh Chang,Yung-Chi Chang.Design and Implementation of JPEG Encoder IP Core[J].Yokohama:Design Automation Conference,2001:29-30.

[9] Yongjin Ahn.Process Network M odeling and TLM Generation for H.264 Codec Design[R].Irvine:Center for Embedded Computer Sy stems,2008.