譚婧
七月流火,八月未央。
2019年8月22日,第十五屆全國(guó)高性能計(jì)算學(xué)術(shù)年會(huì)在內(nèi)蒙古呼和浩特舉辦?!队H愛的數(shù)據(jù)》觀察到,高性能計(jì)算與人工智能正在融合之路上前進(jìn)。
高性能計(jì)算跟人工智能的深度融合已經(jīng)可以看到趨勢(shì)了。早在2018年6月,中國(guó)高性能計(jì)算機(jī)性能榜單中的幾臺(tái)新的計(jì)算機(jī)都聲稱具有支撐人工智能的能力,從這點(diǎn)就可以看出,人工智能的能力已經(jīng)是現(xiàn)在高性能計(jì)算界比較關(guān)注的一點(diǎn)了。
國(guó)家并行計(jì)算機(jī)工程技術(shù)研究中心總工程師、中國(guó)工程院院士陳左寧曾在上屆學(xué)術(shù)年會(huì)上專門探討“云端AI高性能計(jì)算計(jì)算能力及計(jì)算環(huán)境研究”。在會(huì)上她提出,現(xiàn)階段HPC與AI融合問(wèn)題的關(guān)鍵在于兩個(gè)方面:
第一、在HPC體系結(jié)構(gòu)發(fā)生改變的過(guò)渡階段,如何在AI的演進(jìn)階段支撐其計(jì)算能力需求,“這是目前HPC應(yīng)該考慮的問(wèn)題”。
第二、說(shuō)得簡(jiǎn)單點(diǎn),現(xiàn)在的問(wèn)題,有點(diǎn)像是人工智能所需要的能力,高性能計(jì)算沒(méi)給它提升上去。而已經(jīng)能夠提供的能力,卻是人工智能不需要的這種計(jì)算能力。
困難依然存在,但融合不會(huì)止步。
高性能計(jì)算未來(lái)趨勢(shì)與AI高度相關(guān)。清華大學(xué)計(jì)算機(jī)系教授、本屆年會(huì)共同主席鄭緯民也這樣認(rèn)為。他在大會(huì)上用一句話總結(jié)高性能計(jì)算未來(lái)趨勢(shì)——AI+科學(xué)計(jì)算。他提出的兩個(gè)趨勢(shì)分別是:
一、異構(gòu)架構(gòu)在超算系統(tǒng)構(gòu)建層面被廣泛接受。他解釋道,“TOP 10系統(tǒng)中異構(gòu)超算占據(jù)7成,異構(gòu)架構(gòu)已經(jīng)成為構(gòu)建頂級(jí)超算系統(tǒng)的大勢(shì)所趨,加速器異構(gòu)還是異構(gòu)眾核之爭(zhēng)還將繼續(xù)?!?/p>
二、人工智能應(yīng)用有望成為超算主流應(yīng)用之一。隨著深度神經(jīng)網(wǎng)絡(luò)規(guī)模的擴(kuò)大,最新的網(wǎng)絡(luò)生成和訓(xùn)練往往需要數(shù)萬(wàn)GPU小時(shí)(如BERT, NASNet等)甚至更多,具有頂級(jí)計(jì)算能力的超算系統(tǒng)理應(yīng)為大規(guī)模人工智能應(yīng)用提供支持。
這次,鄭緯民教授的報(bào)告主題是《從2019年TOP500和2018年戈登貝爾獎(jiǎng)看E級(jí)超級(jí)計(jì)算機(jī)與應(yīng)用發(fā)展趨勢(shì)報(bào)告》。據(jù)報(bào)告介紹,高性能計(jì)算是一個(gè)國(guó)家綜合國(guó)力的體現(xiàn),最近十幾年來(lái)取得了非常大的進(jìn)展。國(guó)家的高性能計(jì)算機(jī)已在世界Top500強(qiáng)排行榜里位列第一, 2016年和2017年連續(xù)兩次奪得了高性能計(jì)算應(yīng)用專項(xiàng)獎(jiǎng)-戈登貝爾獎(jiǎng)。
高性能計(jì)算實(shí)力增強(qiáng)已是事實(shí),如何與人工智能融合值得期待。
香港中文大學(xué)教授黃鎧分享了融合超算云與5G邊緣計(jì)算升級(jí)大數(shù)據(jù)智能物聯(lián)網(wǎng)應(yīng)用,他認(rèn)為,今天人工智能更應(yīng)該強(qiáng)調(diào)群體智能,比如幾千個(gè)無(wú)人飛機(jī),不光是計(jì)算問(wèn)題,協(xié)調(diào)問(wèn)題。控制問(wèn)題更大。同時(shí)他認(rèn)為嚴(yán)格講,超算和云不分家。今天基于計(jì)算機(jī)視覺(jué)在云、終端設(shè)備和AI芯片集成上已經(jīng)服務(wù)生活各個(gè)方面。
黃鎧教授談到,華為2019年在5G網(wǎng)絡(luò)領(lǐng)域取得進(jìn)展,并預(yù)計(jì)到2025年在全球?qū)崿F(xiàn)增長(zhǎng)。2019年,華為5G實(shí)現(xiàn)了15 Gbps的數(shù)據(jù)速率,比競(jìng)爭(zhēng)對(duì)手快15-24倍。在全球范圍內(nèi),華為5G系統(tǒng)目前有50個(gè)國(guó)際訂單,擁有30-35%的5G基站。華為預(yù)計(jì),到2025年,58%的人口將使用5G,14%的家庭將使用機(jī)器人管家,97%的企業(yè)將采用人工智能。
英特爾公司數(shù)據(jù)中心集團(tuán)副總裁兼E級(jí)計(jì)算業(yè)務(wù)總經(jīng)理Trish A.Damkroger,認(rèn)為當(dāng)今世界正在以數(shù)據(jù)中心進(jìn)行創(chuàng)新,HPC也從小眾的應(yīng)用走向大眾。今天傳統(tǒng)的HPC正在向融合平臺(tái)進(jìn)化。因此高性能基礎(chǔ)設(shè)施成為基礎(chǔ),需要更先進(jìn)的互聯(lián)、更快的計(jì)算,更強(qiáng)的存儲(chǔ)和內(nèi)存。高性能在計(jì)算流、人工智能仿真加速以及AI替換方面發(fā)揮重大的作用。
英特爾在三個(gè)層面為數(shù)據(jù)中心加速創(chuàng)新。在技術(shù)基礎(chǔ)架構(gòu)上通過(guò)嵌入式CPU 和AI處理器實(shí)現(xiàn)創(chuàng)新,在內(nèi)存和存儲(chǔ)層面通過(guò)擴(kuò)張內(nèi)存和存儲(chǔ)層次結(jié)構(gòu)來(lái)提升性能和容量。在軟件方面抽象可讀、可維護(hù)、可移植的軟件架構(gòu)創(chuàng)新。
期間,Trish A.Damkroger女士邀請(qǐng)第四范式上臺(tái)分享了采用了最新的英特爾CPU和傲騰內(nèi)存和存儲(chǔ)技術(shù)的SageOne高性能AI軟硬一體集成系統(tǒng),大幅度提升AI訓(xùn)練、推理和特征存儲(chǔ)的性能表現(xiàn)
從2018開始,內(nèi)蒙古自治區(qū)科技廳與和林格爾新區(qū)共同啟動(dòng)超算中心即內(nèi)蒙古高性能計(jì)算公共服務(wù)平臺(tái)建設(shè)工作,旨在推動(dòng)內(nèi)蒙古的數(shù)據(jù)存儲(chǔ)能力與計(jì)算能力同步發(fā)展,把內(nèi)蒙古打造成新一代信息技術(shù)創(chuàng)新發(fā)展的良好生態(tài)區(qū)。
內(nèi)蒙古高性能計(jì)算公共服務(wù)平臺(tái)項(xiàng)目,總投資是3億元人民幣,項(xiàng)目建設(shè)包括通用計(jì)算系統(tǒng)、人工智能加速計(jì)算系統(tǒng)、大數(shù)據(jù)存儲(chǔ)支撐系統(tǒng)、節(jié)點(diǎn)互聯(lián)網(wǎng)絡(luò)、配套基礎(chǔ)設(shè)施五部分內(nèi)容,平臺(tái)建設(shè)要求浮點(diǎn)運(yùn)營(yíng)能力不低于10Pflops、存儲(chǔ)容量不少于80PB、理論存儲(chǔ)聚合帶寬不低于800GB/s。
其理論峰值計(jì)算能力可在2018年發(fā)布的國(guó)內(nèi)高性能計(jì)算TOP100排名中名列前3位,CPU+GPU混合算力的理論峰值計(jì)算能力也可排到第3位。項(xiàng)目建成后,將支持科學(xué)計(jì)算、人工智能、大數(shù)據(jù)處理等方面的計(jì)算需求,助力內(nèi)蒙古自治區(qū)高科技產(chǎn)業(yè)發(fā)展和智慧內(nèi)蒙古建設(shè),成為國(guó)際先進(jìn)、國(guó)內(nèi)領(lǐng)先的高性能計(jì)算公共服務(wù)平臺(tái)。