摘要:市場(chǎng)驅(qū)動(dòng)了云計(jì)算的發(fā)展,催生了平臺(tái)即服務(wù)(PaaS)、基礎(chǔ)設(shè)施即服務(wù)(IaaS)和軟件即服務(wù)(SaaS)等的云計(jì)算模式。云計(jì)算的關(guān)鍵技術(shù)包括:海量分布式存儲(chǔ)技術(shù)、并行編程模式、數(shù)據(jù)管理技術(shù)、分布式資源管理技術(shù)、云計(jì)算平臺(tái)管理技術(shù)、綠色節(jié)能技術(shù)。中國(guó)移動(dòng)將云計(jì)算確定為公司發(fā)展戰(zhàn)略的重要方向之一,正積極推廣和應(yīng)用。
[關(guān)鍵詞]云計(jì)算;開(kāi)放組織Hadoop;海量分布式存儲(chǔ)
Abstract: Market forces have driven the development of cloud computing, giving rise to Platform as a Service (PaaS), Infrastructure as a Service (IaaS), and Software as a Service (SaaS), as well as other cloud computing models. Key technologies include the hyper distribution file system, the parallel programming model, data management technology, distributed resource management technology, cloud computing platform management, and green energy technology. China Mobile actively promotes and applies cloud computing and considers it an important strategy for the company’s development.
Key words: cloud computing; open source hadoop; hyper distribution file system
蘋(píng)果公司正改變著美國(guó)人民的生活習(xí)慣。iPad上市不到一個(gè)月,人們競(jìng)相購(gòu)買(mǎi),更有學(xué)校為入學(xué)新生人手購(gòu)置一臺(tái)作為教學(xué)用具。iPad的創(chuàng)新在于:沒(méi)有光驅(qū)、沒(méi)有USB、沒(méi)有火線接口,其存儲(chǔ)容量也就是區(qū)區(qū)16G、32G、63G。人們不禁詫異,在信息爆炸的社會(huì)里,如何讀取、存儲(chǔ)文件呢?這些最先購(gòu)買(mǎi)iPad的美國(guó)人告訴我們,他們使用iPad可以隨意地看電影、看書(shū)、玩游戲、發(fā)郵件、辦公。原因很簡(jiǎn)單,一切的資源由自互聯(lián)網(wǎng)的云計(jì)算服務(wù)提供,一切的信息亦存儲(chǔ)在互聯(lián)網(wǎng)的云服務(wù)平臺(tái)。提供這些服務(wù)的包括Search engine、Itube、Itunes、Mobileme、Salesforce.com、Facebook,以及能夠提供存儲(chǔ)和文檔服務(wù)的Citrax等。iPad無(wú)疑是云計(jì)算最忠實(shí)的擁躉和粉絲,而它的后面,則是全世界上億的蘋(píng)果的擁躉和粉絲。當(dāng)美國(guó)人僅僅花半個(gè)星期的工資就能買(mǎi)到一個(gè)iPad并從容地使用云計(jì)算服務(wù)的時(shí)候,我們相信離全球云計(jì)算服務(wù)爆發(fā)的日子不遠(yuǎn)了。或許過(guò)不了多少時(shí)日,你就能看到地鐵里人手一個(gè)iPad,人們?cè)谠朴?jì)算的陽(yáng)光下,快樂(lè)生活。
小朋友超級(jí)喜歡玩一個(gè)互聯(lián)網(wǎng)游戲,叫做“摩爾莊園”。平時(shí)小朋友們登陸,在線人數(shù)少,游戲運(yùn)行還在用戶(hù)體驗(yàn)度承受范圍內(nèi)??墒且坏街芰砩?,當(dāng)大量的小朋友們寫(xiě)完作業(yè)開(kāi)始涌入摩爾莊園過(guò)他們幸福周末的時(shí)候,游戲速度就像烏龜爬了,特別是場(chǎng)景轉(zhuǎn)換的時(shí)候,用戶(hù)體驗(yàn)度很差。運(yùn)營(yíng)摩爾莊園的淘米公司要改變這一局面,那就得再買(mǎi)更多的服務(wù)器。這筆花銷(xiāo)只是為了每周滿(mǎn)足小朋友周六或者周日一兩天的高峰時(shí)段的需求而付出,其他的時(shí)候這些服務(wù)器成為多余的負(fù)擔(dān),不僅花費(fèi)高額投資,而且還得支付服務(wù)器運(yùn)行電費(fèi),運(yùn)營(yíng)成本會(huì)大大提高。這就是淘米公司的苦惱。同樣,美國(guó)互聯(lián)網(wǎng)游戲運(yùn)營(yíng)商Zygna也曾面臨這樣的煩惱,其開(kāi)發(fā)的游戲Farmville在Facebook上大受歡迎,每天高峰時(shí)段有將近8 000萬(wàn)人次樂(lè)此不疲,而有些時(shí)段則沒(méi)有多少人。成長(zhǎng)的煩惱和彈性需求的特殊讓Zygna傷透了腦筋。最終,亞馬遜創(chuàng)新型的彈性云計(jì)算服務(wù)幫助了Zygna。Zygna可以按時(shí)段租用IT資源來(lái)運(yùn)行他們的網(wǎng)絡(luò)游戲,既免去了一次性投資購(gòu)買(mǎi)大量服務(wù)器的痛苦,更讓運(yùn)行成本隨需而變。最關(guān)鍵的是可以讓眾多游戲玩家始終享受高體驗(yàn)度的游戲,不會(huì)因?yàn)椴l(fā)在線人數(shù)的增長(zhǎng)而為速度痛苦不堪。這樣的云計(jì)算應(yīng)用創(chuàng)新案例在美國(guó)還有很多,在彈性計(jì)算云(EC2)云計(jì)算服務(wù)基礎(chǔ)上運(yùn)行的其他游戲還有黑幫戰(zhàn)爭(zhēng)、咖啡世界、漁村、快樂(lè)水族館、寵物社會(huì)、寵物村、餐館城等。這些游戲每天的在線用戶(hù)都將近1億人次,使得像Zygna這樣的公司,如Crowdstra或Playfish,獲得了高速增長(zhǎng)的收益,從而帶動(dòng)了整個(gè)美國(guó)互聯(lián)網(wǎng)服務(wù)市場(chǎng)的快速增長(zhǎng)。
淘米公司要解決他們目前面臨的問(wèn)題,最佳方案就是使用亞馬遜的彈性云計(jì)算服務(wù),但是亞馬遜并沒(méi)有在中國(guó)開(kāi)展這一業(yè)務(wù)。中國(guó)目前尚沒(méi)有企業(yè)能夠提供云計(jì)算基礎(chǔ)設(shè)施即服務(wù)(IAAS)業(yè)務(wù),這使得淘米公司的煩惱還會(huì)延續(xù)下去。有著同樣煩惱的還包括絕大多數(shù)中國(guó)的中小型互聯(lián)網(wǎng)運(yùn)營(yíng)商,他們?cè)趧?chuàng)業(yè)初期和高速成長(zhǎng)期的運(yùn)營(yíng)成本居高不下,大大影響了他們聚集用戶(hù)的速度。長(zhǎng)此以往,中國(guó)的互聯(lián)網(wǎng)運(yùn)營(yíng)行業(yè)將沒(méi)有力量和美國(guó)等世界先進(jìn)的互聯(lián)網(wǎng)運(yùn)營(yíng)商抗衡。
最近,中國(guó)拒絕了某互聯(lián)網(wǎng)搜索服務(wù)商的要求,這對(duì)中國(guó)來(lái)說(shuō)是一件好事。因?yàn)檫@給中國(guó)企業(yè)留下了一個(gè)巨大的云計(jì)算創(chuàng)新的商機(jī),那就是創(chuàng)新地發(fā)展中國(guó)人自己的云計(jì)算架構(gòu)的搜索引擎服務(wù)。
這幾年國(guó)際上互聯(lián)網(wǎng)信息運(yùn)營(yíng)商都在玩的技術(shù),無(wú)疑是基于云計(jì)算的搜索引擎技術(shù)。搜索是最成功的云計(jì)算實(shí)現(xiàn),但它不僅僅是搜索,而且是信息計(jì)算,是從海量信息中經(jīng)過(guò)計(jì)算處理解決現(xiàn)實(shí)問(wèn)題。由于它是面向大眾的互聯(lián)網(wǎng)體驗(yàn),所以在免費(fèi)為大眾提供互聯(lián)網(wǎng)服務(wù)的同時(shí),實(shí)際上也在聚集大眾的智慧,并把用戶(hù)的習(xí)慣、行為、思考等智慧進(jìn)行徹底地?cái)?shù)據(jù)挖掘。再下一步,它將可以在某個(gè)領(lǐng)域內(nèi)仿真某一個(gè)人的智慧,直至整個(gè)人類(lèi)的智慧。云計(jì)算知道你是誰(shuí),你喜歡什么,你要什么,你想什么,甚至能知道你的潛意識(shí)!這是不是很厲害也很可怕?天呀!這將是一個(gè)可以生長(zhǎng)和進(jìn)化的計(jì)算系統(tǒng)!這對(duì)中國(guó)的計(jì)算機(jī)科學(xué)和互聯(lián)網(wǎng)產(chǎn)業(yè)無(wú)疑是一個(gè)巨大的挑戰(zhàn)。面對(duì)挑戰(zhàn),中國(guó)IT科技界應(yīng)該何去何從?
我想,我們需要了解、研究、開(kāi)發(fā)、創(chuàng)新。讓我們先從了解開(kāi)始吧。
2008年11月,美國(guó)商業(yè)周刊發(fā)表了一篇著名的文章《Google及其云智慧》,開(kāi)篇宣稱(chēng):“這項(xiàng)全新的遠(yuǎn)大戰(zhàn)略旨在把強(qiáng)大得超乎想象的計(jì)算能力分布到眾人手中”。文章預(yù)示著云計(jì)算作為一種革命性的技術(shù)受到了產(chǎn)業(yè)界的普遍關(guān)注。
1 云計(jì)算的概念
根據(jù)Wikipedia的定義,云計(jì)算是一種動(dòng)態(tài)的、易擴(kuò)展的、通常是通過(guò)互聯(lián)網(wǎng)提供虛擬化的資源計(jì)算方式。用戶(hù)不需要了解云內(nèi)部的細(xì)節(jié),也不必具有云內(nèi)部的專(zhuān)業(yè)知識(shí),或直接控制基礎(chǔ)設(shè)施。云計(jì)算主要特點(diǎn)是能夠快速部署資源或獲得服務(wù),能夠按需擴(kuò)展和使用,能夠按使用量付費(fèi)并通過(guò)互聯(lián)網(wǎng)提供服務(wù)。
中國(guó)移動(dòng)研究院經(jīng)過(guò)實(shí)踐探索認(rèn)為,云計(jì)算系統(tǒng)是一種把大量的低成本運(yùn)算單元通過(guò)IP網(wǎng)絡(luò)相連而組成的超大型運(yùn)算平臺(tái),核心組成是云計(jì)算平臺(tái)和管理軟件。云計(jì)算發(fā)源于搜索引擎平臺(tái),是互聯(lián)網(wǎng)企業(yè)在創(chuàng)業(yè)階段出于追求低成本高效能的考慮開(kāi)發(fā)出的一種計(jì)算技術(shù),具有高性能、低成本和通用性強(qiáng)的特征。
云計(jì)算目前已經(jīng)成為提供各種互聯(lián)網(wǎng)服務(wù)的重要平臺(tái)。隨著商用化進(jìn)程加快,云計(jì)算的概念已延伸到提供各種運(yùn)算服務(wù),包括以虛擬化技術(shù)為基礎(chǔ)的IT資源整合服務(wù)。
2 云計(jì)算的發(fā)展歷程
云計(jì)算的發(fā)展歷程是一個(gè)經(jīng)典的市場(chǎng)驅(qū)動(dòng)的案例。Google的創(chuàng)始者因?yàn)橘I(mǎi)不起昂貴的商用服務(wù)器來(lái)設(shè)計(jì)搜索引擎而采用了眾多廉價(jià)PC來(lái)提供搜索服務(wù)。他們成功地把這種PC集群做到比商用服務(wù)器更強(qiáng)大,而成本卻遠(yuǎn)遠(yuǎn)低于商用服務(wù)器的硬件和軟件,形成了所謂的云計(jì)算技術(shù)。Google的成功引發(fā)了產(chǎn)業(yè)對(duì)于云計(jì)算極大的關(guān)注,甚至把Google云計(jì)算中五大關(guān)鍵技術(shù)(包括大規(guī)模集群管理、分布式文件系統(tǒng)、并行數(shù)據(jù)處理、分布式數(shù)據(jù)庫(kù)、分布式資源管理)稱(chēng)為“五大巫術(shù)”。
云計(jì)算技術(shù)為IT技術(shù)帶來(lái)了重大變革。云計(jì)算技術(shù)極大地降低了企業(yè)的IT建設(shè)及運(yùn)營(yíng)維護(hù)成本,降低了能源消耗,大大加快了企業(yè)信息化建設(shè)進(jìn)程。云計(jì)算與互聯(lián)網(wǎng)的結(jié)合催生了IT商業(yè)模式的革命,促使越來(lái)越多的公司不再購(gòu)買(mǎi)和維護(hù)軟硬件,而是從Amazon等公司租用計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)資源以及IT服務(wù),使得企業(yè)實(shí)現(xiàn)信息化變得像獲取自來(lái)水一樣方便、廉價(jià)。不僅如此,云計(jì)算技術(shù)以其本身在大容量存儲(chǔ)、超大規(guī)模計(jì)算能力方面的優(yōu)勢(shì),使得云計(jì)算已成為科學(xué)研究不可缺少的助推器,成為推動(dòng)著產(chǎn)、學(xué)、研、用緊密結(jié)合的新型創(chuàng)新模式??梢哉f(shuō),以云計(jì)算為代表的技術(shù)革命對(duì)現(xiàn)有信息產(chǎn)業(yè)及應(yīng)用模式產(chǎn)生了深遠(yuǎn)的影響。
云計(jì)算已引起各行各業(yè)廣泛的關(guān)注,也引起了各國(guó)政府的高度重視。美國(guó)、日本、英國(guó)等國(guó)家都在大力開(kāi)展國(guó)家級(jí)云計(jì)算項(xiàng)目,試圖在這場(chǎng)IT技術(shù)革命中搶占先機(jī)。
2.1 Google神話依賴(lài)于平臺(tái)即服務(wù)
回顧云計(jì)算的起步和發(fā)展軌跡,我們不得不談到Google在以搜索為核心的互聯(lián)網(wǎng)應(yīng)用方面的成功。
1997年,有兩個(gè)美國(guó)斯坦福大學(xué)的博士生做了個(gè)軟件作業(yè)叫做BackRub,這是一個(gè)實(shí)驗(yàn)用的搜索引擎。在建立之初,BackRub只是針對(duì)1 000萬(wàn)份具有錯(cuò)綜復(fù)雜關(guān)系的網(wǎng)頁(yè)進(jìn)行分析,后來(lái)他們發(fā)現(xiàn)斯坦福大學(xué)有上千人在使用這個(gè)軟件,于是他們決定繼續(xù)研發(fā)這個(gè)軟件。把搜索的網(wǎng)頁(yè)數(shù)目擴(kuò)大,把搜索的效率提高,這就需要更高的計(jì)算性能,于是他們決定用多臺(tái)服務(wù)器來(lái)實(shí)現(xiàn)。起初他們?cè)谧约旱乃奚崂飻€計(jì)算機(jī),后來(lái)宿舍舍友有意見(jiàn),就被迫挪到一個(gè)破車(chē)庫(kù)里攢,同時(shí)繼續(xù)完善他們的BackRub軟件。因?yàn)楫?dāng)時(shí)很窮,只能用最便宜的器件來(lái)攢這些服務(wù)器。于是他們就買(mǎi)別人淘汰的主板、過(guò)期的CPU、便宜的小容量硬盤(pán),還有廉價(jià)的電源,并拿紙盒子做機(jī)箱,能省就省。為了節(jié)約顯卡、鍵盤(pán)什么的全都不要,就這樣一氣組裝了一堆服務(wù)器。1臺(tái)價(jià)格大約100多美金??蛇@種廉價(jià)組裝的服務(wù)器很容易壞,不穩(wěn)定,怎么辦?這兩個(gè)學(xué)生決定靠寫(xiě)完善的容災(zāi)軟件系統(tǒng)來(lái)克服這個(gè)毛病。就這樣,到了1999年或者2000年的時(shí)候,他們已有了幾千臺(tái)這樣的服務(wù)器。他們開(kāi)始用網(wǎng)絡(luò)把這些服務(wù)器連接起來(lái),在上面試著部署他們寫(xiě)的軟件系統(tǒng)來(lái)進(jìn)行文本搜索試驗(yàn)。既然在這樣一個(gè)系統(tǒng)里面不可能用1臺(tái)機(jī)器實(shí)現(xiàn)高性能,他們就在軟件系統(tǒng)里研究了一套新型運(yùn)算模式來(lái)實(shí)現(xiàn)高性能運(yùn)算,這就是人們現(xiàn)在所稱(chēng)的“云計(jì)算”。這兩個(gè)學(xué)生叫做布林和佩奇,他們?cè)谲?chē)庫(kù)里攢出來(lái)的公司就是現(xiàn)在鼎鼎有名的Google。
如今,他們已經(jīng)有了超過(guò)100萬(wàn)臺(tái)服務(wù)器組成的云計(jì)算平臺(tái),并依賴(lài)這樣的云計(jì)算平臺(tái)提供其著名的互聯(lián)網(wǎng)搜索服務(wù)、Gmail服務(wù)以及Google MAP和新型的Google WAVE和Google VOICE等互聯(lián)網(wǎng)服務(wù)。
依靠云計(jì)算平臺(tái),他們的網(wǎng)絡(luò)爬蟲(chóng)爬遍了全世界,包括中國(guó)的超過(guò)400億個(gè)網(wǎng)頁(yè)。依靠云計(jì)算平臺(tái),他們還在進(jìn)行著大量的數(shù)據(jù)挖掘和分析,以形成豐富的知識(shí)和經(jīng)驗(yàn)庫(kù),從而構(gòu)建一個(gè)人工智能的識(shí)別和決策系統(tǒng)。依靠云計(jì)算平臺(tái)提供的應(yīng)用編程接口和開(kāi)發(fā)環(huán)境,全世界所有的軟件程序員都可以開(kāi)發(fā)自己的應(yīng)用并在平臺(tái)上運(yùn)行驗(yàn)證,從而使得基于云計(jì)算平臺(tái)的應(yīng)用豐富多彩。
Google的云計(jì)算平臺(tái)能支持很強(qiáng)的容災(zāi)性,能支持應(yīng)用的快速部署和任務(wù)調(diào)度,能提供多并發(fā)用戶(hù)的高性能感受,而最最關(guān)鍵的是,他們做到了每用戶(hù)訪問(wèn)的最低運(yùn)營(yíng)成本。Google中國(guó)區(qū)的總經(jīng)理說(shuō),如果沒(méi)有云計(jì)算技術(shù),Google每年購(gòu)買(mǎi)設(shè)備的資金將高達(dá)640億美元,而采用云計(jì)算后則僅為16億美元。也就是說(shuō),云計(jì)算使得Google的成本比他的競(jìng)爭(zhēng)對(duì)手低40倍!這就從運(yùn)營(yíng)成本角度強(qiáng)有力地支持著Google的商業(yè)模式:前向提供高感受度互聯(lián)網(wǎng)服務(wù),吸聚人氣,后向廣告收費(fèi)。Google用云計(jì)算平臺(tái)構(gòu)造了世界上最大的1臺(tái)超級(jí)計(jì)算機(jī)。它很便宜又具有很高的性能,并且很難被復(fù)制,從而逐漸發(fā)展成為平臺(tái)即服務(wù)(PaaS)的商業(yè)模式。
2003—2006年期間,Google發(fā)表了4篇關(guān)于分布式文件系統(tǒng)(GFS)、并行計(jì)算(MapReduce)、數(shù)據(jù)管理(BigTable)和分布式資源管理(Chubby)的文章,成為云計(jì)算發(fā)展的關(guān)鍵。依靠這些文章,開(kāi)源組織Hadoop逐步復(fù)制Google的云計(jì)算系統(tǒng),從此開(kāi)始了Hadoop云計(jì)算平臺(tái)的發(fā)展。目前Yahoo、Facebook等互聯(lián)網(wǎng)公司也在使用Hadoop軟件構(gòu)建自己的云計(jì)算平臺(tái),提供互聯(lián)網(wǎng)服務(wù)。
2.2 Amazon開(kāi)創(chuàng)了基礎(chǔ)設(shè)施即服務(wù)
的云計(jì)算模式
云計(jì)算的發(fā)展歷史上的第二個(gè)里程碑一定屬于Amazon。在七八年前,這是一家隨著B(niǎo)2B和B2C浪潮興起的網(wǎng)上賣(mài)書(shū)和網(wǎng)上購(gòu)物的公司。為了支撐其龐大用戶(hù)數(shù)量的網(wǎng)上購(gòu)物業(yè)務(wù),尤其是為了理論上支持在圣誕等熱銷(xiāo)季節(jié)龐大的并發(fā)用戶(hù)數(shù)量的訪問(wèn)和交易,Amazon部署了大冗余的IT計(jì)算和存儲(chǔ)資源。后來(lái)他們發(fā)現(xiàn)自己的IT支撐資源在絕大部分時(shí)間里都是空閑的,于是為了充分利用閑置IT資源,Amazon將自己的彈性計(jì)算云建立起來(lái)并對(duì)外提供效能計(jì)算和存儲(chǔ)租用服務(wù)。用戶(hù)僅需要為自己所使用的計(jì)算平臺(tái)實(shí)際使用量付費(fèi)。這樣的因需而定的付費(fèi),相比企業(yè)自己部署相應(yīng)的IT硬件資源以及軟件資源要便宜很多。這就是以云計(jì)算基礎(chǔ)架構(gòu)作為服務(wù)的典型——基礎(chǔ)設(shè)施即服務(wù)(IaaS),是典型的因技術(shù)創(chuàng)新而帶動(dòng)的商業(yè)模式的成功案例。
眾多的科技創(chuàng)新公司利用Amazon提供的IaaS,在不必購(gòu)買(mǎi)IT基礎(chǔ)設(shè)施及操作系統(tǒng)的前提下,通過(guò)即付即用的租用模式,在Amazon云計(jì)算平臺(tái)上快速搭建和發(fā)布自己豐富多彩的云服務(wù)。其意義在于極大地降低了云服務(wù)商的行業(yè)進(jìn)入門(mén)檻,改變了傳統(tǒng)的IT基礎(chǔ)設(shè)施的購(gòu)買(mǎi)和交付模式,把中小企業(yè)很難負(fù)擔(dān)的固定資產(chǎn)投資轉(zhuǎn)化為與業(yè)務(wù)量相關(guān)的運(yùn)營(yíng)成本。在硅谷,每天都有幾個(gè)大學(xué)生利用Amazon云計(jì)算IaaS來(lái)發(fā)布自己的云服務(wù),從而賺了大錢(qián)的案列。風(fēng)靡了整個(gè)美國(guó)的微博客服務(wù)Twitter,正是利用Amazon EC2構(gòu)建的成功的互聯(lián)網(wǎng)應(yīng)用,被美國(guó)國(guó)防部長(zhǎng)蓋茨稱(chēng)為“美國(guó)巨大戰(zhàn)略資產(chǎn)”。這樣的成功故事,每天都在發(fā)生。
2.3 SalesForce.com奠定了軟件
即服務(wù)的云計(jì)算模式
云計(jì)算發(fā)展過(guò)程中的第3個(gè)里程碑,一定屬于SalesForce.com。起初,這家公司想做自己的數(shù)據(jù)庫(kù)管理類(lèi)軟件,并把它賣(mài)給企業(yè)用戶(hù)??墒撬麄儼l(fā)現(xiàn),在數(shù)據(jù)庫(kù)管理類(lèi)軟件領(lǐng)域,他們可能永遠(yuǎn)打不過(guò)Oracle。但是他們發(fā)現(xiàn)Oracle的昂貴價(jià)格讓很多企業(yè)望而卻步,更有很多工業(yè)制造和物流行業(yè)的企業(yè)花大價(jià)錢(qián)買(mǎi)了Oracle產(chǎn)品后卻因?yàn)槿鄙賹?zhuān)業(yè)知識(shí)而不能把它用好。于是他們決定利用新型的互聯(lián)網(wǎng)來(lái)提供軟件服務(wù),從而和Oracle競(jìng)爭(zhēng)。這家公司在1999年首次通過(guò)自己的互聯(lián)網(wǎng)站點(diǎn)向企業(yè)提供以客戶(hù)管理為中心的營(yíng)銷(xiāo)支持服務(wù)軟件——客戶(hù)關(guān)系管理軟件(CRM),使得企業(yè)不必再像以前那樣通過(guò)部署自己的計(jì)算機(jī)系統(tǒng)和軟件來(lái)進(jìn)行客戶(hù)管理及營(yíng)銷(xiāo)服務(wù),而只需通過(guò)云端的軟件來(lái)管理,從而為軟件即服務(wù)(SaaS)奠定了基礎(chǔ)。這家位于舊金山的科技創(chuàng)新公司,通過(guò)向中小企業(yè)提供云服務(wù)而迅速壯大,他們的48 000個(gè)企業(yè)客戶(hù)遍布世界各地。這些中小型企業(yè)可以不用購(gòu)買(mǎi)和安裝軟件來(lái)實(shí)現(xiàn)其企業(yè)信息化服務(wù),且數(shù)據(jù)都存儲(chǔ)在云端,從而大大節(jié)省了成本,并能最大限度和最方便地實(shí)現(xiàn)信息共享和隨取。這些中小型企業(yè)使得SaaS供應(yīng)商SalesForce年?duì)I業(yè)額增速高達(dá)50%,成為目前納斯達(dá)克股市中的一家明星公司。SaaS模式的云服務(wù)可以幫助任何一個(gè)不懂IT技術(shù)的中小企業(yè)花很少的運(yùn)營(yíng)成本,快速并科學(xué)構(gòu)建適合其商業(yè)需求的企業(yè)信息化平臺(tái),從而極大地推進(jìn)了企業(yè)信息化進(jìn)程,也加快了信息化和工業(yè)化的融合。
在云計(jì)算技術(shù)的驅(qū)動(dòng)下,運(yùn)算服務(wù)正從傳統(tǒng)的“高接觸、高成本、低承諾”的服務(wù)配置向“低接觸、低成本、高承諾”轉(zhuǎn)變。如今,包括IaaS、PaaS、SaaS等模式的云計(jì)算憑借其優(yōu)勢(shì)獲得了全球市場(chǎng)的廣泛認(rèn)可。企業(yè)、政府、軍隊(duì)等各種重要部門(mén)都正在全力研發(fā)和部署云計(jì)算相關(guān)的軟件和服務(wù)。云計(jì)算已進(jìn)入國(guó)計(jì)民生的重要行業(yè)。IBM和Google開(kāi)始與一些大學(xué)合作進(jìn)行大規(guī)模云計(jì)算理論研究項(xiàng)目。政府和軍隊(duì)的“私有云”正在悄然建設(shè)。許多新興的初創(chuàng)公司和大型企業(yè)正在全力研發(fā)和部署云計(jì)算相關(guān)的軟件和服務(wù)。與此同時(shí)風(fēng)險(xiǎn)投資和技術(shù)買(mǎi)家的興趣也在迅速升溫。迎著朝陽(yáng)前進(jìn),是IT技術(shù)發(fā)源地——美國(guó)硅谷對(duì)云計(jì)算目前發(fā)展?fàn)顟B(tài)的定位。
3 云計(jì)算的發(fā)展前景
美國(guó)多家市場(chǎng)研究公司聯(lián)合預(yù)測(cè),云計(jì)算市場(chǎng)將在未來(lái)幾年高速增長(zhǎng),IT廠商正以快于預(yù)期的速度轉(zhuǎn)向運(yùn)用云技術(shù)。根據(jù)Gartner的調(diào)查結(jié)果,2009年全球云服務(wù)收入增長(zhǎng)21%,從2008年的464億美元增至2009年的563億美元。2013年全球云服務(wù)收入會(huì)達(dá)到1 501億美元。
Gartner分析師認(rèn)為,傳統(tǒng)的內(nèi)部IT服務(wù)和大量的新業(yè)務(wù)會(huì)持續(xù)遷移到云計(jì)算中。以云計(jì)算為基礎(chǔ)的業(yè)務(wù)流程是最大的云服務(wù)市場(chǎng),其中包括廣告、電子商務(wù)、人力資源和支付處理。Google、Microsoft、Yahoo等公司云服務(wù)收入到2013年將是最大的組成部分。目前全球性的經(jīng)濟(jì)衰退和更嚴(yán)格的IT預(yù)算,也使運(yùn)用云計(jì)算來(lái)托管應(yīng)用程序和服務(wù)更有吸引力。云計(jì)算是計(jì)算產(chǎn)業(yè)發(fā)展的高級(jí)階段和必然趨勢(shì),目前已在國(guó)際市場(chǎng)得到了廣泛的認(rèn)可。云計(jì)算使得企業(yè)(尤其是中小企業(yè))、個(gè)人用戶(hù)在幾乎沒(méi)有預(yù)付資金投入的情況下可以即時(shí)使用計(jì)算資源,不必再提前做IT資源計(jì)劃,將大幅削減運(yùn)營(yíng)和使用成本。云計(jì)算系統(tǒng)同時(shí)改善了業(yè)務(wù)流程。各行業(yè)和機(jī)構(gòu)可以把重點(diǎn)放在業(yè)務(wù)流程和邏輯組織上,而非IT設(shè)施的建設(shè)和維護(hù)上。
4 云計(jì)算的關(guān)鍵技術(shù)
云計(jì)算是以數(shù)據(jù)為中心的一種數(shù)據(jù)密集型的超級(jí)計(jì)算。在數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)管理、編程模式、并發(fā)控制、系統(tǒng)管理等5個(gè)方面具有自身獨(dú)特的技術(shù)。
4.1 海量分布式存儲(chǔ)技術(shù)
為保證高可用、高可靠和經(jīng)濟(jì)性,云計(jì)算采用分布式存儲(chǔ)的方式來(lái)存儲(chǔ)數(shù)據(jù),采用冗余存儲(chǔ)的方式來(lái)保證存儲(chǔ)數(shù)據(jù)的可靠性,以高可靠軟件來(lái)彌補(bǔ)硬件的不可靠,從而提供廉價(jià)可靠的系統(tǒng)。為了滿(mǎn)足大量用戶(hù)的需求,數(shù)據(jù)存儲(chǔ)技術(shù)必須具有高吞吐率和高傳輸率的特點(diǎn)。
云計(jì)算的數(shù)據(jù)存儲(chǔ)系統(tǒng)主要有Google GFS和Hadoop開(kāi)發(fā)團(tuán)隊(duì)開(kāi)發(fā)的開(kāi)源系統(tǒng)——Hadoop 分布式文件系統(tǒng)(HDFS)。大部分IT廠商,包括Yahoo、Intel的云計(jì)劃采用的都是HDFS的數(shù)據(jù)存儲(chǔ)技術(shù)。
4.2 并行編程模式
為了高效利用云計(jì)算的資源,使用戶(hù)能更輕松地享受云計(jì)算帶來(lái)的服務(wù),云計(jì)算的編程模型必須保證后臺(tái)復(fù)雜的并行執(zhí)行和任務(wù)調(diào)度向用戶(hù)和編程人員透明。云計(jì)算采用MapReduce編程模式,將任務(wù)自動(dòng)分成多個(gè)子任務(wù),通過(guò)Map和Reduce兩步實(shí)現(xiàn)任務(wù)在大規(guī)模計(jì)算節(jié)點(diǎn)中的調(diào)度與分配。
4.3 數(shù)據(jù)管理技術(shù)
云計(jì)算系統(tǒng)對(duì)大數(shù)據(jù)集進(jìn)行處理、分析,向用戶(hù)提供高效的服務(wù),因此,數(shù)據(jù)管理技術(shù)必須能夠高效地管理大數(shù)據(jù)集。另外,如何在規(guī)模巨大的數(shù)據(jù)中找到特定的數(shù)據(jù),也是云計(jì)算數(shù)據(jù)管理技術(shù)所必須解決的問(wèn)題。云計(jì)算系統(tǒng)的數(shù)據(jù)管理往往采用列存儲(chǔ)的數(shù)據(jù)管理模式,保證海量數(shù)據(jù)存儲(chǔ)和分析性能。云計(jì)算的數(shù)據(jù)管理技術(shù)最著名的是Google的BigTable數(shù)據(jù)管理技術(shù),同時(shí)Hadoop開(kāi)發(fā)團(tuán)隊(duì)也開(kāi)發(fā)了類(lèi)似BigTable的開(kāi)源數(shù)據(jù)管理模塊HBase。
4.4 分布式資源管理技術(shù)
在多節(jié)點(diǎn)并發(fā)執(zhí)行環(huán)境,分布式資源管理系統(tǒng)是保證系統(tǒng)狀態(tài)正確的關(guān)鍵技術(shù)。系統(tǒng)狀態(tài)需要在多節(jié)點(diǎn)之間同步,關(guān)鍵節(jié)點(diǎn)出現(xiàn)故障時(shí)需要遷移服務(wù)。分布式資源管理技術(shù)通過(guò)“鎖”機(jī)制協(xié)調(diào)多任務(wù)對(duì)于資源的使用,從而保證數(shù)據(jù)操作的一致性。Google的Chubby是最著名的分布式資源管理系統(tǒng)。
4.5 云計(jì)算平臺(tái)管理技術(shù)
云計(jì)算資源規(guī)模龐大,一個(gè)系統(tǒng)的服務(wù)器數(shù)量可能會(huì)高達(dá)10萬(wàn)臺(tái)并跨越幾個(gè)坐落于不同物理地點(diǎn)的數(shù)據(jù)中心,同時(shí)還運(yùn)行成千上萬(wàn)種應(yīng)用。如何有效地管理這些服務(wù)器,保證這些服務(wù)器組成的系統(tǒng)能夠提供7×24小時(shí)不間斷服務(wù)是一個(gè)巨大的挑戰(zhàn)。云計(jì)算系統(tǒng)管理技術(shù)是云計(jì)算的“神經(jīng)網(wǎng)絡(luò)”。云計(jì)算系統(tǒng)管理技術(shù)能使大量的服務(wù)器協(xié)同工作,方便地進(jìn)行業(yè)務(wù)部署和開(kāi)通,快速地發(fā)現(xiàn)和恢復(fù)系統(tǒng)故障,使云計(jì)算系統(tǒng)通過(guò)自動(dòng)化、智能化的手段實(shí)現(xiàn)大規(guī)模的可運(yùn)營(yíng)、可管理。Google通過(guò)其卓越的云計(jì)算管理系統(tǒng)維持著全球上百萬(wàn)臺(tái)PC服務(wù)器協(xié)同、高效地運(yùn)行著,其云計(jì)算系統(tǒng)管理技術(shù)被作為企業(yè)核心機(jī)密至今沒(méi)有公布技術(shù)資料。
4.6 綠色節(jié)能技術(shù)
云計(jì)算技術(shù)降低了服務(wù)器的采購(gòu)成本,從而使電源消耗所帶來(lái)的運(yùn)營(yíng)成本成為云計(jì)算中心的主要開(kāi)支之一。為了進(jìn)一步降低成本,云計(jì)算的開(kāi)發(fā)者在綠色節(jié)能技術(shù)上進(jìn)行了大量探索。
傳統(tǒng)數(shù)據(jù)中心空調(diào)冷卻的費(fèi)用約占整體電費(fèi)的30%~70%。為了節(jié)省能源,Google在比利時(shí)的數(shù)據(jù)中心降溫系統(tǒng)無(wú)需冷卻劑,而是采取室外空氣進(jìn)行自然冷卻。根據(jù)比利時(shí)的氣候條件,每年只有7天左右無(wú)法使用自由冷卻方式。在比較炎熱的夏天,Google可以通過(guò)云計(jì)算管理系統(tǒng)將該數(shù)據(jù)中心的計(jì)算任務(wù)轉(zhuǎn)移到其他數(shù)據(jù)中心。
5 結(jié)束語(yǔ)
中國(guó)是個(gè)有著幾千年文明的古老國(guó)家,我們不能讓那些記載著我們的文明和智慧的數(shù)據(jù)都放在北美的服務(wù)器上!面對(duì)國(guó)際上先進(jìn)的云計(jì)算技術(shù),我們只有一個(gè)破解之法,那就是創(chuàng)新!我們也要有自己的足以與國(guó)際先進(jìn)企業(yè)抗衡的云計(jì)算系統(tǒng)和相應(yīng)地搜索引擎等核心軟件(據(jù)悉,“十二五”規(guī)劃已經(jīng)把云計(jì)算及互聯(lián)網(wǎng)搜索引擎納入其中)。所以,我們一定得了解云計(jì)算,去研發(fā)和掌握云計(jì)算的關(guān)鍵技術(shù),并且把云計(jì)算技術(shù)及其成功的商業(yè)模式加以實(shí)踐和應(yīng)用。
中國(guó)移動(dòng)從2007年就開(kāi)始進(jìn)行云計(jì)算的研究和開(kāi)發(fā),是最早介入云計(jì)算研發(fā)和實(shí)踐的企業(yè)之一。中國(guó)移動(dòng)在Hadoop開(kāi)源軟件的基礎(chǔ)上自主開(kāi)發(fā)了“大云(Big Cloud)”云計(jì)算系統(tǒng),可實(shí)現(xiàn)分布式文件系統(tǒng)、海量數(shù)據(jù)庫(kù)、分布式計(jì)算框架、集群管理、虛擬機(jī)管理等關(guān)鍵功能,并已申請(qǐng)多項(xiàng)專(zhuān)利。為了盡快抓住產(chǎn)業(yè)發(fā)展契機(jī),中國(guó)移動(dòng)正式將云計(jì)算確定為公司發(fā)展戰(zhàn)略的重要方向之一,并積極推動(dòng)云計(jì)算推廣和應(yīng)用。一方面,中國(guó)移動(dòng)積極促成了產(chǎn)、學(xué)、研界對(duì)云計(jì)算的廣泛關(guān)注。2008年11月,中國(guó)移動(dòng)戰(zhàn)略咨詢(xún)委員會(huì)名譽(yù)主任、前郵電部部長(zhǎng)吳基傳,工程院院士李德毅、倪光南,中國(guó)移動(dòng)研究院院長(zhǎng)黃曉慶等專(zhuān)家牽頭的“中國(guó)云計(jì)算專(zhuān)委會(huì)”在中國(guó)移動(dòng)研究院召開(kāi)成立大會(huì),向業(yè)界發(fā)出云計(jì)算研究的強(qiáng)勁信號(hào)。隨著云計(jì)算研討活動(dòng)的頻繁開(kāi)展,中國(guó)的產(chǎn)業(yè)界、學(xué)術(shù)界、科研機(jī)構(gòu)開(kāi)始了對(duì)云計(jì)算的廣泛討論與合作。中國(guó)移動(dòng)計(jì)劃將研發(fā)的云平臺(tái)和軟件向中國(guó)云計(jì)算專(zhuān)委會(huì)籌建的“中國(guó)云”示范和試驗(yàn)平臺(tái)開(kāi)放,以進(jìn)一步促進(jìn)聯(lián)合創(chuàng)新。另一方面,中國(guó)移動(dòng)加緊推動(dòng)云計(jì)算平臺(tái)的內(nèi)部試驗(yàn)及推廣。不僅如此,中國(guó)移動(dòng)還緊密關(guān)注國(guó)際云計(jì)算組織的動(dòng)向,通過(guò)積極參與國(guó)際組織的工作,來(lái)引領(lǐng)云計(jì)算技術(shù)發(fā)展方向及國(guó)際標(biāo)準(zhǔn)。2009年6月,中國(guó)移動(dòng)派出代表參加了云計(jì)算國(guó)際頂級(jí)會(huì)議——Hadoop Summit 2009,并在會(huì)上發(fā)表了題為《通信企業(yè)并行數(shù)據(jù)挖掘》(Parallel Data Mining in Telecom)的技術(shù)報(bào)告,引起業(yè)界的極大關(guān)注。
相信,在不遠(yuǎn)的將來(lái),在中國(guó)移動(dòng)以及中國(guó)的一批極富創(chuàng)新精神的企業(yè)的帶動(dòng)下,中國(guó)的云計(jì)算將有能力搶占世界信息科技制高點(diǎn)。創(chuàng)新的科學(xué)技術(shù)的進(jìn)步,將幫助我們的民族企業(yè)實(shí)現(xiàn)跨越式發(fā)展。
收稿日期:2010-05-10
張為民,北京工業(yè)大學(xué)自動(dòng)化專(zhuān)業(yè)學(xué)士、MBA,就職于中國(guó)移動(dòng)通信研究院,從事云計(jì)算的研發(fā)及業(yè)務(wù)拓展工作,著有《云計(jì)算——深刻改變未來(lái)》一書(shū)。