佳都新太科技股份有限公司 鄧任遠(yuǎn)

利用P2P下載工具實(shí)現(xiàn)離線下載服務(wù)

佳都新太科技股份有限公司 鄧任遠(yuǎn)

當(dāng)用戶使用普通下載工具下載大的資源文件或者冷門資源時，常常要等待一天甚至更長時間才能完成，下載時需要長時間地占用用戶的電腦資源和網(wǎng)絡(luò)資源，用戶不能關(guān)閉下載工具和個人機(jī)器。而離線下載是利用服務(wù)器“代”用戶進(jìn)行下載，待服務(wù)端下載完成后，用戶再用下載工具將資源從服務(wù)器取到自己本機(jī)，具備無需掛機(jī)等待、高速的特點(diǎn)。本文所述的是利用成熟的P2P下載工具BitComet、eMule進(jìn)行二次開發(fā)，對用戶提供離線下載服務(wù)的方法，該方法同時支持HTTP、BT、ED2K、MAGNET多種下載方式。而且在服務(wù)端可以分布運(yùn)行多個P2P下載工具，以滿足客戶端的大量用戶下載請求，下載任務(wù)在各個下載引擎上的分配由服務(wù)端統(tǒng)一調(diào)度管理。

離線下載；p2p；BT；ED2K；下載任務(wù)管理；下載引擎

1.引言

在傳統(tǒng)下載方式中，一般是把文件由服務(wù)器端傳送到客戶端，例如FTP，HTTP等等。由于是從一臺服務(wù)器下載，服務(wù)器所提供的帶寬是一定的，因而下載人越多速度越慢。但是這樣就出現(xiàn)了一個問題，隨著用戶的增多，對帶寬的要求也隨之增多，用戶過多就會造成瓶頸，而且搞不好還會把服務(wù)器掛掉，所以很多的服務(wù)器會都有用戶人數(shù)的限制，這樣即使你使用的是寬帶網(wǎng)，通常也很難達(dá)到運(yùn)營商許諾的最高下載速度，這里面固然有網(wǎng)絡(luò)的原因，但與服務(wù)器的限制也不無關(guān)系。

隨著P2P技術(shù)的出現(xiàn)，用戶可以充分利用網(wǎng)絡(luò)帶寬，人可以直接連接到其他用戶的計(jì)算機(jī)、交換文件，而不是像過去那樣連接到服務(wù)器去瀏覽與下載，改變互聯(lián)網(wǎng)現(xiàn)在的以大網(wǎng)站為中心的狀態(tài)、重返”非中心化”，并把權(quán)力交還給用戶。目前常用的P2P工具有支持BitTorrent協(xié)議的比特彗星BitComet，支持ED2K協(xié)議的電騾eMule。

但用戶使用P2P工具下載電影、游戲大型資源，或者冷門資源時，用戶就得下很久，有時需要花費(fèi)幾天的時間，期間用戶必須長期掛機(jī)以保證下載任務(wù)的不中斷，給用戶的設(shè)備使用帶來了很多不便和限制。

我們在此依托成熟的工具和技術(shù)，實(shí)現(xiàn)了一種離線下載的服務(wù)方案。將比特彗星BitComet和電騾eMule運(yùn)行在服務(wù)端，用戶通過web頁面向服務(wù)端提交下載請求，服務(wù)端接受情況后，會根據(jù)下載請求的類型，分布將請求加載到這些P2P工具的中，生成下載任務(wù)，由這些工具在服務(wù)端利用高速的帶寬進(jìn)行下載，或者由服務(wù)器掛機(jī)“代”用戶下載冷門資源。而用戶的設(shè)備在成果提交完下載任務(wù)請求后，就可斷開網(wǎng)絡(luò)或者關(guān)機(jī)。用戶可以隨時訪問離線下載的服務(wù)頁面，查詢自己要求資源的下載進(jìn)度，當(dāng)看到下載完成后，就可以一次性地取回下載文件，完成下載過程。

圖1

我們提供的離線下載服務(wù)，是幫助用戶提供了一個下載代理，用戶只需提交下載請求，由我們的下載代理保持在線，幫助用戶完成下載任務(wù)。而這些代理的實(shí)現(xiàn)，我們使用的是比特彗星、電騾這樣的成熟穩(wěn)定工具，避免了完全從P2P底層協(xié)議進(jìn)行開發(fā)，同時可以更好地利用網(wǎng)絡(luò)中的已有資源點(diǎn)。

2.技術(shù)方案原理及實(shí)現(xiàn)

離線下載原理如下：

(1)用戶通過Web頁面提交一個下載請求。

圖2

圖3

(2)服務(wù)端的下載任務(wù)管理器接收到請求后，首先查詢提交的下載鏈接是否被下載過。如果已下載過，直接把已下載的資源文件復(fù)制到服務(wù)器上用戶的個人儲存空間；如果沒有，就將用戶的下載請求轉(zhuǎn)發(fā)到一個下載引擎模塊。

(3)每個下載引擎模塊管理著一個BitComet和eMule下載工具，下載引擎判斷下載任務(wù)類型，如果是BT下載，則通過BitComet的http管理接口，將任務(wù)添加到BitComet的下載任務(wù)中，并開始下載；如果是ED2K下載，則通過eMule的http管理接口，將任務(wù)添加到eMule的下載任務(wù)中，并開始下載。

(4)BitComet和eMule下載工具執(zhí)行下載任務(wù)，并由下載引擎模塊通過他們的http管理接口查詢下載進(jìn)度。

(5)下載完成后，用戶在Web頁面上可以查詢到下載進(jìn)度已為100%，用戶可以通過工具從本人的存儲空間一次性取回自己的文件。

系統(tǒng)采用典型的分層架構(gòu)，為了信息隱匿的需要，要求每一層只能調(diào)用其下一層的接口。每層都根據(jù)業(yè)務(wù)需求提供最低限度的接口，保證層次之間的依賴僅僅停留在接口級別。系統(tǒng)結(jié)構(gòu)如圖1。

離線下載系統(tǒng)包括：用戶離線下載Portal頁面、下載任務(wù)管理模塊、下載引擎模塊、文件管理模塊。

2.1 離線下載Portal頁面

對用戶以WEB頁面的方式提供離線下載功能使用。用戶離線下載Portal頁面通過調(diào)用下載任務(wù)管理模塊的下載管理接口提供給用戶添加、刪除、暫停、啟動下載任務(wù)及強(qiáng)制重新下載的功能。其中，強(qiáng)制重新下載的使用場景為，有可能系統(tǒng)下載歷史中的某一文件特征碼對應(yīng)的文件已經(jīng)不合實(shí)際，用戶根據(jù)系統(tǒng)下載歷史所獲取的文件并非用戶所需要的文件，則用戶可使用強(qiáng)制重新下載功能，讓系統(tǒng)刪除該文件特征碼對應(yīng)的下載文件并重新下載。

用戶離線下載Portal網(wǎng)站可通過查詢數(shù)據(jù)庫獲取用戶的已完成下載任務(wù)及下載歷史。Protal網(wǎng)站需要分為正在下載任務(wù)列表及已完成下載列表兩個界面，正在下載任務(wù)列表中的任務(wù)清單及狀態(tài)是通過下載任務(wù)管理模塊的查詢接口中返回；而已完成下載列表的數(shù)據(jù)則通過查詢數(shù)據(jù)庫表獲取。

2.2 下載任務(wù)管理模

下載任務(wù)管理模塊通過讀取數(shù)據(jù)庫中的配置信息，以獲取各下載引擎模塊的信息。

下載任務(wù)管理模塊以HTTP+JSON方式提供給用戶離線下載Portal頁面調(diào)用，用于提供網(wǎng)站查詢用戶的下載任務(wù)列表、添加用戶下載任務(wù)、刪除用戶下載任務(wù)、暫停用戶下載任務(wù)、啟動用戶下載任務(wù)、強(qiáng)制重新下載。其中強(qiáng)制重新下載時，系統(tǒng)刪除該文件特征碼對應(yīng)的下載文件并重新下載。

下載任務(wù)管理模塊通過定時調(diào)用各下載引擎的查詢下載任務(wù)接口，以獲取最新的下載任務(wù)狀態(tài)，并更新系統(tǒng)任務(wù)列表。對于下載完成的任務(wù)，需要將下載文件移動到系統(tǒng)備份空間，并復(fù)制到相應(yīng)用戶的個人存儲空間上。下載完成后，還需要通知下載引擎刪除該完成的任務(wù)。

2.3 下載引擎模塊

下載引擎模塊代理第三方下載工具(BitComet及eMule)的下載控制操作，屏蔽各種下載工具的差異。根據(jù)配置信息，初始化本機(jī)上的第三方下載工具接口。

下載引擎模塊以HTTP+JSON方式提供文件下載接口給下載任務(wù)管理模塊調(diào)用，用于提供下載任務(wù)管理模塊獲取下載引擎節(jié)點(diǎn)上的下載任務(wù)列表、添加下載任務(wù)、刪除下載任務(wù)、暫停下載任務(wù)、啟動下載任務(wù)。

下載引擎模塊需要增加消息隊(duì)列以保證發(fā)向下載工具的操作是單線程操作，以確保操作順序。

下載引擎模塊對BitComet工具進(jìn)行遠(yuǎn)程暫停、刪除、啟動操作之前，需要先做一次獲取BitComet下載列表的操作，并根據(jù)特征碼找出BitComet的taskid，再進(jìn)行暫停、刪除、啟動操作。

2.4 文件管理模塊

離線下載的文件往往是較大的文件，如果通過網(wǎng)絡(luò)連接來進(jìn)行頻繁的復(fù)制、移動操作將影響網(wǎng)絡(luò)帶寬及操作時間過長。

文件管理模塊則在文件服務(wù)器上的一個應(yīng)用模塊，用于接受下載任務(wù)管理模塊發(fā)出的下載文件復(fù)制、移動、刪除操作，并最終于文件服務(wù)器上，通過外調(diào)操作系統(tǒng)命令進(jìn)行文件的復(fù)制、移動及刪除。經(jīng)過測試，直接使用外調(diào)操作系統(tǒng)命令進(jìn)行大文件的復(fù)制速度是最快的，比使用NIO或管道等方式都快。

參考代碼如下：

3.關(guān)鍵用例

離線下載系統(tǒng)中添加下載任務(wù)和刪除下載任務(wù)的活動圖分別如圖2和圖3。

4.離線下載的應(yīng)用

基于該種設(shè)計(jì)方案的離線下載系統(tǒng)，已經(jīng)在北京聯(lián)通寬帶業(yè)務(wù)中心上線試運(yùn)行。該系統(tǒng)充分利用了北京聯(lián)通寬帶業(yè)務(wù)中心的網(wǎng)絡(luò)帶寬優(yōu)勢，通過在多臺服務(wù)上部署多個下載引擎，每個引擎各管理一套BitComet和eMule的方法，以滿足公網(wǎng)上大用戶量的下載任務(wù)請求。實(shí)用中表明，對于一些冷門資源，文件大小雖然只有600M，但完成下載所需的時間卻是57小時34分鐘，下載完成后取回到用戶本地只需要10多分鐘。通過離線下載系統(tǒng)大大提高了用戶的下載效率。

5.結(jié)語

本文所設(shè)計(jì)的離線下載方案，避免了完全從P2P底層協(xié)議開發(fā)或者掌握龐大的P2P開源代碼工程，利用成熟的P2P下載工具，通過分析這些工具的外部管理接口，而達(dá)到向工具中加載下載任務(wù)，啟動、暫停等控制下載任務(wù)，提供一種快速實(shí)現(xiàn)的離線下載服務(wù)。并且依靠成熟工具的穩(wěn)定性來保障了服務(wù)的穩(wěn)定性。通過離線下載服務(wù)，提高了用戶下載的效率，釋放了本地設(shè)備的使用，充分利用了服務(wù)端的帶寬資源和設(shè)備資源。隨著系統(tǒng)商業(yè)度的提供，將會為服務(wù)提供商帶來良好的經(jīng)濟(jì)效益。

[1]茹林.P2P網(wǎng)絡(luò)中多線程下載的研究[Z].大連海事大學(xué),2009.

[2]林泓,何巍.利用JXTA平臺實(shí)現(xiàn)P2P服務(wù)的研究[J].武漢理工大學(xué)學(xué)報(信息與管理工程版),2005(02).