劉詠平 吳玉婷 劉杰 郝剛

摘要：為了解決高性能云計(jì)算環(huán)境中計(jì)算資源利用率不高、短期用戶需求大的問(wèn)題，本文提出一種基于多負(fù)載均衡的自適應(yīng)云計(jì)算資源管理模型，通過(guò)采用多種負(fù)載均衡實(shí)現(xiàn)算法，并動(dòng)態(tài)地根據(jù)現(xiàn)有任務(wù)分配來(lái)評(píng)估，最終由評(píng)估結(jié)果使用最優(yōu)負(fù)載均衡，使得等待作業(yè)可以高效地均衡分布在不同的資源上運(yùn)行，從而增加系統(tǒng)的吞吐量及性能。

關(guān)鍵詞：云計(jì)算;資源管理;按需切換

中圖分類號(hào)：TP391? ? ?文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1009-3044（2021）10-0060-03

1引言

目前大部分鋁型材企業(yè)對(duì)生產(chǎn)模具的管理主要通過(guò)建立模具管理倉(cāng)庫(kù)對(duì)模具進(jìn)行統(tǒng)一管理，并在模具上粘貼二維碼用于識(shí)別模具型號(hào)。由于鋁材的生產(chǎn)過(guò)程需要經(jīng)過(guò)多個(gè)流通環(huán)節(jié)（出庫(kù)、拋光、加熱、上機(jī)、下機(jī)、堿洗、包膜、入庫(kù)等），且其中存在的多個(gè)環(huán)節(jié)需要經(jīng)過(guò)高溫及堿洗，使得模具上粘貼的二維碼極易失效。為保證對(duì)模具的每一個(gè)環(huán)節(jié)做好記錄，需要人為對(duì)二維碼失效的模具重新粘貼上二維碼。二維碼標(biāo)簽的重復(fù)粘貼大大降低了工業(yè)生產(chǎn)的效率，且多次人為識(shí)別模具編碼制作二維碼的過(guò)程增加了模具記錄的錯(cuò)誤率。因此需要一種新的技術(shù)方案實(shí)現(xiàn)模具編碼識(shí)別，提高生產(chǎn)模具管理的便利性。

2相關(guān)工作

Mask RCNN模型去完成特定的目標(biāo)檢測(cè)任務(wù)時(shí)，一般通過(guò)保持原始模型的主體結(jié)構(gòu)，簡(jiǎn)單修改模型最后的輸出層，并使用特定任務(wù)的訓(xùn)練樣本對(duì)模進(jìn)行訓(xùn)練，以此實(shí)現(xiàn)將模型用于特定任務(wù)。雖然模型在眾多公開數(shù)據(jù)集[1， 2]均取得了優(yōu)異的結(jié)果，但是由于眾多公開數(shù)據(jù)集主要由自然場(chǎng)景訓(xùn)練樣本組成，無(wú)法保證針對(duì)特定的工業(yè)生產(chǎn)環(huán)境圖片下模型還具有良好的表現(xiàn)。而針對(duì)一個(gè)特定任務(wù)重新設(shè)計(jì)出一個(gè)性能良好的網(wǎng)絡(luò)模型需要大量專業(yè)先驗(yàn)知識(shí)，且消耗大量的人力物力。針對(duì)這一問(wèn)題，神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索技術(shù)的出現(xiàn)實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的自動(dòng)搜索。目前的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索策略主要有進(jìn)化算法[3]、強(qiáng)化學(xué)習(xí)[4]、可微分[5]三種。[3]遺傳算法策略雖然能夠搜索到表現(xiàn)優(yōu)秀的網(wǎng)絡(luò)的結(jié)構(gòu)，但是其效率極其低下，需要消耗大量的計(jì)算資源。NASNet[4]使用強(qiáng)化學(xué)習(xí)策略，在cifar-10集imagenet數(shù)據(jù)集[1]上得到了優(yōu)秀的結(jié)果，但是其同樣需要消耗巨大的計(jì)算力;NASNet[4]要求2000gpu天才能得到最好的結(jié)果。NAS-FPN[6]在maskrcnn[6]模型基礎(chǔ)上成功的搜索出了一個(gè)目前最優(yōu)的特征金字塔結(jié)構(gòu)，NAS-FPN[6]無(wú)論是在參數(shù)量，計(jì)算時(shí)間，準(zhǔn)確率都要優(yōu)于目前最好的模型，但該模型需要在100塊TPU上完成訓(xùn)練。各類優(yōu)化策略如ENAS[7]通過(guò)共享權(quán)重的方式使網(wǎng)絡(luò)能夠在0.5GPU天下收斂，但是效果上沒有超過(guò)人為設(shè)計(jì)的網(wǎng)絡(luò)。NAO[8]則通過(guò)將架構(gòu)嵌入到連續(xù)潛在空間中利用梯度下降將進(jìn)行優(yōu)化，將搜索代價(jià)縮減到200GPU天?；诳晌⒎值纳窠?jīng)架構(gòu)搜索策略DARTs[18]通過(guò)共享網(wǎng)絡(luò)結(jié)構(gòu)并從中采樣網(wǎng)絡(luò)子結(jié)構(gòu)的形式取代單獨(dú)的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行訓(xùn)練的方式進(jìn)行網(wǎng)絡(luò)搜索，這一措施使模型在Cifar數(shù)據(jù)集下能只用1個(gè)GPU天便使模型收斂，大大降低了網(wǎng)絡(luò)搜索的成本，且能遷移到Imagenet[1]數(shù)據(jù)集上得到很好的表現(xiàn)。HNAS[10]則是在[5， 9]的基礎(chǔ)上將細(xì)胞級(jí)的搜索策略上升到了網(wǎng)絡(luò)級(jí)的搜索策略，并成功應(yīng)用于語(yǔ)義分割上面，得到目前最優(yōu)的結(jié)果?；诳晌⒎值纳窠?jīng)架構(gòu)搜索策略[5， 9]在訓(xùn)練時(shí)間上均只需要幾個(gè)GPU天，便能得到優(yōu)秀的網(wǎng)絡(luò)結(jié)構(gòu)。

本文提出了一種基于Mask RCNN的模具編碼識(shí)別方案。同時(shí)考慮到各種方法對(duì)Mask RCNN進(jìn)行改進(jìn)的模型無(wú)法保證針對(duì)模具編碼檢測(cè)任務(wù)效果的問(wèn)題，重新設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)的不便性以及基于強(qiáng)化學(xué)習(xí)進(jìn)行架構(gòu)搜索計(jì)算資源消耗大的問(wèn)題。本文在保持Mask RCNN網(wǎng)絡(luò)的主體結(jié)構(gòu)（特征提取網(wǎng)絡(luò)，F(xiàn)PN，RPN網(wǎng)絡(luò)）的基礎(chǔ)上，基于DARTs[5]構(gòu)建RCNN網(wǎng)絡(luò)，解決了面向公開數(shù)據(jù)集訓(xùn)練得到的模型無(wú)法適應(yīng)模具編碼識(shí)別任務(wù)的問(wèn)題。

3 基于Mask RCNN的模具編碼識(shí)別方法研究

基于Mask RCNN構(gòu)建的模具編碼識(shí)別網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。由于模具編碼中存在數(shù)字6，9，且無(wú)法保證輸入圖片的方向，直接使用目標(biāo)檢測(cè)算法進(jìn)行模具編碼識(shí)別會(huì)造成數(shù)字6、9分類的巨大的錯(cuò)誤率。因此，本文通過(guò)在輸入圖片時(shí)通過(guò)級(jí)聯(lián)一個(gè)翻轉(zhuǎn)識(shí)別網(wǎng)絡(luò)以解決數(shù)字6、9分類錯(cuò)誤率高的問(wèn)題。在翻轉(zhuǎn)網(wǎng)絡(luò)對(duì)輸入進(jìn)行圖片處理后再送到下級(jí)網(wǎng)絡(luò)。下級(jí)則是基于darts對(duì)Mask RCNN中的rcnn網(wǎng)絡(luò)進(jìn)行優(yōu)化搭建的目標(biāo)檢測(cè)網(wǎng)絡(luò)。

本文以[14]的研究為基礎(chǔ)，使用cell作為模型結(jié)構(gòu)搜索的單位。本文設(shè)定網(wǎng)絡(luò)邊界操作集合θ=（3X3，5X5可分離卷積，3X3，5X5空洞卷積，3X3最大池化，3X3均值池化，跳躍連接，0連接）。設(shè)定每個(gè)cell包包含七個(gè)節(jié)點(diǎn)，其中兩個(gè)輸入，一個(gè)輸出，四個(gè)內(nèi)部節(jié)點(diǎn)，節(jié)點(diǎn)間通過(guò)有向無(wú)環(huán)進(jìn)行連接。設(shè)o（i， j）表示結(jié)點(diǎn)x（i）和x（j）的操作連接，那么可得：

設(shè)θ表示o（i）操作作用于x（i）的操作集合。使用公式（2）進(jìn)行操作連續(xù)松弛：

其中a（i，j）表示兩個(gè)結(jié)點(diǎn)直接的連接權(quán)重，經(jīng)過(guò)公式（2）的松弛之后，模型結(jié)構(gòu)搜索的任務(wù)轉(zhuǎn)變成了對(duì)連續(xù)變量a的學(xué)習(xí)。a參數(shù)學(xué)習(xí)過(guò)程示意圖如下：

圖2（a）表示初始網(wǎng)絡(luò)結(jié)點(diǎn)未知;圖2（b）給定集合中操作將結(jié)點(diǎn)連接并將參數(shù)進(jìn)行連續(xù)松弛;圖2（c）通過(guò)混合概率優(yōu)化解決網(wǎng)絡(luò)結(jié)點(diǎn)α及w權(quán)重的雙重優(yōu)化問(wèn)題;最后通過(guò)最大化可能操作得到一個(gè)離散的網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)如圖4（d）所示。最終將多個(gè)cell進(jìn)行堆疊得到完整網(wǎng)絡(luò)結(jié)構(gòu)。

基于DARTs構(gòu)建的RCNN網(wǎng)絡(luò)以RoIAlign輸出為輸入。網(wǎng)絡(luò)損失函數(shù)Loss = Ldarts+Lmask，其中Ldarts = Lcls+Lbox。

3 實(shí)驗(yàn)結(jié)果及分析

為了驗(yàn)證本文算法有效性，建立實(shí)驗(yàn)仿真環(huán)境：CPU處理器為i7 8700，內(nèi)存為16GB，顯卡為GTX 1080Ti X2，硬盤為2T，實(shí)驗(yàn)平臺(tái)為Ubuntu 18.04。

數(shù)據(jù)集中圖片的尺寸不統(tǒng)一，因此在將圖片送入到翻轉(zhuǎn)檢測(cè)網(wǎng)絡(luò)之前，將圖片進(jìn)行雙線性插值法統(tǒng)一圖片尺寸為244X244。同時(shí)使用imagenet數(shù)據(jù)集構(gòu)建預(yù)訓(xùn)練模型，訓(xùn)練過(guò)程中固化卷積層參數(shù)，只對(duì)全連接層進(jìn)行訓(xùn)練。設(shè)定學(xué)習(xí)率為0.001，迭代次數(shù)為1000。

MASK R-CNN網(wǎng)絡(luò)特征提取使用resnet101預(yù)訓(xùn)練模型，選擇resnet101的conv4作為特征輸出圖。設(shè)定scales為[68， 128， 256]，設(shè)定縱橫比為[1， 2];設(shè)置IOU閾值為0.5用于進(jìn)行非極大值框融合，設(shè)置預(yù)測(cè)結(jié)果閾值為0.85，拋棄分?jǐn)?shù)小于0.85的預(yù)測(cè)框。設(shè)置學(xué)習(xí)率為0.003，迭代次數(shù)為300。

如表1所示，在IoU為0.5和0.75下，均有三個(gè)指標(biāo)性能（ac，miss，overall）優(yōu)于Mask RCNN和FAST RCNN模型：在IoU為0.5下，本文方法ac評(píng)價(jià)達(dá)到97.23%，優(yōu)于原始Mask RCNN 1.96%。在IoU為0.75下，本文方法ac評(píng)價(jià)達(dá)到81.27%，優(yōu)于原始Mask RCNN 4.83%.

4 結(jié)論及未來(lái)工作

本文提出的一種基于DARTs的Mask RCNN模具編碼識(shí)別方法。該方法首先定義網(wǎng)絡(luò)細(xì)胞結(jié)構(gòu)，然后用DARTs技術(shù)訓(xùn)練網(wǎng)絡(luò)細(xì)胞結(jié)構(gòu)，最后用訓(xùn)練后的網(wǎng)絡(luò)細(xì)胞堆疊重構(gòu)Mask RCNN網(wǎng)絡(luò)中的分類回歸分支，實(shí)現(xiàn)對(duì)模具編碼的Mask RCNN目標(biāo)檢測(cè)網(wǎng)絡(luò)。實(shí)驗(yàn)結(jié)果表明，在IoU為0.5下，本文方法比傳統(tǒng)MASK RCNN方法的檢測(cè)性能提升約1.96%;在IoU為0.75下，本文方法比傳統(tǒng)MASK RCNN方法的檢測(cè)性能提升約4.83%。

參考文獻(xiàn)：

[1] Deng， J.， et al. Imagenet： A large-scale hierarchical image database. in 2009 IEEE conference on computer vision and pattern recognition. 2009. Ieee.

[2] Lin， T.-Y.， et al. Microsoft coco： Common objects in context. in European conference on computer vision. 2014. Springer.

[3] Real， E.， et al.， Regularized evolution for image classifier architecture search. arXiv preprint arXiv：1802.01548， 2018.

[4] Zoph， B.， et al. Learning transferable architectures for scalable image recognition. in Proceedings of the IEEE conference on computer vision and pattern recognition. 2018.

[5] Liu， H.， K. Simonyan， and Y. Yang， Darts： Differentiable architecture search. arXiv preprint arXiv：1806.09055， 2018.

[6] Ghiasi， G.， T.-Y. Lin， and Q.V. Le. Nas-fpn： Learning scalable feature pyramid architecture for object detection. in Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2019.

[7] Pham， H.， et al.， Efficient neural architecture search via parameter sharing. arXiv preprint arXiv：1802.03268， 2018.

[8] Luo， R.， et al. Neural architecture optimization. in Advances in neural information processing systems. 2018.

[9] Liu， C.， et al.， Auto-DeepLab： Hierarchical Neural Architecture Search for Semantic Image Segmentation. arXiv preprint arXiv：1901.02985， 2019.

[10] Shin， R.， C. Packer， and D. Song， Differentiable neural network architecture search. 2018.

【通聯(lián)編輯：梁書】