剪枝
- 基于中間圖特征提取的卷積網(wǎng)絡(luò)雙標(biāo)準(zhǔn)剪枝
量化、知識蒸餾、剪枝等［8-9］，其中，低秩分解是通過分解權(quán)重矩陣的方式來減少網(wǎng)絡(luò)的計算量。LI 等［10］提出一種基于內(nèi)核分解的算法，同時設(shè)計相關(guān)的微架構(gòu)，可以最大限度地優(yōu)化卷積網(wǎng)絡(luò)。量化算法以占用較少存儲空間的低精度參數(shù)權(quán)值來替代卷積神經(jīng)網(wǎng)絡(luò)中的高精度浮點型參數(shù)，目前最常見的是采用8 位整型參數(shù)來替代原有網(wǎng)絡(luò)中的32 位浮點型參數(shù)。HAN 等［11］提出基于量化和哈夫曼編碼的網(wǎng)絡(luò)壓縮方法，在AlexNet 網(wǎng)絡(luò)上獲得了35 倍的壓縮比。知識蒸餾的主要思
計算機(jī)工程 2023年3期2023-03-16
- 基于稀疏深度神經(jīng)網(wǎng)絡(luò)的電磁信號調(diào)制識別*
5-14]。模型剪枝作為模型壓縮中較為核心的方法，它可以清除網(wǎng)絡(luò)中冗余的參數(shù)與計算量。文獻(xiàn)[15]基于權(quán)重修剪網(wǎng)絡(luò)中不重要的連接，在ImageNet數(shù)據(jù)集上，在不損失精度的同時將AlexNet和VGG-16的參數(shù)數(shù)量分別減少了9倍和13倍。文獻(xiàn)[16]對整個層進(jìn)行修剪，提出一種結(jié)構(gòu)化稀疏學(xué)習(xí)(Structured Sparsity Learning，SSL)方法來正則化深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network，DNN)的結(jié)構(gòu)，將20層的ResN
電訊技術(shù) 2023年2期2023-03-02
- 分塊壓縮學(xué)習(xí)剪枝算法
縮[3].而網(wǎng)絡(luò)剪枝技術(shù)是模型壓縮中常用的方法，并在處理復(fù)雜網(wǎng)絡(luò)模型效率上展現(xiàn)顯著優(yōu)勢[4].網(wǎng)絡(luò)剪枝技術(shù)是去除網(wǎng)絡(luò)中冗余的參數(shù)和結(jié)構(gòu)以得到稀疏的網(wǎng)絡(luò)結(jié)構(gòu)，可分為非結(jié)構(gòu)化剪枝和結(jié)構(gòu)化剪枝.非結(jié)構(gòu)化剪枝通過去除每層不重要的權(quán)值以實現(xiàn)權(quán)重矩陣較高的稀疏度，Han等[5]提出基于閾值的剪枝方法去除網(wǎng)絡(luò)中冗余的權(quán)值，刪除權(quán)值絕對值低于閾值的權(quán)重參數(shù).但非結(jié)構(gòu)化剪枝的實現(xiàn)需要借助特定的軟件[6]和硬件[7]，將帶來額外的計算成本.相比非結(jié)構(gòu)化剪枝，結(jié)構(gòu)化剪枝通過去除
小型微型計算機(jī)系統(tǒng) 2023年2期2023-02-17
- 面向垃圾圖像分類的改進(jìn)注意力機(jī)制剪枝算法*
為研究熱點。模型剪枝具有原理簡單、易實現(xiàn)、壓縮效果顯著的特點，被廣泛應(yīng)用于模型壓縮。剪枝主要分為非結(jié)構(gòu)化剪枝和結(jié)構(gòu)化剪枝，其中非結(jié)構(gòu)化剪枝的模型需要專門的算法或硬件結(jié)構(gòu)才能實現(xiàn)加速[2]；結(jié)構(gòu)化剪枝是對通道、卷積核等結(jié)構(gòu)進(jìn)行剪枝，不依靠特定的軟硬件平臺，更有利于嵌入式設(shè)備的部署，目前得到了廣泛應(yīng)用。如何準(zhǔn)確評價網(wǎng)絡(luò)結(jié)構(gòu)的重要程度是結(jié)構(gòu)化剪枝過程中的主要問題。Li等人提出將濾波器的L1范數(shù)作為衡量標(biāo)準(zhǔn)[3]；Hassibi等人利用誤差函數(shù)的二階導(dǎo)數(shù)去對權(quán)重的
科學(xué)與信息化 2022年24期2023-01-05
- 融合改進(jìn)通道和層剪枝的口罩人臉檢測*
標(biāo)檢測算法和模型剪枝算法，針對實際場景中的目標(biāo)檢測算法構(gòu)建，提出一種融合通道和層剪枝的模型剪枝方法，以YOLOv4目標(biāo)檢測算法作為初始模型在口罩人臉數(shù)據(jù)集上進(jìn)行剪枝，并將剪枝后的模型與原模型以及YOLOv4的輕量化模型YOLOv4-tiny進(jìn)行對比實驗。本文主要貢獻(xiàn)如下：(1)構(gòu)建用于人臉口罩檢測的數(shù)據(jù)集，能更好地檢測口罩佩戴不完全的情況。(2)提出一種融合通道和層剪枝的模型剪枝方法，可以顯著減少模型的參數(shù)量，便于實時部署。(3)使用本文所提方法在構(gòu)建的人
計算機(jī)工程與科學(xué) 2022年3期2022-12-22
- 基于網(wǎng)絡(luò)特征的分層剪枝方法
方法之一, 模型剪枝技術(shù)[6]已被證明是一種有效的方法[7-11], 可在盡量不損失精度(甚至更好)的情況下減小模型體積. 在剪枝技術(shù)中, 基于權(quán)重的剪枝是一種常用方法. 在范圍上, 剪枝技術(shù)可分為全局剪枝和分層剪枝. 分層剪枝方法對每層的參數(shù)單獨(dú)進(jìn)行處理, 如果某個參數(shù)低于該層的重要性最低閾值, 則將其裁剪掉. 例如： 使用權(quán)重的絕對值衡量重要性, 先移除權(quán)重值低于閾值的所有參數(shù), 然后重新訓(xùn)練剩余的稀疏網(wǎng)絡(luò)[8]或?qū)⑹Ｓ鄼?quán)重恢復(fù)到初始狀態(tài)再進(jìn)行訓(xùn)練[1
吉林大學(xué)學(xué)報（理學(xué)版） 2022年6期2022-11-20
- 在軌目標(biāo)檢測模型結(jié)構(gòu)化條帶剪枝
分解、知識蒸餾、剪枝以及量化中的一種或多種方式來降低模型參數(shù)量和計算量.其中，剪枝是模型壓縮的重要手段之一.通過將深度模型中不重要的參數(shù)或者卷積核剪除掉，從而實現(xiàn)降低模型復(fù)雜度的目的.按照剪枝粒度可以將剪枝分為結(jié)構(gòu)化剪枝和非結(jié)構(gòu)化剪枝.非結(jié)構(gòu)化剪枝的對象是模型中的單個參數(shù)，被剪參數(shù)不具有任何結(jié)構(gòu).結(jié)構(gòu)化剪枝的對象是卷積核、通道或者分組.無論結(jié)構(gòu)化剪枝還是非結(jié)構(gòu)化剪枝，如何確定被剪除的參數(shù)是一個核心問題.權(quán)重剪枝可以追溯到OBD(optimal brain
空間控制技術(shù)與應(yīng)用 2022年5期2022-11-02
- 基于可融合殘差卷積塊的深度神經(jīng)網(wǎng)絡(luò)模型層剪枝方法
度神經(jīng)網(wǎng)絡(luò)模型層剪枝方法徐鵬濤 曹健?孫文宇 李普 王源 張興?北京大學(xué)軟件與微電子學(xué)院, 北京 102600; ?通信作者, E-mail: caojian@ss.pku.edu.cn (曹健), zhx@pku.edu.cn (張興)針對當(dāng)前主流的剪枝方法所獲得的壓縮模型推理時間較長和效果較差的問題, 提出一種易用且性能優(yōu)異的層剪枝方法。該方法將原始卷積層轉(zhuǎn)化為可融合殘差卷積塊, 然后通過稀疏化訓(xùn)練的方法實現(xiàn)層剪枝, 得到一種具有工程易用性的層剪枝方法
北京大學(xué)學(xué)報（自然科學(xué)版） 2022年5期2022-10-11
- 基于梯度追蹤的結(jié)構(gòu)化剪枝算法
餾[10]和網(wǎng)絡(luò)剪枝[5，11-12]等。他們在追求高精度的同時，能夠降低過參數(shù)化網(wǎng)絡(luò)的計算代價以及存儲需求。濾波器剪枝能夠剪除原始網(wǎng)絡(luò)中的冗余卷積核，從而獲得小網(wǎng)絡(luò)，有效降低模型的運(yùn)算量和存儲量。作為模型壓縮技術(shù)，濾波器剪枝有以下幾個優(yōu)勢：首先，它可以應(yīng)用于CNN的任何任務(wù)中，比如目標(biāo)檢測，人臉識別和語義分割等。其次，濾波器剪枝可以在顯著減少FLOPs、加快推理速度的同時，不會損壞網(wǎng)絡(luò)結(jié)構(gòu)。因此，可以利用其它模型壓縮技術(shù)(例如，知識蒸餾[10]、量化[8
計算機(jī)仿真 2022年8期2022-09-28
- 模型剪枝算法綜述
1]中研究人員將剪枝、模型量化與霍夫曼編碼結(jié)合將AlexNet模型參數(shù)壓縮至原模型的2.8%,將VGG-16參數(shù)壓縮至原模型的2.0%。1 問題描述本文主要介紹針對于模型剪枝方面的算法。模型壓縮算法主要分為剪枝、量化、低秩分解與知識蒸餾4個方面。剪枝的過程如圖1所示。在文獻(xiàn)[2]中提出在深度神經(jīng)網(wǎng)絡(luò)中權(quán)重參數(shù)存在顯著冗余，僅僅使用一小部分權(quán)重就可以預(yù)測出其余的權(quán)重。因此，網(wǎng)絡(luò)中的大多數(shù)權(quán)重并不需要學(xué)習(xí)。訓(xùn)練網(wǎng)絡(luò)中小部分權(quán)重參數(shù)就可能達(dá)到和原網(wǎng)絡(luò)相近甚至超越
計算機(jī)與現(xiàn)代化 2022年9期2022-09-24
- 基于模型剪枝和知識蒸餾的船舶目標(biāo)檢測方法
等問題,本文采用剪枝技術(shù)來對模型進(jìn)行壓縮[2],并用知識蒸餾技術(shù)對剪枝后的模型進(jìn)行蒸餾,補(bǔ)償剪枝后模型的檢測精度損失.1 模型選取1.1 卷積神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)常用于分類與檢測等任務(wù)[3],主要由卷積層、池化層、全連接層組成.卷積層是通過感受野即卷積核在圖像上進(jìn)行滑動卷積,以此來提取圖像中不同維度的特征;將卷積層輸出的特征放到池化層中對特征圖進(jìn)行池化操作,池化層與卷積層相似,是在感受野上建立一個窗口來進(jìn)行滑動操作,從而達(dá)到特征降維的作用;將池化后輸出的特
南京工程學(xué)院學(xué)報（自然科學(xué)版） 2022年2期2022-08-16
- 基于權(quán)重和BN層剪枝的晶界檢測模型壓縮算法探析
加速方面大致分為剪枝與量化、低秩因子分解、遷移或壓縮卷積濾波器、蒸餾學(xué)習(xí)等4類方法[2]。其中，網(wǎng)絡(luò)剪枝主要指在網(wǎng)絡(luò)訓(xùn)練過程中尋求一種評判重要性的機(jī)制，剔除不重要的連接、節(jié)點甚至是卷積核，達(dá)到精簡網(wǎng)絡(luò)結(jié)構(gòu)的目的。相比于其他模型壓縮的方法，網(wǎng)絡(luò)剪枝算法不僅原理簡單且操作方便，還可以在不影響性能的前提下，通過設(shè)定恰當(dāng)?shù)?span id="djxztjn" class="hl">剪枝準(zhǔn)則去除網(wǎng)絡(luò)中對輸出特征貢獻(xiàn)小的無用部分。筆者旨在通過尋找合適的剪枝策略機(jī)制對晶界檢測EfficientDet網(wǎng)絡(luò)進(jìn)行模型壓縮，采用權(quán)重剪枝
- 工業(yè)場景下基于秩信息對YOLOv4的剪枝
對YOLOv4的剪枝秦曉1，2，成苗1，2，3*，張紹兵1，2，3，何蓮1，3，石向文1，2，王品學(xué)1，2，曾尚1，2（1.中國科學(xué)院 成都計算機(jī)應(yīng)用研究所，成都 610041；2.中國科學(xué)院大學(xué) 計算機(jī)科學(xué)與技術(shù)學(xué)院，北京 100049；3.深圳市中鈔科信金融科技有限公司，廣東 深圳 518206）（?通信作者電子郵箱chengmiao@cbpm?kexin.com）在工業(yè)場景無線射頻識別（RFID）實時缺陷檢測任務(wù)中，為了保證檢測精度以及速度常采用YO
計算機(jī)應(yīng)用 2022年5期2022-06-21
- 采用可替代濾波器的卷積神經(jīng)網(wǎng)絡(luò)模型剪枝方法
.將神經(jīng)網(wǎng)絡(luò)模型剪枝部署于移動邊緣設(shè)備具有優(yōu)勢[1]，在非結(jié)構(gòu)化修剪方式方面，Guo 等[2]提出一種動態(tài)的參數(shù)剪枝算法以逼近神經(jīng)網(wǎng)絡(luò)模型壓縮的理論極限.Carreira-Perpinán等[3]通過兩步(學(xué)習(xí)和壓縮)交替優(yōu)化的剪枝方法將原參數(shù)向約束表示的可行集投影，自動找到每層的最優(yōu)稀疏比.Ding等[4]通過一階泰勒展開式判斷剪枝對最終輸出造成的影響排序，網(wǎng)絡(luò)中的權(quán)重根據(jù)排序進(jìn)行分類.對造成影響較大的權(quán)重，采用常規(guī)的隨機(jī)梯度下降(SGD)更新，對其他的
華僑大學(xué)學(xué)報（自然科學(xué)版） 2022年2期2022-03-13
- 基于自動修補(bǔ)策略的網(wǎng)絡(luò)剪枝
低秩分解[6]、剪枝[7].剪枝作為一種加速預(yù)訓(xùn)練較大模型的方法，可進(jìn)一步分為非結(jié)構(gòu)化剪枝[8]和結(jié)構(gòu)化剪枝[9].結(jié)構(gòu)化剪枝可簡化為2個問題：1)如何判斷是否應(yīng)該剪去一個指定的卷積核;2)確定每層中應(yīng)該剪去多少個卷積核.現(xiàn)有的剪枝方法試圖最大限度地壓縮網(wǎng)絡(luò)而不造成太大的精度損失,大多數(shù)遵循相同流程：訓(xùn)練、剪枝、微調(diào).對于問題1)，通常使用人工規(guī)則選擇不重要的卷積核并將其剪去，剪枝過程方便快捷.一個典型的剪枝思想是:如果網(wǎng)絡(luò)中某個對象的值足夠小，就可對其進(jìn)
模式識別與人工智能 2022年1期2022-02-17
- 深度卷積神經(jīng)網(wǎng)絡(luò)的柔性剪枝策略
積神經(jīng)網(wǎng)絡(luò)的柔性剪枝策略陳靚1,2，錢亞冠1,2，何志強(qiáng)1,2，關(guān)曉惠3，王濱4，王星4（1. 浙江科技學(xué)院理學(xué)院/大數(shù)據(jù)學(xué)院，浙江 杭州 310023；2. ?？低?浙江科技學(xué)院邊緣智能安全聯(lián)合實驗室，浙江 杭州 310023； 3. 浙江水利水電學(xué)院信息工程與藝術(shù)設(shè)計學(xué)院，浙江 杭州 310023；4. 浙江大學(xué)電氣工程學(xué)院，浙江 杭州 310063）盡管深度卷積神經(jīng)網(wǎng)絡(luò)在多種應(yīng)用中取得了極大的成功，但其結(jié)構(gòu)的冗余性導(dǎo)致模型過大的存儲容量和過高的計算
電信科學(xué) 2022年1期2022-02-12
- 基于模塊相似性的超分網(wǎng)絡(luò)剪枝
5-17]和網(wǎng)絡(luò)剪枝(network pruning)[18-22]。量化是一種像素級別的壓縮方法，通過將全精度(32 bit)的權(quán)重(weights)、激活值(activations)以及梯度值(gradients)量化到低精度(如8 bit)，從而達(dá)到壓縮和加速網(wǎng)絡(luò)的目的。然而量化的方法需要軟硬件都支持低精度運(yùn)算，在使用范圍上大幅受限，并且容易帶來模型精度的明顯下降，并不適合所有網(wǎng)絡(luò)。而知識蒸餾則是使用一個復(fù)雜強(qiáng)大的教師網(wǎng)絡(luò)來監(jiān)督簡單小巧的學(xué)生網(wǎng)絡(luò)訓(xùn)練
電子科技大學(xué)學(xué)報 2022年1期2022-01-26
- 基于遷移學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)通道剪枝
層縮放因子的通道剪枝能否據(jù)此獲得更高的剪枝閾值，對其剪枝效果與迭代收斂性進(jìn)行研究驗證，并從結(jié)構(gòu)搜索的觀點對實驗結(jié)果進(jìn)行解釋。主要工作如下：1)從多分類大數(shù)據(jù)集向小數(shù)據(jù)集實現(xiàn)遷移，對比加載預(yù)訓(xùn)練權(quán)重初始化重新訓(xùn)練、與凍結(jié)部分卷積層參數(shù)微調(diào)對稀疏化效果產(chǎn)生的影響。2)對稀疏化后的通道按權(quán)重排序并剪枝，考察通道剪枝閾值選取容限，測試新形成網(wǎng)絡(luò)結(jié)構(gòu)的精度保持情況。3)進(jìn)一步地，利用迭代剪枝方法，探究模型精度保持極限與結(jié)構(gòu)收斂性。從而證明，遷移學(xué)習(xí)更易實現(xiàn)充分的權(quán)值
計算機(jī)與現(xiàn)代化 2021年12期2021-12-18
- 基于雙DDPG的全局自適應(yīng)濾波器剪枝方法
數(shù)量化［13］。剪枝，作為壓縮深度神經(jīng)網(wǎng)絡(luò)模型的主流方法之一，可以極大地減小內(nèi)存占用和推理運(yùn)算時間。在過去的十年內(nèi)，激起了廣大研究者的興趣。剪枝主要分為結(jié)構(gòu)化剪枝和非結(jié)構(gòu)化剪枝。非結(jié)構(gòu)化剪枝是將不重要的權(quán)值設(shè)置為0，從而實現(xiàn)高稀疏性，但是稀疏操作需要專門的硬件或者軟件庫來加快推理過程，因此限制了非結(jié)構(gòu)化剪枝的應(yīng)用。結(jié)構(gòu)化剪枝則是移除原始網(wǎng)絡(luò)中不重要的濾波器（通道）。這種濾波器（通道）級別的剪枝只是對網(wǎng)絡(luò)模型的架構(gòu)進(jìn)行修改，并不會影響它的實際可用性。本文致力
南京郵電大學(xué)學(xué)報(自然科學(xué)版) 2021年5期2021-11-24
- 利用KL散度度量通道冗余度的深度神經(jīng)網(wǎng)絡(luò)剪枝方法
近似[4]、權(quán)重剪枝[5-7]、參數(shù)量化[6]、二值化網(wǎng)絡(luò)[8]、知識蒸餾[9-11]、緊湊卷積濾波器設(shè)計[12]和通道剪枝[13-21]等。剪枝是實現(xiàn)網(wǎng)絡(luò)壓縮一種較為直接而且有效的方法，目前大多數(shù)剪枝算法都是先訓(xùn)練一個大型的復(fù)雜預(yù)訓(xùn)練模型，然后對這個模型進(jìn)行剪枝，從而得到一個性能不錯且較為緊湊的小模型。本文采用結(jié)構(gòu)化剪枝方法，利用KL散度定義通道的重要因子，根據(jù)重要因子對CNN的每層卷積層逐層進(jìn)行通道剪枝，從而達(dá)到減少網(wǎng)絡(luò)參數(shù)數(shù)量和FLOPs的目的。Li
計算機(jī)應(yīng)用與軟件 2021年11期2021-11-15
- 基于敏感度的YOLO網(wǎng)絡(luò)集成剪枝算法
量化方法主要包括剪枝［1-2］、低秩分解［3］、量化［4］、知識蒸餾［5-6］等。由于卷積神經(jīng)網(wǎng)絡(luò)中包含卷積層和全連接層等人為設(shè)定的訓(xùn)練參數(shù)模塊，這種憑借經(jīng)驗通過重復(fù)實驗得到的局部最優(yōu)超參數(shù)不能代表網(wǎng)絡(luò)的實際需求。根據(jù)深度卷積神經(jīng)網(wǎng)絡(luò)的新雙U 型偏差-方差風(fēng)險曲線［6］可知，在不考慮資源限制的條件下，參數(shù)越多、模型越復(fù)雜的網(wǎng)絡(luò)性能表現(xiàn)越好，但是過多參數(shù)的復(fù)雜模型沒有權(quán)衡成本和性能間的關(guān)系并且模型存在冗余。剪枝的目的是通過剪除網(wǎng)絡(luò)中冗余的模塊，從過參數(shù)化的復(fù)
計算機(jī)工程 2021年9期2021-09-15
- 基于全局信息的卷積神經(jīng)網(wǎng)絡(luò)模型剪枝微調(diào)優(yōu)化方法
縮方法, 如模型剪枝[1-5]、權(quán)重量化[6-9]和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)搜索[10-12]等。其中, 模型剪枝方法能大幅度地減少模型參數(shù)量和運(yùn)算量, 成為模型壓縮的主流方法, 又可分為非結(jié)構(gòu)化剪枝方法和結(jié)構(gòu)化剪枝方法。非結(jié)構(gòu)化剪枝方法[13]認(rèn)為卷積神經(jīng)網(wǎng)絡(luò)中存在小值權(quán)重, 對網(wǎng)絡(luò)最終輸出貢獻(xiàn)少, 可將其置 0,以便減少網(wǎng)絡(luò)運(yùn)算量。采用此類方法的模型壓縮效果較好, 但部署到端側(cè)設(shè)備時, 硬件平臺要具有相應(yīng)的稀疏矩陣運(yùn)算加速庫才能實現(xiàn)提速, 故非結(jié)構(gòu)化剪枝方法在部署
北京大學(xué)學(xué)報（自然科學(xué)版） 2021年4期2021-08-24
- 基于權(quán)重關(guān)聯(lián)性的卷積神經(jīng)網(wǎng)絡(luò)模型剪枝方法
破這種限制，模型剪枝成為了一種在維持模型精度的情況下，十分有效地壓縮和加速模型的方法.模型剪枝通過剪除模型中不重要的參數(shù)，來減少模型的參數(shù)量和相關(guān)的計算量，從而使得模型輕量化.模型剪枝按照移除的粒度大小可以被分為兩種類別：非結(jié)構(gòu)化剪枝[1]和結(jié)構(gòu)化的剪枝[2].非結(jié)構(gòu)化剪枝是一種對每個權(quán)重單獨(dú)進(jìn)行評估的方法，它將被認(rèn)為是冗余的權(quán)重置為零并移除.這樣的方法雖然可以更加精準(zhǔn)的判斷權(quán)重的重要性，但也存在著在實際應(yīng)用中難以部署落地，無法有效壓縮加速模型的問題.非結(jié)
小型微型計算機(jī)系統(tǒng) 2021年7期2021-07-08
- 基于改進(jìn)YOLOv4的安全帽佩戴檢測算法
后對模型進(jìn)行加速剪枝。實驗結(jié)果表明，提出的算法在檢測中mAP@0.5值提升了6.7%，檢測速度提升了35%，模型參數(shù)量減少了48%，改進(jìn)后的模型更適用于實際場景中對安全帽佩戴行為的識別。關(guān)鍵詞：安全帽佩戴檢測;YOLOv4網(wǎng)絡(luò);改進(jìn)K-means;CBAM;剪枝中圖分類號：TP391.4 ? ? ?文獻(xiàn)標(biāo)識碼：A文章編號：2096-4706（2021）22-0156-06Abstract： Aiming at the current problems in
現(xiàn)代信息科技 2021年22期2021-05-16
- 基于模型性能相關(guān)性的分級剪枝率剪枝方法
結(jié)構(gòu)[1]，所以剪枝的根本意義在于找出這些相關(guān)性不大的結(jié)構(gòu)，將其裁剪，從而簡化網(wǎng)絡(luò)結(jié)構(gòu)。目前的剪枝方法中，例如Louizos等、Hao Li等、Yang He等[2-4]提出的按照結(jié)構(gòu)正則化大小剪枝網(wǎng)絡(luò)的方法，He Yang等[5]、Lin Mingbao等[6]按照各種結(jié)構(gòu)之間相關(guān)性進(jìn)行裁剪，但是都沒有提出對深度卷積神經(jīng)網(wǎng)絡(luò)中的不同層設(shè)置不同剪枝量方法。盡管已有方法分析深度卷積神經(jīng)網(wǎng)絡(luò)各層對剪枝的敏感性[7]，但是此方法使用完整的深度卷積神經(jīng)網(wǎng)絡(luò)研究各層
計算機(jī)工程與設(shè)計 2021年4期2021-04-22
- 無人駕駛深度學(xué)習(xí)模型組合剪枝算法*
署到移動端。模型剪枝是一種網(wǎng)絡(luò)模型壓縮方法,對深度神經(jīng)網(wǎng)絡(luò)的稠密連接引入稀疏性,通過將“不重要”的權(quán)重刪掉來減少權(quán)重數(shù)量。LeCun Y等人[3]提出使用對角Hessian矩陣評價每個權(quán)重參數(shù)的重要性,將網(wǎng)絡(luò)中不重要的參數(shù)剔除,從而達(dá)到壓縮模型作用，方法能夠較好保證網(wǎng)絡(luò)測試準(zhǔn)確率,但對網(wǎng)絡(luò)加速效果有限；Hassibi B等人[4]提出使用逆 Hessian 矩陣評價每個權(quán)重的重要性,將重要性低的權(quán)重刪減,剩余權(quán)重使用二階泰勒確定損失函數(shù)值增量更新；Luo
傳感器與微系統(tǒng) 2021年3期2021-03-26
- 基于YOLOv3的卷積層結(jié)構(gòu)化剪枝
文中提出的結(jié)構(gòu)化剪枝就是一種對卷積神經(jīng)網(wǎng)絡(luò)壓縮和優(yōu)化的方法。網(wǎng)絡(luò)剪枝能夠通過去除模型中的部分連接加速卷積神經(jīng)網(wǎng)絡(luò)。剪枝的主要步驟是：訓(xùn)練原始網(wǎng)絡(luò)，更新網(wǎng)絡(luò)中各個參數(shù)的權(quán)值；對網(wǎng)絡(luò)中權(quán)重較低的參數(shù)進(jìn)行修剪；重新訓(xùn)練網(wǎng)絡(luò)，恢復(fù)神經(jīng)網(wǎng)絡(luò)精度[2]。剪枝可以分為結(jié)構(gòu)化剪枝和非結(jié)構(gòu)化剪枝兩類。結(jié)構(gòu)化剪枝相對非結(jié)構(gòu)化剪枝的最明顯特點是它產(chǎn)生的稀疏矩陣是有規(guī)則的，剪枝后網(wǎng)絡(luò)加速需要的運(yùn)算量更少[3]。結(jié)構(gòu)化剪枝按照剪枝依據(jù)可分為基于重要性和基于正則化的剪枝方法，本文采用
計算機(jī)工程與應(yīng)用 2021年6期2021-03-23
- 面向星上目標(biāo)提取的卷積神經(jīng)網(wǎng)絡(luò)優(yōu)化技術(shù)
幾類［2］：參數(shù)剪枝、權(quán)值量化、低秩分解、緊性卷積核設(shè)計和知識蒸餾。參數(shù)剪枝法通過對網(wǎng)絡(luò)進(jìn)行結(jié)構(gòu)或非結(jié)構(gòu)化的剪枝操作，將模型中冗余的參數(shù)進(jìn)行裁剪，從而降低網(wǎng)絡(luò)復(fù)雜度，并可在一定程度上防止過擬合。20 世紀(jì)末，CUN 等［3］和HASSIBI等［4］先后提出最優(yōu)腦損傷（Optimal Brain Damage，OBD）和最優(yōu)腦外科（Optimal Brain Surgeon，OBS）的參數(shù)剪枝方法，利用網(wǎng)絡(luò)的二階導(dǎo)數(shù)信息衡量參數(shù)的冗余性，從而對網(wǎng)絡(luò)進(jìn)行修剪。
上海航天 2021年1期2021-03-04
- 基于參數(shù)子空間和縮放因子的YOLO剪枝算法
括低秩近似算法、剪枝算法、量化算法、知識蒸餾算法和緊湊型網(wǎng)絡(luò)設(shè)計算法等。低秩近似算法是將稠密的滿秩矩陣表示為若干低秩矩陣的組合，低秩矩陣又分解為小規(guī)模矩陣的乘積，從而達(dá)到簡化的目的。文獻(xiàn)［11］提出一種線性組合卷積核基底算法，用f×1+1×f卷積核替代f×f卷積核進(jìn)行低秩近似。剪枝算法是通過修剪神經(jīng)網(wǎng)絡(luò)中冗余濾波器進(jìn)行網(wǎng)絡(luò)優(yōu)化，刪除神經(jīng)網(wǎng)絡(luò)權(quán)重矩陣中不重要的部分權(quán)重，僅保留有用部分，再重新對網(wǎng)絡(luò)進(jìn)行微調(diào)。量化算法是用低精度參數(shù)權(quán)值代替神經(jīng)網(wǎng)絡(luò)中32 bit
計算機(jī)工程 2021年2期2021-02-05
- 基于深度神經(jīng)網(wǎng)絡(luò)二階信息的結(jié)構(gòu)化剪枝算法
絡(luò)壓縮方法有網(wǎng)絡(luò)剪枝［2-4］、網(wǎng)絡(luò)參數(shù)量化［5-6］與分解［7］、網(wǎng)絡(luò)結(jié)構(gòu)輕量化設(shè)計［8］和知識蒸餾［9］等，其中網(wǎng)絡(luò)剪枝是對網(wǎng)絡(luò)中的冗余元素進(jìn)行裁剪，是最常用的網(wǎng)絡(luò)壓縮方法之一，其能同時對卷積層和全連接層進(jìn)行裁剪，尤其是結(jié)構(gòu)化剪枝方法可以不受硬件條件的限制而直接達(dá)到減少網(wǎng)絡(luò)內(nèi)存占用和網(wǎng)絡(luò)加速的目的，并且網(wǎng)絡(luò)剪枝還可以與其他網(wǎng)絡(luò)壓縮方法進(jìn)行兼容，如剪枝后的網(wǎng)絡(luò)能通過知識蒸餾提高網(wǎng)絡(luò)性能［10］，或者利用網(wǎng)絡(luò)結(jié)構(gòu)輕量化設(shè)計進(jìn)一步提升網(wǎng)絡(luò)壓縮效果［5］。網(wǎng)絡(luò)
計算機(jī)工程 2021年2期2021-02-05
- 基于頻集的Apriori關(guān)聯(lián)規(guī)則算法的應(yīng)用研究
描、計數(shù)、比較、剪枝、連接等一系列操作，找出了數(shù)據(jù)間的強(qiáng)關(guān)聯(lián)規(guī)則，并由此推出數(shù)據(jù)關(guān)系，為改進(jìn)網(wǎng)上教學(xué)提供了很好的參考依據(jù)。關(guān)鍵詞：Apriori;關(guān)聯(lián)規(guī)則;數(shù)據(jù)挖掘;剪枝;強(qiáng)關(guān)聯(lián);C++中圖分類號：TP311文獻(xiàn)標(biāo)識碼：A文章編號：2095-1302（2020）10-00-050 引 言大數(shù)據(jù)時代，伴隨著計算機(jī)軟硬件及數(shù)據(jù)庫技術(shù)的飛速發(fā)展，人類積累的數(shù)據(jù)量正呈指數(shù)級增長，并曾一度因數(shù)據(jù)分析技術(shù)缺乏和數(shù)據(jù)質(zhì)量不符合要求而產(chǎn)生“數(shù)據(jù)豐富而信息貧乏”的現(xiàn)象。能夠
物聯(lián)網(wǎng)技術(shù) 2020年10期2020-11-06
- 基于剪枝AlexNet的普米語孤立詞識別
et模型利用迭代剪枝算法以逐層剪枝的方式進(jìn)行修剪,然后從生成的稀疏網(wǎng)絡(luò)中探索一個具有比原網(wǎng)絡(luò)更快學(xué)習(xí)速度的剪枝網(wǎng)絡(luò)用于普米語語譜圖識別.1 相關(guān)工作目前,在深度學(xué)習(xí)研究領(lǐng)域大致有2個研究派別：一派為了追求更高的模型精度,不斷的擴(kuò)充神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層數(shù)[9]或神經(jīng)元數(shù)量[10],通過將模型變得更為復(fù)雜,來使得神經(jīng)網(wǎng)絡(luò)具有更高的精度.另一派則旨在將模型高效、穩(wěn)定的部署于設(shè)備.但是,隨著神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的日趨復(fù)雜,網(wǎng)絡(luò)的訓(xùn)練成本也變得越來越高,這些均使得復(fù)雜模型很難在
云南民族大學(xué)學(xué)報（自然科學(xué)版） 2020年4期2020-09-10
- 基于雙目視覺的獼猴桃剪枝機(jī)器人研究
至目前，獼猴桃樹剪枝方式大多仍為人工剪枝，而且需經(jīng)常找專業(yè)人員進(jìn)行操作，嚴(yán)重依賴人工操作，不僅成本高昂，而且浪費(fèi)人力、效率低下。另一方面，隨著我國城市化進(jìn)程的加快，鄉(xiāng)村勞動力向城鎮(zhèn)轉(zhuǎn)移的速度也在加快，越來越多的農(nóng)村人民選擇到城鎮(zhèn)謀生。隨著現(xiàn)代果園種植規(guī)模擴(kuò)大，技術(shù)工短缺、成本增加等問題突出。果樹枝干復(fù)雜性、剪枝技術(shù)性和不可逆性等問題導(dǎo)致剪枝機(jī)械發(fā)展緩慢，成為限制水果生產(chǎn)重要因素之一[2]。因此，在此大背景下，發(fā)展獼猴桃自動化剪枝技術(shù)，特別是研發(fā)獼猴桃智能剪
湖北農(nóng)機(jī)化 2020年9期2020-08-25
- 基于激活-熵的分層迭代剪枝策略的CNN模型壓縮
型壓縮技術(shù)分為：剪枝、量化、網(wǎng)絡(luò)分解、知識蒸餾和精細(xì)模型設(shè)計：剪枝包含基于正則化的剪枝［9］和基于重要性的剪枝，通過裁剪訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型中冗余的權(quán)值或神經(jīng)元，減少存儲空間和加速計算；量化［10］使用位運(yùn)算代替浮點運(yùn)算，減少權(quán)重的比特數(shù)來壓縮模型，加速模型計算；網(wǎng)絡(luò)分解利用張量或矩陣分解技術(shù)分解原始卷積核，有效減少了運(yùn)算量；知識蒸餾［11］借助大模型學(xué)習(xí)知識，指導(dǎo)小模型訓(xùn)練并代替原模型；精細(xì)模型設(shè)計重構(gòu)了輕量級神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，如 MobileNets［12
計算機(jī)應(yīng)用 2020年5期2020-06-07
- 一種改進(jìn)的MEP決策樹剪枝算法
馬杰摘要?決策樹剪枝是將已生成的決策樹進(jìn)行簡化的過程，包括預(yù)剪枝和后剪枝。為了提高后剪枝算法MEP的剪枝精度，防止因MEP影響因子選取不當(dāng)造成決策樹修剪過度而丟失特征信息的問題，提出一種改進(jìn)的MEP算法即IMEP方法。首先引入k-折交叉驗證（k-Fold?Cross-Validation）方法用于選取最優(yōu)的影響因子m，然后將m帶入到MEP算法，再對原始決策樹進(jìn)行剪枝，可以得到最精確的決策樹，并保持決策樹的影響特征。其次，通過k次交叉驗證，可以避免產(chǎn)生過擬合
河北工業(yè)大學(xué)學(xué)報 2019年6期2019-09-10
- 單圖中的近似頻繁子圖挖掘算法
局部反單調(diào)性進(jìn)行剪枝，提高了算法的效率.實驗表明，該算法能夠挖掘出傳統(tǒng)算法無法發(fā)現(xiàn)的近似頻繁子圖，且相比對比算法具有更好的時間性能.關(guān)鍵詞：近似; 圖;頻繁子圖挖掘;剪枝中圖分類號：TP391.4文獻(xiàn)標(biāo)志碼：ADOI： 10.3969/j.issn.1000-5641. 2019.06.0080 引言圖是用來表示數(shù)據(jù)的一種特殊數(shù)據(jù)結(jié)構(gòu)，它不僅可以用來表示實體本身的性質(zhì)，同時還可以用來表示實體之間的關(guān)系.圖的這種特點使得圖在多種領(lǐng)域具有廣泛應(yīng)用，如生物信息學(xué)
華東師范大學(xué)學(xué)報（自然科學(xué)版） 2019年6期2019-09-10
- 基于濾波器注意力機(jī)制與特征縮放系數(shù)的動態(tài)網(wǎng)絡(luò)剪枝
到了有效的減少.剪枝是一種流行的模型壓縮方法,能夠有效地降低網(wǎng)絡(luò)運(yùn)算量以及存儲量.早期階段,Han等人[5]提出了迭代剪枝,其思想是不斷剪枝訓(xùn)練收斂后的神經(jīng)網(wǎng)絡(luò),得到一個精簡的網(wǎng)絡(luò)模型.在此基礎(chǔ)上,Han等人[6]進(jìn)一步提出對剪枝后的網(wǎng)絡(luò)模型參數(shù)進(jìn)行量化和哈夫曼編碼(Huffman Coding),有效地減小了模型大小.然而,裁剪神經(jīng)元連接是一種非結(jié)構(gòu)化剪枝方法,難以應(yīng)用于現(xiàn)有的硬件設(shè)備,無法得到實際的加速.針對這些問題,結(jié)構(gòu)化剪枝解決了非結(jié)構(gòu)化剪枝存在的
小型微型計算機(jī)系統(tǒng) 2019年9期2019-09-09
- 基于重構(gòu)的改進(jìn)自然排序樹算法
持度降序方式結(jié)合剪枝操作實現(xiàn)樹結(jié)構(gòu)的重構(gòu)，得到高壓縮性的樹結(jié)構(gòu);最后，對重構(gòu)的樹結(jié)構(gòu)進(jìn)行頻繁項集挖掘。實驗結(jié)果表明，基于重構(gòu)的改進(jìn)CAN-tree算法所構(gòu)建的樹結(jié)構(gòu)節(jié)點個數(shù)減少至原來的20%以下，執(zhí)行效率提高了4至6倍，在頻繁項集挖掘中有效地壓縮了樹結(jié)構(gòu)，縮短了算法的執(zhí)行時間。關(guān)鍵詞：頻繁項集;頻繁項集頭表;重構(gòu);剪枝;最小支持度中圖分類號： TP301.6文獻(xiàn)標(biāo)志碼：AAbstract： In order to solve the problems su
計算機(jī)應(yīng)用 2019年2期2019-08-01
- 花匠(外一首)
民中午 那個人在剪枝下午 那個人在剪枝清晨 那個人還在剪枝歲月把他剪成了一個花匠他想把 花和日子都剪出他心中的模樣一把剪刀剪風(fēng) 剪雨 剪霜雪甚至 他把自己也剪成最靈動的一朵一個花匠 陷在花叢中不愿自拔中年至此 天快黑了我下馬歇腳 不再星夜兼程至此 我看見所有的過往 皆落地生根比風(fēng)輕 比山重至此 我從萬千風(fēng)景中來不帶一朵柳綠桃紅我用盡了一江水的波浪不再水性楊花至此 我將沉浸在山水田園詩中 誠邀徜徉于此的隱士、名流我們沏茶 相談甚歡至此 我已擁有三件至寶丑妻、
詩選刊 2019年3期2019-03-18
- 一種用于卷積神經(jīng)網(wǎng)絡(luò)壓縮的混合剪枝方法
N models剪枝是用于降低網(wǎng)絡(luò)復(fù)雜度、加速網(wǎng)絡(luò)模型的有效方法，可以在幾乎不損失模型精度的前提下移除網(wǎng)絡(luò)中的冗余參數(shù)，達(dá)到模型壓縮的目的.20世紀(jì)90年代，LeCun等人[7]便提出了Optimal Brain Damage方法對模型進(jìn)行剪枝，有效降低了網(wǎng)絡(luò)復(fù)雜性并緩解了過擬合問題.神經(jīng)網(wǎng)絡(luò)中包含很多參數(shù)，但有些參數(shù)對最終輸出的貢獻(xiàn)很小，可以認(rèn)為這些參數(shù)是冗余的.因此，需要找到有效的評估方法，對不重要的參數(shù)進(jìn)行剪枝以減少模型參數(shù)冗余.Han等人[8]提出
小型微型計算機(jī)系統(tǒng) 2018年12期2019-01-24
- 機(jī)器博弈主要技術(shù)分析
法;蒙特卡羅樹;剪枝中圖分類號：TP391 文獻(xiàn)標(biāo)識碼：A文章編號：1009-3044（2019）33-0172-02機(jī)器博弈是人工智能領(lǐng)域最富挑戰(zhàn)性的項目之一，而六子棋作為一種典型的博弈類競技游戲，相比五子棋黑棋先手必勝的單調(diào)不公平性，其公平性到目前為止還不能被證偽，其狀態(tài)空間大?。s為10172）為五子棋（約為10105）的1072倍，搜索結(jié)點數(shù)大大增加，極具挑戰(zhàn)性。因此，以六子棋作為研究機(jī)器博弈的切人點既能促進(jìn)六子棋的發(fā)展，同時也可推動機(jī)器博弈乃至人
電腦知識與技術(shù) 2019年33期2019-01-08
- 洞庭湖區(qū)大棚辣椒越冬與再生栽培技術(shù)
辣椒；越冬栽培；剪枝；再生栽培文章編號： 1005-2690（2018）06-0053-02 中圖分類號： S641.3 文獻(xiàn)標(biāo)志碼： B洞庭湖區(qū)是辣椒消費(fèi)主要區(qū)域，以常德市為例，2017年該市設(shè)施大棚面積達(dá)2 000 hm2，其中大棚辣椒越冬栽培面積達(dá)1 333 hm2，辣椒均產(chǎn)37.5 t/hm2，高產(chǎn)45 t/hm2，青椒售價4.5～6元/kg、紅椒5.2～8元/kg，效益達(dá)到22.5萬～30萬元/hm2。筆者連續(xù)3年開展了辣椒再生栽培推廣，對越冬辣
種子科技 2018年6期2018-09-10
- 融入差異性的帕累托集成剪枝方法
器效果更優(yōu)。集成剪枝又稱選擇性集成、集成簡化，它是在訓(xùn)練出所有基學(xué)習(xí)器之后，基于某種準(zhǔn)則，選擇一部分基學(xué)習(xí)器(所有基學(xué)習(xí)器的一個最優(yōu)子集)進(jìn)行集成，最終得到一個強(qiáng)分類器。集成剪枝的過程主要包括3步：產(chǎn)生不同的分類器；根據(jù)驗證集選擇最優(yōu)的分類器子集；集成分類器子集。集成剪枝方法的異同主要取決于剪枝策略。剪枝策略可以根據(jù)分類器的不同劃分為基于分類問題的剪枝策略和基于回歸問題的剪枝策略。由于在回歸問題中，集成剪枝問題研究的較少且效果不明顯，所以本節(jié)主要討論基于分
數(shù)據(jù)采集與處理 2018年3期2018-06-29
- 面向不確定數(shù)據(jù)的概率障礙k聚集最近鄰查詢*
詢問題，通過構(gòu)造剪枝區(qū)域去剪枝對障礙距離計算沒有影響的障礙，從而減少計算量，提高查詢效率。文獻(xiàn)[5]和文獻(xiàn)[6]利用障礙Voronoi圖的特性提出剪枝策略，減少了需要處理的數(shù)據(jù)點個數(shù)。文獻(xiàn)[8]研究了聚集最近鄰查詢，提出了3種利用R樹處理聚集最近鄰查詢的方法：MQM（multiple query method）、SPM（single point method）和 MBM（minimum bounding method）。這3種方法中，MBM是最優(yōu)算法。文獻(xiàn)
計算機(jī)與生活 2018年2期2018-02-05
- MAPKs and acetyl-CoA are associated with Curvularia lunata pathogenicity and toxin production in maize
pha-beta剪枝。Minimax算法是一種悲觀算法，即每步都假設(shè)對方選擇最優(yōu)的情況下，己方進(jìn)行選擇；而Alpha-beta剪枝則可以簡化計算量，大體思路為我們不需要構(gòu)建完整的樹，其中當(dāng)前格局無法找到最好情況下，我們應(yīng)該返回父節(jié)點，而舍棄當(dāng)前節(jié)點。兩者的結(jié)合可以完成2048游戲的多步分析，使勝率達(dá)到較高水平。Gao J X, Liu T, Chen J. 2014. Insertional mutagenesis and cloning of the g
- 基于多叉樹Apriori的網(wǎng)絡(luò)管理數(shù)據(jù)挖掘
Apriori；剪枝中圖分類號：TP393 文獻(xiàn)標(biāo)識碼：A 文章編號：1009-3044（2017）29-0235-02在網(wǎng)絡(luò)管理系統(tǒng)中的各類數(shù)據(jù)通過SNMP、探針、Agent等收集并匯集到數(shù)據(jù)庫中，想要快速地從系統(tǒng)數(shù)據(jù)庫挖掘出這些有用的信息，就需要先進(jìn)的挖掘算法來實現(xiàn)。在數(shù)據(jù)挖掘技術(shù)中，關(guān)聯(lián)規(guī)則挖掘是一個經(jīng)典的挖掘方法[1]，本文針對上述問題對關(guān)聯(lián)規(guī)則中的Apriori算法進(jìn)行優(yōu)化來提升關(guān)聯(lián)規(guī)則的質(zhì)量，更有組織的處理挖掘到的關(guān)聯(lián)規(guī)則，提高系統(tǒng)的挖掘效率，
電腦知識與技術(shù) 2017年29期2017-11-14
- 剪枝高度對茄子長季節(jié)栽培的影響
312000)剪枝高度對茄子長季節(jié)栽培的影響陳巧燕1，吳愛芳2(1.義烏市農(nóng)技推廣服務(wù)中心，浙江 義烏 322000； 2.紹興市蔬菜技術(shù)推廣站，浙江 紹興 312000)對浙茄3號新枝抽生、開花期、始收期、產(chǎn)量等性狀進(jìn)行調(diào)查研究。結(jié)果表明，隨著剪枝高度增加，再生茄子抽枝早，開花期提前，前期產(chǎn)量增加，總產(chǎn)量差異不明顯，由此提出越冬早春大棚茄子剪枝再生方式的建議。茄子； 長季節(jié)栽培； 不同剪枝高度； 物候期； 產(chǎn)量近年來，浙江省茄子設(shè)施越冬、早春栽培、秋延
浙江農(nóng)業(yè)科學(xué) 2017年10期2017-11-06
- “剪枝”的學(xué)問
冊有一篇課文叫《剪枝的學(xué)問》，淺顯的課文包含著耐人尋味的道理。學(xué)生習(xí)作評價，其實也蘊(yùn)含了類似的學(xué)問——教學(xué)時要激發(fā)和倡導(dǎo)什么，要擯棄和剪除什么，需要教師好好琢磨，認(rèn)真把握好評價的方向和尺度。本文擬從當(dāng)下的作文評價現(xiàn)狀出發(fā)，結(jié)合兩篇五年級學(xué)生的習(xí)作進(jìn)行思考分析。一、確定主體枝干——習(xí)作評價標(biāo)準(zhǔn)的制定每位語文教師都會批改作文，但是對同一篇學(xué)生作文的評價，不同的教師往往會有較大的差異。除了個人主觀偏好，更多是源于作文評價標(biāo)準(zhǔn)的不一致。根據(jù)《義務(wù)教育語文課程標(biāo)準(zhǔn)（
教學(xué)月刊小學(xué)版·語文 2017年9期2017-10-26
- 搜索算法在大學(xué)生程序設(shè)計競賽中的應(yīng)用
；廣度優(yōu)先搜索；剪枝；啟發(fā)式搜索；程序設(shè)計隨著社會的發(fā)展，計算機(jī)技術(shù)水平也變得越來越高，現(xiàn)階段，很多計算機(jī)都已經(jīng)具備高性能的操作方法，而搜索算法在計算機(jī)技術(shù)中起著至關(guān)重要的作用，它可以利用計算機(jī)的高性能在一定的時間內(nèi)有效的求出問題解決的方法，也正是因為這一點，很多學(xué)者都將目光放到了搜索算法當(dāng)中，并且這種算法也得到了大多數(shù)人的關(guān)注?，F(xiàn)在，越來越多的大學(xué)生都開始關(guān)注起計算機(jī)程序設(shè)計競賽，參加到這類競賽，可以讓大學(xué)生提高利用編程解決實際問題的能力，同時也能將一些
科技尚品 2017年6期2017-07-06
- 決策樹剪枝研究
中，存在由于使用剪枝算法簡化決策樹而導(dǎo)致系統(tǒng)性能下降的情況。針對濫用剪枝問題，通過對決策樹技術(shù)的研究，闡述剪枝與過擬合現(xiàn)象的關(guān)系，并從奧卡姆剃刀原理、沒有免費(fèi)午餐原理、人類本能、孤立點分析等方面對剪枝的合理性和必要性展開討論，提出了慎用剪枝的主張以及免剪枝措施。關(guān)鍵詞： 決策樹; 機(jī)器學(xué)習(xí); 過擬合; 剪枝; 免剪枝措施中圖分類號：TP391 ? ? ? ? ?文獻(xiàn)標(biāo)志碼：A ? ? 文章編號：1006-8228（2016）02-01-03Study on
計算機(jī)時代 2016年2期2016-02-19
- 剪枝象有效學(xué)名的厘清及常見種的鑒別
650091)剪枝象屬Cyllorhynchites 的種類常被俗稱為剪枝象，因該屬的所有種類都具有相似的剪枝行為:產(chǎn)卵前，雌蟲搜索合適果枝，常先將果枝(距果實約1-5 cm 的位置)部分剪斷，然后在板栗或橡子上尋找合適部位用喙向內(nèi)鉆咬一孔穴，然后倒轉(zhuǎn)身體產(chǎn)下1 卵(稀有2 或3 卵)，產(chǎn)卵后將卵用喙推入產(chǎn)卵孔，并用果屑堵塞孔穴，最后雌蟲將果枝完全咬斷(劉振陸和呼升久，1964;作者的行為觀察)。栗實剪枝象Cyllorhynchites cumulatu
環(huán)境昆蟲學(xué)報 2015年4期2015-12-09
- 棚室茄子老株剪枝再生栽培技術(shù)
條件下，老株實行剪枝再生栽培，可以充分利用地力和光能，解決田間通風(fēng)透光問題，植株發(fā)枝快，長勢旺，實現(xiàn)一種多收，增加單位面積產(chǎn)量，提高經(jīng)濟(jì)效益的目的。1 品種選擇宜選生長勢旺盛，分枝性強(qiáng)，抗病，增產(chǎn)潛力大，商品性好，品質(zhì)優(yōu)的中晚熟品種。2 田間管理茄子剪枝再生栽培技術(shù)，在第一季栽培中，與常規(guī)棚室茄子保護(hù)地栽培相同。再生栽培是頭季生長的繼續(xù)，田間管理不可放松，尤其是剪枝更要加強(qiáng)，做到合理施肥，及時防治病蟲害，保持株體健壯。在剪枝前一般葉面噴施0.2%磷酸二氫鉀
吉林蔬菜 2015年6期2015-05-30
- 辣椒增產(chǎn)要合理修剪
其技術(shù)要求如下：剪枝時間 剪枝以在夏季高溫季節(jié)為宜，一般在7月下旬至8月上中旬進(jìn)行。此時第一茬果實已摘完，植株在晝夜溫差不大的情況下處于歇枝階段，所以剪枝的增產(chǎn)效果最好。剪枝部位 合理的剪枝部位在4個大枝頂端，及時剪掉8個側(cè)枝。剪枝方法 用比較鋒利的修枝剪刀剪枝，剪口要光滑，以防剪口招致蟲害或誘發(fā)病害，不可用手直接折枝，以免造成植株損傷。剪枝時，順手剪去病蟲危害嚴(yán)重枝、前期結(jié)果過多的下垂枝、管理不當(dāng)?shù)恼蹟嘀Φ?。剪下的枝條應(yīng)集中帶出園外處理，特別是病蟲枝不可
農(nóng)村農(nóng)業(yè)農(nóng)民·B版 2014年8期2014-09-16