亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于多注意力的多變量時間序列特征選擇方法

        2020-01-05 07:00:06胡紫音桂寧
        軟件導(dǎo)刊 2020年11期
        關(guān)鍵詞:深度學(xué)習(xí)

        胡紫音 桂寧

        摘 要:特征選擇是避免維度詛咒的一種數(shù)據(jù)預(yù)處理技術(shù)。在多變量時間序列預(yù)測中,為了同時找到與問題相關(guān)性最大的變量及其對應(yīng)時延,提出一種基于多注意力的有監(jiān)督特征選擇方法。該方法利用帶有注意力模塊和學(xué)習(xí)模塊的深度學(xué)習(xí)模型,將原始二維時間序列數(shù)據(jù)正交分割成兩組一維數(shù)據(jù),分別輸入兩個不同維度的注意力生成模塊,得到特征維度和時間維度的注意權(quán)重。兩個維度的注意力權(quán)值點(diǎn)積疊加作為全局注意力得分進(jìn)行特征選擇,作用于原始數(shù)據(jù)后輸入隨學(xué)習(xí)模塊訓(xùn)練不斷更新至收斂。實(shí)驗(yàn)結(jié)果表明,所提出的方法在特征數(shù)小于10時可達(dá)到全量數(shù)據(jù)訓(xùn)練效果,與現(xiàn)有幾種基線方法相比實(shí)現(xiàn)了最佳準(zhǔn)確率。

        關(guān)鍵詞:特征選擇;時間序列;注意力機(jī)制;多維數(shù)據(jù);深度學(xué)習(xí)

        DOI:10. 11907/rjdk. 201206

        中圖分類號:TP301 ??? 文獻(xiàn)標(biāo)識碼:A?????? 文章編號:1672-7800(2020)011-0021-04

        A Multi-attention-based Feature Selection Method for Multivariate Time Series

        HU Zi-yin1,GUI Ning 2

        (1. School of Information Science and Technology, Zhejiang Sci-Tech University, Hangzhou 310018,China;

        2. School of Computer Science, Central South University, Changsha 410006,China)

        Abstract:Feature selection is a data preprocessing technique that reduces model complexity and avoids the curse of dimensionality. In order to find the variable that is most relevant to the problem and its corresponding delay simultaneously in multivariate time series prediction, this paper proposes a multi-attention based supervised feature selection method. This method uses a deep learning model with an attention module and a learning module. The original two-dimensional time series data is orthogonally divided into two sets of one-dimensional data and input into the attention module of two different dimensions respectively to generate the attention weights of the feature dimension and the time dimension. Then the attention weights of the two dimensions are dotted with the product operation, used as a global attention score for feature selection, applied to the original data and updated continuously with the training process until the model converges. Experimental results show that the proposed method can achieve the effect of full data training when the number of features is less than 10, and achieves the best accuracy compared with several existing baseline methods.

        Key Words: feature selection; time series; attention mechanism; multidimensional data; deep learning

        0 引言

        隨著物聯(lián)網(wǎng)的發(fā)展,越來越多的領(lǐng)域,包括工業(yè)[1]、生物學(xué)[2]、社交媒體[3]等,積累了大量按時間順序排列的高維數(shù)據(jù),即多元時間序列(MTS)。借助機(jī)器學(xué)習(xí)和深度學(xué)習(xí)手段可從這些時間序列中挖掘出大量有價值的信息供專業(yè)人員決策。然而,時間序列中存在的大量無關(guān)、冗余特征,不僅對學(xué)習(xí)器的學(xué)習(xí)造成極大困擾,還會增加計(jì)算開銷[4]。特征選擇通過從數(shù)據(jù)集中選擇出與目標(biāo)變量相關(guān)的特征,有效減輕維數(shù)災(zāi)難問題,被視為機(jī)器學(xué)習(xí)中至關(guān)重要的數(shù)據(jù)預(yù)處理步驟[5]。為了建立更準(zhǔn)確、更易理解的時間序列模型,確定與監(jiān)督目標(biāo)相關(guān)的最相關(guān)變量及其最合適的時間步長非常重要,這對理解底層系統(tǒng)的物理、化學(xué)模型有很大幫助。

        隨著深度學(xué)習(xí)的發(fā)展,注意力機(jī)制被提出并廣泛應(yīng)用于圖像處理和自然語言處理領(lǐng)域。注意力模型借鑒了人類視覺的大腦信號處理機(jī)制,通過快速掃描全局圖像,獲得需要重點(diǎn)關(guān)注的目標(biāo)區(qū)域,對這一區(qū)域投入更多資源以獲取更多關(guān)注目標(biāo)的細(xì)節(jié)信息,抑制無用信息。

        猜你喜歡
        深度學(xué)習(xí)
        從合坐走向合學(xué):淺議新學(xué)習(xí)模式的構(gòu)建
        面向大數(shù)據(jù)遠(yuǎn)程開放實(shí)驗(yàn)平臺構(gòu)建研究
        基于自動智能分類器的圖書館亂架圖書檢測
        搭建深度學(xué)習(xí)的三級階梯
        有體驗(yàn)的學(xué)習(xí)才是有意義的學(xué)習(xí)
        電子商務(wù)中基于深度學(xué)習(xí)的虛假交易識別研究
        利用網(wǎng)絡(luò)技術(shù)促進(jìn)學(xué)生深度學(xué)習(xí)的幾大策略
        考試周刊(2016年94期)2016-12-12 12:15:04
        MOOC與翻轉(zhuǎn)課堂融合的深度學(xué)習(xí)場域建構(gòu)
        大數(shù)據(jù)技術(shù)在反恐怖主義中的應(yīng)用展望
        深度學(xué)習(xí)算法應(yīng)用于巖石圖像處理的可行性研究
        69堂在线无码视频2020| 人人爽人人澡人人人妻| 久久亚洲av成人无码国产| 亚洲色www无码| 日韩精品国产精品亚洲毛片| 国产老熟妇精品观看| 国模少妇一区二区三区| 91福利国产在线观看网站| 亚洲熟少妇一区二区三区| 国产色欲av一区二区三区| 亚洲欧洲日产国码高潮αv| 久久精品中文字幕第一页| 成人免费av高清在线| 亚洲av无码精品国产成人| 國产一二三内射在线看片| 精品视频在线观看一区二区有| 久久精品国产亚洲av影院毛片| 国产精品刮毛| 精品人无码一区二区三区 | 麻豆夫妻在线视频观看| 亚洲国产a∨无码中文777| 日本不卡一区二区三区在线| 五月婷婷激情六月| 丝袜美腿一区在线观看| 日本大肚子孕妇交xxx| 麻豆精产国品| 久久精品国产亚洲av蜜桃av| 精品国产亚洲av麻豆| 亚洲国产日韩欧美一区二区三区| 一区二区韩国福利网站| 国产丝袜美腿一区二区三区| 日日摸天天摸97狠狠婷婷| 中文乱码人妻系列一区二区| 亚洲国产精品第一区二区三区| 免费在线观看av不卡网站| 蜜臀av 国内精品久久久| 91久久国产综合精品| 久久亚洲免费精品视频| 久久婷婷人人澡人人喊人人爽| 真实国产乱视频国语| av免费在线播放一区二区|