亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于多注意力的多變量時間序列特征選擇方法

        2020-01-05 07:00:06胡紫音桂寧
        軟件導(dǎo)刊 2020年11期
        關(guān)鍵詞:深度學(xué)習(xí)

        胡紫音 桂寧

        摘 要:特征選擇是避免維度詛咒的一種數(shù)據(jù)預(yù)處理技術(shù)。在多變量時間序列預(yù)測中,為了同時找到與問題相關(guān)性最大的變量及其對應(yīng)時延,提出一種基于多注意力的有監(jiān)督特征選擇方法。該方法利用帶有注意力模塊和學(xué)習(xí)模塊的深度學(xué)習(xí)模型,將原始二維時間序列數(shù)據(jù)正交分割成兩組一維數(shù)據(jù),分別輸入兩個不同維度的注意力生成模塊,得到特征維度和時間維度的注意權(quán)重。兩個維度的注意力權(quán)值點(diǎn)積疊加作為全局注意力得分進(jìn)行特征選擇,作用于原始數(shù)據(jù)后輸入隨學(xué)習(xí)模塊訓(xùn)練不斷更新至收斂。實(shí)驗(yàn)結(jié)果表明,所提出的方法在特征數(shù)小于10時可達(dá)到全量數(shù)據(jù)訓(xùn)練效果,與現(xiàn)有幾種基線方法相比實(shí)現(xiàn)了最佳準(zhǔn)確率。

        關(guān)鍵詞:特征選擇;時間序列;注意力機(jī)制;多維數(shù)據(jù);深度學(xué)習(xí)

        DOI:10. 11907/rjdk. 201206

        中圖分類號:TP301 ??? 文獻(xiàn)標(biāo)識碼:A?????? 文章編號:1672-7800(2020)011-0021-04

        A Multi-attention-based Feature Selection Method for Multivariate Time Series

        HU Zi-yin1,GUI Ning 2

        (1. School of Information Science and Technology, Zhejiang Sci-Tech University, Hangzhou 310018,China;

        2. School of Computer Science, Central South University, Changsha 410006,China)

        Abstract:Feature selection is a data preprocessing technique that reduces model complexity and avoids the curse of dimensionality. In order to find the variable that is most relevant to the problem and its corresponding delay simultaneously in multivariate time series prediction, this paper proposes a multi-attention based supervised feature selection method. This method uses a deep learning model with an attention module and a learning module. The original two-dimensional time series data is orthogonally divided into two sets of one-dimensional data and input into the attention module of two different dimensions respectively to generate the attention weights of the feature dimension and the time dimension. Then the attention weights of the two dimensions are dotted with the product operation, used as a global attention score for feature selection, applied to the original data and updated continuously with the training process until the model converges. Experimental results show that the proposed method can achieve the effect of full data training when the number of features is less than 10, and achieves the best accuracy compared with several existing baseline methods.

        Key Words: feature selection; time series; attention mechanism; multidimensional data; deep learning

        0 引言

        隨著物聯(lián)網(wǎng)的發(fā)展,越來越多的領(lǐng)域,包括工業(yè)[1]、生物學(xué)[2]、社交媒體[3]等,積累了大量按時間順序排列的高維數(shù)據(jù),即多元時間序列(MTS)。借助機(jī)器學(xué)習(xí)和深度學(xué)習(xí)手段可從這些時間序列中挖掘出大量有價值的信息供專業(yè)人員決策。然而,時間序列中存在的大量無關(guān)、冗余特征,不僅對學(xué)習(xí)器的學(xué)習(xí)造成極大困擾,還會增加計(jì)算開銷[4]。特征選擇通過從數(shù)據(jù)集中選擇出與目標(biāo)變量相關(guān)的特征,有效減輕維數(shù)災(zāi)難問題,被視為機(jī)器學(xué)習(xí)中至關(guān)重要的數(shù)據(jù)預(yù)處理步驟[5]。為了建立更準(zhǔn)確、更易理解的時間序列模型,確定與監(jiān)督目標(biāo)相關(guān)的最相關(guān)變量及其最合適的時間步長非常重要,這對理解底層系統(tǒng)的物理、化學(xué)模型有很大幫助。

        隨著深度學(xué)習(xí)的發(fā)展,注意力機(jī)制被提出并廣泛應(yīng)用于圖像處理和自然語言處理領(lǐng)域。注意力模型借鑒了人類視覺的大腦信號處理機(jī)制,通過快速掃描全局圖像,獲得需要重點(diǎn)關(guān)注的目標(biāo)區(qū)域,對這一區(qū)域投入更多資源以獲取更多關(guān)注目標(biāo)的細(xì)節(jié)信息,抑制無用信息。

        猜你喜歡
        深度學(xué)習(xí)
        從合坐走向合學(xué):淺議新學(xué)習(xí)模式的構(gòu)建
        面向大數(shù)據(jù)遠(yuǎn)程開放實(shí)驗(yàn)平臺構(gòu)建研究
        基于自動智能分類器的圖書館亂架圖書檢測
        搭建深度學(xué)習(xí)的三級階梯
        有體驗(yàn)的學(xué)習(xí)才是有意義的學(xué)習(xí)
        電子商務(wù)中基于深度學(xué)習(xí)的虛假交易識別研究
        利用網(wǎng)絡(luò)技術(shù)促進(jìn)學(xué)生深度學(xué)習(xí)的幾大策略
        考試周刊(2016年94期)2016-12-12 12:15:04
        MOOC與翻轉(zhuǎn)課堂融合的深度學(xué)習(xí)場域建構(gòu)
        大數(shù)據(jù)技術(shù)在反恐怖主義中的應(yīng)用展望
        深度學(xué)習(xí)算法應(yīng)用于巖石圖像處理的可行性研究
        亚洲日韩中文字幕在线播放| 秘书边打电话边被躁bd视频| 丰满老熟妇好大bbbbb| 国产精品福利小视频| 在线亚洲精品一区二区三区| 国产一区二区三区中文在线| 中国农村妇女hdxxxx| 91天堂素人精品系列全集亚洲| 国产一品二品三品精品久久| 校园春色人妻激情高清中文字幕| 人妻有码中文字幕| 午夜短视频日韩免费| 91国内偷拍一区二区三区| 天天综合天天爱天天做| 中国熟妇人妻xxxxx| 日韩AV无码一区二区三不卡| 国产丝袜长腿在线看片网站| 成年美女黄的视频网站| 亚洲精品久久久无码av片软件| 亚洲欧美日韩精品香蕉| 国产一区二区三免费视频| 激情综合丁香五月| 九九免费在线视频| 色妞一区二区三区免费视频| 无码专区人妻系列日韩精品| 国产suv精品一区二人妻| 中文无码日韩欧免费视频| 你懂的视频网站亚洲视频| 亚洲av久久久噜噜噜噜| 亚洲va在线va天堂va手机| 国产一区二区三区经典| 亚洲色一区二区三区四区| 人人添人人澡人人澡人人人人| 亚洲乱在线播放| 蜜桃视频第一区免费观看| 成人毛片无码一区二区三区| 无码 制服 丝袜 国产 另类| 日本午夜伦理享色视频| 色欲网天天无码av| 亚洲欧美精品91| 免费人成网在线观看品观网|