周憶陶,方 寧,蔄福軍(黑龍江省政法管理干部學(xué)院,哈爾濱 150080)
?
小議APP軟件中個(gè)人信息安全問題
周憶陶,方 寧,蔄福軍
(黑龍江省政法管理干部學(xué)院,哈爾濱 150080)
智能手機(jī)的APP的大面積普及,使得安全問題成為當(dāng)今社會(huì)的一大熱點(diǎn)問題,尤其是我國(guó)的個(gè)人信息保護(hù)工作處于落后地位,行政單位缺乏監(jiān)管,過度收集個(gè)人信息;企業(yè)自律性不足,任意獲取公民信息,滿足商業(yè)目的;而普通公民則缺乏個(gè)人信息保護(hù)意識(shí)。如何保護(hù)個(gè)人信息,是用戶在使用APP中更為關(guān)心的,更是社會(huì)安定的重要因素,日益突出的這些問題只有從技術(shù)和應(yīng)用兩方面共同著手,預(yù)防和減少犯罪,是今后智能手機(jī)APP發(fā)展的方向。
智能手機(jī)APP;個(gè)人信息;安全;防范
信息社會(huì)的一個(gè)巨大成功就在于對(duì)海量信息的使用與處理,在商家面前它是機(jī)會(huì)無(wú)限的商機(jī),對(duì)經(jīng)營(yíng)者來說它是豐富的資源,但同時(shí)它更是眾多消費(fèi)者心中的惴惴不安,個(gè)人信息的安全問題更是今天的熱點(diǎn),成為一個(gè)社會(huì)問題,是新的犯罪形勢(shì),同時(shí)也是公民最關(guān)心的焦點(diǎn)。網(wǎng)絡(luò)的高速發(fā)展更引發(fā)了安全事件,各種信息泄露事件引發(fā)的犯罪活動(dòng)層出不窮,人民網(wǎng)在2011年進(jìn)行了一次關(guān)于個(gè)人信息安全問題的調(diào)查, 90%的網(wǎng)友表示曾遭遇個(gè)人信息泄露;94%的網(wǎng)友認(rèn)為個(gè)人信息泄露問題非常嚴(yán)重。而今天隨著移動(dòng)網(wǎng)絡(luò)的高速應(yīng)用,智能手機(jī)的大面積普及,應(yīng)運(yùn)而生的APP軟件更成為個(gè)人信息安全問題的重中之重。
APP(Application)泛指的智能手機(jī)中安裝的第三方應(yīng)用程序。隨著智能手機(jī)和平板電腦等移動(dòng)終端設(shè)備的普及,國(guó)際國(guó)內(nèi)知名電商,均開發(fā)了自己的APP客戶端,更多移動(dòng)網(wǎng)絡(luò)用戶選擇通過APP客戶端上網(wǎng),這標(biāo)志著APP客戶端更多擁有了商業(yè)化元素,成為現(xiàn)今物聯(lián)網(wǎng)時(shí)代軟件開發(fā)的潮流。簡(jiǎn)捷化的APP擁有著強(qiáng)大的發(fā)展前景,2008年蘋果公司推出的AppStore中只包含不足500個(gè)APP應(yīng)用,之后的三年時(shí)間,快速增長(zhǎng)到500 000個(gè),下載次數(shù)累計(jì)高達(dá)15 000 000 000次,從2014年—2017年這個(gè)數(shù)字更是呈幾何倍數(shù)飛速增長(zhǎng)[1]。通過調(diào)查我們發(fā)現(xiàn)每個(gè)智能手機(jī)用戶都安裝了多個(gè)APP軟件,功能更是涵蓋金融、訂閱、交友、旅游等,成為用戶工作生活和娛樂重要的參與工具。
APP應(yīng)用功能上不僅僅是個(gè)人移動(dòng)終端設(shè)備上的一個(gè)客戶端,更成為商家對(duì)自身新產(chǎn)品的無(wú)線控制設(shè)備,通過相應(yīng)的功能體驗(yàn),積累了大量的用戶群體,增加老用戶的忠誠(chéng)度,掌握用戶的個(gè)人喜好,不僅成為產(chǎn)品維護(hù)開發(fā)的第一手資料,更由此構(gòu)建了新的互聯(lián)網(wǎng)企業(yè)、電商的網(wǎng)絡(luò)營(yíng)銷模式,由此更帶來了效益不僅體現(xiàn)經(jīng)濟(jì),更多的是商品未來發(fā)展,這是APP市場(chǎng)蓬勃發(fā)展的一個(gè)重要原因,由此帶來了的是更多個(gè)性化、智能化、便捷化APP軟件的開發(fā),內(nèi)容更是涵蓋了方方面面,但同時(shí)海量服務(wù)的背后是安全問題的日趨顯現(xiàn),用戶信息的被竊取、被泄露、病毒等更是層出不窮,如何更具安全地享有APP服務(wù),備受關(guān)注。
通過智能手機(jī)上安裝APP泄露的個(gè)人數(shù)據(jù)無(wú)所不有。通過一些特殊手段,竊取者可以在用戶的智能手機(jī)應(yīng)用中獲取私人信息,包括用戶的各種密鑰、聯(lián)系人信息、金融信息等,而強(qiáng)大的云計(jì)算技術(shù)不僅可以瀏覽用戶的歷史記錄,更能具此分析用戶的喜好,預(yù)測(cè)用戶的下一步動(dòng)作。
(一)權(quán)限的越位
在調(diào)查過程中,手機(jī)APP的功能權(quán)限問題是最大的問題。大量的APP軟件在安裝過程中會(huì)要求獲取手機(jī)用戶的相應(yīng)信息,占最大比例是用戶的通訊錄信息,有的還會(huì)要求用戶打開定位系統(tǒng)和攝像頭使用權(quán)限等,而這些隱秘的信息的權(quán)限與部分APP的主要功能或者聯(lián)系較少,甚至是毫不相干。這種過度索取用戶個(gè)人信息的現(xiàn)象通常表現(xiàn)為三種形式,或是將獲取的用戶隱私信息的權(quán)限作為備用功能,內(nèi)容并不進(jìn)行上傳,或是獲取信息后上傳的同時(shí)存儲(chǔ)在云終端,或者是嚴(yán)重到濫用上傳信息。而無(wú)論是哪種情況,都將對(duì)用戶的安全構(gòu)成嚴(yán)重的威脅,用戶對(duì)此卻無(wú)能為力,在安裝過程無(wú)法取消此項(xiàng)要求。
(二)要求的變異
在安裝APP時(shí)用戶對(duì)功能有的只是初步的認(rèn)識(shí),但在應(yīng)用過程中,卻往往發(fā)生大量的變異,功能越線。智能手機(jī)的普及,將APP的功能開發(fā)到了極限,而隨之APP尋求的權(quán)限也超出了其自身功能的要求,一款手機(jī)APP只要具備社交功能,就完全可以由此完成二次營(yíng)銷,價(jià)值也開發(fā)到了極限,更得到了風(fēng)險(xiǎn)投資的青睞。APP軟件功能的擴(kuò)充及變異,使得開發(fā)商對(duì)軟件功能的監(jiān)管全面失控,這種現(xiàn)象一方面使得APP的市場(chǎng)日益火爆,另一方面加劇了電子市場(chǎng)的安全問題的滋生與漫延。
(三)技術(shù)的缺陷
一些便民類的APP軟件,在定位營(yíng)銷時(shí)主要是針對(duì)市場(chǎng)上的特定人群,而在安裝此類APP軟件時(shí),讀取用戶手機(jī)里的通訊錄信息往往是最基本的要求,但在后臺(tái)管理過程,卻越權(quán)將用戶通訊錄信息上傳,而一些小眾的開發(fā)公司甚至在上傳過程中完全使用明文方式上傳獲取到的手機(jī)號(hào)碼,沒有進(jìn)行任何形式加密,任何有能力截獲該信息的人都能看到上傳內(nèi)容,和閱讀普通Word文檔完全沒有區(qū)別。而有的APP在上傳信息的過程中即使做了加密,但由于編碼簡(jiǎn)單,極易遭遇中間人攻擊,尤其是當(dāng)手機(jī)用戶連接不安全的公共WiFi后,不法分子通過攔截手機(jī)和WiFi之間的通信,個(gè)人隱私數(shù)據(jù)就會(huì)直接被非法獲取。
(四)實(shí)效性的不確定
知名品牌的智能手機(jī)中,自動(dòng)安裝了大量的APP軟件,再加上機(jī)主自己下載的,大多數(shù)應(yīng)用軟件帶有申請(qǐng)讀取聯(lián)系人信息和讀取通話記錄,甚至是申請(qǐng)讀取短信記錄的功能,在這種情況下大量的手機(jī)APP在過度索取用戶隱私信息的使用權(quán)限,用戶面臨的風(fēng)險(xiǎn)越來越大。自己個(gè)人從未意識(shí)到個(gè)人的信息的泄露,而從長(zhǎng)遠(yuǎn)來看,通過這種渠道獲取的個(gè)人信息,它的使用范圍和使用期限無(wú)論是在法律上還是規(guī)則上都沒有明確的規(guī)定,因而贊成了大量用戶的隱私數(shù)據(jù)被出賣,被非法利用。
智能手機(jī)APP類似自媒體,技術(shù)與法律的準(zhǔn)入門檻低限制少,而經(jīng)濟(jì)影響力長(zhǎng)遠(yuǎn),獲得空間巨大,但在監(jiān)管上缺乏效的規(guī)制。大量的APP軟件在開發(fā)上更注重內(nèi)容的光鮮亮麗,管理上更看重的是用戶數(shù)目的增加,缺少維權(quán)途徑,忽視對(duì)內(nèi)容的監(jiān)管。APP客戶端違規(guī)抓取用戶的個(gè)人信息和通訊錄的行為,實(shí)際上已經(jīng)侵犯了用戶的個(gè)人信息權(quán),更造成一些沒有使用該APP的客戶信息暴露,個(gè)人信息的暴泄露將會(huì)引發(fā)嚴(yán)重的社會(huì)問題。
(一)人身安全問題
通過與傳統(tǒng)互聯(lián)網(wǎng)時(shí)代的應(yīng)用狀況對(duì)比,我們發(fā)現(xiàn)數(shù)據(jù)的關(guān)聯(lián)性是大數(shù)據(jù)應(yīng)用的一個(gè)重要特性,即使開發(fā)商與運(yùn)營(yíng)商在處理客戶個(gè)人數(shù)據(jù)過程中,利用信息技術(shù)對(duì)數(shù)據(jù)的共享和分析完成了匿名處理,可是大數(shù)據(jù)的海量特點(diǎn),讓數(shù)據(jù)來源不斷增多,而數(shù)據(jù)量的海量增加,使得那些原來看起來互不相干、相對(duì)分離的數(shù)據(jù)之間可以通過一定的關(guān)聯(lián)物建立匹配關(guān)系,從而使預(yù)先的匿名處理無(wú)效。2015年6月23日發(fā)生在汝州市汝南辦事處馬莊村的特大殺人案件,犯罪工具就是手機(jī)上安裝的一款A(yù)PP軟件。案犯劉某憑借著女友以前發(fā)給他的幾張生活照片,再利用智能手機(jī)上安裝的APP定位功能衛(wèi)星地圖,最終確定了女友家的位置,從而制造慘案。這種隱密的個(gè)人信息可以被重新識(shí)別出來風(fēng)險(xiǎn),使用戶的人身安全問題將日益提上監(jiān)管部門、立法部門和其他相關(guān)機(jī)構(gòu)的日程之上。
(二)財(cái)產(chǎn)安全問題
通過智能手機(jī)“軟件管家”,簡(jiǎn)單地輸入“理財(cái)”兩個(gè)字,出來了近千款理財(cái)類APP,而某些常用的APP的下載量更是達(dá)到千萬(wàn)次。同時(shí)大量的銀行也適時(shí)開發(fā)了自己APP終端,滿足客戶資金劃轉(zhuǎn)、購(gòu)買基金、貴金屬交易、外匯買賣等一系列的個(gè)人理財(cái)需求。但同時(shí)銀行APP的缺陷給第三方APP的出現(xiàn)提供了發(fā)展空間,不過,第三方理財(cái)APP往往隱藏著各種風(fēng)險(xiǎn),理財(cái)類APP最大的風(fēng)險(xiǎn)在運(yùn)營(yíng)者自身的云端上。由此引發(fā)的金融理財(cái)類騷擾、詐騙短信成為信息安全的重災(zāi)區(qū),2016用戶舉報(bào)的詐騙電話和詐騙短信中,APP類更是迅速增長(zhǎng),其中的金融理財(cái)類APP遭遇病毒感染的現(xiàn)象更是值得關(guān)注。
(三)賬戶風(fēng)險(xiǎn)問題。用戶賬戶安全,是使用者對(duì)APP軟件的基本要求。與傳統(tǒng)互聯(lián)網(wǎng)環(huán)境相比,大數(shù)據(jù)環(huán)境中用戶在智能手機(jī)應(yīng)用過程中,通過同一個(gè)郵箱或者手機(jī)號(hào)在多個(gè)APP軟件之間申請(qǐng)認(rèn)證服務(wù),導(dǎo)致用戶在擁有了更多的私密賬戶的情形下,便于記憶的通用密碼會(huì)多次重復(fù)使用;而軟件運(yùn)營(yíng)商之間加強(qiáng)合作,通過一個(gè)APP賬戶登錄多個(gè)軟件享受相關(guān)會(huì)員服務(wù)是發(fā)展的趨勢(shì)。通著大數(shù)據(jù)的開發(fā)與功能增強(qiáng),這種應(yīng)用狀態(tài)的關(guān)聯(lián)性,導(dǎo)致一個(gè)APP軟件后面數(shù)據(jù)被盜時(shí),其他各大APP賬戶安全也岌岌可危。賬戶資料作為商家的重要資產(chǎn),同時(shí)成為犯罪分子垂涎的對(duì)象,賬戶安全問題在大數(shù)據(jù)環(huán)境下更加嚴(yán)峻。
(四)其他問題
大量的APP軟件都具有定位追蹤功能,不僅為用戶的生活帶來了方便,更被有心之人利用,成為犯罪的源頭。用戶通過APP社交軟件定期發(fā)布心情、分享照片,通過方便智能的聊天軟件,如微信、微博和朋友實(shí)時(shí)互動(dòng),在不知不覺中,用戶的情緒、地理位置、日程在一定程度上已經(jīng)數(shù)據(jù)化了,在這種用戶通過社會(huì)軟件在網(wǎng)上分享自己的個(gè)人信息的過程,網(wǎng)絡(luò)平臺(tái)在在默默記錄和收集用戶方方面面的私人數(shù)據(jù)是一個(gè)不爭(zhēng)的事實(shí),而更多的網(wǎng)絡(luò)平臺(tái)更是通過這種方法完成二次營(yíng)銷。
山寨APP大肆橫行,聚劃算、唯品會(huì)、工商銀行等各大品牌都不幸中招。大量的手機(jī)病毒借助熱門APP迷惑特定群體下載,利用通過后臺(tái)私自發(fā)送短信、屏蔽回饋信息、上傳手機(jī)信息等手段,造成用戶資費(fèi)消耗與隱私泄露,從而引發(fā)財(cái)產(chǎn)問題和社會(huì)治安問題。
利用手機(jī)APP導(dǎo)致個(gè)人信息頻頻被泄露,不僅是由于公民個(gè)人的信息保護(hù)意識(shí)和能力還不夠強(qiáng),更多原因在于新技術(shù)和商業(yè)利益狼狽為奸,不法分子受利益驅(qū)使,通過各種技術(shù)手段盜取用戶的個(gè)人信息。但更多的時(shí)候是用戶在享有互聯(lián)網(wǎng)便捷服務(wù)的過程中,對(duì)個(gè)人住處保護(hù)意識(shí)淡薄,在無(wú)意中就將個(gè)人信息和隱私交換出去,如利用微信、微博和QQ發(fā)布個(gè)人的生活細(xì)節(jié)等一系列行為,都是信息泄露的隱患。
手機(jī)APP的大量應(yīng)用不僅僅導(dǎo)致個(gè)人信息被泄露販賣,由此產(chǎn)生智能手機(jī)和平板電腦等移動(dòng)終端設(shè)備遭受到黑客攻擊,從而引發(fā)更為嚴(yán)重的安全事件更是讓人觸目驚心,通過入侵此類電子通信設(shè)備,利用手機(jī)中保有的敏感信息,犯罪分子可以獲取用戶的銀行賬號(hào),進(jìn)行金錢交易,利用用戶的聊天記錄,實(shí)施詐騙。威脅用戶安全不僅僅是網(wǎng)絡(luò)犯罪分子,甚至國(guó)家機(jī)構(gòu)也可能做出侵害行為,如斯諾登曝光美國(guó)“棱鏡”監(jiān)控計(jì)劃。因而每個(gè)智能手機(jī)使用者都應(yīng)該重視個(gè)人信息安全問題。
目前市面上并沒有萬(wàn)全的防護(hù)措施,用戶只有在使用大量的APP軟件地過程中,不斷提高加強(qiáng)自身的防范意識(shí),才能提高安全尺度[2]。
資料信息泄露、賬戶密碼失竊、財(cái)產(chǎn)被敲詐等問題的出現(xiàn),影響了信息產(chǎn)業(yè)發(fā)展,更給社會(huì)帶來了不安定因素。而提高用戶對(duì)于個(gè)人信息的可控性,更好地發(fā)揮大數(shù)據(jù)在技術(shù)創(chuàng)新、用戶至上的重要作用,構(gòu)建網(wǎng)絡(luò)社會(huì)管理和現(xiàn)代商業(yè)管理的核心基礎(chǔ)。
(一)個(gè)人信息安全法律法規(guī)同步發(fā)展
大數(shù)據(jù)技術(shù)作為新生產(chǎn)業(yè),法律法規(guī)的體系建設(shè)無(wú)疑是其中的最重要環(huán)節(jié),在現(xiàn)有的法律體系中,有近40部法律、30余部法規(guī)及近200部規(guī)章涉及個(gè)人信息保護(hù),雖然數(shù)量可觀,但在實(shí)際應(yīng)用中普遍存在著概念定義不清、適用面狹窄、管理權(quán)責(zé)不清、執(zhí)行效力不高、法律層級(jí)低等一系列問題,實(shí)際生活中,難以全面、有效完成對(duì)個(gè)人信息安全的保護(hù);長(zhǎng)此以往,對(duì)信息管理系統(tǒng)中個(gè)人信息的處理與管理,不能提供有效的指導(dǎo)和規(guī)范。
由于大數(shù)據(jù)環(huán)境下個(gè)人信息的控制方式、存儲(chǔ)方法、交流處理方式的根本性的變化,突顯了個(gè)人信息保護(hù)的法律缺位問題,無(wú)法可依、法律界定模糊更多地導(dǎo)致各種各樣的糾紛、治安、犯罪問題等越來越多,更難以滿足現(xiàn)今網(wǎng)絡(luò)發(fā)展過程中用戶追求個(gè)人信息尊嚴(yán)和信息控制權(quán)的普遍需求,因此保護(hù)個(gè)人信息安全的最基本要求是確立個(gè)人信息保護(hù)的基本法律制度,完成《個(gè)人信息保護(hù)法》的出臺(tái)與法律解釋,是刻不容緩的首要任務(wù)。
(二)形成行業(yè)自律公約
良好的行業(yè)規(guī)范和行業(yè)自律公約的制定是行業(yè)保持持久生命力的源泉,只有通過構(gòu)建本行業(yè)的通用規(guī)章,達(dá)到維護(hù)個(gè)人信息安全的大目標(biāo),獲得個(gè)人用戶信任感,才能從APP數(shù)據(jù)開發(fā)中獲得持久利益,讓企業(yè)快速發(fā)展,具有長(zhǎng)久的生命力。
1.第一尊重用戶知情權(quán)。在安裝的服務(wù)條款中使用明確語(yǔ)言,闡明軟件安裝過程中涉及的個(gè)人信息數(shù)據(jù)的處理方式及期限,對(duì)開發(fā)者的收集信息過程充分監(jiān)管,在法律法規(guī)的范圍里對(duì)商家的行為授權(quán),徹底改變收集用戶信息的無(wú)序現(xiàn)狀。
2.營(yíng)造安全的數(shù)據(jù)使用環(huán)境。加強(qiáng)數(shù)據(jù)共享過程的監(jiān)察,通過行業(yè)自律公約,完成個(gè)人信息擁有者、APP軟件開發(fā)商與提供商、數(shù)據(jù)消費(fèi)者的協(xié)作,在三方共同認(rèn)可的平臺(tái)上交換數(shù)據(jù),達(dá)到隱密性安全性的目的。
(三)技術(shù)的完善
智能手機(jī)中各主要APP供應(yīng)商技術(shù)標(biāo)準(zhǔn)不一、各自為政,軟件程序的兼容性問題,是困擾信息交互、計(jì)算資源充分共享的主要原因,為保證數(shù)據(jù)存儲(chǔ)處理過程的完整性與安全性,并實(shí)現(xiàn)技術(shù)兼容發(fā)展目標(biāo),完善技術(shù)應(yīng)該是行業(yè)發(fā)展的最強(qiáng)動(dòng)力,但由于目前各科技巨頭都致力于發(fā)展自己的技術(shù)標(biāo)準(zhǔn),參與熱情不高,導(dǎo)致軟件開發(fā)標(biāo)準(zhǔn)的制定還不盡如人意,通過國(guó)際組織制定并落實(shí)相關(guān)技術(shù)標(biāo)準(zhǔn),是行業(yè)蓬勃發(fā)展的重要條件。
1.提高信息安全技術(shù)和大數(shù)據(jù)技術(shù)的融合度。面對(duì)APP市場(chǎng)上豐富多變的客戶端應(yīng)用、數(shù)量級(jí)劇增的數(shù)據(jù)量,只有通過不斷提升大數(shù)據(jù)技術(shù)與安全技術(shù)有機(jī)融合,提前發(fā)現(xiàn)軟件開發(fā)過程出現(xiàn)的安全隱患,快速更新病毒和釣魚軟件特征數(shù)據(jù)庫(kù),從而營(yíng)造一個(gè)良好的APP軟件運(yùn)行空間。
2.提升匿名技術(shù)等專業(yè)能力。大數(shù)據(jù)分析技術(shù)和大數(shù)據(jù)預(yù)測(cè)技術(shù)的大量應(yīng)用,是運(yùn)營(yíng)商進(jìn)行精準(zhǔn)網(wǎng)絡(luò)營(yíng)銷和售后服務(wù)的基礎(chǔ),在行業(yè)內(nèi)找尋更專業(yè)的算法來完善匿名技術(shù),才能從根本上解決大數(shù)據(jù)分析、管理、存儲(chǔ)、應(yīng)用與用戶個(gè)人隱私信息之間的矛盾。
3.個(gè)人用戶信息安全素養(yǎng)培養(yǎng)。信息安全素養(yǎng)包括信息安全意識(shí)、信息安全知識(shí)、信息倫理道德和信息安全能力等具體內(nèi)容,通過個(gè)人信息安全知識(shí)的豐富,明確信息安全在大數(shù)據(jù)時(shí)代的重要性。通過知識(shí)的掌握,了解木馬、釣魚網(wǎng)站的特性特點(diǎn),可以大大提高公民個(gè)人信息安全意識(shí),讓全民具備保護(hù)個(gè)人和他人信息安全的職責(zé)和義務(wù),并在網(wǎng)絡(luò)應(yīng)用過程中明確信息法律倫理的相關(guān)規(guī)定,在一定程度上養(yǎng)成公民的個(gè)人信息安全習(xí)慣,讓每個(gè)網(wǎng)絡(luò)用戶都具備防范計(jì)算機(jī)網(wǎng)絡(luò)犯罪和病毒攻擊、及時(shí)備份重要資料的信息安全能力。
今天的社會(huì)無(wú)疑是網(wǎng)絡(luò)化信息時(shí)代,信息對(duì)我們而言不僅僅是隱私,更是涉及我們的家庭安全、財(cái)產(chǎn)安全和生命安全的重要警戒線,只有制度嚴(yán)密、監(jiān)管到位,法律健全、問責(zé)有力,才能有效避免個(gè)人信息泄露,保證個(gè)人信息安全穩(wěn)如磐石[3]。
[1]CNNIC發(fā)布.第29次中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r調(diào)查統(tǒng)計(jì)報(bào)告[Z].2012-01-16.
[2]范亞湘.網(wǎng)絡(luò)時(shí)代亟需個(gè)人隱私保護(hù)[N].長(zhǎng)沙晚報(bào),2010-03-12.
[3]舒心萍.APP時(shí)代信息安全如何保障[N].青島日?qǐng)?bào),2016-06-09.
[責(zé)任編輯:曲占峰]
2017-05-23
周憶陶(1970-),女,河北寧晉人,高級(jí)工程師;方寧(1980-),男,黑龍江哈爾濱人,工程師;蔄福軍(1981-),男,黑龍江哈爾濱人,教師。
F203
A
1008-7966(2017)04-0069-03