聶黎生 李欣 李小紅

摘 要： 軟件測(cè)試的漏洞發(fā)掘技術(shù)在快速擴(kuò)展的互聯(lián)網(wǎng)軟件數(shù)量需求下，其存在效率低下，適應(yīng)測(cè)試環(huán)境的能力不強(qiáng)以及對(duì)軟件外部代碼的跟蹤能力弱等問題。在這種情形下，開發(fā)了一種主動(dòng)式的多漏洞挖掘式數(shù)據(jù)平臺(tái)（MLIIMP）。一方面，該平臺(tái)能夠主動(dòng)觸發(fā)軟件測(cè)試系統(tǒng)在運(yùn)行時(shí)的位置漏洞；另一方面，系統(tǒng)在引入路徑搜索時(shí)還插入了新的函數(shù)模型，該模型的作用是保障符號(hào)傳播性能的大幅提升。漏洞測(cè)試結(jié)果表明這種平臺(tái)在進(jìn)行漏洞挖掘方面的效率有較大優(yōu)勢(shì)。

關(guān)鍵詞： 漏洞發(fā)掘； 挖掘效率； MLIIMP； 漏洞約束； 路徑搜索

中圖分類號(hào)： TN911?34； TP311 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)： 1004?373X（2016）09?0093?06

Abstract： Under the demands of fast extended Internet software quantity， the vulnerability mining technology for software testing has the disadvantages of low mining efficiency， poor tracking ability for the software′s external code and poor adaptation ability for test environment. For the above problems， the many loopholes initiative integrated mining platform （MLIIMP） was developed. The platform can initiatively trigger the position loophole when the software testing system is running. The new function model is inserted when the path search is introduced into the system， which can greatly improve the symbols propagation performance. The vulnerability test results show that the platform has a great advantage to improve the vulnerability mining efficiency.

Keywords： vulnerability mining； mining efficiency； MLIIMP； loophole constraint； path search

0 引 言

軟件測(cè)試需求量在IT行業(yè)的快速發(fā)展勢(shì)頭下與日俱增，測(cè)試效率的保障和測(cè)試性能的提升也越來越受到使用者的關(guān)注。而對(duì)于軟件測(cè)試本身來看，漏洞的發(fā)掘是其主要測(cè)試目標(biāo)，行業(yè)內(nèi)的從業(yè)者和學(xué)者專家對(duì)該相關(guān)技術(shù)進(jìn)行了積極的研究 [1?2]。在眾多的技術(shù)研究中，動(dòng)態(tài)符號(hào)技術(shù)因其獨(dú)特的優(yōu)勢(shì)，在漏洞發(fā)掘中處于研究的焦點(diǎn)之一。

動(dòng)態(tài)符號(hào)技術(shù)相對(duì)發(fā)展較快，能夠?qū)Ρ粶y(cè)對(duì)象的測(cè)試動(dòng)態(tài)過程進(jìn)行數(shù)據(jù)量化的記錄，進(jìn)而為后期分析漏洞挖掘過程及效果提供智力支撐和數(shù)據(jù)來源。相比于另一種靜態(tài)的分析過程，動(dòng)態(tài)符號(hào)的優(yōu)勢(shì)十分明顯，分析結(jié)果更加精確可信 [3?5]。黑盒測(cè)試的方法曾經(jīng)在代碼測(cè)試技術(shù)上風(fēng)靡一時(shí)，基于動(dòng)態(tài)符號(hào)技術(shù)的軟件測(cè)試具有更高的代碼覆蓋率，分析效果真實(shí)可信[6?7] 。而眾多普通的單路徑測(cè)試技術(shù)則只能發(fā)掘出該路徑上的漏洞[8?9]，而動(dòng)態(tài)符號(hào)方式則完全打破了此種方式，其核心關(guān)鍵技術(shù)實(shí)現(xiàn)了多條測(cè)試路徑的并行檢測(cè)，以期達(dá)到發(fā)掘更多漏洞的效果 [10?11]。但新技術(shù)的出現(xiàn)依然伴隨著很多缺陷，主要可以從以下幾個(gè)角度來說明：一是觸發(fā)挖掘的形式仍然是被動(dòng)的，不能對(duì)多變的測(cè)試環(huán)境及時(shí)做出響應(yīng) [12]；二是檢測(cè)功能相對(duì)而言變得更窄的測(cè)試功能適用范圍，對(duì)測(cè)試中需要的多種功能同時(shí)檢測(cè)的需求一般不能直接滿足；三是漏洞發(fā)掘的路徑層面存在較多的不足之處；四是一旦出現(xiàn)外部碼，測(cè)試環(huán)境與程序需求之間不能得到順暢傳輸。

為了避免上述問題，本文對(duì)動(dòng)態(tài)符號(hào)執(zhí)行狀態(tài)西阿德數(shù)據(jù)挖掘進(jìn)行了新的開發(fā)和設(shè)計(jì)，形成了一個(gè)優(yōu)化的多漏洞主動(dòng)挖掘平臺(tái)。該平臺(tái)的特征是能夠同時(shí)運(yùn)行多條搜索信息路徑，實(shí)現(xiàn)對(duì)軟件的多維漏洞檢測(cè)；其次其優(yōu)勢(shì)體現(xiàn)在主動(dòng)式搜索漏洞數(shù)據(jù)，運(yùn)行搜索方式發(fā)生了改變。以上兩點(diǎn)均從軟件內(nèi)部的優(yōu)勢(shì)來說明，關(guān)鍵是當(dāng)面對(duì)外部碼需要檢測(cè)的情形時(shí)，該平臺(tái)還可以利用檢測(cè)器手段對(duì)漏洞進(jìn)行跨界檢索分析，擴(kuò)展范圍較大。最后，本文針對(duì)路徑搜索的方式進(jìn)行了新的設(shè)計(jì)，用來避免相同路徑的無效執(zhí)行，提升了數(shù)據(jù)挖掘效率。

1 MLIIMP的設(shè)計(jì)與實(shí)現(xiàn)

本節(jié)主要展示MLIIMP（Many Loopholes Initiative Integrated Mining Platform）的代碼設(shè)計(jì)過程，并將核心代碼部分予以直接展示，沒有采取偽代碼形式，旨在方便研究人員直接借鑒使用。

1.1 主動(dòng)式漏洞發(fā)掘

在嵌入式研究行業(yè)內(nèi)，漏洞發(fā)掘技術(shù)的被動(dòng)模式由來已久，本文設(shè)計(jì)的MLIIMP首要便打破了常規(guī)的被動(dòng)形式改為主動(dòng)觸發(fā)漏洞。主動(dòng)觸發(fā)的形式需要在測(cè)試過程中進(jìn)行特定條件的設(shè)置，以條件運(yùn)行來觸發(fā)漏洞[13]。

為了實(shí)現(xiàn)對(duì)可變漏洞的深入全面發(fā)掘，MLIIMP引入了漏洞約束的概念，并將約束模型化。本平臺(tái)中的約束并不具有隨機(jī)生成的特征，其為固定的幾種可選方式，相差較小。這種約束的設(shè)定是為了實(shí)現(xiàn)程序路徑的直接漏洞檢測(cè)，具體的代碼格式如下：

由上述代碼分析，若變量[x]能夠滿足約束要求[x！=2∧x<0∨x>3]時(shí)，代碼中的語句6被觸發(fā)漏洞。該漏洞觸發(fā)的前提是具備普通約束條件[x！=2]，如果約束具備則路徑運(yùn)行能實(shí)現(xiàn)[1→2→3→5→6]，該運(yùn)行路徑上的約束漏洞條件是[x<0∨x>3]，滿足上述約束條件，漏洞不可避免的觸發(fā)。

將漏洞發(fā)掘被動(dòng)式改變?yōu)橹鲃?dòng)形式，需要利用MLIIMP實(shí)現(xiàn)實(shí)時(shí)監(jiān)控。對(duì)程序運(yùn)轉(zhuǎn)測(cè)試過程進(jìn)行控制，一旦出現(xiàn)可能的漏洞觸發(fā)時(shí)，將約束條件引入到實(shí)測(cè)路徑，并利用平臺(tái)自帶功能實(shí)現(xiàn)標(biāo)記。這時(shí)的約束不同于常規(guī)約束，MLIIMP的自檢測(cè)剛好能實(shí)現(xiàn)二者的區(qū)別劃分和分類。對(duì)路徑進(jìn)行探究的過程中，約束條件沒有被否定是因?yàn)樵摷s束并不是表達(dá)分支小程序段，其功能發(fā)生了本質(zhì)轉(zhuǎn)變。

1.2 漏洞檢測(cè)器

漏洞發(fā)掘的關(guān)鍵之一是漏洞檢測(cè)器的個(gè)性化，本文所提MLIIMP能夠?qū)崿F(xiàn)眾多類型開發(fā)，受文體所限，以下對(duì)其中四種作簡(jiǎn)要闡明。

1.2.1 數(shù)組越界檢測(cè)器

數(shù)組越界檢測(cè)器是對(duì)數(shù)組發(fā)生越界后的漏洞進(jìn)行檢測(cè)分析，仍以1.1節(jié)中的代碼為例，語句6發(fā)生錯(cuò)誤時(shí)便可以用該檢測(cè)器測(cè)得。

數(shù)組越界檢測(cè)的關(guān)鍵技術(shù)有三個(gè)方面的內(nèi)容：一是實(shí)現(xiàn)符號(hào)索引跟蹤，即是構(gòu)建一個(gè)索引實(shí)現(xiàn)符號(hào)在變量與數(shù)組傳播中的實(shí)施追蹤和記錄比對(duì)；二是檢測(cè)器能夠?yàn)閿?shù)組實(shí)施操作識(shí)別；三是數(shù)組的界限需要進(jìn)行常規(guī)的檢測(cè)分析獲得，分析包含識(shí)別、界限檢測(cè)兩步。

為了詳細(xì)說明檢測(cè)器的運(yùn)行過程，將其運(yùn)行劃分為三個(gè)層面的步驟：一是實(shí)現(xiàn)路徑追蹤，主要通過監(jiān)控符號(hào)傳播的路徑來實(shí)現(xiàn)；第二步，發(fā)現(xiàn)疑似符號(hào)時(shí)，主動(dòng)查詢當(dāng)前數(shù)組的范圍，對(duì)查詢結(jié)果進(jìn)行分析后獲得數(shù)組的界限情況。利用得到的界限情況設(shè)定漏洞約束條件，并將約束導(dǎo)入其間跟蹤繼續(xù)運(yùn)行。新的路徑形成可以由以下公式進(jìn)行計(jì)算獲得：

在上述代碼中，語句3和5的表達(dá)出現(xiàn)了邏輯性錯(cuò)誤，3的直接規(guī)定是size被定義為符號(hào)整數(shù)。而同樣的表達(dá)定義在語句5中重復(fù)出現(xiàn)，且這時(shí)的定義變?yōu)榱藷o符號(hào)整數(shù)，這樣前后矛盾的語句說明，將會(huì)直接出現(xiàn)內(nèi)存分配層面的邏輯錯(cuò)誤，觸發(fā)系統(tǒng)運(yùn)行漏洞。

函數(shù)參數(shù)錯(cuò)誤檢測(cè)器的基本運(yùn)行步驟可以視作兩個(gè)關(guān)鍵性流程：第一步是實(shí)現(xiàn)路徑追蹤，主要通過監(jiān)控符號(hào)傳播的路徑來實(shí)現(xiàn)；緊接著，對(duì)待測(cè)函數(shù)執(zhí)行插莊動(dòng)作，使得待測(cè)函數(shù)一旦被調(diào)用則會(huì)自動(dòng)觸發(fā)函數(shù)參數(shù)錯(cuò)誤的約束條件，主動(dòng)觸發(fā)漏洞約束。

1.3 函數(shù)模型

為了確保符號(hào)能夠準(zhǔn)確的執(zhí)行下去，本平臺(tái)中對(duì)眾多的外部函數(shù)預(yù)設(shè)了實(shí)施模型，這樣處理后的追蹤效果明顯提升，跟蹤符號(hào)傳播的任務(wù)更易實(shí)現(xiàn)。

MLIIMP函數(shù)模型常見于面向字符串的操作，這些內(nèi)存操作方式多樣，通?？蓜澐譃橐韵耺emcpy，memset，strcat，strncpy，strcpy等形式。為了更好地實(shí)現(xiàn)執(zhí)行過程的再現(xiàn)，列舉出新的函數(shù)實(shí)例來分析獲得。進(jìn)行符號(hào)化的動(dòng)態(tài)執(zhí)行時(shí)，函數(shù)程序一般在調(diào)用初始時(shí)不會(huì)出現(xiàn)符號(hào)化的直接特征，如strncpy（t，s，2）函數(shù)原始的緩沖目標(biāo)區(qū)間表示為非符號(hào)的t，而源緩沖則用符號(hào)化的形式表現(xiàn)，如[i1]與[i2，]此時(shí)的源緩沖還能用[s]替代描述。函數(shù)模型的分析結(jié)果是，性質(zhì)不是符號(hào)的[t]將會(huì)被執(zhí)行為符號(hào)參數(shù)，這樣的運(yùn)行將會(huì)觸發(fā)符號(hào)參數(shù)錯(cuò)誤的漏洞。在外部函數(shù)調(diào)用時(shí)，MLIIMP的處理流程較繁瑣，圖1為處理流程詳細(xì)步驟。

通過圖1可以看出，測(cè)試時(shí)一旦應(yīng)用到外部調(diào)用的情況，本平臺(tái)將會(huì)首先獲取外部函數(shù)對(duì)應(yīng)功能的函數(shù)名稱，獲取方式由API形式得到。緊接著，函數(shù)模型會(huì)在該名稱的指引搜索下被找到，若不存在對(duì)應(yīng)函數(shù)的實(shí)體程序，將會(huì)觸發(fā)該測(cè)試函數(shù)的對(duì)應(yīng)功能，若存在，則會(huì)對(duì)外部程序函數(shù)體深入檢測(cè)，進(jìn)行路徑的傳輸和追蹤。

1.4 優(yōu)化路徑搜索方法

MLIIMP的優(yōu)化路徑較多，搜索的方式也很多，多對(duì)多的開發(fā)形式可以有效避免資源浪費(fèi)和搜索不徹底的情形發(fā)生。本搜索路徑優(yōu)化的基本原理是：第一，否定漏洞的約束條件；第二，若路徑指令多或者函數(shù)的優(yōu)先級(jí)較高時(shí)，將會(huì)在路徑執(zhí)行中獲得優(yōu)先運(yùn)行的權(quán)限。下面將詳細(xì)描述路徑搜索算法，即Expand Execution函數(shù)，Symbolic Execution 函數(shù)以及Score函數(shù)。

上述語句14實(shí)現(xiàn)了對(duì)模式是否存在的判定，進(jìn)而在第15條語句中進(jìn)行調(diào)動(dòng)的直接說明。如果指令需要數(shù)據(jù)進(jìn)行預(yù)設(shè)，此時(shí)的函數(shù)調(diào)用功能由input Symbolization調(diào)用和測(cè)試，進(jìn)一步實(shí)現(xiàn)參數(shù)的符號(hào)化表達(dá)。符號(hào)化成功后的指令如果在傳輸中需要調(diào)用，則采用symPropagation函數(shù)的相關(guān)功能實(shí)現(xiàn)。

此外，對(duì)于上述代碼中所示的Score函數(shù)。該執(zhí)行函數(shù)的一個(gè)關(guān)鍵特點(diǎn)是設(shè)定了depth，且將初始化數(shù)值設(shè)為0 ，該處理方式旨在避免求解的重復(fù)進(jìn)行，一旦關(guān)鍵函數(shù)在前述某個(gè)環(huán)節(jié)已經(jīng)進(jìn)行過求解運(yùn)算，則在調(diào)用時(shí)會(huì)優(yōu)先考慮計(jì)算結(jié)果，并直接應(yīng)用。即便不能直接應(yīng)用，也可以只進(jìn)行增量化計(jì)算，確保節(jié)約運(yùn)行時(shí)長(zhǎng)，提升效率。

同樣地，其轉(zhuǎn)化功能也包含在程序體中，本例從語句6開始實(shí)施，對(duì)應(yīng)的將各編號(hào)種類進(jìn)行處理，編號(hào)表示為[i。]語句7執(zhí)行條件跳轉(zhuǎn)，語句8判斷是否需要跳轉(zhuǎn)。判斷方法是：若數(shù)值與其符號(hào)之間相關(guān)則出現(xiàn)depth累加計(jì)算。運(yùn)行到語句13時(shí)，測(cè)試已經(jīng)獲得了漏洞出現(xiàn)的類型和特征數(shù)值，并利用語句14計(jì)算分值和各分值的權(quán)重（這個(gè)權(quán)重由漏洞的嚴(yán)重程度確定）。最終的分?jǐn)?shù)在語句16中獲得，并對(duì)應(yīng)輸出。

2 實(shí)驗(yàn)與分析

本節(jié)主要介紹對(duì)平臺(tái)效果的實(shí)驗(yàn)性檢驗(yàn)，實(shí)驗(yàn)結(jié)果和分析如下詳述。

2.1 MS06?001漏洞測(cè)試

常用于圖像存儲(chǔ)格式的WMF（Windows Meta File）形式被引入到MS06?001漏洞測(cè)試中。漏洞測(cè)試的格式具備較多的數(shù)據(jù)結(jié)構(gòu)類型，其中WMFRECORD的結(jié)構(gòu)特征對(duì)GDI格式的函數(shù)是否調(diào)用發(fā)揮了決定性作用。該結(jié)構(gòu)的后8位數(shù)據(jù)常視作索引數(shù)值大小。第9位字節(jié)存儲(chǔ)的數(shù)值表示了字節(jié)數(shù)量。程序會(huì)自動(dòng)執(zhí)行0x90開始的全部代碼。可見為了觸發(fā)該約束條件下的漏洞，需要將第9字節(jié)處設(shè)定為制定的代碼值，即為0x16。只有在該種設(shè)定下才可以實(shí)現(xiàn)漏洞的觸發(fā)，具體過程如圖2所示。

黑盒測(cè)試技術(shù)不容易觸發(fā)MS06?001的漏洞，原因如下：考慮到該漏洞觸發(fā)的直接約束條件，首先第5個(gè)字節(jié)是0x26的觸發(fā)幾率為[1256，]同樣的，第9個(gè)字節(jié)是0x16的觸發(fā)幾率是[1256；]這些海量測(cè)試后的幾率顯示該技術(shù)同時(shí)滿足以上兩個(gè)條件的前提下，出現(xiàn)漏洞觸發(fā)的幾率僅僅為[165 536。]這個(gè)數(shù)值只是理論計(jì)算的結(jié)果，實(shí)踐中考慮到硬件以及實(shí)際運(yùn)行情況，這種漏洞觸發(fā)的幾率往往比[165 536]還要低得多。

與傳統(tǒng)算法相比，以上MLIIMP在實(shí)測(cè)時(shí)消耗了較短的檢測(cè)時(shí)間，在較少的實(shí)驗(yàn)資源前提下即實(shí)現(xiàn)了MS06?001漏洞的成功觸發(fā)。實(shí)驗(yàn)結(jié)果顯示DEEPTH數(shù)值是906，表明約束量約為906個(gè)，同時(shí)在該約束量影響下，執(zhí)行的指令條數(shù)為1 763 456條，實(shí)現(xiàn)了14 581個(gè)字節(jié)的符號(hào)化需求和數(shù)值輸入。本次實(shí)驗(yàn)用MLIIMP測(cè)試372例實(shí)驗(yàn)案例。一共實(shí)現(xiàn)觸發(fā)次數(shù)為47次，觸發(fā)時(shí)的運(yùn)行平均深度為72。這個(gè)平均深度表明漏洞MS06?001多發(fā)生在淺路徑之上。

2.2 CVE?2010?0188漏洞測(cè)試

與MS06?001漏洞測(cè)試不同，CVE?2010?0188漏洞的影響范圍更廣，程度更深，版本涉及面更廣。如Adobe Reader，Adobe Acrobat等均易受到漏洞侵襲。以上兩款軟件極易因文本漏洞而受到攻擊，本質(zhì)上說，PDF的格式特征決定了其復(fù)雜的后臺(tái)程序容易存在未知文本漏洞，且隨著每一次的升級(jí)和變化均可能造成新漏洞的擴(kuò)大。利用漏洞進(jìn)行文本攻擊，可以通過攻擊者以誘導(dǎo)形式進(jìn)行遠(yuǎn)程的控制，實(shí)現(xiàn)文本攻擊的惡意目的。

TIFF文件格式是文本攻擊的直接載體，分析其解析過程可以獲得前述兩大漏洞的存在具有相似的地方，除開屬性有所差異外，二者為同源條件下的不同漏洞表現(xiàn)形式。其實(shí)質(zhì)是記錄了當(dāng)前12個(gè)字節(jié)的目錄項(xiàng)數(shù)據(jù)以及詳細(xì)的數(shù)據(jù)結(jié)構(gòu)。

標(biāo)牌信息為0x150，具體的長(zhǎng)度為數(shù)值2，類型表達(dá)為short。相關(guān)的偏移信息用符號(hào)Dot Range[1]或者Dot Range[0]表示。以上均處于TIFF的核心地位中。如果出現(xiàn)了新的長(zhǎng)度，則這種情況必將導(dǎo)致異常運(yùn)行，漏洞觸發(fā)的可能性增加。有意識(shí)的對(duì)長(zhǎng)度值進(jìn)行限制，另一方面由組織編寫植入了惡意代碼形式，這些將會(huì)使得Libtiff的緩沖區(qū)發(fā)生明顯的數(shù)據(jù)溢出，惡意代碼運(yùn)行將不受限制。

對(duì)于以上特點(diǎn)，本平臺(tái)MLIIMP將被動(dòng)觸發(fā)的約束條件獲取后，主動(dòng)導(dǎo)入約束邊界，將漏洞發(fā)掘的過程變?yōu)橹鲃?dòng)監(jiān)測(cè)。本次測(cè)試工作耗時(shí)超過12 h，最終測(cè)試獲得的漏洞案例分別為第93，107。以上兩次測(cè)試分別觸發(fā)了Adobe Reader 9.3，Adobe Acrobat 9.3兩個(gè)不同閱讀器的漏洞約束。海量測(cè)試數(shù)據(jù)在acrobe和reader兩者上的成功測(cè)試用例數(shù)分別高達(dá)923以及854個(gè)。測(cè)試過程的輸入符號(hào)化總量分別達(dá)到97 899以及95 367個(gè)。測(cè)試后的平均路徑深度結(jié)果是12 151和11 936。

本文中對(duì)MLIIMP的測(cè)試表明（具體如表1所示），其實(shí)現(xiàn)正常檢測(cè)效果的時(shí)間較短，內(nèi)嵌的文本測(cè)試算法相對(duì)優(yōu)化，配合MLIIMP獨(dú)特的多路徑搜索功能以及主動(dòng)的約束條件引入，以上均是該數(shù)據(jù)挖掘平臺(tái)的優(yōu)勢(shì)所在，對(duì)所有測(cè)試用例的測(cè)試速度效果提升明顯。

3 結(jié) 論

本文基于動(dòng)態(tài)符號(hào)的漏洞發(fā)掘技術(shù)實(shí)現(xiàn)了具有新特征的MLIIMP測(cè)試平臺(tái)。該系統(tǒng)已經(jīng)成功實(shí)現(xiàn)四類漏洞的檢測(cè)和判定，總體說來，MLIIMP的優(yōu)勢(shì)主要有：漏洞檢測(cè)器種類多，發(fā)掘方式由被動(dòng)變?yōu)橹鲃?dòng)，路徑搜索變得更加多樣化且精準(zhǔn)率提升，另外，其采用的函數(shù)模型提供了對(duì)外部程序追蹤的基礎(chǔ)。詳細(xì)闡述為，MLIIMP并不直接否定約束，而是主動(dòng)設(shè)置漏洞約束并引入到路徑搜索的過程，同時(shí)為了節(jié)約搜索時(shí)間，本次開發(fā)還設(shè)置了避免重復(fù)搜索的功能函數(shù)，提升了漏洞測(cè)試效率，大大減少了測(cè)試時(shí)長(zhǎng)。

雖然以上開發(fā)結(jié)果顯示本系統(tǒng)效果優(yōu)良，但對(duì)于因?yàn)殚L(zhǎng)度設(shè)定后引發(fā)的數(shù)據(jù)緩沖區(qū)溢出測(cè)試不明顯，所以針對(duì)該漏洞的開發(fā)是本平臺(tái)需要改進(jìn)的方向。

參考文獻(xiàn)

[1] SUN H， ZENG Q K. Research on integer?based vulnerabilities： security model， detecting methods and real?world cases [J]. Journal of software， 2015， 26（2）： 413?426.

[2] 邢玉鳳.二進(jìn)制代碼的漏洞挖掘技術(shù)研究[J].計(jì)算機(jī)測(cè)量與控制，2014，22（12）：4111?4114.

[3] 趙躍華，闞俊杰.基于符號(hào)執(zhí)行的測(cè)試數(shù)據(jù)生成方法的研究與設(shè)計(jì)[J].計(jì)算機(jī)應(yīng)用與軟件，2014，31（2）：303?306.

[4] 趙剛，宋健豪.基于系統(tǒng)調(diào)用時(shí)間特征的異常行為智能檢測(cè)系統(tǒng)[J].計(jì)算機(jī)應(yīng)用與軟件，2015，32（4）：309?313.

[5] CSALLNER C， SMARAGDAKIS Y. Check ′n′ crash： combi?ning static checking and testing [C]// Proceedings of the 27th International Conference on Software Engineering. USA： ACM， 2005： 422?431.

[6] 劉春玲，雷海紅.黑盒測(cè)試用例設(shè)計(jì)方法研究[J].現(xiàn)代電子技術(shù)，2012，35（20）：46?48.

[7] TAHAT L H， VAYSBURG B， KOREL B， et al. Requirement?based automated black?box test generation [C]// Proceedings of 2001 25th Annual International Computer Software and Applications Conference. Chicago： IEEE， 2001： 489?495.

[8] NETHERCOTE N， SEWARD J. Valgrind： a framework for heavyweight dynamic binary instrumentation [C]// Proceedings of 2007 ACM SIGPLAN Conference on Programming Language Design and Implementation. USA： ACM， 2007： 89?100.

[9] 朱麗，李汪彪，蘇偉達(dá)，等.基于路徑覆蓋的嵌入式軟件動(dòng)態(tài)測(cè)試研究[J].現(xiàn)代電子技術(shù)，2013，36（6）：63?65.

[10] 黃暉，陸余良，夏陽.基于動(dòng)態(tài)符號(hào)執(zhí)行的二進(jìn)制程序缺陷發(fā)現(xiàn)系統(tǒng)[J].計(jì)算機(jī)應(yīng)用研究，2013，30（9）：2810?2812.

[11] 邵巳航，蘇亭，顧斌，等.基于過程間動(dòng)態(tài)符號(hào)執(zhí)行的C語言測(cè)試框架[J].計(jì)算機(jī)工程與設(shè)計(jì)，2014，35（8）：2746?2751.

[12] GODEFROID P， LEVIN M， MOLNAR D. Automated whitebox fuzz testing [R]. US： Microsoft， 2006.

[13] GODEFROID P， LEVIN M Y， MOLNAR D. Active property checking [C]// Proceedings of the 7th ACM International Conference on Embedded Software. USA： ACM， 2007： 207?216.