曾杰鵬，廖 芹，谷志元

（1.華南理工大學(xué) 理學(xué)院，廣東 廣州510640；2.廣州鐵路職業(yè)技術(shù)學(xué)院 應(yīng)用數(shù)學(xué)教研室，廣東 廣州510430）

0 引 言

貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)是貝葉斯網(wǎng)絡(luò)研究的一個(gè)重要方向，尤其在沒有先驗(yàn)網(wǎng)絡(luò)結(jié)構(gòu)的情況下，結(jié)構(gòu)學(xué)習(xí)算法在建網(wǎng)上的作用尤為突出。貝葉斯結(jié)構(gòu)學(xué)習(xí)主要有基于評(píng)分的啟發(fā)式算法以及基于互信息等規(guī)則［1］的建網(wǎng)方法。其中，基于評(píng)分的啟發(fā)式算法在當(dāng)前的研究中最為活躍，主要包括爬山算法［2］，蟻群算法［3］，遺傳算法［4］，模擬退火算法［5］等。同時(shí)，通過對(duì)上述算法的優(yōu)化組合，也生成了各種有效的組合算法，如遺傳算法與模擬退火算法的組合算法［6］，遺傳算法與蟻群算法的組合算法［7］等。

遺傳算法搜索范圍大，尋優(yōu)效率高，在貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)中具有普遍的應(yīng)用。然而由于傳統(tǒng)的個(gè)體編碼主要采用貝葉斯網(wǎng)絡(luò)的鄰接矩陣，導(dǎo)致種群初始化的過程中，可行解的生成概率較低，需要重復(fù)生成新個(gè)體，以保證其通過無環(huán)性檢驗(yàn)［8］。其次，在種群的進(jìn)化過程中，個(gè)體的可行性可能受到破壞。因此，對(duì)于新生成的個(gè)體，往往又需要重新進(jìn)行無環(huán)性檢驗(yàn)，進(jìn)而將非法結(jié)構(gòu)修正為有向無環(huán)圖［9］，或者為非法結(jié)構(gòu)設(shè)置較低的適應(yīng)度，從而降低了尋優(yōu)的效率［10－11］。另外，之前的研究在計(jì)算新個(gè)體的結(jié)構(gòu)得分時(shí)，往往需要計(jì)算整個(gè)新貝葉斯網(wǎng)絡(luò)的得分。然而事實(shí)上，在遺傳進(jìn)化過程中，貝葉斯網(wǎng)絡(luò)通常存在局部不變性。因此可以結(jié)合結(jié)構(gòu)得分的可分解性與結(jié)構(gòu)局部穩(wěn)定性［12］，從而進(jìn)一步優(yōu)化結(jié)構(gòu)學(xué)習(xí)的效率。

本文針對(duì)上述問題，提出一種新的個(gè)體編碼方式，同時(shí)結(jié)合遺傳進(jìn)化過程中，個(gè)體的家族得分具有可繼承性，從而設(shè)計(jì)相應(yīng)的改進(jìn)算法。最后通過對(duì)比實(shí)驗(yàn)表明，相比于傳統(tǒng)的遺傳算法，本文改進(jìn)的算法在結(jié)構(gòu)學(xué)習(xí)的精度與效率上都得到明顯的提升。

1 貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)編碼的改進(jìn)

1.1 傳統(tǒng)編碼的問題

貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)的傳統(tǒng)編碼，一般以0－1向量表示。具體如下：若貝葉斯網(wǎng)絡(luò)有n個(gè)節(jié)點(diǎn)，其鄰接矩陣為（cij）nxn。若節(jié)點(diǎn)i指向節(jié)點(diǎn)j，則cij＝1，表示節(jié)點(diǎn)i為節(jié)點(diǎn)j的父節(jié)點(diǎn)，否則cij＝0。把上述鄰接矩陣改寫為0－1向量 （c11，c12，…，c1n，c21，c22，…，c2n，…，cn1，cn2，…cnn），即可將其作為貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)的個(gè)體編碼。

然而在該編碼下，得到有向無環(huán)圖的可能性不高。因?yàn)閷?duì)于節(jié)點(diǎn)數(shù)為n的貝葉斯網(wǎng)絡(luò)，所有可能結(jié)構(gòu)的個(gè)數(shù)f（n）滿足［13］

而以隨機(jī)生成的鄰接矩陣為例，所有n階0－1矩陣的個(gè)數(shù)F（n）＝2nxn。于是，隨機(jī)生成的鄰接矩陣滿足無環(huán)性的概率。

以n＝1，2，……，5為例，計(jì)算r（n），見表1。

表1 滿足無環(huán)性的概率

可見，隨著節(jié)點(diǎn)數(shù)的增大，隨機(jī)生成的鄰接矩陣滿足無環(huán)性的概率迅速減小。

1.2 個(gè)體編碼改進(jìn)

考慮到傳統(tǒng)個(gè)體編碼的低效性，本文基于每個(gè)貝葉斯網(wǎng)絡(luò)都可以至少對(duì)應(yīng)到一個(gè)節(jié)點(diǎn)順序的事實(shí)［14］，提出一種新的個(gè)體編碼方式。該編碼包括兩個(gè)部分：節(jié)點(diǎn)順序與給定節(jié)點(diǎn)順序下的連邊情況。

具體設(shè)計(jì)如下：若節(jié)點(diǎn)數(shù)為n，個(gè)體編碼為 （i1，i2，…，in，c12，c13，c23，c14，c24，c34，…，c1n，c2n，…，cn－1，n）。其中i1，i2，…，in為1至n的一個(gè)排列，表示節(jié)點(diǎn)順序。為了保證無環(huán)性，這里規(guī)定只允許排序在前的節(jié)點(diǎn)指向排序在后的節(jié)點(diǎn)。c12，c13，c23，c14，c24，c34，…，c1n，c2n，…，cn－1，n表示在給定節(jié)點(diǎn)順序下的連邊情況。若節(jié)點(diǎn)ij指向節(jié)點(diǎn)ik（j＜k），則cjk＝1，否則cjk＝0。

例如，當(dāng)n＝4，若編碼為 （2，4，3，1，1，1，0，0，1，1）。那么，其中2，4，3，1表示節(jié)點(diǎn)順序，分別對(duì)應(yīng)于變量X2，X4，X3，X1。1，1，0，0，1，1表示給定節(jié)點(diǎn)順序下的連邊情況。X2排在第一位，因此沒有父節(jié)點(diǎn)；X4連邊情況的相關(guān)編碼為1，表示X2為其父節(jié)點(diǎn)；X3連邊情況的相關(guān)編碼為1，0，表示X2為其父節(jié)點(diǎn)；X1連邊情況的相關(guān)編碼為0，1，1，表示X4，X3為其父節(jié)點(diǎn)。于是，該編碼對(duì)應(yīng)的貝葉斯網(wǎng)絡(luò)如圖1所示。

圖1 編碼對(duì)應(yīng)結(jié)構(gòu)

可以證明，該設(shè)計(jì)下的個(gè)體編碼，唯一對(duì)應(yīng)到一個(gè)有向無環(huán)圖，即唯一對(duì)應(yīng)到一個(gè)貝葉斯網(wǎng)絡(luò)；而任意一個(gè)貝葉斯網(wǎng)絡(luò)，都至少可以找到一個(gè)該設(shè)計(jì)下的個(gè)體編碼與之對(duì)應(yīng)。

該編碼設(shè)計(jì)的好處還在于可以有效減少編碼長(zhǎng)度。對(duì)n個(gè)節(jié)點(diǎn)的貝葉斯網(wǎng)絡(luò)，若采用傳統(tǒng)方式的編碼，其編碼長(zhǎng)度L（n）＝n2，而采用本文設(shè)計(jì)的編碼，計(jì)算得知其編碼長(zhǎng)度L’（n）＝n（n＋1）/2?？梢宰C明：

由此說明，本文設(shè)計(jì)的個(gè)體編碼可以有效減少編碼長(zhǎng)度，降低存儲(chǔ)開銷。而且當(dāng)節(jié)點(diǎn)數(shù)增大時(shí)，本文編碼的優(yōu)勢(shì)更加明顯，可以將編碼長(zhǎng)度減少到將近傳統(tǒng)編碼的一半。

2 基于家族繼承的評(píng)分算法改進(jìn)

2.1 評(píng)分函數(shù)的改進(jìn)

關(guān)于貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)劣存在多種評(píng)價(jià)標(biāo)準(zhǔn)，當(dāng)前以BIC得分最為常用。BIC得分的計(jì)算方式如下［15］

式中：n——節(jié) 點(diǎn) 數(shù)，qi——節(jié) 點(diǎn)i的 父 節(jié) 點(diǎn) 取 值 數(shù)，ri——節(jié)點(diǎn)i的取值數(shù)，mijk——學(xué)習(xí)樣本中，父節(jié)點(diǎn)為第j種取值下，節(jié)點(diǎn)i為第k種取值的樣本數(shù)。。N表示樣本數(shù)。

在傳統(tǒng)的遺傳算法中，由舊種群生成的新種群，其中新個(gè)體的結(jié)構(gòu)得分往往整個(gè)重新計(jì)算。然而分析發(fā)現(xiàn)，這個(gè)過程可能存在重復(fù)運(yùn)算的問題。例如對(duì)于節(jié)點(diǎn)數(shù)為4的貝葉斯網(wǎng)絡(luò)，遺傳前后可能存在網(wǎng)絡(luò)結(jié)構(gòu)分別如圖2所示。

那么，傳統(tǒng)方法計(jì)算該新結(jié)構(gòu)的得分，需要先分別計(jì)算X1，X2，X3，X4的家族得分。然而觀察發(fā)現(xiàn)，在新結(jié)構(gòu)中X1和X3的父節(jié)點(diǎn)，與舊結(jié)構(gòu)的中一致，因此它們的家族得分可以直接從舊結(jié)構(gòu)中繼承。于是只有X2和X4的家族得分需要重新計(jì)算，從而大大簡(jiǎn)化了結(jié)構(gòu)得分的計(jì)算。

圖2 新舊個(gè)體對(duì)應(yīng)結(jié)構(gòu)

2.2 改進(jìn)算法實(shí)現(xiàn)

本文采用矩陣AllPa和AllFamS，分別對(duì)上一代所有個(gè)體中各節(jié)點(diǎn)對(duì)應(yīng)的父節(jié)點(diǎn)及家族得分進(jìn)行存儲(chǔ)。AllPa＝（Paij）mxn，其中m表示種群大小，n表示網(wǎng)絡(luò)節(jié)點(diǎn)數(shù)，Paij表示個(gè)體i中節(jié)點(diǎn)j的父節(jié)點(diǎn)的集合。若個(gè)體i的節(jié)點(diǎn)j無父節(jié)點(diǎn)，則記Paij＝ ｛0｝。AllFamS＝ （FamSij）mxn，其中FamSij表示個(gè)體i中節(jié)點(diǎn)j的家族得分。因此，計(jì)算個(gè)體i的結(jié)構(gòu)得分只需對(duì)AllFamS第i行求和。

對(duì)于遺傳過程中生成的新個(gè)體，計(jì)算其結(jié)構(gòu)得分時(shí)，需要累積其各節(jié)點(diǎn)的家族得分。例如計(jì)算節(jié)點(diǎn)i的家族得分，則首先對(duì)比該節(jié)點(diǎn)i與父代中個(gè)體的節(jié)點(diǎn)i，確定其父節(jié)點(diǎn)集合是否存在一致，如果存在，則直接從上一代的該個(gè)體繼承節(jié)點(diǎn)i的家族得分，如果不存在，則需通過重新掃描樣本集計(jì)算。

AllPa和AllFamS的更新算法具體如下：

Update//更新算法

輸入：AllPa，AllfamS，Population//種群，data//數(shù)據(jù)集

輸出：NewAllPa，NewAllfamS

//獲取各個(gè)體的各父節(jié)點(diǎn)

fori＝1：m//m為種群個(gè)體數(shù)

//針對(duì)某一個(gè)體，獲取其各節(jié)點(diǎn)的父節(jié)點(diǎn)

forj＝1：n//n為節(jié)點(diǎn)數(shù)

Pa＝GetPa（Population，i，j）//GetPa （Population，i，j）返回種群Population的個(gè)體i中節(jié)點(diǎn)j的父節(jié)點(diǎn)集合

ifPa＝Γ

NewAllPa｛i，j｝＝0；

else

NewAllPa｛i，j｝＝Pa；

end

end

end

//計(jì)算各個(gè)體的各家族得分

fori＝1：m

//針對(duì)某一個(gè)體，計(jì)算其各節(jié)點(diǎn)的家族得分

forj＝1：n

Exist＝false；//Exist為能否家族繼承的標(biāo)志

//掃描上一個(gè)種群的AllPa，確定能否家族繼承

fork＝1：m

ifNewAllPa｛i，j｝＝＝AllPa｛k，j｝

NewAllfamS（i，j）＝AllfamS（k，j）；

Exist＝true；

break；

end

end

//如果無法家族繼承，家族得分則需重新掃描data計(jì)算

ifExist＝false；

NewAllfamS（i，j）＝GetfamS （data，j，Pa）；//GetfamS（data，j，Pa）返回根據(jù)數(shù)據(jù)集data計(jì)算得到的節(jié)點(diǎn)j在父節(jié)點(diǎn)Pa下的家族得分

end

end

end

3 結(jié)構(gòu)學(xué)習(xí)遺傳算法的改進(jìn)

基于上文的個(gè)體編碼設(shè)計(jì)與家族繼承方法，下面設(shè)計(jì)與之相應(yīng)的結(jié)構(gòu)學(xué)習(xí)遺傳算法。該算法設(shè)計(jì)的難點(diǎn)在于交叉與變異過程中對(duì)個(gè)體無環(huán)性的保證。具體如下：

3.1 種群初始化

設(shè)種群大小為m，按照上文的個(gè)體編碼方式，生成m個(gè)個(gè)體。個(gè)體生成的具體步驟如下：

步驟1 隨機(jī)生成1至n的一個(gè)排列i1，i2，…，in，表示節(jié)點(diǎn)的順序；

步驟2 生成一個(gè) （n－1）＊n/2維的零向量，表示給定節(jié)點(diǎn)順序下的連邊情況；

步驟3 將步驟1中的n維向量與步驟2中的 （n－1）＊n/2維向量連接，則形成n＊ （n＋1）/2維的個(gè)體編碼。

該種群初始化的設(shè)計(jì)表明，所有個(gè)體的初始狀態(tài)均無連邊，初始個(gè)體之間的差異在于節(jié)點(diǎn)順序的不同。

3.2 適值函數(shù)

個(gè)體的適值是通過對(duì)其BIC得分進(jìn)行0－1壓縮得到的，即個(gè)體i對(duì)應(yīng)的適值f（i）為

式中：si——個(gè)體i的BIC得分。

3.3 選擇算子

本文的選擇算子主要采取μ＋λ策略，具體設(shè)計(jì)如下：

步驟1 保存上一代的所有個(gè)體及其適值；

步驟2 采用輪盤賭算法從上一代的所有個(gè)體中挑選m個(gè)形成新種群；

步驟3 合并上一代個(gè)體與交叉變異后的新種群個(gè)體，從中選擇適值最高的前m個(gè)。

因此本文選擇算子的設(shè)計(jì)，引入了父代與子代的競(jìng)爭(zhēng)，在個(gè)體選擇方面，還采用了以適值排序與輪盤賭概率相結(jié)合的方式。

3.4 交叉算子

交叉算子采用單點(diǎn)交叉。假如交叉的位置出現(xiàn)在表示連邊情況的0－1編碼部分，則直接將從該位置起的后半段相互交換。如果交叉的位置出現(xiàn)在表示節(jié)點(diǎn)順序的編碼部分，則首先將表示連邊情況的整段0－1編碼相互交換，再進(jìn)行表示節(jié)點(diǎn)順序的編碼的交叉。

節(jié)點(diǎn)順序編碼的交叉方式如下：假設(shè)節(jié)點(diǎn)順序S1＝（i1，i2，…，in），S2＝ （j1，j2，……，jn）。若交叉位置為p，則首先將兩節(jié)點(diǎn)順序轉(zhuǎn)化為S1＝ （i1，i2，……，ip－1，jp，jp＋1， ……，jn，ip，ip＋1， ……，in），S2＝ （j1，j2，……，jp－1，ip，ip＋1，……，in，jp，jp＋1，……，jn），接著按從左到右的順序，掃描S1和S2中的每個(gè)節(jié)點(diǎn)，如果該節(jié)點(diǎn)在其左邊的子串中已經(jīng)出現(xiàn)，則將其刪去，直至S1和S2最終形成兩個(gè)新的節(jié)點(diǎn)順序。

例如對(duì)于節(jié)點(diǎn)數(shù)為5的兩個(gè)節(jié)點(diǎn)順序S1＝ （2，3，1，4，5），S2＝ （5，3，4，1，2）。若交叉位置為3，則首先將S1和S2轉(zhuǎn)化為S1＝ （2，3，4，1，2，1，4，5），S2＝（5，3，1，4，5，4，1，2），再按照上述規(guī)則進(jìn)行刪減，得到S1＝ （2，3，4，1，5），S2＝ （5，3，1，4，2）。

于是，通過該交叉算子的設(shè)計(jì)，保證了交叉運(yùn)算后新個(gè)體的可行性。

3.5 變異算子

變異算子采用單點(diǎn)變異。假如交叉的位置出現(xiàn)在表示連邊情況的0－1編碼部分，則直接將該位置的編碼0變1或1變0。如果交叉的位置出現(xiàn)在表示節(jié)點(diǎn)順序的編碼部分，則隨機(jī)選擇另一節(jié)點(diǎn)，將兩節(jié)點(diǎn)的位置互換。

因此，對(duì)于個(gè)體編碼 （i1，i2，…，in，c12，c13，c23，c14，c24，c34，…，c1n，c2n，…，cn－1，n），該變異算子包括如下3種變換：

變換1：若進(jìn)行變異的編碼為cij，且cij＝0，則變異表示添加節(jié)點(diǎn)i指向節(jié)點(diǎn)j的邊；

變換2：若進(jìn)行變異的編碼為cij，且cij＝1，則變異表示刪除節(jié)點(diǎn)i指向節(jié)點(diǎn)j的邊；

變換3：若進(jìn)行變異的編碼為ij，且選中的與之交換的編碼為ik，則變異表示在貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)中，直接互換節(jié)點(diǎn)ij與節(jié)點(diǎn)ik，而不改變其它連邊情況。

例如，個(gè)體編碼 （2，4，3，1，1，1，0，0，1，1）對(duì)應(yīng)的結(jié)構(gòu)如圖3（a）所示。若互換節(jié)點(diǎn)2與節(jié)點(diǎn)3的位置，則得到新個(gè)體編碼 （3，4，2，1，1，1，0，0，1，1），其對(duì)應(yīng)的結(jié)構(gòu)如圖3（b）所示。

可見，在編碼中互換節(jié)點(diǎn)2與節(jié)點(diǎn)3的位置，就相當(dāng)于在貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)中直接互換節(jié)點(diǎn)2與節(jié)點(diǎn)3。

于是，通過該變異算子的設(shè)計(jì)，保證了變異運(yùn)算后新個(gè)體的可行性。

圖3 新舊編碼對(duì)應(yīng)結(jié)構(gòu)

4 實(shí)驗(yàn)結(jié)果

下面對(duì)原始遺傳算法 （OldGA）與本文改進(jìn)的遺傳算法 （NewGA）進(jìn)行對(duì)比試驗(yàn)。

數(shù)據(jù)集來自Aisa網(wǎng)絡(luò)。該網(wǎng)絡(luò)的節(jié)點(diǎn)數(shù)為8，邊數(shù)為8。

令種群大小為10，交叉概率為0.9，變異概率為0.1。遺傳算法的終止條件為運(yùn)行時(shí)間達(dá)到事先給定的算法耗時(shí)上限。

為了減少遺傳算法單次運(yùn)行隨機(jī)性的影響，對(duì)于每個(gè)隨機(jī)試驗(yàn)，OldGA與NewGA都重復(fù)進(jìn)行10次，最終取這10次中各指標(biāo)的平均值，作為OldGA與NewGA該試驗(yàn)的結(jié)果。

取定樣本量為1000，在給定不同的算法耗時(shí)上限的情況下，對(duì)比新舊算法的建網(wǎng)效果。

4.1 最優(yōu)得分與算法耗時(shí)

最優(yōu)得分是指進(jìn)化過程中最優(yōu)個(gè)體的得分，它與算法耗時(shí)的關(guān)系如圖4所示。

圖4 最優(yōu)得分與算法耗時(shí)

可見一開始，NewGA的最優(yōu)得分低于OldGA，然而NewGA具有較高的進(jìn)化效率，因此其最優(yōu)得分在隨后就迅速超過了OldGA。

4.2 邊誤差與算法耗時(shí)

邊誤差是指在標(biāo)準(zhǔn)網(wǎng)絡(luò)中存在，而算法生成的網(wǎng)絡(luò)中不存在或者標(biāo)準(zhǔn)網(wǎng)絡(luò)中不存在，而算法生成的網(wǎng)絡(luò)中存在的連邊數(shù)目總和，它與算法耗時(shí)的關(guān)系如圖5所示。

可見，OldGA和NewGA的邊誤差總體上均隨算法耗時(shí)呈下降趨勢(shì)，而且相比發(fā)現(xiàn)，NewGA的邊誤差明顯小于OldGA，而且其下降的速度也更快。

圖5 邊誤差與算法耗時(shí)

5 結(jié)束語(yǔ)

本文針對(duì)貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)中，傳統(tǒng)遺傳算法的個(gè)體編碼需要反復(fù)驗(yàn)證無環(huán)性的問題，提出了一種新的個(gè)體編碼方式，將網(wǎng)絡(luò)節(jié)點(diǎn)排序與基于給定排序的節(jié)點(diǎn)間連邊情況分別編碼，從而提高了個(gè)體編碼在遺傳過程中的可行性。同時(shí)，考慮到進(jìn)化過程中，結(jié)構(gòu)得分的可分解性以及父代家族得分的可繼承性，提出了基于家族繼承的結(jié)構(gòu)評(píng)分算法改進(jìn)，在此基礎(chǔ)上設(shè)計(jì)了相應(yīng)的改進(jìn)遺傳算法。通過實(shí)驗(yàn)表明，本文算法在建網(wǎng)的精度與效率上都得到了明顯的提升。

［1］GOU Kui－xiang，GONG Xiu－jun，ZHAO Zheng.Learning Bayesian network structure from distributed homogeneous data［C］.Eighth ACIS International Conference on Software Engineering，Artificial Intelligence，Networking，and Parallel/Distributed Computing.Qingdao：IEEE，2007：250－254.

［2］JIN Xiaobo，HOU Xinwen，LIU Cheng－lin.A hybrid generative－discriminative learning algorithm for Bayesian network structure［C］.Proceedings of the International Conference on Wavelet Analysis and Pattern Recognition.Beijing：IEEE，2007：618－623.

［3］WANG Fengshan，ZHU Wanhong.A Bayesian network structure learning method based on ant colony algorithm ［C］.International Conference on Management and Service Science.Wuhan：IEEE，2010：1－4.

［4］ZHOU Benda，TIAN Xu.An algorithm for Bayesian networks structure learning based on genetic algorithms and reinforcement learning ［J］.Microcomputer ＆ Its Applications，2007，6（S1）：2257－2259 （in Chinese）.［周本達(dá)，田旭.基于遺傳算法和強(qiáng)化學(xué)習(xí)的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)算法 ［J］.微型機(jī)與應(yīng)用，2007，6 （S1）：2257－2259.］

［5］GUO Peng，LI Naixiang.An EM－MCMC algorithm for Bayesian structure learning ［C］.2nd IEEE International Conference on Computer Science and Information Technology.Beijing：IEEE，2009：158－162.

［6］CAO Weidong，F(xiàn)ANG Xiangnong.An improved method for Bayesian network structure learning ［C］.Sixth International Conference on Natural Computation.Yantai：IEEE，2010：3133－3137.

［7］LI Xi－jun.Learning structure of Bayesian network using ant colony algorithm assisted by genetic algorithm ［C］.Intelligent Systems and Applications.Wuhan：IEEE，2009：1－4.

［8］CHEN Wangyu，QIN Liao.Research on Bayesian network adaptive knowledge construction and inference based on genetic algorithm ［C］.Fourth International Conference on Natural Computation.Jinan：IEEE，2008：315－319.

［9］LI Xian－jie，ZHANG You－sheng，LI Jianfei.Algorithm of BN structural learning based on quantum genetic ［J］.Application Research of Com－puters，2008，25 （4）：996－1002 （in Chinese）.［李顯杰，張佑生，李劍飛.基于量子遺傳算法的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí) ［J］.計(jì)算機(jī)應(yīng)用研究，2008，25 （4）：996－1002.］

［10］HUANG Hao，SONG Hantao，LU Yuchang.Research on structure learning algorithm of Bayesian networks based on niche genetic algorithm ［J］.Application Research of Computers，2007，24 （4）：100－103 （in Chinese）.［黃浩，宋瀚濤，陸玉昌.基于小生境遺傳算法的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)算法研究 ［J］.計(jì)算機(jī)應(yīng)用研究，2007，24 （4）：100－103.］

［11］LI Weiwei，WANG Jiandong，F(xiàn)ANG Liming，et al.Edgeoriented approach of Bayesian networks based on tabu genetic algorithm ［J］.Computer Engineering，2009，35 （12）：178－180（in Chinese）. ［李瑋瑋，王建東，方黎明，等.基于遺傳禁忌算法的貝葉斯網(wǎng)邊定向方法 ［J］.計(jì)算機(jī)工程，2009，35 （12）：178－180.］

［12］Valentin Ziegler.Approximation algorithms for restricted Bayesian network structures ［J］.Information Processing Letters，2008，108 （2）：60－63.

［13］Lobna Bouchaala，Afif Masmoudi，F(xiàn)aiez Gargouri，et al.Improving algorithms for structure learning in Bayesian networks using a new implicit score ［J］.Expert Systems with Applications，2010，37 （7）：5470－5475.

［14］CHENG Zekai，QIN Feng，YANG Bo.Improving Bayesian network structure learning with mutual information－based node ordering in the k2algorithm ［C］.Proceedings of the 6th World Congress on Intelligent Control and Automation.Dalian：IEEE，2006：6010－6014.

［15］LIU Guixia，F(xiàn)ENG Wei，WANG Han，et al.Reconstruction of gene regulatory networks based on two－stage Bayesian network structure learning algorithm ［J］.Journal of Bionic Engineering，2009，6 （1）：86－92.