左家莉，王明文，吳水秀，萬劍怡

(江西師范大學 計算機信息工程學院，江西 南昌 330022)

結合句子級別檢索的信息檢索模型

左家莉，王明文，吳水秀，萬劍怡

(江西師范大學 計算機信息工程學院，江西 南昌 330022)

查詢詞之間的距離較為接近的文檔，相關的可能性更大，將這種距離信息用于信息檢索模型的構造可有效提高檢索的性能。然而直接估計查詢詞在文檔中的距離需要大量的訓練文本，且計算復雜度高。該文提出了一種結合句子級別檢索的信息檢索模型，將文檔分為若干個窗口，通過計算句子和查詢的相關度考察查詢詞在給定窗口中的共現(xiàn)性，該方法可增大那些查詢詞彼此靠近的文檔的相關度，從而使得檢索模型可返回更為相關的文檔。標準數(shù)據(jù)集上的實驗結果表明所提出的模型可以取得較好的性能。

信息檢索模型；句子級別檢索，句子相關度

1 引言

隨著因特網(wǎng)的快速發(fā)展和全球化進程的加快，互聯(lián)網(wǎng)信息資源呈爆炸式的增長。信息檢索也因此成為應對海量信息挑戰(zhàn)的關鍵技術，為人們有效利用網(wǎng)絡信息起著至關重要的作用，在最近幾十年里得到了眾多關注和長足的發(fā)展。信息檢索模型作為信息檢索領域的核心問題，直接決定信息檢索的性能，也是研究者們關注的焦點。近年來，很多經(jīng)典的信息檢索模型，諸如布爾模型[1]、向量空間模型[2-5]、經(jīng)典概率模型[6-10]、統(tǒng)計語言模型[11-13]等，已有成熟的研究和應用。盡管如此，若想要提高用戶滿意度，仍需改進檢索模型，以獲得更好的檢索結果。

本質(zhì)而言，信息檢索的目標在于盡可能將相關文檔返回給用戶，并使得相關度大的文檔排序靠前?，F(xiàn)有的模型大多基于索引項詞頻tf與逆文檔頻率idf[13-14]，并結合文檔長度等信息[14]，通過計算文檔和查詢之間的匹配程度，獲得計算文檔和查詢之間的相關度，并按照相關度大小對文檔進行排序。在實際的應用中，常常會出現(xiàn)類似這樣的狀況：一些文檔由于包含相同數(shù)量的查詢詞，且文檔長度接近，檢索模型計算文檔的相關度大小相同，然而這些文檔真實的相似度往往差別很大。原因在于，為描述信息需求，用戶會使用多個查詢詞構造查詢，由于大多數(shù)詞往往含有多個語義，某個查詢詞在文檔中的語義和其在查詢中的語義可能并不一致，而傳統(tǒng)的檢索模型會因為文檔包含了查詢詞而將其判為相關，這使得一些不相關文檔被判為相關返回給用戶，降低了檢索的精度。若要直接分析詞的語義，將語義信息加入至檢索模型，會增加檢索模型的復雜度，且語義信息并不易于處理，反而有可能影響檢索的性能。

正如一些研究者所言：相關文檔是那些包含所有查詢項，且查詢項彼此緊密相連的文檔[14]。也即，查詢詞出現(xiàn)更為緊密的文檔，換而言之，查詢詞之間距離更為接近的文檔，其與查詢相關的可能性更大。實際上，基于語言學的角度，我們知道詞語會因為彼此之間的特殊相連而影響其各自的語義，若兩個或多個查詢詞在某篇文檔中出現(xiàn)較為緊密，則這些查詢詞在文檔中的語義也應較為相關，并且，與其在查詢中的語義一致的可能性會加大，那么文檔與查詢相關的可能性也就更大。因而，查詢詞在文檔中的位置信息有助于檢索模型獲得更為準確的相關性判斷。

已有一些研究將查詢詞之間的位置關系應用到統(tǒng)計語言模型中，其主要的處理方法是在建模時估計查詢詞之間的位置關系。上述檢索模型由于考慮了查詢詞在文檔中的位置關系，檢索的性能得到了提升[15-16]。然而，其需要估計的參數(shù)太多，往往需要大量的訓練文檔集，且計算復雜度高。

本文提出了一種結合句子級別檢索的信息檢索模型，該模型不直接估計查詢詞之間的位置關系。而是采用另一種方式，將文檔分為若干個窗口，考察查詢詞在給定窗口中的共現(xiàn)性，來加權文檔與查詢的相關度。本文將窗口的大小設定為句子，計算每個句子和查詢的相關度，并將其加入至檢索模型中，文檔中查詢詞彼此靠近，則其句子和查詢非常相關，模型可使得該文檔的相關度更大。這種方式計算簡單且易于實現(xiàn)。

論文按以下幾個部分展開，第二部分介紹論文的主要思想；第三部分是句子的相關度計算方法；第四部分介紹本文提出的結合句子級別檢索的信息檢索模型；第五部分是實驗和結果分析；第六部分進行總結和展望。

2 相關研究

信息檢索模型的目的是根據(jù)用戶的查詢從文檔集合中檢索出相關文檔返回給用戶。檢索模型需計算查詢和文檔的相關度，盡可能返回相關文檔。為提高檢索性能，文獻[15]中提出了位置語言模型，將查詢詞之間位置信息加入至語言模型中。其具體思路是估計文檔D中的位置i出現(xiàn)詞w的概率p(w|D,i)。最為簡單的p(w|D,i)估計方法是使用頻率方法：將詞w在位置i出現(xiàn)的次數(shù)記為c(w,i)除以位置i上所有詞w出現(xiàn)的總次數(shù)。

最為關鍵是獲得c(w,i)，若c(w,i)僅取0和1用于表示詞w在位置i出現(xiàn)與否，則過于簡單和粗糙，為獲得更好的檢索結果，文獻[15]修正了對c(w,i)的計算，具體的計算基于：(1)若詞w文檔D中位置j也出現(xiàn)，則詞w在位置i的出現(xiàn)次數(shù)要小于1； (2)文檔D中與位置i最為越近的位置j，其對位置i的“貢獻次數(shù)”應該越大，權重函數(shù)k(i,j)被用來度量位置j對于位置i的貢獻，若位置j與位置i越接近，k(i,j)取值就越大。由于k(i,j)的計算是基于詞與詞的位置關系計算，未考慮詞與詞之間的語義關系。基于此，文獻[16]提出了一種結合語義的位置語言模型，利用互信息來度量詞與詞的語義關系。上述模型由于考慮了詞之間的位置關系，取得了較好的結果，但是均需要大量的訓練文檔，計算復雜度較高。

3 句子相關度模型

3.1 本文思想

給定某個查詢，相關文檔中查詢詞應靠近彼此，也即這些查詢詞在相關文檔中應集中出現(xiàn)，若將文檔分為若干個窗口，則查詢詞應在這些特定窗口中同時出現(xiàn)。基于上述思想，考察查詢詞之間的位置關系，可轉(zhuǎn)化為考察查詢詞在給定窗口中的共現(xiàn)性。若某篇文檔中存在多個查詢詞在給定窗口中同時出現(xiàn)，則查詢詞在該文檔中的位置彼此靠近，其為相關文檔的可能性就會增大。

由于句子可表達完整的意思，同一個句子中出現(xiàn)的詞存在著較強的語義關系。前期工作中，我們發(fā)現(xiàn)查詢詞在句子中的共現(xiàn)性可有助于提高檢索的性能[17,18]，因而本文選取句子作為窗口，構造結合句子級別檢索的檢索模型。首先構建句子相關度模型計算句子與查詢之間的相關度，以度量查詢詞在文檔中的共現(xiàn)度。進一步結合傳統(tǒng)的文檔相關度模型，構建基于句子的文檔相關度模型。

3.2 句子相關度模型

首先需要構造句子相關度模型Score(Q,S)，以度量查詢詞在句子中的共現(xiàn)度。句子中包含查詢詞，則句子與查詢相關，句子中包含的查詢詞的數(shù)量越多，該文檔與查詢的相關性就越大。我們通過式(1)來計算句子與查詢的相關度：

(1)

其中：

(2)

3.3 基于句子的文檔相關度模型

獲得句子相關度Score(Q,S)之后，就可構造基于句子的文檔相關度模型Scoresen(Q,D)，本文構造了以下三種模型。

3.3.1 模型1

(3)

模型1將文檔中每個句子的Score(Q,S)進行累加獲得Scoresen(Q,D)，可加強那些包含多個查詢詞的文檔的相關度。

3.3.2 模型2

Scoresen(Q,D)=

(4)

Scoresen(Q,D)=

(5)

模型1可能會使得某些長文檔獲得較高的相關度，為消除文檔長度的影響，本文構造了模型2，分別將文檔的句子個數(shù)和相關句子的個數(shù)作為長度因子加入至模型中。

3.3.3 模型3

(6)

模型3取一篇文檔中的最大Score(Q,S)作為Scoresen(Q,D)，即我們希望在相關文檔中，查詢詞盡可能集中出現(xiàn)在某些句子中。

上述模型中，模型2將文檔的句子個數(shù)作為長度因子，可以避免一些長文檔獲得較高的相關度；而將相關句子的個數(shù)作為長度因子，會使得查詢詞集中出現(xiàn)的文檔的相關度更大。而模型3只在文檔中存在某個句子包含了多個查詢詞的情況下，才會使得該文檔具有較大的Scoresen(Q,D)值。

4 結合句子級別檢索的信息檢索模型

考慮到傳統(tǒng)的文檔級別的檢索模型已取得了較好的性能，且僅使用Scoresen(Q,D)度量文檔的相關度不一定能確保相關文檔被檢出，因而本文構造的基于句子級別檢索的信息檢索模型，是在傳統(tǒng)的檢索模型的基礎上，加入了句子相關度Scoresen(Q,D)。

本文的文檔相關度模型Score(Q,D)將包含兩部分：經(jīng)典的文檔級別的相關度Scoredoc(Q,D)和句子級別的文檔相關度Scoresen(Q,D)。

(7)

式(7)中λ1+λ2=1。公式表明，若在某篇文檔中，查詢詞在句子中的共現(xiàn)度較大，則模型會給予這些文檔更大的相關度。實驗部分我們將考察Scoresen(Q,D)和Scoredoc(Q,D)對檢索結果的影響。

5 實驗

5.1 數(shù)據(jù)集及評價指標

本文在標準數(shù)據(jù)集Med、Cran和Cisi上進行實驗。其中，Med為醫(yī)學數(shù)據(jù)集，包含1 033篇文檔、8 567個詞和30個查詢，Cran為航空數(shù)據(jù)集，包含1 398篇文檔、4 873個詞和223個查詢，Cisi為圖書館科學數(shù)據(jù)集，包含1 460篇文檔，5 254個索引項和76個查詢。我們對數(shù)據(jù)集進行了預處理，提取每篇文檔中的