金 鵬 張春祥 馮禹瑄 賈永剛 王淇楨
(哈爾濱理工大學(xué) 軟件與微電子學(xué)院,黑龍江 哈爾濱150080)
在機(jī)器翻譯系統(tǒng)中翻譯知識是重要的知識源,能夠完成源語言到目標(biāo)語言的轉(zhuǎn)換任務(wù)。目前,從語料庫中學(xué)習(xí)翻譯知識已經(jīng)占到了主流地位。基于語料庫的機(jī)器翻譯可以分為兩種形式:基于統(tǒng)計的翻譯系統(tǒng)和基于實(shí)例的翻譯系統(tǒng)。
1.1 統(tǒng)計機(jī)器翻譯(Statistical Machine Translation,SMT),又稱數(shù)據(jù)驅(qū)動的翻譯,是一種采用統(tǒng)計學(xué)習(xí)技術(shù)來獲取知識的方法。這種方法將翻譯知識表示為模型參數(shù),利用雙語語料來優(yōu)化模型參數(shù)。統(tǒng)計機(jī)器翻譯主要包括基于信源信道模型的統(tǒng)計翻譯、基于平行概率語法的統(tǒng)計翻譯和基于最大熵的統(tǒng)計翻譯[1]。
1.2 基于實(shí)例的機(jī)器翻譯(Example-Based Machine Translation,EBMT),其基本原理是:把雙語語料看作翻譯知識庫,通過實(shí)例的查詢和相似度計算來實(shí)現(xiàn)知識的查找和匹配。類比源語言與翻譯實(shí)例,通過組合相近的實(shí)例片斷來生成目標(biāo)語譯文。實(shí)例的查詢和相似度計算本身就是一個知識獲取的過程。這種方法不通過深層次的分析,僅使用已有的經(jīng)驗(yàn)知識,通過類比原理來進(jìn)行翻譯[2]。
本文對漢英雙語語料進(jìn)行詞匯對齊,根據(jù)詞鏈從中抽取漢英對譯片斷對。同時,給出了基于對譯片斷對的機(jī)器翻譯框架,對輸入的漢語句子進(jìn)行翻譯轉(zhuǎn)換。
對譯片斷對也就是人們常說的翻譯等價對。翻譯等價對獲取不但是機(jī)器翻譯課題中的一個重要環(huán)節(jié),而且也是自然語言處理中亟待解決的問題。在處理像漢- 英這樣具有異構(gòu)語法體系的語言對時,現(xiàn)行的對譯片斷對抽取方法會遇到很多問題。對以下漢- 英雙語句對,其對譯片斷對的抽取過程如下所示:
漢語句子:這是收據(jù)和零錢
英語句子:Here is the receipt and your change
詞匯對齊結(jié)果如圖1 所示:
圖1 漢英句對的詞匯對齊結(jié)果
對譯片斷對:這是<->Here is 收據(jù)<->the receipt和<->and 零錢<->your change
在實(shí)際應(yīng)用中,對譯片斷對是很復(fù)雜的。片斷既可以是符合語法的,也可以是不符合語法的。無論是哪一種情況,對于機(jī)器翻譯系統(tǒng)而言都是有意義的,都應(yīng)該搜集起來作為翻譯知識。對以上的例子而言,對譯片斷對也可以包括以下形式:是收據(jù) 和<->is the receipt and、和 零錢<->your change and。
因此,對譯片斷對獲取的原則為:
(1)直接由詞匯對齊結(jié)果得到的對譯片斷對稱為原子對譯片斷對。
(2)如果漢語句子的片斷中被對齊的所有詞匯經(jīng)過詞匯對齊映射到英語句子的片斷中,并且英語句子的片斷中被對齊的所有詞匯經(jīng)過詞匯對齊映射到漢語句子的片斷中,那么漢語句子的片斷與英語句子的片斷稱為對齊閉包。
(3)在一個對齊閉包中,如果邊界詞匯也被對齊,那么認(rèn)為由對齊邊界詞匯從對齊閉包中所劃分出來的片斷也是對齊的。
(4)如果一個對齊閉包,不能由連續(xù)的子片斷對順序組合得到,那么該封閉片斷對稱為封閉對譯片斷對。
從漢英雙語句對中抽取對譯片斷對的過程如圖2 所示。
圖2 基于詞匯對齊的對譯片斷對獲取
本文給出了一個基于對譯片斷對的機(jī)器翻譯框架,如圖3所示。
圖3 基于對譯片斷對的機(jī)器翻譯框架
以對譯片斷對庫為基礎(chǔ)對輸入的漢語句子進(jìn)行分割,找到與漢語片斷最相近的對譯片斷對。對輸入的漢語句子,有多種片斷劃分方案。每一個漢語片斷可能有多個英語譯文。對于每種片斷劃分方案而言,其英語譯文組合形成了一條譯文路徑。因此,每個漢語句子有多個不同的候選英語譯文。
從多個候選英語譯文中選擇一個與輸入的漢語句子語義最相似的英語譯文是提高機(jī)器譯文輸出質(zhì)量的關(guān)鍵因素。
本文將根據(jù)輸入的漢語句子與候選英語譯文之間的相似度來進(jìn)行譯文選擇。在計算相似度時,主要采用以下三種策略:
(1)累積漢- 英詞對之間的翻譯概率來計算片斷對的譯文相似度。
翻譯概率可以度量出漢語詞匯與英語詞匯之間的互譯程度,能夠從某種角度反映出漢語詞匯與英語詞匯之間的語義對等關(guān)系。在大規(guī)模漢英雙語句對中,通過統(tǒng)計漢英詞對共現(xiàn)的頻率可以計算出漢語詞匯與英語詞匯之間的翻譯概率。以此為基礎(chǔ),可以形成漢英詞匯翻譯概率表。在輸入的漢語句子與英語譯文之間,計算出每個漢語單詞c 與每個英語單詞e 之間的翻譯概率P(c,e)。
累積對譯片斷對中漢- 英詞匯之間的翻譯概率來計算對譯片斷對的可信度。對于漢語片斷CSeg=c1,c2,…,cm與英語片斷ESeg=e1,e2,…,en,對譯片斷對可信度PT(CSeg,ESeg)的計算過程如公式(1)所示。
(2)利用對譯片斷對中對齊詞匯個數(shù)評價譯文質(zhì)量。
詞匯對齊是度量漢英詞匯互譯的重要手段。在經(jīng)過詞匯對齊工具處理之后,若漢英詞匯之間存在詞鏈,則該漢英詞匯的互譯程度較高。反之,則認(rèn)為該漢英詞匯的互譯程度較低,或者是語義上是不等價的。在對譯片斷對中,若對齊詞鏈密度越大,則認(rèn)為該對譯片斷對互譯的質(zhì)量也越高。在譯文路徑選擇過程中,計算每一條譯文路徑的詞鏈個數(shù),優(yōu)先選擇對齊詞鏈密度最高的路徑。
對于漢語片斷CSeg=c1,c2,…,cm與英語片斷ESeg=e1,e2,…,en,若對齊詞鏈數(shù)為L,則對齊詞鏈密度Den(CSeg,ESeg)的計算過程如公式(2)所示。
(3)譯文片斷的最小覆蓋數(shù)。
若輸入的漢語句子劃分片斷的數(shù)量過多的話,則其英語譯文將從多個對譯片斷對中獲取。若漢語句子的英語譯文來自一個漢英句對的話,則其譯文質(zhì)量最高,最接近于人工譯文。若輸入的漢語句子的英語譯文來自多個漢- 英對譯片斷對,則其譯文質(zhì)量較差。
本文使用Visual C++開發(fā)了基于語言學(xué)資源的漢- 英機(jī)器翻譯工具,如圖4 所示。
圖4 漢英機(jī)器翻譯工具
搜集了60000 漢- 英雙語句對,使用哈爾濱工業(yè)大學(xué)的漢語分詞工具對其中的漢語句子進(jìn)行詞匯切分,利用哈爾濱工業(yè)大學(xué)的英語詞形還原工具對其中的英語詞匯進(jìn)行詞形還原。使用哈爾濱工業(yè)大學(xué)的漢- 英詞匯對齊工具對雙語句對進(jìn)行詞匯對齊。利用本文所提出的方法從中提取漢- 英對譯片斷對,搜集所提取的漢- 英對譯片斷對形成對譯片斷對庫。搜集了50句漢語句子,用于測試機(jī)器翻譯工具的譯文輸出質(zhì)量。人工給出這50 句漢語句子的英語譯文答案。分別使用Bleu 和Nist 評價方法對機(jī)器譯文進(jìn)行評分,其結(jié)果如表1 所示。
表1 測試句子的機(jī)器譯文評測分?jǐn)?shù)
本文在分析了現(xiàn)有機(jī)器翻譯技術(shù)的基礎(chǔ)上,提出了一種基于語言學(xué)資源的翻譯知識獲取與譯文選擇方法。對漢- 英平行雙語語料進(jìn)行詞匯對齊,根據(jù)詞鏈抽取漢- 英對譯片斷對并建立翻譯知識庫。以對譯片斷對為基礎(chǔ),建立機(jī)器翻譯模型,對輸入的漢語句子進(jìn)行翻譯。實(shí)驗(yàn)結(jié)果表明:機(jī)器譯文的Nist5 評測分?jǐn)?shù)達(dá)到了5.4188,Bleu5 評測分?jǐn)?shù)達(dá)到了0.4400。