基于語(yǔ)義推導(dǎo)的統(tǒng)計(jì)機(jī)器翻譯模型關(guān)鍵技術(shù)研究.pdf

1、機(jī)器翻譯是自然語(yǔ)言處理的一個(gè)重要分支，旨在自動(dòng)將源語(yǔ)言文本翻譯為目標(biāo)語(yǔ)言文本，并同時(shí)保留源語(yǔ)言文本包含的語(yǔ)義信息。統(tǒng)計(jì)機(jī)器翻譯(StatisticalMachine Translation，SMT)是當(dāng)前機(jī)器翻譯的主流方法。一般而言，統(tǒng)計(jì)機(jī)器翻譯包含三個(gè)重要的組成部分:(1)語(yǔ)言模型;(2)翻譯模型;和(3)解碼算法。語(yǔ)言模型用于評(píng)測(cè)目標(biāo)端生成的譯文是否流利，對(duì)譯文的流利度進(jìn)行建模。翻譯模型用于表示源語(yǔ)言翻譯單元到目標(biāo)語(yǔ)言翻譯單元的翻譯

2、概率，對(duì)翻譯的忠實(shí)度進(jìn)行建模。解碼算法指的是在給定模型參數(shù)和源端句子的條件下，從可選譯文中搜索出最優(yōu)的譯文。
　　統(tǒng)計(jì)機(jī)器翻譯模型發(fā)展到現(xiàn)在經(jīng)過(guò)了基于詞、短語(yǔ)、句法、語(yǔ)義四個(gè)階段。語(yǔ)義問(wèn)題是機(jī)器翻譯進(jìn)一步發(fā)展的中心問(wèn)題。當(dāng)前主流的統(tǒng)計(jì)機(jī)器翻譯模型還沒(méi)有從語(yǔ)義層面上對(duì)翻譯過(guò)程進(jìn)行有效建模，對(duì)翻譯單元的歧義性問(wèn)題缺乏深入研究。在這樣的研究背景下，本文提出了基于語(yǔ)義推導(dǎo)的統(tǒng)計(jì)機(jī)器翻譯模型，利用機(jī)器學(xué)習(xí)技術(shù)從語(yǔ)義的層面上對(duì)翻譯單元進(jìn)行消歧

3、，使得翻譯單元的翻譯概率估計(jì)更加準(zhǔn)確，提高了譯文的質(zhì)量。具體地，我們的貢獻(xiàn)可以總結(jié)為如下幾點(diǎn):
　　1.主題敏感的樞軸語(yǔ)言翻譯模型
　　基于樞軸語(yǔ)言的翻譯方法能夠在語(yǔ)言對(duì)沒(méi)有雙語(yǔ)平行語(yǔ)料的情況下還能實(shí)現(xiàn)對(duì)源語(yǔ)言句子的翻譯。然而，由于前人的工作對(duì)樞軸語(yǔ)言端翻譯單元的上下文缺乏有效的建模，這使得樞軸語(yǔ)言端翻譯單元的歧義性給翻譯概率的推導(dǎo)帶來(lái)了負(fù)面影響。針對(duì)這個(gè)問(wèn)題，我們提出了兩種基于主題敏感的樞軸語(yǔ)言方法來(lái)推導(dǎo)翻譯單元的翻譯概率

4、，有效減少了訓(xùn)練語(yǔ)料領(lǐng)域不一致性帶來(lái)的翻譯概率推導(dǎo)不準(zhǔn)確的問(wèn)題。以英語(yǔ)作為樞軸語(yǔ)言，在法語(yǔ)到西班牙語(yǔ)的翻譯任務(wù)中，實(shí)驗(yàn)結(jié)果證明我們提出的基于主題敏感的樞軸語(yǔ)言翻譯模型是有效的。
　　2.多義詞的詞義自動(dòng)歸納
　　一詞多義在語(yǔ)言表達(dá)中廣泛存在，研究多義詞的詞義自動(dòng)歸納是研究基于語(yǔ)義的統(tǒng)計(jì)翻譯模型十分重要的一環(huán)。詞義歸納(Word Sense Induction，WSI)當(dāng)前面臨兩個(gè)問(wèn)題。第一，如何對(duì)多義詞實(shí)例的上下文有效建模;

5、第二，如何自動(dòng)歸納出多義詞詞義個(gè)數(shù)。對(duì)于第一個(gè)問(wèn)題，我們利用基于遞歸自編碼的方法同時(shí)對(duì)多義詞實(shí)例的上下文詞匯信息和句法關(guān)系進(jìn)行建模，建模過(guò)程不需要人工定義特征。對(duì)于第二個(gè)問(wèn)題，我們利用基于競(jìng)爭(zhēng)學(xué)習(xí)的方法進(jìn)行詞義聚類(lèi)，詞義的個(gè)數(shù)能夠自動(dòng)學(xué)習(xí)得到，優(yōu)于傳統(tǒng)的需要預(yù)先指定詞義數(shù)目的聚類(lèi)方法。在SEMEVAL-2010 WSI的評(píng)測(cè)任務(wù)中，實(shí)驗(yàn)結(jié)果證明我們提出的詞義歸納方法是有效的。
　　3.詞義敏感的雙語(yǔ)翻譯模型
　　當(dāng)前主流的統(tǒng)

6、計(jì)機(jī)器翻譯模型并沒(méi)有對(duì)多義詞的詞義做區(qū)分，而多義詞的歧義性會(huì)導(dǎo)致翻譯模型的翻譯概率估計(jì)不準(zhǔn)確。針對(duì)這個(gè)問(wèn)題，在研究詞義自動(dòng)歸納的基礎(chǔ)上，我們提出了詞義敏感的雙語(yǔ)翻譯模型。我們首先利用主題分布來(lái)區(qū)分多義詞的不同詞義，接下來(lái)通過(guò)詞義敏感的雙語(yǔ)詞空間映射獲得多義詞在不同詞義下的分布式語(yǔ)義表示，從而推導(dǎo)出詞義敏感的翻譯特征并加入到現(xiàn)有的翻譯模型中。在漢英的翻譯任務(wù)中，實(shí)驗(yàn)結(jié)果證明我們提出的基于詞義敏感的雙語(yǔ)翻譯模型是有效的。
　　總體而言