資源稀少情況下的語(yǔ)音識(shí)別的主動(dòng)學(xué)習(xí)方法研究.pdf

1、隨著大語(yǔ)種語(yǔ)音識(shí)別技術(shù)的發(fā)展成熟，資源稀少情況下(Low-resourceConditions)的語(yǔ)音識(shí)別逐漸成為重要的研究熱點(diǎn)。本文針對(duì)資源稀少情況下語(yǔ)音識(shí)別（小語(yǔ)種識(shí)別）建模及優(yōu)化問(wèn)題，采用基于主動(dòng)學(xué)習(xí)的方法對(duì)該領(lǐng)域的一些技術(shù)問(wèn)題展開(kāi)研究，集中體現(xiàn)在以下兩個(gè)方面:首先針對(duì)聲學(xué)模型訓(xùn)練數(shù)據(jù)缺乏導(dǎo)致模型參數(shù)估計(jì)不準(zhǔn)的情況，采用困惑度準(zhǔn)則挑選無(wú)標(biāo)注的語(yǔ)音數(shù)據(jù)參與訓(xùn)練，并進(jìn)一步在訓(xùn)練過(guò)程中采用配套優(yōu)化方法，使模型估計(jì)的參數(shù)更加準(zhǔn)確;其次，在

2、詞典擴(kuò)充及語(yǔ)言模型增強(qiáng)方面，采用字嵌入(word embedding)算法挑選網(wǎng)絡(luò)文本數(shù)據(jù)，用來(lái)擴(kuò)充詞典和增加語(yǔ)言模型訓(xùn)練語(yǔ)料，進(jìn)一步提升識(shí)別系統(tǒng)性能。
　　首先，搭建了資源稀少情況下的語(yǔ)音識(shí)別系統(tǒng)，采用深度神經(jīng)網(wǎng)絡(luò)進(jìn)行聲學(xué)建模;針對(duì)資源稀少情況下語(yǔ)音識(shí)別中專(zhuān)家語(yǔ)言學(xué)知識(shí)缺乏的困境，采用數(shù)據(jù)驅(qū)動(dòng)的方式生成問(wèn)題集進(jìn)行狀態(tài)綁定，以獲取聲學(xué)建模中所需的最佳建模狀態(tài)數(shù)(三音子，triphone);針對(duì)訓(xùn)練語(yǔ)料不足的現(xiàn)象，通過(guò)深度神經(jīng)網(wǎng)絡(luò)具

3、有的隱層共享特性，采用大語(yǔ)種訓(xùn)練得到的網(wǎng)絡(luò)參數(shù)初始化目標(biāo)語(yǔ)種神經(jīng)網(wǎng)絡(luò)模型參數(shù)。
　　其次，在語(yǔ)音識(shí)別的聲學(xué)建模過(guò)程中，需要較多有標(biāo)注的數(shù)據(jù)來(lái)估計(jì)模型參數(shù)，對(duì)于資源稀少的語(yǔ)種（小語(yǔ)種），有標(biāo)注的語(yǔ)料數(shù)據(jù)較少;另一方面，隨著數(shù)據(jù)獲取技術(shù)的成熟，可以獲取大量廉價(jià)的無(wú)標(biāo)注語(yǔ)音數(shù)據(jù)。在節(jié)約人工標(biāo)注成本的前提下，本文采用困惑度準(zhǔn)則對(duì)大量無(wú)標(biāo)注數(shù)據(jù)進(jìn)行有效選擇，將篩選得到的無(wú)標(biāo)注數(shù)據(jù)與原有標(biāo)注數(shù)據(jù)一起參與聲學(xué)模型訓(xùn)練;進(jìn)一步在模型參數(shù)訓(xùn)練過(guò)程中

4、，最后一次參數(shù)更新只采用有標(biāo)注數(shù)據(jù)進(jìn)行參數(shù)調(diào)優(yōu)，明顯改善語(yǔ)音識(shí)別系統(tǒng)性能。
　　最后，對(duì)于資源稀少情況下的語(yǔ)音識(shí)別任務(wù)，往往會(huì)因?yàn)樵~典覆蓋率很差而伴隨出現(xiàn)大量的集外詞，而且用于生成語(yǔ)言模型的文本語(yǔ)料相對(duì)較少，因此難以獲取涵蓋率較好的詞典和區(qū)分性很強(qiáng)的語(yǔ)音模型，這兩個(gè)方面都影響著語(yǔ)音識(shí)別性能的提升。隨著互聯(lián)網(wǎng)技術(shù)的高度發(fā)展，很容易從網(wǎng)上獲取小語(yǔ)種的大量文本語(yǔ)料數(shù)據(jù)(web data)，關(guān)鍵是如何篩選匹配的數(shù)據(jù)，本文采用基于word