基于漢字搭配的中文信息獲取技術研究.pdf

1、近年來，以關鍵詞、短語、概念等特征項為基礎的信息檢索、搜索引擎、文本挖掘、信息抽取等信息獲取技術得到廣泛研究和應用。信息獲取可從海量的、良莠不齊的數(shù)據(jù)中獲取粗信息，并從已獲取的粗信息中發(fā)現(xiàn)、判斷并有效識別能反映客觀事物特征、現(xiàn)象、本質及規(guī)律描述的有用的信息。由于中文的詞語間沒有分隔符，中文信息獲取受限于漢語自動分詞、特征提取與特征選擇、特征項的索引與存儲等預處理工作，時間和空間代價很高，結果正確率較低。隨著信息數(shù)字化、網絡化的發(fā)展，數(shù)據(jù)

2、的豐富性、多樣性與信息的過載、迷失的矛盾日益突出，為突破中文文本和Web信息獲取的瓶頸，實現(xiàn)信息的快速搜集、準確鑒別和高效運用，利用漢字搭配技術獲取信息是一條有效途徑。搭配是指兩個或兩個以上的特征項所組成的語言模式，在詞典編撰、信息檢索等工作中已取得初步成效。漢語言的用字特點、詞法規(guī)則、語法關系蘊含了豐富的信息，漢字搭配是一種語言模式，承載了其中的部分信息。定義漢字關聯(lián)度的概念，通過引進頻率、互信息、t-檢驗、2 χ統(tǒng)計和漢字關聯(lián)度等統(tǒng)

3、計量來量化和度量漢字搭配模式，研究表明，互有側重的四種統(tǒng)計量及漢字關聯(lián)度多角度地描述了漢字搭配模式。文檔數(shù)據(jù)是人們獲取信息的主要來源。
　　 本研究利用量化的漢字搭配模式定義文本的漢字搭配矩陣，構建了非結構化中文文本的三元組表示方法，提出了適用于生語料的文本相似性度量算法M-similarity和基于實例的文本分類反饋學習算法G-KNN 等關鍵算法，構建了六元組表示的、基于漢字搭配的信息檢索框架。基于漢字搭配的文本表示方法可以與

4、經典的基于特征向量的文本表示法相互轉換，但其復雜度和語義性優(yōu)于經典的表示法。實驗結果顯示，在訓練集規(guī)模較小且無需標注的情況下，提出的基于漢字搭配的機器學習算法也有較好的應用效果。利用漢字搭配信息表示非結構化中文文本，為解決同類問題探索了一種思路。WEB 網頁是人們獲取信息的另一重要來源。將漢字搭配及其相關統(tǒng)計量和基于漢字搭配應用的技術方法、算法和框架應用于Web 信息的獲取研究，針對網頁噪音引起的主題漂移問題，首先定義了Web網頁或塊的

5、語義樹及其操作，提出容錯語義樹構造算法SemTreeCreate，解決不規(guī)范的HTML網頁的DOM 解析存在大量的廣告與圖片鏈接噪音及DOM 樹的深度大、結點層次多、結點層次和子樹間關系混亂等問題；然后，利用機器學習和信息過濾技術，設計一種基于內容的Web 網頁噪音塊的識別算法NoisyExploration，解決網頁中大量文字噪音數(shù)據(jù)的識別問題；最后，提出主題發(fā)現(xiàn)和多主題識別策略，在無需額外知識支持的情況下，通過判斷網頁各塊之間、網頁