基于MapReduce的K_means聚類算法研究.pdf

1、隨著互聯(lián)網應用的飛速發(fā)展，數據量的積累也越來越多。如何更高效快捷地從海量數據中得到有價值的信息并將其應用到相關領域中，成為當前范圍內急需解決的前沿問題。為了解決這一難題，研究人員提出了越來越多的聚類分析算法。目前，聚類分析已經在很多領域被廣泛應用，例如：金融、軍事、醫(yī)療、管理等。
　　K_means聚類算法是聚類分析中使用較為廣泛的一種，其思想簡單且易操作.但是該算法隨機選擇初始化中心使聚類結果不穩(wěn)定且易出現(xiàn)局部最優(yōu)解，此外，當數

2、據集中存在孤立點時聚類結果也會受到影響。隨著聚類數據日漸增多，K_means算法迭代次數增加且耗時嚴重，傳統(tǒng)的單機運行模式已經不能滿足實際需要。MapReduce是基于Hadoop平臺的一種分布式計算模型且是當前運用較為廣泛的一種分布式計算框架，HDFS也實現(xiàn)了對文件的分布式存儲，所以將單機上的聚類分析算法移植到 Hadoop平臺上可進行分布式聚類任務。針對上述K_means算法的不足，文章中提出了一種對 K_means算法進行優(yōu)化的算

3、法且對其實現(xiàn)了并行化。
　　首先，本文梳理了聚類分析的研究背景及國內外研究現(xiàn)狀并列舉了論文的主要工作及創(chuàng)新點。其次介紹了聚類分析技術中的度量和聚類算法的劃分等，并通過HDFS分布式文件系統(tǒng)及MapReduce編程模型兩方面介紹了Hadoop技術。然后，針對 K_means算法隨機選擇初始中心點和易受孤立點影響問題提出了一種基于最大距離法改進的初始中心點選擇算法和孤立點排除法，此外還結合MapReduce編程模型的特征對改進后的K_