聚類分析是將研究對(duì)象分為相對(duì)同質(zhì)的群組的統(tǒng)計(jì)分析技術(shù)，聚類分析的核心就是發(fā)現(xiàn)有用的對(duì)象簇。K-means聚類算法由于具有出色的速度和良好的可擴(kuò)展性，一直備受廣大學(xué)者的關(guān)注。然而，傳統(tǒng)的K-means算法，未考慮各個(gè)屬性對(duì)于最終聚類結(jié)果的影響差異性，這使得聚類的精度有一定的影響。針對(duì)上述問題，本文提出一種改進(jìn)的特征加權(quán)算法。改進(jìn)算法通過采用信息熵和ReliefF特征選擇算法對(duì)特征進(jìn)行加權(quán)選擇，修正聚類對(duì)象間的距離函數(shù)，使算法達(dá)到更準(zhǔn)確更高效的聚類效果。仿真實(shí)驗(yàn)結(jié)果表明，與傳統(tǒng)的K-means算法相比，改進(jìn)后的算法聚類結(jié)果穩(wěn)定，聚類的精度有明顯提升。

　　數(shù)據(jù)挖掘是目前人工智能和數(shù)據(jù)庫領(lǐng)域研究的熱點(diǎn)問題，指從大量的數(shù)據(jù)中提取隱含在其中的、人們事先不知道的、但又是潛在有用的信息和知識(shí)的過程。聚類分析現(xiàn)在已經(jīng)成為數(shù)據(jù)挖掘領(lǐng)域中一個(gè)非常重要的研究方向。MacQueen 提出的K-means 算法是聚類分析中最常用的方法之一。它采用距離作為相似性的評(píng)價(jià)指標(biāo)，即認(rèn)為兩個(gè)對(duì)象的距離越近，其相似度就越大。該算法認(rèn)為簇是由距離靠近的對(duì)象組成的，因此把得到緊湊且獨(dú)立的簇作為最終目標(biāo)。K-means 算法假設(shè)樣本的每個(gè)特征對(duì)最終聚類的貢獻(xiàn)程度一樣，但在實(shí)際情況中某些特征在聚類的過程中起到很大的作用，而某些特征的作用卻很小，甚至對(duì)聚類過程沒有影響。

?

　　針對(duì)傳統(tǒng)K-means 算法的這一問題，學(xué)者們進(jìn)行了大量研究，研究表明：通過對(duì)特征賦予不同的特征權(quán)值，能夠有效解決上述問題并提高聚類性能。目前，計(jì)算特征權(quán)重的算法有很多種：等人提出一種結(jié)合限制數(shù)據(jù)的特征權(quán)值量化函數(shù)，該函數(shù)通過用戶指定的限制數(shù)據(jù)進(jìn)行特征權(quán)值量化并對(duì)不同的限制數(shù)據(jù)賦予不同的置信度，解決了限制數(shù)據(jù)分布不均勻和限制數(shù)據(jù)中可能包含不一致性的問題；LiJie 等人提出將針對(duì)分類問題的ReliefF 算法應(yīng)用于聚類問題，通過ReliefF 算法計(jì)算特征權(quán)重值，并對(duì)各維特征進(jìn)行加權(quán)，提高聚類的性能；Meng Qian 等人提出通過梯度下降技術(shù)最小化特征評(píng)估函數(shù)FLearning （w）為每個(gè)特征分配權(quán)重并進(jìn)行加權(quán)，該算法采用遺傳算法和模擬退火算法的優(yōu)點(diǎn)，減弱冗余特征的影響，解決了容易陷入局部最優(yōu)解的問題。Songtao Shang 等人提出一種改進(jìn)的基尼指數(shù)算法計(jì)算特征權(quán)重，該算法克服了原始Gini 的缺點(diǎn)，將條件概率與后驗(yàn)概率結(jié)合，抑制訓(xùn)練集不平衡時(shí)的影響。利用信息論中的信息熵計(jì)算特征權(quán)重并對(duì)各位特征加權(quán)，有效的解決了特征對(duì)聚類的影響。

　　綜上所述，為了提高傳統(tǒng)K-means 算法的聚類精度，國(guó)內(nèi)外學(xué)者對(duì)K-means 算法進(jìn)行了大量改進(jìn)探索研究，并取得了一些階段性的成果。本文擬研究傳統(tǒng)K-means 算法在聚類過程中聚類對(duì)象的每個(gè)特征對(duì)聚類結(jié)果的貢獻(xiàn)度，使貢獻(xiàn)程度大的特征優(yōu)先利用，理論上講可以有效提升K-means 算法聚類的準(zhǔn)確率和精度。因此，本文提出將熵值法和ReliefF 特征選擇算法有機(jī)融合，通過采用信息熵和ReliefF 特征選擇算法對(duì)特征進(jìn)行加權(quán)選擇，修正聚類對(duì)象間的距離函數(shù)，使算法達(dá)到更準(zhǔn)確更高效的聚類效果。實(shí)驗(yàn)結(jié)果表明，改進(jìn)后的算法聚類結(jié)果穩(wěn)定，且具有較高的準(zhǔn)確率，達(dá)到預(yù)期目的。