基本概念

聚類就是一種尋找數(shù)據(jù)之間一種內(nèi)在結(jié)構(gòu)的技術(shù)。聚類把全體數(shù)據(jù)實例組織成一些相似組，而這些相似組被稱作聚類。處于相同聚類中的數(shù)據(jù)實例彼此相同，處于不同聚類中的實例彼此不同。聚類技術(shù)通常又被稱為無監(jiān)督學(xué)習(xí)，因為與監(jiān)督學(xué)習(xí)不同，在聚類中那些表示數(shù)據(jù)類別的分類或者分組信息是沒有的。

通過上述表述，我們可以把聚類定義為將數(shù)據(jù)集中在某些方面具有相似性的數(shù)據(jù)成員進行分類組織的過程。因此，聚類就是一些數(shù)據(jù)實例的集合，這個集合中的元素彼此相似，但是它們都與其他聚類中的元素不同。在聚類的相關(guān)文獻中，一個數(shù)據(jù)實例有時又被稱為對象，因為現(xiàn)實世界中的一個對象可以用數(shù)據(jù)實例來描述。同時，它有時也被稱作數(shù)據(jù)點（Data Point），因為我們可以用r 維空間的一個點來表示數(shù)據(jù)實例，其中r 表示數(shù)據(jù)的屬性個數(shù)。下圖顯示了一個二維數(shù)據(jù)集聚類過程，從該圖中可以清楚地看到數(shù)據(jù)聚類過程。雖然通過目測可以十分清晰地發(fā)現(xiàn)隱藏在二維或者三維的數(shù)據(jù)集中的聚類，但是隨著數(shù)據(jù)集維數(shù)的不斷增加，就很難通過目測來觀察甚至是不可能。

SAS聚類分析案例

1 問題背景

考慮下面案例，一個棒球管理員希望根據(jù)隊員們的興趣相似性將他們進行分組。顯然，在該例子中，沒有響應(yīng)變量。管理者希望能夠方便地識別出隊員的分組情況。同時，他也希望了解不同組之間隊員之間的差異性。

該案例的數(shù)據(jù)集是在SAMPSIO庫中的DMABASE數(shù)據(jù)集。下面是數(shù)據(jù)集中的主要的變量的描述信息：

在這個案例中，設(shè)置TEAM，POSITION，LEAGUE，DIVISION和SALARY變量的模型角色為rejected，設(shè)置SALARY變量的模型角色為rejected是由于它的信息已經(jīng)存儲在LOGSALAR中。在聚類分析和自組織映射圖中是不需要目標(biāo)變量的。如果需要在一個目標(biāo)變量上識別分組，可以考慮預(yù)測建模技術(shù)或者定義一個分類目標(biāo)。

2 聚類方法概述

聚類分析經(jīng)常和有監(jiān)督分類相混淆，有監(jiān)督分類是為定義的分類響應(yīng)變量預(yù)測分組或者類別關(guān)系。而聚類分析，從另一方面考慮，它是一種無監(jiān)督分類技術(shù)。它能夠在所有輸入變量的基礎(chǔ)上識別出數(shù)據(jù)集中的分組和類別信息。這些組、簇，賦予不同的數(shù)字。然而，聚類數(shù)目不能用來評價類別之間的近似關(guān)系。自組織映射圖嘗試創(chuàng)建聚類，并且在一個圖上用圖形化的方式繪制出聚類信息，在此處我們并沒有考慮。

1） 建立初始數(shù)據(jù)流

2） 設(shè)置輸入數(shù)據(jù)源結(jié)點

打開輸入數(shù)據(jù)源結(jié)點

從SAMPSIO庫中選擇DMABASE數(shù)據(jù)集

設(shè)置NAME變量的模型角色為id，TEAM，POSIOTION，LEAGUE，DIVISION和SALARY變量的模型角色為rejected

探索變量的分布和描述性統(tǒng)計信息

選擇區(qū)間變量選項卡，可以觀察到只有LOGSALAR和SALARY變量有缺失值。選擇類別變量選項卡，可以觀察到?jīng)]有缺失值。在本例中，沒有涉及到任何類別變量。

關(guān)閉輸入數(shù)據(jù)源結(jié)點，并保存信息。

3） 設(shè)置替代結(jié)點

雖然并不是總是要處理缺失值，但是有時候缺失值的數(shù)量會影響聚類結(jié)點產(chǎn)生的聚類解決方案。為了產(chǎn)生初始聚類，聚類結(jié)點往往需要一些完整的觀測值。當(dāng)缺失值太多的時候，需要用替代結(jié)點來處理。雖然這并不是必須的，但是在本例中使用到了。

4） 設(shè)置聚類結(jié)點

打開聚類結(jié)點，激活變量選項卡。K-means聚類對輸入數(shù)據(jù)是敏感的。一般情況下，考慮對數(shù)據(jù)集進行標(biāo)準(zhǔn)化處理。

在變量選項卡，選擇標(biāo)準(zhǔn)偏差單選框

選擇聚類選項卡

觀察到默認(rèn)選擇聚類數(shù)目的方法是自動的

關(guān)閉聚類結(jié)點

5） 聚類結(jié)果

在聚類結(jié)點處運行流程圖，查看聚類結(jié)果。

6） 限定聚類數(shù)目

打開聚類結(jié)點

選擇聚類選項卡

在聚類數(shù)目選擇部分，點擊選擇標(biāo)準(zhǔn)按鈕

輸入最大聚類數(shù)目為10

點擊ok，關(guān)閉聚類結(jié)點

7）結(jié)果解釋

我們可以定義每個類別的信息，結(jié)合背景識別每個類型的特征。選擇箭頭按鈕，

選擇三維聚類圖的某一類別，

在工具欄選擇刷新輸入均值圖圖標(biāo)，

點擊該圖標(biāo)，可以查看該類別的規(guī)范化均值圖

同理，可以根據(jù)該方法對其他類別進行解釋。

8）運用Insight結(jié)點

Insight結(jié)點可以用來比較不同屬性之間的異常。打開insight結(jié)點，選擇整個數(shù)據(jù)集，關(guān)閉結(jié)點。

從insight結(jié)點處運行。

變量_SEGMNT_標(biāo)識類別，distance標(biāo)識觀測值到所在類別中心的距離。運用insight窗口的analyze工具評估和比較聚類結(jié)果。

首先把_SEGMNT_的度量方式從interval轉(zhuǎn)換成nominal。

聚類應(yīng)用

在商業(yè)上，聚類分析被用來發(fā)現(xiàn)不同的客戶群，并且通過購買模式刻畫不同的客戶群的特征。聚類分析是細分市場的有效工具，同時也可用于研究消費者行為，尋找新的潛在市場、選擇實驗的市場，并作為多元分析的預(yù)處理。在生物上，聚類分析被用來動植物分類和對基因進行分類，獲取對種群固有結(jié)構(gòu)的認(rèn)識。在地理上，聚類能夠幫助在地球中被觀察的數(shù)據(jù)庫商趨于的相似性。在保險行業(yè)上，聚類分析通過一個高的平均消費來鑒定汽車保險單持有者的分組，同時根據(jù)住宅類型，價值，地理位置來鑒定一個城市的房產(chǎn)分組。在因特網(wǎng)應(yīng)用上，聚類分析被用來在網(wǎng)上進行文檔歸類來修復(fù)信息。在電子商務(wù)上，聚類分析在電子商務(wù)中網(wǎng)站建設(shè)數(shù)據(jù)挖掘中也是很重要的一個方面，通過分組聚類出具有相似瀏覽行為的客戶，并分析客戶的共同特征，可以更好的幫助電子商務(wù)的用戶了解自己的客戶，向客戶提供更合適的服務(wù)。

聚類分析應(yīng)用——市場細分

聚類是將數(shù)據(jù)分類到不同的類或者簇這樣的一個過程，所以同一個簇中的對象有很大的相似性，而不同簇間的對象有很大的相異性。

從統(tǒng)計學(xué)的觀點看，聚類分析是通過數(shù)據(jù)建模簡化數(shù)據(jù)的一種方法。傳統(tǒng)的統(tǒng)計聚類分析方法包括系統(tǒng)聚類法、分解法、加入法、動態(tài)聚類法、有序樣品聚類、有重疊聚類和模糊聚類等。

從機器學(xué)習(xí)的角度講，簇相當(dāng)于隱藏模式。聚類是搜索簇的無監(jiān)督學(xué)習(xí)過程。與分類不同，無監(jiān)督學(xué)習(xí)不依賴預(yù)先定義的類或帶類標(biāo)記的訓(xùn)練實例，需要由聚類學(xué)習(xí)算法自動確定標(biāo)記，而分類學(xué)習(xí)的實例或數(shù)據(jù)對象有類別標(biāo)記。聚類是觀察式學(xué)習(xí)，而不是示例式的學(xué)習(xí)。

從實際應(yīng)用的角度看，聚類分析是數(shù)據(jù)挖掘的主要任務(wù)之一。而且聚類能夠作為一個獨立的工具獲得數(shù)據(jù)的分布狀況，觀察每一簇數(shù)據(jù)的特征，集中對特定的聚簇集合作進一步地分析。聚類分析還可以作為其他算法（如分類和定性歸納算法）的預(yù)處理步驟。

聚類分析的核心思想就是物以類聚，人以群分。在市場細分領(lǐng)域，消費同一種類的商品或服務(wù)時，不同的客戶有不同的消費特點，通過研究這些特點，企業(yè)可以制定出不同的營銷組合，從而獲取最大的消費者剩余，這就是客戶細分的主要目的。在銷售片區(qū)劃分中，只有合理地將企業(yè)所擁有的子市場歸成幾個大的片區(qū)，才能有效地制定符合片區(qū)特點的市場營銷戰(zhàn)略和策略。金融領(lǐng)域，對基金或者股票進行分類，以選擇分類投資風(fēng)險。

下面以一個汽車銷售的案例來介紹聚類分析在市場細分中的應(yīng)用。

商業(yè)目標(biāo)

業(yè)務(wù)理解：數(shù)據(jù)名稱《汽車銷售.csv》。該案例所用的數(shù)據(jù)是一份關(guān)于汽車的數(shù)據(jù)，該數(shù)據(jù)文件包含銷售值、訂價以及各種品牌和型號的車輛的物理規(guī)格。訂價和物理規(guī)格可以從 edmunds.com 和制造商處獲得。定價為美國本土售價。如下：

業(yè)務(wù)目標(biāo)：對市場進行準(zhǔn)確定位，為汽車的設(shè)計和市場份額預(yù)測提供參考。

數(shù)據(jù)挖掘目標(biāo)：通過聚類的方式對現(xiàn)有的車型進行分類。

數(shù)據(jù)準(zhǔn)備

通過數(shù)據(jù)探索對數(shù)據(jù)的質(zhì)量和字段的分布進行了解，并排除有問題的行或者列優(yōu)化數(shù)據(jù)質(zhì)量。

第一步，我們使用統(tǒng)計節(jié)點審核數(shù)據(jù)的質(zhì)量，從審核結(jié)果中我們發(fā)現(xiàn)存在缺失的數(shù)據(jù)，如下圖所示：

第二步，對缺失的數(shù)據(jù)進行處理，我們選擇使用缺失填充節(jié)點刪除這些記錄。配置如下：

建模

我們選擇層次聚類進行分析，嘗試根據(jù)各種汽車的銷售量、價格、引擎、馬力、軸距、車寬、車長、制動、排量、油耗等指標(biāo)對其分類。

因為層次聚類不能自動確定分類數(shù)量，因此需要我們以自定義的方式規(guī)定最后聚類的類別數(shù)。層次聚類節(jié)點配置如下（默認(rèn)配置）：

可以使用交互表或者右擊層次聚類節(jié)點查看聚類的結(jié)果，如下圖所示：

再使用餅圖查看每個類的大小，結(jié)果如下：

從圖中可見，分成的三個類樣本數(shù)差異太大，cluster_0和cluster_1包含的樣本數(shù)都只有1，這樣的分類是沒有意義的，因此需要重新分類。我們嘗試在層次聚類節(jié)點的配置中指定新的聚類方法：完全。新的聚類樣本數(shù)分布如下：

cluster_0、 cluster_1、cluster_2的樣本數(shù)分別為：50、9、93。

執(zhí)行后輸出樹狀/冰柱圖，可以從上往下看，一開始是一大類，往下走就分成了兩類，越往下分的類越多，最后細分到每一個記錄是一類，如下所示：

我們可以再使用條形圖查看每類的銷售量、平均價格，如下圖所示：

每類總銷量分布圖

每類平均銷量分布圖

每類平均價格分布圖

我們再看一下每類的銷售額分布情況。首先，我們需要使用Java代碼段節(jié)點或者派生節(jié)點生成銷售額字段，配置如下：

再使用餅圖查看銷售額分布情況，cluster_0、 cluster_1、cluster_2的市場份額分別為：32.39%、0.53%和67.08%，如下圖所示：

案例小結(jié)

通過這個案例，大家可以發(fā)現(xiàn)聚類分析確實很簡單。進行聚類計算后，主要通過圖形化探索的方式評估聚類合理性，以及在確定聚類后，分析每類的特征。