在本文中，我將提供兩種分類機器學(xué)習(xí)算法的方法。一是根據(jù)學(xué)習(xí)方式分類，二是根據(jù)類似的形式或功能分類。這兩種方法都很有用，不過，本文將側(cè)重后者，也就是根據(jù)類似的形式或功能分類。在閱讀完本文以后，你將會對監(jiān)督學(xué)習(xí)中最受歡迎的機器學(xué)習(xí)算法，以及它們彼此之間的關(guān)系有一個比較深刻的了解。

　　事先說明一點，我沒有涵蓋機器學(xué)習(xí)特殊子領(lǐng)域的算法，比如計算智能（進化算法等）、計算機視覺（CV）、自然語言處理（NLP）、推薦系統(tǒng)、強化學(xué)習(xí)和圖模型。

　　下面是一張算法思維導(dǎo)圖。

　　從學(xué)習(xí)方式分類

　　算法對一個問題建模的方式很多，可以基于經(jīng)歷、環(huán)境，或者任何我們稱之為輸入數(shù)據(jù)的東西。機器學(xué)習(xí)和人工智能的教科書通常會讓你首先考慮算法能夠采用什么方式學(xué)習(xí)。實際上，算法能夠采取的學(xué)習(xí)方式或者說學(xué)習(xí)模型只有幾種，下面我會一一說明。對機器學(xué)習(xí)算法進行分類是很有必要的事情，因為這迫使你思考輸入數(shù)據(jù)的作用以及模型準備過程，從而選擇一個最適用于你手頭問題的算法。

　　監(jiān)督學(xué)習(xí)

　　輸入數(shù)據(jù)被稱為訓(xùn)練數(shù)據(jù)，并且每一個都帶有標簽，比如“廣告/非廣告”，或者當(dāng)時的股票價格。通過訓(xùn)練過程建模，模型需要做出預(yù)測，如果預(yù)測出錯會被修正。直到模型輸出準確的結(jié)果，訓(xùn)練過程會一直持續(xù)。常用于解決的問題有分類和回歸。常用的算法包括邏輯回歸和BP神經(jīng)網(wǎng)絡(luò)。

　　無監(jiān)督學(xué)習(xí)

　　輸入數(shù)據(jù)沒有標簽，輸出沒有標準答案，就是一系列的樣本。無監(jiān)督學(xué)習(xí)通過推斷輸入數(shù)據(jù)中的結(jié)構(gòu)建模。這可能是提取一般規(guī)律，可以是通過數(shù)學(xué)處理系統(tǒng)地減少冗余，或者根據(jù)相似性組織數(shù)據(jù)。常用于解決的問題有聚類、降維和關(guān)聯(lián)規(guī)則的學(xué)習(xí)。常用的算法包括 Apriori 算法和 K 均值算法。

　　半監(jiān)督學(xué)習(xí)

　　半監(jiān)督學(xué)習(xí)的輸入數(shù)據(jù)包含帶標簽和不帶標簽的樣本。半監(jiān)督學(xué)習(xí)的情形是，有一個預(yù)期中的預(yù)測，但模型必須通過學(xué)習(xí)結(jié)構(gòu)整理數(shù)據(jù)從而做出預(yù)測。常用于解決的問題是分類和回歸。常用的算法是所有對無標簽數(shù)據(jù)建模進行預(yù)測的算法（即無監(jiān)督學(xué)習(xí)）的延伸。

　　從功能角度分類

　　研究人員常常通過功能相似對算法進行分類。例如，基于樹的方法和基于神經(jīng)網(wǎng)絡(luò)的方法。這種方法也是我個人認為最有用的分類方法。不過，這種方法也并非完美，比如學(xué)習(xí)矢量量化（LVQ），就既可以被歸為神經(jīng)網(wǎng)絡(luò)方法，也可以被歸為基于實例的方法。此外，像回歸和聚類，就既可以形容算法，也可以指代問題。

　　為了避免重復(fù)，本文將只在最適合的地方列舉一次。下面的算法和分類都不齊備，但有助于你了解整個領(lǐng)域大概。（說明：用于分類和回歸的算法帶有很大的個人主觀傾向；歡迎補充我遺漏的條目。）