機(jī)器學(xué)習(xí)和深度學(xué)習(xí)變得越來越火。突然之間，不管是了解的還是不了解的，所有人都在談?wù)摍C(jī)器學(xué)習(xí)和深度學(xué)習(xí)。無論你是否主動(dòng)關(guān)注過數(shù)據(jù)科學(xué)，你應(yīng)該已經(jīng)聽說過這兩個(gè)名詞了。

為了展示他們的火熱程度，我在 Google trend 上搜索了這些關(guān)鍵字：

?

如果你想讓自己弄清楚機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的區(qū)別，請(qǐng)閱讀本篇文章，我將用通俗易懂的語言為你介紹他們之間的差別。下文詳細(xì)解釋了機(jī)器學(xué)習(xí)和深度學(xué)習(xí)中的術(shù)語。并且，我比較了他們兩者的不同，別說明了他們各自的使用場(chǎng)景。

什么是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)?

讓我們從基礎(chǔ)知識(shí)開始：什么是機(jī)器學(xué)習(xí)？和什么是深度學(xué)習(xí)？如果你對(duì)此已有所了解，隨時(shí)可以跳過本部分。

一、什么是機(jī)器學(xué)習(xí)？

一言以蔽之，由 Tom Mitchell 給出的被廣泛引用的機(jī)器學(xué)習(xí)的定義給出了最佳解釋。下面是其中的內(nèi)容：
“計(jì)算機(jī)程序可以在給定某種類別的任務(wù) T 和性能度量 P 下學(xué)習(xí)經(jīng)驗(yàn) E ，如果其在任務(wù) T 中的性能恰好可以用 P 度量，則隨著經(jīng)驗(yàn) E 而提高。”

是不是讀起來很繞口呢？讓我們用簡單的例子來分解下這個(gè)描述。

示例 1：機(jī)器學(xué)習(xí)和根據(jù)人的身高估算體重

假設(shè)你想創(chuàng)建一個(gè)能夠根據(jù)人的身高估算體重的系統(tǒng)（也許你出自某些理由對(duì)這件事情感興趣）。那么你可以使用機(jī)器學(xué)習(xí)去找出任何可能的錯(cuò)誤和數(shù)據(jù)捕獲中的錯(cuò)誤，首先你需要收集一些數(shù)據(jù)，讓我們來看看你的數(shù)據(jù)是什么樣子的：

圖中的每一個(gè)點(diǎn)對(duì)應(yīng)一個(gè)數(shù)據(jù)，我們可以畫出一條簡單的斜線來預(yù)測(cè)基于身高的體重

例如這條斜線：

Weight (in kg) = Height (in cm) - 100

這些斜線能幫助我們作出預(yù)測(cè)，盡管這些斜線表現(xiàn)得很棒，但是我們需要理解它是怎么表現(xiàn)的，我們希望去減少預(yù)測(cè)和實(shí)際之間的誤差，這也是衡量其性能的方法。

深遠(yuǎn)一點(diǎn)地說，我們收集更多的數(shù)據(jù) (experience)，模型就會(huì)變得更好。我們也可以通過添加更多變量（例如性別）和添加不同的預(yù)測(cè)斜線來完善我們的模型。

示例2：颶風(fēng)預(yù)測(cè)系統(tǒng)

我們找一個(gè)復(fù)雜一點(diǎn)的例子。假如你要構(gòu)建一個(gè)颶風(fēng)預(yù)測(cè)系統(tǒng)。假設(shè)你手里有所有以前發(fā)生過的颶風(fēng)的數(shù)據(jù)和這次颶風(fēng)產(chǎn)生前三個(gè)月的天氣信息。

如果要手動(dòng)構(gòu)建一個(gè)颶風(fēng)預(yù)測(cè)系統(tǒng)，我們應(yīng)該怎么做？

?

首先我們的任務(wù)是清洗所有的數(shù)據(jù)找到數(shù)據(jù)里面的模式進(jìn)而查找產(chǎn)生颶風(fēng)的條件。

我們既可以將模型條件數(shù)據(jù)(例如氣溫高于40度，濕度在80-100等)輸入到我們的系統(tǒng)里面生成輸出；也可以讓我們的系統(tǒng)自己通過這些條件數(shù)據(jù)產(chǎn)生合適的輸出。

我們可以把所有以前的數(shù)據(jù)輸入到系統(tǒng)里面來預(yù)測(cè)未來是否會(huì)有颶風(fēng)?；谖覀兿到y(tǒng)條件的取值，評(píng)估系統(tǒng)的性能(系統(tǒng)正確預(yù)測(cè)颶風(fēng)的次數(shù))。我們可以將系統(tǒng)預(yù)測(cè)結(jié)果作為反饋繼續(xù)多次迭代以上步驟。

讓我們根據(jù)前邊的解釋來定義我們的預(yù)測(cè)系統(tǒng)：我們的任務(wù)是確定可能產(chǎn)生颶風(fēng)的氣象條件。性能P是在系統(tǒng)所有給定的條件下有多少次正確預(yù)測(cè)颶風(fēng)。經(jīng)驗(yàn)E是我們的系統(tǒng)的迭代次數(shù)。

二、什么是深度學(xué)習(xí)?

深度學(xué)習(xí)的概念并不新穎。它已經(jīng)存在好幾年了。但伴隨著現(xiàn)有的所有的炒作，深度的學(xué)習(xí)越來越受到重視。正如我們?cè)跈C(jī)器學(xué)習(xí)中所做的那樣，先來看看深度學(xué)習(xí)的官方定義，然后用一個(gè)例子來解釋。

“深度學(xué)習(xí)是一種特殊的機(jī)器學(xué)習(xí)，通過學(xué)習(xí)將世界使用嵌套的概念層次來表示并實(shí)現(xiàn)巨大的功能和靈活性，其中每個(gè)概念都定義為與簡單概念相關(guān)聯(lián)，而更為抽象的表示則以較不抽象的方式來計(jì)算?！?/p>

這也有點(diǎn)讓人混亂。下面使用一個(gè)簡單示例來分解下此概念。

示例1: 形狀檢測(cè)

先從一個(gè)簡單的例子開始，從概念層面上解釋究竟發(fā)生了什么的事情。我們來試試看如何從其他形狀中識(shí)別的正方形。

?

我們眼中的第一件事是檢查圖中是否有四條的線（簡單的概念）。如果我們找到這樣的四條線，我們進(jìn)一步檢查它們是相連的、閉合的和相互垂直的，并且它們是否是相等的（嵌套的概念層次結(jié)構(gòu)）。

所以，我們完成了一個(gè)復(fù)雜的任務(wù)（識(shí)別一個(gè)正方形），并以簡單、不太抽象的任務(wù)來完成它。深度學(xué)習(xí)本質(zhì)上在大規(guī)模執(zhí)行類似邏輯。

示例2: 貓 vs狗

我們舉一個(gè)動(dòng)物辨識(shí)的例子，其中我們的系統(tǒng)必須識(shí)別給定的圖像中的動(dòng)物是貓還是狗。閱讀下此文，以了解深度學(xué)習(xí)在解決此類問題上如何比機(jī)器學(xué)習(xí)領(lǐng)先一步。

機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的對(duì)比
現(xiàn)在的你應(yīng)該已經(jīng)對(duì)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)有所了解，接下來我們將會(huì)學(xué)習(xí)其中一些重點(diǎn)，并比較兩種技術(shù)。

數(shù)據(jù)依賴性

深度學(xué)習(xí)與傳統(tǒng)的機(jī)器學(xué)習(xí)最主要的區(qū)別在于隨著數(shù)據(jù)規(guī)模的增加其性能也不斷增長。當(dāng)數(shù)據(jù)很少時(shí)，深度學(xué)習(xí)算法的性能并不好。這是因?yàn)樯疃葘W(xué)習(xí)算法需要大量的數(shù)據(jù)來完美地理解它。另一方面，在這種情況下，傳統(tǒng)的機(jī)器學(xué)習(xí)算法使用制定的規(guī)則，性能會(huì)比較好。下圖總結(jié)了這一事實(shí)。

?

硬件依賴

深度學(xué)習(xí)算法需要進(jìn)行大量的矩陣運(yùn)算，GPU 主要用來高效優(yōu)化矩陣運(yùn)算，所以 GPU 是深度學(xué)習(xí)正常工作的必須硬件。與傳統(tǒng)機(jī)器學(xué)習(xí)算法相比，深度學(xué)習(xí)更依賴安裝 GPU 的高端機(jī)器。

特征處理

特征處理是將領(lǐng)域知識(shí)放入特征提取器里面來減少數(shù)據(jù)的復(fù)雜度并生成使學(xué)習(xí)算法工作的更好的模式的過程。特征處理過程很耗時(shí)而且需要專業(yè)知識(shí)。

在機(jī)器學(xué)習(xí)中，大多數(shù)應(yīng)用的特征都需要專家確定然后編碼為一種數(shù)據(jù)類型。

特征可以使像素值、形狀、紋理、位置和方向。大多數(shù)機(jī)器學(xué)習(xí)算法的性能依賴于所提取的特征的準(zhǔn)確度。

深度學(xué)習(xí)嘗試從數(shù)據(jù)中直接獲取高等級(jí)的特征，這是深度學(xué)習(xí)與傳統(tǒng)機(jī)器學(xué)習(xí)算法的主要的不同。基于此，深度學(xué)習(xí)削減了對(duì)每一個(gè)問題設(shè)計(jì)特征提取器的工作。例如，卷積神經(jīng)網(wǎng)絡(luò)嘗試在前邊的層學(xué)習(xí)低等級(jí)的特征(邊界，線條)，然后學(xué)習(xí)部分人臉，然后是高級(jí)的人臉的描述。更多信息可以閱讀神經(jīng)網(wǎng)絡(luò)機(jī)器在深度學(xué)習(xí)里面的有趣應(yīng)用。

?

問題解決方式

當(dāng)應(yīng)用傳統(tǒng)機(jī)器學(xué)習(xí)算法解決問題的時(shí)候，傳統(tǒng)機(jī)器學(xué)習(xí)通常會(huì)將問題分解為多個(gè)子問題并逐個(gè)子問題解決最后結(jié)合所有子問題的結(jié)果獲得最終結(jié)果。相反，深度學(xué)習(xí)提倡直接的端到端的解決問題。

舉例說明：
假設(shè)有一個(gè)多物體檢測(cè)的任務(wù)需要圖像中的物體的類型和各物體在圖像中的位置。

?

傳統(tǒng)機(jī)器學(xué)會(huì)將問題分解為兩步：物體檢測(cè)和物體識(shí)別。首先，使用一個(gè)邊界框檢測(cè)算法掃描整張圖片找到可能的是物體的區(qū)域；然后使用物體識(shí)別算法(例如 SVM 結(jié)合 HOG )對(duì)上一步檢測(cè)出來的物體進(jìn)行識(shí)別。

相反，深度學(xué)習(xí)會(huì)直接將輸入數(shù)據(jù)進(jìn)行運(yùn)算得到輸出結(jié)果。例如可以直接將圖片傳給 YOLO 網(wǎng)絡(luò)(一種深度學(xué)習(xí)算法)，YOLO 網(wǎng)絡(luò)會(huì)給出圖片中的物體和名稱。

執(zhí)行時(shí)間
通常情況下，訓(xùn)練一個(gè)深度學(xué)習(xí)算法需要很長的時(shí)間。這是因?yàn)樯疃葘W(xué)習(xí)算法中參數(shù)很多，因此訓(xùn)練算法需要消耗更長的時(shí)間。最先進(jìn)的深度學(xué)習(xí)算法 ResNet完整地訓(xùn)練一次需要消耗兩周的時(shí)間，而機(jī)器學(xué)習(xí)的訓(xùn)練會(huì)消耗的時(shí)間相對(duì)較少，只需要幾秒鐘到幾小時(shí)的時(shí)間。

但兩者測(cè)試的時(shí)間上是完全相反。深度學(xué)習(xí)算法在測(cè)試時(shí)只需要很少的時(shí)間去運(yùn)行。如果跟 k-nearest neighbors（一種機(jī)器學(xué)習(xí)算法）相比較，測(cè)試時(shí)間會(huì)隨著數(shù)據(jù)量的提升而增加。不過這不適用于所有的機(jī)器學(xué)習(xí)算法，因?yàn)橛行C(jī)器學(xué)習(xí)算法的測(cè)試時(shí)間也很短。

可解釋性

至關(guān)重要的一點(diǎn)，我們把可解釋性作為比較機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的一個(gè)因素。

我們看個(gè)例子。假設(shè)我們適用深度學(xué)習(xí)去自動(dòng)為文章評(píng)分。深度學(xué)習(xí)可以達(dá)到接近人的標(biāo)準(zhǔn)，這是相當(dāng)驚人的性能表現(xiàn)。但是這仍然有個(gè)問題。深度學(xué)習(xí)算法不會(huì)告訴你為什么它會(huì)給出這個(gè)分?jǐn)?shù)。當(dāng)然，在數(shù)學(xué)的角度上，你可以找出來哪一個(gè)深度神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)被激活了。但是我們不知道神經(jīng)元應(yīng)該是什么模型，我們也不知道這些神經(jīng)單元層要共同做什么。所以無法解釋結(jié)果是如何產(chǎn)生的。

另一方面，為了解釋為什么算法這樣選擇，像決策樹(decision trees)這樣機(jī)器學(xué)習(xí)算法給出了明確的規(guī)則，所以解釋決策背后的推理是很容易的。因此，決策樹和線性/邏輯回歸這樣的算法主要用于工業(yè)上的可解釋性。