谷歌云端可搶占GPU（最右邊一列），普遍降價40%

還愁用不起GPU？今天谷歌宣布云端可搶占GPU大幅降價，P100的價格每小時0.43美元，換算成人民幣只需2.77元。

不是每個人工作的時候都需要GPU，但對于那些需要的人來說，GPU是必不可少，越多越好。

但是，GPU很貴啊。此前谷歌、Facebook等巨頭開展了不少令人印象深刻的工作，其中不乏使用成百乃至上千GPU的例子，讓人望塵莫及。

不過，就像很多研究者預(yù)測的那樣，硬件的價格會不斷降低。今天，谷歌就宣布，他們整個GPU產(chǎn)品組合的可搶占價格大幅降低，比連接到按需GPU的降低了70%。

今年早些時候，谷歌云平臺宣布，可以將你的GPU連接到谷歌云計引擎（Google Compute Engine）和Google Kubernetes Engine上的可搶占虛擬機(jī)（Preemptible VMs）上——谷歌云端搶占式虛擬機(jī)的每小時的固定費用只要0.015美元，將GPU的使用價格降低了50％。今天，這個價格再往下走了40%。

谷歌表示，搶占式GPU（Preemptible GPUs）非常適合短期、容錯和批處理工作負(fù)載，比如機(jī)器學(xué)習(xí)（ML）和高性能計算（HPC）的客戶。使用搶占式GPU，你可以訪問大規(guī)模GPU基礎(chǔ)架構(gòu)，只需支付可預(yù)測的低價格，無需對容量競標(biāo)。

連接到可搶占虛擬機(jī)的GPU跟按需GPU基本相同，但有兩點重要的不同：因為是可搶占的，計算引擎可能會停止服務(wù)，停止服務(wù)前30秒會提前給你發(fā)送警告；你最多可以使用它們24小時。

任何連接到可搶占虛擬機(jī)實例的GPU都將被視為是可搶占的，并將以較低的價格進(jìn)行計費。

現(xiàn)在，谷歌云平臺提供3種GPU，可以根據(jù)你的需要選擇使用。

GPU價格為每小時費率，每個連接到虛擬機(jī)的GPU都按秒計費。列出的價格適用于美國地區(qū)。其他地區(qū)的價格可能會有不同。額外的持續(xù)使用折扣（最高30％）僅適用于不可搶占GPU。

谷歌打起價格戰(zhàn)？

很多網(wǎng)友紛紛表示，谷歌這一大降價的背后，是對亞馬遜AWS的沖擊。

有人推測是因為谷歌推出了TPU 3.0，替換下來一大批不用的GPU。

也有人推測，是谷歌有一個新的產(chǎn)品要出現(xiàn)，降低舊產(chǎn)品市場的利潤率將使其他公司無法足夠盈利去投資研發(fā)并趕上自己。

總之，無論如何，這對于廣大群眾來說，是件好事。

如何使用云端可搶占GPU

結(jié)合自定義機(jī)器類型，具有可搶占GPU的搶占式虛擬機(jī)，讓你可以根據(jù)自己需要的資源構(gòu)建計算堆棧，而不再需要其他資源。將可搶占GPU連接到自定義可搶占虛擬機(jī)（VM）中，你可以減少GPU VM的虛擬CPU或主機(jī)內(nèi)存量。此外，你還可以使用可搶占本地SSD與谷歌的可搶占GPU進(jìn)行低成本、高性能存儲選擇。

可搶占GPU的情況

進(jìn)行機(jī)器學(xué)習(xí)研究的創(chuàng)新者、研究人員和學(xué)者，對硬件加速基礎(chǔ)設(shè)施的需求非常高，可搶占GPU具有可預(yù)測的低價格，因此兩者得到了很好的結(jié)合。

斯坦福大學(xué)助理教授Kayvon Fatahalian表示：“可搶占GPU有助于我們的研究小組使用我們的Scanner開源平臺大規(guī)模處理大型視頻集合?？深A(yù)測的低成本使得單個研究生可以重復(fù)部署數(shù)百個GPU來處理基于機(jī)器學(xué)習(xí)的100,000小時電視新聞視頻分析。這個價格的下降使我們能夠以相同的預(yù)算執(zhí)行兩倍的處理量。”

機(jī)器學(xué)習(xí)訓(xùn)練和可搶占式GPU

訓(xùn)練ML workloads非常適合使用帶有GPU的可搶占虛擬機(jī)。谷歌Kubernetes引擎和計算引擎的受管實例組（managed instance groups）讓你能為大型計算作業(yè)創(chuàng)建動態(tài)可擴(kuò)展的帶GPU的可搶占虛擬機(jī)群集。你可以使用Tensorflow的檢查點功能（checkpointing）保存和恢復(fù)工作進(jìn)度。

開始使用

要開始使用Google Compute Engine中的可搶占GPU，只需在gcloud中添加--preemptible到你的實例創(chuàng)建命令中，在REST API中指定scheduling.preemptible為true，或在Google Cloud Platform Console中將搶占性設(shè)置為“On”，然后像平時一樣添加GPU就行了。

你可以使用普通的GPU配額啟動可搶占GPU，或者，你可以申請?zhí)厥獾目蓳屨糋PU配額（https://cloud.google.com/compute/quotas），這個配額僅適用于與可搶占虛擬機(jī)相連的GPU。