本文由半導(dǎo)體產(chǎn)業(yè)縱橫（ID：ICVIEWS）編譯自run

人工智能芯片為人工智能和數(shù)據(jù)科學(xué)行業(yè)帶來(lái)了引人注目的好處。

人工智能 (AI) 正在改變我們的世界，而這場(chǎng)革命的一個(gè)重要組成部分是對(duì)大量計(jì)算能力的需求。

什么是人工智能技術(shù)？

機(jī)器學(xué)習(xí)算法每天都變得越來(lái)越復(fù)雜，需要越來(lái)越多的計(jì)算能力來(lái)進(jìn)行訓(xùn)練和推理。最初，人工智能工作負(fù)載在傳統(tǒng)中央處理單元 (CPU) 上運(yùn)行，利用多核 CPU 和并行計(jì)算的強(qiáng)大功能。幾年前，人工智能行業(yè)發(fā)現(xiàn)圖形處理單元 (GPU) 在運(yùn)行某些類(lèi)型的人工智能工作負(fù)載時(shí)非常高效。但對(duì)于那些處于人工智能開(kāi)發(fā)前沿的人來(lái)說(shuō)，標(biāo)準(zhǔn) GPU 已不再足夠，因此需要開(kāi)發(fā)出更專(zhuān)業(yè)的硬件。雖然 GPU 可以被視為人工智能芯片，但現(xiàn)在有一些硬件設(shè)備是從頭開(kāi)始設(shè)計(jì)的，可以比傳統(tǒng) CPU 或 GPU 更高效地執(zhí)行人工智能任務(wù)。我們將回顧 GPU 和更新的專(zhuān)用處理器如何并行處理大量數(shù)據(jù)和復(fù)雜計(jì)算，從而使它們能夠高效地處理機(jī)器學(xué)習(xí)工作負(fù)載。

AI芯片技術(shù)演進(jìn)

圖形處理單元 (GPU)GPU 最初是為渲染高分辨率圖形和視頻游戲而設(shè)計(jì)的，但很快就成為人工智能領(lǐng)域的一種商品。與只能同時(shí)執(zhí)行幾個(gè)復(fù)雜任務(wù)的 CPU 不同，GPU 的設(shè)計(jì)目的是并行執(zhí)行數(shù)千個(gè)簡(jiǎn)單任務(wù)。這使得它們?cè)谔幚頇C(jī)器學(xué)習(xí)工作負(fù)載時(shí)非常高效，這些工作負(fù)載通常需要大量非常簡(jiǎn)單的計(jì)算，例如矩陣乘法。然而，雖然 GPU 在人工智能的崛起中發(fā)揮了至關(guān)重要的作用，但它們也并非沒(méi)有局限性。GPU 并不是專(zhuān)門(mén)為 AI 任務(wù)設(shè)計(jì)的，因此它們并不總是這些工作負(fù)載的最有效選擇。這導(dǎo)致了更專(zhuān)業(yè)的人工智能芯片的開(kāi)發(fā)，例如專(zhuān)用集成電路（ASIC）和現(xiàn)場(chǎng)可編程門(mén)陣列（FPGA）。ASIC 和 FPGA

ASIC 和 FPGA 代表了人工智能芯片技術(shù)發(fā)展的下一步。ASIC（即專(zhuān)用集成電路）是為特定任務(wù)或應(yīng)用定制的芯片。就人工智能而言，ASIC 旨在處理特定的人工智能工作負(fù)載，例如神經(jīng)網(wǎng)絡(luò)處理。這使得它們?cè)趫?zhí)行這些任務(wù)時(shí)非常高效，但靈活性不如其他類(lèi)型的芯片。

FPGA（現(xiàn)場(chǎng)可編程門(mén)陣列）是可以通過(guò)編程來(lái)執(zhí)行各種任務(wù)的芯片。它們比 ASIC 更靈活，使其成為各種人工智能工作負(fù)載的絕佳選擇。然而，它們通常也比其他類(lèi)型的芯片更復(fù)雜和更昂貴。神經(jīng)處理單元 (NPU)

AI芯片技術(shù)的最新發(fā)展是神經(jīng)處理單元（NPU）。這些芯片專(zhuān)為處理神經(jīng)網(wǎng)絡(luò)而設(shè)計(jì)，神經(jīng)網(wǎng)絡(luò)是現(xiàn)代人工智能系統(tǒng)的關(guān)鍵組成部分。NPU 針對(duì)神經(jīng)網(wǎng)絡(luò)所需的大容量并行計(jì)算進(jìn)行了優(yōu)化，其中包括矩陣乘法和激活函數(shù)計(jì)算等任務(wù)。

NPU 通常具有大量能夠執(zhí)行同時(shí)操作的小型高效處理核心。這些內(nèi)核針對(duì)神經(jīng)網(wǎng)絡(luò)中常用的特定數(shù)學(xué)運(yùn)算進(jìn)行了優(yōu)化，例如浮點(diǎn)運(yùn)算和張量處理。NPU 還具有高帶寬內(nèi)存接口，可以有效處理神經(jīng)網(wǎng)絡(luò)所需的大量數(shù)據(jù)。

NPU 設(shè)計(jì)的另一個(gè)關(guān)鍵方面是功效。神經(jīng)網(wǎng)絡(luò)計(jì)算可能非常耗電，因此 NPU 通常會(huì)結(jié)合優(yōu)化功耗的功能，例如根據(jù)計(jì)算需求動(dòng)態(tài)調(diào)整功耗，以及減少每次操作能耗的專(zhuān)門(mén)電路設(shè)計(jì)。

AI芯片的優(yōu)勢(shì)

人工智能芯片為人工智能和數(shù)據(jù)科學(xué)行業(yè)帶來(lái)了幾個(gè)引人注目的好處：

效率

傳統(tǒng) CPU 無(wú)法滿(mǎn)足人工智能和機(jī)器學(xué)習(xí)工作負(fù)載的并行處理要求。另一方面，人工智能芯片是專(zhuān)門(mén)為這些任務(wù)而設(shè)計(jì)的，使其效率顯著提高。

這種效率的提高會(huì)對(duì)人工智能系統(tǒng)的性能產(chǎn)生巨大影響。例如，它可以實(shí)現(xiàn)更快的處理時(shí)間、更準(zhǔn)確的結(jié)果，以及以更低的成本處理更大、更復(fù)雜的工作負(fù)載的能力。

節(jié)能

• 人工智能芯片的另一個(gè)主要優(yōu)勢(shì)是其節(jié)能潛力。人工智能和機(jī)器學(xué)習(xí)工作負(fù)載可能非常耗電，在傳統(tǒng) CPU 上運(yùn)行這些工作負(fù)載可能會(huì)導(dǎo)致大量能耗。

然而，人工智能芯片的設(shè)計(jì)比傳統(tǒng) CPU 更節(jié)能。這意味著它們可以用一小部分功率執(zhí)行相同的任務(wù)，從而顯著節(jié)省能源。這不僅有利于環(huán)境，還可以為依賴(lài)人工智能技術(shù)的企業(yè)和組織節(jié)省成本。

提高性能

• 最后，人工智能芯片可以提高人工智能系統(tǒng)的性能。由于它們是專(zhuān)為人工智能任務(wù)而設(shè)計(jì)的，因此能夠比傳統(tǒng) CPU 更有效地處理復(fù)雜的計(jì)算和大量數(shù)據(jù)。這可以帶來(lái)更快的處理時(shí)間、更準(zhǔn)確的結(jié)果，并支持需要低延遲響應(yīng)用戶(hù)請(qǐng)求的應(yīng)用程序。

采用人工智能芯片的組織面臨的挑戰(zhàn)

雖然人工智能芯片非常有益，但它們的開(kāi)發(fā)和實(shí)施提出了一系列獨(dú)特的挑戰(zhàn)：

• 復(fù)雜的實(shí)施在組織現(xiàn)有的技術(shù)基礎(chǔ)設(shè)施中實(shí)施人工智能芯片是一項(xiàng)重大挑戰(zhàn)。人工智能芯片的專(zhuān)業(yè)性質(zhì)通常需要重新設(shè)計(jì)或?qū)ΜF(xiàn)有系統(tǒng)進(jìn)行大幅調(diào)整。這種復(fù)雜性不僅延伸到硬件集成，還延伸到軟件和算法開(kāi)發(fā)，因?yàn)槿斯ぶ悄苄酒ǔＰ枰獙?zhuān)門(mén)的編程模型和工具。

此外，有效實(shí)施和優(yōu)化基于人工智能芯片的系統(tǒng)所需的技能仍然相對(duì)較少。組織必須投資培訓(xùn)現(xiàn)有員工或招募具有必要專(zhuān)業(yè)知識(shí)的新人才。這種對(duì)專(zhuān)業(yè)知識(shí)的需求可能會(huì)給小型組織或人工智能領(lǐng)域的新手造成進(jìn)入壁壘。

• 成本與設(shè)計(jì)高度專(zhuān)業(yè)化的芯片相關(guān)的研發(fā)成本是巨大的。此外，人工智能芯片（尤其是 ASIC 和 NPU 等先進(jìn)芯片）的制造過(guò)程可能比標(biāo)準(zhǔn) CPU 或 GPU 更復(fù)雜、成本更高。這些額外成本會(huì)轉(zhuǎn)嫁給最終用戶(hù)，從而導(dǎo)致更高的硬件成本。

對(duì)于希望將人工智能芯片集成到其系統(tǒng)中的組織來(lái)說(shuō)，需要對(duì)基礎(chǔ)設(shè)施進(jìn)行大量投資。這使得小型組織或預(yù)算有限的組織很難利用人工智能芯片的優(yōu)勢(shì)。

過(guò)時(shí)風(fēng)險(xiǎn)

AI技術(shù)的快速發(fā)展，帶動(dòng)了AI芯片市場(chǎng)不斷創(chuàng)新和新產(chǎn)品開(kāi)發(fā)的循環(huán)。隨著更新、更高效的芯片不斷發(fā)布，這種快速的發(fā)展速度也帶來(lái)了過(guò)時(shí)的風(fēng)險(xiǎn)。投資人工智能芯片技術(shù)的組織面臨著硬件相對(duì)較快過(guò)時(shí)的挑戰(zhàn)，可能需要頻繁升級(jí)。

這種過(guò)時(shí)的風(fēng)險(xiǎn)可能會(huì)導(dǎo)致投資猶豫不決，特別是對(duì)于預(yù)算有限的組織而言。保持技術(shù)前沿與管理成本之間的平衡是一個(gè)微妙的平衡，需要仔細(xì)的戰(zhàn)略規(guī)劃并考慮長(zhǎng)期技術(shù)趨勢(shì)。

AI芯片領(lǐng)先廠商有哪些？

英偉達(dá)

英偉達(dá)是目前領(lǐng)先的AI芯片供應(yīng)商。英偉達(dá)此前以 GPU 聞名，近年來(lái)開(kāi)發(fā)了專(zhuān)用 AI 芯片，例如 Tensor Core GPU 和 A100，被認(rèn)為是世界上最強(qiáng)大的 AI 芯片。

A100 采用針對(duì)深度學(xué)習(xí)矩陣運(yùn)算優(yōu)化的 Tensor Core，并擁有大容量高帶寬內(nèi)存。其多實(shí)例 GPU (MIG) 技術(shù)允許多個(gè)網(wǎng)絡(luò)或作業(yè)在單個(gè) GPU 上同時(shí)運(yùn)行，從而提高效率和利用率。此外，英偉達(dá)的 AI 芯片兼容廣泛的 AI 框架，并支持 CUDA、并行計(jì)算平臺(tái)和 API 模型，這使得它們能夠適用于各種 AI 和機(jī)器學(xué)習(xí)應(yīng)用。

• AMDAMD 傳統(tǒng)上以 CPU 和 GPU 聞名，現(xiàn)已憑借 Radeon Instinct GPU 等產(chǎn)品進(jìn)入人工智能領(lǐng)域。

Radeon Instinct GPU 專(zhuān)為機(jī)器學(xué)習(xí)和人工智能工作負(fù)載量身定制，提供高性能計(jì)算和深度學(xué)習(xí)功能。這些 GPU 具有先進(jìn)的內(nèi)存技術(shù)和高吞吐量，使其適用于訓(xùn)練和推理階段。AMD還提供ROCm（Radeon開(kāi)放計(jì)算平臺(tái)），可以更輕松地與各種AI框架集成。

• 英特爾按收入計(jì)算，英特爾是全球第二大芯片制造商。該公司在人工智能芯片領(lǐng)域的投資包括一系列產(chǎn)品，從具有人工智能功能的CPU到專(zhuān)門(mén)為訓(xùn)練深度學(xué)習(xí)模型而設(shè)計(jì)的Habana Gaudi處理器等專(zhuān)用人工智能硬件。Habana Gaudi 處理器因其在 AI 訓(xùn)練任務(wù)中的高效率和性能而脫穎而出。它們旨在優(yōu)化數(shù)據(jù)中心工作負(fù)載，為訓(xùn)練大型復(fù)雜的人工智能模型提供可擴(kuò)展且高效的解決方案。Gaudi 處理器的關(guān)鍵特性之一是其處理器間通信功能，可實(shí)現(xiàn)跨多個(gè)芯片的高效擴(kuò)展。與英偉達(dá)和 AMD 的同類(lèi)產(chǎn)品一樣，它們針對(duì)常見(jiàn)的 AI 框架進(jìn)行了優(yōu)化。