深度學(xué)習(xí)芯片領(lǐng)域的競(jìng)爭(zhēng)從未停止過(guò),2018年將開(kāi)啟深度學(xué)習(xí)硬件大戰(zhàn)，在這場(chǎng)戰(zhàn)局中英偉達(dá)、AMD、英特爾誰(shuí)能笑到最后。

隨著英偉達(dá)Titan V的發(fā)布，我們邁入了深度學(xué)習(xí)硬件發(fā)展的動(dòng)蕩期。NVIDIA能否在2018年保住深度學(xué)習(xí)硬件首要供應(yīng)商的地位還未可知，AMD和Intel Nervana都仍有機(jī)會(huì)。

所以對(duì)于想買硬件的消費(fèi)者，最精明的選擇就是等上3至9個(gè)月，到這種不確定的狀態(tài)過(guò)去之后再?zèng)Q定。

深度學(xué)習(xí)芯片領(lǐng)域的競(jìng)爭(zhēng)從未停止過(guò)。

NVIDIA決定在競(jìng)爭(zhēng)初現(xiàn)端倪之前，先將自己的壟斷地位變現(xiàn)。通過(guò)這種方式，他們希望在未來(lái)1-2年內(nèi)確保行業(yè)領(lǐng)先，所以他們的Titan V的售價(jià)高達(dá)3000美元！

雖然Titan V的深度學(xué)習(xí)專用核心Tensor Core有著獨(dú)特的性能，但性價(jià)比實(shí)在太糟，使其市場(chǎng)吸引力不足，只是現(xiàn)階段除此之外又沒(méi)有別的選擇，所以至少當(dāng)前就有什么用什么吧。

AMD的硬件水平已經(jīng)趕超NVIDIA了，而且他們計(jì)劃再開(kāi)發(fā)出相匹配的深度學(xué)習(xí)軟件。如果這一步實(shí)現(xiàn)的話，其性價(jià)比會(huì)輕松超越NVIDIA，并在此領(lǐng)域成為新的標(biāo)桿。而屆時(shí)NVIDIA就會(huì)憑借著雄厚的資金實(shí)力來(lái)拼市場(chǎng)，所以我們或許會(huì)在未來(lái)看到非常便宜的NVIDIA產(chǎn)品。注意這種情況是建立在AMD推出高質(zhì)量軟件的基礎(chǔ)上——如果AMD跳票，則喪失了搶走桂冠的機(jī)會(huì)，而NVIDIA的產(chǎn)品將仍停留在高價(jià)位。

市場(chǎng)上還有另一位新晉競(jìng)爭(zhēng)者：Intel Nervana的神經(jīng)網(wǎng)絡(luò)處理器（NNP）。憑借著幾種迎合CUDA開(kāi)發(fā)者需求的獨(dú)特性能，它表現(xiàn)得還比較有競(jìng)爭(zhēng)力。NNP處理器可以解決優(yōu)化深度學(xué)習(xí)的CUDA內(nèi)核中絕大多數(shù)的問(wèn)題，這款芯片才真正稱得上第一枚深度學(xué)習(xí)芯片。

通常意義上，對(duì)于單一芯片之間的排名，我們會(huì)按照Nervana 》 AMD 》 NVIDIA的順序來(lái)排，因?yàn)镹VIDIA的芯片不得不在游戲、深度學(xué)習(xí)和高性能運(yùn)算中維持平衡，AMD也需要同時(shí)考慮游戲和深度學(xué)習(xí)，只有Nervana可以聚焦于深度學(xué)習(xí)，這是一個(gè)巨大的優(yōu)勢(shì)，使得他們的芯片較其他兩家少了很多無(wú)用的結(jié)構(gòu)設(shè)計(jì)。

然而，獲勝者往往不是取決于純粹的性能或者性價(jià)比，而是要綜合考慮性價(jià)比+周邊生態(tài)+深度學(xué)習(xí)框架。

讓我們來(lái)仔細(xì)了解一下這三家公司產(chǎn)品的優(yōu)劣，看看它們到底處于什么位置。

Nervana的神經(jīng)網(wǎng)絡(luò)處理器（NNP）

圖：當(dāng)前并沒(méi)有專門為AI所設(shè)計(jì)的硬件產(chǎn)品，而Intel Nervana NNP幫我們擺脫了這種限制。

Nervana芯片的獨(dú)特之處在于它為計(jì)算擴(kuò)展出大空間的緩存（類似CUDA共享內(nèi)存），相當(dāng)于GPU的10倍，而單個(gè)計(jì)算單元的緩存是GPU的50倍。有了這種設(shè)計(jì)，其運(yùn)算速度會(huì)提升至少一個(gè)量級(jí)，就可以在緩存內(nèi)完成算法與模型計(jì)算并輕松地訓(xùn)練TB字節(jié)的數(shù)據(jù)（如一個(gè)帶有200個(gè)單元的多層LSTM）。

得益于Flexpoint這個(gè)特殊的數(shù)據(jù)類型，Nervana的芯片能夠在緩存/RAM內(nèi)存儲(chǔ)更多的數(shù)據(jù)并計(jì)算得更快。所有這些創(chuàng)新都意味著其比當(dāng)前NVIDIA的GPU提速了10倍。這已經(jīng)獲得了初創(chuàng)公司以及一些大公司的關(guān)注。但是，所有這些的前提是他們能克服主要的問(wèn)題：周邊生態(tài)以及軟件。

普通的用戶和研究人員幾乎完全依賴于芯片周邊的生態(tài)系統(tǒng)。如果沒(méi)有了這些，我們將無(wú)法使用緩存內(nèi)的算法以及好的軟件框架，從而無(wú)法更好的利用芯片。

所有人都希望使用可靠過(guò)硬的深度學(xué)習(xí)框架，而Nervana的深度學(xué)習(xí)框架Neon是否給力是值得懷疑的。軟件使用優(yōu)先于硬件支持，如果Nervana僅僅出品良好的芯片而不在軟件以及周邊生態(tài)系統(tǒng)上發(fā)力的話，他們將輸?shù)暨@場(chǎng)競(jìng)爭(zhēng)。

軟件以及生態(tài)系統(tǒng)與價(jià)格緊密相關(guān)。如果Nervana 家的NNP價(jià)格定得太高，學(xué)生根本負(fù)擔(dān)不起。雖然行業(yè)內(nèi)的各種企業(yè)客戶為硬件公司支付了絕大部分的收入，但僅憑產(chǎn)業(yè)化的應(yīng)用是無(wú)法構(gòu)建繁榮的生態(tài)環(huán)境的，學(xué)生群體才是促使硬件周邊生態(tài)環(huán)境繁榮的主要驅(qū)動(dòng)者。

只有當(dāng)廣大學(xué)生們可以支付得起之后，才會(huì)有眾多配套軟件得以涌現(xiàn)。任何超過(guò)3000美金的產(chǎn)品想都不要想；超過(guò)2000美金而且對(duì)學(xué)生有額外折扣的產(chǎn)品還湊合，沒(méi)準(zhǔn)會(huì)讓人用用，一個(gè)2000美金的NNP還是會(huì)有一些接受度的；而如果產(chǎn)品低于1500美金，Nervana在2-3年內(nèi)將會(huì)成為市場(chǎng)的主導(dǎo)者。

如果把價(jià)錢定在1000美金左右，那另兩家競(jìng)爭(zhēng)者將會(huì)非常痛苦，而配套的軟件就會(huì)如雨后春筍，不再是個(gè)問(wèn)題。

如果NNP的價(jià)格低于2500美金，我是肯定會(huì)買的。它的性能比GPU好太多，我可以用它來(lái)做好多原來(lái)無(wú)法在NVIDIA產(chǎn)品上實(shí)現(xiàn)的事。但如果它超過(guò)了2500美元，這是我能承受的上限，我看還是把錢省下來(lái)吧，雖然好的硬件非常重要，但我還需要錢來(lái)干別的呢。

對(duì)于一般的消費(fèi)者來(lái)說(shuō)，價(jià)格不是他們考慮的唯一因素，他們還會(huì)考慮到產(chǎn)品的相對(duì)應(yīng)的周邊生態(tài)。

如果Intel沒(méi)有快速的將盡可能多的資源投入到該產(chǎn)品的周邊生態(tài)并打造一個(gè)可靠的軟件組成，那么NNP （The Neural Network Processor） 的發(fā)展就會(huì)停滯不前并且最終消亡。不幸的是，Intel 曾經(jīng)因?yàn)閷?duì)周邊生態(tài)的管理不善而犯過(guò)這樣的錯(cuò)誤。如果發(fā)生了，這將非常讓人失望，因?yàn)槲艺娴暮芟Ｍ鸑ervana獲得成功。

總體來(lái)說(shuō)， 如果Nervana開(kāi)發(fā)的NNP 可以把價(jià)格控制在2000美金以下，并且在這個(gè)產(chǎn)品發(fā)布之后的短短幾個(gè)月內(nèi)快速生成一個(gè)強(qiáng)大的周邊生態(tài)和軟件開(kāi)發(fā)環(huán)境，那么這款產(chǎn)品將會(huì)擊敗它的同類競(jìng)爭(zhēng)者而勝出。如果NNP的價(jià)格稍高同時(shí)周邊生態(tài)略差，那它依然還是個(gè)不錯(cuò)的產(chǎn)品，只是就性價(jià)比和方便程度來(lái)說(shuō)，它不能完勝它的競(jìng)爭(zhēng)者們。當(dāng)它的價(jià)格高于$4000美金或是不具備一個(gè)基本的產(chǎn)品周邊生態(tài)的話，NNP甚至?xí)陻　?/p>

對(duì)于高于$2000美金的NNP來(lái)說(shuō)，如果希望它能對(duì)于一般學(xué)生有很好的新引力，那么該產(chǎn)品需要對(duì)學(xué)生有著相當(dāng)程度的折扣才可以。

AMD：便宜又強(qiáng)大，軟件方面還需努力

AMD的顯卡非常的棒。Vega Frontier Edition 系列明顯的要優(yōu)于NVIDIA的相應(yīng)產(chǎn)品，通過(guò)一項(xiàng)類似于對(duì)Volta和Pascal所做的無(wú)偏差標(biāo)準(zhǔn)測(cè)試，在使用液態(tài)冷卻的前提下，Vega Frontier 的性能要持平甚至優(yōu)于Titan V。值得注意的是，Vega是基于傳統(tǒng)的圖形處理芯片架構(gòu)，而Titan V是全新的。這樣，在2018第三季度即將發(fā)布的新一代AMD架構(gòu)，將會(huì)有更加出彩的表現(xiàn)。

AMD希望僅僅通過(guò)把32-bit 浮點(diǎn)數(shù)運(yùn)算的圖形處理芯片換成16-bit，從而在深度學(xué)習(xí)硬件開(kāi)發(fā)上取得成功。這是一個(gè)既簡(jiǎn)單又有效的策略。這樣設(shè)計(jì)的GPU，雖然對(duì)于高性能計(jì)算沒(méi)有什么用處，但是對(duì)于游戲玩家以及深度學(xué)習(xí)社群來(lái)說(shuō)，這樣的改變會(huì)獲得更穩(wěn)定的表現(xiàn)，同時(shí)由于16-bit浮點(diǎn)數(shù)運(yùn)算顯卡的運(yùn)算非常直接，芯片的開(kāi)發(fā)成本也會(huì)相應(yīng)降低。

當(dāng)然，如果單純依靠性能指標(biāo)來(lái)說(shuō)，這樣的改變不可能優(yōu)于Nervana的NNP，但是就性價(jià)比來(lái)說(shuō)，市場(chǎng)上所有的產(chǎn)品都無(wú)出其右。你可以僅僅花費(fèi)$700美元就買到一款液態(tài)冷卻的Vega Frontier 顯卡，而它的性能比起$3000美金的Titan V僅僅差了一點(diǎn)而已。

然而最大的問(wèn)題是軟件。即使你擁有了這么強(qiáng)大的AMD GPU，你卻很難使用它-因?yàn)槟壳皼](méi)有一款主流的軟件框架能夠很好支持AMD GPU。

AMD自身也處于這個(gè)發(fā)展過(guò)渡期，關(guān)于軟件的發(fā)展過(guò)渡期。目前來(lái)看，他們打算放棄OpenCL而轉(zhuǎn)向HIP。但是他們現(xiàn)在官方依然支持OpenCL這種方法。

如果他們想推動(dòng)HIP而且在未來(lái)九個(gè)月內(nèi)投放一些很好的深度學(xué)習(xí)軟件于市場(chǎng)（不僅僅是用來(lái)計(jì)算卷積和矩陣相乘的軟件包而是一個(gè)完整的深度學(xué)習(xí)框架，比如說(shuō)HIP可以支持PyTorch），那么，他們?cè)?018第三季度即將發(fā)布的新一代GPU會(huì)獲得巨大的潛力并且擊敗所有競(jìng)爭(zhēng)者。

總體來(lái)說(shuō)，如果AMD能夠把它在軟件方面所有棘手的問(wèn)題處理好，那么毫無(wú)疑問(wèn)它會(huì)成為深度學(xué)習(xí)硬件領(lǐng)域的主導(dǎo)力量。

NVIDIA： 地位堅(jiān)固的硬件界大佬

NVIDIA 的江湖大佬地位毋庸置疑。他們擁有最棒的軟件系統(tǒng)，最好的工具，他們的硬件很棒并且產(chǎn)品具備一個(gè)龐大，強(qiáng)壯并且完整的生態(tài)圈。

NVIDIA 的主要問(wèn)題在于他們需要服務(wù)于多種使用者：高性能計(jì)算需求者，深度學(xué)習(xí)從業(yè)者，還有游戲玩家。這對(duì)于他們的硬件是一個(gè)巨大的壓力。設(shè)計(jì)這些客戶定制的圖形處理芯片是非常昂貴的，因此NVIDIA的策略是設(shè)計(jì)一款多用途，適合所有框架的芯片，這項(xiàng)任務(wù)幾乎很難完成。因此Titan V只是一個(gè)很中庸的產(chǎn)品。

伴隨競(jìng)爭(zhēng)者的出現(xiàn)，NVIDIA有兩種選擇。（1）不停的壓低價(jià)格，直到拖垮對(duì)手，或者是（2）開(kāi)發(fā)出屬于自己的專有深度學(xué)習(xí)圖形處理芯片。NVIDIA擁有足夠的資源去打價(jià)格戰(zhàn)，并且它也擁有足夠數(shù)量的專家去執(zhí)行第二套方案。然而，設(shè)計(jì)新型的芯片需要一定的時(shí)間，NVIDIA有可能在此間失去王者的寶座。所以，我們很有可能看到它會(huì)同時(shí)執(zhí)行兩套方案：打價(jià)格戰(zhàn)拖垮推手，從而為自己設(shè)計(jì)出專屬的深度學(xué)習(xí)芯片贏得時(shí)間。

總體來(lái)說(shuō)，NVIDIA的王座受到了一定的威脅，但是它有足夠的經(jīng)驗(yàn)和資源去擊敗出現(xiàn)的競(jìng)爭(zhēng)對(duì)手。我們很有可能在未來(lái)看到一個(gè)便宜的NVIDIA 顯卡和專為深度學(xué)習(xí)打造的產(chǎn)品。不過(guò)如果NVIDIA 不去降價(jià)打價(jià)格戰(zhàn)的話，它是可能（暫時(shí)地）失去王者的地位的。

深度學(xué)習(xí)硬件的混戰(zhàn)意味著目前不是一個(gè)投資該領(lǐng)域的最好時(shí)機(jī)，但是這也同時(shí)意味著更便宜的NVIDIA 卡，可用性更高的AMD卡，以及超快的Nervana卡會(huì)很快出現(xiàn)。這是一個(gè)激動(dòng)人心的時(shí)代，我們消費(fèi)者將會(huì)從這樣的競(jìng)爭(zhēng)當(dāng)中獲得巨大的利益。但是目前，我們必須耐心等待。