還記得前段時間沸沸揚揚的Google人工智能Alpha Go在南韓圍贏了圍棋九段高手李世乭的事嗎？Alpha GO致勝的關鍵，就在于結合機器學習與深層類神經網路，模擬圍棋高手如何分析盤面、找出最有利的下法，步步為營。Google CEO桑德爾·皮查在美國時間18日上午的Google I/O 大會上進一步揭露了這當中的秘密。

　　皮查指出，Google專門為深層類神經網路設計了特殊應用IC，以ASIC為基礎的硬體或軟體，將能透過分析大量的數據學習特殊任務，Google借由神經網路得以辨識物件、照片中的人臉、了解傳到Android手機上的說話指令，以及翻譯技術，甚至因此改變了Google搜尋引擎。也是這項技術提升了Alpha GO的計算速度，并使其思慮看得更深遠。

　　Google將運用此技術打造的機器學習專用晶片稱之為TPU（Tensor Processing Unit），Google在其自家部落格文章稱，由于TPU專為機器學習所運行，得以較傳統CPU、 GPU降低精度，在計算所需的電晶體數量上，自然可以減少，也因此，可從電晶體中擠出更多效能，每秒執行更復雜、強大的機器學習模組，并加速模組的運用，使得使用者更快得到答案，Google指出，團隊已經在數據中心執行TPU超過一年，且發現TPU能讓機器學習每瓦提高一個數量級，粗略來說，相當于摩爾定律中晶片效能往前推進了七年或者三代。

　　上周四，媒體曾經向谷歌咨詢定制AI芯片TPU的事，谷歌拒絕置評，只是說馬上就會有更多的消息公布。然而一天之后，谷歌改變了態度，對一些問題給予了回復，問題是新聞發言人通過郵件形式回應的。

　　下面我們就來看看谷歌是如何解釋TPU的：

　　1、TPU預先訓練過嗎？

　　這是一個大問題，谷歌無法回答。它可能是預先訓練過的，但是我們并不能確切地知道。TPU是否經過訓練，要看它執行的AI算法是否在獨立系統中訓練過。要訓練AI系統識別一張圖片，你必須向它展示幾百萬張圖片，經過反復嘗試才能學會。一旦學習完成，你只需要讓算法在芯片上運行就可以了。例如，IBM的TrueNorth和Fathom芯片（來自創業公司Movidius）就是經過訓練的。TPU有很大的可能訓練過，但是谷歌不會這樣說。

　　2、如果AI算法改變，TPU可以重新編程嗎？

　　這個問題包括兩個子問題，有必要解釋一下。按照芯片的分類，TPU可以被認為是ASIC（特殊應用集成電路），簡單來講就是在設計芯片時只考慮在一件事情上擁有極高的效率。

　　在預想中我們的問題應該是這樣的：如果AI算法改變了（從邏輯上講隨著時間的推移算法應該會改變），你是不是想要一款可以重新編程的芯片，以適應這些改變？如果情況是這樣的，另一種芯片適合，它就是FPGA（現場可編程門陣列）。FPGA可以編程，和ASIC不同。微軟用一些FPGA芯片來增強必應搜索引擎的AI功能。我們很自然會問：為什么不使用FPGA呢？

　　谷歌的回答是：FPGA的計算效率比ASIC低得多，因為它可以編程。TPU擁有一個指令集，當TensorFlow程序改變時，或者新的算法出現時，它們可以在TPU上運行。

　　現在問題的答案開始浮現。在谷歌看來，能耗是一個重要的考量標準，數據中心相當巨大，建設在世界各地，包括芬蘭和***。能耗越高，運營的成本就越高，隨著時間的推移實際消耗的金錢會成倍增長。谷歌工程師對比了FPGA和ASIC的效率，最終決定選擇ASIC。

　　問題的第二部分與TPU的指令集有關。這是一套基本的命令，它以硬編碼形式存在于芯片中，能夠識別、執行；在芯片世界，指令集是計算機運行的基礎。

　　在開發TPU指令集時，它是專門用來運行TensorFlow的，TensorFlow是一個開源軟件庫，針對的是AI應用的開發。谷歌認為，如果AI有必要在底層進行改變，極可能發生在軟件上，芯片應該具備彈性，以適應這種改變。

　　TPU架構的技術細節讓許多了解芯片的人驚奇。Anandtech的Joshua Ho有一個有趣的理論：TPU更加類似于第三類芯片，也就是所謂的數字信號處理器（Digital Signal Processor）。

　　3、TPU是不是只能運行TensorFlow？

　　AI應用的軟件語言大約有5種，TPU能否支持這些語言？谷歌的回答是：其它代碼可以在TPU上運行，但是TPU已經針對TensorFlow做過優化。

　　4、幾塊TPU能不能彼此連接，組成一個系統協同運行？

　　谷歌的回答是：AlphaGo圍棋AI已經安裝了多個TPU，它們完全可以以龐大系統的組成部分來運行。

　　這是一個超級有趣的答案，我們的腦海情不自禁浮現出“SkyNet”式的遠景：許多的AI芯片在所有事情上擁有完全超越人類的思維。

　　5、在服務器機架中，為什么TPU要插入到硬盤倉位中？

　　谷歌曾經說過，TPU會插入到服務器機架上，機架靠近硬盤，看起來有點奇怪。為什么沒有將TPU放在靠近服務器CPU的地方，這樣所有計算就可以在一個地方進行？

　　谷歌的回答是這樣的：TPU擁有一個PCIe連接器。PCIe到底是連接在主板PCIe插槽中，還是連接到短的線纜中，根本沒有區別。谷歌服務器的硬盤架上有空間，安裝在那里比較方便。

　　6、內存在哪里？

　　谷歌的回答是：在散熱器下面。

　　和我們想的一樣。如果你回看第一個問題——也就是芯片預訓練的問題，就會知道訓練芯片需要大量的內存。谷歌要用海量的圖片來訓練AI，看起來散熱器下面沒有足夠的空間安裝大量內存。芯片上的內存看起來也不多，因此，TPU實際已經訓練過的可能性進一步提高。

　　7、芯片在哪里制造的？

　　谷歌沒有回答這個問題。除非谷歌在某處建有秘密工廠，否則只有請別人來生產TPU。世界上有兩家最大的芯片制造商技術最先進：臺積電，GlobalFoundries。讓我們繼續猜測吧。