David Patterson教授公開宣布加入谷歌TPU團(tuán)隊(duì)，好戲才剛剛開場

本文作者：楊曉凡

編輯：郭奕欣

2017-05-15 09:52

導(dǎo)語：英偉達(dá)的V100很強(qiáng)，但是TPU也許并不怕。

雷鋒網(wǎng)AI科技評論按：前幾天我們剛剛強(qiáng)勢圍觀了英偉達(dá)發(fā)布專門為機(jī)器學(xué)習(xí)設(shè)計(jì)的V100 GPU，成倍的性能提升讓人眼紅，也讓人為谷歌的TPU捏一把汗。但是谷歌也沒閑著，雷鋒網(wǎng)AI科技評論了解到，計(jì)算機(jī)架構(gòu)方面的重量級人物，加州伯克利大學(xué)的David Patterson教授已經(jīng)公開宣布了自己加入谷歌TPU團(tuán)隊(duì)的消息。另外，雖然谷歌TPU團(tuán)隊(duì)已經(jīng)有多人集體出走自行成立公司做芯片研發(fā)，但這另一方面也表明了TPU會(huì)作為獨(dú)立的一項(xiàng)商品走上計(jì)算硬件市場。好戲才剛剛開場。

David Patterson教授公開宣布加入谷歌TPU團(tuán)隊(duì)，好戲才剛剛開場

2016年5月，加州伯克利大學(xué)的David Patterson教授決定退休了。學(xué)校給他舉辦了一個(gè)退休典禮，紀(jì)念他在計(jì)算機(jī)架構(gòu)方面的40年學(xué)術(shù)生涯。Patterson教授自己做了一個(gè)視頻，從他高中和大學(xué)時(shí)訓(xùn)練摔跤、在加州大學(xué)洛杉磯分校學(xué)習(xí)數(shù)學(xué)專業(yè)，一直記錄到在休斯頓飛機(jī)公司找到工作，然后在伯克利的學(xué)術(shù)研究中度過了40個(gè)春秋。

Patterson教授是RISC的支持者之一。相比普通計(jì)算機(jī)，RISC（Reduced Instruction Set Computer精簡指令集計(jì)算機(jī)）通過去除不常用的單元、專注于最常用單元的方式，降低了設(shè)計(jì)制造難度，能以類似的性能大幅度降低功耗。手機(jī)用的ARM處理器就是一種RISC處理器。Patterson教授在伯克利大學(xué)帶領(lǐng)團(tuán)隊(duì)長期進(jìn)行著RISC的研究，對全世界RISC處理器的研發(fā)和相關(guān)應(yīng)用做出了巨大貢獻(xiàn)；他與斯坦福大學(xué)John Hennessy教授合署的兩本書《計(jì)算機(jī)架構(gòu)：一種量化的途徑》和《計(jì)算機(jī)的組織和設(shè)計(jì)：硬件軟件界面》自1990年來就廣泛用作研究生和本科生的課本，影響力巨大；他在2003年到2005年間是美國總統(tǒng)信息技術(shù)咨詢委員會(huì)成員，2004到2006年間任國際計(jì)算機(jī)學(xué)會(huì)主席；他還是磁盤陣列RAID的研發(fā)者之一。

合著影響全球的書，還有在國際計(jì)算機(jī)研究協(xié)會(huì)任主席，都是旁人看來很成功的事情。Patterson教授在退休典禮上向聽眾分享了他的成功秘訣：一次只做一件大事。

他的下一件大事很有可能會(huì)做得很大、非常大。

TPU的故事

David Patterson教授公開宣布加入谷歌TPU團(tuán)隊(duì)，好戲才剛剛開場

別人退休以后一般都去沙灘舒舒服服曬太陽去了，但是Patterson教授在5月退休以后，同年7月就去了谷歌。谷歌那時(shí)已經(jīng)在野心勃勃地開發(fā)一款新的芯片，想要比當(dāng)時(shí)市面上的處理器至少快10倍，而且它還要能足夠全面，能夠搞定人工智能對復(fù)雜計(jì)算能力的要求。

谷歌把它稱作TPU（Tensor Processing Unit，張量計(jì)算單元），Patterson教授去谷歌擔(dān)任了主力研發(fā)人員。最近他才給伯克利大學(xué)的100多個(gè)學(xué)生和老師們講了自己在谷歌研發(fā)TPU的消息，這時(shí)他的退休典禮都快滿一周年了。

“4年前谷歌內(nèi)部就有這種擔(dān)心，然后公司高層出面做了決定”。他們擔(dān)心，如果每一個(gè)安卓用戶每天有三分鐘的對話要通過谷歌的機(jī)器學(xué)習(xí)技術(shù)進(jìn)行翻譯的話，“我們現(xiàn)有的數(shù)據(jù)中心可能需要再翻一倍”。說這話的時(shí)候，今年69歲的Patterson教授身上正穿著谷歌大腦文化衫。

谷歌母公司Alphabet購買資產(chǎn)的支出已經(jīng)達(dá)到了每年10億美元，很大一部分都用來新建數(shù)據(jù)中心。現(xiàn)在數(shù)據(jù)中心有了一個(gè)新的主題，谷歌把它叫做“人工智能的復(fù)興”。深度神經(jīng)網(wǎng)絡(luò)，也就是能夠運(yùn)行特定的模型，然后隨著訓(xùn)練數(shù)據(jù)的變多和變復(fù)雜來不斷學(xué)習(xí)、不斷變得更聰明的計(jì)算機(jī)，正渴求著計(jì)算效率的革命性提升。

Google上個(gè)月發(fā)布了一份關(guān)于TPU性能的報(bào)告，Patterson教授就是核心作者之一。5月4日的時(shí)候，Patterson教授也在斯坦福大學(xué)演講，講述了這份報(bào)告。報(bào)告中說，與同一代的英特爾處理和英偉達(dá)計(jì)算卡相比，TPU不僅運(yùn)算速度要高15到30倍，相同功耗下的計(jì)算能力更是它們的30到80倍。

這份由75位工程師撰寫的報(bào)告，也會(huì)提交給下個(gè)月在多倫多舉行的計(jì)算機(jī)體系結(jié)構(gòu)國際研討會(huì)（ISCA）。這份報(bào)告是Patterson教授在谷歌的首演作品。他每周去山景城的谷歌總部一天、去舊金山的辦公室兩天。他的直接主管是在谷歌工作了18年的老將、Google Brain的總負(fù)責(zé)人Jeff Dean。

這并不是Patterson教授第一次幫谷歌做事，他2013到2014年學(xué)術(shù)休假的時(shí)候就在谷歌做了一些工作。這次，他作為資深工程師加入谷歌TPU開發(fā)項(xiàng)目。他加入的時(shí)候距谷歌首次在數(shù)據(jù)中心中使用TPU剛剛一年，距Patterson教授從學(xué)校退休僅兩個(gè)月。

并不是真的退休

Patterson教授是一個(gè)從來不喜歡閑著的人。2013年的時(shí)候他參加了一項(xiàng)舉重比賽，還打破了他那個(gè)年齡段成績的加州記錄。

Mark Hill博士說：“現(xiàn)在回過頭來想，他不可能真的退休，我們只不過把那個(gè)晚會(huì)稱作退休典禮而已?！彼荘atterson教授1987年的博士生，也是典禮上的致辭者之一。

Hill博士現(xiàn)在是威斯康星大學(xué)麥迪遜分校計(jì)算機(jī)系的主任，在他看來，Patterson教授在計(jì)算機(jī)架構(gòu)方面是“20世紀(jì)后50年里最杰出的幾個(gè)人之一”。他說Patterson教授與Hennessy教授合著的那本計(jì)算機(jī)架構(gòu)書是這個(gè)領(lǐng)域近25年來最有影響力的教科書。

谷歌聲稱TPU已經(jīng)在全公司進(jìn)行了大規(guī)模測試和應(yīng)用。TPU不僅用在搜索命令的執(zhí)行、地圖和導(dǎo)航中，去年在首爾擊敗頂尖圍棋選手李世石的AlphaGo也靠的是TPU。

不過谷歌并沒有打算在半導(dǎo)體市場跟Intel和NVIDIA形成正面競爭。想要使用谷歌TPU強(qiáng)大計(jì)算能力的外部開發(fā)者只能使用谷歌的云計(jì)算服務(wù)和TensorFlow這樣開源的機(jī)器學(xué)習(xí)庫。

“谷歌制造的新工具是為了服務(wù)自己，而不是為了服務(wù)別人的，”初創(chuàng)深度學(xué)習(xí)公司Skymind的聯(lián)合創(chuàng)始人和CEO Chris Nicholson這樣說，“他們從來就不擅長做硬件，而且我覺得他們不會(huì)把硬件作為自己的目標(biāo)?！?/p>

很可能會(huì)有創(chuàng)業(yè)公司去谷歌不做的這個(gè)方向里尋找機(jī)會(huì)。TPU項(xiàng)目里的幾個(gè)工程師已經(jīng)和投資人Chamath Palihapitiya建立起團(tuán)隊(duì)，準(zhǔn)備成立一家起名叫Groq的創(chuàng)業(yè)公司。

TPU的生命才剛剛開始。不過目前它已經(jīng)在深度學(xué)習(xí)的第二個(gè)階段“推理”中展現(xiàn)出了高效的表現(xiàn)。第一個(gè)階段是訓(xùn)練，目前據(jù)我們所知谷歌還是靠別家現(xiàn)成的處理器完成的。

不過谷歌也有對最前沿的項(xiàng)目保密的習(xí)慣，也許谷歌還開發(fā)了什么我們不知道的硬件。

在伯克利大學(xué)的演講的時(shí)候，有人問Patterson教授他們團(tuán)隊(duì)下一步的規(guī)劃是什么，不過Patterson教授沒有上當(dāng)回答他。

Patterson教授說他在谷歌學(xué)到了一件事情，就是與學(xué)術(shù)不同，他不能在公眾場合討論未來的產(chǎn)品。“我只能說谷歌從來都不會(huì)停下來。這段經(jīng)歷挺有意義的。他們從來不會(huì)放棄，也沒有人被踢出團(tuán)隊(duì)。”

原文 CNBC News，雷鋒網(wǎng)AI科技評論編譯

AI科技評論招業(yè)界記者啦！

在這里，你可以密切關(guān)注海外會(huì)議的大牛演講；可以采訪國內(nèi)巨頭實(shí)驗(yàn)室的技術(shù)專家；對人工智能的動(dòng)態(tài)了如指掌；更能深入剖析AI前沿的技術(shù)與未來！

如果你：

＊對人工智能有一定的興趣或了解

* 求知欲強(qiáng)，具備強(qiáng)大的學(xué)習(xí)能力

* 有AI業(yè)界報(bào)道或者媒體經(jīng)驗(yàn)優(yōu)先

簡歷投遞：