0
雷鋒網(wǎng)AI科技評(píng)論按:前幾天我們剛剛強(qiáng)勢(shì)圍觀(guān)了英偉達(dá)發(fā)布專(zhuān)門(mén)為機(jī)器學(xué)習(xí)設(shè)計(jì)的V100 GPU,成倍的性能提升讓人眼紅,也讓人為谷歌的TPU捏一把汗。但是谷歌也沒(méi)閑著,雷鋒網(wǎng)AI科技評(píng)論了解到,計(jì)算機(jī)架構(gòu)方面的重量級(jí)人物,加州伯克利大學(xué)的David Patterson教授已經(jīng)公開(kāi)宣布了自己加入谷歌TPU團(tuán)隊(duì)的消息。另外,雖然谷歌TPU團(tuán)隊(duì)已經(jīng)有多人集體出走自行成立公司做芯片研發(fā),但這另一方面也表明了TPU會(huì)作為獨(dú)立的一項(xiàng)商品走上計(jì)算硬件市場(chǎng)。好戲才剛剛開(kāi)場(chǎng)。
2016年5月,加州伯克利大學(xué)的David Patterson教授決定退休了。學(xué)校給他舉辦了一個(gè)退休典禮,紀(jì)念他在計(jì)算機(jī)架構(gòu)方面的40年學(xué)術(shù)生涯。Patterson教授自己做了一個(gè)視頻,從他高中和大學(xué)時(shí)訓(xùn)練摔跤、在加州大學(xué)洛杉磯分校學(xué)習(xí)數(shù)學(xué)專(zhuān)業(yè),一直記錄到在休斯頓飛機(jī)公司找到工作,然后在伯克利的學(xué)術(shù)研究中度過(guò)了40個(gè)春秋。
Patterson教授是RISC的支持者之一。相比普通計(jì)算機(jī),RISC(Reduced Instruction Set Computer精簡(jiǎn)指令集計(jì)算機(jī))通過(guò)去除不常用的單元、專(zhuān)注于最常用單元的方式,降低了設(shè)計(jì)制造難度,能以類(lèi)似的性能大幅度降低功耗。手機(jī)用的ARM處理器就是一種RISC處理器。Patterson教授在伯克利大學(xué)帶領(lǐng)團(tuán)隊(duì)長(zhǎng)期進(jìn)行著RISC的研究,對(duì)全世界RISC處理器的研發(fā)和相關(guān)應(yīng)用做出了巨大貢獻(xiàn);他與斯坦福大學(xué)John Hennessy教授合署的兩本書(shū)《計(jì)算機(jī)架構(gòu):一種量化的途徑》和《計(jì)算機(jī)的組織和設(shè)計(jì):硬件軟件界面》自1990年來(lái)就廣泛用作研究生和本科生的課本,影響力巨大;他在2003年到2005年間是美國(guó)總統(tǒng)信息技術(shù)咨詢(xún)委員會(huì)成員,2004到2006年間任國(guó)際計(jì)算機(jī)學(xué)會(huì)主席;他還是磁盤(pán)陣列RAID的研發(fā)者之一。
合著影響全球的書(shū),還有在國(guó)際計(jì)算機(jī)研究協(xié)會(huì)任主席,都是旁人看來(lái)很成功的事情。Patterson教授在退休典禮上向聽(tīng)眾分享了他的成功秘訣:一次只做一件大事。
他的下一件大事很有可能會(huì)做得很大、非常大。
別人退休以后一般都去沙灘舒舒服服曬太陽(yáng)去了,但是Patterson教授在5月退休以后,同年7月就去了谷歌。谷歌那時(shí)已經(jīng)在野心勃勃地開(kāi)發(fā)一款新的芯片,想要比當(dāng)時(shí)市面上的處理器至少快10倍,而且它還要能足夠全面,能夠搞定人工智能對(duì)復(fù)雜計(jì)算能力的要求。
谷歌把它稱(chēng)作TPU(Tensor Processing Unit,張量計(jì)算單元),Patterson教授去谷歌擔(dān)任了主力研發(fā)人員。最近他才給伯克利大學(xué)的100多個(gè)學(xué)生和老師們講了自己在谷歌研發(fā)TPU的消息,這時(shí)他的退休典禮都快滿(mǎn)一周年了。
“4年前谷歌內(nèi)部就有這種擔(dān)心,然后公司高層出面做了決定”。他們擔(dān)心,如果每一個(gè)安卓用戶(hù)每天有三分鐘的對(duì)話(huà)要通過(guò)谷歌的機(jī)器學(xué)習(xí)技術(shù)進(jìn)行翻譯的話(huà),“我們現(xiàn)有的數(shù)據(jù)中心可能需要再翻一倍”。說(shuō)這話(huà)的時(shí)候,今年69歲的Patterson教授身上正穿著谷歌大腦文化衫。
谷歌母公司Alphabet購(gòu)買(mǎi)資產(chǎn)的支出已經(jīng)達(dá)到了每年10億美元,很大一部分都用來(lái)新建數(shù)據(jù)中心?,F(xiàn)在數(shù)據(jù)中心有了一個(gè)新的主題,谷歌把它叫做“人工智能的復(fù)興”。深度神經(jīng)網(wǎng)絡(luò),也就是能夠運(yùn)行特定的模型,然后隨著訓(xùn)練數(shù)據(jù)的變多和變復(fù)雜來(lái)不斷學(xué)習(xí)、不斷變得更聰明的計(jì)算機(jī),正渴求著計(jì)算效率的革命性提升。
Google上個(gè)月發(fā)布了一份關(guān)于TPU性能的報(bào)告,Patterson教授就是核心作者之一。5月4日的時(shí)候,Patterson教授也在斯坦福大學(xué)演講,講述了這份報(bào)告。報(bào)告中說(shuō),與同一代的英特爾處理和英偉達(dá)計(jì)算卡相比,TPU不僅運(yùn)算速度要高15到30倍,相同功耗下的計(jì)算能力更是它們的30到80倍。
這份由75位工程師撰寫(xiě)的報(bào)告,也會(huì)提交給下個(gè)月在多倫多舉行的計(jì)算機(jī)體系結(jié)構(gòu)國(guó)際研討會(huì)(ISCA)。這份報(bào)告是Patterson教授在谷歌的首演作品。他每周去山景城的谷歌總部一天、去舊金山的辦公室兩天。他的直接主管是在谷歌工作了18年的老將、Google Brain的總負(fù)責(zé)人Jeff Dean。
這并不是Patterson教授第一次幫谷歌做事,他2013到2014年學(xué)術(shù)休假的時(shí)候就在谷歌做了一些工作。這次,他作為資深工程師加入谷歌TPU開(kāi)發(fā)項(xiàng)目。他加入的時(shí)候距谷歌首次在數(shù)據(jù)中心中使用TPU剛剛一年,距Patterson教授從學(xué)校退休僅兩個(gè)月。
Patterson教授是一個(gè)從來(lái)不喜歡閑著的人。2013年的時(shí)候他參加了一項(xiàng)舉重比賽,還打破了他那個(gè)年齡段成績(jī)的加州記錄。
Mark Hill博士說(shuō):“現(xiàn)在回過(guò)頭來(lái)想,他不可能真的退休,我們只不過(guò)把那個(gè)晚會(huì)稱(chēng)作退休典禮而已。”他是Patterson教授1987年的博士生,也是典禮上的致辭者之一。
Hill博士現(xiàn)在是威斯康星大學(xué)麥迪遜分校計(jì)算機(jī)系的主任,在他看來(lái),Patterson教授在計(jì)算機(jī)架構(gòu)方面是“20世紀(jì)后50年里最杰出的幾個(gè)人之一”。他說(shuō)Patterson教授與Hennessy教授合著的那本計(jì)算機(jī)架構(gòu)書(shū)是這個(gè)領(lǐng)域近25年來(lái)最有影響力的教科書(shū)。
谷歌聲稱(chēng)TPU已經(jīng)在全公司進(jìn)行了大規(guī)模測(cè)試和應(yīng)用。TPU不僅用在搜索命令的執(zhí)行、地圖和導(dǎo)航中,去年在首爾擊敗頂尖圍棋選手李世石的AlphaGo也靠的是TPU。
不過(guò)谷歌并沒(méi)有打算在半導(dǎo)體市場(chǎng)跟Intel和NVIDIA形成正面競(jìng)爭(zhēng)。想要使用谷歌TPU強(qiáng)大計(jì)算能力的外部開(kāi)發(fā)者只能使用谷歌的云計(jì)算服務(wù)和TensorFlow這樣開(kāi)源的機(jī)器學(xué)習(xí)庫(kù)。
“谷歌制造的新工具是為了服務(wù)自己,而不是為了服務(wù)別人的,”初創(chuàng)深度學(xué)習(xí)公司Skymind的聯(lián)合創(chuàng)始人和CEO Chris Nicholson這樣說(shuō),“他們從來(lái)就不擅長(zhǎng)做硬件,而且我覺(jué)得他們不會(huì)把硬件作為自己的目標(biāo)?!?/p>
很可能會(huì)有創(chuàng)業(yè)公司去谷歌不做的這個(gè)方向里尋找機(jī)會(huì)。TPU項(xiàng)目里的幾個(gè)工程師已經(jīng)和投資人Chamath Palihapitiya建立起團(tuán)隊(duì),準(zhǔn)備成立一家起名叫Groq的創(chuàng)業(yè)公司。
TPU的生命才剛剛開(kāi)始。不過(guò)目前它已經(jīng)在深度學(xué)習(xí)的第二個(gè)階段“推理”中展現(xiàn)出了高效的表現(xiàn)。第一個(gè)階段是訓(xùn)練,目前據(jù)我們所知谷歌還是靠別家現(xiàn)成的處理器完成的。
不過(guò)谷歌也有對(duì)最前沿的項(xiàng)目保密的習(xí)慣,也許谷歌還開(kāi)發(fā)了什么我們不知道的硬件。
在伯克利大學(xué)的演講的時(shí)候,有人問(wèn)Patterson教授他們團(tuán)隊(duì)下一步的規(guī)劃是什么,不過(guò)Patterson教授沒(méi)有上當(dāng)回答他。
Patterson教授說(shuō)他在谷歌學(xué)到了一件事情,就是與學(xué)術(shù)不同,他不能在公眾場(chǎng)合討論未來(lái)的產(chǎn)品?!拔抑荒苷f(shuō)谷歌從來(lái)都不會(huì)停下來(lái)。這段經(jīng)歷挺有意義的。他們從來(lái)不會(huì)放棄,也沒(méi)有人被踢出團(tuán)隊(duì)?!?/p>
原文 CNBC News,雷鋒網(wǎng)AI科技評(píng)論編譯
AI科技評(píng)論招業(yè)界記者啦!
在這里,你可以密切關(guān)注海外會(huì)議的大牛演講;可以采訪(fǎng)國(guó)內(nèi)巨頭實(shí)驗(yàn)室的技術(shù)專(zhuān)家;對(duì)人工智能的動(dòng)態(tài)了如指掌;更能深入剖析AI前沿的技術(shù)與未來(lái)!
如果你:
*對(duì)人工智能有一定的興趣或了解
* 求知欲強(qiáng),具備強(qiáng)大的學(xué)習(xí)能力
* 有AI業(yè)界報(bào)道或者媒體經(jīng)驗(yàn)優(yōu)先
簡(jiǎn)歷投遞:
lizongren@leiphone.com
相關(guān)文章:
【洞見(jiàn)】谷歌公布TPU細(xì)節(jié)之后,AI業(yè)界怎么看?
谷歌硬件工程師揭秘,TPU為何會(huì)比CPU、GPU快30倍?
谷歌TPU項(xiàng)目核心成員離職了,他們想建“下一代AI芯片”
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。