雷鋒網(wǎng)消息，5月18日凌晨，Google CEO Sundar Pichai在I/O大會(huì)上正式公布了第二代TPU，又稱Cloud TPU或TPU 2.0，這一基于云計(jì)算的硬件和軟件系統(tǒng)，將繼續(xù)支撐Google最前沿的人工智能技術(shù)。

第一代TPU于去年發(fā)布，它被作為一種特定目的芯片而專為機(jī)器學(xué)習(xí)設(shè)計(jì)，并用在了AlphaGo的人工智能系統(tǒng)上，是其預(yù)測(cè)和決策等技術(shù)的基礎(chǔ)。隨后，Google還將這一芯片用在了其服務(wù)的方方面面，比如每一次搜索都有用到TPU的計(jì)算能力，最近還用在了Google翻譯、相冊(cè)等軟件背后的機(jī)器學(xué)習(xí)模型中。

今天凌晨，Google宣布第二代的TPU系統(tǒng)已經(jīng)全面投入使用，并且已經(jīng)部署在了Google Compute Engine平臺(tái)上。它可用于圖像和語(yǔ)音識(shí)別，機(jī)器翻譯和機(jī)器人等領(lǐng)域。

新的TPU包括了四個(gè)芯片，每秒可處理180萬(wàn)億次浮點(diǎn)運(yùn)算。Google還找到一種方法，使用新的計(jì)算機(jī)網(wǎng)絡(luò)將64個(gè)TPU組合到一起，升級(jí)為所謂的TPU Pods，可提供大約11500萬(wàn)億次浮點(diǎn)運(yùn)算能力。

強(qiáng)大的運(yùn)算能力為Google提供了優(yōu)于競(jìng)爭(zhēng)對(duì)手的速度，和做實(shí)驗(yàn)的自由度。Google表示，公司新的大型翻譯模型如果在32塊性能最好的GPU上訓(xùn)練，需要一整天的時(shí)間，而八分之一個(gè)TPU Pod就能在6個(gè)小時(shí)內(nèi)完成同樣的任務(wù)。之所以開(kāi)發(fā)新芯片，部分也是因?yàn)镚oogle的機(jī)器翻譯模型太大，無(wú)法如想要的那么快進(jìn)行訓(xùn)練。

除了速度，第二代TPU最大的特色，是相比初代TPU它既可以用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)，又可以用于推理。初代的TPU只能做推理，要依靠Google云來(lái)實(shí)時(shí)收集數(shù)據(jù)并產(chǎn)生結(jié)果，而訓(xùn)練過(guò)程還需要額外的資源。

機(jī)器學(xué)習(xí)的能力已經(jīng)逐漸在消費(fèi)級(jí)產(chǎn)品中體現(xiàn)出來(lái)，比如Google翻譯幾乎可以實(shí)時(shí)將英語(yǔ)句子變成中文，AlphaGo能以超人的熟練度玩圍棋。所有這一切都要靠訓(xùn)練神經(jīng)網(wǎng)絡(luò)來(lái)完成，而這又需要計(jì)算能力。所以硬件越強(qiáng)大，得到的結(jié)果就越快。如果將每個(gè)實(shí)驗(yàn)的時(shí)間從幾周縮短到幾天或幾個(gè)小時(shí)，就可以提高每個(gè)機(jī)器學(xué)習(xí)者快速迭代，并進(jìn)行更多實(shí)驗(yàn)的能力。由于新一代TPU可以同時(shí)進(jìn)行推理和訓(xùn)練，研究人員能比以前更快地部署AI實(shí)驗(yàn)。

過(guò)去十多年來(lái)，Google已經(jīng)開(kāi)發(fā)出很多新的數(shù)據(jù)中心硬件，其中包括服務(wù)器和網(wǎng)絡(luò)設(shè)備，主要目的是擴(kuò)張自己的在線帝國(guó)。而過(guò)去幾年中，在AI方面Google也選擇開(kāi)發(fā)自己的硬件，為其軟件做優(yōu)化。神經(jīng)網(wǎng)絡(luò)是復(fù)雜的數(shù)學(xué)系統(tǒng)，通過(guò)分析大量數(shù)據(jù)來(lái)學(xué)習(xí)，這種系統(tǒng)從根本上改變了技術(shù)的構(gòu)建和運(yùn)行方式，影響范圍也包括硬件。

在某種程度上，初代的TPU被設(shè)計(jì)來(lái)是為了更好地支持TensoFlow機(jī)器學(xué)習(xí)框架。而歸功于Google在軟硬件上的進(jìn)步與集成，TensorFlow已經(jīng)成為構(gòu)建AI軟件的領(lǐng)先平臺(tái)之一。這種優(yōu)化，再加上Google大腦及其DeepMind子公司的內(nèi)部人才，正是Google在AI領(lǐng)域保持領(lǐng)先的部分原因。

芯片廠商N(yùn)Vidia的GPU幾乎主宰了機(jī)器學(xué)習(xí)的市場(chǎng)，而現(xiàn)在，Google想通過(guò)專門(mén)設(shè)計(jì)用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的芯片，來(lái)改變市場(chǎng)提格局。

亞馬遜和微軟通過(guò)自己的云服務(wù)提供GPU處理，但他們不提供定制的AI芯片。

不過(guò)Google也不能因此而高枕無(wú)憂，因?yàn)槎唐趦?nèi)競(jìng)爭(zhēng)就會(huì)加劇。目前已經(jīng)有幾家公司，包括芯片巨頭英特爾和一大批初創(chuàng)公司，正在開(kāi)發(fā)專門(mén)的AI芯片，它們都可能替代Google TPU。

首先開(kāi)發(fā)出新的芯片并不能保證Google成功，要使用TPU 2.0，開(kāi)發(fā)者要學(xué)習(xí)一種構(gòu)建和運(yùn)行神經(jīng)網(wǎng)絡(luò)的新方法。它不僅僅是一個(gè)新的芯片，TPU 2.0也是專門(mén)為T(mén)ensorFlow設(shè)計(jì)。雖然Tensorflow是開(kāi)源軟件，但也有許多研究人員使用Torch和Caffe等類似的軟件。新硬件需要新的軟件優(yōu)化，這需要不少時(shí)間。

在Google推出TPU 2.0的幾周之前，F(xiàn)acebook的AI研究主管Yann LeCun質(zhì)疑稱，市場(chǎng)可能不需要新的AI專用芯片，因?yàn)檠芯空咭呀?jīng)對(duì)使用GPU所需的工具非常熟悉了。新的硬件意味著新的生態(tài)系統(tǒng)。

另外，Google云服務(wù)的成功不僅取決于芯片的速度，以及使用的容易程度，還要考慮成本。所以，如果Google以比現(xiàn)有GPU服務(wù)更低的成本提供TPU服務(wù)，會(huì)得到更廣泛的用戶基礎(chǔ)。

Google自己當(dāng)然會(huì)使用新TPU系統(tǒng)，但也會(huì)將它的能力開(kāi)放給其它公司使用。Google表示，不會(huì)將芯片直接出售，而是會(huì)通過(guò)其新的云服務(wù)（年底前公布）提供，任何開(kāi)發(fā)者都可以使用新處理器帶來(lái)的計(jì)算能力。

Google也重申了其對(duì)開(kāi)源模式的承諾，表示會(huì)向同意發(fā)布研究結(jié)果的研究人員提供TPU資源，甚至可能開(kāi)源代碼。他甚至呼吁開(kāi)發(fā)者加入TensorFlow Research Cloud計(jì)劃，它會(huì)免費(fèi)提供一組1000臺(tái)TPU。

新TPU的速度優(yōu)勢(shì)肯定會(huì)吸引到不少研究人員，畢竟AI研究要在大量硬件上廣泛試錯(cuò)。就此而言，Google愿意免費(fèi)提供計(jì)算資源對(duì)全世界的AI研究者來(lái)說(shuō)都是有好處的，當(dāng)然，這對(duì)Google來(lái)說(shuō)也是有好處的。

圖片來(lái)自WIRED及THEVERGE

雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。