這么多做 AI 芯片的，NovuMind 吳韌做的有何不同？

本文作者：叨叨

2017-10-18 11:09

導(dǎo)語：矩陣本身并不是 AI 計(jì)算的關(guān)鍵點(diǎn)，關(guān)鍵在于卷積，也就是三維張量的計(jì)算。

10月12日，德國慕尼黑，英偉達(dá) GTC 大會。

惠普 HPE 向來自全球的開發(fā)者和廠商，展示了世界上首個(gè)面向企業(yè)級用戶的人工智能軟硬件解決方案，而在 HPE 的高性能計(jì)算硬件上搭載的，是吳韌所創(chuàng)立的 NovuMind 歷時(shí)兩年研發(fā)出來的深度學(xué)習(xí)訓(xùn)練平臺。

這么多做 AI 芯片的，NovuMind 吳韌做的有何不同？

吳韌先后擔(dān)任AMD異構(gòu)系統(tǒng)首席軟件架構(gòu)師，惠普實(shí)驗(yàn)室 CUDA 研究中心首席研究員，百度公司杰出的科學(xué)家，兩年前，他決定創(chuàng)業(yè)，致力于打造“ASIC芯片＋訓(xùn)練模型”的全棧式AI解決方案。

兩年過去，吳韌出現(xiàn)在鮮有中國面孔的 GTC 歐洲大會上，帶著業(yè)界最快的深度學(xué)習(xí)訓(xùn)練平臺高調(diào)亮相，雷鋒網(wǎng)獨(dú)家專訪吳韌博士，看看這位曾經(jīng)名動一時(shí)的計(jì)算機(jī)博弈專家現(xiàn)在在做什么？

一家公司：NovuMind

2015年8月，卸下“百度杰出科學(xué)家”光環(huán)的吳韌回到硅谷，并未用多少時(shí)間，便說服了芯片大拿 Chien-Ping Lu、前惠普實(shí)驗(yàn)室首席工程師 Kar Han Tan 加入，很快組建起了 40 多人規(guī)模的硅谷團(tuán)隊(duì)。在國內(nèi)，則由曾為英偉達(dá)立下汗馬功勞的謝強(qiáng)、差點(diǎn)拿到百度總裁獎的胡殿民“搭了班子”，預(yù)計(jì)在明年初，團(tuán)隊(duì)規(guī)模將和硅谷持平。

2016年12月，NovuMind 完成了 A 輪 1500 多萬美元的融資，背后的資本方有洪泰基金、寬帶資本、真格基金、英諾天使和臻迪科技等。

在吳韌看來，NovuMind 是一家全球化的公司，布局中國、美國、歐洲三塊市場，為人工智能訓(xùn)練超級計(jì)算機(jī)，為應(yīng)用端提供 AI 專用芯片。在這條賽道上，一方面競爭異常激烈，另一方面耗時(shí)耗力。不過，吳韌認(rèn)為 NovuMind 做的事情，和其他廠商完全不同。

對于大部分處在應(yīng)用層的公司而言，急需 AI 技術(shù)，但又不可能像巨頭公司一樣雇傭幾個(gè)百萬年薪的技術(shù)大咖，也不可能買得起千萬起的訓(xùn)練設(shè)備。NovuMind 想要創(chuàng)造的價(jià)值就是降低門檻，讓任何傳統(tǒng)企業(yè)都能夠很容易把 AI 技術(shù)用起來。吳韌表示，對于 AI 來說，更為重要的是不是一兩個(gè)公司沖在最前面，而是大多數(shù)公司都能跟上。想要達(dá)到這個(gè)目的，關(guān)鍵在于能夠降低把訓(xùn)練能力、模型低成本的部署，并且不僅部署在云端，同時(shí)還在終端。

在訓(xùn)練方面，很像當(dāng)年的 Hadoop 和 Cloudera ，吳韌說：

大家都可以去下載一個(gè) Hadoop，但是大部分公司是沒有這個(gè)能力把 Hadoop 跑起來的，于是都去找 Cloudera 這樣的公司去把產(chǎn)品化的 Hadoop 買回來，直接使用，這是使用很復(fù)雜的開源系統(tǒng)解決具體商業(yè)問題很好的例子。我們也一樣，人工智能的訓(xùn)練一定需要非常成熟的軟硬件體系，讓一個(gè)普通公司，買了我們的系統(tǒng)后，按個(gè)鍵，就可以開始訓(xùn)練模型了。

在端應(yīng)用方面，吳韌認(rèn)為做平臺不是正確的思路，NovuMind 追求的是最極致的優(yōu)化、最高的性能功耗比，而平臺意味著性能的降低——通用性就是性能的降低。在吳韌看來，AI 的關(guān)鍵能力，“實(shí)際上就那么幾個(gè)”——比如視覺、聽覺、感知其他信號的能力。把其中一個(gè)能力，放入一個(gè)解決方案中，其實(shí)已經(jīng)可以了。

吳韌進(jìn)一步向雷鋒網(wǎng)解釋，芯片對視覺有特別的優(yōu)化，實(shí)際上已經(jīng)能夠覆蓋非常多的應(yīng)用場景，在“通用性”上，其實(shí)并沒有降低太多，比如說人臉識別、車輛識別等，看起來不一樣，但對芯片只是換一個(gè)模型而已。

而和其他芯片廠商做法不同的是，NovuMind 完全舍棄了“矩陣”。常規(guī)來說，在數(shù)學(xué)和工程上，矩陣能夠達(dá)到憑借最小的操作覆蓋最多應(yīng)用場景的效果，把矩陣做好以后，大部分工程問題都可以解決。但矩陣本身并不是 AI 計(jì)算的關(guān)鍵點(diǎn)，關(guān)鍵在于卷積，也就是三維張量的計(jì)算。吳韌認(rèn)為，既然如此，那 NovuMind 的 AI 芯片，就不去考慮矩陣，只專注三維張量就好。要解決視覺問題，這個(gè)芯片就把這件事做徹底，完全不考慮任何通用性，極端定制化帶來極端的性能優(yōu)勢。

產(chǎn)品方面，雷鋒網(wǎng)此前也曾報(bào)道，NovuMind 的第一個(gè)AI芯片（原型）預(yù)計(jì)會在今年圣誕節(jié)前推出。吳韌表示，到明年2月份，他希望應(yīng)用程序都準(zhǔn)備就緒，并能夠在該芯片上實(shí)現(xiàn)耗能不超過5瓦進(jìn)行15萬億次浮點(diǎn)運(yùn)算。而 NovuMind 的第二個(gè)芯片，耗能將不超過1瓦，計(jì)劃在2018年中期面世。

那 NovuMind 產(chǎn)品目前的效果又如何？

一個(gè)案例：華西醫(yī)院

實(shí)際上，雖然產(chǎn)品還在研發(fā)過程中，但核心技術(shù)已經(jīng)能夠落地了。早在 2016 年 3 月，吳韌就與希式醫(yī)療公司有了初步的合作意向。而在過去不久的 7 月，Novuseeds——NovuMind 合資公司——和華西醫(yī)院開始了全面合作，將 AI 技術(shù)應(yīng)用在消化道的內(nèi)窺鏡上。

在吳韌看來，目前現(xiàn)有的醫(yī)療 AI ，真正有影響力的只有兩個(gè)，都是谷歌參與的。其一是通過視網(wǎng)膜判斷糖尿病，其二是通過皮膚照片判斷皮膚癌?？孔V的原因是，擁有差不多 10 萬份數(shù)據(jù)，準(zhǔn)確率達(dá)到 90%。

NovuMind 和華西醫(yī)院的合作，數(shù)據(jù)來自華西醫(yī)科大學(xué)，用了 20萬份數(shù)據(jù)，準(zhǔn)確率達(dá)到 95%。NovuMind 要做的，就是將性能優(yōu)異的 AI 專用芯片，植入到內(nèi)窺鏡中。

此外，安防也是 NovuMind 長期布局的一個(gè)領(lǐng)域。

將人臉識別、車輛識別用于安防，其實(shí)是很多公司都在做的一件事，媒體大肆報(bào)道后，大眾也不再陌生。吳韌認(rèn)為，難點(diǎn)在于復(fù)雜的程度。他表示，稍微調(diào)查一下會發(fā)現(xiàn)，北京市目前有100萬路，很多公司在達(dá)到“100路”這個(gè)量級的時(shí)候就做不下去了，而 NovuMind 目前在沒用自己研發(fā)的芯片的情況下，可以做到 10 萬路。

現(xiàn)在的做法實(shí)際上是通過攝像頭，在云端或數(shù)據(jù)中心進(jìn)行分析，這個(gè)前提是攝像的視頻，10萬路視頻要傳到數(shù)據(jù)中心的某一個(gè)地方，再來做分析。但如果有了芯片以后，這個(gè)攝像頭本身就可以做分析，那是就可以解決100萬路、1000萬路的問題了。

一個(gè)合作：惠普HPE

在近日舉辦的英偉達(dá) GTC 歐洲大會上，吳韌第一次對外展示了 NovuMind 耗時(shí)兩年開發(fā)的深度學(xué)習(xí)訓(xùn)練平臺，并且宣布與惠普 HPE 達(dá)成了戰(zhàn)略合作。

惠普 HPE 作為重要的高性能計(jì)算設(shè)備提供商，覆蓋了大多數(shù)世界500強(qiáng)企業(yè)用戶，在世界 Top500 超級計(jì)算機(jī)中占有接近 1/3 的席位。在吳韌看來， NovuMind 之所以受到惠普的青睞，是因?yàn)閾碛腥珬５娜斯ぶ悄芗夹g(shù)。

惠普 HPE 資深高性能計(jì)算 (HPC) 技術(shù)顧問、深度學(xué)習(xí)專家 Bruno Monnet 在 GTC 歐洲大會上做了主題為“HPE 和 NovuMind 推動更大規(guī)模的深度學(xué)習(xí) ”(Improving Deep Learning Scalability on HPE Servers With NovuMind: GPU RDMA Made Easy) 的演講，Bruno 大力贊賞了 NovuMind 所做的努力，并且認(rèn)為 NovuMind 軟件和 HPE 高性能計(jì)算硬件的配合是“相得益彰”。

這么多做 AI 芯片的，NovuMind 吳韌做的有何不同？