3
本文作者: 李尊 | 2016-07-22 18:46 |
美國(guó)時(shí)間2016年7月21日,英偉達(dá)發(fā)布了售價(jià)高達(dá)1200美元(人民幣超過8000元)的最新顯卡Nvidia TITAN X,并把第一個(gè)顯卡送給了他——Andrew Ng(吳恩達(dá))。
美國(guó)時(shí)間2016年7月21日6:00 PM,在斯坦福教師俱樂部中,英偉達(dá)與百度美國(guó)研究院舉行了一個(gè)小規(guī)模的ARIFICIAL INTELLIGENCE MEETUP(人工智能聚會(huì)),會(huì)上請(qǐng)到了Andrew Ng(吳恩達(dá))——現(xiàn)任百度美國(guó)研究員首席科學(xué)家,也是現(xiàn)代人工智能研究奠基人之一,以及百度硅谷實(shí)驗(yàn)的的Bryan Catanzaro和Eric Battenberg。
交流會(huì)上發(fā)布了最新顯卡Nvidia TITAN X,其具體參數(shù)如下:
11 TFLOPS FP32
44 TOPS INT8 (新的深度學(xué)習(xí)架構(gòu))
12B晶體管
3584 個(gè)CUDA 1.53GHz核心 (之前的TITAN X中只有3072 個(gè)1.08GH核心 )
比之前的TITAN X快了60%
最大超頻狀態(tài)下高性能表現(xiàn)
12 GB的GDDR5X內(nèi)存 (480 GB/s)
在這次發(fā)布會(huì)中,英偉達(dá)提到:
每個(gè)人都有自己的英雄,Andrew Ng(吳恩達(dá))——深度學(xué)習(xí)的先行者,現(xiàn)任百度美國(guó)研究員首席科學(xué)家就是我們心中的英雄之一。現(xiàn)任英偉達(dá)CEO黃仁勛(Jen-Hsun Huang)選擇在斯坦福大學(xué)與深度學(xué)習(xí)專家舉行一個(gè)小規(guī)模的交流會(huì),在會(huì)上發(fā)布當(dāng)下性能最強(qiáng)悍的GPU,并且把第一個(gè)Nvidia TITAN X顯卡送給Andrew Ng(吳恩達(dá))!
原來早在2012年,Andrew Ng(吳恩達(dá))就將GPU應(yīng)用到人工智能領(lǐng)域。之后用它建立有史以來第一個(gè)深度神經(jīng)網(wǎng)絡(luò),然后通過觀看1000萬個(gè)YouTube視頻來訓(xùn)練這個(gè)人工智能神經(jīng)網(wǎng)絡(luò)。在觀看了超過20000個(gè)不同的物體后,使用深度學(xué)習(xí)算法的人工智能開始能夠認(rèn)出“貓”的圖片。Andrew Ng(吳恩達(dá))當(dāng)時(shí)接受采訪時(shí)提到“與其讓一大幫研究人員努力去探索如何發(fā)現(xiàn)圖像邊緣,不如直接將一大堆數(shù)據(jù)一股腦兒丟給人工智能算法,讓軟件自身從數(shù)據(jù)中進(jìn)行學(xué)習(xí)。”在那之后,GPU在深度學(xué)習(xí)中的應(yīng)用不斷加大,到目前為止深度學(xué)習(xí)系統(tǒng)的運(yùn)行速度已提高了近50倍。
Andrew Ng(吳恩達(dá))與其他研究學(xué)者通過使用GPU來進(jìn)行深度學(xué)習(xí)給整個(gè)業(yè)界帶了翻天覆地的變化,所以英偉達(dá)認(rèn)為第一個(gè)TITAN X顯卡給Andrew Ng(吳恩達(dá))相當(dāng)有意義。
在交流會(huì)中Andrew Ng(吳恩達(dá))認(rèn)為就像100年前電力的發(fā)明改變了整個(gè)工業(yè)界并且持續(xù)帶來技術(shù)革新一樣,接下來的十年里人工智能(ARIFICIAL INTELLIGENCE)將會(huì)持續(xù)改變并革新所有行業(yè)。但是在人工智能(ARIFICIAL INTELLIGENCE)行業(yè)中,使用最尖端的研究設(shè)備是非常必要的。Andrew Ng(吳恩達(dá))認(rèn)為如果你能擁有一臺(tái)2倍速度的學(xué)習(xí)機(jī)器,那你的研究出成果的速度也會(huì)提高2倍。這是否意味著當(dāng)下的深度學(xué)習(xí)已經(jīng)到了拼硬件、拼財(cái)力的程度了?
與此同時(shí),與會(huì)人員超過500位學(xué)者、研究員以及學(xué)生全部聚集在斯坦福教師俱樂部中。當(dāng)黃仁勛宣布發(fā)布最新一代的GPU時(shí),他們?nèi)慷甲兊檬峙d奮、激動(dòng)并馬上拿起手機(jī)拍照分享。這是為什么呢?
因?yàn)槟壳霸谏疃葘W(xué)習(xí)領(lǐng)域中,GPU發(fā)揮了相當(dāng)重要的作用。以前需要大量的CPU以及超級(jí)計(jì)算機(jī)進(jìn)行的運(yùn)算工作,現(xiàn)在只需要少數(shù)GPU組合就可以完成。這大大加速了深度學(xué)習(xí)領(lǐng)域的發(fā)展,為神經(jīng)網(wǎng)絡(luò)進(jìn)一步發(fā)展提供了計(jì)算基礎(chǔ)。熟悉深度學(xué)習(xí)的人都知道,深度學(xué)習(xí)是需要訓(xùn)練的,所謂的訓(xùn)練就是在成千上萬個(gè)變量中尋找最佳值的計(jì)算。這需要通過不斷的嘗試實(shí)現(xiàn)收斂,而最終獲得的數(shù)值并非是人工確定的數(shù)字,而是一種常態(tài)的公式。通過這種像素級(jí)的學(xué)習(xí),不斷總結(jié)規(guī)律,計(jì)算機(jī)就可以實(shí)現(xiàn)像像人一樣思考。如今,幾乎所有的深度學(xué)習(xí)(機(jī)器學(xué)習(xí))研究者都在使用GPU進(jìn)行相關(guān)的研究。
深度學(xué)習(xí)是利用復(fù)雜的多級(jí)「深度」神經(jīng)網(wǎng)絡(luò)來打造一些系統(tǒng),這些系統(tǒng)能夠從海量的未標(biāo)記訓(xùn)練數(shù)據(jù)中進(jìn)行特征檢測(cè)。 雖然機(jī)器學(xué)習(xí)已經(jīng)有數(shù)十年的歷史,但是兩個(gè)較為新近的趨勢(shì):
海量訓(xùn)練數(shù)據(jù)
GPU 計(jì)算所提供的強(qiáng)大而高效的并行計(jì)算能力
這些大大促進(jìn)了機(jī)器學(xué)習(xí)的廣泛應(yīng)用。人們利用 GPU 來訓(xùn)練這些深度神經(jīng)網(wǎng)絡(luò),所使用的訓(xùn)練集大得多,所耗費(fèi)的時(shí)間大幅縮短,占用的數(shù)據(jù)中心基礎(chǔ)設(shè)施也少得多。GPU 還被用于運(yùn)行這些機(jī)器學(xué)習(xí)訓(xùn)練模型,以便在云端進(jìn)行分類和預(yù)測(cè),從而在耗費(fèi)功率更低、占用基礎(chǔ)設(shè)施更少的情況下能夠支持遠(yuǎn)比從前更大的數(shù)據(jù)量和吞吐量。
將 GPU 加速器用于機(jī)器學(xué)習(xí)的早期用戶包括諸多規(guī)模的網(wǎng)絡(luò)和社交媒體公司,另外還有數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)領(lǐng)域中一流的研究機(jī)構(gòu)。 與單純使用 CPU 的做法相比,GPU 具有數(shù)以千計(jì)的計(jì)算核心、可實(shí)現(xiàn) 10-100 倍應(yīng)用吞吐量,因此 GPU 已經(jīng)成為數(shù)據(jù)科學(xué)家處理大數(shù)據(jù)的處理器。例如下圖中使用GPU加速深度學(xué)習(xí)與CPU進(jìn)行對(duì)比:
Ian Lane 教授 —卡耐基梅隆大學(xué)
借助 GPU,預(yù)先錄制的語(yǔ)音或多媒體內(nèi)容的轉(zhuǎn)錄速度能夠大幅提升。與 CPU 軟件相比,執(zhí)行識(shí)別任務(wù)的速度超級(jí)高可提升 33 倍。
在這些領(lǐng)域中,GPU確實(shí)是非常適合的,這也體現(xiàn)在所有的這些工業(yè)界的大佬如BAT、Google、Facebook等等都在使用GPU在做訓(xùn)練。做深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練需要大量模型,然后才能實(shí)現(xiàn)數(shù)學(xué)上的收斂。深度學(xué)習(xí)要真正接近成人的智力,它所需要的神經(jīng)網(wǎng)絡(luò)規(guī)模非常龐大,它所需要的數(shù)據(jù)量,比做語(yǔ)言識(shí)別、圖像處理要多得多,希望Andrew Ng(吳恩達(dá))在收到這份禮物后能用它來進(jìn)一步加速深度學(xué)習(xí)領(lǐng)域的發(fā)展。
與此同時(shí),也有部分人認(rèn)為雖然利用GPU來進(jìn)行深度學(xué)習(xí)為人工智能領(lǐng)域做出了相當(dāng)巨大的貢獻(xiàn),但是這也造成了現(xiàn)在幾乎所有的相關(guān)學(xué)者都在追捧深度學(xué)習(xí)。誠(chéng)然利用更先進(jìn)的GPU、更快的運(yùn)算速度就能實(shí)現(xiàn)比前人更好的實(shí)驗(yàn)結(jié)果,也更容易發(fā)表文章,但是這對(duì)于整個(gè)行業(yè)的進(jìn)步是最好的么?這類觀念也不由得讓人思考,深度學(xué)習(xí)的未來該往哪個(gè)方向走。
PS : 本文由雷鋒網(wǎng)獨(dú)家編譯,未經(jīng)許可拒絕轉(zhuǎn)載!
via Nvidia Blog Twitter
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。