丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
人工智能學(xué)術(shù) 正文
發(fā)私信給camel
發(fā)送

0

中科院計(jì)算所陳云霽:深度學(xué)習(xí)芯片剩下的只是工程問題,我們要起航探索新方向

本文作者: camel 2019-11-11 15:12
導(dǎo)語(yǔ):四個(gè)層面~

陳云霽,是一個(gè)80后,但卻是智能芯片研究的領(lǐng)軍人物。

在9月中旬,北京智源人工智能研究院曾舉辦“智能體系架構(gòu)與芯片”重大研究方向的發(fā)布會(huì),發(fā)布會(huì)上宣布中科院計(jì)算所陳云霽研究員將擔(dān)任這個(gè)方面的首席科學(xué)家,帶領(lǐng) 9 位智源研究員(PI)與 6 位智源青年科學(xué)家共同探索面向未來(lái)的高效能、通用智能處理器。

在10 月 31 日北京智源人工智能研究院舉辦的首屆“智源大會(huì)”上,陳云霽再次就該重大研究方向接受雷鋒網(wǎng) AI 科技評(píng)論等媒體采訪。

中科院計(jì)算所陳云霽:深度學(xué)習(xí)芯片剩下的只是工程問題,我們要起航探索新方向

陳云霽

陳云霽,中科院計(jì)算所智能處理器研究中心研究員,主任,博導(dǎo)。研究方向?yàn)闄C(jī)器學(xué)習(xí)處理器,在深度學(xué)習(xí)處理器領(lǐng)域獲得了突出成績(jī)。擁有30余項(xiàng)已授權(quán)的發(fā)明專利,發(fā)表或錄用學(xué)術(shù)論文100余篇,其中CCF A類頂級(jí)會(huì)議/期刊論文34篇(大部分為一作或通訊作者)。2016~2018的CCF A類會(huì)議ISCA平均有近1/4的論文引用他的論文從事深度學(xué)習(xí)處理器的研制。曾獲中國(guó)青年科技獎(jiǎng)、國(guó)家萬(wàn)人計(jì)劃“青年拔尖人才”、國(guó)家自然科學(xué)基金“優(yōu)秀青年基金”、中國(guó)計(jì)算機(jī)學(xué)會(huì)青年科學(xué)家獎(jiǎng)、中國(guó)計(jì)算機(jī)學(xué)會(huì)科學(xué)技術(shù)一等獎(jiǎng)(第一完成人)等榮譽(yù)。

陳云霽表示工業(yè)時(shí)代以發(fā)動(dòng)機(jī)為時(shí)代發(fā)展的核心物質(zhì)載體,帶動(dòng)社會(huì)進(jìn)步;信息時(shí)代則是以CPU為核心物質(zhì)載體;我們即將進(jìn)入一個(gè)智能的時(shí)代,那么我們必須去探索智能時(shí)代的核心物質(zhì)載體,即智能計(jì)算系統(tǒng)。

在他的帶領(lǐng)下,智源的9位研究員與6位青年科學(xué)家將去探索四個(gè)方向的研究,包括智能整機(jī)、編譯語(yǔ)言與編譯、智能芯片以及設(shè)計(jì)方法學(xué)。16位研究人員的研究規(guī)劃如下圖所示:

中科院計(jì)算所陳云霽:深度學(xué)習(xí)芯片剩下的只是工程問題,我們要起航探索新方向

陳云霽是深度學(xué)習(xí)處理器的開拓者,但他表示深度學(xué)習(xí)處理器本身的科學(xué)問題已經(jīng)相對(duì)比較清晰,后面更多的是工程問題,而非科學(xué)問題;而他們所要做的是去發(fā)現(xiàn)更新的科學(xué)研究方向,解決新的科學(xué)問題。

此外談到類腦是否是馮諾依曼架構(gòu)這個(gè)問題時(shí),陳云霽表示,我們應(yīng)當(dāng)去閱讀馮諾依曼在1945年寫的那個(gè)報(bào)告原文,在原文中馮諾依曼曾花費(fèi)十幾章來(lái)論證一個(gè)問題,即整個(gè)馮諾依曼機(jī)可以用神經(jīng)元來(lái)搭建。因此未來(lái)的類腦芯片是否是馮諾依曼架構(gòu),需要就事而論。 

以下是陳云霽研究員的具體談話,AI 科技評(píng)論進(jìn)行了不改變?cè)獾木庉?,?nèi)容未經(jīng)本人確認(rèn)——

(參與媒體:雷鋒網(wǎng) AI 科技評(píng)論、CSDN、財(cái)新網(wǎng)、智東西)


智能時(shí)代的物質(zhì)載體

陳云霽:各位朋友好!我是中國(guó)科學(xué)院計(jì)算技術(shù)研究所的陳云霽。我們代表的方向是智源人工智能研究院成立的第三個(gè)重大研究方向——智能體系架構(gòu)與芯片。與其他幾個(gè)方向不太一樣的是,我們這個(gè)方向更多是偏向硬件和系統(tǒng),其他的方向相對(duì)來(lái)說(shuō)更偏向算法、應(yīng)用層面。某種意義上來(lái)說(shuō),我們?cè)谥窃囱芯矿w系里面是最底層、最基礎(chǔ)的。

事實(shí)上,智能計(jì)算系統(tǒng)對(duì)于整個(gè)人工智能發(fā)展來(lái)說(shuō)都是非常關(guān)鍵的。我們可能都是唯物主義者,工業(yè)時(shí)代必須要有自己的核心物質(zhì)載體,就是發(fā)動(dòng)機(jī);信息時(shí)代需要有CPU作為核心物質(zhì)載體;智能時(shí)代也要有自己的核心物質(zhì)載體,我們認(rèn)為智能計(jì)算系統(tǒng)就是智能時(shí)代的核心物質(zhì)載體。因此智源研究院設(shè)置這樣一個(gè)方向?qū)iT來(lái)做這塊研究,是非常有必要的。

我們這個(gè)方向大概有制定了四個(gè)層面的研究:

  • 第一個(gè)是最上層的智能整機(jī),相當(dāng)于一個(gè)完整的智能計(jì)算機(jī)交付給大家;

  • 第二層面是編程語(yǔ)言和編譯,我們?cè)趺慈懼悄艹绦颍檬裁礃拥恼Z(yǔ)言編寫這樣的智能程序,寫出來(lái)的智能程序又怎么編譯到智能芯片,讓智能芯片能理解;

  • 第三個(gè)層面就是做各種各樣具體的智能芯片,我們大概布局了四種智能芯片的研究;

  • 最底層是智能芯片的設(shè)計(jì)方法學(xué)的研究,說(shuō)白了是研究怎么能夠快速用開源工具設(shè)計(jì)出新的智能芯片。

我們這個(gè)方向有10個(gè)PI,主要是來(lái)自于清華、北大、中科院;還有5位青年科學(xué)家,也是來(lái)自清華、北大和中科院??傮w情況就是這樣。


探索新方向


問:之前有記者采訪孫茂松教授,他提到現(xiàn)在“深度學(xué)習(xí)碰壁了,面臨一個(gè)困境”。您怎么看待這個(gè)觀點(diǎn),以及這會(huì)對(duì)您在深度學(xué)習(xí)處理器的研究上有什么影響?

陳云霽: 孫老師講的是很有道理的,學(xué)術(shù)研究的角度上看,深度學(xué)習(xí)的邊界已經(jīng)相對(duì)比較清楚了,它能干什么,不能干什么,現(xiàn)在大家開始有一些感覺了。比如很多高級(jí)認(rèn)知功能,推理、聯(lián)想、創(chuàng)造等,深度學(xué)習(xí)似乎都很難解決。當(dāng)然不排除未來(lái)有變革,但目前深度學(xué)習(xí)方法都不能完全解決這些問題。

因此,智源研究院應(yīng)該去探索一些更新的東西,智源并不是一個(gè)企業(yè)的研究院或者說(shuō)甚至并不像科技部。智源需要有更大的勇氣和決心去探索更前瞻的、對(duì)于我們整個(gè)人類來(lái)說(shuō)都是未知的東西。在我們布局智能體系架構(gòu)與芯片的研究方向中,我們10個(gè)PI在4個(gè)層面上進(jìn)行的研究,某種意義上來(lái)說(shuō)沒有把深度學(xué)習(xí)處理器的研究當(dāng)成主要的研究?jī)?nèi)容。

在我看來(lái)深度學(xué)習(xí)處理器本身的科學(xué)問題相對(duì)已經(jīng)比較清晰了,后面更多的是工程上的問題。而我們智源要去做的事情,應(yīng)該是去發(fā)現(xiàn)新的科學(xué)問題、新的科學(xué)方向,解決新的科學(xué)問題。在這個(gè)層面上,我們希望探索的是未來(lái)十年,我們有沒有可能設(shè)計(jì)出新的類型的智能體系架構(gòu),不僅僅是能效比今天寒武紀(jì)或者其他的智能芯片高10倍、100倍,更重要的是它能解決更廣闊的人工智能應(yīng)用。它不僅僅是解決深度學(xué)習(xí)的任務(wù),還應(yīng)該解決更廣闊的其他機(jī)器學(xué)習(xí)方法,包括貝葉斯網(wǎng)絡(luò)、決策樹、深度學(xué)習(xí),甚至說(shuō)它能夠更高效地去解決剛才我講的那些高級(jí)認(rèn)知類的功能,推理、聯(lián)想、創(chuàng)造等。

只有把這樣的芯片做出來(lái),我們才能說(shuō)這個(gè)芯片是未來(lái)能夠在我們通往強(qiáng)人工智能道路上發(fā)揮關(guān)鍵作用的芯片。這也是我們這個(gè)方向里面10個(gè)PI一起討論凝練出來(lái)的目標(biāo),我們自己也覺得這樣的目標(biāo)對(duì)于我們做基礎(chǔ)研究的人來(lái)說(shuō)是比較激動(dòng)人心的。


四類智能芯片

問:您提到布局了四種智能芯片的研究,能不能詳細(xì)解釋一下哪四種?

陳云霽:這里面有四個(gè)方面:

第一,類腦的智能芯片。大家都知道前段時(shí)間有一個(gè)非常有影響力的工作,清華大學(xué)施路平教授做的類腦芯片的工作,發(fā)表在Nature的封面上。這說(shuō)明北京在這個(gè)方向,在國(guó)際上都是處于一個(gè)比較前列的地位。我們這里面四個(gè)方向中的第一個(gè)方向是類腦的智能芯片,希望我們的芯片能夠像接近我們大腦工作機(jī)理去運(yùn)轉(zhuǎn)。

第二,機(jī)器學(xué)習(xí)處理器,我們過(guò)去對(duì)深度學(xué)習(xí)處理器(例如“寒武紀(jì)”芯片)有所了解,未來(lái)想做的機(jī)器學(xué)習(xí)處理器,不僅僅是深度學(xué)習(xí),還能夠進(jìn)行貝葉斯、決策樹、線性回歸等更廣闊的機(jī)器學(xué)習(xí)方法,都能夠非常高效地處理。

第三,可重構(gòu)的智能芯片。我們想未來(lái)十年、二十年,智能算法還會(huì)快速發(fā)展,以后產(chǎn)生出來(lái)的智能算法可能是我們今天聞所未聞,甚至是想都沒有想到過(guò)的。如果我們未來(lái)的智能芯片不能支撐未來(lái)新的算法,業(yè)務(wù)面就會(huì)受限,我們想探索一種可重構(gòu)的智能芯片的方法。它可以根據(jù)我們的應(yīng)用需求,靈活地進(jìn)行動(dòng)態(tài)配置,去適配未來(lái)的算法。這樣的話,未來(lái)不管智能算法怎么演進(jìn),我們的芯片都能夠比較好地支撐。

第四,應(yīng)用驅(qū)動(dòng)的芯片。我們?cè)谌粘I钪械玫降男畔⒍际菚r(shí)序信息。我們從外界得到的信息,一般都是視頻序列和語(yǔ)音序列等。面向視頻序列和語(yǔ)音序列的應(yīng)用也非常多,我們想看看是否能夠發(fā)展一類專門去處理時(shí)間序列信息的芯片。這是一類以應(yīng)用為驅(qū)動(dòng)的專門的芯片。

這四個(gè)方向要么是國(guó)際學(xué)術(shù)的前沿,要么就是未來(lái)很有潛力的學(xué)科增長(zhǎng)點(diǎn),要么是有非常實(shí)際的應(yīng)用需求。但有一個(gè)共同點(diǎn),它們都是在學(xué)術(shù)上相對(duì)比較前瞻的。

當(dāng)時(shí)張宏江博士(智源研究院理事長(zhǎng))和黃鐵軍教授(智源研究院院長(zhǎng))最開始在跟我們說(shuō)設(shè)置這個(gè)方向的時(shí)候,給我們的建議就是,現(xiàn)在企業(yè)已經(jīng)能干的事情,已經(jīng)能往產(chǎn)品做的事情,我們智源就不要去做了;因?yàn)檫@些已經(jīng)有很多的投入,很多的人在做,我們要看更遠(yuǎn)的東西。


問:您提到的可重構(gòu)智能計(jì)算架構(gòu)與機(jī)器學(xué)習(xí)處理器之間有什么區(qū)別?

陳云霽:我打一個(gè)不是很準(zhǔn)確的比方。這兩者都是希望實(shí)現(xiàn)通用,都是希望實(shí)現(xiàn)靈活性。

機(jī)器學(xué)習(xí)處理器的思路是樂高積木這樣的思路,通過(guò)找到各種機(jī)器學(xué)習(xí)算法的最大公約數(shù),形成一個(gè)指令級(jí),用指令的拼接組合(就像用很多樂高積木的即插件)就可以拼出一個(gè)機(jī)器學(xué)習(xí)的算法??赡苓@個(gè)算法我沒有見過(guò),但是這個(gè)即插件只要設(shè)計(jì)的足夠好,就能夠拼出這個(gè)東西來(lái)??芍貥?gòu)的智能芯片類似橡皮泥這種模式,你根據(jù)自己的需求把這塊橡皮泥捏出你想要的形狀。

所以從某種角度上來(lái)說(shuō),機(jī)器學(xué)習(xí)處理器更像樂高積木,可重構(gòu)處理器更像橡皮泥。橡皮泥有很小的顆粒,樂高積木的顆粒相對(duì)比較大。最后達(dá)到的效果是類似的。


問:您剛才提到四種芯片,具體來(lái)說(shuō)您比較看好哪個(gè)芯片?

陳云霽:這是很有意思的問題,這4個(gè)類型的芯片我覺得都挺有發(fā)展?jié)摿Φ?。而且事?shí)上,我覺得未來(lái)智源如果不斷地發(fā)展,完全有可能再出現(xiàn)支持第五類、第六類。基礎(chǔ)研究的模式可能跟純做大工程還不太一樣。大工程,比如做一個(gè)原子彈,最后就是一個(gè)原子彈。基礎(chǔ)研究要同時(shí)平行探索好幾條路徑,到底哪條路徑能成功,需要時(shí)間來(lái)檢驗(yàn),這個(gè)過(guò)程中路徑有可能分叉,也有可能有合并。

至于我看好哪一條,需要看長(zhǎng)期還是短期。

長(zhǎng)期來(lái)看,比如30年、40年或者50年,類腦這塊是有很大的潛力。今天它發(fā)展的并不成熟,但是我想肯定是我們這方面做科學(xué)研究的終極目標(biāo)。

如果從比較實(shí)際的角度來(lái)看,能夠比較短期快速的從基礎(chǔ)研究變成應(yīng)用技術(shù)的,可能會(huì)是機(jī)器學(xué)習(xí)處理器。畢竟機(jī)器學(xué)習(xí)大家還是在廣闊地使用。

可重構(gòu)也非常有價(jià)值,包括時(shí)間序列的芯片,一定要我說(shuō)哪一個(gè)最好,很難判斷。今天可能我們判斷這件事情為時(shí)太早,要有十年、二十年才能檢驗(yàn)得出來(lái)。

 

通用與性能

 

問:您之前說(shuō)芯片需要通用和靈活性兼具,包括您說(shuō)的機(jī)器學(xué)習(xí)處理器,這些都是需要通用和靈活性兼具的。其實(shí)市場(chǎng)上有通用型的包括CPU、FPGA這種,您覺得未來(lái)更好的是哪個(gè)類型?

陳云霽:產(chǎn)業(yè)方面我不是特別好判斷。

從我們做基礎(chǔ)研究的角度來(lái)說(shuō),做研究有一個(gè)研究的品味,我們會(huì)比較希望去做一些相對(duì)更通用的東西。一方面它要能效很高,另外我們也希望它盡可能通用。

計(jì)算機(jī)領(lǐng)域最重要的兩個(gè)成果,一個(gè)是圖靈機(jī),一個(gè)是馮·諾依曼機(jī),這是整個(gè)計(jì)算機(jī)最重要的兩個(gè)成果。可能沒有之三了,就是這兩個(gè)。它們都有很明顯的特征,就是非常強(qiáng)調(diào)通用性。圖靈機(jī)的架構(gòu)本身就能夠適應(yīng)各種各樣的問題,用一個(gè)簡(jiǎn)單的紙帶加上讀寫頭就可以解決各種各樣的問題。馮·諾依曼機(jī)更是如此。世界上第一臺(tái)計(jì)算機(jī)叫ENIAC,它很笨拙,解決完一個(gè)問題后,如果你想用它來(lái)解決另外一個(gè)問題,還需要吧各種各樣的硬件線路拆下來(lái)重新連接;馮·諾依曼就提出了馮·諾依曼機(jī),其核心思想就是存儲(chǔ)程序,不用拆換線路,只要更換程序就可以達(dá)到同樣的效果。

對(duì)于我們做計(jì)算機(jī)人來(lái)說(shuō),重視通用性是一種基因。我們未來(lái)如果要發(fā)展智能處理器或者智能芯片,我們必然會(huì)強(qiáng)調(diào)通用性。

此外從做研究的角度來(lái)看,通用性越好的東西,受到的關(guān)注也就越多。


類腦芯片是馮諾依曼結(jié)構(gòu)嗎?

 

問:在我的理解中,您剛才提到馮諾依曼結(jié)構(gòu),其實(shí)類腦應(yīng)該是一種非馮結(jié)構(gòu),它未來(lái)能夠?qū)崿F(xiàn)這種通用性能嗎?

陳云霽:類腦是不是非馮諾依曼結(jié)構(gòu),還是存在爭(zhēng)議的。馮諾依曼結(jié)構(gòu)的核心思想在于存儲(chǔ)程序,在于我們換一個(gè)任務(wù)去做并不需要重新去把硬件給拆下來(lái)。類腦計(jì)算也希望存儲(chǔ)程序,也希望有比較強(qiáng)的靈活性。它到底會(huì)不會(huì)是馮諾依曼結(jié)構(gòu)呢?我覺得還要一事一議的看,并不是類腦的機(jī)器就一定不是馮諾依曼結(jié)構(gòu)。

如果我們仔細(xì)去看馮諾依曼報(bào)告,可能很多人沒有看過(guò),我自己是有一天熬夜的時(shí)候很無(wú)聊,就把馮諾依曼1945年寫的那個(gè)報(bào)告下載下來(lái)看的。我一看就很震驚。那個(gè)報(bào)告十幾章,第一章、第二章是我們過(guò)去都知道的馮諾依曼機(jī)的介紹,一個(gè)馮諾依曼機(jī)應(yīng)該包括存儲(chǔ)器、控制器等東西。

后面十幾章講什么呢,他在論證整個(gè)馮諾依曼機(jī)可以用神經(jīng)元搭出來(lái),還做了很多數(shù)據(jù)上的論證,控制器可以用神經(jīng)元搭出來(lái),存儲(chǔ)機(jī)可以用神經(jīng)元搭出來(lái),輸入輸出也可以用神經(jīng)元搭出來(lái),然后最后的結(jié)論就是整個(gè)馮諾依曼其實(shí)都可以用神經(jīng)元搭出來(lái)。

所以從這個(gè)角度上來(lái)說(shuō),我不知道馮諾依曼心目中的馮諾依曼機(jī)跟我們大家心目中的馮諾依曼機(jī)是不是一個(gè)概念。但是如果我們指的是馮諾依曼自己說(shuō)的馮諾依曼機(jī),我覺得至少很多類腦芯片不一定就跳出他的范疇。

大家可能并不一定會(huì)看最原始的文件,看了第五手、第六手資料,可能理解和原作者就會(huì)有所偏差。但是我覺得馮諾依曼的理解,對(duì)于馮諾依曼機(jī)的理解應(yīng)該跟絕大部分的人想象的會(huì)不太一樣。

雷鋒網(wǎng)報(bào)道。

相關(guān)文章:

人大文繼榮教授:形散而神不散的“北京學(xué)派”決定了一個(gè)小目標(biāo)

北大張平文院士:北大數(shù)學(xué)系的天才不是培養(yǎng)出來(lái)的,而是保護(hù)出來(lái)的

打造世界AI研究的中心?黃鐵軍:北京有資源,北京有責(zé)任,北京有希望

雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

中科院計(jì)算所陳云霽:深度學(xué)習(xí)芯片剩下的只是工程問題,我們要起航探索新方向

分享:
相關(guān)文章
當(dāng)月熱門文章
最新文章
請(qǐng)?zhí)顚懮暾?qǐng)人資料
姓名
電話
郵箱
微信號(hào)
作品鏈接
個(gè)人簡(jiǎn)介
為了您的賬戶安全,請(qǐng)驗(yàn)證郵箱
您的郵箱還未驗(yàn)證,完成可獲20積分喲!
請(qǐng)驗(yàn)證您的郵箱
立即驗(yàn)證
完善賬號(hào)信息
您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說(shuō)